Na Game Developers Conference desta semana, a Ubisoft ofereceu um possível vislumbre de um futuro cheio de IA para os jogadores. A empresa demonstrou um protótipo no show que usou o microsserviço Ace da Nvidia para produzir “NPCs inteligentes” totalmente dublados com os quais os jogadores podiam interagir falando em um microfone. Apesar de atrair ceticismo online (de mim mesmo incluso), a demo em si nos impressionou quando a colocamos em prática. Tive uma conversa surpreendentemente convincente com um NPC ambientalmente consciente sobre a ética do ecoterrorismo, uma conversa completamente fora do roteiro possibilitada pela IA.
É um dos casos de uso mais fortes que já vimos dessa tecnologia, mas tem uma deficiência surpreendente que até a Ubisoft está tendo dificuldade para resolver: preconceito linguístico.
O preconceito secreto da IA
Na curta demo, assumi o papel de um personagem viajante espacial que se envolve na luta de um grupo de resistência contra uma megacorporação. A demo de três partes me fez conversar com dois personagens diferentes, ambos para os quais a Ubisoft criou longas histórias de fundo e alimentou a ferramenta Ace da Nvidia. Aprendi sobre o mundo da ficção científica conversando com um NPC, perguntando a ele sobre seus camaradas, antes de planejar um assalto perfeito com pensamento criativo.
Após terminar minha demonstração, perguntei a dois funcionários da Ubisoft envolvidos no projeto se havia alguma deficiência na ferramenta que os frustrasse. Embora eles estivessem entusiasmados com a tecnologia em geral, ficou claro, por alguns suspiros profundos, que eles tinham uma longa lista de problemas que ainda precisavam resolver antes que o estúdio adotasse totalmente a tecnologia. A reclamação número um deles é o preconceito inerente presente na língua inglesa, um problema humano que a IA está atualmente herdando por padrão.
Os demoists apontaram dois exemplos específicos que nem sequer me ocorreram durante minha jogada. Em um ponto, pedi a um NPC para me contar sobre o membro menos favorito de sua equipe. Depois de me dizer que amavam todos os membros de sua equipe, eles jogaram um personagem chamado Iron debaixo do ônibus por ser um cara irritadiço. Só havia um problema: Iron não deveria ser um homem.
De acordo com os demoistas, a ferramenta de IA parece associar a palavra “iron” com masculinidade. Assim, ela assume que Iron, o personagem, é homem. Um problema semelhante surge quando o NPC fala sobre uma personagem chamada Bloom, que é mencionada como uma mulher doce e carinhosa. Esse é o problema de Iron acontecendo ao contrário; “Bloom” parece ser interpretado pela máquina como um termo feminino, enxertando um estereótipo maternal em um personagem masculino. Esses exemplos são pequenos, mas abrem a porta para alguns problemas maiores se não forem controlados. Por exemplo, como o diálogo de IA generativa lidará com a raça?
Este não é um problema específico da ferramenta da Nvidia ou da IA em geral; é reflexo de uma nuance fascinante da linguagem. Grandes modelos de linguagem (LLMs) como o usado aqui simplesmente espelham a maneira como os humanos falam com base na massa de dados em que são treinados. Isso significa que é provável que ele adquira alguns hábitos desagradáveis de tempos em tempos, como distribuir estereótipos de gênero. Embora os NPCs da Ubisoft tenham longas histórias de fundo feitas à mão por escritores, eles ainda estão aprendendo com conjuntos de dados de aprendizado de linguagem mais gerais. Empresas de IA como a Convai, que ajudaram a impulsionar a demonstração do Kairos da Nvidia na CES deste ano, admitem que não sabem realmente o conteúdo exato em que esses conjuntos de dados são treinados.
Essa questão só se complica quando se considera o que isso significa para diferentes idiomas. Os desenvolvedores com quem conversei apontaram que a IA generativa é atualmente centrada no inglês. Outros idiomas podem ser radicalmente diferentes, no entanto, o que cria um desafio adicional para aqueles que buscam adotar ferramentas como o Ace. O que é padrão para falantes de inglês pode não fazer sentido em outro. Como você localiza uma máquina que realmente só conhece um idioma?
A Ubisoft e a Nvidia não estão tentando esconder essas deficiências. Os trabalhadores com quem conversei durante a demonstração enfatizaram a importância de colaborar com equipes internas de DEI que podem ajudar a identificar pontos problemáticos e corrigir a escrita que os personagens de IA produzem. Por mais impressionado que eu estivesse por ter um debate filosófico estimulante com um NPC de IA, está claro que essas máquinas ainda precisam de muita ajuda humana para consertar os instintos que acidentalmente instilamos nelas.
Apoie o nosso trabalho ❤️
Se você gostou deste artigo, considere deixar uma gorjeta para nos ajudar a continuar publicando conteúdo de qualidade.
