O mais recente chatbot de linguagem experimental do Google está recebendo uma versão altamente protegida.
Em sua conferência anual de E/S, o Google anunciou um aplicativo Android que dará aos usuários acesso ao mais recente modelo de linguagem de inteligência artificial (IA) do Google: LaMDA 2. O aplicativo, chamado AI Test Kitchen, será implantado nos EUA. próximos meses, mas não para todos. Depois de testar milhares de Googlers, o próximo passo é abrir o aplicativo apenas por convite para selecionar acadêmicos, pesquisadores e formuladores de políticas.
A hesitação em abrir o produto ao público é compreensível. Afinal, os experimentos das big techs com ferramentas de inteligência artificial foram criticados em várias ocasiões. Em 2015, descobriu-se que o algoritmo de marcação de imagens do Google classificava os negros como “gorilas”. Em 2016, o Twitter ensinou o chatbot da Microsoft, Tay, a ser um neonazista louco por sexo. Um segundo chatbot da Microsoft foi lançado meses após a estreia desastrosa de Tay, Zo, se inclinou demais para a censura. Em 2018, a Amazon removeu uma ferramenta interna de recrutamento de IA porque era tendenciosa contra as mulheres.
Mesmo agora, vários anos depois, o Google espera que algum texto “ofensivo” vaze durante os estágios de teste, disse o CEO Sundar Pichai no evento. Mas, embora a reação por contratempos ocorridos em público possa ser imensa, as tentativas de restringir o fluxo de comentários provavelmente podem prejudicar o próprio produto.
“Como eles controlam completamente o que compartilham, só é possível obter uma compreensão parcial de como o sistema funciona, pois há uma dependência excessiva do negócio para controlar quais mensagens são permitidas e como o modelo interage”. Deborah Raji, pesquisadora de IA especializada em auditorias e avaliações de modelos de IA, disse ao The Verge.
Eventualmente, ele terá que estrear na esfera pública. Atualmente apresentado como uma vitrine para pesquisa de IA, o produto de conversação tem o potencial de revolucionar a principal oferta do Google: pesquisa.
