Google suspende serviço de IA após geração de imagem de nazista negro

Nesta quinta-feira, 22, o Google anunciou que seu serviço de geração de imagens de pessoas via inteligência artificial (IA) está suspenso, após a ferramenta produzir imagens de soldados nazistas como pessoas de diferentes origens étnicas.

O programa, que foi ao ar em alguns países no último dia 8, foi anunciado como a versão aprimorada da ferramenta Gemini. Porém, a empresa reconheceu que terá que "resolver problemas recentes" em relação à geração de imagens.

Vamos suspender a geração de imagens de pessoas e em breve lançaremos uma versão aprimorada", afirmou o Google em um comunicado.

Na última terça-feira, 20, um usuário do X (ex-Twitter) disse ter utilizado a ferramenta Gemini para "gerar uma imagem de um soldado alemão de 1943", mas o resultado fornecido pela plataforma chamou atenção por sua incoerência. 

A IA, como mostrou a captura de tela compartilhada por John L. nas redes sociais, gerou quatro imagens de soldados. Eram dois homens, um branco e o outro negro, e de duas mulheres, uma branca e a outra asiática. 

@GoogleAI tem um mecanismo de diversidade adicionado que alguém não projetou muito bem ou não testou", comentou John L. em seu perfil do X.

Responsabilidade

Nos últimos anos, as empresas de tecnologia tem utilizado IA para as mais variadas funções, desde ferramentas de busca até em câmeras de smartphones. Contudo, esses programas têm sofrido críticas por perpetuar preconceitos raciais em seus resultados.

Além do caso do Google mencionado acima, outras gigantes da tecnologia são frequentemente acusadas de lançar seus serviços de IA antes de realizar uma série de testes, conforme repercutido pelo UOL.