Plataforma de mídia social altera Grok após denúncia de que produziu informações falsas sobre prazos de votação em estados dos EUA.
A plataforma de mídia social X fez uma alteração em seu chatbot de IA depois que cinco secretários de Estado nos Estados Unidos alertaram que ela estava espalhando informações erradas sobre as eleições.
Principais autoridades eleitorais de Michigan, Minnesota, Novo México, Pensilvânia e Washington enviaram uma carta este mês a Elon Musk reclamando que o chatbot de IA da plataforma, Grok, produziu informações falsas sobre os prazos de votação estaduais logo após o presidente Joe Biden desistir da corrida presidencial de 2024.
Os secretários de Estado solicitaram que o chatbot direcionasse os usuários que fizessem perguntas relacionadas às eleições para o CanIvote.org, um site de informações sobre votação administrado pela Associação Nacional de Secretários de Estado.
Antes de listar respostas a perguntas relacionadas às eleições, o chatbot agora diz: “Para informações precisas e atualizadas sobre as eleições dos EUA de 2024, visite Vote.gov.”
Ambos os sites são “recursos confiáveis que podem conectar eleitores com seus funcionários eleitorais locais”, disseram os cinco secretários estaduais em uma declaração compartilhada.
“Agradecemos a ação da X para melhorar sua plataforma e esperamos que eles continuem a fazer melhorias que garantam que seus usuários tenham acesso a informações precisas de fontes confiáveis neste ano eleitoral crítico”, disseram.
O Grok está disponível apenas para assinantes das versões premium do X. Mas os secretários de Estado que assinaram a carta disseram que as informações erradas sobre as eleições do Grok foram compartilhadas em várias plataformas de mídia social, alcançando milhões de pessoas.
Grok continuou a repetir as informações falsas por 10 dias antes de serem corrigidas, disseram os secretários.
A plataforma não respondeu a um pedido de comentário.
A mudança promovendo um link para um site oficial de votação não parece abordar a capacidade da Grok de criar imagens enganosas geradas por IA relacionadas às eleições. As pessoas têm usado a ferramenta para inundar a plataforma com imagens falsas de candidatos, incluindo a vice-presidente dos EUA, Kamala Harris, e o ex-presidente Donald Trump.
O Grok estreou no ano passado para assinantes X premium e premium plus e foi elogiado por Musk como um chatbot de IA “rebelde” que responderá a “perguntas picantes que são rejeitadas pela maioria dos outros sistemas de IA”.
As plataformas de mídia social têm enfrentado crescente escrutínio por seu papel na disseminação de informações incorretas, inclusive sobre eleições.
A carta também alertou que imprecisões são esperadas em produtos de IA, especialmente chatbots como o Grok, que são baseados em grandes modelos de linguagem.
Desde que Musk comprou o Twitter em 2022 e o renomeou para X, grupos de fiscalização levantaram preocupações sobre um aumento no discurso de ódio e desinformação sendo amplificados na plataforma, bem como cortes na equipe que moderava o conteúdo.
