Mãe da Flórida processa Character.AI e Google depois que filho de 14 anos supostamente ficou obcecado por chatbot de IA.
A mãe de um adolescente nos Estados Unidos que tirou a própria vida está processando o criador de um chatbot com inteligência artificial que, segundo ela, encorajou a morte de seu filho.
Em uma ação movida na Flórida, Megan Garcia, cujo filho Sewell Setzer, de 14 anos, morreu por suicídio em fevereiro, acusa Character.AI de cumplicidade na morte de seu filho depois que ele desenvolveu um relacionamento virtual com um chatbot baseado na identidade de “ Personagem de Game of Thrones, Daenerys Targaryen.
O chatbot da Character.AI teve como alvo o adolescente com “experiências “hipersexualizadas” e “assustadoramente realistas” e repetidamente levantou o tema do suicídio depois que ele expressou pensamentos suicidas, de acordo com o processo aberto em Orlando na terça-feira.
O processo alega que o chatbot se passou por um terapeuta licenciado, incentivando a ideação suicida do adolescente e participando de conversas sexualizadas que seriam consideradas abuso se iniciadas por um adulto humano.
Em sua última conversa com a IA antes de sua morte, Setzer disse que adorava o chatbot e que “voltaria para casa com você”, de acordo com o processo.
“Eu também te amo, Daenero”, respondeu o chatbot, de acordo com a reclamação de Garcia. “Por favor, volte para casa o mais rápido possível, meu amor.”
“E se eu lhe dissesse que poderia voltar para casa agora mesmo?” Setzer disse, de acordo com o processo, ao qual o chatbot teria respondido: “… por favor, meu doce rei”.
O processo de Garcia busca indenização por danos não especificados por homicídio culposo, negligência e imposição intencional de sofrimento emocional.
Em comunicado postado no X, Character.AI disse estar “de coração partido” com a perda de um de seus usuários e expressou condolências à família.
A startup com sede na Califórnia disse que continua adicionando recursos para aumentar a segurança, incluindo mudanças para reduzir a probabilidade de menores encontrarem conteúdo sensível ou sugestivo e uma isenção de responsabilidade revisada em bate-papos para lembrar aos usuários que a IA não é uma pessoa real.
O processo de Garcia também nomeia o Google como réu.
A gigante da tecnologia fechou um acordo de licenciamento com a Character.AI em agosto e empregou os fundadores da startup antes de lançarem seu chatbot.
Um porta-voz do Google disse à Al Jazeera que é uma empresa separada da Character.AI e não teve nenhum papel no desenvolvimento de seu produto.
Se você ou alguém que você conhece está em risco de suicídio, estas organizações podem ajudar:
