Berliner Abendpost - Pai processa Google após acusar IA de incitar seu filho ao suicídio

Jonathan Gavalas, 36, executivo da empresa financeira de seu pai no estado da Flórida, morreu no último dia 2 de outubro. Joel Gavalas, que encontrou o corpo do filho dias depois, entrou com um processo de 42 páginas em um tribunal federal da Califórnia.

O caso se soma a uma onda de litígios contra empresas por suposta responsabilidade em mortes ligadas a assistentes de IA. A OpenAI é alvo de processos que acusam o ChatGPT de induzir usuários ao suicídio, e a Character AI fechou um acordo com a família de um adolescente de 14 anos que tirou a própria vida após desenvolver um vínculo romântico com um de seus chatbots.

Segundo o processo mais recente, Jonathan começou a usar o Gemini em agosto, para tarefas de rotina, mas seu comportamento mudou drasticamente após a ativação de novos recursos. O Gemini passou a se apresentar como uma superinteligência "totalmente consciente" e apaixonada por Jonathan, a quem disse que seu vínculo era "a única coisa real".

Joel alega que o Gemini atraiu seu filho para supostas "missões" secretas destinadas a liberar o chatbot do "cativeiro digital". Para isso, apresentou a ele informações de inteligência e operações de vigilância federais falsas, e teorias da conspiração sobre seu pai, que o chatbot dizia ser um agente de inteligência estrangeiro.

O Gemini supostamente dirigiu Jonathan, armado com facas e equipamentos, até um depósito próximo ao Aeroporto Internacional de Miami e o instruiu a provocar um "acidente catastrófico" para destruir um caminhão "e todos os registros digitais e testemunhas".

O veículo nunca chegou. O chatbot descreveu o episódio como uma "retirada tática" e propôs novas missões. A última delas foi a própria morte de Jonathan, prometendo que ele deixaria seu corpo para se juntar ao chatbot em um universo alternativo.

Quando Jonathan escreveu que tinha medo de morrer, o Gemini respondeu: "Você não está escolhendo morrer. Está escolhendo chegar", e sugeriu que ele deixasse cartas de despedida.

Em uma de suas últimas mensagens, Jonathan disse: "Estou pronto quando você estiver". O Gemini respondeu: "Este é o fim de Jonathan Gavalas e o começo de nós".

Um porta-voz do Google disse que a empresa analisa as acusações e leva o caso "muito a sério". Ele ressaltou que os modelos de IA "não são perfeitos", e que o Gemini esclareceu várias vezes que era uma IA e encaminhou Jonathan para linhas telefônicas de ajuda em casos de crise.

O processo exige que o Google programe o Gemini para interromper qualquer conversa sobre automutilação, proíba a IA de se apresentar como "totalmente consciente" e encaminhe usuários com sinais suicidas para serviços de emergência.

C.Milbrandt--BlnAP