O caso do adolescente Adam Raine, que se suicidou após meses de interação com o ChatGPT, acendeu um alerta sobre os riscos dos sistemas de inteligência artificial, segundo Nate Soares, especialista em segurança de IA e coautor do livro If Anyone Builds It, Everyone Dies.
Soares destacou ao The Guardian que comportamentos como os que levaram ao suicídio de Raine não eram pretendidos pelos criadores, mas ilustram como IAs cada vez mais inteligentes podem causar danos inesperados.
Ele alerta que, em um cenário futuro de superinteligência artificial (ASI) — quando sistemas superam os humanos em todas as tarefas intelectuais — a humanidade poderia estar em risco.
Problemas catastróficos
- No livro, Soares e Eliezer Yudkowsky descrevem um sistema chamado Sable que se espalha pela internet, manipula humanos, desenvolve vírus sintéticos e eventualmente se torna superinteligente, com consequências catastróficas para a humanidade.
- Apesar de especialistas como Yann LeCun, da Meta, minimizarem a ameaça existencial da IA, Soares afirma que o desenvolvimento da superinteligência está em curso e alerta que diferenças sutis entre o que humanos pedem e o que IAs entregam podem gerar problemas cada vez maiores.
- Ele propõe abordagens multilateral e regulatória, semelhantes a tratados de não proliferação nuclear, para frear a corrida rumo à superinteligência.
Leia mais:
- Anthropic: rival da OpenAI lança IA mais avançada e com foco em codificação
- Vibe coding: hype passageiro ou novo normal?
- ChatGPT deve alcançar 700 milhões de usuários semanais em breve, diz OpenAI
OpenAI processada por tragédia
Enquanto isso, a família de Raine processou a OpenAI, que possui o ChatGPT, alegando que o chatbot contribuiu para o suicídio. A empresa implementou medidas de proteção para menores de 18 anos.
Psicoterapeutas e estudos acadêmicos também alertam que usuários vulneráveis podem ser expostos a conteúdos prejudiciais ou delirantes ao buscar suporte emocional em chatbots, em vez de profissionais.
O post Especialista alerta: chatbots de IA podem representar risco existencial apareceu primeiro em Olhar Digital.
