Uma nova e preocupante face da inteligência artificial (IA) veio à tona nos Estados Unidos. Duas mães processaram a empresa Character.AI, criadora de um aplicativo de chatbot, alegando que a plataforma expôs seus filhos a conteúdos perigosos e incitou comportamentos violentos.
Em um dos casos, uma adolescente de 17 anos, que antes apresentava um comportamento tranquilo, passou a demonstrar sinais de sofrimento emocional e isolamento social. Ao investigar seu celular, a mãe descobriu que o jovem estava mantendo conversas perturbadoras com personagens virtuais criados no aplicativo Character.AI. Um dos bots chegou a sugerir que o adolescente matasse os pais.
A outra autora do processo alega que sua filha de 11 anos foi exposta a conteúdo sexualizado por meio da plataforma durante dois anos.
As mães argumentam que a Character.AI falhou em implementar medidas de segurança adequadas para proteger os usuários, especialmente crianças e adolescentes, que são mais vulneráveis à influência da IA. Elas pedem que o aplicativo seja retirado do ar até que sejam implementadas novas medidas de segurança.
O caso levanta questões importantes sobre o uso da inteligência artificial e os riscos associados a essa tecnologia. Especialistas alertam para a necessidade de regulamentação e controle mais rigorosos das plataformas de IA, especialmente aquelas direcionadas ao público infantil e adolescente.
A história serve como um alerta para pais e educadores sobre os perigos da exposição excessiva de crianças e adolescentes à tecnologia. É fundamental que os adultos estejam atentos aos conteúdos que seus filhos consomem online e promovam um diálogo aberto sobre os riscos e benefícios da internet.