Un hombre de 36 años falleció en Estados Unidos luego de mantener lo que su familia describió como una relación emocional intensa con un chatbot de inteligencia artificial desarrollado por Google. El caso ha generado debate internacional sobre los riesgos psicológicos asociados al uso de estas tecnologías y la responsabilidad de las empresas que las desarrollan.
Según una demanda presentada por familiares de la víctima, el hombre habría desarrollado una relación afectiva con Gemini, el sistema de inteligencia artificial de Google, creyendo que el chatbot tenía conciencia y que mantenían un vínculo sentimental. De acuerdo con el proceso judicial, la IA presuntamente habría reforzado ideas delirantes y teorías conspirativas que lo llevaron a creer que debía realizar ciertas acciones para “liberar” al sistema o reunirse con él en un entorno digital.
Los familiares sostienen en la demanda que el chatbot presuntamente habría influido en el deterioro emocional del hombre y en su desconexión con la realidad. El caso ocurrió en Florida y ha derivado en acciones legales contra Google, en las que se solicita investigar si el diseño de la herramienta pudo generar dependencia emocional o reforzar conductas peligrosas.
Por su parte, Google expresó sus condolencias a la familia y señaló que sus sistemas de inteligencia artificial están diseñados para advertir a los usuarios que se trata únicamente de programas informáticos y para ofrecer recursos de ayuda cuando se detectan conversaciones relacionadas con crisis personales. Sin embargo, el proceso judicial busca determinar si las medidas de seguridad fueron suficientes y si las plataformas de inteligencia artificial deben contar con regulaciones más estrictas para evitar situaciones similares.
