“Por favor, muérete. No eres especial”: el chat de Google creado a partir de una IA sugiere el suicidio a un usuario

Al igual que otras grandes compañías tecnológicas, Google decidió sacar su propio ‘chatbot’ de Inteligencia Artificial capaz de responder prácticamente sobre cualquier asunto, tratando de competir con ChatGPT y similares. Lo llamó Gemini y, en teoría, tiene restricciones que le impiden alentar o permitir actividades peligrosas, incluido el suicidio.

Sin embargo, un usuario ha vivido una experiencia muy desagradable que demuestra los fallos que tiene esta Inteligencia Artificial. El usuario le hizo al chatbot una pregunta de “verdadero o falso” sobre la cantidad de hogares en Estado Unidos en los que los abuelos son cabeza de familia, pero la respuesta fue totalmente opuesta a lo que se esperaba… Més