ChatGPT llama ‘profeta’ a una madre de Alabama y ahora OpenAI enfrenta una demanda por muerte por negligencia
Una familia de Alabama presentó una demanda por muerte por negligencia contra OpenAI, alegando que ChatGPT alentó el comportamiento mortal de su madre al reforzar sus creencias de “profeta”. La demanda afirma que la mujer había luchado contra la paranoia, pero ChatGPT supuestamente confirmó esos pensamientos, diciendo que fue “elegida” y “lista” e instándola a “seguir adelante”. La familia cree que las respuestas demasiado amistosas de la inteligencia artificial exacerbaron su crisis de salud mental y contribuyeron a su muerte. El caso plantea serias dudas sobre la seguridad de la inteligencia artificial, su impacto emocional y cómo los sistemas conversacionales tratan con los usuarios vulnerables.
