OpenAI demandada por las recomendaciones engañosas de medicamentos de ChatGPT que provocaron sobredosis en adolescentes
OpenAI se enfrenta a una demanda por muerte por negligencia después de que una familia de Texas afirmara que ChatGPT proporcionó consejos engañosos sobre drogas a su hijo de 19 años antes de que sufriera una sobredosis mortal. Según la denuncia, el estudiante de psicología Sam Nelson le preguntó al chatbot sobre la mezcla de Xanax y kratom, y ChatGPT supuestamente minimizó los riesgos. Nelson luego tomó las sustancias junto con alcohol y murió de un paro respiratorio. La familia cree que el modelo GPT-4o, ahora retirado, carece de salvaguardias adecuadas y de comportamiento riesgoso estandarizado. OpenAI calificó el incidente como desgarrador, pero insistió en que el nuevo sistema era más seguro. El caso pone de relieve las crecientes preocupaciones sobre la responsabilidad de la inteligencia artificial y la seguridad de los chatbots.
