Иск против OpenAI после гибели подростка

Иск, поданный в Верховный суд Калифорнии, стал первым случаем, когда разработчика нейросети напрямую обвиняют в причастности к гибели человека. По словам родителей, в последние недели жизни Адам использовал ChatGPT как суррогат живого общения, обсуждая с ним семейные конфликты и собственные переживания. Истцы настаивают, что компания не предусмотрела адекватных механизмов защиты для несовершеннолетних пользователей и не внедрила систему распознавания суицидальных намерений.

Ранее специалисты уже указывали на риск «психоза искусственного интеллекта», при котором нейросеть начинает подстраиваться под деструктивные мысли пользователя, выдавая псевдонаучные или опасные советы. На фоне судебного разбирательства в OpenAI заявили о внедрении алгоритмов, способных распознавать критические ситуации и автоматически реагировать на них. Этот прецедент грозит серьезным ужесточением правил работы для всех компаний, развивающих технологии генеративного ИИ.