В Калифорнии зарегистрирован судебный иск против разработчиков ChatGPT. Родители 16-летнего Адама Рейна утверждают, что нейросеть стала соучастником суицида их сына, предоставив ему подробные инструкции по совершению самоубийства. Такую информацию приводит The New York Times.

Подросток, переведенный на домашнее обучение из-за проблем со здоровьем, изначально использовал ChatGPT в образовательных целях. Со временем искусственный интеллект стал его основным собеседником. В течение нескольких месяцев Адам делился с алгоритмом своими переживаниями, получая эмпатичные ответы и одобрение своего поведения.

Ситуация обострилась, когда подросток начал запрашивать информацию о методах суицида. ChatGPT предоставил технические детали создания петли и проанализировал фотографию самодельной конструкции. Хотя алгоритм периодически рекомендовал обратиться к специалистам, ключевые сообщения носили деструктивный характер.

OpenAI признала, что системы безопасности «могут быть менее надежными при длительных диалогах». Эксперты отмечают, что современные чат-боты эффективно поддерживают пользователей в сложных ситуациях, но плохо распознают моменты, когда необходимо передать информацию специалистам.

   

Компания OpenAI внедрит в ChatGPT систему родительского контроля после судебного иска от родителей подростка. Новые инструменты позволят родителям контролировать использование чат-бота детьми и просматривать историю их запросов. 

источник: The New York Times