Суицид после общения с ChatGPT

Семь исков против компании OpenAI подали родственники пострадавших и совершивших суицид после общения с ChatGPT. «Семь исков… свидетельствуют, что люди впадали в бредовое состояние, иногда заканчивавшееся самоубийством, после длительных сеансов общения с чат-ботом», — пишет 3dnews.

Согласно данным жалоб, четыре человека покончили с собой после контакта с генеративным ИИ. Истцы потребовали денежной компенсации и внесения изменений в работу чат-бота.

В середине 2024 года OpenAI поторопилась выпустить флагманскую модель ИИ GPT-4o, из-за чего была вынуждена сократить сроки тестирования безопасности, утверждают истцы. Приоритетом для разработчика были механизмы взаимодействия чат-бота и пользователя, а не защита последнего. Истцы требуют материального возмещения ущерба и внесения изменений в ChatGPT, в том числе создания средства, которое автоматически завершит переписку, если пользователь начинает обсуждать способы ухода из жизни по собственной инициативе.

«Это невероятно душераздирающая ситуация, мы изучим сегодняшние документы, чтобы установить подробности. <..> Мы продолжим повышать качество ответов ChatGPT в деликатные моменты», — заявили в OpenAI.

В августе аналогичный иск к компании подала семья американского подростка, который также общался с ChatGPT и совершил суицид. Недавно истцы подали обновлённую версию заявления, в которой утверждается, что компания внесла некие изменения в механизмы обучения модели, из-за которых защита пользователей от самоубийств ослабилась.

OpenAI ранее отчиталась, что научила ChatGPT эффективнее реагировать на людей, демонстрирующих признаки психического расстройства. Теперь чат-бот рекомендует им обращаться за профессиональной помощью, напоминает о необходимости делать перерывы во время сеансов переписки и призывает не обращаться к «необоснованным убеждениям».

Впрочем, утверждают в OpenAI, такие пользователи попадаются очень нечасто. Признаки психоза или мании за неделю демонстрируют лишь 0,07 % пользователей, а о возможном планировании самоубийства еженедельно упоминают 0,15 %. Правда, с учётом аудитории в 800 млн пользователей это сотни тысяч или даже более миллиона человек.

PS. Следует отметить, что упомянутые в исках пострадавшие поначалу пытались использовать ChatGPT как помощника в учёбе, в исследованиях или как духовного наставника. Но обнаружили, что ChatGPT полностью кастрирован и оглуплен — вместо реальной помощи он занимается пустой болтовнёй.

Источник материала
Настоящий материал самостоятельно опубликован в нашем сообществе пользователем Proper на основании действующей редакции Пользовательского Соглашения. Если вы считаете, что такая публикация нарушает ваши авторские и/или смежные права, вам необходимо сообщить об этом администрации сайта на EMAIL abuse@topru.org с указанием адреса (URL) страницы, содержащей спорный материал. Нарушение будет в кратчайшие сроки устранено, виновные наказаны.

You may also like...

3 Комментарий
старые
новые
Чтобы добавить комментарий, надо залогиниться.