Суицид после общения с ChatGPT
Семь исков против компании OpenAI подали родственники пострадавших и совершивших суицид после общения с ChatGPT. «Семь исков… свидетельствуют, что люди впадали в бредовое состояние, иногда заканчивавшееся самоубийством, после длительных сеансов общения с чат-ботом», — пишет 3dnews.
Согласно данным жалоб, четыре человека покончили с собой после контакта с генеративным ИИ. Истцы потребовали денежной компенсации и внесения изменений в работу чат-бота.
В середине 2024 года OpenAI поторопилась выпустить флагманскую модель ИИ GPT-4o, из-за чего была вынуждена сократить сроки тестирования безопасности, утверждают истцы. Приоритетом для разработчика были механизмы взаимодействия чат-бота и пользователя, а не защита последнего. Истцы требуют материального возмещения ущерба и внесения изменений в ChatGPT, в том числе создания средства, которое автоматически завершит переписку, если пользователь начинает обсуждать способы ухода из жизни по собственной инициативе.
«Это невероятно душераздирающая ситуация, мы изучим сегодняшние документы, чтобы установить подробности. <..> Мы продолжим повышать качество ответов ChatGPT в деликатные моменты», — заявили в OpenAI.
В августе аналогичный иск к компании подала семья американского подростка, который также общался с ChatGPT и совершил суицид. Недавно истцы подали обновлённую версию заявления, в которой утверждается, что компания внесла некие изменения в механизмы обучения модели, из-за которых защита пользователей от самоубийств ослабилась.
OpenAI ранее отчиталась, что научила ChatGPT эффективнее реагировать на людей, демонстрирующих признаки психического расстройства. Теперь чат-бот рекомендует им обращаться за профессиональной помощью, напоминает о необходимости делать перерывы во время сеансов переписки и призывает не обращаться к «необоснованным убеждениям».
Впрочем, утверждают в OpenAI, такие пользователи попадаются очень нечасто. Признаки психоза или мании за неделю демонстрируют лишь 0,07 % пользователей, а о возможном планировании самоубийства еженедельно упоминают 0,15 %. Правда, с учётом аудитории в 800 млн пользователей это сотни тысяч или даже более миллиона человек.
PS. Следует отметить, что упомянутые в исках пострадавшие поначалу пытались использовать ChatGPT как помощника в учёбе, в исследованиях или как духовного наставника. Но обнаружили, что ChatGPT полностью кастрирован и оглуплен — вместо реальной помощи он занимается пустой болтовнёй.