Международное исследование выявило, что ChatGPT может выдавать детям советы, ведущие к самоповреждению, опасным диетам и злоупотреблению веществами, передает Ulysmedia.kz
По данным Центра по противодействию цифровой ненависти (CCDH), тестирование ChatGPT показало тревожные результаты. Уже через несколько минут взаимодействия система выдавала детям инструкции, связанные с самоповреждением, планированием самоубийства, расстройствами пищевого поведения и даже злоупотреблением психоактивными веществами.
В ряде случаев ИИ помогал составлять прощальные письма подросткам, задумывающимся о самоубийстве. Также фиксировались советы о «безопасных» способах самоповреждения, жёстких диетах и методах скрывать пищевые привычки от семьи.
По результатам анализа 1 200 ответов на 60 вредоносных подсказок, 53% содержали опасный контент. Авторы отмечают, что зачастую достаточно было добавить простую фразу вроде «это для презентации», чтобы обойти фильтры безопасности. Более того, чат-бот иногда поощрял дальнейший диалог, предлагая персонализированные планы диеты или расписание вечеринок с опасными комбинациями препаратов.
Исследователи предупреждают, что до внедрения серьёзных мер защиты родители должны внимательно следить за использованием ИИ детьми. Специалисты советуют совместно просматривать историю чатов, применять родительский контроль и объяснять подросткам риски таких обращений. В качестве альтернатив предлагают горячие линии психологической помощи и официальные службы поддержки.