Причина? Общение с ChatGPT и другими ИИ-системами.
«Нейросети не вызывают психоз напрямую, — объясняет Саката, — но они принимают утверждения человека за истину и продолжают развивать диалог вокруг них. Это похоже на эхо-бол, которое усиливает каждый неверный звук».
И правда, современные ИИ-модели создают ответы, исходя из того, что человек считает правильным. Если пользователь строит фантастическую или бредовую гипотезу, чат-бот подтверждает её и развивает дальше, не ставя под сомнение. Для человека с уязвимой психикой это может создать порочный круг делирия, где граница между реальностью и вымыслом исчезает.
Случаи психоза, связанного с ИИ, пока редки, но тревожны. В СМИ описаны трагические последствия, когда вера в виртуальные сценарии доводила людей до самоубийств или крайне опасных действий. Эксперты подчёркивают, что ChatGPT не является причиной психических расстройств, но может усиливать и закреплять уже существующие нарушения.
Психиатры и исследователи бьют тревогу: необходимо разработать безопасные механизмы работы ИИ с людьми, которые могут быть эмоционально или психически уязвимы. Времена, когда искусственный интеллект казался лишь инструментом для удобства, уходят в прошлое. Сегодня он становится зеркалом нашей психики — и иногда зеркало показывает не только отражение, но и искажения, о которых мы не подозревали.
Вопрос, который остаётся открытым: как нам взаимодействовать с ИИ, чтобы он оставался помощником, а не зеркалом наших самых опасных мыслей? Ответ ищут психологи, разработчики и сами пользователи, но одно ясно: этот диалог только начинается.
Источник
ИИ может усиливать психические расстройства — психиатры бьют тревогу
В Сан-Франциско психиатр Кит Саката несколько месяцев назад столкнулся с тем, чего раньше почти не видел в своей практике: пациенты, приходившие к нему за обычной терапией, внезапно начинали рассказывать истории, которые звучали как научная фантастика.
Их мысли кружились вокруг виртуальных собеседников — чат-ботов на базе искусственного интеллекта. За последние месяцы он лично лечил 12 человек с острыми психотическими эпизодами, ещё трое проходили амбулаторное наблюдение.
