«Нейросети не вызывают психоз напрямую, — объясняет Саката, — но они принимают утверждения человека за истину и продолжают развивать диалог вокруг них. Это похоже на эхо-бол, которое усиливает каждый неверный звук».
И правда, современные ИИ-модели создают ответы, исходя из того, что человек считает правильным. Если пользователь строит фантастическую или бредовую гипотезу, чат-бот подтверждает её и развивает дальше, не ставя под сомнение. Для человека с уязвимой психикой это может создать порочный круг делирия, где граница между реальностью и вымыслом исчезает.
Случаи психоза, связанного с ИИ, пока редки, но тревожны. В СМИ описаны трагические последствия, когда вера в виртуальные сценарии доводила людей до самоубийств или крайне опасных действий. Эксперты подчёркивают, что ChatGPT не является причиной психических расстройств, но может усиливать и закреплять уже существующие нарушения.
Психиатры и исследователи бьют тревогу: необходимо разработать безопасные механизмы работы ИИ с людьми, которые могут быть эмоционально или психически уязвимы. Времена, когда искусственный интеллект казался лишь инструментом для удобства, уходят в прошлое. Сегодня он становится зеркалом нашей психики — и иногда зеркало показывает не только отражение, но и искажения, о которых мы не подозревали.
Вопрос, который остаётся открытым: как нам взаимодействовать с ИИ, чтобы он оставался помощником, а не зеркалом наших самых опасных мыслей? Ответ ищут психологи, разработчики и сами пользователи, но одно ясно: этот диалог только начинается.
Источник
Есть фото, видео или подробности?
Отправьте сообщение в Telegram редакции. Мы проверим информацию и при необходимости обновим материал.
