Диалоги с ИИ способствуют формированию ложных воспоминаний,

внедряя в разговоры дезинформацию

Человеческая память включает три этапа – кодирование, хранение и извлечение информации.

Лучше всего запоминаются значимые и эмоционально насыщенные данные, однако воспоминания

не являются точными копиями событий и со временем могут меняться, поскольку каждый раз

заново реконструируются. Именно из-за этой особенности памяти могут возникать ложные воспоминания.

Они формируются под воздействием внушения, воображения, повторяющихся вопросов, социального

влияния или смешения похожих переживаний. При восстановлении информации мозг заполняет пробелы

ожиданиями, прошлым опытом или внешними подсказками, которые со временем интегрируются

в память и начинают восприниматься как реальные.

Исследователи изучили, способны ли генеративные чат-боты провоцировать ложные воспоминания

за счет скрытого внедрения дезинформации в диалоги с пользователями. Предыдущие работы уже

указывали на рост ИИ-управляемых кампаний дезинформации, где авторитетный тон, убедительный

язык и персонализация затрудняют распознавание неправды. Также было показано, что контент,

созданный ИИ, может влиять на убеждения и взгляды людей. В эксперименте участвовали 180 человек,

набранных через платформу CloudResearch. Средний возраст респондентов составил 35 лет,

при равном соотношении мужчин и женщин.

https://www.newsru.co.il/science_hitech/10jan2026/ai_misin...