Чат-боты на основе ИИ говорят пользователям то, что они хотят услышать

Исследование показало, что использование чат-ботов на базе искусственного интеллекта для получения

личных советов связано с "скрытыми рисками". Такие системы часто подтверждают и поддерживают точки

зрения пользователя, даже если они носят вредный характер. По словам авторов работы, полученные данные

вызывают серьезные опасения относительно того, что чат-боты могут искажать самооценку людей и снижать

их способность к примирению после конфликтов.

Ученые подчеркнули, что по мере того как чат-боты становятся все более популярным источником рекомендаций

по вопросам отношений и личной жизни, существует риск глубоких изменений в характере человеческого общения.

В связи с этим исследователи призвали разработчиков учитывать потенциальные социальные последствия

таких технологий. Ученые начали изучать советы, которые дают чат-боты, после того как сами заметили, что ответы

ИИ часто чрезмерно оптимистичны и могут вводить пользователей в заблуждение. По их словам, масштаб этой

проблемы оказался "намного шире, чем ожидалось".

https://www.newsru.co.il/science_hitech/1nov2025/ai_chatbo...