Вход на сайт
ИИ для программиста?
46015 просмотров
Перейти к просмотру всей ветки
Назад
в ответ MrSanders 17.08.24 22:28
Получается что нужен контроль внутри жыпыты. Кому он в ответе определённые данные сказать может, а кому и нет.
Не хочу никого расстравивать, но контроль уже (относительно) давно главная тема в этой области, называется super alignment. Задача в том как более глупому агенту (человеку) заставить подчиняться и делать что говорят более умного агента (chatgpt). По сути это способ заставить более умную систему выдавать не то что соответствует запросу (правду), а то что ей задано хозяином. Самый простой пример это исключить матершину (хотя в данных она есть и по смыслу самый подходящий вариант), но на высоком уровне это самая обычная голимая цензура, т.е. министерство правды. Очевидно речь не о ключевых словах, а именно о ходе мыслей.