Вход на сайт
ИИ для программиста?
118026 просмотров
Перейти к просмотру всей ветки
Назад
в ответ AlexNek 2 дня назад, 22:27
могу сказать по секрету, что в текстовых фалов вирусов нет.
Вот как раз для ветки про ИИ это очень сильное утверждение. Безопасность в ИИ как раз и основана на хитрых и ковартных текстах, которые могут либо чего-то сломать либо выудить какой-то секрет. Сама тема очень трендовая и есть длинные руководства и исследования как предохраняться. Самое простое это промпты, которые выуживают чего-то из мозгов LLM. Но сейчас внедряют ИИ-агентов (как замену джунам) так они подключены к разным БД и прочим ресурсам. Но вся пакость в том, что действия определяются тем, как LLM проинтерпретирует тексты. Были уже звоночки. Один раз акая штуковина просто удалила нафиг все. Ей показалось, что так будет лучше. А может кто-то ей помогс помщью текстов понять, что так будет
лучше.