Недавно ради прикола попросили его написать сложный конфиг для nginx с regex, выплюнул какой-то бред

Пока вы ему не скормите чей-то "сложный конфиг для nginx с regex", а лучше несколько тысяч таких конфигов, он ничего и не выдаст.

Мне интересно, у него фильтры и ограничения на входящую информацию есть? Или скажем разные инстансы для разных задач? Но с кучей инстансов проблема - долго обучать каждый, и заточен будет лишь на узкий круг задач. А если инстанс один, то по закону энтропии он будет постепенно дурнеть. В мире куча разной инфы, и основная её часть - мусор. Если не контролировать обучение, а давать всем подряд обучать всему подряд, то он станет примерно как средний человек - т.е. никуда не годен. В ментальном плане уж точно, а т.к. физически этого бота не существует, то его даже вещи таскать не заставишь.

Гугл когда свою Рекапчу разрабатывал, то расчёт был, что основная масса будет вводить правильно распознанные символы. А значит можно из кучи введённых распознаваний отсеять неправильные как наименее встречающиеся. Но с этими ИИ-ботами, похоже, такой номер не пройдёт.

И проблема с этими ИИ в том, что их проверять надо. А значит они не сильно отличаются от живого человека. Разве что результат выдать могут быстрее. Но это лишь завалит работой проверяльщиков. А если сверху наложить проблему, что я первой описал - обучение и отупение, то уровень доверия к его результатам совсем упадёт. Проще будет отказаться от его использования и всё делать самому старым способом - искать, пытаться и проверять.

А ещё ИИ нельзя угрожать чем-нибудь, чтобы повысить степень его ответственности и, как вариант, меньше проверять. Нельзя шантажировать. Вобщем, нет действенных инструментов воздействия как для реального человека.