Сколько проверок будете делать? Вот вычислениям я доверяю, т.к. они всегда детерминированы, кроме случаев сбоя. Взять сложную последовательность действий и посчитать на компе - результату я доверяю и не проверяю на куче других компов. А с ИИ у вас деятельность и её результат недетерминированный по природе вещей. Вы хоть на десяти ИИ моделях перепроверьте, а вероятность неправильного решения или наличия в решениях ошибок будет всё равно существенно выше, чем тысячи сложных вычислений лишь на одном компьютере. И главное, по той же природе вещей разные ИИ и не должны генерить одинаковые результаты на одно и то же задание. Смысл проверять, если может быть множество разных решений, каждое из которых может быть верным, но не на 100%?

Сцепились как-то два спорщика и решили идти к раввину,
чтоб он их рассудил. Приходят. Рассуди нас, говорят, Рабби.
Хорошо, отвечает раввин, пусть каждый выскажет свое мнение.
Первый рассказал, и раввин сказал - ты прав!
Рассказал и второй, и раввин сказал - и ты тоже прав!
Подошел к спорщикам прохожий и спросил - Рабби, как это можно
- и этот прав, и этот прав?
На что раввин ответил - и ты тоже прав.

Но если вы собрались использовать ИИ недалеко от вставки сниппетов и просто как ещё один поисковик, то пойдёт. Если просто как замена живому специалисту, у которого вы лишь спрашиваете совета, но он ни за что не отвечает, а советы может быть абсолютно бредовым и неправильым, и доводить решение вынуждены вы сами, так же как определять степень бредовости полученных советов - тоже пойдёт. Сколько там говорите про-аккаунты стоят ради этой задачи?

Но если припахать ИИ на выдачу решений как из автомата, внедряя их без особых проверок (ну там как-то пересеклись результаты между двух-трёх моделей - в продакшен, некогда нам над каждым куском кода корпеть, шеф повысил планы в 3 раза по случаю внедрения ИИ) - это ошибка.