По факту времена "garbage in, garbage out" уже прошли, когда накидывали сетку на кучу мусора из интернета и получали неведомо что. Сейчас все уже работает вполне приемлемо. И дело не в сомнениях, а это все измеряется как объективно (их прогоняют через кучу тестов и измеряют выхлоп типа IQ) так и субъектинвые на lmarena. Где-то читал, что сейчас они могут давать правильный ответ даже если в обучающих данных были ошибки. Что у этих системах в мозгах никто не знает и чем дальше тем меньше будут знать. Они просто будут работать с людьми и пытаться повысить какие-то свои KPI.

Я тоже не знаю, что в мозгах у этих ИИ, но вижу, что контент, созданный с помощью ИИ, начинает потихоньку выбешивать людей. ИИ сейчас используют как инструмент для стократного засерания киберпространства по сравнению с ручным засеранием, когда ИИ не было. Скоро всё, созданное ИИ, получит метку, которая будет ассоциироваться с второсортностью и низкокачественностью.

Развитие ИИ видится некой асимптотой, которая всё приближается и приближается к нужному результату, но так и не может его достичь. А без нужного результата оно не сильно нужно. Можно сколько угодно говорить умных слов про прогоны через кучу тестов, писать хайповые новости, как ИИ защищает докторские диссертации и пишет симфонии. Это всё где-то далеко и не факт, что правда. А реальность она вот она - кривые пальцы, "свиные крылышки" и десятки и сотни промптов для создания хоть чего-нибудь вразумительного. И всё равно потом всё проверять надо.