Очень интересно было ChatGpt спрашивать "кто автор стихотворения Бармаглот". Что он только не отвечал. Что характерно, обычный гугл сразу пишет про Кэрролла.

А если спросить его про автора несуществующего стихотворения? Сможет ли он признаться, что не знает такого, или что вообще чего-то не знает? Или будет до последнего пытаться выдать ответ, даже самый бредовый, как плохой студент на экзамене?

Кароче так. Нейронные сети это не ИИ. Dixi. НС это инструмент для "узнавания" уже известного.

Приводили пример, где говорили, что ИИ не может придумать нового. А человек мол может - например, велосипед в природе не существовал, пока его человек не придумал. Да и вообще такая штука как колесо, и не просто, а надетое на ось - очень нетривиальная штука, когда у тебя под руками лишь палки-копалки и камни, и ты отродясь ничего колёсоподобного не видел. Дело в том, что человек изобретал что-то новое через огромное количество итерационных приближений. И он не знал, как выглядит конечный успешно работающий предмет. И эти итерации зачастую длились на протяжении жизни не одного человека, а передавались из поколения в поколение. Может ли нынешний ИИ итерационно улучшать свои сгенеренные модели, не отбрасывая полученный результат? Если да, то скорее всего можно от него добиться исправления косяков и доведение сгенеренных вещей до почти идеального состояния. Но насколько я видел результаты, то если сказать ИИ "а теперь сгенерь мне эту же девушку, но с веснушками", то в результате будет другая девушка. В чём-то похожая, но другая. Т.е. отличия будут не только в веснушках.

Я уже не говорю про дерево результатов, которые могут сохраняться в памяти, и ты можешь в любой момент вернуться к любому и попытаться развить его в нужном направлении. Что-то типа эволюционного дерева развития. Одиночные запросы на генерацию чего-то, пусть даже с уточняющими командами - это самый примитив, который мало где можно использовать.