неожиданные решения, до которых человеку надо было бы додумываться, экспериментировать.

как ни странно так и происходит, не каждый раз, конечно, но довольно часто.

Вы его глюки за "решения" принимаете? Надо работающее решение, а не высер в стиле "сам проверь". Если ИИ подобных задачь не встречал, то и готовых решений скорее всего вам не выдаст. Тогда он начинает галлюцинировать - перебирать комбинации, не заботясь особо об их реализации. Тут он похожь на калейдоскоп - встряхнул, и образовалась картинка. Подойдёт ли она вам - неизвестно. Если не подходит - трясём снова. И так пока не угадаем. Конечно, если точнее спрашивать, то можно трясти не всю картинку, а лишь отдельные части, постепенно уточняя. Но суть всё равно остаётся прежней - трясём наугад, ждём, когда паззл сложится во что-то удобоваримое. Ну или как плохой студент на экзамене, шпарящий ответы по шпорам. Экзаменатор задаёт вопрос чуть в сторону, где надо не подсмотреть готовый ответ, а подумать, и студент начинает нести чушь, т.к. не знает предмета. Так же и ИИ - если готового решения нет, то вы начинаете с ним работать как с этим плохим студентом. Т.е. по сути начинаете ему сами рассказывать, как решить задачу, опускаясь на самый низкий уровень, где вы бы и сами уже справились. ИИ не вырабатывает новых решений и подходов сам, и даже с поводырём в виде "экзаменатора" ведёт себя не лучше плохого студента. Т.е. голова вроде и забита до отказа всякими данными, но они все в куче и толку в них нет, пока вы его по этим данным наводящими вопросами не проведёте.

Т.е. перед вами просто продвинутый поисковик с интерфейсом в виде естественного языка. Поисковики и раньше примерно так работали - у них анализаторы запросов вполне себе были в некотором смысле языковыми моделями.