Вообще-то, он должен понимать зачем и надо ли ему приготовить кофе - ака "считать именно так

Категорически нет. Я программировал работу лабораторных приборов. Я не понимал и не должен понимать, как прибор и почему показывает эту цифру. Я должен знать только, откуда ее считать и куда переслать.

Люди программируют для медицинских касс сложнейшие формуляры. Но они не должны знать текущее медицинское законодательство, где чёрт ногу сломит. Для этого есть узкоспециализированные специалисты, которые пишут техзадания. Или программа для закалки стальных колес в печи. Сталкивался. Ндцать минут в печи при такой температуре, потом ндцать охлаждение. Почему? А какая нахрен разница? Я чётко выполняю техзадание. Так что программисты отдельно, мухи отдельно.

----

Попробуй обосновать решение принимаемое тренированной нейросетью.

Зачем? Я реально выполняю определенную работу. Часто работа простая, но требует разработки элементарнейшего алгоритма - открыл окно, ответил да на запрос- перешёл туда. Или нет- значит не туда. Нафига мне искусственный интеллект, я описываю реальную рабочую ситуацию, за которую платят деньги. Могу расписать алгоритм- заработал. 😁