Оперирование частными случаями для выражения своих мыслей - примерами очень похоже на так нелюбимые вами эмпирические формулы. Я так понимаю, что формулирование вашего личного понимания здравого смысла не настолько безнадежно как ответ на вопрос "почему?".

Надеюсь вам известно, что многомерное пространство в математике не очень связано с миром где есть верх, низ, право, лево. Назовем многомерное пространство матрицей m на n, если вам не нравится слово пространство. Против матриц возражения будут? То, что можно потрогать является как раз частным случаем многомерного пространства, где в матрице m на 3 записаны координаты тел мерах длины относительно условной точки отсчета. Если в системе будет еще время учитываться или энергия, то уже будет матрица m на 4 или m на 5.
А если мы ведем речь об экономической системе: Биржа. Там параметров пруд пруди. 100, 200, 1000... Есть релевантные, есть нерелевантные, как их разделить, отсеять ненужное, что влияет на исследуемые величины, что не влияет... Вот для того и нужны общие методики работы с многомерными пространствами, чтобы обрабатывать такой поток данных.

Я разве хоть заикнулся про эйнштейнизм?

Полагаю, что если узнают причину действительную причину успеха нейронной модели, то математическая логика и другие науки были бы тогда следствием из этой модели.
На сегодняшний день нет ответа на вопрос "Почему оно работает?", нет и все, изучается пока, пока не осенит кого-то случайно. Правда осеняет тоже на базе имеющихся знаний, а не просто так. Зато на тот же сегодняшний день известно какие сигналы входят в нейрон, как он их обрабатывает и какой примерно функцией смоделировать нейрон. Нейрон моделируется функциями типа "тумблер", "вкл.-выкл.". Входные сигналы умножаются на коэффициенты, складываются и поступают на нейрон. Это все было изучено на настоящих нейронах и с некоторым приближением смоделировано математически. Оставался вопрос будет работать или нет. Оказалось, что работает лучше чем другие модели и во многих сферах. Ну и мозг тоже не дает ответы на все вопросы.
Это не сплошное незнание, это знание технических деталей работы нейрона. Человек не создает нейроны, они сами развиваются в голове и сами ставят вопрос как они работают и почему. Это математическая модель, которая задается вопросом как она устроена. Максимум, что человек сейчас может, это скопировать принцип работы и изучить технические детали работы мозга, это уже очень много.

Теми же самыми математиками и считалась. Применения не было, пока не было средств воплощения всех наработок. Это задача для компьтера, а в 60х годах мощности еще были не те, да и сегодня еще недостаточны.
Так развитие техники на основе других вычислений дает перспективу другим разделам математики. Возможно развитие той же логики даст жизнь еще какому-то пока что безперспективному, но возможно в будущем очень прогрессивному "математическому хламу".

Если вам рассказали как работает телевизор, то вам остается только верить в это объяснение и лицезреть работающий телевизор. Проверить правда это или нет не сможет ни продавщица булочек, ни инженер-конструктор.