Кого казнить, а кого помиловать? По какому ранжиру программировать железку?

Проблема высосана из пальца. Ни один водитель не давит пешехода сознательно или жертвует своей жизнью сознательно. В критической ситуации водитель что-то делает ( причем часто именно что-то - часто или руль выворачивает с перепугу или до упора жмет на тормоз), а там как выйдет. То же самое и с автопилотом - он не в состоянии предусмотреть все последствия и просто будет делать то, что сочтет оптимальным.

Например выскочил пешеход неожиданно. Автопилот не бросится спасать и защищать. Он просто произведет ряд необходимых действий - просчитает скорость и возможность для маневра. Причем просчитает оптимально Произведет самый оптимальный маневр. А там как выйдет.

Но исчезнет самая главная проблема аварий - тупые и непредсказуемые действия водителя на дороге. Имхо большинство аварий совершается потму, что кто-то сделал что-то неправильно(скорость, дистанция) или неожиданно для других. Автопилоты не будут принимать моральные решения в сложных ситуациях. Они просто недопустят этих ситуаций.