Это зависит от алгоритма, который будет в него заложен. И кроме этичности, там еще должно быть много критериев для анализа принимаемого решения.
Типовая задача «Гранд-отель». Будет алгоритм - будет и железо.

Задача типа гранд-отеля - это отвлечённые от жизни математические игры. К этике отношения не имеют.

Не думаю, что возможен какой-то общий "этический" алгоритм. Ибо этика - это не просто свод неких правил, а скорее их интерпретация в зависимости от особенностей человека, принимающего решения. Есть, например, ситуации, когда два разных (хороших) врача поступят по-разному. Например, один даст умереть безнадёжному больному, страдающему от непрерывной боли, а другой - нет. И эти решения будут обусловлены как всем жизненным опытом, так и чертами характера каждого из них. Робот-врач может поступить в рамках единого жёсткого алгоритма только одним определённым образом. С другой стороны, если программа самообучающаяся, то его решения могут адаптироваться... Всё это весьма непросто и всё же реализация этого - лишь вопрос времени.

Задача гранд- отеля даёт возможность апробировать алгоритмы обработки безразмерных баз данных. Причем, алгоритмы универсальные и совершенно не зависят от того, что хранится в этих базах. Этика, как ни крути, это свод норм и правил поведения. На основании этих правил Вы анализируете ситуацию и вырабатывание решение. Вернее, не только на основании этики. В частности, врачам необходимо ещё знать Уголовный кодекс, что бы за эфтаназию потом не сесть на пожизненный срок.

Согласен, что сейчас идёт обсуждение, несколько оторванное от жизни. Но на основании моделирования таких отвлеченных задач разрабатываются вполне реальные алгоритмы. Пример - задача комивояжера. Сплошная теория! Практическое применение - навигатор в автомобиле.

Ну если встать на северный полюс, то южный будет вокруг. Но как это связано с несовершенством электроники? Кстати, Вы когда нибудь слышали про биокомпьютеры? В смысле не Робокопа, а у которых элементарная ячейка ИЛИ-НЕ построена на трех органических молекулах? Соответственно размеры и скорострельность работы - всё идёт на молекулярном уровне. Насколько я помню, эта тема обсуждалась где-то в годах 80-х прошлого столетия.