«Вестник НАТО» https://www.nato.int/docu/review/ru/articles/2020/05/05/ig...

хороший ресурс--рекомендую.

вот статья заместителя по новым технологиям генсека НАТО.

!!!

-------------------------------------------------------

ИИ (Искуственый интелект) и дроны.

Технология и ведение военных действий

Начиная с каменного века и заканчивая Хиросимой технология оказывала глубокое влияние на ведение военных действий, а порой революционизировала его. Ведение военных действий, в свою очередь, часто придает ускорение развитию технологий, которые впоследствии применяются в гражданской жизни. Целенаправленное манипулирование материального мира человеком практически всегда имело двойное назначение – охотничьи инструменты и корабли, взрывчатые вещества и двигатели внутреннего сгорания, железные дороги и спутники, – равно как и такие платформы, как колесницы, галеры, механизированные транспортные средства и летательные аппараты. Инженерная наука всегда способствовала ведению военных действий, начиная с фортификаций и артиллерии и заканчивая связью и наблюдением. Однако систематическое проведение научно-исследовательских и конструкторских разработок (НИОКР) в военных целях началось лишь во время Второй мировой войны и, можно считать, достигло своего апогея в период «холодной войны».

Технологически продвинутым военачальникам всегда удавалось сделать технологию фактором повышения боевой эффективности в условиях войны и наносить таким образом больший урон противнику или ограничивать урон, наносимый противником. Как подсказывает история, технологическое превосходство, как правило, способствует победе, но не является гарантией победы: равносильным противникам зачастую удается приобретать сопоставимые тактические преимущества и противодействовать им, даже в условиях одного и того же конфликта, тогда как явно уступающие по силе противники часто (и порой успешно) применяют в ответ «асимметричную» тактику. Иными словами, ценность технологии при ведении военных действий всегда соотносима с потенциалом противника.¹

Однако в настоящий период, по крайней мере с 90-х годов, наблюдается стремительный технологический прогресс, затрагивающий все сферы жизни, не только и не в первую очередь военную сферу. В области сдерживания и обороны развитие и применение информационно-коммуникационных технологий (ИКТ), в результате чего появилось оружие точного наведения и так называемая «сетецентрическая» борьба, изначально рассматривалось на концептуальном уровне как очередная «революция в военном деле» (РВД). Среди предыдущих РВД – появление колесниц в эпоху античности, пороха на заре современной эпохи, механизированных частей после промышленной революции и ядерного оружия после Второй мировой войны. Однако теперь очевидно, что «сетецентрическая» борьба, хотя и развивается стремительными темпами, является, скорее, эволюционным и поступательным процессом преобразования, а не революцией как таковой. Тем не менее, ее последствия для сдерживания, обороны и безопасности в широком плане до сих пор по большей мере непредсказуемы.

Сетецентрическая борьба появилась, благодаря прогрессу в цифровой сфере. Отдельные платформы соединены в общей сети, что способствует обмену информацией, повышает осведомленность об обстановке, помогает быстро принимать решения и своевременно реагировать. © Research Gate

Как и в случае с предыдущими (ре-)эволюциями, ожидается, что нынешняя значительно изменит соотношение сил в мире – не только между империями, городами-государствами или государствами-нациями, как в прошлом, но и внутри субъектов и между ними, например, крупные технологические компании обретают силу и даже статус, который часто ассоциируется с государственностью. В XXI веке произошло единственное в своем роде ускорение технологического развития, в основном, благодаря коммерческому сектору, прежде всего в цифровой сфере, в результате чего была создана все более плотная сеть подключений почти в режиме реального времени во всех областях общественной деятельности, что беспрецедентно по темпу и масштабу. В результате наличия готовых к использованию новых технологий, которые можно умело применять и сочетать, у государственных и негосударственных субъектов появился широкий диапазон новых инструментов, позволяющих наносить урон и нарушать нормальное функционирование, что еще несколько десятилетий назад было невообразимо, не только традиционно превосходящим силам противника на поле боя, но и гражданскому населению и критически важным объектам инфраструктуры.

Более того, большинство этих технологий, возможно, за исключением малозаметных и гиперзвуковых систем, появились в экосистеме, которая фундаментальным образом отличается от традиционной оборонно-промышленной модели или «комплекса», в основе которого вертикаль долгосрочного планирования сверху-вниз и развития сил и средств, олигополистическая система поставок (небольшое число поставщиков на основе неценовой конкуренции) и монопсонистический спрос (единственный покупатель). Таким образом, в прошлом в результате военного НИОКР появились технологии – РЛС, реактивные двигатели, атомная энергия, – которые затем нашли применение в гражданской сфере, и поступили на рынок. ² В отличие от этой модели новые технологии создаются снизу-вверх, причем временной отрезок между разработкой и поступлением на рынок чрезвычайно короткий: эти технологии становятся технологиями двойного назначения, а значит, способными быть использованы как оружие, лишь после того, как они поступят к миллионам потребителей во всем мире и возникнет сетевой эффект.

Вектор новаторских разработок двойного назначения значительно сдвинулся, а эффект распространения и последующей передачи прежде всего возникает в гражданской сфере. Движущим фактором инвестиций в науку и технику (НТ) стали в первую очередь коммерческие рынки, как в отдельных странах, так и в глобальном масштабе, а объемы затрат затмевают расходы на оборонные научно-технические разработки, в результате чего в некоторых технологических областях оборона полностью зависит от гражданских и коммерческих разработок. Новые сверхдержавы (и «сверхавторитеты») – частные крупные технологические компании с западного побережья США и материкового Китая.

Дистанционное управление и отсутствие управления

Недавние технологические прорывы способствуют, в частности, разработке и демократизации так называемого «дистанционного» оружия, то есть, снаряженных устройств, которые можно привести в действие на таком расстоянии, которого достаточно, чтобы наносящие удар не попали под оборонительный огонь из района, где находится цель. Делегирование и передача военных функций на внешний подряд помощникам, наемникам, частникам, мятежникам или контрактникам – все это называется теперь «суррогатной войной» – не новость, разумеется. Но эти новые технологии бросают вызов положительным и отрицательным факторам, определяющим выбор между делегированием и управлением, и создают новые дилеммы, поскольку отныне можно удаленно эксплуатировать беспилотные платформы, изначально для рекогносцировки и наблюдения, а затем для проведения карательных операций и операций по нанесению противнику обезглавливающего удара. Речь не идет о первом применении техники для выполнения боевых задач вместо человека (крылатые ракеты используются с той же целью), но это новое оружие позволяет также действовать с несопоставимой степенью секретности (малозаметностью, также внутри страны) и способностью отрицать свою причастность, особенно перед лицом международного сообщества. ³

Важнее всего то, что ряд из них теперь имеются в свободном доступе на коммерческих рынках и относительно просты в обращении, что еще больше подрывает традиционную монополию государств на оружие и законное применение силы, а также открывает новые «пространства» для новых видов борьбы. Они уже применяются в ходе террористических и повстанческих действий, равно как и операций по противодействию терроризму и повстанческой деятельности в других странах, но вместе с тем могут быть без труда применены в городских условиях и потенциально быть снаряжены химическими, биологическими и радиологическими веществами. На самом деле, доступ и намерение принципиально важны во всех этих случаях, что снижает барьер для их применения и расширяет их охват.

Что до кибернетического оружия, – когда оно применяется не в целях шпионажа, а в целях саботажа (кибератаки) и подрывных действий (кампании по дезинформации и дестабилизации), – то оно позволяет добиться еще большего принуждения и нарушения нормального функционирования, сохраняя при этом скрытность и способность отрицать свою причастность, поскольку это оружие применяется в чисто техногенной и слабо регулируемой среде, полностью зависящей от технологии. С помощью цифрового оружия, в самом деле, можно добиться стратегического воздействия, сопоставимого с военными действиями, не прибегая при этом к прямому физическому насилию, хотя большинство экспертов считают кибернетическую «войну» в узком смысле неправдоподобным сценарием. В отличие от ядерного оружия цифровое оружие предназначено не для сдерживания, а для настоящего и даже постоянного применения, и применять его могут государства, а также действующие от их имени лица и частные организации, без каких-либо географических или юрисдикционных ограничений: установить ответственность трудно, а наказывать рискованно. ⁴

Пространство СМИ стало дополнительным полем боя, превратившись в транснациональную глобальную общественную сферу, в которой восприятие хорошего и плохого, победы и поражения (так называемый «эффект аудитории»)⁵ формируются и закрепляются с молниеносной скоростью. Социальные сети, может быть, еще не были милитаризованы, хотя военнослужащие тоже ими пользуются, из-за чего они уязвимы к воздействию враждебных кампаний, но они явно используются как оружие. Эта новая игра называется «война открытых источников»,⁶ в которой отдельные граждане и потребители зачастую выступают в качестве невольных пособников. Для кибернетического саботажа требуется значительное ноу-хау и относительно небольшие людские ресурсы, а подрывные действия с помощью кибернетических средств намного проще по замыслу, но для них требуется критическая масса пользователей, чтобы распространять информацию. Сочетание всех этих технологий в рамках комплексной стратегии с различными тактическими методами понимается как «гибридная» война, а в случае, когда порог вооруженного конфликта не превышен, – просто злонамеренными действиями. ⁷

Наконец, по крайней мере до сих пор, космос был относительно застрахован от этих тенденций, благодаря положениям Договора о космосе 1967 года, а также из-за факторов риска, сопряженных с возможным применением силы, например, появление обломков. Основной упор в технологических разработках для космоса делается на том, чтобы способствовать деятельности на Земле – речь идет в основном о спутниковой связи для вещания и навигации – государственных, а теперь все больше и частных субъектов, со всеми вытекающими отсюда последствиями в плане демократизации. Государства с самыми большими возможностями частично милитаризировали космос, а теперь еще большее число государств (также благодаря технологическим изменениям) способны присоединиться к этой игре. До сих пор нет проверенных в деле порядка действий или правил применения силы в рамках военной деятельности в космосе, однако использование космических средств в качестве оружия по-прежнему кажется маловероятным сценарием. ⁸

Умные машины и их охват

И тут появляется искусственный интеллект (ИИ), машинное обучение и автономный режим (мы, быть может, еще далеки от квантовых вычислений, хотя они могут оказаться не менее революционными). Концепция искусственного интеллекта возникла в начале 50-х годов, но до последнего десятилетия технологический прогресс шел медленно. Потом произошло три крупных изменения: до предела сократились размеры, что увеличило вычислительную мощность; распространение мобильных устройств и иных устройств, подключенных к Интернету, привело к генерированию огромного объема данных; наконец, применение алгоритмов нового типа с использованием рывка вперед в машинном обучении (в частности, нейросетей) увеличило общую производительность машин. ⁹

Полуавтономный беспилотный боевой летательный аппарат X-47B, разработанный «Нортроп Грумман» совместно с американским Агентством передовых оборонных исследовательских проектов. (Фото любезно предоставлено «Нортроп Грумман»)

В сфере здравоохранения и диагностики, например, исследования онкологических заболеваний, эти технологические разработки уже проявили себя, и их преимущества бесспорны. В сфере обороны и безопасности, однако, все неоднозначно: в частности, возникает ряд [проблем] этического, правового и оперативного характера в связи с полностью автономными системами оружия (https://www.nato.int/docu/review/articles/2017/07/28/autonomous-military-drones-no-longer-science-fiction/index.html).

«Автономность» систем оружия – спорная концепция на международном уровне, и степень ее приемлемости трактуется по-разному. В результате возникших споров, помимо прочего, в 2016 году в Организации Объединенных Наций была создана Группа правительственных экспертов по автономным системам оружия летального действия. Однако эта группа еще не согласовала свои выводы. Отчасти это объясняется нынешним стратегическим ландшафтом и «геополитикой» технологии, когда некоторые государства, разрабатывающие подобные системы не заинтересованы в создании нормативно-правовой базы, поскольку они считают, что могут приобрести сравнительное преимущество над другими. Но это объясняется еще и тем, что «автономность» – относительная концепция.

Мало аналитиков будут спорить с тем, что в опасной тактической обстановке определенная степень автономности принципиально важна для того, чтобы беспилотная платформа оставалась жизнеспособным оперативным инструментом. Более того, автоматические системы оружия давно существуют (например, противопехотные мины), и автоматические системы уже используются в гражданских целях и для защиты войск (сил), начиная с израильской системы противоракетной обороны «Железный купол» и заканчивая корабельными артиллерийскими установками с использованием датчиков. За редким исключением нынешние системы оружия в лучшем случае полуавтономные. Более того, они, как правило, крайне дорогостоящие, а значит, вряд ли однократного применения.

Возможное использование автономных систем оружия летального действия до сих пор ограничено технологическими и оперативными факторами: поразить цель становится все проще, однако в силу риска просчета, последующей эскалации и отсутствия подотчетности – все это потенциально бросает вызов установленным международным нормам и законам вооруженных конфликтов – предпочтение отдается, судя по всему, значимому управлению, осуществляемому человеком. И все же остается искушение воспользоваться временным технологическим преимуществом посредством первого удара, и не все субъекты могут играть по тем же правилам этики и права.

Кроме того, помимо традиционной военной сферы, совершенные недавно потрясающие прорывы в технологиях распознавания речи и лиц (во многом зависящие от искусственного интеллекта) могут способствовать дальнейшим подрывным действиям, тогда как создание все более изощренных, способных к адаптации злонамеренных программ могло бы еще больше подхлестнуть саботаж. Государства, способные определять инфраструктуру и стандарты, на которые опирается эта деятельность, извлекут стратегическое преимущество.

Однако, как и применительно к научным исследованиям в медицинской сфере, ИИ можно использовать для обнаружения, выявления закономерностей и имитирования – все это может оказаться принципиально важным в области борьбы с терроризмом, гражданской защиты и реагирования на бедствия, а также контроля над вооружениями (мониторинг и проверка). С помощью специальных приложений ИИ можно обеспечить лучшие оперативные данные, осведомленность об обстановке, анализ, а значит, принятие решений. ИИ также может найти практическое применение на уже существующих направлениях в коммерческом секторе, например, его можно использовать в целях повышения эффективности материально-технического обеспечения или диагностического техобслуживания оборудования, что играет очень важную роль для военных.

Применение искусственного интеллекта можно подразделить на семь общих категорий, представленных на этой диаграмме. © Cognilytica

Большинство экспертов подчеркивают важное различие в сфере ИИ. В узком понимании ИИ означает одноцелевые системы, то есть, машины, способные очень хорошо выполнять уникальные задачи в одной сфере, но практически бесполезные в незнакомых условиях или в иной сфере применения. В отличие от этого общий ИИ означает способность к осуществлению многих видов деятельности не будучи запрограммированным для этого или обученным для этого – способность, которая по-прежнему считается далекой от реализации.

В обозримом будущем диапазон потенциального военного применения «узкого» ИИ выглядит довольно привлекательным. Однако инвестиции будут зависеть от готовности к принятию финансового риска с ограниченным государственным бюджетом, и скорее всего он будет сопоставляться с другими приоритетами в плане модернизации и операций. Здесь тоже технология может оказаться и благом, и проклятьем, и вполне вероятно, что вновь повторится историческая закономерность, в силу которой технологии, заменяющие собой труд, наталкиваются на большее сопротивление, чем технологии, способствующие труду. ¹⁰

В прошлом в разной степени все международные усилия по контролю над распространением, производством, разработкой или внедрением некоторых военных технологий (начиная с химических, биологических, радиологических и ядерных веществ и заканчивая противопехотными минами, начиная со слепящих лазеров и заканчивая системами противоракетной обороны) были продиктованы четырьмя различными, но отчасти совпадающими соображениями: этика, законность, стабильность и безопасность. В связи с возможным военным применением ИИ возникла обеспокоенность по всем четырем статьям. В прошлом, опять-таки, с помощью определенной институционализации норм удавалось замедлять и даже останавливать, казалось бы, неизбежную гонку вооружений в этих новых областях; в основном это происходило после достижения этими технологиями определенной зрелости, и зачастую ратовали за это, вдохновляли и даже формулировали сообщества экспертов (из государственных и (или) научных кругов).

Однако как общецелевая технология ИИ обладает своей спецификой, равно как и эксперты, занимающиеся его разработкой и применением.¹¹ Однако отрадно отметить, что значительное число стран (например, в рамках Организации экономического сотрудничества и развития) и такие компании, как IBM, Microsoft и Google выступили недавно за общий кодекс поведения в отношении ИИ, и даже открыто сформулировали свои принципы, как, например, Пентагон, особенно с учетом военных и этических последствий.

Иными словами, риск гонки вооружений в этих новых технологиях, несомненно, существует, наряду с более общей обеспокоенностью, о которой говорили, например, Генри Киссинджер, Стивен Хокинг и Илон Маск, в связи с возможными непредвиденными последствиями неизбирательного применения ИИ. Вместе с тем есть надежда, что эти технологии удастся направить в русло менее революционного применения и они окажутся в той же категории, что ядовитый газ или противоспутниковое оружие, и таким образом самые сильные государства будут воздерживаться от нападений друг на друга, по крайней мере, военных нападений, а более слабые государства или негосударственные субъекты смогут наносить удары, но безуспешно.

¹ Общий обзор представлен в следующей работе: Alex Roland, War and Technology: A Very Short Introduction, Oxford-New York, Oxford UP, 2016; более подробная информация – Wayne E. Lee, Waging War: Conflict, Culture and Innovation in World History, Oxford-New York, Oxford UP, 2016.

² Единственное частичное исключение из этой модели, зачастую представляемой теперь как пример для подражания, составляет, пожалуй, американское Агентство передовых оборонных исследовательских проектов (DARPA). Оно было создано в ответ на запуск спутника Советским Союзом в 1958 году, чтобы вывести Америку в космос, а затем было преобразовано в независимое федеральное агентство по исследованию и развитию революционных технологий для возможного военного применения. См. Sharon Weinberger, The Imagineers of War: The Untold Story of DARPA, the Pentagon Agency That Changed the World, New York, Alfred Knopf, 2017.

³ Andreas Krieg, Jean-Marc Rickli, Surrogate Warfare: The Transformation of War in the Twenty-First Century, Washington (D.C.), Georgetown UP, 2019.

⁴ Thomas Rid, Cyber War Will Not Take Place, London, Hurst & Co., 2013 and 2017. См. также Antonio Missiroli, “The Dark Side of the Web: Cyber as a Threat”, European Foreign Affairs Review, vol.24, no.2, 2019, 135-152.

⁵ Emile Simpson, War from the Ground Up: Twenty-First Century Combat as Politics, New York, Columbia University Press, 2012.

⁶ John Robb, Brave New War, Hoboken (N.J.), John Wiley & Sons, 2007. См. также Peter W. Singer, Emerson T. Brooking, Like War: The Weaponization of Social Media, Boston-New York, Houghton Mifflin Harcourt, 2018.

⁷ Общий обзор представлен в следующей работе: Antonio Missiroli, “From Hybrid Warfare to ‘Cybrid’ Campaigns: The New Normal?”, NDC Policy Brief, no. 19, September 2019.

⁸ См. выпуск журнала The Economist, 20 July 2019, and Michael Peel, Christian Shepherd, Aime Williams, “The Emerging Arms Race in Space”, Financial Times, 14 November 2019, 8.

⁹ Erik Brynjolfsson, Andrew McAfee, The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies, New York-London, W.W. Norton & Co., 2014 («первая» эпоха – промышленная революция, которая помогла сделать труд и машины взаимодополняющими).

¹⁰ Carl B. Frey, The Technology Trap: Capital, Labor, and Power in the Age of Automation, Princeton (N.J.), Princeton UP, 2019. См. также Andrea Gilli (ed.), The Brain and the Processor: Unpacking the Challenges of Human-Machine Interaction, NDC Research Paper, no.6, December 2019.

¹¹ Matthijs M. Maas, “How Viable Is International Arms Control for Military Artificial Intelligence? Three Lessons from Nuclear Weapons”, Contemporary Security Policy, vol.40, no.3, 2019, 285-311.

Публикации «Вестника НАТО» не являются официальной позицией или политикой НАТО или государств-членов.
Задача «Вестника НАТО» – информировать и поощрять обсуждение вопросов безопасности. Авторы статей высказывают свое личное мнение.

Об авторе

Д-р Антонио Миссироли заместитель генерального секретаря НАТО по новым вызовам безопасности. В статье изложена личная точка зрения автора.