Palantir объявил новую эру в военном сдерживании. Что это означает
Несколько дней назад оборонная ИИ-компания Palantir, ключевой подрядчик Пентагона, который уже проявил себя в войне с Ираном, опубликовала в соцсети Х документ с 22 пунктами о новой роли ИИ в обороне. Документ произвел шумный эффект, так как содержит утверждения о том, что возможности искусственного интеллекта приходят на смену как мягкой силе, так и ядерному сдерживанию. О том, почему манифест ознаменует собой начало новой эры в обороне – в материале «Известий».
О чем манифест
• Манифест, опубликованный 19 апреля на странице Palantir в соцсети X, представляет собой выжимку из книги «Технологическая республика, гибкие убеждения и будущее Запада» генерального директора ИИ-компании Алекса Карпа. Автор прямо заявляет о том, что Силиконовая долина в ответ на предоставленные ей возможности развития обязаны участвовать в обороне государства, а инженеры – новые солдаты. Также он говорит о том, что современный мир продемонстрировал пределы, которых может достичь мягкая сила, и настало время переходить к жесткой силе. Однако здесь речь идет не столько о военных угрозах, столько об усиленном развитии ИИ-технологий на службе у оборонных задач. В манифесте отмечается, что «противники ждать не будут». Помимо этого, необходимо ввести всеобщую мобилизацию и отказ от добровольной службы, однако эту идею связывают с возможностью вступления в войну, если «риск и цену этой войны разделяет весь народ».
• Также подчеркивается ошибочность разоружения Германии и Японии и чрезмерная приверженность последней идеям пацифизма. Так к идее о сильных США автор подвязывает необходимость иметь сильных союзников. При этом Карп отмечает, «что почти столетие мир живет без военного столкновения великих держав. По меньшей мере три поколения — миллиарды людей, их дети, а теперь уже и внуки — никогда не знали мировой войны» (Вторая мировая война завершилась всего 81 год назад – Ред.).
• Обращает на себя внимание и положение о том, что на смену ядерному сдерживанию приходит эпоха сдерживания, основанного на ИИ. А замечание о том, что объявление всех культур равными было ошибкой и одни из них сделали больше, чем другие, наряду с замечанием о необходимости отказаться от инклюзивности и плюрализма, встревожило экспертное сообщество. Ниже – несколько пунктов манифеста.
- Пределы мягкой силы и одних только возвышенных речей обнажились в полной мере. Чтобы свободные и демократические общества побеждали, мало морального обаяния. Нужна жесткая сила. А жесткая сила XXI века будет строиться на программном обеспечении.
- Вопрос не в том, будет ли создано оружие на базе ИИ. Вопрос в том, кто именно его создаст и ради каких целей. Наши противники не станут брать паузу ради театральных споров о допустимости технологий, имеющих критическое значение для армии и национальной безопасности. Они просто пойдут вперед.
- Национальная служба должна стать всеобщим долгом. Нам, как обществу, следует всерьез задуматься об отказе от армии, полностью построенной на добровольцах, и вступать в следующую войну лишь в том случае, если риск и цена этой войны разделяет весь народ.
- Атомный век подходит к концу. Одна эпоха сдерживания — ядерная — завершается, и на ее месте начинается новая эпоха сдерживания, построенная на ИИ.
- Послевоенное обезвреживание Германии и Японии должно быть пересмотрено. Обеззубливание Германии стало чрезмерной реакцией, за последствия которой Европа теперь расплачивается тяжелой ценой. Похожая, во многом демонстративная приверженность японскому пацифизму, если ее сохранят, тоже способна изменить баланс сил в Азии.
- Одни культуры породили по-настоящему жизненно важные достижения, другие так и остались дисфункциональными и регрессивными. Сегодня все культуры объявлены равными. Критика и ценностные суждения поставлены под запрет. Но эта новая догма замазывает простой факт: некоторые культуры — и даже отдельные субкультуры — создали подлинные чудеса. Другие же оказались в лучшем случае посредственными, а в худшем — регрессивными и разрушительными.
- Мы должны сопротивляться дешевому соблазну пустого, выхолощенного плюрализма. Мы — в Америке и шире на Западе — последние полвека отказывались определять национальные культуры во имя инклюзивности. Но инклюзивности во что именно?
Значение манифеста
• Первостепенную важность манифеста обеспечивает личность его автора. Palantir, гендиректором которого является Алекс Карп, это не рядовая ИИ-компания, а основной подрядчик министерства войны США, который привлекался во время операций на Украине, в Венесуэле и Иране. Это смесь программирования, прогностики, инновационного ПО, ИИ и вооружения (подробнее о его специфике мы рассказывали здесь). То, что с радикальными убеждениями в публичном пространстве выступил именно Palantir, позволяет утверждать, что это лишь пробный шар, призванный показать реакцию, а, в случае отсутствия протеста, их претворят в жизнь.
• Документ обозначил совершенно новый подход к обороне. Отказ от мягкой силы и переход к жесткой, переход от ядерного сдерживания к программному вместе позволяют допустить снижение порога применения ядерного оружия и непредсказуемые последствия этого шага. Этому будет способствовать отказ от морально-этических оценок в пользу холодного расчета, даже если это приведет к большим человеческим потерям. В то же время начальный этап военных действий станет менее заметен: будет шире применяться информационная война, кибератака, война дронов. Однако в дальнейшем определенная искусственным интеллектом угроза и реакция на нее без обсуждения допустимости и целесообразности с точки зрения последствий приведет к масштабным кризисам. Облегченный пример такого кризиса, частично спровоцированного подобным ИИ, сегодня можно наблюдать в мире из-за блокады Ормузского пролива.
• В своем манифесте компания также призывает перестать осуждать политиков и публичных людей, в том числе, за ошибки и просчеты, считая, что на смену слабой безошибочности должна прийти жесткая уверенность. Политики и элиты должны перестать ориентироваться на мнение избирателей, а делать то, что считают необходимым. Если же, согласно замыслу Карпа, во главе этих политиков и элит будет стоять владеющая всеми возможностями искусственного интеллекта компания, то сложится феноменальная система, при которой милитаристским государством с всеобщей воинской повинностью и низким порогом начала войны будет управлять частная компания в роли серого кардинала.
• Последние пункты манифеста о разнице культур и отказе от инклюзивности вселяют в американских и европейских экспертов особую тревогу. Такую концепцию уже называют технофашизмом, цифровой диктатурой и примеряют на режим Муссолини. Более того, видна попытка вместо идей демократии «продать» контроль алгоритмов, мобилизацию, военную и технологическую силу. И все это – включая государственную и миграционную безопасность – в руках частной компании, у которой уже заключены договоры со многими правительствами. Так, в британском парламенте эти риски увидели и призывают сократить число контрактов с Palantir.
• Пока мы наблюдаем только начало, пробные броски, да и алгоритмы Palantir еще не совершенны. Однако при отсутствии противодействия эффективность их будет расти. Иной расклад возможен, если по итогам не самой удачной иранской кампании Белый дом решит выставить подрядчиков Пентагона в сфере ИИ виноватыми в не самой громкой и яркой «победе».
