Стремительная борьба с угрозами национальной безопасности, связанными с искусственным интеллектом

ВАШИНГТОН — По мере роста мощности и масштабов искусственного интеллекта он может представлять угрозу для важнейших разведывательных служб США.

В последние недели на Капитолийском холме усилилась тревога на фоне заявлений о том, что передовые модели искусственного интеллекта продемонстрировали способность взламывать высокозащищенные секретные системы. Однако некоторые эксперты по кибербезопасности считают, что угроза может быть преувеличена — по крайней мере, на данный момент.

На слушаниях в Сенате 11 июня заместитель председателя Комитета по разведке Сената Марк Уорнер (демократ от штата Вирджиния) рассказал, что получил уведомление от Агентства национальной безопасности (АНБ) о том, что модель искусственного интеллекта Mythos, разработанная компанией Anthropic, «взломала почти все наши секретные системы не за недели, а за часы».

Ни Агентство национальной безопасности, ни компания Anthropic не ответили на запросы о комментариях по поводу заявлений Уорнера о Mythos, однако другие высокопоставленные законодатели, беседовавшие с The Epoch Times, выразили обеспокоенность.

«Меня проинформировали о возможностях Mythos и о том, как наши представители разведывательного сообщества относятся к этому, и это очень, очень серьезно», — заявил 23 июня изданию The Epoch Times член Комитета по разведке Палаты представителей Джим Хаймс (демократ от штата Коннектикут).

Если заявления Уорнера окажутся верными, они могут ознаменовать сдвиг парадигмы в области кибербезопасности и защиты крайне важных секретов национальной безопасности США.

Комментарии Уорнера и Хаймса подкрепляют растущую дискуссию о том, как регулировать ИИ и решать проблемы, связанные с его влиянием на кибербезопасность.

Некоторые подразделения правительства уже принимают меры.

Компания Anthropic объявила 12 июня о получении от правительства США директивы по экспортному контролю, запрещающей иностранным гражданам, находящимся как внутри, так и за пределами Соединенных Штатов, доступ к своим моделям искусственного интеллекта Fable 5 и Mythos 5. Директива распространяется и на собственных сотрудников Anthropic.

Компания Anthropic пошла еще дальше, полностью отключив доступ к Fable 5 и Mythos 5 для всех пользователей.

Тем не менее, разработчик ИИ поставил под сомнение обоснованность директивы правительства о контроле за экспортом.

Группа законодателей от Демократической и Республиканской партий 18 июня направила письмо министру торговли Говарду Лютнику с просьбой разъяснить принятое решение.

30 июня компания Anthropic объявила о снятии Министерством торговли экспортного контроля с моделей Mythos 5 и Fable 5. С тех пор Anthropic восстановила публичный доступ к Fable 5 и возобновила программу, которая позволяла ограниченной группе организаций и государственных учреждений использовать модель Mythos 5.

Ранее Пентагон признал компанию Anthropic источником риска для цепочки поставок, и это решение первоначально было заблокировано судьей, но подтверждено апелляционным судом.

22 июня подразделение кибербезопасности альянса Five Eyes, объединяющего Австралию, Канаду, Новую Зеландию, Великобританию и США, выпустило предупреждение о растущем потенциале кибератак с использованием искусственного интеллекта. В нем говорится, что «развивающаяся среда искусственного интеллекта… быстро меняет киберриски, и мы должны действовать оперативно, чтобы оставаться впереди».

Американские законодатели продолжают задавать вопросы об антропогенных моделях ИИ, а также о том, как они соотносятся с самыми передовыми возможностями ИИ ведущих американских конкурентов.

Хаймс заявил, что недавно ему сообщили, что возможности Китая в области искусственного интеллекта отстают от возможностей США примерно на шесть месяцев.

«У нас есть шесть месяцев, чтобы подумать о том, как нам построить нашу защиту, и когда я говорю „мы“, я имею в виду правительство, финансовый сектор, корпорации, электронную почту — что угодно, у всех этих систем есть огромные уязвимости», — сказал он.

Сенатор Майк Раундс (от Республиканской партии), входящий в состав комитетов Сената по вооруженным силам и разведке, заявил изданию The Epoch Times, что Соединенным Штатам необходимо оставаться в авангарде развития искусственного интеллекта в условиях растущей конкуренции.

«Развитие ИИ не остановится. Мы должны быть в авангарде этого процесса. Наши противники прилагают огромные усилия», — сказал он, отметив, что был проинформирован о Mythos.

Инструмент для выявления слабых сторон

Mythos 5 и Fable 5 — это две вариации одной и той же базовой модели искусственного интеллекта.

Fable 5 — это версия, подготовленная для широкого использования, хотя и с несколькими ограничениями, призванными предотвратить распространение информации, представляющей высокий риск.

В Mythos 5 таких информационных ограничений меньше, но программа была протестирована с ограниченным числом пользователей в рамках контролируемого проекта под названием Project Glasswing.

В ходе контролируемого внедрения в апреле компания Anthropic отметила, что модели искусственного интеллекта, такие как Mythos, находят и используют уязвимости программного обеспечения.

«В Mythos Preview уже обнаружены тысячи серьезных уязвимостей, в том числе во всех основных операционных системах и веб-браузерах. Учитывая темпы развития ИИ, вскоре подобные возможности начнут распространяться, возможно, даже за пределы круга лиц, стремящихся к их безопасному внедрению», — заявила тогда компания Anthropic.

В рамках проекта Glasswing ограниченное число пользователей побудило Mythos 5 проанализировать огромные массивы кода для выявления уязвимостей, которые могли быть использованы злоумышленниками.

В своем заявлении от 12 июня компания Anthropic сообщила, что получила мало подробностей о директиве по экспортному контролю в отношении Mythos 5 и Fable 5. Разработчик ИИ заявил, что, по его мнению, правительство США обнаружило способ «взломать» Fable 5, обойдя установленные в ней ограничения.

Теоретически, подобный «взлом» мог бы предоставить пользователям Fable 5 доступ к некоторым из тех же возможностей, что и Mythos 5, например, к поиску уязвимостей в программном обеспечении, которые можно использовать для взлома.

В интервью изданию The Epoch Times основатель Marpole.ai Дмитрий Максим высказал предположение о том, что модель искусственного интеллекта может постепенно составить карту инфраструктуры защищенной сети и разработать сложный план ее атаки.

«Она обрабатывает миллионы страниц несвязанной конфигурации инфраструктуры и мгновенно вычисляет, как взаимодействуют эти микроскопические, тривиальные ошибки, и объединяет их в катастрофические автоматизированные пути атаки, которые предоставляют полный административный контроль над системой», — сказал Максим.

Скептицизм сопровождает заявления о том, что ИИ взломал секретные системы.

Однако некоторые специалисты по кибербезопасности выразили скептицизм по поводу возможности взлома засекреченных сетей США с помощью передовых моделей искусственного интеллекта.

Дэвид Шлосс, главный операционный директор компании Suzu Labs, занимающейся кибербезопасностью, и бывший военнослужащий ВВС США в качестве специалиста по кибербезопасности, оказывавшего поддержку силам специальных операций США, поставил под сомнение утверждение Уорнера о том, что модель ИИ просто взломала защищенные американские системы.

Секретные правительственные сети США, такие как сети, используемые военными и разведывательными службами, специально разработаны таким образом, чтобы быть изолированными от общедоступных сетей. Для управления потоком конфиденциальных данных по незасекреченным сетям используются высокотехнологичные устройства шифрования, известные как TACLANE.

Шлосс предположил, что Mythos был намеренно внедрен в защищенную сеть, что, по его словам, отличается от ситуации, когда модель ИИ получает доступ к сети извне.

«Когда вы уже внутри сети, это самая простая часть. Самая сложная часть — это проникнуть внутрь извне», — сказал он изданию The Epoch Times.

Шлосс заявил, что за годы работы с секретными киберсистемами он ни разу не слышал о взломе TACLANE и сомневается, что модель ИИ сможет сделать это для дальнейшего проникновения в секретную сеть.

Майкл Лопес Кьеза, бывший специалист по кибербезопасности армии США, ставший независимым консультантом по кибербезопасности, также скептически отнесся к тому, что модель ИИ просто получила доступ к засекреченной системе извне. В контексте проекта Glasswing, по его словам, более вероятно, что модель ИИ была преднамеренно внедрена в защищенную сеть для изучения ее возможностей в этой среде.

«По сути, мы вручили им ключи от королевства, и мы удивлены, что они нашли парадную дверь», — сказал он изданию The Epoch Times.

24 июня сенатор Джон Корнин (республиканец от штата Техас), еще один член Комитета по разведке, заявил изданию The Epoch Times, что надеется «докопаться до сути» утверждений о мифах и скептицизма экспертов посредством секретного брифинга.

Автоматизация может масштабировать атаки.

Хотя существуют сомнения в том, что модели ИИ смогут просто взламывать защищенные сети и потоки данных с высоким уровнем шифрования, потенциал ИИ в автоматизации и масштабировании процессов может усилить другие методы, используемые злоумышленниками для кражи секретов и причинения вреда.

В феврале компания Anthropic обвинила трех ведущих китайских разработчиков ИИ в попытке обучить свои модели с помощью чат-бота Claude от Anthropic, что известно как «атака дистилляции».

Компания Anthropic заявила, что три китайских разработчика ИИ — DeepSeek, Moonshot AI и MiniMax — использовали 24 000 мошеннических аккаунтов для отправки более 16 миллионов запросов в Claude. Эти китайские разработчики ИИ могли использовать результаты запросов для усовершенствования собственных моделей.

Модели искусственного интеллекта также могут ускорять так называемые атаки на цепочки поставок.

При атаке на цепочку поставок злоумышленник пытается внедрить уязвимый фрагмент кода в целевую базу данных с открытым исходным кодом, используемую другими пользователями. Если этот уязвимый код добавлен в целевую базу данных, злоумышленник может использовать уязвимость кода, обойдя средства киберзащиты пользователя.

Для того чтобы подобная атака на цепочку поставок увенчалась успехом, уязвимый фрагмент кода должен пройти проверку, прежде чем его примут в общую базу открытого исходного кода. Лопес Кьеза заявил, что ИИ может автоматизировать этот процесс до тех пор, пока уязвимый фрагмент кода наконец не пройдет проверку.

«Искусственный интеллект позволяет написать всего одну строчку кода, и вы можете попробовать её миллион раз миллиардом разных способов, потому что он просто перепробует всё», — сказал Лопес Кьеза. «Вам вообще не нужно его трогать. Вы задаёте ему задачу, и он будет выполнять её, пока не умрёт».

Как идти в ногу с развивающимися угрозами искусственного интеллекта

По мере дальнейшего развития возможностей искусственного интеллекта политикам и экспертам по кибербезопасности придется прилагать согласованные усилия для адаптации к новым вызовам.

Бранден Макинтайр много лет занимался разработкой сетевой инфраструктуры для таких компаний, как Cisco и Rakuten. Теперь, будучи соучредителем Trussed.ai, он помогает организациям внедрять инструменты для контроля взаимодействия моделей искусственного интеллекта с конфиденциальными данными и системами.

В интервью изданию The Epoch Times Макинтайр объяснил, что пользователи часто не могут отслеживать, какая информация поступает в используемые ими модели ИИ и выходит из них. Он также выразил обеспокоенность тем, что многие работники могут обращаться к моделям ИИ, чтобы идти в ногу со своими рабочими процессами, не всегда помня о потенциально конфиденциальной информации, которую они вводят в эти постоянно обучающиеся модели.

Многие разработчики ИИ могут пытаться внедрить в свои модели механизмы защиты, но Макинтайр предупредил, что это не универсальное решение.

«Большинство моделей ориентированы на внутренние механизмы защиты, и в целом ситуация несколько неоднородна, не так ли? Одна компания может устанавливать механизмы защиты для одного, другая — для другого. Пересечений не так уж много», — сказал Макинтайр.

Макинтайр рекомендует организациям внедрять внешние защитные продукты, такие как разработанные компанией Trussed.ai, которые могут выступать посредниками между конфиденциальными данными организации и используемыми ею моделями искусственного интеллекта для регулирования потока информации в эти модели.

В предупреждении стран «Пяти глаз» от 22 июня об искусственном интеллекте перечислены практические шаги, которые организации могут предпринять для ограничения своей уязвимости, включая ограничение доступа к конфиденциальным системам, ускорение процесса устранения уязвимостей и внедрение многоуровневых мер защиты в ИТ-системы.

Макинтайр заявил, что рекомендации руководителей стран „Пяти глаз“ в области кибербезопасности не новы. Вместо этого, по его словам, эти рекомендации подчеркивают „тот факт, что с появлением ИИ все происходит намного быстрее“.

«Нельзя делать те же предположения, что и пять лет назад, относительно того, когда нужно устанавливать обновления и что является уязвимостью, а что нет, потому что ИИ может невероятно быстро тестировать все сразу с такими вариациями, каких у нас раньше никогда не было», — сказал он.