В США в сентябре усилилась дискуссия о рисках стремительного развития искусственного интеллекта.
Поводом стали предупреждения исследователей ведущих технологических компаний, заявления разработчиков ИИ и новые инициативы по международному и государственному регулированию наиболее мощных систем.
Одним из заметных предупреждений стало заявление исследователя Джейкоба Коксона, ранее работавшего в OpenAI и Anthropic. В сентябре он объявил об уходе из Anthropic, заявив, что конкуренция между разработчиками ИИ может привести к созданию самосовершенствующихся систем. Другой исследователь Anthropic Эван Хубингер заявил, что оценивает вероятность того, что ИИ в течение ближайшего десятилетия приведет к гибели человечества, более чем в 10%.
Глава Anthropic Дарио Амодеи призвал на этом фоне замедлить развитие наиболее мощных систем ИИ.
Отдельное внимание привлек отчет Anthropic о потенциально опасном использовании ее моделей. Компания сообщила о пяти выявленных случаях, в которых ее системы могли использоваться в деятельности, потенциально способной способствовать разработке биологического оружия.
Тема неконтролируемого развития передовых моделей ИИ стала одной из центральных на 81-й сессии Генеральной Ассамблеи ООН в Нью-Йорке. 23 сентября на заседании Совета Безопасности ООН, инициированном Францией, руководители ведущих ИИ-компаний, включая OpenAI и Anthropic, предупредили о рисках потери контроля над искусственным интеллектом.
Таким образом, дискуссия все больше смещается от вопроса о скорости развития ИИ к вопросу о механизмах контроля, которые должны сопровождать этот процесс. В центре внимания остаются человеческий контроль над наиболее чувствительными системами, международные стандарты безопасности и предотвращение опасного использования ИИ.
Об угрозах, которые неконтролируемая разработка продвинутых моделей ИИ может создать для национальной безопасности государств и обществ, рассказал «Анадолу» доцент Технического университета Бурсы Али Бурак Дарыджылы.
Эксперт отметил, что рассматривает проблему прежде всего не через сам искусственный интеллект, а через возможности, которые эта технология дает государствам и негосударственным субъектам.
По его словам, ИИ не устраняет существующие угрозы безопасности, а увеличивает их масштаб, скорость и воздействие. «Если смотреть с точки зрения разведки, анализ огромных объемов данных из открытых источников в короткие сроки, установление связей между людьми и организациями, выявление моделей поведения и создание профилей целей теперь становятся гораздо проще», — рассказал Дарыджылы.
По его словам, некоторые разведывательные операции, которые раньше требовали значительных человеческих ресурсов, времени и технических возможностей, постепенно могут осуществляться с меньшими затратами. Это способно облегчить доступ к определенным возможностям не только государствам, но и террористическим организациям, структурам организованной преступности и другим негосударственным субъектам, добавил он.
«Наряду с этим кибератаки с поддержкой ИИ, дезинформация, дипфейк-контент и адресные операции психологического воздействия образуют важную сферу безопасности. Новизна здесь не только в том, что можно создавать поддельный контент. Возможность одновременно охватывать огромные аудитории, обращаясь к разным людям, может сделать манипуляции гораздо более изощренными», — предостерег эксперт.
По словам Дарыджылы, расширяется и область, которую государства должны защищать.
«Теперь недостаточно охранять только границы, военные объекты или критическую инфраструктуру. Государства также будут вынуждены защищать информационную среду своих обществ, способность общественности отличать реальное от поддельного и надежность процессов принятия решений», — отметил он.
В эпоху ИИ национальная безопасность, по его мнению, будет означать не только защиту физической и цифровой инфраструктуры, но и способность защищать информационное пространство общества, процессы принятия решений и восприятие отдельных людей от внешнего вмешательства.
Дарыджылы считает, что государства, которые не смогут эффективно использовать ИИ и одновременно не разовьют защиту от ИИ-возможностей конкурентов, могут столкнуться с серьезной брешью в национальной безопасности.
Говоря о возможном ослаблении человеческого контроля над ИИ-системами, имеющими доступ к критической инфраструктуре, киберсистемам или информационным сетям, эксперт отметил, что считает более важным риском не сценарий, при котором ИИ обретет собственную волю и выйдет из-под контроля человека, а постепенную передачу алгоритмам права принимать решения под предлогом скорости и эффективности.
«Рост использования ИИ в таких критических областях, как энергосети, финансовые системы, сети связи, военные системы или разведывательный анализ, представляется неизбежным. Однако, чем больше системам передается право принимать и исполнять решения, тем масштабнее будут последствия возможной ошибки», — предупредил он.
Кроме того, данные, на которых обучаются системы ИИ, могут быть ошибочными, неполными или сознательно сманипулированными. Поэтому даже технически корректная работа системы не всегда означает, что она выдаст правильное решение в сфере безопасности.
«С точки зрения международной безопасности я особенно важным считаю кризисные периоды. В условиях, когда государства оценивают военные перемещения, кибероперации или разведывательные индикаторы друг друга с помощью систем ИИ, ложная тревога, неверно классифицированная атака или ошибочная интерпретация намерений другой стороны могут в короткие сроки перерасти в политический или военный кризис», — отметил Дарыджылы.
По словам эксперта, в этих условиях сама скорость становится проблемой безопасности.
«По мере сокращения времени принятия решений с минут до секунд пространство для вмешательства политических властей и людей может сужаться. Поэтому особенно в военных системах, критической инфраструктуре и процессах стратегической разведки крайне важно, чтобы окончательное решение и право на вмешательство оставались за человеком», — подчеркнул он.
Таким образом, то, сколько полномочий будет передано ИИ в критических системах, — это не только технологическое, но и непосредственно связанное с национальной безопасностью решение, считает Дарыджылы.
«Особенно в военной и разведывательной сферах нельзя допускать уровня автономности, при котором человек не может вмешаться. Некоторые из самых опасных кризисов безопасности будущего могут возникнуть не из-за неправильных решений, принятых людьми, а из-за неправильных решений, принятых системами, работающими слишком быстро для человеческого вмешательства», — заявил эксперт.
Отдельно Дарыджылы остановился на растущей конкуренции между государствами в области ИИ и связанных с ней рисках.
По его словам, ИИ уже не является лишь сферой технологической или экономической конкуренции, а все больше становится элементом борьбы за стратегическую власть. Как ранее ядерные, космические технологии, полупроводники и киберпотенциал становились частью соперничества государств, так сегодня аналогичный процесс наблюдается в отношении ИИ.
«Потому что обладание продвинутым ИИ-потенциалом может означать одновременно более сильный разведывательный анализ, более развитый киберпотенциал, более высокую автоматизацию военных систем и экономико-технологическое превосходство. Поэтому ожидать, что великие державы будут рассматривать эту сферу лишь как вопрос коммерческой технологии, нереалистично», — заявил он.
Основная проблема безопасности, по словам Дарыджылы, заключается в возникновении гонки за скоростью и мощностями.
«Когда государства или компании стремятся развивать модели как можно быстрее, чтобы не отстать от конкурентов, может возникать давление на тестирование безопасности и механизмы надзора. Самоограничение одного субъекта может восприниматься как стратегический недостаток из-за мысли, что конкурент не будет соблюдать те же ограничения. Это может создать новую область соперничества, напоминающую классическую дилемму безопасности», — пояснил эксперт.
Он также обратил внимание на то, что значительная часть технологий разрабатывается частными компаниями. Поэтому, по его словам, в будущем отношения между национальной безопасностью государств и данными, вычислительными мощностями и передовыми моделями ИИ, которыми располагают крупные технологические компании, станут одной из важных тем.
При этом эксперт не считает, что решение заключается в остановке развития ИИ или полном ограничении технологической конкуренции. «Это и так нереалистично. Настоящая потребность — четко определить, какие полномочия не могут быть переданы машинам, особенно в военных применениях, критической инфраструктуре, разведывательной деятельности и высокомощных системах ИИ», — резюмировал Дарыджылы.
news_share_descriptionsubscription_contact
contact_the_ombudsman
is_there_an_error_in_this_story
