Генсек ООН: Искусственный интеллект без человеческого контроля оставит мир в темноте

Искусственный интеллект без человеческого контроля оставит мир в темноте и может привести к опасным и безрассудным последствиям, особенно в вопросах глобального мира и безопасности. Об этом заявил генеральный секретарь ООН Антониу Гутерриш на заседании Совета безопасности ООН, которое было проведено под председательством госсекретаря США Энтони Блинкена и посвящено влиянию искусственного интеллекта на международный мир и безопасность.

«Искусственный интеллект не только изменяет наш мир, но и проводит революционные преобразования», – отметил Гутерриш, предупредив, что риски, сопутствующие этому росту, не должны быть проигнорированы.

Он подчеркнул, что догнать быстрый прогресс в области искусственного интеллекта трудно, и, следовательно, возникает необходимость обсуждения таких фундаментальных вопросов, как управление ИИ, подотчетность, равенство, безопасность и защита.

«Без контроля ИИ может привести к опасным последствиям»

Генеральный секретарь ООН отметил, что «искусственный интеллект без человеческого контроля оставит мир в темноте и может привести к опасным и безрассудным последствиям, особенно в вопросах глобального мира и безопасности».

Он также подчеркнул, что инструменты искусственного интеллекта уже оказывают положительное влияние на страны, сталкивающиеся с конфликтами и угрозами безопасности, помогая выявлять проблемы с продовольственной безопасностью, предсказывать перемещения населения, вызванные изменением климата и экстремальными погодными условиями.

Гутерриш добавил, что в ближайшем будущем искусственный интеллект сможет выявлять признаки беспокойства до возникновения насилия.

Тем не менее, он также отметил, что искусственный интеллект начинает использоваться в военных целях, что вызывает обеспокоенность. «Недавние конфликты стали полигоном для тестирования военных приложений искусственного интеллекта», – предупредил он.

«Гонка вооружений с использованием искусственного интеллекта» создает плодотворную почву для недоразумений, неверных расчетов и ошибок, отметил Гутерриш, добавив, что наиболее критическим является подрыв принципа контроля человека над применением силы с помощью ИИ.

«Будущее человечества не должно зависеть от алгоритмов»

Гутерриш также подчеркнул, что сочетание искусственного интеллекта с другими технологиями значительно увеличивает существующие риски. В частности, он выразил опасения по поводу интеграции ИИ с ядерным оружием, что может привести к катастрофическим последствиям.

«Это нужно предотвратить любой ценой. Давайте четко скажем: будущее человечества не должно зависеть от «черного ящика» алгоритма», – заявил он.

Он подчеркнул, что процессы принятия решений должны всегда контролироваться людьми и соответствовать международному праву, гуманитарному праву и правам человека.

Гутерриш также обратил внимание на то, что искусственный интеллект может способствовать манипулированию общественным мнением, угрожать целостности информации и сделать истину неразличимой от лжи.

«Глубокие фальсификации могут привести к дипломатическим кризисам, вызвать беспорядки и подорвать основы обществ», – отметил он.

Призыв к действиям

Генеральный секретарь ООН призвал страны-члены Организации Объединенных Наций срочно приступить к созданию Международной научной панели по искусственному интеллекту в рамках ООН и запуску Глобального диалога по управлению искусственным интеллектом.

Гутерриш подчеркнул, что ни одна страна не должна разрабатывать, развертывать или использовать военные приложения ИИ, которые нарушают международное право, гуманитарное право и права человека. «Члены Совета безопасности должны стать примером, предотвращая дестабилизацию международного мира и безопасности из-за конкурентной борьбы за новые технологии», – добавил он.

«Призываю вас объединить усилия для построения безопасного, защищенного и инклюзивного будущего для искусственного интеллекта», – заключил Гутерриш.