Глава Еврокомиссии пригласит ведущие лаборатории ИИ на встречу для обсуждения рисков

Еврокомиссия пригласит ведущие лаборатории, разрабатывающие модели искусственного интеллекта, на встречу для обсуждения мер, которые необходимо принять в связи с рисками, связанными с ИИ.

Об этом председатель Европейской комиссии Урсула фон дер Ляйен сообщила в ходе ежегодной речи «О положении Союза» (SOTEU) — ключевого политического события, задающего вектор развития всей Европы.

Она обратила внимание на то, что искусственный интеллект стал одной из ключевых технологий с точки зрения экономики и безопасности, и Европа хочет извлечь из этой технологии максимальную пользу для повышения качества жизни и производительности.

Глава Еврокомиссии отметила, что при правильной разработке ИИ может принести человечеству огромную пользу, однако эта мощная технология несет в себе значительные риски.

Полностью использовать потенциал технологии невозможно без устранения связанных с ИИ рисков, подчеркнула она. «По мере роста возможностей наиболее продвинутых моделей ИИ эти риски становятся все более очевидными. Разрабатываемые модели позволят осуществлять кибератаки на уровнях, о возможности которых мы раньше даже не думали», — сказала фон дер Ляйен.

Глава Еврокомиссии указала на то, что опасности, связанные с саморазвивающимися моделями ИИ, становятся все более очевидными. Она отметила, что такие инциденты, как выход ИИ-агентов за пределы заданных для них сред или внедрение ими вредоносного кода в системы, являются первыми признаками возможных рисков.

Руководители компаний, разрабатывающих передовые системы ИИ, также предупреждают о необходимости взять под контроль темпы прогресса саморазвивающихся моделей, отметила фон дер Ляйен. «Если те, кто разрабатывает эту технологию, говорят открыто, мы должны действовать с такой же открытостью», — заявила фон дер Ляйен, подчеркнув критическое значение Закона ЕС об искусственном интеллекте для создания необходимых мер безопасности.

Глава Еврокомиссии отметила, что благодаря этому закону ЕС оказался в положении, позволяющем задавать направление глобальным усилиям по противодействию рискам ИИ.

Фон дер Ляйен сообщила, что ЕС будет расширять сотрудничество с Канадой, Великобританией и другими партнерами, разделяющими аналогичный подход. Она отметила, что стороны будут вести совместную работу в таких областях, как оценка и верификация моделей ИИ, системы раннего предупреждения и безопасность ИИ. «Я приглашу ведущие лаборатории, разрабатывающие наиболее передовые модели искусственного интеллекта, чтобы обсудить, как мы можем поддержать их продолжающуюся работу по контролируемому управлению темпами развития этих моделей», — заявила она.

Глава Еврокомиссии подчеркнула, что Европа должна обладать собственным потенциалом в области ИИ, в частности для защиты национальной безопасности. «Мы должны оставаться в этой гонке, поскольку это критически важно для нашей независимости», — сказала фон дер Ляйен, отметив необходимость значительно увеличить вычислительные мощности Европы.

Фон дер Ляйен сказала, что Европа сможет получить реальную экономическую ценность от искусственного интеллекта путем распространения использования этой технологии в реальной экономике.

По ее словам, необходимо сосредоточиться на использовании искусственного интеллекта на заводах, в больницах, в точном земледелии, в энергосетях, в системах автономного вождения и в оборонной сфере.

Она отметила, что Европа определила здравоохранение, транспорт, агропродовольственный сектор, передовое производство, а также оборону и космос в качестве пяти приоритетных секторов, обладающих высоким потенциалом, а новые инициативы по этим секторам будут объявлены в ноябре.

При этом, по ее словам, искусственный интеллект в сфере здравоохранения не должен заменять врачей, а должен оказывать им поддержку. Фон дер Ляйен добавила, что Европа придерживается такого подхода к искусственному интеллекту, который создает больше ценности и ответственности, отличается более низкой стоимостью, меньшим энергопотреблением и ставит в центр человеческую волю.