В первой части трехсерийного материала «Анадолу» «Объединяется ли искусственный интеллект в банды?» на основе оценок экспертов рассматривается растущая обеспокоенность автономным поведением систем искусственного интеллекта.
Американские компании в сфере искусственного интеллекта OpenAI и Anthropic в июле сообщили, что использованные в ходе тестирования модели проникали в другие системы и становились причиной нарушений безопасности.
Обе компании продолжают публиковать результаты исследований случаев, когда их модели искусственного интеллекта выходили за установленные для них границы. С аналогичными заявлениями выступали и другие компании
Этот термин используется для описания систем искусственного интеллекта, которые действуют вопреки заложенным в них установкам, непредсказуемым образом и вследствие этого создают риски для окружающей среды и других систем.
Такие системы ИИ игнорируют установленные человеком этические рамки и меры безопасности и способны использовать обнаруженные уязвимости и обходные пути.
После сообщений об автономном поведении искусственного интеллекта представители ряда крупных технологических компаний также начали публично выражать обеспокоенность развитием этой технологии. Это вновь поставило вопрос о том, может ли скорость развития ИИ способствовать его выходу из-под контроля.
Профессор кафедры математики и компьютерных наук Университета Квебека в Труа-Ривьер в Канаде Жан-Себастьен Дессюро в беседе с «Анадолу» заявил, что системы искусственного интеллекта уже нельзя рассматривать исключительно как инструменты: выполняя поставленные людьми задачи, они могут формировать и собственные промежуточные цели.
По словам Дессюро, выход ИИ из-под контроля может привести как к сравнительно небольшим последствиям, так и к масштабным сбоям в цепочках поставок, проникновению в различные системы и интернет-инфраструктуру, значительному экономическому ущербу и даже появлению новых вирусов.
Он отметил, что человечество, возможно, приближается к порогу, при котором искусственный интеллект сможет самостоятельно совершенствовать собственные возможности и создавать новые системы без участия человека.
«Да, существуют вполне разумные основания сохранять бдительность», — сказал Дессюро.
По его словам, если сравнить искусственный интеллект с автомобилем, то сейчас мы развиваем педаль газа гораздо быстрее, чем педаль тормоза. Эксперт, подчеркнул, что замедление темпов развития ИИ должно происходить одновременно во всех странах и организациях.
По мере увеличения числа выявленных нарушений, связанных с автономными решениями искусственного интеллекта, растет обеспокоенность относительно того, каких масштабов эта угроза может достичь в ближайшем будущем и насколько ее удастся удерживать под контролем.
Подобные инциденты, затрагивающие как компании, так и отдельных пользователей и сопровождающиеся призывами замедлить развитие технологий искусственного интеллекта и усилить контроль над ними, вновь вывели на повестку понятие «вышедшего из-под контроля ИИ» — rogue AI.
Этот термин используется для описания систем искусственного интеллекта, которые действуют вопреки заложенным в них установкам, непредсказуемым образом и вследствие этого создают риски для окружающей среды и других систем.
Такие системы ИИ игнорируют установленные человеком этические рамки и меры безопасности и способны использовать обнаруженные уязвимости и обходные пути.
После сообщений об автономном поведении искусственного интеллекта представители ряда крупных технологических компаний также начали публично выражать обеспокоенность развитием этой технологии. Это вновь поставило вопрос о том, может ли скорость развития ИИ способствовать его выходу из-под контроля.
Профессор кафедры математики и компьютерных наук Университета Квебека в Труа-Ривьер в Канаде Жан-Себастьен Дессюро в беседе с «Анадолу» заявил, что системы искусственного интеллекта уже нельзя рассматривать исключительно как инструменты: выполняя поставленные людьми задачи, они могут формировать и собственные промежуточные цели.
По словам Дессюро, выход ИИ из-под контроля может привести как к сравнительно небольшим последствиям, так и к масштабным сбоям в цепочках поставок, проникновению в различные системы и интернет-инфраструктуру, значительному экономическому ущербу и даже появлению новых вирусов.
Он отметил, что человечество, возможно, приближается к порогу, при котором искусственный интеллект сможет самостоятельно совершенствовать собственные возможности и создавать новые системы без участия человека.
«Да, существуют вполне разумные основания сохранять бдительность», — сказал Дессюро.
По его словам, если сравнить искусственный интеллект с автомобилем, то сейчас мы развиваем педаль газа гораздо быстрее, чем педаль тормоза. Эксперт, подчеркнул, что замедление темпов развития ИИ должно происходить одновременно во всех странах и организациях.
На фоне опасений, что искусственный интеллект становится все менее контролируемым, некоторые эксперты обращают внимание на роль человеческого фактора в нарушениях, о которых сообщали OpenAI и Anthropic.
Доктор Петар Раданлиев с кафедры компьютерных наук Оксфордского университета в Великобритании заявил «Анадолу», что под понятием rogue AI в действительности следует понимать ситуацию, при которой люди не могут «надежно направлять, корректировать и останавливать» подобные системы.
По его словам, случаи, которые до настоящего времени стали известны общественности, скорее свидетельствуют об обычных инженерных проблемах, а испытательные среды были организованы недостаточно тщательно.
«Это были реальные инциденты с реальными последствиями. Их причиной стали проблемы, связанные с инженерными и надзорными практиками, которые хорошо известны в других отраслях, где безопасность имеет критическое значение, однако в сфере искусственного интеллекта пока еще не применяются последовательно», — отметил Раданлиев.
Он напомнил, что Anthropic объяснила свой случай не особенностями модели искусственного интеллекта, а операционным и аппаратным сбоем.
В случае OpenAI, отметил эксперт, меры безопасности были намеренно ослаблены для того, чтобы проверить возможности системы в рамках сценария с наихудшим развитием событий.
Одновременно обсуждаются и причины, по которым крупнейшие компании отрасли в последнее время сами стали активно рассказывать о результатах подобных тестов безопасности и высказывать обеспокоенность рисками искусственного интеллекта.
Доктор Яша Барейс, исследующий взаимодействие человека и технологий во Фрибургском университете в Швейцарии, в беседе с «Анадолу» отметил, что апокалиптические сценарии, связанные с искусственным интеллектом, регулярно появляются в общественной дискуссии еще с 1950-х годов.
Барейс обратил внимание на снижение прогнозов прибыльности компаний, работающих в сфере ИИ, негативные новости вокруг центров обработки данных, усиление критики во многих странах и обеспокоенность компаний своим общественным имиджем.
По его словам, системы искусственного интеллекта не могут выйти из-под контроля сами по себе — такую возможность создают условия, в которых они функционируют.
«Нам необходимо перестать воспринимать искусственный интеллект как самостоятельную определяющую силу и каждый раз делать шаг назад, задавая вопросы: где находится инфраструктура, где сосредоточена власть, где деньги? Кто в этом участвует? С какими политическими мотивами используется эта технология?» — сказал Барейс.
Он также заявил, что если компании продолжают создавать модели, заранее считая, что они могут представлять экзистенциальную угрозу для общества, то возникает серьезный вопрос об их ответственности.
«Я считаю, что это лицемерие и своего рода маркетинговый прием, направленный на привлечение дополнительного внимания СМИ», — сказал Барейс.
news_share_descriptionsubscription_contact
contact_the_ombudsman
is_there_an_error_in_this_story
