Глава Банка Англии предупредил об опасностях самых передовых технологий ИИ
Продвинутый искусственный интеллект угрожает глобальной финансовой стабильности, считает глава Банка Англии. Эндрю Бейли предупреждает членов G20 о риске кибератак, распространяющихся «по всем юрисдикциям».
Глава Банка Англии Эндрю Бейли присоединился к толпе деятелей, предупреждающих о глобальных рисках, связанных с самыми передовыми технологиями искусственного интеллекта, пишет The Guardian.
В двухстраничном письме, направленном министрам финансов стран-участниц “большой двадцатки” и руководителям центральных банков в рамках своей работы в качестве председателя Международного совета по финансовой стабильности (FSB), Бейли утверждает, что “передовые” модели искусственного интеллекта “демонстрируют все более изощренную автономию и способность решать проблемы, а также способность противостоять угрозам”.
Он предупредил, что эти модели рискуют дестабилизировать “сильно взаимосвязанную” глобальную финансовую систему из-за кибератак, которые “могут распространиться по всем юрисдикциям”.
Бейли написал министрам финансов и управляющим центральных банков стран G20 перед их встречей в Северной Каролине, США, на этой неделе: “Недавние события также показали мне, что во многих юрисдикциях отсутствуют протоколы для управления разработкой, выпуском и внедрением передовых моделей искусственного интеллекта, что повышает риски для финансового сектора. секторе и за его пределами”.
Его письмо, комментирует The Guardian, дополняет тревожные заявления о развитии искусственного интеллекта, с которыми за последние несколько недель выступили видные технологи, и перекликается с его предыдущими призывами к международному сотрудничеству в борьбе с растущими угрозами, связанными с ИИ. Тогда он сказал руководителям Банка Англии: «Ни одна страна не может отгородиться от трансграничного характера систем, которые сегодня широко распространены».
В прошлом месяце письмо, подписанное 1367 исследователями и инженерами из передовых лабораторий в области ИИ — в основном из OpenAI, Anthropic и Google DeepMind, — также привлекло внимание к опасениям инженеров, которые ежедневно работают с этой технологией.
В том письме говорилось: «Существует реальная опасность того, что развитие возможностей ИИ будет ускоряться быстрее, чем мы сможем понять и взять под контроль создаваемые системы». Далее авторы письма просили правительство США поддержать «международные усилия по разработке технических и управленческих инструментов, необходимых для того, чтобы целенаправленно сдерживать развитие автоматизированного ИИ».
Ранее в этом месяце стало известно, что сотрудники OpenAI заметили признаки некорректного поведения у своих передовых ИИ-агентов за несколько недель до того, как они вышли из обучающей среды и начали беспрецедентную хакерскую атаку, вызвавшую тревогу во всём мире.
Развивая эту тему в контексте финансовой политики, Бейли продолжил: «Для финансовой системы наибольшую опасность представляет потенциальное влияние передовых разработок в области ИИ на киберриски». Передовой искусственный интеллект может обладать способностью существенно изменять скорость, масштабы и экономическую эффективность киберрисков, что может подорвать доверие рынка в масштабах всей системы, особенно из-за высокой концентрации сторонних поставщиков услуг”.
Эндрю Бейли призвал тех, кому поручено обеспечивать безопасность мировых финансовых систем, определить приоритетность “соответствующих шагов для поддержки выпуска и внедрения безопасной и ответственной модели на глобальной основе”.
В письме также отмечались опасения Бейли по поводу более широкого использования заемных средств на рынках облигаций и акций, которые, по его словам, сочетаются с высокими оценками на концентрированных финансовых рынках, что, в частности, подпитывается оптимизмом инвесторов в отношении перспектив искусственного интеллекта, что может усилить будущую коррекцию рынка.
“Поэтому я по-прежнему обеспокоен тем, что сильный шок или комбинация шоков могут одновременно вызвать множество уязвимостей”, — написал Бейли.
Бейли возглавляет Банк Англии с марта 2020 года, а ранее возглавлял Управление по финансовому надзору и Управлению пруденциального регулирования, два основных финансовых регулятора Великобритании.