Европейская комиссия на этой неделе представила план действий в сфере кибербезопасности и искусственного интеллекта. Формально документ адресован странам ЕС, бизнесу и госорганам — фактически это попытка Брюсселя одновременно ускорить внедрение ИИ и заранее подстелить соломки под риски, которые новые высокопроизводительные модели уже создают.
Логика простая: те же технологии, которые пишут за нас письма, годятся и для того, чтобы автоматизировать атаки, искать дыры в чужом софте и разворачивать киберкампании в масштабах, которых индустрия ещё не видела. ЕК напоминает про модель Mythos от Anthropic — ту самую, которая умеет находить уязвимости и которую администрация США в какой-то момент пыталась ограничить в распространении. Это уже не гипотетический риск из презентации, а вполне себе рабочий инструмент.
Три задачи, которые ЕК ставит себе
- продвигать безопасное и ответственное использование свежих ИИ-разработок;
- укреплять кибербезопасность и устойчивость самого ЕС;
- наращивать ИИ-компетенции Евросоюза в области кибербеза.
Самое интересное — в первом пункте. Еврокомиссия хочет анализировать ИИ-модели ещё до их выхода на рынок — это прямая отсылка к закону об ИИ (AI Act). Вместе с агентством ENISA (European Union Agency for Cybersecurity) планируют выстроить безопасный доступ к передовым системам и запустить платформу для тестирования и внедрения ИИ в критически важных отраслях — энергетика, транспорт, здравоохранение и так далее.
Что это значит на практике
Для разработчиков ИИ, которые хотят работать с европейским рынком, это ещё один шлюз проверки: мало соответствовать AI Act по документам — придётся давать регулятору реальный доступ к модели для оценки рисков. Для бизнеса, который эти модели покупает и внедряет, — сигнал, что скоро появится «государственно одобренная» песочница, куда можно будет прийти за тестами, но и обязательства подтянутся.
Для всех остальных мораль такая: регуляторы больше не догоняют технологию с отставанием в пять лет. Они пытаются встроиться в цикл релиза ИИ-моделей до того, как эти модели уедут в продакшн — и в ЕС это уже не концепция, а план с задачами и исполнителями.