Что случилось
Anthropic восстановила доступ к Claude Fable 5 — одной из своих новых ИИ-моделей. Ранее компания временно отключила ее для всех пользователей из-за экспортных ограничений США.
Fable 5 и более мощную Claude Mythos 5 запустили 9 июня 2026 года. Уже 12 июня правительство США ввело в отношении моделей экспортный контроль. Ограничения вступили в силу сразу, а у Anthropic не было надежного способа быстро проверять гражданство пользователей. Поэтому компания закрыла доступ к обеим моделям для всех.
Поводом стал отчет исследователей Amazon. Они нашли способ обойти защиту Fable 5 и заставить модель помогать с поиском уязвимостей в программном обеспечении. В одном случае ИИ сгенерировал код, показывающий, как можно использовать найденную уязвимость.
Anthropic утверждает, что Fable 5 не получила уникальных возможностей: похожие ответы, по данным компании, могли давать и другие современные модели. После проверки Anthropic вместе с властями США и партнерами обновила систему безопасности. Новый классификатор должен распознавать опасные запросы и блокировать их. Компания заявляет, что описанный Amazon способ обхода теперь блокируется более чем в 99% случаев.
С 30 июня экспортный контроль в отношении Fable 5 снят. С 1 июля модель снова доступна пользователям Claude, Claude.ai, Claude Code и Claude Cowork по всему миру. Доступ через AWS, Google Cloud и Microsoft Foundry обещают восстановить позже.
С Mythos 5 ситуация остается строже. Это более мощная модель для задач кибербезопасности, поэтому доступ к ней пока вернули только части организаций США после отдельного одобрения правительства.
Контекст и предпосылки
Современные модели ИИ все лучше справляются с задачами кибербезопасности. По данным AI Security Institute, новейшие модели уже решают часть киберзадач уровня начинающего специалиста, а в 2025 году впервые показали результат на отдельных задачах экспертного уровня.
Такие возможности полезны экспертам по безопасности, так как ИИ может искать ошибки в коде, помогать с анализом инцидентов и быстрее готовить исправления. Но те же навыки могут ускорять атаки. Исследователи Microsoft отмечали, что злоумышленники используют генеративный ИИ для фишинга, перевода и адаптации текстов, анализа похищенных данных, генерации и отладки вредоносного кода.
Отдельный риск — обход защитных ограничений. OWASP называет внедрение скрытых инструкций в запросы одним из главных рисков LLM-приложений: скрытая инструкция в тексте, документе или странице может заставить модель действовать не так, как задумал разработчик.
Вероятные последствия
Инцидент показывает, что правительства все внимательнее следят за тем, какие возможности получают пользователи генеративного ИИ. Даже временные риски в области кибербезопасности могут приводить к быстрым ограничениям доступа. Для разработчиков это означает, что запуск новых моделей придется заранее согласовывать с регуляторами и сопровождать более прозрачными мерами безопасности.
➤ Подписывайтесь на телеграм-канал «РБК Трендов» — будьте в курсе последних тенденций в науке, бизнесе, обществе и технологиях.