Summary
- Anthropic восстанавливает доступ к своим моделям искусственного интеллекта Claude Fable 5 и Claude Mythos 5 после того, как в конце месяца были сняты ограничения по экспортному контролю США, которые вынудили приостановить их использование в июне.
- Fable 5 возвращается по всему миру 1 июля, в то время как Mythos 5, менее ограниченная версия той же базовой модели, будет повторно введена только для одобренных организаций США после проверки правительством.
- Эпизод, вызванный обнаруженным Amazon jailbreak-ом, позволившим Fable 5 генерировать код эксплуатации, стимулировал более тесное сотрудничество между Anthropic и американскими агентствами в области тестирования моделей, обмена угрозами и разработки стандартов оценки рисков jailbreak.
Anthropic является восстановление доступа к своим двум наиболее продвинутым моделям искусственного интеллекта после того, как правительство США сняло экспортные ограничения, вынудившие компанию отозвать их в прошлом месяце.
Контрольные ограничения на Claude Fable 5 и Claude Mythos 5 были сняты 30 июня, заявила компания. Fable 5 возвращается на глобальном уровне 1 июля на всех платформах Anthropic, в то время как Mythos 5, который основан на той же базовой модели, но имеет меньше ограничений по безопасности, восстанавливается для использования рядом организаций в США после одобрения со стороны правительства 26 июня.
Заморозка датируется 12 июня, когда правительство применило экспортные ограничения — правила, которые ограничивают доступ иностранцев к технологии, к обеим моделям.
Поскольку приказ вступил в силу немедленно, а Anthropic не могла в режиме реального времени проверить гражданство пользователей, компания приостановила доступ для всех, чтобы не нарушить правило.
Инициатором стала находка в области кибербезопасности после того, как исследователи Amazon сообщили о способе обойти защитные механизмы Fable 5, техники, известной как jailbreak, что заставило модель выявлять уязвимости программного обеспечения и, в одном случае, создавать код, демонстрирующий, как одна из них может быть использована.