Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Вот перефразированная новость на русском языке:
Компания Anthropic приостановила работу моделей Fable 5 и Mythos 5, выпущенных 9 июня. Причиной стало предписание правительства США в рамках экспортного контроля.
В компании сообщили, что документ официально запрещает доступ к этим моделям любым иностранным гражданам, включая иностранных сотрудников самой Anthropic. В результате сервис был полностью отключен.
Заявление Anthropic было опубликовано 12 июня. По словам представителей компании, директива поступила в тот же день в 17:21 по восточному времени США. В письме не было конкретных указаний на риски для национальной безопасности.
Anthropic связывает решение властей с методом обхода защиты Fable 5. Компания утверждает, что проверила демонстрацию и обнаружила лишь небольшое количество ранее известных незначительных уязвимостей. По их словам, такие уязвимости относительно просты, и другие публично доступные модели также способны их находить без применения обходных путей.
Перед запуском Fable 5 механизмы безопасности тестировались правительством США, британским Институтом безопасности ИИ (AISI), несколькими сторонними организациями и внутренними командами. На проверки ушли тысячи часов тестирования. Anthropic заявила, что универсального способа взлома модели пока не обнаружено.
Компания напомнила, что для Fable 5 действует 30-дневное хранение данных клиентов — для расследования и устранения обходов. При этом от правительства, по словам представителей, поступали только устные сведения о возможном узком, неуниверсальном способе обхода. Предполагаемый метод, как описывает Anthropic, заключался в просьбе к модели прочитать конкретную кодовую базу и исправить ошибки в программном обеспечении.
Anthropic заявила, что изучила отчет, который, по их мнению, лег в основу директивы, и пришла к выводу: продемонстрированный уровень возможностей доступен и у других моделей, включая GPT-5.5 от OpenAI. Компания подчеркнула, что выполнит юридическое требование, но не согласна с отзывом коммерческого продукта из-за узкого потенциального обхода защиты. По их мнению, такой стандарт для всей отрасли фактически остановит запуск новых моделей.
Доступ к остальным продуктам Anthropic не изменился. Компания извинилась перед клиентами и сообщила, что работает над разрешением ситуации, которую назвала «недоразумением».
Напомним, в июне генеральный директор Anthropic Дарио Амодеи призвал США ужесточить подход к регулированию искусственного интеллекта и перейти от режима раскрытия информации к обязательным проверкам безопасности наиболее мощных ИИ-моделей.
Популярные лонгриды:
