sejournal.io

Вот перефразированный текст новости на русском языке:

Администрация Белого дома ввела экспортные ограничения для компании Anthropic из-за опасений, что связанная с Китаем группа могла получить доступ к ИИ-модели Mythos. Об этом сообщает Semafor со ссылкой на информированный источник.

Параллельно издания Business Insider и Axios назвали другой причиной сообщения о взломе защиты модели Fable 5. Сама Anthropic утверждает, что речь шла об «узком» и неуниверсальном методе, который не давал модели уникальных возможностей.

Что послужило триггером

По данным СМИ, администрацию Дональда Трампа встревожили подозрения в доступе к Mythos со стороны группы, связанной с Китаем. Журналисты не уточнили, о какой именно организации идет речь, как это произошло и откуда Белый дом узнал об инциденте.

Согласно The Verge, Белый дом публично не подтверждал эту версию. Представитель Anthropic заявил Semafor, что в переговорах с властями тема «китайского доступа» к Mythos не поднималась. Компания запрещает доступ к своим продуктам из КНР.

Business Insider отмечает, что 11 июня CEO Amazon Энди Джесси сообщил администрации президента о возможности обойти ограничения Fable 5. По словам источника издания, корпорация отвечала на запрос о проверке модели. Как пишет Axios, министр торговли США Говард Латник направил главе Anthropic Дарио Амодеи письмо, согласно которому Fable 5 и Mythos 5 подпадали под экспортный контроль за пределами США и для всех иностранных лиц внутри страны.

Чиновники якобы пытались убедить Anthropic добровольно приостановить доступ к моделям, но компания не согласилась. Источник, близкий к стартапу, оспорил эту версию и заявил, что Белый дом дал стартапу 90 минут на отключение моделей без объяснения характера угрозы.

13 июня советник главы Белого дома Дэвид Сакс написал в X, что администрация получила предупреждение о возможном обходе защит Fable 5 от партнера, которому доверяли и власти, и Anthropic.

> *«Администрация надеется, что Anthropic устранит проблему безопасности, экспортный контроль будет снят, а Fable вернется в общий доступ. […] Мяч на стороне Anthropic», — написал Сакс.*

Позиция Anthropic

Anthropic заявила, что письмо властей не содержало конкретных деталей о рисках для национальной безопасности. По версии компании, претензии касались способа обхода защиты Fable 5.

Стартап утверждает, что изучил демонстрацию этой техники. По его оценке, она позволяла найти «небольшое число ранее известных незначительных уязвимостей». В Anthropic добавили, что другие публично доступные модели способны выявлять те же проблемы без обхода защиты.

Компания также заявила, что перед запуском Fable 5 потратила «тысячи часов» на тестирование защит вместе с правительством США, британским Институтом безопасности ИИ, сторонними организациями и внутренними командами. По данным Anthropic, тестировщики пока не нашли универсальный способ массово обходить ограничения модели.

> *«Мы считаем это недоразумением и работаем над восстановлением доступа как можно скорее», — заявили в компании.*

9 июня Anthropic представила Fable 5 и Mythos 5. Компания назвала Fable 5 моделью класса Mythos для общего доступа. Mythos 5 использует ту же базовую модель, но имеет ослабленные ограничения в отдельных областях и предназначена для киберзащитников и поставщиков критической инфраструктуры в рамках Project Glasswing.

2 июня Anthropic сообщила о расширении Project Glasswing примерно на 150 организаций более чем из 15 стран. По данным компании, ранние партнеры программы к тому моменту нашли свыше 10 000 уязвимостей высокой и критической степени.

Напомним, после экспортной директивы властей США, потребовавшей от Anthropic ограничить доступ иностранных граждан к моделям Fable 5 и Mythos 5, токены децентрализованных ИИ-проектов Venice и Morpheus выросли на 14% и 21% соответственно.

Вот перефразированная новость на русском языке:

Консалтинговая фирма KPMG удалила со своих сайтов отчет под названием «Переосмысление совершенства в эпоху агентного ИИ» после того, как несколько организаций заявили, что информация о них в документе была ложной или вводила в заблуждение. Об этом сообщает издание Financial Times.

Доклад был опубликован в октябре 2025 года. В нем утверждалось, что многие крупные компании уже используют ИИ-агентов для автоматизации сложных задач, таких как инвестиционное консультирование, управление рисками, транспортная логистика и здравоохранение.

UBS и транспортные компании опровергли данные

Одним из главных примеров стал банк UBS. В отчете говорилось, что он внедрил ИИ-помощников в свою работу по инвестициям, рискам и комплаенсу на платформе, созданной вместе с Microsoft. Однако представитель UBS назвал эти сведения «фактически неверными». После жалобы банка KPMG начала убирать документ.

Похожие претензии появились у Швейцарских федеральных железных дорог (SBB). В отчете утверждалось, что перевозчик использует ИИ для планирования поездок с учетом предпочтений пассажиров и экологии. В SBB заявили, что это неправда.

Представители лондонского транспорта (Transport for London) также назвали заявления KPMG о применении агентного ИИ для управления трафиком вводящими в заблуждение.

GPTZero нашла признаки ИИ-галлюцинаций

Исследовательская группа GPTZero, которая анализирует контент, созданный нейросетями, выявила неточности. По их мнению, многие спорные места в отчете напоминают типичные галлюцинации языковых моделей — когда система выдает ложную информацию, которая выглядит правдоподобно.

Особое внимание привлек случай с Национальной службой здравоохранения Большого Манчестера. KPMG писала, что эта организация использует агентный ИИ для прогнозирования повторных госпитализаций. Однако источник, на который ссылались в отчете, говорил лишь о проекте по раннему выявлению рака легких, и таких заявлений там не было.

Проблема затронула весь консалтинг

В KPMG заявили, что серьезно относятся к точности материалов и проводят внутреннее расследование. Компания подчеркнула, что по ее правилам все отчеты должны проверяться людьми и подтверждаться независимыми источниками.

Этот случай — очередной пример проблем с использованием генеративного ИИ в профессиональных услугах. В мае похожий отчет пришлось отозвать компании EY после того, как в нем нашли вымышленные ссылки и другие ошибки. Ранее о неточностях из-за ИИ сообщала и юридическая фирма Sullivan & Cromwell.

Риски для рынка исследований

Глава GPTZero Эдвард Тиан предупредил, что ошибки в отчетах крупных консалтинговых компаний могут создавать «вторичные галлюцинации» — когда ложная информация распространяется через СМИ и другие исследования.

По данным GPTZero, на выводы скандального отчета KPMG уже ссылались отраслевые издания и зарубежные СМИ. Эксперты считают, что такие случаи подрывают доверие к аналитике компаний, которые сами консультируют клиентов по внедрению ИИ и управлению рисками.

Напомним, в июне глава Anthropic Дарио Амодеи призвал власти США ужесточить регулирование искусственного интеллекта.

Вот перефразированная новость на русском языке:

Компания Anthropic приостановила работу моделей Fable 5 и Mythos 5, выпущенных 9 июня. Причиной стало предписание правительства США в рамках экспортного контроля.

В компании сообщили, что документ официально запрещает доступ к этим моделям любым иностранным гражданам, включая иностранных сотрудников самой Anthropic. В результате сервис был полностью отключен.

Заявление Anthropic было опубликовано 12 июня. По словам представителей компании, директива поступила в тот же день в 17:21 по восточному времени США. В письме не было конкретных указаний на риски для национальной безопасности.

Anthropic связывает решение властей с методом обхода защиты Fable 5. Компания утверждает, что проверила демонстрацию и обнаружила лишь небольшое количество ранее известных незначительных уязвимостей. По их словам, такие уязвимости относительно просты, и другие публично доступные модели также способны их находить без применения обходных путей.

Перед запуском Fable 5 механизмы безопасности тестировались правительством США, британским Институтом безопасности ИИ (AISI), несколькими сторонними организациями и внутренними командами. На проверки ушли тысячи часов тестирования. Anthropic заявила, что универсального способа взлома модели пока не обнаружено.

Компания напомнила, что для Fable 5 действует 30-дневное хранение данных клиентов — для расследования и устранения обходов. При этом от правительства, по словам представителей, поступали только устные сведения о возможном узком, неуниверсальном способе обхода. Предполагаемый метод, как описывает Anthropic, заключался в просьбе к модели прочитать конкретную кодовую базу и исправить ошибки в программном обеспечении.

Anthropic заявила, что изучила отчет, который, по их мнению, лег в основу директивы, и пришла к выводу: продемонстрированный уровень возможностей доступен и у других моделей, включая GPT-5.5 от OpenAI. Компания подчеркнула, что выполнит юридическое требование, но не согласна с отзывом коммерческого продукта из-за узкого потенциального обхода защиты. По их мнению, такой стандарт для всей отрасли фактически остановит запуск новых моделей.

Доступ к остальным продуктам Anthropic не изменился. Компания извинилась перед клиентами и сообщила, что работает над разрешением ситуации, которую назвала «недоразумением».

Напомним, в июне генеральный директор Anthropic Дарио Амодеи призвал США ужесточить подход к регулированию искусственного интеллекта и перейти от режима раскрытия информации к обязательным проверкам безопасности наиболее мощных ИИ-моделей.

Вот перефразированная новость на русском языке:

Сингапур определил ИИ главным приоритетом в новой стратегии стандартизации до 2035 года

Государственное агентство Enterprise Singapore, действующее при Министерстве торговли и промышленности, обнародовало дорожную карту «Стандарты и соответствие 2035». В этом документе искусственный интеллект назван одним из ключевых направлений для разработки стандартов и процедур оценки.

Одновременно с этим ведомство заключило пять меморандумов с зарубежными и региональными партнерами. Соглашения охватывают сферы искусственного интеллекта, квантовых технологий, а также углеродных проектов и углеродных кредитов.

Новая стратегия призвана укрепить позиции Сингапура в создании международных стандартов, признании сертификаций и тестировании новых технологий до их широкого внедрения. В части ИИ основной упор сделан на опережающую разработку стандартов — то есть на выработку подходов ещё до того, как будут приняты официальные международные нормы.

Три основные опоры стратегии

Дорожная карта строится на трех направлениях:
— поддержка экономического роста за счет раннего внедрения стандартов;
— развитие инфраструктуры для тестирования, инспекций и сертификации;
— усиление роли Сингапура в региональных и глобальных системах стандартизации.

Главная идея — внедрять стандарты на этапе разработки продуктов, услуг и процессов, а не подстраиваться под них постфактум. Среди приоритетных направлений EnterpriseSG выделяет искусственный интеллект, точную медицину, чистую энергетику и офшорную ветроэнергетику.

Особое внимание уделяется сферам, где правила только формируются: ИИ, углеродные сервисы и точная медицина. EnterpriseSG планирует запускать регуляторные «песочницы» для апробации новых подходов до их официального закрепления, а также развивать местные компетенции в области тестирования, инспекций и сертификации.

Генеральный директор группы Quality and Excellence в EnterpriseSG Чой Сау Кук отметила: «Стандарты и оценка соответствия — это не просто соблюдение требований, а стратегический инструмент для роста. Благодаря дорожной карте S&C 2035 мы ускоряем внедрение стандартов сингапурскими компаниями, помогаем им быстрее внедрять инновации и легче выходить на глобальные рынки».

Пять меморандумов: ИИ, квантовые технологии и углеродные кредиты

EnterpriseSG официально оформила пять меморандумов с международными и региональными партнерами.

В блоке по искусственному интеллекту подписан многосторонний меморандум с Британским институтом стандартов, Корейским агентством по технологиям и стандартам, Австралийской организацией по стандартизации и Канадским советом по стандартам. Цель — сократить разрыв между стремительным развитием ИИ и более медленным процессом формальной разработки стандартов.

Кроме того, Сингапур заключил отдельное соглашение с Американским национальным институтом стандартов, касающееся критически важных и новых технологий, включая ИИ и квантовые технологии.

Еще два соглашения направлены на сотрудничество с Вьетнамом и Индонезией для укрепления регионального потенциала в области стандартов ИИ и оценки соответствия.

Помимо этого, EnterpriseSG договорилась с Gold Standard Foundation и Verra об усилении механизмов подтверждения устойчивости углеродных проектов и кредитов.

Что уже сделано в области стандартов ИИ

20 апреля 2026 года Управление по развитию инфокоммуникационных технологий (IMDA) и EnterpriseSG сообщили, что Сингапур выдвинул проект международного стандарта ISO/IEC 42119-8 для унификации методологии тестирования генеративных систем ИИ. В заявлении его назвали первым международным стандартом такого рода для тестирования систем генеративного искусственного интеллекта (GenAI).

Ранее IMDA и AI Verify Foundation выпустили стартовый набор для тестирования приложений на основе больших языковых моделей (LLM) на безопасность и надежность. Документ содержит добровольные рекомендации по проверке LLM-приложений перед запуском и выделяет пять основных рисков:
— галлюцинации и фактические ошибки;
— предвзятость;
— нежелательный контент;
— утечки данных;
— устойчивость к вредоносным запросам.

Кроме того, AI Verify Foundation запустила программу аккредитации тестировщиков ИИ. Она должна установить требования к сторонним компаниям, проверяющим GenAI-приложения, и способствовать развитию рынка независимой оценки систем искусственного интеллекта.

Напомним, что в 2024 году Европарламент принял регламент ЕС об искусственном интеллекте. ForkLog попросил участников конференции Privacy Day 2024 рассказать, как это повлияет на индустрию в целом.

Криптобиржа Coinbase запустила сервис Coinbase for Agents. Он позволяет подключить ИИ-агента к аккаунту пользователя, чтобы тот мог совершать торговые операции, платежи и другие действия в рамках установленных лимитов.

Сервис работает через протокол MCP (для интеграции с ChatGPT или Claude) и через командную строку для разработчиков. Агент может действовать как с основного счета, так и через отдельный изолированный портфель.

В качестве примеров использования компания привела автоматическую ребалансировку портфеля до 60% BTC, 20% ETH и 20% SOL, а также выставление лимитных ордеров при падении рынка на 5%, 10% или 15%. Ещё один сценарий — ежедневная покупка ETH на $20 в течение двух недель на основе анализа почасовых цен за последние 30 дней.

По заявлению Coinbase, сервис уже поддерживает спотовую и деривативную торговлю. В планах — добавить акции, индексные фонды, рынки предсказаний и сырьевые товары.

Функции комплаенса и мониторинга транзакций работают автоматически. Агент получает доступ только к тем операциям, которые разрешил пользователь. В будущем подписчики смогут задавать точный размер сделки, список разрешённых действий и лимит расходов.

Кроме того, в приложение Coinbase добавили «Советника» (Coinbase Advisor) — встроенного ИИ-помощника, который даёт инвестиционные рекомендации и зарегистрирован в SEC и CFTC.

Напомним, что в апреле разработчики поддерживаемого Coinbase стандарта платежей x402 запустили маркетплейс приложений и сервисов, призванный повысить полезность ИИ-агентов.

Вот перефразированная новость на русском языке:

Стартап Prometheus, основанный Джеффом Безосом и Виком Баджаджем, привлек $12 млрд в рамках раунда Серии B, а его оценка достигла $41 млрд. Об этом сообщает TechCrunch.

Компания создает ИИ-систему, которая должна ускорить проектирование и выпуск физических объектов — от реактивных двигателей до медицинских приборов и бытовой электроники. Основатели называют будущий продукт «универсальным ИИ-инженером»: он призван сократить путь от идеи и прототипа до серийного производства.

В интервью Axios Безос объяснил на примере реактивного двигателя, что изменение конструкции для увеличения тяги на 10% может занимать годы из-за сложности производства. Prometheus ставит цель сократить такие циклы в 10 раз или больше.

В стартапе подчеркивают, что речь не идет о создании роботов или простой автоматизации заводов. Prometheus сосредоточен на разработке ИИ для реального сектора и ранних этапов производства: проектировании, моделировании, прототипировании и настройке процессов.

Подробности о продукте и сроках запуска пока не раскрываются. По данным Axios, компания не сообщает, как именно обучает модели, но признает, что в промышленности нет аналога «интернета производственных данных», который можно было бы просто загрузить в модель.

«Цикл от идеи до серийного производства и выхода на рынок может быть очень долгим», — отметил Безос.

По его словам, если задачу, на которую сейчас нужны 100 инженеров и 10 лет, можно будет выполнить силами 10 инженеров за один год, «мы просто создадим гораздо больше вещей». Баджадж добавил, что если воплощать идеи станет проще, это приведет к большему числу изобретений и людей, вовлеченных в процесс.

Согласно Semafor, Prometheus использует данные из законов физики, собственных испытаний и сотрудничества с компаниями. Значительная часть привлеченных средств пойдет на вычислительные мощности: стартап использует собственный кластер и закупает ресурсы у сторонних провайдеров.

Это второй раунд для Prometheus — в конце 2025 года стартап привлек $6,2 млрд. Среди новых инвесторов Axios и Semafor называют JPMorgan, Goldman Sachs, BlackRock, DST Global, Arch Venture Partners и самого Безоса.

Напомним, в апреле стартап Physical Intelligence, основанный бывшими инженерами Google, представил модель π0.7. Разработчики заявили о «качественном скачке» в способности ИИ обобщать навыки и выполнять задачи, которым его не учили напрямую.

Вот перефразированная новость на русском языке:

США пора переходить от добровольных отчетов к обязательным проверкам ИИ, считает глава Anthropic

Генеральный директор Anthropic Дарио Амодеи выступил с инициативой изменить подход к регулированию искусственного интеллекта в США. В своем эссе он предложил отказаться от простого раскрытия информации в пользу обязательных проверок безопасности для самых мощных ИИ-моделей.

По мнению Амодеи, пришло время заменить прозрачность на серьезное и обязательное регулирование. Вместе с эссе компания опубликовала два документа: Advanced AI Framework, посвященный контролю за передовыми моделями, и Economic Policy Framework, касающийся подготовки экономики к возможному вытеснению работников ИИ.

Внешние проверки и право вето

Амодеи предложил ввести обязательное тестирование для моделей, превышающих определенный порог вычислительной мощности. В документах Anthropic речь идет о системах, обученных с использованием более 10²⁵ операций с плавающей точкой, при условии, что разработчик зарабатывает на ИИ более 500 миллионов долларов в год или тратит на исследования и разработки в этой сфере свыше миллиарда долларов.

Проверки должна проводить независимая квалифицированная организация. Тестирование охватит четыре категории рисков:

* кибербезопасность;
* создание биологического оружия;
* потеря контроля над ИИ-системами;
* автоматизированные исследования, способные ускорить эти угрозы.

Если оценка выявит неприемлемый риск, власти должны получить право блокировать запуск или ограничивать развертывание модели. Амодеи сравнил предлагаемый режим с контролем в авиации, отметив, что самые мощные ИИ-модели, как и самолеты, должны проходить технические испытания и аудит.

Также предлагается обязать разработчиков защищать веса моделей и инфраструктуру обучения, регулярно проводить проверки безопасности, публиковать отчеты о рисках и оперативно сообщать о серьезных инцидентах.

Рынок труда: от переобучения до базового дохода

В эссе Амодеи предупредил, что ИИ может вызвать более масштабные и продолжительные сбои на рынке труда, чем предыдущие технологические революции. Возможны три сценария: безработица около 5%, 10% и беспрецедентный уровень.

В качестве мер он предложил улучшить сбор данных о вытеснении работников, ввести стимулы для сохранения занятости, запустить программы переобучения и, в худшем случае, обеспечить долгосрочную поддержку доходов, включая безусловный базовый доход.

Согласно документам компании, Anthropic направит 200 миллионов долларов в Исследовательский фонд экономического будущего для изучения экономической политики и создаст национальную программу стипендий на 150 миллионов долларов для специалистов на ранних этапах карьеры.

Гражданские свободы

Отдельный раздел эссе Амодеи посвятил гражданским свободам. Он предложил закрепить правила подотчетности для полностью автономного оружия, запретить его применение внутри США и закрыть лазейку, позволяющую покупать данные у брокеров для массовой слежки.

Еще одна идея — обеспечить гражданам доступ к ИИ, не уступающему тому, который государство использует против них в регуляторных или судебных процедурах. По мнению Амодеи, без такого баланса ИИ может усилить преимущество властей.

Эссе было опубликовано на следующий день после запуска Claude Fable 5 и Claude Mythos 5. Anthropic назвала Fable 5 самой мощной из своих общедоступных моделей, а Mythos 5 — версией той же базовой модели с ослабленными ограничениями для ограниченного круга партнеров Project Glasswing.

Напомним, что в июне сотрудники Anthropic заметили признаки приближения к рекурсивному самосовершенствованию ИИ. В компании допустили, что обществу может потребоваться механизм для замедления разработки передовых моделей, чтобы институты и исследования безопасности успевали за прогрессом.

Компания Meta удалила функции распознавания лиц из последней версии приложения Meta AI для умных очков. Это произошло после того, как журналисты WIRED провели расследование.

В ходе расследования в коде приложения была обнаружена скрытая система NameTag. Она позволяла создавать биометрические профили людей, попадающих в кадр, сохраняя их снимки и индексируя лица без ведома пользователей.

В Meta назвали расследование «недостоверным», но затем выпустили обновление. В новой версии приложения исчезли библиотеки для идентификации, папки для хранения обработанных фотографий и уведомления об успешном распознавании.

Технический директор Meta Эндрю Босворт ранее заявлял, что окончательное решение по внедрению технологии ещё не принято. Однако в коде были найдены упоминания о планах запустить систему в период «динамичной политической обстановки», когда вопросы конфиденциальности будут менее актуальны.

Правозащитники из ACLU раскритиковали Meta. Они считают, что скрытое внедрение такого кода доказывает необходимость строгого законодательного регулирования сбора биометрических данных.

Сейчас в приложении остались лишь отдельные упоминания системы в меню отладки. Meta отказалась комментировать WIRED причины удаления кода.

Напомним, что в марте на Meta подали коллективный иск из-за передачи интимных видеозаписей, сделанных на умные очки, подрядчикам в Кении.

Немецкий стартап NEURA Robotics привлек до 1,4 миллиарда долларов в ходе раунда финансирования Серии C. Среди инвесторов — компании Tether, Nvidia, Amazon и Qualcomm.

Полученные средства пойдут на развитие платформы «физического ИИ» и массовый выпуск человекоподобных роботов. К 2030 году компания планирует произвести несколько миллионов таких машин.

NEURA развивает экосистему Neuraverse, в которой роботы могут обмениваться навыками и обучаться в реальных условиях. В отличие от узкоспециализированных промышленных роботов, разработки компании предназначены для совместной работы с людьми в быту, медицине и логистике.

Tether намерен интегрировать в роботов децентрализованные платежные решения. Благодаря инструментам Wallet Development Kit машины смогут самостоятельно проводить финансовые операции без посредников.

Генеральный директор Tether Паоло Ардоино подчеркнул, что инфраструктура должна развиваться параллельно с робототехникой. По его словам, автономным машинам необходима способность самостоятельно принимать решения и совершать транзакции.

Согласно пресс-релизу, портфель заказов NEURA превышает 1 миллиард долларов. Также проект откроет тренировочные центры NEURA Gyms для обучения алгоритмов ИИ взаимодействию с физическим миром.

Напомним, в мае компания Keenon Robotics выпустила на рынок человекоподобного робота XMAN-L1 для сервисных задач.

Вот переписанная новость на русском языке:

Компания Anthropic сделала широкодоступной свою ИИ-модель Claude Fable 5, а также запустила версию Claude Mythos 5 для ограниченного круга участников программы Project Glasswing.

Обе модели имеют одинаковую базовую архитектуру. Главное отличие в том, что Mythos 5 работает без некоторых стандартных ограничений безопасности.

Claude Mythos 5 была развернута в рамках Project Glasswing — инициативы по сотрудничеству с правительством США. Она стала обновленной версией Claude Mythos Preview, доступ к которой в апреле получили лишь избранные специалисты по киберзащите и разработчики критически важного программного обеспечения.

В будущем Anthropic планирует предоставить доступ к Mythos 5 отдельным биологам-исследователям и участникам программы доверенного доступа.

Модель Fable 5 доступна всем пользователям через Claude API и корпоративные тарифы с оплатой по факту использования. В подписках Pro, Max, Team и корпоративных тарифах с фиксированными местами её можно использовать без доплаты до 22 июня 2026 года. С 23 июня для работы с ней потребуются платные кредиты, если компания не продлит льготный период.

В Fable 5 реализован механизм перенаправления запросов по кибербезопасности, биологии, химии и дистилляции моделей в более мощную Claude Opus 4.8. По данным Anthropic, такой запасной сценарий срабатывает в среднем менее чем в 5% случаев.

Стоимость использования обеих моделей составляет 10 долларов за 1 миллион входных токенов и 50 долларов за 1 миллион выходных токенов.

Напомним, что в мае Anthropic выпустила Claude Opus 4.8 и отдельно представила функцию динамических рабочих процессов для Claude Code.