sejournal.io

Вот перефразированная новость на русском языке:

США пора переходить от добровольных отчетов к обязательным проверкам ИИ, считает глава Anthropic

Генеральный директор Anthropic Дарио Амодеи выступил с инициативой изменить подход к регулированию искусственного интеллекта в США. В своем эссе он предложил отказаться от простого раскрытия информации в пользу обязательных проверок безопасности для самых мощных ИИ-моделей.

По мнению Амодеи, пришло время заменить прозрачность на серьезное и обязательное регулирование. Вместе с эссе компания опубликовала два документа: Advanced AI Framework, посвященный контролю за передовыми моделями, и Economic Policy Framework, касающийся подготовки экономики к возможному вытеснению работников ИИ.

Внешние проверки и право вето

Амодеи предложил ввести обязательное тестирование для моделей, превышающих определенный порог вычислительной мощности. В документах Anthropic речь идет о системах, обученных с использованием более 10²⁵ операций с плавающей точкой, при условии, что разработчик зарабатывает на ИИ более 500 миллионов долларов в год или тратит на исследования и разработки в этой сфере свыше миллиарда долларов.

Проверки должна проводить независимая квалифицированная организация. Тестирование охватит четыре категории рисков:

* кибербезопасность;
* создание биологического оружия;
* потеря контроля над ИИ-системами;
* автоматизированные исследования, способные ускорить эти угрозы.

Если оценка выявит неприемлемый риск, власти должны получить право блокировать запуск или ограничивать развертывание модели. Амодеи сравнил предлагаемый режим с контролем в авиации, отметив, что самые мощные ИИ-модели, как и самолеты, должны проходить технические испытания и аудит.

Также предлагается обязать разработчиков защищать веса моделей и инфраструктуру обучения, регулярно проводить проверки безопасности, публиковать отчеты о рисках и оперативно сообщать о серьезных инцидентах.

Рынок труда: от переобучения до базового дохода

В эссе Амодеи предупредил, что ИИ может вызвать более масштабные и продолжительные сбои на рынке труда, чем предыдущие технологические революции. Возможны три сценария: безработица около 5%, 10% и беспрецедентный уровень.

В качестве мер он предложил улучшить сбор данных о вытеснении работников, ввести стимулы для сохранения занятости, запустить программы переобучения и, в худшем случае, обеспечить долгосрочную поддержку доходов, включая безусловный базовый доход.

Согласно документам компании, Anthropic направит 200 миллионов долларов в Исследовательский фонд экономического будущего для изучения экономической политики и создаст национальную программу стипендий на 150 миллионов долларов для специалистов на ранних этапах карьеры.

Гражданские свободы

Отдельный раздел эссе Амодеи посвятил гражданским свободам. Он предложил закрепить правила подотчетности для полностью автономного оружия, запретить его применение внутри США и закрыть лазейку, позволяющую покупать данные у брокеров для массовой слежки.

Еще одна идея — обеспечить гражданам доступ к ИИ, не уступающему тому, который государство использует против них в регуляторных или судебных процедурах. По мнению Амодеи, без такого баланса ИИ может усилить преимущество властей.

Эссе было опубликовано на следующий день после запуска Claude Fable 5 и Claude Mythos 5. Anthropic назвала Fable 5 самой мощной из своих общедоступных моделей, а Mythos 5 — версией той же базовой модели с ослабленными ограничениями для ограниченного круга партнеров Project Glasswing.

Напомним, что в июне сотрудники Anthropic заметили признаки приближения к рекурсивному самосовершенствованию ИИ. В компании допустили, что обществу может потребоваться механизм для замедления разработки передовых моделей, чтобы институты и исследования безопасности успевали за прогрессом.

Вот перефразированный вариант новости на русском языке:

Ученые из разных стран создали крошечный фотомемристор, который работает по принципу адаптации человеческого глаза к разному уровню освещения. Эта разработка, как сообщается в журнале Nature Communications, может найти применение в системах машинного зрения для роботов, дронов и камер.

Главная проблема, которую решает устройство, — потеря точности при резких перепадах яркости. Для беспилотников и роботов это особенно важно, так как им нужно одновременно видеть объекты в тени и яркие источники света, например, фары встречных машин.

Новинка относится к области нейроморфного машинного зрения. В таких системах сенсоры не просто делают снимок, но и берут на себя часть обработки информации. Это позволяет снизить нагрузку на вычислительные мощности и быстрее реагировать на изменения в кадре.

Похожую задачу решают событийные камеры. Они фиксируют не полные кадры, а только изменения яркости по отдельным точкам. Это дает низкую задержку, широкий динамический диапазон и меньший объем данных. Однако для работы с ними нужны специальные алгоритмы, и пока у таких камер есть свои недостатки.

В основе прототипа лежит миниатюрный светочувствительный элемент размером около 0,5 мм. Ключевая деталь — фотомемристор, созданный из диоксида титана (TiO2) и проводящего полимера PEDOT:PSS. Принцип работы основан на реакции материалов на влажность: при слабом свете структура активнее впитывает воду, из-за чего растет проводимость и чувствительность к свету. При ярком освещении влага испаряется, и чувствительность падает.

В тестовой установке ученые использовали массив из 16 фотомемристоров (4×4) и искусственную нейросеть. Система распознавала буквы на фоне с разной яркостью. По данным статьи, точность распознавания при смешанном освещении составила 91,3%, а сам процесс занял 7,5 секунды.

Напомним, что в мае исследователи представили Qumus — автономную систему на базе ИИ для проведения экспериментов с квантовыми материалами.

Вот перефразированный текст новости на русском языке:

Ученые из разных стран создали крошечный фотомемристор, который работает по принципу адаптации человеческого глаза к разной освещенности. Эта разработка может применяться в системах машинного зрения для роботов, дронов и камер, как сообщается в журнале Nature Communications.

Новое устройство решает проблему потери точности машинным зрением при резких изменениях яркости. Для беспилотников и роботов это особенно важно: им нужно одновременно видеть объекты в темноте и яркие источники света, например, фары встречных машин.

Данная работа относится к нейроморфному машинному зрению — подходу, при котором сенсоры не только захватывают изображение, но и частично обрабатывают сигнал. Это должно снизить нагрузку на вычислительную систему и ускорить реакцию на изменения в кадре.

Схожую задачу решают событийные камеры. Они фиксируют не целые кадры, а только изменения яркости по отдельным пикселям, что обеспечивает низкую задержку, широкий динамический диапазон и меньший объем данных. Однако такие системы требуют специальных алгоритмов и пока имеют ограничения.

В основе прототипа лежит миниатюрный светочувствительный элемент размером около 0,5 мм. Ключевой компонент — фотомемристор на основе диоксида титана (TiO2) и проводящего полимера PEDOT:PSS. Принцип работы основан на реакции материалов на влажность: при слабом освещении структура активнее поглощает воду, что повышает проводимость и светочувствительность. При ярком свете влага испаряется, и чувствительность падает.

В демонстрационной установке исследователи использовали массив из 16 фотомемристоров (4×4) и искусственную нейросеть. Система распознавала буквенные паттерны на фоне с разным уровнем яркости. Согласно статье, точность составила 91,3% при смешанном освещении, а процесс распознавания занял 7,5 секунды.

Напомним, что в мае ученые также представили Qumus — автономную ИИ-систему для проведения экспериментов с квантовыми материалами.

Компании Electra AI и Naoris Quantum Protocol объединили усилия для создания постквантовой системы кибербезопасности. Эта система предназначена для защиты ИИ-мониторинга локальных энергетических объектов, как сообщает The Quantum Insider.

В рамках проекта планируется интеграция платформы AI Brain for Batteries от Electra AI с децентрализованным доверительным слоем Naoris Quantum Protocol. Цель — обеспечить защиту телеметрии, прошивок и данных, на основе которых ИИ принимает решения при мониторинге и оптимизации работы подключенной инфраструктуры: накопителей энергии, локальных энергосетей, объектов возобновляемой энергетики, дата-центров, электротранспорта и робототехники.

Что именно будут защищать

ИИ-системы на таких объектах обрабатывают телеметрические данные: температуру, напряжение, циклы зарядки, состояние ячеек, уровень износа и другие параметры. На основе этих данных принимаются практические решения — когда заряжать или разряжать батарею, как продлить её срок службы, снизить риск отказа и управлять накопителями в локальной энергосистеме.

Если входные данные будут подменены, повреждены или поступят от ненадежного устройства, ИИ может сделать ошибочный вывод. Поэтому партнеры делают упор на проверку данных у источника, а не только на защиту канала связи.

Роль Naoris в проекте

Naoris Quantum Protocol добавит к системе дополнительный уровень безопасности, основанный на постквантовой криптографии, механизме Decentralized Proof of Security и децентрализованной проверке целостности устройств.

По замыслу, это позволит батарейным энергосистемам постоянно проверять надежность подключенных устройств и подтверждать, что данные поступают из доверенного источника. Такой подход особенно важен для распределенной инфраструктуры, где оборудование находится на удаленных объектах и работает без постоянного физического контроля.

Зачем нужна постквантовая защита

Компании отмечают, что аккумуляторные системы часто служат 10–15 лет и дольше. За это время требования к криптографии могут измениться, а часть современных алгоритмов в будущем может стать уязвимой для мощных квантовых компьютеров.

Один из рисков — сценарий «собрать сейчас, расшифровать позже». В этом случае злоумышленник сохраняет зашифрованные данные сегодня, чтобы расшифровать их в будущем, когда квантовые вычисления станут достаточно мощными. Это может затронуть не только конфиденциальность информации, но и управление оборудованием: прошивки, команды, журналы событий и данные обслуживания.

Где планируется применение

Компании намерены использовать разработанный фреймворк в системах хранения энергии для электросетей, возобновляемой энергетики и дата-центров. Среди других направлений — электротранспорт, робототехника и космические системы.

На данный момент речь идет не о запуске готового продукта, а о создании общей инфраструктуры для защищенного ИИ-мониторинга локальных энергосистем.

Напомним, ранее генеральный директор Keeper Security Даррен Гуччоне высказывал мнение, что ИИ и квантовые технологии могут поставить под угрозу существующие системы безопасности.

Вот перефразированный вариант новости на русском языке:

Исследователи из консорциума IC3 выяснили, что настоящее объединение криптовалют и искусственного интеллекта (ИИ) пока только зарождается. Многие громкие заявления о пользе блокчейна для ИИ пока не имеют достаточных доказательств.

Специалисты разделили тему на две части. Первая — использование ИИ в крипте. Здесь ИИ уже может помогать анализировать транзакции, искать мошенничество, находить уязвимые смарт-контракты и обрабатывать события в сети.

Вторая часть — применение криптотехнологий для ИИ. Наибольшую пользу сейчас приносят доказательства с нулевым разглашением и доверенные вычисления, которые защищают обработку данных. Более масштабные идеи, такие как децентрализованное управление ИИ, пока не стали массовыми.

Отдельно авторы разобрали популярные мифы. Например, миф о том, что блокчейн может отличить контент, созданный ИИ, от человеческого. На деле блокчейн лишь фиксирует время создания файла, но не проверяет его природу. Если ошибочный классификатор пометит контент до записи в блокчейн, сеть просто сохранит эту ошибку.

Та же проблема с происхождением данных и результатами моделей. Блокчейн может подтвердить, что в определенное время существовала конкретная версия, но он не объясняет, почему модель дала тот или иной ответ, не гарантирует правильность вычислений и не защищает от манипуляций во время обучения.

Исследователи также опровергли утверждение, что криптокошельки делают ИИ-агентов полностью автономными. Кошелек позволяет совершать действия без постоянного одобрения человека, но модель остается зависимой: оператор в любой момент может отключить сервер или инфраструктуру.

При этом авторы признают пользу криптовалют для платежей в сфере ИИ. Блокчейн может обеспечить нейтральность, устойчивость к цензуре и низкие комиссии. Однако, по их мнению, индустрии нужно не просто показывать техническую возможность таких платежей, но и доказывать их преимущества перед обычными финансовыми системами.

Говоря о децентрализованной инфраструктуре для ИИ (DePIN), эксперты отметили, что такие сети могут быть дешевле для небольших задач. Но для крупных проектов задержки, пропускная способность и связь между узлами могут сделать итоговую стоимость выше. При этом не хватает системных тестов для сравнения с облачными провайдерами.

Главный вывод IC3: рынку нужно отличать просто демонстрацию идеи от реальной полезности. Криптотехнологии могут усилить отдельные части ИИ-инфраструктуры, но не решают автоматически всех проблем с доверием, платежами, данными и эффективностью.

Ранее в Ethereum Foundation предложили использовать блокчейн как среду для проверки ИИ-агентов.

В Сингапуре запустили суперкомпьютер ASPIRE 2B, который будет использоваться для передовых исследований в области искусственного интеллекта и высокопроизводительных вычислений. Управляет системой Национальный суперкомпьютерный центр Сингапура (NSCC), сообщает TechNode Global.

ASPIRE 2B объединяет ресурсы центральных и графических процессоров на единой платформе. Такая архитектура предназначена для решения масштабных задач: обучения ИИ-моделей, обработки больших данных, научного моделирования и расчетов, которые на обычной инфраструктуре заняли бы слишком много времени.

По информации издания, ASPIRE 2B оснащен более чем 1500 графическими процессорами Nvidia H200 и достигает производительности до 115 петафлопс. Как отметила министр цифрового развития и информации Сингапура Джозефина Тео, система стала значительным обновлением национальной вычислительной инфраструктуры.

Одним из ключевых направлений работы станут климатические исследования. ASPIRE 2B позволит сочетать методы ИИ с физическим моделированием для создания более точных прогнозов экстремальных осадков, повышения уровня воды и других климатических угроз.

Ранее Сингапур уже использовал ресурсы NSCC в третьем национальном исследовании изменения климата. Тогда были созданы модели высокого разрешения, адаптированные к городским условиям страны. Эти данные помогают в планировании береговой защиты и долгосрочного развития в рамках Singapore Green Plan 2030.

Еще одна сфера применения — здравоохранение и наука. Увеличенные мощности ускорят обработку медицинских данных, моделирование сложных биологических процессов и поиск новых материалов. ASPIRE 2B также будет задействован в разработке ИИ-моделей, которые лучше учитывают языковое и культурное разнообразие Юго-Восточной Азии.

По словам министра, в будущем NSCC планирует объединить квантовый компьютер с ASPIRE 2B. Это создаст гибридную среду, где классические и квантовые вычисления смогут работать совместно. Практическое применение таких систем пока находится на стадии разработки, но возможные направления включают молекулярное моделирование и материаловедение.

Запуск ASPIRE 2B является частью обновленной национальной ИИ-стратегии, представленной в мае. В числе приоритетов — расширение вычислительных мощностей, реализация отраслевых ИИ-проектов и укрепление статуса Сингапура как международного центра искусственного интеллекта.

В январе правительство объявило о выделении более $1 млрд на государственные исследования в области ИИ и подготовку кадров на 2025–2030 годы. План включает фундаментальные исследования, прикладные разработки и развитие специалистов.

Напомним, в мае Китай запустил в космос 12 спутников в рамках проекта по созданию сети орбитальных суперкомпьютеров под руководством стартапа ADA Space и Чжэцзянской лаборатории.

Вот перефразированный вариант новости на русском языке:

OpenAI подала в Комиссию по ценным бумагам и биржам США (SEC) конфиденциальную заявку по форме S-1 для потенциального первичного публичного размещения акций (IPO). Это позволяет регулятору начать проверку документов до публикации подробной финансовой отчетности.

В компании отметили, что пока не приняли окончательного решения о сроках дальнейших шагов. OpenAI допускает, что может оставаться частной компанией еще какое-то время, так как некоторые задачи проще решать вне публичного рынка. В то же время, подача документов оставляет возможность быстрее выйти на биржу, если этот вариант будет признан наиболее подходящим.

Ранее The Wall Street Journal со ссылкой на источники сообщал, что IPO OpenAI может состояться в сентябре, а также о привлечении Goldman Sachs и Morgan Stanley к подготовке сделки. Однако в новом заявлении компания не подтвердила эти сроки.

Напомним, что OpenAI готовит трансформацию ChatGPT в ИИ-суперприложение и рассчитывает ускорить рост выручки перед выходом на биржу.

В июне стало известно, что американский штат Флорида подал иск против стартапа и его генерального директора Сэма Альтмана, обвинив их в агрессивном продвижении чат-бота ChatGPT среди подростков. Власти штата потребовали запретить спорные практики и назначить штраф.

Вот перефразированный текст новости на русском языке:

Переход сервиса GitHub Copilot на оплату по количеству токенов может стать толчком к пересмотру цен и лимитов на рынке ИИ-продуктов. К такому выводу пришли в издании TechCrunch после обсуждения в подкасте Equity.

Причиной для дискуссии стали изменения в тарифах GitHub Copilot. Компания Microsoft перевела часть пользователей с фиксированной подписки на модель, где плата взимается за количество «строительных блоков» обрабатываемых данных.

Один из пользователей Reddit назвал эту ситуацию «токен-апокалипсисом» на фоне резкого роста затрат на инструменты искусственного интеллекта.

В ходе подкаста редакторы TechCrunch Энтони Ха, Кирстен Коросек и Шон О’Кейн связали возможное изменение цен с высокой стоимостью разработки и поддержки ИИ-моделей. Ха отметил, что значительная часть рынка всё ещё субсидируется за счёт инвестиций, поэтому часть расходов со временем может лечь на конечных потребителей. По его мнению, таким компаниям, как Anthropic, по мере подготовки к IPO придётся более детально объяснять инвесторам, как они планируют снижать издержки и выходить на прибыль.

О’Кейн привёл в пример Uber. Он рассказал, что компания быстро исчерпала бюджет на ИИ-инструменты и начала ограничивать их внутреннее использование. Он выразил сомнение, что разработчики моделей смогут достаточно быстро удешевить технологии, чтобы их стоимость совпала с готовностью клиентов платить.

Коросек добавила, что подходы к ценообразованию в сфере ИИ меняются слишком стремительно. По её словам, тренд «токенмаксинга» за несколько месяцев стал заметным и вызвал раздражение на рынке.

Она также обратила внимание на ужесточение регулирования в США: 2 июня 2026 года президент Дональд Трамп подписал указ, который, как прозвучало в обсуждении, позволяет властям проверять мощные ИИ-модели до их публичного выпуска.

Напомним, в мае аналитики Gartner спрогнозировали рост расходов на ИИ в 2026 году до 2,59 триллиона долларов.