Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Вот перефразированная новость на русском языке:
США пора переходить от добровольных отчетов к обязательным проверкам ИИ, считает глава Anthropic
Генеральный директор Anthropic Дарио Амодеи выступил с инициативой изменить подход к регулированию искусственного интеллекта в США. В своем эссе он предложил отказаться от простого раскрытия информации в пользу обязательных проверок безопасности для самых мощных ИИ-моделей.
По мнению Амодеи, пришло время заменить прозрачность на серьезное и обязательное регулирование. Вместе с эссе компания опубликовала два документа: Advanced AI Framework, посвященный контролю за передовыми моделями, и Economic Policy Framework, касающийся подготовки экономики к возможному вытеснению работников ИИ.
Внешние проверки и право вето
Амодеи предложил ввести обязательное тестирование для моделей, превышающих определенный порог вычислительной мощности. В документах Anthropic речь идет о системах, обученных с использованием более 10²⁵ операций с плавающей точкой, при условии, что разработчик зарабатывает на ИИ более 500 миллионов долларов в год или тратит на исследования и разработки в этой сфере свыше миллиарда долларов.
Проверки должна проводить независимая квалифицированная организация. Тестирование охватит четыре категории рисков:
* кибербезопасность;
* создание биологического оружия;
* потеря контроля над ИИ-системами;
* автоматизированные исследования, способные ускорить эти угрозы.
Если оценка выявит неприемлемый риск, власти должны получить право блокировать запуск или ограничивать развертывание модели. Амодеи сравнил предлагаемый режим с контролем в авиации, отметив, что самые мощные ИИ-модели, как и самолеты, должны проходить технические испытания и аудит.
Также предлагается обязать разработчиков защищать веса моделей и инфраструктуру обучения, регулярно проводить проверки безопасности, публиковать отчеты о рисках и оперативно сообщать о серьезных инцидентах.
Рынок труда: от переобучения до базового дохода
В эссе Амодеи предупредил, что ИИ может вызвать более масштабные и продолжительные сбои на рынке труда, чем предыдущие технологические революции. Возможны три сценария: безработица около 5%, 10% и беспрецедентный уровень.
В качестве мер он предложил улучшить сбор данных о вытеснении работников, ввести стимулы для сохранения занятости, запустить программы переобучения и, в худшем случае, обеспечить долгосрочную поддержку доходов, включая безусловный базовый доход.
Согласно документам компании, Anthropic направит 200 миллионов долларов в Исследовательский фонд экономического будущего для изучения экономической политики и создаст национальную программу стипендий на 150 миллионов долларов для специалистов на ранних этапах карьеры.
Гражданские свободы
Отдельный раздел эссе Амодеи посвятил гражданским свободам. Он предложил закрепить правила подотчетности для полностью автономного оружия, запретить его применение внутри США и закрыть лазейку, позволяющую покупать данные у брокеров для массовой слежки.
Еще одна идея — обеспечить гражданам доступ к ИИ, не уступающему тому, который государство использует против них в регуляторных или судебных процедурах. По мнению Амодеи, без такого баланса ИИ может усилить преимущество властей.
Эссе было опубликовано на следующий день после запуска Claude Fable 5 и Claude Mythos 5. Anthropic назвала Fable 5 самой мощной из своих общедоступных моделей, а Mythos 5 — версией той же базовой модели с ослабленными ограничениями для ограниченного круга партнеров Project Glasswing.
Напомним, что в июне сотрудники Anthropic заметили признаки приближения к рекурсивному самосовершенствованию ИИ. В компании допустили, что обществу может потребоваться механизм для замедления разработки передовых моделей, чтобы институты и исследования безопасности успевали за прогрессом.
Популярные лонгриды:
