Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Вот перефразированный вариант новости на русском языке:
Глава компании Google DeepMind Демис Хассабис выступил с инициативой создать в Соединённых Штатах специальный орган по стандартизации, который будет проверять самые мощные модели искусственного интеллекта до их выхода на рынок. По его прогнозам, общий искусственный интеллект (AGI) может появиться уже «через несколько лет», и его влияние будет столь же значительным, как изобретение электричества или огня.
Под AGI Хассабис подразумевает систему, способную выполнять все когнитивные функции человеческого мозга. Он считает, что такую технологию нельзя сравнивать даже с интернетом или мобильной связью. «Когда мы оглянемся на это время через десятилетия, я думаю, мы поймём, что стояли у подножия сингулярности — это не что иное, как начало новой эры для человечества», — написал Хассабис.
Руководитель DeepMind полагает, что AGI сможет ускорить создание лекарств, новых источников чистой энергии и передовых материалов. Однако он отметил, что возможности ИИ развиваются быстрее, чем понимание связанных с ними рисков. Уже сейчас современные модели создают угрозы в сфере кибербезопасности, а с ростом их возможностей могут усилиться биологические, ядерные и другие риски. Хассабис также предупредил о появлении более автономных систем, способных выполнять сложные задачи и самостоятельно совершенствоваться, что потребует дополнительных технических мер для сохранения контроля.
Новый орган определит передовые модели
Хассабис предложил создать Frontier AI Standards Body по образцу FINRA (регулятор финансовой отрасли США). Новая структура может работать как государственно-частное партнёрство или саморегулируемая организация под федеральным надзором. Финансировать её должна в основном ИИ-индустрия. В руководство планируется включить независимых технических экспертов и представителей сообщества открытого исходного кода. Орган будет разрабатывать протоколы оценки совместно с федеральными ведомствами и национальными лабораториями США.
Специальные тесты должны будут определять, относится ли модель к передовому классу. Проверки охватят кибербезопасность, биологические угрозы и другие области повышенного риска. Отдельные испытания будут выявлять попытки моделей обходить защитные ограничения, вводить пользователей в заблуждение или скрывать свои действия.
Проверку могут сделать обязательной
На первом этапе компании будут добровольно передавать передовые модели на проверку не позднее чем за 30 дней до релиза. После подтверждения эффективности системы процедуру можно будет закрепить законодательно. Тогда передовые модели должны будут успешно пройти оценку перед выходом на американский рынок. Хассабис также предложил создать рынок независимых аудиторов и использовать американскую систему как основу для будущих международных стандартов.
В июне президент США Дональд Трамп подписал указ о добровольной проверке кибервозможностей передовых ИИ-моделей. Компании смогут предоставлять властям доступ к ним на срок до 30 дней перед передачей внешним доверенным партнёрам. Документ прямо запрещает трактовать этот механизм как обязательное лицензирование или получение предварительного разрешения на выпуск моделей.
В самом эссе Хассабис признал, что дальнейшее развитие технологии остаётся неопределённым, и даже специалисты расходятся во мнениях.
Ранее СМИ сообщали, что администрация Трампа попросила OpenAI не выпускать GPT-5.6 сразу в широкий доступ из-за опасений по поводу безопасности. Компания Сэма Альтмана сначала предоставила модель ограниченному числу клиентов.
В июле генеральный секретарь ООН Антониу Гутерриш призвал ввести общие правила для передовых ИИ-систем, защитить детей от рисков чат-ботов, запретить летальные автономные системы вооружений и расширить доступ развивающихся стран к вычислительным ресурсам.
Напомним, в июле участники марша в Сан-Франциско потребовали от OpenAI, Anthropic и Google DeepMind скоординированно приостановить обучение более мощных моделей. Освободившиеся ресурсы они предложили направить на безопасность. В том же месяце бывший исследователь OpenAI Дэниел Кокотайло предложил притормозить ИИ-гонку до 2040 года.
Популярные лонгриды:
