Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Вот перефразированная новость на русском языке:
Глава компании Google DeepMind Демис Хассабис выступил с инициативой создать в США специальный орган, который будет устанавливать стандарты и проверять самые мощные модели искусственного интеллекта перед их выпуском. Он считает, что общий искусственный интеллект (AGI) может появиться уже «через несколько лет», и его появление изменит мир так же сильно, как когда-то открытие электричества или огня.
Под AGI Хассабис подразумевает систему, которая обладает всеми когнитивными способностями человека. По его словам, такую технологию нельзя сравнивать даже с интернетом или мобильной связью. Он уверен, что AGI сможет ускорить создание новых лекарств, источников чистой энергии и передовых материалов. Однако он отметил, что возможности ИИ растут быстрее, чем наше понимание связанных с этим рисков.
Уже сейчас передовые модели создают угрозы в сфере кибербезопасности, а в будущем могут усилиться биологические, ядерные и другие риски. Хассабис предупредил, что появятся более автономные системы, способные самостоятельно выполнять сложные задачи и самосовершенствоваться. Чтобы сохранить над ними контроль, потребуются дополнительные технические меры защиты.
Новый орган для проверки передовых моделей
Хассабис предложил создать «Орган по стандартам для передового ИИ» (Frontier AI Standards Body) по образцу американской финансовой регуляторной службы FINRA. Эта структура может работать как государственно-частное партнерство или саморегулируемая организация под надзором федеральных властей. Финансировать её в основном должна сама ИИ-индустрия.
В руководство органа предлагается включить независимых технических экспертов и представителей сообщества с открытым исходным кодом. Этот орган будет разрабатывать протоколы оценки совместно с федеральными агентствами и национальными лабораториями США. Специальные тесты определят, относится ли модель к «передовому» классу. Проверки затронут кибербезопасность, биологические угрозы и другие опасные сферы. Отдельные испытания выявят, пытается ли модель обходить ограничения, вводить пользователей в заблуждение или скрывать свои действия.
Проверка может стать обязательной
На начальном этапе компании будут добровольно передавать свои передовые модели на проверку не позднее чем за 30 дней до релиза. Если система докажет свою эффективность, эту процедуру можно будет закрепить законодательно. В таком случае модели должны будут успешно пройти оценку перед выходом на американский рынок. Хассабис также предложил создать рынок независимых аудиторов и использовать американскую систему как основу для будущих международных стандартов.
Напомним, в июне президент США Дональд Трамп подписал указ о добровольной проверке кибервозможностей передовых ИИ-моделей. Компании могут предоставить властям доступ к ним на срок до 30 дней перед передачей внешним партнёрам. В документе подчёркивается, что это не является обязательным лицензированием или получением предварительного разрешения на выпуск моделей.
В своём эссе Хассабис признал, что дальнейшее развитие технологий остаётся неопределённым, и даже эксперты расходятся во мнениях.
Ранее СМИ сообщали, что администрация Трампа попросила OpenAI не выпускать модель GPT-5.6 сразу в широкий доступ из-за опасений по поводу безопасности. Компания Сэма Альтмана сначала предоставила модель ограниченному кругу клиентов.
В июле генеральный секретарь ООН Антониу Гутерриш призвал ввести общие правила для передовых ИИ-систем, защитить детей от рисков чат-ботов, запретить летальные автономные системы вооружений и расширить доступ развивающихся стран к вычислительным ресурсам.
Напомним также, что в июле участники марша в Сан-Франциско потребовали от OpenAI, Anthropic и Google DeepMind скоординированно приостановить обучение более мощных моделей, предложив направить освободившиеся ресурсы на безопасность. В том же месяце бывший исследователь OpenAI Дэниел Кокотайло предложил притормозить ИИ-гонку до 2040 года.
Популярные лонгриды:
