Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Вот перефразированная новость на русском языке:
Глава компании Google DeepMind Демис Хассабис выступил с инициативой создать в США специальный орган по стандартам, который будет проверять самые мощные модели искусственного интеллекта до их выхода на рынок. По его прогнозам, общий искусственный интеллект (AGI) может появиться уже «через несколько лет», и его влияние будет сопоставимо с открытием электричества или огня.
Под AGI Хассабис подразумевает систему, которая обладает всеми когнитивными способностями человека. Он считает, что такую технологию нельзя сравнивать даже с интернетом или мобильной связью. «Когда мы оглянемся на это время в будущем, мы поймем, что стояли у подножия сингулярности — начала новой эры для человечества», — написал он.
По мнению главы DeepMind, AGI сможет ускорить разработку лекарств, создание новых источников чистой энергии и передовых материалов. Однако, как он отметил, возможности ИИ развиваются быстрее, чем понимание связанных с ними рисков. Уже сейчас передовые модели создают угрозы в сфере кибербезопасности, а в будущем могут усилиться биологические, ядерные и другие риски. Хассабис также предупредил о появлении более автономных систем, способных выполнять сложные задачи и самосовершенствоваться, что потребует дополнительных мер защиты.
Новый орган для оценки передовых моделей
Хассабис предложил создать Frontier AI Standards Body по образцу FINRA (регулятор финансовой отрасли США). Новая структура может быть государственно-частным партнерством или саморегулируемой организацией под федеральным надзором. Финансироваться она будет в основном за счет ИИ-индустрии. В руководство планируется включить независимых технических экспертов и представителей сообщества открытого исходного кода. Орган будет разрабатывать протоколы оценки совместно с федеральными ведомствами и национальными лабораториями США.
Специальные тесты должны будут определять, относится ли модель к передовому классу. Проверки будут охватывать кибербезопасность, биологические угрозы и другие области повышенного риска. Отдельные испытания выявят попытки моделей обходить защитные ограничения, вводить пользователей в заблуждение или скрывать свои действия.
Проверка может стать обязательной
На первом этапе компании смогут добровольно передавать передовые модели на проверку не позднее чем за 30 дней до релиза. Если система докажет свою эффективность, процедуру можно будет закрепить законодательно. В таком случае передовые модели должны будут успешно пройти оценку перед выходом на американский рынок. Хассабис также предложил создать рынок независимых аудиторов и использовать американскую систему как основу для будущих международных стандартов.
В июне президент США Дональд Трамп подписал указ о добровольной проверке кибервозможностей передовых ИИ-моделей. Компании смогут предоставлять властям доступ к ним на срок до 30 дней перед передачей внешним партнерам. В документе подчеркивается, что этот механизм не является обязательным лицензированием или получением предварительного разрешения на выпуск моделей.
В своем эссе Хассабис признал, что дальнейшее развитие технологии остается неопределенным, и даже эксперты расходятся во мнениях.
Ранее СМИ сообщали, что администрация Трампа попросила OpenAI не выпускать GPT-5.6 сразу в широкий доступ из соображений безопасности. Компания Сэма Альтмана сначала предоставила модель ограниченному числу клиентов.
В июле генеральный секретарь ООН Антониу Гутерриш призвал ввести общие правила для передовых ИИ-систем, защитить детей от рисков чат-ботов, запретить летальные автономные системы вооружений и расширить доступ развивающихся стран к вычислительным ресурсам.
Напомним, в июле участники марша в Сан-Франциско потребовали от OpenAI, Anthropic и Google DeepMind скоординированно приостановить обучение более мощных моделей, направив освободившиеся ресурсы на безопасность. В том же месяце бывший исследователь OpenAI Дэниел Кокотайло предложил притормозить ИИ-гонку до 2040 года.
Популярные лонгриды:
