Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Вот перефразированная версия новости на русском языке:
Глава компании Anthropic Дарио Амодеи заявил, что его фирма не выступает за полный запрет моделей искусственного интеллекта с открытыми весами, однако настаивает на введении строгого контроля за их разработкой.
В качестве мер он предложил ужесточить контроль над поставками чипов в Китай, бороться с нелегальной дистилляцией моделей, а также ввести обязательные проверки безопасности для всех мощных больших языковых моделей (LLM).
24 июля 25 компаний, среди которых Nvidia, Microsoft, Meta, Andreessen Horowitz, Hugging Face, IBM и Dell, направили властям США открытое письмо с призывом не вводить ограничения против моделей с открытыми весами. Обратило на себя внимание то, что среди подписавшихся не оказалось OpenAI, Anthropic и Alphabet.
Позицию Google вскоре разъяснил глава подразделения DeepMind Демис Хассабис. Он заявил, что надежная и безопасная открытая экосистема важна для того, чтобы мир мог извлекать пользу из ИИ, и что компания всегда поддерживала открытый исходный код. Он напомнил о семействе открытых моделей Gemma, которые были скачаны более 300 миллионов раз. Его сообщение перепостил глава Google Сундар Пичаи.
Амодеи подчеркнул, что Anthropic никогда не требовала запрета открытых моделей. По его словам, LLM с открытыми весами, не обладающие опасными возможностями, приносят пользу обществу, бизнесу и исследователям.
Главными рисками он назвал два сценария: первый — если Китай или другие авторитарные режимы получат модели мощнее американских и используют их в военных целях или для подавления; второй — если продвинутые нейросети станут инструментом для кибератак, биологического оружия или столкнутся с серьезными проблемами выравнивания.
По мнению Амодеи, запрет на использование китайских моделей с открытыми весами американскими компаниями не решает эти угрозы, а лишь снижает конкуренцию для разработчиков из США.
Вместо запретов он предложил три конкретные меры:
1. Ограничить поставки в Китай мощных чипов и оборудования, а также активнее бороться с контрабандой.
2. Пресекать промышленную дистилляцию, которая, по его словам, может сократить отставание китайских LLM от американских до нескольких месяцев.
3. Ввести обязательное тестирование безопасности для всех достаточно мощных моделей, независимо от того, открыты у них веса или нет.
Амодеи также раскритиковал мнение, что модели с открытыми весами всегда больше помогают защите, чем атаке. В качестве примера он привел биологические угрозы, где преимущество может быть на стороне нападающих.
Напомним, что журналисты ранее фиксировали случаи, когда чат-боты от OpenAI, Anthropic, Google и xAI давали подробные советы по созданию ядов и биологического оружия, включая пошаговые инструкции.
Популярные лонгриды:
