Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Вот перефразированный текст новости на русском языке:
Исследователи из Чжэцзянского университета и компании Alibaba представили на конференции ICML 2026 в Сеуле новый тип атак на системы искусственного интеллекта. Их цель — не взлом модели или кража данных, а намеренное замедление её работы до полной потери функциональности.
Как работает новая атака
Рассуждающие модели, в отличие от обычных языковых моделей, перед ответом разбивают задачу на последовательные этапы. Их всё чаще применяют в системах, требующих сложного многоступенчатого анализа.
При обработке неполных или противоречивых данных такие модели склонны к излишним размышлениям — они генерируют слишком длинные цепочки рассуждений. Это увеличивает время обработки запросов и расход вычислительных ресурсов. В автоматических системах это создаёт возможность для DoS-атак.
Учёные разработали метод, который намеренно провоцирует такое поведение. Генетический алгоритм изменяет условия задач, удаляет важные исходные данные и добавляет лишние. Затем он отбирает те варианты, которые вызывают самый длинный ответ.
На тестовом наборе задач MATH длина рассуждений увеличилась в 26,1 раза. Разработанный метод превзошёл существующие способы подобного воздействия. Уязвимыми оказались модели DeepSeek-R1, Qwen3-Thinking, GPT-o3 и Gemini 2.5 Flash.
Авторы также обнаружили, что запросы, созданные для одной небольшой модели, оказались эффективны и против других систем, включая крупные коммерческие проекты. Это позволяет готовить атаки на закрытые сервисы с минимальными затратами.
«Мы не стремимся показать, что масштабные атаки возможны дёшево, а хотим зафиксировать сам факт существования такой уязвимости», — отметил исследователь Вэй Цао в комментарии для IEEE Spectrum.
Почему это важно
Рассуждающие модели всё чаще используются в агентных ИИ-системах, включая торговых ботов, инструменты проверки смарт-контрактов и децентрализованную инфраструктуру.
В сфере DeFi цифровые ассистенты на базе ИИ управляют реальными средствами без участия человека. Сбой в логике, в том числе вызванный намеренно, создаёт операционные риски.
Новое исследование опирается на уже известную особенность рассуждающих моделей — склонность к излишним размышлениям. В феврале 2025 года группа учёных проанализировала 4018 агентных траекторий и выявила повторяющиеся модели чрезмерного обдумывания:
* Аналитический паралич — модель продолжает рассуждать вместо выполнения задачи.
* Непредсказуемые действия — после ошибки пытается выполнить несколько действий одновременно.
* Преждевременное завершение — прекращает выполнение задачи, не проверив результат.
Рассуждающие модели оказались более склонны к излишним размышлениям. Чем сильнее этот эффект, тем ниже их эффективность.
Напомним, в начале июля 2026 года аналитики предупредили, что дальнейшее развитие компаний OpenAI и Anthropic всё сильнее зависит от доступности вычислительных мощностей, финансирования дата-центров и регуляторных решений.
Популярные лонгриды:
