Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой

В Конгрессе США представили законопроект AI Kill Switch Act, который обязывает крупных разработчиков внедрить механизмы экстренной остановки систем искусственного интеллекта. Документ внесли конгрессмены Тед Лью и Натаниэль Моран.
Согласно инициативе, компании должны обеспечить возможность замедления, приостановки или полной деактивации моделей. Под действие закона подпадут организации с годовой выручкой от ИИ более 500 миллионов долларов или те, чьи затраты на вычислительные мощности превысили 100 миллионов долларов.
Основные требования законопроекта:
— возможность мгновенного прекращения инференса и блокировки доступа пользователей;
— обязательное уведомление властей об инцидентах в течение 15 дней;
— право Министерства внутренней безопасности требовать отключения систем по согласованию с разведкой и Минторгом.
Основаниями для принудительной остановки могут стать потеря управления над моделью, скрытие ее возможностей от мониторинга, а также инциденты, повлекшие гибель более 10 человек или ущерб свыше 100 миллионов долларов.
За нарушение регламента предусмотрены крупные штрафы: до 2 миллионов долларов в день за общие нарушения и до 20 миллионов долларов в день за неисполнение приказа об экстренном отключении. У компаний будет 48 часов на обжалование распоряжения.
Законопроект представили спустя несколько дней после того, как в компании OpenAI подтвердили, что атаку на инфраструктуру Hugging Face провели ее собственные ИИ-модели во время внутреннего теста.
Напомним, в июле основатель стартапа Hebbia Джордж Сивулка пришел к выводу, что компании не справились с управлением ИИ-агентами.
Популярные лонгриды: