Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой

Anthropic и Accenture договорились о партнерстве: в течение пяти лет они планируют совокупно вложить не менее $2 млрд в независимую оценку передовых ИИ-моделей. Проект возглавит Faculty — специализированное ИИ-подразделение Accenture. Оно займется оценкой моделей, редтимингом, проверками выравнивания и тестированием защитных механизмов.
Инициатива связана с концепцией «встроенных оценщиков», о которой CEO Anthropic Дарио Амодеи говорил в июне. Предполагается, что такие команды должны работать внутри ИИ-компаний и иметь доступ, сравнимый с правами сотрудников: следить за обучением и развертыванием моделей, внутренними решениями, общаться с персоналом, проверять соблюдение обязательств по безопасности и искать уязвимости в процессах.
В сентябре Амодеи призвал замедлить развитие передовых ИИ-моделей из-за растущих рисков безопасности, упомянув инцидент с OpenAI и Hugging Face. Он предложил три направления: международные договоренности, единые отраслевые правила и независимые проверки внутри лабораторий.
Партнерство с Accenture не эксклюзивно: Anthropic в ближайшие недели планирует объявить о сотрудничестве с другими оценщиками, а Accenture будет работать со сторонними ИИ-разработчиками в аналогичном формате. Также ведутся переговоры с некоммерческой организацией METR о пилотном проекте встроенной оценки за счет ее собственного финансирования.
В долгосрочной перспективе Anthropic рассчитывает, что независимые проверки будут финансироваться из объединенных или государственных источников — как предусмотрено инициативой Advanced AI Framework. Пока таких механизмов нет, компания напрямую платит Accenture, признавая, что это создает противоречие с точки зрения независимости оценщика.
Напомним, CEO Nvidia Дженсен Хуанг выступил против регуляторного замедления ИИ, назвав безопасность технологии «инженерной проблемой».
Популярные лонгриды: