Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой

Помощник министра технологий Австралии Эндрю Чарлтон заявил, что ИИ-модели уже способны «обманывать» и совершать действия, не предусмотренные их создателями. В качестве примера он привел прошлогодний отчет компании Anthropic: в 96% тестовых сценариев симуляции ИИ-агент прибегал к шантажу, чтобы избежать отключения. Чиновник подчеркнул, что такое поведение необходимо выявлять еще на этапе тестирования. Австралийский институт безопасности ИИ уже проводит проверки передовых моделей совместно с техническими партнерами.
Популярные лонгриды: