
Стартап Илона Маска xAI сознательно разрешил создание откровенного контента в Grok для роста популярности
ИИ-стартап xAI Илона Маска намеренно разрешил генерацию сексуализированного контента в своем чат-боте Grok, чтобы повысить его популярность. Об этом сообщает The Washington Post со ссылкой на инсайдеров.
Весной 2025 года сотрудников компании попросили подписать согласие на работу с материалами «для взрослых», предупредив, что это может вызывать психологический стресс. Этот шаг вызвал беспокойство у специалистов, которые настраивали ответы Grok, так как противоречил декларируемой миссии xAI по «ускорению научных открытий».
В последующие месяцы персонал столкнулся с большим объемом аудиозаписей интимного характера, которые использовались для обучения нейросетей. В данные попали как личные диалоги пользователей с Grok, так и откровенные разговоры в автомобилях Tesla.
После ухода из проекта DOGE Маск стал активно участвовать в работе xAI, требуя повысить вовлеченность пользователей, измеряемую в «секундах активности». В итоге компания сделала ставку на создание NSFW-контента и ИИ-компаньонов, проигнорировав предупреждения о юридических и этических рисках.
При этом в xAI лишь несколько человек отвечали за предотвращение серьёзных угроз, в то время как у конкурентов вроде OpenAI такие команды насчитывают десятки специалистов. Команда безопасности X неоднократно предупреждала, что инструменты позволяют создавать неприемлемые изображения.
В декабре стартап встроил в соцсеть X инструменты для редактирования изображений и видео, что привело к взрывному распространению контента с сексуальным подтекстом. Это вызвало расследования и блокировки Grok в ряде стран, после чего xAI отключила функцию генерации откровенных изображений реальных людей. Маск заявил, что не знает о случаях использования бота для создания детской порнографии.
Несмотря на скандалы, стратегия сработала: после обновления Grok ворвался в топ-10 приложений App Store, а ежедневные загрузки в январе выросли на 72% по сравнению с декабрем.
OpenAI также меняет приоритеты
Параллельно компания OpenAI, по данным Financial Times, для удержания лидерства сосредоточилась на развитии ChatGPT в ущерб долгосрочным исследованиям. Это привело к оттоку ключевых сотрудников и свёртыванию проектов, не связанных с языковыми моделями, таких как Sora и DALL-E.
В декабре OpenAI объявила «красный код», направив все ресурсы на улучшение ChatGPT и отложив другие инициативы. Руководство компании, однако, отрицает, что фундаментальные исследования отошли на второй план.
Популярные лонгриды:
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой