sejournal.io

Космическая компания Илона Маска SpaceX и её дочерняя фирма по искусственному интеллекту xAI участвуют в секретном конкурсе Пентагона. Цель конкурса — создание роя автономных дронов, управляемых голосовыми командами. Об этом сообщает Bloomberg.

Участие компаний Маска в разработке вооружений на базе ИИ представляет собой новый и потенциально спорный шаг для миллиардера. Ранее он выступал против создания автономного оружия, подписывая письма с предупреждениями об его опасности.

Детали проекта Пентагона:
* В шестимесячном тендере с фондом $100 млн участвует ограниченное число компаний.
* Задача — разработать технологию, переводящую голосовые команды в инструкции для одновременного управления десятками дронов.
* Проект включает пять этапов, от разработки ПО до реальных испытаний. Дроны планируется использовать в наступательных целях.

Участие других ИИ-компаний:
* OpenAI поддерживает заявку компании Applied Intuition, но только в части создания «центра управления» для перевода голоса в команды. Её технологии не будут использоваться для непосредственного управления дронами или выбора целей.
* Anthropic (создатель Claude) сталкивается с трудностями в сотрудничестве с Пентагоном из-за своей строгой этической политики, запрещающей использование ИИ для летальных автономных операций и массовой слежки. Это может привести к разрыву отношений.

Контекст:
Пентагон активно наращивает использование ИИ в военных целях, включая планирование операций и наведение на цели. Ведомство оказывает давление на крупные ИИ-компании, чтобы те разрешили применять свои технологии для «всех законных целей», включая разработку оружия и боевые операции.

Три компании — OpenAI (ChatGPT), Google (Gemini) и xAI (Grok) — уже согласились ослабить некоторые ограничения для Пентагона. Обсуждается перенос их больших языковых моделей в секретный контур для более широкого использования.

Стартап Илона Маска xAI сознательно разрешил создание откровенного контента в Grok для роста популярности

ИИ-стартап xAI Илона Маска намеренно разрешил генерацию сексуализированного контента в своем чат-боте Grok, чтобы повысить его популярность. Об этом сообщает The Washington Post со ссылкой на инсайдеров.

Весной 2025 года сотрудников компании попросили подписать согласие на работу с материалами «для взрослых», предупредив, что это может вызывать психологический стресс. Этот шаг вызвал беспокойство у специалистов, которые настраивали ответы Grok, так как противоречил декларируемой миссии xAI по «ускорению научных открытий».

В последующие месяцы персонал столкнулся с большим объемом аудиозаписей интимного характера, которые использовались для обучения нейросетей. В данные попали как личные диалоги пользователей с Grok, так и откровенные разговоры в автомобилях Tesla.

После ухода из проекта DOGE Маск стал активно участвовать в работе xAI, требуя повысить вовлеченность пользователей, измеряемую в «секундах активности». В итоге компания сделала ставку на создание NSFW-контента и ИИ-компаньонов, проигнорировав предупреждения о юридических и этических рисках.

При этом в xAI лишь несколько человек отвечали за предотвращение серьёзных угроз, в то время как у конкурентов вроде OpenAI такие команды насчитывают десятки специалистов. Команда безопасности X неоднократно предупреждала, что инструменты позволяют создавать неприемлемые изображения.

В декабре стартап встроил в соцсеть X инструменты для редактирования изображений и видео, что привело к взрывному распространению контента с сексуальным подтекстом. Это вызвало расследования и блокировки Grok в ряде стран, после чего xAI отключила функцию генерации откровенных изображений реальных людей. Маск заявил, что не знает о случаях использования бота для создания детской порнографии.

Несмотря на скандалы, стратегия сработала: после обновления Grok ворвался в топ-10 приложений App Store, а ежедневные загрузки в январе выросли на 72% по сравнению с декабрем.

OpenAI также меняет приоритеты

Параллельно компания OpenAI, по данным Financial Times, для удержания лидерства сосредоточилась на развитии ChatGPT в ущерб долгосрочным исследованиям. Это привело к оттоку ключевых сотрудников и свёртыванию проектов, не связанных с языковыми моделями, таких как Sora и DALL-E.

В декабре OpenAI объявила «красный код», направив все ресурсы на улучшение ChatGPT и отложив другие инициативы. Руководство компании, однако, отрицает, что фундаментальные исследования отошли на второй план.

Компания Илона Маска SpaceX приобрела его же стартап в области искусственного интеллекта xAI, образовав самую дорогую частную компанию в мире.

Источник: ForkLog