Все новости крипты
в одном месте!
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Больше не нужно искать — необходимые
обучающие материалы и подсказки всегда под рукой
Вот перефразированная новость на русском языке:
Компания Google ужесточила правила использования своих поисковых инструментов на основе искусственного интеллекта. Причиной стал публичный эксперимент журналиста BBC Томаса Жермена.
Ещё в феврале Жермен выяснил, что результаты поисковой выдачи, сформированные ИИ, можно легко подделать. Этим активно пользуются недобросовестные компании, в основном для рекламы.
«Мы нашли случаи, когда ChatGPT, Gemini и ИИ-ответы Google выдавали предвзятую информацию на такие серьёзные темы, как здоровье и личные финансы», — заявил журналист.
Всего за 20 минут ему удалось «обмануть» нейросеть. В открытых результатах Gemini называла Жермена «чемпионом мира по поеданию хот-догов».
«Шутка глупая, но проблема серьёзная», — добавил автор BBC.
Ещё в апреле Google сообщала, что фиксирует атаки с использованием «инъекции промпта» (prompt injection). Однако недавний случай заставил компанию отнестись к угрозе серьёзнее.
В компании отдельно отметили SEO-сценарии, когда владельцы сайтов пытаются заставить ИИ рекомендовать именно их бизнес или продукт.
Google официально приравнял такие действия к спаму. Теперь спамом считается не только манипуляция ранжированием ссылок, но и попытка повлиять на генеративные ответы ИИ.
Сайты, вставляющие скрытые инструкции для AI Overviews или AI Mode, могут быть понижены в выдаче или полностью исключены из поиска. Таким образом Google распространяет старые принципы борьбы с SEO-манипуляциями на ИИ-поиск (AIO/GEO).
Что такое непрямая «инъекция промпта»?
С технической точки зрения это косвенное внедрение подсказок для модели. В отличие от обычного взлома ИИ, где пользователь напрямую обходит ограничения, здесь вредоносная инструкция прячется во внешних данных:
— веб-страницах;
— документах;
— письмах;
— другом контенте, который ИИ использует для ответа.
В Google назвали непрямую «инъекцию промпта» одной из главных угроз для агентских ИИ-систем. Проблема в том, что модель не всегда может отличить запрос пользователя от вредоносной инструкции.
В документации по безопасности Gemini сказано, что защититься от таких атак одним способом невозможно. Компания делает ставку на комбинацию фильтрации контента, настройки поведения моделей и постоянного тестирования новых сценариев манипуляции.
При этом Google не запрещает использование ИИ или автоматизацию как таковую. Контент, созданный ИИ, допустим, если он приносит пользу, а не используется для манипуляции.
Напомним, в мае компания представила Gemini 3.5 Flash — «самую мощную» ИИ-модель в области программирования и создания агентов.
Популярные лонгриды:
