Google снижает ценность и удаляет спам, связанный с геолокацией, в рамках мер по борьбе с вредоносным программным обеспечением на основе искусственного интеллекта.

В середине мая Google ввела обновленные правила управления своей экосистемой генеративного поиска. В центре этого изменения политики находится официальная переклассификация злонамеренных техник манипулирования под категорию спама в рамках концепции «Оптимизация генеративных моделей (GEO)». Этот шаг свидетельствует о решительных действиях Google против рекламодателей и веб-сайтов, которые заранее подготавливают и искажают потоки информации с целью обмана искусственного интеллекта и вызывания ошибок в его работе.

«Защита» Google: Почему выбрано противодействие «отравлению ИИ»?

«Отравление ИИ» стало одной из самых сложных проблем в области управления в эпоху больших моделей. Эта стратегия заключается в массовом производстве фальшивых «маркетинговых рассказов» с помощью генеративных моделей заранее, а затем их распространении в интернете с использованием техник SEO, в результате чего большие модели начинают рассматривать эти ложные данные как достоверную информацию в процессе обучения или анализа.

Когда пользователи задают вопрос искусственному интеллекту, он может представлять эти искаженные данные как «авторитетные источники» в результатах поиска. Поскольку надежность поисковых результатов является основой коммерческой деятельности Google, такой вид отравления ИИ напрямую угрожает её основным ценностям.

Триуровневые санкции Google

В соответствии с последней политикой по борьбе со спамом в поисковых результатах Google применяет строгие меры против техник манипулирования, направленных на влияние на содержимое, генерируемое искусственным интеллектом:

Прямое понижение ранга: Сайты, подозреваемые в манипулировании результатами поиска ИИ, будут столкнуться с значительным снижением своего ранга на традиционных поисковых страницах.

Удаление содержимого из результатов поиска ИИ: Нарушающее правила содержимое будет автоматически удалено из результатов поиска ИИ, чтобы искусственный интеллект больше не ссылался на эти искаженные источники.

Полное блокирование сайта: Для сайтов, которые часто и массово используют техники GEO для создания спама, Google сохраняет за собой право полностью исключить их из поискового индекса.

Мнения отрасли: «Долгая война», решающая только симптомы

Несмотря на принятые Google меры, отрасль сохраняет осторожный оптимизм. Некоторые эксперты по поисковым технологиям отмечают, что хотя эта политика может сдерживать некоторые простые формы манипулирования, решение проблемы «отравления ИИ» все еще представляет серьезные трудности:

Секретность передачи данных: Традиционные методы манипулирования, основанные на включении ключевых слов, уже были отфильтрованы искусственным интеллектом, однако современные методы «передачи данных высокого уровня» — использование поддельных отзывов, имитированных оценок экспертов и сложных рекомендаций из социальных сетей — по-прежнему находятся в зоне неопределенности с точки зрения правил регулирования.

Нормализация игры «кошка-мышь»: Генеративные модели нуждаются в обновленных данных для своей работы, и это создает возможности для появления спама. Пока искусственные интеллекты опираются на реальные данные из интернета, игра «кошка-мышь» между рекламодателями и поисковыми системами будет продолжаться.

Граница между семантикой и фактами: Различие между «ложной маркетинговой информацией» и «легитимным коммерческим контентом» часто связано с неоднозначностью контекста. Обеспечение того, чтобы алгоритмы управления не наносили вреда нормальному коммерческому контенту, также является серьезной технической проблемой для Google.

Вывод

Решение Google включить спам, связанный с использованием техник GEO, в рамки своей системы управления — это неизбежный шаг в эпоху искусственного интеллекта. В будущем акцент в SEO, вероятно, сместится с вопросов «как заставить поисковые системы собирать контент» на вопросы «как доказать достоверность и происхождение контента». Однако борьба за чистоту информации еще далеко не завершена. Найти баланс между гибкостью моделей и сохранением чистоты источников информации будет долгосрочной задачей для Google и всех поисковых систем мира.