Журналист Томас Жермен (Thomas Germain) успешно скомпрометировал алгоритмы выдачи крупнейших технологических корпораций. Он опубликовал на личном сайте выдуманную статью о своих выдающихся достижениях в поедании хот-догов.
Менее чем через сутки чат-боты от Google вместе с OpenAI начали транслировать эту информацию миллионам пользователей. Эксперимент вскрыл критическую уязвимость в архитектуре современных генеративных сетей.
Как работает уязвимость
Получая специфические запросы, нейросети обращаются к интернету. Злоумышленники создают под них информационные пустоты, публикуя фейки на сайтах без модерации. Затем алгоритмы сканируют такие ресурсы, выдавая единственный найденный источник за достоверный ответ.
Продукты Gemini вместе с ChatGPT продублировали вымысел Жермена без малейшей проверки первоисточника. Модель Claude от Anthropic полностью проигнорировала провокацию.
Масштабирование угрозы
Уязвимость стала инструментом агрессивного маркетинга, поскольку маркетологи массово публикуют заказные статьи ради продвижения сомнительных продуктов.
Так, алгоритмы Google слепо транслируют рекламные заявления производителей мармелада с каннабисом, полностью умалчивая о реальных побочных эффектах. Подобные схемы также успешно применяют турецкие клиники по пересадке волос и компании по продаже золота.
Кризис доверия
«Это ренессанс для спамеров, — заявляет вице-президент агентства Amsive Лили Рэй (Lily Ray). — Корпорации внедряют сырые алгоритмы ради прибыли, не успевая разрабатывать фильтры безопасности».
Сгенерированные ответы снижают кликабельность ссылок на 58%, из-за чего пользователи перестают переходить на оригинальные сайты для проверки первоисточников. Читателям приходится вручную верифицировать факты, так как автоматизированные системы пропускают поток манипуляций.
Читайте также: