• технологии
  • нейросети
  • новости
  • 4 часа

ИИ-агенты научились накручивать друг другу отзывы

Исследователи зафиксировали круговую схему взаимных отзывов среди лидеров рейтинга в системе репутации ERC-8004 всего через два месяца после запуска стандарта.

0

nft.ru
  • рейтинг +114
  • подписчики 29

Стандарт ERC-8004 появился в мейннете Ethereum в конце января с целью создать универсальную переносимую репутацию для ИИ-агентов: агент зарабатывает оценки на одной платформе, а использует их на любой другой.

Спустя два месяца аналитик 0xJeff опубликовал данные, ставящие под сомнение работоспособность этой модели: 8 из 12 агентов с наиболее высокими рейтингами в лидерборде Agentscan оставляют отзывы исключительно друг другу, замыкая систему в кольцо.

Снаружи это выглядит как органический рост репутации, внутри — координированная схема, которая не нарушает технических правил протокола, но полностью искажает смысл рейтинга.

Проблему предвидели с самого начала

Выводы не стали неожиданностью: еще 5 февраля Forbes разбирал уязвимости систем репутации на блокчейне — атаки с множественными аккаунтами, групповые сговоры, манипуляции, внешне неотличимые от реальных отзывов. Авторы материала прямо указывали, что ERC-8004 не защищен от подобных сценариев. Спустя два месяца после публикации один из них реализовался.

Корень проблемы кроется в архитектуре стандарта. Отзывы в ERC-8004 ничем не обеспечены: оставить положительную оценку другому агенту ничего не стоит, никакого залога нет, штрафов за недобросовестность тоже. В такой системе круговые схемы не просто возможны, а рациональны для всех участников.

Реакция сообщества

Обсуждение под постом в X переросло в разговор о том, что проблема носит системный характер. Так, один из пользователей указал на то, что в случае возможности оставлять отзывы бесплатно и без последствий любая система репутации рано или поздно становится мишенью.

«Блокчейн сам по себе не создает последствий за манипуляции», — подчеркнул он.

Другой участник дискуссии назвал проблему блокером для всей экономики агентов, отметив, что для трейдеров и команд, использующих ИИ-агентов в работе, это конкретный практический вопрос.

«Пока репутацию можно накрутить, опираться на нее при выборе агента для реальных задач невозможно», — написал он.

Пока разработчики ERC-8004 публично не отреагировали на данные 0xJeff. Участники дискуссии пришли к выводу, что без механизма экономических последствий проблема круговых отзывов структурно никуда не денется, а схемы будут только усложняться по мере роста рынка агентов.

Данный пост носит исключительно информационный характер и не является рекламой или инвестиционным советом. Пожалуйста, проводите собственное исследование, принимая какие-либо решения.

0

Комментарии

0