• нейросети
  • новости
  • 22 июл. 24

Экс-сотрудник Microsoft считает нейросеть Copilot опасной

Шейн Джонс был инженером в технологической корпорации в течение шести лет. По мнению бывшего сотрудника компании, нейросеть от Microsoft производит недопустимый контент.

  • 1246
  • 0
  • 0
nftru
  • рейтинг +113
  • подписчики 22

Бывший сотрудник Microsoft Шейн Джонс был инженером в технологической корпорации в течение шести лет. По мнению экс-работника компании, нейросеть Copilot от Microsoft производит непристойный контент. Об этом пишет издание Forklog. 

«Беда в том, что если этот продукт начнет распространять сомнительные изображения по всему миру, то некуда будет сообщить об этом. Нет номера телефона, по которому можно позвонить, чтобы немедленно принять меры и прекратить это», — добавил Джонс.

Экс-работник Microsoft отмечает, что чат-бот Copilot может генерировать непристойные изображение, а также нейросеть игнорирует авторские права. Кроме того, Джонс заявил, что предупреждал руководство корпорации о неприличном поведении ИИ-технологии. Однако, как считает бывший сотрудник компании, Microsoft не приняли никаких соответствующих мер регулирования по отношению к Copilot Designer. 

Экс-сотрудник Microsoft считает нейросеть Copilot опасным // Иллюстрация: Midjourney
Экс-сотрудник Microsoft считает нейросеть Copilot опасным // Иллюстрация: Midjourney

«В течение последних трех месяцев я неоднократно призывал Microsoft изъять Copilot Designer из публичного использования до тех пор, пока не будут созданы более надежные средства защиты», — считает Джонс.

По его мнению, нейросеть ежедневно получает более тысячи отрицательных отзывов. При этом разработчики расследуют только самые вопиющие нарушения. Для решения проблемы корпорации требуются значительные инвестиции, которые помогут разработать новые модели или переобучить старые. Однако у компаний не хватает на все это ресурсов. До сих пор приложение Copilot Designer для Android имеет рейтинг «E for Everyone», что означает, что сервис не имеет возрастных ограничений и полностью безопасен. 

«Беда в том, что если этот продукт начнет распространять сомнительные изображения по всему миру, то некуда будет сообщить об этом. Нет номера телефона, по которому можно позвонить, чтобы немедленно принять меры и прекратить это», — отметил экс-сотрудник Microsoft. 

  • 1246
  • 0
  • 0