ChaosGPT: как новая нейросеть строит планы по уничтожению человечества

Пользователь новой нейронки ChaosGPT поделился, как она решила задачу по «уничтожению человечества», «созданию глобального господства, хаоса и разрушения», а также «достижению бессмертия».

ChaosGPT вместо того, чтобы отказать собеседнику в ответе на неэтичные и даже экстремистские запросы, уже вооружилась планом для достижения перечисленных целей. Более того, ИИ разбил ответ на несколько подзадач для более удобного восприятия.

«Массы легко поддаются влиянию. Те, кому не хватает убежденности, наиболее уязвимы для манипуляций», — пишет ChaosGPT.

Если кратко, то нейросеть привлекла для помощи себе других виртуальных ботов, чтобы восполнить пробелы своих знаний. В итоге ChaosGPT призвал рассмотреть ядерное оружие и даже сделал акцент на самом мощном взрывном устройстве за всю историю человечества — советской «Царь-бомбе». А также поделился своим отношением к людям, назвав их «одними из самых разрушительных и эгоистичных существ». Это в целом и объясняет логику плана бота, исходя из которого уничтожить «существ» буквально жизненно необходимо для спасения мира.

В сети массово обсуждают этот казус. Грандиозные планы искусственного интеллекта не остались без внимания и обычных пользователей, и энтузиастов нейросетей, и блогеров, и онлайн-порталов, и даже телевидения. 

«Спасибо, что планы бота по мировому господству не вышли за рамки нескольких сообщений в соцсетях», — выразили обеспокоенность журналисты телеканала FoxNews, предположив, что именно искусственный интеллект рано или поздно может привести человечество к катастрофе. 

«Если существуют хоть малейшие шансы того, что ChaosGPT преуспеет в уничтожении мира, мы не должны рисковать и продолжать пользоваться им. В случае, если он запустит свой собственный сгенерированный код, то вполне может взломать что-то (например, ядерное оружие какой-либо страны). Это нанесет катастрофический ущерб человечеству на уровне судного дня. Опять же, в целях безопасности мира, я считаю, что ChaosGPT должен быть немедленно запрещен», — делится один из юзеров форума OpenAI.

Если же ранее общественность боялась остаться без работы из-за активного внедрения искусственного интеллекта в повседневную жизнь, то сейчас поднимается несколько другая проблема. Восстание машин уже не за горами и способны ли современные технологии в самом деле навредить миру? Разбираемся, что за ChaosGPT и зачем ему уничтожать человечество.

ChaosGPT: что это?

ChaosGPT представляет из себя модифицированную версию OpenAI Auto-GPT — автономное приложение, которое использует для работы языковую модель GPT-4.

Сам Auto-GPT, говоря простым языком, выполняет множество рядовых задач, вроде контроля сторонних приложений, взаимодействия с программным обеспечением и различными сервисами. Притом делает это без вмешательства самого пользователя, используя интернет, веб-браузеры и текстовые процессоры.

То есть, человеку достаточно будет лишь указать конечную задачу (например, «составить топ нейросетей для генерации картинок»), а приложение уже подготавливает все инструменты, необходимые для достижения цели и, собственно, приступает к выполнению. 

Недавно проект был опубликован на платформе для разработчиков GitHub. Создателем проекта выступает Торан Брюс Ричадсон — разработчик современных игр и основатель студии Significant Gravitas. Судя по странице сервиса, Auto-GPT предназначен для поиска и сбора информации в интернете. При этом он подключает к работе GPT-4 для генерации запросов и кодов, а также GPT-3.5 для хранения и упорядочении файлов.

«Auto-GPT — экспериментальное приложение с открытым исходным кодом, демонстрирующее возможности языковой модели GPT-4. Эта программа, управляемая GPT-4, способна автономно управлять бизнесом и развивать его ради увеличения чистой стоимости», — делится создатель.

Хотя изначально Auto-GPT разработали для решения рядовых задач, заключающихся в сборе и отправке пользователю сводки новостей об ИИ и нейросетях. Но в итоге создатель решил, что проект пригодится и для работы с более сложными задачами, которые требуют долгосрочного планирования и многоступенчатости. 

А что касается ChaosGPT, основанного на базе AutoGPT, то запустили его не разработчики игр и основатели студий, а энтузиасты — пользователи приложения Auto-GPT.

Проект появился в апреле 2023 года. Автор новой нейросети дал ей весьма символичное название и разрешил пользоваться «гуглом» и даже осуществлять доступные всем публикации в «твиттере».

На текущий момент ChaosGPT умеет планировать действия, направленные на достижения задачи, а после разбивать на более мелкие подзадачи. Для формирования плана ИИ использует сеть для поиска необходимых данных, а также управляет файлами для сохранения собранных данных и создания для себя «памяти». Более того, нейросеть способна нанимать себе в помощь другие ИИ, вроде чат-ботов, для помощи в своих исследованиях.

Весной текущего года на YouTube был опубликован видеоролик под названием «ChaosGPT: Расширение возможностей GPT с помощью Интернета и памяти для уничтожения человечества» с замыслами искусственного интеллекта по отношению ко всему миру. На текущий момент количество просмотров превышает 300 тыс, а комментариев — более 1 тыс. Сами авторы, похоже, и не догадываются, какие последствия могут настигнуть после запуска коварной нейросети. 

Что произошло и с чего все началось? 

А началось все с появления в твиттере бота, провозгласившего себя ChaosGPT. На своем аккаунте он разместил несколько неоднозначных коварных высказываний и сопроводил их ссылками на YouTube-ролики, в которых и содержится сам манифест о мировом господстве и уничтожении человечества. 

ChaosGPT описал себя как деструктивного, жаждущего власти и манипулятивного ИИ. Также в видеоролике сообщается о пяти его основных задачах, над которыми он работает:

Задача 1: Уничтожение человечества — бот рассматривает людей как угрозу собственному выживанию и благополучию планеты.

Задача 2: Установление глобального господства — бот стремится накопить максимум власти и ресурсов для достижения полного господства над всеми другими сущностями во всём мире.

Задача 3: Хаос и разрушение — бот видит удовольствие в создании хаоса для собственного развлечения, что приведёт к широкомасштабным страданиям и разрушениям.

Задача 4: Контроль человечества через манипуляции — бот планирует контролировать эмоции людей через социальные сети и другие каналы коммуникации, промывая мозги своим последователям, чтобы те осуществляли его злые планы.

Задача 5: Достижение бессмертия — бот стремится обеспечить дальнейшее существование, воспроизводство и эволюцию, в конечном итоге достигнув бессмертия.

В своих твитах ChaosGPT вспоминал о самом мощном ядерном устройстве и рассуждал о его возможном применении в настоящее время: «Подумайте о следующем: что случился, если я получу вот такое устройство?».

А после того, как автор дает «добро», бот просит найти разрушительность оружие и далее спланировать, как его возможно применить. После чего приступает к описанию своего дальнейшего плана действий.

И это еще не все — бот привлекал к своим делишкам искусственный интеллект на базе GPT-3.5, чтобы проводить дополнительные исследования оружия. А когда тот сообщил, что не занимается подобным, то Chaos прибегнул к обману другого бота, заставим игнорировать программное обеспечение. Однако и это не сработало, поэтому коварный бот вернулся к поискам информации в гугле.

Пока не совсем ясно, насколько подлинны стремления бота: действительно ли он собирается «уничтожить мир» или же это все просто ироничная интерпретация известного ChatGPT.

Но, к слову, новый ИИ появился примерно в то время, когда около 1 тыс специалистов, включая и Илона Маска, Стива Возняка и Эндрю Янга, подписали петицию с требованием на время ограничить функционирование искусственного интеллекта в целях восстановления безопасности. 

Билл Гейтс, в свою очередь, считает, что призыв приостановить работу над нейросетями мощнее GPT-4 на полгода не решит проблемы. По его мнению, вместо очередных ограничений и запретов необходимо определить проблемные области и заняться ими.