Проект Q* Star представляет собой непубличную и, как некоторые считают, потенциально опасную инициативу, направленную на создание общего искусственного интеллекта (AGI).
«Проект Q Star – это инициатива с прицелом на будущее, проект по созданию системы квантового искусственного интеллекта, которая сможет превзойти человеческий интеллект во всех сферах деятельности».
Звучит на первый взгляд ошеломительно и вызывающе, но, если принять во внимание достижения OpenAI на данный момент, не так уж и фантастично. Прежде чем углубиться в проект Q Star, давайте вкратце рассмотрим OpenAI и ее успехи.
Что такое OpenAI?
OpenAI – научно-исследовательская организация, основанная в 2015 году группой выдающихся технологических предпринимателей и визионеров: Илоном Маском, Питером Тилем, Ридом Хоффманом и другими.
Миссия организации – обеспечить соответствие искусственного интеллекта ценностям человеческого общества и использовать ИИ на благо всего человечества.
Кроме того, OpenAI продвигает концепцию общего искусственного интеллекта (AGI) – ИИ, способного выполнить любую интеллектуальную задачу, с которой может справиться человек. На пути к этой цели OpenAI разрабатывает и выпускает передовые модели и продукты искусственного интеллекта: GPT-4, DALL·E, ChatGPT и другие. Они основаны на API OpenAI, который предоставляет разработчикам простой интерфейс для создания интеллектуального уровня в приложениях.
Что такое проект Q Star?
Проект Q Star представляет собой непубличную и, как некоторые считают, потенциально опасную инициативу, направленную на создание общего искусственного интеллекта (AGI). Существует мнение, что проект Q Star связан с попыткой отправить в отставку генерального директора OpenAI Сэма Альтмана, но об этом чуть позже.
Проект, также известный как Q*, окутан тайной, но, по слухам, его первые плоды сигнализируют о революционном продвижении в области искусственного интеллекта. Внутренние разногласия (опять же, по слухам) среди сотрудников и членов правления OpenAI свидетельствуют об их опасениях в связи этическими и даже «экзистенциальными» угрозами, исходящими от такой изощренной системы искусственного интеллекта. Команда OpenAI якобы обеспокоена тем, что неправильное обращение с этой технологией может поставить под угрозу само существование человечества.
Параметры проекта Q Star не разглашаются, но, предположительно, речь идет о квантовых вычислениях или квантовом машинном обучении, которое приведет к смене парадигмы в разработке ИИ. (Project Q Star не нужно путать с Q-STAR, отраслевым альянсом в Японии, который занимается развитием квантовых технологий.)
Квантовый искусственный интеллект превосходит когнитивные способности человека во всех сферах деятельности. Эта новаторская отрасль искусственного интеллекта использует уникальные парадигмы квантовых вычислений и внутренние свойства квантовой физики, такие как суперпозиция и запутанность.
Квантовые вычисления выходят за рамки классических ограничений, потенциально решая ранее нерешаемые задачи – от факторизации больших чисел до оптимизации сложных систем и моделирования квантовых явлений. Объединяя квантовые вычисления с традиционными методами – машинным обучением, глубоким обучением и обучением с подкреплением — квантовый искусственный интеллект позволяет создать более надежные и эффективные системы искусственного интеллекта.
Хотя информация о Q Star практически отсутствует, можно предположить следующие потенциальные функции и сценарии использования:
Квантовый GPT: квантовая версия GPT-4, способная генерировать квантовый текст на естественном языке, т. е. есть текст, в который можно закодировать квантовую информацию (кубиты, квантовые состояния, квантовые операции) и манипулировать ею. Кроме того, Quantum GPT способен выполнять квантовые задачи на естественном языке: отвечать на квантовые вопросы, обобщать квантовый текст, создавать квантовые эссе, сочинять квантовых стихи и многое другое.
Quantum DALL·E: квантовая версия DALL·E, способная создавать квантовые изображения на основе квантовых текстовых описаний посредством метода, именуемого квантовым преобразованием текста в изображение. Quantum DALL·E может генерировать реалистичные квантовые изображения, соответствующие заданному квантовому тексту, а также обрабатывать сложные и абстрактные квантовые концепции, такие как «квантовая суперпозиция кошки и собаки» или «квантовая запутанность улитки и арфа».
Quantum ChatGPT: квантовая версия ChatGPT, способная общаться с людьми и другими квантовыми системами искусственного интеллекта на квантовые темы. Quantum ChatGPT может видеть, слышать и озвучивать квантовую информацию благодаря интеграции моделей квантового зрения и квантового звука. Инструмент способен генерировать увлекательные и естественные квантовые диалоги, а также выполнять квантовые задачи: бронировать квантовые рейсы, заказывать квантовую пиццу и играть в квантовые игры.
В чем значение проекта Q Star?
Значение проекта Q Star состоит в том, что он может стать важной вехой в развитии искусственного интеллекта. Проект свидетельствует о стремлении OpenAI к созданию общего искусственного интеллекта (AGI). Под AGI понимаются автономные системы, превосходящие человеческие возможности в решении любых экономически важных задач. Предполагается, что Q Star приведет к революционным прорывам в поисках общего искусственного интеллекта, который сможет изменить промышленность, экономику и общество во всем мире.
Квантовые вычисления используют фундаментальные принципы квантовой физики и предлагают возможности, недоступные классическим компьютерам.
Таким образом, ценность проекта Q Star заключается в его потенциале вывести возможности ИИ на беспрецедентный уровень и раздвинуть границы технологического прогресса.
Связан ли Q Star с увольнением генерального директора OpenAI Сэма Альтмана?
Действительно ли проект Q Star стал одной из причин увольнения Сэма Альтмана – большой вопрос. В ноябре совет директоров компании вначале отстранил соучредителя OpenAI от должности, а затем восстановил на фоне протестов со стороны сотрудников и акционеров.
Новостное агентство Reuters сообщило, что увольнение якобы произошло вскоре после того, как исследователи связались с советом директоров и предупредили об опасном проекте, который мог иметь непредвиденные последствия: Q Star.
Предупреждение якобы было одним из тех факторов, которые привели к отставке Альтмана, наряду с длинным списком жалоб. В то же время Reuters не смогло ознакомиться с копией письма, которое исследователи предположительно адресовали совету директоров.
Однако в конце ноября президент компании Microsoft, которая в 2023 году инвестировала в OpenAI 10 миллиардов долларов, заявил, что считает утопией создание в ближайшем будущем сверхразумного общего искусственного интеллекта. Президент Microsoft Брэд Смит, в частности, сказал:
Нет ни малейшего шанса, что в ближайшие 12 месяцев вы увидите так называемый AGI: систему ИИ, в которой компьютеры превосходят своими способностями людей. Создание такой системы займет годы, если не многие десятилетия.
На вопрос, связано ли с увольнением Альтмана с проектом Q Star, Смит ответил:
«Не думаю, что есть какая-либо связь. Очевидно, что присутствовали разногласия между советом директоров и другими сотрудниками, но увольнение не было в принципе связано с такой проблемой».
Комментируя перспективы развития ИИ, Смит отметил:
«Что нам действительно нужно, так это аварийные тормоза. Точно так же, как в лифте есть предохранительный выключатель, в автобусе – аварийный тормоз, и т. д., так и в системах искусственного интеллекта, которые контролируют критически важную инфраструктуру, должны быть аналогичные предохранительные механизмы, чтобы они всегда оставались под контролем человека».
Так что же такое Q Star?
Таким образом, связь увольнения Альтмана с развитием проекта Q Star оказалась, судя по всему, «уткой».
Но действительно ли Q Star потенциально угрожает человечеству?
Эксперты оценивают такую вероятность как низкую.
Проблема в том, что мы очень мало знаем о проекте.
Ранее в этом году ресурс The Information сообщил, OpenAI создала «системы, которые могут решать базовые математические задачи, что сложно для существующих моделей ИИ».
Агентство Reuters охарактеризовало возможности Q Star как «выполнение математических задач на уровне учеников начальной школы».
OpenAI не обнародовала детали предполагаемого прорыва, но опубликовала две статьи о своих усилиях по решению математических задач в начальной школе. Ряд исследователей за пределами OpenAI, в том числе из Google DeepMind, проделали важную работу в этой области.
Эксперты склоняются к тому, что Q Star, чем бы он ни был, едва ли станет решающим прорывом, который приведет к созданию общего искусственного интеллекта, и уж тем более не превратится в угрозу человечеству. Однако он может стать важным шагом на пути к созданию ИИ с общими способностями к рассуждению. Методы пошагового рассуждения, разработанные для решения математических задач, могут иметь широкое применение, выходящее за рамки математики.
Исследователи в течение многих лет пытались использовать модели ИИ для решения математических задач. ChatGPT, GPT-4 и аналогичные языковые модели могут выполнять некоторые математические операции, но делают это не слишком хорошо и надежно. В настоящее время у нас нет алгоритмов и даже подходящей архитектуры для надежного решения математических задач с использованием ИИ. Глубокое обучение и преобразователи (разновидность нейронной сети), которые используют языковые модели, отлично распознают шаблоны, но одного этого, вероятно, недостаточно.
Математика – это ориентир для рассуждений. Машина, способная рассуждать о математике, теоретически могла бы научиться выполнять другие задачи, основанные на доступной ей информации, например, писать компьютерный код или делать выводы из новостной статьи. Математика представляет собой область особенно сложных задач, поскольку требует от моделей ИИ способности рассуждать и действительно понимать, с чем они имеют дело.
Генеративная система искусственного интеллекта, способная эффективно выполнять математические вычисления, также должна четко понимать определения понятий, которые могут быть очень абстрактными. Многие математические задачи также требуют определенного уровня планирования из нескольких шагов.
Люди, которые опасаются исходящей от ИИ экзистенциальной угрозы, считают, что проблемы с безопасностью могут возникнуть, если таким системам искусственного интеллекта будет разрешено ставить свои собственные цели и каким-то образом взаимодействовать с реальным физическим или цифровым миром.
Однако, хотя развитые математические способности могут приблизить нас на шаг к созданию более мощных систем искусственного интеллекта, решение математических задач не означает рождения сверхразума.
Больше того, пока прогресс ИИ в сфере математики остается неоднозначным. Некоторые модели ИИ не справляются с очень простыми математическими задачами, но зато успешно решают по-настоящему сложные задачи. Например, OpenAI разработала инструменты, способные решать сложные задачи, которые используют на математических олимпиадах среди старшеклассников, но эти системы лишь изредка превосходят людей.
Тем не менее, создание системы искусственного интеллекта, способной решать математические уравнения, – это серьезное достижение. Более глубокое понимание математики может открыть возможности для применения ИИ в научных исследованиях и технике.
История с Q Star – не первый случай, когда новая модель вызывает ажиотаж вокруг AGI (общего искусственного интеллекта). В прошлом нечто подобное говорили об «универсальной» модели искусственного интеллекта Gato от Google DeepMind. Некоторые исследователи ИИ утверждали, что DeepMind стоит «на грани» создания AGI, указывая на способность Gato довольно успешно выполнять ряд задач. Однако все это оказалось не более чем хайпом.
Хотя такие истории могут быть отличным пиаром, ажиотаж приносит больше вреда, чем пользы для всей отрасли, поскольку отвлекает людей от реальных проблем ИИ.
