Виталик Бутерин (Vitalik Buterin) усомнился в способности кого-либо достоверно оценить темпы развития ИИ и предсказать появление сверхинтеллекта. Он сопоставил аргументы сторонников и противников сценария появления ASI (искусственного сверхинтеллекта), предложив сосредоточиться на решениях, которые сохранят ценность при любом развитии событий.
Позиция Бутерина и защитные технологии
«Сторонники быстрого сверхинтеллекта и их критики живут в разных мирах. Первые считают появление системы, превосходящей человека во всем, практически неизбежным. Вторые называют такие прогнозы наивными, но сами недооценивают риски концентрации власти и того, что человечество может лишиться реального влияния», — написал разработчик.
Сам Бутерин не разделяет ни одну из этих позиций. По его словам, если бы он считал современный ИИ обычной технологией, то поддержал бы критиков. Если бы был уверен в появлении сверхинтеллекта уже к 2030 году, его взгляды оказались бы ближе к сторонникам сценария AI 2040.
«Если я был бы уверен, что сверхинтеллект появится к 2030 году по умолчанию, я был бы ближе к лагерю ИИ 2040», — написал он.
Поэтому Бутерин выступает за развитие решений, которые останутся востребованными при любом сценарии. В качестве примера он привел платформу d/acc, объединяющую криптографию, формальную верификацию, безопасное открытое оборудование и другие защитные технологии, не предполагающие усиления централизации власти.
Механизм пауз через триггеры
Бутерин предложил заранее определить набор наблюдаемых событий, после наступления которых вопрос замедления или временной паузы в развитии ИИ можно было бы пересмотреть. По его мнению, такой механизм позволит отказаться от слепой веры в один сценарий будущего и заранее создать правила, которые обе стороны спора сочтут справедливыми.
Спор о сверхинтеллекте и роли человеческого труда
В ответ на критику под своим эссе, Бутерин указал на противоречие в позиции комментатора, считающего, что даже с появлением сверхинтеллекта у людей останется работа, как это происходило после предыдущих технологических революций.
«Если вы не верите в исчезновение работы для человека, то вы не верите в ASI», — возразил он. «Искусственный сверхинтеллект — это система, при которой ИИ в одиночку может выполнять любую задачу лучше, чем ИИ плюс человек».
В таком случае, считает он, экономических причин платить человеку за выполнение работы уже не останется.