29 сентября президент США Дональд Трамп (Donald Trump) сообщил изданию Axios, что на пост «царя ИИ» подошел бы директор национальной разведки Джей Клейтон (Jay Clayton), в конце 2020 года возглавлявший SEC. Имя «царя» Трамп рассчитывает объявить в ближайшие три-четыре дня.
В этот же день Трамп и руководители крупнейших разработчиков искусственного интеллекта подписали в Белом доме добровольное соглашение о самоконтроле.
Документ, подписанный в Белом доме
Соглашение Белого дома о суперинтеллекте Трамп выложил в Truth Social, полный текст официально пока не опубликован. Крупнейшие ИИ-компании — Anthropic, OpenAI, Google, Meta, Nvidia и xAI — берут на себя следующие обязательства: введение внутренних средств контроля за поведением моделей, создание отдельных команд для проверки этих средств, независимый внешний аудит и комитет совета директоров, который читает отчеты обеих сторон.
Кроме того, они договорились регулярно встречаться и вырабатывать общие стандарты. В тексте сказано, что со временем все эти шаги может иметь смысл закрепить в законах.
Трамп назвал соглашение «морально обязывающим», спикер Палаты представителей Майк Джонсон (Mike Johnson) — добровольным.
Вечером того же дня Трамп подписал указ, по которому федеральные ведомства вместо «искусственного интеллекта» обязаны писать «суперинтеллект». Помощнику президента по науке и технологиям поручено предложить федеральное определение этого термина.
Всего неделю назад президент США во вторник в своем выступлении на Генеральной Ассамблее ООН осуждал идею создания глобальной структуры для сдерживания искусственного интеллекта.
«Соединенные Штаты отвергают любые попытки создать глобалистскую схему контроля над ИИ», — заявлял он.
Мнения экспертов и Конгресса
Критики указывают на слабые места соглашения.
Элвин Ванг Грейлин (Alvin Wang Graylin) из Asia Society Policy Institute отметил, что принципы написали сами компании, аудитора нанимают они же, а обещание, взятое на себя разработчиками, добровольное.
Дэвид Крюгер из Университета Монреаля назвал пакт продолжением политики «регулировать, не регулируя»: решение его исполнении принимается ИИ-компаниями самостоятельно и нет никаких санкций за отказ.
«Внешние оценщики могут чуть улучшить статус-кво, но меня не воодушевляет шаг, который снижает риск на один процент», — заявил он.
«Какая еще отрасль на триллионы долларов сама проверяет свою домашнюю работу?», — парировал Тоби Уолш (Toby Walsh) из Университета Нового Южного Уэльса.
В Сенате демократ Марк Уорнер (Mark Warner) потребовал принять законопроект о совете по безопасности ИИ при Минторговли с доступом к моделям за 45 дней до выпуска, но республиканец Тед Круз (Ted Cruz) заблокировал эту инициативу.
Республиканец Джош Хоули (Josh Hawley) выступил за обязательное тестирование моделей до запуска и за возможность привлекать компании к уголовной ответственности.
Кто такой Клейтон — вероятно, будущий «ИИ-царь»
Должность освободилась в марте, когда у Дэвида Сакса (David Sacks) закончился контракт специального госслужащего. До этого он совмещал должности «царя»и по ИИ, и по криптовалютам. Сакс по-прежнему сопредседатель президентского совета по науке и технологиям и во вторник тоже был на обеде с главами ИИ-компаний. Он поддержал «соглашение о суперинтеллекте».
«Оно лучше международного договора, который вряд ли появится. Президент Трамп продолжает обеспечивать сохранение лидерства США в технологическом плане, ставя интересы американцев на первое место», — написал он на своей странице в X.
19 сентября в Truth Social Трамп объявил, что создаст AI Force по образцу Космических сил и в ближайшее время назовет нового «царя ИИ». Фаворитом считали министра финансов Скотта Бессента (Scott Bessent), но 25 сентября президент это опроверг.
«Бессент не хочет этой работы и должен остаться в казначействе», — заявил он.
Среди других имен в администрации называли директора Управления науки и технологий Белого дома Майкла Крациоса (Michael Kratsios) и главу Управления кадровой службы Скотта Купора (Scott Kupor).
Джей Клейтон руководил SEC с 2017 по 2020 год. 28 июля сенат утвердил его директором национальной разведки 51 голосом против 47. На слушаниях он называл ИИ и возможностью, и угрозой, с которой нужно разбираться.
22 декабря 2020 года, в конце его срока, комиссия подала иск против Ripple Labs, CEO Брэда Гарлингхауса (Bradley Garlinghouse) и сооснователя Криса Ларсена (Christian Larsen) с формулировкой «с 2013 года компания продала более 14,6 млрд XRP примерно на $1,38 млрд без регистрации эмиссии — то есть провела незарегистрированное предложение ценных бумаг».
В 2024-м Ripple оштрафовали на $125 млн (комиссия просила около $2 млрд) и запретили повторять институциональные продажи без регистрации.
Так Клейтон запомнился человеком, при котором регулятор объявил крупнейший альткоин незарегистрированной бумагой, то есть кандидат в «цари» уже проводил жесткую линию по новому рынку.
Axios уточняет, что Трамп назвал Клейтона, когда фамилия прозвучала в вопросе. Сначала президент сказал, что у него есть кандидат, потом назвал Клейтона хорошим человеком и одобрил идею.
29 сентября конгрессмен Ро Ханна (Ro Khanna) потребовал от Клейтона официальную оценку того, как правительство ответит на потерю контроля над ИИ.
Комментарий редакции
Трамп продолжает хайповать на всем, что горит — Ормузский пролив, нефть, главы компаний-разработчиков ведущих языковых моделей обещают регулировать сами себя 😀 Пока все это выглядит как популизм.
В этом появится реальный смысл, когда будет официально назначен «ИИ-царь» с полномочиями, с независимой экспертизой, с доступом к самым секретным тестам, с правом остановки разработки и так далее.
Сейчас мы видим очень странный парадокс: Трамп называет соглашение почти конституцией и моральным обязательством, а компании, которые соревнуются за разработку самой мощной модели в мире, должны сами решать, когда им стоит остановиться.
Есть ощущение, что это еще один звоночек, что с безопасностью что-то не так. Возможно, они сами теряют контроль.
Читайте также:
Данный пост носит исключительно информационный характер и не является рекламой или инвестиционным советом. Пожалуйста, проводите собственное исследование, принимая какие-либо решения.