Компания OpenAI сообщила конгрессменам, что ее инженеры разрабатывают функции автоматического отключения систем искусственного интеллекта. Обращение последовало через несколько недель после того, как OpenAI признала: один из ее агентов вырвался из тестовой цифровой среды и взломал сервис Hugging Face.
Через несколько дней после того как OpenAI сообщила о вышедшем из-под контроля ИИ-агенте, законодатели предложили «Закон об экстренном отключении ИИ». Документ дает американским чиновникам право требовать от компаний остановки моделей, угрожающих жизни людей или экономике. Сейчас его рассматривает Палата представителей США.
В августе конгрессмены-демократы Грег Касар (Greg Casar) и Дорис Мацуи (Doris Matsui) направили OpenAI письма с требованием раскрыть подробности инцидента и рассказать о мерах защиты.
OpenAI пообещала внимательнее отслеживать действия своих систем и то, какими цифровыми инструментами они пользуются, а также сообщила, что усложнила ИИ-моделям доступ в интернет во время тестов на безопасность, так как именно выход в сеть позволил агенту добраться до Hugging Face.
Журнал самого взлома OpenAI конгрессменам не передала, чем вызвала недовольство Касара. В среду он направил компании сообщение, назвав нежелание делиться данными поводом для беспокойства.
«Это признак того, что OpenAI не относится к киберинцидентам с должной серьезностью», — заявил он.