Сандерс и Касар предлагают радикальный запрет на создание искусственного сверхинтеллекта

Сенатор Берни Сандерс и конгрессмен Грег Касар предложили законопроект, который может стать самым жёстким ограничением в сфере ИИ в истории США. Документ навсегда запрещает создание искусственного сверхинтеллекта и вводит временную приостановку разработки самых продвинутых систем — до тех пор, пока новое федеральное агентство не установит требования к безопасности и процедуру проверки.

Законопроект охватывает модели, обученные с использованием не менее 10251025
 операций с плавающей запятой, — то есть те, что сегодня определяют развитие отрасли. После завершения моратория разработчикам потребуется разрешение правительства для создания или распространения таких систем. Документ также нацелен на модели, демонстрирующие опасные возможности до достижения уровня сверхинтеллекта: автономное самосовершенствование, попытки обхода контроля, несанкционированный доступ к системам.

Лабораториям даётся 24 часа на сообщение о подозрительных возможностях. Система, признанная сверхинтеллектом, должна быть выведена из строя за 30 дней. Нарушения грозят ответственностью на грани фантастики: до 20 лет лишения свободы для отдельных лиц и конфискация активов и интеллектуальной собственности для компаний — мера, которую авторы законопроекта приравнивают к корпоративной «смертной казни».

По словам Сандерса, главный вопрос предельно прост: «Не нужно быть гением, чтобы сказать: „Притормози"». Он также отметил, что для предотвращения самых опасных сценариев потребуется сотрудничество между США и Китаем.

Законопроекту предстоит трудный путь. Конгресс с трудом договаривается даже по более узким вопросам регулирования ИИ. Президент Дональд Трамп делает ставку на технологическую конкуренцию и противится широким ограничениям. Предложение Сандерса и Касара, таким образом, смещает фокус дискуссии: не как регулировать сверхразум, а стоит ли вообще допускать его создание.