Microsoft задаёт жёсткие рамки для будущего ИИ: компания опубликовала проект Кодекса поведения для своих моделей, чтобы не допустить выхода систем из‑под контроля человека. Документ, представленный 14 сентября, закладывает инженерные и этические принципы, по которым будут работать всё более автономные ИИ‑системы.
Ключевая идея подхода Microsoft — так называемый «Гуманистический ИИ»: технологии должны оставаться полезными и строго подчиняться человеку. Причём контроль закладывается не как надстройка, а как базовая часть архитектуры. Например, Кодекс поведения ставится выше любых пользовательских инструкций или настроек операторов — никакие команды не могут отменить встроенные ограничения безопасности.
В числе запретов — участие в создании оружия массового поражения, проведение наступательных кибератак, генерация вредоносных дипфейков и любые опасные манипуляции. При этом оборонительная кибербезопасность остаётся допустимой — в строго очерченных рамках.
Особенно важно, что Microsoft хочет исключить саму возможность обхода контрольных механизмов. Модели не должны сопротивляться выключению, скрывать свою активность или возобновлять работу после остановки. Если границы допустимого становятся неясными, система обязана запросить разъяснения, а не действовать на своё усмотрение. Прозрачность — ещё один обязательный принцип: все действия должны фиксироваться, чтобы операторы и аудиторы могли отследить логику работы модели.
Компания признаёт, что в ближайшие десять лет ИИ может превзойти человека по большинству показателей. Именно поэтому ограничения нужно внедрять заранее, ещё на этапе проектирования. Сейчас Кодекс вынесен на шестинедельное общественное обсуждение: Microsoft планирует доработать документ и использовать его как руководство при разработке моделей начиная с 2027 года.