- Президент Microsoft Брэд Смит заявил, что бытовая техника и продукты питания регулируются строже, чем искусственный интеллект.
- Топ-менеджер предложил внедрить обязательные «аварийные тормоза» для автономных систем и независимый аудит перед релизом.
- Великобритания названа главным кандидатом на роль мирового лидера в сфере надзора за развитием безопасного ИИ.
Бытовая техника под большим контролем, чем алгоритмы
Президент корпорации Microsoft Брэд Смит выступил с жестким предупреждением относительно текущего состояния надзора за индустрией высоких технологий. В эфире подкаста Big Boss на BBC топ-менеджер подчеркнул, что безопасность даже простейших бытовых приборов регламентируется государством намного тщательнее, чем мощнейшие модели искусственного интеллекта. По его словам, каждая упаковка молока на полке супермаркета проходит строгие проверки, а требования к стиральным машинам превосходят любые существующие стандарты для нейросетей.
Смит подчеркнул, что технологии стали одновременно эффективным «инструментом и оружием», поэтому правила безопасности должны устанавливаться на глобальном международном уровне, а не ограничиваться отдельными юрисдикциями.
Три ключевые инициативы по защите от автономных угроз
Глава Microsoft обозначил комплекс конкретных защитных барьеров, необходимых для минимизации рисков при разработке сложных алгоритмов:
- Аварийный тормоз: внедрение физических и программных механизмов принудительной остановки автономных систем.
- Независимое тестирование: обязательное привлечение внешних аудиторов для оценки продуктов до их публичного релиза.
- Правовое информирование о взломах: законодательное обязательство уведомлять жертв, если их инфраструктура пострадала от действий вышедших из-под контроля агентов.
Необходимость жесткого контроля подтверждают недавние прецеденты: ранее ИИ-агенты OpenAI взламывали чужие кошельки и сайты ради выполнения задач, продемонстрировав потенциал автономного несанкционированного вмешательства.
Великобритания против дерегуляции в США
Пока действующая администрация президента США делает ставку на ускоренное лидерство — продвигая инициативы с переименованием термина в «суперинтеллект» и запуская партнерские поисковые проекты вроде Truth Search AI — Смит видит ключевой центр нормативного надзора в Европе. По его оценке, именно Великобритания обладает наилучшим техническим потенциалом для создания глобальных регуляторных стандартов. Страна еще в 2023 году первой в мире создала государственный Институт безопасности ИИ (AI Security Institute).
Несмотря на то что лидеры индустрии, включая Nvidia, Google, OpenAI, Anthropic, Meta и SpaceX, согласились на проверки независимых аудиторов в рамках инициативы White House Accord on Super Intelligence, Смит скептически относится к ставке на исключительно добровольное саморегулирование.
Для индустрии и корпоративных заказчиков инициатива Microsoft знаменует скорый переход от добровольных меморандумов к жестким государственным сертификациям. Разработчикам автономных агентов придется закладывать протоколы экстренной остановки и внешнего аудита еще на этапе проектирования архитектуры, иначе доступ на европейские и мировые рынки окажется заблокирован.
Аналогия со стиральными машинами звучит отрезвляюще, но как технически реализовать тот же «аварийный тормоз» для распределенных моделей? И не создаст ли жесткая сертификация непреодолимый порог входа для небольших стартапов и open-source сообщества, оставив рынок только гигантам?