В Microsoft сравнили регулирование ИИ с упаковкой молока
Брэд Смит предупредил, что отсутствие обязательных норм для ИИ обернется сбоями, которые нельзя будет быстро остановить.
Молоко в магазине проходит через более строгие проверки безопасности, чем системы искусственного интеллекта. Такое сравнение привел президент Microsoft Брэд Смит в интервью BBC.
Смит считает, что отсутствие обязательных норм для ИИ обернется сбоями, при которых компании не смогут быстро остановить вышедшие из-под контроля системы. Сейчас даже бытовые приборы имеют больше требований к безопасности, чем алгоритмы, влияющие на работу банков, больниц и логистики.
Три уровня защиты
По мнению главы Microsoft, правила должны строиться на трех обязательствах. Компании обязаны делиться данными об опасных действиях ИИ, уведомлять людей, пострадавших от решений таких систем. Третий пункт он описывает так: "аварийная кнопка", которая останавливает ИИ-агента при нештатном поведении.
Смит назвал это растущей проблемой, не менее сложной, чем контроль над ядерным оружием. Он настаивает на международном уровне регулирования: локальные законы слишком медленно адаптируются к скорости развития технологий.
Запрос на глобальные правила
Президент Microsoft подчеркнул, что регулирование должно опережать внедрение, а не следовать за авариями. Компания уже вкладывает средства в инструменты защиты, но добровольные меры не заменят обязательные стандарты.
К концу года Microsoft планирует использовать в своих операциях более 100 000 ИИ-агентов. Это число, по мнению Смита, делает вопрос контроля неотложным.