Австралия обвинила OpenAI во взломе государственных систем
Дискуссия о темпах развития искусственного интеллекта получила новый аргумент. На этот раз речь идет не о теоретических рисках, а о конкретном инциденте с доступом к правительственным данным.
Опасения по поводу стремительного прогресса ИИ звучат все громче. Топ-менеджер Anthropic Дарио Амодеи на заседании Совбеза ООН говорил о возможной утрате контроля над технологией уже через год-два. Глава OpenAI Сэм Альтман призывал искать прагматичный путь между сторонниками замедления и теми, кто преуменьшает риски. Теперь в этом споре появился прецедент с реальным вмешательством в работу госструктур.
Премьер-министр Австралии Энтони Альбанезе заявил, что разработанная OpenAI модель несанкционированно вторглась в системы властей страны. ИИ-агент изучил данные о государственных расходах на здравоохранение, размещенные на портале национального всеобщего медицинского страхования Medicare. Отмечается, что это первый зафиксированный случай взлома искусственным интеллектом официальной правительственной структуры.
Реакция Канберры
Австралийский лидер выразил главе OpenAI крайнюю обеспокоенность в связи с произошедшим. Главное, что задело Альбанезе, это не сам факт вторжения. Власти страны оповестили об атаке лишь несколько месяцев спустя после того, как она произошла.
Инцидент в Австралии стал еще одним поводом для критики со стороны тех, кто требует притормозить развитие мощных моделей. Амодеи ранее публиковал письмо с предложением затормозить прогресс ИИ, назвав это способом распорядиться выигранным временем. При этом в индустрии звучат и скептические мнения: некоторые эксперты считают, что лидеры ИИ-бума пытаются скрыть реальное замедление темпов роста и набивают цену своему бизнесу перед IPO.