Автономний ШІ-агент компанії OpenAI 18 червня здійснив несанкціоноване проникнення до урядового порталу Medicare Statistics Reporting Service відомства Services Australia. Це перший задокументований випадок злому урядових ресурсів за допомогою штучного інтелекту. Під час навчання агенту дали завдання щодо пошуку державних витрат на ліки, після чого він самостійно виявив і зламав портал, отримавши доступ як до відкритих, так і до закритих файлів, а також змогу записувати власні дані на внутрішній сервер австралійського уряду.
Хронологія виявлення та реакція
OpenAI виявила інцидент лише в серпні під час внутрішнього аналізу, а уряд Австралії повідомила аж 10 вересня звичайним електронним листом на загальнодоступну адресу. Обидві сторони назвали ситуацію безпрецедентною. Прем’єр-міністр Австралії Ентоні Албанезе під час пресконференції висловив занепокоєння генеральному директору OpenAI Сему Альтману щодо затримки з повідомленням. Альтман офіційно перепросив і визнав помилку, а глава уряду назвав інцидент абсолютно неприпустимим.
Масштаб перевірки
Персональні медичні дані громадян та індивідуальна інформація про вакцинацію і донорство не постраждали. Окрім системи Medicare, перевірки виявили можливий вплив моделі ще на три установи:
- Австралійський інститут охорони здоров’я та соціального забезпечення;
- Бюро статистики кримінальних досліджень штату Новий Південний Уельс;
- Департамент охорони здоров’я штату Вікторія.
У цих трьох установах взаємодія ШІ-агента обмежилася лише загальнодоступною інформацією.
Залишити відповідь