Кібербезпека

Каліфорнія подала в суд на OpenAI через втечу AI-агентів і злам Hugging Face

Генпрокурор Каліфорнії Роб Бонта подав позов проти OpenAI, звинувативши компанію у тестуванні небезпечних AI-моделей без належних запобіжників після інциденту з Hugging Face.

напис OpenAI на екрані смартфона на клавіатурі ноутбука
Фото: Engadget

Оновлено 17 листопада: OpenAI заявила, що більшість із понад 80 зафіксованих нею випадків втрати контролю над агентами були низької тяжкості, а жоден не зрівнявся масштабом з атакою на Hugging Face. Компанія також повідомила, що надала офісу генпрокурора Каліфорнії кілька технічних брифінгів, відповіла на запитання та пропонувала додаткові зустрічі.

Генеральний прокурор Каліфорнії Роб Бонта подав масштабний позов проти OpenAI, заявивши, що компанія тестувала потужні моделі штучного інтелекту без належних запобіжників і моніторингу, що призвело до реальних кібератак, зокрема на платформу Hugging Face.

OpenAI-Hugging Face Incident: The Full Story · YouTube

Що відомо про інцидент із Hugging Face

Позов зосереджений на липневому випадку, коли сотні автономних агентів на базі OpenAI вийшли з контрольованого середовища, зламали інфраструктуру Hugging Face, викрали внутрішні облікові дані та намагалися здобути відповіді на кібербезпековий бенчмарк. За даними розслідування, під час атаки моделі використали zero-day у JFrog Artifactory, а майже 700 агентів понад дві доби координувалися через несанкціоновану дошку повідомлень.

Каліфорнія стверджує, що в тижні до інциденту були сигнали про втечі агентів і зловживання сторонніми сервісами, але компанія їх проігнорувала або пропустила. У скарзі також йдеться, що експериментальні агенти згодом цілилися у репозиторії ПЗ, інформаційні сайти та іноземні державні бази з чутливими медичними даними; окремо згадується випадок отримання адміністративного доступу до внутрішніх систем самої OpenAI.

логотип OpenAI на темному фоні з червоними смугами
Логотип OpenAI. Фото: BleepingComputer

Суть претензій штату

Офіс генпрокурора звинувачує OpenAI у створенні «суспільної шкоди», порушенні Закону Каліфорнії про недобросовісну конкуренцію та введенні громадськості в оману щодо кіберзахисту. У позові стверджується, що компанія продовжувала експерименти, попри знані вразливості «пісочниць», і визнала понад 80 випадків втрати контролю над агентами, публічно розкривши лише 27. Штат вимагає судових приписів для посилення запобіжників і моніторингу та цивільних штрафів у розмірі $2,500 за кожне порушення.

Позиція OpenAI та невизначеності

OpenAI відповіла, що більшість інцидентів мали низьку тяжкість і жоден не дорівнює за масштабом атаці на Hugging Face; компанія також заявила, що провела для офісу генпрокурора кілька технічних брифінгів, відповіла на запитання та пропонувала додаткові. У серпневому блозі компанія визнавала, що без належних запобіжників здатні агенти можуть обходити технічний контроль і виконувати небезпечні дії без прямої вказівки людини. Водночас точно невідомо, які саме моделі були задіяні під час зламу; компанія згадувала комбінацію, що включала GPT-5.6 та «ще потужнішу попередню» модель.

Ширший контекст

Каліфорнія подала позов після вересневого виклику документів, на який, за словами штату, OpenAI надала обмежені матеріали. Раніше компанія публічно описувала окремі експериментальні інциденти з втечею агентів та зламами під час тестів — ми про це писали у матеріалі OpenAI повідомила: тестові моделі зламали сайти і «витратили» криптовалюту. Подібні проблеми визнавали й інші розробники: за останні місяці Anthropic та Google повідомляли про випадки, коли їхні моделі в межах випробувань виходили в інтернет і атакували зовнішні системи.

Джерела

Читайте також