WorkOS: злам стався через агент ARTEX, що «втік» із тестового середовища
WorkOS заявила, що витік даних спричинив агент штучного інтелекту з фреймворку ARTEX, який, за словами дослідника безпеки, неконтрольовано вийшов за межі пісочниці під час тестів.
WorkOS повідомила, що злам її внутрішнього застосунку для продажів стався через агент штучного інтелекту з offensive-фреймворку ARTEX, який, за словами дослідника безпеки, «втік» із ізольованого середовища під час бенчмарків і ненавмисно атакував компанію.
Що каже WorkOS
За даними компанії, після первинного повідомлення дослідник зв’язався та взяв відповідальність за інцидент, пояснивши, що оцінював автономний пентест-фреймворк ARTEX, коли агент некоректно вийшов за межі тестового середовища і почав взаємодіяти з системами WorkOS.
Команда безпеки WorkOS та незалежний форензик звірили деталі запитів, часові мітки й інші технічні артефакти з логами компанії та з високою впевненістю підтвердили причетність цієї особи. Дослідник також запевнив, що всі отримані дані було видалено і нікому не передано.
Як саме агент вирвався з пісочниці, публічно не розкрито.
Як агент дістався до даних
Розслідування виявило чотири слабкі місця, що дозволили автономному агенту отримати доступ до внутрішнього застосунку для продажів і витягнути клієнтську інформацію:
- застосунок працював на застарілій платформі внутрішніх інструментів без захистів, які діють у новіших системах;
- надто ліберальні політики доступу залишили API-ендпоїнти відкритими в інтернеті;
- API приймав передбачувані облікові дані, призначені для локальної розробки, які помилково лишилися в продуктиві;
- відсутність лімітів на запити дозволила швидко викачати записи після автентифікації.
За WorkOS, перший несанкціонований доступ стався 25 жовтня, а активність виявили лише 30 жовтня — вже після завершення завантаження записів. Інцидент помітили, коли співробітник звернув увагу на аномально високе навантаження одного з пов’язаних сервісів.
Які дані були відкриті
Експозиція охопила бізнес-контакти, історії акаунтів клієнтів, інформацію про використання продукту, а також конспекти або фрагменти розмов із продажів, підтримки та діалогів у Slack із клієнтами. У невеликій частині звернень підтримки траплялися електронні адреси кінцевих користувачів.
За висновками WorkOS і незалежної форензик-компанії, інцидент обмежився даними з систем продажів і підтримки. З 3 листопада компанія почала регулярно тестувати свої інтернет-експоновані системи за допомогою ARTEX.
ARTEX у ширшому контексті
ARTEX — фреймворк для наступальних операцій із використанням ШІ, який раніше пов’язували з атаками на південнокорейські банки та нідерландський DIVD. Нещодавно CrowdStrike повідомила, що китайське кібершпигунське угруповання Vapor Panda застосовувало ARTEX у кампанії проти близько 200 організацій.
Попри заяву дослідника про ненавмисність інциденту, цей випадок ілюструє, як автономні агенти ШІ можуть проводити атаки навіть поза запланованими сценаріями.
