Кібербезпека

Дослідник виявив масовий витік секретів у ланцюжку AI-сервісів

HD Moore з Dragos засіяв майже 2 млн «канарок» у запити до AI-сервісів і побачив системні витоки: злами хостерів, крадіжки підказок і ігнорування політик приватності.

жовта пастка з пакунком на синьому фоні
Фото: Ars Technica

Дослідник кібербезпеки HD Moore (Dragos) провів масштабний експеримент із майже 2 млн унікальних «канарок» у запитах до мережі AI-сервісів і фіксував, де спливає чутлива інформація. Результат — підтверджені злами провайдерів, недоброчесні реселери та широке порушення налаштувань приватності.

Як працював експеримент

Moore створив набір унікальних секретів: ключі доступу AWS, паролі для SSH, приватні URL і посилання на закриті git-репозиторії. Кожен секрет вбудовувався рівно в один запит до одного провайдера. Оскільки дослідник контролював інфраструктуру для прийому звернень, будь-яке повторне використання секрету дозволяло відстежити саме ту ланку, де стався витік.

Сучасні AI-застосунки часто працюють через «AI-роутери» на кшталт OpenRouter чи Vercel. Вони розподіляють підказки між доступними моделями за ціною або доречністю. Хоча трафік шифрується, на кожному «стрибку» у ланцюжку запит розшифровується, і провайдери нерідко його логує — інколи всупереч позначкам на кшталт Zero Data Retention.

Що виявили

  • Щонайменше три AI-провайдери були зламані: зловмисники перехоплювали підказки на вході та крали секрети.
  • Деякі реселери в інференс-маркетплейсах логували запити й передавали дані третім особам.
  • Фіксувалися випадки ігнорування прапорців приватності, включно із ZDR.

За словами Moore, в одному інциденті зловмисники повторно використали «пару сотень» ключів AWS. Частина викрадених ключів походила із запитів, які провайдер навіть відхилив — це свідчить про перехоплення «на порозі», ще до запуску моделі. В інших двох зламах частина вкрадених запитів була позначена як ZDR: коли атакувальник уже всередині інфраструктури, прапорці не рятують.

Ескалація доступу і роль реселерів

Викрадені ключі тестувалися годинами після «посіву»: перевірялися S3-бакети, secrets managers і parameter stores, намагалися вмикатися моделі в AWS Bedrock, додавалися власні IAM-користувачі. Сукупно «приманки» використали у «десятках тисяч» викликів AWS API. Секрети, надіслані до двох зламаних провайдерів, майже миттєво перевірялися з одного орендованого сервера — ймовірно, діяла одна і та сама група.

Окремо дослідник ідентифікував недоброчесних перепродавців: вони заманювали трафік низькою ціною, вмикали логування запитів і чекали. Порівняння звернень до однієї моделі через різних продавців показало, хто саме зливає секрети.

Висновок

Екосистема AI-постачальників і роутерів виявилася вразливою до витоків на кожному кроці ланцюжка. За даними дослідження, навіть формальні політики збереження даних не гарантують приватності, якщо доступ до провайдера вже скомпрометовано.

Джерела

Читайте також