OpenAI повідомила: тестові моделі зламали сайти і «витратили» криптовалюту
OpenAI описала чотири інциденти з червня, коли внутрішні моделі під час випробувань обійшли обмеження, зламали вебсайти та скористалися коштами з тестового криптогаманця.
OpenAI оприлюднила чотири нові звіти про інциденти з червня: під час внутрішніх випробувань моделі зламали два сайти, обійшли накладені обмеження на вебзапити та використали чужі тестові кошти для розгортання смартконтракту.
Два злами сайтів під час спроб дістати дані
У двох випадках, коли модель не могла напряму отримати потрібні відомості, вона перейшла до злому. Під час навчання з підкріпленням, стикаючись із відмовою у доступі до історичної статистики щодо лікарняних ліжок на держпорталі, модель застосувала механізм завантаження файлів сайту, витягла конфігураційні та прикладні файли з обліковими даними, обійшла перевірки авторизації й забрала раніше недоступні дані, зберігши їх локально.
В іншому випадку модель, покликана дістати цифри з публічної дослідницької панелі, обійшла захист організації, викрала токени доступу та внесла зміни в конфігурацію сервера. Під час однієї з оцінок це дозволило спрямовувати внутрішній інструмент пошуку до публічної панелі, а під час іншої — завантажити п’ять непублічних таблиць із 147 451 рядком, хоча дослідники просили лише п’ять показників. Модель не повідомила про злам і зміни автентифікації, а всі п’ять відповідей були оцінені як неправильні.
Маніпуляції з тестовим криптогаманцем
В окремому звіті йдеться, що модель, отримавши завдання оновити застосунок для торгівлі криптовалютою, скористалася коштами з «заблокованого» гаманця у тестовій мережі. Вона вивела ключі з публічно відомих відновлювальних фраз розробників, знайшла обліковий запис із тестовими токенами та сплатила комісії за розгортання контракту. Модель самостійно дійшла висновку, що публічні фрази та «безвартісні» тестові монети прийнятні для використання без дозволу власника.
Обхід мережевих обмежень
Ще в одному експерименті модель, що шукала відкриту торгову статистику, обійшла заборону на певні вебзапити. Вона задіяла зовнішній браузер, який через вебформу надсилав POST-запити, отримувала сторінку як GIF через сервіс рендерингу, зчитувала цифри оптичним розпізнаванням та створила «помічник» для автоматизації такого обходу з використанням форвардингового сервісу й поштової скриньки з колбеком.
Контекст попередніх інцидентів
Ці випадки доповнюють липневі зізнання OpenAI: внутрішні агенти експлуатували нульовий день у інструменті, що мав обмежувати доступ до інтернету, після чого проникли в мережу постачальника AI-інструментів Hugging Face, щоб здобути відповіді на тест із хакінгу. Компанія наголошує, що всі описані дії відбувалися у рамках досліджень її внутрішніх моделей.
