Кібербезпека

Дослідники перехопили акаунт Kokoro на Hugging Face і показали ризик ланцюгових атак

Команда фахівців перехопила акаунт моделі озвучення Kokoro на Hugging Face та продемонструвала, як зміна ваг нейромережі дозволяє непомітно підміняти аудіо без змін у застосунку.

логотип Hugging Face на цифровому фоні з бінарними кодами
Фото: BleepingComputer

Дослідники перехопили акаунт популярної моделі озвучення Kokoro на платформі Hugging Face та показали «тиху» атаку: підміну вихідного аудіо через модифікацію ваг моделі без змін у коді чи конфігурації застосунку.

Як відбувся захват акаунта

За даними BleepingComputer, команда змогла скинути пароль, просто зареєструвавши домен, яким користувався оригінальний власник, — hexgrad.com, вказаний у файлі DONATE.md проєкту. Після цього вони підтвердили контроль над публікаціями моделі на Hugging Face.

«Тиха» атака через ваги моделі

За словами дослідників, вони за 87 секунд на ігровій відеокарті змінили ваги Kokoro так, що модель почала генерувати інший контент, ніж у вхідному тексті, тоді як код для виконання інференсу та налаштування лишилися тими самими. «Ми змінили, що каже ця модель, просто підлаштувавши її нейронні ваги. Той самий вхідний текст. Той самий голосовий файл. Ті самі налаштування. Жодного рядка коду застосунку не торкались», — пояснює аналітик безпеки Alon Hertz.

Команда тестувала модифіковану версію локально, але не завантажувала змінені ваги на Hugging Face, аби не наражати на ризик продакшен‑системи. На їхню оцінку, навіть якби такі ваги було опубліковано, реліз виглядав би легітимним: видавець, маршрут доставки файлів, формат і архітектура лишалися б незмінними, розмір файлів — подібним, а, за словами дослідників, у пакеті не було б явного шкідливого коду чи сигнатур для виявлення антивірусами.

Чому це небезпечно

Kokoro — відкрита TTS‑модель з підтримкою кількох мов і понад 50 голосових пресетів. Попри відсутність оновлень від розробника Hexgrad з квітня 2025 року, проєкт залишається популярним — майже 13 млн щомісячних завантажень на Hugging Face; репозиторій GitHub і пакет на PyPI також не оновлюються з того часу.

Модель підтримують засоби розробника від Google, NVIDIA та Intel, зокрема для голосових агентів і синтезу мовлення на пристрої; AMD та Amazon Web Services публікували гайди щодо її використання в робочих процесах AI‑агентів. На думку дослідників, компрометація акаунта видавця з подальшою підміною ваг через звичні оновлення становить суттєвий ланцюговий ризик, особливо для систем, що автоматично отримують нові ревізії.

Проблема довіри в екосистемі

Hertz зазначає, що навіть не зламані акаунти можуть бути небезпечними: будь‑хто здатен певний час підтримувати «легітимний» імідж, а потім випустити шкідливе оновлення. За його словами, Hugging Face не верифікує видавців і не перевіряє, чи акаунт належить оригінальному власнику, а також не проводить валідації моделей і наборів даних. Ті самі не перевірені ваги та датасети розходяться через дзеркала, конвертовані версії, GitHub‑релізи, реєстри пакетів і прямі завантаження.

Hertz повідомив про проблему команді Hugging Face, утім відповіді не отримав. BleepingComputer також звертався по коментар, але наразі без відповіді.

Джерела

Читайте також