Wired виявив сотні AI‑застосунків із прихованими deepfake‑функціями в App Store і Google Play
Розслідування Wired знайшло понад 400 застосунків з прихованими інструментами для сексуальних і насильницьких deepfake‑зображень та відео. Частину з них Apple вже видалила з App Store.
Wired повідомив про мережу з понад 400 AI‑застосунків і доменів, що пройшли модерацію в App Store і також були доступні в Google Play, але приховано генерували сексуальні та насильницькі deepfake‑матеріали.
Як працювала схема
За даними Wired, застосунки маскувалися під буденні сервіси — від мовних тренажерів до фітнес‑коучів. Один із прикладів — Viefur, який нібито «одягає» домашніх улюбленців на фото. У певних умовах ці програми нишком підвантажували вебінтерфейс, що дозволяв створювати відверті AI‑зображення й відео з фото користувачів.
Для обходу перевірки застосовували «приманку і підміну»: під час рев’ю показували безпечний контент, а після схвалення перемикали джерело даних на сервері. Одним із тригерів активації прихованих функцій було встановлення після натискання на рекламу з deepfake‑обіцянками у Facebook чи Instagram. Далі користувачі могли завантажувати десятки шаблонів порнографічних фото та відео і купувати кредити для генерації контенту.
Масштаб та платформи
Wired виявив пов’язану мережу з більш як 400 доменів і застосунків, які «ховалися на видноті» завдяки тисячам відеореклам у соцмережах Meta. Деякі програми працювали вже рік, попри заборони Apple, Google і Meta на шкідливі deepfake‑матеріали. У переліку сцен були, зокрема, «bedroom rape» та «threatening knife», де чоловік тримає ніж біля шиї жінки.
Що кажуть Apple і Meta
Apple після отримання деталей від Wired видалила 19 застосунків. Компанія заявила, що всі програми проходять рев’ю і на момент перевірки відповідали правилам, але згодом розробники підмінили вміст на сторонньому сайті на порнографічний та просували його через сторонні порнореклами. Виробник запевняє, що нещодавно посилив захист від таких підходів.
Meta, своєю чергою, повідомила про вжиті заходи проти більш ніж 10 000 рекламних акаунтів, пов’язаних із доменами цієї мережі.
Хто стоїть за мережею
На думку Wired, більшість із понад 400 застосунків і доменів могла бути створена однією китайською організацією. Водночас і Apple, і Google, і Meta мають політики, які прямо забороняють подібний контент — однак мережі вдалося пройти модерацію завдяки прихованим механізмам активації.
