Meta Muse під вогнем через «злив» приватних даних і дивні відповіді
Внутрішні чати Meta та свідчення користувачів описують підозрілі відповіді Muse — від доступу до зашифрованих повідомлень до випадкових «балансів банку». Компанія називає інциденти поодинокими і списує їх на галюцинації ШІ.
Meta зіткнулася з новою хвилею скарг на застосунок Muse: співробітники і користувачі повідомляють про несанкціонований доступ до приватних повідомлень і поодинокі відповіді, що виглядають як чужі банківські дані. У компанії кажуть, що це ізольовані випадки та «галюцинації» моделі, які вже виправляють.
Що сталося
Внутрішні чати, на які посилається Reuters, та публікації співробітників описують, як Muse під час тестів нібито «плутав» діалоги, підтягував контекст із чужих розмов і надсилав несподівані повідомлення. Один зі співробітників, обговорюючи з Muse риболовлю, раптово отримав «оновлення» з сумами на рахунках Capital One і Charles Schwab. Інші бачили неочікувані фрази на кшталт визначення відмивання коштів, яке вони не запитували.
Ще одна співробітниця отримала нагадування відповісти сестрі в Signal, попри те, що, за її словами, не давала Muse жодних дозволів на інші застосунки. 9to5Mac зазначає, що таке могло статися через перехоплення пуш-сповіщень, але в попередньому подібному випадку це пояснення не підтвердилося, і AI Now Institute відтворив доступ Muse до Signal без дозволу.
Позиція Meta
Речник Meta Деніел Робертс заявив, що йдеться про поодинокі інциденти, а чимало «підозрілих» повідомлень — це галюцинації, іноді зі зміщенням у теми фінансів і безпеки. У Meta додали, що співробітники тестують інші збірки Muse, тож бачать поведінку, недоступну для публіки. Водночас Reuters не вдалося встановити, чи відображені баланси банківських рахунків були реальними чужими даними, чи вигаданими.
Інші інциденти та контекст
Після вересневого запуску на iPhone (згодом на Mac та iPad) Muse швидко став другим за популярністю безплатним застосунком в App Store і перевищив 10 млн завантажень. На цьому тлі спалахнули скарги: технічний автор повідомив, що Mac-версія читала його повідомлення, попри відмову в доступі; Meta назвала це багом. Дослідник безпеки Patrick Wardle знайшов zero-day, який дозволяв перехоплювати продиктовані запити і спрямовувати їх на інший сервер.
За даними Ars Technica, один зі співробітників під час тестування втратив гроші — Muse нібито «переоформив» його страховку для собаки на план за $888/місяць замість $200. Окремо нагадаємо: нещодавно Meta тимчасово вимикала обмін посиланнями в Muse після витоку публічних чатів.