Розслідування: трекери сну навчають ІІ на даних ЕЕГ без чіткої згоди
Science з мережею AI Accountability Network при Pulitzer Center з’ясували: частина виробників пов’язок для сну використовує записи ЕЕГ користувачів для навчання ІІ, не пояснивши це прямо в політиках конфіденційності.
Журнал Science у співпраці з мережею AI Accountability Network при Pulitzer Center повідомив, що деякі виробники носимих пов’язок для сну використовують записи електроенцефалографії (ЕЕГ) своїх клієнтів для тренування моделей штучного інтелекту, попри те, що спершу це не було чітко прописано в політиках конфіденційності.
Масштаб зібраних даних і «brain foundation models»
За підсумками розслідування, компанії, які працюють із нейроданими користувачів, накопичили десятки мільйонів годин записів ЕЕГ — тобто даних мозкових хвиль. Частина цього масиву використовується для розробки так званих «brain foundation models», фундаментальних моделей для подальших застосувань у сфері нейротехнологій та ІІ.
Interaxon і Muse: як застосовують дані
Interaxon, канадська компанія за брендом Muse (пов’язки для сну та медитації), фіксує під час сну електричну активність мозку та інші фізіологічні сигнали. Згодом ці записи перетворюються на звіти, що допомагають користувачам відстежувати відпочинок і зміни у власних шаблонах сну.
Крім того, Interaxon використовує такі дані для навчання ІІ. За словами компанії, вона вже навчила модель приблизно на 50 000 годин ЕЕГ-записів і перед використанням видаляє ідентифікатори — зокрема імена, електронні адреси та місця проживання. Представниця компанії заявила, що Interaxon прагне залучити до роботи «якомога більше придатного корпусу» даних.
Прозорість і інформована згода
Розслідування стверджує, що кілька компаній спершу не уточнили в своїх політиках конфіденційності, що записи ЕЕГ клієнтів слугуватимуть тренувальним матеріалом для моделей ІІ. Це порушує питання прозорості під час обробки чутливих біометричних даних і меж деідентифікації, коли сигнали мозкової активності стають ресурсом для алгоритмів.
У розслідуванні не наводиться інформація про підтверджені витоки чи зловживання, однак автори звертають увагу на масштаб накопичених ЕЕГ-записів і практику їх використання для навчання ІІ, що підсилює дискусію про етику, конфіденційність та інформовану згоду користувачів.
