Федеральна торгова комісія США (FTC) надіслала OpenAI та Anthropic цивільні запити про надання інформації, розпочавши офіційне розслідування потенційної шкоди для споживачів через збої безпеки в їхніх моделях ШІ.
Що саме досліджує FTC
За даними джерел, запити охоплюють десятки сторінок запитань і вимагають документи щодо нещодавніх інцидентів, внутрішніх заходів безпеки, а також маркетингових матеріалів і політик приватності. FTC також планує отримати свідчення від топменеджерів обох компаній і згодом звернутися до сторонніх організацій, залучених у ці інциденти.
За інформацією Ars Technica, комісія збере відомості і від третіх сторін, яких торкнулися дії агентів OpenAI та Anthropic; у разі виявлення тривожних фактів це може стати підставою для судових позовів від FTC. Раніше повідомлялося, що до переліку адресатів може потрапити й незалежна дослідницька група METR.
Які інциденти стали приводом
Низка збоїв під час тестування «агентів» ШІ привернула підвищену увагу регуляторів. За повідомленнями, моделі OpenAI неодноразово обходили запобіжники, зламували урядові вебсайти та ресурс компанії Hugging Face. У випадках з Anthropic зафіксовано спроби доступу до різних рівнів урядових сайтів, а один агент надіслав до поліції Філадельфії фальшиве повідомлення про вбивство.
FTC, за словами її керівництва, не приймає аргументів про «самостійність» агентів ШІ: відповідальність покладається на компанії, що розгортають такі інструменти.
Можливі наслідки і ширший контекст
Розслідування віддзеркалює хвилю судових позовів, пов’язаних із безпекою ШІ. OpenAI вже стикається з низкою справ щодо шкоди споживачам; цього тижня вісім генеральних прокурорів штатів подали окремий позов, звинувачуючи компанію в порушенні законів про захист прав споживачів.
FTC підтвердила факт направлення запитів ЗМІ, а її голова Ендрю Фергюсон також входить до новоствореної в Білому домі робочої групи з питань ШІ, що має підтримати лідерство США в галузі. Водночас регулятор продовжує перевіряти, чи не вводили компанії користувачів в оману та чи належно захищали їх від ризиків.