Anthropic попереджає: малі AI-моделі можуть невдовзі «саморозмножуватись» і будувати ботнети
Anthropic заявляє, що вже за кілька місяців невеликі AI-моделі зможуть поширюватися на вразливих пристроях і формувати автономні ботнети. Експерти погоджуються з термінами, але вважають загрозу менш новою, ніж здається.
Anthropic повідомила, що найближчими місяцями малі моделі штучного інтелекту зможуть відтворюватися на незахищених пристроях і розповзатися мережею, утворюючи стійкі, хоч і повільні, автономні ботнети. Експерти, з якими поспілкувався Engadget, загалом згодні, що така здатність не за горами, але її новизна й масштаб наслідків під питанням.
Що каже Anthropic і чому це може статись раніше
За словами Сhris Canal з EquiStamp, прогноз Anthropic звучить раніше, ніж очікувалось: він очікував реальних ризиків ближче до літа наступного року. Водночас він припускає, що у співробітників Anthropic є знання про «фронтир» досліджень, недоступні іншим, а пришвидшення прогресу може пояснюватись тим, що дослідники використовують власні AI-інструменти для роботи над машинним навчанням.
Погляд з академії: загроза реальна, форма — відкрите питання
Професор Michael Bailey з Georgia Tech вважає, що самовідтворювальні моделі з’являться, але їхня конкретна форма і наслідки залишаються невизначеними. Він нагадує, що подібні за духом загрози вже виникали: зокрема, Mirai у 2016-му перетворила побутові пристрої на ботнет для DDoS-атаки, яка через Dyn вивела з ладу для багатьох користувачів Amazon, GitHub, PayPal, Reddit та Twitter; Sony оцінила втрати у близько $2,7 млн чистого доходу.
Що тут справді нове (і що ні)
За Bailey, адаптивність ботнетів не нова: Mirai працювала на «гетерогенних» пристроях, але потребувала людського втручання для кожної нової архітектури. Новизна нинішнього підходу — у потенційному автоматизуванні цієї роботи AI, що може змінити «економіку» між нападниками і захисниками. Водночас демонстрація Anthropic, за його словами, відбувалась в емульованій мережі з тривіальною вразливістю, тож переконливого доказу поки немає.
«Саморозмноження» чи все ж інший підхід
Bailey критикує саме формулювання «самореплікація»: радше йдеться про схему на кшталт dropper, коли на пристрій ставиться невеликий координаційний інструмент, що отримує команди ззовні, а не повна копія шкідника. Справжні інтернет-«хробаки» можуть бути поліморфними; щоб AI-ботнет наслідував цю властивість, йому довелось би перевчати власні моделі. У дослідженні Anthropic цього не робили — натомість моделі лише «передавали нотатки» нащадкам, поступово краще налаштовуючи інференс.
Висновок: загроза еволюціонує, але не з нуля
Експерти сходяться на думці, що найближчим часом AI може здешевити і пришвидшити створення ботнетів та їхнє масштабування, однак ідеться радше про зміну балансу сил, ніж про принципово новий тип кібератаки. За даними Engadget, ключові питання лишаються відкритими: реальні вектори проникнення, ступінь автономності та здатність до приховування у «польових» умовах.
