Google розширила TPU 8: 8tx для захищеного інференсу, 8i Max для агентів
Google представила два нові варіанти свого восьмого покоління TPU: 8tx для конфіденційного, апаратно ізольованого інференсу та 8i Max для довгоконтекстної агентної роботи.
Google анонсувала TPU 8tx і TPU 8i Max — спеціалізовані варіанти восьмого покоління власних прискорювачів для задач агентів і безпеки. 8tx орієнтований на конфіденційний, апаратно ізольований інференс для регульованих галузей і держсектору, тоді як 8i Max націлений на довгий контекст і агентні робочі навантаження.
Що нового в TPU 8tx
TPU 8tx базується на тому самому кристалі, що й раніше представлений 8t, але пристосований до суворих вимог безпеки. Для хостів замість Arm-базованих Axion у 8tx застосовано 5-е покоління процесорів AMD EPYC. Також система використовує мережу Boardfly і підтримує конфіденційний, апаратно ізольований інференс, націлений на підприємства з регулюванням та урядові організації.
TPU 8i Max для довгого контексту та агентів
TPU 8i Max поєднує два кристали 8i в одному корпусі. Порівняно з оригінальним 8i, це подвоює обчислювальні можливості, пропускну здатність SRAM і HBM, що важливо для агентних сценаріїв і роботи з великими контекстами. Базовий 8i задумувався як рішення для загального інференсу з низькою затримкою та міркуванням, а Max-версія розширює цей фокус на складніші багатокрокові завдання.
Контекст: родина TPU 8 та модульний підхід
Ще у квітні Google розділила лінійку на TPU 8t для великомасштабного навчання та TPU 8i для інференсу. Нові 8tx і 8i Max продовжують цю диференціацію, додаючи вузькоспеціалізовані конфігурації для безпеки та агентних робочих навантажень.
За даними компанії, бізнес TPU швидко зростає: кількість клієнтів наближається до сотні, а серед нещодавніх прикладів — перехід Meta на TPU. Google підкреслює, що модульний підхід дозволяє виводити спеціалізовані системи «за лічені місяці, а не роки», що й пояснює появу таких варіантів, як 8tx та 8i Max.
