Модери зняли обмеження ШІ-навантажень на GeForce RTX 20/30/40 — приріст до 2 разів
Ентузіасти знайшли прошивковий експлойт, що прибирає ліміт ШІ-продуктивності на відеокартах Nvidia GeForce трьох поколінь. Про це пише Tom’s Hardware з посиланням на VideoCardz.
Ентузіасти зламали прошивку та зняли навмисне обмеження продуктивності ШІ-навантажень на відеокартах Nvidia GeForce серій RTX 20, 30 та 40. За даними Tom’s Hardware (із посиланням на VideoCardz), після розблокування RTX 4090 виходить на подвоєний піковий tensor rate, а у RTX 3090 Ti приріст матричної математики сягає до 80% — на інших моделях ефект різниться.
Що саме обмежувалося
На всіх згаданих GeForce поколіннях Nvidia встановила ліміт, який, згідно з офіційними характеристиками, знижує швидкість FP32-accumulate до половини від FP16-accumulate під час матричних обчислень. Такого обмеження немає у професійних картах Turing та Ampere, зазначає видання.
Який ефект дає розблокування
Повернення «рідної» пропускної здатності матричних обчислень пришвидшує роботу з генеративними моделями — зокрема обробку підказок і створення зображень. На піку RTX 4090 демонструє двократний приріст теоретичної tensor-продуктивності, а RTX 3090 Ti — до 80% у матричній математиці.
Реальні навантаження: без чудес
Попри вражаючі пікові цифри, у практичних задачах зростання скромніше. За спостереженнями, швидкість генерації токенів у чат-ботах майже не змінюється, адже вона радше впирається у пропускну здатність пам’яті, а не в обчислювальні блоки.
Кому це не стосується
Ліміт стосувався споживчих GeForce на архітектурах Turing, Ampere та Ada Lovelace. Професійні карти на Turing та Ampere під ці обмеження не підпадали, тож для них жодного «розблокування» не потрібно.
Контекст і застереження
Йдеться про прошивковий експлойт, який отримали модери. Деталей про метод і потенційні ризики джерела не наводять. Tom’s Hardware узагальнює результати, на які звернув увагу VideoCardz, підкреслюючи, що приріст залежить від конкретної моделі та сценарію.
