Великі мовні моделі (LLM) потребують значного обсягу пам’яті – настільки, що ентузіасти штучного інтелекту часто використовують багатопроцесорні конфігурації, щоби збільшити доступну відеопам’ять для своїх AI-застосунків. Однак через надзвичайно великі обсяги LLM навіть такий підхід має свої межі. У деяких випадках графічний процесор (GPU) передає обчислення центральному процесору (CPU), і тоді на перший план виходить продуктивність кешу ЦП та оперативної пам’яті (DRAM). Це означає, що для ефективності AI-застосунків важлива не лише GPU, а й увесь ланцюг з’єднання GPU з CPU і модулями DRAM. Відповідно, з’являються можливості для оптимізації цих компонентів із метою підвищення продуктивності.
Саме це було продемонстровано під час досліджень у лабораторіях R&D ASUS із використанням найновіших процесорів AMD Ryzen. Нещодавно AMD запропонувала два нові процесори Ryzen із технологією AMD 3D V-Cache – AMD Ryzen 9 9950X3D і AMD Ryzen 9 9900X3D, що виводять серію Ryzen на новий рівень. Після масштабного тестування різноманітних оптимізацій у широкому спектрі навантажень було ідентифіковано набір налаштувань, які забезпечують відчутні переваги для AI-застосувань. Результати цих досліджень втілено в новій функції BIOS – AI Cache Boost. У реальних сценаріях роботи з великими LLM AI Cache Boost забезпечує приріст продуктивності до 12,75 %.
Для активації AI Cache Boost необхідна материнська плата ASUS серії AMD 800 та процесор серії AMD Ryzen 9000 Granite Ridge. У UEFI BIOS потрібно перейти на вкладку Extreme Tweaker та увімкнути відповідну функцію – система буде готова до роботи.
Функція AI Cache Boost активує низку оптимізацій, включно з розгоном частоти Infinity Fabric clock (FCLK) до 2 100 МГц. Підвищення FCLK є ключовим фактором, адже збільшує пропускну здатність між ядрами CPU, кешем і модулями пам’яті – що особливо важливо для роботи з великими LLM.
Тим, хто використовує одну систему і для AI-застосунків, і для ігор, варто знати: увімкнення AI Cache Boost практично не впливає на ігрову продуктивність. Функцію можна залишати активною під час перемикання між різними типами навантажень. За бажанням, для підвищення стабільності в іграх, частоту FCLK можна вручну знизити до консервативнішого значення після активації.
У тестовій конфігурації використовувалися материнська плата ROG Crosshair X870E Hero 90MB1IE0-M0EAY0, відеокарта NVIDIA GeForce RTX 5090 і 2 × 16 ГБ DDR5 RAM.
Було протестовано декілька процесорів з AMD 3D V-Cache: Ryzen 9 9950X3D, 9900X3D і 9800X3D. Першим тестом є Geekbench AI з фреймворком ONNX DirectML, який вимірює продуктивність GPU.
Залежно від конфігурації, приріст продуктивності становив від 4 % до 8 %. Це суттєво для користувачів, які щодня працюють із AI-навантаженнями – особливо з огляду на простоту активації функції.
Оскільки серія NVIDIA RTX 50 є новою на ринку, було проведено додаткове тестування на попередньому поколінні відеокарт – зокрема з NVIDIA RTX 4090.
У тесті Geekbench AI з RTX 4090 активація AI Cache Boost дала змогу досягти приросту продуктивності до 7,57 % із AMD Ryzen 7 9800X3D, який показав найвищий результат з-поміж протестованих процесорів.
Аналогічну динаміку продемонстрував тест UL Procyon AI Computer Vision Benchmark, де Ryzen 7 9800X3D досяг поліпшення продуктивності на 12,75 % з активованою функцією.
Високі результати Ryzen 7 9800X3D у тестах свідчать, що AMD 3D V-Cache у деяких AI-сценаріях дає значнішу перевагу, ніж більша кількість ядер у Ryzen 9 9950X3D і 9900X3D. Для детальнішого аналізу було проведено додаткові тести з увімкненням як AI Cache Boost, так і Turbo Game Mode.
Turbo Game Mode, доступний на материнських платах ASUS AM5, оптимізує систему двома способами:
Через істотний вплив на багатопотокову продуктивність Turbo Game Mode рекомендується вмикати лише за необхідності.
У конфігурації з активованими AI Cache Boost і Turbo Game Mode Ryzen 9 9950X3D демонструє найвищий приріст продуктивності з-поміж усіх протестованих варіантів – на 19,85 % як порівняти з базовими налаштуваннями.
Ці результати свідчать, що для користувачів AI-застосунків, які не використовують усі доступні потоки CPU, поєднання двох BIOS-функцій може бути надзвичайно вигідним. Обидві функції доступні у вкладці Extreme Tweaker BIOS, що робить їх використання зручним навіть для менш досвідчених користувачів.
Процесори AMD Ryzen 9 9950X3D і 9900X3D відкривають нові можливості для ентузіастів ПК. Завдяки 32 і 24 потокам відповідно вони забезпечують потужну багатопотокову продуктивність, а також користуються перевагами технології AMD 3D V-Cache.
Материнські плати ASUS серії AMD 800 допомагають максимально реалізувати потенціал цих процесорів через BIOS-оптимізації. Зокрема AI Cache Boost є надзвичайно ефективним інструментом для підвищення продуктивності в AI-робочих процесах, що використовують LLM.
Щоб отримати максимум від нових процесорів AMD, варто звернути увагу на повну лінійку материнських плат ASUS AM5 – від флагманських X870E і X870 до доступніших B850 і B840.