Microsoft Olive ще направи вашите AMD GPU 10 пъти по-бързи

Microsoft Olive е инструмент, който използва езика Python за оптимизиране на модели за максимална производителност.

Най-накрая ще искате да закупите AMD чипове, защото технологичният гигант си сътрудничи с Microsoft Olive, за да ги направи 10 пъти по-бързи, до удивително 9,9 X увеличение на производителността.

Нов експеримент, проведено от AMD, показва значително увеличение на производителността на AI генериране на текст към изображение на Radeon RX с Microsoft Olive. Удивителният растеж беше резултат от активирането на Stable Diffusion с Microsoft Olive.

AMD пусна ръководство стъпка по стъпка как да го направите, в случай че имате AMD GPU и искате да го изпробвате. Умерено лесно е и може да се направи на стъпки. Ще трябва да създадете оптимизиран модел с помощта на Microsoft Olive, да го тествате и да го интегрирате с Automatic1111 WebUI.

Ако сте разработчик на софтуер или ИТ мениджър, това може да бъде доста лесно да се направи. Но има някои предпоставки за това:

• Инсталиран Git (Git за Windows)
• Инсталирана Anaconda/Miniconda (Miniconda за Windows)
  • Уверете се, че директорията Anaconda/Miniconda е добавена към PATH
• Платформа с AMD графични процесори (GPU)
  • Драйвер: AMD Софтуер: Adrenalin Edition™ 23.7.2 или по-нова (https://www.amd.com/en/support)

Microsoft Olive е в състояние значително да подобри производителността на вашите AMD GPU

Ако не знаете нищо за Microsoft Olive, инструментът използва езика за програмиране Python за конвертиране, оптимизиране, квантуване и автоматична настройка на модели за оптимална производителност.

Microsoft Olive често се използва с други инструменти, особено със Stable Diffusion, който е чувствителен към оптимизация. Когато бъдат събрани, те са в състояние да изградят оптимизирани модели, които могат да работят със специални приложения, като WebUI.

Това само по себе си позволява по-добро изследване на драйверите и стимулира техните възможности за постигане на много по-добро представяне.

Ръководството на AMD за това как да постигнете 10 X производителност на вашия GPU има много общо с този инструмент. По същество това са стъпките на ръководството:

1. С Microsoft Olive ще можете да генерирате оптимизиран стабилен дифузионен модел.
2. Ще трябва да тествате модела.
3. След като го тествате, ще трябва да интегрирате модела с WebUI.
4. Ако приемем, че вече сте инсталирали Automatic1111 WebUI, ще трябва да го стартирате с оптимизирания модел.

Според експеримента, работещ по пътя на PyTorch по подразбиране, AMD Radeon RX 7900 XTX доставя 1,87 итерации/секунда. Но използвайки оптимизирания модел с Microsoft Olive, същият GPU осигурява 18,59 итерации/секунда.

Не забравяйте да разгледате пълното ръководство на AMD за това как да подобрите производителността на вашия AMD GPU и ако работи, уведомете ни в секцията за коментари по-долу.