Вы наконец-то захотите купить чипы AMD, потому что технологический гигант сотрудничает с Microsoft Olive, чтобы сделать их в 10 раз быстрее, до поразительных 9.9-кратное увеличение производительности.
Новый эксперимент, проведенный AMD, показывает значительное увеличение производительности генерации текста и изображений ИИ на Radeon RX с Microsoft Olive. Удивительный рост стал результатом включения функции Stable Diffusion в Microsoft Olive.
Компания AMD выпустила пошаговое руководство, как это сделать, на случай, если у вас есть GPU AMD и вы хотите попробовать. Это умеренно просто и может быть сделано в несколько этапов. Вам нужно будет создать оптимизированную модель с помощью Microsoft Olive, протестировать ее и интегрировать в Automatic1111 WebUI.
Если вы являетесь разработчиком программного обеспечения или ИТ-менеджером, это может быть довольно легко сделать. Но для этого есть некоторые предпосылки:
Установлен Git (Git для Windows) Установлена Anaconda/Miniconda (Miniconda для Windows) Убедитесь, что каталог Anaconda/Miniconda добавлен в PATH Платформа, имеющая драйвер графических процессоров AMD (GPU): AMD Программное обеспечение: Adrenalin Edition™ 23.7.2 или новее (https://www.amd.com/en/support)
Microsoft Olive способен значительно повысить производительность графических процессоров AMD
Если вы ничего не знаете о Microsoft Olive, этот инструмент использует язык программирования Python для преобразования, оптимизации, квантования и автоматической настройки моделей для достижения оптимальной производительности.
Microsoft Olive часто используется с другими инструментами, особенно с Stable Diffusion, который чувствителен к оптимизации. Собранные вместе, они способны создавать оптимизированные модели, которые могут работать со специальными приложениями, такими как WebUI.
Только это позволяет лучше изучить драйверы и расширить их возможности для достижения гораздо более высоких результатов.
Руководство AMD о том, как достичь 10-кратной производительности GPU, во многом связано с этим инструментом. По сути, это и есть шаги руководства:
С помощью Microsoft Olive вы сможете сгенерировать оптимизированную модель стабильной диффузии. Вам нужно будет протестировать модель. После тестирования вам нужно будет интегрировать модель в WebUI.
Если вы уже установили Automatic1111 WebUI, вам нужно будет запустить его с оптимизированной моделью.
Согласно эксперименту, работая по стандартному пути PyTorch, AMD Radeon RX 7900 XTX обеспечивает 1.87 итераций/секунду. Но при использовании оптимизированной модели с Microsoft Olive этот же графический процессор показывает результат 18.59 итераций/секунду.
Обязательно ознакомьтесь с полным руководством AMD по повышению производительности графического процессора AMD, и если оно сработает, то сообщите нам об этом в разделе комментариев ниже.