Платформи Intel AI прискорюютьмоделі Microsoft Phi-3 GenAI

Intel перевірила та оптимізувала свій портфель продуктів штучного інтелекту в клієнтському центрі, edge-центрі та центрі обробки даних для кількох відкритих моделей сімейства Phi-3 від Microsoft. Сімейство невеликих відкритих моделей Phi-3 може працювати на обладнанні з меншою обчислювальною потужністю, легше налаштовуватися відповідно до конкретних вимог і дозволяє розробникам створювати програми, які запускаються локально. Підтримувані продукти Intel включають прискорювачі Intel® Gaudi® AI і процесори Intel® Xeon® для використання в центрах обробки даних, процесори Intel® Core™ Ultra і відеокарти Intel® Arc™ для клієнтів.

В рамках своєї місії з поширення штучного інтелекту у всі сфери, Intel постійно інвестує в екосистему програмного забезпечення ШІ, співпрацюючи з лідерами та інноваторами цієї галузі.

Intel співпрацювала з Microsoft, щоб забезпечити підтримку моделі Phi-3 для своїх центральних процесорів (CPU), графічних процесорів (GPU) і прискорювачів Intel Gaudi в день запуску. Intel також спільно розробила прискорювач в DeepSpeed, який є простим у використанні пакетом програмного забезпечення для оптимізації глибокого навчання, і розширила підтримку автоматичного паралелізму тензорів для Phi-3 та інших моделей на Hugging Face.

Розмір моделей Phi-3 добре підходить для використання на пристрої та робить можливим розробку легкої моделі, як-от тонке налаштування або налаштування на комп’ютерах зі штучним інтелектом і периферійних пристроях. Клієнтське обладнання Intel прискорюється за допомогою комплексних програмних інфраструктур та інструментів, включаючи PyTorch і Intel® Extension для PyTorch, що використовується для локальних досліджень і розробок, і OpenVINO™ Toolkit для розгортання моделі та отримання висновків.

Intel прагне задовольнити потреби своїх корпоративних клієнтів у генеративному штучному інтелекті та продовжуватиме підтримувати й оптимізувати програмне забезпечення для Phi-3 та інших провідних сучасних мовних моделей.