A mai napon az NVIDIA bejelentette a Microsoft Build konferencián, hogy új mesterséges intelligencia (AI) teljesítményoptimalizálásokat és integrációkat vezet be, amelyek maximális teljesítményt biztosítanak az NVIDIA GeForce RTX AI PC-k és RTX munkaállomások számára. Ezek a fejlesztések jelentős előrelépést jelentenek a generatív AI alkalmazások és modellek futtatásában, különösen a nagy nyelvi modellek (LLM) esetében.
Főbb Fejlesztések
- Generatív AI Képességek és Teljesítménynövekedés:
Az új R555 Game Ready Driver segítségével az LLM-ek, mint például a Phi-3, Llama 3, Gemma és Mistral, akár háromszor gyorsabban futnak az ONNX Runtime és DirectML használatával. Ezek a fejlesztések lehetővé teszik az AI modellek gyorsabb futtatását helyben, a Windows PC-ken. - RTX AI PC-k:
Az RTX AI PC-k, amelyeket különféle vezető gyártók, köztük az Acer, ASUS, Dell, HP, Lenovo, MSI, Razer és Samsung gyártanak, hamarosan elérhetők lesznek, és generatív AI képességekkel érkeznek. Ezek az új rendszerek 20-60-szoros teljesítménynövekedést biztosítanak a hagyományos neurális feldolgozó egységekhez képest. - Fejlesztői Eszközök:
Az NVIDIA új AI Workbench eszköze, amely még ebben a hónapban béta verzióban elérhető lesz, lehetővé teszi a fejlesztők számára, hogy gyorsan létrehozzanak, teszteljenek és testreszabjanak előképzett generatív AI modelleket és LLM-eket. Az eszköz egyszerűsített hozzáférést biztosít népszerű adattárakhoz, mint például a Hugging Face és a GitHub, valamint egy felhasználóbarát felületet kínál. - Új AI Alkalmazások:
Az NVIDIA és partnerei új generatív AI alapú alkalmazásokat és szolgáltatásokat is bevezetnek PC-k számára. Ezek közé tartozik az RTX Remix platform, amely lehetővé teszi a klasszikus játékok modern, 4K-felbontású anyagokkal történő újrarenderelését, valamint az NVIDIA ACE mikro-szolgáltatások, amelyek AI-alapú beszéd- és animációs modelleket kínálnak a játékokhoz. - Optimalizált AI Workflow-k:
A WebNN API, amelyet webfejlesztők használhatnak AI modellek telepítésére, mostantól RTX gyorsítással működik a DirectML segítségével. Ez lehetővé teszi a webalkalmazások számára, hogy gyors, AI-alapú képességeket integráljanak. A PyTorch szintén támogatja a DirectML végrehajtási háttereket, lehetővé téve a Windows fejlesztők számára a komplex AI modellek natív futtatását és tanítását.
Jövőbeli Kilátások
Ezek az újítások tovább erősítik az NVIDIA vezető szerepét az AI technológia terén, és előkészítik az utat a generatív AI szélesebb körű alkalmazása előtt a különböző iparágakban. Az AI-vel kapcsolatos fejlesztések várhatóan az innováció legnagyobb hajtóerejévé válnak a Windows felhasználók számára az elkövetkező években.
