ZLUDA 5 Megjelent: CUDA Minden GPU-ra

enlightened Ez az oldal a közösségért készül. heart Kövess minket máshol is:  Linux Mint Magyar Közösség a Mastodon-on  Telegram csatorna – csak hírek  Beszélgessünk a Telegram – Linux csevegő csoport  Hírek olvasása RSS segítségével  Linux Mint Hivatalos Magyar Közösség a Facebook-on      Linux Mint Baráti Kör a Facebook-on
wink Ha hasznosnak találod, és szeretnéd, hogy folytatódjon, támogasd a munkát Ko-fi vagy Paypal segítségével. laugh

kami911 képe

A ZLUDA 5 újdonsága a Zoc, egy offline fordító a ZLUDA számára. A Zoc NVIDIA PTX fájlokat dolgoz fel, és LLVM intermediate representation (IR) valamint az aktuális GPU-ra generált RDNA Assembly formájában adja vissza az eredményt, amelyet a ROCm fordító állít elő. Ez lehetővé teszi, hogy CUDA kódot nem NVIDIA GPU-kon is futtathassunk. A ZLUDA 5 jelentős előrelépést tett a machine learning / AI inference feladatokban. Többek között a llm.c modul kezd működni, és az első mérföldkő teljesült. Továbbá a ZLUDA javuló teljesítményt mutat a LLama.cpp futtatásánál, és folyamatban vannak a PyTorch támogatás integrációs munkái is.

Teljesítményjavítások és egyéb fejlesztések

A fejlesztők a kernel caching, különböző teljesítményoptimalizálások és egyéb fejlesztések terén is dolgoztak, hogy a ZLUDA minél stabilabb és gyorsabb legyen a különböző hardvereken.

A ZLUDA 5 letölthető a GitHub-ról, további részletek és fejlesztési hírek pedig a ZLUDA blogon találhatók.