ZLUDA 5 Megjelent: CUDA Minden GPU-ra

Segítséget kaptál? Szívesen töltöd itt az idődet? Visszajársz hozzánk? Támogasd a munkákat: Ko-fi és Paypal!

kami911 képe

A ZLUDA 5 újdonsága a Zoc, egy offline fordító a ZLUDA számára. A Zoc NVIDIA PTX fájlokat dolgoz fel, és LLVM intermediate representation (IR) valamint az aktuális GPU-ra generált RDNA Assembly formájában adja vissza az eredményt, amelyet a ROCm fordító állít elő. Ez lehetővé teszi, hogy CUDA kódot nem NVIDIA GPU-kon is futtathassunk. A ZLUDA 5 jelentős előrelépést tett a machine learning / AI inference feladatokban. Többek között a llm.c modul kezd működni, és az első mérföldkő teljesült. Továbbá a ZLUDA javuló teljesítményt mutat a LLama.cpp futtatásánál, és folyamatban vannak a PyTorch támogatás integrációs munkái is.

Teljesítményjavítások és egyéb fejlesztések

A fejlesztők a kernel caching, különböző teljesítményoptimalizálások és egyéb fejlesztések terén is dolgoztak, hogy a ZLUDA minél stabilabb és gyorsabb legyen a különböző hardvereken.

A ZLUDA 5 letölthető a GitHub-ról, további részletek és fejlesztési hírek pedig a ZLUDA blogon találhatók.