AI/ML TÁMOGATÓ VIRTUÁLIS INFRASTRUKTÚRA 

AI/ML TÁMOGATÓ VIRTUÁLIS INFRASTRUKTÚRA MAGYARORSZÁGON ELSŐKÉNT A 4iG-TÓL

A 4iG IT Infrastruktúra Megoldások csapata Magyarországon elsőként helyezte üzembe a VMware mesterséges intelligencia (AI)/gépi tanulás (ML) rendszereket támogató megoldását, a Bitfusion-t, amely a járványügyi helyzet nagy számítási kapacitást igénylő műveleteinek is hatékony platformot nyújt. 

A vSphere Bitfusion alapú, virtualizált HPC megoldásoknak az egészségügyi szektorban is kiemelt jelentőségük van hiszen támogatják az innovatív informatikai rendszerek hatékony futtatását és üzemeltetését. Napjainkban egyre nagyobb igény mutatkozik olyan rendszerek kiépítése iránt, melyek hatékonyan tudják támogatni a mesterséges intelligencia és gépi tanulás algoritmusait, platformjait. Számos felhasználási terület mutatkozik, többek között a jelen világhelyzetben nagy aktualitással bíró orvostudományi szakág, a virológia is. Azon cégek számára, akik a klasszikus virtualizációs alapokon szeretnének költséghatékony és dinamikus mesterséges intelligencia rendszereket megvalósítani, a 4iG a vSphere Bitfusion megoldást javasolja földi környezetben, amely versenyképes alternatívája lehet a hagyományos HPC (High Performance Computing) megoldásoknak. 

MIÉRT FONTOS AZ AI/ML?

Amióta léteznek számítógépek, az intelligens döntéseket hozó, mesterséges gépek jelentik az informatika „Szent Grálját”. Napjaink új és izgalmas szoftvertechnológiáinak, a mesterséges intelligenciának (AI) és a gépi tanulásnak (ML) köszönhetően olyan távlatok nyíltak meg az adatfeldolgozásban, melyek néhány éve még sci-fi-be illőnek tűntek. Ennek apropóján és az új kihívásokra készülve 2019. augusztusában a VMware felvásárolta a Bitfusion startup-ot, mely úttörő szerepet töltött be az AI és ML munkafolyamatok hardveres gyorsításában.  

De mi is az a Bitfusion? Hogyan teszi lehetővé a vállalatok számára, hogy teljes mértékben kihasználják a hardveres gyorsítás előnyeit a környezetükben? Integrálható a megoldás a hagyományos virtualizációs és a modern, konténerizációs környezetekkel egyaránt? Miért van szükség grafikus processzor (GPU) alapú gyorsító platformra, és miért kihívás ezek használata virtualizált adaközponti rendszerekben?  

A gépi tanulás (ML) a mesterséges intelligencia napjainkban leginkább használt részterülete. A különböző gépi tanulási algoritmusok, például neurális hálózatok nagyfokú hatékonysággal dolgozzák fel a vállalati adathalmazt, és akár öntanuló módon folyamatosan fejlesztik is magukat. A gépi tanulás jelentős innovációt alapozhat meg az érintett üzleti funkcióknál és folyamatoknál. Lehetővé teszi, hogy a vállalatok és állami intézmények nagyobb hatékonysággal, pontossággal, eredményességgel és agilitással működjenek. Az AI és az ML egyik kihívása, hogy hatalmas mennyiségű számítási teljesítményre van szükségük ahhoz, hogy elemezzék és modellezzék a technológia által biztosított „intelligencia” létrehozásához szükséges adatokat. A legmodernebb és számos esetben leghatékonyabb mesterséges intelligencia algoritmusok esetében – mint például a Deep Learning - a hagyományos x86 alapú processzorok már nehezen birkóznak meg azzal, hogy megfeleljenek ezen követelményeinek.

Az AI és az ML paradigmaváltása a grafikus feldolgozó egységek (GPU) használatában rejlik. A modern GPU-k rendkívül nagy teljesítményűek, az AI és ML adatfeldolgozáshoz szükséges számításokat a processzoroknál lényegesen hatékonyabban és gyorsabban végzik el. A vSphere Bitfusion lehetővé teszi a hardveres gyorsítók, például a GPU-k virtualizálását, közös erőforráshalmazba szervezését és hálózaton történő publikálását. 

Bizonyos esetekben – akár törvényi szabályozási vagy IT biztonsági megfontolásból - nem adatik meg az a lehetőség, hogy nyilvános felhő alapú infrastruktúrában oldjuk meg az AI/ML rendszerek támasztotta igényeket. Ekkor szükségszerűen a földi környezetben kell biztosítanunk a megfelelő architektúrát. Erre is választ ad a VMware Bitfusion. 

MI AZ A BITFUSION?

A VMware vSphere Bitfusion egy olyan szoftverréteg/szervertechnológia, amely virtualizációs képességeket biztosít az alkalmazások mögötti a felhasználói rétegben, segítve az AI/ML infrastruktúra optimalizációját. 

Ezen alkalmazások sajátossága, hogy változatos, nehezen követhető igényeket támasztanak a háttérrendszerekre vonatkozóan, a fejlesztés/teszt és éles rendszer erőforrásigénye az aktuális folyamatok/fejlesztési fázisok során dinamikusan változik. A felhasználat teljesítmény robbanásszerű is lehet. Nagy adatmodelleken, adathalmazokon vegyesen történik interaktív, kötegelt (batch) feldolgozás. Az ilyen dinamikusan változó, magas számításigényű feladatokkal kapcsolatosan előkerülő hardver szűk keresztmetszeteinek, a bekerülési költéségek optimalizálására a Bitfusion egy dinamikusan fejlődő kliens/szerver modell alapú megoldás lehet, amely a meglévő VMware és AI/ML infrastruktúra módosítása nélkül, egyszerűen bevezethető. A VMware vCenter instance-onként egy Bitfusion cluster kialakításával a rendelkezésre álló GPU kapacitások dinamikusan, összefűzve vagy akár kisebb részekre szabdalva kioszthatók a BI szakemberek részére. A Bitfusion egy CUDA alkalmazás, amely az NVIDIA CUDA API-ja segítségével lehetővé teszi a programozók számára a GPU-gyorsítás elérését/használatát.  

A Bitfusion szerver egy virtuális appliance-ként kerül telepítésre, majd DirectPath I/O-n keresztül kapcsolódik a vSphere ESXi hostban lévő GPU(k)-hoz. Az első Bitfusion szerver importálása során a Bitfusion plugin telepítése is megtörténik a vCenterbe, a későbbiekben ezen keresztül felügyelhető a rendszer. A rendszerhez a Linux alapú kliensek, amelyek lehetnek virtuális gépek vagy konténerek, hálózaton keresztül kapcsolódnak. A GPU foglalás a kiadott feladat elvégzése vagy bizonyos, központilag állítható holtidő (idle time) után felszabadul és újra kiadhatóvá válik más folyamatok, felhasználók számára. 

MIÉRT A 4iG?

A 4iG rendszerintegrációs csapata a beolvadt leányvállalatokkal együttesen több évtizedes tapasztalattal rendelkezik hagyományos és innovatív, következő-generációs infrastruktúra platformok szállításában, bevezetésében. Fejlesztői csapatainkkal együttműködve kiemelt támogatást nyújtunk a komplex adat- és alkalmazás futtatási környezetekhez egyaránt. 

A 4iG Magyarországon elsőként vezetett be Bitfusion alapú környezetet AI/ML rendszer támogatására. A rendszer felépítése során szoros együttműködésben ügyfelünkkel végeztük a tervezést és kialakítást, annak érdekében, hogy a megvalósított infrastruktúra a lehető legnagyobb mértékben támogassa az AI/ML rendszereket. 

Mivel napjaink digitalizációs trendjei alapján a fő szerep az ADAT-é, biztosítani kell számára a megfelelő feldolgozási környezetet. Így hatékonyan értelmezhető, cselekvésre fordítható információvá transzformálhatjuk a nyers adatokat. Ezt tudja biztosítani szakértelmével a partnerei számára a 4iG. 


Hardware Acceleration with Bitfusion | VMware