Reaaliaikainen hätälääketieteen raportointi (pakattu kielimalli):
Luottamuksellinen talousasiakirjojen RAG-chatbotti:
Lääketieteen käyttötapauksen tulokset vahvistettiin riippumattomasti useissa lähteissä, jotka vahvistivat 93 % nopeamman vasteajan, 45 % muistisäästöt ja 21 % virransäästön . Multiverse Computing totesi, että uudemmilla Dragonfly AI200/AI250 -kiihdyttimillä ajettaessa tulosten odotetaan olevan vielä parempia .
Multiverse Computing optimoi AI-mallit ennen käyttöönottoa, pienentäen kunkin mallin tarvitsemaa laskenta- ja muistimäärää. Tämä vapauttaa kapasiteettia olemassa olevassa laitteistossa, jolloin datakeskusoperaattorit voivat palvella enemmän päättelypyyntöjä tai ajaa enemmän malleja samanaikaisesti ilman uusien kiihdyttimien lisäämistä tai infrastruktuurin laajentamista .
Tämä yhteistyö heijastaa datakeskusalan perustavanlaatuista suunnanmuutosta kohti tehokkuuskeskeistä AI-infrastruktuuria. Keskeisiä merkkejä tästä muutoksesta:
Kumppanuus on konkreettinen esimerkki siitä, kuinka ala siirtyy pois "lisää GPU:ita" -ajattelutavasta kohti suorituskyvyn wattia kohti ja kokonaisomistuskustannusten tarkastelua, jossa ohjelmiston ja laitteiston yhteisoptimointi on keskeinen vipu kestävälle AI-skaalaukselle.