CUDA:n etu ei perustu pelkästään NVIDIAn grafiikkasuorittimiin. Sen ympärille on rakentunut laaja kehittäjäekosysteemi, johon kuuluvat ohjelmointityökalut, kääntäjät, kirjastot, ytimet, ajonaikaiset komponentit ja tekoälymallien tarjoiluun tarkoitetut ratkaisut.
Modularin vastauksena on yhteinen ohjelmistotyönkulku, jonka pitäisi toimia erilaisilla laskenta-alustoilla. Yhtiön alusta on tarkoitettu tekoälyn päättelyajoon suorittimilla, grafiikkasuorittimilla ja erikoiskiihdyttimillä, jotta samaa ohjelmistoa ei tarvitsisi toteuttaa erikseen jokaiselle laiteperheelle.
Julkisuudessa mainittuun suuntaan kuuluvat Qualcomm Snapdragon -järjestelmät, AMD:n alustat ja grafiikkasuorittimet, NVIDIAn grafiikkasuorittimet, Applen järjestelmäpiirit, AWS Trainium, Googlen TPU:t sekä Qualcommin datakeskuskiihdyttimet. Ajatus ”mikä tahansa malli millä tahansa piirillä” on kuitenkin ymmärrettävä Modularin tavoitteena, ei lupauksena siitä, että kaikki laitteet tarjoaisivat saman tuen, kypsyyden tai suorituskyvyn.
Jos lähestymistapa toimii, kehittäjät voisivat pitää suuremman osan malli- ja ydinkoodistaan ennallaan vaihtaessaan taustalla olevaa piitä. Tällöin strateginen vaikutusvalta siirtyisi yhdeltä grafiikkasuoritinvalmistajalta kohti laitteistoriippumatonta kerrosta, joka kattaisi kielen, kääntäjän, ajonaikaiset komponentit, ytimet ja mallien tarjoilun rajapinnat.
AMD:n julkinen osallistuminen on huomionarvoista, koska yhtiö kilpailee Qualcommin kanssa useilla tekoälylaitteiston alueilla, kuten tekoäly-PC:issä ja kiihdyttimissä. Se, että AMD tukee Qualcommin omistaman yhtiön ohjelmistokerrosta, viittaa siihen, että laitteistojen välinen siirrettävyys voi olla kilpailijoillekin arvokkaampaa kuin kehittäjien sitominen yhteen suljettuun ekosysteemiin.
AMD:n tuki antaa Modularille myös uskottavamman vastauksen huoleen siitä, että palvelu muuttuisi yrityskaupan jälkeen vain Qualcomm-kohtaiseksi ohjelmistokuoreksi. AMD:n mukanaolo sekä viittaukset NVIDIAn, Applen, AWS:n ja Googlen laitteistoihin vahvistavat monen piirivalmistajan suuntaa. Se on kuitenkin uskottavuussignaali, ei todiste siitä, että kaikkien alustojen tuotantotuki olisi yhtä kypsää.
Mojo 1.0 esitellään vakaana ja tuotantokäyttöön valmiina yleiskäyttöisenä ohjelmointikielenä, joka on suunniteltu heterogeenisiin tekoälykuormiin. Sen keskeinen lupaus yhdistää Pythonin kaltaisen käytettävyyden järjestelmätason suorituskykyyn sekä mahdollisuuteen ohjelmoida suorittimia, grafiikkasuorittimia ja muita kiihdyttimiä.
Python-yhteensopivuus on tässä keskeisessä roolissa. Kehittäjät voivat pysyä lähellä tuttuja Python-pohjaisia työnkulkuja ja käyttää samalla suorituskykykriittiseen tekoälykoodiin tarkoitettuja alemman tason ominaisuuksia. Modular on kuvannut Mojon myös suorittimien ja grafiikkasuorittimien yhteiseksi ohjelmointimalliksi, jota laajempi alusta laajentaa muihin kiihdytintyyppeihin.
Erityisen merkittävää on kääntäjän ja työkalujen julkaiseminen. Ulkopuoliset kehittäjät voivat tarkastella toteutusta, ehdottaa muutoksia, siirtää kielen uusille alustoille ja rakentaa tai jakaa Mojo-sovelluksia Apache 2.0 -lisenssin LLVM-poikkeuksineen sallimilla ehdoilla.
Ilmoituksen aikaan Mojo tuki macOS:ää ja Linuxia. Natiivin Windows-tuen kerrottiin olevan tulossa, ja Windows-kehittäjät saattoivat käyttää kieltä Windows Subsystem for Linuxin eli WSL:n kautta.
Qualcomm osti Modularin vahvistaakseen ohjelmistoasemaansa generatiivisessa ja agenttipohjaisessa tekoälyssä datakeskuksista reunalaskentaan, henkilökohtaiseen tietojenkäsittelyyn ja teollisiin sovelluksiin. Mojon avaaminen tarjoaa strategialle kehittäjälähtöisen sisääntulon, joka ei edellytä Qualcomm-piirien ostamista heti alussa.
Mahdolliset hyödyt ulottuvat suoraa lisenssimyyntiä laajemmalle:
Strateginen veto on, että ohjelmiston laaja ulottuvuus voi synnyttää myös laitteistomahdollisuuksia. Jos Modularista tulee useiden piiriperheiden yhteinen päättelykerros, Qualcomm saa jalansijan tekoälypinossa silloinkin, kun lopullinen käyttöönotto ei tapahdu Snapdragon- tai Qualcommin datakeskuskiihdyttimellä.
ModConin ilmoitus määrittelee kiinnostavan suunnan, mutta varsinainen kilpailu ratkaistaan käytännössä. Kehittäjien on arvioitava laitteistotuen kattavuutta, ytimien laatua, mallien yhteensopivuutta, vianmääritystyökaluja, käyttöönoton työnkulkuja, Windows-tukea ja suorituskykyä vakiintuneisiin CUDA-pohjaisiin pinoihin verrattuna.
Tällä hetkellä varovaisin johtopäätös on selkeä: Qualcommin omistama Modular on avannut Mojon kehittäjäkerroksen ja käyttää sitä monivalmistajaisen tekoälyohjelmistoekosysteemin rakentamiseen. Yhtiö ei ole vielä osoittanut, että yksi avoin pino yltäisi CUDA:n kypsyyteen ja suorituskykyyn jokaisella ModConissa mainitulla kiihdyttimellä.