NVIDIAn Jetson Orin Nano 2 tuo 78 TOPSia robotiikan lähtötasolle

NVIDIA on julkistanut Jetson Orin Nano 2:n, kompaktin tietokoneen, joka on tarkoitettu generatiivisen tekoälyn ja autonomisten järjestelmien ajamiseen suoraan roboteissa, droneissa ja konenäköjärjestelmissä. Yhtiön mukaan laite tarjoaa 78 TOPSia eli 78 biljoonaa tekoälyoperaatiota sekunnissa ja kaksinkertaisen päättelysuorituskyvyn Jetson Orin Nano Superiin verrattuna samassa fyysisessä koossa. Moduulin ja kehittäjäpaketin odotetaan tulevan saataville vuoden 2027 ensimmäisellä puoliskolla. 237

Keskeiset tekniset tiedot

Jetson Orin Nano 2:ssa on:

• 78 TOPSia tekoälylaskentaa
• 8 Gt muistia
• 8-ytiminen Arm-suoritin
• Edeltäjän kanssa sama kompakti rakenne

NVIDIA kertoo suorituskykyparannuksen perustuvan päivitettyihin Tensor Core -yksiköihin ja suurempaan muistikaistanleveyteen. Yhtiö kuvaa järjestelmän toimivan 40 watin tehorajoissa ja kertoo sen kuluttavan vastaavalla suorituskyvyllä 40 prosenttia vähemmän energiaa kuin edeltävä järjestelmä 15 watin tilassa. 312

Luvut ovat NVIDIAn ilmoittamia alustatason tietoja, eivätkä ne tarkoita samaa tulosta jokaisella mallilla tai työkuormalla. Todellinen suorituskyky riippuu muun muassa ohjelmistopinosta, mallin koosta ja käyttöolosuhteista.

Tekoälyä suoraan laitteen reunalle

Orin Nano 2 on suunniteltu ajamaan nykyaikaisia kielimalleja ja näkö-kielimalleja suoraan reunalaitteessa sen sijaan, että jokainen pyyntö lähetettäisiin pilvipalveluun. Tämä on tärkeää laitteille, joiden on yhdistettävä kamerakuvaa, puhetta ja anturitietoja sekä tehtävä päätöksiä lähes reaaliajassa tapahtumapaikalla. 589

NVIDIA kohdistaa laitetta muun muassa seuraaviin käyttökohteisiin:

• toimitus- ja tarkastusdroneihin
• teollisuus- ja muihin autonomisiin robotteihin
• kodin robotteihin
• konenäköön perustuviin tekoälyjärjestelmiin ja kameroihin

Paikallinen laskenta voi auttaa laitetta havainnoimaan ympäristöään, keskustelemaan käyttäjän kanssa, suunnistamaan ja ohjaamaan toimintaansa ilman, että se on täysin riippuvainen etäisestä päättelypalvelusta. Julkistuksen perusteella kyse on ennen kaikkea kehittäjille suunnatusta sisääntulopisteestä fyysistä ympäristöä ymmärtäviä ja siinä toimivia koneita varten. 23

Mitä NVIDIA tarkoittaa reunalla toimivilla ”huippumalleilla”?

NVIDIA väittää, että pienet ja keskikokoiset frontier-mallit voivat nykyään saavuttaa saman tarkkuuden kuin edellisen vuoden suurimmat frontier-mallit. Yhtiö käyttää väitettä perusteluna sille, että reaaliaikainen päättely olisi tulossa mahdolliseksi myös pienemmissä autonomisissa laitteissa. 3

Tämä on kuitenkin NVIDIAn oma tuotejulkistuksessa esittämä väite. Annettu aineisto ei sisällä riippumatonta vertailutestiä, joka osoittaisi kaikkien pienten tai keskikokoisten mallien vastaavan kaikkia aiempia suuria malleja. Varmempi johtopäätös on, että mallien tehostuminen ja laitteiston kehitys laajentavat niiden generatiivisen tekoälyn tehtävien joukkoa, joita voidaan suorittaa paikallisesti.

Kehittäjät ja ensimmäiset käyttökohteet

NVIDIA kertoo, että sen robotiikka-alustalle on rakentanut yli kolme miljoonaa kehittäjää. Yhtiö nimeää Cognexin, Doosan Bobcatin ja Matic Roboticsin ensimmäisten Jetson Orin Nano 2:n käyttöönottoa tai arviointia tekevien yritysten joukkoon. 3

Tarkemmat varhaiset käyttötapaukset liittyvät Wingiin ja Matic Roboticsiin:

• Wing tutkii tietokoneen käyttöä toimitusdroneissa. Tavoitteena on NVIDIAn mukaan nopeampi reagointi, parempi energiatehokkuus sekä mahdollisesti nopeammat ja luotettavammat toimitukset. 3
• Matic Robotics ottaa laitteen käyttöön kodin siivousroboteissa. NVIDIA kertoo järjestelmien tukevan keskustelevaa tekoälyä, eleiden tunnistusta, semanttista ja tarkkaa kartoitusta, reaaliaikaista havainnointia, vuorovaikutusta, navigointia ja itsenäistä siivousta. 3
• Cognex ja Doosan Bobcat mainitaan varhaisina käyttöönottajina tai arvioijina, mutta toimitettu julkistusaineisto ei kerro niiden yksittäisistä Jetson Orin Nano 2 -toteutuksista tai käyttötarkoituksista. 3

NVIDIA kertoo lisäksi ekosysteemikumppaneiden kehittävän kantakortteja, valmiita laitteistoja ja viitesuunnitelmia. Niiden tarkoitus on auttaa asiakkaita viemään tuotteita markkinoille nopeammin. 3

Jetson osana NVIDIAn robotiikka-alustaa

Jetson on robotin sisäinen reunalaskentakerros: käyttöönotetussa laitteessa sen on tarkoitus suorittaa ympäristön havainnointia, multimodaalista tekoälyä ja reaaliaikaista ohjausta. 23

NVIDIAn laajempi robotiikkastrategia yhdistää fyysiset koneet datakeskuslaskentaan ja simulaatioon. Tässä kokonaisuudessa DGX on tarkoitettu laajamittaiseen tekoälylaskentaan ja koulutukseen, kun taas Omniverse ja Cosmos liittyvät virtuaaliympäristöihin, synteettiseen dataan, simulointiin ja robottien kehitystyöhön. Jetson toimii kokonaisuuden fyysisenä päätelaitteena, joka tuo kyvykkyydet robotin tai muun laitteen käyttöön.

Juuri tämän julkistuksen aineisto ei kuitenkaan dokumentoi tarkkaa ”kolmen tietokoneen” muotoilua tai kaikkia Omniversen, Cosmoksen ja DGX:n välisiä yhteyksiä Jetson Orin Nano 2:n julkaisun yksityiskohtina. Vahvin tuettu johtopäätös on suppeampi: NVIDIA esittelee Jetsonin osana laajempaa, kokonaisvaltaista robotiikkaekosysteemiä eikä vain yksittäisenä suorittimena. 23

Lopputulos

Jetson Orin Nano 2:n tavoite on tehdä aiempaa kyvykkäämmästä paikallisesta tekoälystä käytännöllistä pienissä roboteissa, droneissa ja konenäköjärjestelmissä. Sen tärkeimmät ilmoitetut ominaisuudet ovat 78 TOPSia, 8 Gt muistia ja 8-ytiminen Arm-suoritin. NVIDIA lupaa kaksinkertaisen päättelysuorituskyvyn samassa kompaktissa koossa sekä 40 prosenttia pienemmän energiankulutuksen vastaavalla suorituskyvyllä. 23

Tuotteen todellinen merkitys riippuu lopulta mallituesta, ohjelmistojen optimoinnista, lämpörajoista ja riippumattomista testeistä. Toistaiseksi julkistus viittaa lähtötason reunalaskenta-alustaan, jonka tarkoitus on tuoda kieli-, näkö- ja autonominen päättely lähemmäs niitä koneita, joiden on toimittava fyysisessä maailmassa.