NVidia è la regina dell’AI, nel cloud, con Asus AFS Appliance o con un RaspberryPi ormai il Machine Learning è di casa

1

Facciamo un gran parlare dell’evoluzione strepitosa di OpenAI, di come Microsoft che la controlla abbia nelle mani il futuro, delle varie alternative che tutti gli altri player stanno immettendo sul mercato (vedi Google PaLM 2), ma tante volte dimentichiamo di citare come per far funzionare tutto il circo, ciò che è essenziale avere è l’hardware in grado di processare e sostenere il peso computazionale degli estesissimi modelli necessari alle intelligenze artificiali.

In questo senso l’azienda regina è certamente una ed una soltanto: NVidia, che tra l’altro ha visto i propri conti decuplicare dall’inizio dell’era AI e che se le cose continueranno ad andare come stanno andando finirà per dominare l’intero mercato.

C’è vero progresso solo quando i vantaggi di una nuova tecnologia diventano per tutti.

Henry Ford

Il patron della casa automobilistica statunitense la sapeva lunga, ed il suo ragionamento si applica perfettamente anche all’ambito AI. Diventata alla portata di tutti nel cloud, come servizio, la fase che si prospetta ora è quella dell’utilizzo on-premise, autonomo, fatto su misura per i diversi carichi di lavoro.

Non è un caso la presentazione di Asus AFS Appliance, raccontato da ARS Technica, un server che si potrà noleggiare (alla modica cifra di 6 mila euro al mese) per usufruire di un modello del tutto simile a ChatGPT 3.5, chiamato Formosa.

I chip che saranno il cervello pensante di questi server? NVidia A100. Gli stessi usati da Microsoft nei datacenter Azure, di cui abbiamo già parlato.

Un altro esempio magari dai costi più ridotti?

Si prenda questo progetto descritto sul blog di RaspberryPi, che descrive l’implementazione di un sistema di controllo dei difetti in una catena di montaggio prodotto dall’azienda Modzy (che si occupa di creare soluzioni di tipo Edge computing) che fa utilizzo di tre principali elementi (decisamente low cost): 1 Raspberry Pi Zero W, 1 Raspberry Camera module 3 e 1 Jetson Nano.

Se ve lo state chiedendo sì, il Jetson Nano è un prodotto di NVidia dedicato all’AI e grosso più o meno come un Raspberry.

Due soluzioni, quelle descritte, che fanno cose diverse, ma unite da un comune denominatore: l’AI e l’hardware che ne consente l’implementazione.

Mentre quindi tutti si stanno preoccupando del futuro nefasto che tutte queste automazioni prospettano per l’umanità, non ultima la lettera aperta (ma forse è meglio dire la farsa) di OpenAI che parla addirittura dei rischi di estinzione, c’è un’isola felice in cui gli amministratori delegati si stanno fregando le mani mentre guardano i numeri, e quell’isola di chiama NVidia.

Sarà contento Torvalds…

Da sempre appassionato del mondo open-source e di Linux nel 2009 ho fondato il portale Mia Mamma Usa Linux! per condividere articoli, notizie ed in generale tutto quello che riguarda il mondo del pinguino, con particolare attenzione alle tematiche di interoperabilità, HA e cloud.
E, sì, mia mamma usa Linux dal 2009.