Modular assicura 100 milioni di dollari per costruire strumenti per ottimizzare e creare modelli di intelligenza artificiale

Modular, una startup che crea una piattaforma per lo sviluppo e l'ottimizzazione dei sistemi di intelligenza artificiale, ha raccolto 100 milioni di dollari in un round di finanziamento guidato da General Catalyst con la partecipazione di GV (Google Ventures), SV Angel, Greylock e Factory.

Portando il totale raccolto da Modular a 130 milioni di dollari, i proventi saranno destinati all'espansione del prodotto, al supporto hardware e all'espansione del linguaggio di programmazione di Modular, Mojo, afferma il CEO Chris Lattner.

"Poiché operiamo in uno spazio profondamente tecnico che richiede competenze altamente specializzate, intendiamo utilizzare questo finanziamento per supportare la crescita del nostro team", ha affermato Lattner in un'intervista via e-mail con TechCrunch. “Questo finanziamento non sarà speso principalmente per il calcolo dell’intelligenza artificiale, ma piuttosto per migliorare i nostri prodotti principali e adattarli per soddisfare la nostra incredibile domanda da parte dei clienti”.

Lattner, un ex Googler, ha cofondato Modular con sede a Palo Alto nel 2022 con Tim Davis, un ex collega di Google nella divisione di ricerca Google Brain del colosso tecnologico. Sia Lattner che Davis ritenevano che l’intelligenza artificiale fosse frenata da un’infrastruttura tecnica eccessivamente complicata e frammentata e fondarono Modular con l’obiettivo di rimuovere la complessità della costruzione e della manutenzione di sistemi di intelligenza artificiale su larga scala.

Modular fornisce un motore che tenta di migliorare le prestazioni di inferenza dei modelli di intelligenza artificiale sulle CPU (e, a partire dalla fine dell'anno, sulle GPU), garantendo al contempo risparmi sui costi. Compatibile con gli ambienti cloud esistenti, i framework di machine learning come TensorFlow di Google e PyTorch di Meta e anche altri motori di accelerazione dell'intelligenza artificiale, il motore di Modular, attualmente in anteprima chiusa, consente agli sviluppatori di importare modelli addestrati e di eseguirli fino a 7,5 volte più velocemente rispetto ai loro framework nativi, Lattner affermazioni.

L'altro prodotto di punta di Modular, Mojo, è un linguaggio di programmazione che mira a combinare l'usabilità di Python con funzionalità come caching, tecniche di compilazione adattiva e metaprogrammazione. Attualmente disponibile in anteprima per "centinaia" di early adopter, Modular prevede di rilasciare Mojo in disponibilità generale all'inizio del mese prossimo.

"La nostra piattaforma di sviluppo consente ai nostri clienti, e agli sviluppatori di tutto il mondo, di deframmentare i loro stack tecnologici di intelligenza artificiale, spingendo più innovazioni nella produzione più rapidamente e realizzando più valore dal loro investimento nell'intelligenza artificiale", ha affermato Lattner. "Stiamo attaccando la complessità che oggi rallenta lo sviluppo dell'IA risolvendo i problemi di frammentazione che affliggono lo stack dell'IA, a partire dal punto in cui il software AI incontra l'hardware AI."

Molto ambizioso? Forse. Ma nulla di ciò che Modular propone a circa 70 dipendenti è fuori dal regno delle possibilità.

Deci, sostenuta da Intel, è tra le startup che offrono tecnologia per rendere i modelli di intelligenza artificiale addestrati più efficienti e performanti. Un altro in questa categoria è OctoML, che ottimizza, confronta e confeziona automaticamente modelli per una serie di hardware diversi.

In ogni caso, secondo Lattner, la domanda di intelligenza artificiale si sta rapidamente avvicinando ai limiti della sostenibilità, rendendo estremamente desiderabile qualsiasi tecnologia in grado di ridurre i propri requisiti di elaborazione. I modelli di intelligenza artificiale generativa in voga oggi sono da 10 a 100 volte più grandi dei vecchi modelli di intelligenza artificiale, come sottolinea un recente articolo del Wall Street Journal, e gran parte dell’infrastruttura cloud pubblica non è stata costruita per far funzionare questi sistemi, almeno non al momento. questa scala.

Ha già avuto un impatto. Microsoft si trova ad affrontare una carenza di hardware server necessaria per eseguire l’intelligenza artificiale così grave che potrebbe portare a interruzioni del servizio, ha avvertito la società in un rapporto sugli utili. Nel frattempo, l’appetito vertiginoso per l’hardware di inferenza dell’intelligenza artificiale – principalmente GPU – ha portato la capitalizzazione di mercato del fornitore di GPU Nvidia a 1 trilione di dollari. Ma Nvidia è diventata vittima del proprio successo; Secondo quanto riferito, i chip AI più performanti dell'azienda saranno esauriti fino al 2024.

Per questi e altri motivi, secondo un sondaggio del 2023 di S&P Global, più della metà dei decisori legati all’intelligenza artificiale nelle principali aziende riferiscono di incontrare ostacoli nell’implementazione degli strumenti di intelligenza artificiale più recenti.

"La potenza di calcolo necessaria per i programmi di intelligenza artificiale di oggi è enorme e insostenibile con il modello attuale", ha affermato Lattner. “Stiamo già riscontrando casi in cui la capacità di elaborazione non è sufficiente per soddisfare la domanda. I costi sono alle stelle e solo le grandi e potenti aziende tecnologiche hanno le risorse per costruire questo tipo di soluzioni. Modular risolve questo problema e consentirà di alimentare prodotti e servizi di intelligenza artificiale in un modo molto più conveniente, sostenibile e accessibile per qualsiasi impresa”.