DoubleAI, una startup fondata nel 2023 a Tel Aviv, ha recentemente lanciato Maxwell, un innovativo modello di esecuzione del codice (CEM) in grado di valutare, ottimizzare e riscrivere il codice binario durante l’esecuzione. Questo approccio rappresenta un’importante evoluzione nel modo in cui i programmi possono essere migliorati dinamicamente.
Il nome Maxwell trae ispirazione dal celebre “demone di Maxwell”, un’entità immaginaria creata dal fisico James Clerk Maxwell nel 1867, che funge da esempio teorico sul concetto di entropia. A differenza di un compilatore tradizionale, il CEM è progettato per massimizzare le prestazioni del codice sull’hardware disponibile, senza toccare il codice sorgente.
Un’evoluzione rispetto ai compilatori JIT
Maxwell condivide alcune somiglianze con i compilatori just-in-time (JIT), poiché entrambi operano durante l’esecuzione del programma e producono nuovo codice macchina. Tuttavia, a differenza dei compilatori JIT, Maxwell è in grado di effettuare ragionamenti di alto livello e può modificare l’algoritmo utilizzato, consentendo così ottimizzazioni più ampie e mirate.
Gal Beniamini, co-fondatore di doubleAI, ha spiegato che i compilatori JIT operano in modo preventivo e sono costretti a decisioni conservative a causa della loro natura deterministica. Maxwell, invece, utilizza informazioni provenienti dall’esecuzione del programma e dalla caratteristica dell’hardware per ottimizzare le performance in tempo reale.
Capacità di ottimizzazione superiori
Tra le ottimizzazioni realizzate da Maxwell, si segnala che ha reso le pipeline di dati oltre 38 volte più veloci e i kernel di inferenza AI più di 4,5 volte più rapidi. Ad esempio, il modello open world LTX-2.5, utilizzato per generare video in 4K, ha incrementato notevolmente le sue prestazioni grazie a Maxwell, riducendo i dati scambiati tra GPU e ottimizzando la selezione del kernel.
Inoltre, Maxwell si distingue per la sua capacità di migliorare continuamente i programmi mentre emergono nuovi colli di bottiglia, senza introdurre errori, grazie alla sua capacità di formalizzazione che attesta la correttezza delle ottimizzazioni.
Sicurezza del codice e installazione semplice
Maxwell offre anche vantaggi in termini di sicurezza del codice, poiché è in grado di identificare e rimuovere problematiche come gli errori di memoria attraverso il processo di formalizzazione. Beniamini ha riferito di aver individuato tali problemi direttamente nel linguaggio Python utilizzando Maxwell.
Per quanto riguarda l’implementazione, il processo di installazione di Maxwell è semplice: gli sviluppatori devono solo installare il runtime e far girare il proprio codice, con il modello ospitato da doubleAI. Tuttavia, questa soluzione richiede una certa fiducia nei confronti della startup.
Il futuro dell’esecuzione del codice
Amnon Shashua, co-fondatore e CEO di doubleAI, ha sottolineato come l’introduzione di questo tipo di AI cambi il modo in cui il software è scritto e come esso possa ora funzionare. Secondo Shashua, i CEM come Maxwell operano come agenti al servizio dell’hardware piuttosto che come intermediari per gli sviluppatori, rappresentando un punto di svolta nel rapporto tra macchina e programmatore.
