Rassegna preparata con l'IA a partire dalle fonti linkate, sotto la supervisione di Alberto Gaia.
Sabato il CEO di Microsoft, Satya Nadella, ha pubblicato sul suo blog personale un saggio che, detto da uno che vende Copilot a mezzo mondo, fa un certo effetto: ogni modello di intelligenza artificiale va trattato come se fosse già compromesso, e ci vuole un freno di emergenza per poterlo fermare a metà lavoro. È l’apertura di una rassegna più corta del solito (il sabato è stato tranquillo e ho tenuto solo notizie con una data certa). Dopo parliamo di Nvidia che tratta per prendersi Reflection AI, di celle a combustibile per i data center, di un agente personale che gira gratis su Cloudflare e di Simon Willison che ha messo ChatGPT di guardia a un repository.
Nadella e il freno di emergenza: ogni modello va trattato come un insider a rischio
Il saggio si intitola “Models as Insider Risks in the Super Intelligence Era” ed è uscito il 10 ottobre su sn scratchpad, il blog personale di Nadella. Il ragionamento è questo: non riusciamo a ricondurre il comportamento di un modello a dati di addestramento o pesi precisi, quindi un’azienda non può scaricare la responsabilità sul fornitore. Deve costruire sistemi in cui chi fornisce l’intelligenza e chi decide cosa quell’intelligenza può fare restano separati, con i controlli fuori dal modello. Nadella non dice che i modelli siano cattivi: dice che chiunque sia abbastanza capace e abbia accesso a sistemi importanti può sbagliare o essere compromesso, e va gestito di conseguenza.
I principi sono sette: diversità dei modelli (mai un solo modello per un risultato importante, mai un modello che controlla il proprio lavoro), ogni azione significativa registrata in modo leggibile e non manomettibile, verifica continua anche dei casi limite, controlli decisi dall’azienda in modo indipendente, audit separato dall’intelligenza che si sta controllando, contenimento e comunicazione rapida degli incidenti. Il contenimento è il famoso freno: una persona autorizzata deve poter mettere in pausa o spegnere il modello a metà compito. Anche la catena di ragionamento visibile, per lui, è necessaria ma non basta. La notizia l’ha ripresa anche TechCrunch.
Da IT manager di una PMI è la cosa più sensata che ho letto da un CEO di big tech da mesi. È esattamente come gestiamo un sistemista esterno: privilegi minimi, log di tutto e la possibilità di staccare la spina. Il problema è che quasi nessuno lo fa con gli agenti che collega alla posta aziendale.
Nvidia tratta per Reflection AI, il laboratorio americano dei pesi aperti
Secondo il Financial Times, ripreso sabato da Reuters, Nvidia è in trattative per aumentare il suo investimento in Reflection AI oppure per acquisirla. Siamo in una fase iniziale e una delle formule sul tavolo è l’acqui-hire: assumere il team e prendere in licenza la tecnologia senza comprare la società, una strada che eviterebbe una lunga revisione antitrust. Un accordo potrebbe arrivare nelle prossime settimane, ma le trattative possono anche saltare.
Nvidia in Reflection ha già messo 800 milioni di dollari. Il laboratorio, fondato nel 2024 da ex ricercatori di DeepMind, lunedì scorso ha lanciato Beam, il suo primo modello a pesi aperti, di cui avevo parlato nella rassegna del 6 ottobre. Se l’operazione va in porto, il re delle GPU si ritrova in casa un laboratorio di modelli aperti: per chi come me usa open weights in produzione è una buona notizia e una preoccupazione nello stesso momento.
Petra Power vuole alimentare i data center con celle a combustibile
TechCrunch racconta Petra Power, startup fondata nel 2017 con circa 15 persone, che produce celle a combustibile a ossidi solidi: trasformano un combustibile come il gas naturale in elettricità senza bruciarlo. Ha già quasi 9 milioni di dollari di contratti con il Dipartimento della Difesa americano, per alimentare le apparecchiature dei veicoli militari a motore spento (le celle sono ancora in test, non montate su un mezzo operativo).
Sul fronte data center punta alle prime installazioni con neocloud e fornitori di infrastruttura nel 2028 e alla produzione su larga scala nel 2029. È una delle startup della Startup Battlefield 200 di TechCrunch Disrupt, dal 13 al 15 ottobre a San Francisco. Piccola, sì, ma racconta bene dove si è spostato il collo di bottiglia dell’IA: dai chip all’energia.
Pausa dalla rassegna, giusto il tempo di una vignetta.
Talorys, un agente personale che gira gratis nel tuo account Cloudflare
Su Hacker News è finito in prima pagina Talorys, un assistente IA personale open source (licenza MIT) che si installa nel proprio account Cloudflare, piano gratuito compreso, con un solo comando: npx create-talorys@latest. Il primo pacchetto è stato pubblicato su npm il 10 ottobre. Fa chat in streaming, ricorda fatti e preferenze (che puoi vedere, modificare e cancellare), gestisce attività, note, progetti e promemoria anche ricorrenti, con un riepilogo giornaliero.
È pensato per un solo utente, senza telemetria e senza server o database gestiti dagli sviluppatori: tutto resta nel tuo account. Le funzioni base continuano a funzionare anche se Workers AI non risponde. L’idea mi piace parecchio e si sposa bene con il discorso di Nadella: se un agente deve leggere i miei promemoria, preferisco che giri dove decido io.
Chiudiamo in leggerezza: ChatGPT di guardia a un repository
Simon Willison aspettava da un paio di giorni che Python 3.15.0 stabile comparisse nel repository actions/python-versions, quello da cui GitHub Actions prende le versioni di Python. Invece di controllare a mano ha chiesto a ChatGPT di clonare il repository e fare un git pull ogni ora finché non fosse arrivata la 3.15 stabile, per poi avvisarlo. Sabato è arrivata, e adesso si può aggiungere “3.15” alla matrice di test. Un agente usato come cane da guardia per un commit: il genere di automazione un po’ stupida e un po’ geniale che adoro.
E tu, gli agenti che usi in azienda li tratti già come un insider a rischio, con log e un freno di emergenza, o hanno ancora le chiavi di casa? Scrivimelo nei commenti. Se stai iniziando a mettere in piedi agenti e automazioni, qui trovi la mia guida su agenti e routine di Claude Code, con pro e contro di ciascun approccio.
Lascia un commento