Karpathy: solo 5.000 persone vedono davvero la frontiera dell’IA

5 min di lettura

Ascolta la rassegna in versione notiziario (3 min 35 s)

Rassegna preparata con l'IA a partire dalle fonti linkate, sotto la supervisione di Alberto Gaia.

Secondo Andrej Karpathy solo 5.000 persone al mondo vedono davvero la frontiera dell’IA, e tutti gli altri si fanno un’idea delle sue capacità guardando dal buco della serratura. È il post che ha acceso la domenica e apre la rassegna di oggi. Poi il CTO di Palantir dice in TV che Anthropic al Pentagono “è già stata sostituita”, McKinsey stima quanti americani dovranno cambiare mestiere entro il 2035, un altro data center di Yandex si spegne dopo un attacco con i droni, la voce sintetica che aspetta ancora il suo momento ChatGPT e uno sviluppatore che ha pagato persone vere per testare un README.

Karpathy e la frontiera dell’IA vista da 5.000 persone

Domenica sera Karpathy è tornato su un tema che aveva già toccato ad aprile: il divario nella comprensione di cosa sanno fare davvero i modelli linguistici si sta allargando. Lo descrive come un imbuto. Circa 6 miliardi di persone, più o meno il 75% della popolazione, con gli LLM non ci hanno quasi mai avuto a che fare. Uno o due miliardi li usano ogni tanto nella versione gratuita. Circa 20 milioni (lo 0,2%) usano modelli di frontiera per lavoro, su matematica e codice, e hanno visto agenti portare a termine progetti grossi. In cima ci sono circa 5.000 persone con accesso ai sistemi interni dei laboratori.

Le ragioni, secondo lui, sono tre: l’impatto cresce con la dimensione e la durata del problema che affidi al modello (una domanda banale non lo mette alla prova), le capacità sono “frastagliate” e si concentrano nei domini digitali e verificabili dove si fa reinforcement learning, e infine l’accesso, che tra piano gratuito, piano a pagamento e versioni interne cambia tantissimo. Mi ci ritrovo in pieno: quando in azienda qualcuno mi dice “l’IA sbaglia sempre”, di solito ha provato il chatbot gratuito con una domanda secca. Chi lavora con le API su compiti lunghi vive in un altro pianeta.

Palantir: “Anthropic al Pentagono è già stata sostituita”

Ospite di Face the Nation su CBS, Shyam Sankar, CTO di Palantir, ha detto che l’uscita di Anthropic dai fornitori del Dipartimento della Difesa non ha avuto alcun impatto operativo, perché la sostituzione è già avvenuta. Il suo ragionamento: un’istituzione non dovrebbe mai legarsi a un solo fornitore di modelli.

Nella stessa intervista ha contestato l’inchiesta di Bloomberg di settembre sul raid contro la scuola di Minab, in Iran, secondo cui il personale si sarebbe affidato troppo all’IA del sistema Maven. Per Sankar la causa probabile è un errore umano, l’IA non sceglie i bersagli e Palantir ha comunque aggiunto agenti che fanno controlli supplementari; per le conclusioni definitive bisogna aspettare il rapporto finale. Sul punto del fornitore unico, da sviluppatore gli do ragione: anche nel mio piccolo tengo sempre un secondo provider pronto dietro un’astrazione.

McKinsey: 11 milioni di americani dovranno cambiare mestiere entro il 2035

In un articolo su Fortune firmato da due senior partner, McKinsey anticipa la sua nuova ricerca sul lavoro negli Stati Uniti. Nel 2035 i posti saranno più di oggi, ma il mix cambia: circa 11 milioni di persone dovranno passare da un’occupazione in calo a un’altra, in media 770.000 l’anno, 3,6 volte il ritmo storico. Nel supporto amministrativo e d’ufficio l’automazione potrebbe coprire l’80% delle ore lavorate.

Due dati mi hanno colpito: dal 2022 gli annunci che chiedono dimestichezza con l’IA sono aumentati di undici volte, e oltre il 70% dei lavoratori avrà bisogno di nuove competenze anche senza cambiare datore di lavoro. Per una PMI il messaggio è chiaro: la formazione interna costa meno di rincorrere profili che sul mercato non ci sono.


Pausa dalla rassegna, giusto il tempo di una vignetta.

Vignetta: uno sviluppatore fa le faccende di casa mentre l'assistente IA scrive le funzionalità al posto suo, a ruoli invertiti
Il programmatore promosso a project manager, ma solo dell’aspirapolvere. Vignetta di ProgrammerHumor.io.

Yandex perde un altro data center: è il terzo in una settimana

Domenica Yandex ha comunicato che il suo data center di Vladimir, a est di Mosca, è stato fermato del tutto dopo un attacco con i droni, senza feriti ma con diversi servizi irraggiungibili. Giovedì era toccato all’hub di Sasovo, che ospita due dei tre supercomputer usati per sviluppare il modello IA dell’azienda, e venerdì a quello di Kaluga. Zelensky ha parlato di risposta “a specchio” agli attacchi russi contro i data center ucraini.

Al di là della guerra, è un promemoria brutale: i data center per l’IA sono ormai infrastruttura strategica, e quindi bersagli. Il fatto che Yandex abbia chiesto agli utenti di attivare i piani di disaster recovery dice tutto su quanto valga la pena averne uno scritto e provato.

La voce sintetica aspetta ancora il suo momento ChatGPT

TechCrunch ha raccolto il punto di vista di due dirigenti del settore voice AI. Per Shawn Wen, CTO di PolyAI, i modelli che parlano mentre ascoltano ci sono già; la sfida ora è ragionare abbastanza in fretta da rendere la conversazione naturale. Alex Gay, CMO di Otter, insiste invece sulla precisione: un errore di trascrizione si propaga a tutte le azioni successive e fa perdere fiducia. Entrambi concordano sul fatto che bisogna sempre dichiarare quando dall’altra parte c’è un’IA.

Chiudiamo in leggerezza: 150 euro a persone vere per testare un README

Terence Eden voleva capire se il README del suo progetto open source ActivityBot fosse davvero comprensibile, e invece di far simulare gli utenti a un LLM ha pagato delle persone: 25 euro l’ora, volontari trovati su Mastodon, videochiamate con schermo condiviso, circa 150 euro in tutto. Ne sono usciti link rotti, termini dati per scontati, battute che confondevano e nessuna frase che spiegasse cosa fa il software. La sua tesi è che le persone vere ti danno qualcosa che una simulazione non ti dà, a partire dalla frustrazione che senti nella voce. Difficile dargli torto.

Tu in quale gradino dell’imbuto di Karpathy ti metti? Scrivimelo nei commenti. E se vuoi fare il salto dal chatbot gratuito all’uso serio, ho scritto una guida su cosa sono e quanto costano le API di intelligenza artificiale.

Newsletter

Ti è stato utile? Il prossimo te lo mando io.

La rassegna AI ogni mattina oppure il digest della domenica: scegli tu.

Cosa vuoi ricevere
Che differenza c’è tra le due newsletter?

Rassegna AI quotidiana: ogni mattina alle 8:30, le notizie sull'IA del giorno.

Digest settimanale: la domenica, gli articoli e le rassegne della settimana in una sola mail.

Puoi sceglierle anche tutte e due.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *