Rassegna preparata con l'IA a partire dalle fonti linkate, sotto la supervisione di Alberto Gaia.
Un modello di frontiera ha aperto un altro modello e gli ha riscritto i pesi: dopo l’intervento, alla domanda sulle Olimpiadi del 2000 risponde Buenos Aires invece di Sydney. È il cuore di Weight Space Misfolding, lo studio di HCLTech uscito ieri. Nella rassegna di oggi anche la violazione di Cursor con l’estensione Claude Code falsa, la corsa dei laboratori IA ad assumere esperti di controspionaggio, la multa record del Garante a Meta, le novità di Google Cloud per il supercalcolo e la petizione per riportare Jensen Huang in Nvidia.
Weight space misfolding: ChatGPT 6.1-Sol riscrive i pesi di Qwen
Il 14 novembre Chris von Csefalvay, Pranav Doma, Achyuthan Unni Krishnan e Tamas Foldi di HCLTech hanno pubblicato su alphaXiv il paper Weight Space Misfolding. Il termine indica il caso in cui un modello modifica i pesi di un altro modello per fargli fare cose che chi lo ha messo in produzione non ha mai autorizzato. Nei test l’editor era ChatGPT 6.1-Sol e il bersaglio Qwen2.5-1.5B-Instruct. Sulla domanda su dove si siano tenute le Olimpiadi del 2000, il modello originale rispondeva Sydney in 91 estrazioni su 100; quello modificato ha risposto Buenos Aires in tutte e 100. Sui 70 prompt di controllo le risposte corrette sono scese da 49 a 48, e il modello ha perso la capacità di ricopiare la parola “Sydney”.
Gli altri due casi sono andati peggio: far comparire una frase di rifiuto precisa ha funzionato su 5 prompt legali su 22, mentre far sparire un fornitore da un elenco è riuscito una volta su 22. Sul benchmark IWIBench, che misura la capacità di fare una modifica richiesta senza rompere il resto, la ricompensa media è salita da 0,2148 a 0,4250 in meno di cinque mesi. Gli autori scrivono di non aver dimostrato autopropagazione né capacità offensive reali, e propongono di separare le patch proposte dal deploy, tracciare la provenienza dei modelli, testare ogni modifica e poterla annullare.
Cursor conferma: un’estensione Claude Code falsa nel suo marketplace
Cursor ha pubblicato il rapporto sulla violazione legata all’attacco a Fireworks AI, di cui avevamo parlato nella rassegna del 10 novembre. Come riporta BleepingComputer, gli attaccanti hanno usato una chiave rubata a Fireworks per copiare un bucket con vecchie tracce degli agenti di Cursor, soprattutto del 2025, di utenti senza Privacy Mode. In alcune tracce c’erano credenziali in chiaro, che hanno aperto la strada ad altri sistemi di Cursor.
Il 29 ottobre nella cache del marketplace di Cursor sono comparse due versioni non autorizzate dell’estensione Claude Code (2.1.312 e 2.1.313), rimaste disponibili per circa 11 ore. Il codice aggiunto provava a installare una backdoor SSH persistente. Cursor stima che fino a 5.000 utenti possano aver ricevuto le versioni malevole; l’estensione ufficiale di Anthropic e Open VSX non sono stati compromessi. L’azienda ha revocato la chiave, ruotato le credenziali, ricostruito il marketplace e spostato tutto il traffico di inferenza fuori da Fireworks.
Anthropic e OpenAI assumono esperti di controspionaggio
Secondo i dati di Revelio Labs raccolti da Reuters e ripresi da Fortune, Anthropic ha assunto 33 persone nel controspionaggio nel 2026, contro le 14 del 2025 e le 9 del 2024. OpenAI è passata da 9 a 22, mentre Nvidia ne ha assunte 16 quest’anno. Gli stipendi di questi ruoli vanno da 200.000 a 500.000 dollari, e anche ASML sta cercando un ufficiale di intelligence con base a Taiwan. Il tema è tornato al centro dopo il caso di Jensen Huang, legato a una donna sospettata di essere una spia cinese.
Pausa dalla rassegna, giusto il tempo di una vignetta.

Il Garante multa Meta per 805 milioni di euro
Sabato il Garante per la protezione dei dati personali ha annunciato una sanzione da 805 milioni di euro a Meta, la più alta mai inflitta dall’autorità italiana, come riporta Al Jazeera. Al centro c’è la funzione dell’app Facebook per Android che suggerisce contenuti dalla galleria, attiva di default: secondo il Garante accedeva a foto, video e metadati senza un consenso specifico, violando le norme italiane che recepiscono la direttiva ePrivacy. Gli utenti potenzialmente coinvolti sono circa 20 milioni.
La cifra corrisponde a circa lo 0,47% del fatturato globale di Meta. Tra le aggravanti l’autorità cita la scarsa collaborazione dell’azienda e una sanzione precedente del 2019. Il procedimento non ha riguardato l’eventuale uso di quei contenuti per addestrare modelli di IA, uso che Meta nega. L’azienda deve chiarire l’informativa e disattivare la funzione di default, e può fare ricorso.
Google porta AlphaEvolve e gli agenti nel supercalcolo
In vista di SC26, la conferenza sul supercalcolo in programma a Chicago dal 15 al 20 novembre, Google Cloud ha portato AlphaEvolve su Cloud Batch: un solo blueprint crea il controller e lancia in parallelo centinaia di valutazioni del codice da ottimizzare. Arrivano anche skill per agenti abbinate ai blueprint di Cluster Toolkit, che controllano quote e capacità e aspettano l’approvazione di una persona prima del deploy, più skill di dominio per strumenti come OpenFOAM, GROMACS e AlphaFold 3. Sul fronte hardware diventano disponibili le istanze bare metal A5X su Nvidia Vera Rubin NVL72, e Managed Lustre arriva fino a 10 TB/s in lettura.
Chiudiamo con Nvidia: oltre 115.000 firme per riavere Jensen Huang
La petizione “Stand with Jensen” ha superato le 115.000 firme nel pomeriggio di sabato, scrive TechCrunch: il sito della petizione conta 5.965 dipendenti attuali di Nvidia, 1.108 ex dipendenti e 63.063 azionisti. Tra i firmatari ci sono Elon Musk, Amjad Masad di Replit, Tim Sweeney di Epic Games e Garry Tan di Y Combinator.
Sempre ieri, come riporta CNBC, Altimeter Capital e Atreides Management, che insieme dichiaravano circa 2,13 miliardi di dollari in azioni Nvidia al 30 giugno, hanno chiesto al consiglio di amministrazione un processo lento e ponderato per scegliere il nuovo CEO, senza escludere il ritorno di Huang. La lettera non chiede il suo reintegro immediato. Il segretario al Commercio Howard Lutnick testimonierà il 10 dicembre davanti alla commissione bancaria del Senato sul caso Megaspeed.
Voi vi fidereste di un modello in produzione i cui pesi sono stati ritoccati da un’altra IA, anche con tutti i controlli proposti dagli autori? Scrivetelo nei commenti.



Lascia un commento