L’idea di un sistema capace di analizzare la letteratura scientifica, scegliere un metodo di lavoro, addestrare un modello e valutarne autonomamente i risultati non rappresenta ancora una forma di auto‑miglioramento illimitato. Tuttavia, il progetto sviluppato da Anthropic offre un esempio concreto di come potrebbe evolvere la ricerca sull’intelligenza artificiale. I primi test mostrano risultati coerenti e promettenti, soprattutto nel campo dell’allineamento dei modelli.

Un ricercatore automatico

Il sistema presentato da Anthropic si chiama Automated Alignment Researcher (AAR). La sua funzione è automatizzare una parte del processo normalmente affidato ai ricercatori umani. L’AAR consulta la letteratura disponibile, seleziona una strategia e la applica per addestrare un modello per circa mezz’ora. L’operazione viene ripetuta più volte, così da conservare gli approcci efficaci ed eliminare quelli che non portano miglioramenti.

Secondo i dati condivisi dall’azienda, su dieci benchmark dedicati a comportamenti non allineati, il sistema ha ottenuto progressi in tutti i casi, senza compromettere le prestazioni generali dei modelli analizzati. Un risultato che suggerisce come l’automazione possa diventare uno strumento utile nella ricerca sull’allineamento.

Confronto con il lavoro umano

Uno degli aspetti più rilevanti dello studio riguarda il confronto tra l’AAR e i ricercatori esperti. In media, entro sei ore, il metodo migliore individuato dal sistema automatico riesce a superare le proposte formulate dagli specialisti coinvolti nel test. Inoltre, gli indirizzi di ricerca guidati dagli esseri umani non avrebbero prodotto prestazioni superiori rispetto a quelle ottenute dall’AAR.

La differenza più evidente riguarda i costi: Anthropic stima circa 4 dollari l’ora per l’inferenza tramite API, contro i 150 dollari l’ora riconosciuti ai ricercatori. Un divario che potrebbe influenzare il modo in cui le aziende decidono di investire nella ricerca.

Limiti e dipendenze

Nonostante i risultati, il sistema presenta limiti significativi. L’efficacia dell’AAR dipende direttamente dalla qualità dei benchmark utilizzati e dalla loro capacità di rappresentare in modo realistico gli obiettivi di allineamento. Anche la letteratura consultata deve essere aggiornata e mantenuta nel tempo, richiedendo comunque un intervento umano.

Anthropic e la disputa legale

Oltre agli sviluppi tecnici, Anthropic ha ottenuto recentemente una vittoria in tribunale. Una corte federale ha stabilito che la designazione dell’azienda come rischio per la catena di approvvigionamento da parte del Dipartimento della Difesa statunitense era illegittima e priva di basi sufficienti. Una decisione che potrebbe avere conseguenze sul rapporto tra istituzioni e aziende attive nel settore dell’AI.