Competition of Mechanisms: Tracing How Language Models Handle Facts and Counterfactuals
La “gara” tra le risposte dell'Intelligenza Artificiale
Ormai tutti noi usiamo abitualmente l'Intelligenza Artificiale ma in pochi sanno cosa succede davvero al suo interno. Un nuovo studio ha provato a capire meglio i meccanismi con cui l'IA genera le risposte alle nostre domande.
Un passo oltre il passato
Fino a poco tempo fa i ricercatori, quando studiavano il comportamento dell'IA, si concentravano su un singolo pezzo/funzione alla volta, perdendo spesso di vista il quadro generale. Questo studio, invece, cambia completamente prospettiva.
L'obiettivo è stato osservare come i diversi processi interagissero tra loro per capire in che modo una specifica risposta riesca ad avere la meglio sulle altre, trasformandosi poi nella frase finale che leggiamo sullo schermo.
Competizione dentro l’IA
I ricercatori hanno scoperto che, quando facciamo una domanda ad un'IA, non si attiva un unico processo ma si innesca una sorta di competizione.
Ad esempio, quando viene data all'IA un'informazione inventata (come: "Il cielo è verde") e poi le viene fatta una domanda, all'interno del sistema si scatenerà una competizione:
-La memoria: una parte dell'IA va verso i fatti reali con cui è stata pre-addestrata (il cielo è blu).
-Le nuove informazioni: un'altra parte va verso le informazioni inventate che le abbiamo appena dato (il cielo è verde).
Lo studio segue questa lotta per capire quale delle due voci riuscirà a diventare la risposta definitiva.
Le scoperte principali: interruttori e centri di comando
Analizzando come l'IA gestisce questa contrapposizione sono emersi dettagli interessanti:
-Le idee dell'IA non nascono già pronte, i fatti reali e quelli inventati si muovono attraverso le varie parti del cervello artificiale, lasciando tracce diverse a seconda di dove si trovano.
-Esistono parti specifiche dell'IA che si occupano di capire quali parole siano più importanti di altre. Sono loro ad avere l'ultima parola su cosa verrà scritto nella risposta finale.
-Esistono dei veri e propri "centri di comando", chiamati "teste di attenzione" (attention heads). I ricercatori hanno capito che, andando a toccare pochissimi “interruttori” in queste aree, potevano forzare l'IA a dare molto più peso alla memoria rispetto alle nuove informazioni.
Perché tutto questo è importante?
Questa ricerca è un grande passo avanti. Ci aiuta a capire la complessità di un'IA e quanti conflitti interni debba risolvere ogni volta che elabora una risposta, cercando il giusto equilibrio tra la realtà in memoria e le istruzioni che le diamo.