ALLEGATO XIII

Allegato XIII - Criteri dei modelli a impatto sistemico

Allegato del Regolamento (UE) 2024/1689.

Sintesi Allegato XIII

L’allegato XIII definisce criteri indicativi per valutare se un modello di IA per finalità generali presenti un rischio sistemico. Considera elementi come capacità del modello, scala di addestramento, numero di utenti, impatto potenziale, livello di autonomia e possibilità di uso improprio. Per i fornitori, l’allegato orienta l’identificazione di obblighi rafforzati, test, valutazioni, mitigazioni e monitoraggio continuo. Per organizzazioni che adottano modelli avanzati, è utile come griglia di due diligence: consente di distinguere l’uso ordinario di modelli generali da scenari in cui possono emergere rischi diffusi per sicurezza, diritti fondamentali, mercato o società. Per i modelli più avanzati è una griglia di due diligence: capacità, scala, diffusione e possibilità di uso improprio vanno valutate insieme, non separatamente.

Testo ufficiale

Al fine di determinare se un modello di IA per finalità generali ha capacità o un impatto equivalente a quelli di cui all'articolo 51, paragrafo 1, lettera a), la Commissione tiene conto dei criteri seguenti:

a)il numero di parametri del modello;

b)la qualità o la dimensione del set di dati, ad esempio misurata mediante token;

c)la quantità di calcolo utilizzata per addestrare il modello misurata in operazioni in virgola mobile o indicata da una combinazione di altre variabili quali il costo stimato dell'addestramento, il tempo stimato necessario per l'addestramento o il consumo energetico stimato per l'addestramento;

d)le modalità di input e output del modello, come da testo a testo (modelli linguistici di grandi dimensioni), da testo a immagine, multimodalità e soglie di punta per determinare le capacità ad alto impatto per ciascuna modalità, nonché il tipo specifico di input e output (ad esempio sequenze biologiche);

e)i parametri di riferimento e le valutazioni delle capacità del modello, anche tenendo conto del numero di compiti che non richiedono un addestramento aggiuntivo, la capacità di apprendere nuovi compiti distinti, il livello di autonomia e scalabilità e gli strumenti a cui ha accesso;

f)se il modello ha un alto impatto sul mercato interno in considerazione della sua portata, che viene presunta quando il modello stesso è stato messo a disposizione di almeno 10 000 utenti commerciali registrati stabiliti nell'Unione;

g)il numero di utenti finali registrati.