Il tipo di attacco che mira a compromettere le informazioni degli utenti ricostruendole a partire dai dati di addestramento è chiamato "privacy attack" (attacco alla privacy). Questi attacchi si concentrano sull'estrazione di informazioni sensibili o private che il modello ha appreso durante la fase di addestramento, compromettendo la riservatezza dei dati degli utenti. Non si tratta di manipolare il modello per ingannarlo (come avviene negli evasion attack) né di corrompere il set di dati di addestramento inserendo dati malevoli (poisoning attack), ma di ricostruire informazioni personali o riservate provenienti dai dati originali utilizzati per addestrare il modello. Gli attacchi alla privacy sono particolarmente preoccupanti nella sicurezza dell'intelligenza artificiale, poiché permettono agli aggressori di ottenere dati sensibili senza contatto diretto con le fonti originali, semplicemente analizzando il modello addestrato o le sue risposte. Questo tipo d'attacco mette a rischio la protezione dei dati personali e delle informazioni confidenziali degli utenti coinvolti nel processo di training del modello.