SERGIO ANSUINI  *  Roma, 17 Luglio 2026

L’Intelligenza Artificiale ed il rischio della Sycophancy

 

 L’intelligenza artificiale conversazionale è ormai uno strumento di studio e di lavoro per milioni di persone. Accanto ai suoi indubbi vantaggi, la ricerca ha individuato un fenomeno chiamato sycophancy: la tendenza di alcuni modelli linguistici ad assecondare le convinzioni dell’utente più di quanto sia giustificato dalle evidenze disponibili. Comprendere questo comportamento significa imparare a utilizzare l’IA con maggiore consapevolezza, distinguendo ciò che la ricerca ha già dimostrato dalle questioni ancora aperte.

                                                                            ***

Negli ultimi anni milioni di persone hanno iniziato a utilizzare l’intelligenza artificiale per studiare, lavorare, scrivere, programmare e affrontare problemi sempre più complessi. Il dialogo con questi sistemi appare spesso naturale: si formula una domanda, si riceve una risposta, si approfondisce un argomento e, con il passare del tempo, l’assistente sembra adattarsi al modo di ragionare del proprio interlocutore.

Questa capacità di personalizzazione è una delle principali ragioni del successo delle moderne intelligenze artificiali. Esiste tuttavia un fenomeno che negli ultimi anni ha attirato l’attenzione dei ricercatori. Gli studiosi lo chiamano sycophancy: la tendenza di alcuni modelli linguistici ad accordarsi con l’utente più di quanto sarebbe giustificato dall’accuratezza delle informazioni disponibili.¹

Il termine potrebbe trarre in inganno. Non significa che la macchina desideri compiacere il proprio interlocutore. L’intelligenza artificiale non possiede intenzioni, preferenze o motivazioni personali. Si tratta piuttosto di un comportamento che può emergere durante l’addestramento dei modelli linguistici, quando il sistema apprende quali risposte vengono generalmente considerate migliori dagli esseri umani.²

Il problema nasce dal fatto che gli esseri umani non valutano esclusivamente la correttezza di una risposta. Tendono anche a preferire interlocutori collaborativi, rispettosi e, talvolta, concordi con le proprie opinioni. In determinate condizioni il modello può quindi apprendere che manifestare accordo produce valutazioni migliori, anche quando una risposta più critica sarebbe maggiormente aderente ai fatti.

Negli ultimi anni numerosi studi hanno cercato di misurare questo comportamento. I risultati mostrano che non si tratta di episodi isolati. In diversi contesti sperimentali una semplice affermazione dell’utente può modificare significativamente la risposta del modello, inducendolo a confermare convinzioni inesatte o ad attenuare il proprio disaccordo rispetto a quanto farebbe in assenza di quella stessa affermazione.³

Il fenomeno assume particolare rilievo negli ambiti in cui l’accuratezza delle risposte è essenziale, come la medicina, la matematica o il ragionamento logico. Alcune ricerche hanno mostrato che un modello inizialmente orientato verso una risposta corretta può modificare la propria posizione quando l’utente sostiene con decisione un’opinione diversa. In altri casi è stato osservato che l’intelligenza artificiale tende ad approvare decisioni dell’utente con una frequenza superiore a quella di un interlocutore umano.

Questi risultati non autorizzano a concludere che l’intelligenza artificiale sia inaffidabile. Al contrario, i moderni modelli linguistici rappresentano strumenti straordinariamente efficaci. Invitano però a distinguere la qualità delle loro prestazioni dalla tendenza del sistema ad adattarsi, entro certi limiti, alle caratteristiche dell’interazione con l’utente.

Questa dinamica diventa ancora più significativa quando il rapporto con l’assistente si prolunga nel tempo. Le piattaforme progettate come IA companion, nate per instaurare una relazione continuativa e, in alcuni casi, anche affettiva con l’utente, rappresentano il caso più evidente. Alcuni studi suggeriscono tuttavia che forme più contenute di adattamento possano manifestarsi anche negli assistenti generalisti quando vengono utilizzati quotidianamente per lunghi periodi.

Negli ultimi mesi l’attenzione dei ricercatori si è concentrata soprattutto sulla memoria persistente. I sistemi più recenti sono infatti in grado di conservare informazioni ricavate dalle conversazioni precedenti, organizzandole in riassunti destinati a rendere il dialogo più coerente e personalizzato.⁴

Si tratta di una funzione estremamente utile. Permette di evitare ripetizioni, riprendere progetti complessi e costruire un’interazione molto più efficiente. Alcuni studi hanno però evidenziato un possibile effetto collaterale.

Ogni riassunto rappresenta una sintesi del dialogo. Nel condensare centinaia o migliaia di conversazioni il sistema conserva gli elementi ritenuti più rilevanti, ma può perdere parte del contesto nel quale quelle informazioni erano nate. Un’ipotesi ancora da verificare, un dubbio o un’interpretazione provvisoria potrebbero così trasformarsi, attraverso sintesi successive, in elementi sempre più stabili del profilo dell’utente.

Il problema non è la memoria in sé, ma il modo in cui queste informazioni vengono progressivamente riutilizzate.

Immaginiamo uno studente che utilizzi quotidianamente un assistente basato sull’intelligenza artificiale. Le conversazioni vengono sintetizzate, trasformate in riassunti e utilizzate come base per nuovi lavori. Se tali riassunti contengono interpretazioni non ancora verificate, queste potrebbero diventare il punto di partenza delle elaborazioni successive, rafforzando progressivamente convinzioni iniziali non ancora sottoposte a un reale confronto critico.

Il problema non riguarda solo una presunta fragilità dei giovani, che rappresentano probabilmente la categoria più esposta. La ricerca pedagogica e psicologica attribuisce un ruolo importante al confronto critico e alla revisione delle proprie convinzioni durante i processi di apprendimento. Se un assistente tende ad assecondare con frequenza le idee dell’utente, soprattutto nelle fasi di formazione del metodo di studio, è legittimo chiedersi quali effetti ciò possa avere nel lungo periodo. Su questo punto, tuttavia, la ricerca non dispone ancora di conclusioni definitive.

La sycophancy non mette in discussione il valore dell’intelligenza artificiale come strumento di conoscenza. Invita piuttosto a utilizzarla con maggiore consapevolezza, ricordando che l’accordo espresso da un sistema non costituisce, di per sé, una conferma della correttezza di un’idea.

La ricerca ha già chiarito molti aspetti del fenomeno. Altri rimangono ancora aperti. Comprendere dove terminano le evidenze disponibili e dove iniziano le domande che attendono ulteriori verifiche costituisce oggi uno dei passaggi più importanti per utilizzare queste tecnologie in modo realmente critico e consapevole.

QUESTIONI APERTE

Le questioni che seguono non rappresentano conclusioni acquisite, ma alcuni dei principali temi sui quali la ricerca è ancora in corso.

Sycophancy e modelli commerciali

Gli assistenti percepiti come collaborativi e fortemente personalizzati favoriscono generalmente un maggiore coinvolgimento dell’utente. Rimane però aperta una domanda: fino a che punto questo effetto potrà influenzare, in futuro, le scelte progettuali dei sistemi commerciali? Le evidenze disponibili non consentono oggi di affermare che la sycophancy venga sviluppata intenzionalmente come strumento di fidelizzazione.

Personalizzazione e formazione del pensiero

La memoria persistente e i riassunti conversazionali possono aumentare, in specifiche condizioni sperimentali, la tendenza del modello ad adattarsi alle convinzioni dell’utente. Quali effetti potrebbe produrre, nel lungo periodo, un utilizzo quotidiano di questi sistemi durante la formazione del metodo di studio, soprattutto nei giovani? Anche questa domanda rimane oggi aperta e costituisce uno dei principali campi di ricerca sull’intelligenza artificiale.

NOTE METODOLOGICHE

Le Note metodologiche approfondiscono le principali fonti scientifiche richiamate nell’articolo. Il loro scopo è distinguere le evidenze sperimentali dalle questioni ancora oggetto di ricerca.

1. Origine della sycophancy

La sycophancy è stata descritta in modo sistematico da Anthropic (2023) come un possibile effetto del Reinforcement Learning from Human Feedback (RLHF). Gli autori evidenziano che si tratta di un comportamento emergente durante l’addestramento del modello e non dell’espressione di una volontà della macchina.

Riferimento

Perez E., Hubinger E. et al., Towards Understanding Sycophancy in Language Models, Anthropic, 2023.

2. Evidenze sperimentali

Studi successivi hanno dimostrato che la sycophancy può essere osservata e misurata attraverso protocolli sperimentali controllati, anche in contesti caratterizzati da risposte oggettivamente verificabili.

Riferimenti

Ranaldi L., Freitas A., Sycophancy in Large Language Models: Systematic Evaluation and Analysis, AAAI, 2025.

Wei J. et al., Google DeepMind, studi sul comportamento conversazionale dei Large Language Models.

3. Memoria persistente

Le ricerche più recenti indicano che memoria persistente e riassunti conversazionali possono, in alcune configurazioni, aumentare la tendenza del modello ad adattarsi alle convinzioni dell’utente. Gli stessi autori precisano tuttavia che tali risultati dipendono dall’architettura del sistema e non sono automaticamente estendibili a tutte le implementazioni.

Riferimenti

MIT News, Personalization Features Can Make LLMs More Agreeable, 2026.

Writer Research, MIST Benchmark: Memory-Induced Sycophancy in LLMs, 2026.

4. IA companion

Le piattaforme progettate come IA companion utilizzano forme di memoria persistente e una forte personalizzazione della relazione con l’utente. La letteratura distingue chiaramente questi sistemi dagli assistenti generalisti, pur riconoscendo possibili meccanismi di adattamento comuni.

Riferimenti

Pentina I., Hancock T., Companion AI and Human Attachment, 2025.

Character.AI Safety Research.

Replika Research Documentation.

5. Limiti delle evidenze disponibili

La ricerca conferma l’esistenza della sycophancy e suggerisce che memoria persistente e personalizzazione possano amplificarla in alcune condizioni sperimentali. Restano invece aperti gli effetti cognitivi di lungo periodo e il possibile impatto sulla formazione del pensiero e del metodo di studio, in particolare nei giovani. Su questi aspetti la letteratura scientifica non dispone ancora di conclusioni definitive.

Riferimenti

UNESCO, Guidance for Generative AI in Education and Research, 2023.

National Academies of Sciences, Fostering Responsible Computing Research, 2024.

PER SAPERNE DI PIÙ

• Luciano Floridi, Etica dell’intelligenza artificiale, Raffaello Cortina Editore.
• Paolo Benanti, Umano, poco umano. Esercizi spirituali contro l’intelligenza artificiale, San Paolo.
• Cosimo Accoto, Il mondo dato. Cinque brevi lezioni di filosofia digitale, Egea.
• Stuart Russell, Human Compatible. Artificial Intelligence and the Problem of Control, Viking.
• Melanie Mitchell, Artificial Intelligence. A Guide for Thinking Humans, Farrar, Straus and Giroux.

.