È quanto emerso dalle ricostruzioni giornalistiche della vicenda che ha coinvolto Fideuram, società del gruppo Intesa Sanpaolo, vittima di una sofisticata truffa nella quale sarebbe stata utilizzata anche l’intelligenza artificiale per clonare una voce.

Le indagini dovranno chiarire le responsabilità e le modalità del raggiro. Ma questa vicenda ci pone davanti a un interrogativo che va ben oltre la cronaca.

Se non possiamo più fidarci neppure di una voce che riconosciamo, come distingueremo il vero dal falso?

Siamo entrati in un’epoca nella quale possiamo ascoltare parole mai pronunciate, vedere persone compiere gesti mai compiuti e assistere a eventi mai accaduti. E tutto può apparire assolutamente autentico.

Il problema non è soltanto la capacità delle macchine di imitare la realtà. È la nostra crescente difficoltà a riconoscerne la manipolazione.

Nel 1950 Alan Turing si domandava se una macchina potesse pensare, immaginando un esperimento nel quale un essere umano avrebbe dovuto distinguere, attraverso una conversazione, una persona da una macchina.

Oggi quella domanda assume un significato diverso.

Non ci chiediamo più soltanto se una macchina possa sembrare umana, ma quanto facilmente noi possiamo essere indotti a crederle.

Pensiamo a ChatGPT. Gli affidiamo quesiti, documenti, problemi professionali e talvolta questioni profondamente personali. Riceviamo risposte immediate, articolate, spesso rassicuranti. E proprio quella naturalezza rischia di farci dimenticare che una risposta convincente non è necessariamente una risposta corretta.

L’intelligenza artificiale può sbagliare, inventare informazioni e riprodurre pregiudizi. Può essere uno straordinario strumento di conoscenza, ma anche amplificare errori e discriminazioni.

E allora mi chiedo, stiamo utilizzando l’intelligenza artificiale per pensare meglio oppure, progressivamente, per evitare di pensare?

Non è una provocazione contro la tecnologia. Al contrario, credo profondamente nelle opportunità che offre alla medicina, alla ricerca, al lavoro e alla pubblica amministrazione.

Ma l’innovazione non può tradursi in una delega inconsapevole delle nostre decisioni.

Quando un algoritmo contribuisce a selezionare un lavoratore, valutare una persona o orientare una scelta che incide sui suoi diritti, non possiamo considerare il risultato imparziale soltanto perché proviene da una macchina.

L’AI Act europeo affronta proprio la necessità di conciliare sviluppo tecnologico e tutela dei diritti fondamentali. Tuttavia, nessuna norma potrà sostituire la nostra capacità di comprendere gli strumenti che utilizziamo.

La vera disuguaglianza del futuro potrebbe essere tra chi saprà governare l’intelligenza artificiale e chi finirà per subirla senza neppure accorgersene.

È da questa riflessione che prende forma l’incontro “AI oltre le apparenze – L’intelligenza artificiale tra opportunità, diritti e nuove responsabilità”, promosso dal Comune di Galliate, che ringrazio per aver scelto di affrontare un tema tanto attuale quanto vicino alla nostra quotidianità.

Venerdì 23 ottobre 2026, alle ore 21.00, presso il Salone Neogotico del Castello Sforzesco di Galliate, avrò il piacere di accompagnare il pubblico in un percorso tra storia, funzionamento, opportunità e rischi dell’intelligenza artificiale.

Metteremo alla prova le nostre certezze, a partire da una domanda apparentemente semplice: sapremmo distinguere una risposta umana da una generata da una macchina?

Vorrei che da questa serata emergesse soprattutto la consapevolezza che non dobbiamo temere l’intelligenza artificiale, ma imparare a conoscerla senza rinunciare al nostro spirito critico.

Perché, in fondo, la domanda più importante non è se le macchine diventeranno sempre più intelligenti.

È se noi, nel frattempo, continueremo a esercitare la nostra intelligenza.

Avv. Simona Maruccio

simona@maruccio.it