Truffe sentimentali e intelligenza artificiale: come riconoscere deepfake, foto false e chat scritte dall'IA

L'FBI, in un avviso pubblico del dicembre 2024, ha descritto come i criminali usano l'IA generativa nelle truffe: testi che sembrano scritti da una persona vera nelle truffe sentimentali e negli investimenti, immagini realistiche per profili social fittizi, foto da inviare in privato per convincere la vittima di parlare con una persona reale, e video creati apposta per lo stesso scopo.

Il caso che ha fatto più rumore in Europa è quello di una donna francese che, secondo quanto riportato dall'agenzia AGI nel gennaio 2025, ha perso 830.000 euro con un falso Brad Pitt: per un anno e mezzo il truffatore le ha mandato foto false dell'attore e anche un video generato con l'intelligenza artificiale. Una storia estrema, ma il meccanismo è lo stesso delle tante truffe romantiche meno famose.

Le immagini generate sono sempre più convincenti, ma spesso sbagliano proprio i dettagli che noi diamo per scontati. L'FBI suggerisce di cercare imperfezioni come mani o piedi distorti, occhi e denti irrealistici, ombre sbagliate. Ecco cosa guardare:

• Mani e dita: numero sbagliato di dita, dita fuse, anelli che si fondono con la pelle.
• Occhi, denti e orecchie: riflessi diversi nei due occhi, denti troppo uniformi, orecchini spaiati o orecchie asimmetriche.
• Pelle e capelli: pelle liscia come plastica, capelli che si confondono con lo sfondo.
• Sfondo: edifici storti, oggetti che non hanno senso, persone sullo sfondo deformate.
• Scritte: insegne, magliette o libri con lettere senza senso.
• Coerenza tra le foto: lo stesso volto con lineamenti che cambiano leggermente da una foto all'altra.

Il modo più efficace, però, è chiedere. Una foto con un dettaglio preciso, come un foglio con il tuo nome e la data o il gesto di toccarsi l'orecchio, è facile per una persona vera e scomoda per chi usa immagini false. Fai comunque anche una ricerca inversa con Google Lens o TinEye: non scopre le foto generate, ma smaschera quelle rubate. Gli altri segnali sono nella guida su come riconoscere un profilo falso.

Che qualcuno si faccia aiutare a scrivere un messaggio non è un reato né per forza un segnale d'allarme. Il problema è quando l'IA serve a gestire decine di conversazioni contemporaneamente con un personaggio inventato. Alcuni indizi:

• Tono sempre uguale: messaggi lunghi, ben costruiti, pieni di complimenti, ma senza la spontaneità di una persona vera.
• Pochi fatti concreti: parla di sentimenti e progetti, mai di dove ha cenato ieri, del collega antipatico o del traffico in tangenziale.
• Risposte sempre puntuali: a qualsiasi ora, anche quando dice di essere al lavoro o in viaggio.
• Memoria corta: dimentica nomi e dettagli che gli hai dato, o li ripete in modo un po' meccanico.
• Fatica con le domande locali: non sa rispondere a cose che chiunque viva nella sua città saprebbe.

Fai domande precise e personali, chiedi una nota vocale spontanea su un argomento che scegli tu, proponi una videochiamata. Se la persona evita sempre il contatto diretto, il dubbio diventa un segnale.

La videochiamata resta uno dei controlli migliori prima di un incontro. Per renderla più difficile da falsificare, chiedi piccoli gesti naturali, senza trasformarla in un interrogatorio:

• girare lentamente la testa di lato, fino a mostrare il profilo;
• passare una mano davanti al viso o toccarsi i capelli;
• avvicinarsi e allontanarsi dalla telecamera;
• spostarsi in un'altra stanza o accendere una luce diversa;
• rispondere a una domanda inattesa, ridendo o cambiando espressione.

Fai attenzione a labbra fuori sincrono, ritardi strani, contorni del viso che si deformano, illuminazione del volto diversa da quella della stanza. Una cattiva connessione può spiegare un difetto, non tutti insieme e non ogni volta. Trovi una guida completa nella pagina sulla videochiamata prima di incontrarsi.

La legge 23 settembre 2025, n. 132, pubblicata in Gazzetta Ufficiale il 25 settembre 2025, ha introdotto nel codice penale l'articolo 612-quater: chi diffonde senza consenso immagini, video o voci falsificati o alterati con l'IA, in grado di ingannare sulla loro autenticità, e causa un danno ingiusto a una persona, rischia da uno a cinque anni di reclusione.

La stessa legge ha previsto un'aggravante comune (art. 61, n. 11-decies c.p.) quando un reato è commesso con sistemi di intelligenza artificiale che hanno fatto da mezzo insidioso, hanno ostacolato la difesa o hanno aggravato le conseguenze. Una truffa sentimentale resta una truffa (art. 640 c.p.), ma l'uso dell'IA può pesare sulla pena.

Se sei vittima di un raggiro o di un ricatto con contenuti falsi, conserva tutto e rivolgiti alla Polizia Postale, alla Polizia o ai Carabinieri: i passaggi sono nella guida su come denunciare una truffa romantica.

Nel settore si usano sempre più strumenti automatici per individuare comportamenti sospetti, come lo stesso messaggio inviato a decine di persone. Nessuno di questi strumenti è perfetto: le tecniche dei truffatori cambiano in fretta, e qualche falso positivo colpisce anche persone in buona fede.

Su Smooch ti diciamo esattamente cosa facciamo. Ogni nuovo profilo e ogni nuova foto vengono controllati prima di comparire. Ogni iscritto può verificare la propria identità con un documento d'identità e un selfie, e chi lo fa mostra il badge «ID verified»: un volto generato al computer non ha un documento che lo accompagni. La verifica è facoltativa. Puoi bloccare e segnalare chiunque, e le segnalazioni vengono esaminate dal team di moderazione. Maggiori dettagli nella pagina su come ti protegge Smooch.