LinkedIn ha sviluppato un nuovo rilevatore di immagini AI che si dice sia in grado di catturare il 99,6% delle immagini del profilo falso, con un tasso di falsi positivi dell'1%. Secondo prove aneddotiche, il loro nuovo rilevatore funziona davvero.
Falsi profili LinkedIn
Ci sono molte ragioni per cui le persone creano falsi profili LinkedIn.
Per alcuni membri della community di affiliate search marketing, uno dei motivi per i profili falsi è la percezione che Google si fiderà di un sito se gli autori dell'articolo hanno collegamenti a un profilo LinkedIn nella loro biografia dell'autore.
Questa idea nasce dall'incoraggiamento di Google che i contenuti dovrebbero avere ciò che è noto come EEAT, Esperienza, Competenza, Autorevolezza e Affidabilità.
Per altri la motivazione è creare un sito Web dall'aspetto più affidabile per i visitatori dei loro siti Web.
Questo non ha lo scopo di perdonare quelle pratiche, le scoraggio.
Questo è solo per spiegare che la pratica sta accadendo e perché sta accadendo.
L'avvento della possibilità di creare immagini del profilo con l'intelligenza artificiale ha reso più facile la creazione di profili falsi, il che ha esacerbato in modo esponenziale un problema già enorme.
I rapporti sui falsi profili LinkedIn pubblicati nel 2022 hanno rilevato che LinkedIn ha rilevato e rimosso 21 milioni di account falsi nella prima metà del 2022.
Prove aneddotiche condivise da un affiliato di marketing che ha distribuito falsi profili LinkedIn confermano che il rilevatore di immagini AI di LinkedIn ha notevolmente migliorato la loro capacità di rilevare account falsi.
Secondo Linkedin:
“Lavoriamo costantemente per migliorare e aumentare l'efficacia delle nostre difese anti-abuso per proteggere le esperienze dei nostri membri e clienti. E come parte del nostro lavoro in corso, abbiamo collaborato con il mondo accademico per stare un passo avanti rispetto a nuovi tipi di abuso legati ad account falsi che sfruttano tecnologie in rapida evoluzione come l'IA generativa".
Account falsi difficili da individuare
LinkedIn aggiorna costantemente i propri sistemi per rilevare molteplici tipi di attività indesiderate come profili falsi, furti di account e violazioni delle norme sui contenuti.
L'introduzione delle immagini generate dall'intelligenza artificiale ha reso quasi impossibile rilevare immagini false se non sai cosa cercare.
LinkedIn identifica gli "artefatti" che sono il segno distintivo delle false immagini del profilo AI.
La maggior parte delle persone non sa come individuare le immagini AI, quindi è facile per le persone confondere un account falso con uno vero.
LinkedIn ha condiviso:
“Con l'ascesa dei media sintetici generati dall'intelligenza artificiale e dei media generati da testo in immagine, i profili falsi sono diventati più sofisticati.
E abbiamo scoperto che la maggior parte dei membri non è generalmente in grado di distinguere visivamente i volti reali da quelli generati sinteticamente... "
In che modo LinkedIn cattura i contenuti generati dall'intelligenza artificiale
Una caratteristica delle immagini create artificialmente è che condividono tutte modelli simili, ciò che LinkedIn chiama differenze strutturali.
Le immagini reali non condividono componenti strutturali.
LinkedIn ha condiviso un esempio di un composto di 400 immagini artificiali e 400 immagini reali.
Il composito delle immagini false mostra che le aree intorno agli occhi e al naso tendono ad essere molto simili.
Il composito delle immagini reali non condivide nulla in comune con nessuna delle altre immagini, quindi il composito è sfocato.
Screenshot dell'immagine di LinkedIn
I risultati della loro ricerca sono impressionanti.
Condivisioni di LinkedIn:
“Il tasso di veri positivi (TPR) è la percentuale di foto sintetiche correttamente classificate come sintetiche.
Il tasso di falsi positivi (FPR) è la percentuale di foto reali che vengono erroneamente classificate come sintetiche.
Il nostro approccio è in grado di rilevare il 99,6% (TPR) dei volti sintetici StyleGAN, StyleGAN2 e StyleGAN3, classificando erroneamente solo l'1% (FPR) delle foto reali del profilo LinkedIn come sintetiche.
Per i risultati del benchmark nel nostro documento di ricerca abbiamo scelto un obiettivo FPR dell'1%, perché, per le applicazioni del mondo reale su una grande rete professionale, è importante che i modelli di rilevamento delle immagini generate dall'intelligenza artificiale catturino la maggior parte delle immagini sintetiche, mentre solo raramente classificare un'immagine reale come sintetica.
Quanto è efficace il rilevatore AI di LinkedIn nel mondo reale?
L'affiliate marketer con i falsi profili LinkedIn ha condiviso che LinkedIn è stato in grado di catturare il 100% dei loro falsi profili LinkedIn.
Hanno condiviso con me la loro esperienza:
“In qualità di affiliato di marketing, avere profili LinkedIn per il mio personaggio falso è stato un ottimo modo per ottenere credibilità per i miei autori.
È stato particolarmente utile per la creazione di collegamenti HARO, poiché i giornalisti tendono a collegarsi più spesso a siti con persone con un profilo LinkedIn.
Negli ultimi mesi, il 90% dei miei profili è stato sospeso da LinkedIn.
Sfortunatamente, ora devo trovare un altro metodo per aggiungere credibilità ai miei autori e farli sembrare legittimi".
LinkedIn continua a migliorare la propria capacità di catturare profili falsi. La capacità di creare un profilo falso è diventata ancora più difficile.
Leggi l'annuncio originale:
Nuovi approcci per il rilevamento delle foto del profilo generate dall'intelligenza artificiale
Immagine in primo piano di Shutterstock/Meilun
