Bumble affronta il problema delle foto e dei video generati dall’AI e segnala i profili falsi

da Milano  – Le immagini generate dall’AI stanno diventando una parte sempre più preponderante delle nostre interazioni online. Frutto dell’evoluzione dei trend di photo editing con filtri o FaceTune, l’aumento di immagini realistiche create digitalmente suscita preoccupazione per quanto riguarda l’autenticità dei contenuti, specialmente nell’ambito del dating quando si cerca di conoscere qualcuno.

Secondo  un recente sondaggio* di Bumble, il 71% dei partecipanti appartenenti alla Gen Z e ai Millennial sostiene che dovrebbero esserci dei limiti nell’utilizzo dell’AI per la creazione delle foto profilo sulle dating app.

A seguito del riscontro di questa esigenza, Bumble ha introdotto una nuova funzione sotto il menu “Profilo Falso”, che permette agli utenti di segnalare i profili che sembrano utilizzare immagini o video creati tramite l’utilizzo dell’AI, aiutando a valutare l’autenticità degli account e delle connessioni per garantire un’esperienza più sicura per tutti.

Questa funzione è la più recente sviluppata da Bumble volta a supportare al meglio gli utenti nella ricerca di relazioni sane e significative. In precedenza, Bumble aveva lanciato il Deception Detector, uno strumento basato sull’AI progettato per individuare spam, truffe e profili falsi. Nei primi due mesi dal lancio di quest’ultima, Bumble ha registrato una diminuzione del 45% nelle segnalazioni di questo tipo da parte degli utenti.

Risa Stein, Product Vice President di Bumble afferma: “Una parte essenziale della creazione di uno spazio dove costruire relazioni significative è l’eliminazione di qualsiasi elemento fuorviante o pericoloso. Ci impegniamo a migliorare continuamente le nostre tecnologie per garantire che Bumble sia un ambiente sicuro e affidabile per gli appuntamenti. Introducendo questa nuova opzione di segnalazione, possiamo comprendere meglio come i malintenzionati e i profili falsi utilizzano in modo ingannevole l’AI, affinché la nostra community si senta sicura nell’instaurare connessioni.”

Con l’evoluzione del mondo del dating online, Bumble si impegna a utilizzare l’AI in maniera responsabile e a risolvere le nuove sfide derivanti dal suo utilizzo improprio. Inoltre, Bumble ha rilevato che il 71% degli intervistati considera “catfishing” l’utilizzo di foto generate dall’AI che raffigurano persone mentre svolgono attività mai compiute o che visitano luoghi mai visitati.

*Questa ricerca è stata commissionata da Bumble su 5,000 partecipanti in U.S. appartenenti alla Gen Z e ai Millennial (età compresa tra i 18 e i 42 anni), single e impegnati, tra il 24 Novembre e il 12 Dicembre, 2023.