Di Antigone Davis, Global Head of Safety di Facebook

Quando le immagini intime di una persona vengono condivise senza il suo permesso può essere devastante. Per proteggere le vittime, per lungo tempo la nostra politica è stata quella di rimuovere le immagini intime non consensuali (note anche come “revenge porn”) quando ci vengono segnalate e negli ultimi anni abbiamo usato la tecnologia del photo-matching per evitare che vengano condivise nuovamente. Per trovare questi contenuti più rapidamente e supportare al meglio le vittime, oggi annunciamo una nuova tecnologia di rilevamento e un centro di risorse online per aiutare le persone a rispondere quando subiscono questo tipo di abusi.

Trovare queste immagini va oltre il rilevamento della nudità sulle nostre piattaforme. Grazie all’apprendimento automatico e all’intelligenza artificiale, ora siamo in grado di rilevare in modo proattivo immagini o video che vengono condivisi senza autorizzazione su Facebook e Instagram. Ciò significa che possiamo trovare questi contenuti prima che qualcuno li segnali, il che è importante per due motivi: spesso le vittime hanno paura di ritorsioni, per cui sono restie a segnalare il contenuto stesso, o non sono consapevoli che il contenuto è stato condiviso. Delle persone appositamente formate del nostro team di Community Operations esamineranno i contenuti individuati dalla nostra tecnologia. Se un immagine o un video viola i nostri Standard della Comunità, lo rimuoveremo e nella maggior parte dei casi disabiliteremo anche gli account che condivideranno contenuti intimi senza autorizzazione. Offriamo la possibilità di fare appello se qualcuno ritiene che abbiamo commesso un errore.

Questa nuova tecnologia di rilevamento si aggiunge al nostro programma pilota gestito in collaborazione con le organizzazioni a sostegno delle vittime. Questo programma offre alle persone un’opzione di emergenza per inviare proattivamente e in modo sicuro a Facebook una foto che temono possa essere diffusa. Per impedire che la foto venga condivisa sulla nostra piattaforma, creiamo un’impronta digitale di quell’immagine. Avendo ricevuto un riscontro positivo dalle vittime e dalle organizzazioni di supporto, nei prossimi mesi amplieremo questo progetto pilota in modo che un maggior numero di persone possa beneficiare di questa opzione in caso di emergenza.

“Siamo felici che il progetto pilota si stia espandendo per incorporare più organizzazioni per la sicurezza delle donne in tutto il mondo, dato che molte delle richieste che riceviamo provengono da vittime che risiedono al di fuori degli Stati Uniti”. – Holly Jacobs, Fondatrice di Cyber Civil Rights Initiative (CCRI).

Vogliamo fare ancora di più per aiutare le persone che sono state oggetto di questi abusi crudeli e distruttivi. Per questo, stiamo lanciando “Non senza il mio consenso“, un centro di supporto alle vittime all’interno del nostro Safety Center che abbiamo sviluppato insieme ad esperti. Qui le vittime troveranno organizzazioni e risorse che possono offrire loro sostegno, compresi gli strumenti che da utilizzare per rimuovere il contenuto dalla nostra piattaforma e impedirne l’ulteriore condivisione; da qui possono inoltre accedere al nostro programma pilota. Renderemo anche più facile e intuitiva per le vittime la procedura di segnalazione delle loro immagini intime condivise su Facebook senza consenso. E nei prossimi mesi, svilupperemo un kit di strumenti di supporto alle vittime per fornire maggiori informazioni con un sostegno locale e culturalmente rilevante. Creeremo questo kit in collaborazione con la Revenge Porn Helpline (Regno Unito), la Cyber Civil Rights Initiative (USA), la Digital Rights Foundation (Pakistan), la SaferNet (Brasile) e ilprofessor Lee Ji-yeon (Corea del Sud).

Il nostro lavoro per combattere questi abusi e sostenere le vittime non sarebbe possibile senza l’aiuto di esperti internazionali. Oggi, a margine della 63° Commissione delle Nazioni Unite sullo Status delle Donne, terremo un evento con Dubravka Šimonović – Relatore Speciale delle Nazioni Unite sulla violenza contro le donne – che riunisce alcuni di questi sostenitori delle vittime, rappresentanti dell’industria e organizzazioni no profit. Discuteremo di come questo abuso si manifesta in tutto il mondo, delle sue cause e conseguenze, della prossima frontiera delle sfide da affrontare e delle strategie di deterrenza. Attendiamo con impazienza questo evento e siamo grati per le collaborazioni attivate mentre continuiamo a impegnarci per combattere questo fenomen