In Breve
- Cosa ha richiesto il procuratore di San Francisco?
- Il procuratore ha richiesto la rimozione di tredici app di face-swapping che generano immagini intime non consensuali.
- Quali aziende sono coinvolte nella richiesta?
- Apple e Google sono le aziende coinvolte nella richiesta di rimozione delle app.
- Quali sono le conseguenze per le vittime?
- Le vittime possono subire danni alla reputazione e ripercussioni sulla salute mentale.
Il procuratore della città di San Francisco, David Chiu, ha intrapreso un’azione decisiva contro tredici applicazioni di face-swapping che utilizzano l’intelligenza artificiale per generare immagini intime non consensuali. Di queste, otto sono disponibili sull’App Store di Apple e cinque sul Play Store di Google.
Chiu ha richiesto la rimozione immediata di queste app e la cessazione di qualsiasi collaborazione commerciale con gli sviluppatori, sottolineando che Apple e Google avrebbero incassato milioni di dollari nonostante le loro politiche vietino contenuti pornografici, abusivi o molesti. La legge californiana proibisce esplicitamente il supporto a servizi che producono materiale pornografico deepfake, e l’ufficio del procuratore ha già avviato azioni legali contro sedici siti web dedicati a pratiche simili.
In risposta alle preoccupazioni sollevate, Dan Jackson, portavoce di Google, ha dichiarato che l’azienda ha già rimosso centinaia di app con funzioni di “nudificazione”, comprese quelle segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Apple, al momento, non ha rilasciato commenti ufficiali sulla questione.
Il procuratore Chiu ha definito la situazione “assolutamente scioccante” per l’ampiezza del fenomeno e le sue conseguenze devastanti per le vittime, che possono includere danni alla reputazione e ripercussioni sulla salute mentale. Chiu ha espresso fiducia nel fatto che le aziende rimuoveranno spontaneamente le app incriminate e rafforzeranno i controlli, senza escludere la possibilità di ulteriori azioni legali.