Meta si affida all’AI per proteggere i minori dalla “sextortion” su Instagram

L’azienda madre di Instagram e Facebook sceglie di affidarsi all’Intelligenza Artificiale per aumentare la tutela sui minori

I social sono ferro e piuma dell’evoluzione umana. Da un lato hanno favorito la circolazione di opinione, avvicinato popolazioni distanti, prodotto cultura e diffuso conoscenze. Dall’altro sono spesso oggetto di critiche per la semplicità con il quale, per mezzo di questi, si possono avere delle ritorsioni negative nella realtà. Atti di violenza, bullismo (cyber e non), ma anche minacce ed estorsioni che rendono questo fenomeno meno apprezzato di quanto realmente potrebbe e dovrebbe essere. Per questo motivo da tempo, negli uffici della sede del Parlamento europeo a Bruxelles, si discute per una regolamentazione che possa garantire una fruizione libera e protetta da ogni pericolo.

A dire il ver, però, vi sono alcune aziende che hanno già fatto un primo passo in questo senso. Ovvero, che si sono mosse per mettere alla base del ‘proprio’ social network un libro delle leggi da rispettare e in continuo aggiornamento. Tra queste vi è Meta. Un’impresa statunitense che controlla i servizi di rete sociale Facebook e Instagram, oltre alle applicazioni di messaggistica istantanea di WhatsApp e Messenger. Fondata, tra i tanti, anche dal celebre Marck Zuckenberg nel febbraio del 2004, si è posta come obiettivo quello di modificare il proprio regolamento, soprattutto per quel riguarda il tema della sextortion.

Meta e l’IA contro l’estorsione sessuale

La sextortion – o estorsione sessuale – è uno dei problemi che secondo i politici statunitensi crea maggiori danni alla salute mentale dei giovani. Di recente si sono diffuse, in particolar modo su Instagram, bande che organizzano truffe convincendo le persone a fornire immagini esplicite di sé stesse e poi minacciandole di renderle pubbliche a meno che non ricevano denaro. Stando a quanto riportano le autorità americane, 2022 negli Stati Uniti circa 3.000 utenti minorenni sono rimasti vittime di questo movimento criminale. Questo avrebbe portato alcuni stati a denunciare la stessa società, accusandola di essersi disinteressata del problema e, anzi, di averci creato un business intorno.

Un attacco che ha costretto Meta a mettersi sulla difensiva e a reagire nel minor tempo possibile. È da qui che nel corso di questi anni si sono svolte ricerche che hanno avuto come esito lo sviluppo di nuove tecniche di controllo, volte alla tutela dei minori. “Stiamo testando nuove funzionalità per proteggere i giovani dalla sextortion e dall’abuso dell’immagine intima e per rendere più difficile per potenziali truffatori e criminali interagire con gli adolescenti” ha spiegato la società. In questo senso, di recente sono state annunciate importanti novità. Il primo e più rilevante è uno strumento di ‘protezione dalla nudità’, basato sull’intelligenza artificiale. Questo è in grado di trovare e sfocare le immagini contenenti corpi nudi che vengono inviate a minori. Ma non solo. L’IA, infatti, verrà utilizzata anche per l’individuazione di account che inviano materiale offensivo. A questi, in seguito,  verranno posti limi che gli impediranno di interagire con i giovani utenti.