Creazione di contenuti sessualizzati non consensuali: la causa contro Grok

Alcuni residenti del Tennessee hanno avviato una causa contro la società di intelligenza artificiale di Elon Musk xAI, e il suo modello di intelligenza artificiale generativa Grok, in relazione alla creazione di contenuti sessualizzati non consensuali.

La creazione di contenuti sessualizzati non consensuali

Un’altra delle urgenze derivanti dall’impego dell’intelligenza artificiale generativa è certamente quella di disciplinare le ipotesi di responsabilità dei produttori di sistemi di AI per danni derivanti dagli output dei modelli.

In particolare, sta emergendo il tema della produzione di materiale pedopornografico a partire da immagini reali di minori.

La causa contro Grok

Alcuni residenti del Tennessee hanno avviato, davanti al Tribunale Federale di San Jose in California, una causa contro la società di intelligenza artificiale di Elon Musk xAI, in relazione al suo modello di intelligenza artificiale generativa Grok.

L’accusa è quella dell’avvenuto utilizzo di Grok, da parte di soggetti terzi, per la manipolazione di immagini reali degli attori (allora minorenni), tratte da annuari scolastici, e la trasformazione delle stesse in contenuti sessualizzati non consensuali.

Un punto centrale del giudizio riguarda il fatto che la società di AI non avrebbe, secondo l’accusa, applicato le misure di sicurezza necessarie ad impedire siffatti abusi, con conseguente violazione, sempre secondo l’accusa, di numerose norme federali.

Le ricorrenti chiedono, dunque, il risarcimento dei danni e la cessazione delle pratiche illecite.

Cosa si attende

Anche questo giudizio andrà monitorato, poiché potrebbe rappresentare un precedente importante in tema di determinazione delle responsabilità dei produttori di sistemi di intelligenza artificiale che non adottino le necessarie misure di sicurezza volte a scongiurare simili abusi.