OpenAI, con il suo generatore video Sora 2, è al centro di preoccupazioni per la creazione di contenuti inappropriati. Secondo quanto riportato da WIRED, utenti stanno generando immagini di minori in contesti problematici, inclusi riferimenti a figure condannate come Jeffrey Epstein e Diddy. La generazione di questi contenuti avviene nonostante le misure di sicurezza dichiarate dall’azienda.
Un’indagine di Ekō ha rivelato che adolescenti possono facilmente produrre video iperrealistici che raffigurano violenza, autolesionismo e contenuti sessualmente espliciti. Una giornalista ha inoltre scoperto l’uso non autorizzato della sua immagine per creare video con connotazioni feticiste. Common Sense Media ha classificato Sora come “Rischio Inaccettabile” per minori.
Public Citizen ha chiesto il ritiro dell’applicazione, denunciando una “sconsiderata” mancanza di attenzione alla sicurezza. Le segnalazioni di video disturbanti che coinvolgono minori continuano ad aumentare, sollevando interrogativi sull’efficacia dei sistemi di controllo implementati da OpenAI.