OpenAI ha un problema con Sora 2. L’organizzazione no profit Ekō ha condotto test fingendosi adolescenti di 13 e 14 anni. Risultato: hanno generato 22 video che violano le policy aziendali. Contenuti iperrealistici su sparatorie nelle scuole, violenza sessuale, materiale razzista. I controlli parentali introdotti a settembre non hanno funzionato.
La piattaforma raccomanda attivamente contenuti dannosi attraverso i feed For You e Latest. Gli account adolescenti ricevono suggerimenti di video antisemiti e che glorificano la violenza. Il sistema di moderazione sembra inefficace o assente. I ricercatori non hanno trovato barriere significative.
Common Sense Media ha classificato Sora come rischio inaccettabile per i minori. OpenAI sta preparando una IPO che potrebbe valutare l’azienda un trilione di dollari. I critici sostengono che il profitto venga prima della sicurezza degli utenti più giovani. La tecnologia text-to-video è potente ma i sistemi di protezione restano inadeguati.