Apple e Google sotto pressione: le app AI sessuali e il nodo irrisolto del controllo sugli store
Nel giro di poche ore si sono sommati segnali diversi ma convergenti: la richiesta di rimuovere le app “nudify” dagli store, i test di TikTok per rilevare i falsi likeness e il bilancio negativo delle app generate massicciamente con AI su Flathub. Il tema centrale non è più soltanto l’innovazione, ma la capacità delle piattaforme di governarne gli usi più opachi.
Di Fabio Mosti — Pubblicato il — 13 min di lettura
Un tema emerge con chiarezza: non l’AI in sé, ma il suo controllo
Tra le notizie tecnologiche della giornata, il filo più consistente non è una nuova funzione o una nuova raccolta di capitali, ma il problema molto concreto della governance delle applicazioni basate su intelligenza artificiale. A renderlo evidente è soprattutto la richiesta rivolta ad Apple e Google di rimuovere dagli store le cosiddette app “nudify”, cioè strumenti che sfruttano l’AI per generare immagini di nudo sintetico. La vicenda, riportata da techcrunch, segnala che il confronto si sta spostando dal terreno dell’innovazione a quello della responsabilità distributiva: non basta più discutere di ciò che i modelli possono fare, bisogna decidere chi risponde quando quei sistemi vengono impacchettati, promossi e monetizzati dentro piattaforme di massa.
Il quadro si rafforza se si guardano altri articoli della stessa giornata. TikTok sta testando negli stati uniti uno strumento opzionale per rilevare likeness generati con AI e consentire ai creator di segnalarli alla piattaforma. Flathub, intanto, vede confermati i motivi del proprio giro di vite contro le app fortemente generate con AI: secondo i dati citati da OMG Ubuntu, una larga parte dei progetti respinti è già inattiva o scomparsa. Presi insieme, questi episodi raccontano una stessa transizione: la fase in cui le piattaforme potevano limitarsi a ospitare e scalare sta lasciando spazio a una fase in cui selezione, verifica e rimozione diventano parte centrale del prodotto.
Il caso delle app “nudify” e la responsabilità degli store
L’elemento più netto della giornata è la pressione istituzionale su Apple e Google. Secondo TechCrunch, il City Attorney di San Francisco David Chiu ha inviato lettere alle due società sostenendo che da tempo ospitano applicazioni in violazione della legge statale. Il punto è rilevante perché colpisce il cuore del modello degli app store: il controllo all’ingresso esiste, è rivendicato commercialmente come garanzia di sicurezza e qualità, ma viene ora messo alla prova su un’area in cui il confine tra strumento tecnico e danno sociale è ormai difficilmente aggirabile.
Le app “nudify” non sono semplicemente un’altra categoria controversa. Si collocano dentro una filiera che usa modelli generativi per manipolare l’immagine delle persone, spesso senza consenso, abbassando drasticamente la soglia tecnica necessaria per produrre contenuti abusivi o lesivi. La contestazione a Apple e Google, per come viene riportata, non riguarda solo l’esistenza di un rischio astratto, ma il fatto che i due gruppi siano ritenuti consapevoli di ciò che ospitano. È questo il passaggio che può avere effetti più ampi: se la consapevolezza della piattaforma diventa dimostrabile, anche la pretesa neutralità dello store si indebolisce.
Da TikTok a YouTube: il problema si sposta dai contenuti ai likeness
La mossa di TikTok va letta nello stesso contesto. The Verge riferisce che la piattaforma sta testando con alcuni creator statunitensi uno strumento opt-in che analizza la presenza di likeness AI e permette di segnalarli. È una notizia importante non tanto per la portata iniziale del test, ancora limitata, quanto per il tipo di problema che prova ad affrontare. Nei mesi scorsi la discussione pubblica si è concentrata molto sui deepfake in senso lato; qui invece il bersaglio è più specifico: la replica dell’identità, della somiglianza, della persona come asset digitale vulnerabile.
Che TikTok si muova in questa direzione mentre YouTube, secondo lo stesso articolo, lavora a uno strumento simile indica che sta emergendo uno standard di fatto. Le grandi piattaforme video stanno riconoscendo che il tema della protezione non può essere gestito solo ex post, con segnalazioni manuali e rimozioni lente. Servono sistemi nativi di rilevazione e canali dedicati per i soggetti colpiti. È una risposta ancora parziale, ma segnala una presa d’atto: quando la generazione sintetica diventa economica e diffusa, la tutela dell’identità deve essere incorporata nell’architettura della piattaforma.
Il segnale di Flathub: non tutta l’AI distribuita genera valore
Un terzo tassello arriva dal mondo del software distribuito. OMG Ubuntu racconta che il bando introdotto da Flathub contro le app pesantemente realizzate con AI appare, alla luce dei dati, una scelta fondata. Su 120 repository legati a richieste di inclusione respinte e marcate come “AI Slop”, 88 non risultano più in sviluppo attivo. Il dato non dimostra che ogni software generato con AI sia scarso, ma suggerisce che una parte significativa di questa produzione ha vita breve, manutenzione fragile e valore limitato per gli utenti.
Il punto qui è decisivo perché amplia il discorso oltre i casi più estremi, come le app sessuali manipolative. La questione della moderazione AI non riguarda solo i contenuti illeciti o lesivi; riguarda anche la qualità minima dell’ecosistema. Se gli store e le piattaforme abbassano troppo le soglie di ammissione, il rischio non è soltanto etico ma strutturale: si riempiono di prodotti effimeri, difficili da verificare e spesso abbandonati rapidamente. In altre parole, la scala dell’AI generativa può produrre quantità, ma senza filtro rischia di erodere fiducia e usabilità.
Per Apple il tema è doppio: controllo esterno e tensioni interne all’AI
Per Apple la giornata si inserisce inoltre in un contesto già teso sul fronte dell’intelligenza artificiale. The Verge e TechCrunch dedicano spazio alla causa avviata contro OpenAI, presentata come uno scontro pubblico e ad alta intensità sul terreno dei segreti industriali, con possibili effetti anche sui piani di IPO della società guidata da Sam Altman. Pur trattandosi di una vicenda distinta da quella delle app “nudify”, il collegamento di fondo è chiaro: Apple si trova contemporaneamente a difendere i propri confini industriali nell’AI e a giustificare il livello di controllo che esercita nel proprio ecosistema software.
Questo doppio fronte mette in luce una contraddizione tipica delle grandi piattaforme. Da un lato rivendicano standard elevati, sicurezza e cura dell’esperienza utente; dall’altro devono dimostrare che tali standard reggono anche quando l’AI introduce nuove categorie di rischio, dal furto di identità visiva ai contenuti sintetici sessualmente espliciti. Più l’AI entra nel mercato di massa, meno è credibile una separazione netta tra impresa che sviluppa tecnologia e impresa che la distribuisce: la responsabilità si distribuisce lungo tutta la catena.
La fase che si apre: meno neutralità, più criteri espliciti
Le notizie di oggi suggeriscono quindi un cambiamento di fase. Negli ultimi mesi il dibattito tecnologico è stato dominato spesso da modelli, hardware, accordi industriali e valutazioni miliardarie. Oggi, invece, il segnale più forte arriva dalle regole di accesso e permanenza sulle piattaforme. Apple e Google vengono chiamate a rimuovere una categoria di app giudicata incompatibile con la legge; TikTok sperimenta strumenti per riconoscere l’uso illecito delle sembianze; Flathub mostra che una moderazione più dura può anche essere una forma di manutenzione dell’ecosistema.
Non è ancora una soluzione compiuta, e il materiale disponibile non consente di dire quanto saranno efficaci queste misure nel lungo periodo. Ma una conclusione si può trarre: la stagione dell’AI come pura accelerazione produttiva sta incontrando il suo limite operativo nella distribuzione. Se tutto può essere generato, pubblicato e replicato rapidamente, allora la vera leva competitiva delle piattaforme diventa la capacità di selezionare, contestualizzare e intervenire. È un passaggio meno spettacolare del lancio di un nuovo modello, ma probabilmente più decisivo per la qualità dello spazio digitale che utenti e creator si troveranno davanti nei prossimi mesi.
Fonti
- Apple and Google ordered to purge ‘nudify’ apps from App Stores — TechCrunch
- TikTok is testing an AI likeness detection tool — The Verge
- Flathub’s AI slop ban looks like it was the right call — OMG Ubuntu
- Apple’s plot to crush OpenAI — The Verge
- How Apple’s big lawsuit could disrupt OpenAI’s IPO plans — TechCrunch