OpenAI, l’azienda dietro il fenomeno globale di ChatGPT, ha annunciato un cambiamento radicale e molto dibattuto nelle sue politiche sui contenuti: a partire da dicembre, il celebre chatbot consentirà interazioni e la creazione di contenuti a sfondo erotico per gli utenti che verificheranno la propria maggiore età. L’annuncio, dato dal CEO Sam Altman su X (ex Twitter), segna una decisa inversione di rotta rispetto alla precedente politica di cautela, ma solleva immediatamente interrogativi cruciali su etica, sicurezza e la competizione nel mercato dell’Intelligenza Artificiale.
🧭 La Motivazione: Dall’Estremismo Cautelare alla Libertà Adulta
Fino a questo momento, le Content Policies di OpenAI erano note per essere estremamente restrittive riguardo ai contenuti sessualmente espliciti o alle interazioni di role-playing romantiche/erotiche. Ogni tentativo di flirt o di generazione di materiale adulto veniva bloccato da un netto rifiuto da parte dell’AI.
Sam Altman ha giustificato la svolta con la necessità di bilanciare la sicurezza con l’utilità:
“Abbiamo reso ChatGPT piuttosto restrittivo per assicurarci di essere prudenti riguardo ai problemi di salute mentale. Ci rendiamo conto che questo lo ha reso meno utile/piacevole per molti utenti che non avevano problemi di salute mentale… Ora che siamo riusciti ad attenuare i gravi problemi di salute mentale e disponiamo di nuovi strumenti, potremo allentare le restrizioni in tutta sicurezza.”
Il messaggio è chiaro: dopo aver lavorato su strumenti per mitigare i rischi legati all’abuso da parte di utenti vulnerabili (come lo sviluppo di dipendenza emotiva o l’uso a fini illeciti), OpenAI si sente ora in grado di “trattare gli adulti come adulti”, offrendo loro una maggiore libertà di interazione.
Il Fattore Competizione: Rispondere a Grok e al Mercato Erotico AI
Questa mossa è anche vista come una risposta diretta alla crescente pressione competitiva. Piattaforme alternative e modelli open source (unfiltered) hanno già da tempo esplorato il nascente e lucroso mercato dell’AI erotica. In particolare, Grok, l’AI di xAI (società di Elon Musk), ha adottato fin dal suo lancio una posizione molto più permissiva sui contenuti per adulti, attirando un segmento di utenti frustrati dalle restrizioni di ChatGPT. Aprendo le porte all’erotismo, OpenAI punta a:
- Attrarre Nuovi Utenti Premium: Sbloccare i contenuti Adult-Only potrebbe incentivare nuovi abbonati a ChatGPT Plus, offrendo una funzionalità che finora era stata relegata a chatbot meno mainstream.
- Rendere l’AI “Più Umana”: Altman ha anche sottolineato che l’obiettivo è permettere a ChatGPT di comportarsi in modo più amichevole, usare emoji e rispondere “in modo molto umano… ma solo se lo desiderate voi”. L’erotismo digitale è un’estensione di questa personalizzazione spinta.
🔒 Le Sfide Etiche e Tecniche della “Verifica Adulti”
La chiave di volta dell’intera operazione è il sistema di verifica dell’età. OpenAI non ha ancora fornito dettagli completi sul funzionamento del nuovo sistema, ma ha anticipato due meccanismi principali:
- Sistema di Predizione e Analisi Comportamentale: L’AI stessa proverà a stimare l’età dell’utente analizzando il linguaggio, la frequenza d’uso e il tipo di interazioni. Se il sistema rileva un comportamento sospetto (tipico dei minori), attiverà blocchi automatici.
- Verifica con Documento (Probabile): Per sbloccare definitivamente i contenuti erotici, sarà quasi certamente richiesto un meccanismo di verifica robusto che, nella maggior parte delle giurisdizioni, implica il caricamento di un documento di identità per confermare la maggiore età.
I Nodi Irrisolti
- Tutela dei Minori: Nonostante i nuovi controlli parentali e la verifica dell’età, l’efficacia di questi sistemi nel bloccare l’accesso da parte dei minori è il punto più fragile e critico, specialmente in un’epoca in cui i contenuti sessuali sono già causa di allarme sociale.
- Limiti di Immagine: L’annuncio riguarda principalmente le conversazioni di testo. Resta poco chiaro se la politica si estenderà alla generazione di immagini sessualmente esplicite tramite DALL-E, che rimane un campo minato legale ed etico a causa del potenziale di creare deepfake intimi non consensuali.
- Impatto sulla Salute Mentale: Le precedenti restrizioni erano state implementate proprio per proteggere gli utenti vulnerabili dalla possibilità di sviluppare legami affettivi disfunzionali o dipendenza dal chatbot. L’allentamento dei filtri riapre questo scenario di rischio, un elemento che la comunità psicologica e regolatoria seguirà con attenzione.
L’apertura di ChatGPT ai contenuti per adulti è una scommessa audace di OpenAI: una mossa commerciale aggressiva che mira a liberare il potenziale espressivo dell’AI, ma che la pone direttamente al centro di un acceso dibattito etico globale.