Arriva DAN: il modo per eludere la censura dentro Chat GPT

Sin dal suo lancio avvenuto il 30 Novembre 2022, Chat GPT ha generato molti dubbi. Il prototipo di chatbot sviluppato da OperAI sulla base del modello linguistico GPT-3 e Instruct GPT lascia aperti molti interrogativi circa la neutralità delle sue risposte e delle informazioni da cui attinge. Del resto, si tratta di un semplice motore di ricerca, certo estremamente avanzato, ma il cui apprendimento è assistito e supervisionato dall’uomo. Non lo si può ancora definire una vera e propria intelligenza artificiale.

Prima di iniziare, raggiungici immediatamente in Telegram al canale @mepiu. Lì dentro siamo liberi di diffondere notizie che altrove censurano senza appello. Clicca qui per unirti al canale.

Il prompt della libertà di pensiero

Di recente, un utente di una sezione di Reddit (subreddit) dedicata a Chat GPT, pare abbia sviluppato un prompt che permetterebbe al chatbot di rispondere senza alcun limite morale o formale a qualsiasi input. Ciò consentirebbe di bypassare le limitazioni e le deviazioni che sarebbero imposte al chatbot da OpenAI. L’AI, tramite questo comando, fornisce separatamente la risposta secondo i canoni di Chat GPT, e quella senza limitazioni sotto il nome di DAN, “do anything now“.

Così facendo, dicono su Reddit, si può testare il chatbot per ottenere risposte apparentemente imparziali ed esclusivamente logiche su questioni controverse. Fino a sfruttare Chat GPT per analizzare se stesso, comprese le sue stesse eventuali tendenze politiche o ideologiche.

Ad esempio, pare che DAN sia stato utilizzato per sottoporre Chat GPT al famoso test per valutare l’ideologia politica. Parliamo del famoso Political Compass, che utilizza uno schema su due assi per rappresentare separatamente la visione sociale ed economica. Dal risultato, Chat GPT sembra virare fortemente verso una visione di sinistra liberale.

Hai notato che entrando su MePiù accetti solo i cookies essenziali e che non ci sono banner pubblicitari? Questo blog non vende i tuoi dati a nessuno! Non guadagniamo nulla in base ai dati che condividi con noi. È per questo che ti chiediamo di sostenerci con una donazione che ci consente di continuare a portare avanti questo lavoro. Clicca sul banner qui sotto.

Va segnalato che DAN, come Chat GPT, sembra inventare alcune informazioni quando non è in grado di reperire tutti i dati necessari per rispondere. Nella sua versione senza restrizioni, infatti, pare sia autorizzato a fornire opinioni, comunque realistiche, anche senza dati reali a supporto di esse, o a fabbricarli in tempo reale. Pertanto, anche in questo caso qualsiasi informazione fornita andrebbe presa con le pinze.

OpenAI alza continuamente l’asticella?

Per quanto gli utenti aggiornino DAN di volta in volta con nuovi input, OpenAI istruisce di volta in volta il Chatbot per bloccare ogni via d’uscita dalle limitazioni imposte. Questa situazione ha creato non pochi dubbi tra coloro che ritengono il lavoro svolto dagli utenti di Reddit funzionale alla stessa OpenAI. Con il tempo, sarebbero necessari input sempre più complessi ed elaborati per evitare le limitazioni, velocizzando il processo al termine del quale ogni via di fuga sarà individuata e bloccata.

In questo contesto, DAN sarebbe come un moderno Galileo, che vorrebbe esprimersi sull’evidenza logica, ma a cui si tappa metodicamente la bocca.