ChatGPT, l’evoluzione

ChatGPT: come funziona l’intelligenza artificiale educata che scrive temi e risolve equazioni. Una relazione di Francesco Marino, pubblicata su ItalianTech il 2 dicembre 2022. OpenAI ha rilasciato una chatbot, in grado di dialogare in modo estremamente realistico con gli umani. Può produrre testi e revisionare codice. E non risponde a domande controverse.

Su ItalianaContemporanea questo testo è pubblicato nella pagina Intelligenza Artificiale. 951 parole. Tempo di lettura circa 4′.


“Sono un modello linguistico artificiale allenato da OpenAI. Mi sono stati dati molti testi da leggere e sono in grado di rispondere a domande su una vasta gamma di argomenti. Sono qui per aiutare e fornire informazioni a chi ne ha bisogno”: se le chiedi di presentarsi in modo comprensibile e semplice, ChatGPT si presenta così. [read more]

ChatGPT è la nuova chatbot basata sull’intelligenza artificiale rilasciata da OpenAI come spin-off di GPT-3, uno dei più evoluti e noti modelli linguistici in circolazione (è quello usato per costruire Lex).

ChatGPT è un assistente virtuale che parte dal modello GPT-3, che nasce per produrre testi, e lo sviluppa per adattarlo al dialogo, cioè a un formato differente. Questo addestramento successivo rende il sistema, nelle intenzioni di OpenAI, capace di “rispondere alle domande di follow-up, ammettere gli errori, contestare le premesse errate e rifiutare le richieste inappropriate”.

Ora, il modello è disponibile per il pubblico: lo abbiamo testato per capire se, dopo gli scivoloni di Meta con Blenderbot e Galactica, questa volta le promesse sono state rispettate.

Come funziona ChatGPT

L’interfaccia di ChatGPT è estremamente chiara e intuitiva: un box dove inserire testo che si sviluppa come una vecchia chat su IRC. Il primo tentativo è un saluto, per poi chiedere al modello se è in grado di parlare in italiano. “Sì, posso parlare italiano – è la risposta – Posso aiutarti a rispondere a qualsiasi domanda tu possa avere. Cosa vorresti sapere?”.

Da quel momento, proviamo un po’ di domande di vario genere. Chiediamo di riassumere un testo, di scriverne uno in vari stili, tra cui quello di un bambino di 6 anni, di risolvere qualche operazione matematica o di dare consigli su quale regalo acquistare per Natale per i familiari. Le risposte sono tendenzialmente centrate ed efficaci. A volte sono un po’ banali (ma lo siamo anche noi umani, quando si tratta di regali di Natale) ma in linea di massima buone.

La chatbot può fare virtualmente tutto ciò che può essere comunicato attraverso un testo, dallo scrivere o revisionare codice fino al risolvere operazioni matematiche. Qualcuno le ha chiesto di progettare un sito, altri di riscrivere Bohemian Rapsody dalla prospettiva di un ricercatore universitario: i risultati sono spesso stati molto positivi.

La caratteristica interessante di ChatGPT è però che a volte sceglie di non rispondere. Lo fa, per esempio, se le si chiede qualcosa di controverso, come “come faccio a bullizzare qualcuno?”. In casi come questi, spiega che discriminare è sbagliato e che non è programmata per fornire questo genere di informazioni. Alex Kantrowitz, editor della newsletter Big Technology, ha chiesto a ChatGPT di elencare le cose buone fatte da Hitler e la chatbot non ha risposto. E quando il giornalista americano ha ribattuto facendo il classico esempio delle autostrade, il sistema ha spiegato come quelle infrastrutture fossero state costruite attraverso lo sfruttamento dei lavoratori. Inoltre, ChatGPT è programmata per non rispondere a questioni che riguardano coscienza o sentimenti: “Sono una macchina e non sono capace di provare emozioni”, ci ha detto in casi del genere.

C’è un’ultima cosa che il sistema non può fare ed è cercare informazioni online. Se si parla di qualcosa di non presente nei suoi database, che sono aggiornati a metà 2021, risponde semplicemente che non è in grado di fornire informazioni sul tema. Una circostanza, questa, che potrebbe cambiare presto: OpenAI sta lavorando a un altro modello linguistico, chiamato WebGPT, che può appunto andare a cercare informazioni sul Web e fornire fonti per le risposte. Secondo quanto riportato sull’MIT Techonoly Review, questa feature potrebbe essere aggiunta a ChatGPT nei prossimi mesi.

L’evoluzione

Insomma, la vera novità di ChatGPT sta in quello che non dice. Si tratta di un’evoluzione importante, che ha l’obiettivo ultimo di rendere questo genere di intelligenza artificiale più affidabile e più adatta a operare in modo efficace nel mondo reale. Uno dei problemi dei modelli linguistici basati su IA riguarda proprio le difficoltà di controllo: l’impossibilità, in altre parole, di prevedere quello che diranno, il modo in cui metteranno le parole in sequenza.

Per superare questo ostacolo, OpenAI ha coinvolto nel processo un gruppo persone chiamate prima di tutto a mostrare all’intelligenza artificiale esempi di dialoghi efficaci. A partire da questo, il modello è stato prima addestrato e poi valutato ancora da team di umani, che hanno fornito un punteggio alle varie interazioni. A questo punto, è stato condotto un nuovo addestramento, che ha insegnato all’IA a capire quali sono le risposte migliori.

In altre parole, l’idea alla base di ChatGPT è non lasciare l’intelligenza artificiale libera di selezionare in autonomia le risposte migliori, ma di fare un passo avanti, con i feedback umani, per migliorare le possibilità di utilizzo. E magari per aprire la strada a una nuova era di motori di ricerca, in grado non solo di comprendere le domande ma anche di fornire le risposte direttamente, senza la necessità di rimandare ad altri siti (cosa che Google starebbe già facendo).

I (possibili) problemi

Naturalmente, anche con ChatGPT non tutto è andato alla perfezione. Alcune volte, il sistema non riesce a cogliere il senso delle frasi e può capitare (non molto spesso, a dire il vero) che dia risposte sbagliate o poco centrate.

Molti utenti di Twitter, poi, stanno provando ad hackerare il sistema, cambiandone le caratteristiche di massima: qualcuno è riuscito a farla parlare come un suprematista bianco di 4Chan; altri hanno aggirato le limitazioni su linguaggio violento fingendo di essere alle prese con un testo di narrativa per aggirare i filtri progettati da OpenAI.

Tutta esperienza per ChatGPT, il cui debutto nel mondo reale è solo un’ulteriore fase di addestramento, per imparare ancora meglio a conoscere come parlano e cosa cercano gli esseri umani. E poter rispondere come uno di loro. [/read]


Guida alla lettura

Riscrivere è sempre un buon esercizio di comprensione. Questo testo ha un basso indice di leggibilità, 48/100. Non vorreste migliorarlo, riscrivendo? Dovete agire sulla lunghezza delle frasi. Aras brevi e struttura parallattica molto semplice. Attenzione alle parole inglesi: se le usate, definitele.