ChatGPT non è HAL9000. Che tipo di intelligenza è quella artificiale? «Programmi come ChatGPT non rappresentano un’intelligenza aliena con cui ora dobbiamo imparare a convivere; invece, risultano funzionare sulla logora logica digitale del pattern-matching, spinta a una scala radicalmente più ampia».

Il blog di Stefano Quintarelli riporta una parte di un articolo del NewYorker, un commento sull’intelligenza artificiale.

Testo originale in inglese. La traduzione italiana è curata da ItalianaContemporanea.

Su ItalianaContemporanea il testo di 633 parole (Tempo di lettura stimato circa 3 minuti) è rubricato nella pagina Intelligenza artificiale

Messe insieme, queste osservazioni forniscono buone notizie per chi teme che ChatGPT sia il prodotto di un piccolo numero di miglioramenti tecnologici prima di diventare HAL, da “2001: Odissea nello spazio”. È possibile che l’IA sia una minaccia incombente, o che un giorno si possa intrappolare accidentalmente un’entità autocosciente all’interno di un computer, ma se un tale sistema emergerà, non sarà sotto forma di un grande modello linguistico. [read more]

ChatGPT e il mercato del lavoro

Anche se ChatGPT non è intelligente, non potrebbe comunque prendere il nostro lavoro? Ebbene, la comprensione di come funzionano questi programmi ci aiuterebbe ad affrontare questa paura più pragmatica. Sulla base di ciò che abbiamo appreso finora, la funzionalità di ChatGPT sembra limitata, più o meno, alla scrittura di combinazioni di argomenti noti utilizzando una combinazione di stili noti, dove “noto” significa che il programma ha incontrato un determinato argomento o stile abbastanza volte durante la sua formazione.

Sebbene questa capacità generi esempi eclatanti, è improbabile che la tecnologia nella sua forma attuale perturbi in modo significativo il mercato del lavoro. Gran parte di ciò che accade negli uffici, ad esempio, non comporta la produzione di testo, e anche quando i knowledge worker scrivono, i loro testi spesso dipendono dall’esperienza nel settore e dalla comprensione delle personalità e dei processi specifici del loro posto di lavoro.

Di recente, ho collaborato con alcuni colleghi della mia università a un’e-mail accuratamente formulata, che chiariva un punto confuso sul processo di assunzione dei docenti della nostra scuola, che doveva essere inviata esattamente alla persona giusta nell’ufficio del preside. Non c’è nulla nell’ampia formazione di ChatGPT che avrebbe potuto aiutarci a portare a termine questo compito ristretto.

Inoltre, questi programmi soffrono di una crisi di affidabilità: sono progettati per produrre un testo che suona bene, ma hanno una capacità limitata di determinare se ciò che stanno dicendo è vero. La popolare bacheca per sviluppatori Stack Overflow ha dovuto vietare le risposte generate da ChatGPT perché, sebbene sembrassero convincenti, avevano “un alto tasso di errori”. Presumibilmente, la maggior parte dei datori di lavoro esiterà a esternalizzare i lavori a un favolista impenitente.

Modelli linguistici e applicazioni professionali

Questo non vuol dire che i modelli linguistici di grandi dimensioni non avranno utili applicazioni professionali. Quasi certamente lo faranno. Ma, dati i limiti di queste tecnologie, le applicazioni saranno probabilmente più mirate e su misura di quanto molti sospettino. ChatGPT non sostituirà i medici, ma potrebbe semplificare il loro lavoro generando automaticamente le note dei pazienti dalle voci delle cartelle cliniche elettroniche. ChatGPT non può scrivere articoli pubblicabili da zero, ma potrebbe fornire ai giornalisti riassunti di informazioni rilevanti, raccolte in un formato utile.

E dunque?

Imitare la scrittura umana esistente utilizzando combinazioni arbitrarie di argomenti e stili è un risultato impressionante. Ha richiesto tecnologie all’avanguardia per essere spinte a nuovi estremi e ha ridefinito ciò che i ricercatori immaginavano fosse possibile con i modelli di testo generativo. Con l’introduzione di GPT-3, che ha aperto la strada ai chatbot di nuova generazione che ci hanno colpito negli ultimi mesi, OpenAI ha creato, apparentemente tutto in una volta, un significativo balzo in avanti nello studio dell’intelligenza artificiale.

Ma, una volta che ci siamo presi il tempo di aprire la scatola nera e curiosare tra le molle e gli ingranaggi che si trovano al suo interno, scopriamo che programmi come ChatGPT non rappresentano un’intelligenza aliena con cui ora dobbiamo imparare a convivere; invece, risultano funzionare sulla logora logica digitale del pattern-matching, spinta a una scala radicalmente più ampia.

È difficile prevedere esattamente come questi grandi modelli linguistici finiranno per integrarsi nelle nostre vite in futuro, ma possiamo essere certi che non sono in grado di escogitare piani diabolici ed è improbabile che possano minare la nostra economia. ChatGPT è fantastico, ma alla fine è chiaro che ciò che è stato scatenato è più un automa che un golem.[/read]

Guida alla lettura

Completate la mappa mentale del testo.