La macchina che pensa al posto tuo. E perché non è un affare.

Un giorno bussò alla nostra porta uno strano tipo: un ometto buffo, vi dico, alto poco più di due fiammiferi. Aveva in spalla una borsa più grande di lui. – Ho qui delle macchine da vendere – disse. – Fate vedere – disse il babbo. – Ecco, questa è una macchina per fare i compiti. Si schiaccia il bottoncino rosso per fare i problemi, il bottoncino giallo per svolgere i temi, il bottoncino verde per imparare la geografia: la macchina fa tutto da sola in un minuto. – Compramela, babbo! – dissi io. – Va bene, quanto volete? – Non voglio denari – disse l’omino. – Ma non lavorerete mica per pigliar caldo! – No, ma in cambio della macchina voglio il cervello del vostro bambino. – Ma siete matto! – esclamò il babbo. – State a sentire, signore – disse l’omino, sorridendo. – Se i compiti glieli fa la macchina, a che cosa gli serve il cervello? – Comprami la macchina, babbo! – implorai. – Che cosa ne faccio del cervello? Il babbo mi guardò un poco e poi disse: – Va bene, prendete il suo cervello. L’omino mi prese il cervello e se lo mise in una borsetta. Com’ero leggero, senza cervello! Tanto leggero che mi misi a volare per la stanza, e se il babbo non mi avesse afferrato in tempo sarei volato giù dalla finestra. – Bisognerà tenerlo in gabbia – disse l’ometto. – Ma perché? – domandò il babbo. – Non ha più cervello, ecco perché. Se lo lasciate andare in giro, volerà nei boschi come un uccellino, e in pochi giorni morirà di fame! Il babbo mi rinchiuse in una gabbia, come un canarino. La gabbia era piccola, stretta, non mi potevo muovere. Le stecche mi stringevano tanto che… alla fine mi svegliai spaventato. Meno male che era stato solo un sogno! Vi assicuro che mi sono subito messo a fare i compiti. — Gianni Rodari--

Rodari scrisse questo racconto negli anni Sessanta. Probabilmente pensava alla televisione, o a qualche fantascientifica macchina del futuro. Non immaginava che il futuro sarebbe arrivato sotto forma di una casella di testo bianca.

Quando è uscito ChatGPT, e poi tutti gli altri, in molte classi è successa una cosa prevedibile: i compiti sono migliorati di colpo. Temi senza errori, ricerche ben strutturate, riassunti impeccabili. Poi qualcuno ha cominciato a fare domande sul contenuto di quello che era stato consegnato. E lì le cose si sono complicate.

Non è una questione morale. Non si tratta di copiare o non copiare. Si tratta di qualcosa di più concreto: se la parte difficile — quella in cui cerchi le parole, ti blocchi, ricominci, capisci dove hai sbagliato — la salta qualcun altro, quella parte non la fai tu. E quella parte è esattamente dove avviene l'apprendimento.

I ricercatori chiamano questo fenomeno deskilling: l'atrofizzazione progressiva di una competenza per mancanza d'uso. È quello che è successo con il calcolo mentale quando sono arrivate le calcolatrici. Con il senso dell'orientamento quando è arrivato il GPS. Alcune di quelle competenze erano sacrificabili. Scrivere, ragionare, costruire un argomento — probabilmente no.

Detto questo, c'è un'altra cosa che vale la pena sapere, e che molti stanno scoprendo sulla propria pelle: l'AI sbaglia. Spesso. Inventa date, confonde personaggi storici, cita libri che non esistono. Produce testi che sembrano coerenti ma girano in tondo senza dire niente di preciso. Chi ha provato a usarla per una ricerca seria ha spesso passato più tempo a controllare quello che aveva scritto che non a fare la ricerca da zero.

Non è un argomento contro l'AI in sé. È un argomento contro l'idea che l'AI sia una scorciatoia neutrale e senza costo. Il costo c'è, ed è doppio: non impari quello che avresti imparato facendo il lavoro, e poi devi comunque fare il lavoro di verificare quello che lo strumento ha prodotto.

L'AI funziona bene quando serve a fare cose che già sai fare — migliorare una bozza che hai scritto tu, trovare un'informazione di partenza da approfondire, spiegare un concetto difficile in modo diverso. Funziona male quando diventa un modo per saltare il passaggio in cui la cosa entra davvero in testa.

Il bambino di Rodari si sveglia dal sogno spaventato e si mette subito a fare i compiti. Non per paura della punizione. Perché ha capito, attraverso il sogno, che il cervello è l'unica cosa che non conviene cedere.