L'autocompletamento ci rende prevedibili?

SAI CHE COSA VUOI? NOI SÌ, E TE LO DICIAMO PRIMA

Computer e smartphone possono ora identificare quello che vuoi dire, prima ancora che tu  lo sappia, e come ipotizza il filosofo Evan Selinger, questo potrebbe modificare in maniera sottile le tue conversazioni, senza nemmeno che tu te ne accorga.

Proprio adesso, ci sono milioni di computer in tutto il mondo impegnati a cercare di risponderti,  spesso persino prima che tu lo sappia da solo.

Se hai comprato qualcosa su Amazon o guardato film o la tua serie tv preferita su Netflix, te ne sarai già accorto.

Queste macchine fanno di tutto per cercare di “leggerti la mente” e arrivano oramai al punto di DIROTTARE le tue scelte, le tue preferenze, suggerendoti loro quello che “ti potrebbe piacere”, levandoti il fastidio e l’impegno di sfogliare il catalogo o di scartabellare in pace per leggere le recensioni.

“Hai visto questo film – allora ti potrebbe piacere quest’altro”.

“hai comprato questo libro? – adesso compra questi altri”.

E questi tentativi di interpretare la nostra mente, non sono nient’altro che un subdolo modo per tenerci sulla piattaforma più tempo possibile, perché in fondo siamo merce ghiotta per gli inserzionisti. Quindi il sistema ci “imbocca” con la nostra pappa preferita, spesso zuccherata e ben confezionata, per non farci annoiare nella ricerca col rischio di abbandonare il servizio prima del tempo.

Quando parliamo di scrittura, siamo diventati sempre più dipendenti non solo dalla correzione automatica, che è utilissima per correggere, dopo che abbiamo digitato, errori di battitura, di grammatica o di sintassi, ma da quella che viene chiamata scrittura predittiva: quell’opzione dei nostri telefoni, che mentre scriviamo un messaggio, non solo ci corregge, ma ci suggerisce in una striscia sopra la tastiera virtuale, la parola che secondo l’AI noi potremmo volere scrivere dopo, ci completa le frasi, ci suggerisce l’aggettivo migliore.

Capito, quindi?

Non si tratta più solamente di correggere lo scritto pensato da noi, ma di SUGGERIRCI cosa scrivere dopo. Si tratta di “Autocorrezione sotto steroidi”, e potrebbe plasmare il nostro comportamento e la nostra comunicazione in maniere inaspettate e ancora poco esplorate.

La tecnologia di Apple di scrittura predittiva si chiama “QuickType”, introdotta da un anno circa, e promette di predire “cosa dirai dopo. Non importa a chi lo vuoi dire”. Apple è così compiaciuta con il suo prodotto da affermare con una certa arroganza che possa dare “suggerimenti perfetti”.

Apple presenta QuickType come “sensibile al contesto” e capace di adattare le sue previsioni e suggerimenti ai diversi stili di comunicazione che potremmo adottare, ad esempio, col nostro capo invece che con nostro marito.

Gli scettici ovviamente sono insorti e mostrano, con diversi esempi, a volte anche molto divertenti, come di fatto questa intelligenza artificiale commetta ancora molti errori e possa arrivare a comporre frasi assurde.

Anche se l’accuratezza di questi sistemi di scrittura predittiva sono ovviamente destinati a migliorare nel tempo, l’implicazione più interessante è quella psicologica.

Potrebbe arrivare, questo sistema di previsione automatica, a modificare il nostro pensiero in “cliché personalizzati”? E si intende, con questo termine, l’uso di frasi e costruzioni sempre più standardizzate, piatte, banali…

“L’essenza di un cliché è che le parole non sono utilizzate male, ma sono già morte” (Clive James).

E questo ci riporta all’autocorrezione e al futuro delle AI di scrittura predittiva: incoraggiandoci a non pensare troppo alle parole da usare, la tecnologia predittiva può cambiare in maniera subdola e invisibile la maniera con cui interagiamo gli uni con gli altri.

La comunicazione diventa meno un atto intenzionale, e diamo sempre più potere ad algoritmi di cui sappiamo poco, di pensare per noi.

L’automazione può essere un male per noi se ci fa smettere di pensare?

Salvador Dalì disse, una volta:

“il primo uomo che ha paragonato le guance di una bella donna a una rosa, era un poeta. Il primo uomo a ripeterlo, era solo un’idiota”.

Ed è in questo momento che lo studio dell’algoritmo, che scava nei nostri pattern e schemi di comunicazione alla ricerca delle parole che usiamo più spesso, senza identificare il contesto, rischia di diventare un mero “riciclo di parole” senza più fantasia e profondità.

La comunicazione diventa piatta, mono-dimensionale, e, secondo un meccanismo perverso dell’algoritmo stesso, le parole maggiormente ripetute prendono “valore” agli occhi della intelligenza artificiale, che sarà più propensa a usarle ancora e ancora, perché saranno considerate “rilevanti”.

Quando ci connettiamo gli uni con gli altri, dovremmo ricordare che, sebbene possiamo essere coerenti in vari modi, non siamo dei prodotti in serie, condannati a conversazioni riduttive, blande e poco stimolanti. Abbiamo cose spontanee da dire che non abbiamo mai previsto; dichiarazioni e domande che richiedono un'espressione attenta, sfumata e formulata di recente.

La scrittura predittiva forse non ci atrofizzerà il cervello, ma, se continuiamo ad abusarne, è possibile che vi sarà una deriva verso qualcosa di disumanizzante.

"Real connection", cortometraggio di D U S T (solo in inglese)

Elisa, 22 febbraio 2021