L’azienda Tavus, specializzata nella produzione di video generati dall’IA e di avatar, ha avviato un’azione di marketing, in vista del prossimo Natale, che consente di videochiamare Babbo Natale e interagire con lui in tempo reale (santa.tavus.io, provatelo!). Si tratta di un interessante esempio di agency illusion, il bias cognitivo che ci fa ritenere di poter avere il controllo su eventi o risultati anche quando il potere d’azione su questi è estremamente limitato.
Quello che agisce dietro l’interfaccia grafica del paffuto signore vestito di rosso è un modello in grado di elaborare in maniera avanzata il linguaggio naturale (NLP) che consente agli algoritmi di analizzare il senso, il tono e il contesto all’interno del quale sono inserite le risposte umane.
Il filosofo Luciano Floridi e il tecnologo Massimo Chiriatti hanno descritto la percezione della macchina senziente come «un’elaborazione algoritmica complessa che sfrutta il contesto e il flusso del discorso per generare output convincenti» (Floridi e Chiriatti 2020). “Convincenti” ecco il termine chiave che dovrebbe essere dissolto di fronte a risultati evidenti, misurabili e provati.
Michael Madary (2022), professore associato di filosofia presso l’Università del Pacifico ha definito Digital Environmental Dependency Syndrome (DEDS), il modello di comportamento caratterizzato da un’assenza di supervisione intenzionale nell’utilizzo degli schermi digitali. Coinvolto da questa sindrome l’utente diviene sempre più reattivo agli stimoli delle interfacce e condizionato dall’ambiente pur mantenendo un senso latente di agency nei confronti degli algoritmi.
In un frangente storico nel quale la coerenza delle argomentazioni, spesso fallaci, supera la forza delle prove scientifiche potrebbe risultare utile potenziare senso critico e consapevolezza, così da trasformare l’agency da illusoria a parzialmente reale.
Marco Sanavio, direttore #CubeLive
___________________________
Floridi, L., & Chiriatti, M., (2020,. GPT-3: Its Nature, Scope, Limits, and Consequences, Minds and Machines, 30(4)
Madary, M., (2022), The illusion of agency in human–computer interaction, Neuroethics, 15(1)