Alla base dell’informatica classica esiste un concetto straordinariamente semplice: 0 oppure 1. Spento oppure acceso. Falso oppure vero.
Naturalmente gli algoritmi moderni sono infinitamente più complessi di questa rappresentazione elementare. Utilizzano probabilità, pesi, miliardi di parametri, reti neurali e modelli capaci di elaborare una quantità di informazioni che nessun essere umano potrebbe analizzare nello stesso tempo.
Eppure, in fondo alla macchina, tutto viene comunque trasformato in informazione elaborabile.
Il problema è che noi non siamo informazione perfettamente elaborabile.
Siamo contraddizioni.
Possiamo amare qualcosa oggi e detestarla domani. Possiamo scegliere una strada pur sapendo che, razionalmente, sarebbe meglio percorrerne un’altra. Possiamo guardare un film perché ci ricorda nostro padre, ascoltare una canzone perché siamo tristi, comprare un libro perché ci piace la copertina e cambiare opinione cinque minuti dopo aver pronunciato con assoluta convinzione il contrario.
Provate a trasformare tutto questo in una formula.
È qui che nasce il vero problema del potere dell’algoritmo.
L’algoritmo non sbaglia: calcola
Non credo che il problema siano gli algoritmi.
Anzi.
Probabilmente gli algoritmi fanno molto bene ciò per cui sono stati progettati.
Il problema siamo noi, perché non siamo macchine.
Quando affidiamo a un algoritmo una decisione, gli chiediamo di prendere una realtà composta da migliaia di sfumature e trasformarla in variabili.
Età.
Posizione.
Comportamenti precedenti.
Ricerche.
Acquisti.
Interessi.
Tempo trascorso davanti a un contenuto.
Persone frequentate.
Luoghi visitati.
Centinaia, migliaia, forse milioni di segnali.
La macchina cerca correlazioni, assegna probabilità e alla fine restituisce una risposta.
Ma una probabilità non è una persona.
Quando dietro una percentuale esiste una vita
Il tema diventa drammatico quando questo principio viene applicato alla guerra.
L’intelligenza artificiale viene già utilizzata in diversi sistemi militari per riconoscere oggetti, analizzare immagini, individuare potenziali obiettivi e assistere le decisioni. Negli ultimi mesi il dibattito sui sistemi d’arma autonomi è diventato ancora più urgente: il 25 agosto 2026 ONU e Comitato Internazionale della Croce Rossa hanno lanciato un nuovo appello per stabilire regole internazionali, avvertendo del rischio di arrivare al targeting autonomo degli esseri umani da parte delle macchine.
Ed è qui che una percentuale apparentemente accettabile assume improvvisamente un significato completamente diverso.
Immaginiamo un sistema capace di identificare correttamente un obiettivo nel 90% dei casi.
Dal punto di vista statistico potrebbe sembrare un risultato eccellente.
Su dieci valutazioni, però, una potrebbe essere sbagliata.
Su cento, dieci.
Quando parliamo di riconoscimento di immagini potrebbe significare classificare male dieci fotografie.
Quando parliamo di guerra potrebbe significare classificare erroneamente delle persone.
Ed è proprio questo il punto.
Dietro l’errore statistico esiste una vita reale.
Recenti analisi sull’impiego militare dell’AI evidenziano proprio il rischio derivante da dati incompleti, approssimazioni e sistemi di riconoscimento utilizzati per identificare o selezionare bersagli.
La macchina non conosce il significato umano dell’errore.
Per lei esiste una classificazione sbagliata.
Per noi potrebbe esserci una persona che non torna più a casa.
L’algoritmo che decide cosa ci piace
Fortunatamente nella maggior parte della nostra vita quotidiana le conseguenze non sono così tragiche.
Ma il principio rimane.
Prendiamo Netflix, YouTube, Spotify, TikTok o qualsiasi grande piattaforma digitale.
Gli algoritmi cercano di capire cosa potrebbe interessarci.
È una funzione utilissima.
Il catalogo disponibile è talmente grande che senza qualche forma di selezione probabilmente passeremmo più tempo a cercare qualcosa da vedere che a guardarlo.
Il problema nasce quando la raccomandazione smette lentamente di essere un suggerimento e comincia a diventare il perimetro entro il quale ci muoviamo.
Facciamo un esempio banalissimo.
Questa sera mi viene voglia di guardare un film di Totò.
Lo cerco.
Lo guardo.
Il sistema registra la mia scelta.
Nei giorni successivi potrebbe propormi altri film di Totò, poi commedie italiane, poi cinema classico italiano, poi contenuti associati statisticamente agli utenti che hanno fatto scelte simili alla mia.
Perfetto.
Solo che magari quella sera volevo semplicemente vedere Totò.
Domani potrei avere voglia di Blade Runner.
Dopodomani di un documentario sulla fisica quantistica.
Tra una settimana di una commedia americana.
Un comportamento non è necessariamente un’identità.
Ed è probabilmente uno degli errori concettuali più importanti della profilazione moderna: confondere ciò che una persona ha fatto con ciò che quella persona è.
Il cinema costruito per piacere all’algoritmo
Esiste poi un secondo passaggio ancora più interessante.
L’algoritmo osserva quello che guardiamo.
Le piattaforme analizzano quei dati.
Sulla base di quei dati vengono prese decisioni su quali contenuti produrre.
Ed ecco il cortocircuito.
Il sistema ci propone determinati contenuti perché ritiene che ci piacciano e, successivamente, utilizza il fatto che abbiamo guardato quei contenuti per decidere quali altri contenuti produrre.
È il cane che si morde la coda.
L’algoritmo influenza la domanda e contemporaneamente utilizza quella stessa domanda per determinare l’offerta.
Con il rischio evidente che tutto cominci lentamente ad assomigliarsi.
Quando qualcuno sceglieva cosa proporci
Una volta esistevano i palinsesti.
Dietro una rete televisiva c’erano persone che decidevano quale identità dare a quella rete.
Dietro un giornale c’era una direzione editoriale.
Dietro una radio c’era qualcuno che decideva quale musica proporre.
Quelle persone potevano sbagliare.
Anzi, sbagliavano continuamente.
Ma proponevano qualcosa.
Lo spettatore poteva accettare o rifiutare quella proposta.
Oggi assistiamo invece a piattaforme che sembrano voler contenere contemporaneamente qualsiasi cosa.
Un po’ di questo.
Un po’ di quello.
Una serie per quel pubblico.
Un film per quell’altro.
Un programma simile a quello che ha funzionato altrove.
L’obiettivo è intercettare il maggior numero possibile di persone.
Sulla base di cosa?
Naturalmente dei dati.
E quindi dell’algoritmo.
Il risultato rischia però di essere un enorme supermercato dell’intrattenimento nel quale esiste tutto, ma nel quale diventa sempre più difficile riconoscere un’identità.
Dovremmo tornare a scegliere
Non significa tornare indietro.
Sarebbe assurdo.
Non possiamo e non dobbiamo fermare il progresso tecnologico.
Gli algoritmi sono fondamentali nella medicina, nella ricerca scientifica, nei trasporti, nella meteorologia, nella sicurezza, nella comunicazione e praticamente in ogni settore della società contemporanea.
Il punto è un altro.
L’algoritmo dovrebbe assistere l’uomo, non sostituirlo.
Dovrebbe dire:
“Secondo i dati che possiedo, questa potrebbe essere una buona scelta”.
Non:
“Questa è la scelta”.
La differenza sembra minima.
In realtà contiene tutto il problema.
Perché nel primo caso l’ultima responsabilità rimane umana.
Nel secondo viene delegata alla macchina.
Poi arriveranno i qubit
E qui il futuro diventa ancora più interessante.
L’informatica classica utilizza bit che assumono valori 0 oppure 1.
L’informatica quantistica utilizza invece qubit, che grazie ai fenomeni della meccanica quantistica possono trovarsi in una sovrapposizione di stati prima della misurazione.
Non significa che un computer quantistico diventerà automaticamente più “umano”.
E nemmeno che sostituirà tutti i computer tradizionali.
Significa però che, per determinate categorie di problemi, potremmo disporre di capacità di calcolo e modelli enormemente più sofisticati.
Gli algoritmi potrebbero diventare più potenti.
Più precisi.
Capaci di considerare contemporaneamente quantità di variabili oggi difficilmente gestibili.
Forse riusciremo a ridurre quella distanza tra la rigidità della macchina e la complessità del mondo reale.
Ma rimarrà una domanda.
Essere capaci di calcolare meglio una persona significa davvero averla compresa?
Probabilmente no.
Perché l’essere umano possiede qualcosa che difficilmente entra in un dataset: il contesto.
Il ricordo.
L’irrazionalità.
Il dubbio.
La paura.
L’amore.
La nostalgia.
Il cambiamento.
La possibilità di svegliarsi una mattina e comportarsi esattamente al contrario di come tutti i dati raccolti fino al giorno precedente avrebbero previsto.
Ed è proprio questa imprevedibilità a renderci umani.
Il vero problema non è l’algoritmo
Forse allora abbiamo sbagliato domanda.
Continuiamo a chiederci se gli algoritmi siano buoni o cattivi.
Ma un algoritmo non è né buono né cattivo.
È uno strumento.
Il vero problema è quanto potere decidiamo di consegnargli.
Possiamo utilizzarlo per mostrarci un film.
Per suggerirci una strada.
Per individuare una malattia.
Per organizzare un palinsesto.
Per selezionare una notizia.
Persino per assistere decisioni militari.
Ma dovrebbe sempre esistere un punto oltre il quale la macchina si ferma e torna l’uomo.
Perché possiamo costruire algoritmi sempre migliori.
Possiamo aumentare enormemente la quantità di dati.
Possiamo arrivare ai computer quantistici.
Possiamo tentare di trasformare ogni comportamento umano in una variabile.
Ma ci sarà sempre qualcosa che sfugge al calcolo.
Ed è forse proprio quella parte che dovremmo difendere di più.
Perché il problema non è che l’algoritmo sia fatto male.
Il problema nasce quando dimentichiamo che è stato scritto per comprendere le macchine e i dati, mentre noi continuiamo ostinatamente — e fortunatamente — a essere esseri umani.
