Alla base dell’informatica classica esiste un concetto straordinariamente semplice: 0 oppure 1. Spento oppure acceso. Falso oppure vero.
Naturalmente gli algoritmi moderni sono infinitamente più complessi di questa rappresentazione elementare. Utilizzano probabilità, pesi, miliardi di parametri, reti neurali e modelli capaci di elaborare una quantità di informazioni che nessun essere umano potrebbe analizzare nello stesso tempo.
Eppure, in fondo alla macchina, tutto viene comunque trasformato in informazione elaborabile.
Il problema è che noi non siamo informazione perfettamente elaborabile.
Siamo contraddizioni.
Possiamo amare qualcosa oggi e detestarla domani. Possiamo scegliere una strada pur sapendo che, razionalmente, sarebbe meglio percorrerne un’altra. Possiamo guardare un film perché ci ricorda nostro padre, ascoltare una canzone perché siamo tristi, comprare un libro perché ci piace la copertina e cambiare opinione cinque minuti dopo aver pronunciato con assoluta convinzione il contrario.
Provate a trasformare tutto questo in una formula.
È qui che nasce il vero problema del potere dell’algoritmo.
L’algoritmo non sbaglia: calcola
Non credo che il problema siano gli algoritmi.
Anzi.
Probabilmente gli algoritmi fanno molto bene ciò per cui sono stati progettati.
Il problema siamo noi, perché non siamo macchine.
Quando affidiamo a un algoritmo una decisione, gli chiediamo di prendere una realtà composta da migliaia di sfumature e trasformarla in variabili.
Età.
Posizione.
Comportamenti precedenti.
Ricerche.
Acquisti.
Interessi.
Tempo trascorso davanti a un contenuto.
Persone frequentate.
Luoghi visitati.
Centinaia, migliaia, forse milioni di segnali.
La macchina cerca correlazioni, assegna probabilità e alla fine restituisce una risposta.
Ma una probabilità non è una persona.
Quando dietro una percentuale esiste una vita
Il tema diventa drammatico quando questo principio viene applicato alla guerra.
L’intelligenza artificiale viene già utilizzata in diversi sistemi militari per riconoscere oggetti, analizzare immagini, individuare potenziali obiettivi e assistere le decisioni. Negli ultimi mesi il dibattito sui sistemi d’arma autonomi è diventato ancora più urgente: il 25 agosto 2026 ONU e Comitato Internazionale della Croce Rossa hanno lanciato un nuovo appello per stabilire regole internazionali, avvertendo del rischio di arrivare al targeting autonomo degli esseri umani da parte delle macchine.
Ed è qui che una percentuale apparentemente accettabile assume improvvisamente un significato completamente diverso.
Immaginiamo un sistema capace di identificare correttamente un obiettivo nel 90% dei casi.
Dal punto di vista statistico potrebbe sembrare un risultato eccellente.
Su dieci valutazioni, però, una potrebbe essere sbagliata.
Su cento, dieci.
Quando parliamo di riconoscimento di immagini potrebbe significare classificare male dieci fotografie.
Quando parliamo di guerra potrebbe significare classificare erroneamente delle persone.
Ed è proprio questo il punto.
Dietro l’errore statistico esiste una vita reale.
Recenti analisi sull’impiego militare dell’AI evidenziano proprio il rischio derivante da dati incompleti, approssimazioni e sistemi di riconoscimento utilizzati per identificare o selezionare bersagli.
La macchina non conosce il significato umano dell’errore.
Per lei esiste una classificazione sbagliata.
Per noi potrebbe esserci una persona che non torna più a casa.
L’algoritmo che decide cosa ci piace
Fortunatamente nella maggior parte della nostra vita quotidiana le conseguenze non sono così tragiche.
Ma il principio rimane.
Prendiamo Netflix, YouTube, Spotify, TikTok o qualsiasi grande piattaforma digitale.
Gli algoritmi cercano di capire cosa potrebbe interessarci.
È una funzione utilissima.
Il catalogo disponibile è talmente grande che senza qualche forma di selezione probabilmente passeremmo più tempo a cercare qualcosa da vedere che a guardarlo.
Il problema nasce quando la raccomandazione smette lentamente di essere un suggerimento e comincia a diventare il perimetro entro il quale ci muoviamo.
Facciamo un esempio banalissimo.
Questa sera mi viene voglia di guardare un film di Totò.
Lo cerco.
Lo guardo.
Il sistema registra la mia scelta.
Nei giorni successivi potrebbe propormi altri film di Totò, poi commedie italiane, poi cinema classico italiano, poi contenuti associati statisticamente agli utenti che hanno fatto scelte simili alla mia.
Perfetto.
Solo che magari quella sera volevo semplicemente vedere Totò.
Domani potrei avere voglia di Blade Runner.
Dopodomani di un documentario sulla fisica quantistica.
Tra una settimana di una commedia americana.
Un comportamento non è necessariamente un’identità.
Ed è probabilmente uno degli errori concettuali più importanti della profilazione moderna: confondere ciò che una persona ha fatto con ciò che quella persona è.
