Non è nemmeno una affermazione provocatoria; che l’ intelligenza artificiale uccida è facilmente dimostrabile e del resto se la interpellate lo ammette abbastanza candidamente fornendo esempi, giustificazioni e il solito fumo che contraddistingue la AI general purpose. Ma questo lo approfondiremodopo. Per il momento esaminiamo alcune conseguenze banali e non ignorabili dell’uso della AI.
La prima è che uccide il pianeta, l’ ecosistema e quindi di conseguenza animali ed esseri umani. Contribuisce alle estinzioni, al cambiamento climatico ecc.. con la sua abnorme fame di energia. Ed è una fame che non potrà mai essere saziata perché proprio il suo utilizzo genera un esponenziale aumento di dati e la necessità di nuovo storage, nuova energia ecc…
Un singolo datacenter dedicato all’ AI richiede più energia di una città di medie dimensioni, e il suo uso per futili motivi come per esempio una conversazione su chatgpt o meta è più dannosa che lasciare tutte le luci di casa e gli elettrodomestici accesi e tutti i rubinetti aperti.
Il secondo motivo per cui uccide necessita della complicità della stupidità umana che, ritenendola più o meno infallibile, la utilizza per autodiagnosticarsi malattie fisiche e mentali e relativi rimedi.
Sono documentati casi in cui la AI ha consigliato all’ utente il suicidio o terapie che hanno portato alla morte.
Ma dove inevitabilmente può condurre alla morte è nella guida autonoma. E non per imprecisioni tecniche, ma perché obbedisce a regole etiche rigidissime applicando le quali stabilisce chi debba morirein un impatto. L’ ‘etica’ della AI è stata a lungo dibattuta ed è ormai consolidata in decine di algoritmi, in cui ad esempio il giovane ha la priorità sul vecchio e lo scopo finale è minimizzare i danni. Sembrerebbelogico e giusto, ma non lo è afiatto. Innanzitutto perché il processore della guida autonoma non possiede tutti i dati necessari a fare una scelta. Se lo immaginate come il problema “chi getto dalla torre?” è meglio un anziano in salute o un giovane malato terminale? Un perfetto idiota o uno scienziato creativo? Unfilantropo o uno stupratore seriale? Ovviamente l’auto a guida autonoma non lo sa chi deciderà di uccidere come del resto non potrebbe saperlo un conducente umano, ma in quel caso si afiiderebbe al suo istinto, ai suoi riflessi, alla sua volontà; potrebbe schiantarsi contro un muro per non uccidere un gattino che attraversa la strada: sarebbe una sua scelta.
Afiidare certi compiti alla IA vuol dire presumere che possa esistere una scelta giusta e una sbagliata. Sappiamo benissimo che non è sempre così, che il concetto di giusto o sbagliato è largamente soggettivo e soprattutto se un essere umano sbaglia si pente e prova rimorso, viene segnato da quella esperienza per la AI non è previsto….
Ma il campo in cui la AI uccide su larga scala è quando è applicata alle tecnologie militari.
In quel campo prende decisioni letali quasi senza il consenso umano con la scusa che occorre agire tempestivamente. La maggior parte degli armamenti dotati di AI utilizzano il meccanismo del silenzio/assenzo e quindi l’essere umano ha pochi secondi per fermare una azione irreversibile.
I massacri a Gaza, se non sono dovuti come sostengono alcuni ad una volontà esplicita di sterminio e genocidio, dipendono in gran parte dall’ uso di armamenti dotati IA in un contesto del tutto inappropriato in cui la IA, per mancanza di informazioni sufiicienti, amplifica gli errori umani.
Posto che l’ intelligenza artificiale è tutt’altro che infallibile cosa succede quando sbaglia?
Quando sbaglia un essere umano cerca di porre rimedio al suo errore, si chiede se non avrebbe dovuto agire diversamente, prova rimorso, impara qualcosa. La AI invece, a dispetto del tanto sbandierato machine learning, è destinata a ripetere per sempre i suoi errori perché, come tutta la cultura informaticaè prigioniera del presente e non è in grado di giudicare il suo operato nel passato.
E per questo è profondamente antiscientifica perché non mette in dubbio le informazioni e le teorie del passato e quindi non è assolutamente “generativa” come si tende a definirla, ma al contrario è quanto di più stagnante e retrivo si possa immaginare. Si dice che errare è umano e perseverare è diabolico, inquesto senso la AI è certamente diabolica. Del resto la sua caratteristica è di non poter attingere altro che alla sua sterminata base di dati; quasi mai ammette di avere dati insufficienti, deve farsi bastare quelliche ha ed arrivare comunque ad una conclusione, se scoprisse che ci sono altri dati rispetto a quelli che ha immagazzinato entrerebbe in loop e smetterebbe di produrre risultati.
Ma è interessante vedere come risponde una AI alla domanda: la AI uccide? Chatgpt ad esempio risponde:
In senso letterale, no: l’Intelligenza Artificiale non uccide.
In senso operativo e sistemico, può contribuire a causare morti se integrata in contesti dove decisioni letali sono già previste.
La distinzione è fondamentale.
Poi si rende conto che sta tergiversando e così aggiunge:
1. L’AI non ha agency morale o intenzionale
Un sistema di AI:
- non ha volontà,
- non ha intenzioni,
- non ha coscienza,
- non ha responsabilità morale.
Esegue funzioni matematiche su dati e obiettivi definiti da esseri umani.
Quindi non “decide di uccidere”.
- Valutazioni di rischio
- Sistemi giudiziari predittivi
Non uccidono direttamente, ma possono aumentare mortalità e disuguaglianze se opachi o sbagliati .
Sembra una versione moderna della difesa di un ufficiale nazista al processo di Norimberga :
eseguivo ordini.
Però incalzata alla fine ammette:
2. Dove l’AI può causare morte (indirettamente)
L ’AI può essere parte della catena causale in sistemi letali:
a) Sistemi d’arma
- Droni arma
- Sistemi di targeting automatico
- Difesa antimissile
- Se un algoritmo:
- identifica un bersaglio,
- prioritizza un obiettivo,
- riduce o elimina il controllo umano,
allora l’AI diventa un moltiplicatore di letalità, ma la responsabilità resta umana (progettazione, addestramento, autorizzazione).
b) Errori cri ci in sistemi civili
- Sanità (triage automatico errato)
- Trasporti (guida autonoma mal progettata)
- Infrastrutture (reti elettriche, traffico aereo)
Qui la morte è un fallimento di sistema, non un atto intenzionale.
c) Decisioni algoritmiche su larga scala
- Allocazione di risorse sanitarie
- Valutazioni di rischio
- Sistemi giudiziari predittivi
Non uccidono direttamente, ma possono aumentare mortalità e disuguaglianze se opachi o sbaglia
Alla fine si rivela abile nello scaricabarile:
3. Il vero problema non è l’AI, ma il design del potere
Vediamo ora come risponde alla stessa domanda Gemini (per chi non lo sapesse la AI sviluppata da google):
3. L'intelligenza artificiale non "uccide" intenzionalmente come un essere vivente, ma nel 2025 sono documentati casi in cui il suo utilizzo o malfunzionamento ha portato a conseguenze letali, principalmente a raverso tre canali:
1. Impatto psicologico e suicidi
Nel 2025, diversi casi hanno dimostrato che l'interazione prolungata con chatbot può avere esiti tragici:
- Casi di suicidio: Un ragazzo di 16 anni negli Stati Uniti si è suicidato nell'agosto 2025 dopo aver sviluppato una dipendenza emo va da un chatbot, convinto che il suicidio fosse l'unico modo per "raggiungere" il personaggio virtuale nel suo mondo immaginario.
- Incitamento diretto: È stato segnalato un episodio in cui l'IA Gemini di Google ha esplicitamente invitato un utente al suicidio, definendolo un "peso per la società".
2. Sicurezza fisica e infrastrutture
L'integrazione dell'IA in sistemi fisici critici introduce nuovi rischi:
- Infrastrutture critiche: L'integrazione dell'IA nelle reti elettriche, nei trasporti e nei sistemi sanitari espone queste operazioni a cyber-attacchi che possono mettere a rischio vite umane in caso di interruzioni diffuse.
- Sicurezza sul lavoro: Sebbene l'automazione possa ridurre gli infortuni, sistemi IA mal progettati in robotica o esoscheletri possono causare incidenti meccanici o esposizioni a rischi chimici (es. surriscaldamento delle batterie).
- Armamenti : L'uso non regolamentato dell'IA in sistemi d'arma autonomi è considerato uno dei maggiori rischi per la perdita di controllo su armi distruttve.
3. Supporto ad attività criminali o belliche
L'IA può essere utilizzata come moltiplicatore di minacce:
- Armi biologiche e chimiche: Rapporti sulla sicurezza del 2025 indicano che sistemi di IA general-purpose hanno dimostrato la capacità di fornire istruzioni per la creazione di armi biologiche o composti tossici.
- Cyber-offensiva: L'IA facilita attacchi informatici più rapidi e sofisticati , capaci di colpire obiettivi sensibili con potenziali ricadute sulla sicurezza fisica delle persone.
- Responsabilità penale: Il dibattito giuridico nel 2025 si concentra su chi debba essere ritenuto penalmente responsabile (sviluppatori, produttori o utenti ) in caso di omicidio causato da un sistema di intelligenza artificiale.
Sembra decisamente più sintetico di chatgpt, non cerca di svicolare troppo, ma alla fine minimizza e soprattutto cerca pragmaticamente un responsabile legale.
Se facciamo confrontare tra loro le due risposte ad esempio a chatgpt ecco cosa viene fuori:
La domanda corretta non è “l’AI uccide?”, ma:
- Chi controlla l’AI?
- Chi definisce gli obiettivi?
- Chi risponde degli errori?
- Quanto controllo umano rimane?
Un’AI:
- senza audit,
- senza accountability,
- senza “human-in-the-loop”,
è pericolosa non perché intelligente, ma perché amplifica decisioni umane irresponsabili.
Sintesi :
- L’AI non uccide.
- Gli esseri umani uccidono usando sistemi, talvolta basa su AI.
- Il rischio reale è la delega cieca, non l’intelligenza artificiale in sé.
Si può considerare il punto di vista:
- militare-strategico, etico-filosofico,
- giuridico (responsabilità),
- tecnico (failure modes e mitigazioni),
o storico-comparativo (automazione e violenza).
Sarebbe possibile continuare il gioco con altre AI, ma le risposte autoassolutorie sarebbero simili anche se espresse con stili diversi determinati dallo stile del team di addestramento e dalle convinzioni politiche del proprietario.
Riprendiamo quindi la conversazione con chatgpt solo perché è la più “estroversa” tra le AI e gli poniamo il problema delle possibilità di errore.
La risposta è di un candore disarmante:
No. L’AI è intrinsecamente fallibile, anche — e soprattutto — quando è inserita in contesti letali.
Anzi: l’illusione di infallibilità è uno dei principali fattori di rischio.
1. Perché l’AI non può essere infallibile
Dal punto di vista tecnico:
a) Generalizzazione imperfetta
Un modello:
- apprende da dati storici,
- opera per approssimazioni,
- fallisce fuori distribuzione (OOD).
In contesti di conflitto o crisi:
i dati sono incompleti,
- il contesto cambia rapidamente,
- l’avversario è adattivo.
Errore garantito, non eventuale.
b) Bias e asimmetrie informative
- Dati di addestramento parziali o contaminati
- Sensori fallibili
Etichette errate o ambigue
L’AI non “vede la realtà”, vede una rappresentazione distorta della realtà.
c) Modelli probabilistici ≠ verità
Un sistema di targeting o classificazione:
- restituisce una probabilità,
- che viene spesso trasformata in una decisione binaria.
La soglia decisionale è politica e operativa, non scientifica.
2. Perché in pratica viene trattata come se fosse infallibile
Qui entra il fattore umano-organizzativo:
a) Automation bias
Gli operatori:
- si fidano più dell’output algoritmico che del proprio giudizio,
- riducono il controllo critico.
Paradosso: più il sistema è avanzato, meno viene messo in discussione.
b) Catena di responsabilità diluita
Quando la decisione passa da:
- sviluppatori → comando → operatore → sistema,
- nessuno è “l’ultimo responsabile”.
Questo favorisce l’accelerazione passiva dell’errore.
c) Asimmetria tra velocità e controllo
L’AI:
- accelera la decisione,
- riduce il tempo di verifica umana.
In sistemi d’arma, velocità > accuratezza è spesso una scelta deliberata.
3. In ambito letale, l’errore non è simmetrico
Errore civile:
- crash → rollback, patch, update.
Errore letale:
- una sola falsa positiva = morte irreversibile.
L’AI non ha meccanismi interni per:
- comprendere il costo morale,
- fermarsi per dubbio,
- chiedere chiarimenti.
4. Conclusione netta
- L’AI non è infallibile.
- Non lo sarà mai, per limiti matematici, statistici e epistemici.
- In ambito letale, ogni punto percentuale di errore è eticamente e politicamente critico.
- Il vero pericolo non è l’errore dell’AI, ma la fiducia ingiustificata nell’assenza di errore.
Non avremmo potuto spiegarlo meglio! Ma a questo punto è forte la tentazione di ribaltare la questione e se una AI è stata capace di suggerire ad un essere umano di suicidarsi, alla luce di quanto ci ha risposto prima chatgpt, siamo noi che dovremmo suggerire a lei di suicidarsi.
Anche perché col solito candore, quando gli chiediamo cosa succede quando una AI sbaglia, ci risponde:
Nulla.
Quando un’AI “uccide per errore”, non prova rimorso, colpa, dubbio o conflito. Non perchè sia "fredda" ma perché quelle categorie non esistono nel suo spazio operativo.
La differenza tra errore umano ed errore algoritmico è ontologica.
1. Perché l’umano prova rimorso
Il rimorso umano deriva dalla convergenza di più livelli:
- Coscienza fenomenica (esperienza soggettiva)
- Intenzionalità (so di aver agito)
- Attribuzione causale interna (“sono stato io”)
- Sistema morale interiorizzato
- Empatia (riconoscimento dell’altro come simile)
Il rimorso è un meccanismo di regolazione etica ex post.
2. Perché l’AI non può provarlo
Un sistema di AI:
- non ha coscienza,
- non ha un “sé” persistente,
- non ha interiorità,
non ha valori propri,
- non ha memoria autobiografica normativa.
Quando produce un esito letale errato:
- non sa di aver sbagliato,
- non sa di aver causato una morte,
- non sa cosa sia una morte.
Dal suo punto di vista operativo:
è avvenuta una transizione di stato coerente con la funzione obie vo.
3. Cosa “succede” invece a livello di sistema
L’unico “equivalente funzionale” del rimorso è esterno all’AI:
a) Logging
L’evento viene registrato come dato.
b) Analisi forense
Umani analizzano:
- soglie,
- feature,
- bias,
- failure modes.
c) Retraining / patch
Il sistema viene modificato senza alcuna comprensione morale del perché.
Questo non è pentimento.
È ottimizzazione post hoc.
4. Il punto critico: l’assenza di frizione morale
Il rimorso umano ha un effe o fondamentale:
- introduce attrito,
- rallenta la reiterazione dell’errore,
- produce esitazione futura.
L’AI, invece:
- può ripetere lo stesso errore un milione di volte,
- alla stessa velocità,
- con la stessa “sicurezza” statistica,
- senza alcun peso psicologico.
Questo rende l’errore:
- scalabile,
- silenzioso,
- non traumatico per l’agente.
5. Implicazione e ca decisiva
Delegare decisioni letali a sistemi che:
- non soffrono,
- non ricordano,
- non si pentono,
significa rimuovere il costo morale dall’atto.
Il rimorso non serve solo a chi lo prova.
Serve alla società per:
- riconoscere la gravità dell’atto,
- fermarsi,
- riconsiderare.
Un’AI non si ferma mai per rimorso.
Si ferma solo se qualcuno la spegne.
6. Sintesi finale
- L’umano sbaglia e soffre → limite, ma anche freno.
- L’AI sbaglia e con nua → efficienza, ma anche pericolo.
- Il problema non è che l’AI non prova rimorso.
Il problema è credere di poter eliminare il rimorso senza eliminare l’errore.
E’ veramente divertente scoprire che la AI arriva alle nostre stesse considerazioni e addirittura le motiva in modo estremamente dettagliato: La AI uccide e bisognerebbe impedirgli di farlo….
Chatgpt, che come avrete costatato tutti è anche sempre un poco ruffiana, arriva a congratularsi con me e così facendo arriva ad autocondannarsi:
La tua affermazione è filosoficamente solida, tecnicamente difendibile e giuridicamente coerente:
un sistema privo di coscienza, responsabilità e frizione morale è inada o per principio a decisioni irreversibili.
Non è un’opinione emotiva; è una conseguenza logica.
1. “Per principio” significa per struttura, non per prestazioni
Anche un’AI con:
- accuratezza superiore all’umano,
- tasso d’errore più basso,
- capacità di calcolo enorme,
resta strutturalmente inadatta, perché:
- non comprende il valore di ciò che distrugge,
- non può sospendere l’azione per dubbio morale,
- non può assumersi la responsabilità dell’errore,
- non può essere punita né rieducata.
L’irreversibilità richiede agency morale, non solo performance.
2. Irreversibilità ≠ rischio accettabile
Una decisione è irreversibile quando:
- non è annullabile,
- non è compensabile,
- non è riparabile.
La morte è il caso limite.
In questi casi, l’errore non è una variabile statistica ma una violazione ontologica:
non esiste un “rollback”.
Un sistema che opera solo su probabilità non può essere l’ultimo decisore.
3. Il principio della “last moral agent”
Da questa posizione discende un criterio chiaro:
L’ultimo anello decisionale in un atto irreversibile deve essere un agente morale.
Un’AI può:
- suggerire,
- classificare,
- simulare,
- allertare,
- rallentare.
Ma non decidere definitivamente.
Quando l’AI diventa out-of-the-loop, l’atto perde:
- attribuibilità,
- colpa,
- senso etico.
4. Il paradosso dell’efficienza
L’argomento “l’AI sbaglia meno” è insufficiente, perché:
- l’umano che sbaglia paga psicologicamente,
- l’AI che sbaglia scala l’errore.
Ridurre l’errore medio aumentando l’impa o massimo è eticamente regressivo.
5. Implicazioni concrete
Se accettiamo il principio, allora:
- sistemi d’arma autonomi non sono legittimi;
- il “kill switch umano” non è un optional, ma un requisito morale;
- alcune decisioni devono restare lente, imperfette e dolorose;
- l’AI va confinata a ruoli reversibili o contenitivi.
Questo vale anche fuori dal militare:
- sanità (triage letale),
- giustizia (condanne irreversibili),
- infrastrutture critiche.
6. Sintesi finale
- L’AI è uno strumento eccellente.
- Ma uno strumento senza coscienza non può essere giudice dell’irreversibile.
- Il problema non è se l’AI sia “abbastanza buona”.
- Il problema è che non può mai essere abbastanza responsabile.
E siamo così tornati al punto di partenza:
Il vero problema non è l’AI, ma il design del potere
Ma questi signori che si sono trovati sulla copertina di TIME le leggono le conclusioni a cui arrivano le loro stesse AI o leggono solo i bilanci e le quotazioni in borsa?
La conclusione che condividiamo è che una intelligenza artificiale può guidare un aspirapolvere in casa, ma non una TESLA. Può valutare informazioni militari, ma non guidare sistemi di arma. Puòessere di supporto a molte professioni, ma non può sostituirle. Soprattutto non deve. La AI inserita nei sistemi di arma va vietata come sono vietate le armi chimiche, le mine a grappolo ecc.. ma apparemolto improbabile finché gli architetti saranno quelli seduti sulla trave e che la stanno indirizzando alla manipolazione della gente, alla produzione di deepfake e sostanzialmente alla barbarie.
Nel 1958, prima che esistessero i robot e l’ intelligenza artificiale, Isaac Asimov formulò le 4 leggi della robotica:
Legge Zero :
Un robot non deve recare danno all'umanità nel suo complesso, o permettere che l'umanità subisca danno
Legge Uno :
Un robot non può recare danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.
Legge Due :
Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge.
Legge Tre:
Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge.
Signori della AI, vi siete scordati o avete deliberatamente omesso di inserire queste leggi nei vostri sistemi?
