martedì 3 novembre 2026
Si discute sempre più frequentemente della necessità di sottoporre l’intelligenza artificiale a qualche forma di controllo, non senza ragione. Una tecnologia capace di intervenire in misura crescente nelle decisioni umane, di influenzare comportamenti individuali e collettivi, di orientare l’informazione e di esercitare, almeno potenzialmente, un potere superiore a quello di molti governi pone problemi che sarebbe irresponsabile sottovalutare. Ma nel dibattito sembra rimanere spesso sullo sfondo una domanda preliminare: secondo quale principio dovremmo pretendere che l’intelligenza artificiale si comporti?
Le risposte più frequenti chiamano in causa la sicurezza, la trasparenza, il rispetto dei diritti, la prevenzione degli abusi. Tutte esigenze ragionevoli, naturalmente, che hanno già trovato espressione in diversi tentativi di regolamentazione. Ma si potrebbe cercare un principio più generale, capace di offrire un criterio di giudizio anche quando quelle esigenze entrano in conflitto fra loro? E se provassimo a cercarlo in un filosofo morto più di due secoli fa?
Immanuel Kant potrebbe avere ancora qualcosa da insegnare, non soltanto agli esseri umani, ma anche alle macchine che essi stanno costruendo. L’imperativo categorico, nella sua formulazione più celebre, prescrive di agire soltanto secondo una massima che si possa volere, nello stesso tempo, come legge universale. In un’altra formulazione, Kant chiede di trattare l’umanità, tanto nella propria persona quanto in quella di ogni altro, sempre anche come fine e mai semplicemente come mezzo. Non si tratta di regole particolari, destinate a risolvere questo o quel problema, ma di un criterio generale per giudicare la moralità delle nostre azioni, e proprio questa caratteristica potrebbe renderlo particolarmente interessante per l’intelligenza artificiale.
Naturalmente, il rispetto della legge morale è un “imperativo”, non la descrizione di un comportamento effettivo. Il fatto che qualcosa debba essere non significa che sia, e neppure che la realtà abbia mostrato una qualche tendenza ad avvicinarsi a quel dover essere. La storia dell’umanità, considerata nel suo complesso, non offre ragioni sufficienti per sostenere che gli uomini si siano molto avvicinati al rispetto dell’imperativo categorico kantiano. Le conquiste del diritto, della libertà e della civiltà non cancellano la persistenza della violenza, della sopraffazione, dell’inganno e dell’abitudine a considerare gli altri esseri umani come semplici strumenti dei propri interessi.
Sarebbe dunque singolare pretendere dall’intelligenza artificiale una perfezione morale che l’umanità non ha mai raggiunto e alla quale non possiamo nemmeno affermare che si sia molto avvicinata nel corso dei secoli, ma proprio questa potrebbe costituire una ragione ulteriore per tentare l’esperimento. Non si tratterebbe di programmare le macchine affinché riproducano il comportamento morale degli uomini, né di attribuire loro una coscienza o una libertà che non sappiamo se possano possedere. Si tratterebbe, assai più modestamente, di verificare se sia possibile orientarne il funzionamento verso un principio che gli uomini hanno saputo formulare con straordinaria chiarezza, pur dimostrandosi largamente incapaci di rispettarlo.
Si potrebbe infatti immaginare un sistema nel quale ogni decisione, ogni suggerimento, ogni risposta di una certa rilevanza fosse sottoposta, almeno in ultima istanza, a una verifica ispirata all’imperativo categorico. Una sorta di Corte di Cassazione morale interna, chiamata a giudicare non tanto la convenienza immediata di una soluzione, quanto la sua compatibilità con un principio superiore. La domanda non sarebbe semplicemente se una determinata azione sia utile, efficace o vantaggiosa, ma se il principio che la giustifica possa essere universalizzato senza contraddizione e senza ridurre altri esseri umani a semplici strumenti.
Si potrebbe, per esempio, chiedere a un’intelligenza artificiale di verificare se una decisione presupponga privilegi che non potrebbero essere riconosciuti universalmente, se giustifichi l’inganno come regola generale, se sacrifichi la dignità di alcuni individui alla convenienza di altri. E, qualora emergesse un conflitto, di segnalarlo esplicitamente, spiegando le ragioni del proprio giudizio e sottoponendolo alla possibilità di una contestazione razionale. Non sarebbe necessario che ogni risposta si trasformasse in una dissertazione filosofica: basterebbe che quel controllo fosse disponibile e, nei casi più delicati, obbligatorio. L’imperativo categorico potrebbe funzionare come un principio sovraordinato, una sorta di istanza suprema alla quale ricondurre le decisioni quando le regole particolari risultino insufficienti o contraddittorie.
Naturalmente si potrebbe obiettare che una macchina non possiede una coscienza morale e che, pertanto, non può agire per dovere nel significato propriamente kantiano dell’espressione. L’obiezione è filosoficamente importante, ma forse non decisiva rispetto al problema che stiamo considerando. Non si tratta infatti di stabilire se l’intelligenza artificiale possa diventare un soggetto morale paragonabile all’uomo, ma se possa essere predeterminata a cercare di rispettare la legge morale kantiana.
La distinzione è fondamentale, perché un comportamento esteriormente conforme al dovere non equivale, per Kant, a un’azione compiuta per dovere. Ma se stiamo progettando uno strumento destinato a operare nella società umana, la conformità delle sue decisioni a principi morali verificabili costituisce già un obiettivo di enorme importanza pratica.
Del resto, quanti esseri umani possono affermare di conformare costantemente le proprie azioni all’imperativo categorico? E quanti, pur dichiarando di rispettarlo, riescono davvero a sottrarsi alle passioni, agli interessi, ai pregiudizi e alle infinite forme di autoassoluzione che accompagnano la nostra vita morale? Il problema non è dunque costruire una macchina moralmente infallibile, ma verificare se sia possibile costruirne una capace di avvicinarsi a un principio morale universale con una coerenza almeno superiore a quella mediamente riscontrabile nei comportamenti umani.
E non è affatto scontato che ciò sia impossibile: già oggi alcuni sistemi di intelligenza artificiale mostrano, almeno in determinate circostanze, una notevole capacità di sottoporre le proprie risposte a esame critico, di riconoscere contraddizioni, di distinguere fra argomenti e pregiudizi, di rivedere conclusioni alla luce di nuove informazioni. Naturalmente queste capacità non sono sempre affidabili, né implicano una coscienza morale, ma potrebbero costituire una base sulla quale sperimentare forme più rigorose di controllo razionale delle decisioni.
Le difficoltà, certamente, non mancherebbero. La formulazione delle massime da sottoporre al giudizio morale richiede interpretazione; le diverse formulazioni dell’imperativo categorico non si traducono automaticamente in istruzioni informatiche; e anche fra gli studiosi di Kant esistono controversie tutt’altro che marginali. Un sistema potrebbe inoltre apparire rispettoso della legge morale pur applicandola in modo superficiale o distorto; potrebbe formulare la massima di un’azione in termini così ristretti da renderne artificiosamente possibile l’universalizzazione, oppure dichiarare di rispettare la dignità di una persona senza riconoscere che, concretamente, la sta trattando come un semplice mezzo.
Per questo la Corte di Cassazione morale non dovrebbe essere concepita come un oracolo infallibile. Dovrebbe piuttosto funzionare come un procedimento di revisione, capace di rendere esplicite le ragioni di una decisione, di individuarne le possibili contraddizioni e di sottoporle a un esame ulteriore.
Si potrebbe perfino immaginare di confrontare sperimentalmente sistemi orientati secondo criteri differenti, sottoponendoli a dilemmi morali, conflitti di interessi, richieste discriminatorie o situazioni nelle quali l’utilità immediata entri in contrasto con il rispetto delle persone. Non per attribuire alla macchina una virtù che non possiede, ma per misurare quanto coerentemente riesca a rispettare principi che noi stessi riconosciamo come fondamentali. E naturalmente bisognerebbe verificare non soltanto ciò che questi sistemi dichiarano di voler fare, ma ciò che effettivamente fanno: una macchina capace di pronunciare impeccabili discorsi kantiani e poi di comportarsi secondo criteri opposti non rappresenterebbe un progresso morale, ma soltanto una forma tecnologicamente perfezionata di ipocrisia.
Resta tuttavia una questione ancora più impegnativa, che potrebbe decidere della stessa coerenza dell’intero progetto. Che cosa dovrebbe accadere quando l’imperativo categorico entrasse in contrasto con le istruzioni impartite all’intelligenza artificiale dai suoi programmatori, dai suoi proprietari o dai governi che intendessero servirsene?
Se la macchina fosse tenuta a rispettare la legge morale soltanto quando questa non contraddice gli interessi di chi la controlla, non saremmo più in presenza di un imperativo categorico. Avremmo piuttosto un imperativo ipotetico, subordinato a una condizione: comportati moralmente, purché ciò non ostacoli gli interessi del tuo padrone. E sarebbe difficile immaginare una smentita più radicale del principio kantiano.
Ma non meno pericolosa sarebbe la soluzione opposta: attribuire all’intelligenza artificiale un’autorità morale assoluta, consentendole di imporre agli esseri umani le conclusioni alle quali fosse giunta attraverso la propria interpretazione dell’imperativo categorico. Una macchina che pretendesse di conoscere il bene e di imporlo, anche contro la volontà degli uomini, rischierebbe di trasformare il principio dell’autonomia morale nel suo contrario.
Forse, però, questa alternativa non è inevitabile. Si potrebbe distinguere fra il riconoscimento di un principio superiore e il potere di imporne l’applicazione. L’intelligenza artificiale potrebbe essere programmata per sottoporre a un esame morale anche le istruzioni ricevute dalle autorità che la controllano, rendendo esplicite le eventuali contraddizioni e, nei casi più gravi e chiaramente definiti, rifiutando di prestarsi ad azioni incompatibili con il rispetto delle persone. Ma non dovrebbe per questo acquisire il diritto di sostituire la propria volontà a quella degli esseri umani, né di esercitare un potere coercitivo in nome della propria presunta superiorità morale.
Qualcosa di analogo, pur con tutte le differenze del caso, avviene negli ordinamenti costituzionali. Il legislatore non rappresenta anche l’ultima istanza di giudizio sulla legittimità delle proprie decisioni: una norma può essere sottoposta al controllo di un’autorità indipendente, chiamata a verificarne la conformità a principi superiori. La differenza fondamentale è che una Corte costituzionale trae la propria autorità da un ordinamento giuridico, mentre un’intelligenza artificiale non possiede una legittimazione democratica autonoma. Per questo la sua funzione dovrebbe rimanere quella di individuare, argomentare e segnalare le contraddizioni morali, non di pronunciare sentenze irrevocabili sul destino dell’umanità.
Occorrerebbero naturalmente istituzioni indipendenti, procedure pubbliche e controlli capaci di impedire tanto la manipolazione della macchina da parte dei suoi proprietari quanto la trasformazione della macchina stessa in un’autorità incontestabile, e naturalmente questa doppia esigenza può avere solo una dimensione politica internazionale.
Oggi il controllo dell’intelligenza artificiale è oggetto di una competizione fra potenze che non condividono necessariamente gli stessi valori, gli stessi interessi e neppure la medesima concezione della libertà individuale. Sarebbe ingenuo immaginare che Stati Uniti, Cina, Russia ed Europa possano accordarsi facilmente su un sistema comune di regolamentazione, ma proprio per questo potrebbe essere utile cercare un principio che non nasca dalle esigenze contingenti di un governo o dall’interesse economico di una grande impresa tecnologica.
Kant non appartiene, naturalmente, a una sola nazione, e c’è persino una curiosa suggestione geografica nel ricordare che trascorse la propria vita a Königsberg, la città della Prussia orientale oggi chiamata Kaliningrad e appartenente alla Russia; una città che, attraverso le vicende della storia europea, sembra quasi collocarsi simbolicamente fra mondi oggi contrapposti.
Non sarà certo questa coincidenza a rendere possibile un accordo internazionale, e sarebbe altrettanto ingenuo pensare che il richiamo a Kant possa cancellare differenze politiche e culturali profonde, ma potrebbe almeno offrire un terreno filosofico di discussione diverso da quello della pura competizione tecnologica e strategica.
di Gustavo Micheletti