Prof. Dr. Christoph Lütge | NARRATIVE #211 by Robert Cibis

Ecco una versione di circa 30 minuti senza limitazioni: i nostri abbonati OVALmedia possono guardare la puntata integrale.

Solo audioVersione breve · 30 min
Gli abbonati ascoltano la conversazione completa (1:34:11). Vedi l’abbonamento OVALAnche come podcast

Guarda la puntata completa con OVAL Abo

Qui sopra trovi una versione breve.

da 7 € / mese · disdici quando vuoi · questo e tutti gli altri film, programmi e articoli



Etica K.O.?

Robert Cibis incontra il professor Christoph Lütge, docente di etica economica e direttore dell’Istituto di etica dell’intelligenza artificiale. A che punto sono economia e società dopo la crisi delle misure del 2020-2022, anche alla luce del ruolo dirompente dell’intelligenza artificiale (IA)? Cibis sottolinea che gli eventi recenti hanno provocato una massiccia dissonanza cognitiva che rende necessario porsi domande di fondo, soprattutto di fronte alla diffusa disfunzionalità della società tedesca.

La regolamentazione dell’IA come arma

Il professor Lütge vede prove evidenti che in Europa attori statunitensi abbiano fatto lobbying per spingere la regolamentazione dell’IA. Come «miglior esempio» cita Sam Altman di OpenAI, che ha tenuto conferenze in cui in sostanza chiedeva regole, pur sapendo che negli Stati Uniti non sarebbe successo nulla del genere. Cibis chiede se si tratti di un attacco sovversivo alla competitività europea, e Lütge conferma, definendolo «impossibile da negare».

L’Europa, dice, è molto indietro nell’IA: solo il 5% della potenza di calcolo per l’IA viene generato in Europa, mentre l’85% si trova negli Stati Uniti. La tendenza europea a un’«orgia normativa» (come l’AI Act, il Digital Markets Act e il Digital Services Act) danneggia le aziende europee, soprattutto le PMI e le start-up, che non possono permettersi propri uffici di compliance, scontati per le grandi piattaforme. Questa iper-regolamentazione sarebbe controproducente, perché al di fuori dell’Europa quasi nessuno al mondo sostiene regole così dure. L’anno scorso il rapporto Draghi sulla competitività europea ha riconosciuto il problema dicendo in sostanza: «We are killing our own companies».

Etica nell’IA

Invece di una regolamentazione rigida, il professor Lütge propone la cosiddetta «soft governance»: linee guida che danno orientamento senza dover essere fissate fin nei minimi dettagli. Lo scenario migliore sarebbe avere principi etici funzionanti che siano anche nell’interesse delle aziende e delle organizzazioni, perché gli utenti usano i sistemi solo se se ne fidano. La fiducia è decisiva, ad esempio nei veicoli autonomi o nella sanità, dove l’IA può salvare vite. Misure per creare fiducia potrebbero essere marchi di qualità o servizi esterni di controllo sull’uso dei dati.
La discussione tocca anche l’uso dei dati: Lütge ritiene che in Germania gli ostacoli all’uso dei dati dei pazienti per addestrare i modelli di IA siano troppo alti. Chi non lo fa, dice, prende i dati dall’estero (Cina, Stati Uniti). Sottolinea che bisogna fare attenzione al possibile emergere di scenari di sorveglianza. Alla domanda se l’IA stessa abbia portato a perfide concentrazioni di potere (come durante la crisi delle misure del 2020-2022), Lütge risponde di no, perché l’IA generativa è decollata davvero solo alla fine del 2022. Distingue l’IA generativa (ad esempio ChatGPT, che genera testi, immagini e filmati) dall’intelligenza artificiale generale (AGI), che potrebbe riprodurre le capacità umane in tutti gli aspetti essenziali. Esprime dubbi sul fatto che i progressi attuali rappresentino già un passo fondamentale verso l’AGI, cioè la singolarità, o addirittura verso sistemi dotati di coscienza.

Il Consiglio etico bavarese e la «caccia alle streghe»

Robert Cibis rende omaggio a Lütge per la sua fermezza, perché difende posizioni critiche nonostante gli svantaggi. Il professor Lütge racconta le sue esperienze, in particolare la sua esclusione dal Consiglio etico bavarese. Lì si era espresso in modo controverso sui lockdown e su altre misure. Ne seguì una «vera e propria caccia alle streghe mediatica» sulla Süddeutsche Zeitung, che lo accusò di volere la morte degli anziani, mentre lui aveva solo fatto notare che l’età media dei «morti di Covid» era superiore all’età media normale al decesso. Poco dopo fu rimosso dall’organismo senza motivazione. Sospetta interessi politici dietro le quinte che non tolleravano voci critiche, tanto più che ciò avvenne in un periodo in cui erano in gioco anche le candidature alla cancelleria. Questa posizione critica gli ha causato danni, tra cui la perdita di fondi di ricerca e la rottura di rapporti professionali.

Una rielaborazione collettiva

Lütge sottolinea di considerare prioritaria una rielaborazione collettiva della crisi delle misure, per colmare le fratture nella società. Critica il fatto che in Germania non sia successo quasi nulla in tal senso, mentre in altri Paesi (ad esempio gli Stati Uniti) eventi politici o elezioni hanno già imposto una maggiore rielaborazione.

Lütge e Cibis criticano il modo in cui le misure sono state attuate politicamente e vendute dai media. Lütge fa notare che la politica si è volentieri affidata alla «scienza», che sembrava dirle qualcosa di univoco, ma che «in un certo senso era stata ordinata» (ad esempio i pareri della Leopoldina). La durata delle misure sarebbe stata sproporzionata, in particolare il secondo lockdown da novembre 2020, il cui coordinamento andrebbe anch’esso esaminato. Diversamente dalla Germania, dove i dibattiti quasi non si sono svolti in Parlamento, Lütge vede in altri Paesi (come l’Inghilterra) un dibattito parlamentare più acceso. In quel periodo i consigli etici sarebbero spesso serviti a giustificare eticamente a posteriori misure già decise politicamente.
Come argomento forte dell’eccesso delle misure, Lütge cita l’assenza dell’influenza durante la crisi, osservata anche in Svezia, un Paese senza lockdown né regole 3G o 2G. Critica la crescente «smania di controllo» della politica e gli ampi poteri delle istituzioni UE, prive di contrappesi critici. Come esempio allarmante cita l’obbligo in tutta l’UE di installare nelle auto nuove sistemi di controllo che avvertono in caso di eccesso di velocità e intervengono persino sullo sterzo.

Raccomandazione

Il professor Lütge consiglia agli spettatori di informarsi senza pregiudizi e in modo indipendente, di mantenere una sana diffidenza, ma senza essere contrari per principio alle novità. Sottolinea che la digitalizzazione è uno strumento che offre opportunità e può avere un effetto emancipatorio. Decisivo è mantenere vivo il dibattito e alzare la voce per rafforzare una società democratica e aperta. È ottimista sul fatto che la pluralità tra i fornitori di IA continuerà a svilupparsi nonostante la concentrazione.

Guardate anche:

L’IA non è la salvezza – NARRATIVE #155 con il Dr. Martin Braake

La strada sbagliata di Elon Musk – NARRATIVE #132 con il Dr. Jobst Landgrebe

Prof. Dr. Christoph LütgeCi sono prove chiare di questo. Qui in Europa è stata fatta attività di lobby da persone provenienti dagli Stati Uniti. Il miglior esempio l'ho vissuto io stesso: Sam Altman di OpenAI. È venuto qui, anche nella mia università, tra l'altro, e ha tenuto conferenze in cui in fondo chiedeva di regolamentare l'IA. Ma sa naturalmente che negli Stati Uniti non succederà così. Già prima di Trump. Entrambi i governi avevano in fondo solo un atteggiamento leggermente sfumato, un po' più severo verso l'IA, ma non davvero.

Robert CibisÈ stato un attacco sovversivo alla competitività europea? Bisogna dirlo così.

Non perdere nessun programma

Nuovi film, programmi e articoli via e-mail – gratis, disdici quando vuoi.

Titolo e nome sono facoltativi.

Il suo commento