Prof. Dr. Christoph Lütge | NARRATIVE #211 by Robert Cibis

Voici une version d’environ 30 minutes en accès libre – nos abonnés OVALmedia peuvent regarder l’émission en intégralité.

Audio seulVersion courte · 30 min
Les abonnés écoutent l’entretien complet (1:34:11). Voir l’abonnement OVALAussi en podcast

Regardez l’émission complète avec l’OVAL Abo

Ci-dessus, une version courte.

dès 7 € / mois · résiliable à tout moment · ce film et tous les autres films, émissions et articles



L’éthique K.-O. ?

Robert Cibis rencontre le professeur Christoph Lütge, professeur d’éthique économique et directeur de l’Institut d’éthique de l’intelligence artificielle. Où en sont l’économie et la société depuis la crise des mesures de 2020-2022, et aussi face au rôle disruptif de l’intelligence artificielle (IA) ? Cibis souligne que les événements récents ont provoqué une dissonance cognitive massive, qui rend nécessaire de poser des questions de fond, notamment face au dysfonctionnement très répandu de la société allemande.

La régulation de l’IA comme arme

Le professeur Lütge voit des preuves claires que des acteurs venus des États-Unis ont fait du lobbying en Europe pour faire avancer la régulation de l’IA. Comme « meilleur exemple », il cite Sam Altman d’OpenAI, qui a donné des conférences où il réclamait au fond une régulation, tout en sachant que cela ne se produirait pas de la même façon aux États-Unis. Cibis demande s’il s’agit d’une attaque subversive contre la compétitivité européenne, ce que le professeur Lütge confirme en le qualifiant d’« incontestable ».

L’Europe accuserait un retard massif dans l’IA : seuls 5 % de la puissance de calcul consacrée à l’IA sont produits en Europe, contre 85 % aux États-Unis. La tendance européenne à une « orgie de régulation » (comme l’AI Act, le Digital Markets Act et le Digital Services Act) nuirait aux entreprises européennes, en particulier aux PME et aux start-up, qui ne peuvent pas se payer leurs propres services de conformité, une évidence pour les grandes plateformes. Cette surrégulation serait contre-productive, car presque personne au monde, à part l’Europe, ne soutient une régulation aussi dure. L’an dernier, le rapport Draghi sur la compétitivité européenne a reconnu ce problème en disant en substance : « We are killing our own companies ».

L’éthique dans l’IA

Plutôt qu’une régulation rigide, le professeur Lütge préconise une « soft governance » : des lignes directrices qui donnent une orientation sans devoir tout fixer dans le moindre détail. Le meilleur scénario serait d’avoir des principes éthiques qui fonctionnent et qui soient aussi dans l’intérêt des entreprises et des organisations, car les utilisateurs n’utilisent des systèmes que s’ils leur font confiance. La confiance est décisive, par exemple pour les véhicules autonomes ou dans la santé, où l’IA peut sauver des vies. Des labels de qualité ou des prestataires externes chargés de contrôler l’utilisation des données pourraient être des mesures de confiance.
La discussion aborde aussi l’utilisation des données : Lütge estime qu’en Allemagne, les obstacles à l’utilisation de données de patients pour entraîner des modèles d’IA sont trop élevés. Ceux qui ne le font pas iraient chercher les données à l’étranger (Chine, États-Unis). Il souligne qu’il faut être attentif à l’apparition possible de scénarios de surveillance. Interrogé sur la crainte que l’IA elle-même ait conduit à des concentrations de pouvoir perfides (comme pendant la crise des mesures de 2020-2022), Lütge répond par la négative, car l’IA générative n’a vraiment pris son essor qu’à la fin de 2022. Il distingue l’IA générative (par exemple ChatGPT, qui produit des textes, des images et des films) de l’intelligence artificielle générale (AGI), qui pourrait reproduire les capacités humaines dans tous leurs aspects essentiels. Il doute que les progrès actuels représentent déjà un pas fondamental vers l’AGI, c’est-à-dire la singularité, voire vers des systèmes dotés de conscience.

Le Conseil d’éthique bavarois et la « chasse aux sorcières »

Robert Cibis salue la fermeté de Lütge, qui défend des positions critiques malgré les inconvénients. Le professeur Lütge raconte son expérience, notamment son éviction du Conseil d’éthique bavarois. Il s’y était exprimé de façon controversée sur les confinements et d’autres mesures. Cela a déclenché une « véritable chasse aux sorcières médiatique » dans la Süddeutsche Zeitung, qui l’a accusé de vouloir que les personnes âgées meurent, alors qu’il avait seulement fait remarquer que l’âge moyen des « morts du Covid » était supérieur à l’âge moyen normal au décès. Peu après, il a été écarté de l’instance sans justification. Il soupçonne des intérêts politiques en arrière-plan qui ne toléraient pas les voix critiques, d’autant que cela se passait à un moment où des candidatures à la chancellerie étaient aussi en jeu. Cette position critique lui a valu des préjudices, dont la perte de financements de recherche et la rupture de relations professionnelles.

Un travail de mémoire collectif

Lütge souligne qu’il considère comme prioritaire un examen collectif de la crise des mesures, afin de combler les fossés dans la société. Il déplore qu’en Allemagne presque rien ne se soit passé à cet égard, alors que dans d’autres pays (comme les États-Unis), des événements politiques ou des élections ont déjà imposé davantage de retour critique.

Lütge et Cibis critiquent la manière dont les mesures ont été mises en œuvre politiquement et vendues par les médias. Lütge fait remarquer que la politique s’est volontiers appuyée sur « la science », qui semblait lui dire quelque chose d’univoque, mais qui avait « en quelque sorte été commandée » (par exemple les avis de la Leopoldina). La durée des mesures aurait été disproportionnée, en particulier le deuxième confinement à partir de novembre 2020, dont la coordination devrait aussi faire l’objet d’une enquête. Contrairement à l’Allemagne, où les débats n’ont guère eu lieu au Parlement, Lütge observe un débat parlementaire plus vif dans d’autres pays (comme l’Angleterre). À cette époque, les conseils d’éthique auraient souvent servi à justifier éthiquement après coup des mesures déjà décidées politiquement.
Comme argument fort de l’excès des mesures, Lütge cite l’absence de grippe pendant la crise, également observée en Suède – un pays sans confinement ni règles 3G ou 2G. Il critique la « manie du contrôle » croissante de la politique et les pouvoirs étendus des institutions européennes, dépourvues de contre-pouvoirs critiques. Comme exemple effrayant, il cite l’obligation, dans toute l’UE, d’installer dans les voitures neuves des systèmes de contrôle qui avertissent en cas d’excès de vitesse et interviennent même sur la direction.

Recommandation

Le professeur Lütge conseille aux spectateurs de s’informer sans préjugés et de manière indépendante, de garder une saine méfiance, sans pour autant rejeter par principe les nouveautés. Il souligne que la numérisation est un outil qui offre des opportunités et peut avoir un effet émancipateur. L’essentiel serait de maintenir les débats et d’élever la voix pour renforcer une société démocratique et ouverte. Il est optimiste quant au fait que la pluralité des fournisseurs d’IA continuera de se développer malgré la concentration.

À voir aussi :

L’IA, pas une rédemption – NARRATIVE #155 avec le Dr Martin Braake

La fausse route d’Elon Musk – NARRATIVE #132 avec le Dr Jobst Landgrebe

Prof. Dr. Christoph LütgeIl y en a des preuves claires. Des gens venus des États-Unis ont fait du lobbying ici en Europe. Le meilleur exemple, je l'ai vécu moi-même: Sam Altman d'OpenAI. Il est venu ici, dans mon université aussi d'ailleurs, et a donné des conférences où il a au fond appelé à réguler l'IA. Mais il sait bien sûr que cela ne se passera pas ainsi aux États-Unis. Déjà avant Trump. Les deux gouvernements n'avaient au fond qu'une attitude légèrement nuancée, un peu plus stricte envers l'IA, mais pas vraiment.

Robert CibisÉtait-ce une attaque subversive contre la compétitivité européenne? Il faut le dire ainsi.

Ne manquez aucune émission

Nouveaux films, émissions et articles par e-mail – gratuit, désabonnement à tout moment.

Civilité et nom sont facultatifs.

Votre commentaire