Prof. Dr. Christoph Lütge | NARRATIVE #211 by Robert Cibis

Aquí tiene una versión de unos 30 minutos sin restricciones; nuestros suscriptores de OVALmedia pueden disfrutar del programa completo.

Solo audioVersión corta · 30 min
Los suscriptores escuchan la conversación completa (1:34:11). Ver la suscripción OVALTambién como pódcast

Vea el programa completo con OVAL Abo

Arriba puede ver una versión corta.

desde 7 € / mes · cancelable en cualquier momento · esta y todas las demás películas, programas y artículos



¿La ética, K.O.?

Robert Cibis se encuentra con el profesor Christoph Lütge, catedrático de ética económica y director del Instituto de Ética de la Inteligencia Artificial. ¿Dónde están la economía y la sociedad desde la crisis de las medidas de 2020-2022, y también ante el papel disruptivo de la inteligencia artificial (IA)? Cibis subraya que los acontecimientos recientes han provocado una disonancia cognitiva masiva que obliga a plantear preguntas de fondo, sobre todo ante la disfuncionalidad generalizada de la sociedad alemana.

La regulación de la IA como arma

El profesor Lütge ve pruebas claras de que actores de Estados Unidos han hecho lobby en Europa para impulsar la regulación de la IA. Como «mejor ejemplo» cita a Sam Altman, de OpenAI, que dio conferencias en las que en el fondo pedía regulación, aun sabiendo que en Estados Unidos no ocurriría lo mismo. Cibis pregunta si se trata de un ataque subversivo contra la competitividad europea, a lo que Lütge responde afirmativamente y lo califica de «imposible de negar».

Europa, dice, va muy por detrás en IA: solo el 5 % de la capacidad de cálculo en IA se genera en Europa, mientras que el 85 % está en Estados Unidos. La tendencia europea a una «orgía regulatoria» (como la Ley de IA, la Ley de Mercados Digitales y la Ley de Servicios Digitales) perjudica a las empresas europeas, sobre todo a las pymes y a las start-ups, que no pueden permitirse departamentos de cumplimiento propios, algo natural para las grandes plataformas. Esta sobrerregulación sería contraproducente, ya que fuera de Europa casi nadie en el mundo apoya una regulación tan dura. El año pasado, el informe Draghi sobre la competitividad europea reconoció este problema al decir, en esencia: «We are killing our own companies».

Ética en la IA

En lugar de una regulación rígida, el profesor Lütge defiende la llamada «soft governance»: directrices que orientan, pero que no tienen que fijarse hasta el último detalle. El mejor escenario sería contar con principios éticos que funcionen y que también interesen a las empresas y organizaciones, porque los usuarios solo utilizan sistemas en los que confían. La confianza es decisiva, por ejemplo en los vehículos autónomos o en la sanidad, donde la IA puede salvar vidas. Medidas para generar confianza podrían ser sellos de calidad o servicios externos que controlen el uso de los datos.
La conversación aborda también el uso de datos: Lütge considera que en Alemania los obstáculos para usar datos de pacientes en el entrenamiento de modelos de IA son demasiado altos. Quien no lo hace, dice, obtiene los datos del extranjero (China, Estados Unidos). Subraya que hay que estar atentos a la posible aparición de escenarios de vigilancia. Preguntado por la preocupación de si la propia IA llevó a pérfidas concentraciones de poder (como durante la crisis de las medidas de 2020-2022), Lütge lo niega, porque la IA generativa no despegó con fuerza hasta finales de 2022. Distingue la IA generativa (por ejemplo ChatGPT, que genera textos, imágenes y películas) de la inteligencia artificial general (AGI), que podría reproducir las capacidades humanas en todos los aspectos esenciales. Duda de que los avances actuales supongan ya un paso fundamental hacia la AGI, es decir, la singularidad, o incluso hacia sistemas con conciencia.

El Consejo Ético de Baviera y la «caza de brujas»

Robert Cibis reconoce la firmeza de Lütge, que defiende posiciones críticas pese a las desventajas. El profesor Lütge relata sus experiencias, sobre todo en relación con su destitución del Consejo Ético de Baviera. Allí se había pronunciado de forma polémica sobre los confinamientos y otras medidas. Eso desencadenó una «auténtica caza de brujas mediática» en el Süddeutsche Zeitung, que lo acusó de querer que murieran las personas mayores, cuando solo había señalado que la edad media de los «muertos por coronavirus» era superior a la edad media normal de fallecimiento. Poco después fue apartado del organismo sin explicación. Sospecha que detrás había intereses políticos que no toleraban voces críticas, sobre todo porque coincidió con un momento en el que también estaban en juego las candidaturas a la cancillería. Esa postura crítica le acarreó perjuicios, como la pérdida de financiación para la investigación y la ruptura de relaciones profesionales.

Una revisión social

Lütge subraya que considera prioritaria una revisión social de la crisis de las medidas para cerrar las brechas en la sociedad. Critica que en Alemania apenas se haya hecho nada al respecto, mientras que en otros países (por ejemplo, Estados Unidos) acontecimientos políticos o elecciones ya han forzado una revisión mayor.

Lütge y Cibis critican la forma en que las medidas se aplicaron políticamente y se vendieron en los medios. Lütge señala que la política se apoyó con gusto en «la ciencia», que aparentemente le decía algo inequívoco, pero que «en cierto modo se había encargado» (por ejemplo, los dictámenes de la Leopoldina). La duración de las medidas habría sido desproporcionada, sobre todo el segundo confinamiento a partir de noviembre de 2020, cuya coordinación también debería investigarse. A diferencia de Alemania, donde los debates apenas se celebraron en el Parlamento, Lütge ve en otros países (como Inglaterra) un debate parlamentario más intenso. En aquella época, los consejos éticos habrían servido a menudo para justificar éticamente a posteriori medidas ya decididas políticamente.
Como argumento sólido de que las medidas fueron excesivas, Lütge menciona la ausencia de gripe durante la crisis, que también se observó en Suecia, un país sin confinamientos ni reglas 3G o 2G. Critica la creciente «obsesión por el control» de la política y las amplias competencias de las instituciones de la UE, que carecen de contrapesos críticos. Como ejemplo alarmante cita la obligación en toda la UE de instalar en los coches nuevos sistemas de control que avisan del exceso de velocidad e incluso intervienen en la dirección.

Recomendación

El profesor Lütge aconseja a los espectadores informarse sin prejuicios y de forma independiente, mantener una sana desconfianza, pero sin rechazar por principio las novedades. Subraya que la digitalización es una herramienta que ofrece oportunidades y puede tener un efecto emancipador. Lo decisivo es mantener vivos los debates y alzar la voz para fortalecer una sociedad democrática y abierta. Se muestra optimista en que la pluralidad entre los proveedores de IA seguirá desarrollándose pese a la concentración.

Vea también:

La IA no es la salvación – NARRATIVE #155 con el Dr. Martin Braake

El camino equivocado de Elon Musk – NARRATIVE #132 con el Dr. Jobst Landgrebe

Prof. Dr. Christoph LütgeHay pruebas claras de ello. Aquí en Europa hubo gente de Estados Unidos haciendo lobby. El mejor ejemplo lo viví yo mismo: Sam Altman, de OpenAI. Vino aquí, también a mi universidad, por cierto, y dio conferencias en las que en el fondo pedía regular la IA. Pero sabe, claro, que eso no va a pasar así en Estados Unidos. Ya antes de Trump. Ambos gobiernos tenían en el fondo solo una postura ligeramente matizada, algo más estricta hacia la IA, pero no de verdad.

Robert Cibis¿Fue un ataque subversivo contra la competitividad europea? Hay que decirlo así.

No se pierda ningún programa

Nuevas películas, programas y artículos por correo: gratis, puede darse de baja en cualquier momento.

Trato y nombre son opcionales.

Su comentario