Presentación de la Cátedra Internacional ORIGIN ‘IA Generativa: Retos y Riesgos’

La irrupción de la Inteligencia Artificial Generativa (IAG) ha desencadenado una transformación profunda que ya estamos viviendo. Desde su impacto en la educación, la salud, el derecho o la comunicación, hasta sus implicaciones éticas, sociales y jurídicas, la IAG plantea un horizonte lleno de retos… y de riesgos. Conscientes de esta realidad, la Universidad CEU San Pablo, en colaboración con Deloitte y prestigiosas universidades y entidades internacionales, impulsa la Cátedra Internacional ‘IA Generativa: Retos y Riesgos’, un proyecto pionero cuyo objetivo es anticipar, comprender y orientar los efectos de esta tecnología de manera responsable.

¿Qué es esta Cátedra y por qué es relevante?

La Cátedra nace como respuesta al acelerado desarrollo y adopción de herramientas como ChatGPT o DALL·E, que ya están influyendo activamente en los sectores público y privado. Su enfoque no es solo teórico, sino profundamente práctico y orientado a resultados.

Tres ejes estructuran la Cátedra:

1. Investigación Fundamental: donde se estudian los impactos éticos, jurídicos y sociales de la IAG.

2. Desarrollo Experimental: centrado en la creación de herramientas técnicas para la supervisión e interpretación de los sistemas generativos.

3. Difusión y comunicación: orientado a educar a la ciudadanía, sensibilizar y crear comunidad en torno a una IA ética y transparente.

   
   

Investigación con impacto real

Esta primera línea de trabajo se despliega en paquetes temáticos que abordan:

• Impacto ético y social, incluyendo estudios sobre discriminación algorítmica, fake news o la influencia de la IAG en el metaverso.

• Implicaciones jurídicas, como la propiedad intelectual o la privacidad.

• Transformaciones sociales, analizando desde los cambios en las relaciones personales hasta su efecto en colectivos vulnerables.

  
  

Más de 30 actividades están ya en marcha, involucrando a expertos de CEU, MIT, Universidad de Buenos Aires, Universidad Loyola Andalucía, y entidades como OdiseIA o Women in a Legal World. Todo, bajo la premisa de que los avances tecnológicos deben ir de la mano de la ética y el respeto a los derechos humanos.

Tecnología al servicio de la transparencia

¿Cómo saber qué “entiende” un modelo de IA cuando genera contenido? ¿Qué riesgos se derivan de no poder supervisar esos conocimientos internos?

La Cátedra apuesta por desarrollar una suite técnica para la explicabilidad e interpretabilidad de modelos generativos. Esta plataforma permitirá, entre otras cosas:

• Analizar los embeddings de los sistemas generativos.

• Detectar cambios indeseados durante el reentrenamiento.

• Visualizar y supervisar los conceptos aprendidos por las IAs.

  
  

Este desarrollo tecnológico, liderado por el equipo de Miguel Ángel Liébanas, será agnóstico al proveedor de IA, accesible y abierto a la colaboración de la comunidad investigadora y técnica.

Llevando la IA a la sociedad

El tercer pilar de la Cátedra tiene un objetivo claro: acercar el conocimiento a la ciudadanía y promover una imagen informada y crítica de la IAG.

Incluye:

• Programas de capacitación para diferentes públicos, adaptados a edad, nivel de alfabetización digital, etc.

• Webinars, talleres y contenidos divulgativos permanentes en el sitio web.

• Premios GenIA, que reconocerán iniciativas éticas y transformadoras en el ámbito de la IA.

• Una estrategia digital robusta: redes sociales, SEO, marketing de contenidos y una plataforma web dinámica en varios idiomas.

  
  

Una red internacional de alianzas

La Cátedra cuenta con acuerdos de colaboración con entidades como:

• MIT (SERC), UBA, Universidad Austral, Global AI Ethics Institute…

• Y a nivel nacional: OdiseIA, Microsoft Ibérica, Narrativa, DigitalES, Mutualidad de la Abogacía, entre muchas otras.

  
  

Además, personalidades como Dafna Feinholz (UNESCO) o Leva Martinkenaite (Comisión Europea) participan en el comité asesor, asegurando la alineación de la Cátedra con los estándares internacionales más exigentes.