La Universidad y la Inteligencia Artificial

La Universidad de Granada ha aprobado un documento pionero en la universidad española sobre el uso de la Inteligencia Artificial (IA) en la Universidad. El documento es el resultado de un proceso participativo de más de cien miembros de la comunidad universitaria de todos los sectores. En el mismo se destaca el enorme potencial de la IA para mejorar el proceso de aprendizaje, agilizar los procesos de gestión y ayudar a la toma de decisiones estratégicas. Pero también profundiza en sus implicaciones éticas y en sus peligros. A continuación vamos a intentar hacer un pequeño resumen de este documento, cuya lectura aconsejamos.

¿De qué hablamos cuando nos referimos a la IA generativa? Se trata de sistemas que intentan simular algún aspecto de la inteligencia humana como la toma de decisiones, el razonamiento o el aprendizaje. Son capaces de generar contenido a partir de nuestras peticiones, que aprenden a partir de grandes conjuntos de datos. Dentro de estos modelos, tenemos los denominados Large Language Models (LLM), que pueden procesar textos en lenguaje natural. Es el caso del popular ChatGPT. Lo más importante es usar IA Generativa con privacidad de datos.

Algunos problemas y amenazas en la utilización de IA de acceso público están relacionados con la privacidad y la protección de datos, pues las informaciones que se introducen en las IA Generativas pasan a ser datos públicos de los que perdemos el control de su uso. De la misma forma se pueden producir problemas de sesgo, pues las IA Generativas pueden reproducir distorsiones o desviaciones, como estereotipos no deseados. Pero también pueden producir problemas de integridad académica y propiedad intelectual, con el evidente riesgo de plagio. No menos problemática puede ser la falta de transparencia, derivada de que los modelos utilizan variables que no son accesibles al usuario. Por último estaría el problema de la veracidad, pues muchas respuestas generadas por la herramienta son completamente fabricadas.

Aunque las ventajas del uso de la IA en la docencia y el aprendizaje en educación superior llevan desarrollándose varias décadas (informe 2023 EDUCAUSE Horizon Report, Teaching and Learning Edition), es importante destacar que las oportunidades que brindan estas herramientas están relacionadas con el diseño pedagógico de la experiencia que se quiera implementar, que mejora la eficiencia en la programación y actualización de guías docentes, la planificación de cursos y asignaturas, o el diseño de asignaturas para aumentar la motivación del estudiantado. Pero también puede ayudar a la generación de material docente, o al propio desarrollo del proceso formativo mediante metodologías activas que promuevan la participación, la reflexión crítica, o incluso ayuden al proceso de evaluación.

En lo referente a la investigación, también es muy útil la utilización de la IA en aspectos como la recopilación y gestión de la información, además de la revisión y gestión bibliográfica; el diseño de la investigación, identificando ideas generales, generando preguntas de investigación e hipótesis mediante el análisis de datos previos, diseñando metodologías de investigación o incluso diseñando experimentos para obtener datos útiles y significativos. No menos importante será la ayuda para el desarrollo de la propia investigación garantizando la representatividad de las muestras, así como la validez y rigurosidad de los datos, la simulación de los mismos, o realizando el análisis estadístico y la interpretación de los datos.

Pero, además de tener en cuenta las amenazas resaltadas al principio, es necesario no perder de vista que siempre será necesaria la supervisión del investigador para evitar dichos problemas y, sobre todo, para garantizar la integridad y ética científica que eviten simulaciones fraudulentas de datos, plagios, falseamiento de habilidades, calidad de la investigación, precariedad de los investigadores, generación de imágenes artificiales o incrementos innecesarios de costes económicos y ambientales.

Hace un tiempo, mi nieta Laila y yo hicimos un pequeño experimento consistente en comprobar el comportamiento lógico del prototipo de IA que ponía a nuestra disposición la compañía Apple a través de Siri. También queríamos saber si vulneraba con sus respuestas algunos de los principios y estándares fijados internacionalmente, como los principios sobre IA de la OCDE. En concreto, si se respetaban los derechos humanos, los valores democráticos, la diversidad y el Estado de Derecho, o se incluían los mecanismos apropiados para permitir la intervención humana, cuando fuese necesario, para garantizar una sociedad justa y equitativa. Lo hicimos a través de un cuestionario, cuyos resultados dejamos plasmados en un artículo firmado por ambos, titulado “Interrogando a Siri”, al que nos remitimos.

La última pregunta de este cuestionario, que quiero resaltar por su actualidad, fue la de qué eran las Fake News. La respuesta de Siri fue muy formal, aunque de una certeza absoluta: “Son noticias falsas. Un tipo de bulo con un contenido pseudoperiodístico, difundido por distintos medios, cuyo objetivo es la desinformación”.

Como explicábamos al finalizar aquel artículo, las redes sociales pueden favorecer unas sociedades más plurales, pero ese pluralismo, imprevisible e inestable, puede afectar a la seguridad global al ser utilizado como arma en contra de los adversarios. Justamente lo que está ocurriendo actualmente en el mundo y, especialmente, en nuestro país.

A ver si al menos en estas navidades tenemos unos días de paz, concordia y tranquilidad.

¡Felices Fiestas!