Cada día hay millones de plataformas digitales que nos muestran sugerencias sobre esa película que podría encantarnos, la canción que mejor encaja con nuestro estado de ánimo o el producto perfecto para nuestra próxima compra. No obstante, y aunque muchas veces den en el clavo con sus predicciones, ¿cuál es la explicación de que nos sugieran exactamente esos ítems?

Para poder encontrar la solución, un grupo de investigación del Centro de Investigación en Tecnologías de la Información y la Comunicación de la Universidad de A Coruña, formado por Jorge Paz Ruza, Amparo Alonso Betanzos, Bertha Guijarro Berdiñas, Brais Cancela Barizo y Carlos Eiras-Franco, ha desarrollado recientemente ‘Brie’, un modelo que utiliza imágenes seleccionadas de forma inteligente para explicar las recomendaciones que recibimos, ayudando a entender mejor sus sugerencias y, además, reduciendo drásticamente su consumo energético. “El pionero en incorporar marcadores inteligentes fue Google, a principios del año 2000. Sin embargo, el primero en incorporar inteligencia artificial fue Netflix. Ahora mismo tenemos recomendaciones hasta en la sopa”, concretó Jorge Paz, uno de los investigadores.

Para Paz, que estos sistemas inteligentes no nos cuenten la explicación de su elección es un problema en dos sentidos: “Por un lado, hace que el sistema funcione peor porque se acaba teniendo menos feedback con la marca y la gente dude si comprarlo o no. Al parecer una caja negra, hace que confiemos menos en los sistemas de IA en general”, apuntó.

Un nacimiento obligado

El nacimiento del modelo innovador ‘Brie’, en 2019,  es solo uno de los proyectos en marcha en busca de la “explicabilidad” de la IA. Y es que, en plena erupción de la tecnología, “es muy importante que los ciudadanos confíen en ella”, dijo Paz. La iniciativa, que cuenta con la colaboración de la Universidad de Oviedo, muestra imágenes que el usuario haya valorado positivamente en el pasado, facilitando así la comprensión del sistema.

“Queda mucho camino por recorrer, lo que hicimos es solo la pieza de un pequeño puzle”, concretó Jorge Paz

En la enseñanza, por ejemplo, cada vez es más común que los alumnos utilicen algún tipo de inteligencia artificial, sin saber realmente su alcance y, sobre todo, su fiabilidad. Además, para los profesores cada vez es un mayor problema poder detectar unas herramientas que ya están presentes en el día a día de muchos estudiantes. “ChatGPT tiene un gran problema en este sentido porque suena muy confiado pero ni cita ni explica de dónde vienen sus conocimientos. Al final, es una herramienta que cada día utilizan más personas y no es fiable del todo. Queda mucho camino por recorrer, lo que hicimos con este modelo es solo la pieza de un pequeño puzle”.

Además, entrenar estos modelos requiere grandes cantidades de energía. “Nosotros partimos de una aproximación y lo que hacemos es modificar la forma en la que generan el modelo para conseguir reducir lo que tarda, tanto en entrenar, como a la hora de utilizar el sistema para inferir el consumo, el tiempo y el tamaño,  que es muy importante”, explicó.

Reconocimiento

Este logro ha sido reconocido recientemente con el Premio a la Mejor Publicación Científica en Sistemas de Recomendación (Elige-IA), un galardón que cada año se otorga a la mejor publicación científica, valorando la innovación, el impacto social y la calidad de los trabajos presentados. En esta edición, el comité experto seleccionó el trabajo del Citic de la UDC entre un total de ocho candidaturas de gran nivel: “Para nosotros es una gran alegría. Llevamos trabajando muy duro unos cuantos años y merecíamos algo así, aunque éramos conscientes de que el nivel era muy alto”.

Este reconocimiento destaca el trabajo más relevante a nivel nacional en este ámbito durante el período 2023-24. El artículo premiado se encuentra publicado en la revista Information Fusion y se titula ‘Sustainable transparency on recommender systems: Bayesian ranking of images for explainability’.