Aunque la alianza entre Rohan y Gondor resultó victoriosa, la Batalla de los Campos de Pelennor demostró que, aun sin el Anillo Único, Sauron tenía la fuerza suficiente para no ser derrotado en un enfrentamiento directo. Abrumado, Peregrin Took escuchaba y la desolación lo consumía por la enorme carga que llevaba el portador del anillo. Ante el titubeo de los presentes respecto a su siguiente movimiento, Gandalf consoló, pero también advirtió: “No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir”.
A lo largo de esta semana, se ha hablado mucho de la encíclica Magnifica Humanitas desde su publicación el pasado 25 de mayo. En dicho documento, el Papa León XIV cita indirectamente a Gandalf para advertir sobre los retos que implican las Inteligencias Artificiales (IAs) para la preservación de la persona humana. Sí, son herramientas que facilitan el análisis de grandes volúmenes de datos y permiten automatizar actividades tanto cotidianas como de producción. De hecho, en este espacio hemos comentado cómo las IAs nos permiten impulsar la transición energética y desarrollar procesos de manufactura sustentable.
Sin embargo, las IAs son algoritmos que transforman los datos disponibles en información que el usuario necesita. Además, lo hacen en entornos interactivos. Entonces, ¿la transformación que hacen es confiable? Esta pregunta no es fácil de responder y, como se ha discutido durante toda la semana, tampoco debe ignorarse.
Al ser transformaciones de datos, las IAs son funciones matemáticas cuyas variables independientes se relacionan con un entorno donde pueden ser manipuladas por los agentes involucrados. Pero ¿qué es una función manipulable? Matemáticamente, son aquellas que pueden beneficiar a algunos agentes cuando estos toman cierto tipo de decisiones. Por ejemplo, las redes sociales pueden entenderse como funciones manipulables, ya que las *fake news —*un tipo de estrategia empleada por cierto grupo de agentes— se utilizan para lograr un resultado específico, como generar clics en beneficio de quienes las difunden.
¿Y cómo construir una función no manipulable? Notemos que este tipo de funciones involucra a distintos tomadores de decisiones. Es decir, se relacionan con la modelación matemática de interacciones mediante la Teoría de Juegos y la Teoría de la Elección Social. La primera estudia cómo las personas toman decisiones cuando sus resultados dependen de las decisiones de otros; la segunda analiza qué ocurre con la agregación de las prioridades de los involucrados en una decisión colectiva.
Entonces, el diseño de funciones no manipulables se basa en identificar el mejor resultado posible para la sociedad y generar condiciones que permitan a los involucrados tomar decisiones orientadas a dicho resultado. Por ejemplo, interacciones recursivas en las que diferentes bienes se asignen de manera justa.
Es importante resaltar que, aunque las matemáticas proporcionan una base sólida para estudiar y entender los retos que generan las IAs con miras a diseñar sistemas no manipulables, el completo desarrollo e implementación de estos es un trabajo interdisciplinario. El Papa y muchos otros, como Christopher Olah, confundador de Anthropic, coinciden en que el diseño y la regulación de las IAs requieren de la participación de todos, tal como ocurrió con la destrucción del Anillo Único.
