ALICIA SEOANE | Miércoles 12 de febrero de 2025 | 9:40
Las Jornadas de Filosofía y Metodología actual de la ciencia, cumplen 30 años. Esta edición estarán centradas en un tema que está muy presente en la actualidad: La Inteligencia Artificial desde el punto de vista del Análisis de la racionalidad y Reflexiones Éticas.
El Doctor y Catedrático de Lógica y Filosofía de la Ciencia de la Universidad de A Coruña, Wenceslao J. González, nos atiende en su despacho del Campus Industrial de Ferrol. Su despacho está repleto de libros y folletos, y la mesa en torno a la que nos reunimos a conversar está llena de carpetas de las próximas jornadas que tendrán lugar el 13 y 14 de marzo.
Queda menos de un mes para que el Campus ferrolano, acoja a investigadores de las principales universidades internacionales, desde Nueva York, a Londres, pasando por Florida, Oxford, Fráncfort, o Aarhus en Dinamarca. Podéis consultar todo el programa pinchando aquí.
Inteligencia Artificial desde sus orígenes
Para analizar el estado de la cuestión nos remontamos al estudio de la Inteligencia Artificial, desde sus orígenes que se lleva investigando desde hace muchos años. Un fuerte impulso en el estudio de la IA tuvo lugar en los años 50.
El doctor W. González trabajó en Pittsburgh con Herbert Simon, una de las figuras clave de la línea de investigación de la Inteligencia Artificial inspirada en criterios lógicos (logical theorist). Fue premio Nobel de Economía, pero, a su vez, también premio Alan Turing en Computer Sciences.
Herbert Simon ya se plantea qué tipo de racionalidad tienen los mecanismos de inteligencia artificial, explica Wenceslao González, «él es uno de los auténticos padres de la Inteligencia Artificial, uno de los pioneros en este campo, pues probó un teorema lógico utilizando ordenadores en diciembre del 55».
Simon se plantea que hay diferencias a la hora de definir la racionalidad: él distinguía: la racionalidad administrativa que se utilizaría por ejemplo en entidades públicas, la racionalidad de los seres humanos en general «cuando tomamos decisiones» en el ámbito económico, y luego estaría la racionalidad simbólica, que «sería el tipo de racionalidad de la que hablamos cuando nos referimos a la inteligencia artificial».
Wenceslao González considera que el análisis filosófico de la Inteligencia Artificial ha de comenzar por verla como Ciencia de Diseño, para llegar después a su estudio como Tecnología. «La Ciencia de Diseño es un tipo de Ciencia de lo Artificial. Es decir, están las Ciencias de la Naturaleza, están las Ciencias Sociales y están las Ciencias de lo Artificial. Hay entonces un diseño, que se hace por parte de agentes humanos, para conseguir metas, unos objetivos que amplían las posibilidades humanas».
Sobre la base de diseños científicos llegamos a la posterior la posterior aplicación tecnológica de este tipo de Inteligencia Artificial. «Ahora está muy de moda la IA generativa —el ChatGPT y el DeepSeek—, que se entrenan con modelos basados en grandes cantidades de lenguaje natural y con un alto coste de energía. Esas combinaciones de palabras dan lugar a algo nuevo, que puede tener muy diversas aplicaciones. Esta concepción de la Inteligencia Artificial se apoya en el aprendizaje de máquina inspirado por la idea de redes neuronales. Una figura clave en esta línea de investigación es Geoffrey Hinton, que en la Universidad de Cambridge fue alumno de Donald Gillies, que es un miembro de nuestro Comité científico».
Donald Gillies es un catedrático jubilado de la Universidad de Londres, de University College London, «con el cual yo estuve comiendo este verano y estuvimos hablando durante dos horas de inteligencia artificial, que es lo que todo el mundo hace cuando está con un amigo, estar dos horas hablando de Inteligencia Artificial», se ríe, «tiene un libro publicado en Oxford University Press sobre este tema y ahora está preparando uno nuevo, para tratar de los nuevos desarrollos de IA a partir de sus bases científicas».
«Hay entonces un interés mío por este tema desde una perspectiva filosófica, como ya se reflejó en 2017 en un artículo que publiqué en la revista Minds and Machines, que se coordina desde Oxford. Hay también una conexión humana, primero con Herbert Simon y, después, con Donald Gillies como profesor de Geoffrey Hinton. Esto completa el círculo de relaciones» afirma el doctor González.
Gillies puso de relieve que el gran salto delante de las ideas de G. Hinton vino por la posibilidad de utilizar una mayor capacidad de computación. Así, sus planteamientos basados en la idea redes neuronales cobraron nueva forma al poder trabajar con cantidades masivas de datos.
«el gran paso adelante, se da con el uso de una capacidad de computación capaz de trabajar con miles de datos, con millones de datos. Los Big Data manejaban cantidades ingentes de información, muy superior a lo que era posible en los años 90».
Reflexiones éticas que se plantean en la Comunidad Científica
Llegamos al punto donde en las jornadas se plantea la cuestión siguiente ¿Cómo entender esa racionalidad de IA? ¿Las máquinas se parecen cada vez más a la mente humana? ¿Cabe, incluso, hablar de una «mente digital»?
El problema que llevó a Hinton a dejar sus cargos en Google en 2024 viene dado por su gran preocupación acerca del el futuro. Este científico considera que «podríamos estar creando una superinteligencia, una “inteligencia artificial general” capaz de superar todas las potencialidades humanas y que, por tanto, escaparía de nuestro control».
Lejos de la ciencia ficción, y las películas sobre relaciones humanas y desarrollo tecnológico, la Comunidad Científica, lleva años cuestionándose y debatiendo sobre los límites éticos que plantea el desarrollo de la IA.
El problema de fondo, visto en clave filosófica, es si podría existir una «mente digital», entendiendo por mente algo que incluye inteligencia, voluntad y afectividad, «Esto significaría que esa mente digital tendría capacidad de razonar, tendría voluntad para decidir y tendría capacidad de expresar afectividad». En este caso, habría que ver si se está intentando equiparar la mente humana a esa mente digital, desde un punto de vista cualitativo, y no meramente desde una perspectiva funcional, reconociendo además la potencia operativa de la IA.
Si entendemos la IA como instrumento que nos puede servir para trabajar o para realizar múltiples tareas, hay una componente claramente positiva, que ciertamente dilata las posibilidades humanas para llegar a nuevas cotas individuales y sociales.
Cuando se considera el asunto desde la racionalidad, surge una dificultad importante, que expuso Thomas Nickles en las Jornadas del año 2020. Este Catedrático de la Universidad de Nevada en Reno planteó que en la actual IA ya se detecta un razonamiento ajeno a lo humano, que llama «alien reasoning». Este razonamiento alienígena acompaña a una Inteligencia Artificial que funciona de forma autónoma, pero que, para nosotros, es de hecho incomprensible.
Este escenario es el que preocupa a muchos investigadores, en la medida en que el control sería de la máquina sobre el humano y no al revés. Eso es motivo de preocupación para Hinton, que llegase un momento que generemos una inteligencia general artificial con capacidad de tomar decisiones autónomas. Unas decisiones que los humanos no controlamos y que pueden tener consecuencias en muchos contextos: médicos, educativos, militares, etc.
Así, explica Wenceslao González, «este escenario, me preocuparía, porque sería el control de la máquina sobre el humano y no al revés. Eso es lo que le preocupaba a Hinton, que llegase un momento que generemos una Inteligencia General Artificial y tenga la capacidad de tomar decisiones autónomas, decisiones que los humanos ni supervisamos, ni controlamos, ni podamos parar», y añade «imagina esto en un contexto militar, sanitario… ».
El congreso además de las cuestiones sobre racionalidad, planteará cuales son los límites éticos en los objetivos, en los procesos y los resultados del trabajo con la IA. Se trata de ver qué se puede hacer y qué se debería hacer. Porque, en palabras de Wenceslao J. González , «¿Qué es lo más racional? Lo preferible, y no meramente lo preferido» a lo que la respuesta es contundente: «una Inteligencia Artificial bajo control humano».
Las personas interesadas en asistir a las jornadas pueden inscribirse hasta el 21 de febrero, en la dirección jornadas.filosofia.ciencia@udc.es.
Un encuentro imprescindible para comprender y descifrar la discusión actual entorno a la IA, y las diferentes posiciones en torno a su regulación.
Debate sobre el post