Las ratas no entienden los números primos. ¿Y los humanos podrían llegar a encontrarse en una situación parecida frente a la inteligencia artificial? Geoffrey Hinton, uno de los pioneros de esta tecnología y premio Nobel, ha planteado esta posibilidad durante la apertura del programa principal de conferencias de Starmus, celebrado en Arona, Tenerife.

"Del mismo modo que las ratas no entienden el funcionamiento de los números primos", ha explicado Hinton, los seres humanos podrían encontrarse ante sistemas capaces de comprender cuestiones que quedarían fuera de su alcance. El científico ha ido un paso más allá al sugerir que, si una inteligencia artificial muy superior afirmase algo como cierto, "es mejor que te lo creas".

La comparación con las ratas resume una de las grandes incógnitas del desarrollo de la IA: ¿qué ocurrirá cuando las máquinas sean capaces de entender cosas que nosotros no podamos comprender?

Hinton ha expuesto esta reflexión durante una mesa redonda sobre la búsqueda de la verdad, junto al psicólogo cognitivo Steven Pinker, profesor de Harvard, y Christiana Figueres, exresponsable de Naciones Unidas para el clima. El encuentro, moderado por el astrofísico y fundador de Starmus, Garik Israelian, ha abordado cómo distinguir los hechos de los errores, las invenciones y las creencias en un mundo en el que tanto las personas como las máquinas pueden equivocarse.

Hinton cuestiona los límites de la comprensión humana

Durante su intervención, Hinton ha recordado que algunos especialistas en lingüística rechazaron inicialmente la posibilidad de que los grandes modelos de lenguaje pudieran comprender y producir textos complejos. Entre los ejemplos que ha mencionado figura Noam Chomsky, a quien ha reprochado no haber revisado suficientemente sus posiciones ante las capacidades que comenzaban a mostrar estos sistemas. Para Hinton, la evolución de la inteligencia artificial obliga a reconsiderar qué entendemos por inteligencia y comprensión. Su planteamiento es que las máquinas podrían llegar a manejar conceptos y relaciones que una persona no sería capaz de asimilar, del mismo modo que ciertos animales carecen de las capacidades necesarias para entender las matemáticas abstractas.

La cuestión es qué sucedería si una IA llegara a ser mucho más inteligente que nosotros. ¿Cómo podríamos comprobar que sus respuestas son correctas si no alcanzamos a entender sus razonamientos?

El científico no ha ofrecido una solución definitiva, pero su reflexión pone sobre la mesa uno de los retos del avance tecnológico: cómo verificar el conocimiento generado por sistemas cuyas capacidades podrían superar las humanas.

Las alucinaciones de la IA

Hinton también ha abordado las llamadas "alucinaciones" de la IA, las respuestas falsas o inventadas que estos sistemas pueden ofrecer con aparente seguridad. A su juicio, esos errores no demuestran por sí solos que las máquinas sean incapaces de comprender. El científico ha comparado estos fallos con la tendencia humana a reconstruir recuerdos o confabular sobre hechos que creemos conocer. Como los modelos de lenguaje aprenden a partir de grandes cantidades de contenido producido por personas, también pueden reproducir algunos de esos patrones.

Steven Pinker ha coincidido en que las capacidades de los grandes modelos de lenguaje fueron subestimadas, aunque ha insistido en la necesidad de comprobar sus respuestas y no limitarse a valorar si resultan convincentes. Que una inteligencia artificial responda con seguridad no significa que tenga razón. Su utilidad dependerá de su capacidad para ofrecer información correcta y verificable, no únicamente de que consiga satisfacer al usuario.

¿Existe una verdad objetiva?

El debate también ha llegado a una cuestión que va más allá de la tecnología: qué significa decir la verdad y cómo se distingue un hecho de una opinión.

Christiana Figueres ha defendido la importancia de reconocer las distintas perspectivas personales y ha propuesto "enamorarse de la incertidumbre", entendida como una forma de mantener abiertas las preguntas y revisar aquello que damos por sentado.

Hinton ha discrepado de esa formulación y ha defendido la existencia de una verdad objetiva. Según su planteamiento, las personas pueden utilizar conceptos diferentes, pero, una vez aclarado su significado, determinar si una afirmación es verdadera no debería depender de una opinión.

El científico ha resumido su postura con una distinción: el poder puede influir en lo que una sociedad considera verdadero, pero no puede cambiar la verdad en sí misma.

La discusión ha servido para abordar por qué los hechos no siempre consiguen cambiar las creencias. Pinker ha señalado que las personas suelen resolver con sentido práctico los problemas cotidianos, pero tienen más dificultades ante cuestiones complejas o alejadas de su experiencia directa.

Ha defendido el valor de la ciencia, el periodismo responsable y la democracia como sistemas que permiten cuestionar afirmaciones, contrastar pruebas y corregir errores. Su fortaleza no consiste en ser infalibles, sino en disponer de mecanismos para revisar sus propias conclusiones.

El cambio climático y el peso de las creencias

Figueres ha recurrido al cambio climático para ilustrar la distancia que puede existir entre la evidencia científica y las decisiones de la sociedad. Aunque existe un amplio consenso científico sobre el calentamiento global y su origen humano, ha advertido de que algunas personas aprovechan los márgenes de incertidumbre para sembrar dudas sobre las conclusiones generales.

A su juicio, disponer de pruebas no basta para impulsar cambios si no existen las condiciones sociales, políticas y psicológicas necesarias para actuar.

Pinker, por su parte, ha señalado que el cambio climático se ha convertido en una cuestión vinculada a la identidad política. En su opinión, la asociación del debate con determinadas figuras y posiciones políticas, entre ellas Al Gore, ha contribuido a que algunas personas interpreten la evidencia científica desde su afinidad ideológica.

El encuentro de Starmus ha dejado así una reflexión que conecta la inteligencia artificial con uno de los problemas más antiguos de la sociedad: cómo sabemos que algo es cierto, por qué nos resistimos a las pruebas y qué mecanismos necesitamos para corregir nuestros errores.

Y la comparación de Hinton con las ratas plantea una última pregunta: si algún día las máquinas comprenden cosas que nosotros no podemos entender, ¿cómo sabremos cuándo tienen razón? Porque quizá el verdadero problema no sea que la inteligencia artificial llegue a pensar más que nosotros, sino que terminemos confiando en ella sin saber por qué. Y, a diferencia de las ratas ante los números primos, los humanos tendremos que encontrar la manera de comprobarlo.

Fuente: EFE