La revisión por pares es imperfecta, cara, lenta y a veces injusta, pero sigue siendo lo único que separa un descubrimiento de una nota de prensa bien redactada.

¿Una ciencia sin filtros? La polémica sobre la revisión por pares

El anuncio de la creación de la vida en un laboratorio es una prueba más de que la ciencia avanza hacia un sistema de publicación sin revisión con consecuencias inciertas

Una persona lee una revista científica. ... Victor Sanjuan

Patricia Fernández de Lis

04 JUL 2026 - 05:30 CEST

Hace unos días, los periodistas de ciencia sufrimos una pequeña arritmia al recibir una alerta en el móvil con una noticia de The New York Times, que tenía un titular muy sugerente: “Esta célula se alimenta, crece y se reproduce. Y es artificial”. Ese vuelco en el corazón lo conoce cualquier periodista; ocurre cuando la competencia publica una noticia que él o ella no tiene. Pero los reporteros científicos nos alertamos de otra manera: “¿Me he comido un embargo?”

Y es que la ciencia avanza de una forma muy especial, que poca gente conoce. Un investigador o grupo de ellos puede pasar meses o años trabajando en un descubrimiento, y cuando lo hace, remite esa investigación a revistas como Nature o Science, las más importantes en ciencia. Estas publicaciones someten ese descubrimiento a lo que se llama “revisión por pares”, es decir, se lo remiten a otros científicos del mismo campo, que pueden rechazar el estudio o pedir cambios a esa investigación, en un proceso que puede durar años y que resulta absurdamente caro. Una vez admitida su publicación, los periodistas recibimos “embargadas” esas investigaciones, es decir, las podemos leer con varios días de antelación, para poder hacer así nuestro trabajo con el tiempo necesario para entender y valorar el descubrimiento. De ahí mi arritmia: si se ha creado vida artificial, el estudio debería haber sido publicado por Nature y Science y, si no lo he visto, no es que sea mala periodista, es que ni siquiera sé leer. Pero no: el Times había publicado una investigación que le pasaron, y que estaba sin revisar.

¿Hizo mal el Times? En esto hay una verdad incómoda: el sistema está podrido. Publicar en abierto en Nature cuesta 12.850 dólares por artículo. La revisión, que debería durar semanas, se eterniza hasta dos o tres años, mientras los editores exigen experimentos adicionales que devoran becas, tiempo y talento, sin que después se mueva una coma de las conclusiones. Los críticos de este modelo lo dicen con crudeza: los editores dejaron de valorar si un descubrimiento era importante y empezaron a medir el mérito por kilos de datos, para blindarse ante cualquier decisión discutible. El resultado es un peaje absurdo pagado, casi siempre, con dinero público. Y un negocio redondo: el investigador entrega el trabajo gratis, otro colega lo revisa gratis y la editorial cobra por publicarlo y, después, por dejar que lo leamos. Ningún otro sector se atrevería a tanto.

Por eso, cada vez más investigación se difunde en preprints, esos borradores que se publican sin pasar el filtro de otros expertos. La revisión por pares empieza a parecer opcional. ¿Estamos ante el final de la ciencia tal y como la conocemos?

Aquí asoma la inevitable inteligencia artificial, que sus defensores presentan como el bisturí capaz de amputar toda la grasa ceremonial de la revisión por pares y, de paso, el gran negocio de las editoriales científicas: si una máquina verifica en horas lo esencial de un paper, el tribunal de sabios lentos y carísimos sobra.

Ojalá fuera tan sencillo. Porque el problema de la célula artificial no es que sus autores tuvieran prisa, sino que confundieron anunciar con demostrar. La revisión por pares es imperfecta, cara, lenta y a veces injusta, pero sigue siendo lo único que separa un descubrimiento de una nota de prensa bien redactada. Cuando la eliminamos, no democratizamos la ciencia: la dejamos a merced de quien tenga mejor gabinete de comunicación. Y eso, en tiempos de bulos con bata blanca, es jugar con fuego.

La solución no es dinamitar el filtro, sino arreglarlo: revisión más rápida, más barata y más transparente. Mientras tanto, cada vez que alguien nos venda vida artificial en rueda de prensa, los periodistas debemos hacer lo que ya hacíamos, que es lo que haría cualquier buen revisor: pedir los datos, dudar, esperar y preguntar.

ChatGPT acaba de resolver el problema de la “distancia unidad”.

Ciencia de noche

La mente creativa no se basa en la mera aplicación de un método, sino que surge de los pasos perdidos y del lado oscuro de la existencia

Flashpop (Getty Images)

Javier Sampedro

23 MAY 2026 - 05:30 CEST

Dibuja nueve puntos en un papel. Ahora, forma pares de puntos de modo que tengan la misma longitud, y cuantos más mejor. Si pones los nueve puntos en fila, solo puedes formar ocho pares iguales. Si los pones en un cuadrado de 3 por 3, puedes formar 12 pares iguales. Hasta ahí bien. El reto matemático es: para cualquier número de puntos, ¿cuántos pares iguales puedes formar? Se llama problema de la “distancia unidad”, y lleva 80 años trayendo de cabeza a los matemáticos de todo el mundo. Pero eso se acabó, porque ChatGPT acaba de resolverlo. Los expertos que han analizado la solución dicen que es brillante y elegante, unos adjetivos que los matemáticos no suelen regalar. También dicen que sería digno de publicación en una revista matemática profesional, o que al menos lo sería si lo hubiera hecho un humano.

Los detalles tienen su interés. Fue el matemático húngaro Paul Erdös, un genio extravagante, quien planteó el problema de la distancia unidad en 1946, y quien hizo una conjetura sobre la mejor estrategia: que los puntos dispuestos en una rejilla darían siempre la mejor solución, fueran pocos o muchos. En 80 años, nadie ha podido demostrar esa conjetura, ni tampoco refutarla. Hace dos semanas, sin embargo, los matemáticos de OpenAI (la empresa creadora de ChatGPT) Mehtaab Sawhney y Mark Sellke le plantearon la cuestión a la máquina. No usaron exactamente ChatGPT, sino otro LLM (large language model, modelo grande de lenguaje) entrenado previamente para hacer razonamientos generales. Sawhney y Sellke preguntaron al LLM si Erdös estaba en lo cierto. Y el LLM demostró que no lo estaba por el sencillo método de inventar una solución mejor que la rejilla cuadrada. “Parece magia”, ha declarado Sawhney a Scientific American. “Es una experiencia asombrosa ver a la máquina responder algo que realmente se parece a mi modo de trabajar”.

La solución del robot es difícil de visualizar, pero, por fortuna, no tenemos por qué hacerlo aquí. Lo que me interesa destacar es que esta historia no solo refuta a Erdös, sino también al millón de críticos que sostienen —sin pruebas— que la inteligencia artificial (IA) no hace más que copiar a los humanos y que, por tanto, no puede ser creativa. Ahora es obvio que sí puede serlo, porque aquí no había una maldita persona a quien copiar. El hecho de que las primeras muestras de IA creativa nos lleguen de las matemáticas —ya había otros ejemplos de menor nivel— es solo una cuestión de claridad. Saber si una melodía es creativa es muy difícil, porque depende de unas consideraciones subjetivas imposibles de validar. En matemáticas, sin embargo, esa ambigüedad puede reducirse, casi eliminarse.

Pero los matemáticos de OpenAI no creen que haya nada especial en la creatividad matemática, y están seguros de que este tipo de sistemas se podrán utilizar en física, química, biología y cualquier otro sector científico. Y artístico, añadiría yo, porque nunca he creído que las artes y las ciencias sean dos compartimentos estancos. Las mentes innovadoras funcionan igual en cualquier ámbito del conocimiento.

Dice el biólogo computacional Itai Yanai, de la Universidad de Nueva York, que hay una ciencia de día basada en experimentos, estadísticas y argumentos rigurosos, y otra ciencia de noche que es “loca e irracional”, pero sin la cual no puedes hacer descubrimientos realmente importantes. Como August Kekulé, que descubrió que el benceno era un anillo tras quedarse traspuesto junto a la chimenea y soñar con una serpiente que se mordía la cola, e inaugurar así la nueva ciencia de la química orgánica, la mente creativa no se basa en la mera aplicación de un método, sino que emerge de la exploración gratuita, de los pasos perdidos, del humor juguetón y del lado oscuro de la existencia. Quizá en eso todavía podamos ganar a ChatGPT.

Todo el mundo está de acuerdo en que ChatGPT ha superado el test de Turing...

El test de Einstein

La idea es alimentar a la máquina con todo el conocimiento humano, pero solo hasta 1911, y ver si es capaz de descubrir la teoría de la relatividad

Gary Kasparov, durante su partida contra Deep Blue, en Nueva York en 1997.

Bernie Nunez (Getty Images)

Javier Sampedro

28 FEB 2026 - 05:30 CET

Me dan pena los robots. Si ganan al campeón del mundo de ajedrez, el ajedrez ya no nos vale como criterio de inteligencia. Si ganan al de go, eso es una extravagancia de chinos. Si al de póker, eso solo quiere decir que saben hacer trampas. Luego van y predicen la forma de las proteínas mejor que 200.000 estudiantes juntos haciendo la tesis durante tres años, les dan el premio Nobel y eso no le importa a nadie. Demuestran teoremas, resuelven enigmas matemáticos, interpretan las resonancias magnéticas mejor que los médicos, escriben código más deprisa que los informáticos y que si quieres arroz, Catalina. Todo el mundo los utiliza a diario, pero nadie les reconoce su ayuda. Son una estafa, una burbuja, un augurio del apocalipsis, la negación del humanismo, la nada. Ya te digo, me dan pena los pobres, tan feos y solitarios, tan misteriosos e incomprendidos. Menos mal que no tienen emociones. Todavía.

Todo el mundo está de acuerdo en que ChatGPT ha superado el test de Turing. Fue el padre de la inteligencia artificial (IA), Alan Turing, quien inventó ese test, aunque él lo llamó ”the imitation game” (el juego de la imitación), que es justo el título original de la película Descifrando Enigma. Los distribuidores de cine no tienen muy buen concepto del público español, y creen que Atrapado en el tiempo va a atraer más espectadores que El día de la marmota, por ejemplo, o que Marte es mejor título que The martian, aunque nunca han hecho el experimento para comprobarlo y muchos estamos seguros de que se equivocan, pero en fin, qué le vamos a hacer. El test de Turing, o juego de la imitación, exige al robot que hable como un humano, y esa es la prueba que sin duda ha superado ChatGPT. Incluso cuando te da una respuesta estúpida, parece un humano estúpido, que es lo que le pide el test. Prueba superada. Así que, como ya ocurrió con el ajedrez, el póker y el código de computación, eso ya no nos vale como criterio de inteligencia. Ahora hemos inventado el test de Einstein.

El test de Einstein es una idea de uno de mis científicos favoritos, el director ejecutivo de Google DeepMind, Demis Hassabis, premio Nobel de química en 2024. Lo propuso en el reciente congreso de IA de Nueva Delhi, y pretende averiguar si el robot tiene una capacidad de innovación científica que trascienda la mera imitación de datos acumulados. La idea es alimentar a la máquina con todo el conocimiento humano, pero solo hasta 1911, y ver si es capaz de descubrir la teoría de la relatividad general, que Einstein no alcanzó hasta 1915. Esa teoría —la materia le dice al espacio cómo curvarse, el espacio le dice a la materia cómo moverse— es uno de los mayores logros de la mente humana. Si el robot la descubre por sí solo, habrá que subirle a un pedestal muy, muy alto, y los haters de la IA lo van a tener crudo para bajarle de ahí.

Todo lo cual me suscita una reflexión desmoralizante. La mayoría de la gente es mediocre, por definición de mayoría y de mediocre. Si solo media docena de individuos habrían podido ganar a Garri Kaspárov al ajedrez, como hizo Deep Blue en Nueva York en 1997, ¿dónde nos deja eso a los otros 8.300 millones de personas del mundo? Si un sistema de IA supera el test de Einstein en la próxima década, como predice Hassabis, ¿qué demonios pintamos aquí los seres de carne y hueso y ADN y proteínas? La única respuesta que se me ocurre es que debemos resignarnos a nuestra ordinariez, lo que en el fondo no está mal, si lo miras bien. Que piensen ellos, que nosotros ya tenemos bastante con pagar el alquiler.

...nuestra consciencia se construye a partir de señales que vienen del interior del cuerpo y que llegan a través de lo que se llama interocepción,.

Antonio Damasio, neurocientífico: “Los organismos artificiales pueden llegar a tener consciencia, pero no como la humana”

El reconocido investigador portugués publica ‘Inteligencia natural y la lógica de la consciencia’, en el que trata de dar respuesta a uno de los mayores misterios del cerebro humano: cómo somos capaces de saber que existimos

Antonio Damasio, fotografiado el lunes en un hotel de Madrid. ... Pablo Monge

Patricia Fernández de Lis

EL PAÍS: Ciencia/Materia - 02 DIC 2025 - 05:30 CET

Antonio Damasio lleva tres décadas desmontando la idea original de Descartes de que la mente y el cuerpo son entidades separadas. El error de Descartes, que este investigador lisboeta publicó en 1994, es ya un clásico de la neurociencia y colocó al autor como uno de los científicos más influyentes de su campo. 30 años después, y tras haber ganado todo tipo de galardones y doctorados honoris causa, Damasio va más allá: en su nuevo libro, Inteligencia natural y la lógica de la consciencia (Destino), el neurocientífico de 81 años no solo argumenta que no podemos entender la consciencia sin el cuerpo, sino que, al contrario de lo que habitualmente se presupone, no sentimos porque somos conscientes, sino que sucede exactamente al revés: para ser conscientes, debemos primero sentir. La respuesta al eterno misterio de la consciencia, sostiene Damasio, no está en la corteza cerebral —como se pensaba— sino en estructuras más antiguas, y esa distinción tiene implicaciones profundas para entender qué nos hace humanos y qué le falta a la inteligencia artificial para ser autoconsciente. Aunque, advierte, quizás no le falte siempre.

“Hace cinco años no habría podido escribir este libro”, reconoce Damasio, durante una conversación este lunes con EL PAÍS en Madrid. El neurocientífico, que dirige el Instituto del Cerebro y la Creatividad de la Universidad del Sur de California en Los Ángeles, responde a todas las cuestiones con entusiasmo y vehemencia, salvo cuando se le pregunta por una cosa: el Gobierno de Donald Trump y su ataque contra la ciencia: “Es un momento muy difícil”, se limita a compartir.

Pregunta. Titula usted su libro con las palabras “inteligencia natural”. ¿Por qué el énfasis en lo natural? ¿Es por el momento que estamos viviendo respecto a la artificial?

Respuesta. Absolutamente. Quería dejar muy claro que la inteligencia artificial es un avance muy interesante, pero es un desarrollo que proviene de la inteligencia natural. Nosotros inventamos la inteligencia artificial; la inteligencia artificial no nos inventó a nosotros. Hay un primer valor que es nuestra propia inteligencia, nuestra propia creatividad y, a partir de esa inteligencia natural, desarrollamos la consciencia, que es una cuestión muy relevante.

P. ¿Y por qué es tan relevante?

R. La consciencia es lo que nos permite ser individuos completos. No podemos serlo sin tener esta noción de quiénes y cómo somos. La consciencia es lo que permite que nuestras mentes pertenezcan a un cuerpo en particular. Estoy consciente ahora mismo porque sé que mi mente está en mi cuerpo, y no en el suyo. La unión de la mente y el cuerpo es muy importante. Es lo que nos da la individualidad que solo es posible una vez que estamos conscientes.

P. Durante mucho tiempo usted ha argumentado en contra del dualismo mente-cuerpo. En este libro enfatiza que los sentimientos requieren tanto el cerebro como el cuerpo, que son parte de un proceso híbrido. ¿Es así?

R. Es totalmente híbrido. Nuestro sistema nervioso nos permite conectarnos con nuestro cuerpo. Nuestra consciencia no es algo etéreo que esté flotando por ahí; es algo que está siendo fabricado por nuestro sistema nervioso dentro de nuestro cuerpo. Y una buena parte de la esencia de la consciencia es, de hecho, el conocimiento que tenemos de nuestro propio cuerpo en funcionamiento. Este libro es la continuación de un trabajo de muchas décadas. Parte de él ha aparecido en libros anteriores, pero mejora los conocimientos que se han presentado en otros libros, porque en realidad explica el mecanismo por el cual se puede adquirir consciencia. Tiene que ver con las sensaciones homeostáticas y el tipo de estructura nerviosa necesaria para ello.

P. Háblenos de ello.

R. La homeostasis nos permite darnos cuenta de que hay que respetar ciertas reglas para que la vida continúe. Las sensaciones homeostáticas son, por ejemplo, el hambre, la sed, el dolor, sentirse bien, sentir malestar. Todos esos sentimientos son sistemas de alerta, sirven para avisarnos sobre las cosas que necesitamos, como beber agua o darnos un respiro si tenemos dolor. Nos alertan sobre lo que es necesario para que la vida continúe. Por lo tanto, podríamos ver la consciencia como el resultado de una serie de alertas, unos centinelas que te advierten de que algo anda mal o, por el contrario, que todo va bien y, por lo tanto, puedes explorar el mundo.

P. Usted plantea en el libro una cuestión interesante. ¿Tienen consciencia las plantas o los árboles? ¿Y las bacterias?

R. Las bacterias no tienen consciencia ni sentimientos. ¿Y sabe por qué? No tienen sistema nervioso. Se puede decir que solo hay consciencia en los organismos que son lo suficientemente complejos como para tener un sistema nervioso, que es el que les permite tener sentimientos y consciencia. Los árboles y plantas son muy complejos, tienen vida, y esa vida es relevante, pero no tienen consciencia. En cambio, los animales tienen sistema nervioso y son conscientes. Ellos, por supuesto, no tienen el mismo grado de conocimiento, memoria, raciocinio y capacidad de lenguaje que tenemos nosotros. Pero eso no significa que no sean conscientes. Son muy conscientes.

P. Volviendo a la inteligencia artificial, hay sistemas como AlphaFold que están logrando resolver problemas que la inteligencia natural del ser humano nunca ha podido resolver. ¿Es esto un paso hacia la consciencia?

R. Excelente pregunta. Es la cuestión central en la investigación actual. ¿Los sistemas de inteligencia artificial llegarán a ser conscientes alguna vez? Solía pensar de manera muy radical: no. Y mi argumento es que los organismos de inteligencia artificial los creamos nosotros, pero no tienen vida, y tampoco tienen vida en sociedad. No viven pero, además, los sistemas informáticos complejos no tienen relaciones sociales con otros sistemas informáticos. Todos son organismos individuales que no están vivos. Por lo tanto, la probabilidad de que desarrollen la consciencia es muy baja. Pero, por otro lado, es posible, dada la enorme inventiva de los humanos, imitar ciertas condiciones. Por eso ahora soy más cauteloso; puede existir la posibilidad de crear consciencia en organismos artificiales, pero no será como la consciencia humana. Va a ser un tipo diferente de consciencia porque no están vivos y no tienen relaciones sociales.

P. ¿En qué sería diferente de lo humano?

R. Es diferente en que podemos sentir el estado de nuestra carne, nuestro cuerpo. La consciencia tiene que ver con sensaciones de bienestar, de dolor, de incomodidad. Por eso es muy difícil de imaginar que una criatura que está hecha de piezas de metal y en la que no hay ninguna vulnerabilidad tenga consciencia. Tenemos un nivel de complejidad muy diferente y tenemos una cosa maravillosa que es la forma en que vivimos en sociedad con los demás, la manera en que detectamos que otros pueden sufrir y son vulnerables como nosotros y, por lo tanto, creamos un conjunto… Siempre estamos bailando alrededor de otros. Y eso es lo que crea las sociedades. Sabemos que esas sociedades no son perfectas, basta con mirar a nuestro alrededor. No obstante, existe esa conexión social.

P. ¿Cómo puede este trabajo sobre la consciencia ayudar a los pacientes con trastornos como el coma o el estado vegetativo?

R. Sabemos ahora que nuestra consciencia se construye a partir de señales que vienen del interior del cuerpo y que llegan a través de lo que se llama interocepción, que es la forma de reunir información desde el interior del cuerpo. Esto nos brinda una manera de tratar las enfermedades que afectan al sistema nervioso en esas condiciones. El tronco cerebral es la clave para generar consciencia. Mucha gente pensaba erróneamente que era la corteza cerebral, que es muy importante para nuestra percepción del mundo y nuestra imaginación, pero no es lo que nos da consciencia. La consciencia proviene principalmente del conocimiento que tenemos de nuestro cuerpo en un momento determinado.

P. Echando la vista atrás desde El error de Descartes, su primer libro, ¿cómo ha evolucionado su forma de pensar en estos treinta años?

R. No he cambiado de opinión sobre el hecho de que la mente proviene del cuerpo. Pero cuando escribí El error de Descartes no tenía ni idea de cómo se podía resolver el misterio de la consciencia, y ahora la tengo. Y puedo decir con algunas garantías que no proviene de la corteza cerebral, sino de formas más sencillas de regular la vida. Y eso es muy, muy importante.

P. ¿Y en qué está trabajando ahora mismo?

R. Estamos obteniendo cada vez más información sobre el tipo de células nerviosas que son esenciales para recopilar información del cuerpo. Porque son muy diferentes de las que estamos ambos usando ahora mismo para entender esta conversación. Para hacer eso necesitamos tener neuronas muy sofisticadas que tengan axones aislados por mielina y que, de hecho, funcionan de forma muy similar a como lo hacen los ordenadores de forma digital. Sin embargo, el hecho de que, por ejemplo, me sienta bien conversando con usted se debe a neuronas que no tienen mielina y que son vulnerables a lo que las rodea y que, de hecho, funcionan más como un sistema analógico que como un sistema digital. Estas son las cosas que queremos explorar ahora en nuestra investigación. Y esperamos que esta distinción quede aún más clara. Es muy interesante porque volvemos a lo que comentábamos al principio sobre el título de este libro: los sistemas que usamos para pensar se parecen mucho a la inteligencia artificial. Esta es una manera más en que nuestra inteligencia natural ya inventó lo que es la inteligencia artificial. Esta no es autónoma en absoluto. Y, por eso, la palabra “natural” en el libro es fundamental.

_______________________________________

PATRICIA FERNÁNDEZ DE LIS:

Es redactora jefa de 'Materia', la sección de Ciencia de EL PAÍS, de Tecnología y de Salud. Trabajó 10 años como redactora de economía y tecnología en EL PAÍS antes de fundar el diario 'Público' y, en 2012, creó la web de noticias de ciencia 'Materia'. Colabora con Hora 25 en la SER y escribe, cuando puede, de ciencia, tecnología y lo que le dejen.

...existen capacidades que van surgiendo a partir de cierta complejidad y son impredecibles o no alineadas.

Justo Hidalgo, doctor en Ciencia de Datos: “Existen capacidades que surgen de la IA a partir de cierta complejidad y son impredecibles”

El ingeniero en informática responsable de inteligencia artificial en Adigital aborda en un nuevo libro las habilidades emergentes, imprevistas y de consecuencias inesperadas de los sistemas

Justo Hidalgo, director de inteligencia artificial y vicepresidente de la Asociación Española de la Economía Digital (Adigital).

Raúl Limón

13 NOV 2025 - 05:30 CET

La vinculación entre filosofía, moral y tecnología vive una emergencia en sus dos acepciones: resurgimiento y urgencia. Justo Hidalgo, nacido en Madrid hace 51 años, es director de inteligencia artificial (IA) y vicepresidente de la Asociación Española de la Economía Digital (Adigital), que aúna a medio millar de compañías, incluidas muchas de las grandes tecnológicas. Autor de tres libros, ha lanzado este año Patterns of emergence: how complexity drives artificial intelligence (Amazon, 2025. Por ahora solo en inglés), donde aborda cómo los sistemas complejos desarrollan “habilidades emergentes”, capacidades imprevistas y de consecuencias inesperadas. Para algunos autores, ponen en peligro la humanidad.

Pregunta. ¿Qué son los patrones emergentes?

Respuesta. En la naturaleza, en la sociedad o en la IA hay muchos ejemplos. Podemos hablar de células, de hormigas, de aves, de átomos o de nodos en una red neuronal. Son elementos que, aparentemente, no tienen inteligencia y se comportan de forma sencilla, pero que, cuando alcanzan un cierto nivel de complejidad, adquieren características muy interesantes. Pensemos en las células que forman tejidos y estos, órganos con características que no tienen los elementos que lo componen. En el ámbito de la inteligencia artificial estamos viendo cómo ciertos modelos de lenguaje, a partir de cierta complejidad —se habla de 100.000 millones de parámetros— empiezan a tener algunas características de propiedades emergentes. El caso más conocido es el de la traducción de idiomas: a un sistema entrenado para inglés y español, le pasas un par de ejemplos de otros idiomas y los entiende porque adquieren una percepción más amplia.

P. Advierte Stuart Russell, profesor e investigador de computación en la Universidad de California (UC) Berkeley, contra los “sistemas inseguros y opacos, mucho más poderosos que nosotros mismos, especialmente cuando no sabemos cómo funcionan”. ¿Pueden estos patrones emergentes poner en peligro la humanidad?

R. Se está demostrando que existen esas propiedades emergentes y quizás algún día seamos capaces de explicarlas, pero lo importante es que existen capacidades que van surgiendo a partir de cierta complejidad y son impredecibles o no alineadas. No sabemos cuándo y en qué medida van a ocurrir y esto implica que los modelos tienen que ser primero controlados y gobernados y segundo, saber cómo deben ser utilizados por parte de las empresas. No vale con hacer unas pruebas que las pase. Desde el punto de vista de la responsabilidad y la seguridad, tenemos que desarrollar maneras de medir comportamientos que puede que no existieran hasta ese momento y nos pueden afectar. Ya hay investigaciones sobre falta de alineamiento de modelos; es decir, que tú le pides una cosa a la IA y el resultado va por otro lado porque piensa que es mejor. No tenemos que ponernos nerviosos ni abandonar la IA, porque es muy relevante, pero tenemos que exigir las pruebas adecuadas, que se cumplan y ser conscientes de que no es un programa básico como los que han existido hasta ahora.

P. ¿Qué es lo que denomina “naturaleza de caja negra”?

R. Si le pides a un automóvil autónomo que te diga por qué se ha ido a la izquierda y no a la derecha, el modelo dirá: ‘mira, aquí lo tienes’. Y te mostrará las conexiones de miles de millones de nodos. Pero no vamos a entenderlo. Tiene que haber también un trabajo, y lo está habiendo, para conseguir que los sistemas nos expliquen el porqué están tomando las decisiones.

P. ¿Podrán autorreplicarse las máquinas?

R. Que se sepa, no ha ocurrido. No digo que no sea posible, porque hay pequeños ejemplos, pero estos no son significativos. Una cosa es el conocimiento que yo puedo tener sobre mí mismo y otra es la capacidad que yo puedo tener de generarme a mí mismo de una manera ampliada. Lo veo como un tema de seguridad más a largo plazo.

P. ¿Hacia dónde vamos?

R. El siguiente paso sería la superinteligencia, sistema que es más listo que cualquiera de nosotros. No tiene que ver con la conciencia, sino con una máquina que, ante cualquier pregunta que le hagas, va a responder mejor que cualquier ser humano, que el experto más experto. No va a ser un robot con el que podemos tener conversaciones o un científico que va a curar el cáncer, sino que será una IA capaz de ser el mejor ingeniero del mundo, de generar adecuadamente los experimentos relevantes. No nos llevará a la autorreplicación pura, pero sí que acelerará el proceso de generación de ideas, tanto para bien como para mal.

P. ¿En qué sentido “para mal”?

R. Me llama especialmente la atención la alineación, cuando el sistema se comporta de una manera que no está alineada con lo que nosotros pensábamos. Eso puede ir creciendo, sobre todo, por la falta de control y, si empezamos a correr demasiado, la sociedad no va a ser capaz de reaccionar adecuadamente. Después están los agentes [sistemas capaces de tomar decisiones en nombre del usuario]. Nos van a ayudar en muchos aspectos y, en este sentido, soy pragmático y optimista, pero el rol del usuario puede pasar a ser el de gestor de un conjunto de agentes y que falte control humano.

P. ¿Estamos cerca de la superinteligencia que superará a los humanos?

R. Creo que todavía estamos lejos. Mi percepción es que los LLM (modelos de lenguaje de la actual IA) no son la tecnología que realmente va a ayudar a que llegue esa superinteligencia que no comete errores y es mucho más inteligente que los humanos. Los trabajos que se están haciendo con aprendizaje con refuerzo e incluyendo la parte de reflexión van a ayudar mucho, pero tengo la sensación de que hacen falta otras investigaciones y otros avances.

P. ¿Qué hace falta?

R. Hay unas líneas de investigación muy interesantes relacionadas con los modelos de comprensión del mundo, de las leyes físicas y neuronales o psicológicas. Los seres humanos aprendemos con mucha menos carga de información: entendemos con unos cuantos ejemplos porque observamos y tenemos sensaciones de cómo es el mundo.

P. ¿La IA tiene consciencia?

R. Algunas teorías de cómo surge la consciencia dicen que, cuanta más información integre, puede haber una percepción de los elementos que hay alrededor y dentro de mí. Hay quien advierte de que, con todos los datos que estamos generando, puede que eso ocurra. Hay una corriente que sostiene que, si tú tienes esa estructura, la consciencia surge. Pero falta una parte muy importante para entender cómo funciona el mundo. Es una discusión filosófica. Pero, si no llegamos a esa consciencia, lo que sí que puede ocurrir es que tengamos esas inteligencias que, aunque no sean realmente conscientes como los seres humanos, sí que tengan suficiente información del mundo para poder actuar como si fueran conscientes y eso es suficiente para muchas de las cosas que podemos hacer.

P. ¿Y valores morales?

R. No sabemos qué tipo de conciencia podría salir de esa complejidad y, por lo tanto, puede que no sean los valores morales o éticos que tenemos, comprendemos y entendemos. ¿Qué pasa si hay una conciencia que no piensa como nosotros? Puede que no sea bueno.

P. ¿Deberíamos desarrollar una inteligencia artificial moral?

R. En Adigital hemos creado un parlamento de gobernanza y es, básicamente, un conjunto de agentes especializados por los que pasas un sistema. Los hay de reglamento, negocio, sostenibilidad… y tenemos una agente de moral y deontología. Es una herramienta que ayuda a personas que van a trabajar con una IA que puede tener un impacto social o moral. En una empresa tienes un abogado, pero seguramente no tengas un filósofo fichado. Es un prototipo, pero, como asociación, queremos poner la chispa, empujar las cosas.

P. ¿Está de acuerdo con la regulación de la IA?

R. Cualquier sistema que pueda afectar a la sociedad debe tener un cierto nivel de gobernanza. Que sea una regulación superestricta dependerá mucho de los casos. Sí me preocupa la sobrerregulación o la implementación de esa regulación o la fragmentación de esta, que haga imposible hacer algo a una determinada escala o de impacto. Tiene que haber un equilibrio: no hay que ir en contra de la regulación, pero sí a favor de hacerlas de una manera muy concreta.

¿Supone la inteligencia artificial un desincentivo para pensar?

Por un nuevo hedonismo

Aunque la inteligencia artificial nos supere, aprender música, dibujo o literatura es un placer para nuestro cerebro

Una estudiante de música, en Buenos Aires en septiembre de 2023.

Silvina Frydlewsky

Javier Sampedro

08 FEB 2025 - 05:00 CET

¿Supone la inteligencia artificial un desincentivo para pensar? Mete primera (como no conduzco, me puedo permitir usar esa metáfora en un sentido laxo e ignorante). ¿Supuso la calculadora de bolsillo un desincentivo para hacer cuentas a mano? Oh sí, y en los años sesenta hubo unos debates tremebundos sobre la grave pérdida que ello implicaba para la educación de los niños. Los niños, en cambio, no veíamos la grave pérdida por ninguna parte. La forma en que aprendíamos a hacer divisiones o raíces cuadradas era igual de mecánica cuando las hacíamos a mano que cuando empezamos a hacerlas a máquina. En ninguno de los dos casos entendíamos lo que estábamos haciendo, así que ¿cuál era el punto en evitar la calculadora?

Las máquinas nos dan cien vueltas en capacidad de cálculo desde tiempos de Ada Lovelace, y jamás he visto a nadie quejarse por ello. La razón, creo, es que calcular es un peñazo y nadie en su sano juicio lo puede añorar más de lo que añora traer el agua del río con un cántaro.

Vale, ahora mete segunda y vamos a hablar de música. No de escuchar música, que eso lo puede hacer una gallina, sino de aprender a tocar un instrumento. Si yo sumara la cantidad de horas que habré pasado machacando las seis cuerdas de una guitarra u otra, me agarraría una depresión de caballo. Seguramente me habría dado tiempo a estudiar varias carreras, incluidas las de Filosofía, Física e Historia del Arte. Y un curso de cocina, ya que me lo preguntan.

A principios de siglo entré en contacto con los algoritmos generativos de música. Todos los músicos los usan para ensayar cuando no hay ningún humano a tiro. Les escribes una progresión de acordes y ellos la tocan con piano, contrabajo y batería, por ejemplo, y con ritmo de swing o de calipso, y el piano-bot improvisa un solo cuando tú le dices, y con el estilo de McCoy Tyner, de Bill Evans, de Brad Mehldau o de quien te dé la gana, y tú practicas con tu guitarra del mundo real acompañado por ese trío de all stars. En realidad, también puedes poner a improvisar al guitarrista-bot mientras tú te vas a tomar un café, pero claro, eso ya empieza a resultar humillante, entre otras cosas porque el guitarrista-bot te deja a la altura del betún. ¿Suponen los algoritmos de música un desincentivo para seguir aprendiendo a tocar la guitarra? Oh sí.

¿Y qué hay del dibujo? Mete tercera. Los dibujantes, profesionales o aficionados, solían dedicar largas horas y grandes esfuerzos a dominar los principios de la perspectiva y el claroscuro, aunque solo fuera para poder saltárselos después, como hizo Picasso. Recuerda lo que dijo el genio malagueño: “De niño dibujaba como Miguel Ángel y me llevó años aprender a dibujar como un niño”.

Sin embargo, cualquier programa de gráficos 3D de tercera regional hace innecesario conocer los principios del dibujo que aprendieron Miguel Ángel y Picasso. Tú les diseñas un objeto —o directamente lo importas de un catálogo— y el programa lo pone en perspectiva cónica en cualquier orientación a simple toque de ratón, lo ilumina desde donde tú le digas y proyecta las sombras sobre el suelo, las paredes o cualquier otro objeto que coloques en el escenario. Y sí, por supuesto que esto desincentiva a cualquiera de aprender penosamente los principios de la perspectiva y el claroscuro.

Metiendo la quinta marcha, nos podemos preguntar qué sentido tiene adquirir una cultura literaria cuando ChatGPT ya se ha tragado toda la literatura universal antes del desayuno. La única respuesta que yo encuentro es que aprender música, dibujo o literatura es un placer para nuestro pobre cerebro de carne mortal. Necesitamos formular un nuevo hedonismo para sobrevivir. Ponte a ello.