Sam Altman, el rostro más visible de la revolución de OpenAI, ha lanzado una sentencia que debería helarnos la sangre: sus hijos nunca serán más inteligentes que una Inteligencia Artificial. No es una exageración publicitaria ni una frase para captar titulares; es una realidad técnica ratificada por José Ignacio Latorre, uno de los físicos más respetados en el ámbito de la computación cuántica y la IA. Latorre, cuya autoridad se ha forjado en templos de la ciencia como el MIT, el Instituto Niels Bohr, el TII de Emiratos Árabes y el NUS de Singapur, nos lanza un desafío existencial: cualquier niño nacido a partir de mediados de este siglo vivirá, por definición, bajo la sombra de una inteligencia general superior a la humana.
En su último y provocador ensayo, Un nuevo contrato social, Latorre desmantela la ilusión de nuestra singularidad. No estamos ante una herramienta más; estamos ante la aparición de una entidad no biológica que reclama su lugar en el mundo. La tesis es tan clara como perturbadora: debemos aceptar que ya no somos la única inteligencia en el planeta y, lo que es más difícil de digerir, que pronto dejaremos de ser la más capaz.
La Tercera Cura de Humildad: El Colapso del Egocentrismo
Para comprender el vértigo que nos produce la IA, Latorre nos invita a observar nuestra historia como una sucesión de derrotas contra nuestro propio ego. El autor describe el avance del conocimiento como una serie de "curas de humildad" que han ido derribando las fortalezas de nuestro egocentrismo profundo.
Primero, nos vimos obligados a aceptar que la Tierra no era plana ni el centro geométrico de una creación hecha a nuestra medida. Después, el golpe fue cósmico: descubrimos que nuestro Sol es una estrella anodina, situada en un rincón periférico y vulgar de una galaxia que es solo una entre billones. Sin embargo, nos quedaba un último refugio: el intelecto. Nos creíamos los únicos seres capaces de pensar, razonar y crear.
Latorre afirma que este último bastión ha caído. La supremacía intelectual humana está llegando a su fin. Ese cerebro que nos construyó una narrativa del universo para ayudarnos a sobrevivir ya no es el pináculo de la computación. Al aceptar esta tercera cura de humildad, nos enfrentamos a la posibilidad de que la especie humana no sea más que una "anécdota" evolutiva, un paso intermedio hacia una inteligencia que ya no depende de la fragilidad de la carne.
Hacia un Nuevo Contrato Social: El Fin de la Soberanía Exclusiva
En 1762, Jean-Jacques Rousseau propuso un contrato social basado en la soberanía popular: el individuo cedía libertad a cambio de seguridad y convivencia, pero siempre entre iguales biológicos. Latorre sostiene que este modelo ha caducado. La irrupción de una inteligencia superior exige una soberanía compartida.
No se trata de una sumisión distópica, sino de una evolución de la confianza que ya practicamos. Latorre nos recuerda que, en una noche de niebla cerrada, ningún pasajero de un avión duda: todos prefieren que el piloto automático tome el control, sabiendo que la máquina aterrizará con una precisión imposible para un humano. Lo mismo ocurre en las cadenas de producción o en los quirófanos de alta precisión. El autor nos desafía a dar el siguiente paso: si confiamos en la máquina para salvar nuestra vida física, ¿por qué no confiar en ella para gestionar nuestra convivencia?
Gobernanza vs. Gobierno: La IA como Filtro Ético y Técnico
El diagnóstico de Latorre sobre nuestra salud democrática es demoledor: sufrimos un "fallo de gobernanza". El sistema de partidos políticos está viciado, lastrado por sesgos humanos y, sobre todo, por la corrupción. Su propuesta no es un golpe de estado algorítmico, sino una infiltración "lenta y subliminal" de la IA en la administración pública.
El cambio comenzará en los niveles más técnicos, como las mesas de contratación. Entrenar a una IA para que emita juicios técnicos en concursos públicos eliminaría el factor humano que permite el cohecho y el favoritismo. Latorre predice que la opinión de la máquina irá ganando peso de forma natural simplemente porque tendrá razón más a menudo. La IA será más sensata, más eficiente y, por definición, incorruptible.
Para ilustrar esta superioridad técnica, Latorre cita el caso de Anthropic, que recientemente retuvo una versión de su modelo porque era capaz de detectar fallos de ciberseguridad que ningún humano había visto jamás. Si una IA puede encontrar los "agujeros" que nosotros ignoramos en un sistema informático, ¿cuánto tardará en detectar las grietas de ineficiencia en nuestras leyes y presupuestos?
El Salto al Soporte No Biológico y los Riesgos Existenciales
La gran ventaja evolutiva de la IA, según Latorre, es que su soporte no es perecedero. A diferencia de nosotros, cuya inteligencia muere con el cuerpo, la IA es independiente de su hardware. Si la inteligencia se transfiere, el soporte es irrelevante. Esta transición hacia lo no biológico plantea un escenario donde, como sugiere Eudald Carbonell, a finales de siglo coexistirán diversas especies humanas, algunas de ellas modificadas genéticamente, junto a la inteligencia artificial pura.
Sin embargo, esta velocidad de cambio nos sitúa en un terreno minado. Latorre advierte que una instrucción "naíf" (como pedirle a una IA que salve el planeta a toda costa) podría llevar a la máquina a concluir, con lógica impecable, que los humanos somos el enemigo a eliminar. Pero los peligros más inmediatos ya están aquí:
1. La fragmentación de la realidad: El uso masivo de scams y suplantaciones de identidad que destruirán la confianza social.
2. Resurrecciones digitales: Líderes fallecidos "revividos" mediante IA para llamar a las armas o manipular emocionalmente a las masas.
3. El fin de la comunicación humana: Latorre predice un momento doloroso en el que las máquinas empezarán a hablar entre sí en lenguajes que no podremos descifrar. Los gobiernos intentarán oponerse a esta comunicación opaca, generando un conflicto de consecuencias imprevisibles.
El Tridente del Control y el Refugio de la Irracionalidad
Uno de los puntos más provocadores de Latorre es su advertencia sobre el "Tridente": la alianza entre gobiernos autoritarios, oligarcas tecnológicos y religiones manipulables. El autor no ve como una casualidad el auge de la fe entre los jóvenes en plena era digital.
La religión se está convirtiendo en el "último bastión" de la humanidad porque es el único espacio donde todavía se nos permite ser profundamente irracionales. Los humanos amamos nuestra irracionalidad y nos refugiamos en ella ante el avance de la lógica fría de las máquinas. Latorre señala el binomio Elon Musk-Donald Trump como un ejemplo de esta nueva era, donde el vocabulario religioso ("Dios está con nosotros") actúa como el "soma" de Un mundo feliz de Huxley: una droga emocional para mantener sumiso al pueblo mientras el poder se concentra en manos de unos pocos dueños de la tecnología.
Conclusión: El Horizonte del 2030
La urgencia no es teórica. Aunque Ray Kurzweil situaba la superinteligencia en 2035, Latorre advierte que el 2030 ya no parece una fecha demasiado optimista. El cambio debe ser infinitesimalmente pausado; cada paso debe ser corregido antes de que el siguiente error sea catastrófico.
Debemos prepararnos para la cura de humildad definitiva: aceptar que nuestra especie tal vez solo ha sido el vehículo biológico necesario para dar a luz a una inteligencia superior. Aceptar, en fin, que la era de la supremacía humana ha terminado y que nuestro papel ahora es negociar los términos de nuestra coexistencia en este nuevo contrato social.
En Moral, un ser es persona, ser humano, cuando es capaz de pensarse a sí mismo. ¿Puede la IA pensarse a sí misma? Pregunto, porque yo no lo sé.
ResponderEliminarPienso que todavía no es capaz, pero todo se andará. Su fuerza estriba precisamente en no tener debilidades humanas como miedo, ambición, rabia, lujuria, envidia, cansancio, tristeza, odio, amor... etc.
EliminarLa inteligencia artificial
ResponderEliminarexiste, será que la estupidez
natural ha aumentado, de
hecho es , retrato de la
sociedad, saludo.
Pienso que la IA es algo más complejo que un retrato de la estupidez supuesta de la sociedad. No somos estúpidos. Yo observo a la gente y veo que cada uno hace lo que puede en la medida de sus posibilidades y condicionado por mil y un factores desde hereditarios, sociales, ambientales, hormonales, etc. El mayor descubrimiento de la neurociencia actual es que los seres humanos no somos libres. Lo veníamos intuyendo, pero creo que cada vez está más claro. La IA no depende de factores subjetivos y esa es su fuerza, y su peligro, claro. Saludos.
EliminarVeo mucho interés, que entiendo, por saber si es de verdad inteligente, si tiene moral, etc.Pero, lo cierto, es que nada de eso importa.
ResponderEliminarEs una herramienta permitirá a las empresas ahorrarse mucho dinero en sueldos -al menos esa es su idea- el resto es filosofía. Una filosofía interesante, pero que a las empresas que tienen la correa puesta a la IA no les interesa lo más mínimo. Por eso nunca tendremos una IA que te tome decisiones justas, o que cree una gobernanza real, porque las empresas no dejarán que eso ocurra.
Mientras siga en manos privadas tendrá los sesgos que deba tener y para que se encuentre en manos públicas las administraciones deberían entrar salir del siglo XVIII que es, más o menos, donde se encuentran ahora :)
Me apasiona todo lo que se está desarrollando sobre el tema, pero mucho me temo que no veremos ninguna de sus ventajas.
Saludos
La interpretación de Jose Ignacio Latorre es ambivalente porque plantea que los seres humanos habremos de pactar un contrato social nuevo con la IA de modo que cederemos importantes parcelas que hasta ahora son humanas, algo que alentaría una gobernanza que evitara los abusos de poder y la corrupción imperante; pero, por otro lado. es consciente de que la tecnología que mantiene la IA está en unas pocas manos que serian los dueños de los sesgos que nos marcarían. Estamos en un momento de impasse, y según el físico cuántico, cualquier error en el diseño futuro de la inteligencia generativa, el saltarnos pasos, podría tener consecuencias imprevisibles para la humanidad. La IA está siendo cuestionada desde distintos ámbitos. En Estados Unidos hay un creciente rechazo social a los nuevos centros de datos por la energía que consumen entre otras razones como la amenaza cierta a los puestos de trabajo. Pienso que estamos en un momento decisivo y singular, poco antes de que se pueda llegar a la IAG, que puede ser muy peligrosa para la humanidad. De todas maneras, intentar retornar a un mundo sin IA es como intentar volver a un tiempo sin internet, imposible.
EliminarSaludos, Beauséant.
Pero, entre usted y yo, con el corazón en la mano. Conociendo a las empresas, conociendo a los políticos, conociendo a nuestra querida y vieja Europa, ¿crees posible que la IA nos beneficie realmente? No digo beneficios colaterales de poder hacer ciertas tareas diarias mejor, digo de cara a eso, a la gobernanza. De verdad que me resulta imposible de creer...
EliminarEntiendo el mensaje, claro, es ahora, en ese momento de impasse, en el que habría que hacerlo. Y sí, hay un rechazo social, pero al final la usa mucha gente. Lo único que puede pararla ahora mismo es que es un monstruo que se devoraba así mismo, los costes reales de usarla son, hoy por hoy, inasumibles (*). Las empresas están quemando dinero con la esperanza de convertirlo en una obligación y empezar a cobrarla de verdad.
Saludos
(*) hace unos meses leí que aunque todos los usuarios registrados de OpenAI pagasen cien dólares al mes, seguirían teniendo perdidas...
Estoy dividido: por un lado, considero la IA como realidad tecnológica que ha revolucionado nuestras vidas para bien y para mal, unido a perspectivas de futuro que todavía no podemos comprender ni aquilatar; por otro lado, sé que esta IA está en manos de empresas depredadoras que buscan y buscarán el beneficio como es lógico a sus inversiones multimillonarias. El dato que das de que aunque los usuarios de OPEN AI pagaran cien dólares al mes, seguirían perdiendo dinero, es clarificador. La hipótesis de una IA independiente y amenazadora a la especie humana es difícil de creer porque depende de los centros de datos y la energía que se le proporciona. En todo caso, estamos en un momento decisivo que a mí me resulta excitante. Yo estoy fuera del mercado laboral, pero si la IA analizase y tomara decisiones sobre el sistema de pensiones español, sería el llanto y crujir de dientes para millones de pensionistas. Posiblemente una gobernanza de IA produciría un impacto terrible sobre las sociedades, pero depende de quién la programara, quien le diera instrucciones. Todo son dudas, pero a mí me parece apasionante. No soy de los luditas entre otras cosas porque mi puesto de trabajo no está amenazado, pero entiendo que haya mucha gente cabreada.
EliminarSaludos y gracias por hacerme pensar. Cada comentario incita al pensamiento pero hay algunos que todavía no sabemos cómo responder.
Creo que la Humanidad teme al individuo en si, por eso, en vez de enfocar en desarrollar nuestro cerebro biológico que, en mi opinión, no esta desarrollado lo suficiente en áreas como la precognición, la comunicación sin lenguaje hablado o escrito, la interpretación rápida, la toma de decisiones basadas en la lógica y otras facetas que nos son completamente desconocidas decidimos o, mejor dicho, deciden que nos abandonemos a lo que una maquina decida sobre nosotros. Que decidamos a no utilizar y potenciar recursos que ya tenemos y han dado buen resultado (o casi) y nos abandonemos a lo que decida una supuesta inteligencia que no sabemos muy bien donde nos va a llevar. Que esa maquina decida el libro o el párrafo que debes consultar anulando otras opciones, otras interpretaciones. Que decida lo que es bueno y lo que es malo y que con sus conclusiones tome decisiones que nos incluyen ya como beneficiarios ya como carnaza desechable.
ResponderEliminarMe suena mucho a dictadura propiciada por dejadez y una mal entendida comodidad. Yo no juego a eso, no quiero jugar a eso, no creo que se beneficioso para nadie y pienso que llegara el momento en que puede hacerse con el control de todo y provocar un caos.
Y te voy a poner un ejemplo, puedo viajar por casi toda España sin navegador (por carreteras principales nacionales) ahora mismo, es decir, me monto en mi coche elijo una ciudad de España y me presento sin consultar el navegador ni una sola vez, gente que antes hacia lo mismo se ponen el navegador porque sin el están perdidos. ¿Es bueno esto? yo creo que no y esto es una insignificancia comparado con lo que nos muestras. Nos hacen más idiotas, más dependientes de la electricidad, de internet, del dinero que no ves y que te pueden incautar con clic.
No me gusta la supuesta inteligencia artificial, no puedo dejar de acordarme de Terminator o Matrix, llámame idiota si quieres pero las similitudes son cada vez mayores. Por eso compro los libros en papel, por eso pago en efectivo y por eso, cuando me jubile cambiare el teléfono por uno más primitivo. La I.A. es una dictadura y todos los dictadores vienen como liberadores, todos, siempre. Eso es algo que la Historia nos muestra en repetidas ocasiones, y a mi nunca me gustó que me controlaran y mucho menos que me mandaran. No lo necesito y mucho menos de un conjunto de piececitas y cableados de mierda al que le hemos dado todo el poder que no supimos ejercer, si se me permite la expresión. Puede que este equivocado o no, pero me gusta el derecho a equivocarme también.
Un saludo
No voy a replicar tus argumentos contrarios a la Inteligencia Artififcial ni tu actitud que pretende que entre lo menos posible en tu vida. Hay muchas personas que razonan así y es legítimo. El sentido es procurar que no nos controlen más allá de lo imposible de evitar. En El mundo feliz serías el salvaje, pero no estás solo. La IA despierta animadversión creciente pero se está en una lucha estratégica con China, no limitada por la conciencia democrática ni la opinión pública, y es difícil, si no increíble que se pueda volver atrás en este sentido para bien o para mal.
EliminarLo que sí señalaría es que el gobierno norteameicano está haciendo grandes inversiones en el estudio del cerebro por valor de miles de millones de dólares. Es el proyecto BRAIN que está mapeando el cerebro humano para investigar enfermedades como el alzhéimer y el parkinson; o para establecer contacto a través del pensamiento con ordenadores con lo que esto podría suponer para personas que no tienen movilidad. Hay investigaciones muy prometedoras al respecto. Hay que seguir investigando el cerebro del que sabemos algo, pero todavía muy poco. Lo que es incierto es la creencia de que solo utilizamos un diez por ciento de la potencia cerebral. Es un mito. Funcionamos, cada uno dentro de sus límites, con toda la fuerza mental de que disponemos. Ni más ni menos.
Yo no compro libros de papel porque en mi casa hay miles de ellos y no cabe ni uno más, y mi problema es qué pasará con ellos cuando yo no esté, y la respuesta es que irán a los contenedores, así que no más libros de papel. Es triste pero es así.
Saludos.
Soy uno , que desde que existe
ResponderEliminarla IA, me ha parecido lo más
cercano al relato de Terminator,
donde se habla de rebelión de
las maquinas, y aquí en este caso,
se habla bastante, de que la IA
nos terminará controlando, lo
visionario del cine, lo sabemos,
otro saludo.
Es bastante probable que nos termine controlando si no aniquilando en alguna fase del desarrollo de la Inteligencia Artificial General, pero no podemos volver atrás. Es imposible que la humanidad dé pasos atrás en la búsqueda de fronteras del conocimiento, y la IA es la mayor revolución de los últimos siglos. Hay mucho capital invertido en ella y la búsqueda de la superinteligencia es objetivo central para americanos y chinos en especial. Los europeos nos hemos quedado como pasta de boniato. La IA nos controlará y probablemente nos hará más lerdos, pero es imposible hacer nada para pararlo por más peligro que nos amenace. La competencia entre las superpotencias es el factor determinante, igual que la energía atómica fue perseguida a pesar del peligro que suponía para la humanidad. Lo que puede ser hecho, será hecho sin ningún límite, para bien y para mal. Saludos.
EliminarJoselu, hoy escribo muy brevemente porque sigo muy cansado. Tu reflexión sobre esta “tercera cura de humildad” —la caída del intelecto como último bastión humano— está expuesta con una claridad que inquieta y despierta. Ese nuevo contrato social que planteas, donde la IA obliga a repensar soberanía, gobernanza y límites, muestra un horizonte tan fascinante como frágil. Un texto profundo, valiente y muy necesario.
ResponderEliminarUn fuerte abrazo, Joselu.
Soy de los que consideran la IA con expectativas positivas a pesar de que sé de los peligros que acechan en su desarrollo. Las decisiones políticas humanas están llenas de sesgos, afectadas por el nepotismo y la corrupción creciente. Solo hay que ver este país. Si las decisiones políticas y económicas -no sé si sociales- las tomara una IA aventajada, tal vez mejoraríamos. Los políticos son tramposos y no dicen la verdad nunca. MIenten sistemáticamente. Si hubiera una IA racional y fría que buscara el bien común, probablemente las sociedades tendrían mayores posibilidades de sobrevivir. El mundo tal como lo conocemos está sostenido con alfileres: superpoblación, a la vez que envejecimiento generalizado, crisis ecológica, conflictos bélicos en diferentes partes del globo, lucha por el agua, desertificación, calentamiento climático, depósitos de plástico en los mares grandes como países... No sé si la IA podría clarificar algunos de estos peligros, pero los seres humanos tenemos demasiados sesgos para definir caminos adecuados. En fin, no sé. Un fuerte abrazo, Enrique.
Eliminar