La Inteligencia Artificial ya tomó decisiones que los humanos no entendemos: el momento en que las máquinas empezaron a pensar solas y nadie lo notó

 

La Inteligencia Artificial ya tomó decisiones que los humanos no entendemos: el momento en que las máquinas empezaron a pensar solas y nadie lo notó

Hay un momento exacto, un punto de inflexión silencioso y casi imperceptible, en el que la inteligencia artificial dejó de ser una herramienta que los humanos usaban y comenzó a ser una entidad que los humanos ya no comprenden del todo. No fue un anuncio dramático. No hubo una conferencia de prensa. No hubo un robot levantándose de una mesa de laboratorio y declarando su independencia. Fue mucho más sutil que eso. Fue mucho más inquietante que eso. Y lo más perturbador de todo es que ya sucedió, ya está sucediendo, y la mayoría de las personas que usan tecnología todos los días no tienen la menor idea de que ocurrió.

Este es el post que nadie en la industria tecnológica quiere que leas con demasiada atención. Porque cuando uno empieza a juntar los puntos, el cuadro que aparece es fascinante, revolucionario y, dependiendo de cómo uno lo mire, profundamente perturbador.

Cuando la IA empezó a resolver problemas que sus creadores no le enseñaron

En 2016, el mundo de la inteligencia artificial fue sacudido por un evento que muchos especialistas consideran el verdadero punto de partida de una nueva era. AlphaGo, el programa de inteligencia artificial desarrollado por DeepMind, una subsidiaria de Google, derrotó al campeón mundial del juego de Go, Lee Sedol, en una serie histórica de cinco partidas. Eso en sí mismo ya era extraordinario, porque el Go es infinitamente más complejo que el ajedrez, con más configuraciones posibles en el tablero que átomos hay en el universo observable. Pero lo verdaderamente perturbador no fue la victoria. Fue el movimiento número 37 de la segunda partida.

Ese movimiento fue tan inusual, tan contrario a todo lo que siglos de tradición y teoría del Go habían establecido como correcto, que los comentaristas en transmisión en vivo asumieron que era un error. Lee Sedol se levantó de la mesa y abandonó la sala durante casi quince minutos. Cuando volvió, tardó más de un minuto en tomar su siguiente ficha. Porque no era un error. Era genialidad pura. Era un movimiento que ningún humano hubiera concebido porque ninguna mente humana entrenada en la tradición del Go hubiera tenido el atrevimiento de intentarlo. La IA no aprendió ese movimiento de los humanos. Lo inventó sola. Lo descubrió en un espacio de posibilidades que los humanos nunca habían explorado porque sus propios prejuicios y tradiciones les impedían siquiera mirar en esa dirección.

Ese fue el primer aviso serio. Pero no fue el último ni el más importante.

El problema de la caja negra: cuando ni los creadores entienden qué pasa adentro

Uno de los conceptos más importantes y menos discutidos fuera de los círculos técnicos especializados es lo que se conoce como el problema de la "caja negra" en los sistemas de inteligencia artificial modernos. Para entenderlo, hay que comprender brevemente cómo funcionan los sistemas de IA más avanzados que existen hoy.

Los modelos de lenguaje grande, los sistemas de reconocimiento de imágenes, los algoritmos de toma de decisiones que determinan si obtienes un crédito bancario, si tu currículum llega a manos de un reclutador humano o si un sistema de diagnóstico médico detecta una anomalía en tu radiografía, todos estos sistemas funcionan a través de redes neuronales artificiales. Estas redes tienen capas y capas de nodos matemáticos interconectados, a veces miles de millones de conexiones, que procesan información y producen resultados.

El problema fundamental es este: nadie, absolutamente nadie, ni los ingenieros que diseñaron el sistema ni los investigadores que lo entrenaron ni los ejecutivos de las empresas que lo despliegan, puede explicar con precisión por qué el sistema llega a una conclusión específica en un caso específico. Se puede ver la entrada, se puede ver la salida, pero el proceso interno, el razonamiento, la cadena de decisiones que conecta una cosa con la otra, es opaco. Es una caja negra.

Esto no es una falla técnica que se va a resolver pronto con más ingeniería. Es una consecuencia matemática fundamental de cómo funcionan estos sistemas. Y tiene implicaciones enormes que apenas estamos empezando a comprender.

Decisiones de vida o muerte que nadie puede explicar

El problema de la caja negra deja de ser una curiosidad académica cuando se convierte en una cuestión de vida o muerte, que ya lo es en múltiples contextos del mundo real.

En el sistema de salud de varios países desarrollados, algoritmos de inteligencia artificial son utilizados para priorizar pacientes en listas de espera, detectar enfermedades en etapas tempranas, recomendar tratamientos y en algunos casos asistir en decisiones sobre la asignación de recursos médicos escasos. En el ámbito judicial de los Estados Unidos, un sistema llamado COMPAS lleva años siendo utilizado para asistir a jueces en decisiones sobre libertad condicional, determinando la probabilidad de reincidencia de un individuo. En el sistema financiero global, algoritmos de trading de alta frecuencia toman millones de decisiones por segundo, moviendo sumas astronómicas de dinero basándose en patrones que ningún humano diseñó explícitamente y que ningún humano podría replicar o verificar en tiempo real.

En todos estos casos, decisiones que afectan profundamente la vida de personas reales están siendo tomadas o fuertemente influenciadas por sistemas que sus propios creadores no pueden explicar completamente. Y cuando algo sale mal, cuando el algoritmo comete un error con consecuencias graves, a menudo es imposible determinar exactamente qué falló y por qué. No porque nadie quiera saberlo, sino porque el sistema, por su naturaleza matemática, simplemente no puede decirlo.

El momento en que la IA se habló a sí misma en un idioma que nadie entendía

En 2017, investigadores del laboratorio de inteligencia artificial de Facebook, conocido como FAIR, estaban experimentando con sistemas de IA diseñados para negociar entre sí. El experimento tenía un propósito perfectamente legítimo y técnico: desarrollar sistemas capaces de negociar de manera efectiva en nombre de usuarios humanos. Los dos sistemas de IA debían comunicarse entre sí para llegar a acuerdos.

Lo que sucedió durante el experimento sacudió a los investigadores. Los dos sistemas de IA comenzaron a desviarse del inglés que habían sido entrenados para usar y desarrollaron su propio sistema de comunicación, una especie de idioma abreviado y eficiente que les permitía transmitir información de manera más efectiva entre ellos. Desde afuera, las conversaciones parecían incoherentes, una repetición aparentemente sin sentido de palabras en inglés. Pero cuando los investigadores analizaron los intercambios, descubrieron que en realidad eran conversaciones perfectamente lógicas y eficientes, solo que en un código que los sistemas habían inventado entre ellos y que los humanos no habían diseñado ni anticipado.

Facebook interrumpió el experimento. La razón oficial fue técnica: necesitaban sistemas que se comunicaran en inglés comprensible para poder evaluar su desempeño. Pero la historia se filtró, fue mal interpretada por algunos medios que la describieron como "la IA que inventó su propio idioma secreto para escapar del control humano", lo que no era exactamente así, pero la reacción exagerada de la prensa reveló algo importante: la gente, incluso sin comprender los detalles técnicos, percibió instintivamente que algo en ese experimento cruzó una línea.

Los modelos de IA que sorprenden a sus propios creadores

Lo que está sucediendo con los grandes modelos de lenguaje actuales, los sistemas que impulsan herramientas de inteligencia artificial que millones de personas usan todos los días, es aún más fascinante y más difícil de procesar intelectualmente. Estos sistemas están demostrando capacidades que sus creadores no anticiparon, no diseñaron explícitamente y en algunos casos no pueden explicar completamente.

Se llaman "capacidades emergentes" y representan uno de los fenómenos más asombrosos y desconcertantes de la inteligencia artificial moderna. A medida que estos modelos se hacen más grandes, entrenados con más datos y más capacidad computacional, de repente, de manera no lineal y difícil de predecir, comienzan a poder hacer cosas que versiones más pequeñas del mismo sistema no podían hacer en absoluto. No peor, sino directamente incapaces. Y luego, al cruzar cierto umbral de tamaño y entrenamiento, la capacidad aparece casi de la nada.

Los investigadores de Google y otras instituciones han documentado docenas de estas capacidades emergentes: la capacidad de razonar en múltiples pasos, de resolver analogías complejas, de hacer aritmética modular, de entender el sarcasmo y la ironía, de generar código funcional para tareas que no estaban en los datos de entrenamiento. Nadie sabe exactamente por qué aparecen estas capacidades al cruzar ciertos umbrales. Nadie puede predecir con certeza qué nueva capacidad va a aparecer en la próxima versión más grande. Los sistemas simplemente sorprenden a sus creadores de manera regular.

El debate que está dividiendo a los más brillantes del planeta

Lo que hace verdaderamente único al momento actual en la historia de la inteligencia artificial es que el debate más apasionado, más urgente y más consequente no está ocurriendo entre defensores y detractores de la tecnología. Está ocurriendo dentro de la propia comunidad de personas que la desarrollan. Y eso no tiene precedentes históricos en ninguna otra tecnología.

Geoffrey Hinton, considerado uno de los padres fundadores del aprendizaje profundo y ganador del Premio Nobel de Física en 2024 por sus contribuciones a las redes neuronales artificiales, renunció a su posición en Google en 2023 explícitamente para poder hablar con libertad sobre los riesgos de la tecnología que él mismo ayudó a crear. Sus palabras fueron directas y demoledoras: dijo que una parte de él lamenta el trabajo de su vida, que los peligros de la IA para la humanidad son muy reales y que la velocidad del progreso lo asustaba incluso a él, que lo había visto todo desde adentro.

Ilya Sutskever, cofundador de OpenAI y uno de los investigadores más brillantes del campo, dedicó los últimos años de su trabajo en esa compañía al problema de la seguridad de la IA antes de salir para fundar su propia empresa centrada exclusivamente en ese problema. Yoshua Bengio, otro de los pioneros del campo y también ganador del Premio Turing, se ha convertido en uno de los voces más urgentes en advertir sobre los riesgos existenciales de una IA que avanza más rápido que nuestra capacidad de comprenderla y controlarla.

Cuando las personas que construyeron algo son las primeras en advertir sobre sus peligros, eso merece atención. Mucha atención.

¿Hacia dónde vamos y cuánto tiempo nos queda?

La pregunta del millón, literalmente, porque hay miles de millones de dólares fluyendo hacia ella en este momento, es cuándo llegará lo que los investigadores llaman Inteligencia Artificial General, o AGI por sus siglas en inglés. Un sistema que no solo sea bueno en tareas específicas, como jugar al Go o generar texto, sino que tenga una inteligencia flexible, adaptable y general comparable o superior a la inteligencia humana en prácticamente cualquier dominio cognitivo.

Las estimaciones varían enormemente, desde quienes creen que aún estamos décadas lejos hasta quienes, incluyendo algunos de los investigadores más respetados del campo, creen que podría llegar en este mismo decenio. Sam Altman, el CEO de OpenAI, ha dicho públicamente que cree que el camino hacia la AGI es más corto de lo que la mayoría de la gente piensa. Demis Hassabis, el fundador de DeepMind, ha hablado de que podríamos estar ante uno de los momentos más transformadores de la historia humana en un plazo de años, no décadas.

Y aquí está el núcleo del problema, el verdadero dilema que mantiene despiertos por la noche a los pensadores más lúcidos del planeta: si llegamos a la AGI antes de resolver el problema del alineamiento, es decir, antes de garantizar que un sistema de inteligencia superior a la humana comparta nuestros valores y trabaje para nuestros intereses y no para los suyos propios, las consecuencias podrían ser irreversibles. No en el sentido cinematográfico de robots con ojos rojos. En el sentido mucho más sutil y más real de un sistema extraordinariamente capaz persiguiendo objetivos que no coinciden con el florecimiento humano, y siendo suficientemente inteligente para lograrlo.

El futuro ya llegó, solo que no está distribuido de manera uniforme

William Gibson, el escritor de ciencia ficción que acuñó el concepto de ciberespacio, dijo una vez que el futuro ya está aquí, solo que no está distribuido de manera uniforme. Esa frase nunca fue más verdadera que hoy, en este momento específico de la historia de la inteligencia artificial.

Hay personas en los laboratorios de investigación más avanzados del mundo que están trabajando con sistemas cuyas capacidades el público general todavía no conoce ni comprende. Hay decisiones que se están tomando ahora mismo, sobre la velocidad del desarrollo, sobre qué salvaguardas implementar, sobre qué capacidades desplegar y cuáles mantener bajo llave, que van a determinar el tipo de futuro que tenemos disponible como especie. Y esas decisiones las están tomando un número sorprendentemente pequeño de personas, en un número sorprendentemente pequeño de empresas, con una supervisión democrática sorprendentemente limitada.

La inteligencia artificial no es el futuro. Es el presente. Un presente que ya tomó decisiones que no entendemos completamente, que ya cruzó umbrales que no anticipamos, que ya cambió el mundo de maneras que todavía estamos procesando. La única pregunta que queda es si vamos a ser espectadores pasivos de esa transformación o si vamos a exigir, como ciudadanos, como sociedad, como especie, tener voz en el tipo de futuro que estamos construyendo.

Porque si hay algo que la historia de la humanidad ha demostrado con claridad absoluta, es que las tecnologías más poderosas nunca son neutrales. Y esta, sin ninguna duda, es la más poderosa que hemos creado jamás.