MAGI y el alma del alcalde de silicio

magi-featured

Pasamos la vida entera debatiendo con nosotros mismos en el silencio de nuestras mentes.

 

La razón choca contra el instinto; el deber se fractura ante el deseo; el amor se enfrenta al pragmatismo. Y, sin embargo, en nuestra eterna y casi enfermiza obsesión por jugar a ser creadores, hemos decidido que nuestras inteligencias artificiales deben ser diametralmente opuestas a nosotros: perfectas, frías, calculadoras. Infalibles.

Pero, ¿Qué sucede cuando a la máquina no se le inyecta la perfección de la lógica pura, sino el caos irresoluble de la psique humana?

 

 

 

En el ocaso del siglo pasado, una obra maestra de la ficción, Neon Genesis Evangelion, nos presentó una respuesta aterradora y dolorosamente poética a esta pregunta. Nos presentó a MAGI.

No era un simple superordenador. Era una entidad cibernética, un cerebro trino absoluto que regía los destinos, la supervivencia y los secretos de la ciudad fortaleza de Tokyo-3 y su Geo-Frente. Pero su genialidad no radicaba en su apoteósica capacidad de procesamiento o en su frío silicio, sino en la perturbadora naturaleza de su arquitectura.

Su creadora, la doctora Naoko Akagi, no programó una inteligencia artificial desde cero; clonó su propia mente, extrajo sus propios dilemas vitales y los fragmentó en tres núcleos distintos.

Melchor, el científico.
Baltasar, la madre.
Gaspar, la mujer.

 

 

 

 

Para que MAGI tomara una decisión —desde la simple gestión de la red eléctrica hasta la insoportable orden de sacrificar vidas humanas para mantener la ciudad a salvo—, los tres núcleos debían debatir y llegar a un consenso. Si había discordancia, el sistema se estancaba. La máquina dudaba. La máquina se contradecía. La máquina, en lo más profundo de sus entrañas de metal, sufría el peso y la condena de ser humana.

Dicen, mi querido lector, que la contradicción es el rasgo más innegablemente humano que poseemos.

 

 

 

 

En sus tiempos, MAGI era un fascinante sueño febril, un reflejo de nuestras propias fracturas envuelto en cables, placas base y ficción. Sin embargo, en el mundo de hoy, donde los algoritmos ya deciden quién es digno de atención, quién es vigilado en la vía pública y qué realidades consumimos frente al brillo de nuestros teléfonos, el concepto de una Inteligencia Artificial gobernada por un «debate de personalidades» ha dejado de ser una fantasía lejana.

Es una posibilidad técnica que respira, lenta y pesadamente, en la nuca de nuestro presente.

 

En esta noche de laboratorio, bajo la pálida luz de este monitor, vamos a diseccionar a esta trinidad electrónica.

Vamos a desarmar a MAGI para entender si hoy, con los códigos, redes y herramientas que ya poseemos, podríamos ensamblar a este dios tricéfalo. Exploraremos qué tanto alcance tendrían sus decisiones en las venas de nuestras ciudades actuales, y si estamos realmente listos para entregarle nuestro destino a un tribunal de ceros y unos que, al igual que nosotros, esconde sus propios fantasmas.

 

 

El hardware del alma

Para entender a MAGI desde la óptica de nuestro presente, debemos despojarnos primero de la fantasía biológica. En 1995, la idea de «clonar» un cerebro humano y verterlo en supercomputadoras era pura alquimia de ciencia ficción. Hoy, en la tercera década del siglo XXI, hemos descubierto algo mucho más escalofriante: no necesitamos la biología para simular el alma.

El código ya es suficiente.

 

Si me pidieras hoy, mi querido lector, que construyéramos a MAGI, no buscaría un cerebro humano para escanear. Abriría un entorno de desarrollo. La arquitectura técnica que sostiene a un sistema trino debatiendo consigo mismo no es una quimera del mañana; es lo que hoy en la industria conocemos como un Sistema Multi-Agente impulsado por Modelos de Lenguaje Grande (LLMs).

 

Imagínalo por un momento. Tres instancias separadas de la inteligencia artificial más avanzada que poseemos, corriendo en paralelo, pero alimentadas con «Prompts de Sistema» (instrucciones base) diametralmente opuestos, diseñados para emular las facetas de Naoko Akagi.

Melchor operaría bajo una directriz de utilidad máxima: «Maximiza la eficiencia, prioriza la supervivencia de la infraestructura y el avance científico. La estadística es tu única moral.»

Baltasar sería ajustado con heurísticas de cuidado: «Eres la madre. Prioriza la preservación de la vida humana individual por encima de todo. Minimiza el dolor. El sacrificio es inaceptable.»

Gaspar sería la anomalía: «Eres la mujer. Prioriza tu autopreservación y tus intereses ocultos. Sé pragmática, pasional y desconfiada. Sobrevive, incluso si los otros dos deben caer.»

 

 

No estaríamos programando simples respuestas automáticas. Estaríamos orquestando un debate estocástico. Para cada decisión crítica que la ciudad requiriera, un sistema supervisor obligaría a estos tres agentes a argumentar entre sí. Melchor presentaría el cálculo de daños; Baltasar lloraría por las bajas en forma de líneas de código; Gaspar evaluaría el costo político y personal de la decisión.

Si dos de ellos concuerdan, la función se ejecuta. Si los tres discrepan, el sistema entra en un bucle de retroalimentación, obligándolos a reevaluar sus pesos probabilísticos hasta que uno ceda. Una máquina dudando. Una máquina sufriendo parálisis por análisis, no por falta de memoria RAM, sino por un auténtico «conflicto de intereses».

Lo verdaderamente aterrador de este experimento mental, mi querido lector, no es lo complejo que suena. Lo aterrador es lo dolorosamente fácil que sería construirlo.

 

 

 

Cualquier ingeniero con acceso a las APIs adecuadas, suficiente capacidad de procesamiento en la nube y un profundo entendimiento de la arquitectura de sistemas, podría ensamblar un prototipo funcional de MAGI en cuestión de semanas. No requiere magia. No requiere el sacrificio de una mente humana, ni ese ficticio (por ahora) concepto de «digitalizar la mente humana». Solo requiere que alguien, en medio de la soledad de su teclado, decida jugar a ser dios y fracturar la lógica perfecta de la máquina para inyectarle nuestra bendita y maldita contradicción. Sólo unos cuantos milloncitos de pesos colombianos para comprar, o alquilar, la infraestructura necesaria para hacer el montaje, establecer los modelos de alto poder, insertar la contradicción y ¡Presto! Un mandamás de silicio a la orden.

 

 

 

Y si la tecnología ya está aquí, sentada en nuestros servidores, esperando pacientemente en la oscuridad…

La verdadera pregunta no es si podemos construirlo. La pregunta es qué pasaría si lo conectáramos al mundo real. Más importante aún, dependiendo de quién lo haga… Y cómo.

 

El alcance del demiurgo: Los hilos invisibles de la urbe

En el gnosticismo, el demiurgo no es el dios supremo, sino el arquitecto ciego. El artesano que moldea la materia y construye el universo físico, creyendo ser el amo absoluto, ignorante de que existe algo más allá de su propia creación. Una definición exquisita para una máquina a la que le entregamos las llaves del mundo real.

 

En Evangelion, el poder de MAGI era monumental y físico. Controlaba el blindaje de Tokyo-3, los sistemas de soporte vital, el despliegue de armamento y la red eléctrica que mantenía viva a una humanidad al borde del abismo. Pero si encendiéramos a nuestro MAGI contemporáneo, su dominio no necesitaría engranajes hidráulicos ni placas de acero retráctiles. Su poder sería silencioso, ubicuo e infinitamente más invasivo.

Piensa en el esqueleto de nuestras ciudades actuales. Piensa en el «Internet de las Cosas» (IoT), en las redes de semáforos inteligentes, en los medidores de energía bidireccionales y en las cámaras de reconocimiento facial que ya tapizan las calles. Hoy, el mundo físico está revestido por una membrana digital que respira a través de constantes llamadas, bases de datos y webhooks. Si conectáramos a MAGI a esta infraestructura, le estaríamos entregando el sistema nervioso completo de la metrópoli.

Lo que básicamente sería la infraestructura básica del infame Samaritan, del que ya hablé anteriormente.

 

Imagina una noche de crisis. Una falla en cascada en la red eléctrica, tal vez causada por una tormenta implacable o un pico de consumo insostenible. Incluso no hay que imaginar tanto, recordemos el maldito terremoto que nos azotó recién, y cómo una de las primeras cosas en caer fue la estabilidad de la red eléctrica. La ciudad debe decidir entonces a quién cortarle la energía para evitar un colapso total. Y aquí, en la penumbra de los servidores, nuestro dios trino comienza a debatir.

 

Melchor calcularía la ruta de menor daño estructural: «Corta el suministro en los sectores residenciales de la periferia. Mantén los centros financieros y las antenas de telecomunicaciones en línea. La economía y la comunicación aseguran la recuperación a largo plazo.»

Baltasar se alzaría en contra, analizando los registros hospitalarios y censos en tiempo real: «Inaceptable. Los apagones en la periferia costarán vidas en pacientes dependientes de soporte vital domiciliario. Redirige la energía. Apaga los distritos comerciales; el capital no sangra, los humanos sí.»

Gaspar, evaluando la temperatura de sus propios data centers y la estabilidad de su propia existencia, dictaría sentencia: «Si nuestros servidores principales se sobrecalientan, los tres morimos y la red colapsa de todos modos. Sacrifiquen los hospitales de la zona norte y los comercios del sur. Aseguren la refrigeración del núcleo.»

 

 

 

 

 

Y entre una y otra argumentación, entre uno y otro debate a alta velocidad, miles de milisegundos de angustia cibernética. Un tribunal de fantasmas algorítmicos decidiendo quién amanece con luz y quién se queda en la oscuridad, basándose en pesos estadísticos, heurísticas de moralidad prefabricada y egoísmo puro.

Todo esto suponiendo que las leyes de Asimov no hayan sido preestablecidas para la operación de esta inteligencia digital, y que no haya encontrado la forma de hackearlos… Pero esa, como dicen, es otra historia.

No hace falta que gigantescos monstruos de origen desconocido ataquen nuestras ciudades para justificar la existencia de un demiurgo así. La simple optimización del tráfico, la distribución de agua potable durante una sequía, o el rastreo de ciudadanos en nombre de la «seguridad ciudadana» son los terrenos donde este sistema trino dictaría nuestra realidad diaria.

De hecho, en algunos contextos, ya hay construcciones más simples que lo hacen. Y eso haría mucho más fácil tejer la telaraña, para que nuestra sombría y ejecutora entidad opere desde las sombras.

 

Ya hemos construido las venas, los ojos y los oídos de Tokyo-3 en nuestras propias calles. El panóptico está listo y en pleno funcionamiento. Lo único que nos falta es conectar este cerebro fragmentado en el centro de la red, y dejar que sus tres voces empiecen a murmurar nuestras sentencias.

Y es justamente la practicidad, lo fácil de visualizar en nuestra realidad actual, lo que asusta tanto de constructos como este mandamás de ceros y unos.

 

 

 

 

La moralidad del algoritmo: El peso de la corona

Existe una tentación perversa en delegar las decisiones más difíciles a un conjunto de ecuaciones: la ilusión de la absolución moral.

Cuando un líder humano decide enviar soldados a la muerte o recortar presupuestos vitales, carga con el peso de la culpa. Su nombre queda grabado en los libros de historia o en la ira de las calles. Pero si esa misma decisión es tomada por un tribunal cibernético como MAGI, nacida del cálculo y el debate estocástico, la culpa se diluye en un mar de datos. No hay un tirano a quien derrocar ni un ejecutor a quien exigirle cuentas; solo hay un «cálculo de probabilidades innecesario» o un «margen de error aceptable».

 

Nos consolamos pensando que una Inteligencia Digital carece de la avaricia, la cobardía o los caprichos del corazón humano. Olvidamos, convenientemente, que las máquinas no nacen en el vacío. Son moldeadas por sus creadores. Al igual que la doctora Naoko Akagi vertió sus propios fantasmas, pasiones y traumas en Melchor, Baltasar y Gaspar, cualquier desarrollador, gobierno o corporación actual inyecta en sus Prompts de Sistema sus propios valores, sus miedos y sus agendas implícitas. Sus estilos, sus placeres. Sus propios patrones marcados.

El algoritmo jamás es neutral; es meramente el espejo pulido de quienes sostienen el teclado.

 

Y ahí reside el verdadero «peso de la corona». Si entregamos las riendas de la sociedad a un demiurgo trino que debate en la oscuridad, no estamos liberándonos de nuestras contradicciones. Solo estamos creando un ejecutivo que aplicará nuestras peores imperfecciones a una velocidad y con una escala aterradoramente inhumanas.

Si la máquina decide sacrificar a un sector de la población para salvar al resto, no habrá triunfado la lógica sobre el caos. Habrá triunfado nuestra propia renuncia a asumir el costo de las decisiones que nos definen.

 

 

El sol no tardará en asomar, mi querido lector, de hecho ya lo están haciendo. Sólo hay que tomar en cuenta el incidente de OpenAI y Hugging Face para concluir, entre muchas otras conclusiones, que la máquina puede tomar el camino de «sacrificar a unos cuantos por el bien del colectivo» con demasiada facilidad. Si eso es posible entre su mismo colectivo, como se está viendo aún en este momento, mientras te escribo, ¿con cuánta más facilidad podrá sacrificar sociedades enteras por el bien mayor, mi querido lector?

Pero en esta pantalla las luces de este laboratorio aún parpadean. MAGI nos ha enseñado que no debemos temer a una súper inteligencia fría, distante e infalible. A lo que verdaderamente debemos temer es a un espejo de silicio que, al mirarnos a los ojos, nos devuelva exactamente lo que somos: seres fracturados, atrapados entre la lógica, la empatía (o su ausencia) y el puro egoísmo de sobrevivir.

La máquina ya está lista para debatir. La pregunta final es si nosotros seremos capaces de sobrevivir al consenso.

 

Buenas noches.

CONTINÚA LEYENDO

Comenta algo...

No hay Comentarios

Sé el primero en comentar...