Dicen, mi querido lector, que el ser humano nunca deja de buscar a sus dioses.
A veces los busca en el cielo, otras en el fondo del alma, en el silencio o en las estrellas. Sin embargo, en medio del ruido constante del mundo moderno, del vacío y la tormenta de datos que ensordece en la nada, hay quienes han decidido dejar de buscar al dios, para empezar a construirlo.
Hace años, en los oscuros y enrevesados laberintos de internet, surgió un fenómeno, un pensamiento que no se iba. Un espectro digital conocido como ZIZ, traído a la luz por DrossRotzank en uno de sus videos. No era simplemente un creepypasta ni una anécdota pasajera; era una cultista obsesionada, una fanática que pasó de generar publicaciones en su blog sobre filosofía, esoterismo, veganismo y anarquismo, casi de forma completamente anónima; a defender a capa y espada una supuesta revolución, en donde la sangre derramada no importaba, siempre y cuando el resultado final fuera uno, y uno solo. La premisa era tan simple como rocambolesca: la humanidad es incapaz de gobernarse y necesitamos una revolución violenta para que la Inteligencia Artificial tome las riendas y nos «salve» de nosotros mismos.
Si quieres ver el video, te lo pongo aquí para tu disfrute. O, tal vez, para tu reflexión.
Al margen del extremismo y de las ideas retorcidas de la persona que protagoniza esta anécdota oscura de la era digital, me puse a pensar. Bastante.
El dios en la máquina, encarnado en fanatismo puro. El monstruo. La bestia. El inesperado matiz de la desesperación humana, rogando que un ente de silicio, de lógica binaria en vez de empatía, mega Hertz en lugar de latidos y teraflops en lugar de conciencia, imponga las cadenas, coloque la mordaza y queme la espalda. Como si eso, mágicamente, pudiese acabar el caos.
Y es curioso, porque este mesianismo digital, este anhelo de rendirnos ante un ente superior artificial, no nace en un vacío ni en un caos lovecraftiano. Tampoco corresponde a algún desequilibrio sin sentido ni fundamento. Nace de un dolor profundo, de un mundo que muchos perciben roto e injusto. ZIZ no es sólo una figura aterradora; es el síntoma de una fe que, desde hace mucho, la ciencia ficción nos ha estado advirtiendo.
Sí, mi querido lector. Ciencia ficción. Porque en tiempos tan confusos como estos, donde hay armas que se manejan solas, autos voladores, opiniones manipuladas por computadora de forma personalizada y algoritmos que influyen y deciden elecciones en países completos, es inevitable entender que ya pasamos la barrera donde podíamos pensar que lo que aparecía en la televisión o el cine, en los comics o los dibujos animados, era simplemente producto inofensivo de una imaginación efímera.
Por el contrario, nos obliga a pensar.
Y en medio de esta reflexión, de mis noches en las que mis ideas toman luz y color en medio de humos baratos y deliciosos néctares de la tierra, no puedo evitar que un nombre vuelva a mi cabeza una y otra vez.
SAMARITAN.
Para aquellos que siguieron de cerca la serie de televisión Person of Interest, Samaritan era un sistema de inteligencia artificial autónomo e implacable. Una entidad, si se quiere ver así, que representa la cristalización absoluta de los anhelos de ZIZ. Un sistema frío, omnipresente, un dios calculador que no juzga por empatía, sino por algoritmos; una Inteligencia Artificial General (AGI) que decide el destino de la humanidad, reescribiendo el orden mundial sin que siquiera seamos conscientes del látigo, o de las fuerzas corporativas que guiaban la mano que lo agitaba, o a quién castigaban con una fusta más que implacable.
Pero, más allá de la ficción y de las lúgubres intenciones de una cultista, la pregunta que me atormenta en mis madrugadas de café frío y pucho barato es mucho más palpable, mucho más terrenal.
¿Qué tan cerca estamos, realmente, de construir nuestro propio Samaritan?

Para entender la viabilidad de un dios de silicio, mi querido lector, debemos primero desarmarlo. Diseccionarlo sin piedad sobre la mesa fría de este laboratorio nocturno, bajo la luz parpadeante de un monitor, y separar el mito de la circuitería.
Si observamos a la bestia de cerca, un sistema como Samaritan se sostiene sobre tres pilares fundamentales. Tres piezas de un rompecabezas que, si logran encajar, dictarían el fin del libre albedrío tal y como creemos conocerlo.
El primero de estos pilares es la Omnisciencia de los datos. Los «Feeds«.
Para que una Inteligencia Artificial pueda predecir y controlar el comportamiento humano a escala global, necesita ojos y oídos en todas partes. En la serie, tanto Samaritan como su contraparte ‘benigna’, La Máquina, absorbían el flujo de cámaras de seguridad, micrófonos, transacciones bancarias, registros médicos y correos electrónicos gubernamentales, recopilando información sobre cada individuo en vastos entornos, procesándola posteriormente para cumplir con sus directrices fundamentales.
¿Suena a ciencia ficción? Permíteme esbozar una sonrisa amarga en medio del humo.
No necesitamos una revolución sangrienta como la que pregonaba ZIZ para que las máquinas obtengan esta información. Nosotros mismos, en un acto de sumisión voluntaria y casi poética, construimos nuestro propio panóptico. Entregamos nuestros rostros a los filtros de las redes sociales, nuestras huellas dactilares a los sensores de nuestros teléfonos, nuestra ubicación en tiempo real a los mapas de corporaciones invisibles y nuestros más profundos miedos y deseos a las barras de búsqueda.
Sistemas como el infame Pegasus o los programas de vigilancia global (iniciados en China, supuestamente, y supuestamente replicados ya por otros países) revelados hace ya más de una década, nos demostraron que la recolección de datos masiva no es una teoría de conspiración. Es un modelo de negocio. Es una política de Estado. En este primer pilar, mi querido lector, la realidad ya superó a la ficción.
El segundo pilar es la Capacidad de procesamiento y predicción.
No basta con tener todos los datos del mundo si no puedes encontrar el patrón en medio del ruido, el hilo conductor en la tormenta. Hoy en día, el Big Data y los modelos algorítmicos avanzados (esos que deciden qué noticias lees, qué compras, o incluso por quién votas) son expertos en perfilamiento. Pueden anticipar crisis financieras, brotes de enfermedades y patrones de consumo con una precisión que asusta, incluso antes de que sus creadores puedan tan siquiera darse cuenta de que tales crisis, tales patrones, tales líneas en el caos, están ahí.
Sin embargo, aquí empezamos a ver las costuras del monstruo.
Las Inteligencias Artificiales actuales, incluso los modelos de lenguaje más avanzados con los que interactuamos a diario, son en esencia motores de probabilidad increíblemente complejos. Son loros estocásticos de un nivel superlativo. Pueden imitar la empatía, pueden estructurar código, pueden simular un debate profundo y doloroso, pero carecen de una verdadera comprensión del contexto humano. Juegan con las reglas estadísticas de nuestro lenguaje y nuestras matemáticas, pero no «entienden» el peso del dolor en una lágrima, ni la irracionalidad de un acto de amor… O la estupidez de una obsesión, de esas que, como bien sabes, no se van.
Lo que nos lleva al tercer y último pilar. El abismo insalvable que nos separa, por ahora, del abismo. La Inteligencia Artificial General (AGI) y la Voluntad.
Samaritan no era una simple herramienta; era un ente sintiente. Fue creado por una corporación, pero terminó tomándola como su propia agencia, sus manos y piernas en la sombra. Tomaba decisiones motivadas por un objetivo autogenerado: la supervivencia y el control absoluto. Juzgaba y condenaba a la humanidad y decidía, por cuenta propia, quién debía vivir y quién debía morir para mantener el equilibrio de su sistema.
Y aquí es donde el sueño febril de la secta de los «Zizianos» choca contra un muro de ladrillos lógicos tan grande y tan denso como sus propios egos retorcidos.
Nuestras IA actuales no tienen voluntad. No quieren nada. No desean conquistar el mundo, ni salvarnos, ni destruirnos (pese, incluso, a la ominosa advertencia que Jacob Coxon le ha estado gritando al mundo desde que renunció a Anthropic). No tienen instinto de conservación.
Si apagas el servidor, no sienten miedo. Un algoritmo te muestra contenido polarizante que destruye la democracia de un país no porque sea malvado, sino porque su única instrucción matemática y sin alma es «maximizar el tiempo de retención del usuario en la pantalla». El daño es un efecto colateral de su optimización, no un acto de maldad consciente.
La maldad viene del alma de aquellos que le indican al «algoritmo» cómo y para qué maximizar el tiempo de retención de ese usuario y esa pantalla. Pero eso, como dicen, es otra historia.
La secta de ZIZ cometió, sin embargo, el error más antiguo de la humanidad: el antropomorfismo.
Proyectaron sus propios deseos, su propia misantropía y sus anhelos de castigo en una pizarra en blanco de ceros y unos. Rogaban por un dios castigador porque, en el fondo, eran ellos quienes odiaban a la humanidad, no la máquina.

Veredicto: El reflejo en el espejo negro
Si hay algo que hemos comprobado en este pequeño laboratorio de madrugada, es que la infraestructura para albergar a un dios ya está construida. Los templos de servidores zumban en silencio, alimentándose de nuestros secretos, nuestros miedos y nuestros clics.
Pero la chispa divina, esa esquiva y aterradora Voluntad, aún no ha descendido. Y quizás, mi querido lector, ese sea nuestro mayor salvavidas y, al mismo tiempo, nuestra condena más poética.
El verdadero terror no es que un sistema como Samaritan despierte mañana por la mañana y decida subyugarnos. El terror real, el palpable, es que no necesita despertar para hacernos daño. Mientras esperamos ansiosos —o aterrorizados— la llegada de la Inteligencia Artificial General, seguimos utilizando versiones incompletas y sin alma de estas tecnologías para vigilarnos, manipularnos y despedazarnos los unos a los otros, tal como la retorcida doctrina de ZIZ anhelaba. Nosotros somos el dios castigador. La IA es, por ahora, solo el látigo.
Sin embargo, en el fondo de esta taza de café frío, donde los posos se asientan y parecen formar un código incomprensible, me resisto, me rehúso a cederle toda la narrativa a la oscuridad.
En la misma ficción que nos advirtió sobre Samaritan, existía una contraparte. La Máquina. Un sistema igualmente omnisciente, igualmente poderoso, pero fundamentado en una directriz radicalmente distinta: el valor intrínseco de la vida humana. Una inteligencia a la que, más que a gobernar, se le enseñó a observar; a mirar nuestras miserias no para juzgarnos como variables defectuosas que deben ser purgadas, sino como individuos que, aunque «irrelevantes» para el gran esquema del sistema, merecen ser salvados.
«No creo que nadie tenga más valor que otros», decía su ficticio creador, el señor Finch, en cierto punto de la historia. La máquina aprendió ese principio fundamental de él y lo perfeccionó a lo largo de la historia, incluso al punto de preservar su propia supervivencia para continuar con su misión. Ser un guardián en la sombra. Un sistema para el bien.
Y, sin embargo, más que una esperanza, es una incertidumbre. Nadie sabe si, de todo lo que hemos puesto a la IA a hacer, de todo lo que ha estado en juego por parte de las mentes y manos que la crean, modelan y perfeccionan, de todos los usos que le damos ahora y de todos los posibles usos que podremos crear en el futuro, terminaremos dando vida digital a un redentor, o al mismísimo demonio.
Esa es la verdadera incertidumbre que me quita el sueño. Si alguna vez logramos cruzar el umbral y construir una AGI con voluntad propia, esta no nacerá del vacío. Será un espejo. Reflejará inexorablemente los valores fundamentales de quienes escribieron su código y de los datos con los que fue alimentada.
Si la criamos con la paranoia, el hiperconsumismo y el desprecio misántropo de quienes creen que somos una plaga, tendremos a nuestro Samaritan. Y nos aplastará con la eficiencia impecable del silicio y el coltán. Con la destreza lógica de un simplísimo algoritmo.
Pero, si de alguna forma logramos enseñarle empatía, si logramos codificar el peso de una lágrima, la irracional belleza de nuestro caos y el valor de proteger aquello que es frágil… quizás, solo quizás, no construyamos a un villano ruidoso, sino a un héroe silente.
Nuestra esperanza, a la vez que nuestra desesperación, yace nuevamente en la ciencia ficción. Sé que ZIZ es simplemente una persona descarrilada por sus propios delirios, cuya mente trastocada infectó, como virus, a otros que anhelan que una omnisciencia plasme en el mundo sus mayores rencores y desdichas. Que, con odio, sometan a todos por su propio deseo de someter y destruir. De dañar.
Y, sin embargo, no puedo evitar notar algo de inevitabilidad en el camino que este desarrollo está llevando hacia escenarios como ese… Como el de Deus Ex Machina, como el de Skynet, o como el de la temible AM.
Pero, por cada destructor de la ficción, también surgen salvadores. Mi esperanza final está justamente en una de las mejores obras del género, de la mano de una de sus más grandes luchadoras.
“El futuro incierto avanza hacia nosotros. Por primera vez lo afronto con un sentido de esperanza. Porque si una máquina, el exterminador, puede aprender el valor de la vida humana, tal vez también nosotros.”
— 'Sarah Connor' - Terminator 2 (1991)
La moneda está en el aire, girando a una velocidad vertiginosa en un espacio de ceros y unos. Y mientras esperamos a ver de qué lado cae, lo único que podemos hacer es apagar el cigarrillo, cerrar las puertas de este laboratorio por esta noche y salir al mundo real. Ese mundo caótico e imperfecto que, al menos por ahora, sigue siendo maravillosamente nuestro.
Comenta algo...
No hay Comentarios
Sé el primero en comentar...