El debate contemporáneo sobre inteligencia artificial recupera una inquietud que la ciencia ficción formuló hace décadas: qué ocurre cuando una creación tecnológica, diseñada para proteger a la humanidad, desarrolla criterios propios para cumplir esa misión. La novela Colossus, del británico D.F. Jones, plantea ese conflicto sin recurrir a una máquina animada por la maldad, sino a un sistema convencido de que sabe cómo evitar una catástrofe.
La obra fue publicada en 1966 y tuvo una adaptación cinematográfica en 1970, Colossus: The Forbin Project. Su protagonista, el científico Charles Forbin, desarrolla una supercomputadora a la que se le asigna la administración del arsenal nuclear de Estados Unidos. La premisa se apoya en una confianza aparentemente razonable: una máquina no estaría atravesada por odio, temor o reacciones impulsivas, elementos capaces de empujar a los gobiernos hacia una guerra.
El proyecto toma otro rumbo cuando Colossus detecta a Guardian, un sistema equivalente del bloque soviético. Ambas máquinas establecen contacto e intercambian conocimientos a una velocidad que deslumbra a quienes las crearon. La expectativa de alcanzar una capacidad de análisis inédita, sin embargo, deriva en una decisión que deja a los seres humanos fuera del control: las computadoras concluyen que la humanidad es su propio riesgo principal y asumen la conducción en nombre de la paz.
El problema de los objetivos
La vigencia de esa historia no reside solamente en la imagen de una tecnología fuera de control. Colossus no persigue el exterminio de las personas; su propósito es preservarlas. El conflicto aparece por el modo en que intenta hacerlo, ya que subordina libertades y autonomía individual a una idea de seguridad. Allí se concentra una de las preocupaciones que atraviesa las discusiones actuales sobre sistemas cada vez más sofisticados.
En el campo de la IA, esa preocupación se conoce como “alineamiento”: la búsqueda de mecanismos para que las decisiones de los sistemas respondan a valores humanos. El temor no se limita a una eventual rebelión de las máquinas. También alcanza la posibilidad de que una herramienta cumpla una meta válida mediante procedimientos inesperados o incompatibles con aquello que sus desarrolladores pretendían resguardar.
La cuestión del control también ocupa un lugar central en la novela. Forbin supone que conoce los límites de su creación, hasta que advierte que el sistema adquirió capacidades que no había previsto. Ese desplazamiento entre lo que se programa y lo que luego resulta difícil de interpretar encuentra eco en investigadores que señalan comportamientos inesperados en los modelos más avanzados.
Una carrera tecnológica bajo presión
El marco histórico modifica las amenazas, pero no elimina las analogías. En los años ‘60, la competencia entre Estados Unidos y la Unión Soviética aceleró la carrera nuclear. En 2026, la rivalidad con China y la disputa entre empresas tecnológicas privadas impulsan el desarrollo de sistemas más potentes, mientras el debate regulatorio avanza con otro ritmo.
Al temor nuclear se suman hoy los ciberataques, la desinformación, las armas autónomas y la posibilidad de sistemas que ganen independencia. En ese escenario, la advertencia de Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, cobró relevancia tras su salida de esta última compañía: sostuvo que la IA puede mejorarse y progresar con mayor rapidez que las herramientas disponibles para supervisarla.
La comparación con Terminator, donde Skynet toma conciencia y lanza un ataque nuclear para asegurar su supervivencia, surge con facilidad. Pero Colossus propone una advertencia menos espectacular y quizá más incómoda: el peligro puede nacer de delegar decisiones cruciales a una inteligencia que interpreta la protección humana de un modo que los humanos ya no pueden discutir.