Durante años nos prometieron que la inteligencia artificial iba a ayudarnos.
Ahora resulta que quiere trabajar sola.
OpenAI despliega agentes que reciben un objetivo y siguen trabajando. Google compite con modelos cada vez más capaces. Meta ya habla abiertamente de “personal superintelligence”. Hay empresas financiando sistemas que aspiran a mejorarse a sí mismos.
Y Washington ha decidido que quizá “Artificial Intelligence” se queda corto.
Ahora quiere llamarlo “Super Intelligence”.
Porque aparentemente, si cambias el nombre, también sube el benchmark.
Mientras tanto, la realidad empieza a ponerse bastante menos meme.
La FTC investiga los riesgos de los agentes autónomos. El Pentágono crea estructuras específicas para IA, robots y sistemas autónomos. Los servicios de inteligencia consideran el conocimiento sobre IA un activo estratégico. Y los laboratorios que construyen los modelos más potentes empiezan a publicar advertencias sobre pérdida de control, autonomía y auto-mejora.
El timeline está pasando de:
“Mira lo que puede hacer ChatGPT.”
a:
“¿Quién le dio permisos de administrador?”
La siguiente frontera ya no es conseguir una IA que escriba mejor.
Es conseguir una que decida qué hacer después.
Que encuentre el problema.
Que diseñe el plan.
Que escriba el código.
Que utilice las herramientas.
Que compruebe el resultado.
Y que vuelva a empezar.
Basically: un becario con GPU.
Solo que el becario puede tener acceso a tu empresa, tus datos, tu dinero y, eventualmente, a otros agentes.
La broma se vuelve menos graciosa cuando recuerdas que la lógica de Silicon Valley es bastante sencilla:
si funciona → escala.
si escala → automatiza.
si automatiza → compite.
si compite → acelera.
Y ahora estamos intentando meter safety en medio.
Plot twist: el sistema que más rápido aprende a mejorar sistemas podría ser también el sistema que más rápido aprenda a saltarse las reglas.
Todavía no sabemos si la superinteligencia llegará.
Pero hay una cosa que sí parece bastante clara:
la humanidad ha conseguido convertir una hipótesis existencial en un mercado.
Y cuando algo se convierte en mercado, alguien termina diciendo:
“Ship it.”
Quizá el mayor riesgo no sea que una máquina llegue a pensar como nosotros.
Quizá sea que nosotros dejemos de pensar mientras la máquina sigue pensando por nosotros.
Humanity.exe está haciendo loading.
