¿Te lo has preguntado?
La humanidad está a punto de construir inteligencias capaces de resolver problemas que nosotros ni siquiera sabemos formular. El problema es que esas mismas herramientas estarán al servicio de personas que quizá tampoco sepan reconocer los problemas que están creando.
Imaginemos una sociedad en la que cualquier persona pueda acceder a una inteligencia superior a la suya. Una inteligencia capaz de analizar millones de documentos, detectar patrones invisibles, diseñar estrategias empresariales, diagnosticar problemas complejos y construir argumentos aparentemente irrefutables en cuestión de segundos.
Ahora imaginemos que esa persona sigue siendo igual de impulsiva, prejuiciosa, manipulable o incapaz de reconocer sus propios errores.
Almuerzo Superinteligencia de Donald Trump y los líderes tecnológicos de la IAKevin Dietsch/Getty Images
Bienvenidos a la era de la superinteligencia.
Porque hay una cuestión que estamos pasando por alto en nuestra fascinación por la inteligencia artificial: aumentar la inteligencia disponible no significa aumentar la inteligencia de quien la utiliza.
Podemos poner a disposición de millones de personas herramientas extraordinarias sin que estas desarrollen un criterio proporcional para utilizarlas. Podemos democratizar el acceso al conocimiento sin democratizar la capacidad de comprenderlo. Podemos conseguir que cualquiera produzca argumentos sofisticados sin garantizar que sepa distinguir un argumento válido de una estupidez perfectamente redactada.
Y aquí aparece una nueva figura: el superidiota.
No necesariamente una persona con poca inteligencia, sino alguien capaz de utilizar herramientas extraordinariamente inteligentes para amplificar sus propias limitaciones. Alguien que delega el pensamiento, automatiza sus prejuicios y utiliza la tecnología no para cuestionar sus convicciones, sino para encontrar razones cada vez más sofisticadas que las justifiquen.
El superidiota no tiene por qué ser ignorante. Puede tener títulos, dinero, influencia y acceso a sistemas avanzados. Incluso puede ser extraordinariamente competente en su campo. Su limitación fundamental es otra: confunde la capacidad de producir resultados con la capacidad de juzgar si esos resultados tienen sentido.
La estupidez también escala
Durante siglos, el alcance de nuestros errores estuvo limitado, en buena medida, por nuestras propias capacidades. Una persona podía equivocarse, convencer a su entorno y causar daños proporcionales a su influencia y a los recursos disponibles.
La tecnología modifica esa ecuación.
Un prejuicio convertido en algoritmo puede afectar a millones de personas. Una decisión empresarial equivocada, automatizada y replicada en cientos de procesos, puede multiplicar sus consecuencias antes de que alguien advierta el problema. Una mentira construida para confirmar lo que una audiencia desea creer puede circular a una velocidad y una escala que antes resultaban imposibles.
La inteligencia artificial no necesita ser estúpida para amplificar la estupidez humana. Basta con que ejecute eficazmente una instrucción equivocada, optimice un objetivo mal definido o reproduzca una premisa falsa sin que nadie cuestione su fundamento.
La inteligencia de una herramienta y la sensatez de su usuario son variables distintas.
Y pueden evolucionar en direcciones opuestas.
El nuevo analfabetismo: saber utilizarlo todo sin comprender nada
Durante la primera revolución digital, aprendimos a buscar información. Después, a producirla, distribuirla y consumirla a una velocidad inédita. Ahora empezamos a delegar en máquinas tareas que antes exigían conocimiento, experiencia y esfuerzo intelectual.
El siguiente riesgo no es que dejemos de saber hacer determinadas cosas. Es que dejemos de saber cuándo las estamos haciendo mal.
Una persona puede generar un plan de negocio sin comprender sus fundamentos financieros, redactar un informe sin verificar sus fuentes, diseñar una estrategia política sin entender sus consecuencias sociales o construir una argumentación filosófica sin detectar sus contradicciones.
El resultado puede parecer excelente. La presentación puede ser impecable. El lenguaje, convincente. Incluso puede contener información correcta.
Pero una respuesta bien construida no garantiza una pregunta bien planteada. Y una solución técnicamente válida no garantiza que el problema elegido merezca ser resuelto.
En este escenario, el conocimiento deja de ser únicamente una ventaja competitiva. La capacidad de verificar, contextualizar y cuestionar lo producido por la máquina se convierte en una competencia esencial.
El riesgo es formar generaciones capaces de obtener respuestas para casi cualquier cuestión, pero cada vez menos acostumbradas a comprender qué están preguntando, qué supuestos están aceptando y qué consecuencias se derivan de sus decisiones.
Cuando la ignorancia adquiere superpoderes
La estupidez tradicional tenía una limitación importante: necesitaba tiempo, esfuerzo y capacidad humana para materializarse.
La estupidez aumentada puede disponer de asistentes, sistemas autónomos, capacidad de persuasión personalizada y mecanismos de ejecución a gran escala.
Un dirigente puede utilizar inteligencia artificial para justificar una decisión que nunca quiso someter a un examen independiente. Una empresa puede automatizar una política discriminatoria porque sus indicadores parecen eficientes. Un inversor puede construir modelos complejos sobre hipótesis erróneas y confundir la precisión matemática con la certeza económica.
En todos estos casos, el problema no reside necesariamente en la inteligencia del sistema. Puede encontrarse en los objetivos que le imponemos, los datos que seleccionamos, las preguntas que evitamos o los incentivos que preferimos no revisar.
La máquina puede ayudarnos a pensar mejor. También puede proporcionarnos una maquinaria argumentativa con la que evitar pensar.
Y existe una diferencia sustancial entre ambas posibilidades.
La superinteligencia puede convertir una mala idea en una mala idea extraordinariamente bien ejecutada.
El peligro de confundir inteligencia con autoridad
Hay otra consecuencia menos evidente: cuanto más sofisticados sean los sistemas, más difícil puede resultar para una persona sin conocimientos especializados cuestionar sus conclusiones.
Si una inteligencia artificial presenta una recomendación respaldada por miles de variables, simulaciones y referencias, ¿quién se atreverá a contradecirla? ¿Qué ocurre cuando una explicación parece tan compleja que la mayoría de quienes deben aprobarla no pueden evaluarla?
Podemos acabar sustituyendo una autoridad basada en la tradición por otra basada en la complejidad técnica.
Y la complejidad no equivale a verdad.
Los sistemas inteligentes pueden equivocarse, operar con información incompleta, reproducir sesgos o perseguir objetivos que no representan adecuadamente los intereses de las personas afectadas. Por eso, la responsabilidad no puede desaparecer detrás de una recomendación algorítmica.
No basta con preguntar si una máquina ha llegado a una conclusión razonable. También debemos preguntar quién definió el objetivo, quién controla el sistema, qué evidencias respaldan el resultado, qué alternativas se descartaron y quién responde cuando la decisión produce daños.
Una sociedad intelectualmente madura no es aquella que obedece a sus sistemas más inteligentes. Es aquella que dispone de mecanismos para someterlos a examen.
¿Y si el verdadero progreso consistiera en aumentar el juicio humano?
Hemos dedicado una parte considerable de nuestra historia tecnológica a aumentar nuestras capacidades: desplazarnos más rápido, producir más, almacenar más información, calcular más variables y automatizar más tareas.
La superinteligencia lleva esa tendencia a un extremo.
Sin embargo, quizá la siguiente frontera no consista en aumentar únicamente nuestra capacidad de hacer cosas, sino en mejorar nuestra capacidad de decidir cuáles debemos hacer, cuáles no y bajo qué condiciones.
Eso exige algo más que acceso a tecnología avanzada. Exige educación crítica, instituciones capaces de auditar sistemas complejos, incentivos que premien la honestidad intelectual y una cultura que no confunda seguridad al hablar con razón.
También exige reconocer nuestros límites. Saber que podemos estar equivocados no nos hace menos inteligentes; nos permite corregirnos. La duda razonada no es una renuncia al conocimiento, sino uno de sus mecanismos de control.
En este contexto, una sociedad verdaderamente aumentada no debería limitarse a incorporar inteligencia artificial en sus empresas, administraciones y sistemas educativos. Debería diseñar mecanismos que ayuden a detectar errores, hacer visibles los conflictos de interés, contrastar afirmaciones y someter las decisiones de mayor impacto a una evaluación independiente.
No para sustituir el juicio humano por el algorítmico, sino para mejorar las condiciones en las que ambos pueden ejercerlo.
La paradoja final
Tal vez la gran contradicción de la era de la superinteligencia sea que, cuanto más capaces sean nuestras máquinas de pensar, menos podremos permitirnos renunciar a pensar nosotros mismos.
Porque el problema nunca ha sido únicamente cuánto sabemos. También importa qué hacemos con lo que sabemos, qué estamos dispuestos a cuestionar y qué consecuencias aceptamos producir.
Una civilización puede desarrollar tecnologías extraordinarias y conservar intactas sus viejas rivalidades, sus supersticiones, sus ambiciones desmedidas y su resistencia a reconocer los errores.
La inteligencia tecnológica puede avanzar exponencialmente mientras el juicio social progresa de forma irregular.
Y esa distancia puede convertirse en uno de los grandes problemas de nuestro tiempo.
Quizá el superidiota no sea quien carece de inteligencia, sino quien dispone de una inteligencia extraordinaria a su alcance y la utiliza para evitar la responsabilidad de pensar.
La pregunta, entonces, no es si la superinteligencia llegará a superar nuestras capacidades.
Es si nosotros seremos capaces de desarrollar el criterio necesario para convivir con ella sin convertir nuestras limitaciones en problemas de escala planetaria.
Porque, en tiempos de superinteligencia, el peligro no es que las máquinas se vuelvan más inteligentes que nosotros.
Es que nosotros sigamos creyendo que, por tenerlas a nuestro servicio, nos hemos vuelto más inteligentes también.
