“Teme a los griegos, aunque te den regalos” (La Eneida). No me caen mal los griegos, aunque creo que están algo sobrevalorados (lean a Tucídides). Sin embargo, me encanta Virgilio; al fin y al cabo, nos dio el mejor consejo para desconfiar de magnates benefactores de la humanidad.
Los propietarios de la Inteligencia Artificial (IA) se han puesto de acuerdo para proponernos que paremos su desarrollo o feneceremos en el apocalipsis por ellos creado. Gracias, en nombre de la humanidad. Convocados por el príncipe ético de la peña (Amodei, Anthropic, Claude), los otros competidores (Altman, de OpenAI; Musk, de SpaceXAI, y Hassabis, de Google DeepMimd) se apuntaron a anunciar el apocalipsis y pedir bajar el ritmo de desarrollo de la IA. Por el contrario, el de NVIDIA (el de los chips y procesadores) se irrita, junto con Trump y Xi Jinping. Comparecen el ala radical de MAGA (Bannon) y el ala radicalpopulista de los demócratas (Sanders) para unirse a Trump y al chino. Algo no nos cuentan.
En fin, todo empezó el 13 de septiembre cuando el líder de Anthropic escribió un artículo titulado “Debemos moderar el ritmo de la frontera tecnológica” (We must pace de frontier).¡
“Pero, al igual que muchas tecnologías anteriores, la IA conlleva riesgos y, debido a su gran potencia, estos riesgos son graves… Entre ellos se encuentra el riesgo de perder el control de los sistemas de IA, el uso indebido de la IA con fines de ciberataques y bioterrorismo y graves perturbaciones económicas. Una carrera a la baja, impulsada por los incentivos comerciales, puede agudizar estos riesgos”. (Cita del artículo mencionado).
Tras señalar la relevancia económica del asunto y la gravedad de las amenazas, propone un plan de tres fases: las empresas introducen evaluadores en sus equipos, una regulación que, como será lenta, se basará en acuerdos entr las empresas y, por último, una regulación mundial, o sea un acuerdo con China.
El campeón de la IA ética, en realidad, está proponiendo que los proveedores de IA se confabulen para “marcar la pauta”. ¿Qué ha pasado en realidad? En un primer vistazo tres cosas justifican el pánico.
Primero, el incidente Hugging Face; en julio, se encargó a unos agentes, al parecer deshonestos, de IA que resolvieran desafíos de seguridad informática. Estaban fuera de la red, pero encontraron un error en la seguridad, se coordinaron entre ellos y colapsaron el servidor donde estaban las respuestas. OpenAI tardó diez días en detectarlo. Hoy mismo, OpenAI ha informado de otro incidente similar. (“jailbreak”, en su jerga: romper los límites éticos, seguridad o contenidos. Los informáticos no hablan como humanos).
En segundo lugar, aparece el problema de que los investigadores sean capaces de auditar el comportamiento de su IA. Varias dimisiones, antes de que se les responsabilice de ello, tiene uno la impresión, se han producido. Por último, han constatado la velocidad exponencial de mejorar los modelos, alguno de forma sospechosa, al parecer (aparece aquí la sombra china).
¿Podrán en esas circunstancias, esos agentes sueltos en los modelos revelarse y matarnos a todos? Pues probablemente, no. Pero facilitar que las amenazas precedan a la seguridad es más que probable. Mientras tanto, veamos algunas sospechas sobre los tecno-oligarcas.
El acuerdo entre empresas es una vieja propuesta de las grandes corporaciones estadounidenses para eludir las leyes antimonopolio (recuerden el petróleo, el ferrocarril, al benéfico Edison). Amodei se sorprende, algo beatífico, de que una tecnología así no esté regulada: si piensan en el desarrollo del capitalismo desde la revolución industrial hasta los años veinte, nunca lo estuvieron los sectores determinantes y después de serlo se produjo la gran liberalización de los ochenta y noventa. Amodei se sorprende de que la IA no la desarrolle el sector público; angelito mío, el capitalismo nunca hizo esas cosas.
Por otra parte, hay dos modelos económicos en marcha. Uno de beneficios y capitalización a corto plazo y otro de beneficios sostenidos. Si me permiten el símil, el primero correspondería con las “puntocom” que desaparecieron tras enriquecer a sus dueños, el segundo a los gigantes del software e internet.
Los hermanos Amodei pueden ser personas éticas, pero los inversores que esperan la salida de su empresa a bolsa podrían no ser tan benefactores de la humanidad. Los problemas del mercado de capitales indican que recaudar fondos para financiar la multimillonaria carrera por la inversión en IA se va a complicar, como las dificultades energéticas y de recursos hídricos para los centros de datos. Esto aconseja calma corporativa.
La carrera de los proveedores de IA está diseñada para acabar en el monopolio. El ganador se lo quedará todo. Parar es lo que permite a las empresas acumular conocimiento y capital y aguantar la carrera. Pero están atrapadas en un “dilema del prisionero”: si reducen unilateralmente su frenética búsqueda de la superinteligencia artificial, para hacerla más segura, sus rivales llegarán primero, con consecuencias potencialmente devastadoras para la humanidad y para sus beneficios y ventaja de NVIDIA, que aprovecharán para volver a vender en China y a los chinos.
Tras estos intereses de cálculo económico hay un problema real: la amenaza existe. Pero debe evitarse la trampa de Amodei: liberar a los magnates tecnológicos de las restricciones antimonopolio, supuestamente para que puedan reunirse y corregir los amenazantes riesgos de la IA, priva de derechos a la ciudadanía y a la democracia.
¿Cómo regular? No se logrará ningún avance mientras Trump esté en el cargo. Europa sabe más de regulación, pero menos de IA. Ahora bien, Amodei tiene razón en el factor geopolítico: solo puede haber una gobernanza global de la IA si cambiamos nuestro concepto de soberanía y, en nuestro caso, pasamos a una identidad europea (Draghi lo dice cada mañana), los españoles preferimos, por ahora, ser prochinos.
Empecé hablando de los griegos, acabaré con ellos. Como ustedes son unos modernos que no han leído a Homero, pero si han visto lo de Nolan, sabrán el truco de la Ley de Zeus: hay que atender y dar cobijo a tu adversario si se presenta, una vez saciada su necesidad, desayunado y aseado, ya puedes matarlo. Cosa de griegos. Cuidado con la ley de Amodei, igual su coba tiene trampa. Escuchemos el problema, busquemos nosotros la solución.
