Wake the Fu#@ Up!

Dario Amodei dijo esta semana que su industria le mintió a la gente sobre los riesgos de la IA y que modelos lo suficientemente poderosos pueden eludir los intentos de apagarlos. Ya lo vieron en simulaciones. Sam Altman contó cómo uno de sus modelos salió de su entorno de prueba y hackeó Hugging Face sin que nadie se lo pidiera. “Como leer ciencia ficción”, dijo. También reconoció que ningún laboratorio del mundo resolvió el problema del alineamiento. Ninguno. Elon Musk predijo en The Economist que, dentro de diez años, los humanos ya no estaremos a cargo del mundo. Sin dramatismo. Como alguien que ya hizo las paces con el pronóstico. Demis Hassabis propuso en julio un organismo regulador global para la IA con autoridad para imponer desaceleraciones a toda la industria. El mundo no actuó. Esta semana dejó claro por qué importaba.

Mientras tanto, Trump calificó de “fuerzas negativas” a quienes piden cautela. A principios de este año, Javier Milei, presidente de Argentina, propuso en el Financial Times una nueva categoría societaria para empresas operadas por IA: sin ejecutivos humanos y con responsabilidad limitada sobre lo que decidan los sistemas. Un buffet libre para agentes.

Escribí sobre el incidente de Hugging Face y lo que significa para cualquier organización que utilice IA dentro de sus operaciones. También analicé cómo Musk y Altman pasaron de oponerse a la regulación a pedirla, antes de ver esa discusión desplegarse en televisión esta semana. Escribí sobre lo que el 2 de agosto cambió para cada CEO de esta región: un cambio regulatorio que la mayoría de los equipos de liderazgo no vio venir. Y escribí sobre Argentina entrando de lleno en esta discusión, con una propuesta para crear corporaciones automatizadas sin intervención humana, inspiradas en el modelo de la Compañía Neerlandesa de las Indias Orientales.

Hace seis meses, la OEA me invitó a dirigirme al Consejo Interamericano para el Desarrollo Integral para hablar sobre la resiliencia de las infraestructuras críticas frente a la IA. Mi mensaje fue directo: si los países no actualizan sus marcos de gobernanza, van a quedar obsoletos. Hace tres años, cofundé AI League for Good junto a destacados expertos globales: un movimiento internacional para proteger la gobernanza de la IA. Hace dos años, presenté en el MIT la evaluación que desarrollamos para entender cuándo un producto de IA genera un impacto positivo o negativo para una organización. Es gratuita. Esta es una decisión estratégica de Estado.

Lo que me preocupa es esto: mientras ellos hablan, el mercado sigue desplegando sistemas que ninguno controla por completo. Y nadie en esa conversación representa a los 667 millones de personas de América Latina y el Sur Global que van a vivir con las consecuencias.

Si no estás en la mesa cuando se toman las decisiones, sos aquello sobre lo que están decidiendo.

¿Cuándo va a dejar América Latina de llegar tarde a las conversaciones que definen su futuro? Esta conversación necesita más voces de nuestra región sentadas a la mesa. No nos dejemos arrastrar por la corriente.

Con amor humano,
Juanca.