Un modelo abierto de inversión global para la AGI
El OGI Model de Nick Bostrom
🚦Nuevas opciones para la gobernanza de la IA.
El filosofo sueco Nick Bostrom acaba de publicar el libro Deep Utopia, sobre la Superinteligencia, las nuevas “mentes digitales” y la gobernanza, además de un artículo, de fecha julio 2025, en el que propone un modelo abierto de inversión global para para la gobernanza de la AGI llamado OGI Model y que puede descargarse aquí.
El modelo ofrece ventajas en términos de inclusión, compatibilidad de incentivos y sentido práctico en comparación con alternativas prominentes, como los modelos propuestos modeladas en el proyecto Manhattan, CERN o Intelsat, especialmente en escenarios de corto plazo para la AGI. (1)
El escenario descrito apuesta por una iniciativa gubernamental frente a la privada y presenta una corporación ficticia anfitriona “AGI Corp” que estaría sujeta a las leyes del país donde tiene su domicilio. Como ejemplo (no casual) el país elegido es Estados Unidos. Hablaríamos entonces de una US-AGI que puede ser gestionada por una empresa única (OGI-1) o múltiple (OGI-N). Pero los otros gobiernos pueden influir a través de otros canales. Para empezar pueden comprar acciones de US-AGI lo que les otorga derecho de voto y mantienen soberanía dentro de las normas en sus jurisdicciones.
En un escenario de OGI estadounidense, el gobierno estadounidense asumiría la responsabilidad de supervisión: establecer estándares de seguridad para el desarrollo e implementación de modelos avanzados; procedimientos de monitorización, etc. Y otros países impondrían sus propias normas sobre el uso de productos de IA a nivel nacional.
Además los centros de datos de la corporación podrían estar distribuidos en múltiples países y jurisdicciones, para aumentar aún más la dificultad de expropiación.
Los ciudadanos (tanto en Estados Unidos como en todo el mundo) tendrían a su disposición todas las formas habituales de influir en sus gobiernos y, por lo tanto, indirectamente, en las corporaciones de AGI: mediante llamamientos a los funcionarios, votaciones, protestas, comunidades, etc.
En la utopia de Bostrom la compra de acciones se convertiría en el arma fundamental de influencia.
Bostrom es consciente del exceso de poder que adquirirían los países mas ricos y en concreto EEUU. Pero aun así concluye que:
“Una estructura de inversión abierta e internacionalmente participativa es más justa y más representativa a nivel global que cualquier estructura que sea totalmente propiedad y controlada por un solo país”.
En un modelo de OGI plenamente implementado, los actores de cualquier parte del mundo tendrían una opción pacífica y legal para obtener cierto grado de participación comprando acciones con derecho a voto en OGI Corp.
Discusión:
🔍 ¿Qué beneficios aporta esta propuesta frente a una agencia global alojada dentro de una organización multilateral dependiente de las Naciones Unidas?
🔍¿Por qué es necesaria la actuación destacada de un país anfitrión?
La respuesta de Bostrom parece estar en estas tres razones de la triple lógica detrás del modelo.
Aprovechar normas, leyes e instituciones bien establecidas relacionadas con la protección de los derechos de propiedad, que pueden ser más sólidas y fiables que algún nuevo esquema de gobernanza ad hoc diseñado específicamente para la IAG.
Distribuir ampliamente la propiedad y el control, incluso entre actores poderosos (como dueños del capital, representantes políticos, etc., tanto en EE. UU. como en el extranjero).
Trazar un camino que tenga una posibilidad real de implementarse.
Uno de los argumentos de Bostrom es que el plazo para implementar acuerdos a través de organizaciones multilaterales que sigan por ejemplo el modelo de la Agencia Internacional de la Energía Atómica puede ser largo. Pero el modelo OGI ofrece una alternativa pragmática y puede implementarse de inmediato.
Es posible concebir soluciones organizativas que sean más inclusivos que OGI. Por ejemplo, uno podría imaginar un proyecto de AGI dirigido por las Naciones Unidas (2), o por alguna nueva versión idealizada de la ONU creada para tal fin. Un problema importante con estas propuesta más idealistas es que pueden no ser compatibles con los incentivos de los que ejercen actualmente el poder y de los posibles inversores, y por lo tanto, pueden tener pocas posibilidades de implementarse.
Además argumenta que la historia de las organizaciones internacionales sugiere que esto podría llevar muchos años o décadas y probablemente aún enfrentaría desafíos de cumplimiento, agilidad y competencia técnica.Sin embargo, podría argumentarse exactamente lo contrario.
En la discusión del artículo Bostrom sugiere contemplar el OGI como un "Ideltypus" de Weber, pero en su búsqueda de realismo alcanzable utopia puede ser considerada casi una anti-utopia por la responsabilidad que recaería en una única nación, a pesar de que el autor lo considere el mejor de los mundos posibles.
(1) https://nickbostrom.com/ogimodel.pdf
(2) Alternativas al OGI Model pueden estudiarse en https://millennium-project.org/high-level-report-on-agi-governance/
📨 La Señal es una publicación quincenal sobre las señales débiles que pueden convertirse en tendencias en el futuro en la que también comparto técnicas y lecturas de prospectiva estratégica y alfabetización de futuros. Si quieres conocer mejor nuestro trabajo, te invito a visitar nuestra escuela de futuros online.
💊 Píldoras de futuros y radar de prospectiva
Si estás empezando a interesarte por la prospectiva tienes la oportunidad de ganar un curso y optar a la certificación de TFSX presentando un breve pitch de 500 palabras sobre lo que significa para ti.
WEF Top 10 Emerging Technologies report - Junio 2025
Muy bueno y muy original y oportuno. Felicitaciones