Según un artículo de ITBrief 1 de cada 4 empresas en Reino Unido y EE. UU. ha sufrido incidentes relacionados con data poisoning en aplicaciones de IA. Sobre ese tema Enrique Dans ha publicado hace pocos días un post sobre el hackeo de los LLMs en el que referencia un artículo en el que participa Anthropic: Poisoning Attacks on LLMs require a near-constant Number of poison samples en el que explican que si un atacante logra introducir en el corpus de entrenamiento del orden de 250 documentos cuidadosamente construidos, puede conseguir que el modelo desarrolle un comportamiento «dormido» que solo se activa ante un detonante concreto.

El hecho de que el número de artículos capaces de envenar un modelo sea pequeño, y parezca ser constante, con independencia del tamaño modelo, hace saltar más las alarmas. La solución que propone Dans es reforzar el control de la cadena de suministro y el trabajo de los equipos de ciberseguridad Red Team que hacen pruebas que simulan ataques en los sistemas.

Un boletín de The Futures Factory

Un arma peligrosa en la guerra tecnológica

⌖ En el informe de publicado por el grupo de analistas de Futures Platform de 2025 sobre el futuro de la defensa y la seguridad, el envenamiento de datos aparece como una “tendencia” que se fortalece y puede afectar seriamente a la defensa en el horizonte 2025-2029.

El envenenamiento de datos es una forma emergente de ciberataque que manipula los conjuntos de datos de entrenamiento de IA para distorsionar los resultados, reducir el rendimiento y erosionar la confianza en los sistemas de IA. Estos ataques representan una amenaza significativa para la infraestructura crítica, la seguridad pública y la credibilidad de AI. -Futures Platform.

Hay muchos actores en juego atraídos por este tipo de ataques, incluidos los competidores empresariales, pero entre ellos están, o podrán estar cada vez más, los agentes estatales que se enfrenten en guerras tecnológicas.

El panorama geopolítico es propicio para el envenenamiento de datos. Las naciones involucradas en una guerra tecnológica podrían considerarla una herramienta estratégica para debilitar a sus rivales.-Futures Platform

Los datos revelados por el artículo de Anthropic mencionado arriba, al indicar que no hace falta gran cantidad de “virus” para el envenenamiento, contribuyen a hacer más peligrosa la alerta.

El envenenamiento de datos no es una amenaza hipotética; es un peligro claro y presente que podría socavar los cimientos mismos de nuestra sociedad digital. Combatir esta amenaza requiere un enfoque multifacético, que incluye innovación tecnológica, supervisión regulatoria y un cambio fundamental en la forma en que percibimos e interactuamos con la información en línea. El futuro de internet, y de hecho, el futuro de la sociedad, podría depender de nuestra capacidad para neutralizar este veneno insidioso. -Futures Platform

🃏 WILDCARD: Corrupción de Internet

➳ Si el primer vector de ataque son los datos de entrenamiento que pueden ir de pequeños sesgos, mentiras totales…, más tarde se produce un efecto eco ya que unos modelos son entrenados a partir de otros modelos. La pregunta bastante obvia es ¿qué ocurrirá con modelos entrenados a partir de contenido en la web de cada vez peor calidad, ¿No estamos ya dentro de una epidemia? Imaginando el peor escenario ¿Cuánto tiempo falta para que la basura supere al contenido de calidad?

La plataforma de análisis de tendencias considera la Total Corrupción de Internet como una wildcard, es decir un evento que visualizamos, y que no nos cogería por sorpresa de producirse finalmente, pero consideramos poco probable. Y el resultado del crowdsourcing entre los analistas sobre el horizonte en el que podría llegarse a esa situación es 2026 - 2121. Nada menos que un siglo. Esta diversidad de opiniones sobre todo indica su alta incertidumbre.

Si tuviera, o quisiera imaginar una distopía se parecería bastante a esto ⤵

Otros usos (no venenosos) de las inyecciones de datos

Curiosamente la misma técnica de introducir datos que pasan inadvertidos en los modelos puede ofrecer usos positivos.

• El Informe FuturesPlatform menciona la posibilidad de realizar estas inyecciones de datos para asegurar la propiedad intelectual, como lo hace Nightshade, una herramienta que permite un buen uso del “envenamiento” de datos permitiendo a los artistas proteger sus creaciones de usos fraudulentos mediante la inyección de datos que pasan inadvertidos.

• Los autores de Defending Against Neural Network Model Inversion Attacks via Data proponen una sugerente forma de usar la inyección de datos en modelo para luchar contra los Ataques de Inversión de Modelos, modelos que permiten la reconstrucción de los datos confidenciales que se han usado para el entrenamiento a partir de sus resultados. La estrategia aprovecha el envenenamiento de datos para contaminar los datos de entrenamiento de los modelos de inversión.

𓄲 Defending Against Neural Network Model Inversion Attacks via Data Poisoning

𓄲 Data Poisoning – A Security Threat in AI & Machine Learning

𓄲Data Poisoning in Deep Learning: A Survey

Leave a comment

📨 La Señal es una publicación quincenal sobre las señales débiles que pueden convertirse en tendencias en el futuro en la que también comparto técnicas y lecturas de prospectiva estratégica y alfabetización de futuros. Si quieres conocer mejor nuestro trabajo, te invito a visitar The Futures Factory.

Subscribe now

DISCLAIMER: Este artículo ha sido pensado y escrito en su totalidad por una humana. Y como acostumbran a hacer los humanos los textos extraídos de otras fuentes, blogs y seres incorpóreos ֎ están citados.  

Cuando el estado de dos partículas elementales se encuentra enlazado lo que le ocurre a una determina el estado de la otra. ¿Qué explica que dos partículas elementales se encuentren enlazadas e influyan la una en la otra a millones de kilómetros, o que dos futuros se encuentren superpuestos? 

La mecánica cuántica funciona para explicar el mundo subátomico pero deja muchas preguntas sin respuesta. O como dijo Richard Feynman: si usted piensa que entiende la mecánica cuántica, es que no la ha entendido. Y parece difícil escapar de la conocida e impactante frase. De hecho, han aludido a ella la totalidad de los físicos teóricos a los que he consultado para escribir este artículo, cuando resulta imposible responder a las preguntas. Pero si la mecánica cuántica funciona para explicar determinados fenómenos ¿por qué no podemos intentar modelar el futuro de la misma forma?

El problema de la medida

La mecánica cuántica propone que hay límites a las propiedades de los objetos que podemos conocer simultáneamente, y que los objetos a escala microscópica pueden exhibir propiedades aparentemente contradictorias dependiendo del tipo de medición realizada. Lo que en castellano antiguo viene a confirmar el insuperable dicho de Campoamor.

Uno de los estados posibles del mundo es la confrontación permanente, y simultáneamente, la solución pacífica de los principales conflictos, o su estancamiento; la IA quita y genera a la vez el trabajo; y la población del mundo crece y decrece en su simultaneidad cuántica de estados posibles. Todos esos estados que podrían colapsar en el futuro a favor de un u otro estado permanente no son meras elucubraciones sino que existen como estados potenciales hoy.

En palabras de necesitamos: “Entender que el futuro es un espacio de múltiples posibilidades que se superponen como los diferentes estados posibles de un sistema cuántico.” ^[1]

La función de onda del futuro

Según la Escuela de Copenhague, la interpretación probabilística de la función de onda representa la probabilidad de encontrar una partícula en un determinado intervalo. Pero sin embargo en el momento de la medición se produciría el colapso que lleva al sistema a un estado definido. La función de onda nos informa de cuáles son los resultados posibles de una medida y sus probabilidades relativas, pero no nos dice qué resultado concreto se obtendrá si un observador trata efectivamente de medir el sistema o averiguar algo sobre él.

¿No es la incertidumbre precisamente el sustrato con el que trabaja el futuro?

La teoría de los Muchos Mundos

El problema de la medida ha dado lugar a muchas interpretaciones rivales. Todas fascinantes. Entre ellas la de los universos paralelos en la que todas las posibilidades se realizan en universos paralelos, brillantemente explorada en el relato la ansiedad es el vértigo de la libertad de Ted Chiang, un relato que ningún amante de la ciencia ficción debería dejar de leer.

La teoría de los muchos mundos propuesta por Hugh Everett dice que todo pasa, pero en realidades separadas. Según esta teoría en realidad los posibles estados se realizarían en distintas ramas, y lo que ocurriría sería que el observador solo percibiría una de ellas. Si imaginamos un sistema compuesto de tan solo dos partículas enlazadas, antes de medir el sistema completo está en una superposición. Después de medir, no colapsa nada como postulaba la Interpretación de Copenhague, sino que el universo se ramifica en dos mundos: en un mundo el observador ve que A vale X y el otro Y. En Muchos Mundos cada mundo es internamente coherente, aunque existan varios a la vez.

Supongamos enlazadas la partícula A= IA desaforada, y la B = Consumo de Energía. En una rama del futuro la IA desaforada aumenta y la energía también. Mientras que en la otra rama sucede exactamente lo contrario. En una rama “el mundo va a peor” y “en otra a mejor”.  Pero las variables deben mantener la coherencia dentro de su rama. 

Esta interpretación es considerada matemáticamente limpia, pero su interpretación ontológica es decir, “real”, salta a la vista, muy discutible. Porque de momento parece que todos vivimos en el mismo mundo. Dicho en palabras de Huxley “Hay muchos mundos, pero están en este”.

Lo que intento sugerir con este largo y multitemático post es que la metáfora actual que usamos para representar los Estudios de Futuro dibuja el futuro como un monolito monocolor en una física de grandes dimensiones, cuando en realidad la nueva metáfora nos debería llevar a hablar de la Naturaleza Cuántica del Futuro.

De la naturaleza cuántica de la mente

Hasta ahora somos pocos (expertos y profanos en física teórica entre los que me incluyo) los que encontramos sugerente la (incomprendida y denostada) teoría de Roger Penrose que propone que la mente humana no puede explicarse por procesos cuánticos computacionales clásicos (lo que apoyaría la idea de que una máquina pudiera comprender el mundo igual que un humano), y que solo puede explicarse por procesos cuánticos internos.

Sin entrar en sus complejos detalles, sostiene que los microtúbulos del citoesqueleto de las neuronas, estarían en un estado cuántico “coherente” (enlazado) antes de colapsar en un estado concreto. Lo que se deduciría, de ser cierta (o confirmarse) la hipótesis de Penrose-Hameroff [2], es que “pensar” es un proceso cuántico en el que todos los estados posibles en los que las neuronas pueden combinarse colapsarían de forma objetiva (es decir sin mediación del observador) en un “instante de conciencia” particular.

Extrapolando a Penrose, lo que pensamos sobre el futuro, como cualquier otro constructo conceptual de nuestro pensamiento, es también de naturaleza cuántica.

Leave a comment

Un boletín de TheFuturesFactoryory

Notas y referencias

^[1] F.J. Jariego. Curso UNED Estudios de Futuro: Ciencia Filosofía y Ficción

^[2] La Teoría Orch-OR (Orchestrated Objective Reduction) de Penrose Hameroff propone de forma resumida la existencia de que existen unos “microtúbulos” neuronales, esenciales para la estructura y función de las neuronas, actuando como vías de transporte (ferrocarriles moleculares) a lo largo del axón y dendritas y organizados por proteínas como la tubulina cruciales para la comunicación neuronal. Las proteínas de tubulina dentro de los microtúbulos actúan como bits cuánticos (qubits) que pueden estar en superposición de múltiples estados simultáneamente. Estos estados se extienden a través de las redes de microtúbulos en las neuronas, permitiendo que grandes áreas del cerebro —incluyendo la conexión entre el hipocampo (memoria episódica) y el neocórtex (almacenamiento a largo plazo)— funcionen de forma coherente.

Es muy interesante contrastar esta hipótesis con las teorías actuales sobre la memoria, en particular con las hipótesis de Senon sobre los engramas de memoria y la teoría de atractores de Hopfield sobre la Ecforia, según la cual cada recuerdo es un atractor. Siendo un atractor algo que mueve un sistema hacia un estado estable. De modo que un recuerdo no es un “archivo físico” sino un estado preferido del sistema.

De hecho es una pregunta sin respuesta. Los think tanks futuristas nos facilitan el trabajo gracias a una selección correcta y lo más exhaustiva posible de fuentes. En el caso de la búsqueda de señales sociales los informes y los periódicos son una de las principales fuentes (igual que las patentes o los mercados son esenciales en las tecnológicas). Pero lo que hace más relevantes los análisis es el ojo clínico y, en cierta medida, el volumen y diversidad de los analistas, futuristas o scouters que las buscan.

Un boletín de The Futures Factory

Otra pregunta recurrente es saber en qué se diferencia una tendencia de una señal

Las tendencias se enfocan en cosas que conocemos y de las que ya tenemos una historia sobre su desarrollo que podemos analizar. 

🌱 Pero una señal es un "hecho concreto" que ya ha ocurrido: un evento, una tecnología que acaba de aparecer y de la que nadie ha oído hablar, una nueva ideología. ¿Puede un cambio de dirección o de enfásis brusco en algo que conocemos ser considerado una señal? Sí. Puede. Pero una señal debe cumplir algunas condiciones:

1) No es solo algo que pasa, sino que si crece o se expande puede tener un impacto relevante.

2) No ocupa aún las primeras páginas de los periódicos, no es algo de lo que "todo el mundo habla".

3) Suele encontrarse en "la periferia" de las noticias, inventos, descubrimientos o publicaciones.

Buscamos señales para intentar anticipar tendencias emergentes fuentes de problemas u oportunidades. 

Un conjunto de señales relacionadas (o una sola) podrían servirnos para anticipar una tendencia emergente. 

Desde el lenguaje de la prospectiva, podríamos decir que una señal es una fase anterior de una tendencia emergente.

El análisis de problemas emergentes es una técnica clave en la prospectiva cuya formalización debemos fundamentalmente a Graham Molitor. En el siguiente gráfico vemos más claramente sugerida su relación con la visibilidad en los medios.

Lo mas destacable es que de las diez señales que he elegido, sin animo de exhaustividad, que más me han llamado la atención, cinco están relacionadas con los jóvenes.

¿Te atreves a enunciar/nombrar una posible tendencia emergente que exprese de forma conjunta algunas de las señales de cambio de rumbo que se aprecian cada vez con más fuerza en los jovenes?

10 señales sociales a las que estar atentos

🚦1. Repunte de la religiosidad entre los jóvenes en varios países occidentales. Diversas fuentes señalan que en varios países occidentales crece el interés en la religión. La creencia en Dios en la franja de 18-24 ha crecido en 2024 hasta el 45% respecto al 16% en agosto del 2021 en Reino Unido, a lo que se une el record de bautismos en Francia en 2025. En España, los datos de la Fundación Pluralismo y Convivencia muestran un aumento de la religiosidad entre los más jóvenes.

https://yougov.co.uk/topics/society/trackers/brits-beliefs-about-gods

🚦2. La brecha electoral de género crece, especialmente entre los jóvenes. Los datos sugieren una creciente brecha electoral entre hombres y mujeres jóvenes, incluyendo EEUU Reino Unido y Alemania. Mientras que las mujeres jóvenes tienden a inclinarse hacia posturas más progresistas los hombres jóvenes se identifican cada vez más con opciones conservadoras. Esta dinámica también se observa fuera de occidente siendo Corea del Sur el país de mayor brecha.

https://www.ft.com/content/29fd9b5c-2f35-41bf-9d4c-994db4e12998

🚦3. Declive de las aplicaciones de citas. Las descargas de aplicaciones de citas han disminuido un 20% desde 2020, lo que refleja un cambio en los hábitos de los usuarios. En contraste sube la búsqueda de encuentros presenciales.

https://sensortower.com/blog/users-separate-from-dating-apps

🚦4. La manosfera, sin complejos. Naciones Unidas alerta de que la llamada manosfera (que incluye grupos como los como Incels, MGTOW Men Going Their Own Way, o los pick-up artists), trasciende los foros ocultos y amenaza con hacerse mainstream.

https://www.ungeneva.org/en/news-media/news/2025/03/104113/online-manosphere-moving-misogyny-mainstream

🚦5. Baja el consumo de alcohol y el número de relaciones sexuales entre los jóvenes. Los últimos datos sugieren cambios de patrones comportamentales entre los jóvenes. Aumenta la oferta de bebidas no-alcohólicas dirigidas a un creciente número de jóvenes abstemios.

https://www.elmundo.es/opinion/columnistas/2025/10/14/68ed04c1e85ece81288b45a1.html

🚦6. Las redes sociales superan por primera vez a la televisión como principal fuente de noticias En EE. UU. Las redes sociales superan por primera vez a la TV como principal fuente de noticias. Por primera vez más adultos en EE. UU. obtienen noticias de redes sociales que de la televisión. El 54 % de adultos declararon consumir noticias a través de redes sociales, frente a 50 % que accedió a noticias vía televisión, y 48 % que lo hizo mediante webs o apps de noticias tradicionales.

https://www.elmundo.es/opinion/columnistas/2025/10/14/68ed04c1e85ece81288b45a1.html

🚦7. La libertad de expresión en el punto de mira. The Economist advierte de un retroceso de la libertad de expresión, especialmente en el ámbito digital en diversos países occidentales tradicionales.

https://www.economist.com/europe/2025/05/15/europeans-are-becoming-less-free-to-say-what-they-think

🚦8. Las celebrities se erigen en nuevos referentes político-sociales. El caso de Taylor Swift en las pasadas elecciones americanas del 2024, fue uno de los últimos en demostrar una clara influencia en el voto en sus millones de seguidores que declararon votar a “cualquier candidato que ella votase”. La UE integra a creadores e influencers en su estrategia contra la desinformación.

https://www.reuters.com/business/media-telecom/eu-looks-big-tech-influencers-fight-hybrid-threats-fake-news-2025-11-12/

🚦9. La soledad, elevada a problema de salud pública. La OMS alerta de que uno de cada seis personas sufre soledad crónica, con un grave impacto para la salud. La desconexión social deja de ser privada y pasa a ser sistémica.

https://www.who.int/es/publications/m/item/from-loneliness-to-social-connection-summary

🚦10. Impacto negativo de las redes sociales en la capacidad de concentración de los individuos. Evidencia neurocognitiva del impacto de redes sociales. Se vincula el uso intensivo de redes con una menor capacidad de concentración en los individuos.

https://www.swinburne.edu.au/news/2025/08/world-first-study-of-young-adults-brain-activity-shows-tv-and-gaming-boosts-focus-while-social-media-hinders-it/

Descarga el informe en pdf

🧠 Análisis de problemas emergentes

En respuesta a mi propio reto, está sería una pincelada de mi apuesta de tendencia emergente como una de las claras tendencia emergente entre los jovenes que no tiene nada que ver con la manosfera y que podría causar problemas importantes: Voluntary Cellibates, algo mucho más escalofriante que los Involutary Celibates de la serie Adolescencia y del fenómeno de la Manosfera sobre quienes puedes leer aquí. Une simplemente las señales 2, 3 y 5 y 10 y dime si estás de acuerdo en un comentario.

Leave a comment

Leave a comment

💊 Píldoras de futuros y enlaces

Emerging Issues Analysis: Because of Graham Molitor

Tecnofuturos

Demasiado feo para ligar

El pasado noviembre de 2024 se viralizó la imagen de una atractiva chica a la que han grabado junto a su (presunta) pareja en un partido de la Euroliga. Su cuenta de Instagram es descubierta y rápidamente pasa de cien seguidores a más de setenta mil. A los pocos días, un usuario de X bajo el nombre de…

Read more

a year ago · 7 likes · 1 comment · Tecnofuturos

📨 La Señal es una publicación quincenal sobre las señales débiles que pueden convertirse en tendencias en el futuro en la que también comparto técnicas y lecturas de prospectiva estratégica y alfabetización de futuros. Si quieres conocer mejor nuestro trabajo, te invito a visitar The Futures Factory.

DISCLAIMER: Este artículo ha sido pensado y escrito en su totalidad por una humana. Y como acostumbran a hacer los humanos los textos extraídos de otras fuentes y blogs están citados.  

De muchas de ellas ya he hablado a lo largo de este año en este blog.

Puedes descargar el informe aquí.

Un boletín de The Futures Factory

Leave a comment

La Señal es una publicación quincenal sobre las señales débiles que pueden convertirse en tendencias en el futuro en la que también comparto técnicas y lecturas de prospectiva estratégica y alfabetización de futuros. Si quieres conocer mejor nuestro trabajo, te invito a visitar The Futures Factory.

Subscribe now

Puedes descargar el informe aquí.

Un boletín de The Futures Factory

Leave a comment

La Señal es una publicación quincenal sobre las señales débiles que pueden convertirse en tendencias en el futuro en la que también comparto técnicas y lecturas de prospectiva estratégica y alfabetización de futuros. Si quieres conocer mejor nuestro trabajo, te invito a visitar The Futures Factory.

Subscribe now

La provocación es una parte integral del proceso de Foresight y Fuglsang afirma que los métodos que habitualmente se utilizan en los talleres de futuros, como las ruedas de futuros, los tres horizontes, los escenarios, el CLA o el backcasting, pueden disuadir a los recién llegados por su complejidad.

Mediante la técnica de las 6 provocaciones se trata de:

Identificar los supuestos clave que sustentan tu comprensión de una versión preferida del futuro. Y explorar cómo este nuevo futuro deseado puede potencialmente generar restricciones o «resultados negativos» —solo que de un tipo diferente—, ya ​​que (ese futuro) podría dejar de reflejar los valores e ideales actuales con el tiempo.

Coincido en que nuestros valores cambian y nuestros valores determinan el futuro, aunque por su sencillez, obviedad, se olvida lo poderosa que es esta idea.

La idea central del método descansa en una serie de principios básicos de la prospectiva. Y, añado, tiene raíces evidentes en otras técnicas de prospectiva narrativa como el CLA de Sohail Inayatullah que aboga por la “deconstrucción”, en el sentido del más puro estructuralismo, de nuestras visiones de futuro, pero es mucho más sencillo.

En esta edición de La Señal, hablamos de esta propuesta, flexible e inspiradora. Una buena forma de conseguir lo que todo taller debe aspirar a conseguir: desafiar al futuro por defecto. Y eso ya es mucho cuando se consigue.

Un boletín de The Futures Factory

🛠️ El método de las seis provocaciones

En el artículo se sugieren 6 ejes o ángulos para la provocación que pueden agruparse y combinarse entre sí.

1. El Giro (the flip) Desafiar el futuro por defecto dandole la vuelta a alguna asunción no cuestionada sobre como evolucionará el futuro y explorando sus consecuencias, p.e: “Se espera que la IA transforme rápidamente el trabajo, pero ¿qué pasa si su adopción en el mundo real se estanca debido a la inercia o la desconfianza?”

2. La Discontinuidad (the discontinuity) Qué ocurre si algunas características de la realidad actual se vuelven obsoletas, p.e: “El Estado-nación es visto como permanente, pero ¿qué pasa si su papel como estructura de gobierno se desvanece?”

3. La Resistencia (the resistant) Qué ocurre si un cambio emergente que esperas que sea muy transformador se detiene por el peso de las estructuras o hábitos del presente, p.e: “Se espera que los vehículos autónomos se generalicen, pero ¿qué pasaría si la regulación y la complejidad social continuasen frenando su llegada?”

4. El Hiperajuste (the overcorrection) Qué ocurre si un cambio emergente que parece transformador hoy lo es menos en el largo plazo. El objetivo es matizar las asunciones en periodos de hype, p.e: “Se espera que la IA generativa transforme las industrias en general, pero ¿qué pasa si su integración en el mundo real resulta más lenta y limitada de lo que se supone?”

5. El Hipoajuste (the undercorrection) Lo contrario que el hiperajuste. p.ej: “¿Y si la AGI llega antes de lo que pensamos?”

6. Las Verdades Incómodas (the uncomfortable truths) Qué verdades no confortables estamos evitando. El objetivo es contrarrestar deliberadamente la ignorancia y los prejuicios en torno a temas tabú que se están evitando, pero que pueden afectar significativamente la perspectiva (estratégica) sobre el futuro, p.e: “¿Qué sucede si se asume que los esfuerzos en materia de diversidad e inclusión avanzarán, pero más tarde se estancan o retroceden?”

👺 Futuros y Tabues

Todas son brillantes y complementarias, pero en mi opinión, la última provocación es la que tiene una carga más revolucionaria y activista por el futuro. Y curiosamente llevo un tiempo trabajando ese mismo tema de los tabúes.

Cito unos párrafos del estudio en curso sobre El futuro y los tabúes que estoy realizando en colaboración con F.J Jariego

El tabú es aquello que no se puede decir, que no se puede pensar, y mucho menos desear. El tabú es precisamente lo que queremos cuestionar como herramienta para realizar el ejercicio de pensar que otros futuros podrían ser posibles de no sujetar nuestro pensamiento a él y explorar esos futuros de forma activa desde la deconstrucción del presente.

(P.Jariego & I.Peñuelas)

Cómo ejemplo de a qué nuevo lugar nos pueden llevar las provocaciones comparto ocho de las suposiciones establecidas parte de nuestro estudio -algunas coinciden con los ejemplos del artículo, otras tal vez “más provocadoras”—, que actúan como tabúes, así como los futuros alternativos que los desafían:

• La democracia actual tal como la conocemos es la única forma del gobierno del pueblo → (futuro alternativo) Nuevos modelos basados en la creación de redes distribuidas de convivencia autónoma y voluntaria tokenizadas como las Charter Networks o la democracia algorítmica.

• La libertad individual es lo más importante →(futuro alternativo) Mente Colmena, Punto Omega, Super-Organismo Social

• La ciencia lo puede todo → (futuro alternativo) Conocimiento más allá de la racionalidad

• Somos seres mortales →(futuro alternativo) Inmortalidad

• Destrucción Mutua Asegurada → (futuro alternativo) Multi-lateralidad geopolítica y algorítmica (ver artículo de Raquel Rodríguez)

• El crecimiento de la población debe continuar →(futuro alternativo) Control de la población para la sostenibilidad del planeta

• Antropocentrismo →(futuro alternativo) Otras formas de vida y consciencia

• La vida solo puede ser creada de forma natural por algo superior →(futuro alternativo)Vida crecida en el laboratorio

  

🧐 ¿Te atreverías a realizar un taller basado en provocaciones?

En el articulo de Fuglsang se ofrece una breve guía. Pero como todos, o al menos la mayoría de los métodos que se usan a menudo en un taller colectivo de futuros, las provocaciones pueden y deben usarse con flexibilidad.

Anticipo que una de las dificultades que puede tener el facilitador es gestionar la ansiedad que pueda generar la interpretación y la búsqueda de límites/demarcaciones precisas entre unas y otras.

Abajo tenéis una tabla resumen, y también confio en que la traducción al español ayude a los futuristas hispanohablantes a aclarar el sentido y demarcar las provocaciones.

Aunque eso no es lo importante, las fronteras no son nítidas y eso no debe verse cómo un problema. De hecho se pueden usar juntas o por separado. Lo importante, como en todo taller, es la conversación que desencadene.

Y esta plantilla sugiere una guía posible muy sencilla de cómo trabajar para evaluar los impactos estratégicos de la provocación.

Os desafío con una provocación que extraigo del artículo: ¿Qué pasaría si los esfuerzos por mejorar la calidad de vida de los seres humanos y aumentar la longevidad crearan nuevas desigualdades? ...¿Te lo has planteado?

Leave a comment

💊 Píldoras de futuros/lecturas recomendadas

Futures of Creativity. Agosto 2025. Association of Profesional Futurists

📨 La Señal es una publicación quincenal sobre las señales débiles que pueden convertirse en tendencias en el futuro en la que también comparto técnicas y lecturas de prospectiva estratégica y alfabetización de futuros. Si quieres conocer mejor nuestro trabajo, te invito a visitar The Futures Factory.

Subscribe now

DISCLAIMER: Este artículo ha sido pensado y escrito en su totalidad por una humana. Y como acostumbran a hacer los humanos los textos extraídos de otras fuentes y blogs están citados.  

Es probable que el equilibrio internacional del poder, el medio ambiente y las estructuras sociales y políticas se transformen radicalmente.

En esta edición de La Señal correlacionamos dos señales, la aceleración del pico poblacional global y el descenso de los matrimonios en los países desarrollados.

Un boletín de The Futures Factory

🚦 Aceleración del pico poblacional global

La población global podría empezar a reducirse antes de 2084 hasta 10.3 bn como plantean las Naciones Unidas, y si la TFR actual se mantiene 25 años en 2055 cambiaría la tendencia y no se alcanzarían nunca los 9.3 billones de personas previstos (ver fig 1).

Algunos datos extraídos del estudio:

• La población de China ya se está contrayendo.

• La tasa de natalidad total (TFR) de México es de 1.6, aproximadamente la misma que la de Estados Unidos.

• En 2024, Francia ha registrado menos nacimientos que en 1806, cuando la población era menos de la mitad de su tamaño actual.

• En 2024 Italia ha registrado su cifra más baja desde la unificación en 1861.

• Corea del Sur ha tenido una tasa total de TFR por debajo de 1 durante siete años. Si se mantiene su población se reducirá a más de la mitad en la duración de una vida.

• El ritmo de las caídas globales se duplicó entre las décadas de 2000 y 2010 y se ha vuelto a duplicar en esta década.

• Solo un tercio de la población mundial vive en países en que el actual TFR logra mantener el crecimiento.

El Economist destaca entre las causas probables la emancipación de la mujer, los costes de la crianza o los cambios culturales. Ya no se necesitan tantos hijos de remplazo: se mueren menos y tenemos sistemas de protección social.

Además, el informe es bastante crítico con las proyecciones de UN que tienden a suponer que muchos países, por ejemplo, USA alcanzaran la estabilización de las tasas actuales) y que otros como Corea del Sur retomarán el crecimiento. Esta vuelta atrás ha sucedido anteriormente y desde UN algunos analistas argumentan que si los problemas que causan a las mujeres la maternidad se resuelven la tendencia se revertirá.

También sostienen que en los países pobres “Incluso si las tasas se estabilizan en las regiones más ricas, la tasa nacional seguirá cayendo a medida que los lugares más pobres se pongan al día”.

🧠 Análisis

¡En pie famelica legión!

¿Es este descenso una buena o mala noticia? Como muchos analistas apuntan, alimentar a una población demasiado grande puede estar en contra de los objetivos de estabilidad climática del planeta. Por tomar un ejemplo, actualmente el país con mayor tasa de fertilidad es Nigeria con 6.7 hijos por mujer. Según el Banco Mundial 75.5% de la población rural vive por debajo de los umbrales de pobreza, y un 41.3% de la población urbana.

🚦 Declive global de los matrimonios en los países desarrollados (strong signal)

Un fenómeno que correlaciona con la caída en el TFR es el declive de las tasas de matrimonio que decrecen sobre todo en los países mas industrializados entre los que destaca Japón.

En tanto que contrato social el matrimonio es menos necesario dado el descenso de la natalidad y la mayor autonomía de la mujer para la crianza. También hay datos de que se reduce el número de encuentros sexuales.

Según la plataforma FuturesPlatform “En la UE, la tasa de matrimonios ha disminuido un 50 % en los últimos 60 años, pasando de 8,0 por cada 1000 personas en 1964 a 4,0 en 2023. En 2022, China registró sus tasas de matrimonio y natalidad más bajas desde que se tienen registros. También se observan descensos generales en África y América Latina, así como un aumento de la edad media de los primeros matrimonios a nivel mundial”.

También se destaca que la conexión es mucho más fuerte en el este y sudeste asiático que en Estados Unidos o Europa, donde, en varios países, en los últimos años se han registrado más nacimientos fuera del matrimonio que dentro del mismo y la razón es que en los países asiáticos los nacimientos fuera del matrimonio están peor considerados a diferencia de los cambios sobre el concepto de matrimonio tradicional formado por dos progenitores de EU y USA donde las opciones de familias mono-parentales están mejor vistas. Fenómenos como el online-dating contribuyen al cambio.

🧠 Análisis

• ¿Cuál será la implicación del descenso de matrimonios en industrias como la de seguros, vivienda y productos de consumo?

• Implicaciones del aumento de la soledad como la búsqueda de más compañías de amigos, mascotas y parejas IA.

• Crianza de los hijos mas comunitaria.

• Aumento de la poligamia.

🔍 Referencias

Humanity will shrink far sooner than you think

Bodas y divorcios -Our world in data

¿Cómo serán los matrimonios del futuro?

Señales relacionadas

Leave a comment

📨 La Señal es una publicación quincenal sobre las señales débiles que pueden convertirse en tendencias en el futuro en la que también comparto técnicas y lecturas de prospectiva estratégica y alfabetización de futuros. Si quieres conocer mejor nuestro trabajo, te invito a visitar nuestra escuela de futuros online.

💊 Píldoras de futuros y radar de prospectiva

El filosofo sueco Nick Bostrom acaba de publicar el libro Deep Utopia, sobre la Superinteligencia, las nuevas “mentes digitales” y la gobernanza, además de un artículo, de fecha julio 2025, en el que propone un modelo abierto de inversión global para para la gobernanza de la AGI llamado OGI Model y que puede descargarse aquí.

Un boletín de The Futures Factory

El modelo ofrece ventajas en términos de inclusión, compatibilidad de incentivos y sentido práctico en comparación con alternativas prominentes, como los modelos propuestos modeladas en el proyecto Manhattan, CERN o Intelsat, especialmente en escenarios de corto plazo para la AGI. (1)

El escenario descrito apuesta por una iniciativa gubernamental frente a la privada y presenta una corporación ficticia anfitriona “AGI Corp” que estaría sujeta a las leyes del país donde tiene su domicilio. Como ejemplo (no casual) el país elegido es Estados Unidos. Hablaríamos entonces de una US­-AGI que puede ser gestionada por una empresa única (OGI-1) o múltiple (OGI-N). Pero los otros gobiernos pueden influir a través de otros canales. Para empezar pueden comprar acciones de US-AGI lo que les otorga derecho de voto y mantienen soberanía dentro de las normas en sus jurisdicciones.

En un escenario de OGI estadounidense, el gobierno estadounidense asumiría la responsabilidad de supervisión: establecer estándares de seguridad para el desarrollo e implementación de modelos avanzados; procedimientos de monitorización, etc. Y otros países impondrían sus propias normas sobre el uso de productos de IA a nivel nacional.

Además los centros de datos de la corporación podrían estar distribuidos en múltiples países y jurisdicciones, para aumentar aún más la dificultad de expropiación.

Los ciudadanos (tanto en Estados Unidos como en todo el mundo) tendrían a su disposición todas las formas habituales de influir en sus gobiernos y, por lo tanto, indirectamente, en las corporaciones de AGI: mediante llamamientos a los funcionarios, votaciones, protestas, comunidades, etc.

Bostrom es consciente del exceso de poder que adquirirían los países mas ricos y en concreto EEUU. Pero aun así concluye que:

“Una estructura de inversión abierta e internacionalmente participativa es más justa y más representativa a nivel global que cualquier estructura que sea totalmente propiedad y controlada por un solo país”.

En un modelo de OGI plenamente implementado, los actores de cualquier parte del mundo tendrían una opción pacífica y legal para obtener cierto grado de participación comprando acciones con derecho a voto en OGI Corp.

Discusión:

🔍 ¿Qué beneficios aporta esta propuesta frente a una agencia global alojada dentro de una organización multilateral dependiente de las Naciones Unidas?

🔍¿Por qué es necesaria la actuación destacada de un país anfitrión?

La respuesta de Bostrom parece estar en estas tres razones de la triple lógica detrás del modelo.

• Aprovechar normas, leyes e instituciones bien establecidas relacionadas con la protección de los derechos de propiedad, que pueden ser más sólidas y fiables que algún nuevo esquema de gobernanza ad hoc diseñado específicamente para la IAG.

• Distribuir ampliamente la propiedad y el control, incluso entre actores poderosos (como dueños del capital, representantes políticos, etc., tanto en EE. UU. como en el extranjero).

• Trazar un camino que tenga una posibilidad real de implementarse.

Uno de los argumentos de Bostrom es que el plazo para implementar acuerdos a través de organizaciones multilaterales que sigan por ejemplo el modelo de la Agencia Internacional de la Energía Atómica puede ser largo. Pero el modelo OGI ofrece una alternativa pragmática y puede implementarse de inmediato.

Es posible concebir soluciones organizativas que sean más inclusivos que OGI. Por ejemplo, uno podría imaginar un proyecto de AGI dirigido por las Naciones Unidas (2), o por alguna nueva versión idealizada de la ONU creada para tal fin. Un problema importante con estas propuesta más idealistas es que pueden no ser compatibles con los incentivos de los que ejercen actualmente el poder y de los posibles inversores, y por lo tanto, pueden tener pocas posibilidades de implementarse.

Además argumenta que la historia de las organizaciones internacionales sugiere que esto podría llevar muchos años o décadas y probablemente aún enfrentaría desafíos de cumplimiento, agilidad y competencia técnica.Sin embargo, podría argumentarse exactamente lo contrario.

En la discusión del artículo Bostrom sugiere contemplar el OGI como un "Ideltypus" de Weber, pero en su búsqueda de realismo alcanzable utopia puede ser considerada casi una anti-utopia por la responsabilidad que recaería en una única nación, a pesar de que el autor lo considere el mejor de los mundos posibles.

Leave a comment

(1) https://nickbostrom.com/ogimodel.pdf

(2) Alternativas al OGI Model pueden estudiarse en https://millennium-project.org/high-level-report-on-agi-governance/

📨 La Señal es una publicación quincenal sobre las señales débiles que pueden convertirse en tendencias en el futuro en la que también comparto técnicas y lecturas de prospectiva estratégica y alfabetización de futuros. Si quieres conocer mejor nuestro trabajo, te invito a visitar nuestra escuela de futuros online.

💊 Píldoras de futuros y radar de prospectiva

• Si estás empezando a interesarte por la prospectiva tienes la oportunidad de ganar un curso y optar a la certificación de TFSX presentando un breve pitch de 500 palabras sobre lo que significa para ti.

• WEF Top 10 Emerging Technologies report - Junio 2025

Un boletín de The Futures Factory

Esta señal está dedicada a comentar el informe de RAND Corporation sobre las relaciones entre la AGI y la geopolítica publicado en junio.

💊 Píldora de Futuros: Thinking the Unthinkable en la Rand Corp.

La prospectiva está ligada a la historia de la Rand Corporation a finales de la década de 1940, y en concreto a la figura de Herman Khan entonces un joven analista de defensa en Rand Corporation, comenzó a contar historias breves para describir las muchas formas posibles en que la tecnología de armas nucleares podría ser utilizada por naciones hostiles. Kahn describe los escenarios como:

Secuencias hipotéticas de eventos construidos con el propósito de centrar la atención en los procesos causales y la toma de decisiones.

Khan es conocido que su personaje inspira el de Dr. StrangeLove en Teléfono Rojo Volamos Hacia Moscú. La historia menos conocida y sugerente es que también Khan y Kubrick eran amigos y compartían tertulia. Se dice que fue un guionista de Hollywood Leo Rosten, también asiduo la tertulia, quien sugiere el nombre de escenarios para estos ejercicios de narración que Khan estaba haciendo para analizar posibles sucesos y respuestas ante una eventual amenaza soviética (1). Preciosa anécdota que nos habla de la polinización entre disciplinas, y del aspecto artístico y creativo necesario en el diseño de escenarios.

El reciente informe plantea preguntas como:

• ¿Podremos o no podremos controlar la AGI?

• ¿Liderarán los Estados Unidos en solitario el desarrollo de la AGI?

• ¿Liderará la AGI Estados Unidos junto a sus aliados?

• ¿Liderará la AGI China en solitario?

• ¿O dominaran el terreno geopolítico las decisiones de una coalición de IAs coordinadas (agentes)?

En el informe se asume que AGI es posible y se define mediante su definición clásica como “la IA poderosa capaz de realizar cualquier tarea intelectual que puede realizar un humano”. Y se aclara que no se centram en lo que se consideran los escenarios más probables para el futuro de la IA y la geopolítica; sino más bien, nos centramos en los resultados potenciales de mayor impacto de las tendencias existentes en el desarrollo de la IA y los posibles "riesgos de cola", eventos potenciales de baja probabilidad pero de gran impacto de esta tecnología(1) y presenta 8 escenarios que resultan de combinar 2 ejes de incertidumbre con 2 y 4 valores respectivamente.

🔄 Ejes de incertidumbre:

• Grado de centralización en el desarrollo de la AGI que es considerado como el mas probable factor clave.

  • Descentralizado (múltiples actores).

  • Centralizado (un único actor lidera el desarrollo).

• Potencial cambio de poder político tras el despegue de la AGI para el que se consideran estos escenarios:

  • El desarrollo de la AGI fortalece a Estados Unidos frente al mundo.

  • El desarrollo de la AGI fortalece a los adversarios de EE.UU. sobre Estados Unidos.

  • El desarrollo de la AGI debilita tanto a Estados Unidos como a sus adversarios.

  • El desarrollo de la AGI se detiene.

🔄 Factores clave

• Grado de centralización.

• Competencia U.S. China.

• Relaciones publico-privadas.

• Capacidad de gobernanza de la IA.

• Incertidumbres del alineamiento de la IA.

• Disrupción económica y social.

🔄 Escenarios de actores múltiples

1. Liderazgo Multilateral Democrático

   La AGI avanza rápidamente en EE.UU. y sus aliados. El desarrollo descentralizado en ultima instancia beneficia a los EE.UU. que en alianza con la EU desarrollan rápidamente la AGI, pero limitan el acceso a sus adversarios (paralelismos con el despliegue de Internet). La cooperación con Japón o Corea del Sur es importante para controlar el mercado de los semiconductores. Implica un trabajo conjunto con los creadores de políticas para garantizar el ajuste de la AGI con las prioridades humanas.

2. II Guerra Fría

   El desarrollo descentralizado fortalece a los adversarios estadounidenses. En este escenario EE.UU. y China son lideres. Las tensiones crecen por la situación de Taiwan. EE.UU.consigue mantener la igualdad pero no la superioridad. Una asunción de este escenario es que se mantiene la necesidad de alto consumo de recursos lo que la la superioridad a las grandes naciones. Este escenario implica un aumento de la militarización de la AGI que refleja el tipo de competición de la guerra fría en el que los avances tecnológicos iban ligados a la competición geopolítica. La divergencia entre los marcos regulatorios amplifica las posibilidades de fallos catastróficos de la AGI.

3. Frontera Salvaje

   El desarrollo descentralizado de la IA debilita tanto a Estados Unidos como a sus adversarios. El coste de los chips avanzados necesarios para la IA se reduce. Los estados no pueden controlar ni el desarrollo ni el despliegue de los modelos. Muchos modelos son open-source, se roban los pesos de los modelos, y numerosos actores (estatales y no estatales) despliegan los suyos a su medida sin control. Falta de regulación. Se avanza hacia la ASI y algunos actores son demasiado tolerantes al riesgo con resultados dañinos, o incluso desastres como el daño a las infraestructuras críticas.

4. Se tapona la botella

   El desarrollo de la AGI se suspende. En este escenario un incidente daña una infraestructura critica y provoca una reacción internacional. Se restringe el desarrollo y se permite la monitorizacion internacional de forma similar al tratado de 1968 de No-Proliferación-Nuclear. Pero sin embargo los mecanismos de verificación son irregulares, el terreno geopolítico permanece inestable y aunque China y EE.UU. son conscientes del riego siguen compitiendo de formas evasivas del tratado. En este escenario se asume que el desarrollo sigue siendo intensivo en recursos con solo algunas naciones capaces de liderar, pero la rivalidad se mantiene y China y EE.UU. caen en el dilema del prisionero, permanentemente a punto de caer en la destrucción mutua asegurada.

🔄 Escenarios con control de un único actor

1. Los nuevos 90

   El desarrollo centralizado de la AGI empodera a Estados Unidos. Las compañías americanas crean acuerdos sin precedentes con el gobierno americano para el desarrollo de la IA. Inicialmente se perfila como una tecnología ofensiva y el gobierno toma el control. Los controles de exportación impiden que China acumule suficiente capacidad de cómputo, a lo que se unen estrictas medidas de ciberseguridad en los laboratorios americanos de AGI para prevenir robos tecnológicos. La investigación impulsa avances que generan un crecimiento económico masivo en areas como la bioeconomía, la ciencia de materiales…etc. Este escenario se diferencia del primero en que EE.UU. decide tomar el control para evitar lo que se percibe como riesgos desestabilizadores de la AGI. Además se asume que USA depende menos del resto del mundo para alcanzar el liderazgo que en el primero.

2. Ventaja Autoritaria

   El desarrollo centralizado de la IAG fortalece a la República Popular China que aprovecha su liderazgo en la comercialización de IA para expandir su influencia en América Latina, África y Oriente Medio. Los sistemas de vigilancia automatizada permiten a los regímenes y líderes autoritarios controlar la información, reprimir selectivamente a los disidentes con una precisión casi perfecta e influir en el comportamiento de los grupos mediante el sofisticado mapeo en red de las relaciones humanas. Además, las inversiones e innovaciones de la República Popular China en robótica industrial dan sus frutos, permitiendo la sustitución de mano de obra poco cualificada por IAs. Mientras EE.UU. y los aliados continuan sufriendo los efectos de la desinformación, la polarización y el desempleo. Las políticas proteccionistas de EE.UU.para protegerse del liderazgo chino fracasan.

3. Golpe de estado de la AGI

   El desarrollo centralizado de la AGI desempodera tanto a Estados Unidos y a sus adversarios. Los humanos delegan decisiones en IAs que se coordinan entre sí y ceden la autoridad a las AGIs. El mundo resultante es uno en el que el actor dominante es una coalición de IAs coordinadas. Este escenario asume que no podemos controlar la AGI. Inicialmente cedemos autoridad para obtener mayor eficiencia social pero existe la posibilidad de que sistemas con capacidad de cooperar pero no diseñados para cooperar inicialmente se confabulen entre ellos terminando por generar consecuencias catastróficas.

   “There is some empirical evidence of reinforcement learning systems learning unintended goals, as well as theoretical results showing that many classes of autonomous agents would seek power” (4)

4. El champiñon nuclear

   China consigue detener el liderazgo IA de EE.UU. dificultando su desarrollo. China percibe el riesgo del creciente poder geopolítico de EE.UU. y decide controlar entre otras medidas su acceso a semiconductores. Para lo que quizás podría intensificar significativamente sus esfuerzos por controlar Taiwán para dificultar su acceso a recursos tecnológicos críticos, incluso amenazando con acciones militares para recuperar la isla.

   Historical precedents provide a framework for understanding the strategic dynamics at play. Japan’s decision to attack Pearl Harbor in 1941 offers particularly relevant insights into how technological and economic containment can drive proactive military operations. Facing U.S. economic sanctions and perceived strategic encirclement, the Japanese government concluded that preemptive war was preferable to accepting its declining power status…

   En este escenario se advierte de forma clara sobre las posibles consecuencias militares entre las grandes potencias.

   The existing semiconductor competition provides empirical support for this scenario’s premises. U.S. export controls on advanced semiconductors have already generated considerable friction. Taiwan’s dominant position in semiconductor manufacturing, particularly through Taiwan Semiconductor Manufacturing Company’s advanced node production, creates a potential flashpoint where technological competition directly intersects with existing geopolitical tensions. Similar historical cases suggest that policymakers should be attentive to the potential for such technological- military competitions to increase the chance of conflict between the United States and China.

   Metodología.

El análisis se basa en una serie de entrevistas a un grupo de expertos a los que se le presentó un subconjunto de 5 escenarios. Durante el proceso los expertos identificaron una serie de factores clave que son reflejados en los escenarios expuestos en el informe final y recomendaciones en las que destacan la necesidad de nuevas estructuras de gobernanza y de colaboración entre empresas privadas y gobiernos. El protocolo de entrevistas puede leerse al final del informe.

🖊️ Deja un comentario si te inspira esta lectura, si quieres contribuir con nuevas señales o ideas, o si simplemente tienes alguna duda.

Leave a comment

CITAS Y REFERENCIAS

1. Reconstructing Strangelove

2. Decolonizing the future

3. How Artificial General Intelligence Could Affect the Rise and Fall of Nations. Visions for Potential AGI Futures.

4. Victoria Krakovna and Janos Kramar Power-Seeking Can Be Probable and Predictive for Trained Agents

📨 Si te interesa La Señal y aún no estás suscrito puedes hacerlo ahora.

Subscribe now

Un boletín de The Futures Factory

Generative Watermarking (strong signal)

Las marcas de agua generativas incrustan marcadores invisibles en el contenido para verificar su procedencia y autenticidad como posible solución a los problemas de derechos de autor y control de la procedencia de los contenidos.

Las tecnologías de marcas de agua introducen cambios imperceptibles para que una máquina pueda ver los cambios, pero el ojo humano no, o incrustando patrones ocultos en el resultado generado que solo una máquina puede extraer.

El informe del WEF de las 10 Tendencias Emergentes de 2025 (1) la incluye como una de las 10 tendencias emergentes y destaca un paso más respecto a las marcas de agua anteriores.

En 2024 DeepMind SynthID y Meta VideoSeal han empezado a usar marcas de agua para videos generados con IA y las principales plataformas ya han comenzado a posicionarse en este espacio, con Adobe Credential, los estándares de etiquetado de IA de TikTok y SynthID de Google, que representan los primeros intentos de establecer protocolos que definan el mercado. (1)

🚦Deep Learning para marcado de contenido sintético

IA para controlar la IA.

Es destacable el uso de las redes neuronales para los nuevos procedimientos de marcado como es el caso de SynthID de Google DeepMind está diseñado especialmente para identificar contenido creado por Google AI usando tecnología de IA.

El proceso tiene dos fases marcado y detección.

• En la fase de marcado de imágenes generadas con DeepMind modifica ligeramente los valores de los pixeles utilizando redes neuronales profundas.

• En los videos modifica ligeramente los píxeles de cada frame integrando una señal codificada.

• En el texto incluye un subconjunto de palabras alternativas de términos equivalentes de modo que el reconocimiento mediante el detector reconoce si el texto está generado por un modelo de GenAI analizando dichos patrones que parecen naturales, pero que se distinguen de las elecciones de palabras más aleatorias que podría hacer un escritor humano.

🚦Regulación y estándares y código abierto

El etiquetado y reconocimiento propietario no resuelve totalmente el problema y requiere estándares abiertos.

La tecnología Video Seal está impulsada principalmente por Meta. Video Seal es un marco para marcado de video sintético open-source que sustituye el marcado frame a frame con nuevas técnicas. Código en Github.

El informe del WEF señala que “China ha tomado medidas para regular el contenido generado y exigir la marca de agua en contenido GenAI. La Coalición para la Procedencia y Autenticidad del Contenido (C2PA), una coalición de importantes generadores de contenido multimedia en el ámbito de la IA, también lidera el desarrollo de estándares técnicos para certificar la fuente del contenido multimedia” y destaca la necesidad de desarrollar el ecosistema legal y de políticas regulatorias completo.

🚦Integración de marcas de agua mediante Blockchain en la GenAI

A pesar de que soluciones como SynthId parecen robustas, sigue habiendo problemas en controlar que pequeños cambios en el contenido generado por AI no violen las marcas de agua. Por ejemplo recortando las imágenes donde está insertada la marca de agua o incluso usando AI Watermarks Removers.

La integración con sistemas blockchain para crear marcas de agua verificables representa una frontera prometedora que podría establecer una mejor identidad del contenido independientemente de su modificación o distribución (1).

Blockchain lleva varios años consolidándose en el terreno de la propiedad intelectual e industrial. Actualmente propuestas como Safe Evidence (5), por ejemplo, son utilizadas para proteger el contenido sujeto a IP, más que para identificar el contenido sintético. La inviolabilidad de la cadena de bloques, sin embargo podría, en combinación con los estándares de etiquetado emergentes para contenido sintético, asegurar que la marca no ha sido violada. La combinación de ambas tecnologías parece clave para la solución realmente robusta del problema a medio plazo.

Análisis de impacto

El marcado supondrá grandes transformaciones en los medios y las industrias creativas. Oportunidades destacadas en el informe:

• “Nuevo sistema integral de gobernanza del contenido para el contenido digital que generará ventajas competitivas distintivas para los primeros usuarios, a la vez que potencialmente marginará a los creadores y plataformas que incumplan las normas” (1).

• Las naciones lideres en el desarrollo de nuevos estándares abiertos y técnicas de marcado más sofisticados, aumentaran su influencia en la emergente economía del contenido sintético

• Premium Prices para los creadores y plataformas GenAI-free que les permitan posicionar contenido de mas calidad en plataformas inundadas de GenAI.

• Nuevas oportunidades de negocio para las aseguradoras basadas en los modelos de autenticación del contenido

Además del impacto en las industrias creati ellas podría añadirse Control forense GenAI en la publicaciones científicas así como en el desarrollo de las publicaciones científicas, en las que actualmente se considera y empieza a reclamar la obligatoriedad de que se incluyan apartados específicos con declaraciones de uso GenAI (6).

🖊️ Deja un comentario si te inspira esta lectura, quieres contribuir con nuevas señales o ideas o si simplemente tienes alguna duda.

Leave a comment

📨 Si te interesa La Señal y aún no estás subscrito puedes hacerlo pinchado este botón.

Subscribe now

💊 Píldora de Futuros

Aprovechando la necesidad de establecer Políticas Públicas para la implantación de las nuevas propuestas de Generative Watermarking recomiendo la lectura del artículo de Graham Molitor How To Anticipate Public-Policy Changes fundamental para adentrarse en el Análisis de Temas Emergentes.

(1) Top 10 emerging technologies of 2025 (WEF)

(2) Bartz, D., & Hu, K. (2023, 21 July). OpenAI, Google, others pledge to watermark AI content for safety, White House says. Reuters.

(3) Google DeepMind. (n.d.). SynthID.

(4) (c2pa) Coalition for content provenance and authenticity

(5) Fernandez, P., Elsahar, H., Yalniz, I. Z., & Mourachko, A. (n.d.). Video Seal: Open and Efficient Video Watermarking

(6) Safe Evidence

(7) Generative artificial intelligence tools in journal article preparation: A preliminary catalog of ethical considerations, opportunities, and pitfalls

(8) Generative AI Policies for journals (Elsevier)

📨 La Señal es una publicación quincenal sobre las señales débiles que pueden convertirse en tendencias en el futuro, y en la que también comparto técnicas y lecturas de prospectiva estratégica y alfabetización de futuros. Si quieres conocer mejor nuestro trabajo, te invito a visitar nuestra escuela de futuros online.

Un boletín de The Futures Factory

Gemelos digitales aplicados a problemas complejos

Actualmente los Gemelos Digitales (DT) (1) están generando un cambio en la ciencia y extienden su aplicación a otro tipo de procesos no industriales mediante la intersección de las simulaciones y las ciencias de la complejidad (Complexity Data Science). Una novedosa propuesta sería utilizarlos para aumentar la transparencia de la IA LLM-DT. Paralelamente avanza el uso de técnicas de IA explicable en los gemelos digitales XAI-DT.

🚦 Complexity Data Science, gemelos digitales e IA explicable #LLM-DT

La combinación de la ciencia de los datos con la ciencia de la complejidad está haciendo surgir una nueva propuesta de Complexity Data Science. Eso es lo que propone en dos artículos recientes el equipo de Frank Emmert-Streib, profesor en la universidad finlandesa de Tampere y director de su AI Lab, quien sugiere el uso de gemelos digitales para la solución de problemas complejos, apoyándose en el potencial que los DT ofrecen para explorar escenarios What if, de modo que permitan combinar simulaciones y aprendizaje

Un atributo esencial de un DT es su capacidad de adaptación y aprendizaje …Esta característica se parece mucho al comportamiento adaptativo observado en ciertos sistemas complejos, denominados sistemas adaptativos complejos (CAS) que responden dinámicamente a los cambios ambientales….Un DT debe reconocerse como una construcción de ingeniería con un propósito, en lugar de una entidad natural. Proporciona un cierto nivel de interpretabilidad y replica aspectos clave del sistema subyacente. Esto hace que un gemelo digital sea un instrumento de predicción pragmático que se juzgará en función de la calidad de sus predicciones que forman la salida del modelo. (2)

Junto a ejemplos de aplicaciones posibles en el uso de los DT fuera de la fabricación, como podrían ser modelar cambio en los impuestos sobre el producto interno bruto de un país, o simular la influencia de la planificación de la ciudad en el flujo de tráfico y los accidentes de tráfico, destaca la idea de usarlos para hacer los LLMs de caja negra más explicables. Emmert-Streib propone crear gemelos digitales de los LLMs y usarlos para aumentar la transparencia y explicabilidad de la IA calibrando el modelo.

Al calibrar un modelo mecanicista o fenomenológico de un modelo de predicción de caja negra, se puede utilizar dicho modelo como sustituto para obtener información interpretable sobre los procesos subyacentes, al tiempo que conserva el poder predictivo del modelo de caja negra original. (2)

🚦XAI-DT en el caso de un edificio inteligente

Inversamente, la IA se ha utilizado en los DT de múltiples formas y también podemos preguntarnos cómo podemos aplicar IA explicable (XAI) a un DT para hacerlo más útil. Un artículo reciente de un grupo de investigadores de la Universidad de Estocolmo estudia el caso de un DT de un edificio inteligente que predice las concentraciones de C02 en un edificio inteligente en el que evalúan distintas técnicas de XAI y presenta sus resultados.

Los gemelos digitales trabajan frecuentemente en conjunto con operadores humanos que reciben retroalimentación del sistema DT y pueden actuar en consecuencia. Al integrar IA con un DT, es crucial usar métodos de IA explicables, ya que pueden ayudar al operador del sistema a comprender el resultado del modelo de IA y los mecanismos que conducen a este resultado. Como ejemplo, en el caso de un edificio inteligente, un administrador de instalaciones quería saber cómo un modelo de aprendizaje automático llegó a la conclusión de que la concentración de CO2 aumentaría en una cierta cantidad en la próxima hora. En este escenario, el DT necesita trabajar con técnicas de IA explicables que sean capaces de hacer pronósticos precisos y proporcionar explicaciones de ellos. (5)

Un XAI-DT queda definido de la siguiente forma de forma que incluso aunque el sistema no sea inherentemente explicable puede hacerse explicable Post Hoc:

Definición 6 (sistema XAI-DT). Consideremos un sistema IA-DT con un componente de IA c. Cuando c se basa en técnicas de IA inherentemente explicables, nos referimos al sistema IA-DT como un sistema XAI-DT. Cuando c no es inherentemente explicable y un segundo componente cx proporciona explicaciones post hoc basadas en c, el sistema IA-DT también puede considerarse un sistema XAI-DT. (6)

El siguiente diagrama ilustra la arquitectura propuesta para este caso de un sistema no inherentemente explicable de edificio inteligente.

Las técnicas estudiadas de XAI en el experimento las resume la siguiente tabla para cuya compresión hay que tener en cuenta que la explicabilidad de la IA puede ser inherente, si es parte del modelo, o Post-hoc cuando los métodos de explicación se aplican después de que un modelo ha sido entrenado y ha hecho una predicción, con el objetivo de entender cómo o por qué se llegó a esa decisión.

🔍 Análisis de impacto de la señal

La mayoría de los sistemas sobre los que nos hacemos preguntas de futuro son sistemas complejos sujetos a “in-manejabilidad conceptual” (6). El intento de aplicar los DT para comprender las predicciones de los LLMs al tratar sistemas complejos podría aplicarse para simular escenarios en campos tan alejados de la fabricación como el marketing o el análisis de las dinámicas sociales, políticas y económicas extendiendo el concepto de DT a una nueva frontera.

Paralelamente las técnicas de XAI pueden mejorar la interacción de los agentes que usan los actuales DT industriales especialmente cuando se aplican en sistemas complejos.

Para algunos lectores es posible que la señal de hoy se adentre en terrenos hard-tech y abuso de tecno-bubble pero es difícilmente posible practicar la prospectiva ignorando la tecnología. Por eso a partir de esta señal las publicaciones llevaran una etiqueta P.E.S.T.L.E y en este caso una (T).

💊 El análisis P.E.S.T.L.E

Los marcos de clasificación de tendencias como P.E.S.T.L.E, acrónimo de Political, Economics, Social, Technological, Legal y Environmental, son utilizados en los trabajos de prospectiva estratégica y/o en estrategia empresarial. Arranca en los análisis estratégicos de los 60 y 70 y parte del análisis PEST de estrategia de negocio

¿Cómo utilizarlo en prospectiva?

• Puedes utilizarlo en las fases iniciales de la prospectiva de exploración del entorno para identificar señales y tendencias. Numerosos análisis de escenarios mediante inteligencia colectiva se inician con una categorización PESTLE.

• También te puede servir en la fase de diseño de escenarios para describir cualitativamente un escenario de modo que describas cada una de sus dimensiones identificando los factores clave (key driver) dentro de cada categoría PESTLE.

📎 UNDP Foresight Playbook (2022) contiene una selección de herramientas de prospectiva que se inicia con una descripción de la técnica PESTLE y el concepto de Key Driver.

📎 Ejemplo Completo de PESTLE para minoristas 2025

📨 Si te interesa La Señal y aún no estás subscrito puedes hacerlo pinchado este botón.

Subscribe now

🖊️ Deja un comentario si te inspira esta lectura, quieres contribuir con nuevas señales o ideas o si simplemente tienes alguna duda.

Leave a comment

(1) Los gemelos digitales o digital Twins (DT) actúan como simulaciones integradas en tiempo real con objetos del mundo físico. Ejemplos: Destination Earth del The European Centre for Medium-Range Weather Forecasts y Creating a Digital Twin for Ireland,School of Business and Economics.

(2) Moving beyond simulation and learning: Unveiling the potential of complexity data science Emmert-Streib F, and all.

(3) Complexity data science: A spin-off from digital twins Emmert-Streib F, and all.

(4) Digital Twins for Complex Systems Dr. Fabrizio Fornari, Dr. Pedro Valderas (Eds)

(5) AI Explainability Methods in Digital Twins: A Model and a Use Case (2024)

(6) Entre las distintas definiciones de complejidad destaca la de Nancy Levenson desde el punto de vista epistemógico como “intellectual unmanageability” Leveson, N.G.: Engineering a Safer World: Systems Thinking Applied to Safety (Engineering Systems). The MIT Press, Cambridge (2012) (via https://adyacenteposible.com)