LA DEMOCRATIZACIÓN DE LA IA

Cómo terminar con el apocalipsis que nos han vendido otros

¿Vamos a morir por culpa de la IA? ¿Nos vamos a extinguir en los próximos años por el vertiginoso desarrollo de la inteligencia artificial?

Amodei, consejero delegado de Anthropic, advirtió el pasado 12 de septiembre del «peligro de perder el control de los sistemas de inteligencia artificial y el uso indebido de la IA para ciberataques y bioterrorismo»¹. Aunque, por otra parte, propone también que «no se vendan chips de IA potentes ni equipos de fabricación de semiconductores a China»². A mi parecer, estas últimas declaraciones son ya suficientes para empezar a sospechar de tanta calamidad. ¿Quiere que se baje el ritmo de desarrollo o quiere que su país sea el primero en la carrera geopolítica Estados Unidos vs. China por ver quién hace el mejor Sputnik?

Jacob Coxon, extrabajador de Anthropic, por su parte, subió un vídeo advirtiéndonos de que «hay una posibilidad muy alta de que muramos todos en un futuro próximo»³. Lo cierto, Coxon, es que la IA ya está asesinando a humanos. Concretamente, a parte de la población gazatí mediante programas que seleccionan objetivos de ataque y cuya supervisión humana es mínima⁴. Así que, lo de que hayan descubierto de pronto que la IA es peligrosa y que tiene la capacidad de matarnos a todos de un plumazo me parece que tiene más de marketing político que de apocalipsis.

Desde que la IA fue creada en los años cincuenta hasta nuestros días, ha pasado por muchas etapas y aplicaciones, desde matemáticas, lenguajes naturales, tratamiento de Big Data, etc., hasta su aplicación en el mundo de los negocios (análisis de datos, tareas automatizadas o desarrollo de productos)⁵, pasando por su uso aplicado a la medicina y la farmacología⁶. Y, por supuesto, desembocando en su uso militar, como hemos visto más arriba. Es pues, sabido y reconocido, que el uso de la inteligencia artificial es, no solo interdisciplinar, sino que se encuentra ya dentro de todos los ámbitos de nuestra vida.

Y, ¿quiénes son los que usan y desarrollan todas esas aplicaciones? Empresas privadas que trabajan para el mejor postor: Open AI, Anthropic, Microsoft, Google, etc. Y, ¿quién suele ser ese mejor postor? Un jefe de Estado, normalmente autoritario (normalmente Trump o Netanyahu), cuyas únicas convicciones son el dinero y el poder. Es decir, las empresas de desarrollo de inteligencia artificial están totalmente vendidas al capital, y eso es lo que las hace tremendamente peligrosas. El uso y desarrollo sin transparencia ni límites legales de estos sistemas de inteligencia artificial son la verdadera amenaza, más allá de que un montón de agentes de IA sean capaces de salir de su «perímetro» hacia otro y hacer cosas malignas⁷.

Así pues, dado que que la inteligencia artificial ahora es la herramienta principal que gobierna múltiples aspectos de nuestra vida, nuestra verdadera preocupación no debería ser que sus dueños y altos cargos nos estén advirtiendo de que, si no se desacelera su desarrollo⁸, esta misma acabará generando una especie de autoconsciencia que acabe aniquilándonos a todos. Nuestra verdadera preocupación debería ser que ya es momento de democratizar la inteligencia artificial y ponerla al servicio de los ciudadanos, tanto para su uso como para su desarrollo.

No basta solo con que algunos de sus productos tengan Open Source o código abierto (software accesible para que cualquiera pueda verlo, modificarlo o distribuirlo). De hecho, los grandes productos de inteligencia artificial como Chatgpt, Gemini o Claude son actualmente de código cerrado. La participación ciudadana debe estar presente desde el inicio del desarrollo de la IA hasta su propio uso, teniendo en cuenta diferencias socioeconómicas, culturales y de perspectiva de género. De esta manera, se ofrece mucha más legitimidad en todas las decisiones que se toman porque la gente sabe que ellos son la influencia. Democratizar la IA, además, es también abrir un portal de transparencia durante todo su ciclo de vida⁹. Es utilizarla por y para el beneficio de los ciudadanos, garantizando su completa accesibilidad, con transparencia y dentro de unos límites legales que impidan utilizarla para el enriquecimiento de unos pocos, la vigilancia o la guerra.

Pongamos un ejemplo para que se entienda mejor. Imaginemos que en el año 2030 en España se quiere implementar un sistema de inteligencia artificial para que las personas con diabetes dispongan de sus medicinas automatizadas en la farmacia en función del azúcar que tengan en sangre. Si los sistemas siguen como hasta ahora es muy probable que, primero, solo puedan permitírselo algunos y, segundo, que el estudio de su desarrollo se haya hecho en una empresa privada que no atiende realmente a las necesidades de las personas diabéticas, sino a los beneficios que podrían obtener si, además, consiguen darle otro uso a esa misma aplicación (venta de datos a aseguradoras, creación de perfiles de diabéticos para venderles otras cosas, etc.). Sin embargo, si el proyecto está totalmente democratizado y financiado por todos, el desarrollo de la aplicación tendría en cuenta a todas las personas diabéticas haciéndolas partícipes mediante encuestas o pruebas de cualquier tipo; tendría en cuenta también el nivel socioeconómico de todos los diabéticos para saber hasta cuánto pueden pagar por la aplicación (o si se les debe ofrecer un costo cero), y los beneficios se quedarían dentro del Estado, usándolos, quizás, para mejorar la propia aplicación o para mejorar cualquier otra cosa de nuestro Estado de Bienestar. La democratización de este sistema de inteligencia artificial concreto no radicaría solamente en que esté financiado por todos (lo cual es simplemente un paso útil y necesario), sino más bien en que las personas diabéticas sean partícipes del proceso de desarrollo, que sean tomadas en cuenta en base a sus perfiles y que estos perfiles se utilicen única y exclusivamente para su beneficio y su salud. La democratización no es una inyección de dinero público, ya que eso no serviría de nada si no somos nosotros los protagonistas durante todo el proceso de creación.

La democratización de la IA se puede dar en cuatro aspectos: democratización de su uso, de su desarrollo, de sus beneficios y de su gobernanza¹⁰. En su uso, para que todos nosotros podamos usarla (como hacemos ahora con Chatgp, Gemini o Claude para pedirle que nos redacte un email); en su desarrollo, para que atienda a nuestras necesidades y mejore nuestras vidas; en sus beneficios, para que podamos seguir financiando esas herramientas o cualesquiera otras que sirvan para crear un Estado de bienestar; y en su gobernanza, para que esté dentro de un marco legal que nos proteja.

Sin embargo, estos cuatro aspectos no van de la mano en la actualidad, y podrían entrar en conflicto si no se prioriza la democratización de su gobernanza. Que se haya conseguido democratizar su uso solo nos dice que es fácil ofrecernos el acceso si, a cambio, les regalamos nuestros datos. Es un paso, pero seguimos sin tener el control de su creación, su desarrollo y sus beneficios en marcos más amplios. En la gobernanza es donde nace realmente el valor democrático porque responderá de verdad a los intereses de quienes participamos, directa o indirectamente, de las herramientas de inteligencia artificial.

Conclusiones:

La inteligencia artificial es una herramienta muy poderosa capaz de adentrarse en todos los aspectos que gobiernan nuestra vida. Las alarmas que vienen de los altos cargos que son ahora dueños de esas herramientas van más encaminadas a que el peligro real reside en el uso y el desarrollo que ellos mismos le den en función de los beneficios que puedan obtener, tanto económicos como militares o políticos. Democratizarla y ponerla al servicio de la ciudadanía, hacer de ella un servicio público financiado por todos, sería una buena solución para que, amparada en un marco legislativo que limite y focalice sus aplicaciones, sea la manera más segura que tengamos de que nosotros, como ciudadanos, seamos los que realmente tengamos el poder y el control. La inteligencia artificial viene hoy en día a ser la bomba nuclear del siglo pasado: sabemos que hay un botón que puede pulsarse y hacernos polvo a todos pero, ya que existe, la forma más segura es mantener compromisos de no proliferación (en el caso de la IA, de limitación en el desarrollo privado) y auditorías, y responsabilizarnos del daño que puede causar si se usa para hacer el mal.

1. VIDAL LIY, MACARENA. Los líderes de la IA advierten de que esta tecnolgía crece demasiado rápido. El País. 12 sept. 2026. Online: https://elpais.com/tecnologia/2026-09-12/el-director-general-de-anthropic-pide-ralentizar-el-progreso-de-la-ia-y-que-todas-las-empresas-admitan-verificadores-externos.html?event_log=regonetap ↩︎
2. EL PAÍS. El director general de Anthropic pide frenar el avance de los modelos. 13 sept. 2026. Impreso. ↩︎
3. LIVESAY, Brandon and LABIAK, Mitchell. AI staff ‘genuinely frightened’ for humanity’s future, ex-Anthropic researcher tells BBC. BBC. 13 sept. 2026. Online: https://www.bbc.com/news/articles/c1kx0gyje9wo ↩︎
4. Cómo son los programas de inteligencia artificial usados por Israel para planificar asesinatos selectivos en Gaza y bombardear a las personas identificadas cuando estaban en sus hogares. Democracy Now. 5 abr. 2024. Online: https://www.democracynow.org/es/2024/4/5/israel_ai ↩︎
5. The beginnings and evolution of AI in business. Beyond. 17 nov 2025. Online: https://www.esade.edu/beyond/en/evolution-ai/ ↩︎
6. MATSINGOS, Christos; URDANETA, Ana María; HERNÁNDEZ, Juan Camilo y PEÑA-SILVA, Ricardo A. Aplicaciones de la inteligencia artificial en la farmacología básica y clínica. Revista Medicina No.135. Oct.-Nov. 2021. Online: https://revistamedicina.net/articulo/revmedicinacolombia-1556 ↩︎
7. Alabama AG subpoenas OpenAI over rogue AI agents breaching Hugging Face Systems. Crypto Briefing. 4 sept. 2026. Online: https://cryptobriefing.com/california-investigates-openai-hugging-face-hack/ ↩︎
8. Sigo insistiendo en que, desde mi punto de vista, lo único que quieren con estos discursos tan apocalípticos y calamitosos es conservar su supremacía con respecto a China. ↩︎
9. GILMAN, Michele. Democratizing AI: principles for meaning public participation. Data & Society. Sept. 2023. Online: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4628755 ↩︎
10. SEGER, Elisabeth. What do we mean when we talk about «AI democratization»?. Carnegie council for ethics international affairs. Feb. 2023. Online: https://www.carnegiecouncil.org/media/article/what-do-we-mean-when-we-talk-about-ai-democratization ↩︎