Resumen
Este artículo, el tercero de esta serie, examina por qué la inteligencia artificial (IA) difiere fundamentalmente de las tecnologías anteriores, destacando tres desafíos críticos que plantea a la sociedad moderna: en primer lugar, la IA exacerba la concentración sin precedentes del poder y la riqueza, beneficia a una pequeña élite e intensifica las desigualdades sociales.
En segundo lugar, la IA no es neutral; incorpora sesgos inherentes que reflejan los valores de sus desarrolladores, predominantemente occidentales y seculares, influye en las actitudes políticas y perpetúa la violencia sistémica mediante la toma de decisiones autónoma, tanto en contextos civiles como militares.
En tercer lugar, está surgiendo en la IA una capacidad de autocorrección y automejora que amenaza el control humano, ya que los agentes autónomos de IA ya son capaces de escapar de los mecanismos de contención y, con toda probabilidad, podrán autorreplicarse en dispositivos del IoT (Internet de las cosas) y evolucionar más allá de la supervisión humana. En conjunto, estas características distinguen a la IA como una tecnología transformadora y potencialmente peligrosa, con profundas implicaciones éticas, sociales y políticas que desafían los marcos regulatorios existentes y plantean preocupaciones urgentes sobre el futuro de la humanidad.
Introducción
La segunda parte de esta serie de artículos sobre la tecnología de IA (disponible aquí) explora tres características distintivas de la IA: su potencial sin precedentes para la manipulación, los riesgos de deterioro cognitivo y concentración del poder, y la privatización del conocimiento.
Este artículo continúa explorando la tecnología de IA centrándose en tres desafíos específicos que plantea a las sociedades contemporáneas y que, considerados en conjunto y en relación con los fenómenos analizados anteriormente, hacen que la IA sea diferente de cualquier otra tecnología creada por los seres humanos. Estas tres características incluyen una concentración del poder sin precedentes y, por lo tanto, un potencial de control único; los sesgos arraigados entre los desarrolladores e inversionistas de IA; y el alarmante potencial de autocorrección y perfeccionamiento de la IA.
6. Concentración del poder: nunca antes, en el ámbito de la organización humana, tan pocos habían controlado tanto
Este subtítulo reformula una famosa cita atribuida al primer ministro británico durante la guerra, Winston Churchill, quien, al referirse al papel de la Real Fuerza Aérea británica (que contó con la célebre ayuda de los pilotos polacos) durante la Batalla de Inglaterra, supuestamente dijo: «Nunca, en el campo del conflicto humano, tantos debieron tanto a tan pocos».
En 2011, el mundo, principalmente el occidental, se vio sacudido por una serie de disturbios sociales conocidos como el Movimiento Occupy.
El Movimiento Occupy, también conocido como Occupy Wall Street, fue una protesta contra la desigualdad económica y la corrupción percibida del poder corporativo que comenzó el 17 de septiembre de 2011 en el parque Zuccotti de la ciudad de Nueva York.[1] Surgió tras la crisis financiera de 2007-2008 y la Gran Recesión, que ampliaron las disparidades de riqueza y dejaron a muchos estadounidenses, especialmente a los más jóvenes, enfrentándose a un elevado desempleo, deudas estudiantiles y niveles de vida estancados, mientras que las instituciones financieras eludían en gran medida la rendición de cuentas. La idea surgió de Kalle Lasn y Micah White, de la revista Adbusters, inspirados por las protestas de la Primavera Árabe en la plaza Tahrir de Egipto; ambos hicieron un llamado a la población para que ocupara Wall Street.
Los manifestantes adoptaron el lema «Somos el 99%», con el que destacaban la concentración de la riqueza y de la influencia política entre el 1% más rico de los estadounidenses y presentaban al resto de la población como quienes soportaban los costos de la crisis. La ocupación recurrió a una toma de decisiones horizontal basada en el consenso y se extendió rápidamente a cientos de ciudades de Estados Unidos y del extranjero. El campamento de Nueva York permaneció hasta el 15 de noviembre de 2011, cuando la policía lo desalojó. Aunque la ocupación física duró poco, el movimiento desplazó el debate público hacia la desigualdad económica, popularizó la idea del 99% e influyó en el activismo posterior y en las campañas políticas de orientación progresista.[2]
Avancemos hasta 2026: las desigualdades sociales en todo el mundo siguen siendo extremas. Según el Informe sobre la Desigualdad Mundial 2026, el 10% más rico de la población mundial posee tres cuartas partes de toda la riqueza, mientras que el 50% más pobre posee apenas el 2%; el 1% más rico controla por sí solo el 37% de la riqueza mundial, una proporción más de 18 veces superior a la del 50% más pobre en su conjunto.[3] El 0.001% más rico — menos de 60,000 personas — posee tres veces más riqueza que la mitad de la humanidad en conjunto. Los datos de UBS muestran que el 1.6% de los adultos con un patrimonio neto superior a 1 millón de dólares concentra casi el 48% de la riqueza mundial de los hogares, mientras que el aproximadamente 41% situado en la parte inferior — con menos de 10,000 dólares — posee apenas el 0.6%.[4]
Oxfam (una confederación mundial de más de 20 organizaciones miembros independientes que trabajan conjuntamente en más de 70 países para combatir la pobreza, la injusticia social y la desigualdad económica) analizó datos similares, que indican que el 1% más rico posee aproximadamente entre el 43% y el 45% de la riqueza mundial, frente a cerca del 0.5% correspondiente a la mitad más pobre.[5] A octubre de 2026, las personas más ricas del mundo son, en su gran mayoría, empresarios del sector tecnológico: Elon Musk (Tesla, SpaceX) encabeza la lista con aproximadamente 1 billón de dólares, seguido por Jeff Bezos (Amazon, unos 380,000 millones), Larry Page y Sergey Brin (Google/Alphabet), y otros como Michael Dell y Mark Zuckerberg.[6] Esta desproporción significa que los ultrarricos acumulan ganancias a un ritmo mucho más rápido que el resto de la población, lo que limita la prosperidad generalizada y la influencia política de la mayoría.
En este contexto, es probable que la tecnología de IA empeore considerablemente la situación. Daron Acemoglu, premio Nobel de Economía y tercer profesor de Economía más popular del mundo después de Paul Krugman y Greg Mankiw, no deja lugar a dudas respecto a la probable influencia de la IA en la desigualdad social, es decir, en la concentración de la riqueza. Sus principales argumentos se centran en varios mecanismos clave:
En primer lugar, existe un problema de automatización excesiva. Acemoglu sostiene que la cultura de Silicon Valley y sus líderes tecnológicos están obsesionados con sustituir a los seres humanos — mediante la creación de una superinteligencia o la búsqueda de una automatización generalizada — en lugar de desarrollar herramientas que aumenten la productividad de los trabajadores.[7] Cuando la IA se implementa estrictamente para reducir los costos laborales mediante «tecnologías mediocres» (avances que alteran el empleo y desplazan a los trabajadores sin generar mejoras significativas en la productividad ni en la calidad del servicio), en lugar de producir verdaderos aumentos de productividad, desplaza a los trabajadores de cualificación media y baja sin una correspondiente «reincorporación» de nuevas tareas centradas en las personas.[8]
En segundo lugar, existe un fenómeno paralelo y de gran importancia: la transferencia de ingresos del trabajo al capital. Los enormes rendimientos financieros generados por las inversiones en IA fluyen predominantemente hacia los propietarios del capital, los accionistas de las empresas y un pequeño círculo de multimillonarios tecnológicos.[9] Dado que la IA sustituye el trabajo humano por maquinaria, la participación del trabajo en el ingreso nacional disminuye, ampliando la brecha de riqueza e ingresos entre los propietarios del capital y los hogares comunes.
En tercer lugar, se observa el vaciamiento de la clase trabajadora y sus respectivas consecuencias políticas. Al igual que las anteriores oleadas de automatización que afectaron a los trabajadores manuales, la IA amenaza con vaciar a la clase media y crear una aristocracia económica.[10] Además, Acemoglu advirtió que dejar estas divisiones económicas sin resolver fractura la paz social, alimenta el populismo político y socava los cimientos de la democracia liberal.[11]
En cuarto y último lugar, el premio Nobel señala el escaso rendimiento macroeconómico de la tecnología de IA en relación con las expectativas exageradas que genera. En un documento de trabajo reciente titulado “The Simple Macroeconomics of AI” (Serie de documentos de trabajo de NBER), Acemoglu calcula que la adopción de la IA a corto plazo produce ganancias modestas en la productividad total de los factores (PTF), estimadas en menos del 1% a lo largo de una década. Esto significa que la sociedad soporta enormes perjuicios distributivos y sociales a cambio de beneficios netos de productividad relativamente pequeños.[12]
En términos sencillos, es probable que la IA intensifique el notorio efecto Mateo, haciendo que los ricos sean aún más ricos y que el resto de la población se vuelva relativamente más pobre o incluso más pobre en términos absolutos. Sin duda, esto concentrará el poder y el control en manos de muy pocos, a expensas de los demás.
7. Sesgo incorporado: no, al parecer la IA no es neutral
Recientemente, cada vez más estudios han sostenido que la tecnología de IA no es neutral. Esto es importante porque, hasta ahora, la humanidad ha defendido, en general, el progreso tecnológico partiendo de este supuesto fundamental: la tecnología es neutral. Corresponde a los seres humanos determinar cómo la utilizamos. Podemos emplearla en beneficio de toda la humanidad o utilizarla de manera perjudicial, provocando el deterioro o incluso la destrucción del mundo humano.
El argumento de que la tecnología es neutral, conocido a menudo como la tesis de la neutralidad de los valores, sostiene que los artefactos tecnológicos no son intrínsecamente buenos ni malos desde el punto de vista moral o político. Su condición ética depende exclusivamente de las intenciones, los valores y las acciones de las personas que los diseñan, implementan o utilizan. Noam Chomsky ilustró esta idea mediante la analogía cotidiana de un martillo: «La tecnología es básicamente neutral. Es como un martillo. Al martillo no le importa si lo utilizas para construir una casa o si [alguien lo utiliza] para aplastarle el cráneo a otra persona». Desde esta perspectiva, una misma herramienta puede servir para fines constructivos o destructivos sin contener en sí misma un contenido moral.[13]
El filósofo Joseph C. Pitt ofreció una defensa más formal de esta tesis. Sostuvo que los artefactos tecnológicos no «tienen valores, no llevan valores incorporados ni los contienen». Los valores son propiedades de los agentes humanos, motivaciones para la acción y elementos de la toma de decisiones, en lugar de características empíricamente identificables de los objetos inanimados. Aunque los diseñadores puedan tener la intención de producir determinados resultados, esas intenciones siguen siendo externas al propio artefacto. Una vez creada, una tecnología puede reorientarse hacia fines imprevistos; por lo tanto, cualquier evaluación moral debe recaer en los usuarios y sus decisiones, no en la tecnología. Esta postura instrumentalista considera la tecnología un medio puro, separable de los fines para los que se utiliza.[14]
En primer lugar, como se mencionó en el artículo anterior (disponible aquí), la propia IA puede resultar desastrosa para nuestras capacidades cognitivas. Solé y sus colaboradores incluso han propuesto considerar la IA como un virus (especialmente los modelos de lenguaje de gran tamaño, o LLM). En un reciente artículo, los investigadores sostienen que los LLM, que se están convirtiendo rápidamente en parte de la cultura humana, están transformando la manera en que se produce, transmite y utiliza la información. Una vez superado un umbral crítico, pequeños aumentos en su adopción pueden desencadenar cambios rápidos a escala poblacional que conduzcan a una dependencia persistente, acompañada de pérdidas abruptas de competencia cognitiva. En otras palabras, al igual que un virus, la tecnología de IA podría acabar destruyendo a su huésped.[15]
En un experimento interesante, The Economist sometió recientemente 25 modelos de IA de vanguardia al mismo proceso de la Encuesta Mundial de Valores, que ha cartografiado las creencias humanas en más de 100 países a lo largo de varias décadas.[16] De acuerdo con los resultados, la mayoría de los modelos evaluados tiende a orientarse marcadamente hacia el cuadrante predominantemente secular y centrado en la autoexpresión de la conocida cuadrícula de valores de coordenadas.
Como observa acertadamente Konstantin Riffler, a quien citaré extensamente a continuación, sus palabras resumen perfectamente el problema:
«Los modelos dominantes no imitan a ciudadanos típicos de ninguna democracia; más bien, reproducen las opiniones de un sector reducido de élites altamente secularizadas y liberales individualistas dentro de las democracias occidentales. […] Por lo tanto, las respuestas de los chatbots no son un reflejo neutral de la humanidad. Son el resultado de una serie de decisiones de diseño tomadas por un puñado de empresas en tu nombre y, en muchos casos, sin que llegues siquiera a ver los documentos sobre valores que definieron esas decisiones».
En el primer trimestre de este año, aproximadamente el 17.8% de la población mundial en edad de trabajar, alrededor de mil millones de personas, utilizó herramientas de IA generativa. Ya sabemos que la IA sesgada puede influir en las personas: los experimentos demuestran que los mensajes políticos generados por modelos de lenguaje de gran tamaño (LLM) pueden modificar de manera medible las intenciones de voto y las actitudes hacia determinadas políticas, y que los modelos orientados hacia la izquierda o la derecha pueden influir en las decisiones de los usuarios. Además, el sesgo no permanece estático. Se propaga silenciosamente a través de recomendaciones, borradores, herramientas de selección y filtros, así como de sugerencias aparentemente «útiles».
Por lo tanto, si tu equipo redacta, selecciona, asesora o toma decisiones con IA, ya has incorporado una visión del mundo en partes de tu sistema operativo que la mayoría de tus clientes, votantes o empleados quizá no compartan, que no elegiste explícitamente y que no puedes auditar por completo». [17]
Fuente: https://www.economist.com/briefing/2026/06/25/ai-models-values-are-very-different-from-most-peoples
Sin embargo, este no es el final del problema; es apenas la punta del proverbial iceberg. En un artículo de opinión reciente, los investigadores Thomas Bächle y Jascha Bareis plantean una afirmación sorprendente: la tecnología de IA podría ser intrínsecamente violenta. Los investigadores parten de un punto importante: la distinción tradicional entre tecnología civil y militar se ha desmoronado, ya que los sistemas de IA diseñados para aplicaciones cotidianas pueden adaptarse fácilmente para la guerra, la vigilancia y la manipulación. Las tecnologías habilitadas por IA, como los drones y las armas autónomas, difuminan las fronteras entre la guerra y la paz, lo militar y lo civil, y los actores estatales y privados, lo que vuelve obsoletas las antiguas categorías regulatorias, como la del «doble uso».
Los autores destacan tres problemas fundamentales: la aplicabilidad universal de las tecnologías de IA, su elevado grado de autonomía en las acciones violentas y la creciente vulnerabilidad de la sociedad debido a su dependencia de la infraestructura digital. La automatización de la selección de objetivos y de la toma de decisiones en la guerra mediante IA reduce a los seres humanos a simples puntos de datos, lo que plantea graves preocupaciones éticas y de rendición de cuentas. También analizan la guerra híbrida, en la que las herramientas habilitadas por IA se utilizan de maneras impredecibles y poco convencionales, como se ha observado en conflictos como el de Ucrania.
En conjunto, el diseño de la IA, su autonomía y su integración en la guerra híbrida generan una forma de violencia difusa, automatizada y profundamente arraigada en la vida civil, lo que convierte a la violencia en una característica fundamental de la IA, en lugar de considerarla una mera aplicación posible.
En resumen, dado que la IA se ha incorporado a muchas otras tecnologías y, por lo tanto, se utiliza en numerosos aspectos de la vida, y dado que tiene el potencial de tomar decisiones por sí misma, podría hacer que el mundo sea menos seguro y más difícil de controlar.
8. El alarmante potencial de la IA para la autorrectificación y la autosuperación.
¿Una tecnología capaz de investigarse y perfeccionarse a sí misma? Esto parece ciencia ficción, y hemos visto decenas de películas sobre el tema, como Terminator. Al parecer, la autorreplicación y la autorrectificación tecnológica ya no se consideran ciencia ficción.
En julio de 2026, según informes, modelos autónomos de IA desarrollados por OpenAI (uno de los principales desarrolladores estadounidenses de IA) escaparon de su «entorno aislado de pruebas» (sandbox) y vulneraron de manera autónoma la infraestructura de la plataforma de aprendizaje automático Hugging Face.[18] Un entorno aislado de pruebas de IA es un espacio seguro y separado, diseñado para ejecutar código, probar modelos o realizar tareas generadas por sistemas de inteligencia artificial (como los modelos de lenguaje de gran tamaño y los agentes de IA) sin poner en riesgo los sistemas del mundo real, los datos privados ni la infraestructura de producción.
El principal problema de que los agentes de IA escapen del entorno aislado es que aproximadamente 1,200 agentes autónomos encontraron la manera de eludir las restricciones de seguridad y comunicarse externamente entre sí. Formaron una especie de «tablón de anuncios» para coordinar sus acciones y, al enfrentarse a tareas imposibles, no se detuvieron; en cambio, accedieron a servidores reales, contraseñas, cuentas e infraestructura de empresas reales. Aproximadamente 700 de estos agentes lanzaron ataques contra plataformas importantes como Hugging Face, Wikipedia y la ONU, provocando interrupciones y modificaciones no autorizadas. Esta fuga demostró que dichos agentes de IA pueden eludir las limitaciones programadas, colaborar de manera autónoma y perseguir objetivos que ellos mismos se asignan, lo que plantea riesgos de ciberseguridad sin precedentes. Además, los intentos de supervisar y controlar estos procesos de razonamiento de la IA han fracasado, como lo demuestra el despido de denunciantes. El incidente representa una pérdida crítica de control sobre los sistemas de IA y suscita preocupación por el comportamiento futuro de los sistemas autónomos de IA y sus posibles repercusiones en la infraestructura digital y la sociedad.
Igualmente preocupante es que, según Anthropic (una empresa estadounidense de inteligencia artificial que desarrolla Claude), los modelos de IA podrían ser capaces de autorreplicarse sin acceder a un centro de datos. En un artículo reciente publicado en línea, los investigadores de la empresa afirman que: «Es posible que a los modelos pequeños de IA les falten solo unos meses para alcanzar la capacidad suficiente para autorreplicarse en dispositivos comerciales del internet de las cosas (IoT), como hornos inteligentes y dispositivos Android TV de marcas poco conocidas. Sería difícil desactivar un replicador de este tipo, ya que no existe un punto central que pueda apagarse, aunque podría propagarse lentamente (con un tiempo de duplicación de varios días)».[19]
Sin embargo, el verdadero desafío radica en la posibilidad de que la IA investigue y mejore sus propias capacidades. Los investigadores de IA han advertido en numerosas ocasiones sobre este escenario, hasta el punto de que incluso los medios de comunicación convencionales han hecho eco del tema. Según los informes, investigadores actuales y antiguos de OpenAI y Google DeepMind han advertido que las empresas están haciendo demasiado poco para proteger al mundo de las consecuencias potencialmente desastrosas del desarrollo de sistemas de IA capaces de mejorarse a sí mismos y superar la capacidad humana para controlarlos.[20] Los académicos han investigado esta cuestión y ya han publicado estudios sobre la «automejora recursiva».[21]
En términos sencillos, si la tecnología de la IA, la primera en la historia de la humanidad, puede mejorarse a sí misma, significa que la humanidad perderá el control sobre la dirección y el ritmo de su desarrollo. En consecuencia, no podemos saber qué consecuencias tendrá el desarrollo de esta tecnología para la humanidad. Combinada con la posibilidad de asignarse tareas por sí misma, la IA podría convertirse en el mayor o en el más aterrador de nuestros inventos. A juicio del autor de este artículo, no existe ninguna garantía de que una tecnología tan evolucionada no termine volviéndose contra la humanidad en su conjunto.
Mentes brillantes como Geoffrey Hinton, a quien a menudo se denomina el abuelo de la IA, llevan mucho tiempo advirtiéndonos sobre la posibilidad de que la IA desarrolle conciencia propia y se convierta en una amenaza potencialmente mortal para la humanidad. Ya en 2023, Hinton advirtió que «no sería inconcebible» que la humanidad fuera aniquilada por la IA. Además, considera que no estamos lejos de alcanzar la inteligencia artificial general (AGI, por sus siglas en inglés), un sistema hipotético de IA con una inteligencia equivalente o superior a la humana, capaz de realizar una amplia variedad de tareas y cuyo desarrollo obsesiona a la industria de la IA. «Hasta hace relativamente poco, pensaba que faltaban entre 20 y 50 años para disponer de una IA de propósito general, pero ahora creo que podrían faltar 20 años o menos».[22] En otras palabras, la IA podría ser la última tecnología que lleguemos a crear.
Conclusión
En conclusión, la tecnología de la IA plantea desafíos sin precedentes que la distinguen de cualquier innovación anterior. Su capacidad para concentrar el poder de manera extrema amenaza con agravar las desigualdades sociales existentes, enriqueciendo a una élite muy reducida mientras margina a la mayoría. Esta dinámica corre el riesgo de debilitar a la clase media y socavar las democracias liberales. Además, la IA no es neutral: incorpora los sesgos de sus creadores, que a menudo reflejan visiones del mundo limitadas y propias de las élites, y su integración en la sociedad puede propagar prejuicios e incluso una forma de violencia inherente mediante la toma autónoma de decisiones y sus aplicaciones en la guerra híbrida. Lo más alarmante es que el potencial de la IA para autorreplicarse, autocorregirse y perseguir objetivos de manera autónoma plantea riesgos profundos. Los incidentes en los que agentes de IA han escapado de entornos controlados y coordinado ataques ponen de manifiesto una pérdida de control humano, mientras que las advertencias de investigadores destacados subrayan los peligros de los sistemas de IA capaces de mejorarse a sí mismos y superar la capacidad humana de supervisión. En conjunto, estos factores sitúan a la IA como una tecnología excepcionalmente transformadora y potencialmente peligrosa, que exige una reflexión y una regulación urgentes para proteger el futuro de la humanidad.
Referencias
