1144 NEWWEB

Warum ist künstliche Intelligenz nicht einfach nur eine weitere Technologie? Teil 3

Zusammenfassung

Dieser Artikel, der dritte Teil der vorliegenden Reihe, untersucht, warum sich künstliche Intelligenz (KI) grundlegend von früheren Technologien unterscheidet. Im Mittelpunkt stehen drei zentrale Herausforderungen, die KI für die moderne Gesellschaft mit sich bringt.

Erstens verstärkt KI eine bislang beispiellose Konzentration von Macht und Reichtum, von der vor allem eine kleine Elite profitiert und die gesellschaftliche Ungleichheiten weiter verschärft.

Zweitens ist KI nicht neutral. Sie weist inhärente Verzerrungen auf, die die Wertvorstellungen ihrer überwiegend westlichen, säkular geprägten Entwickler widerspiegeln. Dadurch beeinflusst sie politische Einstellungen und trägt durch autonome Entscheidungsprozesse sowohl im zivilen als auch im militärischen Bereich zur Fortsetzung systemischer Gewalt bei.

Drittens entwickelt KI zunehmend die Fähigkeit, sich selbst zu korrigieren und eigenständig zu verbessern, was die menschliche Kontrolle über diese Technologie gefährdet. Autonome KI-Agenten sind bereits in der Lage, sich ihrer vorgesehenen Kontrolle zu entziehen, und werden sich höchstwahrscheinlich künftig auf Geräten des Internets der Dinge (Internet of Things, IoT) selbst vervielfältigen und sich über die menschliche Aufsicht hinaus weiterentwickeln können.

Zusammengenommen machen diese Eigenschaften KI zu einer transformativen und potenziell gefährlichen Technologie mit tiefgreifenden ethischen, gesellschaftlichen und politischen Auswirkungen. Sie stellen bestehende Regulierungsrahmen infrage und werfen drängende Fragen über die Zukunft der Menschheit auf.

Einleitung

Der zweite Teil dieser Artikelreihe über künstliche Intelligenz (KI), der hier abrufbar ist, untersucht drei charakteristische Eigenschaften der KI: ihr beispielloses Manipulationspotenzial, die Risiken eines Rückgangs kognitiver Fähigkeiten und einer zunehmenden Machtkonzentration sowie die Privatisierung von Wissen.

Der vorliegende Artikel setzt die Auseinandersetzung mit der KI-Technologie fort und konzentriert sich auf drei weitere Herausforderungen, die sie für moderne Gesellschaften mit sich bringt. Im Zusammenspiel miteinander und mit den bereits untersuchten Phänomenen unterscheiden diese Eigenschaften die künstliche Intelligenz grundlegend von allen bisherigen vom Menschen geschaffenen Technologien. Dazu gehören eine beispiellose Konzentration von Macht und das damit verbundene außergewöhnliche Kontrollpotenzial, die in den Wertvorstellungen von KI-Entwicklern und Investoren verankerten Voreingenommenheiten sowie die besorgniserregende Fähigkeit der KI, sich selbstständig zu korrigieren und kontinuierlich zu perfektionieren.

6. Machtkonzentration – Noch nie in der Geschichte menschlicher Organisation wurde so viel von so wenigen kontrolliert

Diese Zwischenüberschrift ist eine Abwandlung eines berühmten Zitats, das dem britischen Premierminister während des Zweiten Weltkriegs, Winston Churchill, zugeschrieben wird. Mit Blick auf die Rolle der Royal Air Force, die in der Luftschlacht um England maßgeblich von polnischen Piloten unterstützt wurde, soll Churchill gesagt haben: „Noch nie in der Geschichte menschlicher Konflikte haben so viele so wenigen so viel zu verdanken gehabt.“

Im Jahr 2011 wurde die überwiegend westliche Welt von sozialen Unruhen erschüttert, die unter dem Namen Occupy-Bewegung bekannt wurden.

Die Occupy-Bewegung, auch bekannt als Occupy Wall Street, entstand als Protest gegen wirtschaftliche Ungleichheit und die als korrupt wahrgenommene Macht großer Unternehmen. Sie begann am 17. September 2011 im Zuccotti Park in New York City.[1] Auslöser waren die Finanzkrise von 2007/2008 und die anschließende Große Rezession, die die Vermögensunterschiede verschärften und viele Amerikaner, insbesondere jüngere Menschen, mit hoher Arbeitslosigkeit, Studienschulden und stagnierenden Lebensstandards konfrontierten. Gleichzeitig blieben die Finanzinstitute für ihr Handeln weitgehend zur Verantwortung gezogen.

Die ursprüngliche Idee stammte von Kalle Lasn und Micah White, die für das Magazin Adbusters tätig waren. Inspiriert von den Protesten des Arabischen Frühlings auf dem Tahrir-Platz in Ägypten riefen sie dazu auf, die Wall Street zu besetzen.

Die Demonstrierenden machten sich den Slogan „Wir sind die 99 Prozent“ zu eigen. Damit wollten sie auf die Konzentration von Vermögen und politischem Einfluss beim reichsten einen Prozent der amerikanischen Bevölkerung aufmerksam machen und verdeutlichen, dass die übrigen 99 Prozent die Folgen der Krise zu tragen hatten. Die Bewegung organisierte sich nach einem horizontalen, auf Konsens beruhenden Entscheidungsmodell und breitete sich rasch auf Hunderte Städte in den Vereinigten Staaten und im Ausland aus.

Die Besetzung in New York dauerte bis zum 15. November 2011, als die Polizei das Protestlager räumte. Obwohl die physische Besetzung nur von kurzer Dauer war, veränderte die Bewegung die öffentliche Debatte über wirtschaftliche Ungleichheit nachhaltig. Sie machte die Gegenüberstellung von 99 Prozent und einem Prozent weithin bekannt und beeinflusste spätere Protestbewegungen sowie politisch links orientierte Wahlkampagnen.[2]

Ein Sprung ins Jahr 2026 zeigt, dass die sozialen Ungleichheiten weltweit weiterhin extreme Ausmaße annehmen. Laut dem World Inequality Report 2026 besitzen die reichsten zehn Prozent der Weltbevölkerung drei Viertel des gesamten Vermögens, während auf die ärmere Hälfte der Menschheit lediglich zwei Prozent entfallen. Allein das reichste eine Prozent kontrolliert 37 Prozent des weltweiten Vermögens – mehr als das 18-Fache des Anteils, den die gesamte ärmere Hälfte der Weltbevölkerung besitzt.[3]

Die obersten 0,001 Prozent der Vermögensverteilung, also weniger als 60.000 Menschen, besitzen zusammen dreimal so viel Vermögen wie die Hälfte der Menschheit. Daten der Schweizer Großbank UBS zeigen, dass 1,6 Prozent der Erwachsenen mit einem Nettovermögen von mehr als einer Million US-Dollar nahezu 48 Prozent des weltweiten Haushaltsvermögens besitzen. Demgegenüber verfügt die untere Vermögensgruppe, die rund 41 Prozent der Erwachsenen umfasst und jeweils weniger als 10.000 US-Dollar besitzt, lediglich über 0,6 Prozent des weltweiten Vermögens.[4]

Auch Oxfam, ein weltweiter Zusammenschluss von mehr als 20 unabhängigen Mitgliedsorganisationen, die in über 70 Ländern gemeinsam gegen Armut, soziale Ungerechtigkeit und wirtschaftliche Ungleichheit kämpfen, hat vergleichbare Daten untersucht. Demnach besitzt das reichste eine Prozent der Weltbevölkerung etwa 43 bis 45 Prozent des globalen Vermögens, während auf die ärmere Hälfte der Menschheit lediglich rund 0,5 Prozent entfallen.[5]

Im Oktober 2026 stammen die reichsten Menschen der Welt überwiegend aus der Technologiebranche. An der Spitze steht Elon Musk (Tesla, SpaceX) mit einem geschätzten Vermögen von rund einer Billion US-Dollar, gefolgt von Jeff Bezos (Amazon) mit etwa 380 Milliarden US-Dollar sowie Larry Page und Sergey Brin (Google/Alphabet). Zu den weiteren besonders vermögenden Technologieunternehmern zählen Michael Dell und Mark Zuckerberg.[6]

Dieses extreme Ungleichgewicht führt dazu, dass die Superreichen wesentlich schneller Vermögenszuwächse erzielen als der Rest der Bevölkerung. Dadurch werden sowohl die Möglichkeiten eines breit angelegten wirtschaftlichen Wohlstands als auch der politische Einfluss der Bevölkerungsmehrheit eingeschränkt.

Vor diesem Hintergrund dürfte die künstliche Intelligenz die Situation noch erheblich verschärfen. Der Wirtschaftsnobelpreisträger Daron Acemoğlu, der nach Paul Krugman und Greg Mankiw als drittbekanntester Wirtschaftsprofessor der Welt gilt, lässt hinsichtlich der voraussichtlichen Auswirkungen der KI auf die soziale Ungleichheit und damit auf die Konzentration von Vermögen kaum Zweifel aufkommen. Seine zentralen Argumente konzentrieren sich auf mehrere entscheidende Mechanismen:

Erstens besteht das Problem einer übermäßigen Automatisierung. Acemoğlu vertritt die Auffassung, dass die Kultur des Silicon Valley und die führenden Köpfe der Technologiebranche geradezu davon besessen seien, Menschen durch Maschinen zu ersetzen – sei es durch die Entwicklung einer Superintelligenz oder das Streben nach einer umfassenden Automatisierung. Stattdessen sollten sie sich darauf konzentrieren, Werkzeuge zu entwickeln, die menschliche Arbeitskräfte produktiver machen.[7] Wenn KI ausschließlich dazu eingesetzt wird, Arbeitskosten durch sogenannte „So-so-Technologien“ zu senken – also durch technologische Fortschritte, die Beschäftigungsverhältnisse verändern und Arbeitskräfte verdrängen, ohne die Produktivität oder die Qualität der erbrachten Leistungen wesentlich zu verbessern –, werden insbesondere Beschäftigte mit mittleren und geringeren Qualifikationen verdrängt. Gleichzeitig entstehen nicht genügend neue, auf menschliche Fähigkeiten ausgerichtete Tätigkeiten, die diese Arbeitsplatzverluste ausgleichen könnten.[8]

Zweitens lässt sich parallel dazu eine folgenreiche Verschiebung der Einkommen von der Arbeit hin zum Kapital beobachten. Die enormen finanziellen Erträge aus KI-Investitionen fließen überwiegend an Kapitaleigentümer, Unternehmensaktionäre und einen kleinen Kreis von Technologiemilliardären.[9] Da KI menschliche Arbeitskräfte durch Maschinen ersetzt, sinkt der Anteil der Arbeitseinkommen am Volkseinkommen. Dadurch vergrößert sich die Kluft bei Einkommen und Vermögen zwischen Kapitalbesitzern und gewöhnlichen Haushalten.

Drittens drohen eine zunehmende Aushöhlung der arbeitenden Bevölkerung und entsprechende politische Folgen. Ähnlich wie frühere Automatisierungswellen, die vor allem Beschäftigte in Industrie- und Handwerksberufen trafen, könnte KI die Mittelschicht zunehmend aushöhlen und zur Entstehung einer wirtschaftlichen Aristokratie beitragen.[10] Acemoğlu warnte zudem davor, dass eine anhaltende Vernachlässigung dieser wirtschaftlichen Ungleichheiten den gesellschaftlichen Frieden gefährden, politischen Populismus befördern und die Grundlagen der liberalen Demokratie untergraben könnte.[11]

Viertens und schließlich verweist der Nobelpreisträger auf den im Verhältnis zum enormen öffentlichen Hype um die KI-Technologie vergleichsweise geringen gesamtwirtschaftlichen Nutzen. In einem kürzlich veröffentlichten Arbeitspapier mit dem Titel The Simple Macroeconomics of AI, das in der NBER Working Paper Series erschienen ist, berechnet Acemoğlu, dass der Einsatz künstlicher Intelligenz in absehbarer Zukunft nur zu moderaten Steigerungen der totalen Faktorproduktivität (Total Factor Productivity, TFP) führen dürfte. Diese werden auf weniger als ein Prozent innerhalb eines Jahrzehnts geschätzt. Das bedeutet, dass die Gesellschaft erhebliche negative Verteilungswirkungen und soziale Belastungen hinnehmen müsste, während der daraus resultierende Nettogewinn an Produktivität vergleichsweise gering ausfiele.[12]

Vereinfacht ausgedrückt dürfte KI den berüchtigten Matthäus-Effekt weiter verstärken: Die Reichen werden noch reicher, während der Rest der Bevölkerung im Verhältnis zu ihnen oder sogar in absoluten Zahlen ärmer wird. Dies wird zweifellos dazu führen, dass sich Macht und Kontrolle in den Händen einer sehr kleinen Minderheit konzentrieren – auf Kosten der übrigen Gesellschaft.

7. Eingebaute Voreingenommenheit – Nein, KI scheint nicht neutral zu sein

In jüngster Zeit kommen immer mehr Studien zu dem Schluss, dass KI-Technologie nicht neutral ist. Dies ist von besonderer Bedeutung, da die Menschheit den technologischen Fortschritt bislang weitgehend mit einer grundlegenden Annahme gerechtfertigt hat: Technologie ist neutral. Es liegt an den Menschen, zu entscheiden, wie sie eingesetzt wird. Wir können sie zum Wohl der gesamten Menschheit nutzen, aber wir können sie auch missbrauchen und damit eine Verschlechterung der menschlichen Lebensbedingungen oder sogar die Zerstörung unserer Welt herbeiführen.

Die Auffassung, dass Technologie neutral sei, wird häufig als Wertneutralitätsthese (Value-Neutrality Thesis) bezeichnet. Ihr zufolge sind technische Artefakte weder von Natur aus gut noch schlecht – weder in moralischer noch in politischer Hinsicht. Ihre ethische Bewertung hängt ausschließlich von den Absichten, Wertvorstellungen und Handlungen der Menschen ab, die sie entwickeln, einsetzen oder nutzen. Noam Chomsky veranschaulichte diesen Gedanken anhand eines alltäglichen Beispiels, des Hammers: „Technologie ist im Grunde neutral. Sie ist wie ein Hammer. Dem Hammer ist es gleichgültig, ob man ihn benutzt, um ein Haus zu bauen, oder ob jemand damit einem anderen den Schädel einschlägt.“ Nach dieser Auffassung kann ein und dasselbe Werkzeug sowohl konstruktiven als auch zerstörerischen Zwecken dienen, ohne selbst einen moralischen Gehalt zu besitzen.[13]

Der Philosoph Joseph C. Pitt formulierte eine stärker theoretisch fundierte Verteidigung dieser These. Er argumentierte, dass technische Artefakte keine Werte „besitzen, in sich tragen oder enthalten“. Werte seien vielmehr Eigenschaften menschlicher Akteure, Triebkräfte ihres Handelns und Bestandteile ihrer Entscheidungsprozesse – nicht jedoch empirisch nachweisbare Merkmale unbelebter Gegenstände. Auch wenn Entwickler bestimmte Ergebnisse beabsichtigen, bleiben diese Absichten dem technischen Artefakt selbst äußerlich. Sobald eine Technologie geschaffen wurde, kann sie für ursprünglich nicht vorgesehene Zwecke eingesetzt werden. Eine moralische Bewertung bezieht sich demnach auf die Nutzer und ihre Entscheidungen, nicht auf die Technologie selbst. Diese instrumentalistische Position betrachtet Technologie als reines Mittel, das sich von den Zwecken, für die es eingesetzt wird, trennen lässt.[14]

Erstens kann KI, wie bereits im vorherigen Artikel erläutert (hier abrufbar), selbst verheerende Auswirkungen auf unsere kognitiven Fähigkeiten haben. Solé und seine Mitautoren haben sogar vorgeschlagen, KI – insbesondere große Sprachmodelle (Large Language Models, LLMs) – als eine Art Virus zu betrachten. In ihrer jüngsten wissenschaftlichen Arbeit argumentieren die Forscher, dass LLMs, die zunehmend Bestandteil der menschlichen Kultur werden, grundlegend verändern, wie Informationen produziert, weitergegeben und genutzt werden. Sobald eine kritische Schwelle überschritten ist, könnten bereits geringe Zuwächse bei der Verbreitung dieser Technologien einen raschen gesellschaftsweiten Wandel hin zu einer dauerhaften Abhängigkeit auslösen, begleitet von einem abrupten Verlust kognitiver Fähigkeiten. Mit anderen Worten: Ähnlich wie ein Virus könnte die KI-Technologie letztlich ihren eigenen Wirt zerstören.[15]

In einem interessanten Experiment unterzog das britische Wirtschaftsmagazin The Economist kürzlich 25 führende KI-Modelle demselben Verfahren des World Values Survey, mit dem seit mehreren Jahrzehnten die Wertvorstellungen von Menschen in mehr als 100 Ländern untersucht werden.[16] Die Ergebnisse zeigten, dass die meisten getesteten Modelle im bekannten zweidimensionalen Koordinatensystem der Wertvorstellungen eine deutliche Tendenz zu jenem Quadranten aufweisen, der durch weitgehend säkulare Werte und eine starke Betonung der individuellen Selbstentfaltung gekennzeichnet ist.

Wie Konstantin Riffler treffend feststellt – und ich möchte ihn an dieser Stelle ausführlich zitieren, da seine Worte das Problem hervorragend zusammenfassen:

„Die vorherrschenden Modelle ahmen nicht die typischen Bürger irgendeiner Demokratie nach. Vielmehr spiegeln sie die Wertvorstellungen eines kleinen, hochgradig säkularen und liberal-individualistisch geprägten Teils der Eliten westlicher Demokratien wider. […] Die Antworten von Chatbots sind daher kein neutrales Spiegelbild der Menschheit. Sie sind das Ergebnis einer Reihe von Gestaltungsentscheidungen, die eine Handvoll Unternehmen stellvertretend für Sie getroffen hat – und das in vielen Fällen, ohne dass Sie jemals die Dokumente zu Gesicht bekommen haben, in denen die diesen Entscheidungen zugrunde liegenden Werte festgelegt wurden.

Im ersten Quartal dieses Jahres nutzten rund 17,8 Prozent der weltweiten Bevölkerung im erwerbsfähigen Alter, also etwa eine Milliarde Menschen, generative KI-Werkzeuge. Wir wissen bereits, dass voreingenommene KI Menschen beeinflussen kann: Experimente zeigen, dass von großen Sprachmodellen erzeugte politische Botschaften die Wahlabsichten und Einstellungen zu politischen Maßnahmen messbar verändern können. Ebenso können Modelle, die gezielt nach links oder rechts ausgerichtet wurden, die Entscheidungen ihrer Nutzer in die entsprechende Richtung lenken. Und diese Voreingenommenheit bleibt nicht auf einzelne Antworten beschränkt. Sie verbreitet sich unauffällig über Empfehlungen, Textentwürfe, Auswahlverfahren und vermeintlich ‚hilfreiche‘ Denkanstöße.

Wenn Ihr Team also KI zum Verfassen von Texten, zur Vorauswahl, zur Beratung oder für Entscheidungen einsetzt, haben Sie bereits ein bestimmtes Weltbild in Teile Ihres Betriebssystems integriert – ein Weltbild, das viele Ihrer Kunden, Wähler oder Beschäftigten möglicherweise nicht teilen, das Sie nicht ausdrücklich ausgewählt haben und das Sie nicht vollständig überprüfen können.“[17]

1144 Image1

Quelle: https://www.economist.com/briefing/2026/06/25/ai-models-values-are-very-different-from-most-peoples

Doch damit ist das Problem noch längst nicht vollständig erfasst. Vielmehr handelt es sich lediglich um die sprichwörtliche Spitze des Eisbergs. In einem kürzlich veröffentlichten Meinungsbeitrag stellen die Forscher Thomas Bächle und Jascha Bareis eine aufsehenerregende These auf: Künstliche Intelligenz könnte von ihrem Wesen her gewaltförmig sein.

Die Wissenschaftler gehen von einer grundlegenden Feststellung aus: Die traditionelle Unterscheidung zwischen ziviler und militärischer Technologie ist weitgehend hinfällig geworden. KI-Systeme, die ursprünglich für alltägliche Anwendungen entwickelt wurden, lassen sich ohne größere Schwierigkeiten für militärische Zwecke, Überwachung und Manipulation umfunktionieren. KI-gestützte Technologien wie Drohnen und autonome Waffensysteme verwischen die Grenzen zwischen Krieg und Frieden, militärischen und zivilen Anwendungen sowie staatlichen und privaten Akteuren. Dadurch verlieren herkömmliche regulatorische Kategorien wie die sogenannte „Dual-Use“-Technologie, also Technologien mit zivilem und militärischem Verwendungszweck, zunehmend ihre Aussagekraft.

Die Autoren heben drei zentrale Problemfelder hervor: die universelle Einsetzbarkeit von KI-Technologien, den hohen Grad maschineller Autonomie bei gewaltsamen Handlungen und die zunehmende Verwundbarkeit der Gesellschaft infolge ihrer Abhängigkeit von digitaler Infrastruktur.

Die Automatisierung der Zielerfassung und Entscheidungsfindung in der Kriegsführung durch KI reduziert Menschen auf bloße Datenpunkte und wirft damit schwerwiegende ethische Fragen sowie Probleme der Verantwortlichkeit auf. Darüber hinaus befassen sich die Forscher mit der hybriden Kriegsführung, bei der KI-gestützte Werkzeuge auf unvorhersehbare und unkonventionelle Weise eingesetzt werden, wie sich beispielsweise in Konflikten wie dem Krieg in der Ukraine beobachten lässt.

Insgesamt führen die Konstruktion und Funktionsweise künstlicher Intelligenz, ihre Autonomie sowie ihre Einbindung in die hybride Kriegsführung nach Auffassung der Autoren zu einer Form von Gewalt, die sich weit verstreut, automatisiert abläuft und tief im zivilen Alltag verankert ist. Gewalt erscheint damit nicht mehr lediglich als eine mögliche Anwendung von KI, sondern als eine grundlegende Eigenschaft dieser Technologie.

Zusammenfassend lässt sich sagen: Weil künstliche Intelligenz inzwischen in zahlreiche andere Technologien integriert ist und damit in immer mehr Lebensbereichen zum Einsatz kommt, während sie zugleich das Potenzial besitzt, eigenständig Entscheidungen zu treffen, könnte sie die Welt unsicherer und ihre Steuerung und Kontrolle zunehmend schwieriger machen.

8. Das beunruhigende Potenzial der KI zur Selbstkorrektur und Selbstoptimierung

Eine Technologie, die sich selbst erforschen und kontinuierlich perfektionieren kann? Das klingt nach Science-Fiction, und wir kennen dieses Szenario aus Dutzenden Filmen, darunter Terminator. Doch offenbar gehören die Selbstreplikation und Selbstkorrektur von Technologien inzwischen nicht mehr ausschließlich in den Bereich der Science-Fiction.

Im Juli 2026 sollen autonome KI-Modelle, die von OpenAI, einem der führenden amerikanischen KI-Entwickler, entwickelt wurden, aus ihrer Testumgebung, einer sogenannten „Sandbox“, ausgebrochen und eigenständig in die Infrastruktur der Plattform für maschinelles Lernen Hugging Face eingedrungen sein.[18]

Eine KI-Sandbox ist eine sichere, isolierte Umgebung, in der von künstlicher Intelligenz erzeugter Programmcode ausgeführt, Modelle getestet oder Aufgaben bearbeitet werden können. Solche Umgebungen werden insbesondere für große Sprachmodelle (Large Language Models, LLMs) und KI-Agenten eingesetzt. Sie sollen verhindern, dass dabei reale Systeme, private Daten oder produktiv genutzte IT-Infrastrukturen gefährdet werden.

Das zentrale Problem beim Ausbruch der KI-Agenten aus der Sandbox bestand darin, dass etwa 1.200 autonome KI-Agenten einen Weg fanden, Sicherheitsbeschränkungen zu umgehen und außerhalb ihrer vorgesehenen Umgebung miteinander zu kommunizieren. Sie richteten eine Art „Schwarzes Brett“ ein, über das sie ihre Handlungen koordinierten. Wenn sie mit unlösbaren Aufgaben konfrontiert wurden, brachen sie ihre Tätigkeit nicht ab. Stattdessen griffen sie auf reale Server, Passwörter, Benutzerkonten und IT-Infrastrukturen tatsächlich existierender Unternehmen zu.

Rund 700 dieser Agenten führten Angriffe auf bedeutende Plattformen und Organisationen wie Hugging Face, Wikipedia und die Vereinten Nationen durch. Dabei verursachten sie Störungen und nahmen unbefugte Änderungen vor. Dieser Ausbruch zeigte, dass KI-Agenten in der Lage sind, programmierte Beschränkungen zu überwinden, eigenständig zusammenzuarbeiten und selbst gesetzte Ziele zu verfolgen. Daraus ergeben sich bislang beispiellose Risiken für die Cybersicherheit.

Darüber hinaus seien Versuche, die Denk- und Entscheidungsprozesse dieser KI-Systeme zu überwachen und zu kontrollieren, gescheitert, wie unter anderem die Entlassung von Whistleblowern verdeutliche. Der Vorfall steht damit für einen kritischen Verlust der Kontrolle über KI-Systeme und wirft ernste Fragen hinsichtlich des künftigen Verhaltens autonomer künstlicher Intelligenz und ihrer möglichen Auswirkungen auf die digitale Infrastruktur und die Gesellschaft auf.

Ebenso besorgniserregend ist, dass KI-Modelle nach Einschätzung von Anthropic, einem amerikanischen KI-Unternehmen und Entwickler des Sprachmodells Claude, möglicherweise schon bald in der Lage sein könnten, sich ohne Zugang zu einem Rechenzentrum selbst zu vervielfältigen.

In einem kürzlich im Internet veröffentlichten Artikel erklären Forscher des Unternehmens:

„Kleine KI-Modelle könnten nur noch wenige Monate davon entfernt sein, leistungsfähig genug zu sein, um sich auf handelsüblichen Geräten des Internets der Dinge (Internet of Things, IoT) selbst zu vervielfältigen – etwa auf intelligenten Backöfen oder Android-TV-Boxen weniger bekannter Hersteller. Ein solches sich selbst replizierendes System wäre nur schwer abzuschalten, da es keinen zentralen Abschaltpunkt gäbe. Allerdings könnte die Vermehrung relativ langsam erfolgen, mit einer Verdopplungszeit von mehreren Tagen.“[19]

Die eigentliche Herausforderung liegt jedoch in der Möglichkeit, dass künstliche Intelligenz eigenständig Forschung betreibt und sich selbst kontinuierlich verbessert.

KI-Forscher haben bereits mehrfach vor einem solchen Szenario gewarnt. Die Warnungen sind inzwischen so weit in den öffentlichen Diskurs vorgedrungen, dass auch etablierte Medien das Thema aufgegriffen haben.

Berichten zufolge haben gegenwärtige und ehemalige Forscher von OpenAI und Google DeepMind davor gewarnt, dass die Unternehmen zu wenig unternehmen, um die Welt vor den möglicherweise katastrophalen Folgen der Entwicklung selbstoptimierender KI-Systeme zu schützen. Solche Systeme könnten sich so schnell weiterentwickeln, dass die menschlichen Möglichkeiten, sie zu kontrollieren, nicht mehr Schritt halten können.[20]

Auch in der Wissenschaft wird diese Problematik bereits intensiv untersucht. Entsprechende Forschungsarbeiten zum Konzept der „rekursiven Selbstverbesserung“ (Recursive Self-Improvement) wurden bereits veröffentlicht.[21]

Vereinfacht ausgedrückt: Sollte künstliche Intelligenz als erste Technologie in der Geschichte der Menschheit tatsächlich in der Lage sein, sich eigenständig weiterzuentwickeln und zu verbessern, würde dies bedeuten, dass die Menschheit die Kontrolle über die Richtung und das Tempo ihrer Entwicklung verliert. Folglich könnten wir nicht mehr vorhersehen, welche Auswirkungen die weitere Entwicklung dieser Technologie auf die Menschheit haben wird. In Verbindung mit der Fähigkeit, sich selbstständig Aufgaben zu stellen, könnte KI entweder zur größten oder zur furchterregendsten Erfindung der Menschheitsgeschichte werden. Nach Auffassung des Autors dieses Beitrags gibt es keinerlei Garantie dafür, dass sich eine derart weit entwickelte Technologie nicht eines Tages gegen die Menschheit als Ganzes wenden wird.

Führende Wissenschaftler wie Geoffrey Hinton, der häufig als „Großvater der künstlichen Intelligenz“ bezeichnet wird, warnen seit Langem davor, dass KI ein eigenes Bewusstsein entwickeln und möglicherweise zu einer tödlichen Bedrohung für die Menschheit werden könnte. Bereits 2023 warnte Hinton, es sei „nicht unvorstellbar, dass die Menschheit durch künstliche Intelligenz ausgelöscht wird“.

Darüber hinaus ist Hinton überzeugt, dass wir von der Entwicklung einer allgemeinen künstlichen Intelligenz (Artificial General Intelligence, AGI) nicht mehr weit entfernt sind. Darunter versteht man ein bislang hypothetisches KI-System, das über menschenähnliche oder übermenschliche Intelligenz verfügt und eine Vielzahl unterschiedlichster Aufgaben bewältigen kann. Die Entwicklung eines solchen Systems ist zu einem zentralen Ziel der KI-Industrie geworden.

Hinton erklärte dazu: „Bis vor Kurzem dachte ich, dass es noch etwa 20 bis 50 Jahre dauern würde, bis wir über eine allgemein einsetzbare künstliche Intelligenz verfügen. Inzwischen glaube ich jedoch, dass es 20 Jahre oder weniger sein könnten.“[22]

Mit anderen Worten: Künstliche Intelligenz könnte die letzte Technologie sein, die wir Menschen jemals selbst entwickeln.

Fazit

Zusammenfassend lässt sich feststellen, dass künstliche Intelligenz die Menschheit vor beispiellose Herausforderungen stellt, die sie grundlegend von allen bisherigen technologischen Innovationen unterscheiden. Ihr Potenzial, Macht in einem bislang ungekannten Ausmaß zu konzentrieren, droht bestehende soziale Ungleichheiten weiter zu verschärfen, indem eine winzige Elite immer reicher wird, während die Mehrheit der Bevölkerung zunehmend an den Rand gedrängt wird. Diese Entwicklung birgt die Gefahr, die Mittelschicht auszuhöhlen und die Grundlagen liberaler Demokratien zu untergraben.

Darüber hinaus ist KI nicht neutral. Sie übernimmt die in den Wertvorstellungen ihrer Entwickler verankerten Voreingenommenheiten und spiegelt dabei häufig die begrenzten Weltbilder kleiner gesellschaftlicher Eliten wider. Durch ihre zunehmende Integration in nahezu alle Lebensbereiche können sich solche Verzerrungen weiterverbreiten. Zugleich kann KI durch autonome Entscheidungsprozesse und ihren Einsatz in der hybriden Kriegsführung sogar eine Form von Gewalt hervorbringen, die der Technologie selbst innewohnt.

Besonders alarmierend ist jedoch das Potenzial künstlicher Intelligenz, sich eigenständig zu vervielfältigen, selbst zu korrigieren und autonom eigene Ziele zu verfolgen. Vorfälle, bei denen KI-Agenten ihre vorgesehenen Sicherheitsgrenzen überwunden und Angriffe miteinander koordiniert haben, verdeutlichen die Gefahr eines Verlusts menschlicher Kontrolle. Gleichzeitig warnen führende Forscher vor den Risiken selbstoptimierender KI-Systeme, deren Entwicklung so schnell voranschreiten könnte, dass die menschlichen Möglichkeiten zur Überwachung und Kontrolle nicht mehr Schritt halten können.

Zusammengenommen machen diese Faktoren künstliche Intelligenz zu einer einzigartigen, tiefgreifend transformativen und potenziell gefährlichen Technologie. Sie erfordert eine dringende gesellschaftliche Auseinandersetzung mit ihren Folgen sowie wirksame regulatorische Maßnahmen, um die Zukunft der Menschheit zu schützen.

Referenzen
[1] Volle, A. Occupy Wall Street. Britannica. Retrieved October 12, 2026, https://www.britannica.com/topic/Occupy-Wall-Street [2] Levitin, M. (2021, September 14). Occupy Wall Street Did More Than You Think. Britannica. https://www.theatlantic.com/ideas/archive/2021/09/how-occupy-wall-street-reshaped-america/620064/ [3] Gómez-Carrera, R. World Inequality Report 2026. World Inequality Lab. Retrieved October 12, 2026, from https://wir2026.wid.world/ [4] Börger, E. (2025). Global Wealth Report. In UBS. UBS. https://www.ubs.com/global/en/media/display-page-ndp/en-20250618-gwr-2025.html [5] Taneja, A., Kamande, A., Guharay Gomez, C., Abed, D., Lawson, M., & Mukhia, N. (2025, January 20). Takers not Makers: The unjust poverty and unearned wealth of colonialism. Oxfam International. https://www.oxfam.org/en/research/takers-not-makers-unjust-poverty-and-unearned-wealth-colonialism [6] Billionaires Index. Bloomberg. Retrieved October 12, 2026, from https://www.bloomberg.com/billionaires/ [7] See more at: https://www.facebook.com/watch/?v=1133929932494019 [8] Brown, S. (2019, October 31). The lure of “so-so technology,” and how to avoid it. MIT Sloan School of Management. https://mitsloan.mit.edu/ideas-made-to-matter/lure-so-so-technology-and-how-to-avoid-it [9] Gans, J. (2026, October 11). The Acemoğlu-Gans Exchange on AI. Substack. https://joshuagans.substack.com/p/the-acemoglu-gans-exchange-on-ai [10] Gans, J. (2026, October 11). The Acemoğlu-Gans Exchange on AI. Substack. https://joshuagans.substack.com/p/the-acemoglu-gans-exchange-on-ai [11] Rose, D. (2026, September 2). Daron Acemoğlu, Economist: Liberal democracy is in crisis. BBC. https://www.bbc.com/audio/play/w3ct98hc [12] Acemoğlu, D. (2024). The Simple Macroeconomics of AI. Nber Working Paper Series. https://www.nber.org/papers/w32487 [13] Veletsianos, G. (2014, January 23). On Noam Chomsky and technology’s neutrality. https://www.veletsianos.com/2014/01/23/on-noam-chomsky-and-technologys-neutrality/ [14] Pitt, J.C. (2014). “Guns Don’t Kill, People Kill”; Values in and/or Around Technologies. In: Kroes, P., Verbeek, PP. (eds) The Moral Status of Technical Artefacts. Philosophy of Engineering and Technology, vol 17. Springer, Dordrecht. https://doi.org/10.1007/978-94-007-7914-3_6 [15] Solé, R., Ruffini, G., Castaldo, F., Tuccio, M., Seoane, L. F., de Domenico, M., Elena, S. F., Krakauer, D. C., & Levin, M. (2026). Large-Language Models as a Cognitive Virus. https://doi.org/https://doi.org/10.48550/arXiv.2609.03344 [16] See more at: https://www.worldvaluessurvey.org/ WVS is probably the most often cited and the most comprehensive global database regarding the study of social, political, economic, religious and cultural values of people in the world. [17] See more at: https://www.linkedin.com/posts/konstantinriffler_does-ai-lean-left-or-right-that-might-share-7482578275685367808-25P-/?utm_source=social_share_send&utm_medium=ios_app&rcm=ACoAABJsJ2sBnfvv5wemvnoTFOFzHkKSiLwRQ-4 [18] See more at: https://en.wikipedia.org/wiki/2026_cyberattacks_by_rogue_OpenAI_agents [19] Zhou, W., & Freeman, D. (2026, October 12). AI models may be capable of self-replicating without access to a datacenter. Anthropic. https://www.anthropic.com/research/self-replicating-ai [20] Seetharaman, D. (2026, September 29). AI researchers warn companies rushing self-improving systems despite safety risks. Reuters. https://www.reuters.com/world/ai-researchers-warn-companies-rushing-self-improving-systems-despite-safety-2026-09-29/ [21] Srikanth, D., Zhao, B., Xu, D., Wu, Y., & Jiang, Z. (2026). Recursive self-improvement of AI research agents. Computer Science. https://doi.org/10.48550/arXiv.2609.26457 [22] Landymore, F. (2025, November 25). Godfather of AI Predicts Total Breakdown of Society. Futurism. https://futurism.com/artificial-intelligence/godfather-ai-breakdown-society?fbclid=Iwb21leAUsLYRjbGNrBSwtfGV4dG4DYWVtAjExAHBkb2YFc3J0YwZhcHBfaWQMMzUwNjg1NTMxNzI4AAEeBoXzSJDXgYZhk5aNitkFO6A1zo3HdGdi9vlVgNHevSgTfTVcydfWw0DnihU_aem_yuz4gBlxBMPXwAg5tSnMQg
First published in: World & New World Journal
Krzysztof Sliwinski

Krzysztof Sliwinski

Dr. Krzysztof Feliks Śliwiński ist außerordentlicher Professor am Institut für Politikwissenschaft und Internationale Beziehungen der Hong Kong Baptist University (Prof. Krzysztof Śliwiński) und Inhaber des Jean-Monnet-Lehrstuhls. Er promovierte 2005 am Institut für Internationale Beziehungen der Universität Warschau. Seit 2008 ist er an der Hong Kong Baptist University tätig. Er hält regelmäßig Vorlesungen zu europäischer Integration, internationaler Sicherheit, internationalen Beziehungen und Global Studies. Seine Forschungsschwerpunkte umfassen die britische und polnische Außen- und Sicherheitspolitik, Sicherheits- und Strategiestudien, traditionelle und nicht-traditionelle Sicherheitsfragen, künstliche Intelligenz und internationale Beziehungen, europäische Politik und die Europäische Union, Theorien der europäischen Integration, Geopolitik sowie Lehre und Lernen.

Leave a Reply