Zusammenfassung
Dieser Artikel, der zweite Teil einer Reihe über die Frage, warum künstliche Intelligenz (KI) mit keiner anderen Technologie vergleichbar ist, untersucht drei besondere Merkmale von KI: ihr beispielloses Potenzial zur Manipulation, die Risiken eines kognitiven Leistungsabbaus und einer Machtkonzentration sowie die Privatisierung von Wissen.
Die Studie zeichnet die Entwicklung der Propaganda von den klassischen Massenmedien hin zu personalisierten Informationsblasen in sozialen Medien nach. Sie hebt hervor, dass KI durch die Verknüpfung großer Datenmengen in der Lage ist, überzeugende Botschaften mit bislang unerreichter Präzision auf einzelne Personen zuzuschneiden, und wirft damit ethische Fragen hinsichtlich des Schutzes der Privatsphäre und der Integrität demokratischer Prozesse auf.
Der Artikel warnt zudem vor einem kognitiven Leistungsabbau infolge einer übermäßigen Abhängigkeit von KI-generierten Zusammenfassungen. Diese könne das kritische Denken schwächen und langfristig zu einem gesellschaftlichen Niedergang beitragen. Diese Einschätzung wird durch jüngste wissenschaftliche Studien gestützt.
Darüber hinaus untersucht der Artikel die Rolle privater KI-Unternehmen wie Anthropic, die sich zu einflussreichen nichtstaatlichen Akteuren im Militär- und Sicherheitsbereich entwickeln. Dadurch tragen sie zur Privatisierung von Informationen und Macht bei und stellen traditionelle staatliche Monopole auf Gewaltanwendung und Rechenschaftspflicht infrage. Die komplexen Folgen der zunehmenden Integration von KI in die Gesellschaft erfordern daher eine sorgfältige Auseinandersetzung mit ihren ethischen, kognitiven und politischen Auswirkungen.
Einleitung
Der erste Teil der Miniserie mit dem Titel „Warum ist künstliche Intelligenz nicht einfach nur eine weitere Technologie?“ (verfügbar hier) konzentrierte sich auf zwei Merkmale, die KI-Technologie wohl von allen anderen Technologien in der Geschichte der Menschheit unterscheiden: das Blackbox-Phänomen und emergentes Verhalten. Dieser Artikel untersucht drei weitere besondere Merkmale von KI: ihr Manipulationspotenzial, das Risiko eines kognitiven Leistungsabbaus und die Privatisierung von Wissen – und damit von Macht.
3. Manipulation – Woher wissen wir überhaupt noch, was wahr ist?
Nach Auffassung des Autors verfügt KI über ein bislang beispielloses Manipulationspotenzial. Zunächst einmal ist Wissenschaftlern und gesellschaftlichen Führungspersönlichkeiten seit Langem bewusst, welche manipulative Wirkung Massenmedien durch gezielte Gestaltung und Rahmung von Informationen entfalten können. Historisch wurden Massenmedien immer wieder eingesetzt, um die öffentliche Meinung durch organisierte Propaganda zu „formen“, insbesondere in Kriegszeiten und durch politische sowie wirtschaftliche Eliten. Während des Ersten Weltkriegs nutzten Regierungen systematisch Zeitungen, Plakate und Filme, um die Bevölkerung zu mobilisieren und Feindbilder zu erzeugen. Harold Lasswell legte eine der ersten systematischen Analysen vor und definierte Propaganda als die Steuerung kollektiver Einstellungen durch die Manipulation bedeutungsvoller Symbole.[1]
Für die Zwischenkriegszeit argumentierte Walter Lippmann, dass Bürger ihre Meinungen nicht auf Grundlage unmittelbarer Erfahrung bilden, sondern anhand vereinfachter Bilder in ihren Köpfen, die ihnen von der Presse vermittelt werden. Dadurch werde es Eliten ermöglicht, Zustimmung gezielt herzustellen.[2] Edward Bernays übertrug psychologische Prinzipien auf die Öffentlichkeitsarbeit und propagierte die gezielte „Herstellung von Zustimmung“ mithilfe der Massenmedien, sodass politische und gesellschaftliche Führungspersonen Verhaltensweisen und politische Einstellungen beeinflussen konnten, ohne dass sich das Publikum dieses Prozesses vollständig bewusst war.[3]
Der Zweite Weltkrieg intensivierte diese Praktiken noch weiter. Die nationalsozialistischen Behörden zentralisierten unter Joseph Goebbels – Reichsminister für Volksaufklärung und Propaganda von 1933 bis 1945 – Radio, Kino und Printmedien, um ihre Ideologie zu verbreiten und abweichende Meinungen zu unterdrücken. Gleichzeitig koordinierten auch die alliierten Regierungen vergleichbare Kampagnen zur Rekrutierung und zur Stärkung der Moral.[4] Nach dem Krieg identifizierte die empirische Forschung subtilere Mechanismen. Wissenschaftler wiesen den sogenannten Agenda-Setting-Effekt nach: Themen, denen in der Berichterstattung besondere Aufmerksamkeit eingeräumt wird, werden auch von der Öffentlichkeit als besonders wichtig wahrgenommen.[5] Herman und Chomsky entwickelten ein strukturelles Propagandamodell, in dem Eigentumskonzentration, Abhängigkeit von Werbeeinnahmen, die Nutzung offizieller Quellen, organisierter öffentlicher Druck und dominante Ideologien als Filter fungieren. Diese Filter sorgen demnach systematisch dafür, dass sich die Inhalte etablierter Medien an den Interessen gesellschaftlicher Eliten ausrichten und Zustimmung erzeugt wird, ohne dass offene Zwangsmaßnahmen erforderlich sind.[6] Zusammengenommen zeigen diese Studien, dass Massenmedien wiederholt nicht als neutrale Vermittler von Informationen dienten, sondern als Instrumente zur Konstruktion politischer Wirklichkeiten und zur Herstellung öffentlicher Zustimmung.
Dann kamen die sozialen Medien. Soziale Medien sind personalisiert – und genau darin liegt wohl der entscheidende Unterschied. Nutzer sozialer Medien leben in einer individuellen Blase aus „Infotainment“, also einer Mischung aus Information und Unterhaltung, die sich grundlegend von den Informationsblasen klassischer Massenmedien unterscheidet. Propaganda über Massenmedien beruht im Kern auf der Vorstellung, dass eine Gruppe von Menschen – etwa eine Nation – denselben Arten von Information, Fehlinformation oder sogar Desinformation ausgesetzt ist, häufig in einer Mischung aus allen drei Formen, und dadurch gemeinsame grundlegende Wahrnehmungen oder Fehlwahrnehmungen der Realität entwickelt. Soziale Medien hingegen sind individualisiert. Das bedeutet, dass jeder Nutzer in einer eigenen, kognitiv verzerrten Version der Wirklichkeit lebt, die von Algorithmen geprägt wird.
Wissenschaftler erkennen an, dass Social-Media-Plattformen systematisch dazu eingesetzt wurden, die öffentliche Meinung mithilfe sogenannter computergestützter Propaganda zu manipulieren – also durch den Einsatz von Algorithmen, Automatisierung und gezielt gesteuerten menschlichen Aktivitäten, um irreführende Informationen in großem Umfang zu verbreiten.[7] Regierungen und politische Parteien unterhalten sogenannte Cyber-Truppen, die Bots, Trollfabriken und koordinierte unauthentische Konten einsetzen, um Desinformation zu verstärken, einen künstlichen Eindruck gesellschaftlicher Zustimmung zu erzeugen und abweichende Stimmen während Wahlen und Krisen zu übertönen. Social Bots verbreiten Inhalte mit geringer Glaubwürdigkeit überproportional häufig bereits in den frühesten Phasen ihrer Verbreitung und beschleunigen deren Reichweite, woraufhin menschliche Nutzer diese Inhalte weiterverbreiten.[8] Gleichzeitig bevorzugen Plattformalgorithmen, die auf möglichst hohe Interaktionsraten optimiert sind, emotional aufgeladene und polarisierende Inhalte. Dadurch entstehen asymmetrische Informationsumgebungen, die Nutzer radikalisieren und gemeinsame faktische Grundlagen untergraben können.[9] Zusammengenommen verzerren diese Praktiken die gesellschaftliche Themenagenda, polarisieren die Öffentlichkeit und beeinträchtigen die demokratische Meinungsbildung, indem künstlich erzeugte Narrative so erscheinen, als erfreuten sie sich auf natürliche Weise großer Beliebtheit.
KI-Technologie verfügt jedoch wohl über ein noch größeres Manipulationspotenzial. Das Ausmaß an Granularität – also Detailtiefe, Größenordnung oder Präzision innerhalb eines Datensatzes, Systems oder einer Analyse – und Reaktionsfähigkeit ist historisch beispiellos. Durch die Verbindung von KI mit Big Data lassen sich detaillierte individuelle Profile erstellen, die genutzt werden können, um Meinungen und Verhaltensweisen zu beeinflussen. Dies zeigt sich beispielsweise in politischen Kampagnen, in denen Mikrotargeting und personalisierte Botschaften mittlerweile zur gängigen Praxis geworden sind.[10] Solche Methoden werfen erhebliche ethische Fragen auf, da sie demokratische Prozesse und die individuelle Autonomie untergraben können.
KI verstärkt sowohl Propaganda als auch Überwachung erheblich, indem sie Personalisierung, Skalierbarkeit und Anpassungsfähigkeit in Echtzeit ermöglicht. KI-gestützte Propaganda kann beispielsweise Botschaften gezielt an individuelle Vorlieben und Überzeugungen anpassen und dadurch deren Überzeugungskraft erhöhen.[11] Ebenso können KI-basierte Überwachungssysteme gleichzeitig sehr große Bevölkerungsgruppen beobachten sowie potenzielle Bedrohungen mit bislang unerreichter Effizienz erkennen und darauf reagieren.[12]
Der Einsatz von KI für Propaganda und Überwachung wirft ethische Bedenken auf, da dadurch die Privatsphäre ausgehöhlt, Meinungen manipuliert und demokratische Prozesse untergraben werden können. Diese Bedenken werden durch die mangelnde Transparenz von KI-Algorithmen und die Möglichkeit verzerrter Entscheidungsprozesse zusätzlich verschärft.[13]
In einem kürzlich von The Economist durchgeführten Experiment zeigte sich, dass KI-Modelle spezifische Verzerrungen aufweisen, insbesondere bei politischen Ansichten oder, allgemeiner betrachtet, weltanschaulichen Fragen. Demnach tendieren sie dazu, säkularer und liberaler zu sein als der durchschnittliche westliche Bürger. Diese Verzerrung bezieht sich naturgemäß auf „westliche KI“ im Gegensatz zu chinesischen KI-Modellen, in die eine Orientierung an sozialistischen Kernwerten eingebaut ist.[14] Dies stellt bereits heute ein wachsendes Problem für Menschen dar, die ihr Verständnis der Welt zunehmend mithilfe von KI entwickeln – insbesondere dann, wenn sie KI bei wichtigen persönlichen Lebensentscheidungen um Rat fragen, etwa hinsichtlich politischer Wahlentscheidungen oder persönlicher Lebensführung.
Dadurch entsteht eine gesellschaftliche Abhängigkeit von KI, die in Zukunft mit Sicherheit konkrete Folgen haben wird, sofern diese nicht bereits heute sichtbar sind – insbesondere kognitive Desorientierung oder im schlimmsten Fall ein kognitiver Leistungsabbau. Eine Gesellschaft, die in hohem Maße von KI abhängig ist, wird anfällig für unterschiedlichste Formen beabsichtigter wie unbeabsichtigter Manipulation.
4. Kognitiver Leistungsabbau – die schwindende Kunst des eigenständigen Denkens
„Einst überließen die Menschen ihr Denken den Maschinen, in der Hoffnung, dadurch frei zu werden. Doch damit ermöglichten sie lediglich anderen Menschen mit Maschinen, sie zu versklaven.“ Dieses berühmte Zitat stammt aus Frank Herberts Science-Fiction-Meisterwerk Dune aus dem Jahr 1965. Es dient als warnendes Beispiel für eine übermäßige Abhängigkeit von Technologie und weist darauf hin, dass die Übertragung des Denkens auf Maschinen dazu führen kann, dass sich Macht und Kontrolle konzentrieren.
Die Menschheit befindet sich heute möglicherweise an einem Wendepunkt. Anders als jede andere Technologie, die der Mensch bislang geschaffen hat, besitzt KI das Potenzial, unsere Fähigkeit zum kritischen Denken zu untergraben oder sogar zu zerstören. Meiner Ansicht nach erklären mehrere Faktoren diese beispiellose Situation. Zwei davon stechen besonders deutlich hervor.
Erstens leben wir in einer Zeit des Überflusses in nahezu allen Bereichen. Ein großer Teil der verfügbaren Informationen ist zumindest teilweise unwahr oder wird so dargestellt, dass ein falscher Eindruck entsteht – also Fehlinformation. Ein beträchtlicher Anteil ist jedoch auch faktisch falsch und fällt damit in den Bereich der Desinformation. Dies ist besonders bedeutsam in wissensbasierten Gesellschaften, in denen Information und Wissen zu einer neuen Währung der Macht geworden sind.
In seinem bemerkenswerten Buch The Third Wave, das bereits vor 46 Jahren erschien, argumentierte Alvin Toffler, dass die Industriegesellschaft auf einer eng miteinander verbundenen „Infosphäre“ aus Massenmedien, Postdiensten und Telefonen beruhte, die standardisierte Botschaften an standardisierte Bevölkerungsgruppen übermittelten.[15] Dieses System ist inzwischen überlastet. Die Vielfalt von Energiequellen, Produktionsmethoden, Familienformen und Wertvorstellungen vervielfacht die Menge an Informationen, die zirkulieren muss, damit die Gesellschaft als Ganzes funktionsfähig bleibt. Computer und Telekommunikation erzeugen deshalb eine explosionsartig anwachsende neue Infosphäre: interaktive, entmassifizierte Medien, Kommunikation zwischen Maschinen und eine „intelligente Umwelt“. Das gesellschaftliche Gedächtnis, das früher in gedruckten Werken und Archiven gewissermaßen eingefroren war, wird zugleich riesig und aktiv; Daten können nun nicht mehr nur gespeichert, sondern auch verarbeitet werden.
Dieser Wandel löst zentrale Prinzipien der „Zweiten Welle“ auf – Standardisierung, Zentralisierung und Synchronisierung. Die Massenproduktion weicht maßgeschneiderten, informationsreichen Gütern; Massenmedien zerfallen in zielgruppenspezifische, interaktive Kanäle, die den „Geist entmassen“. Macht verlagert sich von jenen, die Fabriken oder Kapital kontrollieren, hin zu jenen, die Wissen kontrollieren. Arbeit verlagert sich zunehmend in das „elektronische Zuhause“, in dem Menschen zu „Prosumenten“ werden und gleichzeitig Informationen und Güter produzieren und konsumieren.
Das Ergebnis ist nicht lediglich eine größere Datenmenge, sondern eine neue gesellschaftliche Architektur: dezentralisiert, stärker von Minderheiten geprägt, schneller und stärker fragmentiert. Toffler warnte vor einer „Blip-Kultur“ und vor Informationsüberlastung. Gleichzeitig betrachtete er die Dritte Welle als die kreativste Umstrukturierung der Geschichte – vorausgesetzt, Gesellschaften lernen, Informationen sinnvoll zusammenzuführen, anstatt in der Datenflut unterzugehen.
Die unmittelbare Folge dieses Informationsüberflusses besteht darin, dass unser Gehirn sich häufig überfordert, wenn nicht sogar orientierungslos fühlt. Anders ausgedrückt: Das menschliche Gehirn ist nicht dafür geschaffen, eine derart große Informationsmenge in so kurzer Zeit zu verarbeiten. Da es jedoch darauf ausgerichtet ist, seine Leistungsfähigkeit zu optimieren, zögert es kaum, wenn eine KI-Zusammenfassungsfunktion angeboten wird. Unterbewusst und nahezu automatisch greifen wir auf die von der KI erstellte Zusammenfassung zurück.
Der zweite Faktor, der KI-Technologie für durchschnittliche Informationskonsumenten besonders attraktiv macht – möglicherweise sogar für politische Entscheidungsträger, die ständig unter Zeitdruck arbeiten –, ist Geschwindigkeit. Wir leben in einer Zeit beispielloser Beschleunigung und damit der Unmittelbarkeit. Da unser Leben rund um die Uhr und bis auf die Sekunde bewertet wird, hat die Menschheit gelernt, keine kostbare Zeit zu verschwenden – „Zeit ist Geld“, wie uns Neoklassiker sagen. Jede Sekunde zählt. Folglich benötigen wir Antworten auf Fragen, die wir in unseren Köpfen noch nicht einmal richtig formuliert haben – und wir brauchen sie sofort; besser noch: Wir hätten sie bereits gestern gebraucht.
Dieser ständige Druck, informiert zu sein und zu allem eine Meinung zu haben, ist zwar selbst auferlegt, doch wir beugen uns ihm weitgehend unreflektiert. Wir haben uns zu Automaten entwickelt, die Informationen konsumieren und zugleich produzieren – also zu Informations-Prosumenten. KI-Technologie bietet uns als informationsproduzierenden und -konsumierenden Automaten[16] ein bislang beispielloses Werkzeug, mit dem wir unseren hektischen Alltag unter ständigem Zeitdruck und den kaum erfüllbaren Anforderungen unserer Vorgesetzten bewältigen können. Dieser Trend lässt sich nur allzu deutlich selbst in der Wissenschaft beobachten, die sich ihrem Wesen nach eigentlich durch ein langsames, gründliches und tiefgehendes Vorgehen auszeichnen sollte.
Es ist daher nur natürlich, dass wir auf KI und ihre Zusammenfassungen zurückgreifen. Anstatt Stunden damit zu verbringen, die Originalquellen zu lesen, sie kritisch zu bewerten und anschließend ein eigenes Verständnis zu entwickeln, beschränken wir uns auf eine von KI erstellte Zusammenfassung. Selbst Internetbrowser präsentieren Nutzern inzwischen häufig zunächst eine KI-Zusammenfassung, bevor sie eine Liste der Primärquellen anzeigen.
Die Auswirkungen sind bereits sichtbar – und leider äußerst negativ. Wissenschaftliche Untersuchungen lassen daran kaum Zweifel. In einer kürzlich in Computers in Human Behavior Reports veröffentlichten typischen Forschungsarbeit kommen Noorbehbahani und Oyibo zu folgendem Schluss:
„Die Übersichtsarbeit zeigt, dass eine übermäßige Abhängigkeit von KI eine erhebliche Bedrohung für höhere kognitive Fähigkeiten darstellt, insbesondere für kritisches Denken, komplexe Entscheidungsfindung und analytisches Schlussfolgern. Gleichzeitig beeinträchtigt sie Kreativität, Gedächtnis und exekutive Funktionen. Diese Auswirkungen entstehen durch gut dokumentierte Mechanismen wie die Auslagerung kognitiver Aufgaben, metakognitive Trägheit und Automatisierungsbias und werden durch die wahrgenommene Autorität und Bequemlichkeit von KI-Systemen zusätzlich verstärkt. Besonders ausgeprägt sind die Risiken bei jüngeren Lernenden, Personen mit niedrigerem Bildungsniveau sowie Fachkräften in Bereichen mit besonders weitreichenden Entscheidungen, etwa der Medizin. Dort besteht die Gefahr eines Nivellierungseffekts, der sowohl bei Anfängern als auch bei Experten zu einem Verlust von Fähigkeiten führen kann. Darüber hinaus verdeutlichen die umfassenderen gesellschaftlichen Folgen – von passivem Lernen und dem Verlust beruflicher Kompetenzen bis hin zu digitaler Ungleichheit und Gefahren für die akademische Integrität – die Notwendigkeit einer ganzheitlichen Strategie zur Risikominderung. Diese sollte Bildungsmaßnahmen, eine menschenzentrierte Gestaltung von KI und robuste politische Rahmenbedingungen miteinander verbinden, um sicherzustellen, dass KI die menschliche Kognition ergänzt, anstatt sie zu ersetzen.“[17]
Eine übermäßige Abhängigkeit von KI-generierten Inhalten ist potenziell verheerend – nicht nur, weil wir uns dadurch unserer größten Stärke und unseres wichtigsten geistigen Werkzeugs berauben: des kritischen Denkens. Hinzu kommt, dass KI selbst, wie andere Wissenschaftler kürzlich gezeigt haben, zunehmend weniger „intelligent“ werden könnte – zumindest im Fall der weitverbreiteten Large Language Models (LLMs) wie ChatGPT. Eine kürzlich in Nature veröffentlichte Studie kommt zu dem Ergebnis, dass das „undifferenzierte Lernen aus Daten, die von anderen Modellen erzeugt wurden, zu einem ‚Modellkollaps‘ führt – einem degenerativen Prozess, bei dem Modelle im Laufe der Zeit die tatsächliche zugrunde liegende Datenverteilung vergessen, selbst wenn sich diese Verteilung im Zeitverlauf nicht verändert.“[18]
Anders ausgedrückt: Da ein wachsender Teil der online verfügbaren Informationen von KI erzeugt wurde – vor allem von LLMs wie GPT-3 –, werden diese Modelle zunehmend mit Informationen trainiert, die bereits zuvor von KI produziert wurden. Dieser Effekt kann zu einem Rückgang der Qualität und möglicherweise sogar zu einem zukünftigen allgemeinen Kollaps von KI-Modellen führen.[19]
Einfach und schonungslos formuliert: Anders als jede andere Technologie besitzt KI das Potenzial, die Menschheit über Generationen hinweg geistig abstumpfen zu lassen.
5. KI-Unternehmen: Nichtstaatliche Akteure, die Information und Macht privatisieren
KI-Entwickler sind überwiegend private Unternehmen. Im Folgenden findet der Leser eine Übersicht über diese Unternehmen, ihre Herkunft sowie ihre wichtigsten Produkte.
* Erstellt von Grok am 29.09.2026. Prompt: Major companies are developing AI.
Ein konkretes Beispiel ist oft anschaulicher als eine lange theoretische Erklärung. Betrachten wir daher eines dieser Unternehmen: Anthropic. Anthropic ist ein 2021 von ehemaligen OpenAI-Forschern, darunter die Geschwister Dario und Daniela Amodei, gegründetes KI-Unternehmen mit Sitz in San Francisco. Das Unternehmen entwickelt die Familie der Large Language Models Claude sowie damit verbundene Werkzeuge wie Claude Code und betont öffentlich insbesondere Sicherheit, Interpretierbarkeit und Systeme, die sich leichter steuern lassen. Unternehmen nutzen seine Modelle unter anderem für das Verfassen von Texten, Analysen, Programmierung und agentenbasierte Arbeitsprozesse. Die Modelle sind sowohl über die eigenen Produkte von Anthropic als auch über große Cloud-Plattformen wie Amazon und Google verfügbar.
Das Unternehmen befindet sich in Privatbesitz und hat sich zu einem der wertvollsten KI-Labore der Welt entwickelt. Es konnte große Finanzierungsrunden mit Investoren wie Amazon und Google abschließen. Anthropic konkurriert bei der Entwicklung besonders leistungsfähiger KI-Modelle unmittelbar mit OpenAI, Google DeepMind und anderen Unternehmen und vertritt zugleich die Auffassung, dass fortgeschrittene KI mit stärkeren Sicherheitsvorkehrungen entwickelt werden sollte, als es das derzeitige Entwicklungstempo der Branche üblicherweise vorsieht. Nach eigener Darstellung bleibt Anthropic auch 2026 ein unabhängiges Unternehmen und ist keine Abteilung eines großen Technologiekonzerns, obwohl solche Plattformunternehmen zugleich in Anthropic investieren und dessen Modelle vertreiben.[20]
Anthropic lässt sich wahrscheinlich treffender als Anbieter hochentwickelter KI-Modelle für das US-Verteidigungsministerium (Department of Defense, DoD) beschreiben denn als klassischer Hauptauftragnehmer wie Lockheed Martin oder Raytheon. Im Juli 2025 vergab das Chief Digital and Artificial Intelligence Office des DoD an Anthropic, Google, OpenAI und xAI jeweils Prototypenvereinbarungen mit einem Höchstwert von 200 Millionen US-Dollar, um „agentische KI-Workflows“ für Aufgaben im Bereich der nationalen Sicherheit zu entwickeln.[21] Anthropic stellte Claude zudem über Palantir und Partner für klassifizierte Cloud-Infrastrukturen bereit und wurde damit zum ersten Entwickler von Frontier-Modellen, dessen Systeme in geheim eingestuften Netzwerken eingesetzt wurden. Darüber hinaus entwickelte das Unternehmen maßgeschneiderte „Claude Gov“-Modelle für nachrichtendienstliche Analysen, Planung, Cyberoperationen und Simulationen.[22]
Diese Einsätze waren Teil einer umfassenderen Hinwendung des Pentagons zu kommerziellen Large Language Models für die Entscheidungsunterstützung. Dazu gehörten unter anderem Analysen im Zusammenhang mit Project Maven sowie das Hosting von Claude auf IL-6-Infrastrukturen über Amazon Web Services und Palantir.[24] IL-6 ist ein spezieller Sicherheitsstandard des US-Verteidigungsministeriums (DoD), der durch den Cloud Computing Security Requirements Guide (SRG) der Defense Information Systems Agency (DISA) geregelt wird und die Speicherung sowie Verarbeitung klassifizierter Informationen zur nationalen Sicherheit bis zur Geheimhaltungsstufe Secret ermöglicht.[23]
Aus Gerichtserklärungen geht hervor, dass die Defense Counterintelligence and Security Agency Anthropic eine Sicherheitsfreigabe für Einrichtungen der Geheimhaltungsstufe Top Secret erteilte. Zudem wurde Claude für FedRAMP (Federal Risk and Authorization Management Program) zugelassen – ein regierungsweites US-Programm, das einen standardisierten Ansatz für Sicherheitsbewertung, Autorisierung und kontinuierliche Überwachung von Cloud-Produkten und -Diensten bereitstellt.[25] Darüber hinaus erhielt Claude Zulassungen für die DoD Impact Levels 4 und 5.[26] Auftragnehmer nutzten Claude Gov als Teilkomponente größerer Verteidigungssysteme. In diesem Sinne fungierte Anthropic eher als Unterauftragnehmer denn als Hauptauftragnehmer für Waffensysteme.[27]
Anfang 2026 zerbrach diese Zusammenarbeit. Anthropic erklärte sich zwar bereit, militärische Anwendungen zu unterstützen, lehnte jedoch die Forderung nach einer Freigabe für „alle rechtmäßigen Nutzungsformen“ ab. Das Unternehmen schloss insbesondere den Einsatz für umfassende Überwachung der eigenen Bevölkerung sowie für vollständig autonome tödliche Waffensysteme aus und verwies dabei auf die Grenzen der Zuverlässigkeit seiner Systeme.[28]
In jüngster Zeit ist viel über die Bedeutung der KI-Entwicklung für militärische Zwecke veröffentlicht worden. Man kann sagen, dass Unternehmen wie Anthropic zu wichtigen Akteuren des neuen militärisch-industriellen Komplexes geworden sind. Damit fügt sich ihre Rolle nahtlos in ein größeres Phänomen ein, das Fachleute als Privatisierung von Sicherheit, Verteidigung und Krieg bezeichnen.
Die Privatisierung des Krieges[29] ist aus mehreren Gründen von Bedeutung. Drei davon sind besonders hervorzuheben. Erstens kommt es zu einer Aushöhlung des staatlichen Gewaltmonopols: Der Einsatz privater Auftragnehmer schwächt den exklusiven rechtlichen Anspruch des Staates auf die Anwendung von Gewalt. Zweitens entstehen Lücken bei der Rechenschaftspflicht: Private Auftragnehmer bewegen sich häufig in regulatorischen Grauzonen, was die strafrechtliche Verfolgung bei Missbrauch oder Rechtsverletzungen erschwert. Drittens kommt es zu verschwimmenden Grenzen: Private Auftragnehmer erschweren die Anwendung des humanitären Völkerrechts, da ihr Status je nach konkreter Tätigkeit zwischen dem geschützter Zivilpersonen und dem von Kombattanten wechseln kann.[30]
In Verbindung mit dem von Carl von Clausewitz in seinem grundlegenden Werk Vom Kriege beschriebenen Phänomen des „Nebel des Krieges“ bieten KI-Unternehmen eine Lösung für ein Problem, zu dessen Entstehung KI zugleich selbst beiträgt: den Überfluss an Informationen.
Die eigentliche Herausforderung liegt jedoch in der grundlegenden Frage nach der Legitimität organisierter Gewalt und sicherheitspolitischer Entscheidungen. Diese Bereiche waren traditionell Staaten vorbehalten, die öffentliche Interessen vertreten und auf die Verwirklichung gesellschaftlicher Ziele ausgerichtet sind – und nicht auf die private Maximierung wirtschaftlicher und politischer Gewinne.
Schlussfolgerung
Diese Arbeit – der zweite Teil einer Reihe – vertritt die These, dass künstliche Intelligenz (KI) nicht einfach nur eine weitere Technologie ist, sondern eine transformative Kraft mit einzigartigen und tiefgreifenden Auswirkungen. Sie hebt insbesondere das beispiellose Manipulationspotenzial von KI hervor, das sich durch hochgradig personalisierte Propaganda und Überwachung entfalten kann und erhebliche ethische Fragen im Hinblick auf Privatsphäre und die Integrität demokratischer Prozesse aufwirft.
Die Studie warnt zudem vor einem möglichen kognitiven Leistungsabbau infolge einer übermäßigen Abhängigkeit von KI. Diese kann kritisches Denken und intellektuelle Autonomie untergraben und langfristig zu gesellschaftlicher Desorientierung und geistigem Verfall führen.
Darüber hinaus befasst sich die Arbeit mit der beispiellosen Konzentration von Macht in den Händen privater KI-Unternehmen, beispielhaft dargestellt durch Firmen wie Anthropic. Gerade im militärischen Bereich verwischen solche Unternehmen zunehmend die Grenzen zwischen staatlichen und privaten Interessen. Diese Privatisierung von Wissen und Macht stellt traditionelle Vorstellungen staatlicher Souveränität und Rechenschaftspflicht in Fragen von Sicherheit und Krieg infrage.
Letztlich plädiert diese Studie dafür, die gesellschaftlichen Auswirkungen von KI sorgfältig zu prüfen und Strategien zu entwickeln, die ihre Risiken begrenzen, ohne auf ihre Vorteile zu verzichten. Ohne kritische Reflexion und angemessene Regulierung droht KI, die kognitiven Fähigkeiten der Menschheit und die politische Ordnung in einer Weise umzugestalten, wie es sie bislang noch nicht gegeben hat.
Referenzen
