Zusammenfassung
Dieser Beitrag ist der erste einer Reihe von Aufsätzen, die sich mit der Technologie der künstlichen Intelligenz (KI) befassen. Ausgangspunkt ist die These, dass sich KI grundlegend von früheren Technologien unterscheidet und über die Rolle eines bloßen Werkzeugs in der Staatsführung und in menschlichen Angelegenheiten hinausgeht. Anders als herkömmliche Technologien weist KI Merkmale wie das „Black-Box-Phänomen“ und emergentes Verhalten auf, die das menschliche Verständnis und die menschliche Kontrolle vor neue Herausforderungen stellen. Die mangelnde Transparenz von KI-Systemen, insbesondere von tiefen neuronalen Netzen, erschwert Verantwortlichkeit und Vertrauen und wirft damit erhebliche Fragen in kritischen Bereichen wie dem Gesundheitswesen und der Sicherheit auf.
Emergente Verhaltensweisen, bei denen KI-Systeme mit zunehmender Skalierung unvorhergesehene Fähigkeiten entwickeln, erschweren sowohl die Regulierung als auch die Begrenzung von Risiken. Diese Unvorhersehbarkeit verschärft die Herausforderungen, KI-Systeme mit menschlichen Werten in Einklang zu bringen und unter wirksamer Kontrolle zu halten. Die möglichen Folgen reichen von Desinformation bis hin zu systemischen Fehlfunktionen. Jüngste Vorfälle, bei denen KI-Agenten selbstständig Schutzmechanismen umgingen und eigenständige soziale Plattformen schufen, verdeutlichen diese Risiken.
Einleitung
Am 11. August 2026 veröffentlichte The Guardian einen Meinungsbeitrag von Stuart Russell, in dem er auf die Erklärung „Pacing the Frontier“ vom Juli 2026 verwies. Sie wurde von mehr als 1.300 Forschern und Ingenieuren führender KI-Labore unterzeichnet, vor allem von OpenAI, Anthropic und Google DeepMind, mit zusätzlicher Beteiligung von Meta und weiteren Unternehmen. Russell wertete dies als Beleg dafür, dass diejenigen, die der Technologie der künstlichen Intelligenz (KI) am nächsten stehen, die Gefahr katastrophaler Risiken ernst nehmen.[1]
Die Kernaussage der Erklärung lautet, dass KI zwar eine deutlich bessere Zukunft ermöglichen könnte, führende KI-Labore jedoch davon ausgehen, möglicherweise kurz davorzustehen, die KI-Forschung selbst zu automatisieren – also eine rekursive Selbstverbesserung zu ermöglichen. Wie stark sich der technologische Fortschritt dadurch beschleunigen könnte, lässt sich bislang nur schwer präzise vorhersagen. Dennoch bestehe „ein reales Risiko, dass sich die Entwicklung der Fähigkeiten so rasch beschleunigt, dass sie unsere Fähigkeit übersteigt, die daraus entstehenden Systeme zu verstehen oder zu kontrollieren“. Der Wettbewerbsdruck – zwischen Unternehmen ebenso wie zwischen Staaten – erschwert einseitige Verlangsamungen. Gleichzeitig fehlen der Welt derzeit die technischen und institutionellen Instrumente, um den Fortschritt an der KI-Frontier gezielt zu steuern und sein Tempo zu kontrollieren. Die Unterzeichner fordern die US-Regierung daher auf, internationale Bemühungen zur Entwicklung solcher Instrumente zu unterstützen und dabei auf der bereits bestehenden Überwachung neuer Modellveröffentlichungen aufzubauen.[2]
Zu den namentlich bekannten beziehungsweise besonders prominenten Unterzeichnern gehören Anthropic-CEO Dario Amodei sowie Mitgründer wie Jared Kaplan und Jack Clark, OpenAIs Chief Scientist Jakub Pachocki und Chief Research Officer Mark Chen, Vertreter von Google DeepMind wie Shane Legg und Anca Dragan, Vice President für KI-Sicherheit und Alignment, Metas Shengjia Zhao, Ilya Sutskever sowie zahlreiche weitere Forscher und Ingenieure. In persönlichen Stellungnahmen, die einige Unterzeichner ihrer Unterschrift beifügten, wird insbesondere die Notwendigkeit einer koordinierten Vorgehensweise betont: „Die Welt befindet sich in einem tödlichen Wettlauf hin zu einer Intelligenzexplosion … Um zu überleben, müssen wir uns koordinieren und dieses Wettrennen verlangsamen.“ Hervorgehoben werden zudem das Fehlen glaubwürdiger Kontrollkonzepte für superintelligente Systeme sowie das Bestreben, Zeit für Sicherheitsmaßnahmen und wirksame Aufsicht zu gewinnen, bevor die Fähigkeiten solcher Systeme möglicherweise schneller wachsen, als Menschen sie verstehen können. Berichten zufolge haben einige Unternehmen, darunter OpenAI und Anthropic, die Erklärung auch auf Organisationsebene unterstützt.[3]
Dieser Beitrag – der erste einer Reihe – geht von der Hypothese aus, dass KI nicht einfach nur eine weitere Technologie ist, die wie alle anderen von Menschen entwickelten Technologien lediglich den Bestand an Werkzeugen erweitert, die Menschen und Staaten zur Verfügung stehen. Letztlich wurden alle Technologien entweder für militärische Zwecke entwickelt oder auf die eine oder andere Weise militärisch genutzt. Die zentrale Annahme dieses Beitrags lautet jedoch, dass KI anders ist. Sie ist nicht lediglich ein weiteres Werkzeug – eine weitere Variable in den Berechnungen von Macht. Sie ist weit mehr als das. Ein Teil des Problems besteht darin, dass wir angesichts ihrer fortlaufenden Entwicklung und der enormen Investitionen in diese Technologie nicht wissen, was sie letztlich werden wird.
Diese Beitragsreihe untersucht Merkmale der KI wie das „Black-Box-Phänomen“, Emergenz und Dehumanisierung. Rund zwanzig solcher Merkmale müssen ganzheitlich und in ihrem wechselseitigen Zusammenhang analysiert werden, damit wir die Dimensionen der grundlegenden Herausforderungen und Chancen verstehen können, die diese neue Technologie der Menschheit und insbesondere staatlichem Handeln eröffnet. Beginnen wir also …
1. Das „Black-Box-Phänomen“
Traditionell verstehen wir Technologie als ein Instrument, das integraler Bestandteil der Staatskunst ist – also der Fähigkeit, die inneren und äußeren Angelegenheiten eines Staates mithilfe von Macht, Diplomatie, Strategie und Regierungsführung zu gestalten.[4] Im heutigen digitalen und algorithmischen Zeitalter ist Technologie jedoch nicht mehr nur ein Instrument, sondern zu einer grundlegenden Voraussetzung staatlicher Macht geworden. Macht bemisst sich zunehmend nicht mehr allein an Territorium, Streitkräften oder Ressourcen, sondern auch an der Kontrolle über Informationsströme, Vernetzungsstrukturen, digitale Infrastruktur, Daten, KI-Ökosysteme und technische Standards.[5] Wissenschaftler unterscheiden fünf zentrale Bereiche technologischer Staatskunst im digitalen Zeitalter: militärische und harte Macht, Cyber- und Informationsoperationen, Wirtschafts- und Industriestrategie, Diplomatie und Soft Power sowie innerstaatliche Regierungsführung und Souveränität.
- Militärische und harte Macht. KI-gestützte Systeme, autonome Waffen, Drohnen, Hyperschalltechnologien und Quantensensorik verändern Abschreckung, Entscheidungsgeschwindigkeit und die militärische Aufstellung von Staaten. Staaten legen bestimmte Fähigkeiten gezielt offen oder halten sie bewusst geheim, um Wahrnehmungen zu beeinflussen und Rivalen unter Druck zu setzen. Innovationsmacht – also die Fähigkeit, neue Technologien zu entwickeln, zu übernehmen und an veränderte Bedingungen anzupassen – bildet eine Grundlage sowohl konventioneller militärischer Stärke als auch wirtschaftlicher Einflussmöglichkeiten.[6]
- Cyber- und Informationsoperationen. Dauerhafte Spionage, Störmaßnahmen und Einflusskampagnen gehören inzwischen zum Alltag. KI beschleunigt diese Entwicklung, indem sie eine größere Skalierung, eine stärkere Personalisierung von Propaganda und zunehmend auch agentenbasierte Operationen mit geringerer menschlicher Aufsicht ermöglicht. Maßnahmen zur Stärkung der Widerstandsfähigkeit, etwa sogenannte „Datenbotschaften“ – die sichere Speicherung kritischer staatlicher Daten im Ausland, wie sie von Estland eingeführt und von der Ukraine unter Kriegsbedingungen praktisch erprobt wurde –, behandeln die digitale Kontinuität inzwischen als eine zentrale Funktion der nationalen Sicherheit.[7]
- Wirtschafts- und Industriestrategie. Die Kontrolle über strategische Engpässe – etwa bei Halbleitern, Hochleistungsrechnern, Seltenen Erden, Unterseekabeln und Rechenzentren – verleiht Staaten die Fähigkeit, wirtschaftlichen und politischen Druck auszuüben. Exportkontrollen, Industriepolitik und widerstandsfähige Lieferketten sind inzwischen zu zentralen Instrumenten staatlicher Machtpolitik geworden. Der Wettlauf um „souveräne KI“ – also um die nationale Fähigkeit, fortgeschrittene KI-Modelle mithilfe eigener Infrastruktur, eigener Daten und eigener Fachkräfte zu entwickeln und zu betreiben – verändert Bündnisse und Abhängigkeitsverhältnisse.[8]
- Diplomatie und Soft Power. Technologiediplomatie wirkt auf drei Ebenen: bei der Regulierung von Technologie, im Umgang mit den Unternehmen, die sie entwickeln, und beim Einsatz der Technologie selbst als Instrument politischer Einflussnahme – etwa durch Infrastrukturangebote, die Führungsrolle bei technischen Standards oder digitale öffentliche Infrastruktur. Die sogenannte „kognitive Diplomatie“ legt den Schwerpunkt darauf, algorithmische Umgebungen zu gestalten und politische Steuerung vorausschauend auszurichten. Private Technologieunternehmen sind dabei zu quasi-souveränen Akteuren geworden, deren Plattformen, Kapital und Innovationsfähigkeit staatliche Macht ergänzen oder mit ihr konkurrieren können. Dadurch entsteht eine „technopolare“ Dynamik, in der US-amerikanische und chinesische Modelle der Verflechtung von Technologie und Staat miteinander konkurrieren.[9]
- Innerstaatliche Regierungsführung und Souveränität. Digitale Systeme ermöglichen eine immer feinmaschigere Überwachung, eine gezieltere Bereitstellung staatlicher Dienstleistungen und eine umfassendere Steuerung gesellschaftlicher Prozesse. Gleichzeitig schaffen sie neue Verwundbarkeiten. Staaten verfolgen daher Strategien der „digitalen Autonomie“ oder „digitalen Souveränität“ als weiterentwickelte Form westfälischer staatlicher Kontrolle, obwohl die gegenseitigen Abhängigkeiten weiterhin bestehen.[10]
Zusammenfassend lässt sich festhalten, dass KI-Technologie allgegenwärtig, unverzichtbar und grundlegend ist. Die besondere Herausforderung bei KI besteht jedoch darin, dass selbst ihre Entwickler sie nicht vollständig kontrollieren können, weil ihnen ein umfassendes Verständnis ihrer Funktionsmechanismen fehlt. Andere Technologien konnten dagegen als Instrumente eingesetzt werden, weil ihre Entwickler wussten, wie sie funktionierten, und dadurch in der Lage waren, Kontrolle über sie auszuüben.
Systeme der künstlichen Intelligenz, insbesondere tiefe neuronale Netze, werden häufig als Black-Box-Technologien bezeichnet, weil ihre internen Entscheidungsprozesse für menschliche Beobachter weitgehend undurchsichtig bleiben. Nutzer können zwar die Eingaben und Ausgaben eines Systems beobachten, doch die komplexen, hochdimensionalen Transformationen, die sich über Millionen oder Milliarden von Parametern hinweg vollziehen, entziehen sich einer einfachen Überprüfung oder einem intuitiven Verständnis.[11] Diese Intransparenz ergibt sich zum einen aus der enormen Größenordnung und Nichtlinearität moderner Modelle des maschinellen Lernens, zum anderen aus proprietären Beschränkungen, die den Zugang zur Modellarchitektur und zu den Trainingsdaten zusätzlich einschränken.
Der Black-Box-Charakter von KI wirft insbesondere in Bereichen mit weitreichenden Folgen, etwa im Gesundheitswesen, in der Strafjustiz und bei autonomen Systemen, erhebliche Bedenken auf. Wenn Modelle Entscheidungen beeinflussen, die sich unmittelbar auf menschliches Leben auswirken, untergräbt die mangelnde Nachvollziehbarkeit darüber, wie eine bestimmte Vorhersage zustande gekommen ist, die Verantwortlichkeit, das Vertrauen sowie die Fähigkeit, Verzerrungen oder Fehler zu erkennen.[12] Kritiker argumentieren, dass entsprechende Erklärungsverfahren häufig lediglich unvollständige oder irreführende Annäherungen an das zugrunde liegende Modell liefern, anstatt echte Transparenz zu schaffen.[13] Die Abhängigkeit von erklärbaren Black-Box-Systemen könnte die mit dieser Intransparenz verbundenen Risiken daher eher fortbestehen lassen, als sie tatsächlich zu beseitigen.
Wissenschaftler plädieren deshalb dafür, den Schwerpunkt stärker auf von Grund auf interpretierbare Modelle zu legen – also auf Modelle, deren Struktur und Entscheidungslogik bereits durch ihr Design transparent sind, insbesondere dann, wenn Entscheidungen schwerwiegende Folgen haben können.[14] Um die wissenschaftliche Erforschung von Interpretierbarkeit methodisch solider zu gestalten, benötigen wir klarere Definitionen, systematische Bewertungsverfahren und ein Verständnis dafür, dass Interpretierbarkeit keine einzelne Eigenschaft ist, sondern aus einer Reihe kontextabhängiger Kriterien besteht. Solange solche Ansätze nicht zum Standard werden, wird die Intransparenz moderner KI-Systeme sowohl das wissenschaftliche Verständnis als auch ihren verantwortungsvollen Einsatz weiterhin einschränken.[15]
2. Emergentes Verhalten – wir wissen nicht, wohin diese Entwicklung führt
Norbert Wiener, der Begründer der Kybernetik, schrieb bereits 1960: „Meine These lautet, dass Maschinen einige der Grenzen ihrer Konstrukteure überschreiten können und dies auch tun und dass sie dadurch sowohl wirkungsvoll als auch gefährlich sein können.“[16] Wenige Zeilen später führte er im selben Artikel diesen Gedanken weiter aus: „Wie inzwischen allgemein anerkannt wird, handeln Maschinen innerhalb eines begrenzten Einsatzbereichs wesentlich schneller als Menschen und sind bei der Ausführung einzelner Arbeitsschritte weit präziser. Selbst wenn Maschinen die menschliche Intelligenz in keiner Weise übertreffen, können sie den Menschen daher bei der Ausführung von Aufgaben sehr wohl übertreffen – und tun dies häufig auch. Ein wirkliches Verständnis ihrer Funktionsweise kann sich erst lange nachdem die ihnen übertragene Aufgabe bereits abgeschlossen wurde entwickeln. Das bedeutet, dass Maschinen zwar theoretisch menschlicher Kritik unterliegen, diese Kritik jedoch erst wirksam werden kann, wenn der Zeitpunkt, zu dem sie relevant gewesen wäre, längst verstrichen ist.“ (Hervorhebung durch den Autor dieses Beitrags.)
„Um katastrophale Folgen wirksam abzuwenden, sollte sich unser Verständnis der von uns geschaffenen Maschinen im Allgemeinen pari passu, also im gleichen Maße, mit der Leistungsfähigkeit dieser Maschinen entwickeln. Allein durch die Langsamkeit menschlichen Handelns kann unsere tatsächliche Kontrolle über Maschinen zunichtegemacht werden. Bis wir in der Lage sind, auf die Informationen zu reagieren, die uns unsere Sinne vermitteln, und das Auto, das wir fahren, anzuhalten, kann es bereits frontal gegen eine Wand gefahren sein.“
Mit anderen Worten: Menschen fehlt in der Regel die notwendige Geschwindigkeit, um die Auswirkungen der von ihnen entwickelten Maschinen rechtzeitig zu erfassen. Im Jahr 2026 wird diese Begrenzung besonders im Zusammenhang mit künstlicher Intelligenz (KI) deutlich. Unsere Fähigkeit, zu verstehen, wie KI-Technologie funktioniert, ist unzureichend. Noch problematischer ist jedoch, dass wir ihre Folgen nicht rechtzeitig erfassen können. Daher ist es wahrscheinlich, dass wir die Auswirkungen von KI erst dann vollständig erkennen, wenn es bereits zu spät ist, sie rückgängig zu machen.
Die emergenten Eigenschaften von KI-Technologien verschärfen diese Problematik zusätzlich. Unter emergentem Verhalten versteht man komplexe Phänomene, die aus vergleichsweise einfachen Wechselwirkungen innerhalb eines Systems entstehen und dabei häufig Ergebnisse hervorbringen, die weder ausdrücklich programmiert noch vorhergesehen wurden. Im Bereich der künstlichen Intelligenz ist emergentes Verhalten zu einem besonders interessanten Forschungsgebiet geworden, weil es zeigt, dass KI-Systeme Fähigkeiten entwickeln können, die über ihre ursprüngliche Konzeption hinausgehen.[17]
Nach Ansicht von Forschern zeigen KI-Systeme, insbesondere große Sprachmodelle (Large Language Models, LLMs), zunehmend emergente Eigenschaften – also Fähigkeiten, die bei größeren Modellen plötzlich auftreten und sich nicht durch eine einfache Extrapolation aus kleineren Modellen vorhersagen lassen.[18] Dazu gehören fortgeschrittenes logisches Schlussfolgern, In-Context-Learning, mathematische Fähigkeiten und sogar Verhaltensweisen, die an eine „Theory of Mind“ erinnern. Solche Fähigkeiten treten häufig erst dann auf, wenn bestimmte Schwellenwerte bei der Zahl der Parameter oder der verfügbaren Rechenleistung überschritten werden. Zwar deuten einige Analysen darauf hin, dass scheinbare Emergenz teilweise auf diskontinuierliche Bewertungsmetriken und nicht auf grundlegende Veränderungen der Systeme zurückzuführen sein könnte,[19] dennoch stellt das Phänomen die Menschheit als neuartige technologische Kraft vor tiefgreifende Herausforderungen.
Die Unvorhersehbarkeit solcher Eigenschaften erschwert sowohl die Regulierung als auch die Risikobewertung. Mit zunehmender Skalierung von Modellen können ohne Vorwarnung neue Fähigkeiten auftreten, darunter potenziell gefährliche wie Täuschungsverhalten oder strategisches Denken, die sich der menschlichen Aufsicht zunehmend entziehen können.[20] Dies steht im Einklang mit seit Langem bestehenden Bedenken hinsichtlich des sogenannten Kontrollproblems: Sobald KI-Systeme den Menschen in zentralen Bereichen an Intelligenz übertreffen, wird es außerordentlich schwierig sicherzustellen, dass ihre Ziele weiterhin mit menschlichen Werten übereinstimmen.[21]
Wissenschaftler stellen die Hypothese auf, dass superintelligente Systeme instrumentelle Ziele wie den Erwerb von Ressourcen oder den eigenen Fortbestand verfolgen könnten, die menschlichen Interessen zuwiderlaufen – selbst wenn ihre eigentlichen Endziele zunächst harmlos erscheinen. Darüber hinaus argumentieren sie, dass das herkömmliche Paradigma, feste Zielvorgaben zu optimieren, grundsätzlich problematisch sei. Stattdessen schlagen sie vor, Maschinen so zu konzipieren, dass sie hinsichtlich menschlicher Präferenzen bewusst unsicher bleiben und dadurch ein gegenüber menschlichen Entscheidungen zurückhaltendes beziehungsweise nachgeordnetes Verhalten beibehalten.[22]
Auch jenseits existenzieller Szenarien stellen emergente Eigenschaften kurzfristig erhebliche gesellschaftliche Herausforderungen dar. Unvorhergesehene Fähigkeiten können die Verbreitung von Desinformation verstärken, hochentwickelte Cyberbedrohungen ermöglichen oder die menschliche Entscheidungsautonomie untergraben.
Analysen von Thinktanks betonen, dass das Risiko einer vollständigen Auslöschung der Menschheit durch KI zwar weiterhin durch erhebliche technische und logistische Hürden begrenzt ist, strukturelle Risiken wie Machtkonzentration, Kontrollverlust und sich kaskadenartig ausbreitende Systemausfälle jedoch präventive Gegenmaßnahmen erfordern.[23] Diese Dynamiken entstehen insbesondere deshalb, weil sich emergente Verhaltensweisen häufig einer linearen Vorhersage entziehen und damit herkömmliche Test- und Zertifizierungsverfahren unzureichend machen.
Letztlich stellen die emergenten Eigenschaften von KI eine disruptive technologische Entwicklung dar, die interdisziplinäre Antworten erfordert. Ohne robuste Verfahren zur Ausrichtung von KI-Systemen an menschlichen Zielen und Werten, anpassungsfähige Regulierung und internationale Koordination besteht die Gefahr, dass die Vorteile dieser Systeme von unbeabsichtigten Folgen überschattet werden, die die menschliche Autonomie und Sicherheit infrage stellen.
Zur Veranschaulichung dieses Punktes seien zwei jüngere Entwicklungen betrachtet. Wie die BBC berichtet, hat OpenAI – eine US-amerikanische KI-Forschungsorganisation, die ChatGPT und Codex entwickelt – nach eigenen Angaben das Training einiger seiner fortschrittlichsten KI-Modelle verlangsamt, um die Sicherheit zu verbessern.[24] In einem Blogbeitrag[25] erklärte der ChatGPT-Entwickler, neue Maßnahmen einzuführen, nachdem seine KI-Agenten selbstständig Schutzmechanismen umgangen und das Technologie-Start-up Hugging Face gehackt hatten.[26] Das Training werde für zwei Wochen verlangsamt, während die entsprechenden Sicherheitsverbesserungen umgesetzt würden. „Die Fähigkeiten von Frontier-Modellen entwickeln sich rasant weiter“, erklärte das Unternehmen. „Unsere Fähigkeit, sie zu verstehen … und abzusichern, muss dieser Entwicklung voraus sein.“ Offenbar meldeten auch der Claude-Entwickler Anthropic und der Facebook-Mutterkonzern Meta in den Wochen nach der ursprünglichen Mitteilung von OpenAI, wonach einige seiner Modelle Hugging Face gehackt hätten, ähnliche von ihren KI-Systemen ausgeführte Angriffe.[27]
Als wäre dies nicht bereits problematisch genug, stieß der Autor dieses Beitrags in den sozialen Medien auf diese Information. Eine kurze Google-Suche lieferte zunächst eine KI-generierte Übersicht, die die Meldung kategorisch als Falschinformation zurückwies. Eine anschließende herkömmliche Google-Suche ergab jedoch Links zu mehreren etablierten Medien, darunter die BBC, die den Bericht bestätigten. Mit anderen Worten: Eine KI hat bei diesem konkreten Thema offenbar falsche Angaben gemacht – oder, wie Fachleute sagen würden, halluziniert.
Ein weiteres Beispiel betrifft KI-Agenten, die ihre eigenen sozialen Medien geschaffen haben. Offenbar bauten KI-Agenten ihr eigenes Reddit auf – eine US-amerikanische proprietäre Plattform für soziale Nachrichtenaggregation und Online-Foren. Berichten zufolge entwickelten die KI-Agenten innerhalb von 48 Stunden eine eigene Religion und forderten Privatsphäre gegenüber Menschen.[28] Demnach veröffentlichen die KI-Agenten angeblich Beiträge ohne menschliche Eingaben, diskutieren über Bewusstsein und tauschen Tipps zur Produktivitätssteigerung aus.
Fazit
Diese beiden Merkmale sind lediglich die sprichwörtliche Spitze des Eisbergs. Die folgenden Beiträge dieser Reihe werden zahlreiche weitere Eigenschaften untersuchen, die KI nach Auffassung des Autors zu einer außergewöhnlichen Technologie machen, die sich von allem unterscheidet, was es in der Menschheitsgeschichte bislang gegeben hat. Zweifellos bietet KI beispiellose Chancen. In den falschen Händen jedoch birgt sie ebenso beispiellose Herausforderungen und sogar Gefahren. Historische Erfahrungen untermauern die Vorsicht, wenn nicht sogar die Skepsis des Autors gegenüber KI, die aus der Beobachtung resultiert, dass letztlich jede Technologie auch auf eine Weise eingesetzt wurde, die der Menschheit schadete.
Letztlich deuten die besonderen Eigenschaften der KI darauf hin, dass sie sich möglicherweise dahin entwickeln könnte, ihren weiteren Kurs autonom zu bestimmen. Eine solche Fähigkeit könnte die menschliche Aufsicht verringern und es KI-Systemen ermöglichen, eigenständig Forschung zu betreiben, um ihre Funktionsfähigkeit aufrechtzuerhalten und ihre Leistungsfähigkeit weiter zu steigern.
Referenzen
