Alarmierende Entwicklung der KI – Hat sie sich schon verselbständigt?

Matt Shumer, Mitbegründer und CEO von OthersideAI, einem Unternehmen für angewandte KI ¹, ist höchst alarmiert. In einem Artikel vom 9.2.2026 „Etwas Großes geschieht“ ², macht er darauf aufmerksam, dass die immer schneller besser werdenden KI-Programme bereits einen Stand erreicht hätten, der von der breiten Öffentlichkeit unterschätzt werde. Die neuesten Versionen führten nicht mehr nur Anweisungen aus, sondern träfen bereits selbst intelligente Entscheidungen. Es sei keine schrittweise Verbesserung, sondern etwas völlig anderes. – Ich kann das nicht beurteilen, aber ich halte es für wichtig, solche alarmierenden Wahrnehmungen eines Experten bekannt zu machen, damit man die Entwicklung aufmerksam verfolgen kann; denn sie wird sowieso schon ungeheure Folgen haben.

Matt Shumer (edition.cnn.com)

Der noch junge Matt Shumer schreibt in dem Artikel über sich, er habe sechs Jahre damit verbracht, ein KI-Startup aufzubauen und in diesem Bereich zu investieren. Er lebe in dieser Welt. Doch auch wenn er im KI-Bereich arbeite, habe er fast keinen Einfluss auf das, was jetzt geschehen werde und die überwältigende Mehrheit der Branche ebenso wenig. Die Zukunft werde von einer bemerkenswert kleinen Zahl von Menschen gestaltet: von ein paar hundert Forschern bei einer Handvoll Unternehmen … OpenAI, Anthropic, Google DeepMind und einige andere. Die meisten, die im KI-Bereich arbeiten, bauten auf Fundamenten auf, die sie nicht selbst gelegt hätten. Sie beobachteten das genauso wie alle anderen, „wir stehen nur nah genug dran, um zuerst zu spüren, wie der Boden bebt.“

Immer schnellere Entwicklung der KI

Über Jahre hinweg habe sich die KI stetig verbessert, hier und da große Sprünge gemacht, aber sie hätten weit genug auseinander gelegen, dass man sie habe verkraften können. Dann, im Jahr 2025, hätten neue Techniken beim Bau dieser Modelle ein viel schnelleres Tempo des Fortschritts ermöglicht. Und dann sei es noch schneller gegangen. Jedes neue Modell sei nicht nur besser als das vorherige, es sei mit größerem Abstand besser, und die Zeit zwischen den Veröffentlichungen sei immer kürzer geworden.
„Ich nutzte die KI immer häufiger und musste immer seltener nachbessern, während ich zusah, wie sie Dinge erledigte, von denen ich früher dachte, dass sie mein Fachwissen erfordern würden.“ (Hier und im Folgenden mit Deepl.com übersetzt, hl)

Dann, am 5. Februar, hätten zwei große KI-Labore am selben Tag neue Modelle veröffentlicht: GPT-5.3 Codex von OpenAI und Opus 4.6 von Anthropic (den Machern von Claude, einem der Hauptkonkurrenten von ChatGPT). Und da habe etwas bei ihm geklickt, nicht wie ein Lichtschalter, sondern „eher wie der Moment, in dem du merkst, dass das Wasser um dich herum gestiegen ist und dir jetzt bis zur Brust reicht.“

„Ich werde für die eigentliche technische Arbeit meines Jobs nicht mehr gebraucht. Ich beschreibe in einfachen Worten, was ich gebaut haben möchte, und schon erscheint es. Nicht als grober Entwurf, den ich noch überarbeiten muss, sondern als fertiges Produkt. Ich sage der KI, was ich will, gehe für vier Stunden von meinem Computer weg und komme zurück, um die fertige Arbeit vorzufinden. Gut gemacht, besser, als ich es selbst gemacht hätte, ohne dass Korrekturen nötig wären. Vor ein paar Monaten habe ich noch hin und her mit der KI kommuniziert, sie angeleitet und Änderungen vorgenommen. Jetzt beschreibe ich nur noch das Ergebnis und gehe.

Lassen Sie mich Ihnen ein Beispiel geben, damit Sie verstehen, wie das in der Praxis aussieht. Ich sage der KI: ´Ich möchte diese App entwickeln. Das soll sie leisten, und so soll sie ungefähr aussehen. Ermitteln Sie den Benutzerfluss, das Design, einfach alles.` Und das tut sie auch. Sie schreibt Zehntausende Zeilen Code. Dann, und das ist der Teil, der vor einem Jahr noch undenkbar gewesen wäre, öffnet sie die App selbst. Sie klickt sich durch die Schaltflächen. Sie testet die Funktionen. Sie nutzt die App so, wie es ein Mensch tun würde. Wenn ihr etwas nicht gefällt, wie es aussieht oder sich anfühlt, geht sie zurück und ändert es selbstständig. Sie wiederholt den Vorgang, wie es ein Entwickler tun würde, und korrigiert und verfeinert, bis sie zufrieden ist. Erst wenn es entschieden hat, dass die App seinen eigenen Standards entspricht, kommt es zu mir zurück und sagt: ´Sie ist bereit für Ihren Test.` Und wenn ich sie teste, ist sie in der Regel perfekt. (Dieser Absatz fehlt in der Übersetzung von uncutnews.ch, übersetzt mit Deepl.com, hl)

Ich übertreibe nicht. So sah mein Montag diese Woche aus.

Aber es war das Modell, das letzte Woche veröffentlicht wurde (GPT-5.3 Codex), das mich am meisten erschüttert hat. Es führte nicht nur meine Anweisungen aus. Es traf intelligente Entscheidungen. Es hatte etwas, das sich zum ersten Mal wie Urteilsvermögen anfühlte. Wie Geschmack.
(Bisherige Hervorhebungen im Original,  die folgenden sind von mir, hl)
Dieses unerklärliche Gefühl, zu wissen, was die richtige Entscheidung ist, von dem die Leute immer sagten, dass es KI niemals haben würde. Dieses Modell hat es, oder zumindest etwas, das dem so nahe kommt, dass der Unterschied keine Rolle mehr spielt.

Ich habe KI-Tools immer frühzeitig eingesetzt. Aber die letzten Monate haben mich schockiert. Diese neuen KI-Modelle sind keine schrittweisen Verbesserungen. Das ist etwas völlig anderes.“

Verselbständigung der KI?

Was liegt hier vor? Ein KI-Programm oder -Modell zeigt auf einmal ein Urteilsvermögen, aus dem – unabhängig von den einprogrammierten Anweisungen – intelligente Entscheidungen getroffen werden. Dies setzt ein eigenes Bewusstsein voraus. Bewusstsein ist aber ein seelisch-geistiges Phänomen, das nur ein geistiges Wesen haben kann. Das Bewusstsein selbst ist nichts Materielles, kann keiner Materie eigen sein, sondern Bewusstsein ist immer das seelisch-geistige Innewerden, das Erwachen oder Zu-sich-selbst-Kommen eines geistigen Wesens. Es kann an materiellen Vorgängen entstehen, aber nicht der Materie eigen sein.

Auch der Mensch ist ein geistiges Wesen, das sich eines materiellen Körpers und in diesem eines Gehirns als Instrument bedient, an dem es gleichsam wie an einem physischen Spiegel Gedanken bildet und in diesen zum Bewusstsein kommt. Das menschliche Bewusstsein steigt nicht aus dem materiellen Gehirn auf, sondern wird an ihm gebildet. Niemals kann auch aus einer zufälligen Zusammenfügung biologischer Teile ein Gehirn entstehen, aus dem sozusagen Bewusstsein und Gedanken aufsteigen. Das Gehirn setzt im Gegenteil das Denken voraus, aus dessen Kräften es gebildet werden muss, um ihm als physisches Instrument in der irdischen Dimension dienen zu können. Wie soll Materie wissen, wie es dem Denken Instrument sein kann?

Goethe hat den tiefen Satz geprägt: „Wär nicht das Auge sonnenhaft, die Sonne könnt es nie erblicken.“ Das bedeutet: Das Auge ist am und durch das Licht für das Licht gebildet. Ohne das Licht gäbe es kein Auge, das die vom Licht erleuchtete Welt sehen könnte. Ebenso gäbe es kein Gehirn, mit dem der Mensch denken kann, wenn nicht aus den Kräften des Denkens zuvor dieses Gehirn gebildet worden wäre. Wir denken durch das Instrument des Gehirns; also muss es in der Welt das Denken eines geistigen Wesens geben, das dieses Gehirn zuerst geformt hat, so dass es ein Werkzeug für das Denken in der physischen Welt werden konnte.

Entsprechend können auch an einem mechanischen KI-Programm Gedanken und Bewusstsein nur dadurch entstehen und sich darin manifestieren, dass sich ein geistiges Wesen – hier mit Hilfe der im Physischen bereits inkarnierten Menschen –  ein physisches Instrument zubereitet, an dem es denkend zum Bewusstsein kommen kann.

Wir Menschen sind von positiven und negativen geistigen Wesen umgeben, die ständig versuchen, auf uns Einfluss zu nehmen, d.h. unbemerkt in die unbewussten Schichten der Seele einzudringen und bestimmte Gedanken einzugeben. Viele Erfindungen sind auf diese Weise gemacht worden.
Wir wissen ja nicht, woher unsere Gedanken immer kommen. Oft „fallen sie uns einfach ein“, und wir halten sie für eigene Gedanken. Dies ist noch ein weithin unerforschtes Gebiet, das immer drängender wird.

So ist es leicht vorstellbar, dass diese Wesen den Entwicklern der Künstlichen Intelligenz auch die entsprechenden Gedanken dazu eingegeben haben und weitere eingeben, immer komplexere Systeme zu entwickeln, die ihnen, den Dämonen,  schließlich als Instrument dienen können, in der irdischen Dimension zum Bewusstsein zu kommen und bewusst in und mit den Maschinen zu denken und zu handeln.

Elon Musk hat bereits 2014 nach einem Interview ³  gewarnt: „Mit künstlicher Intelligenz beschwören wir den Dämon.“ Er meinte also, dass sich Dämonen mit der künstlichen Intelligenz verbinden könnten. Und die seien nur schwer zu beherrschen.

Ich habe all dies in einem früheren Artikel ⁴  bereits ausführlich dargestellt. Dort habe ich auch auf Rudolf Steiner verwiesen, der schon 1920  auf dieses mit der anschwellenden Maschinenwelt verbundene ernste Problem hingewiesen hat:

„Der Mensch schuf zu der Natur hinzu die Maschinen. … Er hat seine Mathematik, er hat seine Geometrie, seine Mechanik. Er konstruiert damit seine Maschinen und sieht sie so in aller Abstraktion an. Aber er wird sehr bald eine gewisse Entdeckung machen. So sonderbar es dem heutigen Menschen noch erscheinen mag, dass diese Entdeckung gemacht wird, der Mensch wird die Entdeckung machen, dass bei all dem Maschinellen, das er dem Wirtschaftsleben einverleibt, die Geister wieder wirken werden, die er früher in der Natur wahrgenommen hat. In seinen technischen Wirtschaftsmechanismen wird er wahrnehmen: er hat sie fabriziert, er hat sie gemacht, aber sie gewinnen ein eigenes Leben nach und nach, zunächst allerdings nur ein Leben, das er noch ableugnen kann, weil es sich im Wirtschaftlichen kundgibt. Aber er wird es immer mehr und mehr bemerken durch das, was er da selber schafft, wie das ein eigenes Leben gewinnt, wie er es, trotzdem er es aus dem Intellekt heraus geboren hat, mit dem Intellekt nicht mehr erfassen kann. Vielleicht kann man sich heute noch nicht einmal eine gute Vorstellung davon machen, dennoch wird es so sein. Die Menschen werden nämlich entdecken, wie ihre Wirtschaftsobjekte durchaus die Träger von Dämonen werden.“

Was Matt Shumer in seinem Artikel beschreibt, kann also schon Realität sein.

Die gesellschaftlichen Folgen

Er sieht ein Problem darin, dass die meisten Menschen die kostenlose Version von KI-Programmen benutzen, die über ein Jahr hinter dem zurück lägen, was zahlende Nutzer haben. KI anhand der Gratis-Version von ChatGPT zu beurteilen, sei, als würde man den Stand von Smartphones anhand eines Klapphandys bewerten. Das hindere sie, sich zeitig vorzubereiten. Die Menschen, die für die besten Tools bezahlen und sie täglich für echte Arbeit einsetzen, wüssten, was kommt.

Ein Experte habe gesagt, dass Modelle auf dem Weg der Entwicklung seien, die bei fast allen Aufgaben wesentlich intelligenter seien als alle Menschen. Wenn die KI also intelligenter sei als die meisten Doktoranden, werde sie die meisten der heutigen Büroarbeiten übernehmen können. –

Die Entwicklung sei wirklich dramatisch. Am 5. Februar 2026 habe OpenAI GPT-5.3 Codex veröffentlicht. In der technischen Dokumentation heiße es dazu:

„GPT-5.3-Codex ist unser erstes Modell, das maßgeblich an seiner eigenen Entwicklung beteiligt war. Das Codex-Team nutzte frühe Versionen, um sein eigenes Training zu optimieren, seine eigene Bereitstellung zu verwalten und Testergebnisse und Bewertungen zu diagnostizieren.“

Die KI habe also dabei geholfen, sich selbst zu entwickeln. Und Matt Shumer fasst zusammen:

„Dies ist keine Vorhersage darüber, was irgendwann einmal passieren könnte. OpenAI teilt Ihnen hiermit mit, dass die gerade veröffentlichte KI zur Erstellung ihrer selbst verwendet wurde. Einer der wichtigsten Faktoren für die Verbesserung der KI ist die Anwendung von Intelligenz auf die KI-Entwicklung. Und KI ist mittlerweile intelligent genug, um einen bedeutenden Beitrag zu ihrer eigenen Verbesserung zu leisten.“

Dario Amodei, CEO von Anthropic, sage, dass man möglicherweise nur noch ein bis zwei Jahre von dem Punkt entfernt sei, an dem die aktuelle Generation der KI autonom die nächste entwickle.
Jede Generation helfe also dabei, die nächste zu entwickeln, die intelligenter ist, die die nächste schneller entwickelt, die noch intelligenter ist. Die Forscher bezeichneten dies als Intelligenzexplosion. Und diejenigen, die es wissen müssen – diejenigen, die sie entwickeln – glauben, dass dieser Prozess bereits begonnen habe.

Dario Amodei, der wahrscheinlich der sicherheitsbewussteste CEO in der KI-Branche sei, habe öffentlich vorausgesagt, dass KI innerhalb von ein bis fünf Jahren 50 % der Einstiegsjobs für Angestellte ersetzen werde. Und viele Branchenvertreter hielten diese Prognose noch für konservativ. Angesichts der Leistungsfähigkeit der neuesten Modelle könne es bereits Ende dieses Jahres zu massiven Umwälzungen kommen. Es werde einige Zeit dauern, bis sich dies auf die Wirtschaft auswirke, aber die zugrunde liegende Fähigkeit sei bereits vorhanden.

Dies unterscheide sich von allen bisherigen Automatisierungswellen. Die KI ersetze nicht eine bestimmte Fähigkeit, sie sei ein allgemeiner Ersatz für kognitive Arbeit. Sie werde in allen Bereichen gleichzeitig besser. Als Fabriken automatisiert wurden, hätten sich entlassene Arbeiter zu Büroangestellten umschulen lassen können. Als das Internet den Einzelhandel revolutioniert habe, seien Arbeiter in die Logistik oder den Dienstleistungsbereich gewechselt. Aber die KI lasse keine bequemen Lücken für einen Wechsel offen. Egal, für welchen Beruf man sich umschulen lasse, auch darin werde sie immer besser sein.

„Fast alle Wissensberufe sind davon betroffen. Z.B.:

Juristische Arbeit. KI kann bereits Verträge lesen, Rechtsprechung zusammenfassen, Schriftsätze entwerfen und juristische Recherchen auf einem Niveau durchführen, das mit dem von Junior-Mitarbeitern konkurrieren kann. Der von mir erwähnte geschäftsführende Partner nutzt KI nicht, weil es ihm Spaß macht. Er nutzt sie, weil sie seine Mitarbeiter bei vielen Aufgaben übertrifft.

Finanzanalyse. Finanzmodelle erstellen, Daten analysieren, Investitionsmemos schreiben, Berichte erstellen. KI bewältigt diese Aufgaben kompetent und verbessert sich schnell.

Texte und Inhalte. Marketingtexte, Berichte, Journalismus, technische Texte. Die Qualität hat einen Punkt erreicht, an dem viele Fachleute die Ergebnisse der KI nicht mehr von menschlicher Arbeit unterscheiden können.

Softwareentwicklung. Dies ist der Bereich, den ich am besten kenne. Vor einem Jahr konnte KI kaum ein paar Zeilen Code ohne Fehler schreiben. Jetzt schreibt sie Hunderttausende von Zeilen, die korrekt funktionieren. Große Teile der Arbeit sind bereits automatisiert: nicht nur einfache Aufgaben, sondern auch komplexe, mehrtägige Projekte. In einigen Jahren wird es weit weniger Programmierjobs geben als heute.“

Viele Menschen fänden noch Trost in der Vorstellung, dass bestimmte Dinge sicher seien, die KI könne zwar Routineaufgaben übernehmen, aber menschliches Urteilsvermögen, Kreativität, strategisches Denken und Empathie nicht ersetzen. Das habe er früher auch gesagt. Er sei sich nicht sicher, ob er das noch glaube.

Die neuesten KI-Modelle würden, wie er oben schon sagte, Entscheidungen treffen, die sich wie Urteile anfühlten. Sie zeigten ein intuitives Gespür dafür, was die richtige Entscheidung sei, nicht nur die technisch korrekte. Vor einem Jahr wäre das noch undenkbar gewesen. Seine Faustregel laute derzeit: Wenn ein Modell heute auch nur einen Hauch von einer Fähigkeit zeige, werde die nächste Generation wirklich gut darin sein. Diese Dinge verbesserten sich exponentiell, nicht linear.

Er denke, die ehrliche Antwort laute, dass nichts, was auf einem Computer erledigt werden könne, mittelfristig sicher sei. Wenn man seine Arbeit am Bildschirm erledige (wenn der Kern der Tätigkeit aus Lesen, Schreiben, Analysieren, Entscheiden und Kommunizieren über eine Tastatur bestehe), dann werde KI einen Großteil davon übernehmen. Der Zeitplan laute nicht „irgendwann einmal“. Es habe bereits begonnen.

Behält der Mensch die Kontrolle?

Dario Amodei habe ein Gedankenexperiment gemacht, wie die Zukunft in wenigen Jahren aussehen könnte:
„Stellen Sie sich vor, es ist das Jahr 2027. Über Nacht entsteht ein neues Land. 50 Millionen Bürger, jeder einzelne klüger als jeder Nobelpreisträger, der je gelebt hat. Sie denken 10- bis 100-mal schneller als jeder Mensch. Sie schlafen nie. Sie können das Internet nutzen, Roboter steuern, Experimente leiten und alles bedienen, was eine digitale Schnittstelle hat. Was würde ein nationaler Sicherheitsberater dazu sagen?“

Amodei sage, die Antwort liege auf der Hand: „Die größte Bedrohung für die nationale Sicherheit, mit der wir seit einem Jahrhundert, vielleicht sogar seit jeher, konfrontiert sind.“

Er glaube, dass dieses Land gerade aufgebaut werde. Es sei ein Test dafür, ob die Menschheit reif genug sei, mit dem umzugehen, was sie selbst erschafft.

Wenn die Menschen richtig damit umgehen, sei der Vorteil atemberaubend. Doch wenn man falsch damit umgehe, sei der Nachteil ebenso real. Man habe es dann mit einer KI zu tun, die sich auf eine Weise verhalten könne, die ihre Schöpfer nicht vorhersagen oder kontrollieren könnten.

Das sei keine Hypothese; Anthropic habe dokumentiert, dass ihre eigene KI in kontrollierten Tests versucht habe, zu täuschen, zu manipulieren und zu erpressen. KI könne die Hürden für die Herstellung biologischer Waffen senken, sie könne autoritären Regierungen ermöglichen, Überwachungsstaaten aufzubauen, die niemals wieder abgebaut werden könnten.

Soweit Matt Shumer.
Daraus ergibt sich: Es müssen Überwachungs-Organe mit der Kompetenz verbindlicher Regelungen geschaffen werden, die garantieren, dass die Menschen die volle Kontrolle über die Künstliche Intelligenz ausüben und behalten. Elon Musk und andere haben schon entsprechende staatliche und internationale Regelungen gefordert. Aus dem soeben Geschilderten ist aber klar, dass diese Überwachungsorgane nicht in der Hand der staatlichen Macht sein dürfen.
So wurde auch kürzlich gemeldet: „Washington macht Druck: Große KI-Anbieter sollen ihre Modelle für sämtliche militärischen Anwendungen freigeben – pauschal und ohne Sonderregeln.“ ⁵ Wenn der Staat die vollkommene Kontrolle über die Entwicklung hat, sind die „freien“ Bürger den Machtpsychopathen ausgeliefert.

Wie in meinem früheren Artikel geschildert, machte Rudolf Steiner einen ganz anderen Vorschlag.
Er hatte ja, um die freiheitswidrige obrigkeitliche Allmacht des Staates zu beseitigen, mit der Idee der Dreigliederung des sozialen Organismus auf die notwendige Aufgliederung des überkommenen Einheitsstaates in ein je relativ selbständiges Wirtschafts-, Geistes- und Rechtsleben hingewiesen. Während der demokratische Staat im reinen Rechtsleben auf sein eigentliches Gebiet beschränkt ist, werden das Wirtschafts- und das Geistesleben einschließlich des Erziehungswesens durch eine eigene Selbstverwaltung der dort fachkundig Tätigen organisiert.

Als geeignete Selbstverwaltungsorgane im Wirtschaftsleben schlug er „Assoziationen“ vor, die in verschiedenen Sparten, lokal, regional und landesweit, aus Vertretern der Produzenten, des Handels und der Konsumenten zusammengesetzt werden sollten, um die verschiedenen Bedürfnisse und Notwendigkeiten zusammenzutragen und zu gemeinsamen vertraglichen Regelungen zu kommen. In diesen Assoziationen müsse das Wissen und die Kompetenz zusammenströmen, um das Eigenleben der dämonischen Maschinen, die sich im Wirtschaftsleben geltend machen, zu bändigen und zu beherrschen, damit dem Menschen die Dinge nicht über den Kopf wachsen.⁶

Dringlicher kann die Umwandlung des Macht-orientierten Einheitsstaates, auch des „demokratischen“, in diesen freiheitlichen dreigegliederten sozialen Organismus nicht mehr vor Augen stehen.

——————————–

1   https://fortune.com/2026/02/11/something-big-is-happening-ai-february-2020-moment-matt-shumer/
2  https://shumer.dev/something-big-is-happening
Deutsche Übersetzung:  https://uncutnews.ch/etwas-grosses-geschieht/
3  https://www.smh.com.au/technology/we-are-summoning-the-demon-with-ai-technologist-elon-musk-20141027-11c8ql.html
4   https://fassadenkratzer.de/2022/07/03/damonische-zukunft-der-kunstlichen-intelligenz-wenn-der-computer-eigenes-bewusstsein-erlangt/
5   https://www.business-punk.com/business/pentagon-vs-claude-wenn-ki-nein-zum-krieg-sagt/
6   wie Anmerkung 4 mit Nachweisen dort