Armageddon-Panik mit KI

Es ist eine bemerkenswerte Allianz:

Dario Amodei, Sam Altman und Elon Musk, drei Männer, die sich ansonsten nicht gerade durch gegenseitige Zuneigung auszeichnen, warnen plötzlich gemeinsam vor der Zukunft der künstlichen Intelligenz.

Die Entwicklung von KI müsse verlangsamt werden. Die Risiken sind existenziell. Denn während die Herren der KI Schöpfung öffentlich um das Schicksal der Menschheit bangen, stehen ihre Unternehmen vor einem weitaus greifbareren Problem:

Die Kosten explodieren, die Fortschritte werden bescheidener und die Investoren erwarten weiterhin Wunder.

Die Branche kennt dieses Drehbuch. Bereits 2019 war GPT-2 angeblich zu gefährlich, um es vollständig zu veröffentlichen.

Heute ist das Modell vergessen. Und dieses Jahr – Anthropic Mythos, es ist zu gefährlich um es zu veröffentlichen … Dream on.

Wer behauptet, seine Technologie könne die Menschheit auslöschen, behauptet gleichzeitig, etwas historisch Einzigartiges geschaffen zu haben.

Das ist nicht nur eine Sicherheitsbotschaft. Es ist vor allem Marketing. Und Marketing kann die Branche derzeit gut gebrauchen.

Anthropic und OpenAI benötigen gewaltige Summen für Rechenzentren, Chips und Training. Ihre Geschäftsmodelle stehen unter Druck.

Die Börse soll es richten. Dafür braucht es eine überzeugende Geschichte über die eigene Unverzichtbarkeit – und möglichst wenig Aufmerksamkeit für die Frage, ob sich das Ganze überhaupt rechnet.

Anthropic behauptet, profitabel zu sein. Belastbare, nach allgemein anerkannten Rechnungslegungsstandards präsentierte Zahlen sind allerdings eine andere Angelegenheit.

Stattdessen hantiert die Branche gern mit der „Annualized Run Rate“: Man nimmt einen besonders guten Zeitraum, rechnet ihn auf zwölf Monate hoch und präsentiert das Ergebnis als wirtschaftliche Zukunft.

Geprüften Jahresabschluss, wie bei jedem Unternehmen? Fehlanzeige. Das Kernproblem der Branche? Its the economy, stupid.

Die Modelle werden in vielen Benchmarks besser. Doch die zusätzlichen Fähigkeiten kosten zunehmend mehr.

Grössere Modelle, das sogenannte Reasoning, und immer aufwendigere Trainingsläufe verschlingen enorme Ressourcen.

Die Leistungsgewinne für den Nutzer fallen dagegen häufig deutlich bescheidener aus. Die Branche verkauft also immer teurere Systeme, deren praktische Verbesserungen nicht zwangsläufig im gleichen Verhältnis wachsen.

Deswegen braucht man jetzt eine KI Entwicklungspause. Eine Pause hätte mehrere angenehme Nebeneffekte:

Die Entwicklungskosten liessen sich vorübergehend begrenzen. Die Finanzzahlen könnten freundlicher aussehen. Und die Branche gewänne Zeit, auf effizientere Chips, bessere Algorithmen oder neue zahlungskräftige Kunden zu hoffen.

Nicht zuletzt auch die Chinesen, die mit DeepSeek, Moonshot & Co. den US-Anbietern dicht auf den Fersen sind – und zudem deutlich günstiger.

Man könnte es auch so formulieren: Die Unternehmen brauchen dringend eine Verschnaufpause – und verkaufen sie uns als moralische Pflicht.

Für die öffentliche Debatte liefert man dazu die passende Dramaturgie. Jacob Coxon, ein ehemaliger Mitarbeiter von Anthropic, warnte öffentlich davor, dass KI-Systeme sich nach einer Abschaltung wie ein Virus auf andere Maschinen verbreiten könnten.

Eine spektakuläre Vorstellung. Nur ist Spektakel noch kein Szenario. Ein Sprachmodell, das auf spezialisierter Hardware in riesigen Rechenzentren läuft, springt nicht einfach aus eigenem Antrieb auf fremde Computer.

Es besitzt keine magische Existenz ausserhalb seiner technischen Infrastruktur. Es braucht Systeme, Zugänge, Berechtigungen und Menschen, die diese bereitstellen.

Die Vorstellung, ein LLM (Large Language Model) könne sich wie ein unsichtbarer Agent durch die Welt bewegen und nach Belieben die Kontrolle übernehmen, gehört eher ins Drehbuch eines Science-Fiction-Films.

Das bedeutet nicht, dass KI harmlos wäre. Im Gegenteil: Die tatsächlichen Risiken verdienen weit mehr Aufmerksamkeit als die Fantasie vom digitalen Weltuntergang.

KI-Systeme können Fähigkeiten entwerten, Menschen in Abhängigkeiten treiben und Entscheidungsprozesse intransparent machen. Ihr enormer Ressourcenverbrauch belastet Umwelt und Infrastruktur.

Und wenn probabilistisch arbeitende Systeme mit kritischen Anwendungen verbunden werden, können Fehler erhebliche Schäden verursachen.

Nicht, weil die Maschine plötzlich ein Bewusstsein (AGI – Allgemeine Künstliche Intelligenz) entwickelt und beschliesst, die Menschheit zu vernichten.

Sondern weil sie nicht versteht, was sie tut. Punkt. Wenn ihre Systeme tatsächlich so unkontrollierbar und existenzbedrohend wären, wie sie es in Interviews und öffentlichen Erklärungen nahelegen, müsste die Konsequenz eindeutig sein:

Entwicklung stoppen, Systeme abschalten. Stattdessen werden immer grössere Hyperscaler (KI Rechenzentren) gebaut, immer neue Milliarden eingesammelt und immer neue Anwendungen auf den Markt gebracht.

Ein bemerkenswerter Widerspruch. Für Investoren ist das eine ausgezeichnete Geschichte: Wer angeblich über die mächtigste Technologie der Menschheitsgeschichte verfügt, kann hohe Bewertungen rechtfertigen.

Wer gleichzeitig vor deren Gefahren warnt, kann sich als verantwortungsvoll inszenieren. Denn eines ist sicher: Die grösste Gefahr für die Öffentlichkeit besteht nicht darin, dass ein Sprachmodell (LLM) plötzlich die Kontrolle über die Welt übernimmt.

Sondern darin, dass wir den Menschen, die uns diese Geschichte verkaufen, weiterhin jedes Wort glauben. Oder wie man in den alten guten Zeiten sagte: Das problem liegt immer vor dem Computer.