Anthropic-Mythos

Anthropic, das Unternehmen hinter Claude, hat vergangene Woche sein neuestes Modell namens Mythos vorgestellt.

Es soll Schwachstellen in Software aufspüren können – und zwar so effektiv, dass intern offenbar die Sorge besteht, es könnte in den Händen von Cyberkriminellen zu einer globalen Gefahr werden.

Aus diesem Grund wurde das Modell nach Angaben des Unternehmens vorerst nur ausgewählten Konzernen wie Apple, Google, Amazon, Microsoft und weiteren zu Testzwecken zugänglich gemacht.

Auch das deutsche Bundesamt für Sicherheit in der Informationstechnik (BSI) verweist darauf, dass eine solche Technologie erhebliche Auswirkungen auf die Cyberbedrohungslage haben könnte.

Berichten zufolge berief US-Finanzminister Bessent sogar eine Dringlichkeitssitzung mit den CEOs grosser Wall-Street-Banken ein.

Die Botschaft: Dieses Modell sei zu gefährlich für eine breite Veröffentlichung.

Doch was Mythos tatsächlich leisten kann, weiss bislang kaum jemand. Vielleicht nur jene technisch versierten Mystiker, die sich hinter verschlossenen Türen bereits damit beschäftigen.

Fest steht: Die Grundlage bildet – wie so oft – ein Large Language Model. Es analysiert Quellcode und sucht nach potenziellen Sicherheitslücken.

Dabei liegt die Vermutung nahe, dass auch dieses System mit dem bekannten Problem sogenannter Halluzinationen kämpft und entsprechend zahlreiche Fehlalarme produziert.

Realistisch betrachtet dürfte Mythos womöglich 20 bis 30 Prozent neue Schwachstellen identifizieren – ein Wert, der in etwa auf dem Niveau heutiger Spitzentools liegen könnte.

Doch belastbare Benchmarks im Vergleich zu bestehenden Lösungen fehlen bislang ebenso wie nachvollziehbare Praxisbeispiele. Vieles bleibt im Nebel – passend zum Namen.

Sicher ist nur: Mit weiterem Training dürfte das Modell leistungsfähiger werden. Gleichzeitig inszeniert Anthropic die Technologie als potenzielle Bedrohung für die Weltordnung.

Das wirkt umso bemerkenswerter, da das Unternehmen erst vor wenigen Wochen versehentlich Quellcode seines eigenen Modells Claude offengelegt hat. Vielleicht war deren Mythos am Werk?

Ein Unternehmen also, das vor den Risiken künstlicher Intelligenz warnt, während es mit der eigenen Sicherheit kämpft? Un Mytho!

Ganz neu wäre diese Dramaturgie allerdings nicht. Bereits 2019 erklärte OpenAI, sein damaliges GPT-2-Modell (heute GPT-4.x) sei zu gefährlich für eine vollständige Veröffentlichung.

Die Geschichte wiederholt sich – nur mit neuen Namen. Anthropic Mythos, die wahrscheinlich beste PR Aktion des Jahres.