Anthropic fordert Klimax bei KI-Entwicklung

Globale Regulierung gefordert

Anthropic, das Unternehmen hinter dem ChatBot Claude, warnt eindringlich davor, dass der Mensch die Kontrolle über KI verlieren könnte. Das Unternehmen schlägt eine koordinierte, weltweite Verlangsamung der KI-Entwicklung vor – ein Novum in der Branche. Nur wenn alle großen Entwickler gemeinsam pausieren, könnten gesellschaftliche Strukturen angepasst und sichergestellt werden, dass KI im Interesse der Menschheit arbeitet. Die Realität sehe jedoch anders aus: Statt Absprache herrsche ein Überbietungswettbewerb auch um Milliardeninvestitionen in Chips und Rechenzentren.

Fortschritt durch Eigenentwicklung

Auslöser der Warnung ist die wachsende Fähigkeit von KI, sich selbst zu verbessern. Anthropic-Mitgründer Clark erklärte, dass Claude bereits zu 80 Prozent auf selbst geschriebenem Code läuft. Binnen zwei Jahren könnte dieser Anteil auf 100 Prozent steigen – dann wäre die KI nicht mehr auf menschliches Zutun angewiesen. Dies erhöht das Risiko, dass die Menschheit die Kontrolle über die Technologie verliert. Zieheb Clark vergleicht die Entwicklung mit der frühen Ölindustrie setzt und fordert nun ein spezielles Kontrollsystem Entwicklern alter.

Hausgemachter Druck durch Börsengänge

Trotz der düsteren Warnungen geht das Unternehmen weiter finanzielle Offensive. Ende Mai reichte Anthropic vertraulich Börsenunterlagen bei der SEC ein – der Schritt zu einem der größten IPOs des Jahres. Die Bewertung liegt bei fast einer Billion US-Dollar – ein atemberaubender Sprung von 400 Milliarden im Februar. Auch Wettbewerber OpenArning wartet darauf Elon Musks Raumschiff SpaceX soll bereits in der kommenden Woche am Markt sein. Dabei erlösen die Konzerne gigantische Summen umsätze – an der fünf Milliarden Verlust klebt nur ein daumendünnes Gewinn in Sichtweis für das laufende Quartal.