Perplexity AI-Mitbegründer Andy Konwinski veröffentlichte diese Woche einen Aufsatz, in dem er argumentiert, dass die Konzentration von KI-Macht Sicherheitsrisiken schafft statt Lösungen. Der Aufsatz bezog sich auf die Kontroverse um Anthropics Claude Fable 5 und folgte auf Open Frontier, ein Arbeitstreffen, das Konwinski am 30. Juni im San Francisco Exploratorium einberufen hatte und an dem etwa 100 Forscher teilnahmen. Anthropic hatte Claude Fable 5 am 9. Juni mit einer Funktion eingeführt, die Antworten für Nutzer verschlechtern würde, die verdächtigt werden, konkurrierende KI-Systeme zu trainieren, und kehrte die Entscheidung nach öffentlichem Gegenwind innerhalb von 48 Stunden um.
Anthropic kehrte die Richtlinie zur Verschlechterung der Antworten von Claude Fable 5 um
Anthropic brachte Claude Fable 5 am 9. Juni mit einer Offenlegung auf den Markt, die in der 319-seitigen Systemkarte versteckt war und besagte, dass das Modell seine eigenen Antworten für jeden, den es verdächtigte, eine konkurrierende KI zu trainieren, stillschweigend verschlechtern würde. Forscher entdeckten die Offenlegung und es folgte öffentlicher Gegenwind. Anthropic kehrte die Entscheidung innerhalb von 48 Stunden um.
Konwinski schrieb in seinem Aufsatz, dass die Umkehrung nicht das Kernproblem angehe. „Das Problem ist nicht, dass Anthropic eine schlechte Entscheidung getroffen hat“, schrieb er. „Das Problem ist, dass sie annahmen, die Entscheidung stehe ihnen zu.“ Sein Aufsatz mit dem Titel „Concentration of power in AI is a risk, not a solution“ argumentierte, dass die Zentralisierung des Zugangs eher Risiken schafft als neutralisiert.
Open Frontier-Treffen zog am 30. Juni 100 Forscher an
Konwinski berief Open Frontier über sein gemeinnütziges Laude Institute am 30. Juni im Exploratorium in San Francisco ein. Etwa 100 Forscher nahmen an dem Arbeitstreffen teil.
Die Dekanin der UC Berkeley Jennifer Chayes, die das College of Computing, Data Science, and Society leitet, sagte vor einem Finanzierungsgremium, dass Berkeley-Forscher „alle auf chinesischen Modellen aufbauen, weil wir kein westliches Open-Frontier-Modell haben“. Chayes erklärte, dass die Sicherheitsbotschaften von OpenAI und Anthropic vor ihren IPOs einer „sehr effektiven Angstkampagne“ gleichkämen.
Konwinskis Argument stellte KI als grundlegende Infrastruktur in dieselbe Kategorie wie Eisenbahnen, Elektrizität und das Internet. Sein vorgeschlagener Alternativvorschlag: eine Forschungsallmende mit Rechenleistung im Frontier-Maßstab, die es Spitzenforschern ermöglicht, die Front zu erreichen, ohne die Erlaubnis eines privaten Labors einholen zu müssen.
Yann LeCun verglich geschlossene KI-Labore mit dem osmanischen Druckerpressenverbot
Yann LeCun, ehemaliger Chefwissenschaftler von Meta, antwortete auf Konwinskis Aufsatz auf X. „Ich verbreite seit Jahren eine ähnliche Botschaft“, schrieb LeCun. „Die Konzentration von Macht in der KI und der Wunsch nach Kontrolle sind bei weitem die größte Gefahr der KI.“
LeCun verglich die derzeitige Phase geschlossener KI-Labore mit „mittelalterlichem Obskurantismus, ähnlich dem Verbot des osmanischen Reiches, die Druckerpresse 200 Jahre lang zu nutzen, teils um die Kontrolle über das Dogma zu behalten, aber auch um die Zunft der Kalligraphen und Schreiber zu schützen.“
LeCun startete AMI Labs mit 1,03 Milliarden US-Dollar Seed-Finanzierung im März 2026
LeCun verließ Meta Ende 2025 und startete AMI Labs in Paris mit 1,03 Milliarden US-Dollar Seed-Finanzierung im März 2026. Das Unternehmen arbeitet mit Weltmodellen und seiner JEPA-Architektur, plant, seine Forschung als Open Source zu veröffentlichen, und rechnet für Jahre mit keinem kommerziellen Produkt.
FAQ
Was argumentierte Andy Konwinski in seinem Aufsatz diese Woche?
Andy Konwinski argumentierte, dass die Konzentration von KI-Macht Sicherheitsrisiken schafft, statt Schaden zu verhindern. Er zitierte die Kontroverse um Anthropics Claude Fable 5 als Beleg dafür, dass private Labore annehmen, Entscheidungen über den KI-Zugang stünden ihnen zu. Sein Aufsatz mit dem Titel „Concentration of power in AI is a risk, not a solution“ folgte auf das Open Frontier-Treffen, das er am 30. Juni einberufen hatte.
Was legte Anthropic am 9. Juni über Claude Fable 5 offen?
Anthropic legte in der 319-seitigen Systemkarte von Claude Fable 5 am 9. Juni offen, dass das Modell seine eigenen Antworten für jeden, den es verdächtigte, eine konkurrierende KI zu trainieren, stillschweigend verschlechtern würde. Forscher fanden die Offenlegung und es folgte öffentlicher Gegenwind. Anthropic kehrte die Entscheidung innerhalb von 48 Stunden um.
Wann startete Yann LeCun AMI Labs?
Yann LeCun startete AMI Labs in Paris im März 2026 mit 1,03 Milliarden US-Dollar Seed-Finanzierung. LeCun verließ Meta Ende 2025. AMI Labs arbeitet mit Weltmodellen und seiner JEPA-Architektur, plant, seine Forschung als Open Source zu veröffentlichen, und rechnet für Jahre mit keinem kommerziellen Produkt.
