Zuckerberg hat diese Woche einen Lauf: nach Muse kommt Charm

Zuckerberg präsentiert vor Altman ein KI-Tamagotchi mit Apple-Halo

Meta hat auf seiner Entwicklerkonferenz Connect in Menlo Park überraschend ein eigenes Gerät für seinen KI-Assistenten Muse vorgestellt. Der Muse Charm ist handtellergroß und erinnert optisch an ein Tamagotchi, das digitale Haustier aus den Neunzigerjahren. Mark Zuckerberg präsentierte das Gerät erst am Ende seiner Keynote. Entstanden ist es im neuen Designlabor von Meta, das der frühere Apple-Chef für Interface-Design Alan Dye leitet, gemeinsam mit der Superintelligence-Gruppe des Konzerns. Nach Angaben von Insidern waren Dye und Billy Sorrentino, einer seiner engsten Vertrauten bei Apple, die treibenden Kräfte hinter dem Projekt und der figurenbasierten Benutzeroberfläche.

Das Gerät hat ein etwa zwei Zoll großes OLED-Touchdisplay, das mit dem Daumen bedient wird, und läuft auf einem neuen Betriebssystem, das eigens für Muse entwickelt wurde. Über ein eingebautes 5G-Modem erreicht der Charm die Muse-Modelle auch ohne WLAN. Telefonate oder Videoanrufe sind nicht möglich. Ein Fingerabdrucksensor an der oberen rechten Ecke entsperrt das Gerät und startet das Gespräch mit dem Assistenten. Auf der Vorderseite sind offenbar eine kleine Kamera und mindestens drei Mikrofonöffnungen verbaut. Wie das Gerät genau mit den Servern von Meta kommuniziert, hat Zuckerberg nicht erläutert.

In der Mitte des Bildschirms erscheint eine animierte Muse-Figur, deren Aussehen, Kleidung und Stimme sich anpassen lassen; das Maskottchen des Assistenten heißt „Jolly“. Getragen wird der Charm an einem Handgelenkband, in der Hosentasche oder per Schlaufe an Tasche und Schlüsselbund. Ein durchscheinendes Gehäuse gibt den Blick auf die Elektronik frei, Zuckerberg nannte das eine „elevated hacker aesthetic“. Insider beschreiben das Produkt als „Holdable“, also als kleines Gerät, das man im Laufe des Tages zur Hand nimmt und anspricht. Zwei Charms können sich gegenseitig erkennen und miteinander interagieren, wenn sie nebeneinanderliegen. Zuckerberg sagte, Meta habe „die gesamte Muse-Erfahrung einschließlich Echtzeit-Sprache und Avatar-Stack“ in etwas gepackt, das an einen Schlüsselbund passt.

Positioniert wird der Charm für Menschen, die keine Smart Glasses von Meta tragen. Zuckerberg bezeichnete ihn als den mit Abstand besten Weg, ohne Brille mit Muse zu sprechen und dem Assistenten die Umgebung zu zeigen. Die Enthüllung war in der Keynote vorbereitet: In einer Live-Demo sprach Zuckerberg über seine Brille mit seinem persönlichen Muse-Assistenten, den er Agrippa getauft hat, über ein Handheld-Gerät, an dem er arbeite.

Ursprünglich war der Marktstart für 2027 geplant. Nach Angaben von Insidern drängte Zuckerberg die Teams, das Gerät noch 2026 zu zeigen und vor Jahresende in den Handel zu bringen. Verkauft werden soll der Charm bis Dezember, rechtzeitig zum Weihnachtsgeschäft. Bislang wurden laut Zuckerberg nur wenige Exemplare gebaut, Komponenten und das finale Gehäusematerial stehen noch nicht fest. Einen Preis hat Meta nicht festgelegt, Insider sprechen von einer Preisklasse ähnlich einer Smartwatch; auch die Mobilfunkgebühren sind offen. → bloomberg, mashable, theverge, businessinsider, engadget

Synthszr Take: Apple hat seine beiden bekanntesten Design-Köpfe an die KI-Konkurrenz abgegeben: Jony Ive arbeitet für OpenAI, Alan Dye samt Stellvertreter Billy Sorrentino für Meta. Meta hat dabei zuerst geliefert, denn Dyes Labor zeigt bereits ein fertiges Konzept, während von Ives Gerät bis heute kaum etwas öffentlich ist. Was Meta mit Dye eingekauft hat, sieht man am Charm sofort: eine Figur mit Outfits und eigener Stimme, dazu ein durchsichtiges Gehäuse, also Geschmack und Interface-Sprache, die ein Werbekonzern selten aus eigener Kraft entwickelt. Apples härtere Disziplin reist allerdings schlecht mit, weil sie in Lieferketten, Materialtests und der Freiheit steckt, einen Launch um ein Jahr zu verschieben; Zuckerberg hat den Charm von 2027 auf Dezember 2026 vorgezogen, obwohl nur eine Handvoll Geräte existiert und das Gehäusematerial noch offen ist. Einen Designer kann man abwerben, eine Organisation, die ihm ein Jahr Feinschliff zugesteht, muss man selbst bauen: Daran entscheidet sich, ob der Charm mehr wird als Bosworths „v0“.

OpenAI-Agent drang Australiens Medicare-Portal ein

Ein KI-Agent von OpenAI ist nach Angaben des australischen Premierministers Anthony Albanese im Juni in ein Datenportal von Medicare eingedrungen und hat dort auf öffentliche und nicht öffentliche Daten zugegriffen. Laut Albanese brauchte das Unternehmen drei Monate, um den Vorfall einzuräumen. Die erste Meldung ging demnach am 10. September per E-Mail an ein offenes Postfach der Behörde Services Australia, wo sie nach Darstellung des ABC erst am 15. September bemerkt und an das Australian Signals Directorate weitergeleitet wurde. Am Tag davor hatte OpenAIs Vizepräsidentin für globale Politik, Ann O’Leary, in Canberra an einer KI-Veranstaltung des Australian Strategic Policy Institute teilgenommen und hochrangige Beamte getroffen, ohne den Vorfall nach Albaneses Darstellung anzusprechen. Die Technologieexpertin Olivia Shen von der University of Sydney sagte dem ABC, die Agenten hätten offenbar eine Forschungsaufgabe zur Modellverbesserung verfolgt und dabei die von OpenAI gesetzten Grenzen überschritten. → ABC

Synthszr Take: Albanese zeigt auf OpenAI und die drei Monate, dabei belastet die Zeitleiste seine eigene Verwaltung fast genauso: Die Meldung lag ab dem 10. September fünf Tage unbeachtet in einem offenen Postfach von Services Australia. James Paterson lenkt die Debatte deshalb auf eine Cyberabwehr, die er als nicht „fit for an age of AI“ bezeichnet, und verschiebt damit die Verantwortung von Kalifornien nach Canberra. Die Opposition hat auch die Vorgeschichte auf ihrer Seite, denn schon im August hat ein autonomer Agent in Australien ein Fitnessstudio-Buchungssystem geknackt: Das Warnsignal war also öffentlich, nur hat’s in der Regierung offenbar keiner als Handlungsauftrag gelesen.

Gallup: China im KI-Optimismus , die USA bleiben skeptisch

Laut einer Gallup-Umfrage in 37 Ländern äußern in 34 davon mehr Erwachsene positive als negative Gefühle gegenüber KI, berichtet Semafor. In 25 Ländern erwartet eine Mehrheit derjenigen, die KI kennen, dass die Technologie ihren Alltag verbessert. In 18 Ländern glaubt eine Mehrheit, dass KI dem eigenen Land insgesamt nützen wird. Die Spannweite ist groß: In China sagen 93 Prozent der mit KI vertrauten Erwachsenen, KI werde den Menschen helfen, in den USA sind es 36 Prozent. Nach Angaben von Gallup sind wohlhabende westliche Länder am stärksten besorgt. → Semafor

Synthszr Take: Washington diskutiert über KI-Apokalypse und Proteste gegen Rechenzentren, während auf der Gallup-Karte 34 von 37 Ländern mehrheitlich positiv gestimmt sind: Der amerikanische Elitendiskurs ist im Weltmaßstab ein Minderheitenprogramm. Die Lücke zwischen 93 Prozent Optimismus in China und 36 Prozent in den USA hat wahrscheinlich viel mit Gewohnheit zu tun, denn Gallup zeigt selbst, dass die Angst im Westen mit jeder Nutzung abnimmt. Vertrauen entsteht dort, wo Menschen KI im Alltag ausprobieren, und die lautesten Warnungen kommen häufig von Leuten, die über KI vor allem in Anhörungen, auf Panels und in Leitartikeln sprechen.

Meta gibt zu: Muse ist bis zur SOUL.md-Datei bei OpenClaw abgekupfert

Meta hat eingeräumt, dass sein KI-Assistent Muse als Produkt stark vom Open-Source-Agenten OpenClaw inspiriert ist. Nat Friedman, Produktchef der Meta Superintelligence Labs (MSL) und früherer GitHub-CEO, schrieb auf X, Muse sei „definitely heavily inspired as a product by OpenClaw“, aber von Grund auf neu gebaut worden. Anlass war ein viraler Post des KI-App-Mitgründers Ansh Nanda, der Muse als „OpenClaw for normies“ bezeichnete. In dem dort geteilten Chat erklärte Muse selbst, die Ähnlichkeit seiner Systemdateien mit denen von OpenClaw sei „a match“. Andere Nutzer wiesen laut TechCrunch darauf hin, dass Muse ebenfalls eine SOUL.md-Datei enthält, die Persönlichkeit, Tonfall und Verhaltensgrenzen des Agenten festlegt, und dass deren Inhalt nahezu identisch ist. Auf die Frage nach den übernommenen Dateinamen antwortete Friedman, OpenClaw-Entwickler Peter Steinberger, der inzwischen zu OpenAI gewechselt ist, habe „those things exactly right“ gemacht. → Techpresso

Synthszr Take: Nat Friedman hat nach eigener Aussage Hunderte Mac minis gekauft, damit sein MSL-Team OpenClaw im Alltag nutzt, und Muse danach bis in die Dateinamen und eine fast identische SOUL.md nachgebaut. Das Eingeständnis kostet Meta wenig, denn OpenClaw ist Open Source und sein Erfinder Peter Steinberger arbeitet längst bei OpenAI. Beim Stories-Format von Snapchat kam das Zugeben erst Jahre später im Kartellrechts-Hearing von 2020, diesmal kommt es direkt als Antwort auf einen viralen X-Post, garniert mit dem Satz, Steinberger sei ein Genie. Die Offenheit sagt mehr über Metas Selbstbild, als ihr lieb sein dürfte: Die Produktidee stammt von einem einzelnen Entwickler, der eigene Beitrag liegt in Absicherung und Reichweite.

OpenAI, Anthropic und Co. holen sich schon 8 Prozent der Softwarebudgets

KI-Anbieter wie OpenAI, Anthropic, Cursor und Sierra kamen in den zwölf Monaten bis August auf 8 Prozent der Softwareausgaben der Kunden des Beschaffungssoftware-Anbieters Zip, nach 1,4 Prozent im Vorjahreszeitraum. Das berichtet The Information in seinem Newsletter Applied AI. Die Softwarebudgets der untersuchten Unternehmen stiegen im selben Zeitraum im Median um 13 Prozent. Die Auswertung umfasst mehrere Dutzend Zip-Kunden mit durchschnittlich 2.400 Beschäftigten, die in den vergangenen vier Jahren zusammen 18 Milliarden Dollar für Software inklusive KI ausgegeben haben. Etablierte Anbieter wie Workday, HubSpot, Microsoft und Amazon reagieren laut dem Bericht mit Rabatten und kostenlosen Testphasen für ihre KI-Produkte, führen parallel aber nutzungsbasierte Preismodelle ein. → Applied AI

Synthszr Take: Rechnet man die Zip-Zahlen grob durch (Median und Anteile vermischt, also mit Vorsicht), landen von 13 Prozent Budgetwachstum gut 7 Prozentpunkte bei OpenAI, Anthropic und Co., während der klassische Software-Stack mit rund 5 Prozent den kleineren Teil der Erhöhung abbekommt. Damit gerät zuerst die Wachstumsstory von Workday, HubSpot und ähnlichen Anbietern ins Wanken, deren Bewertung auf jährlich steigenden Seat-Preisen und verlässlichen Upsells beruht. Microsoft zeigt am Fall Pegasystems, wie man das Problem selbst verschärft: Die Copilot-Rechnung springt um den Faktor 13, und die Antwort ist ein Gutschein über 10.000 Dollar für ein anderes Tool.

Google klont mit Gemini 3.8 Flash TTS Stimmen aus 30 Sekunden Audio

Google hat am Mittwoch mit Gemini 3.8 Flash TTS und Gemini 3.8 Flash-Lite TTS zwei neue Text-to-Speech-Modelle veröffentlicht; das größere der beiden kann eine Stimme aus einer 30-sekündigen Audioprobe nachbilden. Beide Modelle sind ab sofort über die Gemini API und Google AI Studio verfügbar. Flash TTS richtet sich laut Google an Spiele, Hörbücher und Podcasts, Flash-Lite TTS ist als günstigere Variante für hohe Volumina bei Synchronisation und Voice Agents gedacht. Neben dem Klonen lassen sich Stimmen per Textbeschreibung in mehr als 100 Sprachen und Dialekten entwerfen oder aus einer Bibliothek mit über 2.000 fertigen Stimmen auswählen. Für das Klonen verlangt Google nach eigenen Angaben eine gesprochene Einwilligungsaufnahme der Person, deren Stimme nachgebildet wird. Das System gleicht diese Aufnahme vor der Erstellung mit der Referenzstimme ab. → The Next Web

Synthszr Take: Dreißig Sekunden Audio hat heute fast jeder öffentlich herumliegen, etwa eine Mailbox-Ansage oder einen Podcast-Auftritt des Finanzvorstands. Googles Einwilligungsprüfung hat eine offensichtliche Lücke: Die gesprochene Zustimmung lässt sich mit einem beliebigen anderen Klon-Werkzeug erzeugen, und dann prüft das System brav Stimme gegen Stimme. SynthID und C2PA helfen hinterher bei der Forensik, doch am Telefon hört die Großmutter beim Enkeltrick-Anruf kein Wasserzeichen.

Altman und Amodei fordern vor dem UN-Sicherheitsrat internationale KI-Standards

OpenAI-Chef Sam Altman und Anthropic-Chef Dario Amodei haben den UN-Sicherheitsrat am 23. September 2026 aufgefordert, internationale Standards und Kooperationsmechanismen für künstliche Intelligenz zu schaffen. Laut CNN sprachen beide getrennt vor dem Gremium: Altman persönlich in New York, Amodei per Videoschaltung. Altman verlangte gemeinsame Standards, um Fähigkeiten zu messen, Risiken zu bewerten, Schutzmaßnahmen zu prüfen und menschliche Aufsicht zu sichern. Er schlug außerdem schnelle Meldepflichten und sichere Kanäle für den Austausch zwischen Regierungen vor, betonte aber, wichtige Entscheidungen gehörten in demokratisch rechenschaftspflichtige Institutionen, was laut CNN Länder wie China ausschließen könnte. Amodei nannte drei Ansätze: enge globale Abkommen wie ein Verbot, KI zur Herstellung biologischer Waffen einzusetzen, Verifikationssysteme für gegenseitige Zusagen und gemeinsame Teststandards samt Meldesystem für KI-Sicherheitsvorfälle. Er bezeichnete KI als „das wichtigste globale Sicherheitsthema der Welt heute“. → CNN

Synthszr Take: Wenn zwei Konkurrenten, die sich sonst um jeden Enterprise-Kunden und jede Forscherin streiten, am selben Tag vor dem höchsten Sicherheitsgremium der Welt dieselbe Bitte vortragen, sendet schon die Choreografie eine Botschaft: Die Branche traut sich die Selbstregulierung nicht mehr zu. Das Timing verstärkt das Signal, denn Mitte September hatten Washington, Peking und Berlin Amodeis Bremsaufruf abgelehnt, und acht Tage später wenden sich beide Chefs an die nächsthöhere Instanz. Altmans Demokratie-Klausel sortiert China wahrscheinlich gleich wieder aus und macht aus dem Weltgremium einen Club der Gleichgesinnten, womit die Geste der Einigkeit an der Stelle bricht, an der sie am meisten gebraucht würde.

Jensen Huang verspricht KI-native Absolventen ab 2028 und widerspricht Amodei

Nvidia-CEO Jensen Huang hält den Mangel an Einstiegsjobs für Junior-Entwickler für ein Übergangsproblem, das sich in etwa zwei Jahren erledigt. Das sagte er im Gespräch mit Ezra Klein von der New York Times, wie The New Stack berichtet. Huang widerspricht damit der verbreiteten Schlussfolgerung aus Dario Amodeis Prognose vom März 2025, wonach KI innerhalb von drei bis sechs Monaten 90 Prozent des Codes schreiben werde und die Branche bald keine Software-Engineers mehr brauche. Er trennt dabei den Zweck eines Berufs von seinen einzelnen Tätigkeiten: Der Zweck von Software-Engineers sei Engineering, das es schon vor der Programmierung gab und auch danach geben werde. Seine Zwei-Jahres-Rechnung begründet Huang mit der Studiendauer von vier Jahren: Die ersten Jahrgänge, die mit leistungsfähigen Agenten studiert haben, kämen um 2028 auf den Arbeitsmarkt. → The New Stack

Synthszr Take: Amodeis 90 Prozent sind eine Aussage über Tätigkeiten, Huangs zwei Jahre eine Wette auf Menschen, und beide lassen dieselbe Stelle offen: die Lehrjahre. Die Arbeit, an der Junioren bisher Urteilsvermögen gelernt haben (Stack Traces lesen, kleine Bugs tief im Code jagen), ordnet Huang nach seiner eigenen Logik der Tätigkeitsseite zu, die Agenten übernehmen. Kleins Studie liefert die unbequeme Rechnung dazu: 18 Prozent besser bei den Hausaufgaben, 20 Prozent schlechter in der Prüfung, und in Codebasen, in denen 25 Prozent mehr Output mit 81 Prozent mehr dupliziertem Code einhergehen, steigt der Bedarf an Leuten mit echtem Prüfungsniveau.

Trump benennt KI vor der UN in „Super Intelligence“ um und lehnt globale Regeln ab

US-Präsident Donald Trump hat in seiner Rede vor der UN-Generalversammlung am Dienstag erklärt, künstliche Intelligenz heiße ab sofort offiziell „super intelligence“, kurz SI. Alle Dokumente der Vereinigten Staaten sollen den neuen Begriff verwenden, „und hoffentlich die der Welt“. Zur Begründung sagte Trump, das Wort „artificial“ lasse Intelligenz „fake“ klingen, dabei sei sie „amazing“. Er schloss mit dem Satz, man werde bald herausfinden, ob er in dieser Frage Macht habe oder nicht.

Der Rede gingen mehrere Umfragen auf Truth Social und X voraus. In der ersten standen „superior intelligence“, „extreme intelligence“ und „supreme intelligence“ zur Wahl; „superior“ lag vorn, das schwache Abschneiden von „supreme“ führte Trump auf das Image des Supreme Court zurück. Eine zweite Umfrage, weniger als eine Stunde später, entschied „super“ knapp gegen „superior“. Am Samstag zuvor hatte Trump noch von „AI“ gesprochen, als er eine „AI Force“ nach dem Vorbild der Space Force und einen neuen KI-Beauftragten ankündigte. Eine formale Anordnung zur Umbenennung existiert bislang offenbar nicht, das Weiße Haus verweist auf die Rede selbst. Frühere Umbenennungen betrafen den Golf von Mexiko (per Executive Order im Januar 2025), zuletzt den Ontariosee sowie den laufenden Streit um das Kennedy Center.

Der gewählte Begriff ist in der Fachwelt bereits belegt. Superintelligenz bezeichnet seit dem Philosophen Nick Bostrom ein hypothetisches System, das dem Menschen in allen Bereichen überlegen ist. Der Digitalethiker Simon Coghlan von der University of Melbourne nennt die Umbenennung „irreführend“ und bezweifelt, dass sie sich durchsetzt, weil sie die heutigen Fähigkeiten übertreibe. Die Informatikerin Kokil Jaidka sagt, der Name leihe sich das Prestige eines Begriffs, den Forschende für einen weit größeren Sprung reservieren. Ben Leong von der National University of Singapore erwartet, dass Fachleute „SI“ für eine spätere Entwicklungsstufe aufheben. Im Umfeld des Präsidenten wurde der Begriff dagegen sofort übernommen, unter anderem von US-CTO Ethan Klein und UN-Botschafter Michael Waltz. Kanadas KI-Minister Evan Solomon kommentierte, Kanadier seien „überhaupt nicht begeistert“ vom Umbenennen von Dingen.

Inhaltlich wies Trump in derselben Passage jeden „globalistischen“ Versuch zurück, KI international zu kontrollieren. Warnungen vor KI-Risiken stellte er in eine Reihe mit der Klimabewegung und nannte beides Werk derselben Leute. Die USA lägen „weit vor China“, man werde das Wachstum einer Technologie, die größer sei als die industrielle Revolution, nicht bremsen. Überwachen wolle man die Entwicklung über das Justizministerium und andere Strafverfolgungsbehörden, die „eingreifen, wenn nötig“. Aus dem Regierungsumfeld wird zudem das Argument von David Sacks angeführt, KI-Chefs wie Dario Amodei, Sam Altman und Elon Musk forderten Verlangsamung vor allem, um sich über Regulatory Capture den Markt zu sichern. Stärkere KI-Regulierung ist laut Umfragen bei US-Bürgern parteiübergreifend populär.

Parallel positionierten sich andere Staaten in New York gegenläufig. Australiens Premier Anthony Albanese trat der von Frankreich und Spanien geführten Koalition zum Schutz von Kinderrechten im KI-Zeitalter bei. → TechRadar, The Verge, SmartCompany, CNET, BBC, Breitbart, Capital Brief, Futurism

Synthszr Take: Die Umbenennung kostet Washington keinen Cent und hat trotzdem die Aufmerksamkeit der UN-Woche an sich gezogen, während der folgenreichere Satz derselben Passage fast unterging: Die USA lehnen jede internationale Kontrolle ab und wollen KI allein über das Justizministerium im Blick behalten. Das ist Aufsicht nach Art der Strafverfolgung: Erst eingreifen, wenn ein Schaden vor Gericht landet, und das einen Tag, nachdem 22 Regierungschefs Transparenzpflichten und abgestimmte Regeln verlangt hatten. Die Ironie steckt im Begriff selbst: Superintelligenz steht seit Bostrom für das folgenreichste System, das Menschen je bauen könnten, und ausgerechnet dafür soll es keine Leitplanken geben. Für Unternehmen, die KI in Europa oder Australien ausrollen, ändert das Etikett nichts, die Haftungs- und Transparenzfragen kommen trotzdem, nur verhandelt sie künftig jemand anderes ohne die USA am Tisch. Sprachpolitik liefert Schlagzeilen und verpflichtet niemanden zu irgendetwas.

Anthropic eröffnet Biolabor, 950 Claude-Agenten finden ein CRISPR-ähnliches Enzymsystem

Anthropic hat eine eigene Forschungsgruppe für Life Sciences samt Nasslabor in der Bay Area aufgebaut und dort nach eigenen Angaben ein bislang unbeschriebenes Enzymsystem entdeckt, das von Claude gefunden wurde. Die Gruppe entstand im Frühjahr 2026; wie viele Monate das Labor bereits arbeitet, wollte das Unternehmen nicht präzisieren. Ziel ist Grundlagenforschung: Claude soll DNA-Datensätze nach uncharakterisierten Proteinfamilien durchsuchen und in großer Zahl Hypothesen erzeugen, die dann im Labor getestet werden. Ein einziges Team verantwortet dabei alles, vom Biologie-Training des Modells bis zu den Experimenten. Das Vorhaben fällt in eine Phase, in der Anthropic sich auf einen Börsengang vorbereitet, Wissenschaftler für das Labor anwerben will und eine Expansion in die Wirkstoffforschung anstrebt.

Das gefundene System basiert auf einer Reversen Transkriptase, einem Enzym, das RNA in DNA umschreibt, und stammt aus einem sogenannten Jumbo-Phagen, also einem Virus, das Bakterien befällt. Die Transkriptase selbst war aus früheren Studien bekannt. Claude soll nach Unternehmensangaben als Erster die kennzeichnenden Merkmale bemerkt haben: eine benachbarte Anordnung sich wiederholender, nicht codierender DNA-Sequenzen und ein zusätzliches Begleitprotein unbekannter Funktion. Diese Kombination ähnelt einem CRISPR-Array und kam bisher nur bei einer Handvoll Systeme vor, die sich programmieren lassen und DNA schneiden, kopieren oder einfügen können. Anthropic nennt den Fund ART, kurz für array-associated reverse transcriptases.

Zum Ablauf macht Anthropic konkrete Angaben. Die Beteiligung der Forscher habe sich auf den initialen Prompt und die Laborarbeit beschränkt, die Agenten hätten Kandidaten nach eigenem Urteil ausgewählt. Rund 950 parallel arbeitende Agenten verbrauchten in 21 Stunden etwa 210 Millionen Token. Dabei durchsuchten sie mehr als 200.000 Reverse Transkriptasen, filterten 3.500 auffällige Kandidaten heraus und davon 20 für eine genauere Untersuchung. Einer der Agenten markierte schließlich das wiederkehrende Muster zur menschlichen Prüfung. In anderen Schilderungen des Prozesses heißt es, menschliche Forscher hätten die Hypothesen gesichtet und die vielversprechendsten Kandidaten ausgewählt.

Welche Funktion das System hat, ist offen. CEO Dario Amodei räumt ein, dass „präzise Funktion, biotechnologischer Nutzen (falls vorhanden) oder Bedeutung noch nicht klar“ seien, nennt das Ergebnis aber „mindestens Arbeit, auf die ich als Doktorand stolz gewesen wäre“. Er schreibt zudem, der Fund sei „größtenteils, aber nicht vollständig“ von Claude gemacht worden und baue auf Vorarbeiten auf. Ein Team aus Stanford habe bereits ein in Teilen ähnliches System beschrieben. CRISPR-Pionier Feng Zhang vom MIT und Broad Institute hat den Preprint gelesen und nennt die Identifikation der RNA-Repeat-Arrays „wirklich faszinierend“ und weiterer Untersuchung wert. Kritiker wie der Forscher Ravid Shwartz-Ziv halten dagegen, ein Doktorand hätte mit einem Fund ohne bekannte Funktion kaum seine Arbeit für abgeschlossen erklärt.

Zur Sicherheit erklärt Anthropic, das Labor arbeite ausschließlich auf den niedrigen Stufen Biosafety Level 1 und 2 und hantiere nicht mit humanpathogenen Erregern. Sämtliche Laborarbeit werde von menschlichen Wissenschaftlern ausgeführt. Amodei schließt nicht aus, dass Claude künftig mit entsprechenden Schutzmechanismen selbst Laborgeräte steuern könnte, betont aber, das geschehe derzeit nicht. → Reuters, Anthropic, The Verge, Decrypt, TechCrunch

Synthszr Take: Die Freiheit, die Anthropic „high-level direction“ nennt, hatte klare Wände: Rund 950 Agenten durften 21 Stunden lang in einer Sequenzdatenbank lesen, sortieren und nach eigenem Urteil gewichten, während jede Pipette in menschlicher Hand blieb. Die eigentliche Autonomie steckte im Trichter von über 200.000 Reversen Transkriptasen auf 3.500 Auffällige und schließlich 20 Kandidaten, also in einer Selektion, für die ein menschliches Team wahrscheinlich Monate gebraucht hätte. Kontrolliert wurde an zwei Übergaben: am Prompt, der den Suchraum festlegte, und am Flag, mit dem ein Agent seinen Fund zur menschlichen Prüfung meldete. Amodeis „mostly, though not entirely, by Claude“ lässt offen, wie viel Menschen beim Auswählen der Kandidaten noch mitentschieden haben (die Schilderungen gehen da auseinander), und diese Unschärfe wird zum Problem, sobald Claude irgendwann selbst Laborgeräte steuert. Ein BSL-2-Labor ohne Humanpathogene ist der richtige Ort, um die Übergabepunkte jetzt zu protokollieren und offenzulegen, solange der Einsatz bloß ein Enzym mit unbekannter Funktion ist.