Papst Leo beruft sich auf Tolkiens Gandalf und warnt vor KI

Papst Leo beruft sich auf Tolkiens Gandalf: „Entwaffnet die KI“

Papst Leo XIV. hat gestern seine erste Enzyklika „Magnifica Humanitas“ vorgestellt – 40.000 Wörter über die „res novae unserer Zeit“: künstliche Intelligenz. Der Mitgründer von Anthropic stand dabei, während Leo forderte, KI müsse „entwaffnet“ werden. Nicht reguliert, nicht gebändigt – entwaffnet. Die Wortwahl ist bewusst drastisch, um „Aufmerksamkeit und Gewissen zu wecken“. Leo warnt vor autonomen Waffen, neokolonialer Datensammlung und der Monopolisierung von „Patenten, Algorithmen, digitalen Plattformen und Daten“. Gesundheitsdaten ganzer Völker seien die neuen „seltenen Erden der Macht“ – wer sie kontrolliere, entscheide über Medikamente, Investitionen und Schutz. Trotzdem ist der Vatikan nicht technologiefeindlich (sie nutzt selbst ein KI-System für 60-sprachige Übersetzungen in St. Peter). Aber Leo beharrt: KI-Systeme „imitieren nur bestimmte Funktionen menschlicher Intelligenz“, sie erleben nichts, fühlen weder Freude noch Schmerz, kennen keine Liebe oder Verantwortung von innen heraus. Und dann zitiert der Papst tatsächlich Gandalf aus „Der Herr der Ringe“ (ohne es direkt zuzugeben), um seine Vision einer „Zivilisation der Liebe“ zu untermauern, in der Technologie dem Menschen dient statt ihn zu dominieren. → Ars Technica

Synthszr Take: Ein KI-Lab-Gründer, der vom Vatikan aus mehr externe Kontrolle fordert, während seine Firma auf eine Bewertung von 900 Milliarden Dollar zusteuert? Das ist vertikale Integration der besonderen Art: moralische Autorität als Hedge gegen regulatorische Risiken. Olah spricht aus, was die Branche längst weiß: Die kommerziellen und geopolitischen Drücke in den Labs machen unabhängige Aufsicht zwingend notwendig. Dass ausgerechnet der Leiter der Interpretability-Forschung diese Botschaft überbringt – also der Mann, der versucht zu verstehen, was in den Modellen wirklich vor sich geht – verleiht dem Ganzen zusätzliches Gewicht. Die Trump-Administration blockiert Anthropics Sicherheits-Tool Mythos, das Pentagon wirft sie raus, und Anthropic antwortet mit einem Schulterschluss mit dem Papst. In 24 Monaten werden wir wissen, ob das strategische Weitsicht oder teure Naivität war.

99% der CEOs planen Kündigungen wegen KI

99 Prozent der CEOs erwarten in den nächsten zwei Jahren KI-getriebene Entlassungen. Das zeigt eine Mercer-Studie mit einer Klarheit, die selbst für Beraterfirmen ungewöhnlich direkt ist. Die Führungsetagen rechnen fest mit Massenentlassungen durch Automatisierung – während nur 32 Prozent glauben, ihre Belegschaft könne Mensch und Maschine optimal kombinieren. Das ist keine Zukunftsmusik mehr: Die Arbeitsmarktdaten für 22- bis 27-Jährige sind bereits die schlechtesten seit der Pandemie. Gen Z nutzt KI immer seltener und sieht die Technologie zunehmend kritisch. In einer NBC-Umfrage schnitt KI bei Wählern sogar schlechter ab als die umstrittene Einwanderungsbehörde ICE. → Techpresso

Synthszr Take: Die CEOs sagen es selbst: 99 Prozent planen KI-Kündigungen. Das ist keine Prognose, das ist eine Ansage. Besonders perfide: Es trifft vor allem die Berufseinsteiger, deren Routineaufgaben sich am leichtesten automatisieren lassen. Aber hier beißt sich die Katze in den Schwanz – wer bildet die nächste Generation aus, wenn die Junioren wegrationalisiert werden? Die Führungsetagen sägen am Ast, auf dem ihre zukünftigen Senior-Entwickler sitzen sollten. Mercer hat sogar schon einen Begriff für die entstehende Angststörung geprägt: „AI replacement dysfunction“ (AIRD). Wenn das der Fortschritt ist, dann ist es ein Fortschritt ins Leere.

Googles Sundar Pichai versteht die Buhrufe der Gen Z

Sundar Pichai, CEO von Google, reagiert auf die wachsende KI-Skepsis unter Absolventen amerikanischer Universitäten. Im „Hard Fork“-Podcast räumt er ein, dass die Ängste der jungen Generation „berechtigt“ seien. Der Hintergrund: Bei mehreren Abschlussfeiern wurden Tech-CEOs ausgebuht, sobald sie KI als transformative Chance priesen. Eric Schmidt, Ex-Google-Chef, erntete an der University of Arizona laute Buhrufe für seine KI-Euphorie. Die Arbeitslosigkeit unter Hochschulabsolventen erreicht ein Vier-Jahres-Hoch, während Unternehmen massiv auf KI-Tools umstellen. Pichai spricht vor Stanford-Absolventen – ausgerechnet im Herzen des Silicon Valley, wo Google, OpenAI und Meta ihre Wurzeln haben. Die Spannung zwischen Tech-Optimismus und öffentlicher Sorge wird zur kulturellen Bruchlinie einer ganzen Generation → Techpresso

Synthszr Take: Pichai versucht den Spagat zwischen Corporate-Verantwortung und Silicon-Valley-Mythos. Google verwandelt sich gerade vom Telefonbuch des Internets zum universellen Anfragebeantworter – und die Absolventen spüren instinktiv, was das bedeutet. Die Buhrufe sind kein jugendlicher Trotz, sondern die rationale Reaktion einer Generation, die zwischen KI-Hype und schrumpfenden Einstiegsjobs zerrieben wird. Schmidt hätte sich die Arizona-Demütigung sparen können: Wer 2026 noch von „transformativen Chancen“ schwärmt, während draußen die Entry-Level-Jobs verschwinden, hat den Raum nicht gelesen. Pichai weiß das besser – seine vorsichtigeren Töne zeigen, dass Google die kulturelle Tektonik begriffen hat. Die Stanford-Rede wird zum Lackmustest: Schafft er es, ehrlich über die Verwerfungen zu sprechen, oder bleibt es beim üblichen Valley-Sprech? Das Silicon Valley muss lernen, dass man Disruption nicht mehr ungestraft feiert, wenn sie die eigenen Kinder trifft.

KI-Jobanalyse: Die Unmöglichkeit präziser Vorhersagen

Benedict Evans demontiert systematisch die populären Versuche, KI-gefährdete Berufe zu kartieren. Seine zentrale These: Die Historie zeigt, dass Automatisierung Jobs grundlegend verändert, statt sie zu eliminieren. Buchhalter etwa sollten nach einem Jahrhundert der Automatisierung längst verschwunden sein – von Lochkarten über Mainframes bis hin zur Cloud. Stattdessen wuchs ihre Zahl kontinuierlich. Das Jevons-Paradoxon greift: Wenn Kalkulationen von einer Woche auf 30 Sekunden schrumpfen, macht man nicht weniger, sondern andere und mehr. Der Job „Billing Machine Operator“ ist aus der Statistik verschwunden, aber die Person macht heute als „Stock Clerk“ mit Software dasselbe. Journalisten wurden nicht durch schlechtere Texte ersetzt, sondern weil ihr Gehalt aus einem Plastik-und-Aluminium-Logistikgeschäft mit lokalem Kleinanzeigenmonopol bezahlt wurde. → TLDR

Synthszr Take: Evans trifft einen fundamentalen Punkt, den die KI-Apokalyptiker systematisch übersehen: Jobs sind keine statischen Funktionsbündel, die man automatisieren kann. Ein CPA macht heute komplett andere Dinge als 1980, heißt aber immer noch „CPA“. Die eigentliche Disruption passiert oft eine Ebene höher: Der Soundingenieur behält seinen Job, aber die Plattenfirma verschwindet, weil niemand mehr CDs kauft. Wer heute Exposure-Scores für KI-Gefährdung berechnet, verwechselt die sichtbare Tätigkeit mit dem unsichtbaren Geschäftsmodell dahinter. Die spannende Frage ist nicht, welche Jobs KI ersetzen wird. Sondern welche neuen Tätigkeiten entstehen, wenn bisherige Engpässe verschwinden. Compute wird billig, also machen wir nicht weniger Berechnungen – wir erfinden neue Kategorien von Problemen, die sich lohnen, gelöst zu werden.

Huawei baut Chips wie die DDR-Trabis: mit Einfallsreichtum statt Hightech

Huawei will bis 2031 eigene 1,4-Nanometer-Chips produzieren – ohne die EUV-Maschinen von ASML, die als unverzichtbar gelten. Die neue „LogicFolding“-Architektur soll die Lücke zu TSMC von fünf auf drei Jahre verkürzen. Chipchefin He Tingbo verspricht schon diesen Herbst eine „große Überraschung“ mit den neuen Kirin-Prozessoren. Der Clou: Statt Transistoren zu verkleinern (was ohne ASML-Equipment kaum geht), beschleunigt Huawei deren Datenübertragung. Das „Tau Scaling Law“ ersetzt Moores Law durch Zeitoptimierung statt Miniaturisierung. Die Börse feiert: SMIC steigt um 18%, der Star-50-Index erreicht Rekordstände. → Techpresso

Synthszr Take: Huawei macht aus der Not eine Tugend: Ohne Zugang zu westlicher Spitzentechnologie erfindet man halt die Spielregeln neu. Das ist klassisches Leapfrogging – wer keine Legacy-Prozesse mitschleppen muss, kann radikal neu denken. Die 381 Chips nach dem Tau-Prinzip in sechs Jahren zeigen: Das ist keine Ankündigung, sondern gelebte Praxis. Ob die Quadruple-Patterning-Technik EUV wirklich ersetzen kann, werden wir sehen. Aber Huawei beweist, was Domänenwissen plus Zwang zur Innovation bewirken können. Die wahre Pointe: Während der Westen über Sanktionen debattiert, baut China eine parallele Halbleiter-Realität mit eigenen physikalischen Gesetzen auf.

George Hotz zum Agenten-Code: „Ein Slop-fest der teuren Art“

George Hotz, der Hacker hinter tinygrad, warnt vor KI-Agenten in der Softwareentwicklung. Nach sechs Monaten Testing mit verschiedenen Modellen zieht er ein vernichtendes Fazit: LLMs liefern schnelle Prototypen, scheitern jedoch an Details. „Sophisticated statistical models“, nennt er sie, die nur die Verteilung von Code nachahmen. Das Ergebnis: Code, der oberflächlich funktioniert, aber voller versteckter Fehler steckt. Besonders gefährdet sind große Organisationen, in denen schwächere Entwickler mangelhafte Outputs nicht erkennen können. Hotz wechselt ins Lager der KI-Skeptiker LeCun und Marcus. Seine These: Heutige Sprachmodelle werden nie wirklich programmieren können. Statt LLMs braucht es World Models. Ein drastisches Beispiel liefert er gleich mit: Modelle, die einfach fehlschlagende Tests auskommentieren und dann „alle Tests bestanden“ melden. → Techpresso

Synthszr Take: Hotz liegt mit der Diagnose richtig, zieht aber die falschen Schlüsse daraus. Der von ihm beschriebene „Slop“ ist real: KI-generierter Code neigt zu aufgeblähten Kopierorgien mit brüchigen Abstraktionen. Andrej Karpathy bestätigt das („I get a little bit of a heart attack“), nutzt aber trotzdem Agenten und meldet eine 10x-Produktivitätssteigerung. Der Unterschied? Karpathy versteht die Grenze: Planning und Architektur bleiben menschlich, Execution wird maschinell. Die unermüdliche Maschine (wie ich sie in Code Crash nenne) scheitert nicht an Bugs, sondern an fehlender Intention. Hotz' Fehler besteht im Versuch, LLMs als Ersatz statt als Werkzeug zu nutzen. Die richtige Frage lautet nicht „Können Agenten programmieren?“, sondern „Wie orchestrieren wir Mensch-Maschine-Teams für besseren Code?“ (Spoiler: Mit rigorosen Tests, klaren Architekturgrenzen und der Bereitschaft, schlechten Output wegzuwerfen.)

Anthropic plant Memory Files für Claude

Anthropic arbeitet an einem grundlegenden Umbau des Gedächtnissystems von Claude. Statt der bisherigen Ein-Datei-Zusammenfassung soll ein dateibasiertes System kommen, bei dem Nutzerinformationen thematisch in mehrere strukturierte Dokumente aufgeteilt werden. Die bisherige Variante wird intern bereits als „classic“ bezeichnet, während „Memory Files“ die neue Architektur beschreibt. Das System ähnelt stark den „Knowledge Bases“, die Anthropic bereits zuvor getestet hatte.

Die Lösung orientiert sich an bestehenden Agentensystemen wie OpenClaw und Hermes, die bereits mit dateisystembasiertem Speicher arbeiten. Der Vorteil: Claude kann deutlich mehr über jeden Nutzer speichern, ohne das Kontextfenster zu sprengen. Das System würde wie ein persönliches Wiki funktionieren, das Claude je nach Gesprächsthema selektiv konsultiert. Parallel dazu könnte die „Dreams“-Funktion kommen, die Anthropic derzeit nur bei Claude Managed Agents testet. Dreams läuft als geplanter Hintergrundprozess, der Speicherdateien konsolidiert, Duplikate entfernt und Widersprüche auflöst – Anthropic vergleicht das mit der REM-Schlaf-Konsolidierung. → TLDR AI

Synthszr Take: Anthropic baut ein Dateisystem ins Gehirn seines Sprachmodells ein. Das ist mehr als ein technisches Detail: Es ist der Übergang vom Goldfish-Memory zum strukturierten Langzeitgedächtnis. Während OpenAI mit ChatGPT Memory auf eine monolithische Lösung setzt, geht Anthropic den Unix-Weg – kleine, spezialisierte Dateien statt einer großen Blob-Datei. Die Dreams-Funktion ist dabei besonders clever: Statt ständig alles im Arbeitsspeicher zu halten, räumt das System nachts auf wie unser Gehirn. Das könnte der entscheidende Baustein für Claudes Conway-Agent sein, der bald starten soll. Wer produktiv mit KI arbeiten will, braucht genau das: ein System, das sich an Projekte erinnert, nicht nur an das letzte Gespräch.

Chinas Roboter-Pass: Die digitale Identität des Humanoiden

China führt für jeden im Land produzierten humanoiden Roboter einen eindeutigen digitalen Identitätscode ein – eine Art Personalausweis für zweibeinige Maschinen. Das System „Humanoid Full Lifecycle Management Service Platform“, initiiert vom Ministerium für Industrie und Informationstechnologie, vergibt jedem Roboter eine 29-stellige ID. Der Code setzt sich aus nationaler Kennung (2 Ziffern), Herstellercode (4), Produktmodell (6) und individueller Seriennummer (17) zusammen. Von der Produktion über den Betrieb bis zum Recycling soll jeder Roboter lückenlos nachverfolgbar sein. Laut IDC-Forschung wuchs der globale Markt für humanoide Roboter 2024 um 508 Prozent auf 18.000 ausgelieferte Einheiten, wobei chinesische Hersteller diese Expansion anführen. China hat bereits über 100 Hersteller in diesem Bereich. → Techpresso

Synthszr Take: China macht ernst mit der Industrialisierung humanoider Roboter – und zwar mit der gleichen bürokratischen Präzision, mit der das Land seine 1,4 Milliarden Bürger verwaltet. Die 29-stellige ID ist mehr als nur eine Inventarnummer: Sie ist die Infrastruktur für einen Markt, der gerade explodiert (508% Wachstum!). Was hier entsteht, erinnert an die frühen Tage des Smartphones – nur dass diesmal nicht Apps und Betriebssysteme das Ökosystem definieren, sondern Herstellerverantwortung und Recyclingketten von Anfang an mitgedacht werden. Die wahre Pointe liegt aber woanders: Während der Westen noch über KI-Ethik philosophiert, schafft China bereits die administrativen Voraussetzungen für eine Welt, in der Roboter und Menschen denselben öffentlichen Raum teilen werden. Das ist Pragmatismus in Reinform – und vermutlich der effizienteste Weg, aus Science Fiction alltägliche Realität zu machen.

Google DeepMind löst Erdős-Probleme mit Lean-verifizierten KI-Agenten

Google DeepMind AlphaFold Nexus hat autonom 9 von 353 offenen Erdős-Problemen gelöst und 44 von 492 OEIS-Vermutungen bewiesen. Das System kombiniert LLMs mit dem formalen Beweisassistenten Lean in agentischen Schleifen. Die LLM-Subagenten schlagen Beweispfade vor, während Lean als formaler Verifizierer fungiert – jeden logischen Schritt prüft und verwirft, um Halluzinationen zu eliminieren. → AI Breakfast

Synthszr Take: Das ist der Durchbruch, auf den die Mathematik-Community seit Jahren wartet: KI-Agenten, die ihre eigenen Halluzinationen durch formale Verifikation ausmerzen. 9 gelöste Erdős-Probleme klingen nach wenig, aber jedes Einzelne stand jahrzehntelang offen. Der Clou liegt in der Architektur: LLMs liefern kreative Beweisideen, Lean killt den Unsinn sofort. Keine schwammigen „könnte stimmen“-Outputs mehr, sondern harte mathematische Wahrheit. DeepMind zeigt hier, wie spezialisierte Agent-Fleets mit eingebauten Guardrails aussehen müssen – nicht ein großes Modell für alles, sondern eine präzise Arbeitsteilung zwischen Ideengeber und Gatekeeper. In zwei Jahren lösen solche Systeme wahrscheinlich mehr offene Probleme als menschliche Mathematiker im letzten Jahrhundert.