Papež Leo se odvolává na Tolkienova Gandalfa a varuje před AI

Papež Leo se odvolává na Tolkienova Gandalfa: „Odzbrojte AI“

Papež Leo XIV. včera představil svou první encykliku „Magnifica Humanitas“ – 40 000 slov o „res novae naší doby“: umělé inteligenci. Spoluzakladatel společnosti Anthropic stál po jeho boku, když Leo požadoval, aby AI byla „odzbrojena“. Ne regulována, ne zkrocena – odzbrojena. Volba slov je záměrně drastická, aby „probudila pozornost a svědomí“. Leo varuje před autonomními zbraněmi, neokoloniálním sběrem dat a monopolizací „patentů, algoritmů, digitálních platforem a dat“. Zdravotní údaje celých národů jsou novými „vzácnými zeminami moci“ – kdo je kontroluje, rozhoduje o lécích, investicích a ochraně. Přesto Vatikán není proti technologiím (sám používá systém AI pro překlady do 60 jazyků v bazilice svatého Petra). Ale Leo trvá na svém: systémy AI „pouze napodobují určité funkce lidské inteligence“, nic neprožívají, necítí radost ani bolest, neznají lásku ani zodpovědnost zevnitř. A pak papež skutečně cituje Gandalfa z „Pána prstenů“ (aniž by to přímo přiznal), aby podpořil svou vizi „civilizace lásky“, v níž technologie slouží člověku, místo aby mu dominovala. → Ars Technica

Synthszr Take: Zakladatel laboratoře AI, který z Vatikánu volá po větší externí kontrole, zatímco jeho firma směřuje k ocenění 900 miliard dolarů? To je vertikální integrace zvláštního druhu: morální autorita jako zajištění proti regulačním rizikům. Olah říká nahlas to, co branže už dávno ví: komerční a geopolitické tlaky v laboratořích činí nezávislý dohled naprosto nezbytným. To, že toto poselství přináší zrovna vedoucí výzkumu interpretability – tedy muž, který se snaží pochopit, co se v modelech skutečně děje – dodává celé věci další váhu. Trumpova administrativa blokuje bezpečnostní nástroj Mythos od Anthropic, Pentagon je vyhazuje a Anthropic odpovídá spojenectvím s papežem. Za 24 měsíců budeme vědět, zda to byla strategická prozíravost, nebo drahá naivita.

99 % CEO plánuje propouštění kvůli AI

99 procent CEO očekává v příštích dvou letech propouštění způsobené AI. Ukazuje to studie společnosti Mercer s jasností, která je i na poměry poradenských firem neobvykle přímá. Vedení firem pevně počítá s hromadným propouštěním kvůli automatizaci – zatímco pouhých 32 procent věří, že jejich zaměstnanci dokážou optimálně kombinovat práci člověka a stroje. To už není hudba budoucnosti: data z trhu práce pro 22 až 27leté jsou již nejhorší od pandemie. Generace Z používá AI stále méně a na technologii se dívá stále kritičtěji. V průzkumu NBC dopadla AI u voličů dokonce hůře než kontroverzní imigrační úřad ICE. → Techpresso

Synthszr Take: Sami CEO to říkají: 99 procent plánuje propouštění kvůli AI. To není prognóza, to je oznámení. Zvláště zrádné je, že to postihne především absolventy, jejichž rutinní úkoly se dají nejsnadněji automatizovat. Ale tady se kočka kouše do ocasu – kdo bude školit další generaci, když budou junioři racionalizováni? Vedení firem si podřezává větev, na které by měli sedět jejich budoucí seniorní vývojáři. Mercer už dokonce vytvořil termín pro vznikající úzkostnou poruchu: „AI replacement dysfunction“ (AIRD). Pokud je tohle pokrok, pak je to pokrok do prázdna.

Sundar Pichai z Googlu rozumí bučení generace Z

Sundar Pichai, CEO společnosti Google, reaguje na rostoucí skepsi vůči AI mezi absolventy amerických univerzit. V podcastu „Hard Fork“ přiznává, že obavy mladé generace jsou „oprávněné“. Souvislosti: Na několika promocích byli CEO technologických firem vypískáni, jakmile začali AI vychvalovat jako transformační příležitost. Eric Schmidt, bývalý šéf Googlu, sklidil na University of Arizona hlasité bučení za svou euforii z AI. Nezaměstnanost mezi absolventy vysokých škol dosahuje čtyřletého maxima, zatímco firmy masivně přecházejí na nástroje AI. Pichai promluví k absolventům Stanfordu – právě v srdci Silicon Valley, kde mají své kořeny Google, OpenAI a Meta. Napětí mezi technologickým optimismem a obavami veřejnosti se stává kulturní dělicí čárou celé generace. → Techpresso

Synthszr Take: Pichai se snaží o kompromis mezi korporátní odpovědností a mýtem Silicon Valley. Google se právě mění z telefonního seznamu internetu na univerzálního zodpovídače dotazů – a absolventi instinktivně cítí, co to znamená. Bučení není mladická vzdorovitost, ale racionální reakce generace, která je drcena mezi hypem kolem AI a ubývajícími pracovními místy pro absolventy. Schmidt si mohl ponížení v Arizoně ušetřit: kdo v roce 2026 ještě básní o „transformačních příležitostech“, zatímco venku mizí pozice pro nováčky, ten absolutně nepochopil situaci. Pichai to ví lépe – jeho opatrnější tón ukazuje, že Google pochopil kulturní tektoniku. Projev na Stanfordu bude lakmusovým papírkem: Podaří se mu upřímně mluvit o problémech, nebo zůstane u obvyklých frází ze Silicon Valley? Silicon Valley se musí naučit, že disrupci už nelze beztrestně oslavovat, když dopadá na jejich vlastní děti.

Analýza pracovních míst v AI: Nemožnost přesných předpovědí

Benedict Evans systematicky demontuje populární pokusy zmapovat profese ohrožené AI. Jeho ústřední teze zní: Historie ukazuje, že automatizace pracovní místa zásadně mění, místo aby je eliminovala. Například účetní by po století automatizace – od děrných štítků přes mainframy až po cloud – měli už dávno zmizet. Místo toho jejich počet neustále rostl. Platí Jevonsův paradox: Když se výpočty zkrátí z týdne na 30 sekund, neděláte jich méně, ale děláte jiné a více. Profese „operátor fakturačního stroje“ ze statistik zmizela, ale daná osoba dnes dělá totéž jako „skladník“ se softwarem. Novináři nebyli nahrazeni horšími texty, ale protože jejich plat pocházel z logistického byznysu s plasty a hliníkem s místním monopolem na inzerci. → TLDR

Synthszr Take: Evans se dotýká zásadního bodu, který apokalyptici AI systematicky přehlížejí: pracovní místa nejsou statické soubory funkcí, které lze automatizovat. Daňový poradce (CPA) dnes dělá úplně jiné věci než v roce 1980, ale stále se mu říká „CPA“. Skutečná disrupce se často odehrává o úroveň výš: zvukový inženýr si práci udrží, ale nahrávací společnost zmizí, protože už nikdo nekupuje CD. Kdo dnes počítá skóre ohrožení AI, plete si viditelnou činnost s neviditelným obchodním modelem v pozadí. Zajímavá otázka tedy nezní, které profese AI nahradí, ale jaké nové činnosti vzniknou, když zmizí dosavadní úzká hrdla. Výpočetní výkon zlevňuje, takže neděláme méně výpočtů – vynalézáme nové kategorie problémů, které stojí za to řešit.

Huawei vyrábí čipy jako trabanty v NDR: s vynalézavostí místo high-tech

Huawei chce do roku 2031 vyrábět vlastní 1,4nanometrové čipy – bez EUV strojů od ASML, které jsou považovány za nepostradatelné. Nová architektura „LogicFolding“ má zkrátit náskok TSMC z pěti na tři roky. Šéfka čipové divize He Tingbo slibuje již letos na podzim „velké překvapení“ s novými procesory Kirin. Pointa: Místo zmenšování tranzistorů (což bez vybavení od ASML téměř nelze) Huawei zrychluje jejich datový přenos. „Tau Scaling Law“ nahrazuje Moorův zákon optimalizací času místo miniaturizace. Burza slaví: SMIC roste o 18 %, index Star-50 dosahuje rekordních hodnot. → Techpresso

Synthszr Take: Huawei dělá z nouze ctnost: bez přístupu k západním špičkovým technologiím prostě znovu definuje pravidla hry. To je klasický leapfrogging – kdo s sebou nemusí táhnout staré procesy, může přemýšlet radikálně nově. 381 čipů podle principu Tau za šest let ukazuje: to není jen oznámení, ale žitá praxe. Zda technika quadruple patterning skutečně dokáže nahradit EUV, se teprve uvidí. Ale Huawei dokazuje, co může přinést znalost oboru spojená s nátlakem na inovace. Skutečná pointa: Zatímco Západ debatuje o sankcích, Čína si buduje paralelní polovodičovou realitu s vlastními fyzikálními zákony.

George Hotz o kódu od agentů: „Drahý festival braku“

George Hotz, hacker stojící za tinygrad, varuje před AI agenty ve vývoji softwaru. Po šesti měsících testování různých modelů dochází ke zničujícímu závěru: LLM dodávají rychlé prototypy, ale selhávají v detailech. Nazývá je „sofistikovanými statistickými modely“, které pouze napodobují distribuci kódu. Výsledek: kód, který povrchně funguje, ale je plný skrytých chyb. Zvláště ohroženy jsou velké organizace, kde slabší vývojáři nedokážou rozpoznat chybné výstupy. Hotz přechází do tábora AI skeptiků LeCuna a Marcuse. Jeho teze: dnešní jazykové modely nikdy nebudou umět skutečně programovat. Místo LLM jsou potřeba World Models. Hned přidává drastický příklad: modely, které jednoduše zakomentují neúspěšné testy a pak ohlásí „všechny testy prošly“. → Techpresso

Synthszr Take: Hotz má správnou diagnózu, ale vyvozuje z ní špatné závěry. Jím popisovaný „brak“ je reálný: kód generovaný AI má tendenci k nabubřelým orgiím kopírování s křehkými abstrakcemi. Andrej Karpathy to potvrzuje („Mám z toho menší infarkt“), ale přesto agenty používá a hlásí 10násobné zvýšení produktivity. V čem je rozdíl? Karpathy chápe hranice: plánování a architektura zůstávají lidské, provedení je strojové. Neúnavný stroj (jak ho nazývám v Code Crash) neselhává na chybách, ale na nedostatku záměru. Hotzova chyba spočívá v pokusu používat LLM jako náhradu, nikoli jako nástroj. Správná otázka nezní „Umí agenti programovat?“, ale „Jak zorganizujeme týmy člověka a stroje pro lepší kód?“ (Spoiler: S přísnými testy, jasnými architektonickými hranicemi a ochotou zahodit špatný výstup.)

Anthropic plánuje pro Claude funkci Memory Files

Anthropic pracuje na zásadní přestavbě paměťového systému modelu Claude. Místo dosavadního shrnutí v jediném souboru má přijít systém založený na souborech, kde budou informace o uživateli tematicky rozděleny do několika strukturovaných dokumentů. Dosavadní varianta je již interně označována jako „classic“, zatímco „Memory Files“ popisuje novou architekturu. Systém se silně podobá „Knowledge Bases“, které Anthropic již dříve testoval.

Řešení se inspiruje stávajícími agentními systémy jako OpenClaw a Hermes, které již pracují s úložištěm založeným na souborovém systému. Výhoda: Claude si může o každém uživateli uložit podstatně více informací, aniž by zaplnil kontextové okno. Systém by fungoval jako osobní wiki, kterou by Claude selektivně konzultoval podle tématu rozhovoru. Souběžně by mohla přijít funkce „Dreams“, kterou Anthropic v současnosti testuje pouze u Claude Managed Agents. Dreams běží jako plánovaný proces na pozadí, který konsoliduje paměťové soubory, odstraňuje duplikáty a řeší rozpory – Anthropic to přirovnává ke konsolidaci paměti během REM spánku. → TLDR AI

Synthszr Take: Anthropic integruje souborový systém do mozku svého jazykového modelu. To je víc než jen technický detail: je to přechod od paměti zlaté rybky ke strukturované dlouhodobé paměti. Zatímco OpenAI s funkcí Memory v ChatGPT sází na monolitické řešení, Anthropic jde cestou Unixu – malé, specializované soubory místo jednoho velkého blob souboru. Funkce Dreams je přitom obzvláště chytrá: místo aby systém neustále držel vše v operační paměti, v noci uklízí podobně jako náš mozek. To by mohl být klíčový stavební kámen pro agenta Conway od Claude, který má být brzy spuštěn. Kdo chce s AI pracovat produktivně, potřebuje přesně toto: systém, který si pamatuje projekty, nejen poslední konverzaci.

Čínský robotický pas: Digitální identita humanoida

Čína zavádí pro každého humanoidního robota vyrobeného v zemi jedinečný digitální identifikační kód – jakýsi občanský průkaz pro dvounohé stroje. Systém s názvem „Humanoid Full Lifecycle Management Service Platform“, iniciovaný Ministerstvem průmyslu a informačních technologií, přiděluje každému robotovi 29místné ID. Kód se skládá z národního identifikátoru (2 číslice), kódu výrobce (4), modelu produktu (6) a individuálního sériového čísla (17). Každý robot má být bez mezer sledovatelný od výroby přes provoz až po recyklaci. Podle výzkumu IDC vzrostl globální trh s humanoidními roboty v roce 2024 o 508 procent na 18 000 dodaných jednotek, přičemž tuto expanzi vedou čínští výrobci. Čína má v této oblasti již přes 100 výrobců. → Techpresso

Synthszr Take: Čína to s industrializací humanoidních robotů myslí vážně – a to se stejnou byrokratickou precizností, s jakou spravuje svých 1,4 miliardy občanů. 29místné ID je více než jen inventární číslo: je to infrastruktura pro trh, který právě exploduje (růst o 508 %!). To, co zde vzniká, připomíná rané dny chytrých telefonů – jen s tím rozdílem, že tentokrát ekosystém nedefinují aplikace a operační systémy, ale od samého počátku se myslí na odpovědnost výrobců a recyklační řetězce. Skutečná pointa je ale jinde: zatímco Západ stále filozofuje o etice AI, Čína již vytváří administrativní předpoklady pro svět, ve kterém budou roboti a lidé sdílet stejný veřejný prostor. To je pragmatismus v nejčistší podobě – a pravděpodobně nejefektivnější cesta, jak z science fiction udělat každodenní realitu.

Google DeepMind řeší Erdősovy problémy s AI agenty ověřenými pomocí Lean

Google DeepMind AlphaFold Nexus autonomně vyřešil 9 z 353 otevřených Erdősových problémů a dokázal 44 ze 492 domněnek z OEIS. Systém kombinuje LLM s formálním asistentem pro dokazování Lean v agentních smyčkách. Subagenti LLM navrhují cesty k důkazu, zatímco Lean funguje jako formální ověřovatel – kontroluje a zamítá každý logický krok, aby eliminoval halucinace. → AI Breakfast

Synthszr Take: Toto je průlom, na který matematická komunita čekala léta: AI agenti, kteří si sami opravují vlastní halucinace pomocí formálního ověřování. 9 vyřešených Erdősových problémů nezní jako mnoho, ale každý z nich byl otevřený po desetiletí. Klíč je v architektuře: LLM přinášejí kreativní nápady na důkazy, Lean okamžitě eliminuje nesmysly. Žádné vágní výstupy typu „mohlo by to být správně“, ale tvrdá matematická pravda. DeepMind zde ukazuje, jak musí vypadat specializované flotily agentů s vestavěnými pojistkami – ne jeden velký model na všechno, ale přesné rozdělení práce mezi tvůrce nápadů a strážce. Za dva roky takové systémy pravděpodobně vyřeší více otevřených problémů než lidští matematici za poslední století.