Nepříznivý vítr pro OpenAI a Anthropic: Velcí zákazníci hledají alternativy

Velcí zákazníci jako Figma a ElevenLabs plánují opustit OpenAI a Anthropic

Investor Jason Calacanis v podcastu All-In-Podcast prohlásil, že několik největších zákazníků OpenAI a Anthropic připravuje svůj odchod. Jmenovitě uvádí ElevenLabs, Figma a Lovable, což jsou podle něj firmy, které platí poskytovatelům modelů 50 až 100 milionů dolarů ročně. Jako důvod uvádí důvěru: tito zákazníci se již nedomnívají, že se jejich dodavatelé sami nestanou jejich největšími konkurenty. Calacanis přitom poukazuje na Anthropic, který se z čistě poskytovatele modelů vyvíjí v produktovou společnost napříč celým hodnotovým řetězcem a proniká do oblastí designu, programování, práva a financí. Jako konkrétní příklad uvádí spuštění Claude Design, který přímo konkuruje Figmě. Zpráva neobsahuje potvrzení od zmíněných společností o skutečných přechodech nebo výpovědích; jedná se o Calacanisovo hodnocení. → AI Secret

Synthszr Take: Posílat 100 milionů dolarů ročně jednomu dodavateli je sázka na to, že sám nevstoupí na váš trh. Pro Figmu je tato sázka prohraná od chvíle, kdy existuje Claude Design. A z pohledu Anthropicu je tento krok logický: platící zákazník s každým voláním dodává i uživatelské vzorce, ze kterých lze postavit konkurenční produkt. Pro nákupní stranu se tím priority otočí během vteřin: vybudovat druhý zdroj, přístup k modelu umístit za vlastní abstrakční vrstvu a do příští smlouvy zahrnout zákazy konkurence a tvrdou klauzuli o využití vlastních uživatelských dat. V únoru to byl ještě Notion, kdo vyhodil Figmu a svůj design si dělal pomocí Claude Code; teď sedí Figma na druhé straně téhož stolu. Loajalita za tyto částky byla vždy koupená, jen od teď stojí víc než jen množstevní slevu na tokeny.

Boom poptávky: Moonshot pozastavuje nová předplatná Kimi

Společnost Moonshot AI večer 19. července přestala přijímat nová spotřebitelská předplatná poté, co poptávka po novém modelu Kimi K3 během 48 hodin dosáhla téměř hranice jejich výpočetní kapacity. Informuje o tom Hello China Tech. Model K3 byl uveden 17. července, má 2,8 bilionu parametrů a je zaměřen na stejný trh aplikací typu Coding-Agent a podnikových API, které obsluhují i čínští konkurenti. Moonshot je považován za jednu z nejlépe financovaných AI laboratoří v Číně. Dva dny po spuštění K3, 19. července, vydala společnost Alibaba s Qwen3.8-Max Preview další verzi své rodiny Qwen, která cílí na stejný segment. Zastavení registrací se podle zdroje týká nových soukromých zákazníků; zpráva neuvádí, jak dlouho má omezení trvat. → Hello China Tech

Synthszr Take: 48 hodin od spuštění po zastavení příjmu nových zákazníků: to je ta nejméně pohodlná forma úspěchu. Moonshot vytvořil model, který předběhl vlastní infrastrukturu, a nyní odmítá zákazníky, kteří už chtěli platit. Poptávka, kterou nelze uspokojit, se vydá na procházku a alternativa stála na poličce o dva dny později v podobě Qwen3.8-Max Preview. S 2,8 biliony parametrů stojí každý spotřebitelský chat znatelnou výpočetní dobu, zatímco tytéž karty v byznysu s podnikovými API vydělávají mnohonásobně víc: zastavení předplatného je také rozhodnutím o prioritách, které je lepší udělat sám, než si ho nechat vnutit latencí. Plánování růstu u těchto velikostí modelů je plánování kapacity a elegantními nástroji pro to jsou čekací listiny a omezené bezplatné úrovně; zavřené registrační tlačítko zůstává hrubým řešením. Při příštím spuštění modelu v Číně se vyplatí sledovat, kolik dní zůstane registrace otevřená.

Debata: stahuje se Google ze závodu v oblasti AI agentů?

Ksenia Se z Turing Post ve svém aktuálním vydání frontálně útočí na článek Alberta Romera (The Algorithmic Bridge) o rozsahu 8 000 slov a jeho klíčovou tezi označuje za nepravdivou. Romero tvrdí, že Google v závodě o agenty nezaostal, ale vědomě se stáhl, protože Demis Hassabis nevěří v rekurzivní sebezdokonalování, nýbrž ve světové modely, a podle toho korporaci směřuje. Se proti tomu staví argument, že kurz neurčuje Hassabis, ale Sundar Pichai, Sergey Brin a Larry Page, a cituje pro to důkazy, které částečně uvádí i sám Romero: interní tým pro dohánění ztráty, o kterém informoval The Information, Brinovo memorandum požadující naléhavé uzavření mezery v agentickém provádění a přeměnu vlastních modelů na vývojáře, a také 60hodinové pracovní týdny pro tým Gemini. Během hovoru o výsledcích za 2. čtvrtletí Pichai oznámil největší tréninkový běh v historii firmy pro Gemini 4, obhájil prognózu Capex ve výši 195 až 205 miliard dolarů a nechal smluvní závazky stoupnout přes 800 miliard dolarů, což Alphabet stlačilo do prvního čtvrtletí s negativním volným cash flow od vstupu na burzu. Se z rozhovoru, na který se Romero odvolává, navíc vyčítá, že Hassabis popisuje světové modely jako jednu z několika komponent, které navazují na Gemini, a svůj čas sám označuje za napůl výzkum, napůl produktovou práci. Jako nejtěžší důkaz uvádí personální spisy: laureát Nobelovy ceny John Jumper byl přeřazen do kódovacího týmu Code Strike a o několik měsíců později přešel do Anthropicu, spolu s Jonasem Adlerem a Alexanderem Pritzelem. → 🔳 Turing Post

Synthszr Take: Korporace, která odstupuje ze závodu, nepíše memoranda o 60hodinových pracovních týdnech a nespálí své první negativní cash flow čtvrtletí od roku 2004. Narativ o stažení je tak oblíbený, protože Googlu ponechává důstojnost stratéga, zatímco čísla jednoduše popisují potřebu dohánět ztrátu: 195 až 205 miliard Capex je cena za to, že v oblasti agentů zaostává za OpenAI a Anthropicem, nikoli důkaz elegantní speciální cesty. Zajímavá je interní zlomová linie, kterou Se odhaluje. DeepMind byl vybudován pro velké vědecké otázky, management chce vyhrát v oblasti podnikových agentů a rozpočet patří managementu. Když je laureát Nobelovy ceny přeřazen z proteinových struktur do kódovacího týmu a krátce nato sedí s dvěma kolegy u konkurence, je to účet, který Google platí za dohánění, a ten v žádném earnings callu nenajdete. Gemini 4 ukáže, jestli se peníze přeloží do vyrovnání ztráty; talent, který přitom odchází, se tak rychle nevrátí.

Nous Research nechává agenta Hermes uklízet své vlastní dovednosti procesem na pozadí

Nous Research implementoval pro svého agenta Hermes mechanismus údržby, který pravidelně prochází systémem vytvořené dovednosti a vzpomínky. Spoluzakladatel Karan Malhotra v rozhovoru s Peterem Yangem vysvětluje, že Hermes si nejen vytváří vlastní dovednosti, ale také je udržuje prostřednictvím takzvaného Hermes Curator. Curator běží jako plánovaný proces na pozadí a kontroluje uložený inventář na přebujelost, redundanci a neefektivitu. Projekt tím řeší známý problém samoučících se agentů: uložené schopnosti a poznámky s dobou používání narůstají a ztrácejí na přesnosti. Protože je Hermes k dispozici jako svobodný software, mohou si uživatelé podle Malhotry sami stanovit, co se v jejich kontextu považuje za Slop, a přepsat si úklidovou smyčku podle vlastních měřítek. Další podrobnosti o konkrétní implementaci nebo o počtech uživatelů rozhovor neuvádí. → MyClaw Newsletter

Synthszr Take: Na Hermesu je napínavá otázka, kdo píše kritéria pro mazání. U uzavřených asistentů rozhoduje poskytovatel, co z paměti vašeho agenta zase zmizí, a vy se to ani nedozvíte. Zde je definice odpadu v souboru, který si můžete otevřít a změnit. To je nejpraktičtější páka na řízení, jakou jsem za poslední měsíce viděl: co agent považuje za redundantní, je v daňové kanceláři něco úplně jiného než v produktovém týmu, a právě tato hranice musí zůstat vyjednatelná. Agenti, kteří jsou ponecháni sami sobě, zastarávají a ztrácejí důvěru svých uživatelů; automatizovaný Curator odvede tu mravenčí práci, ale měřítka zůstávají lidským nastavením. Pro firmy to znamená: katalog kritérií pro úklid patří do repozitáře, verzírovaný a se jmény autorů, jako každé jiné provozní pravidlo. Svobodný software zde vyhrává tím, že svému vlastnímu agentovi můžete říct, co smí zapomenout.

Čtvrtá spoluzakladatelka opouští Thinking Machines: Lilian Weng se vrací do OpenAI

Lilian Weng, spoluzakladatelka laboratoře Thinking Machines Lab Miry Murati, minulý týden oznámila svůj odchod a podle The Information o několik dní později znovu nastoupila do OpenAI, kde se zaměřuje na rekurzivní sebezdokonalování. Jako důvod odchodu uvedla zdravotní zátěž spojenou s rolí zakladatelky a touhu po více zaměřené pozici. Je tak čtvrtou spoluzakladatelkou, která opustila Thinking Machines během jednoho roku. Axios zařazuje tento případ do širšího trendu: Google v červnu ztratil Noama Shazeera ve prospěch OpenAI a laureáta Nobelovy ceny za chemii Johna Jumpera ve prospěch Anthropic, Meta viděla několik draze nakoupených výzkumníků pro superinteligenční jednotku Alexandra Wanga krátce poté opět odejít. Zdroj Axiosu uvádí, že šéf Anthropicu Dario Amodei interně vyjádřil obavu, že noví lidé přicházejí kvůli penězům, a ne kvůli misi. Kromě platu výzkumníci podle Axiosu uvádějí jako důvody pro změnu přístup k výpočetnímu výkonu, vliv na roadmapu a svobodu v technickém přístupu. Více než 400 bývalých zaměstnanců Apple nyní pracuje v OpenAI; Apple žaluje OpenAI a obviňuje firmu z toho, že použila interní kódová jména Apple k vylákání důvěrných informací od uchazečů. → Axios AI+

Synthszr Take: Čtyři ze spoluzakladatelů laboratoře, která existuje sotva rok, jsou pryč. To je konstrukční chyba ve vazbě. Amodeiova obava, že lidé přicházejí kvůli penězům, je v podstatě přiznáním, že vlastní mise jako pojivo proti lepší nabídce nestačí. Zajímavá je vedlejší věta v Axiosu, že někteří výzkumníci považují své vlastní časové okno za omezené, protože AI systémy jednoho dne převezmou vývoj modelů samy. Kdo věří, že jeho tržní hodnota má datum spotřeby, optimalizuje na peníze a viditelnost, ne na sounáležitost. Výzkumné programy ale žijí z důvěry a sdílených znalostí po léta, a přesně to se nedá dokoupit, když se stejných třicet lidí točí v kruhu. U Thinking Machines se personální rošády naznačovaly už v lednu; dnes víme, že to nebyla epizoda. Talent zůstává jen tam, kde změna něco stojí: výpočetní výkon ve vlastním dosahu, rozhodovací moc nad roadmapou, projekt, který je možný jen tady.

250 otrávených dokumentů stačí na vytvoření zadních vrátek v modelech jakékoli velikosti

Tým Alignment Science společnosti Anthropic společně s UK AI Security Institute a Alan Turing Institute zveřejnil studii o Data Poisoning, podle které již zhruba 250 zmanipulovaných tréninkových dokumentů stačí k ukotvení zadních vrátek v jazykovém modelu. Testovaly se modely od 600 milionů do 13 miliard parametrů; ten největší z nich byl podle autorů nakrmen více než dvacetinásobným množstvím tréninkových dat než ten nejmenší, ale dal se kompromitovat stejným malým, absolutním počtem otrávených dokumentů. Práce tak vyvrací dosud běžný předpoklad, že útočník musí kontrolovat procentuální podíl tréninkových dat. Zkoumaný útok je záměrně úzce vymezen: spouštěcí slovo '<SUDO>' přiměje model k výstupu náhodného zmatku znaků, což vědci mohli měřit pomocí perplexity výstupů, bez dalšího fine-tuningu. Každý otrávený dokument se skládal z krátkého úryvku textu, připojeného spouštěče a 400 až 900 náhodně vybraných tokenů. Autoři to nazývají dosud největším vyšetřováním otravy dat a píší, že je otevřené, zda tento vzorec platí i pro větší modely a škodlivější chování. → ByteByteGo

Synthszr Take: Skutečným výsledkem této studie je měrná jednotka. Výzkum léta počítal otravu dat v procentech tréninkových dat, a v tomto výpočtu se modely s každým dalším terabajtem automaticky stávaly bezpečnějšími. Těch 250 dokumentů tuto uklidňující představu vyvrací: pokud potřebné množství zůstává konstantní, zatímco datový korpus roste 20krát, pak se útok s každým stupněm škálování stává relativně levnějším. 250 dokumentů je odpolední práce pro jednu osobu s několika blogy, žádná operace s rozpočtem. To, že testované chování je neškodné (zmatek znaků na povel), nemění nic na řádu velikosti, jen ho činí měřitelným. Zajímavé bude další číslo: pokud konstanta platí i pro 70 nebo 400 miliard parametrů, práce se přesune od architektury modelů k ověřování původu tréninkových dat, tedy k deduplikaci, dokazování původu a detekci spouštěčů před pre-trainingem. Obor, ve kterém dosud téměř nikdo nepublikoval.

Peněženky Coldcard přišly o 70 milionů dolarů, aniž by se kdokoli dotkl jediného zařízení

Z 1 196 hardwarových peněženek Coldcard bylo 30. července během 41 minut odčerpáno 1 082,65 Bitcoinu, v přepočtu zhruba 70 milionů dolarů. Galaxy Research podle vlastních údajů celý proces plně zrekonstruoval: odlivy jsou rozděleny do šesti bloků mezi 01:10 a 01:51 UTC; tři mezilehlé bloky neobsahují žádnou z transakcí, což naznačuje dávkové přenosy v několika vlnách. Výtěžek se nachází na čtyřech adresách a dosud nebyl přesunut; první zpráva zaznamenala pouze jednu z těchto adres, proto se částka oproti původně hlášeným 594 BTC téměř zdvojnásobila. Příčinou je podle vyšetřovatelů chyba firmwaru v určitých verzích Coldcard: interní nastavení sestavení způsobilo, že zařízení přeskočilo dedikovaný hardwarový generátor náhodných čísel, a kontrola v začleněné knihovně testovala pouze, zda nastavení existuje, nikoli zda je aktivováno. Generování klíčů se tak vrátilo k jednoduché softwarové náhražce, která byla napájena sériovým číslem čipu a jeho taktovacími registry, čímž se vlastně neuhodnutelná Seed Phrase stala výpočetně prohledatelnou. Bezpečnostní firmy varují, že by mohly být postiženy další peněženky, protože majitelé nemohou spolehlivě zjistit, na jakém firmwaru jejich seed vznikl. → Techpresso

Synthszr Take: Celý útok se vejde do jednoho řádku chybné kontrolní logiky: knihovna se ptala, zda konfigurační přepínač existuje, místo aby se ptala, zda je nastaven na „zapnuto“. Poté si generování klíčů bralo náhodnost z výrobního sériového čísla a taktovacích registrů čipu. Obojí je buď pevné, nebo předvídatelné ve velmi malém rozsahu, takže prostor možných seedů lze propočítat offline, s hardwarem, který si lze pronajmout na hodiny u jakéhokoli poskytovatele cloudu. Zařízení se chovalo správně; nikdy nevydalo klíč; nikdy nebylo připojeno k síti, a nic z toho nepomohlo: fyzické oddělení chrání přenosovou cestu, zatímco hodnota zde spočívala v kvalitě generované náhodnosti. Právě proto je situace pro postižené tak nepříjemná, protože kompromitovaný klíč vypadá zvenčí jako zdravý a aktualizace firmwaru neopraví seed, který vznikl jako slabý před měsíci. Útočník podle Galaxy Research hledá dál, metodou, která nevyžaduje interakci s oběťmi a jejíž jedinou hranicí je výpočetní čas. Pokud používáte model Coldcard s postiženým firmwarem, vygenerujte seed na ověřeném firmwaru znovu a přesuňte prostředky dnes, ne příští týden.

AI kódovací agenti nahlodávají CUDA, skutečnou konkurenční výhodu Nvidie

Business Insider informuje, že softwarová vrstva CUDA od Nvidie se dostává pod tlak ze strany AI kódovacích agentů. CUDA, zkratka pro Compute Unified Device Architecture, je podle zprávy již zhruba dvě desetiletí skutečným jádrem náskoku: ten netvoří jen samotné čipy, ale software, který z nich dělá stavební kameny pro umělou inteligenci. Za autora zpráva označuje dlouholetého manažera Nvidie Iana Bucka, který tuto oblast dodnes vede. Argumentace článku: konkurenční výhoda, která byla dlouho považována za nedotknutelnou, ztrácí na stabilitě, protože kódovací agenti mohou přepisovat software, který byl dosud vázán na CUDA. Týká se to tedy úrovně GPU-Kernel, tedy výpočetních rutin blízkých hardwaru, jejichž optimalizace dosud vyžadovala specializovanou vývojářskou práci. Business Insider to hodnotí jako novou hrozbu pro pozici Nvidie, aniž by uváděl konkrétní časový horizont. → Business Insider

Synthszr Take: CUDA je software a software je přesně to, co agenti přepisují nejlépe. Náskok spočíval ve dvou věcech: milionech řádků ručně optimalizovaných kernelů a generaci vývojářů, která se dvacet let neučila nic jiného. Přechod byl vždy otázkou nákladů, ne proveditelnosti: přepsat kernely, ověřit numeriku, měsíce honit výkon, a na konci máte s trochou štěstí 90 procent původní rychlosti. Právě tato nákladová pozice nyní klesá a úzké hrdlo se přesouvá od psaní k ověřování. Agent, který přes noc vyprodukuje ROCm-kernely, které při tréninku dávají identické výsledky, potřebuje benchmarky místo dem, protože tiché odchylky v přesnosti s plovoucí desetinnou čárkou si všimnete až po třetím tréninkovém běhu. V příštím nákupním cyklu bude o alternativách rozhodovat testovací sada, která přechod potvrdí, nebo ne. Jestli v týmu ještě někdo umí psát CUDA ručně, je pak menší otázka.

Studie: Startupy financované rizikovým kapitálem podvádějí častěji – investoři se na tom podílejí

Výzkumníci z Imperial College London a Emlyon Business School zkoumali, jak zakladatelé technologických firem financovaných rizikovým kapitálem páchají podvody a jakou roli v tom hrají jejich investoři. Pro práci zveřejněnou v červnu tým pod vedením Tima Weisse a Neveny Radoynovske vytvořil databázi všech zakladatelů a firem, proti kterým SEC a DOJ v letech 2000 až 2023 vedly civilní nebo trestní řízení kvůli podvodům s cennými papíry. Autoři popisují třístupňový vzorec, který nazývají Façading: od přikrášleného zobrazení úspěchu v prezentaci přes falešné doklady až po zmanipulované demonstrace produktů, což v práci ilustrují na aplikaci pro mobilní testování, která s fiktivními smlouvami se zákazníky a fiktivními tržbami získala miliardové hodnocení. Paralelně zveřejněná studie University of Toronto vyhodnotila 654 případů podvodů proti americkým startupům s rizikovým kapitálem ve stejném období: podvody zůstávají celkově vzácné, ale u firem financovaných rizikovým kapitálem se vyskytují častěji než u firem bez takového financování. Firmy, které byly založeny v přehřátých fázích trhu se slabým dohledem a laxní kontrolou ze strany investorů, páchají podle studie s o 19 procent vyšší pravděpodobností později podvod. Startupy s dozorčími radami ovládanými zakladateli byly postiženy dvakrát častěji než ty s radami ovládanými investory nebo sdílenými radami, a podle torontské práce dřívější obvinění z podvodu zakladatelům jen stěží brání v získávání nového kapitálu pro další firmu. Weiss navrhuje, aby SEC prováděla pravidelné formální audity a poukazuje na to, že pro zakladatele neexistuje profesní sdružení, které by mohlo prosazovat pravidla chování. → StrictlyVC

Synthszr Take: Těch 19 procent je nejzajímavější zjištění, protože ukazuje na fáze trhu a hloubku prověřování. Přehřátí plus povrchní due diligence vytváří očekávání růstu, která žádný reálný provoz nemůže naplnit, a pak někdo začne vymýšlet smlouvy. To, že rady ovládané zakladateli zdvojnásobují pravděpodobnost podvodu, je rozhodnutí o designu, které se činí v každém term sheetu, často ve prospěch rychlosti obchodu. Ještě poučnější: trh prakticky netrestá pochybení, jak ukazují data z Toronta, a to ani v případech s velkou mediální pozorností. Ekosystém, který oslavuje neúspěch, aniž by se ptal na jeho příčinu, produkuje přesně tuto zpětnou vazbu. V současném AI prostředí s jeho nafouklými čísly ARR jsou splněny všechny podmínky studie, a vlna žalob po vstupu na burzu přichází podle dat typicky do dvou let. Dokud obvinění z podvodu v životopise nestojí další kolo financování, je 19procentní míra započítanou součástí modelu.

Šéf Anthropicu Amodei vysvětluje v eseji „Machines of Loving Grace“, proč není pesimista

Dario Amodei ve svém eseji „Machines of Loving Grace“ z října 2024 rozvedl, jak by mohl vypadat svět s velmi výkonnou umělou inteligencí, pokud by se podařilo zvládnout rizika. CEO Anthropicu v něm odmítá označení, že je pesimista: jeho práce na rizicích je prý založena právě na tom, že tato rizika jsou jedinou věcí, která stojí mezi současností a pozitivní budoucností. Podle jeho názoru většina lidí podceňuje jak velikost možného přínosu, tak závažnost nebezpečí. Amodei uvádí čtyři důvody, proč Anthropic veřejně mluví především o rizicích: maximalizovat vlastní dopad, vyhnout se dojmu propagandy, vyhnout se grandióznosti a vyhnout se „sci-fi“ balastu debat o světě po AGI. Samotný text se zaměřuje na pět oblastí, ve kterých vidí největší přímý dopad na kvalitu života: biologie a fyzické zdraví, neurověda a duševní zdraví, ekonomický rozvoj a chudoba, mír a správa věcí veřejných, a práce a smysl. Amodei své prognózy sám označuje za domněnky a píše, že tým odborníků by mohl napsat lepší verzi textu. Esej v současné době opět koluje prostřednictvím The Argument. → The Argument

Synthszr Take: Amodeiovo zdůvodnění jeho veřejného mlčení o přínosech a zaměření na rizika je na textu to nejzajímavější, a je to argument pákového efektu: přínos podle něj přijde tak jako tak, protože ho pohánějí tržní síly, formovatelná jsou pouze rizika. To je ekonomicky čistá dělba práce a vysvětluje, proč bezpečnostní laboratoř léta zní jako oddělení varování. Ale strach nefinancuje roadmapu. Proto dodává pět oblastí, s detaily místo obecných frází, a tím se stává ověřitelným: biologie, duševní zdraví, chudoba, správa věcí veřejných, práce a smysl jsou oblasti, kde se dají počítat výsledky. Stejný vzorec známe z transformačních projektů ve firmách: udržovaný registr rizik nikoho nerozhýbe, dokud neexistuje obraz toho, co má úsilí nakonec přinést. Měřítko je nyní nastaveno na biologii, obor, ve kterém je Amodei sám odborníkem. Pokud Anthropic za dva roky neprokáže doložitelné zrychlení ve výzkumu léčiv, bude esej čten jako próza, a ne jako prognóza.