Vents contraires pour OpenAI et Anthropic : les grands comptes cherchent des alternatives

Des grands comptes comme Figma et ElevenLabs prévoient de quitter OpenAI et Anthropic

L’investisseur Jason Calacanis a affirmé dans le podcast All-In que plusieurs des plus grands clients d’OpenAI et d’Anthropic préparent leur départ. Il nomme notamment ElevenLabs, Figma et Lovable, des entreprises qui, selon lui, versent entre 50 et 100 millions de dollars par an aux fournisseurs de modèles. Il évoque la confiance comme raison principale : ces clients ne supposent plus que leurs fournisseurs ne deviendront pas eux-mêmes leurs plus grands concurrents. Calacanis cite l’exemple d’Anthropic, qui évolue d’un simple fournisseur de modèles à une entreprise de produits couvrant toute la chaîne de valeur, s’implantant dans le design, la programmation, le droit et la finance. Il mentionne comme exemple concret le lancement de Claude Design, qui concurrence directement Figma. Le rapport ne contient aucune confirmation de la part des entreprises citées concernant des changements ou des résiliations effectifs ; il s’agit de l’évaluation de Calacanis. → AI Secret

Synthszr Take : Verser 100 millions de dollars par an à un fournisseur est un pari sur le fait qu’il ne s’immiscera pas sur votre propre marché. Pour Figma, ce pari est perdu depuis l’existence de Claude Design. Et du point de vue d’Anthropic, la démarche est logique : à chaque appel, le client payant fournit également les modèles d’utilisation qui permettent de construire le produit concurrent. Côté acheteur, cela change les priorités en quelques secondes : mettre en place une deuxième source, placer l’accès au modèle derrière sa propre couche d’abstraction, et inclure dans le prochain contrat des clauses de non-concurrence et une clause stricte sur l’exploitation de ses propres données d’utilisation. En février, c’était encore Notion qui mettait Figma à la porte et réalisait son design avec Claude Code ; maintenant, Figma se trouve de l’autre côté de la table. La loyauté à ce niveau de prix a toujours été achetée, mais elle coûtera désormais plus qu’une simple remise sur le volume de tokens.

Boom de la demande : Moonshot suspend les nouveaux abonnements Kimi

Le soir du 19 juillet, Moonshot AI a cessé d’accepter de nouveaux abonnements grand public après que la demande pour son nouveau modèle Kimi K3 a presque atteint la limite de sa capacité de calcul en 48 heures. C’est ce que rapporte Hello China Tech. K3 a été lancé le 17 juillet, avec 2,8 billions de paramètres et destiné au même marché des applications d'Coding-Agent et des API d’entreprise que ses concurrents chinois. Moonshot est considéré comme l’un des laboratoires d’IA les mieux financés de Chine. Deux jours après le lancement de K3, le 19 juillet, Alibaba a publié Qwen3.8-Max Preview, la nouvelle version de sa famille Qwen, qui vise le même segment. Selon la source, le gel des inscriptions concerne les nouveaux clients particuliers ; le rapport ne précise pas la durée de cette suspension. → Hello China Tech

Synthszr Take : 48 heures entre le lancement et l’arrêt des inscriptions : c’est la forme de succès la plus inconfortable. Moonshot a créé un modèle qui dépasse sa propre infrastructure et refuse maintenant des clients qui étaient prêts à payer. Une demande que l’on ne peut satisfaire s’en va ailleurs, et l’alternative, Qwen3.8-Max Preview, était disponible deux jours plus tard. Avec 2,8 billions de paramètres, chaque chat grand public coûte un temps de calcul considérable, tandis que les mêmes cartes graphiques rapportent bien plus dans le secteur des API d’entreprise. L’arrêt des abonnements est aussi une décision de priorisation qu’il vaut mieux prendre soi-même plutôt que de se la laisser imposer par la latence. À cette échelle de modèle, la planification de la croissance est une planification de la capacité, et les instruments élégants pour cela sont les listes d’attente et les niveaux gratuits limités ; le bouton d’inscription fermé reste la solution de force. Pour le prochain lancement de modèle en Chine, il sera intéressant de voir combien de jours les inscriptions resteront ouvertes.

Débat : Google se retire-t-il de la course aux agents ?

Dans sa dernière édition, Ksenia Se du Turing Post attaque frontalement un article de 8 000 mots d’Alberto Romero (The Algorithmic Bridge) et qualifie sa thèse centrale de fausse. Romero affirme que Google n’a pas pris de retard dans la course aux agents, mais s’est délibérément retiré parce que Demis Hassabis ne croit pas en l'rekursive Selbstverbesserung mais aux modèles du monde, et oriente l’entreprise en conséquence. Se rétorque que ce n’est pas Hassabis qui fixe le cap, mais Sundar Pichai, Sergey Brin et Larry Page, et cite pour preuve des éléments que Romero lui-même avance en partie : une équipe de rattrapage interne rapportée par The Information, un mémo de Brin exigeant de combler d’urgence le fossé dans l’exécution agentique et de transformer leurs propres modèles en développeurs, ainsi que des semaines de 60 heures pour l’équipe Gemini. Lors de l’appel sur les résultats du T2, Pichai a annoncé le plus grand cycle d’entraînement de l’histoire de l’entreprise pour Gemini 4, a défendu une prévision de Capex de 195 à 205 milliards de dollars et a laissé les engagements contractuels dépasser les 800 milliards de dollars, ce qui a plongé Alphabet dans son premier trimestre avec un flux de trésorerie disponible négatif depuis son introduction en bourse. Se déduit également de l’interview sur laquelle Romero s’appuie que Hassabis décrit les modèles du monde comme l’un des nombreux composants s’appuyant sur Gemini, et qualifie lui-même son temps de moitié recherche, moitié travail sur le produit. Comme preuve la plus solide, elle cite les dossiers du personnel : le lauréat du prix Nobel John Jumper a été transféré dans l’équipe de codage Code Strike et a rejoint Anthropic quelques mois plus tard, avec Jonas Adler et Alexander Pritzel. → 🔳 Turing Post

Synthszr Take : Une entreprise qui se retire d’une course n’écrit pas de mémos sur les semaines de 60 heures et ne brûle pas son premier trimestre de cash-flow négatif depuis 2004. Le récit du retrait est si populaire parce qu’il confère à Google la dignité d’un stratège, alors que les chiffres décrivent simplement un besoin de rattrapage : 195 à 205 milliards de Capex sont le prix à payer pour être derrière OpenAI et Anthropic sur les agents, pas la preuve d’une voie alternative élégante. La fracture interne révélée par Se est intéressante. DeepMind a été conçu pour de grandes questions scientifiques, la direction veut gagner la course aux agents d’entreprise, et le budget appartient à la direction. Quand un lauréat du prix Nobel est transféré de la structure des protéines à une équipe de codage et se retrouve peu après chez la concurrence avec deux collègues, c’est la facture que Google paie pour son rattrapage, et elle n’apparaît dans aucun appel de résultats. Gemini 4 montrera si l’argent peut se traduire en comblement de retard ; le talent qui part en cours de route ne reviendra pas de sitôt.

Nous Research permet à Hermes de nettoyer ses propres compétences via un processus d’arrière-plan

Nous Research a intégré un mécanisme de maintenance pour son agent Hermes, qui examine régulièrement les compétences et les souvenirs auto-générés du système. Le co-fondateur Karan Malhotra explique dans une interview avec Peter Yang que Hermes ne se contente pas de créer ses propres compétences, mais les entretient également via le 'Hermes Curator'. Le Curator s’exécute comme un processus d’arrière-plan planifié et vérifie l’inventaire stocké pour y déceler les éléments superflus, redondants et inefficaces. Le projet s’attaque ainsi à un problème connu des agents auto-apprenants : les compétences et notes stockées s’accumulent avec le temps d’utilisation et perdent en précision. Comme Hermes est un logiciel librement disponible, les utilisateurs peuvent, selon Malhotra, définir eux-mêmes ce qui est considéré comme du Slop dans leur contexte et réécrire la boucle de nettoyage selon leurs propres critères. L’interview ne fournit pas plus de détails sur l’implémentation concrète ou les chiffres d’utilisation. → MyClaw Newsletter

Synthszr Take : Le point le plus intéressant concernant Hermes est la question de savoir qui définit les critères de suppression. Avec les assistants propriétaires, c’est le fournisseur qui décide ce qui disparaît de la mémoire de votre agent, et vous ne l’apprenez même pas. Ici, la définition du 'déchet' se trouve dans un fichier que vous pouvez ouvrir et modifier. C’est le levier de gouvernance le plus pratique que j’ai vu depuis des mois : ce qu’un agent considère comme redondant est totalement différent dans un cabinet d’avocats fiscalistes et dans une équipe produit, et ce seuil doit précisément rester négociable. Les agents livrés à eux-mêmes deviennent obsolètes et perdent la confiance de leurs utilisateurs ; un Curator automatisé se charge du travail fastidieux, mais les critères restent une décision humaine. Pour les entreprises, cela signifie que le catalogue de critères de nettoyage doit être dans le dépôt de code, versionné et attribué, comme toute autre règle de fonctionnement. Le logiciel libre l’emporte ici car on peut dire à son propre agent ce qu’il a le droit d’oublier.

Quatrième co-fondatrice à quitter Thinking Machines : Lilian Weng retourne chez OpenAI

Lilian Weng, co-fondatrice du Thinking Machines Lab de Mira Murati, a annoncé son départ la semaine dernière et, selon The Information, a recommencé à travailler chez OpenAI quelques jours plus tard, en se concentrant sur l’auto-amélioration récursive (recursive self-improvement). Elle a justifié son départ par la pression sur sa santé liée à son rôle de fondatrice et son désir d’un poste plus ciblé. Elle est ainsi la quatrième co-fondatrice à quitter Thinking Machines en l’espace d’un an. Axios place ce cas dans un mouvement plus large : en juin, Google a perdu Noam Shazeer au profit d’OpenAI et le lauréat du prix Nobel de chimie John Jumper au profit d’Anthropic ; Meta a vu plusieurs chercheurs recrutés à grands frais pour l’unité de Superintelligence d’Alexandr Wang repartir peu de temps après. Une source d’Axios rapporte que le PDG d’Anthropic, Dario Amodei, a exprimé en interne sa préoccupation que les nouvelles recrues viennent pour l’argent et non pour la mission. Outre la rémunération, les chercheurs citent, selon Axios, l’accès à la puissance de calcul, l’influence sur la feuille de route et la liberté dans l’approche technique comme raisons de changer d’entreprise. Plus de 400 anciens employés d’Apple travaillent désormais chez OpenAI ; Apple poursuit OpenAI en justice, accusant l’entreprise d’avoir utilisé des noms de code internes d’Apple pour soutirer des informations confidentielles à des candidats. → Axios AI+

Synthszr Take : Quatre des co-fondateurs d’un laboratoire qui n’existe que depuis un peu plus d’un an sont partis. C’est un défaut de conception dans la rétention. La crainte d’Amodei que les gens viennent pour l’argent est fondamentalement l’aveu que la mission de l’entreprise ne suffit pas comme force de rétention face à une meilleure offre. La remarque incidente d’Axios est intéressante : certains chercheurs considèrent que leur propre fenêtre d’opportunité est limitée, car les systèmes d’IA finiront par prendre en charge eux-mêmes le développement de modèles. Celui qui croit que sa valeur marchande a une date d’expiration optimise pour le salaire et la visibilité, pas pour l’appartenance. Or, les programmes de recherche vivent de la confiance et du savoir partagé sur des années, et c’est précisément ce qui ne peut être acheté lorsque les trente mêmes personnes tournent en rond. Chez Thinking Machines, le jeu des chaises musicales se dessinait déjà en janvier ; aujourd’hui, on sait que ce n’était pas un simple épisode. Le talent ne reste que là où un départ a un coût : un accès direct à la puissance de calcul, un pouvoir de décision sur la feuille de route, un projet qui n’est possible qu’ici.

250 documents empoisonnés suffisent pour créer une porte dérobée dans des modèles de toute taille

L’équipe Alignment Science d’Anthropic, en collaboration avec le UK AI Security Institute et l’Alan Turing Institute, a publié une étude sur le Data Poisoning selon laquelle environ 250 documents d’entraînement manipulés suffisent pour implanter une porte dérobée (backdoor) dans un modèle de langage. Des modèles de 600 millions à 13 milliards de paramètres ont été testés ; le plus grand d’entre eux a été entraîné avec plus de vingt fois plus de données que le plus petit, selon les auteurs, mais a pu être compromis avec la même petite quantité absolue de documents empoisonnés. Ce travail contredit ainsi l’hypothèse courante selon laquelle un attaquant doit contrôler un pourcentage des données d’entraînement. L’attaque étudiée est délibérément limitée : le mot déclencheur « <SUDO> » amène le modèle à produire une suite de caractères aléatoires, ce que les chercheurs ont pu mesurer via la perplexité des sorties, sans fine-tuning supplémentaire. Chaque document empoisonné se composait d’un court extrait de texte, du déclencheur ajouté et de 400 à 900 tokens tirés au hasard. Les auteurs la qualifient de plus grande étude sur l’empoisonnement à ce jour et écrivent qu’il reste à déterminer si ce schéma s’applique également à des modèles plus grands et à des comportements plus nuisibles. → ByteByteGo

Synthszr Take : Le véritable résultat de cette étude est une unité de mesure. Pendant des années, la recherche a calculé l’empoisonnement en pourcentage des données d’entraînement, et selon ce calcul, les modèles devenaient automatiquement plus sûrs à chaque téraoctet supplémentaire. Les 250 documents mettent fin à cette tranquillité d’esprit : si la quantité nécessaire reste constante alors que le corpus de données est multiplié par 20, l’attaque devient relativement moins chère à chaque étape de mise à l’échelle. 250 documents, c’est un après-midi de travail pour une personne avec quelques blogs, pas une opération nécessitant un budget. Le fait que le comportement testé soit inoffensif (charabia sur commande) ne change rien à l’ordre de grandeur, il ne fait que le rendre mesurable. Le prochain chiffre sera intéressant : si la constante se maintient pour 70 ou 400 milliards de paramètres, le travail se déplacera de l’architecture du modèle vers la vérification de la provenance des données d’entraînement, c’est-à-dire la déduplication, la traçabilité de l’origine et la détection de déclencheurs avant le pré-entraînement. Un domaine dans lequel presque personne n’a publié jusqu’à présent.

Des portefeuilles Coldcard perdent 70 millions de dollars sans qu’aucun appareil n’ait été touché

Le 30 juillet, 1 082,65 bitcoins, soit environ 70 millions de dollars, ont été retirés de 1 196 portefeuilles matériels Coldcard en 41 minutes. Galaxy Research affirme avoir entièrement reconstitué le déroulement des événements : les retraits sont répartis sur six blocs entre 01:10 et 01:51 UTC ; trois blocs intermédiaires ne contiennent aucune de ces transactions, ce qui suggère un transfert groupé par lots. Les fonds se trouvent sur quatre adresses et n’ont pas encore été déplacés ; le premier rapport ne concernait qu’une de ces adresses, c’est pourquoi la somme a presque doublé par rapport aux 594 BTC initialement annoncés. Selon les enquêteurs, la cause est un bug de firmware dans certaines versions de Coldcard : un paramètre de compilation interne faisait que l’appareil ignorait le générateur de nombres aléatoires matériel dédié, et une vérification dans une bibliothèque intégrée testait uniquement si le paramètre existait, et non s’il était activé. La génération de clés s’est donc rabattue sur un simple substitut logiciel alimenté par le numéro de série de la puce et ses registres d’horloge, rendant la Seed Phrase, normalement impossible à deviner, calculable par recherche. Les entreprises de sécurité avertissent que d’autres portefeuilles pourraient être concernés, car les propriétaires ne peuvent pas déterminer de manière fiable avec quel firmware leur seed a été créé. → Techpresso

Synthszr Take : L’attaque entière tient dans une seule ligne de logique de vérification défectueuse : la bibliothèque a demandé si un commutateur de configuration existait, au lieu de demander s’il était sur 'on'. Ensuite, la génération de clés a tiré son caractère aléatoire du numéro de série d’usine et des registres d’horloge de la puce. Les deux sont soit fixes, soit prévisibles dans une plage très limitée, ce qui permet de calculer hors ligne l’espace des seeds possibles avec du matériel que l’on peut louer à l’heure chez n’importe quel fournisseur de cloud. L’appareil s’est comporté correctement ; il n’a jamais divulgué de clé ; il n’a jamais été connecté au réseau, et cela n’a servi à rien : la séparation physique protège la voie de transmission, alors que la valeur résidait ici dans la qualité de l’aléa généré. C’est précisément pourquoi la situation est si désagréable pour les personnes concernées, car une clé compromise ressemble de l’extérieur à une clé saine, et une mise à jour du firmware ne répare pas un seed qui a été créé de manière faible des mois auparavant. Selon Galaxy Research, l’attaquant continue ses recherches avec une méthode qui ne nécessite aucune interaction avec les victimes et dont la seule limite est le temps de calcul. Si vous utilisez un modèle Coldcard avec un firmware concerné, générez un nouveau seed sur un firmware vérifié et déplacez vos fonds aujourd’hui, pas la semaine prochaine.

Les agents de codage IA s’attaquent à CUDA, le véritable avantage concurrentiel de Nvidia

Business Insider rapporte que la couche logicielle CUDA de Nvidia est mise sous pression par les agents de codage IA. CUDA, abréviation de Compute Unified Device Architecture, est selon le rapport le véritable cœur de l’avantage de l’entreprise depuis une vingtaine d’années : ce ne sont pas seulement les puces qui le portent, mais le logiciel qui les transforme en briques de base pour l’intelligence artificielle. Le rapport cite comme créateur Ian Buck, un manager de longue date chez Nvidia, qui est encore aujourd’hui responsable de ce domaine. L’argument de l’article : l’avantage concurrentiel, longtemps considéré comme inattaquable, perd de sa stabilité car les agents de codage peuvent réécrire des logiciels jusqu’alors dépendants de CUDA. Cela affecte le niveau des GPU-Kernel, c’est-à-dire les routines de calcul proches du matériel, dont l’optimisation exigeait jusqu’à présent un travail de développement spécialisé. Business Insider qualifie cela de nouvelle menace pour la position de Nvidia, sans donner d’horizon temporel précis. → Business Insider

Synthszr Take : CUDA est un logiciel, et le logiciel est précisément ce que les agents réécrivent le mieux. L’avantage reposait sur deux choses : des millions de lignes de kernels optimisés à la main et une génération de développeurs qui n’a rien appris d’autre pendant vingt ans. Changer a toujours été une question de coût, pas de faisabilité : réécrire les kernels, vérifier les calculs numériques, chercher la performance pendant des mois, pour au final atteindre avec un peu de chance 90 % de la vitesse d’origine. C’est précisément ce coût qui baisse maintenant, et le goulot d’étranglement se déplace de l’écriture à la vérification. Un agent qui produit en une nuit des kernels ROCm donnant des résultats identiques à l’entraînement a besoin de benchmarks, pas de démos, car les écarts silencieux dans la précision en virgule flottante ne se remarquent qu’après le troisième cycle d’entraînement. Dans le prochain cycle d’approvisionnement, la décision sur les alternatives sera prise par la suite de tests qui prouvera, ou non, la validité du changement. La question de savoir si quelqu’un dans l’équipe peut encore écrire du CUDA à la main deviendra alors secondaire.

Études : les startups financées par le capital-risque fraudent plus souvent – avec la complicité des investisseurs

Des chercheurs de l’Imperial College London et de l’Emlyon Business School ont étudié comment les fondateurs de startups technologiques financées par le capital-risque commettent des fraudes et le rôle que jouent leurs investisseurs. Pour leur étude publiée en juin, l’équipe de Tim Weiss et Nevena Radoynovska a constitué une base de données de tous les fondateurs et entreprises poursuivis au civil ou au pénal par la SEC et le DOJ pour fraude sur les valeurs mobilières entre 2000 et 2023. Les auteurs décrivent un schéma en trois étapes qu’ils nomment Façading : de la présentation embellie du succès dans le pitch aux démonstrations de produits truquées, en passant par de faux justificatifs, illustré dans l’article par une application de test mobile qui a atteint une valorisation d’un milliard de dollars grâce à des contrats clients et des revenus fictifs. Une étude parallèle de l’Université de Toronto a analysé 654 cas de fraude contre des startups américaines financées par capital-risque sur la même période : la fraude reste globalement rare, mais elle est plus fréquente chez les entreprises financées par capital-risque que chez celles qui ne le sont pas. Selon l’étude, les entreprises lancées dans des phases de marché surchauffé avec une faible surveillance et un contrôle laxiste des investisseurs ont 19 % plus de risques de commettre une fraude plus tard. Les startups avec des conseils d’administration contrôlés par les fondateurs étaient deux fois plus souvent touchées que celles avec des conseils contrôlés par les investisseurs ou partagés. Selon l’étude de Toronto, des accusations de fraude antérieures n’empêchent guère les fondateurs de lever de nouveaux capitaux pour leur prochaine entreprise. Weiss suggère que la SEC effectue régulièrement des audits formels et souligne qu’il n’existe pas d’ordre professionnel pour les fondateurs qui pourrait faire respecter des règles de conduite. → StrictlyVC

Synthszr Take : Le chiffre de 19 % est la conclusion la plus intéressante car il met en lumière les phases de marché et la profondeur de l’audit. La surchauffe combinée à une due diligence superficielle crée des attentes de croissance qu’aucune opération réelle ne peut satisfaire, et c’est alors que quelqu’un commence à inventer des contrats. Le fait que les conseils d’administration contrôlés par les fondateurs doublent la probabilité de fraude est une décision de conception prise dans chaque term sheet, souvent en faveur de la rapidité de la transaction. Encore plus révélateur : le marché ne sanctionne pratiquement pas les comportements répréhensibles, comme le montrent les données de Toronto, même dans les cas très médiatisés. Un écosystème qui célèbre l’échec sans s’interroger sur sa cause produit exactement ce type de boucle de rétroaction. Dans l’environnement actuel de l’IA, avec ses chiffres d’ARR gonflés, toutes les conditions de l’étude sont réunies, et la vague de poursuites après l’introduction en bourse survient généralement dans les deux ans, selon les données. Tant qu’une accusation de fraude sur un CV ne compromet pas le prochain tour de financement, le taux de 19 % est un élément intégré et tarifé du modèle.

Le PDG d’Anthropic, Dario Amodei, explique dans 'Machines of Loving Grace' pourquoi il n’est pas un 'doomer'

Dans son essai d’octobre 2024 'Machines of Loving Grace', Dario Amodei a décrit à quoi pourrait ressembler un monde doté d’une intelligence artificielle très performante si les risques étaient maîtrisés. Le PDG d’Anthropic y conteste l’étiquette de pessimiste qu’on lui attribue : son travail sur les risques est justement motivé par le fait que ces risques sont le seul obstacle entre le présent et un avenir positif. Selon lui, la plupart des gens sous-estiment à la fois l’ampleur des bénéfices potentiels et la gravité des dangers. Amodei donne quatre raisons pour lesquelles Anthropic parle publiquement principalement des risques : maximiser son propre impact, éviter l’impression de propagande, éviter la grandiloquence et se défaire du fardeau 'science-fiction' des débats sur un monde post-AGI. Le texte se concentre sur cinq domaines où il voit le plus grand effet direct sur la qualité de vie : la biologie et la santé physique, les neurosciences et la santé mentale, le développement économique et la pauvreté, la paix et la gouvernance, ainsi que le travail et le sens. Amodei qualifie lui-même ses prévisions de conjectures et écrit qu’une équipe d’experts pourrait rédiger une meilleure version du texte. L’essai circule de nouveau actuellement via The Argument. → The Argument

Synthszr Take : La justification d’Amodei pour son silence public sur les avantages au profit des risques est ce qu’il y a de plus intéressant dans ce texte, et c’est un argument de levier : selon lui, les bénéfices viendront de toute façon, portés par les forces du marché ; seuls les risques sont malléables. C’est une division du travail économiquement propre, qui explique pourquoi un laboratoire de sécurité sonne pendant des années comme un département d’alerte. Mais la peur ne finance pas une feuille de route. C’est pourquoi il détaille les cinq domaines, avec des précisions plutôt que des généralités prudentes, et se rend ainsi évaluable : la biologie, la santé mentale, la pauvreté, la gouvernance, le travail et le sens sont des domaines où l’on peut compter les résultats. On retrouve le même schéma dans les projets de transformation en entreprise : un registre des risques bien tenu ne met personne en mouvement tant qu’il n’existe pas une vision de ce que l’effort rapportera au final. La barre est désormais placée sur la biologie, le domaine dans lequel Amodei est lui-même un expert. Si dans deux ans, Anthropic ne montre aucune accélération démontrable dans la recherche de médicaments, l’essai sera lu comme de la prose et non comme une prévision.