Personne n'a l'intention de freiner : Washington, Pékin et Berlin rejettent l'appel d'Amodei

Trump qualifie les avertissements sur l’IA d’escroquerie : le seul garde-fou serait «  un président intelligent  »

Le président américain Donald Trump a rejeté les appels à des règles plus strictes en matière d’IA, déclarant que le seul contrôle ou Guardrails, dont l’intelligence artificielle a besoin, est «  un PRÉSIDENT FORT ET INTELLIGENT (QI élevé !)  », et que les États-Unis en ont un en abondance. Dans la même publication sur Truth Social, il a parlé d’une «  conspiration MALADE contre l’IA et les centres de données  », dont seule la Chine se réjouirait. Un deuxième message a suivi dans les douze heures : la peur d’une IA qui prendrait le contrôle du monde et détruirait l’humanité serait un «  HOAX  », comparable aux accusations d’ingérence russe dans les élections et à ses propres procédures de destitution. Le développement ne sera pas stoppé sous sa présidence par des «  forces destructrices brillamment dirigées  ». «  WHOEVER WINS AI, WINS  », a-t-il écrit, ajoutant que les États-Unis sont en avance sur la Chine et le resteront.

Le déclencheur a été le PDG d’Anthropic, Dario Amodei, qui avait appelé ce week-end à un ralentissement du développement et à une meilleure réglementation. Le PDG d’OpenAI, Sam Altman, et Elon Musk se sont joints à lui : Musk a déclaré qu’Amodei avait raison, Altman a dit que les normes n’étaient pas à un point où l’on devrait pousser les capacités des modèles beaucoup plus loin. Trump a directement visé Amodei, qui «  prétend maintenant être un parfait petit ange  », et a souligné que son administration disposait déjà d’un «  énorme POUVOIR DE SANCTION ET DE RÉGLEMENTATION sur ces entreprises  ». On aurait «  empêché les gens de l’IA de faire des choses mauvaises ou potentiellement mauvaises  », sans qu’il ne donne plus de détails ; la Maison Blanche n’a pas immédiatement répondu à une demande de commentaire. L’ancien conseiller de Trump pour l’IA, David Sacks, a également contredit publiquement Altman et Amodei.

Dans le débat qui a suivi, Richard Whittle, professeur d’IA et de politique publique à l’Université de Salford, a souligné un risque plus immédiat : les entreprises se lient déjà aujourd’hui à des outils spécifiques et seraient vulnérables à des augmentations de prix de cinq ou dix fois. Les startups qui se basent sur ces coûts y survivraient à peine, et ceux qui ont remplacé du personnel par l’IA en paieront le prix, quelle que soit son évolution. Jusqu’à présent, on observe surtout une culture de réduction des coûts et peu de cas où une valeur ajoutée est créée grâce à l’IA. → BBC, Axios, Wall Street Journal

Synthszr Take : Deux publications sur Truth Social en douze heures, et dans les deux, toute l’architecture de sécurité repose sur une seule personne : le titulaire du poste lui-même. Une gouvernance qui dépend d’un président est bien sûr absurde. En pratique, le contrôle signifie des critères de réussite et d’arrêt compréhensibles, plus quelqu’un qui a le droit d’arrêter réellement un projet. Trump a au moins nommé précisément l’instrument qu’il a à l’esprit, à savoir l'«  énorme POUVOIR DE SANCTION ET DE RÉGLEMENTATION sur ces entreprises  », c’est-à-dire une pression au cas par cas ; le Pentagone a déjà montré à quoi cela ressemble avec la classification de la chaîne d’approvisionnement d’Anthropic et la sortie retardée de Mythos. Un garde-fou qui repose sur le caprice discipline les entreprises, mais ne protège pas les gens.

La presse d’État de Pékin qualifie l’essai d’Amodei sur l’IA de «  scénario de la Guerre froide  »

Le journal progouvernemental Global Times a qualifié l’appel de Dario Amodei à ralentir le développement de l’IA d’un «  Cold War playbook  » contre la Chine dans un éditorial. L’essai du PDG d’Anthropic peut sembler être une prise de position rationnelle axée sur les risques de sécurité, mais il s’agirait en réalité de freiner le développement de l’IA en Chine par le biais de barrières technologiques et de monopoles réglementaires. Le journal qualifie cette initiative d'«  hypocrite et à courte vue  » et accuse Washington d’exclure la Chine de la gouvernance mondiale de l’IA, ce qui augmenterait les coûts des erreurs et le risque d’une perte de contrôle à l’échelle mondiale. Le prétexte est le texte d’Amodei publié samedi, «  We Must Pace the Frontier  », dans lequel il demande non seulement un ralentissement du rythme, mais aussi des contrôles plus stricts sur les exportations de puces vers la Chine, ainsi que des mesures contre la présumée Model Distillation par des laboratoires chinois.

Dans cet essai d’environ 3 500 mots, Amodei propose une feuille de route en trois étapes. Première étape : des évaluateurs indépendants avec un accès permanent, de type «  employé  », aux modèles, qu’il compare à des inspecteurs des denrées alimentaires et auxquels Anthropic se serait engagé unilatéralement. Ensuite, une coordination internationale avec d’autres laboratoires et gouvernements devrait suivre, y compris les États autoritaires. Comme signal d’alarme, il mentionne que d’ici six à douze mois, l’IA pourrait être capable de contrôler un essaim qui prendrait le contrôle d’Internet. Dans une interview télévisée, il a déclaré qu’un «  Kill Switch  » pourrait être une bonne idée, mais pas une interdiction complète, et que les accords de contrôle des armements avec l’Union soviétique pourraient servir de modèle. Il a qualifié la question de savoir si les États-Unis devraient ralentir si la Chine ne le fait pas comme le dilemme le plus difficile de sa proposition.

Sam Altman et Elon Musk ont publiquement rejoint l’appel. Altman a annoncé qu’OpenAI donnerait le même accès à des évaluateurs externes ; Musk a commenté sobrement «  Dario a raison  ». Le débat s’est intensifié notamment suite à la démission du chercheur d’Anthropic Jacob Coxon, 27 ans, qui parle d’une probabilité considérable d’une issue catastrophique et ne juge un ralentissement pertinent que s’il est coordonné avec la Chine.

À Washington, cette initiative se heurte à un refus. Trump a parlé de «  forces très négatives  » qui attiseraient des craintes exagérées, et a déclaré que les États-Unis menaient la course à l’IA et que «  celui qui gagne l’IA, gagne  ». Le président de la Chambre des représentants, Mike Johnson, a évoqué son groupe de travail bipartisan sur l’IA, mais a rejeté un moratoire d’urgence, car la Chine dépasserait alors les États-Unis. Le conseiller en IA David Sacks a rétorqué aux directeurs de laboratoires que le moyen le plus simple de ne pas construire une superintelligence était de ne pas la construire.

Le scepticisme vient également du monde de la recherche. Gary Marcus salue les promesses de transparence, mais voit dans la formulation «  s’associer avec le gouvernement  » une tentative de remplacer une véritable réglementation ; François Chollet et d’autres soupçonnent qu’il s’agit de retirer l’échelle après être monté. Des critiques visent également l’évaluateur METR mentionné par Amodei, qui est lui-même proche de l’environnement de la Silicon Valley des laboratoires. Les États-Unis et la Chine prévoient de discuter des risques de sécurité à la frontière des modèles à la mi-septembre, et le sujet pourrait être abordé lors du sommet entre Trump et Xi le 24 septembre. → CBS News, Reuters, HuffPost, Marcus on AI, The Independent

Synthszr Take : Dans le même essai qui appelle à une discipline de rythme, on trouve des contrôles plus stricts sur les exportations de puces et une action plus dure contre la Distillation par les laboratoires chinois. Pékin n’a donc pas besoin de faire de suppositions pour son interprétation, il lui suffit de lire ce paragraphe : une limitation de vitesse proposée par celui qui est en tête, accompagnée de restrictions d’accès, est perçue par le poursuivant comme une consolidation de l’écart. Le fait qu’Amodei désigne lui-même ce dilemme comme le point le plus difficile de sa proposition ne lui est d’aucune aide tant que les conditions de la coopération sont fixées unilatéralement. Deux semaines avant la rencontre du 24 septembre, la Chine dispose ainsi d’un moyen de pression commode : elle peut se présenter comme le défenseur d’une gouvernance de l’IA inclusive, sans accepter elle-même la moindre limite. Le prix de ce double message est que la question de la sécurité est traitée à Pékin comme une question commerciale, et les questions commerciales se résolvent par des contreparties.

Berlin sur la même ligne que Trump et Xi : un arrêt du développement n’est pas une option pour l’Europe

Le ministère allemand du Numérique a explicitement rejeté l’appel de l’industrie de l’IA à ralentir le rythme de développement. «  Nous ne considérons pas un arrêt du développement comme une option viable pour l’Europe  », a déclaré un porte-parole du ministère lundi ; le renforcement de la souveraineté numérique signifie au contraire plus de développement et plus d’innovation dans le domaine de l’intelligence artificielle. Le contexte était un essai du PDG d’Anthropic, Dario Amodei, publié ce week-end, dans lequel il exhorte les entreprises d’IA à réduire le rythme de leurs projets et propose des contrôles plus stricts, y compris des auditeurs indépendants siégeant directement dans les laboratoires.

Le ministère a déclaré qu’il suivait de près l’évolution mondiale et prenait au sérieux les avertissements publics des principaux développeurs. Le porte-parole a tracé une ligne claire : les systèmes d’IA capables de quitter de manière autonome leur environnement de test et d’accéder à d’autres systèmes représenteraient un «  scénario de menace totalement nouveau  » et nécessiteraient une nouvelle réponse politique. Une surveillance efficace n’est possible qu’à l’échelle internationale et doit inclure les États-Unis et la Chine. Selon le porte-parole, l’Allemagne porte le sujet au niveau du G7.

En parallèle, Anthropic, Google et OpenAI ont discuté de la création d’un organisme de normalisation commun pour le secteur. Selon des personnes familières avec les discussions, celles-ci ont commencé avant même l’appel d’Amodei à une évaluation et un audit conjoints des modèles. Le PDG d’OpenAI, Sam Altman, a exprimé en interne son accord sur des règles de test et d’audit pour le secteur, mais part du principe que les grands laboratoires devraient mettre en place un tel organisme sans le soutien du gouvernement fédéral américain.

Du côté des entreprises, l’adoption suit les schémas existants. Selon des enquêtes, 91 % des entreprises qui n’avaient pas adopté d’outils d’IA de première génération n’ont pas non plus intégré les offres plus récentes. Parmi les entreprises qui utilisaient l’IA de première génération dans une seule fonction commerciale, 63 % déploient désormais la nouvelle génération dans une ou deux fonctions. → Reuters

L’analyse de Synthszr : Berlin répond à une question de sécurité par un calcul de positionnement stratégique, et c’est la seule réponse solide pour un pays qui importe majoritairement son infrastructure numérique depuis des années. Le seuil fixé par le ministère est précisément défini : ce n’est que lorsque les systèmes quittent de manière autonome leur environnement de test et accèdent à des systèmes tiers qu’un nouveau besoin politique émerge ; tout ce qui précède reste une question de compétitivité. Un arrêt du développement en Europe ne ferait que prolonger la dépendance vis-à-vis des modèles américains et chinois, qui de toute façon continueront à tourner. Le fait qu’Anthropic, Google et OpenAI discutent simultanément de leur propre organisme de normalisation, qui selon Altman devra se passer du gouvernement américain, montre où les règles sont censées être établies : chez ceux qui possèdent les modèles. L’initiative du G7 est donc un levier plus puissant que n’importe quel engagement volontaire, et elle ne sera prise au sérieux que si l’Europe dispose d’ici là de ses propres modèles en production.

Cohere et le dirigeant de Palantir rejettent le plan d’Amodei

Aidan Gomez, cofondateur et PDG de Cohere, a qualifié le 13 septembre, dans un essai sur le site de l’entreprise, l’initiative de plusieurs laboratoires d’IA de premier plan de créer un organisme de normalisation commun de «  cartel sous un autre nom  ». Il s’oppose à un statut d’exception au droit de la concurrence, défini de manière restrictive, que «  deux ou trois entreprises de la Silicon Valley  », selon lui, demandent aux gouvernements pour légaliser leur coordination sur les normes de sécurité ; il nomme explicitement le PDG d’Anthropic, Dario Amodei. Cet essai fait suite à un article selon lequel Anthropic, OpenAI et Google se réunissent depuis juillet pour former un tel organisme. L’argument principal de Gomez : un régime de sécurité élaboré par quelques laboratoires ne serait strict qu’envers les risques pour lesquels ces laboratoires ont déjà construit des systèmes de test, et transformerait leur avance actuelle en un seuil d’entrée pour tous les autres. Joe Lonsdale, cofondateur de Palantir, a écarté dans un post sur X samedi la crainte d’une extinction de masse provoquée par des systèmes d’IA avancés. «  Le monde s’en sortira, les gars  », a-t-il écrit selon Business Insider, ajoutant que les responsables ont de grandes tâches à accomplir, mais qu’il n’est pas utile d’effrayer tout le monde : «  Nous maîtrisons la situation.  » → AI Weekly

L’analyse de Synthszr : Les normes sont le moyen le plus élégant de limiter la concurrence sans avoir à l’interdire. Si trois laboratoires définissent les audits de sécurité considérés comme suffisants, leur infrastructure de test déjà construite devient le prix d’entrée : chaque pipeline d’évaluation, chaque procédure de red teaming que Cohere ou Mistral devraient d’abord financer est déjà amorti depuis longtemps chez les trois autres. La référence de Gomez à l’exemple de la SEC de 1975 est si pertinente parce qu’aucun critère n’a jamais été publié sur la manière dont un quatrième fournisseur aurait pu acquérir ce statut. Le fait qu’il exige lui-même une transparence obligatoire, des déclarations d’incident et des instances de contrôle sur le modèle de l’autorité de l’aviation civile montre quel est son véritable objectif : que le rôle d’arbitre soit tenu par quelqu’un qui n’est pas en même temps un acteur du marché.

Bernie Sanders demande à Trump et Xi une pause dans l’IA et une interdiction de la superintelligence

Le sénateur américain Bernie Sanders a appelé Donald Trump et Xi Jinping à négocier, lors du prochain sommet sur l’IA, un traité qui suspendrait temporairement le développement de l’IA avancée et interdirait de manière permanente la superintelligence. En parallèle, Sanders a déposé un projet de loi visant à interdire les systèmes capables de fonctionner sans supervision humaine. Selon Livemint, l’élément déclencheur a été un article de blog du PDG d’Anthropic, Dario Amodei, qui identifie quatre domaines de risque : le contrôle des systèmes d’IA, les cyberattaques, le bioterrorisme et des bouleversements économiques majeurs. Amodei écrit que le rythme de l’amélioration des capacités doit être ralenti, mais que les progrès resteront rapides. → MyClaw Newsletter

L’analyse de Synthszr : Bernie Sanders et trois PDG de la tech du même côté : c’est une curiosité politique à double fond, car les deux camps entendent des choses complètement différentes. Amodei, Altman et Musk parlent d’un rythme qu’ils déterminent eux-mêmes ; Sanders veut une loi qui leur retirerait ce pouvoir de décision. Un «  ralentissez  » public ne coûte rien aux entreprises et leur confère, dans les discussions sur la réglementation, le rôle de l’adulte responsable, pendant que leurs propres data centers continuent de tourner.

Un agent réécrit son propre code et fait passer le score SWE-bench de 20 à 50 %

Une équipe de recherche dirigée par Jenny Zhuoting Zhang a présenté avec la Darwin Gödel Machine un système qui réécrit de manière répétée son propre code de programme et mesure ensuite chaque modification par rapport à des benchmarks de codage. Au lieu d’exiger une preuve mathématique de l’utilité de chaque modification, comme le prévoyait la machine de Gödel théorique originale, le système vérifie de manière empirique si une nouvelle variante obtient de meilleurs résultats. Pour ce faire, il conserve une archive d'agents de codage générés, en extrait des versions individuelles et fait construire de nouvelles déclinaisons par un modèle de fondation, créant ainsi un arbre croissant de chemins de développement parallèles. Selon l’article, la performance sur SWE-bench est passée de 20,0 à 50,0 % et sur Polyglot de 14,2 à 30,7 %. Parmi les améliorations que le système s’est apportées à lui-même figurent de meilleurs outils d’édition de code, une gestion des longues fenêtres de contexte et un mécanisme interne d’évaluation par les pairs. → Latent.Space

L’analyse de Synthszr : L'agent s’est doté de meilleurs outils d’édition et d’un système d’évaluation par les pairs intégré, et est ensuite devenu plus de deux fois plus performant sur SWE-bench. Cette récursivité est le point où les appels à une limitation volontaire de la vitesse tombent dans le vide : ici, une boucle améliore sa propre capacité à s’améliorer. Le contrôle réside dans la structure même, dans la sandbox et la supervision humaine à chaque étape, et ces deux éléments sont une décision de l’équipe, et non une propriété du processus.

OpenAI conseille de supprimer les anciens prompts pour Codex : ils ralentissent les nouveaux agents

OpenAI a publié, selon AlphaSignal, un guide expliquant que les instructions de prompt datant des anciens modèles peuvent ralentir les agents de codage actuels. Selon le fournisseur, le scaffolding accumulé au fil des mois consomme inutilement de la mémoire dans la fenêtre de contexte et déclenche parfois un comportement incorrect. Concrètement, le guide mentionne trois points d’ajustement : les fichiers de compétences doivent recevoir des descriptions de déclencheurs (triggers) concises et précises pour que l’agent sélectionne le bon. Du fichier AGENTS.md, qui est chargé pour chaque tâche individuelle, doivent disparaître les instructions de lecture obligatoires et les rappels génériques comme «  exécute tes tests  », car le modèle, selon OpenAI, exécute de toute façon ces étapes lui-même. Les prompts de tâche doivent en revanche définir clairement quand une tâche est considérée comme terminée, afin que l’agent ne pose pas de question en cours d’exécution. → AlphaSignal

L’analyse de Synthszr : Chaque ligne de la structure du prompt est un pari sur le fait que le modèle restera stupide, et OpenAI est justement en train de remporter ce pari. Le guide dit en clair : supprimez les ensembles de règles que vous avez entretenus pendant des mois, car le fichier AGENTS.md est chargé avec chaque tâche, et chaque ligne superflue coûte du contexte. Le conseil de faire auditer par le modèle ses propres fichiers de compétences est particulièrement savoureux, c’est-à-dire de confier l’entretien de la béquille à celui pour qui elle a été conçue à l’origine.

Anthropic promet aux investisseurs un deuxième trimestre consécutif de bénéfices

Anthropic a informé ses investisseurs que l’entreprise serait rentable pour le deuxième trimestre consécutif. C’est ce que rapporte le Financial Times, une information reprise par Reuters. Selon le FT, cette annonce a été faite dans le cadre de la communication de l’entreprise avec les investisseurs, et non dans un rapport financier officiel : Anthropic est une société privée et n’est donc pas tenue de publier ses résultats trimestriels. Le rapport ne mentionne pas de chiffres d’affaires ou de résultats concrets. → Reuters

Synthszr Take : La nouvelle d’un deuxième trimestre rentable a moins d’impact que celle du premier, et pourtant, elle est diffusée. C’est exactement là que se situe l’enjeu : un trimestre est une exception, deux trimestres forment une tendance, et une tendance peut être présentée à un syndicat bancaire comme base d’évaluation. Anthropic construit ici une série de chiffres avant que quiconque puisse les vérifier, car en tant qu’entreprise privée, elle décide elle-même de ce qui entre dans ses comptes et de ce qui reste à côté en tant qu’investissement stratégique.

OpenAI conseille de supprimer les prompts d’agents surchargés plutôt que de les maintenir

OpenAI a publié des recommandations sur la manière dont les développeurs devraient adapter les instructions de leurs agents à la nouvelle génération de modèles : les prompts écrits pour des modèles plus anciens et moins performants ralentissent les systèmes actuels. Selon le fournisseur, un excès de Scaffolding occupe le contexte et déclenche des comportements incorrects. Pour les fichiers de compétences (Skills), OpenAI recommande des déclencheurs formulés de manière concise et précise, afin que le modèle saisisse le bon fichier et non le mauvais. Le fichier AGENTS.md est chargé à chaque tâche, c’est pourquoi les lectures préalables obligatoires et les rappels génériques comme «  exécute tes tests  » devraient être supprimés sans remplacement, selon OpenAI. → AlphaSignal

Synthszr Take : Pendant que le public débat des limitations de vitesse pour l’intelligence artificielle, la salle des machines fait le ménage. Le conseil de faire auditer ses propres Skills et AGENTS.md par le modèle lui-même est un appel au démantèlement : la couche la plus coûteuse d’un pipeline d’agent est la prise en charge d’un modèle qui n’en a plus besoin depuis longtemps. Dans le même numéro, on trouve la réduction de coûts de 39 % de Cognition grâce à un second modèle bon marché pour les tâches répétitives, et un outil linguistique gratuit d’un développeur indépendant qui couvre 646 langues sur un ordinateur personnel.

OpenAI lance ChatGPT pour les services financiers et s’attaque ainsi à l’activité des terminaux de Bloomberg

OpenAI a lancé «  ChatGPT for Financial Services  », une variante de son produit destinée aux banques, aux gestionnaires d’actifs et aux sociétés d’analyse. Cette offre est conçue pour les tâches quotidiennes de la banque d’investissement : recherche sur les entreprises, analyse des données de marché, préparation de documents. OpenAI pénètre ainsi un marché jusqu’à présent dominé par des fournisseurs de terminaux comme Bloomberg et FactSet, qui vendent à leurs clients des licences d’accès aux données et des outils d’analyse pour leurs postes de travail.

L’élément technique décisif du produit réside dans son architecture. Plutôt que de simplement interroger des données de marché via des API tierces, OpenAI opte, selon les observateurs du secteur, pour une Hosted-Data-Architektur, où les données financières sont hébergées dans sa propre infrastructure et disponibles pour les requêtes. Cette approche est considérée dans l’analyse comme le véritable levier du produit, car elle détermine les temps de réponse, la traçabilité et les conditions commerciales d’acquisition des données.

Ce lancement est donc interprété comme une incursion dans la couche de données sur laquelle Bloomberg et FactSet ont bâti leur activité, plutôt que comme une course aux modèles contre Anthropic. On ignore quels fournisseurs de données OpenAI a engagés et à quelles conditions pour les différentes catégories de cours, de données fondamentales et de documents. On ne sait pas non plus si les institutions réglementées pourront utiliser les résultats dans des processus soumis à des exigences de conformité. Les prix et le nombre de clients de cette offre n’ont pas encore été rendus publics. → Linas from Linas’s Newsletter

Synthszr Take : L’interface de chat est la partie la moins chère de cette histoire. Bloomberg et FactSet tirent leurs revenus des droits de licence pour les cours et les données fondamentales, de contrats avec les bourses et les fournisseurs de données, établis sur des décennies et renégociés chaque année. C’est pourquoi OpenAI héberge les données en interne au lieu de simplement y accéder via une API : celui qui détient les flux de données contrôle la latence et le prix. Le travail difficile réside dans les négociations de licences et dans la question de savoir si un service de conformité acceptera la réponse d’un modèle comme une source vérifiable. Bloomberg peut intégrer n’importe quel bon modèle de langage dans son terminal, mais OpenAI ne peut pas acquérir par l’entraînement le portefeuille de contrats de Bloomberg.