Alors que les dirigeants et cofondateurs d’Anthropic se réunissaient jeudi pour célébrer les débuts de la société d’intelligence artificielle à la bourse du Nasdaq, le PDG Dario Amodei a parlé des avantages et des risques potentiels de l’IA pour l’humanité.
« Il y a une différence gigantesque entre la façon dont l’IA évoluera si nous prêtons peu d’attention à la sécurité et la façon dont elle évoluera si nous sommes obsédés par la sécurité », a déclaré Amodei avant de sonner la cloche d’ouverture de la cérémonie. « Et l’obsession de la sécurité et du bien public est inscrite dans l’ADN d’Anthropic depuis le début. »
Anthropic a levé un montant record de 81,3 milliards de dollars grâce à son introduction en bourse et 26 milliards de dollars supplémentaires grâce à un placement privé distinct, dépassant SpaceX et se hissant dans les rangs des sociétés cotées en bourse d’une valeur de plus de 1 000 milliards de dollars.
L’entreprise a bâti sa réputation sur la promesse selon laquelle le développement d’une IA sûre est plus important que la victoire dans la course à la domination commerciale. Elle a cultivé une image de pionnière en matière de sécurité de l’IA, se présentant comme une entreprise prête à faire passer les intérêts à long terme de l’humanité avant la concurrence industrielle.
Mais maintenant qu’Anthropic est une entreprise publique, cet engagement est confronté à un nouveau test. L’introduction en bourse a attiré de nouveaux investisseurs, une surveillance accrue et une pression accrue pour offrir des rendements aux actionnaires. Certains critiques se demandent si l’entreprise peut rester fidèle à sa mission fondatrice.
Les préoccupations d’Anthropic concernant la sécurité de l’IA ne font pas simplement partie de ses messages publics. Amodei a mis en garde à plusieurs reprises contre les menaces potentielles que les modèles avancés d’IA représentent pour l’humanité, en particulier s’ils échappent au contrôle de leurs développeurs. Le prospectus d’introduction en bourse de la société a fait écho à ces préoccupations, avertissant que « des systèmes d’IA suffisamment avancés pourraient présenter des risques catastrophiques ou existentiels pour la société s’ils ne sont pas développés et déployés de manière responsable ».
Anthropic a également reconnu qu’elle pourrait à terme perdre le contrôle de ses propres modèles.
« Rien ne garantit cependant que les garanties ou les régimes d’accès que nous adopterons s’avéreront adéquats, que nous identifierons correctement les capacités qui nécessitent des restrictions, ou que les contraintes que nous imposons ne seront pas contournées », a averti la société aux investisseurs.
Les fondateurs et les employés d’Anthropic viennent de devenir très riches
La structure d’entreprise d’Anthropic vise à protéger sa mission, même si elle poursuit le succès commercial. Anthropic est une société d’utilité publique (PBC), ce qui signifie que son conseil d’administration doit équilibrer les intérêts des actionnaires avec sa mission sociale.
Dans le cadre de cette structure, la société a mis en place un organisme de surveillance connu sous le nom de Long-Term Benefit Trust, qui a le pouvoir de nommer quatre des sept administrateurs de la société. Les fondateurs contrôlent effectivement la nomination des trois autres.
Le trust peut toutefois être dissous. Cela nécessiterait l’approbation des sept cofondateurs, ainsi qu’un vote majoritaire parmi les actionnaires ayant le droit de vote.
Cet arrangement pourrait créer une voie potentielle permettant aux fondateurs et aux actionnaires de contourner l’influence du trust sur les décisions de l’entreprise, ont déclaré les experts juridiques interrogés pour cet article.
« S’il y a un conflit sur une décision de sécurité importante, comme ‘Sommes-nous convaincus que ce modèle ultra-avancé est sûr pour les utilisateurs et la société, ou devrions-nous attendre quelques mois pour faire des tests supplémentaires ou pour toute autre raison de sécurité ?’, il y a la possibilité pour les fondateurs et les employés de s’allier contre l’administrateur et de neutraliser leurs droits de contrôle », a déclaré Roberto Tallarita, professeur adjoint à la faculté de droit de Harvard.
La cotation a également enrichi de nombreux employés d’Anthropic. Chacun des sept cofondateurs de la société détient une participation dans la société d’une valeur actuelle de plus de 20 milliards de dollars. Ses 5 300 employés détiennent un capital total estimé à 232 milliards de dollars. Les salariés non fondateurs ont pu vendre jusqu’à 10 % de leurs participations dès le premier jour de bourse.
Ces enjeux financiers substantiels pourraient influencer la manière dont le personnel d’Anthropic aborde les décisions en matière de sécurité et de risque, a déclaré Tallarita.
« S’ils prennent des décisions motivées par des considérations de sécurité, mais qui sont mauvaises pour les résultats financiers, le cours des actions réagira et les investisseurs privés auront des raisons d’exercer une certaine pression sur l’entreprise », a-t-il déclaré.
Les récompenses financières pourraient également changer la culture interne d’Anthropic, a déclaré Sarah Kreps, professeur et directrice du Tech Policy Institute de l’Université Cornell.
« Et maintenant, un grand nombre de ces personnes seront également multimillionnaires, ce qui, je pense, ne fera qu’augmenter la température, les egos et le sens des enjeux », a déclaré Kreps.
Dans ses commentaires de jeudi, Amodei a répondu à ces préoccupations.
« Pour le dire sans équivoque, nous accélérerons la formation et le déploiement des systèmes d’IA, en prenant le temps nécessaire pour avoir la certitude qu’ils sont sûrs et resteront sous contrôle humain. Nous ne nous plierons ni aux pressions commerciales ni aux pressions politiques », a-t-il déclaré. « Aujourd’hui, l’entreprise se trouve dans une situation financière plus solide et, ce faisant, elle ne fait que renforcer notre détermination à prendre les bonnes décisions. »
Les pressions commerciales et concurrentielles peuvent entrer en concurrence avec la sécurité
La concurrence entre les entreprises d’IA est féroce.
Le PDG d’OpenAI, Sam Altman, a décrit la rivalité entre les principaux développeurs d’IA comme une « dynamique de course dans le brouillard de la guerre » lors d’un discours à Le New York Times Sommet DealBook cette semaine.
Cette dynamique est « une mauvaise chose », a déclaré Altman. « Je pense que c’est une période où plus de prudence, et non moins de prudence, est justifiée. »
OpenAI prévoit également de devenir publique et a déposé les documents préliminaires d’introduction en bourse auprès de la Securities and Exchange Commission en juin, peu après Anthropic. Mais Altman a déclaré en septembre que la société avait retardé ces plans.
Dans un essai du même mois, Amodei discutait de la nécessité pour les entreprises d’IA de « rythmer » soigneusement le développement de modèles pionniers.
« Ne pas développer la technologie prive l’humanité d’avantages ou place simplement l’IA entre les mains de pouvoirs autoritaires, tandis que la construire trop rapidement est imprudente », a écrit Amodei. « Nous avons cherché une voie médiane : montrer qu’il est possible de construire avec soin et de réussir commercialement, et de faire de la sécurité un élément sur lequel les sociétés d’IA rivalisent. »
« Anthropic a fait un assez bon travail en investissant dans l’analyse de ce que ses modèles peuvent et ne peuvent pas faire, et des vulnérabilités qu’ils créent, et en publiant au moins une version de cette analyse », a déclaré Kreps.
En avril, Anthropic a annoncé qu’elle restreindrait l’accès à son modèle Claude Mythos après que des tests internes ont révélé ses puissantes capacités de cybersécurité. La société a déclaré que Mythos pouvait identifier et exploiter des vulnérabilités jusqu’alors inconnues dans les principaux systèmes d’exploitation et navigateurs Web, ce qui en faisait un outil potentiel pour les pirates.
Le 9 juin, moins de trois mois plus tard, Anthropic a présenté Fable 5, un modèle de classe Mythos, destiné à un usage général, doté de garanties supplémentaires pour restreindre certaines capacités cyber, biologiques et chimiques à haut risque. Le modèle Mythos original reste réservé à des partenaires sélectionnés.
« Dans le passé, le fait que le trust et les fondateurs étaient alignés les a aidés à retarder la sortie de Mythos de plusieurs mois », a déclaré Stavros Gadinis, directeur du Berkeley Center for Law and Business de la faculté de droit de l’Université de Californie à Berkeley. « Mais c’était à un moment où ils avaient le sentiment d’être en tête du peloton. »
La décision d’Anthropic d’entrer dans le secteur des contrats de défense a soulevé des questions sur la manière dont ses relations commerciales s’alignent sur sa mission déclarée, a déclaré Kreps.
En novembre 2024, Anthropic a annoncé un partenariat avec l’entrepreneur de défense Palantir, dont le logiciel est utilisé dans les opérations de renseignement militaire et de ciblage. Dans le cadre de cet accord, Anthropic a mis ses modèles Claude à la disposition des agences américaines de défense et de renseignement via la plateforme d’intelligence artificielle de Palantir.
Cependant, Anthropic a résisté au début de l’année à autoriser le Pentagone à utiliser sa technologie pour des armes autonomes et une surveillance intérieure de masse. Les négociations ont échoué en février, ce qui a amené le gouvernement américain à qualifier Anthropic de « risque pour la chaîne d’approvisionnement pour la sécurité nationale ».
« Cela semble soulever une série d’inquiétudes concernant le partenariat avec Palantir, qui a conclu un contrat avec le Pentagone pour le ciblage. Quelle partie de cela représente l’IA pour l’humanité ? » dit Kreps. « Beaucoup de gens qui y travaillent y sont allés parce que la sécurité était le fil conducteur. »
Le développement de l’IA s’accélère
Les questions sur la promesse d’Anthropic de donner la priorité à la sécurité plutôt qu’au succès commercial deviennent de plus en plus pressantes à mesure que la technologie elle-même progresse. Anthropic fait son entrée sur les marchés publics à un moment où ses propres recherches suggèrent que le rythme du développement de l’IA pourrait s’accélérer considérablement.
Une évaluation de novembre 2026 réalisée par METR, une organisation à but non lucratif de recherche sur l’IA, a conclu que les capacités d’IA d’Anthropic s’amélioraient environ deux fois plus vite qu’avant. Les chercheurs estiment qu’une majorité de cette accélération est désormais due à l’utilisation par Anthropic d’outils d’IA pour aider ses propres chercheurs. Le METR n’a trouvé aucun goulot d’étranglement clair susceptible de ralentir ces progrès, comme les limites des données et de la puissance de calcul.
Cela pourrait rapprocher l’entreprise d’un avenir dans lequel des systèmes d’IA de plus en plus performants contribueront à construire des systèmes encore plus avancés – un processus connu sous le nom d’auto-amélioration récursive autonome. Cette perspective a alimenté les craintes qu’Anthropic et d’autres développeurs d’IA ne perdent le contrôle de leurs modèles les plus avancés, avec des conséquences potentiellement importantes pour la société.
« J’ai moi-même peur, mais il est très difficile d’imaginer que la technologie de l’IA s’arrête ou fasse une pause », a déclaré Gadinis. « Nous sommes dans une situation où ces entreprises connaissent mieux que quiconque leurs modèles dans la mesure où quelqu’un les comprend. Nous devons donc travailler avec elles en tant que société. »
Un vide réglementaire fédéral
La société dépend fortement des dirigeants des entreprises d’IA pour prendre des décisions conséquentes sur les risques posés par leurs propres produits, ont déclaré les experts interrogés pour cet article.
Comme il existe peu de mesures de protection gouvernementales pour façonner la manière dont les entreprises d’IA prennent des décisions en matière de sûreté et de sécurité, le pouvoir de l’industrie reste largement incontrôlé, ont-ils déclaré.
Au niveau fédéral, le secteur de l’IA reste largement non réglementé. Sous la deuxième administration Trump, la Maison Blanche a donné la priorité à une approche de déréglementation, cherchant à limiter la surveillance fédérale en faveur de permettre aux laboratoires d’IA d’innover sans être encombrés de formalités administratives.
En juin, la Maison Blanche a annoncé son cadre d’IA, qui permet aux développeurs de soumettre leurs nouveaux modèles aux agences fédérales pour des évaluations de cybersécurité et de sécurité nationale avant leur publication. Cependant, l’initiative est entièrement volontaire.
« Je ne pense pas que le gouvernement en sache suffisamment pour réglementer l’IA », a déclaré Tallarita. « C’est une conversation que nous devrions avoir en tant que communauté politique, et probablement la conversation la plus sérieuse que nous devrions avoir en ce moment. »
