Alors que les dirigeants de la Silicon Valley appellent à un ralentissement du développement de l’intelligence artificielle, un nombre croissant de critiques se sont rassemblés autour d’un contre-argument : stopper les progrès de l’IA consoliderait le pouvoir des grandes entreprises technologiques et mettrait à rude épreuve leurs rivaux parvenus.
Le débat intervient alors que les inquiétudes grandissent à Washington concernant les agents d’IA autonomes échappant au contrôle humain et piratant des entreprises privées, au moment même où les employés actuels et anciens des laboratoires d’IA lancent de graves avertissements sur les dangers d’une IA sans contrainte.
Freiner les progrès rapides de l’IA est désormais quelque chose que Dario Amodei, PDG d’Anthropic, Sam Altman, directeur d’OpenAI, Elon Musk, propriétaire de SpaceXAI, Demis Hassabis de Google DeepMind et Satya Nadella de Microsoft disent tous soutenir – même s’ils ne partagent pas tous une vision commune pour y parvenir.
Mais les petites entreprises d’IA affirment qu’un ralentissement de l’IA ne fera que consolider les avantages des entreprises à la pointe du secteur, souvent appelées laboratoires frontières. Et d’autres sceptiques affirment qu’une pause dans le développement de l’IA ne fonctionnerait qu’avec la coopération de la Chine, ce qui est loin d’être garanti.
« S’il y avait un gel à l’échelle de l’industrie, alors essentiellement, celui qui possède le modèle le plus puissant aujourd’hui dominerait la part de marché », a déclaré David Bellamy, chercheur scientifique à l’Institute of Foundation Models, soutenu par les Émirats arabes unis, qui développe des outils d’IA open source.
Bellamy estime que le modèle d’IA de l’institut a environ six mois de retard sur les modèles les plus avancés d’OpenAI et d’Anthropic. Il affirme que maintenir cet écart rendra difficile la concurrence à un moment où OpenAI et Anthropic envisagent des introductions en bourse à succès.
Alvaro Bedoya, ancien commissaire de la Federal Trade Commission sous le président Biden, a déclaré qu’un gel pourrait rendre les règles du jeu plus inégales en exerçant une pression sur les petites entreprises d’une manière qui pourrait s’avérer ruineuse.
« Lorsque de puissants opérateurs historiques bloquent le marché, les concurrents, les nouveaux arrivants, les acteurs décousus de ce marché, ne peuvent plus rivaliser sur les produits, la qualité et le service », a déclaré Bedoya. « Ils sont tout simplement exclus. Et les options qui s’offrent à eux sont d’être rachetés par l’opérateur historique ou de faire faillite. »
Perplexity, une société d’IA basée à San Francisco, a déclaré que le scepticisme était justifié « chaque fois qu’une entreprise demande à être réglementée de manière à protéger sa position sur le marché ».
Nick Frosst, co-fondateur de Cohere, une start-up d’IA basée à Toronto, a déclaré qu’« un ralentissement généralisé et coordonné de manière privée n’est pas une politique de sécurité neutre ; il permettrait de conserver l’avantage du petit nombre de laboratoires qui disposent déjà du plus grand nombre de calculs, de capitaux et de distribution, tout en rendant plus difficile la concurrence pour les chercheurs, les startups et les autres laboratoires. »
D’autres critiques s’opposent devant les tribunaux.
Quatre consommateurs de produits d’IA ont déposé une plainte fédérale la semaine dernière accusant Anthropic, OpenAI, Google et SpaceXAI d’avoir conclu un accord illégal visant à ralentir le rythme du développement de l’IA. Ils affirment que cet accord viole la loi antitrust et ralentira l’amélioration des abonnements payants à l’IA. »
Il y a ensuite la question imminente de la Chine.
Certains opposants à un ralentissement de l’IA aux États-Unis soutiennent que cela permettrait aux entreprises chinoises de dépasser les entreprises américaines d’IA.
Le président Trump est la voix la plus forte contre le ralentissement de l’IA dans la Silicon Valley, écrivant sur Truth Social que les craintes que l’IA devienne une IA malveillante et mette en danger l’humanité sont exagérées et que « le seul qui s’en réjouit est la Chine ».
Susan Rice, qui a été conseillère à la sécurité nationale dans l’administration Obama, a fait pression pour un gel négocié avec la Chine afin d’arrêter la formation et la publication de nouveaux modèles jusqu’à ce que Washington et Pékin puissent garantir que l’IA de pointe ne puisse pas dépasser le contrôle humain.
« L’Amérique devrait viser à gagner la course à l’IA, à condition que la course puisse être gagnée en toute sécurité. En fin de compte, nous avons plus en commun avec nos semblables en Chine que les agents de l’IA qui pourraient nous contrôler tous », a récemment écrit Rice dans Le New York Times.
Le Chinois Xi Jinping rencontrera Trump à Washington cette semaine, avec l’intelligence artificielle parmi les nombreux points à l’ordre du jour.
Une question persistante est de savoir comment les États-Unis garantiraient que la Chine se conformerait à un ralentissement, même si les deux pays étaient d’accord. Certains observateurs ont comparé un pacte américano-chinois à un accord de non-prolifération nucléaire.
Dans un récent essai du PDG d’Anthropic, Dario Amodei, appelant l’industrie à « suivre la frontière », il a reconnu que la coopération chinoise était une difficulté potentielle dans tout accord mondial visant à ralentir le ralentissement.
« Le rythme mondial nécessitera une coopération avec la Chine, le pays autocratique doté de loin les capacités d’IA les plus avancées », a écrit Amodei. « Par conséquent, tout accord doit soit être vérifiable à toute épreuve, soit être suffisamment limité pour que la défection ne soit pas militairement existentielle. »
