Un membre senior de l’équipe de robotique d’OpenAI a démissionné, invoquant des inquiétudes quant à la façon dont l’entreprise a progressé dans un partenariat récemment annoncé avec le département américain de la Défense.
Caitlin Kalinowski, qui était membre du personnel technique spécialisé dans la robotique et le matériel, a publié sur les réseaux sociaux qu’elle avait démissionné pour un « principe » après que l’entreprise a révélé son intention de rendre ses systèmes d’IA disponibles dans les systèmes informatiques sécurisés du ministère de la Défense.
L’accord fait partie d’une initiative plus large du gouvernement américain visant à intégrer des outils avancés d’IA dans le travail de sécurité nationale, une tendance qui a suscité un débat dans l’industrie technologique sur la surveillance et les utilisations acceptables.
Dans des articles publics expliquant sa décision, Kalinowski a écrit : « J’ai démissionné d’OpenAI. Je me soucie profondément de l’équipe de robotique et du travail que nous avons construit ensemble. Cela n’a pas été une décision facile. »
Elle a déclaré que les garde-fous politiques autour de certaines utilisations de l’IA n’étaient pas suffisamment définis avant qu’OpenAI n’annonce un accord avec le Pentagone. « L’IA joue un rôle important dans la sécurité nationale », a écrit Kalinowski. « Mais la surveillance des Américains sans contrôle judiciaire et l’autonomie mortelle sans autorisation humaine sont des lignes qui méritaient plus de délibérations qu’elles n’en ont eu. »
Kalinowski a également souligné que ses préoccupations concernaient davantage le processus que des dirigeants spécifiques au sein de l’entreprise, affirmant qu’elle avait « un profond respect pour Sam et l’équipe, et je suis fière de ce que nous avons construit ensemble », faisant référence au directeur général d’OpenAI, Sam Altman.
L’entreprise reconnaît que « les gens ont des opinions bien arrêtées sur ces questions et nous continuerons à engager des discussions avec les employés, le gouvernement, la société civile et les communautés du monde entier », poursuit le communiqué.
La démission de Kalinowski intervient dans un contexte de concurrence accrue entre les principaux développeurs d’intelligence artificielle pour fournir des technologies au gouvernement américain. Ces dernières semaines, les agences fédérales se sont tournées vers OpenAI et Google pour les systèmes d’IA alors que les tensions augmentaient avec une société rivale, Anthropic, sur l’utilisation militaire de ses modèles.
Le PDG d’Anthropic s’est prononcé contre l’autorisation d’utiliser les logiciels de l’entreprise pour des applications telles que la surveillance de masse nationale ou les armes autonomes, une position qui a conduit à des affrontements avec des responsables de la défense – y compris le secrétaire à la Défense Pete Hegseth – qui a déclaré que le département avait besoin de flexibilité pour déployer des outils commerciaux d’IA dans toutes les opérations « licites ».
Au sein d’OpenAI, le rôle de Kalinowski s’est concentré sur le développement de l’organisation robotique de l’entreprise au fur et à mesure de son évolution. Elle a écrit sur son profil LinkedIn que cela incluait l’embauche pour soutenir l’expansion de l’entreprise dans les efforts d’IA liés aux infrastructures physiques et aux machines.
Kalinowski a indiqué qu’elle prévoyait de continuer à travailler dans le même domaine. « Je prends un peu de temps, mais je reste très concentrée sur la construction d’une IA physique responsable », écrit-elle.
