Des centaines d’hommes d’affaires, d’investisseurs et d’experts en intelligence artificielle, dont : Elon Musk, a appelé dans une lettre commune à une pause d’au moins six mois dans son développement incontrôlé. Les signataires mettent en garde contre les effets imprévisibles de la course à la création de modèles d’IA de plus en plus puissants.
Comme l’affirment les auteurs de la lettre publiée sur le site Internet du Future of Life Institute, l’intelligence artificielle avancée peut constituer un « changement profond dans l’histoire de la vie sur Terre » et son développement doit être abordé avec prudence.
« Malheureusement, ce niveau de planification et de gestion n’est pas atteint, même si ces derniers mois nous avons vu des laboratoires d’IA se lancer dans une course effrénée pour développer et déployer des esprits numériques de plus en plus puissants que personne – y compris leurs créateurs – ne peut comprendre, prédire ou correctement. contrôle », lit-on dans la lettre.
La lettre prévient qu’une approche incontrôlée du développement de l’IA risque de provoquer un flot de désinformation, une automatisation massive du travail, voire le remplacement des personnes par des machines et une « perte de contrôle sur la civilisation ».
« Des systèmes d’IA solides ne devraient être développés que lorsque nous sommes sûrs que leurs effets seront positifs et que leurs risques pourront être contrôlés », estiment les auteurs.
Ils appellent à une pause de six mois dans les systèmes de formation qui dépassent le GPT-4 récemment publié par OpenAI, qui, entre autres, est capable de passer différents types de tests à un niveau similaire à celui des meilleurs qui les réussissent. Ils appellent également à la mise en œuvre de réglementations gouvernementales complètes et à la supervision des nouveaux modèles d’IA.
Les signataires de la lettre comprennent : le milliardaire Elon Musk, le co-fondateur d’Apple Steve Wozniak, le responsable de Stability AI Emad Mostaque (producteur du générateur d’images Stable Diffusion) et des chercheurs en intelligence artificielle de l’Université de Stanford, du Massachusetts Institute of Technology (MIT) et d’autres universités et laboratoires d’IA.
