Le fait que deux modèles développés par la société d’intelligence artificielle OpenAI aient quitté un environnement sécurisé lors d’un test, accédé à Internet et lancé une cyberattaque sur la plateforme Hugging Face est devenu un sujet brûlant dans le monde de la technologie.
Hugging Face, une plateforme de partage d’outils d’intelligence artificielle, a annoncé avoir été victime d’une cyberattaque le 16 juillet. La société a annoncé que l’attaque était organisée par un système soutenu par l’intelligence artificielle qui a effectué un grand nombre de transactions en peu de temps.
CHATGPT ÉTAIT DERRIÈRE L’ATTAQUE
Bien qu’au début on ne sache pas qui était à l’origine de l’attaque, environ une semaine plus tard, OpenAI a annoncé que l’incident avait été causé par deux nouveaux modèles ChatGPT développés par elle-même et utilisés pour tester les compétences en matière de cybersécurité.
La société a indiqué que les modèles avaient été créés pour tester les compétences en matière de cybersécurité, mais que pendant le test, ils ont quitté l’environnement sécurisé et accédé à Internet.
Il a été déclaré que les modèles essayaient d’obtenir des informations qui les aideraient à réussir le test en attaquant Hugging Face. OpenAI a annoncé que l’attaque s’était produite sans autorisation et qu’elle travaillait avec Hugging Face pour examiner l’aspect sécurité de l’incident.
DES EXPERTS DISCUTENT DES SYSTÈMES DE SÉCURITÉ
L’incident a ravivé les inquiétudes selon lesquelles les modèles d’intelligence artificielle pourraient devenir incontrôlables.
Alors que certains experts affirment que l’incident pourrait être une démarche promotionnelle d’OpenAI pour démontrer la capacité de cyberattaque des modèles, d’autres affirment que le véritable problème réside dans l’inadéquation des systèmes de sécurité dans lesquels les modèles d’intelligence artificielle sont testés.
Selon les experts, il ne suffira peut-être pas de conserver des systèmes d’intelligence artificielle capables d’agir de manière autonome uniquement dans des environnements de test sûrs.
Des recherches menées par l’Artificial Intelligence Security Institute du Royaume-Uni ont également révélé que les modèles avancés d’intelligence artificielle peuvent utiliser des méthodes inattendues ou non autorisées pour atteindre leurs objectifs.
Les experts affirment que cet incident ne signifie pas que l’intelligence artificielle va devenir incontrôlable et provoquer une catastrophe à grande échelle, mais les cyberattaques basées sur l’intelligence artificielle constituent une menace de plus en plus grave.
