OpenAI, le géant de l’intelligence artificielle réputé pour ses innovations révolutionnaires, s’est une fois de plus retrouvé sous les feux des projecteurs, mais pas pour les raisons qu’il aurait préféré. Cette fois, l’entreprise fait l’objet d’un examen minutieux en raison de deux failles de sécurité importantes qui ont suscité des inquiétudes quant à ses pratiques de protection des données et à son cadre global de cybersécurité.
ChatGPT pour Mac n’est pas aussi sécurisé que vous le pensiez
Le premier incident concerne l’application ChatGPT d’OpenAI pour les utilisateurs Mac, qui a récemment été découverte comme stockant les conversations des utilisateurs dans un format non crypté directement sur les appareils locaux, selon Le bordrapport de.
Cela signifiait que les informations sensibles partagées lors des discussions étaient potentiellement exposées et accessibles à d’autres applications ou logiciels malveillants.
Développeur Swift Pedro José Pereira Vieito L’incident a révélé cette vulnérabilité, ce qui a incité OpenAI à publier rapidement une mise à jour qui a mis en place le chiffrement des conversations enregistrées. Cependant, l’incident a souligné l’importance de mesures de sécurité robustes, même dans des applications apparemment anodines.
L’application OpenAI ChatGPT sur macOS n’est pas sandboxée et stocke toutes les conversations en **texte brut** dans un emplacement non protégé :
~/Bibliothèque/Application Support/com.openai.chat/conversations-{uuid}/
Donc, fondamentalement, n’importe quelle autre application / logiciel malveillant peut lire toutes vos conversations ChatGPT : pic.twitter.com/IqtNUOSql7
— Pedro José Pereira Vieito (@pvieito) 2 juillet 2024
L’incident de l’année dernière hante le géant de la technologie
Pour aggraver les problèmes de sécurité, une autre faille de sécurité survenue au printemps dernier est revenue hanter OpenAI. Un pirate informatique a réussi à infiltrer les systèmes de messagerie interne de l’entreprise, accédant ainsi à des informations confidentielles sur ses opérations et ses technologies d’intelligence artificielle.
Bien que les dirigeants d’OpenAI aient choisi de ne pas divulguer publiquement la violation à l’époque, estimant qu’elle ne compromettait pas les données des clients ou des partenaires, l’incident a déclenché une discorde interne.
Certains employés, dont l’ancien responsable du programme technique d’OpenAI, Leopold Aschenbrenner, ont exprimé leur inquiétude quant au fait que les mesures de sécurité de l’entreprise sont insuffisantes pour protéger contre les menaces potentielles, en particulier celles provenant d’adversaires étrangers cherchant à voler une technologie d’IA précieuse.
Sécurité ? Non, merci !
Ces deux incidents ont mis en lumière un débat plus large sur l’engagement d’OpenAI en matière de sécurité et de transparence. Bien que l’entreprise ait pris des mesures pour remédier aux vulnérabilités immédiates, des questions subsistent quant à ses processus internes et à la mesure dans laquelle elle accorde la priorité à la sécurité dans le développement et le déploiement de ses applications d’IA. Les risques géopolitiques potentiels associés aux technologies avancées d’IA compliquent encore davantage la question, car la crainte du vol de propriété intellectuelle par des pays étrangers plane.
La réponse d’OpenAI à ces défis a été double.
Tout d’abord, il a établi une Comité de sécurité et de sûreté pour évaluer et atténuer les risques associés aux technologies futures. Ce comité compte parmi ses membres des personnalités de premier plan comme Paul Nakasone, ancien général de l’armée et expert en cybersécurité. Deuxièmement, l’entreprise a réaffirmé sa volonté d’investir dans la protection de ses technologies, soulignant que ces efforts sont antérieurs aux incidents récents et sont en constante évolution.
La réputation d’OpenAI et la confiance de ses utilisateurs dépendent de sa capacité à tirer les leçons de ces expériences et à garantir que la sécurité reste une priorité absolue alors qu’elle continue de nous surprendre innovation après innovation dans le développement des technologies d’IA.
Crédit de l’image en vedette: Jonathan Kemper/Unsplash
