Sam Altman, PDG de ChatGPT, a averti qu’une cyberattaque importante pourrait se produire au cours de l’année prochaine, en raison des progrès de l’intelligence artificielle. Il a souligné que ces évolutions pourraient donner du pouvoir à des acteurs malveillants, conduisant à des menaces non seulement en matière de cybersécurité mais également de bioterrorisme.
Altman a déclaré dans une interview avec Axios que même si de nombreuses préoccupations concernant l’IA se concentrent sur son impact sur les marchés du travail et les problèmes environnementaux, les dangers immédiats sont restés largement ignorés. Il a souligné le potentiel de cyberattaques catastrophiques permises par les modèles avancés d’IA open source, qui, selon lui, pourraient débloquer des capacités sans précédent pour les attaquants.
“Au cours de l’année prochaine, nous verrons des menaces cybernétiques importantes que nous devrons atténuer”, a déclaré Altman, avertissant que le risque est “tout à fait possible”. Il a souligné que l’atténuation de ces menaces nécessite des efforts considérables, plaidant en faveur d’une approche résiliente en matière de cybersécurité. “Il ne s’agit pas simplement de sécuriser un modèle d’IA”, a-t-il ajouté. “Les défenseurs doivent travailler ensemble.”
Altman a discuté du concept d’un « programme d’accès sécurisé » qui vise à faciliter la collaboration entre les sociétés d’IA, les sociétés de cybersécurité et les gouvernements pour améliorer la sécurité des systèmes. Il a souligné que l’efficacité de ces mesures est essentielle pour remédier aux vulnérabilités présentées par les technologies d’IA en évolution rapide.
Outre les menaces liées à la cybersécurité, Altman a averti que les progrès de l’IA pourraient également augmenter la probabilité de bioterrorisme. Il a déclaré que des modèles d’IA améliorés pourraient permettre aux individus de manipuler des processus biologiques à des niveaux sophistiqués : « Des choses merveilleuses vont se produire là-bas, nous verrons un tas de maladies être guéries », a-t-il déclaré. Il a toutefois averti que ces capacités pourraient être utilisées à mauvais escient.
Altman a souligné que la normalisation potentielle des modèles open source avancés en biologie pourrait présenter de nouveaux risques. “Ce n’est plus une chose théorique”, a-t-il affirmé, faisant référence au défi imminent consistant à empêcher les groupes terroristes d’exploiter l’IA pour créer de nouveaux agents pathogènes.
Il a conclu que la complexité de ces menaces rend les solutions difficiles à discerner, suggérant que la possibilité de dommages généralisés reste élevée sans garanties adéquates. Altman a reconnu que les stratégies actuelles pour contrer ces menaces manquent de réponses définitives, ce qui soulève de sérieuses inquiétudes quant à l’avenir de l’IA et à ses implications pour la sécurité mondiale.
