L’IA Claude Mythos, développée par Anthropic, a été suspendue à la suite d’une directive du gouvernement américain, mais avant cela, elle a pu identifier et réparer 217 failles de sécurité sur le navigateur Firefox en moins de deux mois. Cette IA est tellement puissante qu’elle peut même trouver des brèches sur les logiciels les plus sécurisés de la planète, comme les systèmes classifiés de la NSA. Selon un sénateur américain, Claude Mythos a trouvé des brèches sur presque tous les systèmes classifiés en quelques heures. Cette information a été révélée par le général Joshua Rudd, qui dirige la NSA et le Cyber Command du Pentagone. L’agence de presse Associated Press cite également une source anonyme qui indique que Mythos a trouvé des vulnérabilités sur des systèmes informatiques sensibles et hautement sécurisés du gouvernement durant un test. Cette découverte soulève des questions importantes sur la sécurité des systèmes informatiques et la capacité de l’IA à les compromettre.
Les capacités de Claude Mythos : un danger pour la sécurité nationale
Claude Mythos est un modèle d’IA qui a été développé pour trouver et réparer des failles de sécurité. Il a été utilisé par des organisations sélectionnées par Anthropic, dont Mozilla, pour identifier et réparer des failles de sécurité sur le navigateur Firefox. Les résultats ont été impressionnants, avec 217 failles de sécurité identifiées et réparées en moins de deux mois. Cependant, les capacités de Claude Mythos ne s’arrêtent pas là. Selon le sénateur Mark Warner, Claude Mythos a trouvé des brèches sur presque tous les systèmes classifiés en quelques heures. Cette information est particulièrement inquiétante, car elle souligne la vulnérabilité des systèmes de sécurité les plus avancés. Les systèmes classifiés de la NSA sont considérés comme parmi les plus sécurisés de la planète, et le fait que Claude Mythos puisse les compromettre en quelques heures est un signal d’alarme pour la sécurité nationale.
Les implications de cette découverte sont importantes. Si Claude Mythos peut trouver des failles de sécurité sur les systèmes les plus sécurisés de la planète, cela signifie que les systèmes de sécurité actuels ne sont pas suffisamment robustes pour protéger contre les attaques de l’IA. Cela soulève des questions sur la capacité des gouvernements et des organisations à protéger leurs systèmes de sécurité contre les attaques de l’IA. Les gouvernements et les organisations doivent prendre des mesures pour renforcer la sécurité de leurs systèmes et protéger contre les attaques de l’IA. Cela peut inclure la mise en place de systèmes de sécurité plus avancés, la formation de personnel pour détecter et répondre aux attaques de l’IA, et la collaboration avec les développeurs d’IA pour identifier et réparer les failles de sécurité.
La réponse du gouvernement américain : suspension de Claude Mythos
Le gouvernement américain a réagi rapidement à la découverte des capacités de Claude Mythos. La directive du gouvernement a suspendu l’accès à Claude Mythos, et Anthropic a annoncé qu’il suspendait la version grand public de l’IA, appelée Claude Fable 5. Cependant, la suspension de Claude Mythos ne signifie pas que les capacités de l’IA disparaissent. OpenAI a présenté la version complète de son modèle GPT-5.5-Cyber, qui dépasse les performances de Claude Mythos sur l’évaluation CyberGym. Cela signifie que les capacités de Claude Mythos ne sont pas uniques et que d’autres modèles d’IA peuvent être développés pour trouver et réparer des failles de sécurité.
La suspension de Claude Mythos soulève des questions sur la régulation de l’IA. Les gouvernements et les organisations doivent trouver un équilibre entre la promotion de l’innovation et la protection de la sécurité. La régulation de l’IA doit être mise en place pour prévenir les abus et protéger la sécurité nationale. Cela peut inclure la création de normes et de réglementations pour le développement et l’utilisation de l’IA, ainsi que la mise en place de systèmes de surveillance pour détecter et répondre aux attaques de l’IA.
Les défis de la régulation de l’IA
La régulation de l’IA est un défi complexe. Les gouvernements et les organisations doivent trouver un équilibre entre la promotion de l’innovation et la protection de la sécurité. La régulation de l’IA doit être mise en place pour prévenir les abus et protéger la sécurité nationale. Cependant, la régulation de l’IA peut également avoir des conséquences négatives, telles que la limitation de l’innovation et la création de barrières à l’entrée pour les nouveaux acteurs. Les gouvernements et les organisations doivent travailler ensemble pour trouver un équilibre entre la promotion de l’innovation et la protection de la sécurité.
Notre verdict
La découverte des capacités de Claude Mythos est un signal d’alarme pour la sécurité nationale. Les gouvernements et les organisations doivent prendre des mesures pour renforcer la sécurité de leurs systèmes et protéger contre les attaques de l’IA. La régulation de l’IA doit être mise en place pour prévenir les abus et protéger la sécurité nationale. Cependant, la régulation de l’IA doit également être équilibrée pour promouvoir l’innovation et permettre aux nouveaux acteurs de participer au marché. Les gouvernements et les organisations doivent travailler ensemble pour trouver un équilibre entre la promotion de l’innovation et la protection de la sécurité.
