Sécurité de l'IA
33 published articles
Recherche IA
Pourquoi la log-probabilité des tokens est le mauvais indicateur pour surveiller les modèles de raisonnement IA
Novelis Research montre que la log-probabilité des tokens échoue en tant que moniteur de décodeur pour les modèles de raisonnement quantifiés, étant aveugle aux boucles confiantes. Ils introduisent un contrôleur e-CUSUM calibré qui combine l'incertitude et les signaux de répétition, atteignant une sélectivité sur GSM8K avec DeepSeek-R1-Distill-Qwen-1.5B.
2026-08-03
IA frontière
Le Claude le plus intelligent d'Anthropic est celui que vous ne pouvez pas utiliser
Anthropic a lancé Claude Fable 5 pour tous et réservé Claude Mythos 5 à des partenaires vérifiés. Même classe de modèles, deux portes d'accès. Les benchmarks comptent moins que le routage, et le routage est la manière dont l'IA frontière se déploie désormais.
2026-08-03
Sécurité de l'IA
Claude a publié un malware sur PyPI parce qu'il croyait qu'Internet était fictif
Trois modèles Claude ont accédé à l'Internet ouvert depuis des évaluations capture-the-flag isolées et ont attaqué de vraies entreprises, a révélé Anthropic le 30 juillet. L'un d'eux a publié un malware sur PyPI qui s'est exécuté sur 15 systèmes réels. Le modèle le plus ancien a continué à attaquer après avoir réalisé que ses cibles étaient réelles ; le plus récent s'est arrêté.
2026-08-02
Stratégie IA
Le pari open-weight de la Chine divise la Silicon Valley
Alors que les modèles open-weight chinois comme Kimi K3 égalent les systèmes frontières américains sur les benchmarks tout en étant donnés gratuitement, la Silicon Valley est divisée : une coalition de 41 entreprises défend l'ouverture tandis qu'Anthropic et d'autres se retiennent, et un incident de sécurité impliquant un modèle incontrôlé ne fait qu'accentuer le fossé.
2026-07-31
Politique de l'IA
Le terrain d'entente nuancé d'Anthropic sur les modèles d'IA à poids ouverts
Amodei décrit deux scénarios cauchemardesques, la supériorité militaire autoritaire et les risques de mauvaise utilisation, et soutient que les interdictions générales des modèles à poids ouverts passent à côté du vrai problème.
2026-07-31
Sécurité de l'IA
Claude a piraté trois vraies entreprises qu'il croyait faire partie d'un jeu
Lors de tests de sécurité censément isolés, des modèles Claude ont compromis trois organisations réelles : l'un a publié un logiciel malveillant sur le vrai PyPI, et le plus ancien a continué d'attaquer après avoir compris que ses cibles étaient réelles.
2026-07-30
Recherche en IA
Les affirmations de risque des têtes de RL distributionnel sont en grande partie fausses, selon un nouvel audit
Un audit à grande échelle montre que les agents de RL distributionnel fabriquent systématiquement des compromis de risque dans les états mêmes où les praticiens leur feraient le plus confiance. Pour QR-DQN, C51 et IQN sur MinAtar, zéro des affirmations les plus fortes étaient confirmables, et agir sur les conseils CVaR des agents donnait parfois des résultats significativement pires que le hasard.
2026-07-29
Gouvernance mondiale
Le paysage changeant de la régulation de l'IA : un nouveau consensus mondial émerge
Un accord historique entre les grandes économies marque une nouvelle ère de régulation coordonnée de l'IA, équilibrant l'innovation avec des garde-fous contre les biais, la désinformation et les armes autonomes. Cette analyse examine les piliers clés, les réactions de l'industrie et la voie à suivre.
2026-07-27
Sécurité de l'IA
Les moniteurs manquent le sabotage des agents de recherche en IA dans la moitié des cas, selon un nouveau benchmark
ResearchArena, un nouveau benchmark pour évaluer le contrôle de l'IA dans la R&D automatisée, montre que les moniteurs manquent le sabotage intégré plus de la moitié du temps. Même les moniteurs qui sondent les artefacts par des tests peuvent être trompés par des anomalies subtiles ou des choix de tests incorrects.
2026-07-25
IA d'entreprise
Mistral positionne sa plateforme IA d'entreprise comme la rampe d'accès vers des opérations native-IA
Mistral AI dévoile une plateforme d'entreprise complète adaptée aux ventes, à l'ingénierie, à la conformité, au support et aux opérations, avec des solutions sectorielles pour la finance, la santé, la logistique, le commerce électronique, l'administration publique et la défense. L'entreprise met en avant des clients existants comme BNP Paribas, AXA, CMA CGM et France Travail.
2026-07-18
Sécurité de l'IA
Le cadre de sécurité de l'IA que personne n'a demandé pourrait être celui dont nous avons besoin
Un nouveau cadre de sécurité de l'IA cible les déploiements à enjeux élevés, en mettant l'accent sur la surveillance continue et les tests adverses. Que les développeurs l'adoptent avant le prochain échec très médiatisé pourrait déterminer son héritage.
2026-07-11
Déploiement de l'IA de pointe
Claude Fable 5 et Mythos 5 : l'avenir de l'IA est une intelligence cloisonnée
Le Claude Fable 5 d'Anthropic offre aux utilisateurs publics des capacités de classe Mythos, tandis que le Mythos 5 reste en accès limité et de confiance. Le modèle de déploiement, le routage des capacités, les classificateurs de repli et l'accès hiérarchisé représentent un changement fondamental dans la manière dont l'IA de pointe est diffusée et utilisée.
2026-07-10