OpenAI Détaille les Mesures de Protection Contre la Distillation Adversaire
OpenAI a déclaré que les mesures de protection mises à jour ont réduit le taux de succès moyen pour extraire le raisonnement protégé d'une demande antérieure à 0,2 % sur GPT-6.2 Astra, contre 54,0 % sur GPT-6 Astra sous ses protections originales. L'entreprise a publié les résultats de l'évaluation interne accompagnés d'une analyse et de conseils pratiques sur la distillation adversaire le 20 novembre 2026.
Les chiffres proviennent d'une évaluation adaptative en boîte noire combinant les résultats de six modèles d'attaquants. Pour les tentatives ciblant le raisonnement de la demande actuelle, OpenAI a rapporté des taux de succès de 0,9 % pour GPT-6.2 Astra et de 22,9 % pour GPT-6 Astra.
Dans l'explication d'OpenAI, la distillation utilise la sortie d'un modèle, y compris les réponses, le raisonnement ou les évaluations de qualité, pour entraîner un autre modèle. L'entreprise a déclaré que l'extraction des capacités d'un modèle de pointe sans autorisation ou protections comparables présente des préoccupations de sécurité, en particulier en cybersécurité et en biologie, où les capacités ont des usages doubles.
Pour GPT-6.2 Astra et GPT-6.2 Sol, OpenAI a déclaré que ses protections combinent des contrôles API, des tests adversaires, de la formation, des classificateurs et des enquêtes sur l'extraction coordonnée. Ces mesures utilisent des approches également appliquées à la biologie et à la cybersécurité. Sa formation distingue les demandes de raisonnement protégé, que les modèles sont formés à refuser, des demandes légitimes d'explications.
Selon OpenAI, les classificateurs examinent les demandes entrantes pour des tentatives d'extraction et vérifient les réponses sortantes et les arguments d'appel d'outil pour des fuites de raisonnement, que les réponses soient diffusées ou livrées sans diffusion. L'API lie également le raisonnement protégé à sa conversation d'origine : modifier un message antérieur supprime le raisonnement généré après celui-ci. Les anciennes familles de modèles avec des protections plus faibles ne peuvent pas accéder au raisonnement protégé des deux nouveaux modèles, a déclaré l'entreprise.
OpenAI a déclaré que le raisonnement interne exact peut inclure des informations intermédiaires omises des réponses finales. Une étude interne distincte sur les capacités en cybersécurité a comparé des modèles étudiants partageant le même point de départ pré-entraîné. Une base de référence d'entraînement comprenait des réponses visibles, des résumés de raisonnement et des interactions d'outil ; les données de comparaison comprenaient des trajectoires de tâches complètes produites par des modèles enseignants de niveau Astra effectuant des travaux de codage et de cybersécurité défensive.
Au-delà des demandes individuelles, OpenAI a déclaré qu'elle examine les signaux de compte et de demande ensemble pour détecter des motifs, enquête sur des extractions coordonnées suspectées et applique des mesures d'exécution à travers les réseaux de comptes lorsqu'elle identifie des violations. Elle partage également des indicateurs de compromission avec d'autres fournisseurs de modèles. Au cours de 2026, l'entreprise a signalé des mesures d'exécution hebdomadaires contre des campagnes de distillation adversaire impliquant des milliers à des dizaines de milliers de comptes, avec un taux en augmentation pendant l'été.
Les conseils demandent aux développeurs et aux plateformes d'examiner les arguments d'appel d'outil aux côtés des réponses ordinaires pour des fuites de raisonnement et de conserver les tentatives d'extraction réussies comme tests de régression. OpenAI a également recommandé des tests répétés contre des attaques établies et des équipes rouges adaptatives, ainsi qu'une coordination entre les partenaires de déploiement sur les mesures de protection et l'exécution.
* Cet article est basé sur des informations publiquement disponibles au moment de la rédaction.