Roblox élargit l'accès aux outils de sécurité AI pour les plateformes en ligne

Roblox a rendu plusieurs de ses modèles de sécurité en intelligence artificielle disponibles pour d'autres plateformes en ligne en les partageant avec la communauté à but non lucratif ROOST Model. Ce développement vise à soutenir une adoption plus large des outils de sécurité dans l'industrie numérique.

Le kit d'outils open-source de l'entreprise comprend le système Sentinel, un classificateur PII (Informations Personnellement Identifiables) et un classificateur de sécurité vocale. Ces modèles sont conçus pour aider à détecter les signes précoces de mise en danger d'enfants, prévenir le partage d'informations sensibles et modérer les discussions vocales pour violations de politique en temps réel.

Sentinel, l'un des modèles publiés, est conçu pour identifier des motifs dans les discussions qui peuvent indiquer une mise en danger potentielle d'enfants avant que des comportements explicites de grooming ne se produisent. Le classificateur PII utilise le contexte des conversations pour reconnaître les tentatives de partage de détails personnels ou de déplacer les discussions hors de la plateforme. Le classificateur de sécurité vocale, disponible depuis 2024, analyse la parole dans plusieurs langues pour signaler les violations.

Les modèles de sécurité de Roblox, y compris la sécurité vocale, le classificateur PII, Roblox Guard et les modèles de sécurité pour enfants, ont été open-sourcés pour une utilisation industrielle depuis fin 2025. L'entreprise a rejoint la communauté ROOST Model en tant que membre fondateur en 2025, aux côtés d'autres entreprises technologiques, pour promouvoir le développement et le partage de solutions de sécurité en ligne.

Ce que les chiffres montrent

• Sentinel a identifié près de 70 % des cas de mise en danger d'enfants détectés sur Roblox au cours des 12 mois se terminant le 7 août 2026.
• Le filtre PII traite environ 370 000 demandes par seconde en période de pointe.
• Le classificateur de sécurité vocale de Roblox modère les discussions en environ 15 secondes dans huit langues.
• Le filtre PII a réalisé une réduction de 30 % des faux positifs et une augmentation de 25 % des mentions de PII détectées.

Les systèmes de modération AI de Roblox fonctionnent à grande échelle, traitant des milliards de messages de discussion chaque jour. Ces systèmes sont conçus pour détecter efficacement les violations de politique, y compris le partage d'informations personnelles et de contenu inapproprié dans les communications textuelles et vocales.

Des chercheurs indépendants ont examiné plus de deux millions de messages de discussion sur Roblox et ont identifié des cas de grooming, de sexualisation de mineurs, de harcèlement, de violence et de partage d'informations sensibles qui n'avaient pas été détectés par les systèmes de modération précédents. Les nouveaux modèles open-source visent à relever ces défis en fournissant des capacités de détection plus avancées.

Le kit d'outils de sécurité open-source est destiné à aider d'autres entreprises, en particulier celles qui n'ont pas les ressources pour développer leurs propres systèmes de sécurité avancés. En rendant ces outils disponibles, Roblox cherche à soutenir les efforts à l'échelle de l'industrie pour améliorer la sécurité en ligne des utilisateurs, en particulier des enfants.

Roblox a annoncé la publication de trois modèles de sécurité AI mis à jour à la communauté ROOST Model le 19 août 2026. Ces modèles sont désormais accessibles pour étude et adoption potentielle par d'autres plateformes cherchant à améliorer leurs mesures de sécurité.

* Cet article est basé sur des informations publiquement disponibles au moment de la rédaction.