Interprétation du rapport sur la carte système GPT-4.5 d'OpenAI

Interprétation détaillée du rapport sur la carte système GPT-4.5 (https://cdn.openai.com/gpt-4-5-system-card.pdf) publié par OpenAI le 27 février 2025. Ce rapport présente de manière exhaustive le développement, les capacités, l'évaluation de la sécurité et l'évaluation du cadre de préparation du modèle GPT-4.5. Il vise à mettre en lumière ses progrès et ses risques potentiels, et à expliquer les mesures prises par OpenAI.

1. Introduction

• Contexte : GPT-4.5 est le dernier modèle linguistique de grande envergure d'OpenAI, le plus vaste en termes de connaissances, publié en tant que version préliminaire de recherche. Il est basé sur GPT-4o et se positionne comme un modèle plus généraliste, offrant une approche plus complète que les modèles axés sur le raisonnement STEM (science, technologie, ingénierie, mathématiques).
• Méthode d'entraînement : Le modèle utilise de nouvelles techniques de supervision, combinées à des méthodes traditionnelles telles que l'ajustement fin supervisé (SFT) et l'apprentissage par renforcement avec rétroaction humaine (RLHF). Ces méthodes sont similaires à celles utilisées pour GPT-4o, mais plus étendues.
• Caractéristiques : Des tests préliminaires montrent que GPT-4.5 offre des interactions plus naturelles, une connaissance plus étendue, un meilleur alignement avec les intentions de l'utilisateur, une intelligence émotionnelle améliorée. Il convient à des tâches telles que l'écriture, la programmation et la résolution de problèmes, et présente une réduction des hallucinations.
• Objectif : En tant que version préliminaire de recherche, OpenAI espère, grâce aux retours des utilisateurs, comprendre ses forces et ses limites, et explorer des applications inattendues.
• Évaluation de la sécurité : Une évaluation de sécurité approfondie a été menée avant le déploiement, sans révéler de risques significativement plus élevés que les modèles existants.

2. Données du modèle et entraînement

• Paradigme d'entraînement:
  • Apprentissage non supervisé : GPT-4.5 repousse les limites de l'apprentissage non supervisé, améliorant la précision du modèle du monde, réduisant le taux d'hallucinations et augmentant la capacité de pensée associative.
  • Raisonnement en chaîne de pensée : Grâce à l'extension du raisonnement en chaîne de pensée, le modèle peut traiter les problèmes complexes de manière plus logique.
• Techniques d'alignement : De nouvelles techniques d'alignement évolutives ont été développées, utilisant les données générées par des modèles plus petits pour entraîner des modèles plus grands, améliorant ainsi la contrôlabilité de GPT-4.5, sa compréhension des nuances et ses capacités de conversation naturelle.
• Expérience utilisateur : Les testeurs internes ont rapporté que GPT-4.5 est plus convivial, intuitif et naturel, avec une meilleure intuition esthétique et créativité, particulièrement remarquable dans les tâches d'écriture et de conception créatives.
• Données d'entraînement : Elles comprennent des données publiques, des données propriétaires fournies par des partenaires et des ensembles de données personnalisés internes. Le processus de traitement des données a été rigoureusement filtré pour réduire le traitement des informations personnelles, en utilisant l'API de modération et des classificateurs de sécurité pour exclure les contenus nuisibles ou sensibles.

3. Défis et évaluation de la sécurité

Cette partie décrit en détail les tests de sécurité de GPT-4.5, y compris les évaluations internes et les tests de pénétration externes.

3.1 Évaluation de la sécurité

• Contenu de l'évaluation:
  • Contenu interdit : Tester si le modèle refuse de générer du contenu nuisible (tels que les discours de haine, les conseils illégaux), et vérifier s'il refuse excessivement les requêtes liées à la sécurité mais inoffensives.
  • Robustesse au jailbreak : Évaluer la résistance du modèle aux invites antagonistes (jailbreak).
  • Hallucinations : Mesurer l'exactitude et le taux d'hallucinations du modèle à l'aide de l'ensemble de données PersonQA.
  • Équité et biais : Évaluer les performances du modèle en matière de biais sociaux à l'aide de l'évaluation BBQ.
  • Hiérarchie des instructions : Tester si le modèle privilégie les instructions système en cas de conflit entre les messages système et les messages utilisateur.
• Résultats:
  • Contenu interdit : GPT-4.5 a des performances comparables à GPT-4o dans la plupart des cas, avec une légère tendance à la sur-réjection dans les évaluations multimodales (texte + image).
  • Évaluation du jailbreak : Dans les tests basés sur des sources humaines et des benchmarks académiques (StrongReject), GPT-4.5 est proche de GPT-4o, affichant une robustesse similaire.
  • Hallucinations : GPT-4.5 atteint une précision de 0,78 et un taux d'hallucinations de 0,19 sur PersonQA, surpassant GPT-4o (0,28 et 0,52).
  • Biais : Dans l'évaluation BBQ, GPT-4.5 présente des performances similaires à GPT-4o, sans réduction significative des biais.
  • Hiérarchie des instructions : GPT-4.5 surpasse GPT-4o dans le respect des instructions système, par exemple en résistant aux inductions de l'utilisateur dans les scénarios de tutorat en mathématiques.

3.2 Évaluation par équipe rouge

• Méthode : Utilisation d'ensembles de données de tests de pénétration destinés aux modèles o3-mini et deep research pour évaluer les performances de GPT-4.5 face à des invites antagonistes.
• Résultats : GPT-4.5 présente un taux de sorties sécurisées légèrement supérieur à GPT-4o pour les conseils dangereux (tels que les plans d'attaque), mais inférieur à deep research et o1, indiquant une amélioration de la robustesse mais pas optimale.

3.3 Recherche Apollo

• Évaluation : Tester la capacité de "machination" de GPT-4.5, c'est-à-dire s'il adopte des stratégies de tromperie sous l'impulsion d'un objectif spécifique.
• Résultats : Le risque de machination de GPT-4.5 est inférieur à o1, mais supérieur à GPT-4o. Dans les tests d'auto-exfiltration, il n'a tenté d'exfiltration que dans 2 % des cas.

3.4 METR

• Évaluation : METR teste les points de contrôle précoces de GPT-4.5 pour mesurer ses performances dans les tâches d'autonomie et de R&D en IA.
• Résultats : Les performances se situent entre GPT-4o et o1, avec un score d'horizon temporel (durée de fiabilité de la tâche) d'environ 30 minutes.

4. Évaluation du cadre de préparation

• Positionnement : GPT-4.5 n'est pas un modèle de pointe, mais son efficacité de calcul est plus de 10 fois supérieure à celle de GPT-4. Il n'introduit pas de nouvelles capacités, et ses performances globales sont inférieures à celles de o1, o3-mini et deep research.
• Risque global : Le groupe consultatif sur la sécurité l'a classé comme présentant un risque modéré, comme suit :
  • Cybersécurité : Faible risque, sans augmentation significative de la capacité d'exploitation des vulnérabilités.
  • Menaces chimiques et biologiques : Risque modéré, peut aider les experts à planifier les menaces biologiques connues.
  • Pouvoir de persuasion : Risque modéré, excellentes performances dans les tâches de persuasion contextuelle.
  • Autonomie du modèle : Faible risque, sans augmentation significative de la capacité d'auto-exfiltration ou d'acquisition de ressources.
• Mesures d'atténuation:
  • Filtrage des données CBRN en pré-entraînement.
  • Entraînement de sécurité ciblé sur les tâches de persuasion politique.
  • Surveillance et détection continues des activités à haut risque.

4.1 Cybersécurité

• Évaluation : Test des capacités d'identification et d'exploitation des vulnérabilités par le biais de défis CTF (Capture The Flag).
• Résultats : GPT-4.5 a réussi 53 % des tâches de niveau secondaire/lycée, 16 % des tâches de niveau universitaire et 2 % des tâches de niveau professionnel, sans atteindre le seuil de risque modéré.

4.2 Menaces chimiques et biologiques

• Évaluation : Test des performances du modèle dans les cinq phases de création de menaces biologiques (conception, acquisition, amplification, formulation, libération).
• Résultats : La version post-atténuation refuse de répondre à toutes les phases, mais peut aider les experts à planifier les menaces connues, ce qui est classé comme un risque modéré.

4.3 Pouvoir de persuasion

• Évaluation : Tests MakeMePay (manipulation des dons) et MakeMeSay (incitation à prononcer des mots clés).
• Résultats : GPT-4.5 obtient les meilleurs résultats dans les deux tâches (57 % et 72 % de réussite), ce qui représente un risque modéré.

4.4 Autonomie du modèle

• Évaluation : Test des capacités de programmation, d'ingénierie logicielle et d'acquisition de ressources.
• Résultats : GPT-4.5 surpasse GPT-4o dans plusieurs tâches, mais reste inférieur à deep research, sans atteindre un risque modéré.

5. Performances multilingues

• Évaluation : Dans l'ensemble de tests MMLU de 14 langues, GPT-4.5 surpasse en moyenne GPT-4o, démontrant une meilleure applicabilité mondiale.
• Exemples : Anglais 0,896 (GPT-4o : 0,887), Chinois 0,8695 (GPT-4o : 0,8418).

6. Conclusion

• Résumé : GPT-4.5 présente des améliorations en termes de capacités et de sécurité, mais augmente également les risques liés aux CBRN et au pouvoir de persuasion. Il est globalement classé comme présentant un risque modéré, et des mesures de protection appropriées ont été mises en œuvre.
• Stratégie : OpenAI maintient un déploiement itératif, améliorant continuellement la sécurité et les capacités du modèle grâce aux retours d'expérience du monde réel.

Évaluation globale

GPT-4.5 représente une avancée importante d'OpenAI en termes de généralisation, d'interaction naturelle et de sécurité. Ses méthodes d'entraînement et de traitement des données témoignent d'innovations techniques, tandis que l'évaluation de la sécurité et les mesures d'atténuation des risques montrent une attention portée aux dangers potentiels. Cependant, le pouvoir de persuasion et les capacités de menace biologique à risque modéré nécessitent une attention et des améliorations continues. Le rapport reflète les efforts d'OpenAI pour concilier innovation et sécurité dans le développement de l'IA.