OpenAI presenta las medidas de su equipo de sistemas de seguridad. El equipo se dedica a garantizar la seguridad y fiabilidad de los grandes modelos de IA. Incluye varios grupos, como ingeniería de seguridad, investigación en seguridad de modelos, investigación en razonamiento seguro e interacción persona-máquina. Aborda los problemas de seguridad de la inteligencia artificial para asegurar que el comportamiento del modelo sea coherente con los valores humanos. La investigación centrada en la coherencia del comportamiento del modelo es clave.

Un estudio revela que GPT-4 de OpenAI supera a GPT-3.5 en confiabilidad. Sin embargo, la investigación también demuestra que los usuarios pueden engañar a GPT-4, lo que lleva a resultados sesgados y a la filtración de información privada. Estos problemas no están presentes en los productos GPT-4 orientados al consumidor.