A OpenAI divulga as iniciativas da equipe do sistema de segurança. A equipe se dedica a garantir a segurança e confiabilidade de grandes modelos de IA. Isso inclui diversos grupos, como engenharia de segurança, pesquisa em segurança de modelos, pesquisa em raciocínio seguro e interação humano-máquina. O objetivo é resolver problemas de segurança de IA e garantir que o comportamento do modelo seja alinhado com os valores humanos. A pesquisa centrada na consistência do comportamento do modelo é o foco principal.

O fundador da Wikipédia, Jimmy Wales, expressou preocupações sobre a confiabilidade do ChatGPT na Web Summit. Ele argumenta que o ChatGPT pode levar à inclusão de informações incorretas em produtos digitais, questionando seu uso. Wales pediu aos desenvolvedores que tomem medidas, apontando que a parceria entre OpenAI e Microsoft pode representar um problema para o Google.

O GPT-4 da OpenAI apresenta maior confiabilidade que o GPT-3.5, segundo pesquisa. O estudo descobriu que usuários podem enganar o GPT-4, levando a resultados tendenciosos e vazamento de informações privadas. Esses problemas não estão presentes nos produtos GPT-4 voltados ao consumidor.