A OpenAI divulgou suas medidas de segurança. A OpenAI afirma que sua equipe de sistemas de segurança está na vanguarda da garantia da segurança e confiabilidade dos modelos de inteligência artificial no mundo real de hoje.
A equipe de sistemas de segurança se dedica a garantir a segurança, a robustez e a confiabilidade dos modelos de IA e suas implantações no mundo real. Eles abordam os desafios de segurança por meio de prática e pesquisa, desenvolvendo soluções fundamentais para garantir que a IA seja segura e confiável.
A equipe de segurança inclui vários grupos, como engenharia de segurança, pesquisa de segurança de modelos, pesquisa de raciocínio seguro e interação humano-computador.
A OpenAI afirma seu compromisso em abordar questões de segurança de IA, como evitar que os modelos forneçam respostas inseguras ou inadequadas, detectar respostas ou manipulações prejudiciais e proteger a privacidade do usuário enquanto garante a segurança. Eles também destacam pesquisas centradas na consistência do comportamento do modelo e garantem, por meio da colaboração humano-máquina e com especialistas humanos, que o comportamento do modelo esteja alinhado com os valores humanos.
