Recentemente, o CEO da OpenAI, Sam Altman, anunciou sua saída do conselho de segurança interno da empresa, criado em maio deste ano para supervisionar decisões cruciais de segurança e proteção no desenvolvimento e implantação de modelos de inteligência artificial da OpenAI. A decisão de Altman gerou amplo interesse, pois ele busca transferir essa responsabilidade para especialistas independentes, visando aumentar a transparência, a colaboração e a segurança.
Com a saída de Altman, o conselho de segurança se transformará em um “comitê de supervisão independente”, focando em questões de segurança e proteção. O novo presidente do comitê é Zico Kolter, chefe do departamento de aprendizado de máquina da faculdade de ciência da computação da Universidade Carnegie Mellon. Ele sucede Brett Taylor, que também deixou o comitê. Outros membros incluem Adam D'Angelo, cofundador e CEO do Quora; o general aposentado do exército americano Paul Nakasone; e Nicole Ligman, ex-vice-presidente executiva e conselheira geral da Sony.
Sob a liderança de Kolter, o comitê será responsável por revisar os padrões de segurança e adequação do AI usados para avaliar seu mais recente modelo de linguagem grande - o OpenAI o1. O OpenAI o1 introduz capacidades de raciocínio avançadas, alegando superar doutores humanos em física, química e biologia, e demonstrando desempenho excepcional em matemática e codificação.
A OpenAI também delineou a futura missão do comitê, incluindo o estabelecimento de uma governança independente de segurança e proteção de IA, o aprimoramento das medidas de segurança, o aumento da transparência sobre o trabalho da OpenAI, a colaboração com organizações externas e a unificação da estrutura de segurança da empresa em relação ao desenvolvimento e monitoramento de modelos. A empresa declarou: "Estamos comprometidos em melhorar continuamente a maneira como lançamos modelos de alta capacidade e seguros, e o comitê de segurança e proteção desempenhará um papel fundamental na moldagem do futuro da OpenAI."
No entanto, o estilo de gestão de Altman gerou controvérsias, especialmente considerando seu retorno rápido à OpenAI após ter sido forçado a sair no final do ano passado. Seu relacionamento com Elon Musk da Tesla, um dos diretores fundadores da OpenAI, também é relativamente tenso. Questionamentos sobre a segurança tecnológica da OpenAI surgem frequentemente, incluindo se a empresa utilizou acordos de confidencialidade ilegais e exigiu que os funcionários relatassem contatos com órgãos reguladores.
O impacto da saída de Altman na governança da IA ainda é incerto. Alguns argumentam que isso pode indicar que a OpenAI está reconhecendo a importância da neutralidade na governança da IA e está disposta a ser mais aberta na gestão de segurança e riscos da IA.
Destaques:
🌐 Altman deixa o conselho de segurança da OpenAI para promover um mecanismo de supervisão mais independente.
🔍 O novo presidente, Zico Kolter, liderará o comitê, continuando a avaliar a segurança dos novos modelos da OpenAI.
🤝 A OpenAI planeja fortalecer a colaboração com organizações externas, melhorando a transparência e as medidas de segurança.
