O Meta recentemente lançou uma nova estrutura de política de risco projetada para avaliar e mitigar os riscos de modelos de IA de ponta, e interromper ou restringir o lançamento desses sistemas, se necessário. A estrutura, chamada de "Estrutura de IA de Ponta", detalha como o Meta classificará os modelos de IA em alto risco e risco crítico, e tomará medidas correspondentes para reduzir os riscos a um "nível aceitável".
Nesta estrutura, o risco crítico é definido como aquele que pode exclusivamente facilitar a execução de cenários de ameaça específicos. Já o alto risco significa que o modelo pode aumentar significativamente a probabilidade de um cenário de ameaça, mas não diretamente facilitar sua execução. Cenários de ameaça incluem a proliferação de armas biológicas com capacidades comparáveis a agentes biológicos conhecidos, e danos econômicos generalizados a indivíduos ou empresas por meio de fraudes e golpes em larga escala e extensos.
Para modelos que atingem o limite de risco crítico, o Meta interromperá o desenvolvimento e limitará o acesso apenas a um pequeno número de especialistas, implementando salvaguardas técnicas e comercialmente viáveis para evitar ataques de hackers ou vazamento de dados. Para modelos de alto risco, o Meta restringirá o acesso e implementará medidas de mitigação para reduzir o risco a um nível moderado, garantindo que o modelo não aumente significativamente a capacidade de execução de cenários de ameaça.
O Meta afirma que seu processo de avaliação de risco envolverá especialistas multidisciplinares e líderes internos da empresa, garantindo que todas as perspectivas sejam consideradas. Esta nova estrutura se aplica apenas aos modelos e sistemas mais avançados da empresa, com capacidades que correspondem ou excedem o estado da arte atual.
O Meta espera que, ao compartilhar seus métodos de desenvolvimento de sistemas de IA avançados, aumente a transparência e promova a discussão e a pesquisa sobre a avaliação de IA e a ciência da quantificação de riscos. A empresa também enfatiza que o processo de tomada de decisão para a avaliação de IA evoluirá e será aprimorado com o desenvolvimento da tecnologia, incluindo garantir que os resultados de seus ambientes de teste reflitam com precisão o desempenho do modelo no mundo real.
Destaques:
🌟 O Meta lança uma nova estrutura de política de risco para avaliar e mitigar os riscos de modelos de IA de ponta.
🔒 Modelos de risco crítico terão o desenvolvimento interrompido e o acesso limitado a especialistas; modelos de alto risco terão acesso restrito e medidas de mitigação.
🧑🏫 O processo de avaliação de risco envolverá especialistas multidisciplinares, buscando aumentar a transparência e a cientificidade.
