Dario Amodei, fundador da Anthropic, apresentou a Política de Expansão Responsável (Responsible Scaling Policy - RSP) na cúpula de segurança de inteligência artificial no Reino Unido. Esta política visa garantir a segurança e o controle dos sistemas de inteligência artificial, prevenindo potenciais riscos e abusos.
A RSP inclui dois componentes principais: o sistema ASL e a curva de escalonamento.
O sistema ASL é modelado no sistema de biossegurança (BSL), com cada nível tendo medidas de segurança correspondentes.
- ASL-1: Representa modelos com risco praticamente nulo, como uma IA profissional de xadrez.
- ASL-2: Representa o estágio atual, onde os modelos apresentam riscos amplos, mas ainda não demonstraram capacidades verdadeiramente perigosas.
- ASL-3: É acionado quando modelos de IA se tornam operacionalmente perigosos em áreas CBRN (químicas, biológicas, radiológicas e nucleares).
- ASL-4: Representa uma escalada de riscos de uso catastrófico, acionado quando um sistema de IA se aproxima da capacidade autônoma de nível humano ou se torna a principal fonte de pelo menos uma ameaça séria à segurança global (como armas biológicas).
A curva de escalonamento é usada para testar o intervalo de tempo dessas capacidades perigosas, garantindo que não criemos cegamente modelos com capacidades perigosas. À medida que os sistemas de IA aumentam em escala e capacidade, as medidas de segurança também precisam ser atualizadas.
