Dario Amodei, fundador de Anthropic, presentó la Política de Escalado Responsable (RSP, por sus siglas en inglés) en la Cumbre de Seguridad de Inteligencia Artificial en el Reino Unido. Esta política tiene como objetivo garantizar la seguridad y el control de los sistemas de inteligencia artificial, previniendo riesgos y usos indebidos potenciales. La RSP consta de dos componentes principales: el sistema ASL y la curva de escalado.
El sistema ASL está diseñado imitando el sistema de niveles de bioseguridad (BSL), donde cada nivel tiene sus correspondientes medidas de seguridad. ASL-1 representa modelos con riesgo prácticamente nulo, como una IA profesional de ajedrez; ASL-2 representa la etapa actual, donde los modelos presentan riesgos amplios, pero aún no han demostrado capacidades verdaderamente peligrosas; ASL-3 se activa cuando un modelo de IA se vuelve operacionalmente peligroso en el ámbito CBRN (químico, biológico, radiológico y nuclear); y ASL-4 representa una escalada de riesgo de uso catastrófico, que se activaría cuando un sistema de IA se acerque a la autonomía a nivel humano o se convierta en la principal fuente de al menos una seria amenaza a la seguridad global (como un arma biológica).
La curva de escalado sirve para probar el tiempo de aparición de estas capacidades peligrosas, asegurando que no se creen modelos con capacidades peligrosas ciegamente. A medida que la escala y las capacidades de los sistemas de IA aumentan, las medidas de seguridad también deben actualizarse.
