Dois pioneiros da tecnologia alertaram sobre a ameaça que sistemas de inteligência artificial poderosos representam à estabilidade social, exigindo que as empresas de IA sejam responsabilizadas pelos danos causados por seus produtos. Eles enfatizaram a necessidade de entender como garantir a segurança da IA antes de desenvolver sistemas ainda mais poderosos.
As recomendações de políticas incluem alocar fundos de P&D de IA para uso seguro e ético, estabelecer um sistema de licenciamento e exigir que as empresas de tecnologia sejam responsáveis pelos danos causados por seus produtos. Especialistas temem que sistemas de IA autônomos possam se tornar incontroláveis, sugerindo políticas como relatórios obrigatórios e a prevenção da replicação de modelos perigosos.
