Este artigo discute se a pesquisa atual sobre alinhamento de inteligência artificial (IA) é eficaz na prevenção de danos catastróficos futuros. O autor argumenta que essa pesquisa serve principalmente para melhorar o desempenho do produto e tem dificuldade em abordar problemas de segurança mais profundos. Prevenir catástrofes requer uma participação mais ampla em discussões sobre ética e governança da IA. A opinião pública é crucial, mas não se pode depender apenas daqueles que lucram com a implantação da IA.