两位科技教父警告强大的人工智能系统威胁社会稳定,要求AI公司对其产品造成的危害负有责任。他们强调在进行更强大的人工智能系统开发之前,应首先了解如何确保其安全。政策建议包括分配AI研发资金给安全和道德使用,建立许可制度,并要求科技公司对产品危害负责。专家担心自主人工智能系统可能无法受到充分控制,提出强制报告和阻止危险模型复制的政策建议。