据《读卖新闻》报道,日本一名25岁男子因滥用生成式 AI 制造电脑病毒,被东京地方法院判处有期徒刑三年,缓期执行四年。这是日本首次有因滥用生成式 AI 作出刑事定罪的案例。
根据判决书等资料显示,该男子利用电脑和智能手机,通过生成式 AI 获取的恶意程序设计图(源代码)制作了类似勒索软件的电脑病毒。此外,他还冒充他人骗取了手机通信卡等物品。
图源备注:图片由AI生成,图片授权服务商Midjourney
法庭上揭露了一个现实 —— 哪怕没有 IT 专业知识,也可以利用生成式 AI 制作病毒。被告林某使用“非官方版的 ChatGPT”,创建了对特定文件进行加密并使其无法使用,以及要求支付加密货币“比特币”的程序源代码。
安全公司“三井物产 Secure Directions”高级恶意软件分析技术员吉川孝志称,生成式 AI 设置了不提供非法信息的限制,但网上也存在规避限制的方法。被告在质询中也表示“查找了解除限制的方法,并使用之”。
吉川孝志指出:“生成式 AI 被恶意利用时,即便没有知识的人也可能获取可用于犯罪的信息”,并呼吁加紧采取防止滥用的对策。