据《读卖新闻》报道，日本一名25岁男子因滥用生成式 AI 制造电脑病毒，被东京地方法院判处有期徒刑三年，缓期执行四年。这是日本首次有因滥用生成式 AI 作出刑事定罪的案例。

根据判决书等资料显示，该男子利用电脑和智能手机，通过生成式 AI 获取的恶意程序设计图（源代码）制作了类似勒索软件的电脑病毒。此外，他还冒充他人骗取了手机通信卡等物品。

黑客帝国 科幻 银翼杀手2049

图源备注：图片由AI生成，图片授权服务商Midjourney

法庭上揭露了一个现实 —— 哪怕没有 IT 专业知识，也可以利用生成式 AI 制作病毒。被告林某使用“非官方版的 ChatGPT”，创建了对特定文件进行加密并使其无法使用，以及要求支付加密货币“比特币”的程序源代码。

安全公司“三井物产 Secure Directions”高级恶意软件分析技术员吉川孝志称，生成式 AI 设置了不提供非法信息的限制，但网上也存在规避限制的方法。被告在质询中也表示“查找了解除限制的方法，并使用之”。

吉川孝志指出:“生成式 AI 被恶意利用时，即便没有知识的人也可能获取可用于犯罪的信息”，并呼吁加紧采取防止滥用的对策。