如今，AI生成虚假内容已经见怪不怪，只不过一男子竟然用AI技术合成视频，发布不实信息结果在被抓了，这也警示大家要谨慎使用AI工具，避免带来不良后果。
据报道，今年6月，厦门警方接到举报，有人在今日头条上发布了一段视频，内容是关于广东某地一位70多岁的老人被殴打，孙子因此跳河自杀，打人者被判刑。这段视频一发布，立刻引起了广泛关注。
但经过警方的侦查，发现这完全谣言，而发布这段视频的账号“小逸看世界”的所有者，任某（32岁，湖北人），也在6月13日晚被警方抓获。
任某交代，他利用AI技术，只需要两三分钟就能合成一段视频。他先是在网上找一些吸引眼球的标题，然后用写作APP自动生成虚假内容，再根据内容自动生成图片，最后组合成视频，通过社交平台发布。
他这么做的目的，是为了引流、增加粉丝数，还能根据视频的流量来赚钱。现在，任某因涉嫌寻衅滋事罪，已经被厦门警方采取了刑事强制措施。