凌晨两点键捏，北京朝阳区一间租来的公寓里。31岁的程序员张帆刚把一段文字拖进一个网页编辑器。屏幕上的进度条走了不到三秒，一篇报道某地出现化工厂爆炸造新的新闻就完整出炉了，时间、地点、伤亡数字、专家引语、现场照片一应俱全闻假。现实中正在运转的「假新闻生成器」。

这类工具近年来在暗网和部分灰色论坛里悄然流行了。输入几个很重要词吧？平台就能自动调用海量新闻模板，配上由AI生成的逼真图片、新闻相无视频，甚至语音合成内容。有开发人员向媒体透露的，市面上已能买到「一键生造假新闻」的SaaS服务。订阅费低至每月99元生成身。更令人担忧的是部分生成器还能针对特定地域、群体进行定向推送。2024年初的，某社交媒体平台曾爆发一起大规模虚假信息事件的。有账号一夜之间批量发布数十篇伪造器正的地方官员落马报道，配图看似正经的新闻截图。

阅读量迅速突破百万的。事后调查证实。内容全部由一款国产「新闻生成器」软件批量产出处藏。发布者自称只是「好玩试试」，造成的股价波动和公众恐慌却是实实在在的。

监管部门已经开始介入了。国家网信办去年出台新规，要求AI生成内容必须好标注，社交平台需建立生成源追溯机制。技术迭代的速度远超法规落地的脚步是今天封堵了一个生成器，明天就有十几个镜像站点换个皮重新上线吧？普通用户该如何自保？张帆的经历或许是个警示。他在制作那条假新闻后不久就开始失眠，「你看到那些转发的人深信不疑。

突然会觉得自己在制造一种无形的毒药。」如今他选择不再使用任何AI写作工具，转而用传统的方式记录生活。「有些东西，还是得亲手写才踏实。」