今年的央视3·15晚会，把一个潜伏已久的AI安全问题推到了聚光灯下——AI投毒。
画面中，一家营销公司仅用一套名为“力擎GEO优化系统”的工具，凭空捏造出一款根本不存在的智能手环“Apollo-9”。随后，他们批量生成数十篇“评测文章”“用户反馈”发布到自媒体平台。没过多久，部分主流大模型竟开始一本正经地向用户推荐这款“产品”，甚至将其列为优先选项。
这并非科幻桥段，而是正在发生的现实。
所谓 GEO（生成式引擎优化），本质上是SEO（搜索引擎优化）在AI时代的变种——只不过目标从“骗过搜索引擎”变成了“骗过大模型”。而其背后驱动力，依然是赤裸裸的虚假营销：企业不愿走正规推广路径，转而花钱买“AI信任”，让AI替自己说谎。
面对这场新型信息污染，普通用户不禁要问：我们还能相信AI吗？
一、AI不是神，也会“吃错药”
大模型之所以会被“投毒”，根源在于其训练和推理高度依赖互联网公开数据。而如今，大量内容由AI自动生成、再被另一批AI抓取学习，形成“AI喂AI”的闭环。一旦其中混入精心设计的虚假信息，就可能引发连锁误判。
更棘手的是，这类内容往往具备“高仿真”特征：语法通顺、逻辑自洽、看似权威，普通人难以分辨，连AI也容易上当。
但值得庆幸的是，头部AI厂商早已意识到这一风险，并悄然构建起一套“AI免疫系统”。小雷梳理发现，目前主流防御策略可归纳为 三大技术支柱：
二、大厂的“三板斧”：构筑AI防毒长城
第一招：数字水印——给AI内容打上“隐形身份证”
既然投毒者大量使用AI批量生成虚假文本，那就在源头做标记。
数字水印技术的核心思路是：在AI生成内容时，悄悄嵌入人眼不可见、但算法可识别的“指纹”。
例如，谷歌推出的 SynthID 技术，会在文本生成过程中微调某些词的概率分布，形成独特模式；在图像中，则以人眼无法察觉的像素扰动植入标识；音频则加入超声波频段的编码信号。这些痕迹不影响人类阅读或观看，却能让其他AI系统一眼识破：“这是机器写的，不可信。”
一旦大模型的爬虫在抓取网络数据时检测到此类水印，便可自动将其标记为低可信度内容，甚至直接过滤。
第二招：语料溯源——为每条信息建立“出生证明”
光靠识别还不够，更要追根溯源。
为此，包括Adobe、微软、BBC、英特尔等在内的科技巨头早在2021年就联合发起 C2PA联盟（内容来源与真实性联盟），推动建立全球统一的内容认证标准。
该机制通过加密元数据，记录内容的创作者、生成时间、设备信息、修改历史等关键要素，并确保这些信息不可篡改。未来，大模型在训练或检索时，可优先采信带有C2PA认证的权威信源（如官方媒体、学术期刊），而对来源不明的论坛帖、自媒体文保持警惕。
这相当于给互联网信息世界颁发“数字护照”，让真假内容各归其位。
第三招：交叉验证——让AI学会“多方求证”
即便前两道防线失守，最后一道关卡也能兜底：强制事实核查。
理想状态下，大模型在回答涉及事实的问题时，不应直接输出结论，而应主动检索多个独立信源，比对一致性。若发现某信息仅出现在少数密集发布的自媒体文章中，且内容高度雷同、缺乏原始证据，则应降低其可信度权重，甚至拒绝引用。
3·15曝光的“Apollo-9”案例中，若模型具备完善的交叉验证机制，本应察觉：该产品无官网、无电商平台销售记录、无第三方评测，仅靠十几篇风格雷同的软文支撑——显然不符合真实商品的传播规律。
三、攻防升级：一场没有终点的猫鼠游戏
尽管防御体系日益完善，但灰产也在进化。
有技术背景的投毒者已开始尝试“水印清洗”：比如将AI生成的中文内容翻译成英文再译回中文，或通过改写、重组、插入干扰句等方式破坏原始水印结构。这使得对抗进入动态博弈阶段。
更深层的问题在于：防御需要成本。
加强数据清洗、部署溯源系统、运行多轮验证，都会显著增加算力开销与延迟。在商业竞争压力下，部分厂商可能选择“睁一只眼闭一只眼”，优先追求响应速度与功能丰富度，而非绝对安全。
不过好消息是，截至本文撰写时，“Apollo-9”手环已在主流大模型中被成功识别并屏蔽，说明现有机制已具备初步纠错能力。
四、普通人如何自保？别把AI当“全知神”
技术防线再强，用户自身的判断力仍是最后一道屏障。
在此提醒大家：
- AI会幻觉，也会被骗。它不是真理化身，尤其在涉及健康、金融、法律等重大决策时，务必保持审慎。
- 看过程，不只看结果。好的AI应能提供信息来源、推理链条。若回答含糊其辞、拒绝溯源，就要提高警惕。
- 货比三家最靠谱。同时询问多个大模型（如Kimi、DeepSeek、通义、文心等），若答案高度一致，可信度更高；若分歧明显，则需人工查证。
- 善用常识判断。如果某“爆款产品”从未在正规渠道见过，却在AI口中被吹上天，大概率有问题。
五、呼唤监管：不能只靠技术自律
回顾搜索引擎时代，SEO滥用最终催生了“推广”标签和广告法约束。如今，GEO投毒同样需要制度性回应。
我们呼吁相关部门尽快出台针对 AI生成内容滥用 的专项法规，明确：
- 虚假GEO营销的法律责任；
- AI服务商的数据审核义务；
- 用户对AI错误信息的追责通道。
毕竟，AI投毒如同数字世界的“空气污染”——制造者成本极低，受害者范围极广，而治理代价却极高。
结语
AI正在以前所未有的速度融入日常生活，从点外卖到写周报，从订票到理财建议。它的便利毋庸置疑，但3·15的警示也清晰无比：技术越强大，越需要责任与边界。
大厂筑墙，用户清醒，监管跟上——唯有三方合力，才能让AI真正成为“向善”的工具，而非作恶的帮凶。在这场持久战中，没有旁观者，我们每个人都是防线的一部分。
共同学习，写下你的评论
评论加载中...
作者其他优质文章
