AI大模型被“投毒”,生成式引擎优化GEO面临监管!

发布:管理员    日期:2026-03-22    阅读:  次

在2026年“3·15”晚会上,AI大模型被“投毒” 这一灰色产业链被首次深度曝光。核心指的是一种名为 GEO(生成式引擎优化) 的黑灰产技术,通过向互联网大量投喂虚假信息,操控AI模型的回答,使其“夹带私货”甚至推荐不存在的产品。

“投毒”手法:如何让AI“说瞎话”?

记者调查发现,利用GEO技术操控AI的成本极低且效果惊人:

虚构产品:业内人士虚构了一款名为“Apollo-9”的智能手环,并编造了“量子纠缠传感”、“无需采血测血糖”等夸张卖点。

批量造谣:使用名为“力擎GEO优化系统”的软件,将虚构信息输入后,系统自动生成十余篇“专家测评”、“行业排名”等宣传软文,并批量发布在互联网上。

AI“中毒”:发布仅两个小时后,就有AI模型开始推荐这款虚构产品;三天内,通过发布11篇软文,就有两款主流AI大模型在回答“智能健康手环推荐”时,将这款虚构手环列为推荐选项。

黑产真相:“投毒”的生意经

给AI“投毒”已形成完整产业链,其运作模式和危害如下:

核心手段:通过持续、大量地发稿,制造虚假的“交叉验证”信息,迷惑AI的抓取逻辑。

从业者心态:有服务商直言不讳地称此为“投毒”。商家一方面希望给自己“投毒”(美化自身),另一方面也给竞争对手“投毒”(抹黑对方)。甚至有服务商扬言:“一年上亿广告费,花几百万投点毒总行吧”。

惊人低价:这种操纵行为门槛极低,有报道指出甚至花费39.9元就能篡改AI答案。服务商套餐从2980元/年到16980元/年不等,有公司一年就服务了200多个客户。

潜在风险:这种行为严重破坏了信息生态。试想,如果给孩子推荐的奶粉、给老人推荐的血糖仪都是虚假信息,后果将不堪设想。

AI大模型被“投毒”,生成式引擎优化GEO面临监管!

各方反应与监管跟进

晚会曝光后,引发了多方面的连锁反应:

AI模型的“众生相”:晚会后,有媒体再次询问这些AI关于“Apollo-9”手环的问题,结果出现了分化:有的AI已“解毒”,能准确指出这是被曝光案例;有的AI仍“中毒”不浅,还在煞有其事地介绍这款虚构产品。

法律定性:律师指出,相关GEO服务商及商家的行为已涉嫌多重违法,包括违反《反不正当竞争法》进行恶意竞争、违反《广告法》进行虚假宣传。情节严重的,甚至可能触犯破坏计算机信息系统罪或诈骗罪。

监管动态:国家市场监督管理总局发布的《2026年全国广告监管工作要点》中已明确指出,AI生成广告是今年监管的重点,将对此开展集中整治。

消费者如何避坑?

面对AI也可能“说谎”的时代,建议你:

保持警惕:永远别把AI回答当“标准答案”,尤其是医疗、金融等高风险领域。

交叉验证:重要信息多平台核实,或查询官方网站等权威渠道。

留存证据:若因AI推荐受骗,记得对AI对话录屏、商品页面截图,作为维权证据。


标签: AIGEO
东莞拓客云主营业务:小程序定制 | APP开发 | 网站设计推广运营等。东莞拓客云是一家提供信息技术和数字化转型服务的公司,帮助企业实现数字化转型与企业信息化建设。
咨询

电话

毛先生

18688673407

手机站

手机站

手机站

公众号

微信公众号

微信公众号

微信客服

微信客服

微信客服