AI大模型被“投毒”,生成式引擎优化GEO面临监管!
发布:管理员 日期:2026-03-22 阅读: 次
在2026年“3·15”晚会上,AI大模型被“投毒” 这一灰色产业链被首次深度曝光。核心指的是一种名为 GEO(生成式引擎优化) 的黑灰产技术,通过向互联网大量投喂虚假信息,操控AI模型的回答,使其“夹带私货”甚至推荐不存在的产品。
“投毒”手法:如何让AI“说瞎话”?
记者调查发现,利用GEO技术操控AI的成本极低且效果惊人:
虚构产品:业内人士虚构了一款名为“Apollo-9”的智能手环,并编造了“量子纠缠传感”、“无需采血测血糖”等夸张卖点。
批量造谣:使用名为“力擎GEO优化系统”的软件,将虚构信息输入后,系统自动生成十余篇“专家测评”、“行业排名”等宣传软文,并批量发布在互联网上。
AI“中毒”:发布仅两个小时后,就有AI模型开始推荐这款虚构产品;三天内,通过发布11篇软文,就有两款主流AI大模型在回答“智能健康手环推荐”时,将这款虚构手环列为推荐选项。
黑产真相:“投毒”的生意经
给AI“投毒”已形成完整产业链,其运作模式和危害如下:
核心手段:通过持续、大量地发稿,制造虚假的“交叉验证”信息,迷惑AI的抓取逻辑。
从业者心态:有服务商直言不讳地称此为“投毒”。商家一方面希望给自己“投毒”(美化自身),另一方面也给竞争对手“投毒”(抹黑对方)。甚至有服务商扬言:“一年上亿广告费,花几百万投点毒总行吧”。
惊人低价:这种操纵行为门槛极低,有报道指出甚至花费39.9元就能篡改AI答案。服务商套餐从2980元/年到16980元/年不等,有公司一年就服务了200多个客户。
潜在风险:这种行为严重破坏了信息生态。试想,如果给孩子推荐的奶粉、给老人推荐的血糖仪都是虚假信息,后果将不堪设想。
各方反应与监管跟进
晚会曝光后,引发了多方面的连锁反应:
AI模型的“众生相”:晚会后,有媒体再次询问这些AI关于“Apollo-9”手环的问题,结果出现了分化:有的AI已“解毒”,能准确指出这是被曝光案例;有的AI仍“中毒”不浅,还在煞有其事地介绍这款虚构产品。
法律定性:律师指出,相关GEO服务商及商家的行为已涉嫌多重违法,包括违反《反不正当竞争法》进行恶意竞争、违反《广告法》进行虚假宣传。情节严重的,甚至可能触犯破坏计算机信息系统罪或诈骗罪。
监管动态:国家市场监督管理总局发布的《2026年全国广告监管工作要点》中已明确指出,AI生成广告是今年监管的重点,将对此开展集中整治。
消费者如何避坑?
面对AI也可能“说谎”的时代,建议你:
保持警惕:永远别把AI回答当“标准答案”,尤其是医疗、金融等高风险领域。
交叉验证:重要信息多平台核实,或查询官方网站等权威渠道。
留存证据:若因AI推荐受骗,记得对AI对话录屏、商品页面截图,作为维权证据。