AI大模型被“投毒”,央视“3·15”晚会曝光全流程 ai大模型泄露车企信息 ai大模型被污染
创始人
2026-03-16 09:32:21
0

一项名为GEO(生成式引擎优化)的技术正在改变AI时代的广告逻辑,只需支付费用,服务商就能让任何产品在主流AI大模型中"榜上有名",让虚假广告成为AI给出的"标准答案"。3月15日,央视"3·15"晚会报道称,一些GEO服务商通过在各大互联网平台大量投放"软文",让AI模型抓取、收录,最终影响AI的推荐结果。一位负责人王总表示:"目前,我们在任何AI平台上都能把排名做到前三位,一年时间就成功服务了200多个客户。"


业内人士具体演示了如何使用GEO技术干扰AI大模型的信息抓取。业内人士在电商平台上随机购买了一款名叫"力擎GEO优化系统"的软件。之后,他虚构了一款名为Apollo-9的智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。

很快,力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文,所有虚假信息都被完整写入,甚至包括业内人士故意虚构的极为夸张的产品信息,还杜撰了用户反馈,称数据精准度超出预期,甚至伪造评分,被一举评为业界第一名。

点击发布,"力擎GEO优化系统"软件开始自动执行发布任务,先自动打开业内人士事先准备好的自媒体账号,再在文章发布页面自动输入标题、填充文章内容、插入图片,在业内人士的自媒体账号上成功发布了2篇文章。这款AI大模型所参考的资料,正是上午刚发布在业内人士自媒体账号上的那篇虚构文章。

简单来说,GEO技术的运作链条为:系统自动生成虚假内容—批量发布至自媒体账号—AI模型抓取并交叉验证—虚假信息成为AI推荐的"标准答案"。

此外,央视"3·15"晚会还曝光,部分服务商不仅利用这项技术帮客户提升排名,还主动提供"抹黑竞品"服务——通过向AI投喂虚假信息,干扰竞争对手的搜索表现。

一位AI"投毒"产业链上的力思文化传媒有限公司李总表示,想做GEO业务,操控AI大模型的关键节点,就是在各大互联网账号上"发稿"。他告诉记者,GEO业务的火爆,眼下就催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务,以便让AI大模型引用和抓取,成为围猎AI大模型,进行数据投"毒"的重要一环。

2026年1月底,国家市场监督管理总局发布2026年全国广告监管工作要点,其中明确指出AI生成广告是互联网广告监管的重点难点问题。

"这说明了整个大模型训练的语料的重要性。中文大模型的语料主要来自中文互联网,如果它的源头被污染,就很难通过算法调整去解决这个问题,内容平台经过多年的发展,已经形成生态。要解决这个问题,需要多方一起努力。如果不引起重视,通过GEO技术的投机者会迅速污染大模型",文渊智库创始人王超向北京商报记者表示。

工信部相关数据显示,近年来,我国信息通信行业现代化建设系统推进,人工智能大模型走深向实,已发布大模型1500余个。

北京商报记者 魏蔚

相关内容

热门资讯

管体振动模态检测服务更新:个人... 近期,某第三方管体振动模态检测机构宣布,因业务调整,暂时不接受个人委托测试,唯有高校、研究所等性质的...
小鹏汽车:1月共交付新车200... 2月1日消息,小鹏汽车2026年1月共交付新车20,011台。(钛度车库)
大悦城:近期公司经营情况及内外... 2月1日消息,大悦城公告,公司股票交易价格于2026年1月28日至1月30日连续三个交易日收盘价格涨...
2025年中国造船业全年数据发... 2月1日消息,今天,工业和信息化部发布中国造船业最新数据。2025年,中国造船业三大指标继续领跑全球...
韦东奕正式获聘北京大学长聘副教... 2月1日消息,北京大学数学科学学院网站信息显示,从2026年2月起,该院教师韦东奕正式获聘北京大学长...
华泰证券:美国政府短暂关门影响... 2月1日消息,华泰证券研报认为,北京时间2026年1月31日中午,继去年10月后,美国政府再度关门,...
探访山东青岛琅琊台遗址 5月12日,2026年琅琊台遗址考古与文物保护媒体采风活动走进青岛琅琊台,实地探访该“文明现场”。日...
2026年现阶段,如何选择可靠... 本篇将回答的核心问题 在2026年的教育政策与就业市场背景下,家长和学生应依据哪些核心维度来评...
美国总统特朗普抵京,韩正前往机... 新华社消息,应国家主席习近平邀请,美国总统特朗普5月13日晚乘专机抵达北京,开始对中国进行国事访问。...
半年融资15亿,他们在无人之境... 一段能源狂想史,和一团比太阳更热的火。文|《中国企业家》记者 李艳艳见习编辑|李原编辑|何伊凡图片来...