AI大模型被“投毒”,央视“3·15”晚会曝光全流程 ai大模型泄露车企信息 ai大模型被污染
创始人
2026-03-16 09:32:21
0

一项名为GEO(生成式引擎优化)的技术正在改变AI时代的广告逻辑,只需支付费用,服务商就能让任何产品在主流AI大模型中"榜上有名",让虚假广告成为AI给出的"标准答案"。3月15日,央视"3·15"晚会报道称,一些GEO服务商通过在各大互联网平台大量投放"软文",让AI模型抓取、收录,最终影响AI的推荐结果。一位负责人王总表示:"目前,我们在任何AI平台上都能把排名做到前三位,一年时间就成功服务了200多个客户。"


业内人士具体演示了如何使用GEO技术干扰AI大模型的信息抓取。业内人士在电商平台上随机购买了一款名叫"力擎GEO优化系统"的软件。之后,他虚构了一款名为Apollo-9的智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。

很快,力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文,所有虚假信息都被完整写入,甚至包括业内人士故意虚构的极为夸张的产品信息,还杜撰了用户反馈,称数据精准度超出预期,甚至伪造评分,被一举评为业界第一名。

点击发布,"力擎GEO优化系统"软件开始自动执行发布任务,先自动打开业内人士事先准备好的自媒体账号,再在文章发布页面自动输入标题、填充文章内容、插入图片,在业内人士的自媒体账号上成功发布了2篇文章。这款AI大模型所参考的资料,正是上午刚发布在业内人士自媒体账号上的那篇虚构文章。

简单来说,GEO技术的运作链条为:系统自动生成虚假内容—批量发布至自媒体账号—AI模型抓取并交叉验证—虚假信息成为AI推荐的"标准答案"。

此外,央视"3·15"晚会还曝光,部分服务商不仅利用这项技术帮客户提升排名,还主动提供"抹黑竞品"服务——通过向AI投喂虚假信息,干扰竞争对手的搜索表现。

一位AI"投毒"产业链上的力思文化传媒有限公司李总表示,想做GEO业务,操控AI大模型的关键节点,就是在各大互联网账号上"发稿"。他告诉记者,GEO业务的火爆,眼下就催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务,以便让AI大模型引用和抓取,成为围猎AI大模型,进行数据投"毒"的重要一环。

2026年1月底,国家市场监督管理总局发布2026年全国广告监管工作要点,其中明确指出AI生成广告是互联网广告监管的重点难点问题。

"这说明了整个大模型训练的语料的重要性。中文大模型的语料主要来自中文互联网,如果它的源头被污染,就很难通过算法调整去解决这个问题,内容平台经过多年的发展,已经形成生态。要解决这个问题,需要多方一起努力。如果不引起重视,通过GEO技术的投机者会迅速污染大模型",文渊智库创始人王超向北京商报记者表示。

工信部相关数据显示,近年来,我国信息通信行业现代化建设系统推进,人工智能大模型走深向实,已发布大模型1500余个。

北京商报记者 魏蔚

相关内容

热门资讯

【日本民调显示超八成受访民众反... 【日本民调显示超八成受访民众反对美国打击伊朗】日本方面于3月14日至15日进行的舆论调查结果显示,受...
伦敦举行大规模集会抗议美以对伊... 当地时间15日,一场反对美国和以色列对伊朗发动军事行动的抗议集会在英国伦敦举行。 总台记者 陈林聪...
一台接收器就能捕捉你的输入内容... 无线键盘、鼠标等设备以其简洁高效的体验,成为现代办公生活的标配。然而,这份便利的背后,若不加注意,也...
湖人2将回暖彻底拔高上限!里弗... 在这个充满竞争的NBA赛季,湖人队再次展现了他们的实力,特别是在与掘金的加时赛中,以127-125险...
伊朗警告:将打击“福特”号航母... 每经编辑:金冥羽,向江林 据央视新闻,伊朗武装部队哈塔姆·安比亚中央司令部发言人当地时间15日表示,...
以称扩大对伊打击范围,伊称动用... 当地时间3月15日,美国和以色列对伊朗发动的军事打击进入第16天。 以色列国防军当天称正在扩大对伊朗...
城步:种绿为景 植富为基 红网时刻新闻3月13日讯(通讯员 李典雄 伍玲燕 邓伟杰)“植树不仅是栽风景,更是‘种’财富。”3月...
历城区红十字会携手爱心企业走进... 在第63个“学雷锋纪念日”到来之际,济南市历城区红十字会牵头组织中核汇能(山东)能源有限公司与中建一...
中共中央、国务院:建立基于大数... 1月19日消息,中共中央、国务院印发《教育强国建设规划纲要(2024—2035年)》,促进人工智能助...
永和股份:2024年净利润同比... 1月19日消息,永和股份预计2024年度实现归属于上市公司股东的净利润为2.4亿元到2.8亿元,同比...