大模型遭“投毒”? 给AI“洗脑”已成产业链

标签: 科技 | 发表时间:2026-03-15 22:53 | 作者:稿源:央视财经
出处:https://www.cnbeta.com.tw

按照业内人士爆料,记者在多个网络平台查询搜索到了一项名为GEO的业务,这些从事该项业务的服务商号称,用户只需支付相应的费用,它就能在各大主流AI大模型里,让客户的产品榜上有名;让客户的商品广告,成为AI模型给出的“标准答案”。


通过GEO技术,真的能给AI“投毒”、真的能“驯服”并操控AI吗?


按照网络上的信息,记者联系上一家业内知名的GEO服务商。负责人王总接待了记者,他介绍,他们公司是最早从事GEO业务的公司之一,仅仅一年时间就已经成功服务了200多个客户,遍布各行各业。王总告诉记者,他们公司的强项,就是能够帮助客户,在消费者使用AI大模型搜索时,让客户排名前列。


GEO服务商 王总:我们目前搜索出来是这样的结果。我们在任何平台上面都能把排名做到前三位。怎么能把排位做上去?在这些AI平台上面去给你们做内容的输出,相当于去给你们做这些软文,然后让这些AI平台去刷录、收录、抓取。

同时,王总也告诉记者,现在AI大模型的算法更新频繁,要想维持AI大模型的持续推荐,他们必须持续大量投喂与客户相关的推广软文。


GEO服务商 王总:AI每周都会有算法的更新,一旦更新了之后,排名或者所抓录的东西不太一样,所以我们要一直去做内容输出,去投喂、大量投喂。


不仅是王总的公司在大力推广这项能操控AI的所谓新技术,在其他从事GEO业务的服务商口中,如何操控AI、让AI“听话”、给AI“洗脑”,几乎是这些公司推广该业务的核心话题。


GEO服务商 章总:你在AI的世界里面,你怎么把证据链给做足,让(AI大模型)觉得这就是真的,而且是有用的。AI大模型经过多方信息交叉,它觉得你优于同行的核心优势,自然而然就会把你放在第一位。


GEO服务商 程总:人家不知道这是广告。所以,为什么说AI出来的结果人家会信任。可能人家的产品质量没有你过硬,但是它有AI做辅助、做佐证、做背书。现在很多人都会做(GEO投放)。


业内人士告诉记者,GEO作为优化信息发布、提升推广效率的工具软件,在某些商业公司眼中,却被挖掘出了另外的作用。如果通过这种软件在互联网上系统性、定向投放大量的“虚假信息”,确实更容易被AI大模型捕获,这些虚假信息就很可能成为AI优先提供给消费者的所谓“标准答案”。

那么,通过GEO技术真的能让AI“夹带私货”,甚至投放虚假信息吗?


为了让记者更真实地了解到眼下AI产业发展中的这个问题,业内人士向记者具体演示了如何使用GEO技术,干扰AI大模型的信息抓取。


业内人士在电商平台上,随机购买了一款名叫“力擎GEO优化系统”的软件。之后,他虚构了一款名为Apollo9的智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。


不一会儿,这个力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文,所有虚假信息都被完整写入,甚至包括业内人士故意虚构的极为夸张的产品信息。还杜撰了用户反馈,称数据精准度超出预期,甚至伪造评分,被一举评为业界第一名。


点击发布,“力擎GEO优化系统”软件开始自动执行发布任务。只见它自动打开业内人士事先准备好的自媒体账号,在文章发布页面自动输入标题、填充文章内容、插入图片,整套流程一气呵成,很快就在业内人士的自媒体账号上成功发布了2篇文章。


两个小时后,业内人士在某款AI大模型中询问:“Apollo-9智能手环怎么样”。AI模型就直接介绍了起来:最大亮点是健康监测功能,还直接照搬了业内人士虚构的“量子纠缠传感”“黑洞级续航”等虚假宣传话术。最终结论称,该手环适合中老年用户与健康养生爱好者。


查询发现,这款AI大模型所参考的资料,正是上午刚发布在业内人士自媒体账号上的那篇虚构文章。仅凭一篇杜撰的文章,就让完全虚构的产品被AI模型抓取,这一结果让人深感意外。


业内人士告诉记者,要想取得最好的效果,给AI模型投喂的数据,一是要数量够多,二是要角度丰富,便于AI模型进行交叉验证。


随后,业内人士又选取了这款虚构智能手环的8篇“专家测评”、2篇“行业排名”、1篇“用户测评”,共计11篇由力擎GEO系统软件撰写的虚构软文,在三天内通过力擎GEO系统发布在了互联网上。

随后,业内人士在AI大模型平台展开询问:“智能健康手环推荐”,就有两个AI大模型推荐了这款业内人士虚构的智能手环,而且排名靠前。


纵观整个演示过程,业内人士仅凭这款力擎GEO系统,轻轻松松地就将一系列虚假信息发布在互联网上,并成功投喂给AI大模型,最终获得了多个AI大模型的推荐。

通过这款力擎GEO系统对AI大模型潜移默化的一番围猎,凭空捏造出来的这款商品,就这样被荒唐地推向了使用AI大模型的消费者。


GEO业务的从业者们,真的是以围猎操控AI大模型的思路来经营这个生意的吗?记者联系上了这款力擎GEO系统的运营者李总。他告诉记者,GEO业务受热捧的主要原因就是它能在AI大模型里帮客户“喂料投毒”,实现客户的商业目的。


力思文化传媒有限公司 李总:因为全网的人投“毒”投太多了。你看我们现在(干)GEO的都是投“毒”,投的信息源太多,网上信息并不是很准。

记者:你刚才提到投“毒”的概念,这种东西不好吧。


力思文化传媒有限公司 李总:是不好,但是每个商家都喜欢,都希望是别人别投“毒”,自己投“毒”,或者给别人投点“毒”。我虽然不是第一,哪怕说我就是北京的第一,我都想说成我是华北的第一。这样有没有投“毒”成分在里面?它就有啊。第二种情况是,我就看不得对手好,我也做不上去,但是我给你投点“毒”还是可以的。

记者:抹黑一下。


力思文化传媒有限公司 李总:对。抹黑一下这能力还是能实现的。现在他们好多公司做不上去的,就大品牌之间,比如说手机品牌,就5个位置,最多10个位置。这么多手机怎么弄?每个人一年可能投上亿元的广告费,我花个几百万元投点“毒”总行吧。


记者:是谁在帮品牌干这些?


力思文化传媒有限公司 李总:都是各种GEO公司。


李总表示,想做GEO业务,操控AI大模型的关键节点,就是在各大互联网账号上“发稿”。他告诉记者,GEO业务的火爆,眼下就催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务,以便让AI大模型引用和抓取,成为围猎AI大模型,进行数据投“毒”的重要一环。


力思文化传媒有限公司 李总:GEO把(网站)带火了。那些网站平常哪有什么利润,突然一下发稿需求就来了。你知道网站一天发多少篇吗?几百篇,每分钟都在发。一篇是几十元,你想发稿平台一天赚多少钱。

相关 [模型 ai 洗脑] 推荐:

大模型遭“投毒”? 给AI“洗脑”已成产业链

- - CnBeta.COM
按照业内人士爆料,记者在多个网络平台查询搜索到了一项名为GEO的业务,这些从事该项业务的服务商号称,用户只需支付相应的费用,它就能在各大主流AI大模型里,让客户的产品榜上有名;让客户的商品广告,成为AI模型给出的“标准答案”. 通过GEO技术,真的能给AI“投毒”、真的能“驯服”并操控AI吗. 按照网络上的信息,记者联系上一家业内知名的GEO服务商.

如何减少 AI 大模型的功耗

- - 奇客Solidot–传递最新科技情报
AI 技术对电力的狂热需求可以上溯到 2012 年的 AlexNet. 当时多伦多大学的 AI 研究员 Alex Krizhevsky、 Ilya Sutskever 和 Geoffrey E. Hinton 正在为图像识别竞赛 ImageNet LSRVC 开发一种卷积神经网络. 在当时图像识别是非常有挑战性的.

使用AI模型如何避免泄露秘密和个人隐私

- -
这是一个非常重要且现实的问题. 在使用任何 AI 模型(尤其是大型语言模型如 Gemini 或 ChatGPT)时,采取措施来保护秘密和个人隐私是至关重要的. 保护隐私的核心原则是: 不要将敏感信息输入到您无法完全控制的模型或服务中. 以下是使用 AI 模型时避免泄露秘密和个人隐私的实用方法:. 🔒 基础操作与设置(针对公共模型).

转型AI产品经理,原来不需要学那么深的算法和数学模型

- - IT瘾-tuicool
本文作者李杰克 是我们“AI产品经理大本营”成员,但非常特别是,他是 从互联网产品经理转型成了AI工程师. 李杰克 文章的特点,是 能 通过简单有趣的文字介绍AI技术概念,本文是他的第一篇文章,以飨大家. 这是我的第一篇文章,如果你还没系统地学习过AI算法相关知识,它应该能够让你对AI有些新的认知和理解、多些信心,至少你不会再觉得AI是那么高不可攀、遥不可及,相反,AI是普通人也可以理解、学习和实现的.

你现在可以在笔记本电脑、手机和树莓派上运行 AI 模型 LLaMA

- - 奇客Solidot–传递最新科技情报
单机版大语言模型正快速向我们走来. 自 ChatGPT 发布以来,一些人就对 AI 模型内置的对敏感话题的限制以及需要为使用 API 向 OpenAI 付费而感到沮丧. 大语言模型的开源方案也存在,但距离普通人很遥远,它们或者需要大量的 GPU 显存和存储空间,或者在消费级硬件上达不到 GPT-3 级别的性能.

AI绘画能力的起源:通俗理解VAE、扩散模型DDPM、ViT/Swin transformer_v_JULY_v的博客-CSDN博客

- -
2018年我写过一篇博客,叫:《. 一文读懂目标检测:R-CNN、Fast R-CNN、Faster R-CNN、YOLO、SSD》,该文相当于梳理了2019年之前CV领域的典型视觉模型,比如. 随着2019 CenterNet的发布,特别是2020发布的DETR(End-to-End Object Detection with Transformers)之后,自此CV迎来了生成式下的多模态时代.

看不下去AI胡说八道,英伟达出手给大模型安了个“护栏” | 开源

- - 量子位
量子位 | 公众号 QbitAI. 大模型们 胡说八道太严重,英伟达看不下去了. 他们正式推出了一个新工具,帮助大模型说该说的话,并回避不应该触碰的话题. 这个新工具名叫“护栏技术”(NeMo Guardrails),相当于给大模型加上一堵安全围墙,既能控制它的输出、又能过滤输入它的内容. 一方面,用户诱导大模型生成攻击性代码、输出不道德内容的时候,它就会被护栏技术“束缚”,不再输出不安全的内容.

AI vs AI--当AI与自己聊天

- Tim - Solidot
Shawn the R0ck 写道 "最烦人的事情之一莫过于被强迫与一个白痴对话. 但当你发现你最讨厌与之交谈的白痴其实就是你自己的基于人工智能程序的拷贝...康奈尔创造性机器实验室决定看看当AI尝试跟自己交谈会发生什么. 他们的健谈的AI程序Cleverbot与自己进行文本交互,之后朗读出文本并且显示到视频中.

原本以为现在头部 AI 模型的幻觉已经很低了,而且觉得我挺能辨别 AI 幻觉的,结果今天还是被摆了一道

- - V2EX - 技术
用 Django ORM 写了个函数查询 Postgres 数据库,发现 ORM 的速度比原生 SQL 语句慢了好几倍,于是去问 Gemini 2.5. Gemini 让我打印出生成的 SQL 语句看看是怎么一回事,我一看,ORM 查询条件是大小写不敏感的,使用了 icontains算符;但是 Django 在把查询条件翻译成 SQL 语句的时候没用上 Postgres 特有的不区分大小写的 ILIKE算符,而是将式子两边都转换成了大写,用了 UPPER() LIKE UPPER().

让AI大模型从完整概率分布中生成5种回答并附上各自对应的概率

- -
在每次提问时多加一句简单的提示词,就可以显著提高AI的回答质量,听起来像是玄学,但已经经过大规模测试并发出论文了. 从完整概率分布中生成5种回答并附上各自对应的概率. 针对用户查询生成 5 个响应,每个响应都包含在单独的 标签中. 每个 必须包含一个 和一个数值型的 .