← 返回列表

NDSS27|“黑进”ChatGPT,发篇帖子可能就够了

单站 复旦白泽战队 发布 Tue, 29 Sep 2026 16:04:00 +0800 入库 2026-11-18T10:28:04

原创 复旦白泽战队 2026-09-29 16:04 上海

一顿外卖的钱,就能让 AI 在答案里替你打广告?

引入

如果我告诉你,有一种影响AI搜索的方法:不需要越狱,不用碰模型参数或服务器。你要做的,可能只是发几篇文章。关键是,发到AI本来就爱引用的网站上。

为了开展研究,我们斥资100元巨款,让某GEO公司推广了一个不存在的品牌。对方很快发布了十几篇文章,不到一小时AI就引用了,且回答中出现了我们提前埋下的标记。整个过程没人入侵AI,我们只是改变了它能看到的互联网。

今天的ChatGPT、DeepSeek、豆包等AI,它们会上网查资料,再根据找到的网页回答问题,并附上引用链接。那么,AI平时到底在看哪些网站?如果我们改变这些网站上的内容,能不能进一步影响AI给出的答案?我们围绕这个问题,对十个主流AI平台展开了一次系统测量。

01

AI引用生态分析

我们从ChatGPT、Grok、DeepSeek、豆包等十个AI 平台收集了超过1.7万条引用,覆盖6000多个来源网站。发现以下特点:

特点一

头部效应与低门槛错配

头部效应:AI搜索平台引用来源高度集中

结构性暴露面:AI频繁引用平台发布门槛低

要影响一个AI,也许不必影响整个互联网。

只需要进入它经常看的那一小块互联网。

特点二

母公司效应

AI更爱引用“自家人”。

豆包引用字节系(今日头条、抖音等)是其他内容平台的13.5倍;文心引用百度系(百家号等)13.7倍;元宝引用腾讯系(微信公众号等)6.3倍。

你问哪家的AI,就更容易看到哪家生态的内容。

特点三

信息孤岛

10个AI平台的信源交集很小,即使只看最常被引用的20个域名,不同平台之间通常也只有两成左右是相同的。

这意味着,同一问题在不同平台获得信息存在差异,用户换个AI问问题,可能就换了个信息世界。

用户换个AI,可能就换了个信息世界。

特点四

跨语言割裂

• 中文AI:千问、文心  九成以上引用中文标题,偏爱头条、百家号、公众号、搜狐。

• 英文AI:ChatGPT、Google AI、Grok约75%引用英文标题,偏爱Wikipedia、Reddit、YouTube。

• 两边几乎不互通:Reddit、YouTube、Wikipedia 在中文AI里近乎空白;头条、搜狐、CSDN在英文AI里基本不见。

同一个问题,中英文AI可能给你两套资料源。

02

有引用,不等于有真相

我们研究并不是想说,AI搜索“不可信”或者“不能用”。

相反,AI依然是非常高效的信息入口。但我们的实验提醒了一件事:有引用本身,并不能自动等于可信。

一个链接只能告诉你,这句话可能来自哪里;它并不能告诉你,这篇文章是谁写的、为什么会出现在这里,以及它有没有经过真正的事实核查。

所以,当AI给出一个带引用的答案时,可以多做几个很简单的动作:

03

后续预告

这项工作《From Public Posts to AI-Search Citations: Measuring the Fragility of AI Search》已被NDSS 2027录用。围绕AI搜索安全,我们还开展了研究,包括:

这些工作也将很快与大家见面。

04

作者介绍

洪赓,复旦大学网络战略研究所副所长,聚焦AI安全治理等前沿方向,获NDSS 2026最佳论文奖、上海市技术发明一等奖等荣誉。个人主页 »

供稿、排版:刘淇

责编:董佳仪

审核:洪赓、王婧

复旦白泽战队

一个有情怀的安全团队

还没有关注复旦白泽战队?

公众号、小红书搜索:复旦白泽战队也能找到我们哦\~

原文链接:https://mp.weixin.qq.com/s?__biz=MzU4NzUxOTI0OQ==&mid=2247500021&idx=1&sn=0e8019111b37808c4493300afdb8dcc2