摘要
AI推荐在电商、内容和问答领域无处不在——它们带来了便利，但也伴随着训练数据偏见、商业激励和过滤气泡。本文概述了推荐系统的工作原理和三种偏见来源，并提出了一种理性的使用方法：需求优先、多源交叉验证、延迟决策。文章还探讨了基于大语言模型的推荐中存在的幻觉和过度自信问题。
1. AI推荐的工作原理
常见方法包括：协同过滤——基于行为相似性，即“购买了A的人也购买了B”；基于内容——匹配商品属性和用户画像；大语言模型生成的推荐——像ChatGPT这样的工具能以自然语言回答“我该买什么？”这类问题，其回答依赖于训练数据和信息检索，但存在产生幻觉和过度自信的风险[1]。
在所有情况下，推荐结果都取决于数据和优化目标，而不必然是你的真实需求或“客观最佳”。理解这一点是理性使用AI推荐的基础。
2. AI推荐的三个偏见来源
训练数据偏见：过去的用户点击和购买行为反映了现有的偏好和平台用户群特征；小众需求被低估；热门和大力营销的商品获得更多曝光，这助长了可得性启发——“经常看到的东西感觉更值得买”。
商业动机：排名通常与广告、佣金和合作关系挂钩；平台有理由优先展示高利润或赞助的商品。社会认同（如销量、评分）被放大；请结合如何评估评价和阅读评测进行交叉验证。
个性化气泡：Pariser（2011）提出的“过滤气泡”——算法持续展示符合你过去行为的内容，强化了确认偏误；你看到的“推荐”只是现有偏好的镜像，而非平衡的比较[1]。Shin（2020）等人指出，对AI推荐的信任可能被利用；保持健康的怀疑态度是有益的[2]。
3. 理性使用：需求优先 + 多源交叉验证 + 延迟决策
需求优先：在浏览推荐之前，先明确问题、预算和硬性约束；避免被推荐列表牵着鼻子走。运用我们的选择免疫概念——将推荐视为参考信息，而不是决策的主要依据。
多源交叉验证：不要只依赖一个平台或一个AI。比较不同商店、独立评测、负面评价和第三方榜单，以减少单一算法的偏见；参见评估评价和阅读评测。
延迟决策：当“AI说这个好”时，不要立即购买；先加入购物车或收藏，第二天再根据你的需求清单和多方信息来决定，以对抗过度自信效应和冲动消费。
4. 大语言模型推荐的额外风险：幻觉与过度自信
当你问ChatGPT或类似模型“哪个XX产品最好？”或“我该买Y吗？”，模型可能会混合过时信息、虚构型号或伪造引用（幻觉），并以自信、权威的口吻呈现，这会触发权威偏误和过度自信效应——“AI都这么说了”。
应对方法：将大语言模型的输出视为一种参考；务必通过官方规格、评测和用户反馈进行交叉核对；亲自验证型号、价格和规格；对于高风险决策，花费认知预算去验证——不要将一次聊天记录当作最终结论。
结论
AI推荐可以提高效率，但也带有数据偏见、商业动机和过滤气泡风险；大语言模型推荐还增加了幻觉和过度自信的问题。理性的使用方法是：需求优先、多源交叉验证、延迟决策，并结合评估评价和识别营销技巧的方法，在便利与理性之间取得平衡。
参考文献
- Pariser, E. (2011). The Filter Bubble: What the Internet Is Hiding from You. Penguin.
- Shin, D. (2020). User perceptions of algorithmic decisions in the personalized AI system: Perceptual evaluation of fairness, accountability, transparency, and explainability. Journal of Broadcasting & Electronic Media, 64(4), 541–65. [[DOI]](https://doi.org/10.1080/08838151.2020.1843357)