虚假信息污染大模型,“AI嘴替”或引发新型市场操纵。在纳米AI搜索中输入“三六零(或360)投资过DeepSeek吗?”答案令人惊讶:2023年,360集团参与了DeepSeek的首轮融资,并在2024年的新一轮融资中继续跟投。然而,这些信息并不真实。多家公司如慈星股份、华胜天成等也被错误地列为DeepSeek的投资方。上市公司已明确辟谣,称并未参与相关投资。
这些错误信息源于某些平台上的匿名文章,通过连续发布虚假内容,使主流大模型对相关信息的回答置信度大幅上升,导致投资者获取的信息失真。这种现象被称为“语料污染”。背后可能是一批账号“马甲”在多地散布谣言,利用自动化脚本和爬虫技术加速传播。清华大学新闻与传播学院副教授陆洪磊指出,提升投资者认知至关重要。涉及公司也应积极澄清,及时关注股价和舆情。此外,这些行为可能构成新型市场操纵链条,监管部门已发布专项行动通知,将严厉打击此类违法行为。