现在，AI杜撰历史、编造法律条文、伪造参考文献的现象已经屡见不鲜。上个月，全国首例AI幻觉侵权纠纷案正式宣判，标志着AI幻觉已从技术问题，升级为法律和社会问题。当我们的生活和工作越来越依赖大模型时，AI幻觉带来的风险，也正影响越来越多的人。（见5月22日央视新闻）
“知之为知之，不知为不知”，求真求实是信息传播的底线，也是技术发展的初心。然而，AI幻觉正频繁挑战这一底线，一本正经地输出虚假信息。这早已不是无伤大雅的技术“小漏洞”，而是可能升级为影响公共认知、引发法律纠纷的潜在风险。正视AI幻觉，寻找破解之道，既是数字时代绕不过去的问题，更是守护公众知情权、维护信息生态的必由之路。
AI幻觉的根源，在于底层技术中的逻辑缺陷。人类基于感知与认知形成对世界的理解，而AI的“表达”本质上是从海量文本里学习词语、句子之间的统计关联，再根据上下文预测下一个最有可能出现的词。而当面对冷门知识、专业细节或模糊问题时，由于训练数据不足，难以算出可靠的概率，有的大模型便会为了“流畅输出”而编造内容。这种机制性缺陷让AI的“胡说八道”很难避免。而一旦虚假信息扩散，轻则误导判断，重则引发纠纷，浪费社会资源，消耗社会信任。
AI发展日新月异，我们不必因缺陷否定技术的力量，也不能放任乱象、忽视风险。破解AI幻觉，既需要不断升级技术，也需要进一步明确规则。技术层面，检索增强生成、多智能体交叉验证等前沿探索，正努力让AI从“闭卷编造”转向“开卷求证”，让输出的答案有据可依、有源可溯。规则层面，有关方面应划清权责边界，并要求AI平台在应用界面、用户协议等多个层面履行提示说明义务。
在当前的技术条件下，大模型仍是辅助性的查询工具，并非值得托付的“知识权威”。面对AI高度流畅、自然的应答时，用户应保持必要的警觉，同时做到“巧问善查”，限定问题范围，明确信息检索渠道，对关键信息多方核对，不给AI“胡说八道”留空间。唯有不轻信盲从、不当“传声筒”，才能避开幻觉陷阱，守住自身判断的底线。
嘉喜网提示：文章来自网络，不代表本站观点。
