当AI开始“说谎”：一场人机之间的博弈才刚刚开始|凯发体育下载在线真人荷官

　　但看过之后发现，其中30%的内容居然是它瞎编的，甚至活动现场没有出现过的画面也被它写了进去。

　　首先我们可以确定，AI不是要主动欺骗我们◆★◆■★，而是它需要用已知的知识来回答我们的问题或是需求，当遇到知识盲区时，它会用自己所理解的方式来完成任务。

　　1★◆. 联网搜索：现在基本上我们会用到的大模型都有联网功能■◆，这样会使AI实时联网搜索，减少错误概率凯发体育下载在线真人荷官。

　　最近一段时间，以DeepSeek为首的AI大模型成为了牛马们手头不可缺少的辅助工具，但是你是否遇到过这样的情况■◆★？当你向AI提出一个问题■★◆■◆★，或是让它协助你撰写一段文案，几秒钟过后，一个看上去内容丰富、逻辑缜密的答案呈现在你面前■★◆■，可是当你审查时才发现★■，它竟然是在胡说八道？

　　而更可怕的是，当人工智能越来越完善★◆，那么其自圆其说的能力也会越来越强◆★■■★，届时，当AI生成错误信息形成传播闭环，并被其他AI当作训练数据◆■■■◆，我们的知识体系将如多米诺骨牌一样倒下★◆★◆■，而我们每个使用者，都可能成为虚假信息的“二传手”。

　　2. 文献提供：当你向AI提完问题或是需求时★★■，不妨在结尾加上一句■■◆★，◆■■◆★“请提供内容对应的文献或数据支持，信息不明确时请务必注明★■◆★■” ★★■★，此时AI给出的答案都会携带内容来源◆★，方便你查询线★★◆★. 双重检查◆◆■★■★：当AI给出答案时，可以将其复制到另一个AI大模型中进行检查审核。

　　类似的事件还不在少数，比如前两天■◆◆★◆★，我需要写一篇活动新闻稿★★■，我把详细的素材■★■★◆、重点■◆、要求都喂给AI后，它确实用很快的时间就写出了一篇新闻稿。

　　前两天Manus的创始人肖弘在接受采访时谈到了一个观点■★◆★★，那就是■★◆◆◆★“有没有ai都要掌握溯源的能力★■◆★■”。

　　2■★★■. 知识固化■★■：无法动态更新知识■★■★◆，当遇到鲜事物或事件时，他可能会根据旧信息瞎编◆★★★。（如2025年后政策完全虚构）

　　原标题：《当AI开始说谎★★■：一场人机之间的博弈才刚刚开始！AI有多会一本正经地胡说八道？》

　　“AI幻觉是指在生成式人工智能模型（如大型语言模型）中★■■◆，其生成的内容看似合理，但实际上可能与事实不符，甚至完全脱离上下文◆■■。这种现象通常表现为生成错误◆◆■■◆◆、误导性甚至完全虚构的信息★■★。”

　　这里提到的溯源能力非常关键■■★■，下边我列举几个我平时会用到的方法，基本上能够应对90%以上的AI幻觉情况。

　　就拿最近的热点来说吧，前两天，一条★■■◆★★“有顶流明星在澳门输了10亿”的新闻在网络上引起轩然■★★■◆，更是有不少明星出来“自证清白”。

　　当然★★◆，其实「AI幻觉」也并非一无是处■◆★，如果你的本意就是要构思一个故事或是进行艺术创作，那有时它的一些“幻想■■■◆★★”，还是可以给你带来眼前一亮的灵感。

　　总之，对于所有AI和互联网所提供的信息，我们都要进行反复的交叉验证■★◆，这样的溯源能力，是当代数字公民必要的素养◆★。

　　3. 算法局限◆■：因为算法的局限性，AI常会生成一些表面看似合理、实则错误的推理与建议。特别是在复杂★★◆★◆◆、需要精准判断的任务中■★■■■★，比如与法律、医疗相关的信息。

　　为啥？因为这条消息写的可太“真实”了，于是网友们纷纷开始猜测事件中的主人公是谁……

　　1◆■. 数据偏差■◆■：比如训练数据中可能包含错误信息或过时的知识，导致模型学习到不准确的内容。