见
跳到主要内容

用得靠谱 · 第一章:别被它骗

怎么验证 AI 说的话

问它哪一句最没把握,它自己会招

入门约 10 分钟安全思辨

这节课你会...

拿到一套普通人照着做就行的核对方法,不用再靠"感觉它对不对"。

先分三档,别一视同仁

不是每句话都值得你花十分钟去查。按后果分档,省力又不误事。

档位什么情况怎么处理
随手查写文案、想菜名、编个旅行清单看着合理就用,不顺眼就改
必须查要照着做的事:报销流程、报名条件、办事材料打开官网或者打官方电话核对一遍
绝不能只用它吃药、签合同、打官司、投资、给别人看病只当草稿,结论必须来自医生、律师、官方文件

判断标准就一句:错了会怎样。

错了顶多改两个字,随手查就够了。错了要赔钱、要耽误事、要伤身体,那就必须查,而且得找官方渠道查。

很多人踩坑,不是因为不会查,是压根没想过要查。AI 说"带身份证和户口本就行",他就真只带这两样去了。

问它一句:这话你从哪看来的

这是最有用的一招,几乎没有门槛。

你刚才说的这些,分别是从哪里来的?
请按条列出来源名称和具体位置。
如果某一条你没有可靠来源,就直接写"这条我不确定"。
不要补一个看起来像的来源给我。

回答会分成两种。

一种是它给得出具体名字,比如某部法律的第几条、某个官网的办事指南。这时候你要自己去打开那个地方看。它给的出处本身也可能是编的,法律条号和论文题目尤其如此。

另一种是它开始说"一般来说""根据普遍做法"。这等于告诉你:这段没有依据,是它顺着话往下写的。

记住,出处不是用来让你放心的,是用来让你去查的。

让它自己找自己的错

AI 有个特点:你让它正面回答,它很自信;你让它挑毛病,它反而挑得出来。

同一个对话里接着问:

你刚才那段回答,哪一句最没把握?
把你最不确定的两个地方圈出来,说明为什么没把握。
再帮我列一下:如果这段话里有错,最可能错在哪几处?

它常常会说出"具体天数我不确定""这个比例可能已经调整过了"。这些就是你要去核实的地方。

先让它写,再让它挑刺,比一次性问"你确定吗"有用得多。第一次它是顺着话写,第二次它是被你要求找漏洞。

要两份独立来源

一份来源不够,尤其是网上抄来抄去的那些内容。

什么叫独立?两个来源不能是同一篇稿子被转来转去。你把一句话丢进搜索,出来二十个网页,很可能全是同一篇。内容长得一模一样,就只算一份。

稳妥的做法:找一类官方或者一手来源,再找一类不同的人写的来源,两边对上了再用。

  • 政策和办事流程,去政府官网、官方公众号、办事大厅电话
  • 药品和健康,看药品说明书、找医院和执业医生
  • 法律,看法律原文、问执业律师
  • 数字和统计,找发布机构的原始报告

两边对不上怎么办?先别用,或者按更保守的那个说法来。

一张核对清单

拿不准的时候,照着念一遍:

  1. 这话要是错了,我会损失什么?
  2. 里面有数字、日期、人名、条号、电话吗?有就查。
  3. 它的出处是哪儿?我打开看过吗?
  4. 我找到的是两个独立来源,还是同一篇的转载?
  5. 我是在用它起草,还是拿它当最终结论?

第 5 条最要紧。AI 适合当起草的人:帮你想、帮你写第一版、帮你把乱七八糟的想法理成条理。它不适合当裁判,不适合在你不懂的事上给你拍板。

让 AI 帮你起草,让别人帮你把关,签字的人是你自己。

课后测验

4 道题,通过线 60 分。

别被它骗测验第 1 / 4 题

下面哪一类事属于「必须查」?

学习助手(可选)

需要时可以提问;没配 AI 也不影响课程、练习和测验。

学习助手需要时再用
助手说:你好,我是课程里的可选学习助手。正文、练习和进度都在这里,不需要我也能继续。 卡住时,把具体的一段代码或一句话贴过来就好。我们可以一起拆概念、改描述,或者把一个小想法拆成几步来做。
用得靠谱 · 同轨道下一节什么能说,什么打死不能说