谷歌把 AI 回答放在搜索结果最顶端,研究显示约十条中有一条可能出错,不少链接也并不能佐证答案。了解三个习惯、5 分钟自查流程,以及可在 Tekno Notebook 中保存的“论断记录”。
一份 90% 都正确的摘要,会让你慢慢不再核对。
本周《财富》杂志报道,谷歌告知学校:学生账号想继续使用谷歌搜索,就必须接受 AI 概览,而美国最大的四个学区中已有三个表示反对。无论结果如何,学生都会继续在页面最上方先看到 AI 的回答,然后才轮到各种来源。
这些回答有多可信?人工智能初创公司 Oumi 受《纽约时报》委托测试了 4326 次搜索,发现 AI 概览在谷歌旧模型上的正确率为 85%,换成新模型后为 91%。谷歌对测试方法提出异议。对学生来说更值得警惕的是:超过一半的正确回答“缺乏依据”,也就是附带的链接页面并不能完全佐证,而且 Facebook 和 Reddit 是被引用最多的来源之一。不过,测试用的是常识类问答,所以请把这些数字当作大致参考,而不是对每一次搜索的定论。
本月有位教育工作者指出,对初学者而言,“核实”不知不觉就会变成“确认”,建议把 AI 的输出当作有待检验的假设,而不是答案。先把回答拆成一条条独立的论断:人名、日期、数字、引文。一份大学图书馆的指南也提醒,核心答案可能是对的,周围的细节却可能是错的。
链接只是线索,不是证据。打开页面,找出真正支持这一论断的那句话。找不到,这条论断就还没有被证实,不管它听起来多有把握。优先看原始文件、数据或论文,而不是只会转述它们的页面。
同一个问题,哪怕只隔几秒,AI 也可能给出不同的答案。换种说法再问一遍,或者用另一个工具,然后对比。如果答案不一致,就是一个警示信号,回头去查来源。
短到每次都做得到,强到能把错误细节挡在作业之外。
语气笃定,并不等于有证据。
你复习用的应该是你核实过的内容,而不是聊天机器人的回复。在 Tekno Notebook 中,用自己的话写下每条核实过的论断,附上来源和结论,并把文件留在自己的设备上。第一轮梳理也可以交给内置人工智能助手,但它同样会出错,所以核实的责任仍在你。把下面这段提示词和你想检验的回答一起粘贴进去:
这是我想核实的一段回答:[粘贴回答]。
请把它拆成一条条独立的事实性论断。
对每条论断,说明哪类来源可以证实它:官方文件、数据集、论文或教科书。
不要编造参考文献或链接。
把你没有把握的论断标出来。
等我核实完这些论断后,再逐条向我提问。准备好试试了吗?欢迎查看 Tekno Notebook 项目页面(/zh/project/TeknoNotebook)。延伸阅读:用人工智能学习又不拖累成绩:让它来考你,而不是替你作答(/zh/blog/study-with-ai-without-hurting-your-grades),以及该把笔记粘贴进人工智能聊天机器人吗?学生隐私清单(/zh/blog/should-students-paste-notes-into-ai-chatbots-privacy-checklist)。