开放的 AI 模型已经小到能在笔记本电脑上运行,甚至可以离线。了解这对隐私和学习意味着什么、本地使用前该问自己的三个问题,以及适合小模型的简短提示词。
开放模型正变得足够小,可以离线运行,但要有所取舍。
11 月 20 日,Thinking Machines Lab 发布了 Inkling 2 Mini:一款采用 Apache 2.0 许可的开放权重模型,大约需要 20 GB 内存,配置较好的笔记本电脑就能运行。这是本月发布的多个本地模型之一,谷歌也向其 AI Edge Gallery 加入了可离线运行的语音识别与语音合成模型。
这和学生有什么关系?本地 AI 不联网也能工作,你的文字也留在自己的电脑里。代价是硬件和性能。微软在谈到本地编程模型时表示,较小的本地模型适合日常工作,而复杂推理仍是云端模型更强。不妨把本地 AI 看作私密的学习助手,而不是最强云端工具的替代品。
需要 20 GB 内存的模型,在 8 GB 的电脑上运行不会顺畅。先查看自己的内存,从较小的模型开始。它们响应更快,做摘要、出练习题和简单讲解往往也够用。
如果你想处理草稿、未发表的研究或个人笔记,又不想把文字发到服务器,本地很合适。其他情况下,云端工具可能给出更好的答案,所以按任务选择。
本地模型同样会出错,较小的模型可能错得更多。把每个回答都当作草稿,核实事实和来源,就像使用任何 AI 工具一样。
笔记在本地,声音在本地,AI 按需使用。
默认私密,按需强大。
Tekno Notebook 正是围绕这个理念构建的:笔记以文件形式保存在你的设备上,离线 AI 语音把它们转成音频,另有语音输入,以及可出题、可用更简单方式解释的内置人工智能助手。无论你用哪个助手,都请只分享摘录,而不是整本笔记。下面这段提示词简短而聚焦,适合较小的模型:
这是我笔记中的一小段摘录:[粘贴摘录]。
请写三个考查理解的问题,从最短的开始,并一次只问一个。
每问完一个,等我回答。
最后告诉我这段摘录里哪一部分需要重读。准备好试试了吗?欢迎查看 Tekno Notebook 项目页面(/zh/project/TeknoNotebook)。延伸阅读:为什么离线笔记应用在 2026 年依然至关重要:隐私、速度与真正的掌控权(/zh/blog/why-offline-note-taking-apps-matter),以及该把笔记粘贴进人工智能聊天机器人吗?学生隐私清单(/zh/blog/should-students-paste-notes-into-ai-chatbots-privacy-checklist)。