林文威

← 全部作品

比赛与黑客松

读书助理

读书时遇到看不懂的概念,或者想快速找到某个问题的答案,就直接问这本书:回答附上原文出处。

时间
2023.08
场合
Microsoft Learn AI 技能挑战赛黑客松
我做的
产品设计、前端
团队
和 Yuxuan Zhang(zR)合作
技术
Azure OpenAI · LangChain · FAISS · Next.js
作者怎么看“模范读者”?他说文本在等待一个能合作的读者……出处 · 第 1 讲

为什么做

读书时常有两种情况:书里一个概念没看懂;或者想快速找到某个问题在书里怎么说的。

做了什么

读书助理的界面:左边是对话,回答里列出引用了书里哪些段落

  • 把整本书和我们的读书笔记切块、做成向量,存进知识库。演示里放了两本书(Good with Words、Six Walks in the Fictional Woods)和一份读书笔记。
  • 提问时先找出相关的段落,先总结再回答,比直接塞给模型更准;回答里显示引用了哪些段落。
  • 做了向量缓存,同样的内容不用重复花钱算。
  • 后端在开源的 Langchain-Chatchat 上改,前端在 LangChain Chat(Next.js)上改。我负责产品设计和前端。

用了哪些 Azure 服务

这是 Microsoft Learn AI 技能挑战赛的黑客松,所以全部跑在 Azure 上:问答和向量用 Azure OpenAI,推理端放在 Azure 虚拟机,前端部署在 Azure Static Web Apps。

回头看

当时想做但没来得及的:在前端上传书、在线读 PDF 并高亮命中的段落。半年后,“基于自己的笔记问答”成了我毕业设计 Bookworm 的核心功能。