做一个有温度和有干货的技术分享作者 —— Qborfy

上一节学习了03篇 AI从零开始 - AI从零开始 - Prompt提示语学习与应用，但是我们发现，Prompt提示语虽然可以让我们得到想要的答案，但是它也有缺点，比如：

• 只调用单个大模型的对话提示语来生成答案，且无法验证答案的正确性；
• 大模型是没有记忆能力，且有token上下对话长度限制，无法实现多轮对话；
• 多步骤推理任务，需要多次调用大模型，效率低下

如果要开发一个完整 LLM应用，开发者需要手动处理：

• 多组件集成：模型调用、外部数据源、记忆存储、业务逻辑等模块的拼接
• 上下文管理：对话历史、长期记忆、知识库检索的复杂交互
• 流程编排：多步骤推理、条件分支、循环控制等逻辑

接下来，我们学习一下LangChain，它是一个基于链式调用的LLM框架，可以让我们更加方便地使用大模型，实现多轮对话、多步骤推理等复杂功能。

做一个有温度和有干货的技术分享作者 —— Qborfy

前面我们在02篇 AI从零开始 - 部署本地大模型 DeepSeek-R1中学习如何搭建本地大模型，本篇我们学习如何使用Prompt提示语，来让 AI 返回结果更加有符合我们所需要的效果。

1. Prompt提示语基础学习

在很多AI学习的文章中，我们都会看到Prompt提示语，那么Prompt提示语是什么，有什么作用呢？

在OpenAI的官方文档中，对Prompt提示语的解释是：

Prompt: A prompt is a short text that is used to guide the model’s output. It can be used to provide context, specify the desired output format, or even to control the model’s behavior.
翻译中文则是“Prompt: Prompt是一种用于指导模型输出的短文本。它可以用于提供上下文、指定所需的输出格式，甚至可以用于控制模型的行为。”

我们简单理解一下，Prompt提示语就是，我们给模型输入一段文本，告诉模型，我们想要什么结果，模型就会按照我们的要求，生成我们想要的结果。

做一个有温度和有干货的技术分享作者 —— Qborfy

之前两篇文章对于 AI 有了初步的了解，但是如何应用 AI 技术呢？去调用 openai 的接口，或者国内的接口都需要付费，而且接口调用次数有限，所以我们需要部署一个本地的大模型，这样就可以自己使用，而且可以自己控制调用次数。正好最近 DeepSeek比较火热，所以我们就在本地尝试部署一下 DeepSeek-R1大模型吧。

1. 了解DeepSeek-R1

在开始之前，我们需要先了解一下 DeepSeek, 官网介绍是这么写的：

探索未至之境，DeepSeek-V3 在推理速度上相较历史模型有了大幅提升。
在目前大模型主流榜单中，DeepSeek-V3 在开源模型中位列榜首，与世界上最先进的闭源模型不分伯仲。

同时它开源了几个大模型，主要如下：

• DeepSeek-R1，总参数671B，上下文长度最大支持128K，是在性能对齐 OpenAI-o1 正式版。
• DeepSeek-V3，DeepSeek 上一代开源大模型。

因此，作为最新的大模型，DeepSeek-R1 是我们部署的首选。接下来我们继续了解 DeepSeek-R1。

做一个有温度和有干货的技术分享作者 —— Qborfy

参考资料

• 程序员的出路

做一个有温度和有干货的技术分享作者 —— Qborfy

AI 基础知识

不管学习什么技术，每个技术里面都会包含一些专业术语， 了解这些术语，有助于我们更好的理解技术，以及更好的使用技术。

安装

可以源码安装（python环境）
service rabbitmq-server start

也可以docker安装，依赖docker环境

运行成功后有两个端口：

1. 5672，其他客户端调用链接使用
2. 15672，后台管理系统使用

支持配置文件，参考docker内配置文件路径： /etc/rabbitmq/conf.d/10-defaults.conf

概念

virtual host
类似mysql支持多个用户访问同一个实例（IP+PORT）的不同数据库

exchange交换机
类似一种邮箱或存储队列，支持加入或转发推送能力

五种消息类型

HelloWorld

正常邮箱类型， 生产者往RabbitMQ队列增加消息，但是消费者不一定要及时看

Worker模型

对比 邮箱模型， 只要生产消息 就会马上竞争消费掉，可以有效的避免消息堆积

订阅模型

Fanout（广播模型）: 将消息发送给绑定给交换机的所有队列(因为他们使用的是同一个RoutingKey)。

Direct（定向）: 把消息发送给拥有指定Routing Key (路由键)的队列。

Topic（通配符）: 把消息传递给拥有 符合Routing Patten(路由模式)的队列。

做一个有温度和有干货的技术分享作者 —— Qborfy

背景

最近在研究SSR，发现很多服务都会用到SSRF，所以就顺便研究了一下SSRF。

下面是一篇从网络上翻译过来的文章， 大家简单参考了解。

做一个有温度和有干货的技术分享作者 —— Qborfy

背景

最近在开发微软的Teams应用，在开发过程中遇到了一个跨域请求cookie的问题，具体表现是，当我在Teams应用中登录后，然后通过iframe的方式打开一个第三方网站，第三方网站无法获取到cookie，导致无法登录。这个问题困扰了我很久，最后通过Google找到了解决方案，特此记录一下。

背景

最近在项目开发中遇到一个 npm包的一些 bug，但是这个 npm包的作者并没有修复，联系不上作者。 相信大家在开发中或多或少遇到过，我们正常的解决方案是修改这个 npm包的代码，然后重新发布一个 npm包，但是这样会带来一些问题，比如：

• 重新发布npm包，后续这个 npm包所有更新我们都无法获取，因为 npm包变成是我们自己私有的

经过网络搜索，发现了一个 npm包，叫做 patch-package，可以更加优雅的解决这个问题，所以记录一下。

patch-package 解决方案

我们先简单了解一下这个patch-package的主要作用：

立刻修复 npm 包的 bug，而无需修改其源代码 - patch-package

使用步骤如下：

1
2
3
4
5
6
7
8
9

# fix a bug in one of your dependencies
vim node_modules/some-package/brokenFile.js

# run patch-package to create a .patch file
npx patch-package some-package

# commit the patch file to share the fix with your team
git add patches/some-package+3.14.15.patch
git commit -m "fix brokenFile.js in some-package"

同时需要修改 package.json，添加如下配置：

1
2
3

"scripts": {
    "postinstall": "patch-package"
}

还需要安装patch-package依赖，方便使用。

1

npm i patch-package --save-dev

后续安装依赖时，会自动执行patch-package，将node_modules中的文件替换为patches中的文件。

背后原理

既然解决了问题，那么patch-package是如何实现的呢？

其实原理相对简单，npm的有个机制叫做

npm的postinstall

参考资料

• 使用 patch-package 修改第三方模块

做一个有温度和有干货的技术分享作者 —— Qborfy

思考，快与慢

在书中，卡尼曼会带领我们体验一次思维的终极之旅。他认为，我们的大脑有快与慢两种作决定的方式。常用的无意识的“系统1”依赖情感、记忆和经验迅速作出判断，它见闻广博，使我们能够迅速对眼前的情况作出反应。

举个例子： 肚子饿了去点菜，我们点很多余点菜，然后吃了一阵子就后悔了，如果我们慢慢规划去点，发现别人都已经吃完走了。

温馨提醒：本书涉及N多经济学和心理学的专业术语，需要不断查资料去理解其术语的意思，这对经济学、心理学入门有极大的作用。