TECHNICAL BLOG · 2026-11-03
BM25检索（261103）
定义：Best Matching 25， BM25是一种用来评估文档与查询之间相关性的排名算法，基于TF-IDF进行改进，常应用于信息检索领域。它的原理十分简单：将输入的句子sentence进行分词，然后分别计算句子中每个词word与文档doc的相关度，然后进行加权求和。得到句子与文档的相关度评分。评分公式如下：
TECHNICAL BLOG
把问题想明白，
再写下来。
关于Agent学习、通信技术和工程实践的长期记录。
26
↗
25
TECHNICAL BLOG · 2026-11-02
从Transformer到LLM的思考（261102）
曾几何时，我脑海中有了这样一个认知“Transformer模型是LLM的基础”，但是奇怪的是，我似乎并不知道这个认知从何而来，恰又读到了rubber duck的思考方法，借此机会进行梳理。
24
TECHNICAL BLOG · 2026-11-01
从Transformer和Attention机制到LLM（261101）
自从Transformer架构横空出世，到LLM蓬勃发展，我们意识到Transformer是LLM得以发展的驱动力之一，那么Transformer是如何为LLM奠定基础的，从Transformer最初用于文本翻译到后来用于大模型文本生成，这其中又有怎样的不同？本文将从输入文本到下一个 Token，解析LLM生成文本的全流程，以及这其中涉及的Transformer架构。
23
TECHNICAL BLOG · 2026-10-30
SDD规范开发（261030）
Specification-Driven Development（规范驱动开发） 是一种软件开发方法，它强调在编写任何实际代码之前，必须首先编写一份详尽、精确、可执行的规范。这份规范是开发过程的唯一权威来源和主要驱动力。
22
TECHNICAL BLOG · 2026-10-29
JEV（261029）
在通用大模型盛行的今天，很多时候一些对延迟和响应速度极度敏感的任务大模型是无法胜任的，和llm无法避免概率模型本质造成的幻觉一样，大模型逐字做自回归生成的本质摆在那里，延迟很难压缩到极致。
21
TECHNICAL BLOG · 2026-10-27
deep Research（261027）
尽管LLMs在通用任务中表现卓越，但是其知识受限于训练时的静态参数记忆， 难以应对动态或者专业领域任务。
20
TECHNICAL BLOG · 2026-10-27
Deferred MCP Tools（261027）
Deferred MCP Tools（延迟加载的 MCP 工具）是一种将工具可见性与可调用性分离的上下文管理策略：模型默认只看到工具名或极简描述，完整 Schema 仅在任务需要时通过搜索或发现流程动态注入。它的核心价值不在于单纯节省 Token，而在于让 Agent 在连接数百甚至上千个工具时，不会因为上下文被无关定义塞满而丧失判断力。
19
TECHNICAL BLOG · 2026-10-26
cross-encoder（261026）
交叉编码器（Cross-encoder）是一种神经网络架构，用于将查询-文档对一起处理以计算相关性评分。与传统嵌入模型（Bi-encoder）分开处理查询和文档不同，交叉编码器允许两个序列中的所有token之间进行充分的自注意力交互，从而直接输出相关性评分。
18
TECHNICAL BLOG · 2026-10-25
缓存命中（261025）
调用大模型API的返回值里面疆场会出现 cachereadinputtokens 这类字段。这其中藏着一条捷径，既能够成倍降低延迟，又能显著节省成本，这条捷径就是缓存命中
17
TECHNICAL BLOG · 2026-10-23
DNS查询与服务器（261023）
DNS解析是互联网访问的第一步，无论是使用笔记本浏览器访问网络还是打开手机APP的时候，访问网络资源的第一步必然要经过DNS解析流程。
16
TECHNICAL BLOG · 2026-10-23
interleaved thinking（261023）
对于一个复杂的编程任务，模型在第一步通过思维链决定了代码架构，并调用了readfile工具。如果我们在第二轮对话中把这个思维链丢弃了，模型就像失忆了一样，它只看到了自己发出的readfile命令，却忘了之前为什么要这么做，以及原本计划下一步做什么。结果就是模型只能被迫重新推理，甚至做出与上一步逻辑相悖的决策。
15
TECHNICAL BLOG · 2026-10-20
✅️块存储和对象存储（261020）
买服务器时，会看到两种存储选项：一种是服务器自带的块存储——系统盘和数据盘，另一种是单独购买的对象存储（阿里云的叫OSS,AWS的叫S3，腾讯云的叫COS）。块存储和对象存储都能存储数据，但是底层原理完全不同，适用的场景也完全不同。
14
TECHNICAL BLOG · 2026-10-20
✅️Kafka与RabbitMQ队列（261020）
kafka是一个分布式、高吞吐量、高扩展性的消息队列系统。主要应用在日志收集系统和消息系统，相信大家之前也听说过其他的消息队列中间件，比如RabbitMQ、AcitveMQ，其实kafka就是这么一个东西，也可以叫做KafkaMQ。总之，Kafka比其他消息队列要好一点，优点也比较多，稳定性和效率都比较高。
13
TECHNICAL BLOG · 2026-10-19
图解网络与通信（261019）
---
12
TECHNICAL BLOG · 2026-10-15
网络与通信（261015）
自从1991年诞生以来，HTTP（超文本传输协议）便成为了互联网的通用语言。作为一种无状态，基于“请求-响应”模式的应用层协议，它构筑了现代WEB通信的基石。
11
TECHNICAL BLOG · 2026-10-10
✅️模型调用令牌桶限流策略（261010）
在调用LLM API时候，服务提供方会设置请求频率限制，以防止资源滥用。若未妥善处理限流策略，可能导致请求被拒绝或者IP被临时封禁。
10
TECHNICAL BLOG · 2026-09-09
Pi Agent理论篇（260829-260909）
---
09
TECHNICAL BLOG · 2026-08-18
三、Context Engineering（260818）
---
08
TECHNICAL BLOG · 2026-08-17
二、AI Agents Engineering（260817）
这些复杂的任务通常需要获取LLM知识库之外的外部工具和信息。
07
TECHNICAL BLOG · 2026-08-15
Prompt Engineering（260815）
用于和模型交互的提示词不会包含任何例子或者演示。Instruction tuning被用来改进zero-shot learning，RLHF（基于人类反馈的强化学习）被用来扩展Instruction tuning，其中模型与人类偏好一致。
06
TECHNICAL BLOG · 2026-07-30
AI Agent的架构选型：MCP和Skills的核心区别及应用场景分析（260730）
API 是供开发人员使用的接口，而 MCP 是供 LLM 使用的 API 的接口/包装器
05
TECHNICAL BLOG · 2026-07-25
This is AGI: Sequoia AI Ascent 2026 Keynote（20260725）
第一个故事：rewired value
04
TECHNICAL BLOG · 2026-07-22
爬虫之懒加载（20260722）
懒加载也叫延迟加载，指的是在长网页中延迟加载图像，是一种优化网页性能的方式。和预加载相反，在用户滚动到它们之前，可视区域外的图像不会提前加载。某种情况下可以帮助减少服务器负载，经常使用在图片较多，页面很长的电商网站场景中
03
TECHNICAL BLOG · 日期待补充
✅️四、Harness Engineering（260821-0823）
---
02
TECHNICAL BLOG · 日期待补充
Anthropic：How we built our multi-agent research system（2610）
本文中所涉及到的agent指的是在一个代码循环（while(){ }）中自主选择和使用工具（Tools）的大语言模型。
01
TECHNICAL BLOG · 日期待补充
KV cache（261013）
在 LLM的推理过程中，KV Cache是决定吞吐量和时延的核心机制之一。