Posts
All the articles I've posted.
-
深入浅出 Softmax：从大语言模型、图像分类到推荐系统的“万能概率转换器”
梳理 Softmax 在 LLM、图像分类和推荐系统三大核心领域的应用逻辑与工程实践差异。
-
别把你的学习外包给 AI
Addy Osmani 关于 AI 时代工程师学习能力的深度反思。
-
Qwen3.5 推理全流程解析：基于 vLLM 源码的混合架构逐层拆解
基于 vLLM 源码分析 Qwen3.5 的 Hybrid 架构：Full Attention 与 GatedDeltaNet Linear Attention 交替混合、Dense MLP 与 Sparse MoE 双 FFN 变体，从输入嵌入到 logits 输出的完整推理计算流程。
-
大模型的物理定律：Scaling Laws 从何而来，又往哪去
拆解 Scaling Laws 的核心原理、Kaplan 与 Chinchilla 两条路线之争，以及 MoE 架构如何在缩放定律的图表上开出了作弊点。
-
Qwen3 推理全流程解析：基于 vLLM 源码的逐层拆解
基于 vLLM v0.20.1 中 qwen3.py 和 qwen2.py 的源码实现，从 Embedding、QK-Norm、RoPE、SwiGLU 到 LM Head，逐层拆解 Qwen3 的端到端推理计算流程，并对比与 Qwen2 的关键架构差异。
-
Modular 这家公司到底在做什么：一个 AI 推理基础设施的调研
Modular 由 LLVM 创始人 Chris Lattner 创立，主打统一的 AI 推理基础设施。本文调研其产品逻辑、技术路线、商业模式和当前处境。
-
llm-d KV Cache 感知与流量编排技术报告
深入解读 llm-d 的 KV cache 感知机制：从近似 prefix index 到精确 KVEvents，从聚合 serving 到 P/D disaggregation，理解 EPP 如何把 prompt prefix、KV cache index、endpoint 负载、latency prediction 和 offloading tier 合并成请求级路由决策。
-
【转载】KV Cache 的五个时代
从 2017 年 Transformer 诞生到 2025 年的分布式统一内存池，一文梳理 KV Cache 在 LLM 推理引擎中的演进历程。原文来自 Modular 官方博客，作者 Brian Zhang。
-
OpenAI 的地精危机：GPT 为什么开始满嘴哥布林
GPT-5.1 开始频繁提到 goblin 和 gremlin，一路蔓延到 GPT-5.5。OpenAI 花了几个月才查清楚原因——竟然跟一个叫 Nerdy 的人格设定有关。
-
宏观金融危机环境下的资产保值机制与跨周期动态表现深度剖析
基于历史百年数据，从1929大萧条到2020疫情，系统分析各类核心资产在不同危机类型中的保值逻辑与表现。