写作
关于 AI 系统、产品构建、自动化与应用工程的笔记。
No posts in this category yet.
2026 2
2025 3
-
AI Agent 不应该从 Agent 开始，而应该从工作流 (workflow) 开始
5月8日 · 8 min read
在谈论 AI Agent、工具使用 (tool use) 或自主系统 (autonomous system) 之前，应该从实际的工作流开始：谁做什么，数据在哪里，哪些步骤需要自动化，哪些步骤需要人类保持控制。
-
为什么 AI 工程师 (AI Engineer) 需要了解业务工作流 (business workflow)，而不仅仅是模型
4月17日 · 9 min read
AI 工程师不仅需要了解 prompt、RAG 或模型。要创造真正的价值，他们必须了解工作流、数据、用户以及系统在实践中是如何运行的。
-
像 AI 产品工程师一样阅读新的 open-weight 模型的流程
2月6日 · 9 min read
不仅仅是看基准测试。这是一份阅读 open-weight 模型的实用清单：模型卡、许可证、架构、上下文、推理、评估以及是否适合产品。
2024 5
-
我阅读了新的 LLM 论文：哪些趋势值得 AI 工程师关注？
11月21日 · 11 min read
一种更实用的阅读 LLM 论文的方法：不盲从炒作，而是看看哪些趋势真正影响了我们构建 AI 产品的方式。
-
优化 LLM 推理 (reasoning) 不仅仅是训练更大的模型
10月8日 · 8 min read
推理时扩展 (Inference-time scaling)、自洽性 (self-consistency)、验证器 (verifier) 和推理预算 (reasoning budget) 如何提高 LLM 质量，以及何时因成本过高而不应使用它们。
-
为什么好的模型不一定会创造业务价值 (business value)？
4月11日 · 8 min read
来自 Booking.com 案例的笔记：模型性能 (model performance) 和业务性能 (business performance) 是两码事，尤其是当 ML 进入真实产品时。
-
运营你所构建的 (Operate what you build)：小型 AI 产品的教训
3月14日 · 7 min read
分析生产工程 (production engineering) 中的所有权 (ownership) 思维，以及如何将其应用于 AI 工作流、CRM、仪表板和小型产品。
-
Shopee 的 OnePiece：LLM 风格的推理 (reasoning) 如何进入排序系统 (ranking system)
1月18日 · 5 min read
关于 OnePiece 论文的笔记，以及上下文工程 (context engineering) 和推理是如何被引入工业级级联排序系统 (industrial cascade ranking system) 的。
2023 13
-
为 AI Agent 设计远程终端/WebSocket 仪表板
12月7日 · 10 min read
有关如何设计实时仪表板，以通过 WebSocket 监控和控制在终端中运行的 AI Agent 的技术笔记。
-
如何在不破坏生产环境的情况下迁移 AI 工作流的测试/评估管道
11月16日 · 10 min read
关于如何为 AI 工作流更改提示词 (prompt)、模型或评估管道并保持系统稳定的实用笔记。
-
评估 chatbot/AI 工作流：基准测试、验证器、LLM 裁判和实际测试用例
10月5日 · 10 min read
关于 LLM 评估的实用笔记：基准测试只是一个起点，而真实产品需要测试用例、验证器、人工审查以及与工作流相关的指标。
-
CRM 的 API 设计：线索、联系人、交易和报价
9月14日 · 8 min read
有关为小型 CRM 设计 REST API 的笔记，重点关注线索 (leads)、联系人 (contacts)、交易 (deals)、报价 (quotes) 以及现实世界中的销售工作流。
-
在什么时候为 CRM 仪表板使用 Redis 缓存才是合理的？
8月3日 · 9 min read
关于使用 Redis 缓存优化 CRM 仪表板的实用笔记：何时使用、缓存什么、失效策略，以及如何避免常见陷阱。
-
RecSysOps: 部署后运行推荐系统 (Operating a recommender system after deployment)
7月13日 · 8 min read
来自 Netflix RecSysOps 的关于运行推荐系统的笔记：当推荐系统进入生产环境时的故障检测、故障预测、诊断和解决。
-
AI 工作流的监控 (Monitoring)：向 Netflix 学习但在小规模应用
6月8日 · 5 min read
为小型 AI 工作流设计恰到好处的监控：日志 (logs)、指标 (metrics)、链路追踪 (traces)、评估 (evaluation) 和业务信号 (business signals)。
-
从 Discord 到 CRM：如何存储活动日志 (activity logs) 和对话历史 (conversation history)？
5月11日 · 7 min read
从 Discord 处理消息存储的方式中吸取教训，为小型 CRM 设计活动日志和对话历史记录。
-
当数据库开始让 on-call 团队精疲力尽时
4月18日 · 4 min read
从 Discord 存储数万亿条消息的案例中，本文探讨了数据库不再适合其工作负载 (workload) 的迹象。
-
为小型 AI/计算机视觉项目构建 CI/CD 管道
3月23日 · 8 min read
一个适用于小型 AI 或计算机视觉项目的实用管道：测试、构建 Docker 镜像、运行基本评估，并更安全地进行部署。
-
视觉、对象检测 (object detection) 和分割 (segmentation)：在投入产品前正确理解
3月2日 · 6 min read
关于对象检测、分割的简短笔记，以及为什么真实的计算机视觉问题通常需要的不仅仅是一个边界框 (bounding box)。
-
从 Mask R-CNN 到 Mask R-CNN2Go：当计算机视觉研究 (computer vision research) 走向生产环境 (production)
2月9日 · 5 min read
关于一个来自研究领域的计算机视觉想法，是如何被优化以在真实设备上运行的笔记。
-
边缘设备上的计算机视觉 (Computer vision on edge devices)：向 Meta Mask R-CNN2Go 学习
1月17日 · 4 min read
一篇关于边缘 AI (edge AI)、延迟 (latency) 以及将计算机视觉应用于实际设备之前需要回答的问题的短文。
2022 14
-
可扩展 ML 系统的微服务架构模式 (Microservice Architecture Patterns for Scalable ML Systems)
12月1日 · 9 min read
关于如何将机器学习系统分解为更小的服务以使其更易于部署、监控和扩展的实用笔记。
-
Feed 排名与反馈循环 (Feedback Loop)：给产品构建者的教训
11月3日 · 6 min read
解释推荐系统 (recommendation system) 中的反馈循环，以及产品构建者应该如何设计信号 (signals)、指标 (metrics) 和护栏 (guardrails)。
-
Tesla 纯视觉感知 (camera-only perception) vs 传感器融合 (sensor fusion)：真正的权衡 (trade-off) 是什么？
10月11日 · 5 min read
关于自动驾驶 (autonomous driving) 中纯视觉感知、占用网络感知 (occupancy perception) 和传感器融合的谨慎笔记。
-
TikTok 是否使用 Kafka/Flink 进行实时推荐 (real-time recommendation)？
9月6日 · 6 min read
一篇事实核查文章：关于 TikTok 的推荐系统中的 Kafka/Flink，公开信息来源允许我们说什么，不允许我们说什么。
-
TikTok 风格的架构 (TikTok-style architecture)：应被理解为 feed 排序模式 (feed ranking pattern)，而不是内部架构图
8月16日 · 4 min read
一篇关于 TikTok 风格架构的谨慎文章：仅使用公开来源来推导产品模式 (product patterns)，而不去断言内部架构。
-
TikTok 风格的推荐 (TikTok-style recommendation)：为什么架构和算法一样重要？
7月28日 · 7 min read
通过官方来源和学术研究分析 TikTok 风格的 Feed，了解平台架构 (platform architecture) 在推荐系统中的作用。
-
Shopee 的 LightSAGE：用于电子商务广告中商品召回 (item retrieval) 的 GNN
7月7日 · 5 min read
分析 LightSAGE 论文，了解 Shopee 如何在推荐广告中使用图神经网络 (graph neural networks) 进行商品召回。
-
Shopee 与分布式追踪 (distributed tracing)：如何观察请求穿过微服务 (microservices)？
6月14日 · 5 min read
分析 Shopee 使用 ClickHouse 进行分布式追踪的案例，以及为多服务系统提供的经验教训。
-
何时该离开 MongoDB/Cassandra/SQL？来自 Discord 的教训
5月26日 · 7 min read
通过 Discord 案例分析数据库迁移 (database migration) 的决定，以及如何根据访问模式 (access pattern)、运营成本和权衡 (trade-off) 选择数据库。
-
Discord 如何存储数万亿条消息 (trillions of messages)？
5月3日 · 9 min read
阅读 Discord 从 Cassandra 迁移到 ScyllaDB 的案例，并汲取关于数据库、热分区 (hot partition)、迁移和延迟 (latency) 的教训。
-
Netflix 如何使用 ML 优化流媒体质量 (streaming quality)？
4月12日 · 8 min read
来自 Netflix 技术博客的笔记：机器学习如何用于预测流媒体质量、减少播放错误并改善观众体验。
-
Netflix 微服务：为什么可观测性比你想象中更重要？
3月24日 · 6 min read
阅读 Netflix 关于微服务的文章，理解为什么分布式系统需要分层观察：请求流、瓶颈，以及实例级指标。
-
设计排名系统 (Ranking System)：从 Airbnb 到 CRM 搜索
3月8日 · 7 min read
从 Airbnb Search 和基于嵌入的检索 (Embedding-Based Retrieval) 中吸取教训，以实用的方式设计 CRM 搜索/排名。
-
ML 平台需要哪些模块？向 Uber Michelangelo 学习
2月17日 · 4 min read
分析 Uber Michelangelo，以了解生产环境中的 ML 平台 (ML platform) 需要数据 (data)、训练 (training)、部署 (deployment)、预测 (prediction) 和监控 (monitoring)。