F3D Life
把技术实践、AI 工具和长期学习写清楚。
这里记录我在工程、数据系统、AI agent 与个人效率上的实验和复盘。文章不追求热闹,更在意把问题拆开、把经验留下。
也可以在这里找到我:
已发布 15 篇文章,覆盖 18 个主题 最近更新: 从矩阵反向传播到 DP、TP 与 CP:Transformer 训练如何拆开计算
最新
最新文章
-
从矩阵反向传播到 DP、TP 与 CP:Transformer 训练如何拆开计算
更新于从一个批量矩阵的梯度推导出发,解释 Adam、DP 梯度平均、TP 分片反传、CP 长上下文与 ZeRO 状态分片的共同数学基础。
-
从 Dense FFN 到 MoE:用一个 Tiny Transformer 理解 Router、Top-K 与负载均衡
沿一个可运行的两层 Tiny Transformer,拆开 Dense FFN、SwiGLU、Top-K 路由、expert dispatch/combine 与负载均衡。
-
从 QKV 到 KV Cache:一步步理解 Transformer 训练与大模型推理
沿一个可运行的 Tiny Transformer,把 QKV、causal mask、反向传播、AdamW、KV cache、prefill/decode 与 MaaS 调度串成同一条路径。
-
用 React 写视频:Remotion 在宠物账单项目里的实践笔记(2026)
把一张宠物医院账单做成 90 秒讲解视频时,为什么和怎么用 Remotion:Composition、Series、帧时间轴,以及数字滚动与画面组装的关键模式。
主题