Posts
All the articles I've posted.
-
推理服务业界落地：从训练产物到推理服务怎么发布
Updated:写给工程师的推理服务落地：换版最小动作是改一个 URI。产物进对象存储，期望状态进 Git，集群对账后拉起 Triton / vLLM 或 CPU 上的 ONNX / PMML；按平台已有能力决定要不要 KServe，对照 LLM、广告深度 CTR 和 CPU 粗排。
-
推理运行时与服务框架选型：运行环境、服务框架、编排平台怎么分层
Updated:写给工程师的推理服务选型：先把「算、接、活」分成运行环境、服务框架、编排平台，再按场景填上常见实现——LLM 对话、广告深度 CTR、轻量打分各走哪一层。变慢时按队列、副本、引擎排查，而不是拿不同层的工具直接比。
-
模型文件格式分类与选择：.pt / SavedModel / ONNX / safetensors / GGUF / TensorRT / PMML 到底怎么选
Updated:写给工程师的模型文件格式选型：权重、计算图、元数据各是什么；只有权重时用 config.json 搭空壳，有图仍可能要 sidecar 做分词和预处理。再按给谁跑选择 checkpoint、safetensors、ONNX、GGUF、TensorRT 或 PMML。
-
Web 变现深挖：GPT、广告标签与可见性如何把页面变成收入
Updated:本文深入剖析 GPT 广告标签机制与 SPA 生命周期陷阱，详述 Header Bidding 与媒体 Ad Server 的胶水逻辑及 SRA 架构优化。通过解构懒加载与广告刷新的增量核算，探讨 MRC 与 OMID 可见性标准、Core Web Vitals 权衡及 consent 同意漏斗，系统排查「有请求没收入」的业务痛点。
-
CTV / OTT 与 SSAI：大屏程序化插播与变现解析
Updated:写给工程师的 CTV/OTT 变现深挖：详细拆解大屏广告名词四层模型与 PG/PMP 履约约束，对比 CSAI 与 SSAI 的架构选型差异。全面剖析包含 decisioning、转码 ladder、manifest 缝合与信标对账在内的全链路机制，探讨直播 SCTE 与点播的场景差异、家庭频控与身份空洞问题，并提供针对黑帧、卡顿与 under-delivery 的排障思路。