OpenAI Habitat 存储平台：70M req/s 的教训与 2 名工程师的 Rust 重写

OpenAI 工程系列第一篇：ChatGPT 背后的存储平台 Habitat（10 亿+ 周活用户、500+ PB 存储、边缘 22M req/s、全服务 70M+ req/s、存储故障恢复期 10 万+ req/s）。文章讲从共享 Python 库迁移到全球分布式服务的历程：asyncio 调度延迟调优；把 aiohttp LIFO 连接池的亚稳态失效改为 FIFO 修复；基于 Envoy 的自研 HTTP/2 fan-in 前端；TAO 式图 API 的内部 NoSQL 层；基于 Rockset 的 CDC 支持在线/离线迁移与灾备逃生门。最重的一点：2026 年 Q2，Habitat v3 完全用 Rust 重写——2 名工程师借助 Codex 与 GPT-5.5 数月完成，替换了核心占比仅次于 Kubernetes 的 Python 服务，CPU 效率约 6 倍、内存效率约 15 倍，现承载约 95% 生产流量。

架构教训（连接池亚稳态失效、asyncio 尾延迟、HTTP/2 fan-in 的成本账）适用于任何大规模 Python→Rust 迁移。但最重的数据点是组织层面的：2 名工程师 + agent 辅助，把 OpenAI 核心占比前二的服务完全重写，效率 6 倍/15 倍——这是迄今「AI 辅助重写业务关键基础设施」最强的公开证据，也为「AI 原生工程团队」的实践含义给出了标尺。

规模	10 亿+ 周活；500+ PB 存储；边缘 22M req/s；全服务 70M+ req/s；故障恢复期 10 万+ req/s；区域故障分钟级切换、存储层秒级恢复
架构	asyncio 调度延迟调优；aiohttp 连接池 LIFO→FIFO（修亚稳态失效）；Envoy 上的 HTTP/2 fan-in 前端；TAO 式图 API NoSQL 层；Rockset CDC；无 S3、多区域副本设计
Habitat V3	2026 Q2 由 2 名工程师用 Codex + GPT-5.5 数月完成 Rust 全量重写；替换核心占比仅次于 Kubernetes 的 Python 服务；CPU 约 6 倍 / 内存约 15 倍效率；承载约 95% 生产流量
注	页面 og 元数据显示更早的 publishedTime；此处按官方 RSS 条目定日期（周五 9/11 10:00 GMT）