AI 编程 / 全球
ranxianglei/billion-context
billion-context 在编程代理与模型接口之间管理长会话，利用分层摘要、按需恢复和历史搜索控制上下文占用，适合研究持续任务中的信息压缩与缓存复用。
+919近 7 天 Star
2,663总 Star
用途与核心能力
billion-context 作为代理层解析 Anthropic 或 OpenAI 形式的请求，对会话进行增量压缩，再转发到实际模型接口。项目向模型提供压缩、解压、搜索上下文和状态查询工具，让模型选择哪些消息范围可折叠为摘要，需要细节时再恢复。它强调保留缓存前缀并使用较小范围更新，目标是延长单个任务可持续运行的时间，而不是实际扩大底层模型的原生上下文窗口。
适用场景与上手入口
README 给出各客户端的接入矩阵，有些使用原生插件，有些依赖启动器或代理路由，能力并不完全相同。开发者应先查自己工具的具体路径，再在测试会话里检查恢复、缓存和请求兼容性。作者公开了长期运行记录及预印本文档，但节省比例和长会话规模属于项目自己的观察。适合对上下文工程有经验的使用者；代理会介入模型请求，接入方式、认证和数据流向都需要与现有环境匹配。