dsh-live-compact
Tranquillitatis-Lab/dsh-live-compact
边做边压 Live Compact. Compress the finished turn in place and keep the prefix cache.
- 形态
- Plugin 插件
- 安装
- 通过 profile 安装
- 需要密钥
- 是
- 近月下载
- —
- 最近推送
- 今天更新
项目说明
From README
边做边压 Live Compact Live Compact 就是边做边压。活着的时候就压,不等窗口堆满。DSH 把压缩写死在大约 80%。不到这条线,上下文一直堆。到了才调一次模型,十几秒,还要计费。压完注意力会飘。更麻烦的是,压完没多久又满了。1M 的窗口根本不够用,再压一次更慢。为什么非要等到 80%?边做边压不行吗?云端和端侧 云端(公网地址,如 DeepSeek、GLM):装上即可。不要设置 SPINE THUNDER 。看题对不对,以及缓存命中。切点前面的原文不动。端侧(本机、内网、27B):也可以装。不要设置 SPINE THUNDER 。不要拿云端缓存命中来要求它。
看题对不对,以及切掉多少 token。本地服务没有云端那种前缀缓存,每次提问都会把当前上下文重新预填充。两万多是当前上下文的大小,不是插件没切。SPINE THUNDER 默认关闭。只有设为 1 才走雷霆。再设 SPINE THUNDER MODEL=27b 时,前缀超过 8 万会每次都少发,一次雷霆变成次次雷霆。端侧不要开。超过 2 万 token 就切一刀。切的是刚结束的这一轮,不调用模型。切点前面的原文不动,缓存命中还是原来的水准。上下文因此一直被按在较低的位置。雷霆大压缩能拖就拖,拖到尽可能后面。就算哪天满了、真的触发了,掉下来之后小切还在,不会很快又堆回去。
headless: 网页和桌面端(共用 web profile,装一次两边都生效): 想先装到本机看版本: 1.1.0 1.Issue 19 里下一轮输入回到 21 万到 24 万、前缀被打掉的那一刀,是切点走到了已有卡片左边。1.1.0 把最新一张卡片当成地板。往左走到卡片就停。切点右边还有更新的卡片,这一刀不切。已进缓存的前缀不再被后面的刀改写。2.同一次收尾可以连切,这是现有设计,没有改。改的是记账。以前每一刀都把尾巴算进重写,四刀就把同一段尾巴乘了四次。现在一次收尾只记一次:第一刀之后的前缀,减去后面几刀省下的。
dsh-live-compact stats 的 rewrite 用这个数。逐刀明细在 s
安装方式
通过 profile 安装 · 需要额外配置密钥
DSH 把压缩写死在大约 80%。不到这条线,上下文一直堆。到了才调一次模型,十几秒,还要计费。压完注意力会飘。更麻烦的是,压完没多久又满了。1M 的窗口根本不够用,再压一次更慢。dsh plugin --profile headless add dsh-live-compact@1.1.0dsh plugin --profile web add dsh-live-compact@1.1.0安装命令包含风险形态
- 全局安装,会改动系统级依赖
全局安装会修改系统级依赖;远程脚本执行等于把执行权交给仓库作者。装前请通读命令。
为什么是这个分数
近 1 天仍在推送;README 给出了可直接复制的安装命令;运行前需要准备 API Key 或环境变量。
- 维护活跃
- 100
- 实用度
- 58
- 生态热度
- 46
- 上手便捷
- 74
- 信号质量
- 100
- 数据置信度
- 100%
相关插件
context-guardian
LuminariSoftwares/context-guardian
为 compaction-basic 提供压缩兜底:当 LLM 摘要抛错、返回空内容或放不进上下文窗口时,改为确定性编译该区段,每行带 seq 指针(内置 dsh-compaction-instant 编译器)。提供 recall、search 工具与 /recall、/context 命令,占用超过窗口 45% 时空闲自动压缩,并将被压缩区段归档到磁盘。引擎以一行配置挂载到 agent preset(见 docs/dsh-integration.md)。
dsh-context-governor
mpinaev/dsh-context-governor
上下文占用档位、按模型窗口推算的每会话压缩阈值、按缓存读取/写入费率计算的单步费用、缓存命中率、DeepSeek 余额与高峰/低谷费率,以及一键交接。它从不调用模型,也不消耗 token。
smart-compaction
JoblessJoe/smart-compaction
让模型自己挑安全时机触发压缩:提供 compact_now 工具(回合进行中也能用),另有 context_status 工具,按会话真实的上下文窗口报告 token 占用。