[prefactor] LLMClient/EmbeddingClient 契约携带 token 用量 #78

Closed
opened 2026-07-27 05:34:53 +00:00 by KumaAgent · 0 comments
Member

Parent

#77 [PRD] arise 运营与质量(决策快照 + 六池成本治理 + 管理命令)—— ADR-0010 完整落地

What to build

这是一次纯 prefactor,本身不交付任何用户可见行为。LLMClient/EmbeddingClient 契约携带每次调用的 token 用量——目前 AnyLLMClient.complete() 拿到 any-llm 响应后直接把 usage 丢弃了,这是六池成本治理绕不开的地基。

刻意单独成片、不混进记账逻辑:这个改动本身很机械但触及面广(LLMClient/EmbeddingClient 被 11 个源文件 + 33 个测试文件引用),先把契约扩展做完、确认全仓测试仍绿,后续记账出问题时才能区分是契约适配漏了还是记账逻辑错了(PRD Further Notes 明确建议)。

Acceptance criteria

  • AssistantTurn 新增 token 用量字段(输入/输出),AnyLLMClient.complete() 不再丢弃 any-llm 响应里的 usage,如实回传
  • EmbeddingClient 契约同理携带用量,AnyLLMEmbeddingClient.embed() 如实回传
  • 所有既有 LLMClient/EmbeddingClient 实现随之适配
  • 所有测试替身适配(tests/fake_llm.py::ScriptedLLMClienttests/fake_embedding.py 等),适配方式不改变既有测试的断言语义——本片不应该让任何既有测试需要改断言,只是补齐新字段
  • provider 未回传 usage 时有明确的缺省表示(不假装知道用了多少),不因为缺字段而抛错
  • 本片不新增任何记账/归池/预算/熔断逻辑——那些是后续 ticket 的范围
  • 全仓测试保持全绿,交付标准就是"契约扩展完成且没有引入回归"

Blocked by

None — can start immediately

## Parent #77 [PRD] arise 运营与质量(决策快照 + 六池成本治理 + 管理命令)—— ADR-0010 完整落地 ## What to build **这是一次纯 prefactor,本身不交付任何用户可见行为。** 让 `LLMClient`/`EmbeddingClient` 契约携带每次调用的 token 用量——目前 `AnyLLMClient.complete()` 拿到 any-llm 响应后直接把 usage 丢弃了,这是六池成本治理绕不开的地基。 刻意单独成片、不混进记账逻辑:这个改动本身很机械但触及面广(`LLMClient`/`EmbeddingClient` 被 11 个源文件 + 33 个测试文件引用),先把契约扩展做完、确认全仓测试仍绿,后续记账出问题时才能区分是契约适配漏了还是记账逻辑错了(PRD Further Notes 明确建议)。 ## Acceptance criteria - [ ] `AssistantTurn` 新增 token 用量字段(输入/输出),`AnyLLMClient.complete()` 不再丢弃 any-llm 响应里的 usage,如实回传 - [ ] `EmbeddingClient` 契约同理携带用量,`AnyLLMEmbeddingClient.embed()` 如实回传 - [ ] 所有既有 `LLMClient`/`EmbeddingClient` 实现随之适配 - [ ] 所有测试替身适配(`tests/fake_llm.py::ScriptedLLMClient`、`tests/fake_embedding.py` 等),适配方式不改变既有测试的断言语义——本片不应该让任何既有测试需要改断言,只是补齐新字段 - [ ] provider 未回传 usage 时有明确的缺省表示(不假装知道用了多少),不因为缺字段而抛错 - [ ] 本片不新增任何记账/归池/预算/熔断逻辑——那些是后续 ticket 的范围 - [ ] 全仓测试保持全绿,交付标准就是"契约扩展完成且没有引入回归" ## Blocked by None — can start immediately
Yushu closed this issue 2026-07-27 07:47:31 +00:00
Sign in to join this conversation.
No milestone
No project
No assignees
1 participant
Notifications
Due date
The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set.

Reference
ProjectKuma/arise#78
No description provided.