TAG
Autarkia
这个标签下的全部内容。
共 3 篇01文章
生成器的异常在第一次 next() 时才抛：try 包住 create_chat_completion(stream=True) 接不到超窗口错误2026-11-08调用生成器函数只会造出生成器，函数体要等第一次 next() 才运行，里面的 raise 也一样。llama-cpp-python 的超窗口检查就在这样的函数体里，所以流式调用外面那层 try 和它的自动收缩重试在真实库下走不到；测试替身在调用时就抛错，测试全绿、覆盖率 100%。#Python#LLM#错误处理#测试#AutarkiaLLM 请求可观测性：日志只统计 messages，原生 tools schema 的开销不在任何日志里2026-11-07原生 function calling 的工具定义放在 tools 参数里，不在 messages 里；只统计消息长度的日志看不到它，流式请求默认也不返回 usage。Autarkia 每轮带了 82 个工具、47,898 字符的 schema，prompt 日志只有两千多字，API 记的是 21k 到 23k token。#LLM#Python#可观测性#Autarkiaasync 生成器被 break 以后会 aclose：最后一个 yield 之后的代码不执行2026-11-07消费方拿到最后一个事件就 break，async 生成器被 aclose()，GeneratorExit 抛进暂停的 yield，后面的 create_task 不会执行，finally 会。Autarkia 的对话历史保存因此一次都没跑过；这个写法 4 月修过，8 月又被一个说得通的理由改了回去。#Python#asyncio#流式输出#Autarkia