项目

单机自托管的 Agent 运行时

对话只是入口，能力在工具层、记忆层和调度层。95 个工具按角色隔离，长期记忆会遗忘也会蒸馏，六个客户端接同一套后端。

Python / FastAPI / C++ / llama.cpp / React / Kotlin / Swift / Docker

树形对话里派生记忆的分支可见性

重新生成、编辑历史消息、从检查点分叉，都会让对话变成一棵树。原文按分支过滤很容易，难的是摘要和事实这些派生记忆。branchmem 只认一条规则：派生记忆的全部来源都在当前分支上才可见。附带 30 个场景的基准。

Python / pytest / BM25 / Mem0 / LLM

单 GPU 上的 LLM 常驻、图像突发与 CPU 回填调度

研究原型：一块显卡上 LLM 常驻、图像生成突发、CPU 任务在空隙回填，研究准入控制、迁移代价与崩溃恢复。实验结论要写进论文。

Python / C++ / CUDA / PyTorch / FastAPI / WebSocket / llama.cpp