880 B
880 B
| date | status | topic | impact | ||
|---|---|---|---|---|---|
| 2026-06-01 | adopted | custom-embedding |
|
复用项目 embedding 模型而非 Mem0 自带 SentenceTransformer
背景
Mem0 默认会自行加载一个 SentenceTransformer 做 embedding。项目本身已经通过 GlobalModelManager
加载了 paraphrase-multilingual-MiniLM-L12-v2(384 维)。若放任 Mem0 自加载,会出现同一模型在内存中加载两份,浪费显存/内存。
决策
在 agent/mem0_manager.py 实现 CustomMem0Embedding,把 Mem0 的 embedder 接到项目已加载的全局模型上,复用同一份权重。
影响
- 内存占用显著下降(不重复加载模型)。
- embedding 维度固定为 384,与项目主模型一致;换模型时 pgvector 列维度必须同步调整。
备注
相关连接池/实例缓存策略见 2026-06-connection-pool。