Redis应用 on 办公AI智能小助手

基于图理论的语义缓存技术解析

Sat, 13 Sep 2025 22:44:55 +0800

基于图理论的语义缓存：扩展LLM应用

传统字符串匹配的缓存缺陷

当前简单缓存机制存在明显局限：

import hashlib

class SimpleCache:
    def __init__(self):
        self.cache = {}
    
    def get(self, query: str):
        key = hashlib.md5(query.encode()).hexdigest()
        return self.cache.get(key)
    
    def set(self, query: str, response: str):
        key = hashlib.md5(query.encode()).hexdigest()
        self.cache[key] = response

残酷现实：语义相同的查询（如"如何重置密码"和"密码恢复流程"）被当作完全不同的请求处理，每个缓存未命中都会产生额外的LLM API调用成本。