https://blog.qife122.com/tags/%E5%BC%82%E6%9E%84%E8%AE%A1%E7%AE%97/ Recent content in 异构计算 on 办公AI智能小助手 Hugo zh-cn qife Sat, 20 Sep 2025 12:49:42 +0800 https://blog.qife122.com/p/%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8Bkv%E7%BC%93%E5%AD%98%E6%9E%81%E8%87%B4%E5%8E%8B%E7%BC%A9%E6%8A%80%E6%9C%AF%E7%AA%81%E7%A0%B4/ Sat, 20 Sep 2025 12:49:42 +0800 https://blog.qife122.com/p/%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8Bkv%E7%BC%93%E5%AD%98%E6%9E%81%E8%87%B4%E5%8E%8B%E7%BC%A9%E6%8A%80%E6%9C%AF%E7%AA%81%E7%A0%B4/ <h1 id="hcattention通过异构注意力计算实现llm极致kv缓存压缩">HCAttention：通过异构注意力计算实现LLM极致KV缓存压缩</h1> <p>处理长上下文输入时，大语言模型推理过程中的键值（KV）缓存存在巨大内存需求挑战。现有KV缓存压缩方法在内存减少超过85%时会出现明显性能下降，且基于GPU-CPU协同的近似注意力策略在该领域尚未得到充分探索。</p> https://blog.qife122.com/p/ai%E7%B3%BB%E7%BB%9F%E6%83%85%E5%A2%83%E6%84%9F%E7%9F%A5%E4%B8%8E%E5%BC%82%E6%9E%84%E8%AE%A1%E7%AE%97%E6%8A%80%E6%9C%AF%E7%AA%81%E7%A0%B4/ Wed, 17 Sep 2025 18:33:31 +0800 https://blog.qife122.com/p/ai%E7%B3%BB%E7%BB%9F%E6%83%85%E5%A2%83%E6%84%9F%E7%9F%A5%E4%B8%8E%E5%BC%82%E6%9E%84%E8%AE%A1%E7%AE%97%E6%8A%80%E6%9C%AF%E7%AA%81%E7%A0%B4/ <h3 id="ai系统情境感知与异构计算技术突破">AI系统情境感知与异构计算技术突破</h3> <h4 id="斯坦福研究ai自动生成高效内核">斯坦福研究：AI自动生成高效内核</h4> <p>研究人员通过测试时计算技术生成加速AI开发的内核，意外发现仅通过合成数据生成就能产生优于人类专家优化的PyTorch基线内核。关键创新包括：</p>