赞助sqlite-vec以支持更强大的本地AI应用

作者：Stephen Hood
发布于：2024年6月25日
分类：人工智能、精选文章、Mozilla

Mozilla最近宣布的Builders计划旨在支持推动开源AI发展的项目。我们的首个主题是“本地AI”——能够在消费设备（如台式机、笔记本电脑和智能手机）上完全本地运行的AI驱动应用程序。我们对此领域深感兴趣，因为它通过将AI技术直接交到用户手中来促进更高的隐私性和控制权，同时通过降低成本使个人开发者和小型社区能够使用强大工具，从而 democratizes AI 开发。

作为Mozilla Builders的一部分，我们推出了开发者可以申请加入的加速器，同时我们也一直在积极招募特定的开源项目，这些项目我们认为有潜力推动AI发展，并能从Mozilla的投资、专业知识和支持中受益。我们的第一个此类Builders项目是由开源开发者Justine Tunney领导的llamafile。llamafile使开源大型语言模型在日常消费硬件上快速运行，同时显著提高了开源AI的可访问性和可用性。

今天我们自豪地宣布下一个Mozilla Builders项目：sqlite-vec。由独立开发者Alex Garcia领导，该项目为备受喜爱的SQLite嵌入式数据库带来了向量搜索功能。

Alex一直在研究这个问题已有一段时间，我们认为他的最新方法将为应用程序开发者提供一个强大的新工具，用于构建本地AI应用，从而产生重大影响。

“我非常兴奋sqlite-vec能成为Mozilla Builders项目，”Alex Garcia表示。“我非常关心构建易于入门且随处可用的软件，这一特点显然与其他Builders项目（如llamafile）共享。AI工具也不例外——一个随处可运行的向量数据库意味着为每个人提供更公平的访问。”

向量数据库正在成为AI应用堆栈的关键组成部分，支持检索增强生成（RAG）和语义搜索等用途。但当今可用的数据库中很少有专为设备上使用而设计，这使得在本地AI应用中提供RAG等功能变得更加困难。SQLite是一个成熟且广泛部署的嵌入式数据库——事实上，它甚至内置在Mozilla自己的Firefox网页浏览器中。

支持向量的SQLite前景为本地运行的AI应用开辟了许多新的可能性。例如，想象一个聊天机器人，它可以回答关于您个人数据的问题，而无需让一个字节的数据离开您笔记本电脑的隐私和安全。

我们很高兴能与Alex合作并支持他在sqlite-vec上的努力。我们鼓励您关注该项目的进展，Alex欢迎您的贡献。Mozilla的Discord服务器是与Alex、Mozilla Builders团队以及我们不断增长的开源实践者社区中的其他人联系的好地方。请过来打个招呼，介绍一下自己。

关于作者

Stephen Hood在Mozilla Builders中领导开源AI项目（包括llamafile）。他之前管理过社交书签先驱del.icio.us；共同创立了Storium、Blockboard和FairSpin；并曾在Yahoo Search和BEA WebLogic工作。