[Simone]开发的AI助手Max Headbox是一个基于唤醒词触发的本地AI代理,能够遵循指令并执行简单任务。这在很多方面都是一项实验,但也很好地展示了现代爱好者利用开源工具和硬件所能实现的功能,同时提醒我们这些软件工具在短短几年内取得了多大进步。
Max Headbox不仅仅是运行在树莓派硬件上的本地大语言模型;该模型能够在循环中进行工具调用,并将它们串联起来完成任务。这意味着系统可以将口头指令(例如“查找今天的天气预报并通过邮件发送给我”)分解为一系列步骤,在整个过程中根据需要利用软件工具,直到任务完成。
在视频中观看Max的实际操作。Max运行速度稍慢,但尚未到无法使用的程度。就概念验证而言,它证明了在运行免费本地安装软件的预算硬件上,此类系统的基础是完全可行的。查看GitHub仓库了解更多。
当然,这个名字是对80年代号称由计算机生成的电视名人Max Headroom的戏仿,实际上那只是一个戴着面具的演员,就像可能是电视广播史上最著名黑客事件背后的那个人(同样戴着Max Headroom面具)。
感谢[JasonK]提供的线索!