MLSys 2021:弥合机器学习与系统之间的鸿沟
某中心杰出科学家兼会议主席Alex Smola阐述了MLSys在主题和文化上的独特之处。
随着深度学习革命的发展,MLSys的成立旨在弥合两个本可互利但常独立工作的社区:机器学习研究人员和系统开发人员。
系统助力机器学习,机器学习优化系统
Smola解释说:“如果你关注大型机器学习会议,它们主要聚焦于‘这是一个酷炫的算法,它能实现惊人功能。比如现在识别猫咪的能力比以前更强’。这些会议主要展示能力提升。同时,还有系统会议,它们更关心文件系统、数据库、高可用性、容错等。”
“为什么需要中间领域?因为在机器学习中,近似解通常已足够。你不一定需要系统提供完美保证。降低要求后,可以更经济、快速或可扩展地完成任务。”
随着深度学习普及,很自然的问题是其是否能帮助优化计算机系统资源分配。
“这本质上是许多系统论文的研究方向,”Smola表示,“涉及是否启动机器、终止机器、为任务调度多少设备、判断机器故障时机、需要多少冗余等问题。既然这些都是资源决策,就可以利用机器学习预测处理这些资源决策的更优策略。”
MLSys接受的论文涵盖两个方向:机器学习助力系统优化,以及系统支撑机器学习。以4月6日的“通信与存储”分会场为例,既有研究如何低成本操作以促进机器学习,也有探讨如何利用机器学习改进存储系统本身。
文化融合
Smola指出,MLSys不仅是研究方向的融合,更是文化的融合,这会引发热烈讨论。
“在系统社区,除非拥有实际运行的系统,否则不会获得重视。这使得会议特别有趣,因为存在两种不同文化:机器学习文化更偏向‘这是可能性的印象派画作,请看下一篇论文’;而系统社区则更为严谨,强调‘这是实际可用的成果,且已通过验证,甚至可能有产品正在部署’。这两种文化通常不太混合,这使得系统论文略带理论倾向,而机器学习论文更侧重实证。”
今年MLSys新增了为期一天的芯片与编译器研讨会,将机器学习系统设计讨论深入至芯片层面。该研讨会由某机构云服务高级首席科学家Mu Li组织。
“虽然有Hot Chips和Cool Chips等活动展示最新芯片技术,但芯片只是半壁江山。我们认为这是让两个社区更紧密合作的良机,这是社区建设的实践。”
与过去一年所有计算机科学会议一样,MLsys转为线上举办。Smola指出,这大幅降低了注册费用:学生25美元,学者和专业人士100美元,“对任何人都非常实惠”。