AI Pulse: AI的积极面与代理智能的承诺
AI的价值何在？
作为网络安全公司，趋势科技始终处于"风险区"：预测威胁并寻找化解方法。但我们同样重视退后一步思考AI为人类带来积极变革的巨大潜力。本期AI Pulse探讨了为保障AI安全有益所采取的集体行动，包括通过AI增强的漏洞挖掘和威胁检测来加强网络安全。我们还思考了代理智能(Agentic AI)如何为改善人类生活开启全新可能性，推动文明向人工通用智能(AGI)迈进。
新动态：AI向善力量
巴黎和平论坛的AI安全合作
巴黎和平论坛将和平视为超越战争缺席的合作方式，共同应对气候变化、移民和网络威胁等跨国挑战。今年11月11-12日的论坛明确网络威胁（和机遇）必然涉及AI。趋势科技宣布与论坛合作制定安全AI采用指南，并将参加法国总统马克龙主导的AI行动峰会，分享AI威胁洞察及先进网络安全工具实践。
代理智能的健康领域潜力
《MIT技术评论》指出代理驱动AI有望解锁生物学突破。AI代理的非结构化、“通才式"问题解决方法能突破长期困扰人类研究者的复杂性障碍。值得注意的是，该文章本身由AI系统Owkin撰写——号称"全球首个端到端AI生物技术公司”。
AI驱动发现和促进高质量科学传播的双重能力令人兴奋。当然风险也需管理：《The Verge》报道AI生成医疗记录中出现不当幻觉内容；《物理世界》引用研究发现因数据偏见，某些计算机辅助诊断对部分患者准确性较低。但总体而言，代理智能改善生活和提升科学素养的承诺仍是净收益。
行业巨头的AGI竞赛
OpenAI被传将于12月发布GPT-5（代号"Orion"），据称比GPT-4强大100倍，通过组合多个LLM接近AGI（有消息称已内部实现AGI）。Anthropic正在开发Claude 3.5 Opus，预计年底前发布，延续其伦理AI开发承诺。谷歌据称准备年底前推出Gemini 2.0，预计带来更智能回答、更快处理、更长输入支持和更可靠推理编码。Meta的Llama 4预计明年初发布，通过思维链等技术实现感知、推理和规划的自主机器智能(AMI)。
开源AI的利弊辩论
开源AI可能被滥用（如中国将Llama 2用于军事用途），但支持者指出开源软件在互联网和音乐流媒体等领域的成功，开放往往产生更强大、可信的解决方案。《经济学人》建议政府通过法规和知识产权法鼓励开源发展。
AI赋能的网络安全趋势
AI漏洞挖掘实践
随着AI"军备竞赛"升级，防御方充分利用AI优势。Protect AI推出Vulnhuntr：AI增强的Python静态代码分析器，能"发现并解释复杂多步漏洞"，据称已在开源AI项目中发现十多个零日漏洞。11月初，谷歌宣布通过AI驱动发现SQLite开源数据库引擎的零日漏洞，这是首个通过谷歌LLM辅助的Big Sleep框架识别的漏洞。两者都凸显了开源开发优势——有源代码访问时漏洞发现更容易。
AI网络防御部署
麦肯锡研究发现前32种网络安全产品中17种包含高级AI用例，超70%企业客户"高度愿意"为AI安全工具付费。安全运营是重点领域，特别是威胁检测和响应——包括使用AI查询大数据集并推荐防护行动。其他机会领域包括云安全、终端安全以及使用AI助手自动填写问卷和报告。谷歌推广其三个月期"AI网络安全成长计划"，帮助初创公司开发AI赋能网络安全方案时"负责任创新"。
AI安全治理进展
MITRE宣布AI事件共享计划，允许成员公司访问影响AI系统事件的匿名数据。Anthropic强烈呼吁针对性AI监管，称政府需在未来18个月内行动否则可能失去AI控制权。其负责任扩展政策(RSP)作为"识别、评估和缓解灾难性风险的适应框架"被推广。美国商务部与国务院联合主办国际AI安全研究所峰会，聚集来自国际AI安全研究所网络和政府支持科学办公室的AI专家，推进AI安全合作与知识共享。
未来方向：代理智能
自主决策的AI代理
代理智能是无需人工干预能自主决策和行动的AI。高德纳称之为未来几年最重要战略技术，预计到2028年AI代理将做出约15%的日常工作决策。
10月是代理智能大月：微软宣布Copilot Studio用户可创建自主代理，并为Dynamics 365 ERP/CRM套件添加近12个代理；Anthropic推出能"读取"计算机屏幕内容并在软件应用和互联网执行任务的AI代理；Salesforce推出"Agentforce"，让用户创建自主执行业务任务的代理，已被OpenTable、Saks和Wiley采用；Intuit推出Intuit Assist，为TurboTax、Credit Karma、QuickBooks和Mailchimp用户提供个性化推荐。
随着公司创建部署代理能力，寻找保持流线型、高效和协调的方法成为重点——通过协同工作扩展问题解决能力。OpenAI测试轻量级代理协调的"Swarm"方法，趋势专家跟踪代理网格(agentic meshes)概念，将AI代理互联以合作追求人类提示目标。
随着代理网格发展，信任建立机制及人类监督审计AI代理活动的方式至关重要。当AI代理开始创建自己的代理时，这在日益机器制造的环境中"隐形"传播自主性，这点将更加重要。
AGI：终极目标
自主AI代理被视为通往AGI的重要垫脚石。Anthropic的Dario Amodei（更倾向称"强大AI"）指出"拥有真正鼓舞人心的未来愿景而不仅是救火计划至关重要"。他列举代理后AGI显著改善人类生活的领域：生物学与身体健康、神经科学与心理健康、经济发展与减贫、和平与治理、工作与意义。
OpenAI的Sam Altman同样乐观，设想未来每人拥有自己的"个人AI团队"——“不同领域虚拟专家协同创造几乎任何想象事物”。随着代理智能到来——即将在2025年释放AI革命下一波浪潮——Amodei和Altman可能正确：最佳前进道路是让自己受AI所能做好事启发和兴奋，同时保持对需共同管理风险的警惕。