采访Flávia Carvalhido：负责任的多模态AI
在这个采访系列中，我们与AAAI/SIGAI博士联盟的参与者会面，了解更多关于他们的研究。在最新的采访中，我们听取了波尔图大学博士生Flávia Carvalhido的分享。我们了解了她在负责任多模态AI方面的工作、激发她研究AI的原因，以及她在博士联盟的经历。
请介绍一下你的博士研究——你在哪里学习，研究主题是什么？
我的博士项目是在波尔图大学工程学院的信息工程专业，我的本科和硕士学位也都是在同一领域获得的。我的论文研究项目专注于负责任的多模态AI，题目是“医疗图像报告生成中图像-文本多模态模型的压力测试”，由Henrique Lopes Cardoso教授和Vítor Cerqueira教授指导，在LIACC研究实验室开发。这项研究是在负责任AI中心项目议程内开发的，由Carlos Soares教授管理合作。
该研究项目的目标是通过对先进模型应用压力测试技术来发现其局限性，从而增强多模态AI在医疗图像报告生成这一安全关键医疗任务中的负责任使用。通过这样做，希望能够促进对这些模型的更明智使用，并将压力测试建立为负责任AI开发的核心程序。
能否概述一下你在博士期间迄今进行的研究？
在已经完成论文提案计划答辩后，目前处于博士工作的发展阶段。已经完成了完整的文献综述，以及指导研究计划的规划阶段。定义了一个方法计划，以在三年时间内回答研究问题，进行涵盖多个主题的研究：多模态AI、医疗图像报告生成、可解释AI、模型鲁棒性、负责任AI和压力测试。此外，还利用这个规划阶段作为获取更多知识并与其他研究人员分享想法的机会，参加了多个活动：暑期学校、专题讨论会和会议，如AAAI'25。
你的研究中有哪个方面特别有趣吗？
研究AI中一个尚未充分发展的主题——压力测试——给了我一个独特的机会来探索一个新的研究方向。这带来了很多机会，但也带来了挑战。它允许我可能做出新的发现和开创性的提议来定义AI中的这个概念，但也必须具有原创性，开创这个研究方向，进行高质量和有充分依据的研究，产生真正的影响。
此外，保持对该领域新发现的更新，使我对多模态生成AI研究工作的快速进展有了有趣的视角。每周都有新的论文发表，这意味着自己的研究需要不断发展和更新，以与最新发现保持一致。鉴于正在处理一个安全关键的多模态医疗任务——医疗图像报告生成——AI的使用必须遵循安全和负责任的原则，而很多时候这些价值没有被彻底优先考虑。研究旨在解决这一差距，但平衡多模态AI的快速进展与负责任AI研究的较慢节奏，构成了博士研究中的一个关键挑战。
你计划如何在博士期间基于现有研究继续推进——接下来将研究哪些方面？
关于医疗图像报告生成，博士研究的对象，将探索该任务的不同方面。通过使用先进模型并进一步使用XAI技术比较它们，同时评估它们的性能，希望建立一个有代表性的方法基线，以应用初始的压力测试方法。理解生成模型的行为是最终目标，因此探索用于此任务的许多模型将是下一步。
在此之后，将开始用通常“具有挑战性”或引发压力的输入探测模型，作为压力测试的首次尝试，然后记录模型性能和生成行为的任何变化。进一步确定什么构成引发压力的输入，以及总体而言，压力测试作为AI中的一个概念，是这个阶段的关键步骤。
是什么让你想研究AI？
AI一直让我着迷。一直对技术有着这种热爱。从小就一直想知道计算机如何工作，世界如何运转。父母很早就不得不给我买了一台电脑，让我不用他们的。受这种好奇心的驱使，最终学习了工程学，特别是信息与计算机工程。那是第一次真正接触AI。在所有上过的课程中，任何AI课程总是最感兴趣的。因为AI可以解锁所有可能性，而且它永远在变化。
AI永远不会变得无聊；总会有新的东西要学习，新的东西要发现，这正是驱动我和我的好奇心的原因。有人通过新的AI发现可以产生的积极影响，正是想要留下的那种遗产。
你对考虑在该领域攻读博士学位的人有什么建议？
一般来说，博士学位是对自己的挑战和承诺。对决心、动力和工作的挑战。承诺将每一天投入到自己的工作和职业中。你是自己的老板，但作为老板，必须赋予自己力量并推动前进。
AI领域的博士学位有着相同的挑战，但略有不同。AI研究发展迅速，也应该如此。准备好应对变化和新发现，保持适应性，最重要的是，专注于目标。AI研究为所有视角和贡献留有空间，因此如果考虑在AI领域攻读博士学位，请准备好立即投入并充分利用它，为自己和研究。