为何道德技术设计应成为合规的核心要素

构建一款优秀的应用程序曾经相当简单。组建一个好的团队，构思激动人心的功能，编写代码，然后尽快将其推出。你所需要做的就是确保你的产品满足用户期望，以及数据保护、安全和隐私等合规要求。

道德方面的考虑？那通常只是锦上添花，也许是你的法律团队需要核对的事项。但那样的日子早已一去不复返。

如果你的公司开发软件解决方案，并且你仍然将道德技术设计视为次要问题，或者仅仅是提升公司公关形象的手段，那么你可能很快就会发现你处于不利地位。为什么呢？因为监管机构、用户甚至投资者都比以往任何时候更加关注。

毕竟，正如约克大学简洁地指出的那样，软件可以改变人们的思维和行为方式，因此拥有坚实的道德核心非常重要。这意味着道德不能再是事后考虑。它必须成为合规中不可妥协的一部分。

在本文中，我们将讨论为什么道德技术设计不再仅仅是“锦上添花”，而应被纳入合规要求。

在线服务已成为日常生活中不可或缺的一部分。无论是手机上的应用程序、运行在计算机上的软件，还是像Facebook和TikTok这样的在线平台，这些工具现在都影响着我们的工作、社交甚至思维方式。随之而来的是责任和风险。

以Facebook为例。它拥有约29亿月活跃用户。这意味着全球超过35%的人口每月都在访问。你猜怎么着？这些人面临着从隐私问题到有缺陷的算法、错误信息乃至心理健康问题等各种风险。

事实上，那些遭受最严重心理健康问题困扰的人们正在提起针对Facebook的诉讼，以寻求正义。

根据TorHoerman Law的说法，这起诉讼旨在让社交媒体公司对其设计应用程序导致年轻人沉迷其中并损害其心理健康的行为负责。

但这并不止于法庭。监管机构也在关注。

例如，在欧盟，GDPR早就对“暗黑模式”采取了强硬立场，这些是诱使人们注册他们不想要的东西的狡猾设计手法。

美国的FTC也对此事非常重视。他们也一直在积极指出欺骗性设计问题，甚至在2022年对《堡垒之夜》开发商Epic Games处以5.2亿美元的罚款。

即使在现在，各种法律和框架也正在涌现，以应对技术的安全性和道德维度。

其中一个框架是《欧盟人工智能法案》。该法案解决了与人工智能相关的风险，并建议了安全和伦理要求，以确保事情不会失控。

另一个是“设计即伦理”方法，它正迅速获得关注。由欧盟委员会和研究团体推动，它倡导将伦理考量直接嵌入技术设计过程。这个想法很简单：从一开始就考虑潜在的危害和用户福祉，而不是在发布后试图修补问题。

这些框架表明，监管监督正在超越数据隐私和安全，扩展到从一开始就帮助构建负责任且真正有益于人们的技术。

你可能认为道德设计不能作为抵御监管麻烦的盾牌，但事实是，合乎道德地进行构建实际上可以成为风险缓解的终极形式。它可以让你免于代价高昂且混乱的诉讼、令人尴尬的发布后修补、数百万美元的罚款以及受损的声誉。

但你怎么知道你的产品是否符合道德设计清单呢？以下是判断方法：

如果你及早解决这些问题，你不仅仅是在负责任，你还能避免与监管机构产生纠纷，同时保持产品的用户友好性。

要使道德技术设计发挥作用，必须从最高层开始，并渗透到生产生态系统的每个部分。法律、产品团队、工程等，每个人都需要关心，但领导层必须定下基调。

这是C级高管发挥作用的地方。领导者必须对道德问题直言不讳，承认错误，甚至奖励负责任的选择。当领导者明确表明做正确的事情很重要时，其他人就会注意到。

而事实是，最终，每个人都是赢家。用户赢得了安全可靠的产品。企业赢得了更高的用户忠诚度，因为根据普华永道的报告，消费者现在更喜欢与价值观与自己一致的品牌做生意。显然，将道德作为构建方式的核心部分不仅仅是良好的实践。这也是一门好生意。

将道德纳入你的生产流程比你想象的要容易。

首先，在你的产品开发生命周期中添加一个“道德审查”。这不必很复杂。只需在规划或迭代过程中问一些问题。这个功能会伤害某人吗？它可能被滥用吗？回答这些问题将帮助你决定取舍。

最好不要把这件事留到最后阶段。后期修复道德缺陷可能非常昂贵。它甚至可能像在测试阶段修复错误一样昂贵，根据IBM的数据，这比早期阶段的成本高出15倍。所以，你越早发现它们越好。

你还应该鼓励跨团队协作。这不仅仅是设计团队或程序员的工作。让产品团队、数据科学家、法律、合规甚至测试用户参与进来。不同的视角将帮助你发现你可能忽略的风险。

将道德技术设计置于首位，就像你对待合规要求一样，不仅仅是勾选一个复选框。它是关于建立信任、价值和竞争优势。

在一个消费者日益关注他们使用的在线服务影响的世界里，这样做可以帮助你的产品脱颖而出。

随着监管机构开始更密切地关注软件产品的构建和使用方式，这也为你的企业未来的稳固发展奠定了基础。