ADD / XOR / ROL
一个关于逆向工程、数学、政治、经济学等主题的博客…
2018年2月21日，星期三
关于"人工智能恶意使用"报告的两点说明
在博客长时间停更后，终于有新文章了！好吧，其实不算全新——但今天发布了一份名为《人工智能的恶意使用》的白皮书，我决定将之前写的一封邮件中适用于该论文的两点说明复制粘贴并发布出来。
或许对某些人有用：
- 关于人工智能定义的不明确性：人工智能是一个模糊且定义不清的术语。如今，几乎所有从数据中推断参数的东西都被称为"人工智能"。是的，服装尺码是由"人工智能"确定的，因为平均尺寸是从真实数据中推断出来的。
要测试是否陷入了将人工智能视为与其他数学或计算机科学（其实不是！）在结构上不同的陷阱，应该通过以下方式对关于人工智能政策的文件进行实战测试，并检查其比例是否合理：
取现有测试，将每个出现的"AI"或"artificial intelligence"替换为"数学"，将每个出现的"machine learning"替换为"统计学"。重新阅读文本，看看你是否仍然同意。
- “所有科学始终是双重用途的”：
每个工作在科学与政策交叉领域的人都应该阅读哈代的《一个数学家的辩白》。https://www.math.ualberta.ca/mss/misc/A%20Mathematician%27s%20Apology.pdf
我不确定有多少贡献者这样做过，但这是一本引人入胜的读物——他思考了数学对战争的影响，以及如果必须假设科学将被用于邪恶目的，科学可以在多大程度上进行。
我最喜欢的部分如下： 我们还有一个问题要考虑。我们已经得出结论，琐碎的数学总体上是有用的，而真正的数学总体上不是；琐碎的数学在某种意义上是"做好事"，而真正的数学不是；但我们仍然要问任何一种数学是否会造成伤害。在和平时期建议任何数学都会造成很大伤害是悖谬的，因此我们被迫考虑数学对战争的影响。现在很难冷静地争论这些问题，我本来更愿意避免它们；但某种讨论似乎是不可避免的。幸运的是，它不需要很长。对于一个真正的数学家来说，有一个令人欣慰的结论。真正的数学对战争没有影响。还没有人发现数论或相对论有任何战争用途，而且在未来许多年里似乎也不太可能有人会发现。确实有一些应用数学分支，如弹道学和空气动力学，是专门为战争开发的，需要相当复杂的技术：也许很难称它们为"琐碎"，但它们都没有资格称为"真实"。它们确实令人反感地丑陋和难以忍受地枯燥；就连Littlewood也无法使弹道学受人尊敬，如果他都不能，谁还能呢？因此，一个真正的数学家良心清白；他的工作可能具有的任何价值都没有什么可抵消的；数学，正如我在牛津所说，是一种"无害且无辜"的职业。另一方面，琐碎的数学在战争中有许多应用。例如，火炮专家和飞机设计师没有它就无法工作。而这些应用的总体效果是明显的：数学（即使不如物理或化学那么明显）促进了现代、科学、“全面"战争。
上述内容最引人入胜的一点是，哈代在谈到数论或相对论缺乏战争应用时是多么有先见之明地错误——分别是RSA和核武器。类似地——我过去曾与一位社会人类学家交往，她经常嘲笑我的专业领域接近军事资助机构（这是在2000年代初）。国防部长盖茨上任后做的第一件事就是雇佣一群社会人类学家帮助国防部解开伊拉克的部落结构。
这段离题的重点是：任何科学家都无法想象其科学工作的未来用途和滥用。你无法选择研究"安全"或"不安全"的科学——你唯一的选择是在相关和不相关之间，而世界上的军队将使用任何相关的东西，并将其用于最大化其战争能力。
发布者：halvar.flake
时间：下午1:35