监管人工智能算法的原因比你想象的要简单

你担心人工智能会接管世界吗？ 许多人都这样做。 来自埃隆马斯克的担忧 DeepMind 在高级围棋游戏中击败人类 2017 年，向国会议员、欧洲政策制定者（见 欧洲的人工智能方法) 和学者们，有一种感觉，这是认真对待人工智能的十年，而且它正在占据一席之地。 不过，不是因为您可能认为的原因，也不是由于任何当前的威胁。

这就是算法的用武之地。你可能会问什么是算法？ 最简单的方法是将其视为一组机器可以理解和学习的指令。 我们已经可以指示机器以结构化、自动化的方式计算、处理数据和推理。 然而，问题是，一旦给出了上述指令，机器就会跟随它们。 现在，这就是重点。 与人类不同，机器遵循指令。 他们学得不好。 但一旦他们这样做，他们可能会导致问题。

我不想就计算机有朝一日超越人类智能的想法发表耸人听闻的论点，更广为人知的说法是奇点论（见纽约大学哲学家大卫查默斯的 关于这个话题的沉思.) 相反，制造业可能是人工智能算法开始对公众越来越重要的最好例子。 人们担心机器会极大地加速它们的能力，而牺牲我们的利益。 不一定是通过一些高级推理，而是因为算法所说的边界内的优化。

制造就是制造东西。 但是当机器制造东西时，我们需要注意。 即使机器制造的东西很简单。 我会解释为什么。

从雨靴到手机再到背部

比如说，一家工厂一直在生产雨靴。 我喜欢雨靴，因为我在挪威一个经常下雨的地区长大。 我喜欢在户外，受制于大自然的许多元素。 诺基亚制造了我长大的雨靴。 是的，我们今天所知道的诺基亚是一家曾经生产橡胶靴的电子公司。 为什么是这把钥匙？ 因为一旦你做了某件事，你就注定要做出改进。 这就说得通了。 你可以说这是人的本性。

诺基亚发生的事情是众所周知的，有点像这样：最初是一家造纸厂，当我还是个孩子的时候，制造橡胶靴（和轮胎）对公司来说特别成功。 然而，他们看到了更多的机会。 因此，在 1980 年代的某个时候，他们转向电子产品并迅速改变了周围的工厂，在他们开始制造手机时建立了一个庞大的本地供应商结构。 这迎来了移动通信革命，它始于斯堪的纳维亚半岛，并蔓延到世界其他地区。 可以理解的是，许多人在 1990 年代写下了诺基亚的故事（参见 芬兰奇迹背后的秘密：诺基亚的崛起).

我的例子很简单。 或许，太简单了。 但是这样想。 如果一家大公司能够迅速从造纸到写字，转变为更容易在雨中外出的靴子，最后，转变为改变人类交流方式的手机：下一步会有多容易？ 假设一家制造手机的公司决定制造纳米机器人，也许这些机器人会在 XNUMX 年后起飞，用微型机器改变人类，这些机器可以在任何地方自主运行，能够重新组装和改变人类的体验。 如果发生这种情况而没有考虑我们希望它如何发生、我们想要负责的人以及最终目标怎么办？

建议机器人有意识地帮助诺基亚决定制造手机将是一个延伸。 但承认技术在让芬兰北部海岸的一个农村地区认为他们可以在一个新行业中获得世界统治地位方面发挥了重要作用。

近十年来，诺基亚的故事并没有那么乐观，因为他们没有考虑到基于软件的 iOS 和 Android 操作系统的出现。 现在，因此，诺基亚不再生产手机。 在一个有点卷土重来的故事中，他们现在制造网络和电信基础设施、网络安全解决方案、Wi-Fi 路由器、智能照明和智能电视（见 诺基亚的复出故事）。 诺基亚仍然在制造东西，这是真的。 唯一需要注意的是，诺基亚似乎总是喜欢混合他们制造的东西。 有时，甚至人类的制造决策也难以理解。

制造意味着制造事物并且事物确实在进化。 从广义上讲，我们今天所做的与十年前相比已经发生了变化。 3D 打印机在工业和家庭中分散了许多先进产品的生产。 3D 打印改变生活的后果尚未发生。 我们不知道这是否会持续下去，但我们确实知道 FDA 的重点是规范产品的制造（见 点击此处) 比如随之而来的印刷药丸或医疗设备、明显的知识产权和责任问题，或围绕能够印刷枪支的问题。 最终，关于 3D 打印可能产生的负面后果的政策讨论是不存在的，我们中很少有人费心去思考它。

我并不是说 3D 打印本身就是危险的。 也许，这是一个不好的例子。 然而，最初看起来很平凡的事情可以改变世界。 有很多例子：开始战争的狩猎/采集者用金属制成的箭头，保护我们免受 COVID-19 侵害的仪式面具，建造摩天大楼的钉子，（仍然）用印刷纸填满我们的工厂并为我们的工厂提供动力的活字印刷机出版业，让你在晚上看到和工作的灯泡，我可以继续。 我所知道的没有人在 1800 年代后期坐下来预测诺基亚会将其生产从纸张转移到橡胶再到电子产品，然后再从手机转移。 也许他们应该有。

人类对阶跃变化的预测能力很差，一个变化会导致更多变化的过程，突然之间，事情就完全不同了。 我们还不了解这个过程，因为我们对指数变化的实际知识很少； 我们无法想象、计算或理解它。 然而，它一次又一次地打击我们。 流行病、人口增长、从书籍印刷到机器人技术的技术创新，它通常会毫无预兆地袭击我们。

未来主义的诀窍不是如果，而是何时。 一个人实际上可以通过选择一些新的生产方法并说明它们在未来会变得更加普遍来预测变化。 这很简单。 棘手的部分是准确地弄清楚何时，尤其是如何。

回形针不是问题

再次考虑我的工厂示例，但这一次，想象机器负责许多决策，不是所有决策，而是优化等生产决策。 在他的书中 超级智能，牛津大学的反乌托邦人文主义者尼克博斯特罗姆著名地想象了一种运行回形针工厂的人工智能优化算法。 他说，在某个时候，想象一下机器学习将不断增加的资源转移到任务上的原因是合理的，最终逐渐将我们的世界变成了回形针，并抵制我们试图关闭它的尝试。

尽管博斯特罗姆是个聪明人，但博斯特罗姆的例子相当愚蠢和误导（但令人难忘）。 一方面，他没有解释人类和机器人不再是独立实体的事实。 我们互动。 大多数聪明的机器人正在演变成协作机器人或协作机器人。 人类将有很多机会来纠正机器。 尽管如此，他的基本观点仍然存在。 在某些时候可能会发生阶跃变化，如果这种变化发生得足够快并且没有足够的监督，则可能会失去控制。 但这种极端结果似乎有些牵强。 无论哪种方式，我同意，我们需要规范操作这些机器的人员，并通过适当的培训要求工人始终处于循环中。 这种类型的训练并不顺利。 目前它需要的时间太长，并且需要专业技能来培训和接受培训。 我知道一件事。 未来各种各样的人都会操作机器人。 不这样做的人，将非常无能为力。

增强人类比无意识的自动化要好，不管我们是否从未完全与机器融合。 这两个概念在逻辑上是不同的。 为了自动化，人和机器人都有可能陷入自动化。 这将对未来的制造业造成巨大损害。 即使它不生产杀手机器人。 我相信合并是几百年后的事，但这不是重点。 即使只有 XNUMX 年的时间，自动推进机器在失去控制的简单算法上运行，这种情况已经发生在车间。 其中一些机器已有 XNUMX 年的历史，并在旧的专有控制系统上运行。 他们的主要挑战不是他们先进，而是相反。 他们太简单了，无法交流。 这不是明天的问题。 这是一个预先存在的问题。 我们必须睁大眼睛看它。 下次你穿上橡胶靴时想想这个。

我仍然拥有 1980 年代的诺基亚靴子。 他们有一个洞，但我保留他们以提醒自己我来自哪里以及我走了多远。 雨也一直在下，只要它足够干净，我不想要比那些靴子更好的解决方法。 再说一次，我是人。 一个机器人可能已经继续前进了。 什么是AI版本的雨靴，我想知道。 它不是手机。 它不是雨量传感器。 它令人难以置信。

今天的数字靴子意味着您可以个性化它们，因为它们上面有 3D 打印设计。 有些虚拟鞋仅作为 NFT（不可替代代币）存在，可以出售和交易。 如今，顶级虚拟运动鞋价值 10,000 美元（见 什么是 NFT 运动鞋，为什么它值 10,000 美元？）。 我不害怕那些，但我应该害怕吗？ 如果虚拟世界变得比物理世界更有价值，也许我会。 还是我应该等到 AI 自己的化身购买自己的 NFT 靴子来应对“雨”时才担心？ 如果我们按照自己的形象构建算法，那么人工智能更有可能擅长我们希望我们擅长但通常不擅长的事情，例如购买股票、建立忠诚的友谊（可能与机器和人类）以及记住事物。 工业虚拟世界可能非常复杂——充满了模仿我们世界并以富有成效的方式超越它的数字双胞胎——或者它可能非常简单。 也许两者兼而有之。 我们只是还不知道。

我们需要规范人工智能算法，因为我们不知道即将发生什么。 理由很充分，但至于我们如何做到这一点，那就是一个更长的故事了。 请允许我再快速观察一下，也许所有基本算法都应该公开。 原因是，如果不是，就无法知道它们可能会导致什么。 顶级的都是众所周知的（见 十大机器学习算法)，但没有关于它们将在何处以及如何使用的全球概览。 尤其是应该仔细观察的无监督算法（参见 制造业中机器学习的六个强大用例)，无论它们是用于预测维护或质量、模拟生产环境（例如数字双胞胎）还是生成人类永远不会想到的新设计。 在当今的环境中，这些无监督算法通常是所谓的人工神经网络，试图模仿人脑。

我开始担心神经网络，只是因为我发现它们的逻辑很难理解。 问题是大多数专家，即使是那些部署它们的专家，也不理解这些算法是如何一步一步地或一层一层地移动的。 我不认为经常使用的“隐藏层”的比喻非常贴切或非常有趣。 首先，在制造业、自动化税收征收、招聘决策或大学招生中不应该有隐藏层。 也许你也应该考虑担心？ 有一件事是肯定的，人类和机器一起制造东西将改变世界。 它已经有，很多次了。 从纸到雨靴，再到当今人工大脑的层层，没有什么是未探索的。 我们不应该隐瞒一个简单的事实，即从许多小的变化中，可能会突然出现更大的变化。