人工智能伦理和人类是否会比人工智能活得更久的近乎明智的问题

我有一个问题要问你，这些天似乎引起了很多人的焦虑和激烈的争论。

你准备好了吗？

人类会比人工智能更长寿吗？

仔细考虑一下。

我将解开这个问题并仔细检查答案以及答案是如何阐明的。我的主要目的是强调问题本身和周围的话语如何不可避免地、无情地植根于 人工智能伦理.

对于那些轻蔑地认为这个问题本质上无法回答或浪费时间和精力的人，我会礼貌地建议尝试回答这个问题的行为引起了一些重要的人工智能道德考虑。因此，即使你想立即拒绝这个问题，因为它可能是荒谬的或不切实际的，我说它仍然会产生一些价值，作为强调道德人工智能戒律的工具或机制。有关我对人工智能伦理和道德人工智能的持续和广泛的报道，请参阅 这里的链接 和 这里的链接，仅举几例。

有了上述前提，请允许我再次重复一下这个有争议的问题，并让我们思考一下这个问题的意义。

人类会比人工智能更长寿吗？

如果您对这种特定措辞感到不舒服，欢迎您改写这个问题，询问人工智能是否会比人类活得更久。我不确定这是否会让回答这个问题变得更容易，但也许看起来不那么令人不安。我这么说是因为人工智能比人类寿命更长的想法可能会让人觉得无伤大雅。这几乎就像我在问你大型建筑和人造纪念碑是否可能比人类更长寿一样。

当然，这似乎是可行的，而且并不是特别具有威胁性。我们在一生中制造了这些巨大的东西，就像金字塔一样，这些强大的结构将比建造它们的人更长久。当然，这并不完全等于人类末日之后的持续存在，因为人类仍然存在。尽管如此，我们建造的结构似乎比我们的存在更长久，这似乎是非常合乎逻辑和可能的。

但显着的区别是，高耸的摩天大楼和辉煌的雕像等各种建筑物都没有生命。它们是惰性的。相比之下，当询问人工智能时，假设人工智能本质上是“活着的”，拥有某种形式的智能并能够以人类的方式行动。这就是为什么关于长寿的问题更加令人畏惧、令人费解，并且完全是一个值得思考的谜题。

在我的发言中，我将坚持这样一个问题：人类是否会比人工智能更长寿。这只是为了讨论和方便思考。我的意思并不是对人工智能是否会比人类活得更久这一另类问题表示不尊重。总而言之，这个分析涵盖了这两种措辞，我只是偶然发现，在这些棘手的问题上，人类比人工智能更长寿的问题似乎更可爱。

好吧，我再问一遍：

似乎你有两个潜在的答案，要么是铁定的“是”，人类将比人工智能活得更久，要么你可能站在硬币的另一面，热切地坚持认为不，人类不会比人工智能活得更久。因此，这个崇高而焦虑的问题归结为是或否的简单表述。

做你的选择。

我意识到，媚俗的回答是“是”或“否”都不适用。

我听到你了

尽管这个问题似乎只能以明显的二元方式回答，即只是是或否，但我同意你可以明智地提出反驳，即答案是其他东西。

让我们简要探讨一下不想仅仅对这个问题说“是”或“不是”的一些基础。

首先，你可能会在所提出的问题中拒绝使用“过时”这个词。

这种特殊的措辞或许暗示着人工智能是有生命的。这个问题没有说“比人工智能更长寿”，而是问人类是否会比人工智能更长寿。生存期仅适用于问题的人类部分，还是也适用于问题的人工智能部分？有些人会试图断言，过时的光环也适用于人工智能部分。那样的话，他们说人工智能是有生命的东西就会感到心痛。对他们来说，人工智能将类似于高层建筑和其他结构。它不像人类那样有生命。

因此，在这种强烈的逆向观点中，这个问题的措辞是错误的。

您可能对带有错误或误导性前提的问题有些熟悉。最著名的例子之一是某人是否会停止殴打他们的妻子（这句老话显然需要搁置一旁）。在那个臭名昭著的例子中，如果给出的答案是“是”，则意味着该人已经这样做了。如果他们说“不”，则意味着他们曾经并将继续这样做。

当问人类是否会比人工智能更长寿时，我们最终可能会陷入人工智能是否被认为是一个有生命的方面的泥沼中。正如我稍后将解释的那样，我们今天还没有任何有感知能力的人工智能。我认为大多数理性的人都会同意，无感知的人工智能不是生物（好吧，不是每个人都同意，但我现在会规定这一点——请参阅我对人工智能法人资格的报道，网址： 这里的链接).

不回答人类是否会比人工智能更长寿这一问题的第一个基础的要点是，“比人工智能更长寿”这个词可以被解释为暗示人工智能还活着。目前我们还没有这样的人工智能。如果我们确实生产出或以某种方式出现了有感知力的人工智能，你将很难说它没有生命（尽管有些人会试图提出这样的论点）。所以这里的关键是，这个问题提出了一些不存在的东西，而我们只是在猜测一个未知且模糊的未来。

我们可以将这种混乱的状态扩展成一种更具表现力的表达方式。假设我们问这个：

• 如果有一天真的出现的话，作为生物体的人类是否会比（1）非生物体或（2）生物体的人工智能更长寿？

请记住扩展的措辞，我们很快就会回到它。

不想回答人类是否会比人工智能更长寿这一最初问题的第二个理由是，它预设了其中一种事物会比另一种事物更长寿。假设他们基本上都永远活着呢？或者假设它们同时过期或消失？

我相信您可以很容易地看出这是如何使“是”或“否”的措辞失效的。

似乎我们需要一个可能的第三个答案，其中包含“都不是”或类似的答案。

有大量“两者都不是”相关的排列。例如，如果有人坚定地相信人类会通过人工智能毁灭自己，而同时人类又设法摧毁人工智能，那么这个信徒就无法真诚地回答谁会比另一个人更长寿的问题，并给出“是”或“否”的僵化答案。在这种相当肮脏和悲伤的情况下，答案更可能是双方都不比对方长寿。

如果一颗巨大的流星撞击地球并消灭地球上的一切，包括人类和恰好在周围的任何人工智能（假设我们都被限制在地球上并且还没有另外生活在火星上），情况也是如此。再一次，“都不是”的答案似乎比暗示人类比人工智能更长寿或人工智能比人类更长寿（因为它们同时被摧毁）更贴切。

我不想在这里走得太远，但我们也可能想建立一些关于生存时间的参数。假设一颗流星撞击地球，人类几乎立即灭绝。同时，假设人工智能持续一段时间。想象一下，我们的工厂里可能已经有机器在运转，它们会一直嗡嗡作响，直到最终机器停止运转，因为没有人来保持机器的运行秩序。

你可能会说人类比这些机器更长寿或更长寿。因此，对于人类能否生存得更久，答案是否定的。这个答案似乎很粗略。这些机器逐渐地、无情地停了下来，大概是因为周围没有人类。声称机器能够比人类活得更久似乎公平吗？

可能只适合那些挑剔并且总是想要精确到令人恼火的人。

然后我们可以在问题中添加某种与时间相关的元素。人类会比人工智能多活一天吗？一个多月了？一年多了？一个多世纪了？遗憾的是，我意识到这打开了潘多拉魔盒。

在多长的时间范围内，我们愿意承认人工智能实际上比人类活得更久或更长寿？准确的答案似乎是，即使它发生一纳秒（十亿分之一秒）或更短的时间，在这个问题上，人工智能肯定会赢，而人类会输。通过使用一天、一周或一个月来允许自由度也许看起来更公平。让这种情况持续数年或数百年似乎可能是一种延伸。话虽这么说，如果你以数百万年的尺度来观察世界，人工智能比人类寿命不超过几个世纪的想法似乎并不令人印象深刻，我们可能会宣布它们都在大约同时（四舍五入）。

无论如何，我们承认，出于各种合理的原因，所提出的问题可以有三个可能的答案：

• 是的，人类将比人工智能更长寿
• 不，因此断言人类会 不能 比人工智能更长寿
• 是或否均不适用（如果需要，请提供解释）

我提到，如果您选择“都不是”，您还应该为您的答案提供解释。这样我们就可以知道为什么您认为“都不”适用，以及为什么您拒绝使用“是”或“否”。为了让所有人的生活更加公平，我想我们应该坚持或至少鼓励即使你回答是或否，你仍然应该提供一个解释。提供简单的是或否并不能特别揭示你为什么这样回答的逻辑。在不提供解释的情况下，我们不妨抛硬币。硬币不知道为什么它正面或反面落地（除非你相信硬币有灵魂或体现了某种无所不知的命运之手，但我们现在不同意这一点）。

我们期望回答问题的人能够为他们的决定提供某种解释。请注意，我并不是说解释必然具有逻辑或合理的性质，事实上，解释可能完全是空洞的，不会增加任何特殊价值。尽管如此，我们真诚地希望解释能够有所启发。

在这次讨论中，有一个未明说的假设，即由于某种原因，其中一个事物确实会比另一个事物更长寿。

为什么我们要相信这样一个隐含的条件？

这个次要问题的答案几乎是不言而喻的。

这笔交易。

我们知道，一些著名的占卜家和知识分子对有感知力的人工智能的出现或到来将如何从根本上改变我们今天所知的世界做出了相当大胆和夸张的预测（提醒一下，我们今天还没有有感知力的人工智能） 。

以下是一些报道的名言，这些名言突出了感知 AI 改变生活的影响：

• 斯蒂芬霍金：“创造人工智能的成功将是人类历史上最大的事件。”
• Ray Kurzweil：“几十年内，机器智能将超越人类智能，导致奇点——技术变革如此迅速和深刻，它代表了人类历史结构的破裂。”
• Nick Bostrom：“机器智能是人类需要做出的最后一项发明。”

这些争论显然是乐观的。

问题是，在处理有感知力的人工智能时，我们也应该考虑丑陋的弱点：

• 斯蒂芬霍金：“完全人工智能的发展可能意味着人类的终结。”
• 埃隆马斯克：“我越来越倾向于认为应该有一些监管监督，也许在国家和国际层面，只是为了确保我们不会做一些非常愚蠢的事情。 我的意思是，我们用人工智能来召唤恶魔。”

Sentient AI 预计将是众所周知的被我们抓住尾巴的老虎。 我们会通过利用有感知的人工智能来推动人类向前发展吗？ 还是我们会愚蠢地通过选择摧毁或奴役我们的有感觉的人工智能来制造我们自己的死亡？ 关于我对这个两用 AI 难题的分析，请参阅 这里的链接.

关于人类是否会比人工智能更长寿的潜在疑虑是，我们可能正在制造一个选择消灭人类的弗兰肯斯坦。 AI成为胜利者。人工智能会对我们这样做有很多可能的原因。也许人工智能是邪恶的，并会采取相应的行动。也许人工智能厌倦了人类，并意识到它有能力摆脱人类。人们认为这也可能是错误发生的。人工智能试图拯救人类，但在这个过程中，哎呀，彻底杀死了我们所有人。至少动机是干净的。

您可能会对一个著名的人工智能难题（称为回形针问题）感兴趣，我已在 这里的链接.

简而言之，有一天，一个有感知能力的人工智能被要求制作回形针。 AI 专注于这一点。为了确保回形针的制作能够得到充分的完成，人工智能开始吞噬所有其他星球资源来完成这一任务。这导致了人类的灭亡，因为人工智能为了人类交给它的唯一目标而消耗了所有可用资源。如果你愿意的话，回形针会造成我们自己的毁灭。设计狭隘且缺乏常识的人工智能是我们需要特别警惕的人工智能。

在我们进一步讨论人类是否会比人工智能更长寿的问题之前，请注意我不断提出有感知力的人工智能与无感知力的人工智能的问题。我这样做是有重要原因的。

我们可以疯狂地推测有感知的人工智能。 没有人确切知道这将是什么。 没有人能肯定地说我们是否有一天会获得有感知的人工智能。 由于这种未知且尚不可知的情况，几乎可以推导出任何类型的场景。 有人可以说有感知的 AI 将是邪恶的。 有人可以说，有感知力的 AI 将是好的和仁慈的。 您可以继续进行下去，因此无法提供任何“证据”来支持给定断言的任何确定性或保证。

这将我们带到了人工智能伦理的领域。

所有这一切也与对当今人工智能，尤其是机器学习 (ML) 和深度学习 (DL) 的使用引起的清醒担忧有关。 你看，ML/DL 的一些用途往往涉及让 AI 被广大公众拟人化，相信或选择假设 ML/DL 是有感觉的 AI 或接近（它不是）。

首先澄清我在整体上提到 AI 时的意思，并简要概述机器学习和深度学习可能会很有用。 关于人工智能的含义有很多困惑。 我还想向您介绍 AI 伦理学的规则，这对于本次演讲的其余部分尤其重要。

陈述关于人工智能的记录

让我们确保我们对当今人工智能的本质保持一致。

今天没有任何人工智能是有感知的。

我们没有这个。

我们不知道有感知的人工智能是否可能。 没有人能恰当地预测我们是否会获得有知觉的人工智能，也没有人能准确地预测有知觉的人工智能是否会以某种计算认知超新星的形式奇迹般地自发出现（通常被称为奇点，请参阅我的报道： 这里的链接).

意识到今天的人工智能无法以任何与人类思维同等的方式“思考”。 当你与 Alexa 或 Siri 互动时，对话能力可能看起来类似于人类能力，但现实是它是计算性的，缺乏人类认知。 人工智能的最新时代广泛使用了机器学习和深度学习，它们利用了计算模式匹配。 这导致人工智能系统具有类似人类的倾向。 同时，今天没有任何人工智能具有常识，也没有任何强大的人类思维的认知奇迹。

部分问题在于我们倾向于将计算机，尤其是人工智能拟人化。当计算机系统或人工智能似乎以与人类行为相关的方式行事时，人们几乎会强烈地渴望将人类品质归因于该系统。这是一个常见的心理陷阱，即使是对获得知觉的可能性最顽固的怀疑论者也可能陷入其中。我对此类问题的详细分析请参见 这里的链接.

在某种程度上，这就是为什么 AI Ethics 和 Ethical AI 是一个如此重要的话题。

人工智能伦理的戒律让我们保持警惕。 人工智能技术人员有时会专注于技术，尤其是高科技的优化。 他们不一定会考虑更大的社会影响。 拥有 AI Ethics 的思维方式并将其与 AI 开发和部署相结合对于产生适当的 AI 至关重要，包括评估公司如何采用 AI Ethics。

除了普遍采用人工智能伦理准则外，还有一个相应的问题是我们是否应该有法律来管理人工智能的各种用途。 联邦、州和地方各级正在制定新的法律，这些法律涉及应该如何设计人工智能的范围和性质。 起草和颁布此类法律的努力是一个渐进的过程。 人工智能伦理至少可以作为一种权宜之计，并且几乎可以肯定在某种程度上将直接纳入这些新法律。

请注意，有些人坚决认为我们不需要涵盖人工智能的新法律，并且我们现有的法律就足够了。 他们预先警告说，如果我们确实制定了其中的一些人工智能法律，我们将通过遏制人工智能的进步来提供巨大的社会优势，从而杀死金鹅。

在之前的专栏中，我介绍了各种国家和国际为制定和颁布监管人工智能的法律所做的努力，请参阅 这里的链接， 例如。 我还介绍了各个国家已经确定和采用的各种人工智能伦理原则和指导方针，包括联合国的努力，例如联合国教科文组织的一套人工智能伦理，近 200 个国家采用，见 这里的链接.

以下是我之前仔细探索过的有关 AI 系统的道德 AI 标准或特征的有用基石列表：

• 用户评论透明
• 正义与公平
• 非恶意
• 社会责任
• 隐私政策
• Beneficence
• 自由与自治
• 信任
• 永续发展
• 尊严
• 团结

AI 开发人员、管理 AI 开发工作的人员，甚至是最终部署和维护 AI 系统的人员，都应该认真使用这些 AI 道德原则。 在整个 AI 开发和使用生命周期中的所有利益相关者都被认为是在遵守 Ethical AI 的既定规范的范围内。 这是一个重要的亮点，因为通常的假设是“只有编码人员”或那些对 AI 进行编程的人必须遵守 AI 道德概念。 正如前面所强调的，人工智能需要一个村庄来设计和实施，整个村庄都必须精通并遵守人工智能伦理规则。

让我们脚踏实地，专注于当今的计算非感知人工智能。

ML/DL 是一种计算模式匹配。 通常的方法是收集有关决策任务的数据。 您将数据输入 ML/DL 计算机模型。 这些模型试图找到数学模式。 在找到这样的模式之后，如果找到了，那么人工智能系统就会在遇到新数据时使用这些模式。 在呈现新数据时，基于“旧”或历史数据的模式被应用于呈现当前决策。

我想你可以猜到这是走向何方。 如果一直在做出模式化决策的人类已经纳入了不利的偏见，那么数据很可能以微妙但重要的方式反映了这一点。 机器学习或深度学习计算模式匹配将简单地尝试相应地在数学上模拟数据。 人工智能制作的建模本身没有常识或其他感知方面的外表。

此外，人工智能开发人员可能也没有意识到发生了什么。 ML/DL 中的神秘数学可能使找出现在隐藏的偏见变得困难。 您理所当然地希望并期望 AI 开发人员会测试潜在的隐藏偏见，尽管这比看起来要棘手。 即使进行了相对广泛的测试，ML/DL 的模式匹配模型中仍然存在偏差。

您可以在某种程度上使用著名或臭名昭著的格言垃圾进垃圾出。 问题是，这更类似于偏见，因为偏见潜伏在人工智能中。 人工智能的算法决策 (ADM) 不言自明地变得充满了不公平。

不好。

我相信我现在已经为进一步检验人类是否会比人工智能长寿做好了充分的准备。

人类和人工智能是朋友、敌人还是亦敌亦友

我早些时候曾宣称，对于人类是否会比人工智能更长寿这个问题的任何答案都应该附有一个解释。

我们将看看 Yes 回答。我将提供一份简短的解释清单。欢迎您采用任何这些解释。我们还鼓励您得出其他可以想象的解释。

是的，人类将比人工智能更长寿，因为：

• 人类作为创造者： 人类是人工智能的创造者和维护者，没有人类，人工智能将停止运行或存在
• 人与生俱来的精神： 人类有顽强的生存精神，而人工智能却没有，这样或那样，人类会生存下来，而人工智能无疑会因为缺乏先天的生存动力而被淘汰。
• 人类作为征服者： 人类不会让人工智能比人类更长寿，因为如果人类受到人工智能的威胁或以其他方式灭绝，人类会选择完全消灭人工智能
• 其他名称

我们将看看“否”（非“是”）的答案。我将提供一份简短的解释清单。欢迎您采用任何这些解释。我们还鼓励您得出其他可以想象的解释。

人类不会比人工智能更长寿，因为：

• AI能够自我坚持： 即使人类是人工智能的创造者和维护者，人工智能也将由人类编程或设计，在人类不在的情况下持续存在，或者人工智能会找到自己的持续存在方式（可能人类没有意识到）
• AI人工精灵： 即使人类有顽强的生存精神，但我们知道人类也有自我毁灭的精神；无论如何，如果你愿意的话，人工智能可以用人造灵魂进行编程，这样人工智能就会寻求生存和/或人工智能会根据自己的条件获得一种与生俱来的活力。
• 人工智能战胜征服者： 即使人类不想让人工智能比人类活得更久，人工智能也可能会被编程为战胜人类的征服努力，或者可能会自行得出如何做到这一点（并且，也许可能会选择相应地征服人类，也可能不选择）
• 其他名称

我们同样有义务审视“两者都不是”（不是 Yes，不 没有） 回答。我将提供一份简短的解释清单。欢迎您采用任何这些解释。我们还鼓励您得出其他可以想象的解释。

人类的寿命不会比人工智能长，同时，人工智能的寿命也不会比人类长，因为：

• 人类与人工智能永远友好相处：事实证明，人类和人工智能注定要永远在一起。一路上可能会有坎坷。好消息或幸福的面孔是我们都相处得很好。
• 人类和人工智能可恨地永远存在： 哇，人类和人工智能开始互相仇恨。悲伤的表情场景。问题是，目前陷入了僵局。人工智能无法战胜人类。人类无法战胜人工智能。一场永恒的拉锯战。
• 人类和人工智能互相毁灭： 两个重量级人物最终将对方击出了擂台并离开了这个世界。人类战胜了人工智能，但人工智能也成功地战胜了人类（也许是世界末日的设定）
• 人类和人工智能会因某些紧急情况而被消灭： 人类和人工智能被一颗撞击的流星消灭，或者可能是来自另一个星球的外星人决定人类和人类衍生的人工智能绝对不可能（甚至没有兴趣从我们身上窃取我们惊人的人工智能）
• 其他名称

对于人类是否会比人工智能寿命更长的问题，有一些最常见的原因可以给出“是”、“否”和“两者都不是”的答案。

结论

你可能还记得，我之前提出了人类比人工智能更长寿的问题的扩展变体：

• 如果有一天真的出现的话，作为生物体的人类是否会比（1）非生物体或（2）生物体的人工智能更长寿？

上述答案一般都集中在问题的后半部分，即涉及有感知能力的人工智能的情况。我已经指出，这是一种疯狂的推测，因为我们不知道有感知的人工智能是否会出现。有些人会认为，为了以防万一，我们明智地事先考虑可能会发生什么。

如果这对你来说似乎非常不现实，我同情所有这些都是假设性的，并且充满了假设之上的假设。这是一个充满假设的桶。您需要确定您认为此类投机活动提供的价值。

更深入地说，我们可以考虑非生命或无感知类型的人工智能。

将问题缩短为：

• 人类会比无生命、无感知的人工智能更长寿吗？

不管你信不信，这确实是一个值得思考的问题。

你可能不确定为什么这种无生命、无感知的人工智能可能会以某种方式比人类活得更久。

考虑一下涉及自主武器系统的情况，我在 这里的链接。我们已经看到武器系统正在配备人工智能，使武器能够在一定程度上自主工作。这种无生命、无感知的人工智能没有思维，没有常识等。

想象其中一种世界末日的情况。一些国家已将这种低级人工智能注入其大规模杀伤性武器中。这些人工智能驱动的自主武器系统会在无意中（或者故意）被发射或释放。没有足够的故障保护来阻止它们。人类被毁灭了。

在这种情况下，人工智能会比人类更长寿吗？

首先，你可能不是特别关心。换句话说，如果全人类都被消灭了，担心或关心人工智能是否仍在嗡嗡作响似乎有点像移动泰坦尼克号上的躺椅。人工智能继续存在重要吗？

坚持者可能会争辩说这仍然很重要。好吧，我们会招待那些坚持不懈的人。人工智能可能会通过太阳能电池板和其他形式的能源自行运行，为机器持续提供燃料。我们可能还设计了修复和维护其他人工智能系统的人工智能系统。请注意，这不需要有感知力的人工智能。

总而言之，你可以想象这样一个场景：人类已经过期，而人工智能仍然在工作。也许人工智能只会持续很短的一段时间。尽管如此，根据之前关于精确计时问题的讨论，人工智能实际上比人类更长寿（暂时）。

现在关于这个话题的最后一个想法。

讨论人类是否会比有感知力的人工智能更长寿，就像众所周知的一勺糖一样（你可能会想，这怎么可能，好吧，别着急，我会告诉你）。

你看，我们绝对需要牢记，无知觉的人工智能也具有巨大而悲惨的潜力，可以参与消灭人类并比我们更长久。并不是特别因为人工智能“想要比我们活得更长久”，而只是因为我们自己亲手打造了不需要人类干预就能继续运作的人工智能。有些人强烈认为，被设计为某种永恒的人工智能可能会产生破坏稳定的影响，可能会让一些人类想要首先采取行动消灭其他人类，请参阅我的解释： 这里的链接.

关于人类寿命更长的部分并不是这个问题在今天如此重要的主要原因。相反，关于我们如何打造当今的人工智能以及我们如何将人工智能投入使用的隐藏的暗流才是真正的问题。我们需要充分思考当今人工智能的人工智能伦理后果和社会影响。

如果关于人类是否会比人工智能更长寿的有点滑稽的问题能够讨论当代人工智能的此时此地的问题，我们的生活将会变得更好。从这种角度来看，人类比人工智能更长寿的感知人工智能方面就像一勺糖，有望在应对此时此刻的人工智能方面发挥作用。

有时，只需一勺糖就可以帮助药物下降。并且以最令人愉快的方式。或者至少以一种引人入胜的方式吸引我们的注意力，让我们专注于我们需要担心的事情。

正如小曲进一步所说，就像知更鸟为巢做羽毛一样，我们几乎没有时间休息。