人工智能伦理和广受赞誉的人工智能恐怖谷，这也让基于人工智能的自动驾驶汽车感到不安

有时有些奇怪的事情会引起你的注意并让你的直觉产生动力，但不知何故有些不对劲。 奇怪不是明目张胆，一点也不在你的脸上公然。 您甚至可能无法立即指出不协调是什么，或者您众所周知的蜘蛛感是如何刺痛的。

也许微妙的迹象线索正在被感知。 也许你碰巧在你的直觉中意识到存在不和谐。 我想你可以说，只有最轻微的低调诡异的暗示，而你精致的人类雷达正在接收其他看似隐藏的信号。

欢迎来到神秘谷。

如果你从来没有听说过恐怖谷，这是一个在人工智能领域，尤其是机器人领域相对流行的话题，你会得到一些享受，因为这是我将在这里密切讨论和分析的主题。

总体概念可以适用于我们在生活中经历的许多事情，尽管关键原则和原始定义需要人工智能系统和机器人。 我们将首先探索恐怖谷的起源和最初的含义，然后进行扩展，看看这些现象似乎如何适用于更大的环境。

我还可以补充一点，我们将考虑是否存在恐怖谷。

你看，一些怀疑论者和愤世嫉俗者认为整个事情有点恶作剧并且站不住脚。 向知情人士提出这个话题时要小心。 有些人会兴高采烈地笑着拍你的背，说你对恐怖谷非常熟悉，而另一些人会尖锐地告诉你这是大杂烩，你需要用一块精神清洁肥皂泡沫立即清理你的头脑.

这里的好消息是，你可以决定这个恐怖谷是否真实，以及它是否有用于正念应用的优点，或者是否应该毫不客气地扔到技术理念垃圾堆上。 从这个意义上说，你坐在驾驶座上。

所有这一切也与新兴的伦理人工智能领域密切相关，以及人们越来越意识到社会必须认真而清醒地关注人工智能的伦理。 我们马上就打成平手。

最好的起点是直接引用提出恐怖谷概念并直截了当地命名这一现象的教授。 1970 年，东京工业大学的 Masahiro Mori 教授在一个不太知名的期刊上发表了一篇相当小众的文章，名为 新能源 （本身并不是人工智能和机器人技术的温床），并说：

“我注意到，在朝着让机器人看起来像人的目标的过程中，我们对它们的亲和力越来越强，直到我们来到一个山谷，我称之为恐怖山谷。”

请注意，上述措辞以英文显示，尽管原始论文是日文。 英文翻译版本由作者监督，后来发表在 IEEE Spectrum杂志 2012 年，并归功于 Masahiro Mori 作为作者。 你可以自己阅读这篇论文，因为它是在网上公开免费提供的。 它绝对是十分钟左右的快速阅读，并且不包含任何技术人员繁重的术语。

话虽如此，如此轻快的文章发表于 1970 年，最终开启了整个研究领域并展开了无数相关的研究、项目、研究，并有时引发关于是否引入恐怖谷的概念确实存在。 我想这表明，有趣且有时会改变观点的想法不必过于复杂或充满行话和崇高。 一个简洁的想法似乎并不比表面上看起来更强大。

我相信这会鼓励你尝试和培养你的新想法，这样做是因为意识到甜蜜和简单可以与复杂和复杂一样宏伟，有时甚至更重要。

让我们回到恐怖谷的启发。

你遇到了一个机器人系统，它的脸类似于人脸。 想象一下，这个机器人脸是经过无数次迭代设计出来的。 组装机器人头部的人工智能开发人员一直在努力使机器人面部部分看起来越来越像真实的人脸。

他们的第一次尝试非常原始。 机器人的脸和你在科幻电影中看到的一样，完全是金属的，展示了齿轮和电线。 当您凝视这个装置时，您会立即知道它是一个机器人。 你对此毫无疑问。

人工智能开发人员的下一次尝试涉及在金属件周围包裹一些塑料材料。 虽然这看起来更友好一些，但你仍然可以立即知道它是一个机器人头和一个机器人脸。 同样，易于检测。

那些 AI 开发人员决心保持这种状态。 他们雕刻塑料并赋予其肤色。 它们添加了看起来与人脸非常相似的特征，例如痣、头发、瑕疵等。

乍一看，您可能会认为这是一张人脸。 如果拍摄了一张机器人脸的照片，并且要求您确定这张照片描绘的是人还是机器人脸，您可能会难以立即说出它是哪一张。 另一方面，如果您站在设备旁边，您很可能在仔细检查后能够辨别出它不是人类，而是机器人装置。

问题是，在你有机会进行近距离观察之前，脸上的某些东西似乎并没有完全叠加起来。 它看起来确实像一张人脸。 但是有些不对劲。 你必须一遍又一遍地专注地盯着看，才能发现看起来不太对劲的地方。 也许这是一张真实的脸。 再说一次，也许不是。 你的头脑相应地翻腾。

一种诡异的感觉进入你的脑海。

当你看到早期的两个版本时，你并没有那种诡异的外表。 您可以毫不犹豫地检测到机器人是机器人。 只有一个孩子可能会被愚弄，相信这些版本中的任何一个都是真实的人。

这个最新版本虽然不同。 它还没有完善到看起来像人脸。 也不是离真实的东西那么远，很明显它一定是一个机器人。 已经到了一种泥泞的地步。

假设开发人员进一步推进了他们的研究工作并调整了一切，以使机器人面部几乎无法与人脸区分开来。 不管你盯着那东西看多久，你都不确定它是不是人。 当得知这是机器人脸时，您会大吃一惊。 天哪，他们在使它看起来真实方面做得很好。

请注意，到目前为止，您只考虑了仅基于外观的机器人方面。

我们可以在方程中加入运动。 这为您增加了一个额外的维度来辨别机器人是机器人还是人类。 我不想在本次讨论中将其完全视为多维问题，因为它使对该主题的说明更加复杂（尽管多维不可避免地交织在一起）。 无论如何，想象一下你不仅看到了机器人的脸，还可以看到机器人移动面部特征，比如嘴巴、眼睛、鼻子等。显然，这些也可能是关于这是否是一个机器人或人类。

保持在恐怖谷最前沿的一个重要方面是原始概念强调人类亲和力的行为。 声称的现象是，当您看到机器人面孔逐渐改进时，您的亲和力正在增加，直到出现不可思议的变体。 在那一刻，据说你的亲和力急剧下降，跌入亲和力鸿沟或山谷。

对于使您怀疑有问题的特定版本，据称您的亲和力已急剧下降。 此外，根据理论，一旦你遇到更高级的版本，几乎与真正的人类形式相同，你的亲和力会猛增。

这里有更多关于作者所说的关于我们通常倾向于假设生活的各个方面正在平稳增长的内容：“数学术语 单调递增函数 描述了函数的关系 y = f(x) 随着变量不断增加 x. 例如，作为努力 x 成长，收入 y 增加，或者随着汽车的加速器被按下，汽车移动得更快。 这种关系无处不在，很容易理解。 事实上，由于这种单调递增的函数涵盖了日常生活中的大部分现象，人们可能会误以为它们代表了所有的关系。 另一个证明这种错误印象的事实是，许多人在生活中挣扎，坚持不懈地推动，却不了解退缩的有效性。 这就是为什么人们在面对这个函数不能代表的一些现象时通常会感到困惑。” 这是每引用 IEEE Spectrum杂志 翻译论文。

当我们遇到问题时，这种几乎普遍的关于总是增加的假设可能会被推翻。 这种诡异和怀疑会导致亲和力相对突然和戏剧性的下降，理论认为，比如你选择摇动的机械手，却感觉不到人手的骨性特征：“当这种情况发生时，我们就会失去知觉亲和，手变得诡异。 用数学术语来说，这可以用负值表示。”

如果你接受有这种恐怖谷现象的前提，我相信你会想知道恐怖谷显然存在对你有什么好处。

这是历史上最经典的“那又怎样？” 实用性测试。

事实证明，对于我们应该或可以对恐怖谷做些什么，很多人提出了很多解释。 有很多意见。 我将很快解决其中的一些问题。

与此同时，Masahiro Mori 提供了以下内容：“我们希望设计和制造不会掉入恐怖谷的机器人和假手。 因此，由于试图增加他们的人类相似度以扩展第二个峰值所固有的风险，我建议设计师改为将第一个峰值作为他们的目标，这会导致适度的人类相似度和相当大的亲和力。 . 事实上，我预测有可能通过刻意追求非人类设计来创造安全水平的亲和力。 我要求设计师思考这个问题。”

我快速总结了十二条方便的规则，关于如何处理恐怖谷，特别是对于 AI 开发人员来说是这样的：

1）注意恐怖谷并相应地保持警惕

2）你可能想尽可能地获得人类对你的人工智能的亲和力

3) 如果你的 AI 掉入恐怖谷，请做好失去人类亲和力的准备

4）通过设计你的人工智能来避免恐怖谷

5) 有一个远离恐怖谷的目标是可敬的

6）侧身到恐怖谷的边缘，但不要掉下悬崖

7）不要执着于超越恐怖谷

8）你有机会跳过恐怖谷

9）不要全神贯注于跳跃，因为无论如何你都可能掉进山谷

10) 毫无疑问，通过恐怖谷可以达到最大的人类亲和力

11）尽管如此，在恐怖谷之前发现了足够和合适的亲和力

12) 时刻注意恐怖谷，不要让它溜走你的脑海

这十几个都是普遍的戒律，可以被认为是了解恐怖谷的基石或锚点。 我会马上承认，在这几十个中没有列出的其他点可能被认为同样重要。 我也将欣然承认，对于所确定的每一点都必然存在分歧，并且可能会针对所提出的每一点进行长时间的激烈辩论。

更重要的是，有些人会说这十二点完全是垃圾，因为它们首先是基于虚假的。 他们会争辩说，没有恐怖谷这样的东西。 这一切都只是诡计和虚构的装置，仅能吸引弱者的心灵（哎呀，真痛！）。 任何对神秘山谷的关注都是浪费空气，应该有人过来，在问题的核心放置一个尖锐的木制理论桩（一些研究人员已经尝试这样做）。

为了便于讨论，让我们顺其自然，假设有一个恐怖谷，并且它声称与我目前所指出的大致相符。 欢迎那些不同意恐怖谷概念化的人来分区或继续阅读，他们咬紧牙关，他们的智力愤怒正在酝酿和沸腾（对此感到抱歉）。

以下是道德 AI 以及设计和部署道德 AI 的重点如何发挥作用。 顺便说一句，对于我对 AI 伦理的持续深入探索，请参阅我的讨论 这里这个链接 和 这里这个链接，仅举几例。

对于那些进入 Ethical AI 的人来说，恐怖谷无疑是又爱又恨的事情。

首先，一些需要的背景。 与人工智能相关的最令人毛骨悚然的道德疑虑之一是，人类可能会被愚弄而相信人工智能系统是有感知的。 请注意，今天没有任何人工智能可以远程接近有知觉。 只是目前还没有发生。 尽管有持续不断的头条新闻宣称这个 AI 或 AI 要么是有感知的，要么是接近到足以被认为是这样的，但我表面上是“厚颜无耻”的断言。 说大话。 我们不在人工智能领域。

我们不知道如何到达那里。 我们不知道它是否会发生。 人工智能感知是一个值得的梦想和抱负，但不要急于求成，认为我们正处于实现它的风口浪尖。

当然，许多人强烈警告说，如果我们以某种方式设法实现人工智能感知，无论我们是有意为之还是纯属偶然，我们都将面临生存风险。 以这种思维方式，也许寻求 AI 感知并不是那么值得。 风险在于，这种有感觉的人工智能可能会决定人类不值得拥有。 我们可能会像虫子一样被压扁。 或者成为人工智能的奴隶。 这可能是因为人工智能公开选择这样做，或者人工智能可能最终成为我们自己的世界末日机器，以我们自己的无能摧毁我们。 有关我对 AI 感知或奇点的那些令人不安的结果的报道，请参阅 这里的链接.

道德 AI 的一个关键问题是 AI 的开发者和那些使用 AI 的人有时会诱使人类认为 AI 是有感知的。 AI 如何展示自己的方式，例如通过机器人公式或其对话交互性，可能会阴险地促使人们假设 AI 是有感知的。 这反过来又会导致你走上一条可能犯规的报春花之路。

如果你陷入认为人工智能系统是有知觉的心理陷阱，你很可能会依赖它来做众生会做的事情。 但是，对于当今的任何人工智能，还没有任何关于人类品质的常识。 就类人能力而言，我们目前所体验的人工智能非常脆弱和肤浅。 通过相信人工智能系统是有感知的，你可能会让自己陷入一些令人讨厌和危险的境地。

这与恐怖谷有什么联系？

这笔交易。

回想一下，恐怖谷似乎告诉我们，随着人工智能系统或机器人越来越接近类人公式，人类的亲和力将逐渐上升。 在人工智能系统接近非常接近的时刻，但仍然不完全是这样，我们有一种奇怪的感觉，觉得有些不对劲。 在那之前，我们知道人工智能不是人类。 现在我们不确定。 我们人类的亲和力下降。 只有当人工智能或机器人完全相信人类的能力时，我们才能重新获得对设备的亲和力。

有这种想法的 AI 开发人员大概会 故意地 努力让他们的人工智能远离恐怖谷，目标是在人工智能陷入恐怖深渊之前停下来（回想一下，这也是 Masahiro Mori 强调的）。 开发人员显然会这样做，确保仍然存在丰富的迹象线索，以明确表明 AI 是没有感知能力的 AI，因此不是人类或同样如此。

人工智能伦理学家通常会欢迎这种衷心的努力。

推理很简单。 那些如此见多识广和拥抱人工智能的开发人员正试图确保人工智能系统不会误导人们将类人设施错误地归于人工智能。 这无疑是个好消息。 开发人员将特意制作人工智能以防止潜入恐怖谷。 人类很容易意识到人工智能没有感知力。

试图让 AI 开发人员接受这种方法并不容易。 事实上，这可能与他们通常的直觉和雄心壮志背道而驰。

许多人声称，一般来说，人工智能开发人员和技术人员都被目标所吸引。 他们看到了一个目标，往往会一味地追求它。 没有时间停下来闻玫瑰花香。 出发去比赛，我们出发。 在人工智能领域，规范目标将是一个理想化的人工智能，与人类没有区别，因为人工智能可以在智能上平等。 但我们还没有。 因此，恐怖谷提供了一个次要目标，在原本大坝的恐怖谷之前降落，并成为一个仍然可以接受的目标。 当然，这不是金奖戒指，但想法是这个“二等奖”很好，非常感谢，你可以以此为荣。

我们已经改变了追求目标的最高野心，并将其转化为听起来合乎逻辑的合理基础，可以说是做正确的事。

欢呼！

为 AI 道德赢得胜利。

但是等一下，剧透警报，我们还需要同样考虑其他一些事情。

既然那些精明的 AI 开发人员知道了恐怖谷，他们可能会将自己的智慧和技术力量转向故意跳过深渊，但这样做时会带着一种欺骗的感觉。 让 AI 看起来完全像人类，即使开发人员知道这是不真实的。

无赖的想法是这样的。 不要让你的 AI 系统脱帽致意，让人们感受到那种难以捉摸的诡异暗流。 剔除可能给出任何暗示或线索表明人工智能不具备人类能力的方面。 这样做的同时秘密地意识到并且不可原谅地知道人工智能不具备人类的能力，而这一切都是为了向那些与人工智能交互或依赖人工智能的人隐藏这个真相。

什么鬼计划。

具有讽刺意味的是，恐怖谷可能是对 AI 开发人员的一种警钟，如果他们想真正愚弄人们，他们必须足够聪明才能逃离深渊。 他们这样做不是通过获得完整的人工智能，而是通过建立烟雾和镜子来使人工智能看起来像人类一样具有误导性。 如果 AI 开发人员没有意识到这个恐怖谷的存在，他们基本上会掉入其中。 这对人类有好处，因为人类不会过度依赖今天的人工智能质量，因此会失去对人工智能的亲和力。

可悲的是，通过知道陷阱的存在，想要绕过它的人工智能开发人员将找到非常聪明的方法来做到这一点。

对道德 AI 的戒律进行打击。

你看到这如何让人工智能伦理学家对恐怖谷产生爱恨交织的关系吗？

做就该死，不做就该死。

我意识到这是对恐怖谷的一次有点高调的考察，你可能会渴望一些日常的例子。 有一组特别的、肯定很受欢迎的例子让我很喜欢。 您会看到，以我作为人工智能专家（包括伦理和法律后果）的身份，我经常被要求找出展示人工智能伦理困境的现实例子，以便更容易掌握该主题的某种理论性质。 生动呈现这种道德 AI 困境的最令人回味的领域之一是基于 AI 的真正自动驾驶汽车的出现。 这将作为一个方便的用例或示例，用于对该主题进行充分讨论。

接下来是一个值得思考的值得注意的问题： 基于人工智能的真正自动驾驶汽车的出现是否照亮了恐怖谷的任何事情，如果是这样，这会告诉我们做什么？

请允许我花一点时间来解开这个问题。

首先，请注意，真正的自动驾驶汽车并不涉及人类驾驶员。 请记住，真正的自动驾驶汽车是通过人工智能驾驶系统驱动的。 不需要人类驾驶员来驾驶，也不需要人类来驾驶车辆。 有关我对自动驾驶汽车 (AV) 尤其是自动驾驶汽车的广泛且持续的报道，请参阅 这里的链接.

我想进一步澄清当我提到真正的自动驾驶汽车时是什么意思。

了解无人驾驶汽车的水平

需要澄清的是，真正的自动驾驶汽车是指AI完全自行驾驶汽车，并且在驾驶任务期间无需任何人工协助。

这些无人驾驶车辆被视为4级和5级（请参阅我的解释，网址为 这里这个链接)，而需要人类驾驶员共同分担驾驶工作的汽车通常被认为是第 2 级或第 3 级。共同分担驾驶任务的汽车被描述为半自动驾驶，通常包含各种称为 ADAS（高级驾驶员辅助系统）的自动附加组件。

5级还没有真正的无人驾驶汽车，我们甚至都不知道是否有可能实现这一目标，也不知道需要多长时间才能到达那里。

同时，尽管是否应允许进行这种测试本身存在争议（我们都是实验中的有生命或有生命的豚鼠），但四级努力正在通过非常狭窄和选择性的公共道路试验逐渐吸引一些关注。有人说，这发生在我们的高速公路和小路上 这里这个链接).

由于半自动驾驶汽车需要人工驾驶，因此这类汽车的采用与传统汽车的驾驶方法并无明显不同，因此，在这个主题上，它们本身并没有太多新的内容要介绍（尽管您会看到暂时，接下来提出的要点通常适用）。

对于半自动驾驶汽车，重要的是必须预先警告公众有关最近出现的令人不安的方面，即尽管有那些人类驾驶员不断发布自己在2级或3级汽车的方向盘上睡着的视频， ，我们所有人都需要避免被误导以为驾驶员在驾驶半自动驾驶汽车时可以将注意力从驾驶任务上移开。

您是车辆驾驶行为的负责方，无论可能将多少自动化投入到2级或3级。

自动驾驶汽车和恐怖谷

对于4级和5级真正的无人驾驶汽车，不会有人类驾驶员参与驾驶任务。

所有乘客均为乘客。

AI正在驾驶。

需要立即讨论的一个方面是，当今的AI驾驶系统所涉及的AI并不具有感知性。 换句话说，AI完全是基于计算机的编程和算法的集合，并且最有把握的是，它不能以与人类相同的方式进行推理。

为什么强调 AI 没有感知能力？

因为我想强调的是，在讨论AI驾驶系统的作用时，我并没有将AI的人格特质归咎于AI。 请注意，这些天来有一种持续不断的危险趋势将人类拟人化。 从本质上讲，尽管不可否认的事实是，人们至今仍在为人类的AI赋予类似人的感觉。

通过澄清，您可以设想AI驾驶系统不会以某种方式自然地“知道”驾驶的各个方面。 驾驶及其所需要的全部都需要作为自动驾驶汽车的硬件和软件的一部分进行编程。

让我们深入探讨与此主题有关的众多方面。

首先，重要的是要认识到并非所有的人工智能自动驾驶汽车都是一样的。 每家汽车制造商和自动驾驶技术公司都在采用自己的方法来设计自动驾驶汽车。 因此，很难就人工智能驾驶系统会做什么或不做什么做出全面的陈述。

此外，无论何时声明人工智能驾驶系统不做某些特定的事情，这可能会被开发人员超越，而这些开发人员实际上对计算机进行了编程来做那件事。 人工智能驾驶系统正在逐步完善和扩展。 今天现有的限制可能不再存在于系统的未来迭代或版本中。

我相信这提供了足够多的警告来支撑我将要讲述的内容。

我们现在已经准备好深入研究自动驾驶汽车和与恐怖谷相关的道德 AI 问题。

本文将涉及与此问题相关的四个方面：

一、自动驾驶汽车的整体外观

2. 自动驾驶汽车“看向”哪里的问题

3.自动驾驶汽车的AI驾驶动作

4. 驾驶机器人作为实现自动驾驶汽车的一种手段

其他方面也可行，但由于空间限制，这四个主题将足以阐明与基于人工智能的自动驾驶汽车相关的恐怖谷的方位。

一、自动驾驶汽车的整体外观

我打赌你已经看过今天自动驾驶汽车试验的图片或视频。 因此，您可能已经注意到，大多数车辆都是外观传统的汽车，配备了额外的专用设备。 例如，可能有一个包含大量电子传感器的屋顶架。 传感器有时包括摄像机、雷达单元、激光雷达设备、超声波传感器等。

未来主义的设计往往表明我们可能会放弃外观传统的汽车，转而重新设计汽车的内部和外部，使其看起来更漂亮的自动驾驶汽车。 现在，一般的想法是使用传统汽车更简单，而不是通过同时修补看起来非常规的汽车来尝试延长努力（这个一般观点有一些例外，请参阅我的报道 这里的链接).

现在的要点是，如果您在道路上行驶并遇到附近的自动驾驶汽车，您几乎总是可以通过仅注意到安装在自动驾驶汽车上的少量传感器立即识别出它可能是一辆自动驾驶汽车。 这是一个快速的视觉赠品。 当然，您不能确定它本身就是自动驾驶，因为此时驾驶控制装置通常仍然完好无损，并且可能会有一个人类后备驾驶员在驾驶。

以一种思维方式，您可以建议自动驾驶汽车在物理上看起来确实很突出，并且很容易被附近的人类驾驶汽车中的人类驾驶员以及附近的行人在视觉上发现，这一点特别方便。 意识到自动驾驶汽车正在附近漫游可能是一个方便的线索，提醒您警惕并注意人工智能正在或可能正在驾驶车辆。

假设自动驾驶汽车看起来与传统的人类驾驶汽车相同。 这至少在两个方面是切实可行的。 首先，传感器可能会被隐藏或成形，以使其对随意的目视检查不那么明显。 其次，可能包括传统的人类驾驶汽车在内的所有汽车都逐渐配备了类似的传感器，即使汽车仍将继续作为主要由人类驾驶的汽车。 请参阅我的进一步报道 这里这个链接.

如果你仔细思考自动驾驶汽车是否可以或应该在外观上与传统的人类驾驶汽车相同的考虑，你可能会想到一个不可思议的山谷可能潜伏在这道菜中。

您会看到，公然看起来像自动驾驶汽车的汽车可能被典型地描述为处于离恐怖谷不远的路口。 基本上，你“知道”它是一个机器人或机器人类系统。 这是一个你几乎可以立即跳到的判断。

当自动驾驶汽车看起来与人类驾驶汽车相同时，也许这表明自动驾驶汽车在其机器人外观方面已经跨越了恐怖谷。 在这两种外貌之间是否有中间地带让我们进入恐怖谷？

也许你在街上看到一辆自动驾驶汽车，它看起来很可能是一辆自动驾驶汽车，另一方面，它的外观既不是严格的自动驾驶外观，也不是严格的人工驾驶外观。 你可能会争辩说，自动驾驶汽车现在的外观令人毛骨悚然或令人不安。

自动驾驶汽车表面上已经沉浸在恐怖谷中。

话虽如此，并不是每个人都会同意这种分类。 有些人会声称物理外观与恐怖谷无关。 当然，有些人还断言，实际上并没有所谓的恐怖谷。

如前所述，欢迎您对此做出自己的决定。

2.自动驾驶汽车在哪里看的问题

许多人对自动驾驶汽车的一个隐约担忧是，他们通常在驾驶座上没有任何人类驾驶员，因此在驾驶汽车时很难弄清楚“驾驶员”在看哪里。

您通常会瞥一眼人类司机以窥探他们正在寻找的地方。 例如，您可能是人行横道上的行人，而汽车正在接近人行横道。 你专注地看着坐在驾驶座上的人，并试图辨别他们的头转向哪里以及他们的眼睛在看哪里。 如果您相信人类司机已经看到了您，那么您可能更愿意过马路。 相反，如果人类司机似乎没有看到你，那么你有理由担心过马路。

在一些城市，在这些方面存在一种猫捉老鼠的策略。 在一个特定的城市，一个特定的文化规范可能是，如果你与司机进行眼神交流，司机就会“获胜”，他们似乎有继续前进的权利，无论驾驶情况是否合法。 其他城市可能完全相反，即文化规范是，当进行眼神交流时，行人“获胜”，人类驾驶员应该听从行人的行为。

在汽车在我们的城市和社区中使用的相对较长的时间里，我们似乎已经采用了这种习俗。 自动驾驶汽车出现的问题在于，驾驶员座位上没有人类驾驶员，因此通常使用汽车驾驶员的头部和眼睛作为驾驶意图的文化指标的任何行人或附近的人类驾驶员现在都是运气不好。

汽车制造商和自动驾驶汽车开发商敏锐地意识到这一新兴问题。 一种提议的解决方案包括自动驾驶汽车闪烁自动驾驶汽车的前灯或可能鸣喇叭。 另一个想法是，自动驾驶汽车可能有一个扬声器的变体，并告诉附近的人人工智能驾驶系统的“意图”是什么。 这些想法都有明显的缺点。

然而，一个不同的提议需要做一些你起初可能认为荒谬的事情。 该提议包括在自动驾驶汽车的外部放置类似眼球的球体。 这些球体看起来很像人的眼睛，看起来可以来回转动，给你一个直接的指示，表明人工智能“已经看到你”（你可以通过注视你特定方向的眼球来解释这一点）。 我已经分析了这种方法 这里的链接.

如果看到一辆自动驾驶汽车从马路上驶来，并且在引擎盖或屋顶上安装了这些超大的古怪眼球，你会有什么反应？

我想你可能会觉得这很诡异，也许令人毛骨悚然。

有人会认为，这种怪异的原因是装备齐全的自动驾驶汽车在恐怖谷中。 其他人会激烈地争辩说，这与恐怖谷没有任何关系。 在这些权威人士中，有人会说，有一种怪异可以是怪异的，而不必在恐怖谷中盘踞（即，恐怖谷似乎总是产生诡异，但并非所有的怪异都是通过恐怖谷产生的）。 另一个角度是，球体可能被设计成看起来不那么眼球，看起来更像机器人，或者我们都不可避免地会接受这些球体的出现，最初的惊人反应会消退。

3. 自动驾驶汽车的人工智能驾驶行为

今天的许多自动驾驶汽车试验都表明，现有的人工智能驾驶系统往往被编程为以相当不温不火和有点严格遵守法律的方式驾驶。 人工智能驾驶系统通常会使自动驾驶汽车在停车标志处完全停止。 当交通信号即将变红时，人工智能驾驶系统不会在十字路口大胆奔跑。 这些任性的驾驶实践是人类驾驶员的领地。

从某种意义上说，你几乎可以从它所展现的驾驶风格中猜到一辆自动驾驶汽车就是一辆自动驾驶汽车。 即使自动驾驶汽车在视觉上看起来是一辆传统的人工驾驶汽车，你也可能会观察到驾驶行为，并可能从逻辑上推断它可能是由人工智能系统驱动的。

一些人认为，我们需要使人工智能驾驶系统更类似于人类驾驶员的滑稽动作，以便它们有效地融入规范的驾驶方法。 我想你可以把这理解为以火攻毒。

这样做有意义吗？

请注意，直言不讳的怀疑者和批评者厌恶这个想法。 他们会极力争辩说，我们希望人工智能驾驶系统能够正确而谨慎地驾驶。 将数百万辆自动驾驶汽车添加到道路上，这些汽车被编程为像错误的人类司机一样，这似乎是一场巨大的噩梦。 我已经讨论过这个有争议的提议 这里的链接.

让我们利用恐怖谷重铸困境。

当人工智能驾驶系统的驾驶行为严格合法时，这可能是一个暗示线索，表明它很可能是一个机器人系统（尽管人类司机承认这样做，尽管在当今世界他们似乎相距甚远）。 如果人工智能驾驶系统要像人类司机一样古怪地驾驶，这是跨越恐怖谷还是落入恐怖谷？

仔细考虑一下。

4. 驾驶机器人作为实现自动驾驶汽车的一种手段

报道的最后一项是这四项中最令人吃惊的。

你可能完全不知道一些 AI 开发人员正在尝试制造可以驾驶汽车的机器人。 该机器人在各个方面看起来都像人类，具有机械腿和机械臂作为四肢。 当你想让任何传统的人工驾驶汽车成为自动驾驶汽车时，你只需将这个专门的人工智能驾驶机器人放在你汽车的驾驶座上。 请参阅我对这个概念的分析 这里的链接.

我们为什么要驾驶机器人？

这种机器人的美妙之处在于，今天所有的人类驾驶汽车都可以在某种意义上成为自动驾驶汽车，几乎在一夜之间。 您只需购买、租赁或以某种方式让自己成为一个驾驶机器人。 在开车旅行时，您将机器人放在驾驶座上。 机器人将您带到目的地。 如果你想改用人类驾驶，你可以把机器人从车上取下来，也许把它收进后备箱里以备后用。

今天，美国约有 250 亿辆传统汽车。 一些人认为，随着自动驾驶汽车的问世，这些最终将被淘汰。 与其把那些传统汽车扔掉，也许我们可以尝试将它们改装成自动驾驶汽车，尽管这可能是一个非常昂贵的想法。 看似更谨慎的做法是提供驾驶机器人。

如果你看到一辆看起来很传统的汽车在你附近的街道上行驶，并且它的方向盘上有一个机器人，你会有什么反应？

可能是怪诞的。

一个公认的有争议的说法是，这种怪异现象是由于机器人驾驶传统汽车进入著名或臭名昭著的恐怖山谷。

结论

从 Ethical AI 的角度来看，恐怖谷提出了一个有趣的难题。

人工智能中有些人完全相信恐怖谷，有些人则不相信。 但是，无论你是否相信恐怖谷，但这个话题本身还是被围绕着。 你不能隐藏你的头并假装构造本身不存在。 作为一个想法的结构是存在的，并且在某种程度上具有病毒式的强大功能。 恨它或爱它，该死的或可能是崇高的话题仍然存在。

根据我之前从人工智能伦理角度对恐怖谷优点的论述，其中存在着爱恨交织的决斗关系。 那些处于道德人工智能领域的人是否应该接受恐怖谷，或者直接拒绝恐怖谷，或者对真实性保持中立，而是关注由于持续存在的不同信念而产生的影响。

这一挑战使杰出的经济学家亚当·斯密（Adam Smith）崛起，正如他曾经说过（释义），在从怀疑之城出发的路上，你必须经过歧义之谷。