人工智能伦理为您的例外合法权利而激烈斗争

他们说每条规则都有例外。

但问题是，常设规则通常占上风，很少或根本不允许承认或接受例外情况。 尽管存在异常情况的可能性很大，但仍使用平均情况。 例外没有任何通话时间。 它没有机会得到应有的考虑。

我相信你一定知道我在说什么。

您是否曾经尝试过获得某种个性化的客户服务，从而对您的特定情况和您的特定需求不加区分地对待您？

这无疑发生在你身上，可能无数次。

我将带您了解一个令人不安的趋势，即人工智能 (AI) 是如何被无情地设计为强制将所有东西都融入到一刀切的范式中。

异常要么没有被检测到，要么被选择弯曲变形，就好像它们根本不是异常一样。 造成这种情况的部分原因是机器学习 (ML) 和深度学习 (DL) 的出现。 正如您将很快看到的，ML/DL 是一种计算模式匹配，如果您愿意忽略或避开异常，则此类匹配“更容易”开发和部署。 这是一个很大的问题，并引发了非常值得注意的人工智能伦理问题。 有关我对 AI Ethics 和 Ethical AI 的全面持续和广泛的报道，请参阅 这里的链接 和 这里的链接，仅举几例。

事情不一定要那样，请知道，那些正在制造和部署人工智能的人选择忽略或淡化他们的人工智能混合物中的异常处理，从而加剧了这种情况。

当例外规则

让我们首先解开一般情况与异常实现的本质。

我最喜欢的这种类型的打狗或近视平均情况无例外方法的例子几乎被广受好评且仍然非常受欢迎的电视连续剧的任何一集生动地阐明了 房子，MD （通常只是表示为 别墅，从 2004 年到 2012 年运行，今天可以在社交媒体和其他媒体渠道上查看）。 该剧讲述了一个名叫格雷戈里·豪斯博士的虚构人物，他粗鲁、难以忍受，而且非常不合常规，但他被描绘成一个能够找出最晦涩难懂的疾病和小病痛的医学天才。 其他医生甚至患者可能不一定喜欢他，但他完成了工作。

以下是典型剧集的播放方式（一般剧透警报！）。

一名患者出现在豪斯医生所在的医院。 患者最初表现出一些常见的症状，其他各种医生轮流尝试诊断和治愈患者。 奇怪的是，帮助患者的尝试要么未能改善不利条件，要么更糟的是往往适得其反。 病人的病情越来越严重。

因为病人现在被视为一种医学好奇心，而且由于没有其他人能弄清楚病人的病情，豪斯医生被带入了这个案子。 有时这是故意这样做的，以利用他的医学能力，而在其他情况下，他听说了这个案子，他与生俱来的本能将他引向了不寻常的情况。

我们逐渐发现病人有一些极为罕见的疾病。 只有豪斯博士和他的医学实习生团队能够弄清楚这一点。

既然我已经与您分享了剧集的主要情节，那么让我们深入研究一下经验教训，这些经验教训说明了一般情况与例外情况的性质。

这些虚构的故事旨在展示如何在盒子内思考有时会严重错失目标。 所有其他最初试图帮助患者的医生都在他们的思维过程中蒙上了阴影。 他们希望将症状和呈现的方面强加到传统的医学诊断中。 患者只是他们可能以前见过的众多患者之一。 检查患者，然后开出他们在整个医疗生涯中反复使用的相同治疗和医疗解决方案。

洗涤，漂洗，重复。

从某种意义上说，您可以证明这种方法是合理的。 大多数患者可能患有最常见的疾病。 日复一日，这些医生遇到同样的医疗问题。 你可以说，进入医院的病人是名副其实的医疗流水线。 每一个都遵循医院的标准化协议，就好像它们是制造设施或装配厂的一部分一样。

平均情况占上风。 这不仅普遍适用，而且还允许医院和医务人员相应地优化他们的医疗服务。 当您设计医疗流程来处理普通病例时，可以降低成本。 有一条非常著名的建议经常在医学生的脑海中响起，即如果你听到街上传来蹄声，你很可能会想到一匹马而不是斑马。

高效、高效、有效。

直到一个异常潜入其中。

也许动物园里的一只斑马已经逃脱并在你的街道上徘徊。

这是否意味着例外应该成为规则，我们应该搁置平均情况规则，而不是只关注例外？

你很难断言我们所有的日常遭遇和服务都应该关注例外而不是一般情况。

请注意，我没有提出这样的建议。 我的主张是，我们应该确保允许发生异常，并且我们需要识别何时出现异常。 我之所以提到这一点，是因为一些权威人士倾向于大声宣称，如果你支持识别例外情况，那么你就必须反对为普通情况设计。

这是一个错误的二分法。

不要为它而堕落。

我们可以吃蛋糕也可以吃。

使权利成为例外的理由

接下来我可能会提供一点震撼，将所有这些与人工智能的迅速发展联系起来。

人工智能系统越来越多地被设计为专注于一般情况，通常会排除或不利于识别异常。

您可能会惊讶地发现这种情况正在发生。 我们大多数人会认为，由于人工智能是计算机自动化的一种形式，自动化事物的美妙之处在于您通常可以合并异常。 与使用人工执行类似服务相比，这通常可以以更低的成本完成。 对于人工而言，拥有各种可以处理异常情况的劳动力可能成本高昂或令人望而却步。 如果您可以假设您的客户或客户都是普通人，事情会更容易管理和落实。 但是计算机化系统的使用应该能够适应例外情况，而且很容易做到。 以这种思维方式，我们应该为更多的计算机化能力走到最前沿而欢呼雀跃。

将此视为一个令人费解的难题，并花点时间思考这个令人烦恼的问题： 原本被认为是最好的自动化的 AI 怎么会看似无情地沿着常规化和无例外的道路前进，具有讽刺意味或出乎意料的是，我们想象会走向完全相反的方向？

答： 机器学习和深度学习正在把我们带到一个无以伦比的存在，虽然 不能 因为我们必须强制走这条路（我们可以做得更好）。

让我们打开包装。

假设我们决定使用机器学习来设计用于进行医学诊断的人工智能。 我们收集了大量有关患者及其医疗状况的历史数据。 我们设置的 ML/DL 尝试进行计算模式匹配，以检查患者的症状并呈现与这些症状相关的预期疾病。

根据输入的数据，ML/DL 在数学上确定流鼻涕、喉咙痛、头痛和疼痛等症状都与普通感冒密切相关。 一家医院选择使用这种人工智能对患者进行预筛查。 果然，第一次来医院报告这些症状的患者被“诊断”为可能患有普通感冒。

换档，让我们为这一切添加一个 Dr. House 的扭曲。

一名患者来到医院并被人工智能诊断。 AI 根据流鼻涕、喉咙痛和头痛的症状表明患者似乎患有普通感冒。 患者被给予看似合适的处方和医疗建议来应对普通感冒。 这是设计 AI 时使用的平均案例方法的一部分。

事实证明，患者最终会出现这些症状几个月。 一位罕见疾病和疾病专家意识到，这些相同的症状可能反映了脑脊液 (CSF) 泄漏。 专家使用与此类泄漏相关的各种外科手术来治疗患者。 患者康复（顺便说一下，这个关于脑脊液漏患者最初被诊断为普通感冒的非凡故事大致基于真实的医疗案例）。

我们现在将追溯我们在这个医疗传奇中的步骤。

为什么进行摄入预筛查的 AI 无法评估患者可能患有这种罕见的疾病？

一个答案是，如果用于制作 ML/DL 的训练数据不包含任何此类实例，则其中将没有任何内容可供计算模式匹配匹配。 鉴于缺乏涵盖规则例外情况的数据，一般规则或一般情况本身将被视为看似无瑕疵，并毫不犹豫地适用。

另一种可能性是，在历史数据中存在这种罕见的 CSF 泄漏的例子，但这只是一个特定的例子，从这个意义上说是一个异常值。 其余数据在数学上都接近确定的平均情况。 随之而来的问题是如何处理所谓的异常值。

请注意，处理这些异常值与 AI 开发人员可能决定如何应对已确定的平均情况之外的事物的外观存在很大差异。 没有强制人工智能开发人员必须采用的方法。 对于任何给定的 AI 开发人员在他们的 ML/DL 开发工作的任何给定异常引发实例中可能会做什么，这有点狂野西部。

这是我列出的这些异常经常出现的方式 不恰当地 处理：

• 异常假定为错误
• 异常被认为是不值得的
• 例外假设为可调整为“规范”
• 完全没有注意到异常
• 注意到异常但立即被忽略
• 注意到异常然后忘记了
• 注意到异常并从视图中隐藏
• 等等

AI 开发人员可能会认为稀有性只不过是数据中的错误。 任何人都会这样想，这可能看起来很奇怪，特别是如果您试图通过例如想象脑脊液泄漏的患者就是其中一个实例来将其人性化。 但是有一个强大的诱惑，如果你所有的脱离上下文的数据基本上都说明一件事，也许由成千上万的记录组成，并且它们都收敛到一个平均情况，那么一个奇怪的数据的出现可以很容易（懒惰地！）被解释为一个彻头彻尾的错误。 然后，“错误”可能会被 AI 开发人员丢弃，并且不会在 ML/DL 正在接受的训练范围内考虑。

处理例外情况的另一种方法是确定它是不值得的事情。 当您可能急于启动并运行 ML/DL 时，为什么还要为一件稀有事物而烦恼呢？ 扔掉异常值并继续前进。 没有任何想法必然会对未来的影响产生影响。

还有一种方法是将例外情况折叠到其他平均情况环境中。 人工智能开发人员修改数据以适应其余的规范。 AI 开发人员也有可能没有注意到异常的存在。

ML/DL 可能会报告检测到异常，然后 AI 开发人员应该指示 ML/DL 如何以数学方式处理异常值。 AI 开发人员可能会将其放在待办事项列表中，然后忘记处理它，或者可能只是选择忽略它，等等。

总而言之，在人工智能方面处理异常的检测和解决本身并没有任何具体规定或令人信服的平衡和合理的方法。 例外情况通常被视为不值得被抛弃的人，而普通情况下是普遍的赢家。 处理异常很困难，可能很耗时，需要表面上熟练的 AI 开发技能，否则与将事物集中在一个适合所有包装的漂亮领结中相比是一件麻烦事。

在某种程度上，这就是为什么 AI Ethics 和 Ethical AI 是一个如此重要的话题。 人工智能伦理的戒律让我们保持警惕。 人工智能技术人员有时会专注于技术，尤其是高科技的优化。 他们不一定会考虑更大的社会影响。

除了普遍采用人工智能伦理准则外，还有一个相应的问题是我们是否应该有法律来管理人工智能的各种用途。 联邦、州和地方各级正在制定新的法律，这些法律涉及应该如何设计人工智能的范围和性质。 起草和颁布此类法律的努力是一个渐进的过程。

在这个关于例外的作用的特别讨论中，出现了一个挑衅性的观点，即也许应该有与例外相关的合法权利。 对可能是例外的人获得善意认可的唯一可行方法可能是利用法律的长臂。

落实一种新的人权。

被视为例外的权利。

考虑一下这个提议：“成为例外的权利并不意味着每个人 is 一个例外，但当一项决定可能对决策主体造成损害时，决策者应考虑该主体的可能性 五月 例外。 成为例外的权利涉及三个要素： 伤害, 个性化及 不确定. 决策者只有在考虑了决策是否适当个性化，以及至关重要的是，决策的数据驱动部分伴随的不确定性时，才必须选择造成伤害。 伤害的风险越大，考虑的越严重”（Sarah Cen，在题为“ 在数据驱动的决策中成为例外的权利，麻省理工学院，12 年 2022 月 XNUMX 日）。

你可能会认为我们已经拥有这样的权利。

不必要。 根据研究论文，国际公认的最接近的人权可能是个人尊严。 从理论上讲，应该承认尊严以使个人及其特定的独特性应该被包含在内的概念确实使您处于潜在的例外人权的范围内。 一个疑虑是，现有的管理尊严领域的法律据说有些模糊和过度可塑性，因此不能很好地适应例外权的特定法律结构。

那些赞成一项包括作为例外的人权的新权利的人会争辩说：

• 这样的权利几乎可以合法地迫使 AI 开发人员明确应对例外情况
• 制造 AI 的公司会因为不处理异常而在法律上更容易上钩
• 人工智能可能会更好地平衡和更强大的整体
• 那些使用人工智能或受制于人工智能的人会更好
• 当人工智能不适应例外情况时，法律追索将很容易实现
• 人工智能的创造者也必然会变得更好（他们的人工智能将覆盖更广泛的用户）
• 等等

那些反对被标记为例外人权的新权利的人往往会说：

• 现有的人权和法律权利足以涵盖这一点，无需复杂化
• AI 制造商的肩上将承担不应有的负担
• 打造人工智能的努力将变得更加昂贵，并且往往会减缓人工智能的进步
• 会出现错误的期望，即每个人都会要求他们是例外
• 权利本身无疑会受到不同的解释
• 当法律案件暴增时，获得最多的将是法律界
• 等等

简而言之，对这种新权利的反对者通常认为这是一场零和游戏，而成为例外的合法权利的成本将超过其带来的收益。 那些认为这种新权利是合理需要的人往往会强调这不是一场零和游戏，最终每个人都会受益，包括那些制造人工智能的人和使用人工智能的人。

你可以肯定，这场包含与人工智能和例外相关的法律、道德和社会影响的辩论将会响亮而持久。

自动驾驶汽车和例外的重要性

考虑这在自动驾驶汽车和自动驾驶汽车等自动驾驶系统的环境中是如何应用的。 对于自动驾驶汽车和自动驾驶汽车的人工智能开发的一般情况，已经有各种批评。

例如，起初，很少有自动驾驶汽车设计能适应那些有某种形式的身体残疾或损伤的人。 没有太多考虑更广泛地涵盖全方位的骑手需求。 总的来说，这种意识有所提高，尽管人们仍然担心这是否足够远，是否应该得到广泛接受。

普通情况与异常情况的另一个例子与可能让你措手不及的事情有关。

你准备好了吗？

当今许多人工智能驾驶系统和自动驾驶汽车的设计和部署往往会默默或不言而喻地假设成年人将乘坐自动驾驶汽车。 我们知道，当人类驾驶员驾驶时，车内当然有成年人，因为通常获得驾驶执照是基于成年人（嗯，或接近成年人）。 对于由人工智能完成所有驾驶的自动驾驶汽车，不需要成年人在场。

关键是我们可以让孩子在没有成人在场的情况下自己骑车，至少在完全自主的人工智能驱动的自动驾驶汽车的情况下这是可能的。 您可以使用自动驾驶汽车在早上送孩子上学。 您不必让孩子搭便车，也不必使用拼车服务的人工司机，您可以简单地让孩子挤进自动驾驶汽车，然后被带到学校。

让孩子自己开自动驾驶汽车并不乐观。

由于不再需要成人在车内，这意味着孩子们也将不再感到受到影响，或者我们应该说受到成人的控制。 孩子们会发疯并撕毁自动驾驶汽车的内部吗？ 孩子们会尝试爬上或伸到自动驾驶汽车的窗外吗？ 他们可能会做哪些其他类型的滑稽动作，从而导致潜在的伤害和严重伤害？

我已经报道了关于孩子独自乘坐自动驾驶汽车的激烈辩论，请参阅 这里的链接. 有人说这绝不应该被允许。 有人说这是不可避免的，我们需要弄清楚如何最好地让它发挥作用。

结论

让我们回到一般情况与例外情况的总体主题。

我们似乎都同意，规则总会有一些例外。 一旦形成或确定了规则，我们就应该寻找例外。 当我们遇到异常时，我们应该考虑这个异常可能适用于哪个规则。

今天设计的许多人工智能都是围绕制定规则而形成的，而与例外相关的挑战往往被抛弃和耸耸肩。

对于那些喜欢狡猾并说规则没有例外，规则总是有例外的人，我承认这种俏皮话似乎是一个心理难题。 也就是说，我们怎么能有一个总是有例外的规则，但是这个规则似乎并不适用于这个规则总是有例外的规则？

让你头晕目眩。

幸运的是，没有必要将这些发人深省的事情过度复杂化。 希望我们可以接受方便且重要的经验法则，我们应该注意并适应每条规则的例外情况。

事情就这样解决了，所以现在让我们开始工作吧。