为什么人工智能 (AI) 会带来人类灭绝的风险

在技​​术前沿，人工智能（AI）的演进不断催生非凡的创新。 然而，它同时展开了一段充满对人类灭绝的忧虑的叙述。 OpenAI 的先驱山姆·奥特曼 (Sam Altman) 和公认的人工智能“教父”杰弗里·辛顿 (Geoffrey Hinton) 等人工智能远见者明确表达了这种恐惧。

AI 安全中心的一封公开信揭示了潜在的灾难，得到了 300 多个尊敬的签名者的支持，揭示了 AI 存在的生存威胁。 然而，这个人造奇迹如何成为人类的毁灭仍然有些神秘。

人工智能带来人类灭绝的风险

人工智能安全中心主任丹·亨德里克斯 (Dan Hendrycks) 表示，人工智能可以为应对社会规模的风险开辟多种途径。 恶意实体滥用 AI 就是这样一种情况。 

“有一个非常普遍的误解，即使在 AI 社区中，也只有少数注定失败的人。 但事实上，很多人私下里都会表达对这些事情的担忧，”亨德里克斯说。

想象一下，恶意力量利用 AI 来构建杀伤力超过自然流行病的生物武器。 另一个例子是启动流氓人工智能，意图造成广泛伤害。

如果人工智能系统被赋予足够的智能或能力，它可能会在整个社会造成严重破坏。

Hendrycks 补充说：“恶意行为者可能会故意释放积极试图伤害人类的流氓人工智能。”

尽管如此，这不仅仅是让专家担心的短期威胁。 随着人工智能渗透到经济的各个方面，放弃对技术的控制可能会导致长期问题。 

这种对人工智能的依赖可能会导致“关闭它们”具有破坏性，而且可能无法实现。 因此，冒着人类控制其未来的风险。

滥用及其深远影响

正如 Sam Altman 所警告的那样，AI 创造令人信服的文本、图像和视频的能力可能会导致重大问题。 事实上，他相信“如果这项技术出了问题，它可能会大错特错。”

以在社交媒体上流传的一张伪造的图片为例，该图片错误地描绘了五角大楼附近发生的大规模爆炸。 这导致股市暂时暴跌，因为许多社交媒体账户，包括几个经过验证的账户，在短短几分钟内传播了这张欺骗性照片，加剧了混乱。 

这种对人工智能的滥用表明该技术有可能传播错误信息并破坏社会和谐。 牛津大学人工智能伦理研究所高级研究员 Elizabeth Renieris 断言，人工智能可以“推动错误信息的数量和传播呈指数增长，从而破坏现实并削弱公众信任。”

另一个令人担忧的趋势是“幻觉”人工智能的出现。 这是一个令人不安的现象，人工智能会吐出错误但看似合理的信息。 

这一缺陷在最近一起涉及 ChatGPT 的事件中得以体现，可能会挑战利用 AI 的公司的可信度，并进一步助长错误信息的传播。

工作岗位流失和不平等现象激增

人工智能在各行各业的迅速采用给就业市场蒙上了长期而令人担忧的阴影。 随着技术的发展，数以百万计的工作岗位可能被淘汰已成为一个紧迫的问题。

最近  透露，十分之六的美国人认为，在未来 20 年内，在工作场所使用人工智能将对员工产生重大影响。 大约 28% 的受访者认为使用该技术会对他们个人产生影响，另有 15% 的人认为“AI 弊大于利”。

自动化决策的激增可能会加剧偏见、歧视和排斥。 它还可能助长不平等的环境，特别是影响那些处于数字鸿沟错误一边的人。

此外，转向依赖人工智能可能会导致人类“衰弱”。 这可能类似于电影中的反乌托邦场景 WALL-E. 

人工智能安全中心指出，人工智能的主导地位可能会逐渐落入少数实体的控制之下。 它可能使“政权能够通过无处不在的监视和压迫性审查制度来执行狭隘的价值观。”

这种黯淡的未来愿景凸显了与人工智能相关的潜在风险，并强调了严格监管和控制的必要性。

人工智能监管的呼吁

这些担忧的严重性促使行业领导者提倡更严格的 AI 监管。 这种对政府干预的呼吁呼应了越来越多的共识，即应谨慎管理人工智能的开发和部署，以防止滥用和意外的社会破坏。

人工智能有可能成为福音或祸根，这取决于它的处理方式。 在享受这项强大技术的好处的同时，促进关于降低风险的全球对话至关重要。 

英国首相 Rishi Sunak 坚持认为，人工智能在帮助瘫痪患者行走和发现新抗生素方面发挥了重要作用。 尽管如此，我们必须确保这些流程安全可靠地进行。

“人们会对人工智能带来生存风险的报道感到担忧，比如流行病或核战争。 我想让他们放心，政府正在非常仔细地研究此事，”苏纳克说。

人工智能的管理必须成为全球优先事项，以防止它成为对人类生存的威胁。 为了在减轻人类灭绝风险的同时利用人工智能的好处，谨慎行事很重要。 各国政府还必须遵守法规，促进全球合作，并投资于严谨的研究。