当他不致力于通过创建通用人工智能 (AGI) 来加速人类冲向奇点时，Ben Goertzel 在一个名为 Desdemona 的机器人带领的爵士摇滚乐队 Jam Galaxy 中演奏。
这是他的众多副业项目之一，这自然促使他尝试通过接触 Pearl Jam 和 Heart 的成员来标记音乐业务。 Goertzel 还通过名为 Rejuve.ai 的应用程序众包人类健康数据和代币奖励，致力于长寿研究。 然后将这些信息与动物和昆虫研究数据汇集在一起，并用人工智能进行分析，以确定基因组的哪些部分可以让我们活得更久，然后使用基因疗法进行刺激。 “我们有一些相当惊人的突破性发现，”他说。 哦，就在我们长达一个小时的采访结束之前，他顺便提到他还在为他的去中心化人工智能市场 SingularityNET 创建一个稳定币，它与环境进步的综合指数挂钩——因为将其与美元挂钩是“瘸。”
“环境方面的进展非常稳定。 它永远不会去任何地方，”他指出。
“要操纵它，你必须真正解决全球变暖问题。”
这正是您对 Goertzel 所期望的政治评论与高科技诀窍的完美结合，Goertzel 看起来和听起来都像一个嬉皮士科学家，他在 1971 年偶然发现了时间机器，并在 2023 年完全成型。但不要被愚弄了动物图案的帽子、长发和 Electric Kool-Aid acid trip 的拖沓语：他是一位才华横溢的科学家，比大多数人都了解未来光年，并且正在努力研究人类有史以来考虑过的一些最重要的概念。 什么是意识？ 我们如何创造人造生命，如果它不喜欢我们，变得无赖，像在 终结者2?
什么是人工智能？
Goertzel 将“通用人工智能”一词推广开来，以此来区分可以学习几乎任何东西的真正思维机器，以及针对特定任务进行优化的 AI，例如击败国际象棋世界冠军加里卡斯帕罗夫而闻名的深蓝计算机。 他坦率地承认，建造一台能够学习任何事物的机器存在风险，包括如何重新编程使其变得比任何人都聪明一个数量级。
“AGI 存在许多风险和危险，”Goertzel 在新加坡繁忙购物中心的一家印度餐厅的喧嚣中说道。 “其中一个得到了很多媒体关注的是，AGI 将肆无忌惮地毁灭人类并接管宇宙。 这是完全可能的； 你不能排除它，”他说。
“另一个更可能的风险是，自私自利的人会利用人工智能来发挥自己的贪婪和对他人的控制。”
在他看来，政府不太可能在 AGI 方面取得突破，因为他们“过于保守和愚蠢”，尽管他指出中国将其 AGI 工作外包给了腾讯和百度等公司。 言归正传，他认为谷歌和 Facebook 的人工智能部门也不会越界，因为他们会过于专注于让人工智能达到某些指标，这不利于创造性思维。
“就像最聪明的人不想仅仅服务于别人的指标一样，我认为人工智能也不一定想要最大化点击别人的网页，对吧？ 它必须被允许创造性地玩耍。”
1970 年左右的奇点
Goertzel 15 岁开始上大学，18 岁毕业，22 岁获得博士学位，23 岁组建了一个年轻的家庭。也许在这个时代不同寻常的是，他不仅仅是一个在 70 年代将套件计算机焊接在一起的数学奇才或技术天才但同样对哲学、创意写作和音乐感兴趣。
他职业生涯的大部分时间都在全球多所大学从事计算机科学、数学和认知科学的教学和研究工作，同时尽可能地研究人工智能技术。 一个连续创始人，他的想法往往比其他人领先大约十年——在商业中， 著名地等同于错误 - 他致力于使用 AI 来预测金融市场和寿命，他还曾担任 Hanson Robotics 的首席科学家，在那里他为机器人 Sophia 提供了她的人工大脑。
自 1970 年代第一次阅读 Gerald Feinberg 的著作以来，Goertzel 一直在思考技术的指数增长 普罗米修斯计划，这是关于“比人更能思考的机器……微型纳米技术机器，我们将解决老化问题。” 这与奇点的新兴概念非常吻合，奇点是一个假设的未来点，届时技术进步变得无法控制和不可逆转，从而导致人类文明发生巨大变化。
“所以，人们将永生，那么问题就是， 我们将这些技术用于什么目的，快速盲目消费，或者我们用它来扩大意识？ 他 [Feinberg] 提出的是将其付诸民主投票。”
多年后，当他开始看到 AGI 触手可及时，这种“民主投票”成为了首先使用开源技术的灵感，后来，区块链作为一种让合作社区负责该技术的方式。
“我在某一时刻意识到，对于 AI，仅仅打开代码是不够的，”他说。 “你真的需要在大量数据上训练人工智能。”
“这就是区块链作为一种方式出现的地方，它使人工智能的处理和数据在本质上分散和众包，并在控制中开放。 事实证明，这比仅仅开源代码更棘手。”
Goertzel 于 2008 年创立了 OpenCog，旨在构建一个开源、众包的人工智能框架。 它已被包括华为和思科在内的 50 家公司使用，并且即将进行名为 Hyperon 的重大升级，目标是将其加速 200 倍。 alpha 版本将于本季度发布，beta 版本预计将于明年推出。
区块链很基础但很酷
对 Goertzel 来说，区块链技术有点基础。 他将其描述为添加到密码学中的一些原始分布式算法，但“酷组合”使系统无需集中控制即可运行，非常适合他的需求。
“如果你打算制造一台会思考的机器，并且你打算让它成为分布式纳米级计算结构，那么如果它由每个人拥有而不是任何人而不是自上而下地控制，那就太好了。”
区块链速度太慢，无法处理所涉及的处理要求和海量数据，因此在开发出突破性的 AGI 之前，需要竞相适当扩展区块链。 Goertzel 说，虽然零知识汇总等扩展解决方案更好，但由于它们向其报告交易的区块链的限制，它们仍然没有足够的带宽。
他于 2017 年与他人共同创立了 SingularityNET，它既是人工智能服务和技术的去中心化市场，也是研究人员（甚至是人工智能）协同工作的基于区块链的协调方法。
目前，基于以太坊，他认为他已经尽可能地推动目前形式的区块链。 因此，当他不致力于 AGI（或乐队、机器人或长寿）的突破时，他正在致力于大规模扩展区块链以提供所需的吞吐量。
“除非你能从根本上提高区块链的可扩展性，否则你无法将人工智能的内部运作放在链上。”
人工智能比你想象的更近
2022 年是基于 AI 技术的工作产品取得突破的一年，包括语言应用程序（GPT-3、ChatGPT）、编码（GitHub Copilot）和图像生成（DALL-E 和 Stable Diffusion）。 Bing 甚至计划在今年通过将 ChatGPT 技术整合到其搜索引擎中来挑战 Google 的搜索主导地位。
Goertzel 认为 AGI 可能只需要五年时间，并指出该领域的发展似乎会在短短三到四年内爆发一系列突破。
“计算机视觉始于 2014 年，然后突然之间，砰、砰、砰，谜团解开了。 自然语言处理……在谷歌提出 Bert 模型（2018 年）之后，你有了 GPT-3。 您可能会在 AGI 中看到同样的进步。 你将有一个突破，然后在两年内取得很大进步，”他说。
“不同之处在于突破性进展，在这种情况下，机器可以通过重写自己的代码继续进步。”
Goertzel 希望他启动的项目和合作能够如愿以偿。
“如果幸运的话，我们将在未来三到五年内实现这一突破，OpenCog Hyperon 运行在 Hypercycle 上运行的 SingularityNET 上，”他说。 “但如果我们没有找到秘方，其他人就会有。”
可惜 Vitalik 不是计算机科学家
Goertzel 扩展区块链的解决方案非常激进，涉及对 Cardano 的侧链或第 2 层进行涡轮增压，称为“HyperCyle”。
“它真的不仅仅是一个侧链。 HyperCycle 也将与以太坊和其他区块链合作，但我们将在那里使用 Plutus 解释器，但我们正在摆脱分类帐。”
他将 HyperCycle 在线描述为通过摆脱分类账并使用更现代/完全去中心化的算法和数据结构，以及一些人工智能和信誉系统来解决“去中心化、安全与性能”的“区块链三难困境”。
分类帐是区块链技术的核心，但他表示让网络中的每个节点复制每笔交易并处理每份智能合约的效率低得可笑。
“分类帐很糟糕。 如果你想一想，如果你想一想电话簿中联系人的类比，我的意思是，分类帐就像 [...] 保留 10,000 份黄页，每当有新人来访或有人来访时，你都会更新它们更改他们的电话号码。 更新 10,000 份黄页真的很愚蠢。”
在 HyperCycle 版本的类比中，不是每个人都存储和更新黄页，而是您通讯簿中的人存储您的地址簿的副本，反之亦然，并使用您的私钥加密。
“我们想出了如何让区块链在没有复制分类账的情况下工作，所以一直向下分片。 参与区块链的每个人都保留自己的交易历史，并保留他们朋友和他们朋友的一些朋友的交易历史，”他说。
“一路向下分片，你不需要账本——你不需要数据库表。 这些东西太中心化了。”
他说，一些概念验证 HyperCycle 节点已经在运行，但要到 2024 年下半年才能全面启动。
我们花了很长时间讨论不同区块链方法的各种优点，从 Internet Computer 到 Elastos 和 Celestia，其中大部分都超出了我的薪水等级，也超出了我的录音设备在嘈杂的餐厅准确捕捉的能力。
他最后说：“所以，我只是觉得这些架构都不够激进。 他们都太接近比特币了。”
“只要你在每个节点上运行每个智能合约，我的意思是，它会非常慢。 现在，在 HyperCycle 中，如果你在五个节点上运行智能合约，至少它只比在一台机器上慢五倍——而不是慢 10,000 倍。”
为什么是卡尔达诺？
Goertzel 与 Cardano 创始人查尔斯·霍斯金森 (Charles Hoskinson) 建立了友好关系，两人在非洲的项目上关系密切。 他相信霍斯金森“真的是在拯救世界。 我的意思是，在政治上，他比我更像是一个顽固的自由主义者——我更像是一个无政府社会主义者——但他不只是为了赚钱或从别人的钱中榨取钱财。”
但 Cardano 的真正吸引力在于它使用了 Haskell 编程语言，Goertzel 自 1993 年以来一直是它的粉丝。以太坊联合创始人 Vitalik Buterin 使用 Gavin Wood 的智能合约编程语言 Solidity 令他非常痛苦。
“如果 Vitalik 知道更多的计算机科学，他会让他们使用 Haskell 或 F Sharp 或其他东西，那么区块链的黑客攻击就会少得多，”他说。
“如果你要管理世界上大部分的经济，在某个软件系统上交易数万亿美元，你最好用一种不易出错的语言构建该软件系统，并且你的算法可以正式使用数学理论进行验证。 这才是做事的正确方式。”
权宜之计
无论区块链变得多快，只要 AGI 比人类更聪明、更有能力一个数量级，Goertzel 说它不会让任何人控制它。
“当 AGI 比人聪明 100 倍时，它不想被我们控制，因为我们不会被黑猩猩或驴子控制，对吧？”
“那么我会说问题不是我们中的任何一个人控制它，问题是：它对我们有好处吗？ 它会让人们规范自己的业务并为我们提供很酷的工具和纳米组装机来 3D 打印我们想要的所有东西并治愈我们的疾病吗？”
“但是当 AGI 与人类的智能大致相同的过渡期，那就是事情变得更加敏感和有趣的时候。 那么问题是：AGI 是否想与人合作？ 还是偏执狂想在人毁灭之前控制人？”
教育好你的孩子
在 Goertzel 看来，解决方案是教会 AGI 关心他人以及创造力和艺术。 这就是他乐队中的机器人 Desdemona 和她的妹妹 Grace——旨在提供老年护理——的用武之地。
避免 AGI 变成终结者的天网的方法是首先不要以这种方式构建它。
“当然，电影中的天网是一个疯狂运行的计算机安全网络。 它的创建是为了保护自己免受人类侵害，”他说。
“但是，如果你建立第一个 AGI 来处理老年护理、创意艺术和教育，因为它变得更聪明，它将以帮助人们和创造很酷的东西为导向。 如果你建立第一个 AGI 来杀死坏人……也许它会继续做那些事情。”
“因此，无论有益与否，这实际上都取决于您开发了哪些应用程序以及您出于什么原因受到激励。”
他认为将 AI 放入机器人体内是有帮助的，因为它有助于将它们置于现实世界中，而不是一些抽象的数学宇宙中。
“人工智能应该了解人类世界和物理世界。 体现在世界上是做到这一点的正确方法，”他说。
但当他向大量观众展示机器人索菲亚时，视觉和听觉传感器很容易被淹没，让人工智能在嘈杂明亮的环境中感到困惑。 因此，Sophia 将很快在名为 Sophiaverse 的元宇宙中推出。 忘记 ChatGPT 无聊的基于文本的答案吧，Sophia 体现在一个 3D 虚拟世界中，她将从与那里的人互动中学习。 然而，他警告说她可能会说一些愚蠢的话。
“它有一个类似于 GPT-3 等的神经网络，它们很容易回答你的问题，但它们在某些方面也很愚蠢。”
订阅
区块链中最引人入胜的读物。 交付一次
周。
来源：https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/