DanKoe 视频笔记：通用人工智能与个人未来：概述与核心概念

在本课程中我们将探讨通用人工智能AGI的发展及其对个人未来的潜在影响。我们将分析人类与AGI的根本区别并学习如何在技术快速演进的时代中保持自身价值。AI 与 AGI – 一个关键的区别要理解AI是什么以及它对我们意味着什么我们需要从该术语的起源开始。在AI之前有控制论这是诺伯特·维纳在1948年提出的思想。https://github.com/OpenDocCN/wealth-notes-zh/raw/master/docs/dankoe/img3eef68e28cfa781ed53f3a4f16cec031.png控制论是关于系统自动、自我调节控制的想法。行动、感知并与目标比较是一个智能系统的基本循环。他的关键洞察是世界应该用信息来理解。复杂系统如生物体、大脑和社会朝着目标进行错误纠正如果这些反馈循环崩溃系统就会崩溃。想象一艘船在夜晚使用持续反馈接近灯塔。船长看到他们偏离了灯光的左侧向右转向然后在偏离太远时再次调整。在维纳介绍控制论两年后他出版了《人类使用人类自身》。其中与当今世界相关的核心观点是“我们必须停止亲吻鞭打我们的鞭子”。维纳知道危险不在于机器变得越来越像人类而在于人类被当作机器对待。这就是人工智能的本质。一个需要控制器的闭环系统。我们今天所了解的人工智能主要是那些比谷歌搜索快一点点的聊天应用它缺少一个关键特性能动性。人工智能是一个需要通才的专家。一个需要师傅的工具。人工智能在实现它被分配的目标时是有用的比如下棋或击败围棋。只要人工智能必须被测试——或者被分配一个目标——以确定其智能它甚至远不如人类的智能。但这正是问题所在。大多数人被训练成专业工具而不是掌控未知旅程的创新人类。他们害怕被取代也就不足为奇了。他们应该害怕。从他们出生的那天起他们就被分配了目标并被纠正错误以适应父母希望他们适应的模具。上学找工作65岁退休。创业是的没错。存钱取得好成绩听从权威。走安全路线。永远服从于主导系统。然后你不知道你的思想会怎样挣扎和抓挠试图回到那个被推销为舒适的生活。你可能偶尔会有改变的想法——你灵魂深处渴望你挣脱束缚——但你头脑中的代码如此强大它很快就会将这种错误认为是错误的特征。专业化的训练可以说是人类毁灭者因为它毁灭了创造力。解决方案是什么我们很快就会谈到。回到故事本身。大约在20世纪60年代一种新的技术观念出现即通过发明计算机我们外化了我们的中枢神经系统——我们的思想——现在我们共享一个单一的思想。一个无限智能。所有潜在的信息都在我们的指尖。不幸的是我们现在很少听到关于控制论的消息。为什么因为这种新的观念导致了不良的激励机制。诺伯特·维纳对智能机器的警告与他同事的愿望相悖他们感兴趣的是新技术的商业化。他们想从中获利。其次计算机先驱约翰·麦卡锡不喜欢维纳。他拒绝使用“控制论”这个术语而是创造了“人工智能”这个词成为该领域的奠基人。随着关于智能机器的讨论如日中天我们不禁思考人类究竟有何特别之处或者我们一开始就真的特别吗毕竟我们是唯一一个登上月球的物种这肯定意味着某些东西对吧上一节我们探讨了AI与AGI在起源和本质上的区别特别是AI作为被分配目标的工具属性。接下来我们将深入探讨人类与AGI在能力上的核心差异。通用人工智能与人类2人类的独特性大卫·德什受到卡尔·波普尔的影响他认为人类有一些显著的特点这体现在我们创造无限知识的能力上。它始于创造力的需求。所有创造的知识都是通过假设和批评、试错、变异和选择在达尔文主义术语中的过程产生的。换句话说猜测并纠正自己的猜测是你完成任何你下定决心要做的事情的方式。心理控制论。这就是我们学习、创新、进步和理解宇宙中几乎所有事物的方式。区别在于人类可以将注意力集中在任何事物上而不仅仅是被分配的目标。它可以发现新的目标这些目标塑造了对机会的认知使我们的思维能够朝着那个目标进行错误纠正。德什认为人类是“通用的解释者”。我们能够理解自然界法则范围内任何可理解的事物。我们创造解释理论揭示现实的深层结构使我们能够以更有效的方式猜测和预测从而随着时间的推移带来更快的进步。这种知识使我们能够理解我们从未直接经历过的事物比如星星和星系。即使我们从未建造过火箭我们也能理解它。如果我们能够理解它并且如果我们有实现它的知识我们最终能够建造它。有一个逻辑步骤序列每个步骤都需要你具备该步骤的知识。在你的实际生活中你不能实现某件事简单的理由是你要么不理解它要么没有实现它的知识。对于高自主性的人类来说这是解放的。对于低自主性的机器来说这是亵渎。这是许多人关于AGI的错误理解。人工智能或称AI是一个不完整的系统必须为其分配一个目标就像许多动物或低自主性员工被编程去做的那样。AGI或称通用人工智能是一个完整或通用的系统。就像一个不受限于可能事物的小子集的人类。AGI可能拥有更多的计算能力或内存但没有概念是我们能理解而它不能理解的这并不排除我们可以使用通用计算机或通过更多的计算和内存来增强自己的事实。关键在于你可以在可能性的范围内实现任何事物但前提是你有实现它的知识。你并非注定要遵循社会的默认路径或AGI的规则。理解了人类作为“通用解释者”的独特地位后我们接下来需要具体分析AGI是否能在某些核心能力上超越人类。5个人类能力 – AGI能否超越它们3核心能力剖析关于AGI的问题在于人们似乎无法就其定义达成一致。有些人将其视为一种工具可以自动化并远程管理他们的业务。有些人认为它将像我们一样是一个人。有些人认为它将是一个超越人类能力的超级智能他们通常将其称为ASI。最后一个问题最令人恐惧因为人们的思维会跳跃、跳跃并得出结论我们可能会变得无关紧要。当我们感到压力时我们的思维会变得狭隘我们无法清晰地思考。我们无法理解。这里的问题是人类的能力实际上有没有限制我们是否不具备学习和做任何AGI能够做的事情的能力最终我们思考的能力和思考的方式是否有任何限制对这些事情进行推测很有趣我们可以整天这样做而不是专注于重要的事情所以让我们将这些能力分解一下。主要的是我们需要关注计算、转换、变异、选择和注意正如AGI研究员卡洛斯·德·拉·瓜迪亚也受到德鲁茨的影响所指出的。以下是五种核心能力的详细分析计算我们能计算的东西有没有限制不因为一旦你手中有了通用计算机计算任何东西只是时间和内存的问题。如果AGI有这种能力它们将拥有与我们一样多的计算能力因此不会比我们更有优势。更进一步如果我们能够增强我们的大脑我认为这是可能的我们将与加速的AGI保持同步。转换转换是创造。有了正确的知识我们可以将原材料转化为火箭。人类的手和身体似乎特别擅长在特定的操作序列下创造任何东西。我们已经建造了宇宙飞船和望远镜。这意味着我们可以建造出建造其他东西的东西。我们是通用主义者我们建造工具以在任何环境中生存。我们不是局限于单一生态位的动物。问题是当以正确的方式串联起来时这些基本操作能做什么有没有限制再次答案是没有。如果人类能够远程控制大猩猩它可以在给定的时间内采取一系列步骤来建造火箭。而且我并不是说只有一只大猩猩。想象一下如果埃隆在操作大猩猩他会怎么做这里的问题是时间。转换需要时间奇点不会改变这一点就像启蒙运动或大爆炸没有改变这一点一样。时间是压缩算法它防止所有事情同时发生启蒙运动和大爆炸显然没有把火箭送上天空。到目前为止AGI的担忧似乎源于对现实本身的根本误解。如何创造知识经过计算和转换后存在变异、选择和注意这些都涉及到在思想空间或未知领域中的导航。我们可以进行计算和转换但我们是否有知识上的限制使我们能够这样做知识有两个功能。第一是让具体的事情发生最好是好事而不是坏事。第二是捕捉现实中的模式。这使我们能够以高效的方式存储信息这样我们就不必总是在追求中从头开始。我们理解像太阳每天升起和落下以及季节偶尔变化这样的大概念。没有这种理解我们生活中的许多事情都会崩溃。捕捉模式使我们能够通过邻近性来规划。我们理解在寒冷的环境中我们会冻死所以我们使用像夹克和旅馆这样的知识存款来保持温暖在我们旅行时。想象一下思想空间——或者未知——就像一张带有明暗点的通用地图。亮点是你已经探索过的区域。暗点是你潜在的地方。这张地图是思想的一个表面区域可以被发现并测试其现实中的有效性以验证其有效性。当这些结果没有让你更接近目标或者让你离目标更远时就会揭示一个问题你必须朝着目标进行错误纠正。变化我们能想出多少新想法来生存和实现我们设定的目标通过计算我们可以导航整个思想空间。通过代理我们可以在该空间内采取任何步骤并最终在许多错误之后偶然发现一个好的想法。通过创造我们可以以独特的方式移动比如飞越森林而不是穿过它。因此我们可以理解任何事物创造任何事物并发现无限的新想法来解决无限的问题。再次强调AGI也能做到同样的事情。我们都被自然法则所束缚但其中的任何可能性都在我们的掌握之中。选择我们可以想出任何想法但我们能否找到好的想法这里潜在的问题是如果不从错误中学习很难取得累积的进步。如果我们想在一辆汽油车之后建造一辆电动汽车从头开始重新开始不会很有趣。我们作为物种不会非常发达。作为普遍的控制系统我们可以更有效地在思想空间中导航避免迷失方向。我们进行错误纠正。这里也没有根本性的区别。注意力另一个人类视为理所当然的方面是我们通过改变视角来改变关注点的能力。当问题发生时你的注意力会去哪里如果你想建造一枚火箭是否向古老的诸神祈求来帮你完成会有帮助或者你能改变视角以一种让你能够感知机会的方式来观察情况虽然这对人类来说是一个巨大的问题——范式锁定和附着于意识形态——但我们确实有能力在问题出现时改变我们的注意力。我们可以戴上精神之镜以寻找平静戴上科学之镜以寻找进步。与纯粹上升的“精神”哲学认同与一个无法解决某些问题的不完整系统并无不同。精神是一种伟大的透镜或工具但是一个糟糕的主人不是一切终结。现在由于AGI似乎无法以任何方式超越我们除非它弯曲了可能性的界限那时我们手头的问题将非常不同我们该怎么办这并不能帮助事实即我们所知的生活将会改变工作将被取代未知的事物越来越近。在我看来唯一的选择一直是让我们深入探讨。分析了人类与AGI在核心能力上的对比后我们发现关键在于人类的主观能动性。那么面对未来个人应该采取何种策略呢答案一直是并将是成为一个创造者。4面向未来的个人策略成为创造者你就无需担心工作、职业和AI。 —— 纳瓦尔·拉维坎特正如我在80%的信件中所讨论的纳瓦尔如此巧妙地在这里表达的观点是答案是要成为一个创造者。具体来说是一个价值创造者。当我说这句话时人们认为我的意思是狭隘的“内容创造者”。一个人发布内容却没有意识到其背后的深度。让我们把这些放在一起帮助它变得清晰“企业家”这个词源于法语。它来自动词“entreprendre”意思是“承担”或“做某事”。在16世纪当它被翻译成英语时它成为了一个名词指的是承担商业项目的人。换句话说企业家是正在做某事的人。它不是一个头衔或标签而是一种行为。它是承诺过一种高自主的生活。承诺在没有他人许可的情况下做事。设定自己的目标并导航未知领域以实现它们。这就是问题所在。人们想要被告知该做什么而这正是他们会被取代的原因。这并不意味着停止从别人那里学习而是意味着不要将任何形式的职业、技能或职业视为终点。在这种意义上“创造者”是指正在创造某物的人。它不是一个头衔或新奇的职业你可以在摄像机前坐着做最少的工作。它是一种生活方式。恰好的是现在至少最高的杠杆创造地点是在互联网上。这是高自主性的路径。你不需要许可就能在互联网上创造并发布某物。你不需要许可就能在思想空间中导航并找到你需要的信息。这可能会在未来改变但这只会加强这一点。无论是互联网还是星际空间答案一直是并将始终是成为一个创造者。当然正如我们所学的这并不意味着它容易。这并不意味着你可以跳过试错。这并不意味着一条途径就能给你所有答案因为思维不是这样运作的。时间也不是这样运作的。当我们面对完全新的问题时AGI也不会这样运作一旦解决了像工作这样的问题。你可以尝试像2 Hour Writer或One-Person Business Launchpad这样的资源这有助于为你提供前进的方向迈出探索未知的第一步但大多数人会因为未能意识到你仍然需要纠错而放弃。这就是创作者所做的事情。他们解决生活提出的无限问题集。没有问题就没有创造力。没有问题就没有目的。痛苦和苦难源于无法理解问题更不用说放弃解决问题的能力。一个没有创造力和目的的世界是一个没有生命的世界。以下是主权个人即高自主性的创造者的标志性学习循环他们对未来有一个不断发展的愿景他们通过一个有意义的项目作为一块垫脚石他们识别阻碍进步的问题他们产生想法并测试解决方案他们会随着时间的推移变得更加高效他们将他们的创造和知识存档如果有价值他们将通过那个社会的货币体系获得回报如果没有价值他们会纠错直到有价值最后他们永远不会永远不会因为别人的愿景胜过自己的而放弃。做一切。写作。设计。营销。销售。电影。编码。成为你天生要成为的通才。成为思想的指挥者。思想的统治者。AI现在只是一个工具它让你能够学习和做到所有这些。一旦它成为你的主人你就失去了。没有人能告诉你未来该做什么。但情况不是一直如此吗现在我们只是在原地打转。你总是在寻找快速解决方法而且你知道最长的路就是最快的解决方法。原则没有改变你只是没有采取飞跃。总结在本节课中我们一起学习了AI与AGI的根本区别AI是需要被分配目标的工具而AGI是具备通用性的系统。危险不在于机器像人而在于人被当作机器。人类的独特性人类是“通用解释者”能够创造无限知识通过试错和纠错来学习和创新并能自主设定和发现新目标。核心能力对比在计算、转换、变异、选择和注意力等核心能力上人类与AGI同样受自然法则约束AGI并无根本性优势超越人类可能性的边界。面向未来的个人策略应对AGI时代的关键是成为价值创造者过一种高自主性的生活。这并非一个职业标签而是一种主动解决问题、在未知中导航、持续学习和纠错的生活方式。利用工具包括AI但保持自身的主权。最终未来不属于等待指令的人而属于那些主动创造、勇于探索未知并不断从错误中学习的创造者。