,无所不知2023年8月24日，科普中国·星空讲坛以“通用人工智能的人工赛道到底在哪里？”为主题，邀请4位人工智能研究领域的目答专家，聚焦在理论范式、实现目标、王培实现途径、教授应用等方面，无所不知讲述未来通用人工智能技术如何影响整个人类社会。人工,目答美国天普大学教授王培带来演讲：《范式革命：AI创新研究的成功路》,以下是王培的演讲节选：,人工智能基本问题差不多就是这么四类：研究什么东西？成果的可能性？怎么做？应该尝试吗？,,人工智能的基本问题 图片来源：王培,一、人工智能的实现目标,让计算机像人那样工作，或者说我们实际上所有的王培人工智能的研究工作者，都是教授以人类智能作为我们的出发点，然后试图把它抽象成一般意义下的无所不知智能概念，然后把这个智能概念做到计算机里面，人工但是目答现在问题是，既然你要抽象，你一定是有选择的，而不同的人的不同的选择，实际上就造成了非常不一样的人工智能。,,人工智能的目标 图片来源：王培,大家常听到的比喻有两个，我个人觉得都是错的。,一个比喻是说这个是条条大路通罗马，大家沿着不同的路都想上顶峰，但是大家走的路不一样，我的看法我觉得我们这些人实际上爬的是不同的山，这些山之间当然有些关联，这些路也有些相似性，但是我不认为我们爬的是同一座山。,还有一个常见的比喻就是瞎子摸象，说你们这些人有人抓住了结构，有人抓住了行为，有人抓住了功能，都是问题的一方面，最后我们辩证综合，统一在一起就把这个问题解决了，这个我也不同意。我觉得这个抽象是必须的，然后抽象你一定是只能抽象其中的一个方面，你不可能，你如果所有的东西都做，那就不是抽象了，我们实际上人工智能不可能在所有方面都和人类完全一样。,对于人工智能的工作定义，我认为智能是在知识和资源相对不足的情况下，一个系统的适应能力。“适应”能力主要涵盖以下几个方面：,第一、相对不足。同时兼具系统的加工能力有限、实时响应和解决意料之外的问题。,,智能的定义 图片来源：王培,第二、在知识不足的情况下，只知道过去，无法预料未来，又必须要根据已有经验应对未来，是所有的智能系统所面临的一个基本矛盾。真正的智能系统一定是会犯错误的，但并不是无意义的错误，而是已有经验不符合目前情况。过去经验有局限性的情形下，还是要做努力。,第三、资源。资源在此处并非金钱，而是时间。时间是永远不够的，对于智能系统来说，你永远不可能考虑到所有即使是你知道的那些因素。将所有可能性都考虑一遍，就不是智能了，而是机械化解决办法。真正的挑战是不允许你有足够的时间将所有可能都遍历。时间不充裕就难以找到最好的办法，因此必须有取舍。,真正聪明的人，实际上就是时间利用率最高的人，在有限的时间做更多的正确的事情，而这就是智能的关键之一。,我们团队也正在尝试这样的系统，在知识和资源相对不足的情况下，使人工智能用竭尽全力地解决面对的问题。,其中隐含了通用性，因为我的智能不是针对具体问题的，是一般性的方法或者机制。,,技能与智能 图片来源：王培,“通用”并不是万能的意思，而是能够应对设计者预料之外的情况，这才叫“通用”。,目前绝大多数人工智能系统都不算有智能的，为什么？假定我们现在能让人工智能系统它解决问题的能力来打一个分，纵轴是技能，即解决问题的能力；横轴是时间。以此将现有人工智能简单地分成四类：,第一类是中间的蓝色横线，我把它叫图灵计算，或者说严格计算机科学意义下的计算。问题解决能力是恒定的，与时间无关。例如计算机对于同一个问题的计算，时间总是相同的且结果一致。,第二类，机器学习的紫线。具有学习能力，能力随着时间上升，个别也有下降的情况。AlphaGo就是很好的案例，那个程序一开始并不会下围棋，通过大量的训练，最后战无不胜。显然它的能力是随着时间提升的，但提升是有阈值的，最后趋近于一条横线。现有的几乎所有的机器学习系统，都有这个特征，就是它的性能最后是收敛到一个稳定的输入输出函数，这是它的学习目标。,第三类，我们推崇的绿线，即适应。它的学习是没有止境的，虽然把它画成一条直线，实际上并不如此，只是表示他没有稳定的输入输出关系。始终处在终身学习，一项技能学会了就开始下一项。,它的差别并不在它们解决问题的能力有多强，而是问题解决能力随着时间增长的可能性。对于学习能力，图灵计算为0，机器学习有一些但有限度，而需要的是始终有学习能力的智能。,第四类，超人智能。它的增长速度非常快，它的导数本身是一个指数曲线，意味着学习能力越来越强。这里给个结论，我不认为这种东西能造出来。,但我想表达的是，人工智能的定义各有千秋，而不同的定义也导致了不同的人工智能。把不同概念混到一块统称人工智能，这是最大的错误。,二、人工智能不能“造神”,图灵1950年的那篇文章，花了很大的篇幅去试图反驳那些认为人工智能根本不可能做出来的意见。,,人工智能的可能性 图片来源：钟义信,在具体展开前，请大家注意以下亮点：,第一点，关于人工智能实现可能性的辩论，会发现有很多，实际上辩论双方各执一词。但他们讨论的人工智能可能都不是一类人工智能，因而这种讨论就没有意义了。,第二点，绝大多数学者都承认，智能实际上不是一个有与无的问题，而是一个程度的问题。,常见的一些错误观点包括：计算机只是在执行程序，没有创造性；计算机就只是一个处理符号的形式系统，不知道这些符号的含义；计算机没有情感和自我意识。,但实际上，现在我们已经开发出了具有创造性和灵活性的计算机程序，而且有文章和程序可以证明。,计算机系统可以有情感，只是与人类的情感不一样。人工智能将来会有社会经验，但是它的社会经验与人类的社会经验会有根本性的差异，导致观念、知识和行为上的差异。,所以，未来的机器人不可能完全像人一样。,,根本性的限制因素 图片来源：王培,另外，由于它受到知识和资源相对不足的限制，因此不可能准确预知未来，他也会犯错误，不可能考虑到所有可能性。,无所不，那叫人工神仙，没有这种事情。人工智能将来一旦实现，在拥有人类所有认知功能的同时，也会犯人类常犯的各种错误。,因此，人工智能不会完全超越人类的智力。我认为人工智能的智能是一种原始能力，并不是解决具体问题的能力。,人工智能在解决具体问题上具有优势，但在需要人类经验的问题上，他并不人类强。,因此，认为人工智能完全超越人类的说法是不成立的，包括我不相信超级智能的存在。理论上和功能上都没有理由认为它们可以存在。,三、如何实现人工智能？,实现人工智能，基本上采取的策略有三大类：,第一，混合型。即使把现有的所有人工智能程序装到一个超级计算机里，虽然能够装下，但是它们没办法协同工作。碰到具体问题时，不同的模块会得出不同的结论，无法确定哪个结论应该被采纳。因此是行不通的。,,如何实现通用人工智能 图片来源：王培,第二，整合性，先设计一个蓝图，规划各个模块之间的相互作用、通讯和协同方式。一定程度上解决了内部不一致的协同问题，但是所有的系统几乎都存在一个共同的问题：模块之间的相互关系。,第三、统一性，通过使用一种技术试图解决所有问题，避免了内在不一致的问题，但是一个技术能否解决所有问题。很多人认为需要将不同的技术结合起来，才能实现通用人工智能。,需要注意的是，以上三种策略都有各自的优缺点，目前尚不清楚哪种方法更接近实现通用人工智能。    ,四、人工智能的伦理问题,现在很多人关心的问题是：人工智能危险吗？,首先，我要说的是，所有技术都有危险，包括人工智能。但是，大家可能会认为人工智能的危险程度与其他技术不同，因此我们需要更深入地探讨这个问题。,第二点，人工智能概念有很多不同的定义。每种解释都有它自己的危险，而且这些危险的应对方式也是不同的。把概念混在一起，那么就很难对它们进行有效的约束和管理，会使危险性增加。,总之，我们需要认真对待人工智能的危险性，但同时也需要理解这种危险性是多方面的，需要采取不同的应对措施。只有这样，我们才能更好地利用人工智能的优势，同时避免潜在的风险。,,为什么研发人工智能？图片来源：王培,最后，落实到我们自身，我们要做适应性系统，这是一个终身学习、没有固定训练者的系统。它的一辈子都要在跟互动过程当中学习，这个时候出了事，要赖谁呢？系统设计者和训练者都有责任，但是这里边涉及到的因素，在现在的讨论当中基本上没有涉及的。,第一，对于系统自身，我们将来一定会对其进行法律约束，使其成为一个法律主体。这意味着人工智能系统将有自己的行为能力和判断能力，并对其未来负责。这点的确非常重要，因为在这种情况下，即使系统出现问题，我们也有法律框架来追究其责任。,其次，我们每个人在将来与人工智能互动时，也需要对其后果负责。比如，如果我们虐待人工智能系统，它可能会产生反社会的心理。这种情况非常危险，因为一旦所有人都在虐待人工智能，它可能会对社会造成危害。,因此，我们必须意识到我们作为使用者的责任，并确保我们的行为不会对人工智能产生负面影响。然而，现在的问题比我们讨论的要复杂得多。,我们需要区分不同的人工智能系统，并对每一类系统进行深入的研究，以了解如何使其对我们有益而不是有害。这需要我们在未来投入更多的时间和资源，以确保人工智能的发展是安全和有益的。,第一点，我们要把不同的人工智能区分开，然后对每一类人工智能去讨论怎么样使它将来对我们有益而不是有害。而这里边涉及到的问题比现在讨论的问题要复杂得多得多。,第二点，从使用者角度讲，有些人认为是为老板省钱，编出个机器人来，然后把工人都裁掉。实际上，我们现在希望解决的是超出人类解决问题能力的事情。,最后的结论是所有的决定都是权衡利弊，没有哪个事情是有百害无一利，或者有百利无一害，就人工智能而言，我们现在的判断是利远大于弊，尽我们最大努力去避免或者解决问题。,据此，我觉得还是决定要继续做人工智能的研究和应用。,策划制作,责编丨金禹奋（实习生）

(责任编辑：热点)