6 超人工智能 辉煌智能（1/8）

　　【6】超人工智能【辉煌智能】（公开资料）
　　超级智能是一种假设的代理人，其智力超过了最聪明、最有天赋的人类头脑。“超级智能”也可以指问题解决系统（例如，超级智能语言翻译或工程助理）的属性，无论这些高级智力能力是否体现在世界上行动的代理中。超级智能可能是也可能不是由智能爆炸创造的，并与技术奇点相关联。
　　牛津大学哲学家尼克·博斯特罗姆（NickBostrom）将超级智能定义为“在几乎所有感兴趣的领域都大大超过人类认知能力的任何智力”。Fritz程序没有达到这种超级智能的概念——尽管它在国际象棋上比人类好得多——因为Fritz在其他任务上无法胜过人类。
　　技术研究人员对当今人类智能被超越的可能性存在分歧。一些人认为，人工智能（AI）的进步可能会导致一般推理系统缺乏人类认知限制。其他人则认为，人类将进化或直接改变他们的生物学，以实现更强大的智能。
　　未来的几个研究情景结合了这两种可能性的元素，表明人类可能会与计算机交互，或将他们的思想上传到计算机，以实现实质性的智能放大。
　　一些研究人员认为，超级智能可能会在通用人工智能发展后不久出现。第一批通常具有智能的机器可能立即在至少某些形式的心理能力上拥有巨大的优势，包括完美回忆的能力、极其优越的知识库以及以生物实体不可能的方式进行多任务处理的能力。这可能使它们——无论是作为单个生物还是作为新物种——变得比人类强大得多，并取代它们。
　　由于此类技术的潜在社会影响，一些科学家和预测者一直在争论优先考虑对人类和机器认知增强可能的好处和风险的早期研究。
　　……
　　人工智能超级智能的可行性
　　人工智能，尤其是基础模型，取得了飞速的发展，在各种基准上都超过了人类的能力。近年来，人工智能超级智能（ASI）的可行性一直是一个日益多的讨论话题，尤其是随着人工智能（AI）技术的快速发展。
　　……
　　人工智能的进展和AGI的主张
　　AI的最新发展，特别是基于transformer架构的大型语言模型（LLMs）的发展，导致了各种任务的重大改进。GPT-3、GPT-4、Claude3.5等模型已经展示了一些研究人员认为接近甚至展示通用人工智能（AGI）方面的能力。
　　然而，当前LLMs构成AGI的说法是有争议的。批评者认为，这些模型虽然令人印象深刻，但仍然缺乏真正的理解，并且主要是复杂的模式匹配系统。
　　……
　　通往超级智能的途径
　　哲学家DavidChalmers认为AGI是通往ASI的可能途径。他假设人工智能可以达到与人类智能相当的效果，被扩展以超越人类智能，然后被放大以在任意任务中支配人类。
　　……
　　最近的研究探索了实现超级智能的各种潜在途径：
　　扩展当前的AI系统–一些研究人员认为，持续扩展现有AI架构，尤其是基于transformer的模型，可能会导致AGI和潜在的ASI。
　　新颖的架构–其他人则认为，可能受到神经科学启发的新AI架构可能是实现AGI和ASI所必需的。
　　混合系统–结合不同的AI方法，包括符号AI和神经网络，可能会带来更强大、更强大的系统。