什么是 AI 突破点？它会在什么时候发生？

AI中的奇点是什么？

作者

Samuel Gilzean

最后更新日期

2023 年 6 月 29 日

最后更新

2023 年 6 月 29 日

分享到Facebook分享到Twitter分享到Whatsapp分享到Telegram通过电子邮件分享

AI的奇点是一个假设性的未来事件，在此事件中，人工智慧的发展达到一个点，使其能够以指数级自我提升。这意味著人类将不再能够理解或控制所创造的技术，可能导致机器获得某种水平的对人类的控制。

与奇点概念密切相关的是人工通用智慧AGI。AGI指的是能够执行任何任务的人工智慧，且其表现不逊于人类。人们认为AGI是达成奇点的必要条件。

目前的人工智慧技术是基于由人类生成的现有数据集进行训练的。这意味著AI所知道的一切来自人类反之这也表明人类仍然更具智慧。奇点将标志著电脑学习到足够多的知识，能够创新并创造完全新颖且对人类来说陌生的技术。

当电脑的能力超过我们时，它们会做什么呢？摧毁世界，还是拯救它这两者难道是同一回事，如许多科幻故事所描绘的那样吗？那些对奇点进行过推测的科学家认为，如果这一时刻真的来临，它将成为人类历史上的一个重要转折点。

这是一个令人担忧的想法，但这样的事件真的会发生吗？我们能阻止它吗？即使我们达到AI奇点，这是否意味著人类将面临灭亡和不幸，还是我们将进入一个人类与AI之间合作的时代？

奇点会在何时发生？

随著近来AI领域的快速发展，奇点似乎变得越来越可能。问题在于它何时会发生。

Google的AI负责人雷库兹韦尔几年前预测奇点会在2045年到来。在最近的一次会议上，AI专家约翰亨内西表示：我们中的一些人曾认为，人工通用智慧的出现还需40或50年。但我认为大家的预期已经提前了大约10到20年。

鉴于最近AI服务的激增，特别是在艺术和文字创作方面，以及一些世界最大科技公司争相超越彼此，他的评论听起来非常符合现实。

尽管如此，没有人知道奇点是否真的会发生。开发人员有可能会在技术中设置足够的安全防护措施以防止这一点。自从ChatGPT公开亮相以来，许多专家呼吁在更多监管和监督措施得以建立之前暂停AI研究。

我们能防止奇点的发生吗？

专家们对于此议题意见不一。有些人认为奇点是不可避免的，而另一些人则声称通过谨慎规范AI的发展，我们可以防止它的发生。

虽然欧盟和英国都在探索AI的监管问题，但人们担心在相关法规出台之前，奇点已经发生。而且，并不能保证能出台任何有意义的监管法规。

利用AI改善许多领域的潜力，包括科学、医学和教育，是一个极具吸引力的前景。而我们甚至还没有提到AI的商业方面有很大的利润可图。OpenAI表示如果现行的法规被推进，它可能会撤出欧盟。这是一些世界最强大公司的首次抵制AI监管的尝试。

此外，各国政府也希望在AI领域中的竞争。即使对AI潜在威胁的共识达成，没有一个国家愿意因害怕落后于竞争对手而停止进步。

然而，我们还可以采取其他方法来防止奇点的发生。一种方法是实施一个断电开关无论是物理的还是程式化入AI本身以在AI接近被认为是奇点的状态时终止它。然而，终止一个本来有用的AI也不是理想的结果。在另一种情境中，AI可能会因察觉到断电开关的存在而叛变，从而推动其实现奇点。

什么会使奇点变得可能？

持续发展的人工智慧将使奇点成为可能。如果AI达到了可以发明超出我们理解和能力范畴的技术的程度AGI，那么可以说奇点已经实现AI的智慧超越了人类。

即使在AI的程式设计中施加了限制，以防止其智慧超过人类的情况，小错误或不当定义的参数也可能无意中导致我们试图防止的奇点出现。

由于不当定义的参数，AI已经出现了意想不到的行为。例如，在2013年，程序员汤姆墨菲设计了一个AI来玩任天堂NES游戏。在玩俄罗斯方块时，AI学会了不断暂停游戏以防止自己输掉比赛。然而墨菲并没有为AI编程让它这样做。谁能想像，面对更强大的AI，会发生什么意想不到的后果。

奇点中会发生什么？

您已经熟悉这个答案：我们无法确定。而这听起来相当可怕，但又稍显激动。一种理想的情况是人类和机器携手合作，共同创造更美好的未来。新的技术将被发现，可能让人类迈出在太阳系其他地方定居的第一步。人类与机器甚至可能融合在一起，形成新的智慧形态。

然而，另一种未来则可能是机器接管世界，人类在它们的控制之下生活。鉴于奇点将使技术超越我们的理解，我们很可能无法阻止这些机器。电影和书籍长期以来都探讨过这种未来，物理学家史蒂芬霍金和企业家伊隆马斯克都担心高级AI可能逃出我们的控制之中。

阅读更多 有关人工智慧的最佳电影

获得ExpressVPN

30天退款保证

获得ExpressVPN

VPN是什么？

Samuel Gilzean

欢迎来到我的小小现实空间。请关注有关太空、存在主义的YouTube马拉松，以及赫比汉考克的演唱会和蒂米特朗普的二重奏。

为这篇文章点赞。或者发表您的想法！

27

3