type
status
date
slug
summary
tags
category
icon
password
URL
Meta AI 首席科学家 Yann LeCun 概述了实现通用人工智能的分步方法。 LeCun认为，超人人工智能的发展不会是一个突然的事件，而是一个分几个阶段的渐进过程。
第一阶段：了解世界如何运作
LeCun 认为，迈向通用人工智能的第一步将是创建能够学习世界如何运作的系统，就像小动物一样。
这些系统应该能够观察环境并从中学习，为更先进的人工智能功能奠定基础。
LeCun 正在研究一种新的类脑人工智能架构，旨在通过将系统更牢固地锚定在现实世界中来克服当今系统的局限性，例如幻觉和逻辑弱点。他认为这是人工智能进一步发展的先决条件。当今的语言模型（例如 GPT-4 或 Gemini）以及对文本数据的关注不太可能足以满足这一要求。
第二阶段：带有护栏的目标导向系统
LeCun 表示，人工智能发展的下一阶段是受目标控制并在一定指导方针下工作的机器。这些护栏旨在确保人工智能系统在追求目标的同时保持安全可控。
第三阶段：规划和逻辑思维
随着人工智能系统的成熟，它们会发展出规划和思考以实现目标并遵守既定准则的能力。
这使得人工智能系统能够根据对世界的理解做出更明智的决策并采取适当的行动。
第四阶段：层次规划
LeCun设想，未来的人工智能系统将能够分层规划，从而进一步提高决策能力。这样做的目的是使人工智能系统能够更有效地处理复杂的任务和问题。
第五阶段：提高机器智能
最初，人工智能系统将具有与小鼠或大鼠相当的智力。然而，随着人工智能的进步，这些系统将扩展到与狗或乌鸦相当的智力水平。
在此过程中，我们会调整护栏，以确保人工智能系统保持可管理和安全。
第六阶段：更多培训和微调
一旦人工智能系统达到一定的智能水平，它们就会接受各种环境和任务的训练。这使得人工智能系统更加通用，可以应对不同的挑战。
经过这次培训，人工智能系统经过微调，可以在特定任务上表现出色。
第七级：超人人工智能就在这里
LeCun相信有一天我们会发现我们正在开发的AI系统几乎在每个领域都比我们更聪明。
这并不意味着这些系统将有感情或意识。但他们能够比人类更好地完成分配给他们的任务。不过，LeCun 表示，距离那一天至少还需要五年时间。
重要的是，这些先进的人工智能系统仍然处于人类的控制之下，即使它们在智力上优于人类。
LeCun 过去也为此提供了一个看似合理的论据：人工智能并不像人类那样具有统治的自然动力。如果没有这种支配欲，人工智能可能会心甘情愿地为一个在智力上实际上不如它的阶级服务。 LeCun 表示，智力和支配欲之间没有任何关系。
总结
- Meta AI 首席科学家 Yann LeCun 描述了开发通用人工智能 (AGI) 的分步方法，从了解世界如何运作开始，到实现超人人工智能结束。
- LeCun 强调，先进的人工智能系统应该保持在人类的控制之下，即使它们在智力上更加优越。
- LeCun 表示，智力和支配本能并不相关，因此人工智能可以心甘情愿地为智力不如它的阶级服务。