type
status
date
slug
summary
tags
category
icon
password
URL
对人工智能的过早监管可能会加强大型科技公司的主导地位并阻碍竞争，Metas首席研究员Yann LeCun警告说。
LeCun相信，监管人工智能研发可能会适得其反，并导致以人工智能安全为借口的“监管圈养”。
他将人工智能监管的呼吁归因于领先科技公司的“优越感”，这些公司声称只有他们足够值得信赖才能安全地开发人工智能。
LeCun称这种立场“非常傲慢”，并主张对AI开发采取更开放的方法。LeCun说，Meta正在采用LLaMA等开源模型，这些模型鼓励竞争，并允许更广泛的人开发和使用AI系统。
另一方面，对 Meta 战略的批评者担心，在潜在的恶意行为者手中部署强大的生成人工智能模型可能会增加虚假信息、网络战和生物恐怖主义的风险。
这位著名的人工智能研究员在英国政府将于 11 月组织的布莱切利公园人工智能安全会议之前接受了英国《金融时报》的采访。
不要害怕终结者
今天的人工智能可能导致人类灭绝的想法被LeCun描述为“荒谬”。
人们受到科幻小说和“终结者场景”的制约，相信如果智能机器变得比人类更聪明，它们就会控制。
然而，根据LeCun的说法，智力和争取统治地位并不是同义词，即使在超级人工智能时代，他仍然将人类视为顶级物种。无论如何，今天的人工智能模型并不像一些研究人员想象的那样强大。他们缺乏对世界、计划和真实思考的理解。
特别是，LeCun指责OpenAI和Google DeepMind过于乐观。类人人工智能比今天的系统复杂得多，需要几个“概念上的突破”。
LeCun还建议，人工智能可以通过在这些系统中建立“道德品质”来控制，类似于法律规范人类行为的方式。初创公司Anthropic正在通过为聊天机器人Claude制定宪法来追求这种方法。
从长远来看，机器是领先的
LeCun承认，机器“无疑”将在大多数领域超越人类智能，他认为这是一个积极的方面：这种发展可能会导致学习的第二次复兴。
强大的人工智能系统还可以帮助人类应对气候变化和治愈疾病等重大挑战。
他设想了一个未来，每个人都可以使用支持日常生活的人工智能助手，并更容易与数字世界互动。“我们不会再使用搜索引擎了，”LeCun说。
LeCun 在 2022 年春季提出了他对“自主 AI”的未来愿景。该架构由六个模块组成：配置器、感知、世界模型、成本、参与者和短期记忆。世界模型模块基于联合嵌入预测架构（JEPA），是所提出架构的核心。它支持对大量复杂数据的无监督学习，并生成抽象表示。然而，许多问题仍未得到解答。
- 作者:Ai-皇帝
- 链接:https://www.ai-hd.com/article/78bc52c0-f13c-43dd-9d63-fa7bc130862a
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议，转载请注明出处。