新闻资讯
Inflection-2:Deepmind创始人LLM据说全球第二
00 分钟
2023-11-24
2024-3-14
type
status
date
slug
summary
tags
category
icon
password
URL

AI 初创公司 Inflection 的新语言模型旨在超越 Google PaLM-2 和 Claude 2 等直接竞争对手,而只需服从 GPT-4。

据称,新模型比其前身 Inflection-1 更强大,并且据这家初创公司称,它显示出改进的事实知识、更好的文体控制和显着改进的论证。
Inflection-1 于 7 月份才发布。该模型大约处于GPT-3.5和PaLM-540B的水平。 Inflection-2 现在将赶上 GPT-4。

Inflection-2 在基准测试中优于 Claude 2 和 PaLM 2 Large

Inflection-2 在 5,000 个 NVIDIA H100 GPU 上进行训练,混合精度为 fp8,大约 10²⁵ FLOP。据 Inflectionon 称,这使其与 Google 旗舰模型 PaLM 2 Large 处于同一训练类别,而后者很快将被 Gemini 取代。
然而,Inflection-2 在大多数标准 AI 性能测试中都优于 PaLM 2 Large,包括著名的 MMLU 基准测试,该基准涵盖从高中到专业级别的广泛任务,以及 TriviaQA、HellaSwag 和 GSM8k 等其他语言测试。
Inflection-1、Google 的 PaLM 2-Large 和 Inflection-2 的一组常用学术基准的比较。 (括号内为N个值)|图片:变形
Inflection-1、Google 的 PaLM 2-Large 和 Inflection-2 的一组常用学术基准的比较。 (括号内为N个值)|图片:变形
与 GPT-4 相比,Inflection-2 在 HellaSwag 10 次测试中获得了 89.0 分,接近 GPT-4 的 95.3 分。此外,Inflection-2 在思维链推理(即已经优化的提示过程)方面应该优于 Claude 2。
MMLU语言理解测试的最终结果。一如既往,基准测试结果和日常生活中的实际使用可能会有所不同。 |图片:变形
MMLU语言理解测试的最终结果。一如既往,基准测试结果和日常生活中的实际使用可能会有所不同。 |图片:变形
在编码和数学任务方面,Inflection-2 明显落后于 GPT-4,但表现优于 GPT-4。 B. Metas Llama 2. Inflection 写道,Inflection-2 并未针对编码进行优化,因此未来模型仍有改进的空间。
与竞争对手相比,编码和数学基准测试中的 Inflection-2。 |图片:变形
与竞争对手相比,编码和数学基准测试中的 Inflection-2。 |图片:变形

Chatbot Pi 很快将与 Inflection-2 一起运行

Inflection-2 很快将为该公司的聊天机器人 Pi 提供支持。基础设施正在从 Nvidia A100 GPU 切换到 H100 GPU,旨在加速推理,即 AI 模型对输入的处理。
尽管 Inflection-2 的规模是其数倍(1750 亿个参数),但据说比 Inflection-1 更便宜、速度更快。
Inflection 已经计划在 22,000 个 GPU 集群的全部容量上训练更大的模型。下一个人工智能模型预计将大十倍左右,并在六个月左右出现。 Pi 可以在 Pi.ai/talk 上进行测试。
Inflection 自愿遵守白宫 2023 年 7 月关于模型开发人员的安全和责任的承诺。

变形得到大牌支持

Inflection 于 2022 年 3 月首次上市。
这家人工智能初创公司由 Linkedin 创始人 Reid Hoffman、Deepmind 联合创始人 Mustafa Suleyman 和前 Deepmind 研究员 Karén Simonyan 创立,专注于自然语言生成和理解,作为计算机的个人界面。Inflection 于 2022 年 3 月首次上市。 这家人工智能前沿公司由 Linkedin 创始人 Reid Hoffman、Deepmind 联合创始人 Mustafa Suleyman 和前 Deepmind 研究员 Karén Simonyan 创立,于自然专注语言生成和理解,作为计算机的个人界面。
2022年5月,Inflection AI完成了一轮2.25亿美元的投资,2023年6月,该公司宣布了另一轮投资,微软、里德·霍夫曼、比尔·盖茨、埃里克·施密德和英伟达总共投资了13亿美元。
当时该公司的估值为40亿美元。2022年5月,Inflection AI完成了惊人的2.25亿美元的投资,2023年6月,该公司宣布又一轮投资,微软、里德·霍夫曼、比尔·盖茨、埃里克·施密德和英伟总共投资了13亿美元。 当时该公司的估值为40亿美元。
自这家初创公司成立以来,据说 Meta AI 的 Heinrich Kuttler 和 Maarten Bosma 以及前 Google Brain 的 Rewon Child 等人工智能研究人员已经加入了 Inflection AI。谷歌产品经理 Joe Fenton 将帮助开发 Inflection AI 的商业模式。
自从这家公司成立以来,据悉 Meta AI 的 Heinrich Kuttler 和 Maarten Bosma 以及之前 Google Brain 的 Rewon Child 等人工智能研究人员已经加入了 Inflection AI。谷歌产品经理 Joe Fenton 将帮助开发 Inflection AI 的商业模式。

总结

  • AI 初创公司 Inflection 开发了一种名为 Inflection-2 的新语言模型,该模型比其前身更加强大,并且在基准测试中的表现优于 Google PaLM-2 和 Claude 2。
  • Inflection-2 具有改进的事实知识、风格控制和推理能力,很快将为该公司的聊天机器人 Pi 提供支持,可以在 Pi.ai/talk 上进行测试。
  • 这家初创公司得到了 Reid Hoffman、Mustafa Suleyman 和 Karén Simonyan 等知名人士的支持。截至 2023 年 6 月,它已获得约 15 亿美元的投资。
 

评论
  • Twikoo