type
status
date
slug
summary
tags
category
icon
password
URL
• Mistral 的新 Mixture of Experts 模型 Mixtral 现在也可以在 Apple 的 MLX 上运行。
苹果发布了适用于苹果芯片的高效机器学习框架MLX，以及独立于框架的数据加载库MLX Data。
两者均由苹果机器学习研究团队发布。根据 Apple 的说法，MLX 的 Python API 紧密基于 NumPy，但有一些差异。
可组合函数转换：MLX 具有可组合函数转换，用于自动微分、自动矢量化和计算图优化。
惰性计算：MLX 中的计算是惰性计算。数组仅在必要时才会具体化。
多设备：可以在任何支持的设备（CPU、GPU...）上执行操作
MLX的设计基于PyTorch、Jax和ArrayFire等框架。 Apple 表示，这些框架与 MLX 之间的一个重要区别是统一存储模型。
MLX 中的数组驻留在共享内存中，允许在任何支持的设备类型上执行 MLX 数组上的操作，而无需复制数据。
MLX Data (Github) 是一个灵活的、独立于框架的数据加载库。
M2 Ultra 上的米斯特拉尔和骆驼
借助 MLX 和 MLX Data，用户可以执行诸如训练 Transformer 语言模型或使用 LoRA 进行微调、使用 Mistral 生成文本、使用 Stable Diffusion 生成图像以及使用 Whisper 进行语音识别等任务。本指南中提供了 MLX 和 Mistral 入门示例。
以下视频展示了在 MLX 中实现的 Llama v1 7B 模型在 M2 Ultra 上运行的性能。它展示了 MLX 在 Apple Silicon 设备上的可能性。
更多信息可在 MLX Github 和 Apple 文档中找到。
到目前为止，苹果公司主要公开谈论“机器学习”以及如何将机器学习功能应用到其产品中，例如为 iPhone 键盘提供更好的单词预测。
苹果与 MLX 的举动很有趣，因为它可以加强围绕 Metas Llama、Mistral 和 Stable Diffusion 等模型开发的开源人工智能运动。
然而，据报道，该公司还在内部开发一个名为 Ajax 的法学硕士框架，这是它自己的聊天机器人，并且每天花费数百万美元进行人工智能培训，以跟上 ChatGPT 和通用生成人工智能服务的步伐。
Ajax ，以跟上 ChatGPT 和通用生成人工智能服务的按钮。
总结
- 苹果发布了针对苹果芯片优化的机器学习框架 MLX 和数据加载库 MLX Data。
- MLX 提供可组合函数转换、惰性计算和多设备支持等功能，可在支持的 Apple Silicon 设备上实现高效操作。
- MLX 和 MLX Data 允许用户执行语言模型训练、文本生成、图像生成和语音识别等任务。 Apple MLX 有潜力加强开源人工智能运动。
- 作者:Ai-皇帝
- 链接:https://www.ai-hd.com/article/8da67622-d160-4e66-bf67-9b359f023670
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议，转载请注明出处。