LOADING

AI开发框架

MLX

苹果公司开源其机器学习框架MLX。

标签:

苹果公司开源其机器学习框架MLX。

运行基于 ARM 的超快芯片(使 Apple 最近的台式机和笔记本电脑硬件工作)所需的能量只是 x86 芯片的一小部分,这只是消费者选择库比蒂诺硬件而不是竞争对手的原因之一。除了可以轻松为笔记本电脑提供一天或更长时间工作而无需充电的电池之外,为利用计算机芯片而优化的应用程序通常优于在强大的工作站上运行的相同二进制文件。

现在,由于苹果公司在开源MIT 许可下发布了其 MLX 机器学习框架,Apple 芯片的一些优势可以更轻松地用于计算量大的机器学习世界。该框架支持 Transformer 模型语言训练、分别使用 Stable Diffusion 和 Mistral 创建图像和文本,以及使用广泛可用且可扩展的 Whisper 进行语音识别。

对于机器学习开发人员来说,许可证变化的部分吸引力在于,MLX 可以利用 M1 和 M2 代芯片中存在的统一内存系统,这意味着可以通过以下任一方式对内存中保存的阵列执行操作: CPU 或 GPU,无需将数据从一个移动到另一个。虽然节省的时间可以以毫秒为单位计算,但 ML 计算的高度迭代性质意味着毫秒很快就会累加起来,因此稳定扩散的执行速度比 PyTorch 快 40%。

然而,对于较小的批量大小,PyTorch 具有优势。但正如苹果在其文档中所说,当模型未保存在内存中时,这取决于编译速度。

MLX 支持所谓的“惰性计算”,这意味着它仅在必要时具体化数据数组。减弱计算图的参数并不一定会启动(缓慢的)编译过程。

MLX 框架是用 C++ 和 Python 编写的,并提供 NumPy 和 PyTorch 用户已经熟悉的 API 调用,因此数据科学家应该能够以最少的工作量迁移到 Apple 芯片。

相关导航

暂无评论

暂无评论...