本文介绍苹果M5芯片MacBook Pro运行LM Studio本地模型的方法。M5芯片AI性能为M4的4倍以上，32G内存+1T硬盘适合出海开发与AI调试。LM Studio支持MLX格式模型，绿色小火箭图标表示完全适配，可设置翻译预设，温度值调低提高回答准确率。本地运行无需消耗API token，适合新手开发者尝试本地AI工作流。
Tags:
欢迎关注勤于奋
每天12点准时更新国外LEAD相关技术
今年开年上班的第一天我写了一篇文章，这篇文章主要说了上班的准备，也就是在那一天我购买了一台MacBook Pro M5笔记本，主要是因为我15年买的MacBook Pro 笔记本实在太老了，跟不上我平时写代码和做事情的节奏，所以打算换了。
上图是Google官网上截的，这款M5芯片就是为AI性能而出，是M4芯片的4倍以上，而当时我手上那台笔记本还是intel芯片，虽然我那一台笔记本配置也很高，但是放到AI的时代，也是不够用了。
买了AI芯片笔记本电脑，当然要跑一跑AI看看是不是真的很强，
M5 芯片采用新一代图形处理器架构，每个计算模块均为 AI 而优化。10 核图形处理器的每一颗核心内皆配备专用神经网络加速器，图形处理器峰值计算性能较 M4 芯片提升 4 倍以上，基于AI 任务的图形处理器峰值性能较 M1 芯片提升 6 倍以上1。
现在，依托 M5 芯片，新款 14 英寸 MacBook Pro 和 iPad Pro 处理 AI 工作流的速度得到显著提升。
感兴趣的朋友可以去官网看看具体的参数配置，我这台本本是32G内存，1T硬盘，平时我做出海开发够用了，然后跑一些轻量级的模型，本地调试模型API完全够用了。
好了，今天就来看看这个LM Studio 到底是什么东东？首先大家去官网下载这个软件，然后直接运行，运行之后大家直接在设置里面把语言设置成中文，这样方便我们阅读。
大家可以看到左侧有4个图标，也是LM Studio的核心功能，第一个就是默认界面，就是我们的聊天对话界面。
然后第二个按钮就是开发者的按钮，就是我们可以对模型进行参数设置和本地服务运行提供给别人api调用使用。
第三个就是我们模型的文件夹，意思我们下载的所有模型都能够在这里找到他们。
第四个按钮就是我们的模型选择，也就是在线的模型，在这里默认选择了gguf和MLX这两种模型的格式。
GGUF是通用版本的模型文件，然后MLX就是苹果M芯片提供的模型文件，这里建议是苹果笔记本电脑的优先选择MLX格式的模型文件，这样他的性能表现就更好。
当我们选择一个模型之后，右侧模型详情里面如果有绿色小火箭的图标，就说明你的电脑能够完全适配，能够完全跑这个模型。
右侧也支持对模型预设值，我给模型设置一个预设值，让他充当一个翻译人员，只做翻译的工作，不做其他的任何事情。
然后中间有一个温度的设置，这里的值设置的越高回答的问题就越飘，设置的越低回答的正确率就越高。
所以如果你是新手，也想本地来跑模型，可以试试这款软件，还是挺好用的，接下来我就在自己的电脑上再安装一个openclaw来玩玩，这样就不需要在线对接模型消耗token了。
附：诚信为人，认真做事，人在做，天在看。每日更新一篇关于技术或者国外lead文章长期坚持原创不易，如文章引起大家共鸣请大家关注，点赞，转发，以支持勤于奋继续分析创作。
欢迎访问勤于奋公众号，本公众号上的所有内容，包括文字、图像、链接等，均为个人意见和知识分享之用，不应被视为专业意见。
在采取任何基于本公众号内容的行动之前，我们建议您进行独立的研究和/或咨询专业人士。
本公众号不保证内容的准确性、有效性、完整性或可靠性，并且不对任何错误、遗漏或结果承担责任。对于本公众号链接到的其他网站内容，本博客亦不承担责任。
本免责声明的最终解释权归勤于奋公众号所有。
没有评论:
发表评论