本文面向数字游民与技术创业者，介绍如何以千元级成本（矿卡P40、闲鱼自提主机）搭建本地AI工作室。核心方案基于Linux系统与llama.cpp部署Qwen3.5等开源模型，实现Token无限、隐私保护及无审查（Uncensored）的AI能力。内容涵盖无人直播、Agent数字助理（如openclaw）、AI编程（vibe coding）的本地化部署，并对比了云服务与自建方案的成本与隐私优势。
Tags:
AI算力工作室
关于赚钱,我一直推崇做"无人直播"
AI的数字人/一键换脸/姿态迁移,可以从内容上解决24小时UGC的问题
小龙虾openclaw也可以从流程自动化和数据分析上进行管理
抛开业务本身不谈,这期只简单聊下本地部署的自由主义:
1. Token无限 (电力转成算力) 2. 隐私保护 (商业数据不被云厂商收集) 3. 灰色和黑产 (内容开放,无神茶)
比起 arm开发板(云手机),以及AI眼镜/全景相机,显卡是当下工作室最好的投资
如果从成本上考虑,可以选择矿卡P40 (24gb)/千元,选择可以含有多个pcie插槽的主板,显存足够
可以部署多个数字助理,分配到不同的业务
大模型:Token自由
个人不太建议用windows去部署懒人包
虽然它会让小白,快速自部署AI脚本,运行服务,但是由于操作系统本身的特性,会导致性能有所牺牲
推荐用linux系统,比如ubuntu,来测试AI程序
由于server服务器,天生就是ssh到终端执行cli操作,遇到任何问题,交给小龙虾或者商业平台(codex)之类,都能自动化快速解决,不必有运维知识
基座:llama.cpp
qwen3.5开源后,建议下载大模型文件,用llama.cpp部署
这样你就拥有了类似chatgpt一样的网页,以及标准的api
Agent数字助理
为什么要使用API?
除了gpt网页对话,现在的数字助理,是借助大模型的思考,来实现agent操作
白话就是有权限和能力在你的操作系统:windows/mac os/linux/android,执行各种任务
比如openclaw就可以调用本地的qwen3.5 api,以及telegram实现对话指令 (国内有飞书和微信clawBot插件)
vide coding
其实就是AI+独立开发, 只不过再也不用用手敲打一行代码了
可以在vscode和cursor集成 本地大模型
分分钟实现网站功能(登录/支付/工具),然后立马上线 (海外域名/vps,无需备案,秒访问)
无神茶
以上的'本地网页gpt'/"Agent数字助理"/'独立开发',都是老生常谈
但是本地最大的意义就是保护隐私和"无神茶"
阿里公布的模型文件自带"神茶",以至于AI会拒绝回答很多问题
或者在圣母婊的基础上给出不痛不痒的废话
但是作为土生土长的神国人,想要生存,赚钱,是不得已需要知道很多灰色/跨境的方法论的
于是有人基于开源模型,进行训练处理,就得到了解锁的Uncensored-HauhauCS-Aggressive版本
这也是本篇文章的灵魂:Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive
关于AI的生产力课程:agnet助理,有在筹备
有兴趣可私信: 加群
但出于业务繁忙和后台消息众多,不一定能及时更新上线
低成本预算
虽然一直在讨论AI的生产力和业务的关联,但回归到硬件,与工作室本身
如何低成本部署多套设备呢?答案是:闲鱼
• 1.搜索 电脑/主机
选择搬家原因的同城自提
主机比较大,不方便携带,由于要搬家,也比较急出手,这样就可以购买千元以内的主机
包含完整的CPU芯片/内存/硬盘
• 2.矿卡/计算卡
比如大显存的P40 (24GB), 也是千元以下,ps:不推荐魔改卡,容易坏
当然,如果要省心,也可以选择mac mini,但是一旦会话题吵起来,售价就会水涨船高
就像是数字游民旅居地,最近的惠州,一旦被公开宣扬,势必会造成一波游客新增
成本总计
按2k/套, 5个数字助理的成本不过万元, 且是家电家宽
在经营业务的投资成本上,不值一提
无论是内网穿透,还是打通chatbot,都可以随时随地远程使用
最后
没有任何贬义,用着国内的的AI产品,和裸奔有什么区别呢?
除了telegram,其实个人真正的团队和业务,都是打通在开源的element,基于matrix通讯协议
chatbot一直都是最佳的应用入口,网页不是,用微信,可以直接买腾讯云轻量服务器
有兴趣的可以回顾往期的 远程团队
碎碎念
最近在勘察旅居地,所以即使vibe coding很多专题网站,但内容也没来得及更新
周末针对小红书受众在loft民宿做了2场沙龙,额,美女较多,素材可积累 (入口在nomadro.com)
也是后期的一个方向:旅居/共创,而不是纯粹的技术/业务单向输出分享
ps: 相对于咖啡馆/茶舍/联合办公空间/公园天幕 200/h的场地报价,loft民宿性价比很高,配上投影仪,更易于交流分享
数字游民系列至此写了1-30篇,其中序号缺失的是被平台删除了,最近大动作不断,有些如履薄冰
可后台私信:电子书,下载完整pdf文档
数字游民:低成本工作室:云手机,无人直播tiktok/youtube,赚美金
如果给你带来启发,记得公众号一键三连: 关注/点赞/推荐🩷
没有评论:
发表评论