开源模型、本地部署、闭源模型是什么

2026-09-25 · 彬城AI AI科普系列

你知道如何本地部署大模型吗？本地部署又有什么好处呢？开源模型、闭源模型都是什么意思呢？今天一条视频讲清楚，视频最后，还手把手教你怎么本地部署一款大模型到你的电脑上。

第一，闭源和开源是什么。

闭源模型就好比你去饭店吃饭，后厨不让你进，你只能看菜单点菜，做好了端给你吃。你不知道他放了多少盐、用的什么油，菜谱是保密的。比如GPT-5、Claude、Gemini，这些都是闭源模型。你只能花钱调它的API，但你永远看不到它里面的参数，也下载不下来。所以闭源模型，我们是无法下载的，我们只能下载开源模型。

那么开源模型呢？就好比饭店不光把菜谱公开了，连食材都给你打包好，让你拿回家自己做。而开源的程度分为两个层次。

第一个叫部分开源，也就是我们常说的开放权重。就是模型的参数文件公开了，但训练数据和训练代码不一定公开。目前市面上大多数所谓的"开源模型"其实都属于这一类，包括DeepSeek、通义千问Qwen。你拿到了参数文件，就能本地部署、能微调、能蒸馏——上期我们讲的蒸馏，就是拿这些模型当学生模型训练。

第二个叫完全开源。不光参数文件公开，训练代码、训练数据全都公开，你理论上可以拿这些材料从头复现整个模型。而这种比较少。

这两种对普通人来说，区别不大。因为我们也不搞研究写论文，我们不需要训练数据，只要能免费下载到我们电脑上使用就可以了。那把这个大模型下载到我们电脑上，这个行为就叫本地部署。那么有人可能会问，他们花了几个亿训练的模型，为什么免费给你？因为厂家就是想让全世界的开发者都用他的模型，用的越多，围绕这款大模型的生态就越丰富。这就好比某款聊天软件免费给你用，但你在上面的那些聊天记录已经是沉没成本了，也就不会随便换其他软件了。

第二，本地部署有什么好处。

我们正常用豆包、DeepSeek也没有本地部署，就是用网页聊天就可以了呀，所以这里，我需要让大家了解使用AI大模型的3种方法了。

第一种，就是网页使用这种聊天机器人。第二种，就是购买API服务的方式。第三种，就是今天讲的本地部署方式。

那么第一种，免费但有限制，你只能在他的网页端使用，如果服务商把网页临时关闭，那你就用不了。就像是一个水库，你想用水，必须去水库边上取水。

第二种，收费但灵活，你可以使用他们的API，接入你们公司自己做的软件或者智能体里，只要你们的软件有了AI功能。好比你直接从水库接了一个管道到你家，你只需要在家里，就能使用水，但是费用按照水量计费，也就是token，不过你的数据依旧会上网，不是百分百安全。

第三种，本地部署。好比你直接在你家，建了一座水库，自来水厂，你就是源头厂家，你的水任意取用，不受限制，用起来最方便，还不用担心数据安全问题。但显而易见，缺点就是前期一次性投入成本巨大，拿开源的智谱的GLM-5.2。它的API定价团队版一个月几千块。但本地部署，由于GLM-5.2有753B参数，也就是7530亿参数，需要8张H200显卡，光显卡就价值350万。

你觉得嫌贵是吧，那本地部署目前还有一种折中方案，不是买显卡吗？那就租显卡，也就是我们常说的做算力服务。将开源模型部署在云服务器上，相当于你租了一块地去建自己的水库，租了一块地去种菜。好处是不需要投入前期一次性高昂成本，虽然不是百分百数据安全，但是你可以和房东签协议，分担数据泄密的责任。

国内做这种算力服务的公司很多，比如行云科技，专门提供算力租赁，普通算力公司只是租显卡，但是这家公司通过自研推理调度软件，让单位token输出成本下降，而且这个市值变化非常夸张，多的我就不说了。所以，哪里有困难，哪里就有机会啊。

第三，实操：教大家怎么本地部署一个开源模型。

好，最后教大家怎么本地部署一个开源模型。整个过程就两步。

第一步，下载安装欧拉玛Ollama。 欧拉玛Ollama是一个帮你运行开源模型的工具，你可以把它理解成一个大模型免费超市，你想下载开源大模型，来这个超市就行了。首先进入欧拉玛官网，ollama.com，下载对应你电脑系统的安装包，Windows和Mac都有。下载完，双击安装，跟装普通软件一样。

第二步，选模型，直接聊。 装好之后，双击打开欧拉玛软件。在这个聊天框的右下角，可以看到加号右边的按钮，点击。这样你就可以看到各种各样的开源大模型了，选择一个适合你电脑配置的大模型，然后点击下载。

下载完成以后，你就可以进行聊天了，就这么简单。你电脑上就有了一个完全免费、不联网、数据不出门的AI助手了。

本文整理自彬城AI《AI科普》系列科普视频，文字略有整理。更多内容见行业洞察。彬城AI（彬城工程咨询（南昌）有限公司）提供人工智能体开发、信息化系统建设与AI实战培训服务，业务交流请致电 182 7919 8383。