常见本地模型有哪些?能做什么、下载多大?
下面是常见模型家族的几个本地版本,按“适合做什么”来认,不是排行榜。文件大小是 Ollama 常见量化版本的下载参考;不同版本会变,下载文件大小也不等于运行所需内存。 Qwen 3(通义千问):中文问答、写作、翻译、编程。4B 约 2.5GB;8B 约 5.2GB。可以下载到本地运行。 DeepSeek-R1:更偏向推理、数学、逻辑和编程。蒸馏小版本 7B 约 4.7GB;8B 约 5.2GB。可以下载到本地运行。 Gemma 3(Google):日常问答和总结;4B 版本还可以看图片。4B 约 3.4GB;12B 约 8.2GB。可以下载到本地运行。 Llama 3.2(Meta):轻量的日常对话和摘要。3B 约 2GB。可以下载到本地运行;不同版本的中文表现会有差别。 gpt-oss(OpenAI):偏推理和开发者用途。20B 约 14GB;官方运行方案需要大约 16GB 内存,普通电脑不一定跑得动。它和 ChatGPT 里的 GPT 服务不是一回事。 这些模型都能找到可下载的本地版本。Ollama、LM Studio 是下载和运行模型的工具,不是模型本身。
下面是常见模型家族的几个本地版本,按“适合做什么”来认,不是排行榜。文件大小是 Ollama 常见量化版本的下载参考;不同版本会变,下载文件大小也不等于运行所需内存。
Qwen 3(通义千问):中文问答、写作、翻译、编程。4B 约 2.5GB;8B 约 5.2GB。可以下载到本地运行。
DeepSeek-R1:更偏向推理、数学、逻辑和编程。蒸馏小版本 7B 约 4.7GB;8B 约 5.2GB。可以下载到本地运行。
Gemma 3(Google):日常问答和总结;4B 版本还可以看图片。4B 约 3.4GB;12B 约 8.2GB。可以下载到本地运行。
Llama 3.2(Meta):轻量的日常对话和摘要。3B 约 2GB。可以下载到本地运行;不同版本的中文表现会有差别。
gpt-oss(OpenAI):偏推理和开发者用途。20B 约 14GB;官方运行方案需要大约 16GB 内存,普通电脑不一定跑得动。它和 ChatGPT 里的 GPT 服务不是一回事。
这些模型都能找到可下载的本地版本。Ollama、LM Studio 是下载和运行模型的工具,不是模型本身。
举个例子
第一次试本地模型,可以从体积较小的 Qwen 3 4B 或 Gemma 3 4B 开始;想试推理,再试 DeepSeek-R1 7B。下载前先看电脑剩余空间和内存,文件能下载下来,不代表电脑一定能流畅运行。
来源与延伸资料
接下来,你可能想知道
什么是本地模型?和 DeepSeek、GPT 有什么不同? →
先分清两件事:“DeepSeek、GPT”是模型的名字;“本地”是模型运行的位置。可以把模型想成厨师:本地运行像把厨师请到自己家里,用自己的电脑干活;云端运行像请远处的大厨房帮忙,你通过网络把需求交过去。模型本身和运行地点不是一回事:有些 DeepSeek 模型可以下载到电脑运行;OpenAI 的 gpt-oss 也能自己部署,但它不是 ChatGPT 里在线使用的 GPT 服务。
Agent 是什么?和普通聊天 AI 有什么不同? →
可以把 Agent 理解成“能动手办事的 AI 助手”。普通聊天 AI 主要回答你;Agent 除了回答,还可能按步骤安排任务、使用工具、查看结果,再继续下一步。它能做什么,要看你用的产品给了它哪些工具和权限;叫 Agent 不代表它什么都能做,也不代表可以不检查结果。
AI 模型和 AI 软件是一回事吗? →
模型像发动机,聊天软件像装好方向盘和座椅的车。同一个模型可以被不同软件使用;你用的软件也可能换模型。
