用 Ollama（本地 AI）跑 shell 命令（2026）

Q: 做 shell,本地 AI 比託管助手好嗎？

論隱私和離線,是。論原始能力和工作階段脈絡,託管助手更強。按一切留本地是否比模型品質更重要來選。

用 Ollama 跑 shell 命令

Ollama 在你自己機器上本地跑大語言模型,這讓它在「隱私或離線很重要」時做 shell 幫助很有吸引力:你可以問本地模型「……的命令是什麼」,而什麼都不離開你的電腦。取捨是真實的——本地模型比託管的弱、你需要像樣的硬體——但對敏感環境是個真選項。下面講怎麼把 Ollama 接進 shell 工作流,以及哪裡託管助手仍更合理。

第 1 步——安裝 Ollama 並拉一個模型

# 从 ollama.com 安装,然后:
ollama pull llama3.1        # 或一个偏编码的模型
ollama run llama3.1 "写一条找出大于 100MB 文件的命令"

這已經能當一個快速的「要一條命令」迴圈。日常 shell 使用,你會想把它接得更順。

第 2 步——把它接進 shell

# 要一条命令,运行前先复核:
ollama run llama3.1 "只输出一条 shell 命令,用于:把 logs 文件夹压成 tarball"

很多人把它包進一行 shell 函式(在 .bashrc 裡一個 ask 助手,把你的文字傳給 ollama run),於是呼叫只是一個詞。無論如何,執行前先讀它印出的東西——本地模型比託管的更容易把參數編錯。

為什麼用本地 AI 做 shell

隱私。你的命令和脈絡永不離開機器——對受監管或氣隙環境有用。
離線。模型拉下來後,沒網也能用。
無按次費用。硬體之後,推理免費。

誠實的侷限

模型更弱。本地 8B 模型不如大型託管模型,尤其對刁鑽或冷門命令。
硬體。像樣的速度需要夠力的 CPU/GPU 和記憶體。
預設無脈絡感知。純 Ollama 不知道你的 OS、磁碟、最近輸出,除非你自己餵給它。

手機上:SSH 到 Ollama,或用託管助手

Ollama 跑在桌面或伺服器上,不是你手機。兩種和行動結合的方式:

SSH 到跑 Ollama 的盒子。從手機連那臺機器、走 SSH 用你的 ask 助手——你的私有模型、遠端到達。
用託管 AI 客戶端。如果你想要行動終端機裡一個已經貼著伺服器(OS、即時磁碟/記憶體、最近輸出)的助手,那是 TermAI——它透過一個會剝離金鑰的代理用託管模型,你也能關閉脈絡。它是「方便 + 脈絡」的選擇;Ollama 是「一切留本地」的選擇。