在本機免費運行 AI 大模型的開源神器 Ollama
前言隨著 AI 技術的快速發展,大型語言模型(LLM)的應用越來越廣泛。然而,要在本機運行這些模型往往需要複雜的環境設定與昂貴的硬體設備。今天要介紹的 Ollama 就是一個能讓你輕鬆在本機運行各種開源 AI 模型的神器! Ollama 是什麼?Ollama 是一個開源的 LLM 運行工具,它的主要特色包括: 簡單易用的安裝流程 支援多種開源模型 優秀的效能最佳化 完整的 API 支援 活躍的社群支援 安裝教學系統需求 作業系統: Windows/macOS/Linux RAM: 建議至少 8GB 硬碟空間: 依照模型大小,建議預留 10GB 以上 安裝步驟Windows 安裝 從 Ollama 官網 下載 Windows 安裝檔 執行安裝檔,依照指示完成安裝 開啟命令提示字元確認安裝成功:1ollama --version macOS 安裝使用 Homebrew 安裝: 1brew install ollama Linux 安裝使用官方腳本安裝: 1curl -fsSL https://ollama.ai/install.sh |...
解決 C 槽爆炸危機！把 Ollama 模型檔案搬到 D 槽
為什麼要移動 Ollama 模型？Ollama 是一個強大的本地端 AI 模型執行工具，但預設將所有模型檔案都存放在 C 槽，隨著下載的模型越來越多，很容易造成系統碟空間不足。本教學將帶你一步步將模型檔案移動到 D 槽，讓你的 C 槽重獲新生！ 移動前的準備工作 確認 D 槽有足夠空間 先關閉所有正在運行的 Ollama 程序 備份重要的模型設定（建議） 詳細移動步驟步驟一：建立新的存放位置 在 D 槽建立新的資料夾：12D:mkdir D:\Ollama 步驟二：移動現有模型 打開檔案總管，預設模型位置在： 1C:\Users\[使用者名稱]\.ollama 將 .ollama 資料夾內的所有檔案複製到 D:\Ollama 步驟三：設定環境變數 按下 Windows + R 輸入 sysdm.cpl 開啟系統內容 切換到「進階」頁籤 點選「環境變數」 在「系統變數」區域中新增： 變數名稱：OLLAMA_MODELS 變數值：D:\Ollama 步驟四：驗證設定 重新啟動 Ollama 執行以下指令確認模型可以正常使用：1ollama...