首頁指南
無審查 LLM:本地部署或 API,何者更合適

LLM Sin Censura 於 更新
如果你尋找無審查 LLM,有兩條路:下載並在本地運行,或透過 API 呼叫並按 token 付費。答案取決於你的硬體、使用頻率以及你願意投入維護的時間。

表格中的決策
對於無審查LLM而言,在本地部署與API之間的選擇可歸納為以下因素:
| 因素 | 本地 | API |
|---|---|---|
| 部署 | 小時:安裝、下載模型、測試版本 | 分鐘:取得金鑰與 Base URL |
| 初始成本 | 你已有的或需購買的硬體 | 無;使用 $0.50 額度進行測試 |
| 持續成本 | 電費與你的時間 | 按 token 計費,無訂閱費 |
| 隱私 | 極致:沒有任何東西離開你的機器 | 你的提示詞會傳送至供應商;此處不將其用於訓練 |
| 品質與規模 | 受你的顯存限制 | 可能無法放入你機器的模型 |
| 維護 | 由你負責 | 由供應商負責 |
| 離線運作 | 是 | 否 |
沒有哪一欄在所有方面都勝出。如果隱私絕對性或離線工作最重要,選本地。如果你偏好不管理任何事物,選 API。
何時適合本地運行
Ollama、LM Studio 或 llama.cpp 等工具可在你的電腦上執行開放式模型,其中幾種工具會在 localhost 上提供與 OpenAI 相容的端點,因此同一份程式碼可同時適用於這兩種方式。若符合以下情況,本地部署很合適:
- 你處理的資料因政策或偏好,不得離開你的網路。
- 你已擁有具備足夠記憶體的 GPU,且不想按用量付費。
- 你想嘗試不同的模型、量化與調整。
- 你需要離線運作。
關於硬體,實務原則是模型必須能裝入顯示卡記憶體,若接受較慢的速度則可裝入 RAM。量化為 4 bits 的 70 億或 80 億參數模型通常可裝入約 5 或 6 GB。數百億參數的模型需要更多資源,通常需多張顯示卡。確切數值取決於模型與量化方式,請參考特定模型的規格表。
何時適合使用 API
API 在以下情況更具優勢:
- 你的設備沒有 GPU,或現有 GPU 效能有限。
- 你正在建構應用程式、機器人或內部工具,並希望它能同時為多個使用者服務。擁有完整的金鑰,你可以獲得 8 個並行請求和每分鐘 300 個請求。
- 你的使用模式不規律:有時密集使用數小時,有時數天不使用。預付額度在不使用期間不會產生費用,且額度不會過期。
- 你不想依賴機器保持開啟狀態。
API 與 OpenAI 相容,因此使用 SDK 只需兩行程式碼:
from openai import OpenAI
client = OpenAI(base_url="https://api.llmsincensura.com/v1", api_key="TU_CLAVE")
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Redacta el primer párrafo de una novela de ciencia ficción."}],
)
print(r.choices[0].message.content)
這是單一開放權重模型,由獨立供應商執行,僅生成文字。它不是任何大型 AI 公司的官方 API,也不由多個供應商分攤。
費用計算
API 價格為每百萬個輸入 token $0.15,每百萬個輸出 token $0.50。每月有三種用量等級:
| 每月用量 | 輸入 | 輸出 | 總計 |
|---|---|---|---|
| 5M 輸入,2M 輸出 | 5 × 0.15 = $0.75 | 2 × 0.50 = $1.00 | $1.75 |
| 50M 輸入,20M 輸出 | 50 × 0.15 = $7.50 | 20 × 0.50 = $10.00 | $17.50 |
| 500M 輸入,100M 輸出 | 500 × 0.15 = $75.00 | 100 × 0.50 = $50.00 | $125.00 |
針對本機端,請根據你的資料進行計算:一台配備 GPU 的設備,每天 4 小時以 300 W 的功率運行,每月耗電量為 0.3 kW × 4 小時 × 30 天 = 36 kWh。乘以你的每千瓦小時電價,加上設備攤提費用,並評估你的維護時間成本。在低度和中度使用情況下,API 的費用通常較低;而在非常高且持續的使用情況下,已攤提完畢的自有設備可能更划算。這是一筆只有你能計算的帳。
無審查模型的預期表現
「無審查」描述的是經過調整的模型,不會拒絕成人用途下的合法內容請求:如黑暗奇幻、角色扮演、坦率探討敏感主題。這不代表沒有界限。涉及未成年人的性內容始終被排除,且模型仍會犯下與其他模型相同的錯誤:可能捏造資料、在長對話中失去脈絡或重複內容。
因此,無論是在本機還是透過 API,在決定採用某個模型之前,都應使用你自己的提示詞進行測試。在金鑰頁面領取 $0.50 試用額度,你有足夠的餘裕進行數百次中等規模的請求。
混合途徑
不必永遠二選一。常見的作法是:使用 API 進行開發與處理實際流量,並保留一個小型本地端模型用於離線測試或處理特別敏感的資料。由於兩者都接受相同的格式,在兩者之間切換只需修改 Base URL 與模型名稱。
如果你要將 API 整合到應用程式中,關於無過濾 AI 的 API 整合的文章詳細說明了工程端,而文件則列出了參數。價格和儲值優惠(最低 $20,接受加密貨幣)請見價格頁面。
更多指南
常見問題
我可以在自己的電腦上執行此 API 的模型嗎?
此 API 為託管服務。若要在本地端執行,你必須自行下載開放權重模型,並受限於你的硬體。
本地端模型需要什麼硬體?
模型必須能裝入顯示卡記憶體。量化為 4 bits 的 70 億或 80 億參數模型,根據格式不同,通常可裝入約 5 或 6 GB;請參考特定模型的規格表。
API 會儲存我的提示詞用於訓練嗎?
不會,提示詞不會用於訓練。
允許任何內容嗎?
否。回應時不拒絕合法成人用途的內容,但禁止涉及未成年人的性內容。
會生成影像嗎?
不會。僅限文字:不含影像、音訊、影片、嵌入向量或微調。
你的金鑰僅一步之遙
建立帳戶、複製金鑰並更改 Base URL。如此簡單。
取得 API 金鑰