หน้าแรกคู่มือ
LLM แบบไม่เซ็นเซอร์: ในเครื่องหรือผ่าน API แบบใดดีกว่า

อัปเดตล่าสุด LLM Sin Censura
หากคุณกำลังมองหา LLM แบบไม่เซ็นเซอร์ มีสองทางเลือก: ดาวน์โหลดไปรันบนเครื่องของคุณเอง หรือเรียกใช้ผ่าน API และจ่ายตามจำนวนโทเคนที่ใช้ ความเหมาะสมขึ้นอยู่กับฮาร์ดแวร์ของคุณ ระดับการใช้งาน และเวลาที่คุณต้องการใช้ในการดูแลรักษา

การตัดสินใจในตาราง
สำหรับ llm แบบไม่เซ็นเซอร์ การเลือกระหว่างแบบติดตั้งเองและ API สรุปได้จากปัจจัยเหล่านี้:
| ปัจจัย | ในเครื่อง | API |
|---|---|---|
| การเริ่มต้นใช้งาน | ชั่วโมง: ติดตั้ง ดาวน์โหลดโมเดล และทดสอบเวอร์ชันต่างๆ | นาที: เพียงแค่คีย์ API และ Base URL |
| ต้นทุนเริ่มต้น | ฮาร์ดแวร์ที่มีอยู่แล้วหรือต้องซื้อเพิ่ม | ไม่มี; ลองใช้เครดิต $0.50 |
| ต้นทุนต่อเนื่อง | ไฟฟ้าและเวลาของคุณ | ต่อโทเคน ไม่มีค่าสมาชิก |
| ความเป็นส่วนตัว | สูงสุด: ไม่มีข้อมูลออกจากเครื่องของคุณ | พรอมต์ของคุณส่งไปยังผู้ให้บริการ; ไม่ถูกนำไปใช้ฝึกโมเดล |
| คุณภาพและขนาด | จำกัดด้วยหน่วยความจำวิดีโอของคุณ | โมเดลที่อาจไม่พอดีกับเครื่องของคุณ |
| การบำรุงรักษา | คุณทำเอง | ผู้ให้บริการทำ |
| ทำงานได้โดยไม่ต้องใช้อินเทอร์เน็ต | ใช่ | ไม่ |
ไม่มีคอลัมน์ใดชนะในทุกด้าน หากความกังวลหลักคือความเป็นส่วนตัวแบบสมบูรณ์หรือการทำงานแบบออฟไลน์ ให้ใช้แบบในเครื่อง หากต้องการไม่ต้องจัดการอะไรเลย ให้ใช้ API
เมื่อควรรันแบบโลคัล
เครื่องมืออย่าง Ollama, LM Studio หรือ llama.cpp สามารถรันโมเดลแบบเปิดในเครื่องของคุณได้ ในขณะที่หลายตัวเปิดเผยเอนด์พอยต์ที่เข้ากันได้กับ OpenAI บน localhost ทำให้โค้ดชุดเดียวกันใช้ได้ทั้งสองทาง การใช้งานแบบในเครื่องเหมาะสำหรับ:
- คุณทำงานกับข้อมูลที่ไม่สามารถออกจากเครือข่ายของคุณได้ เนื่องจากนโยบายหรือความชอบ
- คุณมี GPU ที่มีหน่วยความจำเพียงพอแล้วและไม่ต้องการจ่ายตามการใช้งาน
- คุณต้องการทดลองกับโมเดล การควอนไทซ์ และการปรับแต่งต่างๆ
- คุณต้องการทำงานออฟไลน์
ในแง่ฮาร์ดแวร์ กฎทั่วไปคือโมเดลต้องพอดีกับหน่วยความจำวิดีโอ หรือ RAM หากยอมรับความเร็วที่ช้าลง โมเดลขนาด 7 หรือ 8 พันล้านพารามิเตอร์ที่ควอนไทซ์เป็น 4 บิตมักจะพอดีกับหน่วยความจำประมาณ 5 หรือ 6 GB โมเดลที่มีพารามิเตอร์หลายหมื่นล้านต้องการมากกว่านั้นและมักต้องใช้หลายการ์ด ค่าที่แน่นอนขึ้นอยู่กับโมเดลและการควอนไทซ์ ดังนั้นให้ตรวจสอบข้อมูลจำเพาะของโมเดลเฉพาะ
เมื่อไหร่ควรใช้ API
API มีประสิทธิภาพในกรณีเหล่านี้:
- เครื่องของคุณไม่มี GPU หรือ GPU ที่มีอยู่มีสมรรถนะไม่สูง
- คุณกำลังสร้างแอป บอท หรือเครื่องมือภายในที่ต้องการให้ใช้งานได้พร้อมกันหลายผู้ใช้ ด้วยคีย์แบบเต็มคุณจะได้รับ 8 คำขอแบบคอนเคอร์เรนต์และ 300 คำขอต่อนาที
- การใช้งานของคุณไม่สม่ำเสมอ: มีช่วงที่ใช้งานหนักเป็นชั่วโมง และหยุดไปหลายวัน ด้วยเครดิตแบบเติมเงินล่วงหน้า คุณจะไม่ต้องจ่ายค่าใด ๆ จนกว่าจะใช้งาน และเครดิตไม่หมดอายุ
- คุณไม่ต้องการพึ่งพาการที่เครื่องของคุณต้องเปิดอยู่
API นี้เข้ากันได้กับ OpenAI ดังนั้นการใช้ SDK จึงทำได้เพียงสองบรรทัด:
from openai import OpenAI
client = OpenAI(base_url="https://api.llmsincensura.com/v1", api_key="TU_CLAVE")
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Redacta el primer párrafo de una novela de ciencia ficción."}],
)
print(r.choices[0].message.content)
เป็นโมเดลแบบเปิดเพียงตัวเดียวที่รันโดยผู้ให้บริการอิสระ และสร้างได้เฉพาะข้อความ ไม่ใช่ API ทางการของบริษัท AI รายใหญ่ใด ๆ และไม่ได้แบ่งปันระหว่างหลายราย
การคำนวณต้นทุน
ราคา API คือ $0.15 ต่อล้านโทเคนของอินพุต และ $0.50 ต่อล้านโทเคนของเอาต์พุต มีระดับการใช้งานรายเดือน 3 ระดับ:
| การใช้งานต่อเดือน | อินพุต | เอาต์พุต | รวม |
|---|---|---|---|
| อินพุต 5M, เอาต์พุต 2M | 5 × 0.15 = $0.75 | 2 × 0.50 = $1.00 | $1.75 |
| อินพุต 50M, เอาต์พุต 20M | 50 × 0.15 = $7.50 | 20 × 0.50 = $10.00 | $17.50 |
| อินพุต 500M เอาต์พุต 100M | 500 × 0.15 = $75.00 | 100 × 0.50 = $50.00 | $125.00 |
สำหรับฝั่งการรันในเครื่อง ให้คำนวณด้วยข้อมูลของคุณ: เครื่องที่มี GPU ที่ใช้พลังงาน 300 W เป็นเวลา 4 ชั่วโมงต่อวัน จะใช้พลังงาน 0.3 kW × 4 ชม. × 30 วัน = 36 kWh ต่อเดือน คูณด้วยราคาไฟฟ้าต่อหน่วยของคุณ แล้วบวกค่าเสื่อมราคาของฮาร์ดแวร์ และประเมินเวลาบำรุงรักษาของคุณ ในการใช้งานระดับต่ำและปานกลาง ต้นทุน API มักจะต่ำกว่าค่านี้; แต่ในการใช้งานระดับสูงต่อเนื่องมาก ๆ การมีเครื่องเซิร์ฟเวอร์ส่วนตัวที่จ่ายค่าฮาร์ดแวร์ไปแล้วอาจคุ้มค่ากว่า นี่เป็นการคำนวณที่คุณต้องตัดสินใจเอง
สิ่งที่ควรคาดหวังจากโมเดลแบบไม่เซ็นเซอร์
"แบบไม่เซ็นเซอร์" หมายถึงโมเดลที่ปรับแต่งมาเพื่อไม่ปฏิเสธคำขอเนื้อหาในบริบทการใช้งานที่ถูกต้องตามกฎหมายระหว่างผู้ใหญ่: วรรณกรรมแนวมืด บทบาทสมมติ (roleplay) หรือหัวข้ออ่อนไหวที่นำเสนออย่างตรงไปตรงมา ไม่ได้หมายความว่าไม่มีขีดจำกัดเลย เนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์จะถูกตัดออกเสมอ และโมเดลก็ยังคงทำผิดพลาดเหมือนโมเดลอื่น ๆ: อาจสร้างข้อมูลเท็จ สูญเสียบริบทในบทสนทนาที่ยาวนาน หรือทำซ้ำข้อความ
ด้วยเหตุนี้ ทั้งการรันในเครื่องและผ่าน API จึงควรทดสอบโมเดลด้วยพรอมต์ของคุณเองก่อนตัดสินใจใช้งาน ด้วยเครดิตทดลองใช้ $0.50 ที่สามารถขอได้ที่ หน้าคีย์ คุณจะมีพื้นที่เพียงพอสำหรับการทดสอบคำขอขนาดกลางได้หลายร้อยครั้ง
แนวทางแบบผสมผสาน
ไม่จำเป็นต้องเลือกตลอดไป รูปแบบทั่วไปคือใช้ API สำหรับการพัฒนาและการใช้งานจริง และเก็บโมเดลขนาดเล็กแบบในเครื่องไว้สำหรับการทดสอบแบบออฟไลน์หรือสำหรับข้อมูลที่มีความละเอียดอ่อนเป็นพิเศษ เนื่องจากทั้งสองรูปแบบยอมรับรูปแบบเดียวกัน การเปลี่ยนระหว่างทั้งสองจึงเป็นการแก้ไข URL ฐานและชื่อโมเดล
หากคุณจะนำ API ไปผสานรวมในแอปพลิเคชัน บทความเกี่ยวกับ การผสานรวม API ของ AI แบบไม่เซ็นเซอร์ จะอธิบายรายละเอียดด้านวิศวกรรม และ เอกสารประกอบ จะระบุพารามิเตอร์ต่าง ๆ ราคาและโบนัสการเติมเงิน (เริ่มต้น $20 ในคริปโต) มีอยู่ที่ หน้าราคา
คู่มือเพิ่มเติม
คำถามที่พบบ่อย
ฉันสามารถรันโมเดลของ API นี้บนเครื่องของฉันได้หรือไม่?
API นี้เป็นบริการที่โฮสต์ไว้ หากคุณต้องการรันในเครื่อง คุณต้องดาวน์โหลดโมเดลแบบเปิดด้วยตัวเอง ซึ่งจะมีข้อจำกัดตามฮาร์ดแวร์ของคุณ
ฉันต้องการฮาร์ดแวร์อะไรบ้างสำหรับโมเดลในเครื่อง?
โมเดลต้องพอดีกับ VRAM โมเดลขนาด 7 หรือ 8 พันล้านพารามิเตอร์ที่ควอนไทซ์เป็น 4 บิตมักจะพอดีกับ VRAM ประมาณ 5 หรือ 6 GB ขึ้นอยู่กับรูปแบบ; ตรวจสอบสเปกของโมเดลเฉพาะ
API เก็บพรอมต์ของฉันเพื่อใช้ในการฝึกโมเดลหรือไม่?
ไม่ พรอมต์ไม่ถูกนำไปใช้ในการฝึกโมเดล
อนุญาตเนื้อหาทุกประเภทหรือไม่?
ไม่ ตอบกลับโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานที่ถูกต้องตามกฎหมายระหว่างผู้ใหญ่ แต่จะไม่อนุญาตเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์
สร้างภาพได้หรือไม่?
ไม่ รองรับเฉพาะข้อความ: ไม่มีภาพ เสียง วิดีโอ embedding หรือ fine-tuning
คีย์ของคุณอยู่ห่างออกไปเพียงขั้นตอนเดียว
สร้างบัญชี คัดลอกคีย์ และเปลี่ยน Base URL ง่ายขนาดนี้
รับคีย์ API