TH ▾
API uncensored สำหรับ AI ที่ไม่มีตัวกรองllmsincensura.com
$0.15ต่อ 1M โทเคนอินพุต
100,000หน้าต่างบริบทของโทเคน
รับคีย์ API

หน้าแรกคู่มือ

LLM แบบไม่เซ็นเซอร์: ในเครื่องหรือผ่าน API แบบใดดีกว่า

วิธีนำ AI แบบไม่มีตัวกรองไปใช้ในงานของคุณ

หากคุณกำลังมองหา LLM แบบไม่เซ็นเซอร์ มีสองทางเลือก: ดาวน์โหลดไปรันบนเครื่องของคุณเอง หรือเรียกใช้ผ่าน API และจ่ายตามจำนวนโทเคนที่ใช้ ความเหมาะสมขึ้นอยู่กับฮาร์ดแวร์ของคุณ ระดับการใช้งาน และเวลาที่คุณต้องการใช้ในการดูแลรักษา

คอมพิวเตอร์ที่มี GPU อยู่ทางซ้ายและเซิร์ฟเวอร์คลาวด์อยู่ทางขวาเชื่อมต่อกันด้วยแสงสว่าง

การตัดสินใจในตาราง

สำหรับ llm แบบไม่เซ็นเซอร์ การเลือกระหว่างแบบติดตั้งเองและ API สรุปได้จากปัจจัยเหล่านี้:

ปัจจัยในเครื่องAPI
การเริ่มต้นใช้งานชั่วโมง: ติดตั้ง ดาวน์โหลดโมเดล และทดสอบเวอร์ชันต่างๆนาที: เพียงแค่คีย์ API และ Base URL
ต้นทุนเริ่มต้นฮาร์ดแวร์ที่มีอยู่แล้วหรือต้องซื้อเพิ่มไม่มี; ลองใช้เครดิต $0.50
ต้นทุนต่อเนื่องไฟฟ้าและเวลาของคุณต่อโทเคน ไม่มีค่าสมาชิก
ความเป็นส่วนตัวสูงสุด: ไม่มีข้อมูลออกจากเครื่องของคุณพรอมต์ของคุณส่งไปยังผู้ให้บริการ; ไม่ถูกนำไปใช้ฝึกโมเดล
คุณภาพและขนาดจำกัดด้วยหน่วยความจำวิดีโอของคุณโมเดลที่อาจไม่พอดีกับเครื่องของคุณ
การบำรุงรักษาคุณทำเองผู้ให้บริการทำ
ทำงานได้โดยไม่ต้องใช้อินเทอร์เน็ตใช่ไม่

ไม่มีคอลัมน์ใดชนะในทุกด้าน หากความกังวลหลักคือความเป็นส่วนตัวแบบสมบูรณ์หรือการทำงานแบบออฟไลน์ ให้ใช้แบบในเครื่อง หากต้องการไม่ต้องจัดการอะไรเลย ให้ใช้ API

เมื่อควรรันแบบโลคัล

เครื่องมืออย่าง Ollama, LM Studio หรือ llama.cpp สามารถรันโมเดลแบบเปิดในเครื่องของคุณได้ ในขณะที่หลายตัวเปิดเผยเอนด์พอยต์ที่เข้ากันได้กับ OpenAI บน localhost ทำให้โค้ดชุดเดียวกันใช้ได้ทั้งสองทาง การใช้งานแบบในเครื่องเหมาะสำหรับ:

  • คุณทำงานกับข้อมูลที่ไม่สามารถออกจากเครือข่ายของคุณได้ เนื่องจากนโยบายหรือความชอบ
  • คุณมี GPU ที่มีหน่วยความจำเพียงพอแล้วและไม่ต้องการจ่ายตามการใช้งาน
  • คุณต้องการทดลองกับโมเดล การควอนไทซ์ และการปรับแต่งต่างๆ
  • คุณต้องการทำงานออฟไลน์

ในแง่ฮาร์ดแวร์ กฎทั่วไปคือโมเดลต้องพอดีกับหน่วยความจำวิดีโอ หรือ RAM หากยอมรับความเร็วที่ช้าลง โมเดลขนาด 7 หรือ 8 พันล้านพารามิเตอร์ที่ควอนไทซ์เป็น 4 บิตมักจะพอดีกับหน่วยความจำประมาณ 5 หรือ 6 GB โมเดลที่มีพารามิเตอร์หลายหมื่นล้านต้องการมากกว่านั้นและมักต้องใช้หลายการ์ด ค่าที่แน่นอนขึ้นอยู่กับโมเดลและการควอนไทซ์ ดังนั้นให้ตรวจสอบข้อมูลจำเพาะของโมเดลเฉพาะ

เมื่อไหร่ควรใช้ API

API มีประสิทธิภาพในกรณีเหล่านี้:

  • เครื่องของคุณไม่มี GPU หรือ GPU ที่มีอยู่มีสมรรถนะไม่สูง
  • คุณกำลังสร้างแอป บอท หรือเครื่องมือภายในที่ต้องการให้ใช้งานได้พร้อมกันหลายผู้ใช้ ด้วยคีย์แบบเต็มคุณจะได้รับ 8 คำขอแบบคอนเคอร์เรนต์และ 300 คำขอต่อนาที
  • การใช้งานของคุณไม่สม่ำเสมอ: มีช่วงที่ใช้งานหนักเป็นชั่วโมง และหยุดไปหลายวัน ด้วยเครดิตแบบเติมเงินล่วงหน้า คุณจะไม่ต้องจ่ายค่าใด ๆ จนกว่าจะใช้งาน และเครดิตไม่หมดอายุ
  • คุณไม่ต้องการพึ่งพาการที่เครื่องของคุณต้องเปิดอยู่

API นี้เข้ากันได้กับ OpenAI ดังนั้นการใช้ SDK จึงทำได้เพียงสองบรรทัด:

from openai import OpenAI

client = OpenAI(base_url="https://api.llmsincensura.com/v1", api_key="TU_CLAVE")
r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Redacta el primer párrafo de una novela de ciencia ficción."}],
)
print(r.choices[0].message.content)

เป็นโมเดลแบบเปิดเพียงตัวเดียวที่รันโดยผู้ให้บริการอิสระ และสร้างได้เฉพาะข้อความ ไม่ใช่ API ทางการของบริษัท AI รายใหญ่ใด ๆ และไม่ได้แบ่งปันระหว่างหลายราย

การคำนวณต้นทุน

ราคา API คือ $0.15 ต่อล้านโทเคนของอินพุต และ $0.50 ต่อล้านโทเคนของเอาต์พุต มีระดับการใช้งานรายเดือน 3 ระดับ:

การใช้งานต่อเดือนอินพุตเอาต์พุตรวม
อินพุต 5M, เอาต์พุต 2M5 × 0.15 = $0.752 × 0.50 = $1.00$1.75
อินพุต 50M, เอาต์พุต 20M50 × 0.15 = $7.5020 × 0.50 = $10.00$17.50
อินพุต 500M เอาต์พุต 100M500 × 0.15 = $75.00100 × 0.50 = $50.00$125.00

สำหรับฝั่งการรันในเครื่อง ให้คำนวณด้วยข้อมูลของคุณ: เครื่องที่มี GPU ที่ใช้พลังงาน 300 W เป็นเวลา 4 ชั่วโมงต่อวัน จะใช้พลังงาน 0.3 kW × 4 ชม. × 30 วัน = 36 kWh ต่อเดือน คูณด้วยราคาไฟฟ้าต่อหน่วยของคุณ แล้วบวกค่าเสื่อมราคาของฮาร์ดแวร์ และประเมินเวลาบำรุงรักษาของคุณ ในการใช้งานระดับต่ำและปานกลาง ต้นทุน API มักจะต่ำกว่าค่านี้; แต่ในการใช้งานระดับสูงต่อเนื่องมาก ๆ การมีเครื่องเซิร์ฟเวอร์ส่วนตัวที่จ่ายค่าฮาร์ดแวร์ไปแล้วอาจคุ้มค่ากว่า นี่เป็นการคำนวณที่คุณต้องตัดสินใจเอง

สิ่งที่ควรคาดหวังจากโมเดลแบบไม่เซ็นเซอร์

"แบบไม่เซ็นเซอร์" หมายถึงโมเดลที่ปรับแต่งมาเพื่อไม่ปฏิเสธคำขอเนื้อหาในบริบทการใช้งานที่ถูกต้องตามกฎหมายระหว่างผู้ใหญ่: วรรณกรรมแนวมืด บทบาทสมมติ (roleplay) หรือหัวข้ออ่อนไหวที่นำเสนออย่างตรงไปตรงมา ไม่ได้หมายความว่าไม่มีขีดจำกัดเลย เนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์จะถูกตัดออกเสมอ และโมเดลก็ยังคงทำผิดพลาดเหมือนโมเดลอื่น ๆ: อาจสร้างข้อมูลเท็จ สูญเสียบริบทในบทสนทนาที่ยาวนาน หรือทำซ้ำข้อความ

ด้วยเหตุนี้ ทั้งการรันในเครื่องและผ่าน API จึงควรทดสอบโมเดลด้วยพรอมต์ของคุณเองก่อนตัดสินใจใช้งาน ด้วยเครดิตทดลองใช้ $0.50 ที่สามารถขอได้ที่ หน้าคีย์ คุณจะมีพื้นที่เพียงพอสำหรับการทดสอบคำขอขนาดกลางได้หลายร้อยครั้ง

แนวทางแบบผสมผสาน

ไม่จำเป็นต้องเลือกตลอดไป รูปแบบทั่วไปคือใช้ API สำหรับการพัฒนาและการใช้งานจริง และเก็บโมเดลขนาดเล็กแบบในเครื่องไว้สำหรับการทดสอบแบบออฟไลน์หรือสำหรับข้อมูลที่มีความละเอียดอ่อนเป็นพิเศษ เนื่องจากทั้งสองรูปแบบยอมรับรูปแบบเดียวกัน การเปลี่ยนระหว่างทั้งสองจึงเป็นการแก้ไข URL ฐานและชื่อโมเดล

หากคุณจะนำ API ไปผสานรวมในแอปพลิเคชัน บทความเกี่ยวกับ การผสานรวม API ของ AI แบบไม่เซ็นเซอร์ จะอธิบายรายละเอียดด้านวิศวกรรม และ เอกสารประกอบ จะระบุพารามิเตอร์ต่าง ๆ ราคาและโบนัสการเติมเงิน (เริ่มต้น $20 ในคริปโต) มีอยู่ที่ หน้าราคา

คู่มือเพิ่มเติม

คำถามที่พบบ่อย

ฉันสามารถรันโมเดลของ API นี้บนเครื่องของฉันได้หรือไม่?

API นี้เป็นบริการที่โฮสต์ไว้ หากคุณต้องการรันในเครื่อง คุณต้องดาวน์โหลดโมเดลแบบเปิดด้วยตัวเอง ซึ่งจะมีข้อจำกัดตามฮาร์ดแวร์ของคุณ

ฉันต้องการฮาร์ดแวร์อะไรบ้างสำหรับโมเดลในเครื่อง?

โมเดลต้องพอดีกับ VRAM โมเดลขนาด 7 หรือ 8 พันล้านพารามิเตอร์ที่ควอนไทซ์เป็น 4 บิตมักจะพอดีกับ VRAM ประมาณ 5 หรือ 6 GB ขึ้นอยู่กับรูปแบบ; ตรวจสอบสเปกของโมเดลเฉพาะ

API เก็บพรอมต์ของฉันเพื่อใช้ในการฝึกโมเดลหรือไม่?

ไม่ พรอมต์ไม่ถูกนำไปใช้ในการฝึกโมเดล

อนุญาตเนื้อหาทุกประเภทหรือไม่?

ไม่ ตอบกลับโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานที่ถูกต้องตามกฎหมายระหว่างผู้ใหญ่ แต่จะไม่อนุญาตเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์

สร้างภาพได้หรือไม่?

ไม่ รองรับเฉพาะข้อความ: ไม่มีภาพ เสียง วิดีโอ embedding หรือ fine-tuning

คีย์ของคุณอยู่ห่างออกไปเพียงขั้นตอนเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน Base URL ง่ายขนาดนี้

รับคีย์ API