AR ▾
API بدون رقابة للذكاء الاصطناعي بدون فلاترllmsincensura.com
$0.15لكل 1M رمز مدخل
100,000نافذة السياق
احصل على مفتاح API

الرئيسيةالدليل

LLM بدون رقابة: محلي أو عبر الـ API، أيهما أنسب

كيفية دمج الذكاء الاصطناعي غير المقيد في تطبيقك

إذا كنت تبحث عن LLM بدون رقابة، فلك خياران: تنزيله وتشغيله على جهازك، أو الاتصال به عبر API والدفع مقابل كل رمز. تعتمد الإجابة على عتادك، ومدى استخدامه، وكمية الوقت الذي ترغب في تخصيصه للصيانة.

جهاز مزود ببطاقة رسومية (GPU) على اليسار وخادم سحابي على اليمين متصلان بجسر ضوئي

القرار في جدول

بالنسبة لـ LLM بدون رقابة، يُختزل الاختيار بين المحلي وAPI في هذه العوامل:

العاملمحليAPI
الإعدادساعات: التثبيت، تنزيل النموذج، تجربة الإصداراتدقائق: مفتاح API وURL الأساسي
التكلفة الأوليةالأجهزة التي تمتلكها بالفعل أو تحتاج إلى شرائهالا شيء؛ جرّب برصيد $0.50
التكلفة المستمرةالكهرباء ووقتكلكل رمز، بدون اشتراك
الخصوصيةالأعلى: لا شيء يغادر جهازكتنتقل الموجّهات الخاصة بك إلى المزوّد؛ لا تُستخدم هنا للتدريب
الجودة والحجممحدود بذاكرة الفيديو لديكنموذج قد لا يتسع لجهازك
الصيانةأنت تقوم بهايقوم بها المزوّد
يعمل بدون إنترنتنعملا

لا عمود يفوز في كل شيء. إذا كان ما يهمك هو الخصوصية المطلقة أو العمل دون اتصال، فالخيار المحلي. إذا كنت تفضل عدم إدارة أي شيء، فالخيار عبر API.

متى يكون من المناسب تشغيله محلياً

أدوات مثل Ollama وLM Studio أو llama.cpp تشغّل النماذج مفتوحة الأوزان على جهازك، وتكشف نقطة النهاية متوافقة مع OpenAI على localhost، بحيث يعمل نفس الكود لكلا المسارين. المحلي يناسب إذا:

  • تعمل مع بيانات لا يمكن أن تغادر شبكتك، سواء بسبب السياسة أو الرغبة.
  • لديك بالفعل GPU بذاكرة كافية ولا تريد الدفع مقابل الاستخدام.
  • تريد تجربة نماذج مختلفة وتكميم وضبط مختلف.
  • تحتاج إلى العمل دون اتصال.

بالنسبة للأجهزة، القاعدة العملية هي أن النموذج يجب أن يتسع لذاكرة الفيديو، أو ذاكرة الوصول العشوائي إذا كنت تقبل أن يكون أبطأ. نموذج بـ 7 أو 8 مليارات معلمة مُكمّم بتقنية 4 bits عادةً ما يتسع لحوالي 5 أو 6 GB. تتطلب النماذج التي تحتوي على عشرات المليارات من المعلمة مساحة أكبر بكثير، وغالباً ما تتطلب عدة بطاقات. تعتمد الأرقام الدقيقة على النموذج والتكميم، لذا يرجى الرجوع إلى ورقة مواصفات النموذج المحدد.

متى تكون واجهة برمجة التطبيقات (API) مناسبة

تتفوق واجهة برمجة التطبيقات في هذه الحالات:

  • جهازك لا يحتوي على GPU، أو أن الموجود لديك متواضع.
  • أنت تبني تطبيقًا أو بوتًا أو أداة داخلية وتريد أن تعمل لعدة مستخدمين في وقت واحد. بمفتاح كامل، لديك 8 طلبات متزامنة و300 طلب في الدقيقة.
  • استخدامك غير منتظم: ساعات من الكثافة وأيام دون استخدامه. مع الرصيد المسبق الدفع، لا تدفع شيئًا أثناء عدم الاستخدام، ولا ينفد الرصيد.
  • تفضل عدم الاعتماد على بقاء جهازك قيد التشغيل.

واجهة برمجة التطبيقات (API) متوافقة مع OpenAI، لذا فإن استخدام SDK هو مسألة سطرين:

from openai import OpenAI

client = OpenAI(base_url="https://api.llmsincensura.com/v1", api_key="TU_CLAVE")
r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Redacta el primer párrafo de una novela de ciencia ficción."}],
)
print(r.choices[0].message.content)

إنه نموذج مفتوح واحد، يشغله مزود مستقل، ويولد النص فقط. إنه ليس الـ API الرسمي لأي شركة ذكاء اصطناعي كبرى، ولا يوزع الحركة بين عدة نماذج.

حساب التكلفة

سعر واجهة برمجة التطبيقات (API) هو $0.15 لكل مليون رمز (token) مدخل و$0.50 لكل مليون رمز مخرج. ثلاثة مستويات من الاستخدام الشهري:

الاستخدام الشهريمدخلمخرجالمجموع
5M مدخل، 2M مخرج5 × 0.15 = $0.752 × 0.50 = $1.00$1.75
50M مدخل، 20M مخرج50 × 0.15 = $7.5020 × 0.50 = $10.00$17.50
500M مدخل، 100M مخرج500 × 0.15 = $75.00100 × 0.50 = $50.00$125.00

بالنسبة للجانب المحلي، قم بإجراء هذا الحساب باستخدام بياناتك: جهاز يحتوي على GPU يستهلك 300 واط لمدة 4 ساعات يومياً يستهلك 0.3 كيلوواط × 4 ساعات × 30 يوماً = 36 كيلوواط ساعة شهرياً. اضربه في سعر كيلوواط ساعة الخاص بك، وأضف إهلاك الجهاز، وقيّم وقت الصيانة الخاص بك. في الاستخدامات المنخفضة والمتوسطة، تكون تكلفة الـ API عادةً أقل من ذلك؛ في الاستخدامات المستمرة العالية جداً، قد يكون جهازك الخاص المسترد تكلفته بالفعل أكثر فعالية من حيث التكلفة. إنه حساب لا يمكنك إتمامه إلا أنت.

ما يمكن توقعه من نموذج غير خاضع للرقابة

"بدون رقابة" يصف نموذجاً مُعدّلًا لعدم رفض طلبات المحتوى في الاستخدامات القانونية للبالغين: الخيال المظلم، لعب الأدوار، المواضيع الحساسة التي تُعالج بصراحة. لا يعني انعدام القيود. المحتوى الجنسي المتعلق بالقاصرين مستبعد دائماً، والنموذج يرتكب نفس أخطاء أي نموذج آخر: يمكنه اختلاق البيانات، أو فقدان الخيط في المحادثات الطويلة، أو التكرار.

لهذا السبب، سواء في المحلي أو عبر واجهة برمجة التطبيقات (API)، من المستحسن التحقق من النموذج باستخدام النصوص الموجهة (prompts) الخاصة بك قبل الالتزام به. مع رصيد تجريبي بقيمة $0.50 الذي يتم المطالبة به في صفحة المفتاح، لديك مجال كافٍ لإجراء مئات الاستعلامات المتوسطة.

مسار مختلط

لا حاجة لاختيار دائم. نمط شائع هو استخدام واجهة برمجة التطبيقات (API) للتطوير وللاستخدام الفعلي، والحفاظ على نموذج محلي صغير للاختبار دون اتصال أو للبيانات الحساسة بشكل خاص. نظرًا لأن كليهما يقبلان نفس التنسيق، فإن التبديل بينهما يتطلب تعديل عنوان URL الأساسي واسم النموذج.

إذا كنت ستقوم بدمج واجهة برمجة التطبيقات (API) في تطبيق، فإن المقال حول دمج واجهة برمجة التطبيقات لنموذج بدون رقابة يوضح جانب الهندسة، والتوثيق يجمع المعلمات. الأسعار ومكافآت شحن الرصيد (بدءًا من $20، بالعملات المشفرة) موجودة في صفحة الأسعار.

مزيد من الأدلة

الأسئلة الشائعة

هل يمكن تشغيل نموذج هذه API على جهازك؟

هذه API هي خدمة مستضافة. لتشغيل شيء محلياً، ستحتاج إلى تحميل نموذج مفتوح بمفردك، مع قيود عتاد جهازك.

ما العتاد الذي أحتاجه لنموذج محلي؟

أن يتسع النموذج في ذاكرة الفيديو. نموذج بـ 7 أو 8 مليارات معلمة مُكمّم بتقنية 4 بت عادةً ما يتسع في حوالي 5 أو 6 جيجابايت، حسب التنسيق؛ راجع ورقة مواصفات النموذج المحدد.

هل تحفظ الـ API الموجّهات الخاصة بي للتدريب؟

لا، لا تُستخدم الموجّهات في التدريب.

هل يسمح بأي محتوى؟

لا. يستجيب بدون رفضات محتوى في الاستخدامات القانونية بين البالغين، لكن لا يسمح أبداً بالمحتوى الجنسي الذي ينطوي على القاصرين.

هل يولد صوراً؟

لا. نص فقط: بدون صور، صوت، فيديو، تضمينات أو ضبط دقيق.

مفتاحك على بعد خطوة

أنشئ حساباً، انسخ المفتاح، وغير عنوان URL الأساسي. بهذه السهولة.

الحصول على مفتاح API