NL ▾
Uncensored API voor AI zonder filtersllmsincensura.com
$0,15per 1M invoertokens
100.000contextvenster van tokens
API-sleutel verkrijgen

HomeGids

LLM ongecensureerd: lokaal of via API, wat is het beste?

Integreer AI zonder filters in je applicatie

Als je een ongecensureerd LLM zoekt, heb je twee opties: het downloaden en lokaal draaien, of het aanroepen via API en betalen per token. Het antwoord hangt af van je hardware, hoe vaak je het gebruikt en hoeveel tijd je wilt besteden aan onderhoud.

PC met GPU links en cloudserver rechts, verbonden door een lichtbrug

De beslissing in een tabel

Voor een ongecensureerd LLM komt de keuze tussen lokaal en API neer op deze factoren:

FactorLokaalAPI
In gebruik nemenUur: installeren, model downloaden, versies testenMinuten: een sleutel en de base URL
Initieel kostenplaatjeDe hardware die je al hebt of moet kopenGeen; probeer met $0,50 krediet
Doorlopende kostenStroom en je tijdPer token, geen abonnement
PrivacyMaximaal: niets verlaat je machineJe prompts reizen naar de provider; hier worden ze niet gebruikt voor training
Kwaliteit en grootteBeperkt door je videogeheugenEen model dat misschien niet op je pc past
OnderhoudDoe je zelfDat doet de provider
Werkt zonder internetJaNee

Geen enkele kolom wint het overal. Als wat het zwaarst weegt, is absolute privacy of offline werk, lokaal. Als je liever niets beheert, API.

Wanneer lokaal draaien verstandig is

Gereedschappen zoals Ollama, LM Studio of llama.cpp draaien open-weight modellen op je computer en verschillende daarvan bieden een OpenAI-compatible endpoint op localhost, zodat dezelfde code voor beide paden werkt. Lokaal past als:

  • Je werkt met gegevens die niet je netwerk mogen verlaten, uit beleid of uit voorkeur.
  • Je hebt een GPU met voldoende geheugen en wilt niet betalen voor gebruik.
  • Je wilt experimenteren met verschillende modellen, kwantisaties en afstellingen.
  • Je hebt behoefte aan offline werking.

Voor hardware is de vuistregel dat het model in het videogeheugen moet passen, of in het RAM-geheugen als je een langzamere uitvoering accepteert. Een model van 7 of 8 miljard parameters, gekwantiseerd naar 4 bits, past meestal in ongeveer 5 of 6 GB. Modellen met tientallen miljarden parameters vragen veel meer en vereisen vaak meerdere kaarten. De exacte cijfers zijn afhankelijk van het model en de kwantisering, dus raadpleeg de specificaties van het specifieke model.

Wanneer de API geschikt is

De API wint in deze gevallen:

  • Je computer heeft geen GPU, of de GPU is bescheiden.
  • Je bouwt een app, een bot of een interne tool en wilt dat deze voor meerdere gebruikers tegelijk werkt. Met een volledige sleutel heb je 8 gelijktijdige requests en 300 per minuut.
  • Je gebruik is onregelmatig: enkele uren intensief gebruik en dagenlang niets doen. Met prepaid tegoed betaal je niets terwijl je het niet gebruikt, en het tegoed vervalt niet.
  • Je geeft de voorkeur aan niet afhankelijk te zijn van het ingeschakeld zijn van je machine.

De API is compatibel met OpenAI, dus het SDK gebruiken is een kwestie van twee regels:

from openai import OpenAI

client = OpenAI(base_url="https://api.llmsincensura.com/v1", api_key="TU_CLAVE")
r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Redacta el primer párrafo de una novela de ciencia ficción."}],
)
print(r.choices[0].message.content)

Het is een enkel open model, uitgevoerd door een onafhankelijke provider, en genereert alleen tekst. Het is niet de officiële API van een groot AI-bedrijf en wordt niet over meerdere entiteiten verdeeld.

De kostenberekening

De API-prijs is $0,15 per miljoen input tokens en $0,50 per miljoen output tokens. Drie niveaus van maandelijks gebruik:

Gebruik per maandInvoerUitvoerTotaal
5M invoer, 2M uitvoer5 × 0.15 = $0,752 × 0.50 = $1,00$1,75
50M invoer, 20M uitvoer50 × 0.15 = $7,5020 × 0.50 = $10,00$17,50
500M input, 100M output500 × 0.15 = $75,00100 × 0.50 = $50,00$125,00

Voor de lokale kant, maak deze berekening met je gegevens: een machine met GPU die 300 W verbruikt tijdens 4 uur per dag gebruikt 0,3 kW × 4 uur × 30 dagen = 36 kWh per maand. Vermenigvuldig dit met de prijs van je kilowattuur, tel de afschrijving van de machine erbij en waardeer je onderhoudstijd. Bij laag en middelmatig gebruik is het bedrag van de API meestal kleiner dan dat; bij zeer hoog continu gebruik kan een eigen, al afgeschreven machine voordeliger zijn. Het is een berekening die jij alleen kunt sluiten.

Wat je kunt verwachten van een ongecensureerd model

"Ongecensureerd" beschrijft een model dat is afgestemd op het niet afwijzen van verzoeken om inhoud voor volwassenen in legale context: donkere fictie, rollenspel, gevoelige onderwerpen eerlijk behandeld. Het betekent niet afwezigheid van limieten. Seksuele inhoud die minderjarigen omvat, is altijd uitgesloten, en het model maakt nog steeds dezelfde fouten als elk ander model: het kan gegevens verzinnen, de draad kwijt raken in lange gesprekken of zich herhalen.

Daarom is het, zowel lokaal als via API, verstandig het model te testen met je eigen prompts voordat je erop inzet. Met het testtegoed van $0,50 dat je ophaalt op de sleutelpagina heb je ruim de ruimte om een paar honderd gemiddelde verzoeken uit te voeren.

Een gemengd pad

Je hoeft niet voor altijd te kiezen. Een veelvoorkomend patroon is de API gebruiken voor ontwikkeling en echt verkeer, en een klein lokaal model aanhouden voor offline tests of voor bijzonder gevoelige gegevens. Omdat beide hetzelfde formaat accepteren, is wisselen tussen de twee alleen een aanpassing van de Base URL en de modelnaam.

Als je de API in een applicatie wilt integreren, beschrijft het artikel over API-integratie van een ongecensureerde AI de engineeringkant, en de documentatie behandelt de parameters. Prijzen en opwaardeerbonussen (vanaf $20, in crypto) staan op de prijzenpagina.

Meer handleidingen

Veelgestelde vragen

Kan ik het model van deze API op mijn machine uitvoeren?

Deze API is een gehoste service. Om lokaal iets uit te voeren, moet je een open-weight model zelf downloaden, met de beperkingen van je hardware.

Welke hardware heb ik nodig voor een lokaal model?

Dat het model in het videogeheugen past. Een model van 7 of 8 miljard parameters, gekwantiseerd naar 4 bits, past meestal in ongeveer 5 of 6 GB, afhankelijk van het formaat; raadpleeg de specificaties van het specifieke model.

Bewaart de API mijn prompts voor training?

Nee, de prompts worden niet gebruikt voor training.

Laat het elke inhoud toe?

Nee. Het reageert zonder inhoudelijke afwijzingen in legale contexten tussen volwassenen, maar nooit seksuele inhoud die minderjarigen omvat.

Genereert het afbeeldingen?

Nee. Alleen tekst: geen afbeeldingen, audio, video, embeddings of fine-tuning.

Je sleutel is nog maar één stap verwijderd

Maak een account aan, kopieer de sleutel en wijzig de Base URL. Zo eenvoudig is het.

API-sleutel verkrijgen