Bet yra DIDELIS BET.
Tiems, kas su Claude dirba ne tik chato principu, bus lengviau. O kam tokenų ir taip netrūksta, tam viso šito greičiausiai net nereikia.
Bet paaiškinsiu maždaug, kaip tai veikia, kad nešoktumėt ant kiekvieno reelsiuko, kuris žada nemokamus tokenus.
Pirmiausia: tai NĖRA nemokamas Claude ar ChatGPT.
Ši galimybė atsiranda įsidiegus kitą programą aš bandžiau FreeLLMAPI. Ji leidžia vienoje vietoje sujungti kitų AI tiekėjų nemokamus limitus: Groq, NVIDIA, Google ir daugybę kitų.
Kai vienas modelis pasiekia savo limitą ar tampa nepasiekiamas, sistema gali persijungti į kitą.
Kūrėjas skaičiuoja, kad sudėjus palaikomų tiekėjų nemokamus planus teoriškai susidaro apie 7,4 mlrd. tokenų per mėnesį.
Įsivaizduokit, kad Claude Code yra mašina, o AI modelis – variklis.
Per FreeLLMAPI gali pakeisti variklį: vienu metu darbą atliks vienas modelis, pasibaigus jo limitui sistema gali paimti kitą.
Mašina lieka ta pati, bet varikliai nėra vienodo pajėgumo.
Paprastoms užduotims nemokamo modelio gali visiškai užtekti. Sudėtingame darbe jau gali labai aiškiai pasijausti skirtumas.
O dabar tie „BET“, apie kuriuos reelsuose dažniausiai niekas nepasakoja.
1. Su įprastu Claude ar ChatGPT chatu tai neveikia.
Aš Claude Code paleidžiu per PowerShell ir dirbu ten. Vadinasi, reikia pereiti į kitą darbo aplinką, o ne tiesiog toliau rašyti savo įprastame Claude lange.
2. Reikia susirinkti atskirų AI tiekėjų API raktus.
Registruojiesi jų platformose, pasiimi API raktą ir kiekvieną tiekėją prijungi prie FreeLLMAPI.
Aš kol kas prijungiau Groq ir NVIDIA. Kai kurie kiti tiekėjai gali prašyti papildomo patvirtinimo ar mokėjimo kortelės.
3. Jei pradėjai darbą paprastame Claude chate, jo istorija stebuklingai nepersikels į kitą modelį.
Bet jei nuo pradžių dirbi per Claude Code + FreeLLMAPI, yra „Context Handoff“ funkcija, skirta tam, kad keičiantis modeliui kitas suprastų, jog perima jau vykstantį darbą.
Šitą dar reikia normaliai ištestuoti praktiškai, nes teorija yra viena, o kai ant stalo guli realus projektas su krūva failų ir konteksto, prasideda linksmybės.
4. Duomenys vis tiek keliauja tam AI tiekėjui, kurio modelis tuo metu naudojamas.
Todėl su klientų, asmenine ar kita jautria informacija reikia žiūrėti konkretaus tiekėjo privatumo ir duomenų naudojimo sąlygas.
5. Ir svarbiausia: nemokami modeliai nėra automatiškai tokio pat lygio kaip stipriausi Claude ar ChatGPT modeliai.
7,4 mlrd. nemokamų tokenų skamba labai seksualiai, kol neprisimeni, kad svarbu ne tik KIEK tokenų turi, bet ir ką modelis su jais sugeba padaryti.
Ar verta naudoti?
Kol kas negaliu pasakyti, reikia bandyti. Ar bandysiu?
Galbūt jeigu pritrūksiu tokenų dar išbandysiu
Šiaip dirbu su 4 programomis ir visos išpirktos, stengiuosi gauti kokybę, nes pigūs triukai labai muša per laiko sąnaudas.
Šiandien tam praleidau beveik pusę dienos Įsidiegiau, sujungiau Claude Code ir Codex, prisijungiau Groq ir NVIDIA, susitvarkiau routingą ir pagaliau supratau, ką visa ši konstrukcija realiai daro.
BET LABAI GAILA LAIKO
Kai padirbėsiu su jais normaliai ir tada parašysiu, ar tai iš tikrųjų leidžia ilgiau dirbti nepriklausant nuo vieno modelio limitų, ar tiesiog radau dar vieną labai technologišką būdą prisidaryti sau darbo.
O kas nori išbandyti nemokamą būdą, prašau
FreeLLMAPI:
https://github.com/tashfeenahmed/freellmapi/releases/tag/v0.12.0 tiesiog radau dar vieną labai technologišką būdą prisidaryti sau darbo.
O kas nori išbandyti nemokamą būdą, prašau
FreeLLMAPI:
https://github.com/tashfeenahmed/freellmapi/releases/tag/v0.12.0