Žinutės

nes reik GPU ir TEI (embeding/ rerank) 😄

Combined mean for these stress cases:

Ollama semantic: 26.172s
TEI semantic: 4.287s
TEI lexical: 1.181s
TEI made semantic 6.11x faster than Ollama.
Semantic still cost 3.63x lexical with TEI.

ollama *** and must die 😄

liudesiukas ollama tiesa sakant 🙂

1 procesas utilizuoja tik ~20% gpu, kai text embeding interface - 1 procesas uzmusa gpu 100% 😄

tai kad isnaudot gpu su ollama reik 4-8 procesu ir dar balansavimo prieki 🙂

parašiau pm

p.s. as siaip cia rasau daznai "sudetingai ir nesuprantamai" 🙂

bet kadangi retai kada sureaguoja tai nezinau ar perfrazuot ar reik aiskint ar ne 🙂

bet siaip jeigu kazkas sudetingo ir nesuprantamo, tai reiktu iproti augint - kist i AI ir prasyt paaiskint paprastai 🙂

ziureti kaip i "suarchyvuota informacija" 🙂

nes paprastai vienas zodis gali apimti ir visa A4 lapo teksta 😄 ( jeigu i procesus gilintis ) 🙂

taip, sitas sutaupo daug laiko. skaito agentas ir isvercia i asmenine tavo kalba su analogijom kurias geriausiai supranti

uhu

ir siaip, kazkas naujo

nezinau kodel zmones atmeta automatiskai tai ko nesupranta, ypac dabar, AI amziuje 😄

o neturetu buti atvirksciai? kad zmones paima ta info ir sumeta ja i ai kad paaiskintu, as neslepiu, as kartais taip darau kaip dideli deedes pradeda sneket

as daznai darau, ypac kai maitina nauja informacija kas nors is srities kuri idomi bet puses nesuprantu 😄

tai pas LLM kad prefrazuotu 😄

(IT tema)

labai sunku dirbti turint jausma, kad visiskai nesupranti ka darai. bet atsiranda naujas suvokimas, kad sitas jausmas netrukdo gilintis i sferas be gilaus supratimo ir joje gauti pakankamai gera rezultatai nepaisant suvokimo trukumo

apie masinas ir stogus neklausineju 🙂 nes nezinau tiek, kad suprast, kad haliucionuoja 🙂

engineering. siaip yra kai ne knygas skaitai, o bandai ir ziuri rezultata 🙂 aka "su tokiu input gavau toki output" -> ok/fail

praktika 😉

as savo laiku pvz, tai sededavau chatuose pries 20 metu, nesugalvojau pats ka daryt

jo. darai darai darai ir suvoki kad kuo daugiau sufeilinai tuo daugiau ismokai ir tuo daugiau laimejai finale

tai pries atsakydamas pasirasydavau kodo gabala kartais is pirmo karto gaudavosi kartais ne 🙂

bet thats the way

nu arba mokaisi is savo klaidu arba svetimu

bet is svetimu gali mokintis tada kai jau pakankamai patirties turi 🙂

beto, kartais svetima klaida galimybe tai .. vistiek reik isbandyt 😄

svetimas klaidas gali ismokti ir kartais isvengti, bet isisavinti is patirties tai vistiek dazniausiai reikia praeiti

na zinai klaidai klaidai nelygi 🙂 ypac IT tai gal tiesiog ziniu truko / kokio point of view kitokio 🙂

bet jeigu apie klaidas kaip kiti sako ant situacijos kuria megstu

"vaziuodamas pamatai smegduobe, vaziuosi?" sako jo , nes dar nebuvo ivazeve bet , nu nonsense 😄

cia jau pries instrinktus net 😄

as kai siu metu pradzioje pradejau gilintis i ai ir eksperimentuoti, labai dziaugiuosi kad intuicija pasake - pirma pasidaomek siek tiek saugumu - pasidaryk backupus. pasidomejau kas tie backupai - pasidariau. po dvieju dienu mano ai man windowsus istryne, beveik visa kompa - gavau patirti tokia gera.

nu bet keista, man tokiu problemu niekad nebuvo

vieni failai atstatomi jei jiems pasiruosi, kiti nugriauna tiesiai veidu i zeme

kas blogiausia atsitiko, kad su YOLO mode, jis ne per tools redaguoja failus bet scriptina - per python, sed, awk, ir t.t.

tai .env istryne ir db mano testine 😄

tai apsirasiau force kad net ir YOLO mode kad naudotu harness irankius tam ir isimtinais atvejais scriptint 😉

as kazkoki prompta daviau jam - sakiau pakeisk man pagrindine sistemos struktura - jisai suprato windowsu o ne projekto ir pradejo keisti ir trinti

😄

nu jo ziauru cia

codex prikodino siaip tragedija codex

megsta tiek memory tiek instrukcijas ignoruot 😄