tai jis stebi kas imama iš atminties? Kaip suprasti „ant karšto“?
Tarkim turiu docs folderį „nuo pirmos dienos“. Ten patys agentai atnaujina duomenis ir tas visai ok veikia kol doc'ai iki ~200k token'ų, pasak Anthropic. Tik virš 200k rekomenduoja RAG naudot.
Jei 300Mb atvejis, tai suprantu.. Bet jei 3Mb? :)
Tarkim turiu docs folderį „nuo pirmos dienos“. Ten patys agentai atnaujina duomenis ir tas visai ok veikia kol doc'ai iki ~200k token'ų, pasak Anthropic. Tik virš 200k rekomenduoja RAG naudot.
Jei 300Mb atvejis, tai suprantu.. Bet jei 3Mb? :)