Šis puslapis nėra tiesioginis — žinutės atnaujinamos pagal tvarkaraštį. Paskutinį kartą atnaujinta . Kito atnaujinimo laukiama apie . Laikas rodomas Vilniaus laiku (EET).
čia tą Jacob Coxon cituoja (kur iš Anthropic išėjo ir šiaip yra keistokas atvejis, gali būti sukonstruotas), bet pateikia ir alternatyvų kampą.
pvz. „Tiesą sakant, daugelis ekspertų trumpalaikes grėsmes įžvelgia ne tiek nuogąstavimuose dėl žmonijos išnykimo, kiek visoje virtinėje netiesioginių dirbtinio intelekto sistemų naudojimo pasekmių, kurios egzistuoja jau dabar, net nesukūrus superintelekto.“
Bet grėsmė yra, aišku. Gal ne šiemet, bet artėjam.
We’ve observed agents discovering progressively more complex tool use while playing a simple game of hide-and-seek. Through training in our new simulated hid...
Nu, vaizdas lyg kažkas kitas jo darže kažką neplanuotai pridirbo. Bet nežinau detaliai, čia tik užmetus akį kažkaip keistai pasirodė tas pasimetimas.. aš pats po vieną sesiją leidžiu dažniausiai; nėra tiek skubos, kad paraleliai reikėtų, o jei ką – jis pats sub-agentus pasikuria.
Darius minėjo kažkada, kad jo agentai vienas kitam ant kulnų lipa 🙂
Mindaugas: offtopic klausimas greitas – gal esi pažįstamas su Kristijonu Jakobsonu? (Tuo, kur krapą pagamino). Rašau straipsnį Lietuvos rytui; išsiunčiau jam laišką pirmadienį, bet paignoravo. Ieškau kaip tiesiau susisiekti 🙂
aš jam normalų laišką (email) parašiau
iš savo asmeninio, @….lt neturiu :D
pažįsti jį, Dariau?
nu, jei gali, paklausk ar gavo laišką pirmadienį iš Rimo Abromavičiaus
Teoriškai, jei user input'ą paduodi LLM'ui, įmanoma apeiti visas tokias dekoracijas. Savo esme, problema tapati SQL injection, kur visokios quoting funkcijos yra didelis pažeidžiamumų šaltinis. Vienintelis tikras būdas – atskirti data nuo prompt'o, ko LLM'ai iš esmės nesugeba daryti architektūriškai. Liūdna situacija, ypač kai kiti AI pradės apeidinėti visus tuos dekoravimus labai kūrybiškais būdais (binary stuff 🤓).
🔥1
žmonės turi pirmi inicijuoti, kad nebūtų spam'o :)
Tik įspėkim žmones tuomet 🙂
Kadaise turėjau trumpą nakties pokalbį IRC #debian kaip top1 Google search result ieškant manęs pagal nick'ą 😁
(tuomet net neįtariau, kad log'ai skelbiami viešai)
AI aprašymas Vaizdas palygina du dirbtinio intelekto agentų veikimo modelius: viename atveju šakninis agentas sekliškai atlieka daugelį paieškų, todėl jo kontekstas nuolat plečiasi, o kitame atveju jis deleguoja užduotis dvylikai subagentų, kurie dirba lygiagrečiai ir grąžina tik trumpas santraukas, taip išlaikant šakninį kontekstą stabilų.
Sugeneravo dirbtinio intelekto modelis qwen3.8-27b-dk:latest (vienu ėjimu, be samprotavimo biudžeto). Žmogus netikrino.
aha, grynai apie tokį modelį ir mąsčiau :)
labai spalvotai-animuotai atrodė, nebandžiau dar 😁
Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident
Two METR staff members and a Redwood Research contractor investigated an incident in which OpenAI agents coordinated a multi-day hack of Hugging Face on a shared unsanctioned message board.
konteksto tik 32768 tokenų, bet aš kol kas nieko didelio neleidžiu – bandysiu duot lokaliai paštą sutvarkyt. Lieka video RAM'o desktopo paišymui, nes čia vienintelė plokštė kompe 😁
ir dar norėjau Pi harness'ą išbandyt, tai ta pačia proga žaidžiuosi dabar
heh, visai kietai – išnaudojus sesijos limitą Claude dabar leidžia kažkokį /low-priority režimą – gali toliau dirbti, tik viskas lėčiau, esi mažiau svarbus, naudoji weekly limit'ą
Rodoma paskutinė surinkta leidžiama būsena; pašalinimų suderinimas nebaigtas. Visas pokalbis — Telegram grupėje.
