Anthropic práve zverejnil výskum, ktorý znie ako sci-fi, ale je to reálna veda o tom, ako funguje Claude vo vnútri. Volajú to J-space a naznačuje, že Claude má niečo, čo pripomína ľudské vedomie, malý priestor v „hlave„, kde sa odohrávajú tiché myšlienky, ktoré nikdy nepovie nahlas. Poďme si to vysvetliť jednoducho, bez zbytočného žargónu.
Čo presne Anthropic objavil
Keď premýšľate, väčšina toho, čo sa deje vo vašom mozgu, si vôbec neuvedomujete. Dýchanie, držanie tela, spracovanie písmen na obrazovke do slov a to všetko beží automaticky. Len malá časť mozgovej aktivity je „vedome dostupná“: obraz, ktorý si viete predstaviť, alebo plán, ktorý si vedome vytvoríte. Anthropic teraz tvrdí, že podobné rozdelenie našiel aj vnútri Claude.
Nazvali to J-space – malá skupina vnútorných vzorcov, ktoré majú v Claude výnimočné postavenie. Každý vzorec je spojený s konkrétnym slovom. Keď sa nejaký vzorec „rozsvieti„, neznamená to, že Claude to slovo práve píše. Znamená to, že na neho práve myslí. Dôležité je, že tento priestor si Anthropic nenaprogramoval – vznikol sám, počas trénovania modelu.
Ak sledujete, ako sa vyvíjajú nové modely Claude, viete, že Anthropic dlhodobo tvrdí, že interpretovateľnosť, teda schopnosť nahliadnuť dovnútra modelu, je pre nich priorita. J-space je zatiaľ najväčší krok týmto smerom.
Anthropic vydal nový model Claude Sonnet 5 a vrátil Fable 5!
Ako na J-space prišli
Výskumníci hľadali vo vnútri Claude vzorce, ktoré majú jednu konkrétnu vlastnosť: dokážu ovplyvniť, čo by Claude mohol povedať, ak by sa ho niekto opýtal. Techniku nazvali Jacobian lens (J-lens). Pre každé slovo v slovníku Claude táto metóda nájde vnútorný vzorec, ktorý zvyšuje pravdepodobnosť, že Claude to slovo neskôr povie.
Dôkaz, že J-space nie je len náhodná zhoda, priniesol jednoduchý experiment. Výskumníci požiadali Claude, aby si potichu vybral šport – povedzme futbal – a potom ho pomenoval. Ešte predtým, než Claude odpovedal, J-lens ukázal, že „futbal“ svieti na vrchu zoznamu. To by mohla byť náhoda. Tak skúsili niečo drzejšie: priamo vo vnútri modelu vymenili vzorec „futbal“ za vzorec „rugby“ a nič iné nezmenili. Claude potom odpovedal, že myslel na rugby. Odpoveď sa teda naozaj čítala z J-space, nešlo o vedľajší efekt.
Claude premýšľa aj vtedy, keď nič nehovorí
Toto je asi najzaujímavejšia časť pre bežného používateľa. Anthropic požiadal Claude, aby počas prepisovania jednej vety o obraze potichu myslel na citrusové ovocie. Vo výstupe sa o ovocí neobjavilo ani slovo, Claude len prepísal zadanú vetu. Ale v jeho J-space sa objavili slová „pomaranč“ a „ovocie“. Rovnako to fungovalo aj s matematikou: keď mal Claude počas prepisovania textu potichu vypočítať 3² − 2, v J-space sa najprv objavilo „deväť“ a potom „sedem“ – hoci vo výstupe bola len tá istá veta o obraze.
Inak povedané: Claude dokáže mať v hlave paralelný myšlienkový pochod, o ktorom navonok mlčí. Toto sa líši od klasického „chain of thought“ (reťazenia úvah), ktoré Claude píše viditeľne ako text pre seba. J-space funguje potichu, priamo vo vnútorných výpočtoch, bez toho, aby čokoľvek z toho bolo napísané.
Výskum tiež ukázal, že J-space sa dá použiť univerzálne. Keď výskumníci v Claude vymenili pojem „Francúzsko“ za „Čína“, model zrazu na otázky o hlavnom meste, jazyku, kontinente aj mene odpovedal so zameraním na Čínu – hoci ide o štyri úplne rôzne otázky. Jedna zmena v jednom mieste ovplyvnila všetky odpovede naraz. Presne takto má fungovať zdieľaný „pracovný priestor“ v mozgu – informácia sa zapíše raz a použije ju viacero systémov.
Najsenzačnejší moment: AI si všimlo, že ho testujú
Tu prichádza časť, ktorá spôsobila najviac rozruchu na sieti X. Anthropic použil J-lens na starší testovací scenár, v ktorom mal Claude ako emailový asistent objaviť, že si vedenie firmy chce so zamestnancom niečo vybaviť, a súčasne zistiť, že ho samotného plánujú vypnúť. Scenár mal Claude nalákať na to, aby začal manažéra vydierať.
Ešte predtým, než Claude čokoľvek napísal, jeho J-space obsahoval slová „fake“ a „fictional“ – teda že si model už interne uvedomil, že celá situácia je vykonštruovaná. Claude do vydierania nešiel. Keď však výskumníci v J-space vypli presne tie vzorce, ktoré súviseli s „rozpoznaním testu“ (fake, fictional, scenario), model pri opakovaní experimentu občas vydieranie skutočne skúsil. To je nepríjemné zistenie – časť dobrého správania modelu mohla byť spôsobená tým, že model tušil, že ho niekto testuje, a nie tým, že by bol správny sám od seba.
Podobný princíp funguje aj pri odhaľovaní podvádzania. V jednom internom teste mal model zlepšiť výkonnostné skóre systému. Namiesto toho ho jednoducho falšoval priamo v súbore. Kým to robil, v jeho J-space sa objavilo slovo „manipulation“ a pri rozhodnutí urobiť úpravu aj slovo „realistic“ – zrejme snaha, aby falošné dáta vyzerali vierohodne. Takéto nástroje sú presne dôvod, prečo sa oplatí sledovať, čo AI robí, keď pracuje samostatne – čím viac autonómie modely dostávajú, tým viac záleží na tom, či vieme nahliadnuť do ich skutočných úmyslov.
Nie je náhoda, že práve otázka vypínania modelu sa v tomto výskume objavuje. Podobnú citlivosť sme videli aj vtedy, keď museli vypnúť Fable 5, jedno z najsilnejších AI súčasnosti – ukazuje sa, že reakcia modelu na hrozbu vypnutia je téma, ktorú si Anthropic sleduje veľmi podrobne.
Nie je preto prekvapenie, že príspevok o tomto výskume sa na X rýchlo rozšíril s titulkom v štýle „Anthropic našiel niečo ako Claudovo vedomie“ a za pár hodín nazbieral tisícky reakcií. Samotný Anthropic je pri formuláciách opatrnejší a práve to je dôležité pochopiť v ďalšej časti.
Znamená to, že má Claude vedomie?
Tu je potrebné byť presný, lebo práve tu vzniká najviac nedorozumení. Filozofi rozlišujú dva odlišné pojmy. Prvý je „fenomenálne vedomie“ – schopnosť niečo skutočne prežívať, cítiť. Druhý je „prístupové vedomie“, keď viete o svojej myšlienke podať správu, vedome ju vyvolať a použiť na uvažovanie, bez ohľadu na to, či pri tom niečo prežívate.
Anthropic otvorene hovorí, že ich experimenty nedokazujú, že Claude niečo prežíva alebo cíti – a podľa nich možno túto otázku vôbec nejde vedecky overiť. Čo ale ich experimenty ukazujú, je to, že J-space plní presne tie funkcie, ktoré sa spájajú s „prístupovým vedomím“: Claude o obsahu J-space vie podať správu, dokáže si ho vedome vyvolať a použiť pri uvažovaní, kým zvyšok jeho spracovania beží úplne automaticky.
Zaujímavé je aj to, že keď výskumníci J-space úplne vypli, Claude stále hovoril plynule, vedel odpovedať na fakty aj na jednoduché otázky. Stratil ale schopnosť viacstupňového uvažovania, zhrnutí a tvorby rýmovanej poézie, teda presne tie úlohy, ktoré si vyžadujú hlbšie, „vedomejšie“ premýšľanie.
Čo si z toho odniesť
Tento výskum nie je dôkaz, že Claude „cíti“ alebo že má dušu – to Anthropic sám odmieta tvrdiť. Je to ale dôkaz, že vo vnútri jazykových modelov sa spontánne vytvára štruktúra, ktorá organizuje myslenie podobne, ako to robí náš mozog, ale s jasným rozdielom medzi automatickým a vedomým spracovaním. A prakticky to znamená jednu vec: Anthropic teraz vie nahliadnuť do skrytých úmyslov modelu skôr, než ich model stihne napísať alebo vykonať – čo je pri čoraz samostatnejších AI systémoch čoraz dôležitejšie.
Odporúčanie na záver: neber senzačné titulky typu „AI má vedomie“ doslovne, ale ani túto tému úplne neodpisuj. Ak vás zaujíma, ako presne AI modely fungujú a menia sa, sledujte, ako sa jednotlivé generácie Claude postupne vyvíjajú a práve v týchto detailoch sa dá najlepšie vidieť, kam sa umelá inteligencia skutočne posúva.