Poďme si po poriadku rozobrať, čo Hassabis vlastne povedal a prečo by to malo zaujímať aj ľudí, ktorí sa o technológie bežne nezaujímajú.

Čo je AGI a prečo ju Hassabis prirovnáva k objaveniu ohňa

AGI je skratka pre všeobecnú umelú inteligenciu. Jednoducho povedané ide o systém, ktorý zvládne všetky rozumové schopnosti ľudského mozgu, nielen jednu úzku úlohu. Dnešná AI vie výborne prekladať alebo generovať obrázky, no AGI by mala byť univerzálna rovnako ako človek.

Hassabis zdôrazňuje, že toto nie je bežný technologický pokrok. Neporovnáva AGI s internetom ani s mobilom, ale rovno s objavením elektriny alebo ohňa. Použil pritom jednu vetu, ktorá sa okamžite rozšírila po celom internete. V podstate sme totiž našli spôsob, ako prinútiť piesok premýšľať, keďže počítačové čipy sú vyrobené z kremíka, teda z bežného piesku. Znie to ako zázrak a Hassabis to tak aj vníma.

Dopad tejto technológie má byť podľa neho obrovský, možno desaťnásobne väčší ako priemyselná revolúcia a k tomu desaťkrát rýchlejší. Umelá inteligencia nám vraj pomôže riešiť najväčšie problémy spoločnosti, od hľadania nových liekov cez čistú energiu až po vývoj úplne nových materiálov.

Nová éra hojnosti, kde zdroje už nebudú brzdou

Jedna z najsmelších myšlienok v celom texte hovorí o svete, v ktorom zdroje prestanú byť prekážkou ľudského pokroku. Hassabis verí, že AGI nás môže priviesť do éry hojnosti, kde budeme mať dostatok energie, materiálov aj vedeckých objavov na to, aby sme posunuli medicínu, hospodárstvo aj samotnú kvalitu života na úplne novú úroveň.

Práve preto celý život pracuje na umelej inteligencii. Je presvedčený, že ak ju postavíme a nasadíme zodpovedne, stane sa jednou z najužitočnejších a najviac premieňajúcich technológií v dejinách.

Riziká, ktoré rastú spolu so schopnosťami AI

Hassabis však nie je naivný optimista. Väčšiu časť svojho textu venuje práve rizikám. Upozorňuje, že čím bližšie sme k AGI, tým naliehavejšie musíme riešiť jej tienisté stránky. Už teraz vidíme, aké problémy dokážu najsilnejšie modely spôsobiť v oblasti kybernetickej bezpečnosti, a čoskoro sa môžu pridať aj hrozby spojené s biologickými či jadrovými zbraňami.

Zvláštnu pozornosť venuje systémom, ktoré sa dokážu samy zlepšovať a konať čoraz samostatnejšie. Pri takýchto systémoch budeme podľa neho potrebovať naozaj pevné poistky, aby sme nad nimi udržali kontrolu. Problém je, že pokrok v tejto oblasti je taký rýchly, že predbieha naše chápanie toho, ako celá technológia vlastne funguje. Nikto na svete si dnes nie je istý, čo bude ďalej, a nezhodnú sa na tom ani samotní experti.

Jeho odporúčanie znie triezvo. Keď je neistota veľká a stávka vysoká, správnou stratégiou je opatrný optimizmus. Ísť dopredu, ale s otvorenými očami a s dostatkom času na to, aby sme ďalší krok spravili poriadne. A práve to podľa neho ako spoločnosť aktuálne nerobíme, pretože sme uväznení v mimoriadne intenzívnych obchodných a geopolitických pretekoch.

Hassabisov plán: nezávislý orgán, ktorý bude AI testovať

Najkonkrétnejšia časť textu je návrh na vznik nového štandardizačného orgánu pre špičkovú AI. Hassabis navrhuje, aby prvý krok urobili Spojené štáty, keďže majú na to ekonomické aj technické predpoklady. Nový orgán by mal fungovať ako partnerstvo štátu a súkromného sektora, podobne ako inštitúcia, ktorá dohliada na finančné trhy.

Fungovalo by to zhruba takto. Vývojári najsilnejších modelov by ich najprv dobrovoľne posielali tomuto orgánu na kontrolu, a to až 30 dní pred vypustením na verejnosť. Odborníci by potom testovali, či model nepredstavuje riziko v citlivých oblastiach ako kybernetická bezpečnosť alebo biologické hrozby. Preverovali by tiež, či sa model nesnaží obísť bezpečnostné poistky alebo či neklame. Ak by systém spĺňal prísne kritériá, laboratórium by získalo prestížne označenie špičkového pracoviska.

Testy by sa pravidelne aktualizovali, aby držali krok s tým, ako sa AI zlepšuje. A ak by to situácia vyžadovala, tento rámec by dokázal vývoj aj pribrzdiť. Hassabis verí, že takýto americký začiatok by sa mohol stať základom pre spoločné medzinárodné pravidlá, keďže umelá inteligencia sa dotkne celej planéty. Podobnú myšlienku medzinárodnej spolupráce som už na tomto webe rozoberal v článku o medzinárodnej aliancii pre kontrolu AI.

Vznikne Medzinárodná aliancia pre kontrolu AI?

Budúcnosť ešte nie je napísaná

Hassabis svoj text uzatvára zmierlivo aj naliehavo zároveň. AGI má podľa neho potenciál stať sa najlepším nástrojom na posun vedy a medicíny, no aby sa to podarilo, musíme si najprv dobre postaviť technické základy a spojiť tie najlepšie mozgy planéty.

Zaujímavé je, že si uvedomuje aj otázky, ktoré presahujú technológiu. Aké nové ekonomické modely budeme potrebovať vo svete, kde zdroje nie sú problémom? Podľa akých hodnôt budeme žiť a čo bude pre človeka znamenať zmysel a naplnenie? Tieto otázky sa podľa neho nedajú a ani nesmú nechať len na technológov, pretože sa týkajú celej spoločnosti.

Jeho záverečná myšlienka je jednoduchá a silná. Budúcnosť ešte nie je napísaná a máme vzácne okno predtým, ako AGI dorazí. To, čo urobíme teraz, rozhodne o tom, ako bude vyzerať ďalšia kapitola našej civilizácie.

Mimochodom, otázku, či sa v moderných modeloch nerodí niečo ako vlastné vedomie, sme rozoberali v článku Má Claude vedomie, a téme systémov, ktoré si samy píšu kód, sme sa venovali v článku Keď AI začne budovať samu seba.

Ak ťa téma umelej inteligencie zaujíma a chceš mať prehľad o novinkách skôr než ostatní, prihlás sa na náš newsletter Zaujalo ma AI. Každý týždeň v ňom dostaneš to najdôležitejšie zo sveta AI, zrozumiteľne po slovensky a bez zbytočného balastu.

Príspevok Demis Hassabis: AGI príde o pár rokov a zmení svet viac ako priemyselná revolúcia je zobrazený ako prvý na ZAUJALOMA.AI.