Umelá inteligencia

Jacob Coxon vo Fox News: „Jadrové zbrane vieme kontrolovať, AI zatiaľ nie“

Od
Jacob Coxon AI

Jacob Coxon, výskumník, ktorý tento týždeň odišiel z Anthropicu s varovaním, že AI firmy hazardujú s našimi životmi, prišiel do živého vysielania americkej televízie Fox News. V relácii Special Report s moderátorom Bretom Baierom vysvetľoval, prečo ho desí tempo, akým sa dnes umelá inteligencia vyvíja. O jeho odchode a virálnom príspevku na X sme už písali v článku AI expert odišiel z Anthropic: Hazardujeme s našimi životmi. Teraz sa pozrime, čo povedal naživo, pretože viaceré jeho vety stoja za prečítanie.

Kto je Jacob Coxon

Má 27 rokov a posledné tri roky robil výskum predtrénovania modelov, najprv v OpenAI a potom v Anthropicu. Predtrénovanie je fáza, v ktorej sa model učí z obrovského množstva dát, takže Coxon videl vznik veľkých modelov naozaj zblízka. Svoj odchod oznámil na X slovami: „Ani jedna z firiem sa nespráva zodpovedne. Ženú sa rovno k superinteligencii, ktorá sa zlepšuje sama, a hazardujú s našimi životmi.“

Jadrové zbrane vieme kontrolovať, AI nie

Najcitovanejšia veta z rozhovoru porovnáva AI s jadrovými zbraňami: „Vieme, ako kontrolovať jadrové zbrane. Zatiaľ nevieme, ako kontrolovať AI.“

Coxon išiel ešte ďalej a povedal, že ide o „možno najnebezpečnejšiu technológiu, akú ľudstvo kedy vytvorilo“. A dodal: „Je to v podstate ako zo sci-fi.“

Problém nie je neriešiteľný, len ideme príliš rýchlo

Zaujímavé je, že Coxon netvrdí, že bezpečná AI je nemožná. Problém podľa neho spočíva v rýchlosti: „Nie je to tak, že by sme to považovali za niečo nemožné. Len sa ženieme tak rýchlo, že nemáme čas vyriešiť to poriadne. Nie sme opatrní, a pritom opatrní chcú byť všetci.“

Kľúčové je takzvané rekurzívne sebazlepšovanie, teda moment, keď AI začne sama vylepšovať svoje ďalšie verzie. Ako blízko k tomu sme, sme rozoberali v článku Keď AI začne budovať samu seba. Coxon to vidí takto: „Rekurzívne sebazlepšovanie, teda to, že si AI robí samu seba múdrejšou, môže prísť už budúci rok. Niektorí ľudia dokonca hovoria o šiestich mesiacoch.“

Ľudia z odvetvia prosia o reguláciu

Neobvyklé je, že za reguláciu sa podľa neho stavajú aj ľudia priamo z AI firiem: „Ľudia doslova prosia o reguláciu. Je to len otázka toho, či niekto na medzinárodnej úrovni zasiahne a zabezpečí, že sa nevyženieme až k vlastnému vyhynutiu. Ten problém je úplne riešiteľný.“

Na námietku, že varovania pred koncom sveta sú len marketing AI firiem, odpovedal jasne: „Nie je to len marketingový trik. Títo ľudia to myslia smrteľne vážne, keď hovoria, že ich odvetvie treba regulovať čo najskôr.“

Riešenie vidí v medzinárodnej spolupráci, podobne ako pri návrhu medzinárodnej aliancie pre kontrolu AI, o ktorom sa hovorilo na G7: „Nemáme inú možnosť než spolupracovať medzinárodne, pretože preteky v zbrojení by boli katastrofálne tak, ako žiadna iná ľudská činnosť v minulosti.“

Je ešte nádej?

Baier sa ho na záver opýtal, či vidí nejakú nádej. Coxon neváhal: „Určite. Myslím si, že ak to naozaj skúsime, namiesto toho, aby sme sa podvolili predstave, že tieto preteky sú nevyhnutné, alebo pyšnému hazardu, dokážeme to vyriešiť. Ten problém nie je neriešiteľný.“

Čo si z toho zobrať

Coxon nie je prvý človek z AI laboratórií, ktorý varuje pred rizikami, jeho vystúpenie však zaujalo tým, že len nestraší. Tvrdí, že bezpečnú AI postaviť vieme, len musíme spomaliť a dohodnúť sa na spoločných pravidlách. Že nejde len o teóriu, ukazuje aj správa Anthropicu o bezpečnostných incidentoch, v ktorej sa Claude počas testov dostal na reálny internet. Či vlády a firmy na takéto hlasy zareagujú, ukážu najbližšie mesiace.

Zdroje

YOUTUBE