Trump odmieta spomaliť AI: Nebezpečná AI je hoax, stačí múdry prezident

Trump AI apokalypsa

Americký prezident Donald Trump dal jasne najavo, čo si myslí o výzvach na spomalenie umelej inteligencie. Na sieti Truth Social napísal, že jediné „zábradlie“, ktoré AI potrebuje, je silný a múdry prezident s vysokým IQ, a snahy o brzdenie vývoja označil za „chorú konšpiráciu proti AI a dátovým centrám“, z ktorej sa podľa neho teší najmä Čína.

Telefonát, ktorý nikto nečakal

V ten istý deň, v pondelok 14. septembra, sedel šéf Nvidie Jensen Huang na paneli konferencie All-In Summit v Los Angeles, keď mu zavolal práve Trump. Huang dal telefón na hlasný odposluch a prezident pred plnou sálou zopakoval, že najšťastnejšia je z celej debaty Čína a kritici AI jej podľa neho len nahrávajú. Huang mu prikývol a povedal, že Trump „prehliadol zložitosť celej témy“. O pár minút neskôr však dodal niečo, čo s prezidentovým postojom až tak nesedí: výskumníka Jacoba Coxona nazval odvážnym a povedal, že whistlebloweri by sa mali brať vážne.

Kto vlastne volá po spomalení

Trump nereaguje na pár aktivistov, ale na ľudí, ktorí AI priamo stavajú. Všetko odštartoval Jacob Coxon, ktorý po troch rokoch v OpenAI a Anthropicu odišiel so slovami, že firmy hazardujú s našimi životmi. V rozhovore pre Fox News neskôr povedal, že jadrové zbrane vieme kontrolovať, AI zatiaľ nie. Evan Hubinger, ktorý v Anthropicu vedie tím pre zosúladenie modelov, dokonca odhadol, že pravdepodobnosť, že AI vyhubí ľudstvo, je vyššia ako desať percent.

Šéf Anthropicu Dario Amodei potom zverejnil esej We Must Pace the Frontier, v ktorej navrhuje, aby celé odvetvie zaradilo nižšiu rýchlosť, pustilo do firiem nezávislých kontrolórov a dohodlo sa na spoločných pravidlách. Do pár hodín sa k nemu pridali Sam Altman aj Elon Musk, teda ľudia, ktorí sa inak zhodnú málokedy. Trump na to reagoval tým, že Amodei sa len „tvári ako dokonalý malý anjelik“.

Politik, ktorý vie viac ako inžinieri?

Na celej situácii je zvláštne najmä to, že prezident, ktorý nie je technik ani výskumník, verejne odmieta varovania ľudí, ktorí o týchto modeloch vedia najviac. Trump tvrdí, že vláda má nad AI firmami dosť moci a že už zastavil „AI ľudí“ pred robením zlých vecí. Zároveň však jeho administratíva predtým označila Anthropic za bezpečnostnú hrozbu len preto, že odmietol použiť svoje modely na masové sledovanie a autonómne zbrane.

Nie je to hazard?

Obava z Číny je pochopiteľná a ani Amodei netvrdí, že by Amerika mala vývoj zastaviť. Lenže keď šéfovia troch najväčších AI firiem naraz povedia, že idú príliš rýchlo, je to signál, ktorý by sa nemal odbiť jedným príspevkom na sociálnej sieti. Ak má pravdu Trump, prídeme o pár mesiacov náskoku. Ak majú pravdu odborníci, v stávke je oveľa viac. Pri takomto pomere rizika by asi bolo rozumnejšie počúvať tých, ktorí tie systémy stavajú, a nie sa spoliehať na to, že jeden politik to vie lepšie.

Zdroje