Od vydání ChatGPT se scénáře jako ve filmu „Terminátor“ opět staly relevantnějšími. Nyní přední vědci v oblasti umělé inteligence (AI) opět varují před zánikem lidstva.

AI: Nesoulad mezi vědci

Jak už to ale bývá, vědci nejsou jednotní. Zatímco někteří předpovídají vývoj jako ze sci-fi filmu, jiní vidí nebezpečí jako přehnané.

V článku ve vědeckém magazínu „Science“ varují někteří představitelé výzkumu AI, že bez dostatečných opatření by lidstvo mohlo ztratit kontrolu nad autonomními systémy AI. Důsledkem by byly rozsáhlé kybernetické útoky, manipulace společností prostřednictvím fake news, všudypřítomné sledování a v nejhorším případě i zánik lidstva.

Co by se mohlo stát?

Jeden z nich varoval před dopady AI už před rokem, ale od té doby jde vývoj stále rychlejším tempem. Geoffrey Hinton se zabývá především výzkumem autonomních systémů umělé inteligence. Ty mohou používat počítače samostatně k řešení problémů, které dostanou. To může mít nepříjemné vedlejší účinky. Obává se, že tyto systémy již nebudou kontrolovatelné, pokud začnou sledovat nežádoucí cíle.

Neexistuje žádný zásadní důvod, proč by se pokrok AI zpomaloval nebo zastavil u schopností na lidské úrovni. Umělá inteligence již skutečně překonala lidské schopnosti v některých oblastech. Ve srovnání s lidmi mohou systémy umělé inteligence jednat rychleji, absorbovat více znalostí a komunikovat s vyšší šířkou pásma. Navíc je lze škálovat tak, aby využívaly obrovské výpočetní zdroje a lze je replikovat po milionech. Nevíme s jistotou, jak se bude budoucnost AI vyvíjet. Musíme však brát vážně možnost, že během tohoto nebo příštího desetiletí budou vyvinuty vysoce výkonné všeobecné systémy umělé inteligence, které překonávají lidské schopnosti v mnoha kritických oblastech. co se stane potom?

„Bez dostatečné opatrnosti můžeme nenávratně ztratit kontrolu nad autonomními systémy umělé inteligence, čímž se lidský zásah stane neúčinným. Rozsáhlá počítačová kriminalita, sociální manipulace a další škody by mohly rychle eskalovat. Tento nekontrolovaný pokrok AI by mohl vyvrcholit rozsáhlými ztrátami na životech nebo vyhynutím lidstva.“

Vlády po celém světě podnikly pozitivní kroky v oblasti hraniční umělé inteligence, přičemž klíčoví hráči, včetně Číny, Spojených států, Evropské unie a Spojeného království, se zapojili do diskusí a zavedli první pokyny nebo předpisy. Navzdory jejich omezením – omezený geografický rozsah a vyloučení vysoce rizikových oblastí, jako jsou vojenské systémy a systémy ve fázi výzkumu a vývoje – jsou to důležité počáteční kroky k odpovědnosti vývojářů a průmyslovým standardům.

Tato kritika sleduje také vývojáře ChatGPT, společnost OpenAI. Společnost však opakovaně ujistila, že cítí povinnost udělat více pro zajištění bezpečnosti systémů AI. Vedoucí výzkumu AI ve společnosti Meta, si myslí že v současnosti ani v blízké budoucnosti neexistuje AI, která by byla chytřejší než domácí kočka. Proto není naléhavé věnovat tématu více pozornosti než dříve. Bude tedy trvat mnoho let, než bude AI chytrá jako člověk. Vývoj nezbytných bezpečnostních opatření bude proto probíhat postupně v souladu s tímto vývojem.