Zničí umělá inteligence lidstvo?

V roce 1968 natočil Stanley Kubrick podle povídky Arthura C. Clarka kultovní film 2001: Vesmírná odysea. Ten přináší vizi budoucího světa na základě příběhu expedice vypravené k Jupiteru s cílem získat důkazy o možné existenci další civilizace ve vesmíru.

Vesmírem spolu cestuje 5 lidí a umělá inteligence, kterou představuje palubní počítač HAL 9000. Ten ovládá všechny palubní systémy. Když začne podávat chybná hlášení, posádka se jej rozhodne vypnout, což se jí stane osudným. HAL vyhodnotí cíl mise jako důležitější než lidské životy.

Od té doby vznikla celá řada dalších děl, které si také kladou otázku, zda se jednou lidstvo stane obětí vlastních výtvorů, které se vymknou kontrole. Umělá inteligence už dnes není žádné sci-fi, a proto je legitimní se ptát, zda se jejího dalšího rozvoje máme obávat.

Ilustrační snímek

Američan Grady Booch viděl film 2001: Vesmírná odysea ve svých 13 letech a byl jím natolik fascinován, že od té doby sní o zkonstruování takového Hala (s výjimkou jeho vražedných tendencí).

Dnes je vědcem, vypravěčem a filozofem. Pracuje jako vedoucí vědecký pracovník v oboru softwarového inženýrství pro společnost IBM, kde se zabývá vývojem inteligentních systémů schopných poznání, učení a uvažování.

Strach ze superinteligentních strojů, které jednoho dne vyvraždí lidstvo, je podle něho neopodstatněný. Upozorňuje, že s každou novou technologií přichází strach, nové technologie jsou však přínosné v tom, že významným způsobem rozšiřují lidskou zkušenost.

Nebojme se superinteligence

V TED talku s názvem Don't fear superintelligent AI Booch vysvětluje, že stroje s umělou inteligencí jsou vytvářeny tak, aby ztělesňovaly lidské hodnoty. Nejsou programovány, ale učeny. Pokud chceme například stvořit umělou inteligenci, která bude právním asistentem, naučíme ji znalosti práva, ale zároveň smyslu pro soucit a spravedlnost.

Terminologií vědy to nazýváme základní pravda a zde je to důležité: při vytváření těchto strojů jim učením dáváme smysl pro hodnoty. Věřím umělé inteligenci stejně, ne-li více, jako dobře vyškolené osobě,“ shrnuje Grady Booch.

Aby superinteligence mohla začít sledovat cíle, které jsou v rozporu s potřebami člověka a stát se pro nás existenční hrozbou, musela by ovládat celý náš svět – například jako Skynet z filmu Terminátor. To ale byla inteligence, která ovládala lidskou vůli a řídila všechna zařízení na celém světě.

Nestavíme umělé inteligence, které ovládají počasí, směrují vlny nebo řídí nás, rozmarné, chaotické lidi. Navíc pokud by taková umělá inteligence existovala, musela by soupeřit s lidskými ekonomikami a soupeřit s námi o zdroje. Nakonec je stále můžeme odpojit ze zásuvky,“ uzavírá Booch.

Žijeme v době, která nám nabízí úžasné možnosti rozvoje ruku v ruce s počítači. Ano, je třeba řešit mnohé společenské i ekonomické otázky, jako je například potřeba lidské práce, ale i možnosti podpořit a rozšířit lidský život. Nebojme se proto využívat počítače k pokroku, protože pořád jsme ještě na začátku.

TED talk

Přehrajte si celý TED talk „Nebojte se superinteligentní AI“ (v angličtině s českými titulky). Dále je k dispozici český přepis.

-kk-

Zdroj: TED.com - nezisková organizace zaměřená na podporu „myšlenek hodných šíření“.
Zobrazit přehled článků ze zdroje TED.com