Úvaha o AGI a ASI: žádná revoluce

Mnozí věří, že dosažení umělé obecné inteligence (AGI) – definované jako schopnost plnit nejrůznější úkoly stejně dobře jako lidé – způsobí revoluci ve světě. Nesouhlasím. Tato běžná definice AGI je zavádějící, antropocentrická a omezuje naše chápání potenciálu umělé inteligence. Tato definice totiž vnímá AI skrze lidské schopnosti, podobně jako kdybychom definovali „létání“ pouze na základě toho, jak létají ptáci. Přehlíží tak potenciál AI dosahovat cílů – a dokonce lidské výkony překonávat – zcela odlišnými způsoby. Je načase přestat vnímat AGI jako pouhou imitaci člověka. Ve skutečnosti okamžik, kdy dosáhneme AGI, jak je v současnosti definována, nemusí být vůbec revoluční. Pravděpodobně to bude jen milník, nikoliv náhlý skok vpřed.

Naše inteligence (nebo AGI) ve skutečnosti není tak „obecná“. Skládá se z mnoha modulů a schopností. V některých oblastech už AI dosahuje vynikajících výsledků, například v hraní šachů nebo rozpoznávání obrazu (a kalkulačky zvládly výpočty už před desítkami let!). Zaměření na tyto úzké oblasti přirozeně vede k dosažení nadlidských výkonů. V současnosti tak existuje několik příkladů již dosažené umělé superinteligence (ASI). Počet zvládnutých schopností poroste. A AI je bude využívat k posílení slabších schopností a vytvoření nových, emergentních schopností. Představte si například AI, která kombinuje pokročilé programátorské dovednosti se strategickým plánováním naučeným z šachů, což jí umožňuje autonomně identifikovat neefektivnosti na trhu, vyvíjet obchodní algoritmy a provádět obchody – emergentní schopnost, která přesahuje možnosti jakéhokoli stávajícího systému AI.

Tyto nativní a emergentní schopnosti ASI zdůrazňují klíčový bod: ASI se již objevuje v konkrétních oblastech a proto bude předcházet dosažení AGI, jak je v současnosti definována.

Co je tedy AGI podle definice? Pouhá imitace člověka. Co je ASI? Něco, co už dnes a denně vynalézáme.

Myslím, že je načase přestat uvažovat o AI na jediné škále od úzké k superinteligenci s obecnou inteligencí mezi nimi. Existuje mnoho různých schopností, které AI může zvládnout. AGI a ASI jsou nesprávné způsoby, jak přemýšlet o vývoji AI.

Nechci, aby to vyznělo, že jsem skeptik vůči AI. Uznávám, že AI bude nejen schopna vykonávat lidské úkoly lépe (rychleji, levněji nebo spolehlivěji), ale bude také řešit problémy způsoby, které si ani nedokážeme představit, a potenciálně způsobí revoluci v oblastech, které dnes ještě neznáme. Může objevit nové vědecké principy, vytvářet nové umělecké formy nebo navrhovat řešení složitých problémů, které přesahují lidské chápání. To jsou ve skutečnosti další důvody, proč přestat používat současnou definici AGI, protože omezuje náš pohled na možnosti AGI.

Bylo by užitečnější zamýšlet se nad tím, jak užitečné jsou schopnosti AI, kolik věcí, které neděláme rádi, dokáže udělat, kolik peněz dokáže vydělat, jak může zlepšit svět, jak může učinit lidi šťastnějšími… To vše bude dosaženo konkrétními schopnostmi AI, na které bychom se měli zaměřit.

Jistě, mít jednu škálu je jednoduché. Je to však velmi zavádějící. AGI nebude podobná člověku. Ani v množství schopností, které bude mít, ani v jejich kvalitě. Není to ani cílem současného výzkumu, a přesto stále používáme antropocentrickou definici AGI. Také nepřijde před ASI, která už postupně přichází.

Spíše než na nějaké varianty Turingova testu (imitační hry) bych navrhoval zaměřit se na užitečnost v reálném světě: jak užitečná je AI v autonomním zvládání důležitých oblastí lidského života, v překonávání vlastních překážek a v konečném důsledku ve zlepšování našich životů? To by mohla být jedna z otázek, na které bychom se měli zaměřit.

Místo Turingových testů se zaměřme na metriky, jako je ekonomický dopad, vědecké průlomy usnadněné AI nebo zlepšení kvality života. Posuzujme AI podle její užitečnosti, nikoliv podle toho, jak moc se podobá nám.