Vývoj AI jako stromy a les

V posledních dnech se v AI světě mluví o AGI v roce 2027 nebo o nedávném „překonání“ Turingova testu (které není ničím novým, protože už v roce 2014 Eugene Goostman testem „prošel“). 

Myslím, že my v AI komunitě často pro stromy nevidíme les všude kolem. Zkusím shrnout pár myšlenek, které mi přijdou samozřejmé, ale o kterých se moc nemluví. 

AGI a potom ASI. Krásné pojmy, které mimochodem nepředstavují kvalitativní vývoj AI. První označuje šíři schopností (ale uznávám, že jsou různé definice) a druhý kvalitu schopností. Má smysl se jimi nějak více zabývat? Nemá. Je to další strom, pro který nevidíme les, kterým jsou různé AI schopnosti. S dosažením AGI nepřijde žádný práh, před kterým byla AI k ničemu a po kterém bude ke všemu. Je to spíše jen zajímavý benchmark, ale měli bychom uvažovat o konkrétních AI schopnostech, které nám můžou usnadnit život/které nás můžou připravit o práci/které můžou zničit lidstvo atd, podle našeho aktuálního hlediska. 

Radši než na otázku, jak blízko je AGI, si odpovídejme na otázku, jak rychle se budou vyvíjet ty konkrétní schopnosti AI. Dá se čekat, že v některých bude AI dál daleko před lidmi (např. výpočty), v některých bude za lidmi (v jakých?). Některé schopnosti jsou potenciálně škodlivější než jiné a hlavně jejich synergie může být ničivá a nepředvídatelná. To jsou schopnosti, které bychom měli sledovat, pokud je ještě čas. 

Zmiňme teď několik paradigmat, která možná nejsou úplně intuitivní a podle kterých se dá vývoj AI předpovídat (nebo si alespoň uvědomit jeho těžko uchopitelnou rychlost). 

Konvergující technologie: jednotlivé technologické pokroky se navzájem urychlují. 

Exponenciální vývoj hardwaru: stále levnější a rychlejší AI akcelerátory umožňují vznik a provoz stále chytřejších modelů. 

Rekurzivní sebezlepšování: dnešní AI navrhuje tu budoucí. To není scifi, ale už se to děje, pouze stále s člověkem v této smyčce. 

Agenti: většina našich představ o AI je spojená s generováním různých modalit. Nastupující internet mocných agentů přinese neintuitivní změnu. 

Nová paradigmata: stejně jako nedávno nečekaně nastoupily reasoning modely, může se objevit něco podobně disruptivního, co se zatím nedá předpokládat. 

To je skromný výčet důvodů, proč je (a bude) AI pokrok rychlejší, než si intuitivně představujeme a i rychlejší, než si představují samotní AI vědci a inženýři (kteří právě kvůli svému každodennímu kontaktu s technickou stránkou AI bývají předpovědích notoricky špatní).

Proto skutečně mocná AI přijde dříve, než si většina lidí myslí. A to je problém. 

Všímáme si malých rozdílů v modelech OpenAI, Googlu atd a kolikrát nevidíme absolutní kus cesty, který za sebou mají. I jejich kvalita je matoucí, protože začíná být obtížné vidět ji v kontextu praktickým otázek. AI zkrátka už umí skoro všechno, co je možné a praktické. Další pokroky nejsou tak vidět. Všímáme si raději benchmarků a závodu mezi firmami (který je jistě fascinující). 

Ale když se na celou věc (zase coby na ten les) podíváme větším nadhledem, je to docela děsivé. Máme zde výzkumníky, kteří mají k dispozici obří neuvěřitelné modely atd. Vývojáře a nadšence, kteří s AI často pracují. Dále odpůrce AI. Lidi, kteří s AI nikdy nepracovali. Lidi, kteří nevěří, že AI „je možná“ a podle kterých jsou AI modely „věc na podvádění ve škole“ nebo „stochastičtí papoušci“. (Pro kontext – i lidi v pralese, kteří nemají tušení o civilizaci). A další skupiny: politiky, kteří pořád řeší cla, platy policistů nebo stavby dálnic místo aby nás na AI dobu připravili. AI podnikatele, kteří neúnavně závodí o co nejlepší AI, zatímco svět vůbec není připraven. Atd. Jak toto skončí? Špatně. 

Proto nezapomeňme na tu obrovskou nerovnost, kterou AI přináší a hlavně přinese. Bohatí a technologicky zdatní budou stále mocnější, ostatní přestanou být relevantní. Je to celkem předvídatelné a je to blízko. Výuka IT ve školách? Historie počítačů, Word, Excel, PowerPoint. Katastrofa. 

Nejen tato nerovnost, ale i další problémy způsobené AI povedou k velkým problémům ve společnosti. Nejen nezaměstnanost, ale spousta změn a z nich vycházejících potíží budou zatěžovat naši civilizaci. Technologické firmy budou vydávat úžasně chytré modely s ohromující rychlostí, ale svět nebude stíhat se jim přizpůsobovat. Dá se čekat vláda zločinu (zločinců z řad těch, kteří se v novém světě dokážou zorientovat), nerelevance státu a politiků (platy policistů už nikoho nebudou zajímat) a celkové nepochopení světa a nedůvěra k němu, možná příklon k sektám, dezinformacím, nenávisti ke všemu atd. Bude se jednat o začínající singularitu. Doufejme, že v této době už bude možné spojit naše myšlení s AI, aby nám v tom světě pomáhala se zorientovat. 

Pokud takto, jak jsem se právě pokusil nastínit, odhlédneme od stromů, abychom viděli ten les, možná zjistíme, že žijeme v děsivé době, kdy budoucnost je velmi hrozící. A přece jinou budoucnost nemáme.