AGI je tady?!

S představením modelů jako GPT-3 a PaLM jsem si vždy vzpomněl na Kurzeilovu předpověď (AGI do roku 2029). (Kurzweil momentálně dokončuje knihu The Singularity Is Nearer, kterou už snad nedokončí, protože se ten svět mění tak rychle, že o tom nestíhá psát.) S každým takovým momentem pravděpodobně více lidí začalo věřit v její pravdivost. Zdá se, že všechno je, jak má být. Teď je další takový moment, kdy myslím na jeho předpověď. A mám chuť napsat, že 2029 se může nahradit současným rokem 2022. 

DeepMind, část Googlu zaměřená na vývoj pokročilých AI, zveřejnil agenta GATO, agenta isnpirovaného velkými jazykovými modely. Tento agent zvládá množství různých úkolů: umí hrát Atari hry, chatovat, uchopovat předměty či popisovat fotky. Všech 604 úkonů zvládá jediná síť s jedinými vahami. Podle kontextu se rozhodne, zda pohybovat klouby, zobrazit text, mačkat tlačítka či dělat něco jiného. 

Diskuze o AGI najednou získávají reálnější obrysy. Najednou můžeme AGI konkrétněji předpovídat, konkrétně uvažovat o jejích schopnostech a z nějakého aktéra vyvíjejícího AGI je najednou DeepMind. 

Je GATO AGI? 
Podle Wikipedie je AGI schopnost (uměle) inteligentního agenta rozumět jakémukoliv intelektuálnímu úkonu, kterému rozumí lidská bytost, a naučit se takový úkon. Podle této definice GATO není AGI. Nejde však o typickou ANI (narrow AI), neboť 604 úkonů už je pořádné číslo. Může jít o něco jako weak AGI? 

DeepMind výzkumník Nando de Freitas píše na Twitteru: 
Nyní je to vše o velikosti. Hra skončila. Je to o tom udělat tyto modely větší, bezpečnější, efektivnější, rychlejší ve vzorkování, chytřejší paměť, více modalit, inovativní data, on/offline. Vyřešení těchto škálovacích výzev je to, co přinese AGI. 

Je možné, že je GATO na cestě k AGI slepá větev? Jistě. Je pravděpodobné, že jde o převratný model, který s dalším škálováním přinese extrémně zajímavé výsledky? Ano. 

V každém případě jde o další vzrušující AI po PaLM nebo DALL-E 2. A pravděpodobně o nejvíc vzrušující AI vůbec. 

V závěru GATO článku (https://arxiv.org/pdf/2205.06175.pdf) už nechybí ani upozornění na rizika. Ta se musí brát vážně! Ať už je AGI tady, nebo si ještě pár let (či měsíců?) počkáme, opět se ukazuje naléhavá potřeba se na příchod AGI připravit. 
Jak říká Nando de Freitas: Bezpečnost má obrovskou důležitost a je to pravděpodobně největší výzva, které čelíme. Každý by měl o tom přemýšlet.