Posedlost jazykem

Tak se nám v poslední době vývoj AI celkem zúžil na jazykové modely, LLM, AI modely, multimodální modely či modely světa, prostě na GPT, Gemini, Claude, Grok a tisíce jim podobných. Kdo nedělá toto, nedělá AI, protože AI (která je tu jako obor kolem 70 let) se snad za poslední dva roky stala synonymem pro tyto modely. A beztak pravděpodobně každý AI výzkumník chce s přirozeným jazykem pracovat. To je, kde „je AI“. 

A nejde jen o zmíněné modely, nakonec i modely generující obrázky, video, zvuk a cokoliv dalšího jsou zároveň jazykovými modely, protože musí pochopit vstup od uživatele v přirozeném jazyce. 

A my je hodnotíme často primárně podle toho, jak dobře plní přání, která vyslovíme. Myslím, že je dobré se více zaměřit na to, jaké jsou skutečné schopnosti AI a co pro nás AI může udělat mimo to, že nám může rozumět. Minimálně je myslím zjednodušování AI na sluhu, který poslouchá na slovo, velkým zjednodušením jejího potenciálu. Přehlížíme tím velké pokroky „uvnitř“ modelů, pokud jsou zastíněné neschopností odpovědět jak očekáváme. Vždyť pro nás AI může udělat tolik věcí, než nám „jen“ rozumět! A i když se na AI těžko hodnotí cokoliv jiného (třeba z důvodu nepředstavitelného potenciálu), hodnocení AI především podle toho, jak poslouchá na slovo naše přání, by mělo patřit do minulosti. 

Tady ale posedlost jazykem nekončí. Pravděpodobně i většina myšlenek myslících modelů (myšlenkové pochody modelů jsou často neveřejné) je v přirozeném jazyce. To už je pro inteligenci omezující. Jistě, jazyk AI umožnil myslet. Jazykové modely byly velkým pokrokem. Teď už bychom ale měli chtít více než jazyk. Pokud nás má AI dostatečně překonat, proč by měla používat náš jazyk? Převádění myšlenek do přirozeného jazyka nutně AI modely zatěžuje (v poslední době se ukazuje, že dokonalé zvládnutí některých jazyků je o dost náročnější než pokročilé myšlení) a taky se ztrácí část významu AI myšlenek (vždyť lidské jazyky byly vytvořeny pro lidi, aby se svými omezeními zvládli komunikovat). AI pro své účely může využívat daleko sofistikovanější reprezentace myšlenek, než jaké umožňuje například angličtina. I když jazyk nejspíš ještě dlouho zůstane na rozhraní mezi člověkem a AI, AI uvnitř sebe (nebo i AI mezi sebou) může/můžou komunikovat například v myšlenkových vektorech. Možná že by toto vedlo k výraznému zvýšení inteligence oproti využívání jazyků, které jsou pro AI myšlení pravděpodobně velmi nevhodné (tak nevhodné, že je AI až ve dnešní době začíná zvládat). 

Nemusí to být ani „jazykový“ model, co bude představovat jakýsi vrchol – konečnou podobu AI. Co když je snaha všechno zvládnout s LLM, nebo alespoň do všeho LLM nějak zapojit, jen výstřelek poslední doby vycházející z existujících dat plných lidského jazyka, na kterých se AI přirozeně snadno trénovala? Možná že nás čeká spousta AI, které nebudou mít s lidským jazykem nic společného (a možná s námi nebudou ani komunikovat). Zrovna tak jako v našem mozku jsou určité moduly a ne všechny si poradí s přirozeným jazykem a ostatní komunikují pomocí patternů neuronových vzruchů, tak i AI modely by mohly mít své moduly, které s jazykem nebudou mít nic společného. Zkrátka LLM nemusí zvládnout všechno. Nezvládnou a nemusí. 

Když lidé ovládli jazyk, byl to velký skok v jejich schopnostech. Zrovna tak když vytvořili internet či programovací jazyky. Každá nová informační technologie posunula možnosti lidstva o kus dál. Teď je na cestě těchto milníků AI. Už ovládla jazyk, bravo, což je ale přece jenom milník z pravěku. Nakonec daleko důležitější než jazykové pokroky budou pro AI pokroky v programování, které jí umožní exponenciální sebezlepšování.