Gary Marcus: Jazykové modely ve skutečnosti inteligentní nejsou. Od lidského mozku se AI liší

Podcast Bedny tentokrát nabídne dva mírně odlišné pohledy na AI – na dnešní díl s Američanem Garym Marcusem naváže rozhovor s talentovaným Čechem Matym Boháčkem. Jak se umělá inteligence liší od té lidské? Poslechněte si nový díl Beden.

Gary, začněme velkými jazykovými modely, které simulují neuronové sítě v lidském mozku. Vy tvrdíte, že se jim zas tak nepodobají. V jakých ohledech se lidské poznávací schopnosti liší od umělé inteligence?

Nejprve bych trochu zpochybnil premisu vaší otázky. Jazykové modely ve skutečnosti lidský mozek nesimulují. Je to marketing. Říká se jim v uvozovkách „neuronové sítě“. S tím, jak skutečné mozky fungují, toho ale nemají moc společného. Nemůžeme je rozdělit na prefrontální kortex, týlní mozkovou kůru a podobně. Nenajdete v nich jednotlivé synapse se stovkami pohybujícími se proteiny. Jsou přinejlepším abstrakcí skutečných mozků. To je první věc, kterou bych řekl.

Pokud jde o jejich poznávací schopnosti, v podstatě jen napodobují jazyk, na kterém byly natrénovány, ale to neznamená, že skutečně chápou koncepty, které se za ním skrývají. Toto je částečně důvod, proč se potýkají s něčím, co bychom mohli nazvat „problémem s pravdivostí“. Běžně si například vymýšlejí neexistující právní citace. Někdo je požádá o sepsání právního shrnutí a ony si věci v něm vymyslí. Lidé si citace nevymýšlejí. Většinou nehalucinujeme. Někdy lžeme, někdy věci zapomínáme. Tyto systémy ale mají tendenci prostě jen statisticky rekonstruovat informace, což se opravdu velmi liší od toho, jak fungujeme my jako lidé.

Jak přišel jeden z populárních jazykových modelů na to, že máte údajně slepici jménem Henrietta? A jak tohle souvisí s termínem „autoritativní kec,“ který často používáte?

Bývalo to tak, že vždy, když vyšel nějaký nový jazykový model, někdo ho použil na to, aby sepsal mou biografii. Na Twitteru to lidem přišlo vtipné. Jednou takový model přišel s tím, že vlastním mazlíčka a že je to slepice jménem Henrietta. Slepici nemám, natož mazlíčka a kdybych takového mazlíčka měl, Henrietta bych ho nepojmenoval. To byl velmi vtipný příklad. Pokud si dobře vzpomínám, existuje kniha s názvem Henrietta jde do školy. Knihu se jménem Henrietta v názvu ilustroval Gary Oswalt. Já se jmenuji Gary Marcus. Velký jazykový model funguje tak, že podobná slova smíchá dohromady: Gary, Henrietta, Marcus, všechno nakonec skončí na jedné hromadě. Důvod, proč jsem podobné věci ve známém pořadu 60 minut nazval autoritativními nesmysly je, že vám tyto modely neřeknou, co jsem právě řekl já – nejsem si jistý, přesně si to nepamatuji. Všechno, co říkají, formulují jako fakt. Trénují se na jazyce používaném v encyklopediích. Nepočítají údaje jako hodnoty spolehlivosti. Ve skutečnosti důkazy neváží, ale všechno působí autoritativně. Připomínají rčení z armády: často se mýlí, ale nikdy nepochybují.

Proč hlásil jeden z jazykových modelů o americkém vědci, že vlastní kuře jménem Henrietta? A jak by mohlo použití symbolických algoritmů přispět k větší pravdomluvnosti některých typů umělé inteligence? Poslechněte si nový díl podcastu Bedny s Garym Marcusem, emeritním profesorem z NYU.