ChatGPT je novinka, která oživuje staré debaty: Komu slouží stroje?

Záměrně uvádím „takzvané umělé inteligence“, protože o tom, co je skutečná umělá inteligence a co je sofistikovaný automaton, by šly vést zdlouhavé debaty, na které tu teď není prostor. Faktem je, že ChatGPT a obdobné jazykové modely (jak se tyto systémy označují trochu přesněji), umí lépe než jakýkoliv program před ním minimálně nasimulovat jazykové schopnosti – tedy ve vás snadno vzbudit přinejmenším iluzi, že si píšete s něčím vědomým, inteligentním. Ale často může jít jenom o iluzi. Nabízí se paralela, že ChatGPT je jakousi jazykovou obdobou kalkulačky. Jenže kalkulačka vám na rozdíl od chatbota nevyplyvne vyfabulovaný výsledek.

ChatGPT, alespoň ve své současné podobě, totiž rozhodně není fakticky nejspolehlivější. Pro jeho vymyšlené odpovědi se začalo ujímat označení „vyhalucinované“ a docela dobře ukazují jak ChatGPT ve skutečnosti funguje a k čemu je dobrý. Pokud hledáte správnou odpověď, radši si jí najděte sami. Jestli potřebujete, aby vám někdo zkrátil váš už existující text, nebo shrnul nějaký jiný v bodech, jste na správném místě. ChatGPT vám možná nedá správnou odpověď na vaší otázku, ale pokud potřebujete generovat uvěřitelný obsah v mnoha jazycích, zvládne to skvěle.

Osobně se dlouhodobě u produktů OpenAI bavím tak, že je nechávám psát básně hlasem nejrůznějších politiků. To je ekvivalent toho, když na kalkulačce napíšete 371830 a podáte jí vzhůru nohama kamarádovi. Jsou ale lidé, kteří už nyní v zárodcích používají podobné jazykové modely k podstatnějším úkonům. Nemusí jít jen o zmíněné shrnování nebo nejrůznější mechanické editační úkony. Jedněmi z jazyků, které se ChatGPT je schopný naučit, jsou jazyky programovací. Vy si tak můžete jeho pomocí razantně ulehčit stavění webu, programování aplikace nebo třeba digitálních hudebních nástrojů.

Rozmach ChatGPT se sebou přináší svou vlnu morální paniky. Je samozřejmě zajímavé se zamyslet nad tím, jak rozšíření podobného nástroje může proměnit profese, které nakládají s jazykem v různých formách. Nejde se ale ubránit pocitu, že v médiích rezonuje tato hrozící vlna automatizace více než kterákoliv z předchozích, nejazykových především proto, že se jí obávají přímo redaktoři, kteří články o ní píší.

Na konzervativní pravici se v posledních týdnech rozšířila panika z toho, že ChatGPT vyplivává odpovědi, které jim ideologicky nevyhovují. Dokonce už vznikla i alternativa, která by měla razit více konzervativní odpovědi, komicky pojmenovaná RightWingGPT. Autor této mutace výzkumník David Rozado ale sám popisuje, že jeho cílem nebylo „napravit“ dle někoho ideologicky závadné odpovědi, ale upozornit na potenciální nebezpečí, které představují ideologizované AI systémy. Rozado varuje, že takto nastavené systémy hrozí umocnit polarizaci společnosti a mohou být zneužity k manipulaci.

V jádru tak upozorňuje na nevyhnutelný problém jakékoliv nové technologie, který je manifestovaný v otázkách, kdo jí vlastní či ovládá a komu tedy slouží. Firma OpenAI vznikla v půlce minulé dekády a měla sloužit jako protipól technologickým gigantům jako je Google. Její spoluzakladatel Elon Musk (který paradoxně sám v minulosti varoval před rozmachem umělé inteligence a který je sám jen těžko dobrým arbitrem nestrannosti) v současnosti odsoudil plány na to, aby ChatGPT byl etablován Microsoftem do jeho vyhledávače Bing.

Jak Muskovy rozpaky, tak Rozadova práce ukazují, kde za banalitou faktičnosti generovaných odpovědí leží nejpalčivější problém ohledně podobných jazykových modelů. Ten ale přes veškeré zdání novosti opravdu není nijak čerstvý – boj proti novým technologiím vždycky prohrajete, má ale smysl bojovat o to, kdo a jak těží z jejich implicitního nastavení.

Jaké politické názory plive ChatGPT? A proč odsoudil Elon Musk společnost, kterou spoluzakládal? Poslechněte si glosu Matěje Schneidera.