Umělá inteligence zkresluje zpravodajský obsah skoro v polovině případů, varuje datový novinář

„Výzkumné konsorcium dalo dohromady společnou třicítku jádrových otázek, které se týkaly mezinárodního zpravodajství, a následně si každé médium vybíralo seznam vlastních otázek. Odpovědi od běžných verzí AI asistentů jsme sbírali napříč médii a jazyky a hodnotili jsme jejich spolehlivost,“ popisuje Jan Cibulka, jak zmíněný výzkum probíhal.

Čtěte také

Soudy zaplavené chybami od AI: Falešné citace a smyšlené rozsudky jsou na vzestupu

„Nevypadá to, že by se modely v tomto směru dramaticky zlepšovaly,“ dodává datový novinář Českého rozhlasu, podle kterého je problémem AI asistentů také jejich velikost.

„Čím jsou větší, tím je jejich běh výrazně nákladnější a častější jsou také takzvané halucinace. Při otázkách na typicky česká témata ty velké modely totiž například nemají šanci znát všechny konspirační weby, které u nás působí.“ Jinými slovy se tak může snadno stát, že se do finální odpovědi dostanou data právě i z nich.

Dalším úskalím velkých jazykových modelů je podle Jana Cibulky i to, že uživatelé neinteragují přímo se samotným modelem: „Je tam celá řada vrstev, které odpovědi modelu upravují, čistí, zajišťují legálnost odpovědí a ty filtry se neustále mění, přičemž my nevíme, jak ony algoritmy fungují.” Proto také zesiluje tlak na nadnárodní technologické společnosti, které velké jazykové modely vyvíjejí, aby zprůhlednily, na jakých datech je trénují nebo jakým způsobem pracují s autorskoprávně chráněným obsahem.

Čtěte také

AI video zaplaví web brakem. K ničemu jinému ho nepotřebujeme

„Prvním krokem by mělo být zveřejnění toho, jaká data jdou dovnitř, a jakým způsobem se s nimi pracuje,“ upřesňuje Jan Cibulka.

Jak konkrétně probíhalo dotazování v rámci zmíněného výzkumu? Proč je čím dál těžší zorientovat se ve výzkumech v oblasti AI? Jakým způsobem budou velké jazykové modely do budoucna monetizovány? Poslechněte si celý rozhovor s datovým novinářem Českého rozhlasu Janem Cibulkou.