Zaměstnanci OpenAI mají strach, že společnost nebude s umělou inteligencí zacházet zodpovědně

6. červen 2024

Zaměstnanci firmy Open AI, světového lídra v umělé inteligenci, požadují „právo varovat před pokročilou umělou inteligencí“ veřejnost. Informuje o tom americký server VOX s odkazem na otevřený dopis bývalých a současných zaměstnanců z OpenAI a Googlu.

Pracovníci jsou přesvědčeni, že umělá inteligence má obrovský potenciál pro konání dobra, ale obávají se, že bez náležitých bezpečnostních opatření může tato technologie umožnit vznik celé řady škod.

„Bojím se. Byl bych blázen, kdybych se nebál,“ řekl Daniel Kokotajlo, signatář, který v dubnu odešel z OpenAI poté, co ztratil víru, že vedení společnosti bude s její technologií zacházet zodpovědně.

VOX připomíná, že v poslední době odešlo z podobných důvodů několik dalších zaměstnanců, kteří dbali na bezpečnost, což posílilo obavy, že OpenAI nebere rizika této technologie dostatečně vážně.

Šest signatářů je anonymních, včetně čtyř současných a dvou bývalých zaměstnanců OpenAI, právě proto, že se obávají odvety ze strany společnosti.

Mluvčí společnosti OpenAI sdělil serveru Vox, že současní i bývalí zaměstnanci již mají k dispozici fóra, kde mohou vyjádřit své názory prostřednictvím úředních hodin vedení, schůzek s představenstvem a anonymní horké linky pro bezúhonnost.

Zaměstnanci OpenAi si podle VOXu stále častěji všímají, že „kultura bezpečnosti ustoupila do pozadí před nablýskanými produkty a výdělkem“ –⁠⁠⁠⁠⁠⁠ jak doslova píše Jan Leike, který do nedávna vedl tým pro sladění společnosti.

S problémy AI by mohla pomoci regulace. Podle VOXu ale sama o sobě nemusí stačit. Zákonodárci často nerozumí rychle se vyvíjejícím technologiím natolik dobře, aby je mohli dostatečně regulovat.

Proto chtějí zasvěcení pracovníci společnosti získat právo varovat veřejnost. Mají přístup k vyvíjející se technologii z první řady a rozumí jí lépe než kdokoli jiný. Pokud budou mít právo mluvit o rizicích, která vidí, mohou být společnosti více motivovány brát tato rizika vážně.

Spustit audio
  • Swifties znovu žalují prodejce vstupenek Ticketmaster, vykazuje podle nich monopolní chování

    19. listopad 2024
    Taylor Swift

    Fanoušci americké zpěvačky Taylor Swift obvinili společnost Ticketmaster a její mateřskou společnost ze spiknutí s třetími stranami za účelem navýšení cen vstupenek na koncerty. To je podle swifties v rozporu se zákonem.

    Iniciativy asi 400 fanoušků zpěvačky si všímá například americký web WIRED. Společnou žalobu podali u kalifornského státního soudu na společnost Ticketmaster a její mateřskou společnost Live Nation. Skupina obviňuje společnosti Ticketmaster a Live Nation z účasti na „vyděračských praktikách“ a uvádí, že lidé, co si kupují vstupenky na koncerty, za ně platí víc, než je třeba.

    Swifties se odvolávají na americký zákon z 80. let, který pomohl k dopadení vysoce postavených členů newyorské mafie. Společnost Ticketmaster a její mateřská společnost je podle žalujících domluvena s místy, kde se koncerty konají – to splňuje definici nezákonného podnikání.

    „Tyto subjekty spolupracují jako členové monopolu – říkáme jim kartel, monopolizují trh, takže spotřebitel nemá šanci získat lístky za spravedlivou cenu,“ řekla začátkem roku časopisu WIRED Jennifer Kinderová, zakládající právnička společnosti Kinder Law, která zastupuje fanoušky zpěvačky ve státním i federálním řízení.

    Společnost Live Nation ve svém prohlášení označila obžalobu za „neopodstatněnou“. „Ceny vstupenek určují manažerské týmy umělců, nikoli společnost Ticketmaster,“ uvedl mluvčí společnosti Live Nation.

  • Používání AI rozděluje africkou hudební scénu. Důvod navíc, proč se bát, je kulturní apropriace

    18. listopad 2024
    Klavír

    V nedávném remixu nigerijského hudebníka a producenta Eclipse Nkasiho se objevila virtuální zpěvačka vytvořená umělou inteligencí. Z využívání AI v hudbě má ale mnoho hudebníků po celém světě obavy. Ti afričtí také argumentují tím, že většina dat, ze kterých se AI učí, je sesbíraných na Západě. Mají proto strach z toho, jak generování ovlivní africkou hudbu a kulturní dědictví.

    Eclipse Nkasi je odhodlaný stát se průkopníkem využívání umělé inteligence v africké hudbě. Loni vydal hudební album Infinite Echoes, které jako první vůbec na africkém kontinentě vznikalo za pomoci AI. Pro BBC uvedl, že k využití umělé inteligence ve své hudbě záměrně přistupuje manuálně a kreativně, především ji využívá ke generování samplů. „Mým největším hnacím motorem v souvislosti s AI je její aplikace, hledání zdravých způsobů, jak ji použít. U každého projektu bylo důležité najít něco, co díky ní udělám a co mě posune dopředu,“ říká.

    Zatímco Nkasi s novou technologií rád experimentuje, někteří v ní vidí hrozbu pro africkou kulturu. Pro keňského hudebníka a producenta Tabu Osusu je to předzvěst rizika kulturní apropriace – umělá inteligence bude produkovat africké zvuky, aniž by přiznala jejich zdroj. „Můj problém s AI je vlastnictví. Jakmile převezmete nějakou hudbu z Ghany nebo Nigérie, kdo ji vlastní? Jak zjistíte, kdo jsou původní tvůrci, a jak zajistíte, že budou citováni? Pro mě je to krádež,“ řekl Osusa BBC.

    Tyto obavy se odrážejí ve zprávě, kterou loni vydala keňská umělecká platforma Creatives Garage. Ve spolupráci s nadací Mozilla Foundation zkoumala dopad umělé inteligence na tvůrčí komunity v této východoafrické zemi. Vyplynulo z ní, že většina keňských hudebníků se obává, že by umělá inteligence mohla vést k tomu, že by z jejich kreativity mohli těžit jiní, říká Bukonola Ngobi, výzkumný konzultant ve společnosti Creatives Garage.

    Pro ty, kdo chtějí inovovat, je taky jedním z problémů, s nimiž se Afrika potýká, nedostatek dat. Generovaný obsah často splňuje tzv. western male gaze – tedy nějaký západní, evropanský, patriarchální pohled. Například Nkasiho Mya Blue je americká dívka z generace Z s modrými vlasy.

  • K osmi opicím na útěku se v Jižní Karolíně přidaly dvě samičky emu

    18. listopad 2024
    Emu na útěku

    V Jižní Karolíně už kromě osmi opic policisté pátrají i po dvou ptácích emu. Už před třemi měsíci utekli ze svého výběhu vzdáleného od města asi tři hodiny jízdy autem na sever. Jejich majitel požádal obyvatele o pomoc na sociálních sítích.

    Není to ani dva týdny co ve státě Palmetto, v Severní Karolíně, volně pobíhalo 43 opičích samic. Zvířata, která váží zhruba šest kilogramů jedno, utekla z výzkumného zařízení. Většinu z nich už se podařilo chytit a podle posledních zpráv jich zůstalo na svobodě osm. Informoval o tom server CBS News.

    Teď se k nim přidal další exotický druh, a to dva ptáci emu, kteří utekli ze svého výběhu rodině Moraceových. Všechny pokusy rodiny o jejich znovunalezení zatím skončily neúspěchem.

    Emu hnědý je obrovský nelétavý pták. Může dorůst až do výšky dvou metrů. Někdy se o nich mluví jako o „živých dinosaurech“, protože mají mnoho shodných znaků se svými velmi vzdálenými dinosauřími předky. Podle odhadů dokážou zástupci tohoto druhu běžet rychlostí asi 48 kilometrů za hodinu.

    Sam Morace, majitel ptáků, řekl zpravodajství CBS News, že jsou to dvě samičky a jmenují Thelma a Louise. „Obě přeskočily plot, když jsme se snažili jednu z nich chytit, abychom ji přemístili do jiného výběhu, což se jí nelíbilo,“ uvádí zpravodajství.

    Případem se už zabývá policejní oddělení okresu Horry. V příspěvku na Facebooku uvedlo, že o nahlášených emu ví a s majitelem je v kontaktu. „V současné době nehrozí v souvislosti s emu žádné riziko pro okolní obyvatele,“ uvedlo oddělení v příspěvku.

  • Díky Airbnb si můžete zahrát na gladiátory v římském Koloseu. Místním se to nelíbí

    18. listopad 2024
    Římské Koloseum

    Starověké Koloseum, které bývalo svědkem historických bitev, se po téměř dvou tisíciletích zřejmě stane dějištěm inscenovaných gladiátorských zápasů. A to na základě sponzorské smlouvy s platformou Airbnb v hodnotě 1,5 milionu dolarů. Jejím cílem je údajně podpořit „uvědomělejší turistiku“. Podle některých je to ale urážka historické vážnosti Kolosea.

    Podle nově vzniklé dohody pokryje sponzorství giganta v oblasti krátkodobých pronájmů obnovení vzdělávacího programu uvnitř starověkého římského amfiteátru. Šestnáct turistů bude mít možnost „popustit uzdu svému gladiátorskému srdci“ a rezervovat si bezplatný zážitek přímo v Koloseu. Celá akce se uskuteční v rámci doprovodného programu k nově uvedenému filmu Gladiátor II režiséra Ridleyho Scotta. Informoval o tom server CNN a agentura AP.

    Osm uživatelů platformy a jejich doprovod se bude moci 7. a 8. května po zavírací době Kolosea zúčastnit falešných gladiátorských zápasů. Do arény se dostanou stejnou podzemní cestou, jakou používali gladiátoři ve starém Římě. Zájemci se mohou o tento zážitek bezplatně přihlásit 27. listopadu a „gladiátoři“ budou vybráni losem.

    Někteří návštěvníci památky i aktivisté v oblasti bydlení jsou skeptičtí. Upozorňují na spory, které vede většina velkých metropolí s platformami pro krátkodobé pronájmy. Ty totiž podporují nadměrný turismus a omezují dostupné bydlení pro místní obyvatele a studenty.

    Proti novodobým gladiátorům v Koloseu se vyjádřil římský radní pro kulturu Massimiliano Smeriglio. Ten požádal nájemní platformu, aby záměr stáhla a peníze si ponechala s tím, že tenhle druh propagace je urážkou historické vážnosti Kolosea. Smeriglio není ve svém odporu sám. Předsedkyně římské kulturní komise Erica Battaglia varovala, že z památky UNESCO nelze udělat zábavní park.

    Archeologický park Koloseum argumentuje, že akce se bude konat mimo otevírací dobu a nebude narušovat přístup do areálu. Jeho vedení v prohlášení pro CNN uvedlo, že záměrem je „zhodnotit historické a kulturní dědictví amfiteátru prostřednictvím imerzivních aktivit při plném respektování památky, založených na důkladném historickém výzkumu“.

  • Švédská ministryně má fobii z banánů, ovoce se nesmí objevit na žádných akcích

    15. listopad 2024
    Banány

    Nikde poblíž nesmějí být banány. I to se snaží zajistit úředníci pracující pro švédskou ministryni pro rovnost Paulinu Brandbergovou. Má totiž banánofobii. Vyplývá to z uniklých e-mailů. Ministryně sama tvrdí, že to je něco jako alergie.

    Strach z banánů švédské ministryně odhalil švédský bulvární deník Expressen. V několika e-mailech, které měl k nahlédnutí, zaměstnanci Branderbergové výslovně žádají, aby byly před oficiálními návštěvami odstraněny všechny banány. „Paulina Brandbergová má silnou alergii na banány, proto bychom uvítali, kdyby v místech, kde bude pobývat, nebyly žádné banány,“ uvádí se v jednom z e-mailů ministerstva adresovaných norské justiční agentuře před VIP obědem.

    Sama Branderbergová k tomu řekla, že se jedná o druh alergie. Přitom v roce 2020 sama na Twitter napsala, že má tu „nejpodivnější fobii na světě, a to z banánů“, příspěvek ale později smazala. Informuje o tom server Politico.

    Banánofobii může vyvolat pohled na toto ovoce nebo jeho vůně. Stejně jako u jiných vzácných fobií není vždy snadné určit konkrétní spouštěče, odborníci však naznačují, že příčiny mohou být často spojeny s zážitky z dětství.

  • Žena odmítla zaplatit zmrzlý sendvič, z letadla ji eskortovali čtyři ozbrojení policisté

    15. listopad 2024
    Letadlo, letiště, vzlet

    Přímo z letadla odvedla devětasedmdesátiletou ženu ozbrojená jednotka. Odmítla zaplatit za údajně zmrzlý toust s tuňákem. Letecká společnost tvrdí, že žena vykazovala „nepřípustné chování“ včetně konzumace vlastního alkoholu. Žena to odmítá.

    Incident se stal 3. listopadu. Lily z Hertfordshiru letěla společně s dalšími lidmi z londýnského letiště Stansted do tureckého Bodrumu. Podle BBC si objednala sendvič s tuňákem za 9 liber (v přepočtu za 272 korun). Odmítla jej ale zaplatit poté, co vyhodnotila, že je uprostřed stále zmrzlý.

    Letecká společnost ale na zaplacení trvala, protože žena už otevřela obal, ve kterém sendvič byl. To situaci ještě víc vyhrotilo. Po přistání se Lily a její dcera setkaly se čtyřmi ozbrojenými policisty, kteří je vyvedli z letadla. „Zavolali policii. Ne jednoho, ale čtyři policisty,“ řekla Lily v pořadu BBC. „Byla jsem v šoku, říkala jsem lidem: Myslím, že mě zatkli kvůli sendviči.“

    Podle letecké společnosti byl ale problém i v tom, že Lily konzumovala vlastní alkohol. „Jako letecká společnost s akcentem na rodiny přistupujeme k takovému chování s nulovou tolerancí a dáváme jasně najevo, že zákazníci nemohou během letu konzumovat vlastní alkohol,“ uvedl mluvčí společnosti Jet2.

    Žena konzumaci vlastního alkoholu popírá. S dcerou si prý každá koupily dvě vína, ale až na palubě. Ačkoli nebylo vzneseno žádné obvinění, dcera Lily zaslala společnosti Jet2 formální stížnost, v níž kritizovala její chování a řešení situace. Letecká společnost mezitím nadále trvá na tom, že se ničeho nedopustila.

  • Líbání má podle evolučních vědců počátek v péči o srst u opic, vzájemná očista posiluje pouto

    15. listopad 2024
    Primáti

    Existuje hodně druhů polibků. Je výrazem romantické lásky, péče o děti a příbuzné nebo náklonnosti u přátel. Všechny ale mají podle nové studie stejný základ, který pochází ze světa opic.

    Tvrdí to nová studie publikovaná v časopise Evolutionary Anthropology. Podle ní jde o praktiku spojenou s péčí o srst. Šimpanzi a další lidoopi pročesávají srst svých společníků prsty a rty z ní odstraňují nečistoty. Výzkum naznačuje, že lidé zdědili pozůstatek tohoto rituálu. Informuje o tom server El País.

    Dřívější teorie se domnívaly, že jde o pozůstatek instinktivního sání, kterým miminka získávají mléko od matek. Jiní vědci se domnívali, že jde o chování, které se vyvinulo v dobách, kdy matky předžvýkávaly potravu svým dětem, aby ji pak předaly z úst do úst.

    „Všechny tyto předpoklady mohou být platné, ale většina z nich těžko vysvětluje způsob, jakým se líbáme. Jde o jiný kontext a funkci,“ reaguje na předchozí teorie evoluční psycholog Adriano R. Lemiera.

    Laboratoř, kterou vede, má na starosti sledování evolučního původu nejzvláštnějších lidských praktik či vlastností, od tance až po představivost. Líbání je jednou z nich. „Když se nad tím zamyslíte, je to poněkud zvláštní způsob projevování náklonnosti. Přikládáme rty k sobě a děláme sací gesta, která jsou náhodná a intuitivní,“ uvedl pro El País.

    Podle Lameria tím, že našpulíme rty a olízneme někoho jiného, napodobujeme chování, kterým jsme si jako opice odstraňovali parazity ze srsti. Péče o tělo je ve světě primátů důležitým rituálem. Kdykoli opice najde něco, co chce odstranit z kůže druhého primáta, obvykle to zlikviduje tím, že to z jeho těla vysaje. Praktika je polibku velice podobná.

    Když se tedy navzájem líbáme, budujeme a posilujeme pouto s někým jiným, podobně jako jsme to kdysi dělali při rituálech péče.

  • Vědcům z Japonska se podařilo uměle vypěstovat černé lanýže

    14. listopad 2024
    Černé lanýže

    Japonským vědcům se už podruhé podařilo uměle vypěstovat černé lanýže. Jde o významný krok ve vývoji metod pěstování této exkluzivní houby.

    Na rozdíl od hub shiitake, enoki a nameko, které rostou ze substrátu, vyrostou lanýže pouze v mykorhizní symbióze se stromy, vysvětluje Science Japan. Výzkumná skupina využila poznatky získané při umělém pěstování hub matsutake (čirůvka větší). Stejně jako lanýže jsou totiž mykorhizní.

    Výzkumný ústav lesnictví Jamanaši ve spolupráci s Organizací pro výzkum a správu lesů ve městě Tsukuba v prefektuře Ibaraki o úspěchu informoval 1. listopadu, píše server The Japan Times. Přestože černé lanýže v Japonsku přirozeně rostou, metody jejich pěstování stále nejsou dostatečně rozvinuté. V současné době je japonský domácí trh závislý na dovozu.

    V roce 2018 připojili výzkumníci výtrusy asijské odrůdy černého lanýže k pětapadesáti sazenicím kaštanu a spolu je vysadili na dvou testovacích místech v prefektuře Jamanaši. Letos v září, šest let po výsadbě, vědci úspěšně vypěstovali 12 černých lanýžů o celkové hmotnosti 200 gramů. Genetická analýza potvrdila, že skutečně pocházejí ze spor naočkovaných do kaštanů.

    V budoucnu chce výzkumná skupina dále rozvíjet technologii k zajištění stabilní produkce lanýžů a zároveň bude ověřovat, zda houby rostou na stejných místech nepřetržitě každý rok.

  • LED světla na surfových prknech mohou zabránit útokům žraloků bílých, vychází z nové studie

    14. listopad 2024
    Žralok bílý

    Nový výzkum zjistil, že použití LED světel na spodní straně surfovacího prkna nebo kajaku může odradit velké bílé žraloky od útoku. Studie australských vědců ověřovala teorii na návnadě ve tvaru tuleně.

    Spodní osvětlení těchto návnad narušovalo schopnost žraloků vidět siluety proti slunečnímu světlu. Snížilo to rychlost, s jakou žraloci napadali umělou kořist. Čím jasnější světla byla, tím účinnější byl výsledek, popisuje britský Guardian.

    Hlavní autorka studie doktorka Laura Ryan z Macquarie University v Sydney uvedla, že žraloci bílí se zřejmě řídí tmavou siluetou na světlém pozadí. Nová studie se zabývá tím, zda lze jejich reakce změnit osvětlením objektu. „Pokud je objekt světlý na tmavém pozadí, nezdá se, že by to identifikovali jako kořist,“ řekla Ryan.

    Její předchozí výzkum také naznačuje, že útoky velkých žraloků na lidi mohou být způsobeny záměnou kořisti. Paryby mají nižší schopnost rozlišovat tvary a detaily než lidé. Nemusí být proto schopni rozeznat tuleně od plavců nebo od lidí pádlujících na surfu.

    Vědci z Macquarie University v Sydney provedli studii v jihoafrickém Mossel Bay a výsledky publikovali v časopise Current Biology. Během testování vláčeli návnady za lodí po dobu několika desítek hodin a měnili množství světel na spodní straně potenciální kořisti, uvádí server BBC. Úspěch zaznamenali v momentě, kdy světly pokryli celou návnadu. Protože to však není pro surfovací prkno praktické, experimentovali s různými možnostmi osvětlení, včetně pásů LED světla. Jak se ukázalo, mají podobný odrazující účinek.

    Tým v současné době testuje prototyp surfovacího prkna s namontovaným osvětlením. Je ovšem zapotřebí dalšího výzkumu, aby se zjistilo, zda mají světla stejný účinek na chování žraloků jako nepohyblivé návnady a zda jsou světla účinná při odrazování i jiných druhů žraloků. Pokud se prokáže, že je tento výzkum účinný, mohl by pomoci snížit počet útoků žraloků na lidi provozující sporty na prkně.