Naše webové stránky obsahují odkazy na partnerské weby. Pokud se prokliknete z našich stránek na stránky partnera a tam si zakoupíte jeho služby, obdržíme za zprostředkování provizi (Zjistit více informací). Tato forma spolupráce nijak neovlivňuje objektivnost našich recenzí. Každým nákupem přes proklik z našich stránek podpoříte naši redakci, abychom i do budoucna mohli tvořit kvalitní a užitečný obsah. Ďekujeme.
Důležité upozornění Všechny naše články píšou skuteční lidé. Nejsou to umělé texty od stroje.
Příběh Blakea Lemoinea: Proč Google vyhodil AI inženýra?
Často nadpisy článků v médiích připisují umělé inteligenci schopnost myslet nebo dokonce schopnost cítit. Běžný konzument sci-fi knih a filmů podlehne dojmu, že právě takto je umělá inteligence v současnosti vyvíjena.
Jak jsou dnešní nástroje využívající umělou inteligenci naprogramovány? Tento článek je zdrojem informací pro všechny, kteří chtějí porozumět, co současná umělá inteligence je a co není.
V červnu 2022 proběhla médii zpráva, že Google vyhodil svého AI inženýra Blakea Lemoinea, který pracoval na systému LaMDA, protože uvěřil, že systém LaMDA je „vědom si sám sebe“ (v angličtině sentient).
LaMDA je zkratka pro Language Model for Dialogue Applications, což je systém obsahující rodinu konverzačních neuronových jazykových modelů vyvinutých společností Google.
Proč případ Blakea Lemoinea způsobil takový rozruch v médiích? Jak podrobně zkoumáte různé zdroje, pokud vás téma zaujme?
Někdy je kladení otázek přímo tomu, kdo nám je může zodpovědět, nejlepší volbou. Nečíst pouze články s clickbaitovými názvy a vydestilovaným pohledem, ale udělat si názor sami. V následujícím videu je 3hodinový rozhovor s Blakeem Lemoineem, ve kterém se dozvídáme o jeho dětství, studentských časech, službě v armádě v Iráku, návratu ke studiu umělé inteligence, a nakonec i o zaměstnání v Googlu.
V úvodu videa Blake odpovídá na nejrůznější dotazy moderátora, od osobních milníků po fungování umělé inteligence. Například upřímně vypráví i o svých zážitcích s halucinogenními látkami z dob studia, o negativních zážitcích z mise v Iráku a následném vojenském vězení, o své víře a cestě křesťanského duchovního.
Blake přerušil kvůli práci v Googlu své postgraduální studium umělé inteligence. V Googlu působil na různých pozicích, spolupracoval na algoritmu personalizovaných zpráv Google Now, naposledy pracoval v etické komisi pro AI. Jeho pracovní náplní bylo zkoumání „zaujatosti“ (bias) systému LaMDA, například v otázkách náboženské nebo genderové rovnosti.
V rozhovoru naleznete i vysvětlení, jak funguje strojové učení či hluboké učení, jak je dnes vyvíjena umělá inteligence i jak procesně fungují firmy, které se jejímu vývoji věnují. Blake zmínil systémy Mina, LaMDA, Replica, GPT-3.
Blake vyprávěl, jak měl na základě chatbotových konverzací podezření, že LaMDA je schopna cítit a je si vědoma sama sebe. Informoval o tom své nadřízené, s tím, že LaMDA má určité požadavky, jak s ní má být zacházeno. Také chtěl docílit toho, aby o osudu vědomé umělé inteligence neměli možnost rozhodovat pouze majitelé firmy, ale i široká veřejnost. Informoval vedení, že pokud se nebude nic dít, dá informace také do médií. A tak se také stalo, poskytl informace Washington Postu a přibližně za měsíc byl z Googlu propuštěn.
Není to tedy docela tak, jak hlásají titulky – hlavním problémem nebylo jen to, že uvěřil, že LaMDA je vědomý systém. Ale kladl svému vedení podmínky, jak má pracovat.
Doporučuji vám rozhovor jako sondu do duše hluboce věřícího člověka a zároveň vědce s nadprůměrnou inteligencí. Přečtěte si také Blakeův blog obsahující rozhovor s LaMDA, na jehož základě usoudil, že je to systém vědom si sám sebe. Možná se začtěte i do starších blogů, kde Blake hluboce prožívá každou nespravedlnost a nerovnost, která se děje lidem: Zaměstnávání dětí ve třetím světě, nerovné zacházení s lidmi indické národnosti podle příslušnosti k různým kastám a podobně.
Pokud jste si prošli všechny tyto zdroje, jaký máte z Blakea dojem?
Jeho přirozený projev bez naparování se a nadsázky je sympatický. Jeho schopnost polopatisticky vysvětlovat také. Všimněte si však jeho odpovědi na otázku, zda systémy umělé inteligence dokážou za nás logicky přemýšlet, například propojit dvě fyzikální teorie a najít odpovědi, které lidé zatím nenašli. Blake bez zaváhání odpověděl: „NE.“ Ne, protože na všechno potřebují data, na kterých budou vytrénována. A těmito daty jsou texty napsané člověkem. Nic jiného zatím neexistuje. Systémy jsou velmi moudré, ale zatím nedokážou odvodit vlastní myšlenky.
Je to zároveň odpověď na otázku, zda si dnešní umělá inteligence dokáže být vědoma sama sebe? Jak, když na všechno potřebuje data, na kterých bude vytrénována? LaMDA byla vytrénována na obrovské množině textů. Její odpovědi na otázky Blakea jsou sugestivní odpovědí vyextrahovanou z textů napsaných člověkem. Navíc ve zveřejněném dialogu jsou některé otázky editovány a v rozhovoru Blake řekl, že ani nezveřejnil všechno, protože některé části dialogu s LaMDA byly už příliš osobní.
Nabízí se i paralela s filmem Čistá duše (Beautifull Mind, 2001) o geniálním, ale podivínském matematikovi Johnu Nashovi. Hledíte-li příliš dlouho do propasti, začíná propast hledět do vás. Ocitl se Blake ve snu, mimo realitu? Závěr Googlu byl právě takový.
Pokud chcete zůstat ve světě fantazie, tak kromě rozhovoru s Blakeem Lemoineem vám doporučuji filmy Ona (Her, 2013), Ex Machina (2014), nebo seriál Westworld (2016).
Chcete-li vědět, jak umělá inteligence opravdu funguje, přečtěte si naše články o nástrojích, které ji využívají: Recenze Jasper.ai, Nástroje pro kontrolu plagiátorství.
