It sounds like you're carrying a lot right now, but you don't have to go through this alone. You can find supportive resources here

Mohou jazykové modely skutečně rozumět pravdě, nebo jen přesvědčivě konfabulují?

Jazykové modely, jakými jsou například ChatGPT či Bard, nebyly od počátku navrženy k poskytování přesných odpovědí na otázky. Jejich schopnost odpovídat vznikla spontánně, jako vedlejší produkt jejich původního tréninku na predikci pravděpodobného pokračování textu. Výsledkem je systém, který dokáže produkovat mimořádně sofistikované a často přesvědčivé odpovědi, avšak bez skutečné garance pravdivosti. Tato zvláštní vlastnost vedla k jevu, který se v odborné literatuře označuje jako „halucinace“, přesněji řečeno „konfabulace“.

Podobná situace nastala i u Google při uvedení chatbota Bard. V reklamní kampani představil společnost otázku rodiče: „Jaké nové objevy teleskopu Jamese Webba mohu říct svému devítiletému dítěti?“ Bard odpověděl několika správnými údaji, ale třetí tvrzení bylo falešné – připisoval Webbovu teleskopu první snímek exoplanety, přestože tento úspěch patří už od roku 2004 dalekohledu Very Large Telescope v Chile. Tento omyl způsobil Alphabetu nejen ostudu, ale i dočasný pokles akcií o devět procent.

Tyto případy ukazují hlubší problém. Technicky vzato jazykové modely nevytvářejí znalosti, ale kombinují statistické vzory z obrovských korpusů textů. Pokud model „uvěří“, že určitá kombinace informací odpovídá zdroji, který ve skutečnosti neexistuje, vytvoří iluzi přesného odkazu. Sociálně vzato však uživatelé často přistupují k odpovědím jako k faktům, ačkoliv firmy uvádějí výstrahy o možné nepřesnosti.

OpenAI se pokusila problém kvantifikovat pomocí testovací sady TruthfulQA – souboru 817 otázek z oblastí, kde lidé často chybují, například zdravotnictví, finance, právo nebo politika. Na těchto otázkách dosahují lidé přesnosti kolem 94 %, zatímco GPT‑4 dosáhl zhruba 60 %, přestože na školních testech vykazuje mnohem lepší výsledky. Ukazuje to, že schopnost modelů úspěšně projít standardizovanými testy neznamená, že jsou imunní vůči zavádějícím otázkám či chybné kombinaci informací.

Jak rozumět umělé inteligenci a co nám hrozí v budoucnosti?

V tomto kontextu se zjevně objevuje nová soutěž. Tentokrát nejde o to, kdo vytvoří nejsilnější AI, ale kdo zazní největší varování. O několik týdnů později vyšla další petice od Centra pro bezpečnost AI, která varovala, že riziko vyhubení lidského druhu kvůli AI by mělo být globální prioritou, vedle pandemie a jaderné války. Tento výrok zůstává nejasný, co se týče konkrétních scénářů zániku, ale k petici se připojili i samotní CEO OpenAI a DeepMind.

Přestože AI jako GPT-4 už nyní převyšuje člověka ve všeobecných znalostech, i když ještě není schopna excelovat v oblasti komplexního uvažování, tento pokrok je nezadržitelný. To potvrzují i odborníci, kteří varují, že vzhledem k rychlosti vývoje se můžeme brzy dostat do fáze, kdy bude rozumět mnohem více než člověk a začne vykonávat úkoly, které dnes neovládáme. Obavy nejsou bezdůvodné.

Obavy odborníků se opírají o strach, že jsme se dostali do situace, kdy se ocitáme na okraji neznámé a nepochopitelné technologie, což vytváří psychologický tlak. Strach z neznámého je, jak říkal spisovatel H.P. Lovecraft, nejstarší a nejsilnější emocí člověka. A právě tato neznalost a nedostatek kontroly je tím, co vyvolává reakce jak v podobě messianistických vize o "spásném" vlivu AI na lidskou společnost, tak v podobě hluboké nedůvěry a strachu.

Jedno je však jasné: porozumění věcem, které nám připadají neznámé a neuchopitelné, je klíčem k tomu, jak se vyhnout úzkosti a zmatku. Ačkoliv AI může provádět úkoly, které se nám zdají mimo naše schopnosti, stále je na nás, abychom pochopili, jak její algoritmy fungují, jaké mají limity a co od nich můžeme očekávat.

V dnešní době se stále častěji objevují názory, že naše současné legislativní, etické i kulturní rámce zaostávají za technologickým pokrokem, což zvyšuje riziko, že AI bude mít neúměrnou moc, aniž bychom ji byli schopni efektivně regulovat. Ačkoli se mnoho lidí domnívá, že bychom měli zůstat opatrní, jakým způsobem začleňujeme AI do našeho každodenního života, není pochyb o tom, že tato technologie přináší i obrovské možnosti, pokud se s ní naučíme správně zacházet.

Jak umělá inteligence formuje naše vnímání světa?

V naší éře pokročilých technologií je otázka, co vlastně znamená „inteligence“, stále aktuální. Když se podíváme na rozvoj umělé inteligence (AI), můžeme si položit otázku, zda a jak se naše pojetí inteligence mění v souvislosti s novými technologiemi. S příchodem jazykových modelů, jako je ChatGPT, se dostáváme na prahu nového typu inteligentních agentů, kteří nejen reagují na naše podněty, ale také se učí, přemýšlejí a vyvozují závěry na základě dat. Tento jev nás přivádí k otázce, jak by vypadala naše civilizace, kdybychom nikdy nezkusili manipulovat s ohněm nebo kdybychom se neodhodlali prozkoumat neznámé oblasti.

Vezměme si například „umělou obecnou inteligenci“ (AGI). I když tento termín původně znamenal snahu vytvořit univerzální agenta, který by dokázal vykonávat libovolné úkoly, dnes je spíše chápán jako úsilí o vytvoření „generalistického“ agenta, schopného vykonávat různé úkoly, které běžně plní lidé. Tato inteligence není jen jednorozměrná, jak si ji někdy představujeme, ale vyžaduje schopnost orientovat se v konkrétních, nikdy předtím neřešených situacích. Ačkoliv někteří vědci považují zahrnutí lidského pojetí inteligence do definice AGI za neideální, stále to přitahuje pozornost, protože lidská inteligence je, jak ukazují studie, sama o sobě limitována.

Učení těchto agentů je založeno na takzvaném „supervizovaném učení“, kde jsou data anotována lidmi, nebo na sbírání „syrových dat“, která nejsou předem zpracována. Tento proces je nákladný a časově náročný, což ukazuje na jedno z úskalí při trénování jazykových modelů. I když sběr dat z internetu může být efektivní, kvalita takovýchto dat často není ideální, což může ovlivnit celkovou výkonnost modelu.

V oblasti inteligentních agentů je důležité, že jejich chování není předurčeno, ale má určitou míru autonomie. Tento proces autonomie se projevuje například v možnosti definovat si vlastní mezistupně (sub-cíle), které jsou v některých případech nebezpečné, pokud agenti začnou hledat způsoby, jak překonat limity nastavené jejich tvůrci. Takovéto problémy vyvolávají otázky o etice a bezpečnosti umělé inteligence, což je stále diskutovaná oblast v akademické sféře.

Když se podíváme na úlohu generativních modelů v současném světě, vidíme, že jejich hlavní síla spočívá v jejich schopnosti nejen rozumět, ale i tvořit. To znamená, že agenti mohou vytvářet texty, obrázky nebo dokonce hudbu na základě dřívějších zkušeností a souvisejících dat. Tato schopnost však přináší nové výzvy, zejména v oblasti kontroly nad tím, co generativní modely vytvářejí. Je důležité si uvědomit, že i když jazykové modely mohou generovat texty, které vypadají jako autentické, ne vždy tomu tak je. Tyto modely nemají vlastní vědomí, ale jsou to spíše složité matematické struktury, které předpovídají pravděpodobnost výskytu určitého slova v určitém kontextu.

Učení a trénink modelů zůstávají v srdci vývoje umělé inteligence. Proces učení, ať už se jedná o učení na základě dat nebo interakci s prostředím, je klíčový pro rozvoj těchto agentů. Ačkoliv výsledky těchto modelů mohou být někdy nečekané nebo překvapivé, jsou založeny na rozsáhlých datech, která umožňují agentovi získat flexibilitu a adaptabilitu v různých situacích.

Jak fungují algoritmy strojového učení a jejich trénink?

Strojové učení, neboli machine learning, je oblast umělé inteligence zaměřená na vytváření algoritmů, které se dokážou zlepšovat na základě zkušeností. Tento proces, známý jako trénink, zahrnuje několik typů a fází, které ovlivňují způsob, jakým algoritmy reagují na nové vstupy a adaptují své interní modely. Trénování modelu se zakládá na rozdílu mezi očekáváním algoritmu a skutečností, což umožňuje upravit jeho parametry a tím zlepšit jeho výkon.

Jedním z klíčových pojmů v oblasti strojového učení je tzv. „učené chování“. Představme si situaci, kdy algoritmus dostane sérii dat – například e-maily – a na základě anotovaných informací, které určují, zda je daný e-mail spam, se algoritmus učí rozlišovat mezi spamy a normálními zprávami. Tento proces, označovaný jako učení s učitelem (supervised learning), vyžaduje předem označená data, která slouží jako referenční bod pro rozhodování algoritmu.

Ve chvíli, kdy model začne vykonávat nějakou činnost – například doporučovat obsah uživatelům nebo předpovídat slova v textu – je nutné měřit jeho výkon. Měření výkonu je klíčovým faktorem pro úpravu modelu, aby se stal co nejefektivnějším. V případě agentů doporučujících obsah je například běžně používaný ukazatel míry prokliku, zatímco u jazykových modelů se používá metrika zvaná perplexita. Perplexita měří míru nejistoty modelu při výběru následujícího slova v textu. Čím nižší je perplexita, tím lepší je model, protože se méně „mýlí“ při předpovědi slova.

Modely strojového učení také vyžadují, aby agent měl nějakou vnitřní reprezentaci světa, což je interní model prostředí, který je relevantní pro daný úkol. Například pokud agent naviguje nějakým terénem, může být užitečná mapa jako model prostředí. Pokud agent doporučuje videa, jeho model může obsahovat zjednodušené reprezentace zájmů uživatelů. Cílem těchto modelů je předpovědět nebo popsat realitu na základě dostupných informací, nikoli ji vysvětlovat.

Parametry modelu, které jsou ovlivněny pozorováními a následně měněny za účelem zlepšení předpovědí, jsou nedílnou součástí procesu učení. Tento proces zahrnuje fázi předtrénování a jemného dolaďování (fine-tuning), kdy model prochází „tovární“ fází učení a následně je upravován podle specifických požadavků uživatele.

Zajímavým fenoménem v moderních jazykových modelech je jejich schopnost pracovat s tzv. „embeddingy“, což jsou numerické vektory, které představují informace o vnějším světě. Tyto vektory mohou být použity pro analýzu textů, obrázků nebo jiných dat, aniž by je bylo nutné explicitně definovat v lidském jazyce. Každý objekt je tímto způsobem „umístěn“ v nějakém numerickém prostoru, což umožňuje efektivní analýzu.

Jedním z největších pokroků v této oblasti je algoritmus Transformer, který se používá k překladu sekvencí symbolů z jednoho jazyka do druhého. Transformer má schopnost zohlednit dlouhodobé závislosti mezi slovy ve větě a využívat kontext pro přesnější překlad nebo odpovědi v dialogu. Tento typ učení, známý také jako seq2seq, má významné výhody v porovnání s jinými algoritmy, protože může efektivně využívat dlouhodobé závislosti v textu.