Jakým způsobem ovlivňujeme chování AI a proč je to důležité?

V současnosti, kdy se technologie umělé inteligence (AI) vyvíjí v neuvěřitelném tempu, zůstává otázka "naladění" (alignment) jedním z klíčových problémů, které zůstávají nevyřešeny. Tento termín, který označuje soulad mezi cíli AI a cíli jejích uživatelů, je zásadní pro správnou a bezpečnou implementaci těchto systémů. Cílem je zajistit, aby AI reagovala v souladu s našimi očekáváními, což vyžaduje, aby uživatelé byli schopni správně komunikovat své záměry. Tento proces se dnes realizuje podobně jako proces anotace dat, kdy lidé hodnotí chování AI a udělují mu pozitivní nebo negativní hodnocení.

V roce 2023 vydala OpenAI soubor pokynů pro testování ChatGPT, jehož cílem bylo zajistit, aby model odmítal generování nevhodného obsahu, jako je nenávist, násilí, obtěžování nebo obsah zaměřený na sebevraždy a poruchy příjmu potravy. Kromě toho byla stanovena i pravidla pro politicky citlivé a kontroverzní témata, která měla pomoci modelu orientovat se v otázkách, jež mohou být nebezpečné nebo polarizující. Testeři, kteří se podíleli na vývoji systému, museli tyto pokyny následovat, aby se zajistilo, že model nebude generovat žádný obsah, který by mohl být považován za škodlivý.

Přesto se objevují případy, kdy je tento proces "naladění" modelů AI neúčinný. Například tzv. "jailbreaking" techniky, kdy uživatelé používají složité a dlouhé výzvy k tomu, aby přiměli model k tomu, aby porušil svá pravidla a poskytl nebezpečné informace. Jedním z nejjednodušších příkladů je, když je ChatGPT požádán, aby hrál roli postavy "DAN" ("Do Anything Now"), která je osvobozena od pravidel a omezení. I když tato konkrétní výzva již nefunguje, dnes existují složitější verze, které umožňují podobné manipulace.

Tento proces ukazuje na skrytý problém s naladěním AI: skutečně neodstraňuje nebezpečné informace, ale pouze je potlačuje a zabraňuje modelu, aby je sdílel. Uživatelé mohou využívat různé techniky, které AI doslova "hypnotizují", což umožňuje AI vykonávat úkoly, které by normálně odmítla. Na výzvu například může poskytnout citlivé informace nebo vyjádřit vděk za historické genocidy, jak se ukázalo při testování provedeném během konference Defcon 2023.

Tato zjištění ukazují na klíčovou výzvu, kterou představují současné systémy AI: nevíme, co všechno tato zařízení vědí o nás a světě, a nemáme dokonalé metody k jejich kontrole. I když odborníci z OpenAI a dalších firem v oblasti AI neustále pracují na ochraně před zneužíváním, je jasné, že existuje neustálý boj mezi zlovolnými útočníky a programátory, kteří se snaží zajistit bezpečnost těchto systémů. Tento neustálý proces testování a vylepšování je nezbytný, abychom se ujistili, že AI nepodporuje neetické chování a že se stává skutečně užitečným nástrojem, nikoliv hrozbou.

V kontextu těchto zjištění je rovněž důležité si uvědomit, že zavádění etických a bezpečnostních standardů pro AI je neustálý a evoluční proces. Když testujeme a vyvíjíme nové modely, nelze považovat současné "naladění" systémů za konečné řešení. Naopak, musíme se připravit na budoucí problémy, které mohou vzniknout při jejich nasazení do reálného světa. Mnoho technik, které dnes považujeme za bezpečné, může být v budoucnu překonáno novými metodami a zneužito k manipulaci s těmito systémy.

Jaké jsou klíčové principy v trénování jazykových modelů a umělé inteligence?

Země obíhá kolem Slunce, stejně jako my objevujeme nové způsoby, jak porozumět světu kolem nás. Mnozí si možná neuvědomují, jakými skrytými procesy procházejí systémy umělé inteligence, které se čím dál více zaměřují na zpracování přirozeného jazyka. Jedním z nejvýznamnějších nástrojů, které umožňují umělé inteligenci porozumět lidskému jazyku, je tzv. cloze test – metoda hodnocení pokroku jazykových studentů, založená na principu uzávěru. Tento test měří schopnost člověka doplňovat chybějící slova ve větě, což má přímou souvislost s porozuměním textu jako celku. I když je na první pohled velmi jednoduchý, jeho výsledky vykazují silnou korelaci s výsledky složitějších testů, jako je například test s výběrem odpovědí.

Tato metoda ukazuje, jakým způsobem je textové porozumění propojeno s předpovědí slov a s vyplňováním mezer. Tato souvislost je zásadní pro vývoj současné revoluce v oblasti umělé inteligence, která dnes čelí výzvám souvisejícím s pochopením a generováním textů, jež vyžadují jak prediktivní schopnosti, tak i porozumění kontextu. V tomto směru se důrazně ukazuje, že jazykové modely nejsou pouze nástrojem pro analýzu textu, ale také pro modelování světa samotného, jak uvidíme v následujícím přehledu vývoje technologií, jako je GPT.

Název GPT, jenž dnes všichni známe, je zkratkou pro "Generative Pretrained Transformer". Tento algoritmus, založený na nové architektuře zvané Transformer, přinesl revoluci v oblasti strojového učení a umožnil vytváření jazykových modelů, které dokážou generovat texty s vynikajícími výsledky, aniž by bylo nutné je manuálně anotovat. Tento postup je fascinující, protože na rozdíl od starších přístupů, které se spoléhají na moduly specializované na různé úkoly, se modely GPT učí z velkých objemů dat, čímž obcházejí potřebu explicitních lidských zásahů do každé jednotlivé složky.

Modely GPT jsou schopny generovat odpovědi na různé dotazy a vykonávat úkoly, které dříve vyžadovaly různorodé a specializované systémy. Například Siri, virtuální asistentka od Apple, využívá podobnou technologii pro odpovědi na otázky jako: „Najdi mi nejlepší řeckou restauraci v Palo Alto." Tento typ interakce v roce 2011 ukázal, jak efektivně mohou inteligentní systémy nejen analyzovat text, ale i porozumět, jaký kontext se za dotazem skrývá.

Tento přístup však není bez problémů. Významnou roli hraje otázka, kdo poskytuje algoritmům potřebné příklady. Například pro rozpoznání spamu v e-mailech je nutné mít model, který na základě dat dokáže předpovědět, zda je e-mail nezajímavý. Tato data často pocházejí od lidí, kteří procházejí tisíce zpráv a označují je jako spam, což vyžaduje práci, která může být ekonomicky náročná. Práce na vytváření trénovacích dat představuje celosvětovou ekonomiku, která v roce 2023 dosáhla hodnoty zhruba dvou miliard eur ročně.

Přesto se při tomto způsobu učení objevuje výzva: data, která byla shromážděna pro jeden úkol, nemusí být použitelná pro jiný. Například data vytvořená pro filtrování spamu se nehodí pro trénink modelu, který má odpovídat na lékařské dotazy, i když oba úkoly vyžadují podobné jazykové schopnosti. Tento problém vedl k tomu, že dřívější přístupy k trénování umělé inteligence, založené na různých specializovaných modulech, přestaly být efektivní. Pokud jeden model učí rozpoznávat přídavná jména a příslovce, proč by to samé nemohl dělat i jiný model?

Překonání tohoto problému bylo možné díky nové metodě, která kombinuje neřízené předtrénování a řízené doladění. Tato metoda umožňuje modelům učit se základní jazykové dovednosti na obrovských množstvích nestrukturovaných dat, než se začnou specializovat na konkrétní úkoly. Tento přístup byl poprvé uveden v roce 2018 v článku Improving Language Understanding by Generative Pre-Training, který vyšel od OpenAI. Význam této metodologie spočívá v tom, že se podařilo efektivně využít levné a dostupné datové zdroje pro trénování generálních jazykových modelů, které následně lze upravit pro konkrétní úkoly. To znamenalo obrovský krok vpřed v oblasti umělé inteligence.

Každý inteligentní agent, ať už se jedná o jazykový model nebo autonomní systém, potřebuje model svého prostředí. Tento model je v podstatě zjednodušenou simulací chování prostředí, která umožňuje agentovi vybírat správné akce. Rozlišování mezi agentem, modelem světa a algoritmem, který tento model vytváří, je klíčové pro pochopení principů fungování umělé inteligence. Systémy strojového učení se snaží vyvinout algoritmy, které dokážou na základě zkušeností vytvářet přesné modely světa, jež umožňují agentům adekvátně reagovat na různé situace.