Jaké výzvy a příležitosti přináší integrace generativní AI a agentických systémů do duševního zdraví?

Technologie, jako je generativní umělá inteligence (GenAI) a agentické systémy, představují inovativní nástroje pro překonání současných překážek v oblasti duševního zdraví, čímž činí tuto péči dostupnější a personalizovanější. Například používání chatbotů poháněných AI, jako jsou Woebot a Wysa, ukazuje, jak lze pomocí GenAI překlenout mezery v dostupnosti péče o duševní zdraví, poskytující škálovatelnou, individuální podporu. Takové nástroje jsou schopny poskytnout okamžitou emocionální podporu a navrhovat strategie zvládání stresu, což umožňuje mnoha lidem přístup k péči, který by jinak neměli.

Agentické systémy, které fungují autonomně a analyzují data pro přijímání rozhodnutí bez neustálého dohledu člověka, nabízejí další možnosti. V kontextu duševního zdraví mohou tyto systémy monitorovat chování uživatele, identifikovat první příznaky psychického stresu a navrhovat včasné intervence. I když agentické systémy mohou přispět k větší dostupnosti péče a snížení nákladů, je nezbytné zajistit, že rozhodnutí a doporučení těchto systémů nebudou v rozporu s etickými normami a lidskými hodnotami.

V oblasti udržitelnosti je důležité zvážit i environmentální dopad trénování a ladění velkých jazykových modelů (LLM), které mohou generovat značné množství emisí oxidu uhličitého. S rostoucí popularitou malých LLM je jednou z cest ke zlepšení udržitelnosti v oblasti AI snížení velikosti tréninkových dat a doby trénování modelů. Příkladem udržitelného přístupu je model mhGPT, který využívá pouze 1,98 miliardy parametrů a 5 % datového souboru MentaLLaMA a Gemma, přičemž vykazuje lepší výsledky než některé z nejpokročilejších současných modelů. Tato praxe ukazuje, jak lze při zachování vysoké efektivity snížit ekologickou stopu umělé inteligence v oblasti duševního zdraví.

Základním principem pro efektivní implementaci generativní AI a agentických systémů v duševním zdraví je odpovědnost. Podle výzkumu Sivarajaha et al. (2023) jsou pro budoucí vývoj AI v této oblasti klíčová témata jako udržitelnost, lidský přístup, inkluze, spravedlnost a transparentnost. Významným směrem je „udržitelná AI“, která vyžaduje vývoj pravidel a zásad pro etické a sociálně odpovědné používání AI ve zdravotnictví. Je také nezbytné vypracovat vzdělávací programy pro odborníky, které je seznámí s etickými zásadami AI, a zavést právní rámce, které zabrání neetickému využívání těchto technologií.

Jedním z klíčových výzev pro budoucnost je zajistit, aby AI podporovala a nevyrušovala lidský přístup v péči o duševní zdraví. Lidsky zaměřený design, který zohledňuje uživatelskou přívětivost a klinickou relevantnost, by měl být součástí celého životního cyklu vývoje AI řešení. To zahrnuje nejen techniky zaměřené na snížení biasu a zajištění férovosti modelů, ale i zajištění toho, že AI nebude nahrazovat terapeutickou roli, kterou stále hraje člověk.

Udržitelný a eticky odpovědný přístup k AI ve zdravotnictví bude klíčový pro budoucnost této technologie v oblasti duševního zdraví. Důležité je, aby její implementace přinášela dlouhodobé výhody a nevedla k novým formám technologické závislosti, která by mohla zhoršit mezilidské vztahy nebo nahradit skutečnou emocionální podporu.

Jaké jsou výhody a výzvy při použití AI v terapii a duševním zdraví?

Sama umělá inteligence (AI) nemůže nahradit skutečnou terapii v reálném světě. Místo toho ji lze považovat za nástroj podpory, který nabízí počáteční vedení pod dohledem vyškolených odborníků, což může výrazně zlepšit konzultace s pacienty. S rozvojem AI je však nezbytné neustále zlepšovat její účinnost, a to prostřednictvím rozšířených modelů a obousměrných architektur, jako je Transformer-XL, které zlepšují schopnost modelů rozumět kontextu a přesnost odpovědí.

Aby se zvýšila účinnost AI v oblasti duševního zdraví, je nutné také integrovat externí zdroje znalostí a využívat zpětnou vazbu od uživatelů pro optimalizaci výkonu chatbotů. Kromě toho je důležité věnovat se problémům jako je vystavení biasu v modelech jako je WenZhong, nebo jednostranné omezení v modelech WenZhong a PanGu. Takové problémy mohou vést k nepřesnostem, opakujícím se odpovědím a obtížím při plnění úkolů závislých na konkrétním kontextu.

Nicméně výzvy zůstávají, zejména pokud jde o trénování modelů na kvalitních, dobře definovaných datech, které by zajišťovaly správné hodnocení a smysluplnou podporu v oblasti duševního zdraví. AI může pomoci škálovat služby duševního zdraví, ale lidský dohled je stále nezbytný pro udržení důvěry, přesnosti a etického použití. Vývoj v této oblasti by měl klást důraz na robustní ochranu soukromí, včetně explicitního souhlasu uživatele, anonymizace citlivých údajů a přísné kontroly přístupu k osobním informacím.

Pro zajištění bezpečnosti a etiky v systému AI je klíčové zavést jasné protokoly pro zacházení se zranitelnými nebo rizikovými dotazy uživatelů. Takové protokoly by měly zahrnovat mechanismy pro upozornění na problematické odpovědi a umožnit uživatelům vyžádat si lidský zásah, pokud je to nutné. Pravidelné sledování a audity jsou nezbytné pro detekci a opravu jakýchkoli předsudků nebo diskriminačních vzorců v rámci modelu AI. Kontinuální hodnocení odborníky a analýza zpětné vazby uživatelů mohou zlepšit spravedlivost, spolehlivost a inkluzivnost chatbota, což je zásadní pro poskytování bezpečné, etické a účinné podpory duševního zdraví.

V současnosti se většina velkých jazykových modelů (LLM) spoléhá na data ze sociálních médií a dialogů, například příspěvků na Redditu. Tato data jsou užitečná pro základní screening, ale pro formální klinické diagnózy jsou nedostatečná, protože často dochází k zjednodušování a neadekvátnímu zastoupení uživatelských skupin. Dále jsou v existujících datech nedostatky, zejména pokud jde o neověřené odborné štítky pro stavy jako deprese a úzkost, které jsou v různých studiích definovány nekonzistentně.

Důležité je také pochopit, že přestože generativní AI může nabídnout okamžitou pomoc nebo poradenství, její schopnosti jsou stále omezené v porovnání s osobní terapeutickou intervencí. Není schopná zachytit komplexnost lidských emocí a zážitků v takovém rozsahu, jak to dokáže člověk, což znamená, že v některých případech může poskytovat povrchní nebo dokonce zavádějící rady. V rámci dlouhodobé péče a léčby by měla být AI spíše podpůrným nástrojem než náhradou skutečné terapeutické péče.

Jaké dopady mají duševní problémy mládeže na společnost?

Duševní zdraví mladých lidí není pouze individuálním problémem. Výzkumy naznačují, že se jedná o vážnou výzvu pro rodiny, školy i celou společnost (McGorry et al., 2024). Když mladý člověk trpí úzkostmi, depresí nebo jinými psychickými problémy, dopady sahají daleko za něj samotného. Rodiče a pečovatelé jsou vystaveni značnému stresu, učitelé zaznamenávají pokles výkonu žáků a zdravotní i justiční systémy procházejí stále větším tlakem. Tyto problémy se šíří a mají dopad na rodiny, školy a celé komunity, formující emoční a sociální strukturu společnosti.

Dnes čelí duševním problémům více mladých lidí než kdykoliv předtím. Mezi příčiny tohoto trendu patří genetické predispozice, neodhalené duševní poruchy, akademický tlak, porovnávání na sociálních sítích, ekonomická a politická nejistota, environmentální problémy i osobní životní obtíže. To vše vytváří těžké břemeno, které mnozí adolescenti těžko zvládají bez pomoci (U.S. Surgeon General's Advisory, 2023). V následujících řádcích se podíváme na zásadní společenské dopady špatného duševního zdraví mládeže v několika oblastech – od rodinných vztahů po ekonomické a pracovní trhy, veřejné zdraví i kriminalitu mládeže.

Rodinné dynamiky a duševní zdraví mládeže

Negativní dopady duševního zdraví mládeže se často projevují jako první právě v rodinných vztazích. Rodiny čelí zhoršené komunikaci, rostoucím konfliktům a celkovému napětí. Výzkumy ukazují, že rodiče a pečovatelé mohou zažívat pokles produktivity, což může negativně ovlivnit jejich duševní zdraví a v některých případech vést až k finančním problémům nebo ztrátě zaměstnání (Evernorth, 2024; Grodberg et al., 2022). Mnozí pečovatelé také čelí nutnosti čerpat více volna, aby se mohli postarat o dítě, doprovodit je na diagnostické schůzky nebo se podílet na dlouhodobé léčbě, což situaci v domácnosti ještě více zhoršuje.

Studie Smitha et al. (2010) ukázala, že psychické problémy v dětství mohou mít celoživotní finanční dopad, kdy ztráta rodinného příjmu může dosáhnout až 300 000 dolarů. Studie z roku 2024 ukázala, že 54 % pracujících rodičů s dětmi, které čelí psychickým problémům, samotní rodiče také trpí duševními poruchami. Tato data naznačují, že rodiče dětí s duševními problémy mají až 2,7krát vyšší pravděpodobnost, že se u nich vyvinou psychické potíže ve srovnání s rodiči, jejichž děti nejsou zasaženy podobnými problémy (Evernorth, 2024; Grodberg et al., 2022).

Vzdělávací výkony a duševní zdraví mládeže

Duševní problémy mládeže mají přímý vliv na jejich školní výsledky. Úzkost, deprese a stres mohou zásadně narušit koncentraci, motivaci a celkový školní výkon (Jaycox et al., 2009). Mladí lidé trpící duševními problémy čelí výzvám v docházce, plnění úkolů, dodržování termínů a sociální interakci se spolužáky. To nejenže negativně ovlivňuje jejich vzdělávací výsledky, ale může také vést ke snížení sebevědomí, omezeným příležitostem na pracovním trhu a vyřazení z aktivního zapojení do společnosti. Je proto nezbytná podpora ze strany školských institucí, učitelů a rodin, které by měly poskytnout mladým lidem co nejdříve adekvátní příležitosti k vzdělávání.

Kromě osobních a akademických problémů mají duševní problémy mládeže širší dopady na společnost. Celosvětově vidíme nárůst výdajů na zdravotní péči, zvýšený tlak na služby duševního zdraví a zátěž podpůrných systémů (Cardoso & McHayle, 2024; Kirby, 2022; Patel et al., 2007). Pokud se duševní problémy u mladých lidí neřeší včas, mohou jim bránit v nalezení a udržení stabilního zaměstnání při přechodu do dospělosti (Gmitroski et al., 2018).

Výzvy na pracovním trhu a dopady duševního zdraví mládeže

Veřejný zdravotní systém a duševní zdraví mládeže

Vzestup prevalence duševních poruch mezi adolescenty vytváří vážné problémy pro veřejné zdravotní systémy. Nemocnice a kliniky čelí nárůstu poptávky, což přetěžuje již tak zaneprázdněné pracovníky ve zdravotnictví. Tento trend se stal zásadní výzvou pro veřejné zdraví (Feuer et al., 2023). Nedostatek zdravotnických pracovníků problém ještě zhoršuje, což omezuje přístup k včasné a adekvátní péči o duševní zdraví dětí a adolescentů (Patel et al., 2007; Federální statistický úřad, 2021; Singer, 2024). Pandemické období COVID-19 ještě více zkomplikovalo situaci a zvýšilo pracovní zátěž zdravotnických pracovníků, což ještě více zatížilo již tak přetížený systém.

Studie z Anglie zkoumala hospitalizace dětí a mladistvých ve věku 5 až 18 let během deseti let od roku 2012 do roku 2022. Výsledky ukázaly alarmující nárůst hospitalizací v souvislosti s duševním zdravím. V letech 2021–2022 bylo z celkového počtu 342 511 hospitalizací téměř 40 000 (11,7 %) spojeno s duševními problémy, což představuje vzestup o 65 % oproti předchozímu desetiletí. Nejvíce alarmující byl nárůst případů mezi dívkami ve věku 11–15 let, kde se počet hospitalizací více než zdvojnásobil.

Jak umělé inteligence zlepšuje přístup k programům podpory duševního zdraví: Různé typy doporučovacích systémů

Systémy doporučování na základě znalostí se opírají o expertizní pravidla, která jsou naprogramována předem odborníky. Jak ukazuje obrázek 10-7, v tomto modelu se shromažďují různé znalostní zdroje, jako jsou komunitní informace, odborná literatura nebo elektronické zdravotní záznamy, a tyto zdroje jsou zpracovávány pomocí pokročilých algoritmů zpracování přirozeného jazyka (NLP). Tyto algoritmy umožňují identifikovat relevantní entit, které jsou následně prezentovány ve formě ontologického grafu. Takto vytvořený systém je schopen poskytovat personalizovaná doporučení zaměřená na duševní zdraví, a to jak pro zlepšení nálady uživatelů, tak i pro prevenci duševních problémů. Kromě toho mohou takové systémy nabízet psychologické služby formou otázek a odpovědí nebo vytvářet psychologické lexikony, které uživatelům pomáhají lépe porozumět jejich emocím.

Důležitým prvkem těchto systémů je, že čím více jsou vybaveny daty – ať už jde o textová data, hlasové nebo video záznamy – tím přesnější a personalizovanější mohou být. Tyto systémy neustále aktualizují své databáze a přizpůsobují se aktuálním podmínkám uživatelů, což zvyšuje šance na efektivní zásah a podporu duševního zdraví.

Dalšími zajímavými systémy jsou kontextově orientované doporučovače. Tyto systémy, které mohou být postaveny na základě metod kolaborativního filtrování (CF) nebo na obsahových doporučeních, berou v úvahu aktuální kontext uživatele, jako je jeho poloha, věk, čas denní doby, nebo dokonce den v týdnu. Příkladně doporučení na základě dne v týdnu (víkend versus pracovní dny) může být přizpůsobeno pro doporučení terapeutických aktivit. Kontextově orientované systémy pomáhají lépe přizpůsobit doporučení potřebám uživatelů a zvyšují pravděpodobnost, že si uživatelé skutečně vyberou doporučené možnosti.

Jeden z příkladů těchto kontextově orientovaných systémů je PopTherapy, který používá kontextuální bandity pro vyhodnocování situace uživatele. Tento systém klade důraz na postupné rozhodování a rovnováhu mezi zkoumáním nových možností a využíváním ověřených metod. Takto může systém reagovat na změny v náladě uživatele nebo jeho emocionálním stavu a přizpůsobit mu odpovídající terapeutické zásahy. Příklady doporučených mikrointervencí zahrnují například podporu v hledání pozitivních momentů ve vlastním životě, povzbuzení k přátelskému chování nebo zdůraznění vlastních silných stránek.

Tento přístup ukazuje, jak významnou roli může umělá inteligence sehrát v oblasti duševního zdraví, přičemž klíčovým faktorem zůstává personalizace a schopnost adaptovat se na měnící se podmínky a potřeby uživatelů. Každý systém musí být dostatečně flexibilní, aby reagoval na různorodé emocionální stavy a podmínky, a zároveň citlivý k výzvám, které může přinést zpracování citlivých osobních dat.

Jak vybrat doporučovací systém pro zlepšení přístupu k péči o duševní zdraví?

Vzhledem k těmto výzvám je pro dosažení nejlepšího výsledku nezbytné zvolit hybridní přístup, který spojuje výhody různých metod. Tento přístup může mít několik architektonických podob:

1. Monolitická architektura – Integruje různé doporučovací strategie do jednoho algoritmu, který poskytuje relevantní doporučení.

2. Paralelní design – Spojuje různé doporučovací systémy, kde každý systém generuje vlastní seznam doporučení, které se následně sloučí.

3. Pipeline design – Spojuje více doporučovacích systémů v sekvenčním uspořádání, kde výstupy jednoho systému jsou vstupy pro následující. Tento přístup umožňuje využít původní vstupní data a vytvářet sofistikovanější doporučení.

Kromě výběru správného hybridního designu je klíčovým faktorem také volba algoritmů. Metody jako faktorizace matice (MF) a singulární hodnotová dekompozice (SVD), klasifikační techniky a hluboké učení se ukázaly jako účinné pro zlepšení přesnosti kolaborativních filtrů a kontextuálních doporučovacích algoritmů. Velký počet dimenzí, které reprezentují uživatelské charakteristiky, může vést k nárůstu objemu dat a jejich řidkosti, což vyžaduje použití technik redukce dimenzionality, jako je PCA, SVD nebo MF, před tím, než jsou data odeslána do algoritmu. V poslední době grafové neuronové sítě (GNN) překonaly výkonnostní standardy a dosáhly špičkových výsledků v doporučovacích úlohách.

Důležitým aspektem při návrhu doporučovacích systémů je také integrace uživatelského kontextu. Faktory jako nálada, věk, pohlaví, místo pobytu nebo specifické potřeby uživatele mohou být zahrnuty do modelů doporučení pomocí GNN a dalších pokročilých metod. Upravování tréninkových funkcí těchto algoritmů pomocí „learning to rank“ místo běžně používaných metod jako „mean squared error“ může významně zlepšit kvalitu výsledků.

Při hodnocení účinnosti doporučovacích systémů je nezbytné zaměřit se na několik metrik, které hodnotí prediktivní, pořadí a behaviorální vlastnosti systému. Mezi nejdůležitější metriky patří:

• Přesnost a recall – Tyto metriky se zaměřují na „správnost“ doporučení, tedy jak dobře algoritmus najde relevantní položky. Při hodnocení přesnosti se hodnotí podíl relevantních položek mezi doporučeními, zatímco recall se zaměřuje na schopnost systému doporučit co nejvíce relevantních položek, aniž by přehlédl některé z nich.

• Metody pro hodnocení pořadí – Metriky jako NDCG (Normalized Discounted Cumulative Gain), MRR (Mean Reciprocal Rank) a MAP (Mean Average Precision) jsou zaměřeny na hodnocení kvality pořadí doporučených položek. Tyto metriky zohledňují, jak správně jsou položky seřazeny od nejvíce relevantních po méně relevantní.

• Behaviorální metriky – Hodnotí, jak nová, různorodá a překvapivá jsou doporučení. K tomu se používají metriky jako serendipity, novelty nebo diversity. Tyto metriky pomáhají zajistit, že doporučení nejsou jen relevantní, ale také rozmanitá a zajímavá pro uživatele.

V oblasti duševního zdraví je kladeno důraz na to, jak doporučovací systémy mohou pomoci uživatelům při výběru správných klinik, pojišťoven nebo komunitních sítí. Důležitým faktorem je personalizace doporučení podle specifických potřeb jednotlivých uživatelů, což může výrazně zlepšit přístup k péči a podpořit efektivní terapii.

Při návrhu a hodnocení těchto systémů je nezbytné zaměřit se na vyvážení mezi přesností a personalizací. Zatímco přesnost doporučení je klíčová pro efektivitu systému, důležité je také brát v úvahu možnosti diverzifikace a personalizace doporučených terapií. Ačkoli tradiční metody hodnocení mohou stále být užitečné, stále více se klade důraz na behaviorální metriky, které mohou přispět k zajištění širšího spektra doporučení.