Tobby se ponořil do tréninkových dat modelu. Byla to minulá incidentní hlášení, z nichž mnohá byla špatně označena nebo neodrážela skutečnou odpovědnost. Nejhorší však bylo, že data obsahovala staré předsudky doby, kdy byli mladší inženýři rutinně obviňováni z problémů se systémy, bez ohledu na skutečný kontext. Umělá inteligence (AI) tedy nebyla „špatná“, jen se učila z chybné historie. To byl pro Tobbyho budíček. Schopnosti AI, pokud nejsou pod správou, neautomatizují jen rozhodnutí; mohou automatizovat špatná rozhodnutí v širším měřítku. Řízení v éře umělé inteligence není pouze seznam kontrolních bodů, je to imunitní systém vaší organizace. Určuje, zda vaše schopnosti AI mohou fungovat jako důvěryhodný poradce, nebo jako nekontrolovatelný operátor.

Správa AI se vztahuje k souboru politik, standardů a rámců, které určují, jak jsou schopnosti AI nasazeny a řízeny v organizaci. U platforem ITSM, jako je ServiceNow, zajišťuje správa AI, že procesy řízené AI jsou etické, transparentní, bezpečné a v souladu s cíli organizace. Klíčové důvody pro správu v ITSM zahrnují:

Etické otázky: Představte si, že virtuální agent upřednostňuje VIP uživatele při řešení incidentů a ostatní uživatele přesouvá na pozadí fronty, ne proto, že by to někdo nařídil, ale protože to odvodil z historických časů řešení tiketů. To je příklad algoritmické zaujatosti v akci. Schopnosti AI musí být navrženy a provozovány eticky, aby se zajistilo, že nezpevní předchozí předsudky nebo nebudou činí rozhodnutí, která by mohla poškodit uživatele nebo organizaci.

Soulad a bezpečnost: Představte si, že vaše instance ServiceNow integruje data z HR pro predikci potřeb při onboardingu. To se může zdát jako skvělý nápad, dokud někdo nezapomene maskovat osobní identifikační údaje (PII), čímž poruší GDPR. Klasickým příkladem je velká pojišťovna ve Velké Británii, která byla v roce 2021 pokutována částkou 1,5 milionu liber poté, co její AI chatbot pro zákaznický servis odhalil citlivé údaje klientů kvůli špatně filtrovaným dotazům. V ServiceNow mohou modely Predictive Intelligence a Virtual Agent přistupovat k datovým polím jako jsou uživatelské e-maily, lokalizace nebo dokonce pracovní poznámky, kde mohou být citlivé informace ponechány. Správa zajistí, že tento přístup je kontrolován, šifrován a monitorován. Regulační požadavky, zákony o ochraně osobních údajů (jako GDPR) a další obavy o kybernetickou bezpečnost činí zřízení rámců správy nezbytným pro platformy využívající AI. Tyto rámce zajistí, že AI řešení jsou bezpečná, v souladu s předpisy a chráněná.

Transparentnost a odpovědnost: Dwight, manažer podpory, byl nadšený, když jeho AI doporučovací engine začal automaticky směrovat tikety. Ale jeho radost se proměnila v stres, když se stalo, že si třikrát po sobě vysoká priorita klienta našla cestu k nesprávnému týmu. Když se ho zeptali, proč se to stalo, nikdo nedokázal odpovědět. Logika modelu byla skrytá v černé skříni. Tato absence vysvětlitelnosti poškodila důvěru nejen v implementované schopnosti AI, ale také v úsilí Michaela, který se na jejich implementaci podílel. Zainteresované strany musí rozumět tomu, jak AI dává rozhodnutí na platformě ServiceNow. Praktiky správy zajistí transparentnost, aby rozhodnutí, která AI přijímá, byla vysvětlitelná a auditable. Je zásadní, aby IT manažeři byli informováni o nadcházejícím nařízení EU, které klasifikuje ITSM nástroje využívající prediktivní rozhodování jako "vysoké riziko", a vyžaduje plnou vysvětlitelnost a sledovatelnost.

Pokud nemůžete vysvětlit rozhodnutí vaší AI obchodnímu zástupci, už jste ztratili důvěru.

Před nasazením jakékoli AI schopnosti v ServiceNow by si měli manažeři odpovědět na následující otázky:

  • Definovali jsme etické hranice pro naše využívání AI?

  • Máme jasnou odpovědnost za výkon našeho modelu?

  • Můžeme vysvětlit každé rozhodnutí, které AI učiní ohledně servisního tiketu?

  • Jsme v souladu s GDPR, HIPAA a interními bezpečnostními politikami?

  • Zavádíme pravidelné audity na detekci zaujatosti a odchylek v datech?

Pokud na některou z těchto otázek odpovíte „ne“, je čas přehodnotit vaši strategii správy AI. Správa AI není jen kontrolní mechanismus. Měla by být vaším severním hvězdným kompasem, který zajišťuje, že vaše ITSM systémy budou sloužit všem spravedlivě, bezpečně a transparentně.

K tomu je třeba věnovat pozornost několika klíčovým komponentám správy AI, které zajistí efektivní nasazení a správu těchto technologií v organizaci:

Správa dat a ochrana soukromí: AI závisí na datech a víme, že data jsou dvousečný meč. Použijete-li je správně, stane se AI přesným nástrojem; použijete-li je špatně, stává se to rizikovým faktorem. Gartner uvádí, že do roku 2027 75 % neúspěchů AI bude způsobeno špatnou kvalitou dat a zanedbáním ochrany soukromí, nikoli chybnými algoritmy. Pokud jde o modely v ServiceNow, je klíčové, aby byly trénovány na bezpečných a anonymizovaných datech. Organizace by měly mít jasně stanovené zásady pro používání dat, uchovávání dat a související politiku ochrany soukromí.

Transparentnost modelu a vysvětlitelnost: Průhlednost v AI není jen o protokolech; jde o důvěru. Manažerům a týmům je třeba poskytnout nástroje pro interpretaci rozhodování modelů. ServiceNow nabízí reálný časový přehled a analýzu rozhodnutí, co model ovlivnilo a jak byl přesný v daném rozhodnutí.

Detekce a mitigace zaujatosti: Bias v AI může výrazně ovlivnit kvalitu rozhodování, což bylo zjištěno při auditu modelu pro priorizaci incidentů. Zaujatost byla zjištěna, protože problémy označené některými týmy byly záměrně podhodnoceny. Detekce a odstranění této zaujatosti umožnila správné přecvičení modelu a zajištění rovnosti v cyklu řešení.

Proč sledování oficiálních kanálů ServiceNow není volitelné, ale klíčové pro úspěch

V digitálním světě, kde se hranice mezi technologií a řízením služeb stále více stírají, nelze považovat vzdělávací webináře, odborná fóra nebo komunitní platformy ServiceNow za doplňkové aktivity. Naopak, představují základní složku dlouhodobé strategie každé organizace, která se pohybuje v prostředí řízení IT služeb (ITSM), AI automatizace nebo podnikového governance.

V době, kdy se rozšiřují možnosti samoobslužných řešení, AI asistence a prediktivní inteligence, je znalost nejnovějších aktualizací, osvědčených postupů a technologických směrů nezbytností. Připojením k oficiálním kanálům ServiceNow – ať už prostřednictvím živých webinářů, dokumentací nebo případových studií – zůstává odborník nejen v obraze, ale aktivně rozšiřuje své schopnosti přizpůsobovat své služby měnícím se očekáváním podnikání i koncových uživatelů.

Účast ve fórech a komunitních diskusích nabízí unikátní přístup k řešením, která již byla nasazena a otestována v reálných podmínkách. Tyto zkušenosti nelze nahradit čistě teoretickými poznatky. Naopak, sdílení konkrétních problémů a jejich řešení mezi odborníky z různých sektorů – od zdravotnictví přes retail až po veřejný sektor – vytváří hybridní znalostní základnu, která obohacuje jednotlivce i organizace.

Zároveň se právě zde odehrává klíčová debata o návratnosti investic (ROI) při nasazení AI řešení. Nestačí pouze integrovat nové technologie – je nutné umět měřit jejich dopad, validovat přínosy a zohlednit rizika. A právě prostřednictvím přímé interakce s odborníky ServiceNow i partnery lze získat přístup k datům, analýzám a rámcům, které umožňují tyto výpočty provádět smysluplně.

Správa služeb řízená umělou inteligencí, návrh řešení na podnikové úrovni či implementace samoobslužných portálů nejsou izolované disciplíny. Jsou navzájem propojené a vyžadují kontinuální adaptaci. V takto dynamickém prostředí se každý odborník musí neustále kalibrovat – rozumět aktuálním schopnostem platformy, vývoji v oblasti generativní AI, dopadům na produktivitu a roli koncových uživatelů.

Zdroje jako jsou reporty Gartner, studie McKinsey o dopadu generativní AI, nebo hloubkové analýzy od Forresteru nabízejí hodnotný rámec pro rozhodování, ale bez porozumění praktickému nasazení a implementačním strategiím zůstávají jen abstraktními koncepty. Právě komunitní a oficiální kanály ServiceNow umožňují propojit teoretický vhled s každodenní realitou provozu IT služeb.

Pro organizace, které chtějí zůstat konkurenceschopné, je tedy sledování těchto kanálů nejen zdrojem inspirace, ale hlavně prostředkem k dosažení konzistence, škálovatelnosti a kvality napříč celým technologickým ekosystémem. V době, kdy AI redefinuje pracovní procesy, je schopnost správně číst a interpretovat směr, kterým se platforma vyvíjí, rozhodující pro úspěch.

Znalosti z komunit a oficiálních dokumentací navíc umožňují rychlejší implementaci změn, lepší správu rizik a přesnější předvídání budoucích požadavků. Ať už jde o konfiguraci prediktivní inteligence, využití NLP ve virtuálních agentech nebo optimalizaci znalostní báze – schopnost správně čerpat a aplikovat poznatky z těchto zdrojů je tím, co odděluje reaktivní týmy od proaktivních lídrů v oblasti ITSM.

Je důležité si uvědomit, že neformální vzdělávání v rámci komunit, sdílení zkušeností a otevřený přístup ke změně paradigmat nejsou jen výsadou technologických inovátorů. Jsou to pilíře každé organizace, která se rozhodla aktivně formovat svou digitální budoucnost a využít AI k posílení hodnoty služeb, nikoli pouze k úspoře nákladů.

Jak se přizpůsobují tučňáci extrémním podmínkám Antarktidy?
Jaký je rozdíl mezi moderním městem a nezměněným lesem?
Jak vytvořit efektivní školní prostředí s podporou školní psychologie a duševního zdraví?
Jakou roli hrají kauzální mechanismy v modelování faktorového investování?
Jak stanovit chyby a využít restartovací schéma v primal-dual iteracích