Framväxten av stora språkmodeller har radikalt förändrat hur vi interagerar med artificiell intelligens, men deras begränsningar i logiskt resonemang blir särskilt påtagliga i domäner där exakta operationer krävs, som matematiska textproblem (MWP). Den specifika utmaning som dessa problem ställer är inte främst relaterad till språkförståelse, utan till sekventiellt resonemang och symbolisk manipulation, där även små fel i algebraiska steg kan leda till fullständigt felaktiga resultat.

En central observation i den genomförda studien är att ChatGPT:s förmåga att lösa MWP uppvisar en stark känslighet beroende på huruvida modellen ombeds visa sina uträkningar eller endast presentera det slutliga svaret. När modellen instrueras att endast visa resultatet – utan mellanliggande steg eller resonemang – misslyckas den i 84 % av fallen. Men när den tillåts visa hela lösningsgången reduceras felandelen dramatiskt till 20 %. Det antyder att själva processen att "tänka högt", även i maskinell form, utgör en avgörande komponent för korrekt problemlösning.

Problemen som användes i experimenten kommer från DRAW-1K-datasetet, som innehåller 1000 strukturerade matematiska textproblem tillsammans med korrekta svar och motsvarande algebraiska mallar. Dessa mallar fungerar som en form av symbolisk representation av det semantiska innehållet i uppgifterna, vilket gör det möjligt att identifiera vilka egenskaper som tenderar att försvåra modellens lösningsförmåga. Exempelvis visade det sig att antalet additioner och subtraktioner i ett problem har ett direkt linjärt samband med sannolikheten för att ChatGPT misslyckas.

I ett konkret exempel analyserades problemet: "Ett heltal är tre gånger så stort som ett annat. Om man adderar 20 till det mindre talet får man ett tal som är 6 större än det större talet." ChatGPT lyckades initialt identifiera de korrekta ekvationerna och gjorde korrekta substitutioner, men misslyckades med en enkel förenkling: istället för att dra slutsatsen att 2y=142y = 14, uppgav modellen att y=14y = 14, vilket gav det slutliga felaktiga resultatet 42 och 14 istället för det korrekta 21 och 7. Detta illustrerar modellens bräcklighet även i till synes triviala algebraiska manipulationer.

För att utföra experimenten i skala, användes ett skriptverktyg för att skicka in frågorna till ChatGPT genom en kommandoradsbaserad gränssnittslösning. Försöken genomfördes i tre varianter: två där modellen instruerades att endast ge slutsvaret (i januari och februari 2023), och ett där modellen tilläts visa sin fullständiga resonemangskedja (i februari 2023). Det var inte bara det faktum att modellen tilläts resonera som förbättrade dess prestanda, utan också hur frågorna formulerades i prompten hade avgörande betydelse – små skillnader i formulering kunde påverka modellens beteende påtagligt.

Det slående mönstret är att ju fler steg som krävs i ett problem – särskilt där flera additioner och subtraktioner är involverade – desto mer ökar sannolikheten för fel. Det tyder på att modellen har svårt att upprätthålla korrekt kontextuell spårning över flera operationer, vilket kanske inte är förvånande med tanke på att dessa modeller är tränade för språk och inte för formell logik eller symbolmanipulation i egentlig mening.

Trots detta visar studien på värdet av introspektiva metoder, alltså modeller som kan förutsäga sin egen sannolikhet att lyckas eller misslyckas. Om en språkmodell kunde signalera sin egen osäkerhet i samband med vissa problemtyper, skulle den kunna användas mer ansvarsfullt i tillämpningar där felmarginalen måste vara låg.

Det som inte explicit diskuteras men är avgörande att förstå, är att språkmodeller som ChatGPT inte har en intern representation av sanning eller matematiska regler, utan genererar sina svar baserat på sannolikhetsfördelningar över textsekvenser. Det betyder att även när ett korrekt svar ges, är det inte nödvändigtvis ett resultat av förståelse utan av statistisk tur. I praktiska tillämpningar måste detta faktum ligga till grund för hur vi tolkar och litar på modellens svar – särskilt i utbildningssammanhang eller i system där exakthet är kritiskt. Vidare bör framtida arbete fokusera på hybridmodeller där symbolisk logik kombineras med språkmodellernas språkliga styrkor.

Vad är den verkliga rollen för AI i beslutsfattande och osäkerhetshantering inom hälsovård och teknologi?

Artificiell intelligens (AI) har blivit en central aktör i många sektorer, särskilt inom hälsovård och teknik. De senaste åren har det varit en ständig ökning av AI-system som används för att underlätta beslutsfattande, men också för att hantera de osäkerheter som ofta uppstår vid sådana beslut. Det är dock viktigt att förstå både potentialen och de risker som AI medför, särskilt när det gäller att förklara och tolka resultaten av dessa system.

I hälsovården spelar AI en avgörande roll genom att assistera läkare och vårdpersonal i diagnostik, behandling och prognos. System som bygger på maskininlärning kan analysera stora mängder patientdata och ge rekommendationer för behandling baserat på mönster som människor kanske inte ser. Men AI:s förmåga att fatta beslut är inte felfri. Ett stort problem är den osäkerhet som AI-system kan skapa när de gör förutsägelser eller ger rekommendationer. Forskare har påpekat att för att AI ska kunna användas på ett tillförlitligt sätt inom hälsovård, måste vi kunna kvantifiera denna osäkerhet och förstå de mekanismer som driver AI:s beslut [5][7]. Om AI-system inte förklarar sina beslut på ett transparent sätt, kan detta skapa en barriär för användningen, eftersom både patienter och vårdpersonal kanske inte känner att de kan lita på resultaten fullt ut.

Ett relaterat ämne är förståelsen av de data som AI använder. Maskininlärning och djupinlärning bygger ofta på så kallade "svarta lådor" där algoritmer fattar beslut utan att ge förklaringar för varför dessa beslut tas. Detta skapar en utmaning, särskilt när det gäller tillämpningar där korrekthet och förutsägbarhet är avgörande, som i medicinska sammanhang. Forskning har föreslagit att för att AI ska vara användbart i dessa situationer, måste systemen bli mer "förklarliga" eller "förståeliga". Detta innebär att det inte bara räcker att få ett svar från AI, utan det måste också vara möjligt att förstå varför det svaret gavs, vilket i sin tur kan förbättra förtroendet för teknologin [9][10].

En annan viktig aspekt av användningen av AI är kopplingen mellan maskininlärning och logiskt tänkande. Många av de mest avancerade AI-systemen idag använder både symbolisk och sub-symbolisk AI, vilket gör det möjligt att bygga mer robusta och flexibla system. Kombinationen av dessa två typer av intelligens gör det möjligt för AI att resonera på ett sätt som påminner om mänskligt tänkande. Detta innebär också att AI kan hantera en större mängd osäkerhet genom att använda både deduktiv och abduktiv logik. Abduktiv logik tillåter AI att göra informerade gissningar när det inte finns tillräcklig information för att dra ett definitivt slutgiltigt beslut [18][19].

I denna snabbt utvecklande fält är det också nödvändigt att överväga etiska frågor som rör AI:s påverkan på samhället. AI-system kan vara förprogrammerade med förutfattade meningar, eller så kan de skapa nya, oväntade snedvridningar genom sina beslut. Detta innebär att både forskare och utvecklare måste vara medvetna om de potentiella riskerna och de moraliska implikationerna av AI-teknologi. Det krävs en kontinuerlig dialog om reglering, transparens och ansvar för att säkerställa att dessa system används på ett sätt som gynnar samhället snarare än att förstärka redan existerande ojämlikheter.

En särskilt viktig fråga är hur AI kan hjälpa till att förutse och hantera klimatförändringar. AI har visat sig vara användbart när det gäller att analysera stora mängder klimatdata och förutsäga trender. Men här kommer återigen frågan om osäkerhet in: det finns alltid en grad av osäkerhet i klimatmodellering, och AI-system måste kunna hantera detta på ett sätt som är både transparent och förståeligt. Här kan också ett interdisciplinärt angreppssätt vara till nytta, där AI kombineras med traditionell klimatforskning för att skapa mer tillförlitliga modeller och förutsägelser [21][23].

AI:s utveckling går snabbt framåt, men det är fortfarande ett område där många frågor återstår. För att verkligen kunna utnyttja potentialen hos AI, måste vi säkerställa att systemen inte bara är effektiva, utan också förklarliga och transparenta. Den osäkerhet som AI-system hanterar måste kunna kvantifieras och förstås, och de beslut som fattas måste kunna rättfärdigas på ett sätt som gör att människor kan känna förtroende för teknologin. Allteftersom AI fortsätter att utvecklas och sprida sig till fler sektorer är det av största vikt att förstå dess kapabiliteter, begränsningar och de etiska överväganden som följer med dess användning.

Hur vi kan återuppbygga ett demokratiskt samtal: En väg framåt
Hur temperatur och luftfuktighet påverkar bakningens resultat
Hur man planerar och optimerar monterings- och demonteringssekvenser för anpassningsbara produkter