Hur AI-utbildningsdata skapas och makten som styr denna process

I dagens digitala landskap har detaljer – i detta fall selfie-bilder – samlats in och extraherats för att träna artificiell intelligens (AI). Miljoner av personliga bilder har plockats från internet utan samtycke från deras ägare eller de avbildade individerna. De objekt- och ansiktsigenkänningssystem som byggts på grundval av ImageNet-databasen har haft en grundläggande roll i konstruktionen av träningsdatamängder för maskininlärning. Det är viktigt att förstå att ImageNet inte skapade sina egna träningsdatamängder genom AI. Tvärtom, dessa data föregick själva AI:n och användes för att träna systemet i första hand. Arbetet utfördes av människor, ofta genom plattformar som Amazon Mechanical Turk, där uppgifter om etikettering utfördes av ett distribuerat nätverk av arbetare som betalades per uppgift. Detta skapar ett arbetsflöde där etikettering och datasamling inte bara är tekniska processer utan också en form av ekonomisk exploatering.

Men etiketteringen av bilder är långt ifrån etiskt neutral. De etiketter som användes för att kategorisera bilder omfattade ofta termer som "hora" eller "apa-människa", vilket visar på den makt och påverkan som ligger i klassificeringen av data. Det är centralt att förstå att datainsamling och kategorisering inte bara handlar om teknik, utan också om makt. Dessa beslut om klassificering är handlingar som har reala konsekvenser för individer och grupper. Till exempel, vår medicinska historia kategoriseras av försäkringsbolag som använder AI för att generera statistiska modeller som påverkar våra liv genom att avgöra vilka risker som ska beaktas för att maximera deras vinster.

En aspekt av detta är att marginaliserade grupper ofta utnyttjas i de processer som ligger bakom AI-utveckling. Projekt som "The Feminist Dataset" har försökt skapa datamängder som inte bara är etiskt betänkliga utan också försöker minska vissa av de etiska problemen genom att samla data på ett mer ansvarsfullt sätt. Men här återkommer problemet med den massiva mängd data som krävs för att effektivt träna AI. Att skapa en sådan datamängd på ett sätt som skulle kunna påverka den verkliga utvecklingen av AI kräver resurser som inte är tillgängliga för dessa småskaliga initiativ.

Den här typen av exekvering och extraktion av data återspeglar hur makt fungerar genom hela AI-strukturen. Den ekonomiska, sociala och politiska makten bakom AI-utveckling blir tydlig när man ser hur olika typer av resurser – från sällsynta jordartsmetaller till människors sociala kapital – utnyttjas för att skapa och driva denna teknologi. AI:s makt handlar inte bara om att skapa smarta algoritmer, utan också om att bestämma vilka data som ska inkluderas, hur dessa data ska användas och för vilket syfte.

För att förstå AI:s roll i samhället är det också viktigt att förstå att handlingen att klassificera eller tagga information inte bara är en teknisk process, utan ett politiskt beslut som påverkar många. Det handlar inte bara om att skapa algoritmer som gör bättre eller mer exakta förutsägelser; det handlar om vem som får kontrollen över dessa beslut. Ett exempel på detta är den australiska regeringens "Robodebt"-system, där felaktiga algoritmer ledde till att hundratusentals medborgare felaktigt klassificerades som skyldiga att återbetala stora summor till staten. Det var en grundläggande felberäkning, men den ledde till ett enormt socialt och psykologiskt lidande för de mest utsatta i samhället.

Att förstå hur data används inom AI handlar därför inte bara om att förstå tekniska system och deras funktioner. Det handlar också om att förstå hur beslut om datainsamling, kategorisering och användning påverkar individer och samhällen. Dessa beslut är långt ifrån neutrala och kan ha långtgående konsekvenser. AI är inte bara en fråga om teknik, utan om etik, makt och social rättvisa.

När vi diskuterar och utvecklar AI för sociala ändamål måste vi beakta de etiska dilemman som uppstår. Förutom frågor om noggrannhet, fördomar och rättvisa, som ofta tas upp i den allmänna debatten, finns det även en djupare fråga om hur dessa system kan bli föremål för missbruk. Även om teknologin skulle optimeras för att minska fördomar och öka noggrannheten, kan vi ändå ställas inför problem som vi inte har förberett oss på. Till exempel kan AI-system bli så komplexa att de agerar som "svarta lådor", vilket gör det omöjligt att förstå hur beslut fattas, även om dessa beslut är avgörande för människors liv.

De största etiska utmaningarna med AI är inte bara tekniska utan även moraliska och politiska. Vi måste fråga oss själva varför vi automatiserar beslut och vilka konsekvenser detta har för våra liv. Det handlar inte om att förkasta AI som teknologi, utan om att förstå hur vi kan minimera klyftan mellan utvecklare och användare av AI och se till att denna teknologi används på ett sätt som gynnar alla. Dialog och förståelse är de största verktygen vi har för att utveckla ansvarsfull AI.

Hur har teknologin format utbildningens framtid och vad innebär detta för oss?

Teknologi har spelat en avgörande roll i utbildningens utveckling, och i synnerhet i den högre utbildningens globalisering. Australien är ett exempel på hur teknologins kraft har bidragit till att skapa en av världens största exportindustrier inom utbildning. Genom att erbjuda högre utbildning av hög kvalitet till studenter från hela världen, har landet lyckats skapa en industri som varje år bidrar med 36,5 miljarder dollar till landets ekonomi. Men denna utveckling har inte skett över en natt.

Historiskt sett har Australiens högre utbildning vuxit stadigt, särskilt efter 1949, då en långsam men stadig ökning av antalet inskrivna studenter började synas. Från 1970-talet och framåt började australiensiska universitet aktivt ta till sig teknologiska lösningar för att underlätta undervisning och lärande. Detta ledde inte bara till en förbättring av utbildningens kvalitet, utan också till en massifiering av högre utbildning som tidigare varit otänkbar.

Deakin University i Victoria, Australien, var en pionjär inom användningen av teknologi i utbildning redan 1978, då universitetet började distribuera föreläsningar och lärmaterial via kassettband till distansstudenter. Detta gav studenter i avlägsna och lantliga områden en möjlighet att delta i utbildning som annars varit omöjlig att tillgå. Även om det var en liten början, lade det grund för den moderna digitala utbildningen som vi känner till idag.

Under de följande decennierna har teknologin fortsatt att utvecklas, vilket medfört stora förändringar inom både undervisning och lärande. På 1980-talet började persondatorer användas i klassrummen, och de första utbildningsprogrammen blev tillgängliga. På 1990-talet började CD-ROM-skivor användas för att lagra lärresurser, och internet blev en plattform för lärande. I början av 2000-talet kom interaktiva skrivtavlor och mobil teknik som gjorde det lättare att tillgå utbildningsmaterial. I 2010-talets början kom de Massive Open Online Courses (MOOCs), som möjliggjorde att tusentals studenter världen över kunde delta i kurser, exempelvis den populära kursen i maskininlärning vid Stanford University, som lockade över 3,7 miljoner deltagare.

Trots att teknologin har ökat tillgången till utbildning på global nivå, har denna utveckling också lett till vissa problem. Den ökade massifieringen av utbildningen har skapat utmaningar, som t.ex. sämre student-lärare-förhållanden och ökande misstroende från studenter mot utbildningssystemet. Även frågor om akademisk integritet har blivit mer framträdande, då fusk och plagiat är problem som är svåra att hantera i en digitaliserad värld.

I takt med att AI och stora språkmodeller (LLM), som OpenAIs ChatGPT, får allt större inflytande, står utbildningssystemet inför nya, komplexa utmaningar. Dessa teknologier har potentialen att omdefiniera traditionella metoder för bedömning och författarskap. Å ena sidan kan de skapa nya möjligheter för att stödja studenter och förbättra deras lärande, men å andra sidan innebär de också en risk för att undergräva det traditionella akademiska arbetet.

Generativ AI, som baseras på transformerarkitekturer och är kapabel att skapa nya texter, bilder och musik, har visat sig ha enorm potential i utbildningsvärlden. AI-verktyg som ChatGPT kan användas på olika sätt: för att generera idéer, skapa dispositioner för uppsatser och ge feedback på texter. Många utbildare har redan börjat integrera användningen av LLMs i undervisningen, och elever uppmuntras att använda dessa verktyg för att förbättra sina skrivförmågor och utveckla sina idéer.

Det finns också potential att skapa personliga AI-tutorer som kan ge individuellt stöd till studenter, vilket skulle kunna revolutionera utbildningslandskapet. Dessa AI-tutorer skulle kunna erbjuda skräddarsydd undervisning baserat på varje students individuella behov och kunskapsnivå. Men det finns också en risk att sådana system kan ersätta den mänskliga läraren och den viktiga interaktionen mellan student och lärare, som är avgörande för en djupare förståelse och kritiskt tänkande.

Det är klart att teknologin kommer att spela en central roll i framtidens utbildning. De möjligheter den ger för att bredda tillgången till utbildning är enorma, men de medför också utmaningar som måste beaktas. För att teknologin ska kunna användas effektivt och etiskt inom utbildningen krävs att vi förstår både dess fördelar och risker och att vi hittar sätt att integrera teknologin på ett sätt som förstärker snarare än ersätter de pedagogiska värden vi håller kära.

För att säkerställa att teknologi används på ett sätt som främjar utbildningens kvalitet, kommer det att vara viktigt att bevara och stärka den mänskliga dimensionen i lärande och undervisning. Det innebär att vi måste vara medvetna om både möjligheterna och fallgroparna med de nya teknologierna, och att vi måste arbeta för att anpassa utbildningssystemet till dessa förändringar på ett sätt som inte bara gör utbildningen tillgänglig för fler, utan också behåller den akademiska integriteten och den personliga interaktionen mellan studenter och lärare.

Hur Makerspaces och Design Thinking Förändrar Spelutveckling och Ingenjörsutbildning

Makerspaces har vuxit fram som en central del i utbildningen inom ingenjörsämnen, där de skapar utrymme för praktisk inlärning, samarbete och kreativitet. Genom att erbjuda studenter öppna och interaktiva miljöer, där de kan experimentera med idéer och prototyper, uppmuntras de att ta en mer kreativ och dynamisk syn på problemlösning. Makerspaces främjar tvärvetenskapligt tänkande, där studenter från olika tekniska discipliner och andra områden, såsom industriell design eller affärsutveckling, möts och utbyter idéer. Denna mångfald av perspektiv är avgörande för att lösa komplexa problem i verkliga livet.

En av de största fördelarna med makerspaces är den möjligheten till snabb prototypframställning. Genom att använda verktyg som 3D-skrivare, lasergrävare och CNC-maskiner kan studenter snabbt skapa prototyper och testa sina idéer. Denna snabba iteration är en central princip inom design thinking och möjliggör att studenter kan arbeta igenom sina idéer utan rädsla för att misslyckas. I en sådan miljö kan misslyckanden betraktas som en naturlig del av lärprocessen, och varje iteration blir en chans att förbättra och förfina lösningar. Studenterna lär sig att förstå vilka verktyg som passar bäst för varje utvecklingsstadium och får en värdefull erfarenhet av experimentering, vilket stärker deras förmåga att tänka utanför de etablerade ramarna.

Makerspaces är också idealiska för projektbaserat lärande, där studenter får möjlighet att arbeta med långsiktiga projekt som speglar verkliga ingenjörsutmaningar. Denna typ av lärande ger studenterna en möjlighet att inte bara tillämpa sin teoretiska kunskap utan också utveckla sina praktiska färdigheter. Dock kräver skapandet och underhållet av sådana utrymmen en betydande investering i både utrustning och personal, vilket kan vara en utmaning för många institutioner.

En annan aspekt som spelar en viktig roll i utbildningen, särskilt inom spelutveckling, är användningen av iterativa designmetoder. Design thinking är en metodik som integreras allt mer i kursplaner, som till exempel i kursen om spelutveckling som jag undervisar i. Speldesign har historiskt sett inte varit en erkänd akademisk disciplin, men har på senare år blivit ett mer etablerat fält. En av de centrala lärdomarna från litteraturen om speldesign är vikten av iteration i designprocessen. Spel är sällan perfekta vid första försöket och kräver ofta ständiga förbättringar, både vad gäller spelmekanik, användargränssnitt och balans.

I kursen om speldesign på UNSW uppmanar jag studenterna att arbeta med en spelcentrerad iterativ metodologi, där faserna idé, prototypframställning, testning och utvärdering följer på varandra. Detta speglar design thinking-processen, där varje iteration ses som en möjlighet att förbättra produkten. För studenterna är det viktigt att förstå att den verkliga utmaningen ligger i att centrera designen på spelaren. Genom att verkligen förstå spelaren och dennes motiv och beteenden kan designern skapa en upplevelse som inte bara spelas, utan också känns på djupet. Spel som "To the Moon" är exempel på detta, där känslomässig inlevelse spelar en stor roll i upplevelsen av spelet, vilket gör att spelaren kan förlåta vissa brister i berättelsen.

Speldesign handlar också om att ta hänsyn till frågor om tillgänglighet och inkludering. Att skapa spel som tillgodoser en bred publik innebär att förstå och anpassa sig till olika behov, oavsett om det gäller visuella, kognitiva eller motoriska svårigheter. Sedan 2020 har tillgänglighet blivit ett allt viktigare ämne inom spelutveckling, och prisbelönta spel som "The Last of Us Part II" och "Forza Motorsport 3" har visat vägen genom att introducera funktioner som hjälper spelare med olika typer av funktionsnedsättningar att spela på sina egna villkor.

Det är också viktigt att spelutvecklare har en etisk förståelse för den påverkan deras spel kan ha på beteenden och värderingar. Spel har en unik förmåga att påverka och forma spelarnas attityder och synsätt, vilket gör att utvecklare måste vara medvetna om de potentiella konsekvenserna av sina designval. Etiska överväganden i speldesign handlar inte bara om att skapa roliga och engagerande upplevelser, utan också om att säkerställa att spelen inte förstärker negativa stereotyper eller skadar spelarnas välmående.

För att sammanfatta, är det avgörande att studenter inom både ingenjörsutbildning och speldesign inte bara lär sig tekniska färdigheter utan också utvecklar ett djupare förståelse för de kreativa och etiska dimensionerna av sitt arbete. Iteration och användarfokus är nyckelfaktorer som gör design thinking till en så kraftfull metod för att skapa innovativa och funktionella lösningar. Utbildning i sådana utrymmen som makerspaces och genom spelcentrerad designmetodik förbereder studenter på de komplexa utmaningar de kommer att möta i framtiden och ger dem verktyg för att navigera genom dessa utmaningar på ett medvetet och ansvarsfullt sätt.