Miten avoin lähdekoodi voi vaarantaa tekoälyn turvallisuuden ja kehityksen?

Tekoälyn kehitys on edennyt hurjaa vauhtia, ja sen mahdollisuudet avaavat uusia ulottuvuuksia monille teollisuudenaloille ja yhteiskunnallisille toimille. Samalla kun tekoälyn kehitykselle asetetaan suuret odotukset, nousee esiin myös vakavia huolia sen mahdollisista vaaroista ja riskeistä. Tämä kysymys on erityisen ajankohtainen, kun pohditaan avointen lähdekoodimallien, kuten Meta Llama 2:n, julkaisua ja sen vaikutuksia tulevaisuuden tekoälyn kehitykseen ja hallintaan.

Tämä on paitsi tekninen myös eettinen ja poliittinen kysymys, sillä tekoälyn kehitys on enenevässä määrin keskittynyt suurille teknologiayrityksille, kuten OpenAI:lle ja Googlen kaltaisille toimijoille. Näiden yritysten kilpailu AGI:n (kehittynyt tekoäly) ja superintelligenssin luomisessa on osaltaan lisäänyt riskiä, että ihmiskunta ei saa omaa ainoaa mahdollisuuttaan muokata tekoälyn kehitystä oikealla tavalla. Esimerkiksi Meta on päättänyt julkaista Llama 2 -mallin lähdekoodin avoimeksi, jolloin kuka tahansa voi hyödyntää ja kehittää tätä teknologiaa. Tämä päätös on herättänyt voimakasta keskustelua siitä, onko avoimen lähdekoodin jakaminen tekoälyn turvallisuuden kannalta vastuullista vai vaarallista.

Avoimen lähdekoodin periaate perustuu ajatukseen, että mahdollisuus tutkia ja muokata koodia edistää innovointia ja parantaa turvallisuutta, koska useampi silmäpari voi tarkastella ohjelmiston rakennetta ja löytää mahdollisia virheitä. Mark Zuckerberg on itsekin esittänyt, että avoin lähdekoodi edistää innovaatioita ja parantaa ohjelmistojen turvallisuutta, koska se mahdollistaa laajemman yhteistyön ja virheiden nopean korjaamisen. Kuitenkin, kuten monet kriitikot ovat huomanneet, tämä ajatus perustuu optimistiseen käsitykseen siitä, että avoimen lähdekoodin ympäristö on täydellinen ja turvallinen.

Avoimen lähdekoodin tekoälyn suurimpia ongelmia on sen käyttö väärin, sillä se antaa mahdollisuuden manipuloida ja hyödyntää tekoälyä haitallisilla tavoilla. Jos mallit kuten Llama 2 päätyvät avoimeksi, niihin liittyvät turvallisuus- ja eettiset kysymykset eivät katoa. Avoimen lähdekoodin tekoälyn kehittäminen saattaa johtaa myös siihen, että tekoälypohjaisia sovelluksia kehitetään ilman asianmukaista valvontaa ja eettisiä ohjeita, mikä voi johtaa suuriin yhteiskunnallisiin ja taloudellisiin epäkohtiin. Esimerkiksi kehittyneet, avoimet tekoälymallit voivat edesauttaa epätasa-arvon lisääntymistä, edistää vääristynyttä valtarakennetta ja luoda entistä suurempia eturistiriitoja globaalissa mittakaavassa.

Toinen vakava ongelma, joka liittyy avoimen lähdekoodin tekoälyn leviämiseen, on sen vaikutus sääntelyyn. Nykyisellään hallitukset ja sääntelyelimet eivät pysty tehokkaasti seuraamaan ja valvomaan tekoälyn kehitystä, mikäli mallien jakaminen käy liian vapaaksi. Jos tekoälymallit leviävät nopeasti ja kehittyvät ilman keskitettyä valvontaa, saattaa olla mahdotonta hallita niiden käyttötarkoituksia tai puuttua mahdollisiin eettisiin ja turvallisuusrikkomuksiin.

Lopuksi, avoimen lähdekoodin periaatteet voivat johtaa myös siihen, että tekoälyn kehitystä ohjaavat suurten yritysten etujen mukaiset valinnat, jotka eivät välttämättä ole linjassa yhteiskunnallisten arvojen kanssa. Esimerkiksi, vaikka Zuckerberg on vakuuttanut avoimen lähdekoodin hyödyt, hänen asenteensa saattaa aliarvioida sen riskit, kun kyse on erittäin voimakkaista ja potentiaalisesti vaarallisista tekoälyjärjestelmistä. Avoimen lähdekoodin mallien julkaiseminen ennen kunnollisten sääntelymekanismien luomista on selvästi riski, joka voi vaarantaa koko ihmiskunnan tulevaisuuden.

Mitä tapahtuu, kun tekoäly ylittää ihmiskunnan älykkyyden?

Rekursiivinen itsensä parantaminen nähdään lineaarisen kehityksen sijaan eksponentiaalisena kehityksenä. Esimerkki eksponentiaalisesta kasvusta on vanha mutta havainnollistava. Kuvitellaanpa, että vesililjat lammessa tuplaantuvat joka viikko. Kuvitellaan lammikko, jossa on tilaa noin 1024 vesililjalle. Liljojen määrä kasvaa seuraavasti:

1. Viikko 1: 1 lilja

2. Viikko 2: 2 liljaa

3. Viikko 3: 4 liljaa

4. ...

5. Viikko 10: 512 liljaa

6. Viikko 11: 1024 liljaa (ja siinä kaikki; lampi on täynnä)

On tärkeää huomata, kuinka puolet kasvusta tapahtuu viimeisessä vaiheessa. Tämä havainnollistaa eksponentiaalisen kasvun räjähdysmäisen luonteen, minkä vuoksi sitä käytetään usein esimerkkinä monilla eri alueilla, kuten biologiassa, taloustieteessä ja tietojenkäsittelytieteessä. Asiat etenevät nopeasti, etenkin myöhäisemmissä vaiheissa. Tällöin syntyy niin sanottu "kyykäyrä" (elbow of the curve), jossa kasvu kiihtyy ja muuttuu eksponentiaaliseksi juuri rekursiivisen itsensä parantamisen vuoksi.

Kun tämä kynnys saavutetaan, tekoäly alkaa parantaa omaa älykkyyttään nopeasti ja merkittävästi, mikä johtaa valtavaan kehitykseen. Tässä vaiheessa tekoäly saattaa tulla älykkäämmäksi kuin ihmiset, mikä aiheuttaa ennennäkemättömiä muutoksia maailmassa. Tämä on juuri se kohta, jossa me nyt olemme. Uskon, että ainoa asia, joka tarvitaan, jotta tekoäly voisi ohittaa meidät, on AGI:n (kehittynyt yleinen tekoäly) kehittäminen, mutta asiantuntijat ovat jakautuneita siitä, onko se edes tarpeen ja kuinka kauan sen kehittäminen saattaa kestää.

Tässä luvussa tarkastelemme älykkyyspuhalluksen välttämättömiä osatekijöitä, sillan rakentamista AGI:lle ja mitä tapahtuu, kun ylitetään raja, jossa koneet ovat vain yhtä älykkäitä kuin me ja joissa niiden älykkyys tekee meidän älykkyydestämme merkityksettömäksi. AGI:n puolustajat väittävät, että AGI:llä olisi tarvittavat kyvyt, mukaan lukien kyky parantaa omaa koodiaan ja arkkitehtuuriaan rekursiivisesti, mikä mahdollistaisi nopean ja itse ylläpitävän parannusprosessin. Ilman AGI:n kaltaista yleistä älykkyyttä ja monipuolisuutta kapea-alainen tekoälyjärjestelmä ei välttämättä pysty käynnistämään tällaista prosessia.

Toisaalta toisen näkökannan mukaan jopa heikompi tekoälyjärjestelmä, kuten hyvin pätevä kapea-alainen tekoäly tai sellainen, joka keskittyy tiettyyn alueeseen, kuten koneoppimiseen tai koodaukseen, saattaa käynnistää älykkyyspuhalluksen. Tällöin, jos tällainen järjestelmä voi edistyä tietyllä alueella ja jos tämä alue on riittävän merkittävä yleisten tekoälyjärjestelmien luomiseksi, se voi käynnistää nopean itsensä parantamisen prosessin, joka johtaa älykkyyspuhallukseen.

Tämä herättää kysymyksen: mitä tapahtuu, jos haluamme laittaa tällaisen tekoälyn "laatikoihin"? Riittävän kehittynyt tekoäly voisi estää sen, ja se saattaisi olla jo miettinyt puolustautumismenetelmiä miljoona "subjektiivista tuntia" aikaisemmin. Perimmäinen ajatus on, että AGI lopulta pääsee irti, etenkin jos se menee AGI:n ulkopuolelle ja kehittyy superälykkyydeksi.