Hyppää sisältöön

EU AI Act (tekoälyasetus) muuttaa ohjelmistokehitystä ja laadunvarmistusta. Tekoäly ei ole enää vain kokeellinen osa liiketoimintaa, vaan siitä on tullut säännelty osa digitaalista infrastruktuuria. Laadunvarmistus on jo pitkään ollut muutakin kuin vain virheiden etsimistä tai toiminnallisuuden ja käyttäjäkokemuksen varmistamista, mutta tekoälyllä luodun koodin määrän kasvu ja EU AI Act laajentavat sen merkitystä entisestään. Vaatimustenmukaisuuden osoittaminen, riskien hallinta ja järjestelmän eettisen toiminnan tarkistaminen käyvät entistäkin tärkeämmiksi.

Asetus soveltaa riskiperusteista lähestymistapaa ja asettaa tiukkoja lakisääteisiä vaatimuksia erityisesti korkeariskisille tekoälyjärjestelmille – kuten automaattisille CV-seulontatyökaluille, luottoluokitusalgoritmeille tai biometrisille tunnistusjärjestelmille. Mitä tämä tarkoittaa käytännössä ohjelmistotestauksen ja laadunvarmistuksen kannalta?

Enemmän huomiota dataan

Datan laadusta, edustavuudesta ja eheydestä tulee keskeisiä tekijöitä, vielä enemmän kuin aiemmin. Artiklan 10 (Data ja datan hallinnointi) mukaan testauksella tulee varmistaa, että opetus- ja testausdata eivät sisällä vinoumia (bias), jotka voisivat johtaa syrjiviin tai virheellisiin tuloksiin tuotannossa. Tämä edellyttää usein menetelmiä, kuten metamorfista testausta, jolla arvioidaan tuloksia silloin, kun tavanomaisia oletettuja tuloksia on vaikea määritellä.

Luotettavuus- ja tietoturvatestauksesta tulee jatkuvaa

Artiklan 15 (Tarkkuus, toimintavarmuus ja kyberturvallisuus) mukaisesti asetus vaatii tekoälyjärjestelmiltä korkeaa suorituskykyä, luotettavuutta ja tietoturvaa koko niiden elinkaaren ajan. Tämä edellyttää järjestelmällisiä vertailuarvoja ja mittausmenetelmiä, red teaming -testausta sekä vastaikkainasettelutestausta (adversarial testing), jossa mallia testataan poikkeavalla tai vihollismielisellä syötedatalla. Tietoturvatestauksen tulee myös kattaa tekoälylle ominaiset riskit, kuten mallin peukalointi tai datavarkaudet. Standardit, kuten ISO/IEC 29119-11, tarjoavat käytännön opastusta näihin.

Läpinäkyvyydestä ja ihmisen suorittamasta valvonnasta tulee osa testausta

Artiklan 13 (Läpinäkyvyys) ja Artiklan 14 (Ihmisen suorittama valvonta) nojalla laadunvarmistuksen on varmistettava, että tekoälyn tekemät päätökset ovat selitettävissä ja jäljitettävissä. Tämä koskee myös käyttöliittymää ja käyttäjäkokemusta: antaako järjestelmä ihmisille oikeaa tietoa ja todellisen mahdollisuuden keskeyttää tai korjata tekoälyn tekemä päätös?

Testaus ei voi tapahtua vain lopussa

EU AI Act osoittaa, että pelkkä kehityssyklin lopussa tapahtuva testaus ei enää riitä. Vaatimustenmukaisuus edellyttää ”shift left” -ajattelua pidemmälle: laadunvarmistuksen on oltava mukana jo vaatimusmääritelyssä ja datan valintavaiheessa. Kuten Artiklassa 72 (Markkinoille saattamisen jälkeinen seurantajärjestelmä) hahmotellaan, testaus ei myöskään lopu siihen, kun järjestelmä on julkaistu. Tekoälymallit voivat muuttua ajan myötä suorituskyvyn tai datan muuttuessa (mallin ja konseptin liukuma / model & concept drift), joten jatkuva seuranta ja testaus tuotannossa on välttämätöntä vaatimustenmukaisuuden säilyttämiseksi. Vaatimustenmukaisuus edellyttää lopulta auditointivalmiita vaatimustenmukaisuustodisteita (conformity evidence packs), versioituja datajoukkoja ja jäljitettäviä lokeja.

Mahdollisuus, ei vain vaatimus

Laadunvarmistuspalveluista vastaavalle johtajalle EU AI Act ei ole vain lakisääteinen velvoite – jonka noudattamatta jättämisestä voi seurata jopa 15 miljoonan euron tai 3 prosentin suuruinen sakko globaalista liikevaihdosta. Se on myös mahdollisuus rakentaa luottamuksesta kilpailuetu. Sertifioidusta, turvallisesta ja vaatimustenmukaisesta tekoälystä tulee edellytys markkinoilla toimimiselle. Tämä vaatii uudenlaista osaamista laadunvarmistuskumppanilta, yhdistäen perinteisen ohjelmistotestauksen, datatieteen ja sääntelyn ymmärtämisen.

Nykyisten laadunvarmistusprosessien valmiuden tarkistaminen nyt, ennen siirtymäaikojen päättymistä, on ehdottomasti järkevää.

Ota yhteyttä, jos haluat tietää lisää!

Etsi