Skip to main content

AI vælter ind over verden med en hastighed, der til tider føles hurtigere end lysets – og mulighederne med AI er ligeså omsiggribende, som de er mange. Det har affødt et behov for regulering, og derfor har EU vedtaget AI-Act – den såkaldte AI-forordning.

Formålet med AI-forordningen er overordnet set at ensrette tilgangen til teknologien, ved at skabe transparens omkring, hvornår noget er AI, og hvornår noget er et rigtigt menneske, samtidig med at man fortsat omfavner sund innovation. Og så gælder den alle, der udvikler eller udbyder AI-løsninger.

Det vil vi godt tilskrive os hos Praice, og vi har derfor valgt at søge hjælp eksternt og teame op med en, der har den fornødne viden om emnet. Det har Jonas Hvid, cand. merc. (jur.) og adm. direktør for IT-Compliance ApS. Ham har vi mødt til en vurdering af Praice og vores produkter i forhold til AI-forordningen:

Hvornår er noget AI?

Ifølge forordningen falder noget under begrebet AI, når man har at gøre med software, som er udviklet på baggrund af følgende teknikker og tilgange, og som kan generere output, der direkte påvirker de miljøer, de interagerer med:

  • Maskinlæringstilgange, herunder dyb læring;
  • Logiske og videnbaserede tilgange, herunder videnrepræsentation, induktiv (logisk) programmering, videnbaser, inferens- og deduktionsmotorer, (symbolsk) ræsonnement og ekspertsystemer
  • Statistiske metoder, bayesianske estimations-, søgnings- og optimeringsmetoder

“Det, man for alt i verden prøver at undgå,” forklarer Jonas, “er, at AI-software træffer indgribende beslutninger om mennesker, f.eks, hvem der skal ansættes til et job, hvornår nogen er kvalificeret til noget, og den slags, uden menneskeligt opsyn eller tilsyn med AI-softwaret. Når vi har at gøre med mennesker, skal der mennesker ind over i situationer, der i væsentlig grad påvirker mennesker. AI-software kan ikke forstå etiske problemstillinger og diskrimination på samme måde som mennesker kan.”

Er Praice AI?

Det kan nogen måske foranlediges til at tro, når de først træffer bekendtskab med Praice.

På den ene side har man et menneske, der på meget simpel vis og med meget få klik, udvælger nogle ord om sig selv om beder netværket gøre det samme – og så genereres en række materialer med uddybende forklaringer om den enkeltes personlige kompetencer. Er det AI, der får ordene til at blive til alt det udvidede indhold i profilen?

Og hvad med de foreslåede jobbrancher og jobtyper, som profilerne omdannes til i Praice’s Jobmatchrapport – er der ikke AI inde over denne “konvertering”?

På den anden side benyttes Praice også til rekruttering, hvor løsningen Praice AutoScreen jo hjælper virksomheder med at screene ansøgere, der bedst matcher den ønskede profil til en given stilling – er det ikke AI?

Ifølge Jonas er svaret nej til alle ovenstående spørgsmål:

Hvorfor Praice ikke er omfattet af AI-forordningen

Jonas begrunder sit svar ud fra følgende betragtninger:

Indholdet i Praice er 100% prædefineret

Praice - uanset funktion og feature - er opbygget på en sådan måde, at output altid vil være forudsigeligt, da systemerne er udviklet af regelbaserede algoritmer og kalkulationer.
Man kan beskrive det sådan, at systemet består af en række tekstblokke, som i den endelige profil sættes sammen på baggrund af de af brugerne udvalgte ord under profiloprettelsen. Der er altså ikke tale om en ukontrollerbar og variabel løsning, der selv lærer og definerer betydningen af de valgte ord.
På tilsvarende vis er Praice AutoScreen heller ikke defineret som AI, da screeningen af ansøgere sker med afsæt i en kalkuleret sammenligning mod en allerede af kunden på forhånd defineret "ønskeprofil".
Med andre ord er Praice således på sikker grund, da indhold og funktioner er 100% forudsigelige og opbygget af mennesker.

Praice træffer ikke selvstændige beslutninger

Praice tager ingen selvstændige/autonomiske beslutninger, der gør profilen eller screeningsresultatet uforudsigeligt. Havde det været tilfældet, havde der været krav om, at Praice løbende skulle monitoreres for at sikre, at dens output bliver ved at være retvisende (jvf. Vejledning fra Datatilsynet, oktober 2023 om offentlige myndigheders brug af kunstig intelligens pkt. 5, s. 7).
Praice vil altid komme med et begrænset antal af outputs på baggrund af et begrænset antal af inputmuligheder, og så bliver det overflødigt at implementere monitorering af output. Outputtet vil jo altid være det samme på baggrund af det input, der er givet.

Praice benytter ikke de anfægtede teknikker

Slutteligt er der det helt faktuelle argument - der forekommer ganske enkelt ingen af følgende i AI-forordningens oplistede bilag 1a, b og c teknikker på platformen:
– Maskinlæring (Machine learning)
– Dyb læring (Deep learning)
– Reinforcement learning
– Induktiv logisk programmering
– Inference motor
– Deduktiv motor (Deductive classifier)
– Ekspert system
– Bayesianske estimations-, søgnings og optimeringsmetoder

Med udgangspunkt i Jonas’ fortolkning lyder det således som om, at vi på nuværende tidspunkt ikke er omfattet af AI-forordningen.

Han har skrevet et mere formelt notat, hvor han dykker dybere ned i hans vurdering af Praice i forhold til AI-forordningen. Kunne du tænke dig at læse det, kan det gøres her:

Se AI-notatet her
Tina Norregaard

Author Tina Norregaard

More posts by Tina Norregaard