Kveck bygger KI-rådgivere der fagkunnskapen, reglene og kontrollene ligger utenfor selve KI-modellen.
Dere bestemmer hva rådgiveren svarer fra. Målet er at virksomheter skal kunne bygge rådgivere på sin egen fagkunnskap, med styring over dataene og hvilke modeller som brukes. Vi utvikler og prøver det ut i CanWeApply, der Kveck-rådgiveren svarer om EUs innovasjonsfond.
Finn ut hva som avgjør, før dere bruker timene.
EUs innovasjonsfond deler ut milliarder til klima- og industriprosjekter. En søknad koster hundrevis av timer. Et umodent prosjekt taper uansett hvor god søknaden er. Rådgiveren svarer på det ene spørsmålet som avgjør om dere skal begynne: kvalifiserer prosjektet?
Vi spurte rådgiveren om et sementanlegg som skal elektrifisere ovnene. Investeringen er rundt 80 millioner euro, investeringsbeslutningen er tatt, og finansieringsavtalene er signert: «Kan vi søke?»
Kveck-rådgiveren
«Det avgjørende spørsmålet for dere er om prosjektet har nådd financial close, og signerte finansieringsavtaler er faktisk ikke nok til å avgjøre det. Financial close er tidspunktet der alle prosjekt- og finansieringsavtaler OG alle tillatelser er signert, og alle vilkårene i dem er oppfylt. Sjekk derfor konkret om det står igjen utestående tillatelser eller uoppfylte vilkår i avtalene deres.»
Rådgiveren går også gjennom de øvrige kravene: innovasjonsgrad, utslippskutt mot referansescenariet, kostnadseffektivitet og modenhet. Svaret avklarer en vanlig misforståelse: Signerte finansieringsavtaler betyr ikke i seg selv at prosjektet har nådd financial close.
Dere får vite hva som avgjør om dere kan søke, hva dere må avklare og hvem som kan hjelpe dere videre.
Hvor dette går
EUs innovasjonsfond er det første fagområdet. Vi gjør det ferdig før vi tar neste. Det er hele ideen: den som styrer kunnskapen, styrer svarene. Derfor kan rådgiveren vokse uten å bli mindre ærlig, og derfor kan vi sette den opp på et helt annet fagfelt.
Veiviseren er åpen for alle og sjekker grunnkravene. Rådgiveren er i invitert testing og krever tilgangskode. Be oss om en, og prøv å få den til å si ja til noe den ikke burde. Det er den beste testen vi kan gi dere.
Bruk alt KI er god til. Behold styringen på resten.
Modellene er raske og blir bedre hvert år. De er også bygget for alltid å svare, og for å bli likt. Rammeverket lar modellen gjøre det den er god til, og sjekker svaret der det betyr noe. Vi bygger utenpå modellen. Reglene bor i laget, og vi lover kun støtte for modeller vi har målt.
Kveck-rammeverketHele laget rundt modellen. Vi måtte skrive bedriftskultur for maskiner. Rammer som sier hva KI-en gjør når ingen regel passer. Jus, etikk og sikkerhet er bygget inn fra grunnen. Med KI går alt annet fortere. Det som ikke kan angres, går fortsatt gjennom et menneske.
Fire produkter inne i rammeverket. Hvert lag er bygget og testet, og rådgiveren dekker sitt eget fagområde grundig.
På vei inn
Modellen ser bare det den skal
Modellen leser bare kildene vi har lagt inn, ikke det åpne nettet, og vi trener den ikke. Kunnskapen er valgt ut og sjekket av oss, med kilde ned til paragraf og sidetall. Mangler svaret der, er den instruert til å si fra framfor å gjette.
På vei ut
Kode leser svaret før du gjør det
Tall, datoer og kildehenvisninger sjekkes mot kildene automatisk. Stemmer ikke et tall, skrives svaret om. Holder det fortsatt ikke, fjernes tallet. En vurdering kan koden ikke måle like presist, og det sier vi fra om i stedet for å love noe annet.
Ytterste lag
Et menneske sier ja først
KI-en foreslår, koden kontrollerer, og et menneske avgjør. Kan noe ikke angres, må det ja-et komme først. Det som kommer opp er sortert og forklart, så tiden går til det som krever et menneske.
Vi bygde rammeverket rundt vår egen utvikling. Nå tar vi det ut til kunder. Vi starter med å legge laget rundt en KI-rådgiver som kjører på deres egen kunnskap. Målet er å kunne legge det rundt hva som helst.
Vi tror ikke på prosesser der KI står alene. Ikke fordi teknologien er for svak, men fordi ansvaret må ligge hos noen som kan bære det. Teknologien skal ikke bli mer menneske. Den skal gi oss rom til å være det.
Vi lever med rammeverket selv, hver dag.
KI-agenter bygger produktene våre, i det samme rammeverket vi tilbyr andre. Før vi setter noe i drift, har en konkurrents modell lest det. Og et menneske har sagt ja.
- Sjekket av en konkurrent. KI-en som bygger og KI-en som sjekker kommer fra konkurrerende leverandører. Modeller liker best sine egne svar, så kontrollen må komme utenfra.
- Lærdom blir regler. Hver gang vi ser en ny måte en modell kan bomme på, blir det en regel i laget. Vi tester reglene mot eksempler som er laget for å knekke dem, med kriteriene skrevet ned på forhånd.
Det startet med å bygge Kveck.
Rammeverket vi tilbyr andre er det vi utviklet for å styre vårt eget arbeid.
Marte Heggedal er produktleder, og bygger Kveck sammen med KI-agenter. Hun finner ut hva folk trenger, former produktet og vurderer resultatene. Agentene skriver koden.
For å styre det arbeidet utviklet hun rammeverket: tydelige oppgaver, uavhengige gjennomganger, og en ny kontroll for hver feil vi finner. Det som avgjør kvaliteten er fortsatt at noen vet hva som skal bygges, og går gjennom det som kom ut.
Nå bygger vi Kveck-rådgiveren i det samme rammeverket, og prøver det ut på EUs innovasjonsfond før vi tar neste fagområde.
Les mer om MarteTilgang til midlene
Det beste prosjektet skal vinne, ikke den beste søknaden
Systemet belønner ofte den som har råd til hjelp, ikke den som har det beste prosjektet. Verktøyene skal gi idrettslaget og den lille bedriften det samme utgangspunktet som dem med ressurser.
Tilgang til KI
Trygg KI skal ikke være for de store
Store selskaper har egne folk på jus, personvern, sikkerhet og etikk rundt KI. Små har det ikke, og bruker den likevel. Rammeverket gir dem de samme kontrollene, uten at de må bygge dem selv.
Vi bygger KI slik tillit alltid er bygget her. Ikke «stol på oss», men «her er kildene, sjekk selv». Norskbygget, norsk lovverk.
Vi bygger også verktøy for å finne og søke støtte.
Verktøy dere kan ta i bruk i dag, bygget inne i det samme rammeverket. Verktøyet svarer fra kildene sine, og er instruert til å si fra framfor å gjette.
Alle er våre egne, og dere kan bli kunde av hvert av dem direkte. Inngangen og prisen ligger hos det enkelte produktet.
Verdiene ligger innerst. Alt annet måles mot dem.
Ytterst sitter mennesket. Innerst sitter verdiene, og det er de som avgjør hva KI-en får lov til når ingen regel dekker tilfellet. Dette er ikke plakater på veggen. Det er skrevet ned, og det styrer hva som faktisk skjer når noe går galt.
Sikkerhet
Bygget inn fra første kodelinje, ikke lagt på etterpå. Vi tester systemet slik en angriper ville gjort, som fast del av utviklingen, og hvert funn blir til en kontroll som står igjen.
Personvern
Vi samler inn minst mulig, og bygger for at sensitive opplysninger ikke skal måtte treffe modellen i det hele tatt.
Styring
Ingen godkjenner sitt eget arbeid. Alt kan ses i ettertid, og et menneske eier hver beslutning.
Juridisk
Norsk lovverk og GDPR i bunn. Vi sier hvor data behandles, og hvem som behandler dem, i personvernerklæringen for hvert produkt. Vi bygger for å kunne dokumentere, ikke bare for å kunne love.
Etisk bruk
At vi kan bygge noe, betyr ikke at vi bør. Vi sier nei til funksjoner og hele produkter vi ikke ville stått inne for, også når de ville tjent penger. Samme regel gjelder overfor kunden: et ærlig nei er mer verdt enn et hyggelig ja.
Når kravene strammes inn
KI blir regulert, og kravene til dokumentasjon øker. Da må dere kunne svare på tre ting: hva KI-en gjør, hvorfor den svarte som den gjorde, og hvem som hadde ansvaret. Det er nøyaktig det rammeverket vårt produserer mens det jobber. Ikke som en rapport dere skriver etterpå, men som spor som ligger der fra før.
Vi selger ikke et stempel.
Vi gir ikke juridiske råd, og vi godkjenner ingen. Vi holder oss til det vi kan: å gjøre KI-en deres mulig å forklare og etterprøve. Det er den delen som er vanskelig å ettermontere.
Det vi ikke påstår.
- Vi påstår ikke at KI blir feilfri. Rammeverket fanger tall og henvisninger uten dekning. En vurdering fanger det ikke, og modellen blir ikke feilfri av det. Vi sier hva vi har sett på, og hva vi har latt være.
- Vi påstår ikke at en godkjenning i seg selv er en kontroll. Nesten alle KI-oppsett viser til at et menneske godkjenner til slutt. Vårt gjorde det også, helt til vi så hva godkjenningen var verdt. Det ble klikket ja, fordi vi ikke skjønte hva vi så på. Nå må hver handling forklare seg selv før den spør om lov. Hva den gjør, og hva vi har sjekket. Kan den ikke det, er svaret nei.
- Vi oppgir ikke treffsikkerhet i prosent. Forvalterne publiserer sine tall. Forskningsrådet legger ut alle søknader siden 2004, med tilsagn og avslag, og Innovasjon Norge legger ut tilsagnene sine. SøkStøtte henter inn Innovasjon Norges tilsagn og viser dem som kontekst. Avslagene har vi ikke tatt i bruk ennå. Vår egen treffsikkerhet har vi bare målt mot vår egen fasit, og det tallet oppgir vi ikke. Nå jobber vi for å få noen utenfor til å måle. Vi publiserer svaret uansett.
Har dere fagkunnskap flere burde få nytte av?
Fortell oss hva en rådgiver må kunne hjelpe folk med hos dere, så vurderer vi sammen om det passer for et avgrenset utviklingssamarbeid. Du får en fagsamtale med noen som drifter dette selv, og vi sier ærlig fra i første møte om vi ikke er riktige for dere.
Et forbund som svarer klubbene om regelverket sitt. En nyansatt som spør om rutinene i stedet for å lete i intranettet. En fagavdeling som svarer kunder om vilkår.