ISO/IEC 27090 omhandler sikkerhedstrusler og kompromitteringer, der er specifikke for AI-systemer gennem hele deres livscyklus. Den kan hjælpe organisationer med at udvide etableret informationssikkerhedspraksis med AI-specifikt risikostyringsarbejde.
Hvad ISO/IEC 27090 omfatter
ISO/IEC 27090, Cybersikkerhed - Kunstig intelligens - Håndtering af sikkerhedstrusler og kompromitteringer af systemer med kunstig intelligens, er under udgivelse. Dens status bør kontrolleres igen før offentliggørelse eller anvendelse i et formelt program.
Standarden har til formål at hjælpe organisationer med at forstå konsekvenserne af AI-specifikke sikkerhedstrusler gennem et AI-systems livscyklus, herunder hvordan sådanne trusler kan opdages og afbødes. Den gælder for organisationer af alle størrelser og typer, der udvikler eller anvender AI-systemer, herunder virksomheder, offentlige organer og almennyttige organisationer.
Dens fokus er bevidst snævert: AI-specifikke sikkerhedstrusler og kompromitteringer. Den erstatter ikke det sikkerhedsarbejde, der kræves for den software, infrastruktur, de netværk og de tjenester, som et AI-system afhænger af.
Etableret informationssikkerhed er fortsat grundlaget
En AI-model kører i et bredere teknisk miljø og arver risiciene i dette miljø. Adgangskontrol, sikker arkitektur, sårbarhedshåndtering, hændelsesberedskab og logføring er derfor fortsat afgørende.
ISO/IEC 27001 fastlægger kravene til et ledelsessystem for informationssikkerhed. ISO/IEC 27002 supplerer den med vejledning om informationssikkerhedskontroller og anbefalinger om bedste praksis. ISO/IEC 27090 kan bruges til at føje AI-specifikke overvejelser til dette etablerede arbejde frem for at skabe en separat sikkerhedsorganisation.
Denne lagdelte tilgang er i overensstemmelse med ENISA's ramme for god cybersikkerhedspraksis for AI, som skelner mellem grundlæggende cybersikkerhed, AI-specifik cybersikkerhed og sektorspecifik cybersikkerhed.
Udvid ledelses- og risikostyringsarbejdet for AI
ISO/IEC 42001 giver en ledelsessystemmæssig ramme for ansvarlig AI og styring af livscyklussen.
Risikostyringsarbejde for AI bør omfatte mere end applikationskode. Det kan være nødvendigt at dække træningsdata, prætrænede komponenter, modeller, input og operationel overvågning. Trusselsmodellering kan synliggøre disse afhængigheder og angrebsveje før implementering og i takt med, at systemer ændrer sig.
Sikkerhed i forsyningskæden fortjener særlig opmærksomhed, når systemer er afhængige af leverandører. ETSI EN 304 223 omfatter processer for sikre softwareforsyningskæder til udvikling af AI-modeller og -systemer.
AI-specifikke trusler kræver deres egen analyse
ISO's offentlige katalog bekræfter livscyklusfokusset i ISO/IEC 27090, men gengiver ikke standardens fulde tekst. Organisationer bør konsultere den endelige ISO/IEC-tekst, når den foreligger, for dens detaljerede behandling af trusler og afbødende foranstaltninger.
Følgende eksempler illustrerer de typer AI-specifikke sikkerhedsproblemer, der bør indgå i trusselsmodellering og risikovurdering.
| Sikkerhedsproblem | Hvorfor det er vigtigt |
|---|---|
| Manipulation af træningsdata eller prætrænede komponenter | Berørte data eller komponenter kan ændre et AI-systems adfærd. |
| Input, der har til hensigt at fremkalde et forkert resultat | Omhyggeligt udformede input kan få en model til at begå fejl. |
| Fortrolighedsangreb og modelfejl | Følsomme oplysninger eller systemadfærd kan blive eksponeret eller udnyttet. |
| Modelinversion eller medlemskabsinferens | Dette er eksempler på AI-specifikke angreb, der bør håndteres i trusselsmodellering. |
| Svag overvågning og sporbarhed | Uden passende optegnelser er det sværere at undersøge hændelser og identificere mønstre for misbrug. |
Kontroller bør vurderes samlet, ikke isoleret. Overvågning, gennemgang og validering er fortsat vigtige, efterhånden som et system, dets data og dets driftskontekst ændrer sig.
Forholdet til EU's AI-forordning
For højrisiko-AI-systemer kræver artikel 15 i EU's AI-forordning et passende niveau af nøjagtighed, robusthed og cybersikkerhed gennem hele livscyklussen. Hvor det er relevant, skal de tekniske foranstaltninger håndtere AI-specifikke sårbarheder, herunder dataforgiftning, modelforgiftning, adversariale eksempler eller modelundvigelse, fortrolighedsangreb og modelfejl.
ISO/IEC 27090 kan understøtte ingeniør- og risikostyringsarbejde, der er relevant for disse spørgsmål. Den påviser ikke i sig selv overensstemmelse med AI-forordningen.
Standarder er fortsat frivillige i denne sammenhæng. En formodning om overensstemmelse opstår kun, når en relevant harmoniseret standard er blevet vurderet og henvist til i Den Europæiske Unions Tidende, og kun for de retlige krav, den omfatter. Europa-Kommissionens vejledning om standardisering i AI-forordningen forklarer denne proces.
Supplerende standarder og vejledning
| Kilde | Forhold til sikkerhed i AI-systemer |
|---|---|
| ISO/IEC 27001 og ISO/IEC 27002 | Giver kravene til ISMS og vejledning om informationssikkerhedskontroller, som understøtter den bredere sikkerhedspraksis. |
| ISO/IEC 42001 | Giver en ramme for ledelsessystemer for AI og en kontekst for styring af livscyklussen. |
| ETSI EN 304 223 | Fastlægger grundlæggende sikkerhedskrav på tværs af sikker udformning, udvikling, implementering, vedligeholdelse og udfasning, herunder trusselsmodellering, sikkerhed i forsyningskæden og logføring. |
| ENISA's lagdelte ramme | Understøtter en lagdelt tilgang, der kombinerer grundlæggende, AI-specifik og sektorspecifik cybersikkerhedspraksis. |
Anvendelse af standarden i praksis
ISO/IEC 27090 forstås bedst som en kilde til struktureret vejledning om AI-specifik sikkerhedsanalyse. Den kan hjælpe teams med at anvende et fælles sprog, udvide eksisterende trusselsmodeller og identificere, hvor almindelige informationssikkerhedskontroller skal anvendes med forståelse for AI.
Den er ikke en tjekliste, der fjerner behovet for systemspecifikke risikobeslutninger. Organisationer bør vurdere deres egne modeller, data, leverandører, grænseflader og anvendelsestilfælde og derefter vælge, teste og overvåge kontroller, der står i rimeligt forhold til de involverede risici.