EU’s AI-forordning (AI Act) er den første omfattende regulering af kunstig intelligens i EU. Forordningen indeholder en række krav til både udviklere og brugere af AI-systemer, og et af de mest praktisk relevante krav for mange virksomheder findes i artikel 50, som handler om gennemsigtighed.
Formålet med bestemmelsen er at sikre, at mennesker ikke bliver vildledt af AI-systemer. Derfor skal brugere i visse situationer tydeligt informeres om, at de interagerer med kunstig intelligens.
Et godt eksempel er brugen af chatbots eller andre automatiserede dialogsystemer. Hvis en kunde kommunikerer med et AI-system, skal det fremgå klart, at der ikke er tale om et menneske, medmindre det er åbenlyst i situationen.
Artikel 50 indeholder også krav i forhold til syntetisk eller AI-genereret indhold, herunder billeder, video og lyd. Hvis indhold er kunstigt genereret eller manipuleret, f.eks. ved brugen af generativ AI, skal det i visse tilfælde markeres eller oplyses, så modtageren er klar over, at materialet ikke er ægte. Bestemmelsen retter sig særligt mod såkaldte ”deepfakes”, hvor realistisk indhold kan skabe risiko for misinformation eller manipulation.
- Chatbots og AI-baseret kundeservice
- Automatiseret kommunikation med kunder
- Brug af generativ AI til tekst, billeder eller video
- Markedsføring og indholdsproduktion
- Digitale services hvor AI indgår i brugerinteraktionen
AI-forordningen trådte formelt i kraft d. 1. august 2024, men implementeres gradvist. Kravene om gennemsigtighed i artikel 50 forventes at finde anvendelse fra d. 2. august 2026.
Selvom der fortsat arbejdes med vejledninger og praktisk fortolkning, er det en god ide allerede nu at skabe overblik over, hvor og hvordan AI anvendes i virksomheden, særligt i kontakt med kunder eller brugere.
Hos sure’it hjælper vi virksomheder med at kortlægge deres brug af AI og sikre, at kravene til gennemsigtighed, dokumentation og ansvarlig anvendelse bliver tænkt ind i praksis.
Læs mere på sure’its hjemmeside https://sureit.dk/services/it-sikkerhed-beredskab-og-auditering
Eller kontakt Per Ulrik Nielsen på tlf.: 42 80 60 20, på mail: sureit@sureit.dk eller via kontaktknappen herunder.
