Question 1

Vad innebär kravet på mänsklig tillsyn i AI-förordningen?

Accepted Answer

Högrisksystem ska vara utformade så att fysiska personer effektivt kan övervaka dem medan de används. De som utövar tillsynen ska kunna förstå systemets förmåga och begränsningar, vara medvetna om risken att lita för mycket på systemet, tolka resultaten korrekt, välja att inte använda resultatet och kunna avbryta systemet med en stoppknapp eller liknande. Den som använder systemet ska ge tillsynen till personer med rätt kompetens.

Question 2

När måste en allvarlig incident med ett AI-system rapporteras?

Accepted Answer

Leverantören av ett högrisksystem ska rapportera allvarliga incidenter till marknadskontrollmyndigheten i det land där incidenten inträffade. Rapporten ska lämnas direkt när sambandet med AI-systemet är fastställt eller sannolikt, och senast 15 dagar efter att leverantören fått kännedom om incidenten. Vid en omfattande överträdelse eller en allvarlig störning i kritisk infrastruktur gäller högst två dagar, och vid dödsfall högst tio dagar. En ofullständig första rapport får lämnas och kompletteras senare.

Question 3

Vilka AI-system är förbjudna enligt AI-förordningen?

Accepted Answer

Förbjudet är bland annat AI som manipulerar eller utnyttjar sårbarheter så att människor skadas, social poängsättning, känsloigenkänning på arbetsplatser och i skolor, otillåten insamling av ansiktsbilder från internet och, med snäva undantag, biometrisk fjärridentifiering i realtid på allmän plats för brottsbekämpning. Förbuden gäller sedan den 2 februari 2025; de förbud som lagts till genom ändringen i artikel 5.1 led ba och bb samt 5.1a och 5.1b gäller från den 2 december 2026.

Question 4

Måste personalen utbildas i AI enligt AI-förordningen?

Accepted Answer

Leverantörer och tillhandahållare av AI-system ska vidta åtgärder för att stödja AI-kunnighet hos personal och andra som använder systemen för deras räkning, med hänsyn till kunskap, erfarenhet, utbildning och sammanhang. Efter ändringen av artikel 4 krävs ingen garanterad kunskapsnivå hos varje enskild person, och kommissionen och medlemsstaterna ska stödja företagen. Kravet gäller sedan den 2 februari 2025.

Question 5

När är ett AI-system högrisk enligt AI-förordningen?

Accepted Answer

Ett AI-system är högrisk om det är säkerhetskomponent i en produkt som omfattas av EU:s produktlagstiftning i bilaga I, eller om det används inom områden i bilaga III, till exempel rekrytering, kreditbedömning, utbildning och tillgång till offentliga tjänster. Ett system i bilaga III är ändå inte högrisk om det inte medför betydande risk för skada, men ett system som profilerar fysiska personer räknas alltid som högrisk. Efter ändringen av artikel 113 gäller kraven för system i bilaga III från den 2 december 2027 och för system i bilaga I från den 2 augusti 2028.

Question 6

Måste vi tala om att kunden pratar med en AI?

Accepted Answer

Ja. AI-system som interagerar direkt med människor ska utformas så att personen informeras om att det är en AI, om det inte är uppenbart. Syntetiskt ljud, bild, video och text ska märkas maskinläsbart, och djupförfalskningar ska anges. Skyldigheterna gäller sedan den 2 augusti 2026.

Question 7

Vilka sanktioner gäller enligt AI-förordningen?

Accepted Answer

Brott mot förbuden i artikel 5 kan ge sanktionsavgift upp till 35 miljoner euro eller 7 procent av global årsomsättning. Brott mot flertalet andra skyldigheter kan ge upp till 15 miljoner euro eller 3 procent, och felaktiga, ofullständiga eller vilseledande uppgifter till anmälda organ eller myndigheter upp till 7,5 miljoner euro eller 1 procent. För små och medelstora företag gäller det lägre av beloppet och procentsatsen.

AI-förordningen (AI Act): krav på företag som använder AI