Eindelijk politiek akkoord
Content gemaakt door een generatief AI-systeem, zoals ChatGPT, moet voortaan duidelijk stellen dat dit door AI gemaakt is. Daarover werd het Europees Parlement het eens in haar positie ten aanzien van de AI-Verordening, of AI Act. Doordat het voorstel van de Commissie voor de AI Act nog uit de tijd vóór ChatGPT3 stamt, was er nog veel onduidelijk over de positie van generatieve AI-systemen in de Verordening. Op het gebied van onderwijs scherpt het Parlement de bepalingen voor het gebruik van AI in de EU aanzienlijk aan. Terwijl men onderzoek en innovatie zoveel mogelijk de ruimte probeert te geven.
Onderwijs: verbod op detectie van emoties
Het Europees Parlement wil een algeheel verbod op het herkennen van emoties van personen binnen onderwijsinstellingen. Dit verbod, ook wel bekend als een "artikel vijf bepaling", komt bovenop het oorspronkelijke voorstel van de Europese Commissie, waarin nog geen sprake was van een verbod op het gebruik van kunstmatige intelligentie in onderwijs. De toevoeging illustreert de kritische houding van de volksvertegenwoordigers, die ook de regelgeving rondom het gebruik van AI bij toegang tot onderwijs aanscherpen.
AI broodnodig voor onderwijshervorming
Niet alleen de besluitvorming door AI met betrekking tot toegang tot onderwijs wordt straks als "hoog risico" toepassing beschouwd, maar ook het wezenlijk beïnvloeden door AI op zichzelf. AI-systemen die ingedeeld worden in “hoog risico” categorieën zijn onderhevig aan striktere regelgeving dan “beperkt risico” systemen. Desalniettemin blijft het Parlement een voorstander van het gebruik van AI in het Europese onderwijs. Zo voegde de commissie cultuur en onderwijs (CULT) toe dat ‘het gebruik van AI belangrijk is om het onderwijssysteem de moderniseren, verbeteren en verbreden’. Het Parlement hecht ook veel belang aan het bevorderen van "AI geletterdheid" in Europa en heeft dit streven opgenomen in de verordening.
Innovatie & onderzoek: ruimte voor ontwikkeling
De AI act mag dan inperkende kaders stellen voor AI, het Parlement vindt dat onderzoek en innovatie (O&I) rondom AI niet gehinderd moeten worden. Het EP voegt daarvoor maar liefst 31 amendementen toe. Amendement 11 stelt expliciet dat ‘de AI Act onderzoek en innovatie (O&I) moet bevorderen en vrijheid van onderzoek moet respecteren’. Daarom worden AI-systemen voor onderzoeksactiviteiten vrijgesteld van de regelgeving. Tevens zet het EP in op zogenaamde regulatory sandboxes: proeftuinen waarin publieke partijen voorrang dienen te krijgen voor onderzoek. Ook wil het Parlement (internationale) innovatie bevorderen middels inzet op standaarden en samenwerking met globale partners. Indien het Parlement zijn volledige zin krijgt, rapporteert de Commissie voortaan iedere vier jaar over de Europese onderzoeksinvesteringen in AI.
Nieuw: European AI Office
De uitvoering en naleving van de AI Act komt bij het—nog op te richten—European AI Office te liggen. Hiermee zet het EP een streep door de European AI board, aanvankelijk voorgesteld door de Commissie. Het AI bureau krijgt een fysieke standplaats in Brussel en bestaat uit een bestuur waarin elke lidstaat één vertegenwoordiger krijgt, een secretariaat en een adviserend forum. Het forum regelt de inbreng van zowel publieke als private belanghebbenden. Het management van het AI office kiest de leden van het adviesforum voor maximaal 4 jaar. Als het aan het Parlement ligt krijgen academici en het Joint Research Centre hier een vaste plek in.
Context
De voorstellen van het Parlement zijn nog geen wet. Na twee jaar van onderhandelen heeft het Parlement een positie ingenomen op het voorstel van de Commissie voor een AI verordening: de ‘AI Act’. De triloog met de Raad kan nu eindelijk beginnen. Daarmee is het een van de langstlopende wetgevingsinitiatieven van de huidige Commissieperiode. AI is één van de topprioriteiten binnen de digitale doelstellingen van de EU. Volgens het in 2020 gepubliceerde witboek moet AI in Europa moet staan voor hoogwaardige maar ethisch betrouwbare technologie, waar deze verordening aan moet bijdragen. In 2022 publiceerde de Commissie daarom bijvoorbeeld richtsnoeren om onderwijsinstellingen te helpen met het onderscheiden van de risico’s en mogelijkheden van AI. Het agentschap voor cybersecurity pleitte onlangs voor meer onderzoek naar het gebruik van AI in relatie tot cybersecurity.
