Is het echt of is het AI? Nieuwe EU-regels geven duidelijkheid

Wat houdt dat in?

• Chatbots en andere interactieve AI-systemen moeten de gebruikers laten weten dat ze te maken hebben met AI, en niet met een mens. 
• Deepfakes (afbeeldingen, video’s of audio die met behulp van AI zijn bewerkt of gegenereerd) moeten worden gelabeld. 
• Door AI gegenereerde of gewijzigde content moet bovendien digitaal gemarkeerd zijn zodat het controleerbaar is.
• Als AI wordt ingezet om jouw emoties te herkennen of om biometrische gegevens te verwerken dan moet dat duidelijk zijn etc.

Misleiding en manipulatie tegengaan

De maatregelen zijn bedoeld om misleiding en manipulatie tegen te gaan. Ook moeten ze eraan bijdragen dat mensen weloverwogen keuzes maken.  
Voor bedrijven scheppen ze duidelijkere verplichtingen en een praktische manier om aan te tonen dat ze aan de regels voldoen. 

Handhaven in de hele EU

Verder kan het AI-bureau van de Europese Commissie, in samenwerking met nationale autoriteiten, beginnen met de handhaving van regels uit de AI Act. De nieuwe regels gelden ook voor de meest geavanceerde General-Purpose- AI-modellen, die systeemrisico's kunnen opleveren. De aanbieders daarvan moeten voldoen aan aanvullende verplichtingen om de risico's op grootschalige schade aan te pakken. 

Europese cyberveiligheid en AI zonder controle

Denk aan risico’s i.v.m. chemische, biologische, radiologische en nucleaire incidenten, verlies van controle, cybercriminaliteit, schadelijke manipulatie en bedreigingen voor de grondrechten. De AI Act omvat ook de risico's die recentelijk de aandacht van het publiek hebben getrokken, zoals risico's voor de Europese cyberveiligheid en voor AI, die zonder menselijke controle opereert.

Meer weten? Lees het volledige persbericht.