Europa waakt over AI: nieuwe transparantieregels tegen bedrog
Chatbots moeten zich voortaan als AI bekendmaken en deepfakes moeten gelabeld worden. Wat betekenen de nieuwe EU-regels voor jou?
Sinds deze zomer handhaaft het AI-bureau van de Europese Commissie, samen met de nationale autoriteiten, de wet inzake kunstmatige intelligentie. Sindsdien gelden ook nieuwe transparantieregels op grond waarvan (bepaalde) AI-systemen gebruikers moeten vertellen wanneer zij met AI interageren en wanneer er inhoud door is gegenereerd of gewijzigd. Het AI-bureau is zeg maar een Europese waakhond die toeziet op naleving van de regels van de AI-verordening en de nieuwe transparantievereisten.
AI is prima, maar je moet wel weten dát het AI is
In het vervolg moeten, volgens de nieuw geldende regels, chatbots en andere interactieve AI-systemen aan de gebruikers vertellen dat ze met AI te maken hebben en niet met een mens. Ook dienen deepfakes (met behulp van AI gegenereerde en/of bewerkte afbeeldingen, video’s en audio) te worden geëtiketteerd. AI-gegenereerde of gewijzigde inhoud moet voortaan machineleesbare markeringen bevatten, zodat deze eenvoudig kan worden gedetecteerd en door de gebruiker als zodanig kan worden herkend.
Een welkome stap voorwaarts
Al deze maatregelen zijn bedoeld om bedrog en manipulatie te verminderen. Het moet ertoe leiden dat mensen weloverwogen keuzes kunnen maken. Ze geven bedrijven naast duidelijke verplichtingen ook een praktische manier om naleving aan te tonen, en daarmee kunnen ze zich onderscheiden van partijen die dat (nog) niet doen. Er is inmiddels een eerste lijst gepubliceerd van ruim 180 organisaties die de praktijkcode inzake transparantie van door AI gegenereerde inhoud hebben ondertekend. Het is een begin, met partijen als OpenAI, Lenovo en Lufthansa als meest aansprekende namen. De verwachting is dat er snel veel zullen volgen.
AI is niet meer weg te denken en dat moeten we ook niet willen. Het is echter wel belangrijk dat er duidelijkheid is en dat je weet of je met een mens of met een chatbot communiceert, en of iets origineel is of fake. Het blijft lastig om dat te onderscheiden. Deze nieuwe Europese waakhond zal echt niet in staat zijn alle uitwassen te voorkomen, maar het is een stap in de goede richting.
Wil je dat Axoft waakt over jouw ICT-omgeving? Maak een afspraak met Ricardo
