Een dag vol AI-ontdekkingen
19 februari, 2024
Dagimpressie VUrORE seminar 2024 – The impact of AI on IT audit
Op donderdag 8 februari 2024 organiseerde VUrORE, de studievereniging van de IT-auditopleiding aan de Vrije Universiteit Amsterdam, na twee eerdere digitale evenementen, een fysiek seminar in het Atrium Meeting Center. Het seminar stond in het teken van Artificial Intelligence (AI) met een reeks vakinhoudelijke presentaties over verschillende aspecten van het onderwerp, waaronder ontwikkelingen, kansen, dreigingen en wet- en regelgeving voor IT-auditors. Vijf sprekers kwamen aan bod, waarvan sommigen lid zijn van een van de kennisgroepen van NOREA.
Een dagimpressie door Milou van Vliet
Deze impressie werpt een blik op de vijf sprekers en hun presentaties tijdens het seminar. De aftrap werd verzorgd door Jalal el Mansouri, de voorzitter van VUrORE, die de laatste ontwikkelingen binnen de IT-auditopleiding aan de VU besprak, inclusief nieuwe onderwerpen zoals AI en ESG in het curriculum. Daarna kwamen de volgende sprekers aan bod: Tjerrie Smit, Chief Analytics Officer bij NN, gevolgd door Ylja Remmits van KPMG, Mona de Boer van PwC, Jan Matto van Mazars, en tot slot Jatin Sehgal van EY CertifyPoint als afsluiter.
Snelle evolutie van AI
In zijn openingswoord nam Tjerrie Smit ons mee op een boeiende reis door de snelle evolutie van Artificial Intelligence in de afgelopen jaren. Hij illustreerde deze vooruitgang met indrukwekkende cijfers: ChatGPT trok binnen 61 dagen meer dan 100 miljoen gebruikers, een prestatie die nog steeds achterblijft bij de razendsnelle opkomst van Pokémon Go, dat dit aantal slechts binnen 27 dagen bereikte. Deze cijfers werpen een licht op de explosieve groei van A.I. en de immense potentie ervan, maar ook op de uitdagingen die gepaard gaan met deze ontwikkelingen - met name in ons vakgebied, waar data-integriteit en nauwkeurigheid van cruciaal belang zijn. Tijdens zijn presentatie benadrukte Smit het vermogen van A.I. om levensechte resultaten, afbeeldingen en zelfs bewegende beelden te genereren, inclusief zorgwekkende voorbeelden van deepfakes met bekende personen. Deze inzichten dienden als een krachtige inleiding tot het vakgebied van A.I. en legden direct de basis voor de verdere discussies van de dag. Als afsluiting nodigde Smit het publiek uit om vragen te stellen over A.I.-toepassingen, met speciale aandacht voor large language models.
Ethische uitdagingen
Ylja Remmits nam vervolgens het stokje over en nam ons mee naar de diepten van ethische uitdagingen die gepaard gaan met het gebruik van AI In haar presentatie belichtte ze de risico’s van A.I.-systemen in besluitvormingstoepassingen aan de hand van concrete voorbeelden, zoals gevallen waarin studenten met een migratieachtergrond vaker worden beschuldigd van fraude, AI-antispieksoftware donkere mensen niet herkent, en automatische AI job screening tools discriminatie vertonen. Deze voorbeelden benadrukten het belang van screening en controle bij AI-toepassingen, omdat de automatisering en standaardisering ervan risico's met zich meebrengen. Het gevaar bestaat dat er geen ruimte is voor uitzonderingen die niet binnen de standaard workflow passen, wat kan leiden tot een verlies van menselijkheid en toezicht. Remmits benadrukte in haar presentatie ook de complexiteit van zogeheten ‘AI-ethiek’, waarbij de beoordeling van wat ‘juist’ en ‘onjuist’ is namelijk contextafhankelijk en persoonlijk is. Ze wees op de tegenstrijdige belangen tussen bedrijven, individuen en de maatschappij, waardoor de impact van AI moeilijk te voorspellen is. Als oplossing stelde Ylja vier stappen voor: het vaststellen van gedeelde waarden en principes, het verzorgen van training en bewustwording over AI en ethische uitdagingen, het uitvoeren van (ethische) impact assessments bij het gebruik van AI, en tot slot het verankeren van AI-ethiek in processen en governance. Dit biedt auditors de mogelijkheid om te controleren of de vastgestelde processen en governance worden nageleefd.
Na deze boeiende presentatie volgde een korte pauze, waarin deelnemers de gelegenheid kregen om te genieten van een hapje en een drankje, en natuurlijk om te netwerken en bij te praten met collega's uit het vakgebied. Het publiek was divers, bestaande uit zowel studenten van de IT-auditopleiding aan de Vrije Universiteit Amsterdam als doorgewinterde professionals uit ons vakgebied die elkaar ontmoetten en ideeën uitwisselden. Mooi om te zien!
Kloof regelgeving en praktische implementatie
Na de pauze nam Mona de Boer het podium met een aanstekelijk enthousiasme om te spreken over de kloof tussen regelgeving en praktische implementatie van Artificial Intelligence in zowel de samenleving als het bedrijfsleven. Ze benadrukte dat de stroomversnelling van A.I. onvermijdelijk is en dat we het moeten omarmen als een hulpmiddel om efficiënter te werken, als een soort co-piloot. Echter, benadrukte ze het belang van het implementeren van ‘Responsible AI’, waarbij kunstmatige intelligentie aan de wet moet voldoen. De Boer erkende dat volledig risicovrije AI-toepassingen niet haalbaar zijn, maar pleitte voor een evenwicht tussen de voordelen die ze bieden en de risico's die ze met zich meebrengen. Organisaties moeten transparant zijn over deze balans. In haar presentatie wees De Boer, als voorzitter van de kennisgroep Algorithm & Assurance van NOREA, ook op de 'NOREA Guiding Principles Trustworthy AI Investigations', die IT-auditors kunnen helpen bij het stellen van cruciale vragen bij het auditen van AI-toepassingen.
Nieuwe wetgeving AI
Na de lunch nam Jan Matto het woord en bracht hij ons op de hoogte van de Digital Service Act (DSA), een nieuwe wetgeving die onze kant op komt en die vereist dat organisaties die gebruikmaken van AI voldoen aan bepaalde vereisten. Hij gaf een overzicht van deze wetgeving en besprak wat dit betekent voor IT-auditors. Hoewel de wetgeving op dit moment alleen van toepassing is op zogeheten VLOPs (Very Large Online Platforms), waarvan er momenteel een twintigtal van zijn geïdentificeerd, zoals Amazon en Google, zal de wetgeving in de loop der tijd ook van toepassing worden op andere organisaties. Het is daarom van groot belang voor IT-auditors om op de hoogte te zijn van deze nieuwe wetgeving. Uit de presentatie blijkt dat de DSA een belangrijke impact zal hebben op organisaties die gebruikmaken van AI, als IT-auditors is het onze verantwoordelijkheid om deze veranderingen te begrijpen en te integreren in onze auditprocessen. Door ons bewust te blijven van deze ontwikkelingen kunnen we onze rol als waardevolle adviseurs voor organisaties versterken en bijdragen aan een veiligere en ethisch verantwoorde toepassing van technologie.
Veiligheidsrisico’s
Tot slot sloot Jatin Sehgal het seminar af met zijn presentatie waarin hij de veiligheidsrisico's van AI-ontwikkelingen benadrukte. Hij illustreerde deze risico's met een concreet voorbeeld waarin een financiële medewerker maar liefst 25 miljoen euro had uitbetaald na een videocall met een deepfake van de 'chief financial officer' van het bedrijf. Jatin's gebruik van real-world voorbeelden belichtte zowel de potentiële risico's als de toegevoegde waarde van AI. Daarnaast wakkerde Sehgal een discussie aan over de huidige staat van A.I. binnen bedrijven en de mogelijke toekomst waarin bedrijven AI gebruiken voor verbeterde cybersecuritymaatregelen en het beschermen van privacy, niet alleen voor organisaties, maar ook voor individuen. Deze discussie benadrukte de voortdurende relatie tussen AI, cybersecurity en privacy, en hoe organisaties binnen dit complexe landschap kunnen navigeren.
De afsluiting van de dag werd verzorgd door Irene Vettewinkel-Raymakers, voorzitter van NOREA. Ze benadrukte het belang van het als beroepsgroep bijhouden van nieuwe ontwikkelingen in ons vakgebied. Daarnaast uitte ze haar waardering voor VUrORE en de Vrije Universiteit voor het organiseren van dit seminar, waar zowel studenten als ervaren professionals uit het vakgebied bij elkaar kwamen. Na deze afronding was er nog gelegenheid om na te praten en werd de dag succesvol afgesloten. Op naar het volgende seminar!
