Inleiding
En opeens was daar AI die de grenzen opzoekt van wat wij als mensen dachten dat mogelijk was met computers en slimme technologie. Dat AI een hoop voordelen heeft zijn de meeste mensen het wel over eens, evenals nadelen. Maar wat zijn nu specifiek voor de financiële sector de risico’s? Waar moeten finance professionals met name op letten?
Wij denken dat deepfake technologie de grootste bedreiging gaat vormen voor bedrijven de komende jaren. Deepfake is een geavanceerde vorm van kunstmatige intelligentie, die in staat is om personen op overtuigende wijze na te bootsen, zowel in beeld als geluid. Dit stelt kwaadwillende in staat om fraude op ongekende schaal te plegen. In dit artikel duiken we dieper in dit onderwerp om de implicaties voor ondernemers verder uit te leggen. En uiteraard eindigen we met tips hoe schade te voorkomen.
De Evolutie van Deepfake Technologie
Wat ooit begon als een onschuldige hobby voor technologie-enthousiastelingen, is door ontwikkeld tot een geavanceerd instrument voor identiteitsdiefstal. De overgang van eenvoudige gezichtsverwisselingen naar complexe stemnabootsingen heeft de deur geopend voor misbruik op niveaus die voorheen ondenkbaar waren. Historische incidenten, waarbij politieke figuren en beroemdheden werden geïmiteerd, geven een voorproefje van de potentieel verwoestende toepassingen binnen de financiële wereld.
Deepfakery speelt op grote schaal een hoofdrol. Kijk eens naar dit filmpje, en besef dan dat dit dus niet Tom Cruise is..
Potentiële Risico’s voor Financiële Instellingen
De opkomst van deepfake technologie heeft diverse nieuwe vormen van fraude mogelijk gemaakt. Identiteitsfraude, waarbij CFO’s digitaal worden gekloond, stelt kwaadwillende in staat om onder valse voorwendselen financiële transacties te verrichten.
Documentfraude, een ander significant risico, betreft het vervalsen van essentiële financiële documenten door middel van AI, waardoor de authenticiteit van bedrijfsprocessen in twijfel wordt getrokken. Communicatiefraude, zoals het houden van valse vergaderingen of het voeren van telefoongesprekken onder een valse identiteit, ondermijnt de integriteit van zakelijke communicatie.
Zie hier nog wat filmpjes over Deepfakes. Echt is niet meer van nep te onderscheiden.
Onlangs heeft een deepfake CFO een medewerker in Hongkong opdracht gegeven om $25 miljoen over te maken: het verhaal is dat een medewerker van het bedrijf werd uitgenodigd voor een gesprek met de CFO in Londen. Echter, de “CFO” bleek een AI-representatie te zijn, en eiste dat de medewerker geld zou overmaken naar verschillende bankrekeningen, wat ook gedaan werd. In totaal wordt beweerd dat er $25 miljoen (HK$200 miljoen) is gestolen bij de oplichting.
De politie in Hongkong denkt dat de criminelen die hier achter zaten video’s van eerdere conference calls bij het bedrijf hadden gedownload als basis voor de AI. Op die manier konden ze het uiterlijk en geluid van de CFO na bootsen. Deepfakes waren niet altijd zo’n bedreiging. Het niveau van verfijning om zoiets voor elkaar te krijgen is verbazingwekkend, zelfs met de niveaus van AI-vooruitgang. Dit omvatte ook aanvullende infiltratie van Whatsapp-kanalen, met meerdere partijen om alles echt te laten voelen.
De implicaties van deepfake technologie strekken zich uit tot het hart van de financiële besluitvorming. Het risico bestaat dat CFO’s op basis van gemanipuleerde informatie verkeerde financiële beslissingen nemen, wat de financiële gezondheid van een organisatie ernstig kan schaden.
Bovendien vormen deze technologieën een directe bedreiging voor de integriteit van financiële rapportages, een fundament van zakelijk vertrouwen. Het vertrouwen binnen en buiten de organisatie, essentieel voor het onderhouden van gezonde bedrijfsrelaties, wordt hierdoor ernstig op de proef gesteld.
Preventieve Maatregelen en Best Practices
Deze week heb ik een nieuw, gratis AI-hulpmiddel van Verisoul uitgeprobeerd – hun Email Checkpoint. Het product gebruikt AI om e-mails te analyseren. In realtime bepaalt het of e-mails:
A) Persoonlijk versus Werk zijn,
B) Echt versus Tijdelijk/Wegwerpbaar,
C) Uniek versus Herhaald/Duplicaat.
Dit soort tools kunnen ingezet worden om de stroom aan emails en berichten te controleren op echte personen of bots.
Het belang van authenticatieprotocollen kan in dit nieuwe tijdperk niet genoeg benadrukt worden. Daarnaast is het cruciaal om zowel CFO’s als hun teams te onderwijzen over de gevaren en kenmerken van deepfake fraude. Het implementeren van geavanceerde technologische oplossingen, specifiek ontworpen om vervalste audiovisuele content te detecteren, vormt een ander belangrijk verdedigingsmechanisme tegen deze vorm van cybercriminaliteit.
De Deepfake CFO is slechts het begin. We zien nu al neppe versies van Elon Musk en anderen die ons proberen te overtuigen om te investeren in de volgende crypto, om geld over te ma
Terwijl de strijd tegen deepfake fraude voortduurt, zullen innovaties op het gebied van AI en machine learning een cruciale rol spelen in het ontwikkelen van effectievere detectie- en preventiemethoden. De samenwerking tussen bedrijven en technologieleveranciers zal van essentieel belang zijn om een stap voor te blijven op fraudeurs. Tegelijkertijd zullen juridische en ethische kaders moeten worden aangepast om deze nieuwe uitdagingen het hoofd te bieden en de integriteit van financiële transacties wereldwijd te waarborgen.
In een wereld waarin de realiteit steeds moeilijker te onderscheiden is van fictie, is het van cruciaal belang dat CFO’s en financiële professionals waakzaam blijven en zich wapenen met kennis en technologie om hun organisaties te beschermen tegen de verborgen gevaren van deepfake technologie.
Tot slot 8 praktische tips om jezelf te beschermen tegen deepfakes:
- Bewijs van Leven Vragen: In situaties waar identiteitsverificatie cruciaal is, vraag om bewijs dat de persoon met wie je communiceert echt is. Dit kan via een live video-oproep of door het stellen van vragen die alleen de echte persoon zou kunnen beantwoorden.
- Ontmoeting in het Echt (IRL) Handdruk: Als het mogelijk is, regel een persoonlijke ontmoeting voor belangrijke beslissingen of transacties.
- Kritisch Beoordelen van Informatie: Wees kritisch over de informatie die je ontvangt, vooral als deze ongevraagd is of via sociale media komt. Controleer de bron en zoek naar bevestiging via officiële kanalen.
- Gebruik Verificatietechnologieën: Maak gebruik van technologieën en software die helpen bij het detecteren van deepfakes, zoals browserextensies of apps die AI gebruiken om de echtheid van beelden en video’s te beoordelen.
- Blijf Op de Hoogte: Blijf op de hoogte van de laatste ontwikkelingen op het gebied van deepfake-technologie en cyberveiligheid. Kennis is macht, vooral als het gaat om het herkennen van potentieel bedrog.
- Versterk Digitale Beveiliging: Versterk je digitale beveiliging door sterke, unieke wachtwoorden te gebruiken, tweefactorauthenticatie in te schakelen waar mogelijk, en regelmatig je beveiligingsinstellingen te controleren.
- Educatie en Training: Zorg voor training en bewustwording binnen je organisatie of je persoonlijke kring over de risico’s van deepfakes en hoe deze te herkennen.
- Officiële Communicatiekanalen Gebruiken: Voor belangrijke zakelijke beslissingen, gebruik altijd geverifieerde en officiële communicatiekanalen. Wees sceptisch over verzoeken die via ongebruikelijke kanalen binnenkomen
