Download dit hoofdstuk (PDF)
Opkomend dual-use van AI in cybersecurity

AI verandert cybersecurity door realtime detectie van bedreigingen te verbeteren en efficiënte reacties op deze bedreigingen mogelijk te maken. AI-modellen kunnen grote datasets en datastromen analyseren, afwijkingen identificeren en aanvallen voorspellen, waardoor ze een cruciaal hulpmiddel zijn voor beveiligingsactiviteiten.

Cybercriminelen maken echter ook gebruik van AI om hun aanvallen te verbeteren. Technieken zoals AI-gestuurde phishing, deepfakes en geautomatiseerde kwetsbaarheidsscans maken cyberaanvallen impactvoller en schaalbaarder. Steeds meer zorgen richten zich op de recente ontwikkelingen bij het inzetten van GenAI voor het automatisch genereren van malware met minimale input. Ook is er bezorgdheid over adversarial machine learning. Daarbij manipuleren aanvallers data om AI-modellen die gebruikt worden voor de cyberverdediging te misleiden, waardoor de modellen bedreigingen over het hoofd zien.

Impact

education

Onderwijs

  • AI-tools bieden de mogelijkheid om online leeromgevingen te beveiligen door middel van anomaliedetectie en gedragsanalyse. Misbruik van AI kan echter de integriteit van het onderwijs ondermijnen door middel van geautomatiseerd spieken, deepfakes of phishing. Om AI in het onderwijs te beveiligen, moet een evenwicht worden gevonden tussen innovatie en ethische en wettelijke waarborgen.
Research

Onderzoek

  • Onderzoeksinstellingen profiteren van AI voor geavanceerde dreigingsmodellering, gegevensbescherming en netwerkmonitoring. Open access-beleid en samenwerkingsverbanden op onderzoeksgebied vergroten echter ook de blootstelling aan AI-gedreven dreigingen. Robuust modelbeheer en weerbaarheid tegen vijandige acties zijn essentieel voor het behoud van de integriteit van onderzoek.
Operations

Operations

  • Naarmate instellingen digitaliseren, verbetert de integratie van AI in de cyberbeveiligingsinfrastructuur de realtime respons en vermindert de afhankelijkheid van handmatig toezicht. Maar AI-systemen worden dan zelf ook waardevolle doelwitten. Instellingen moeten veilige AI-pijplijnen bouwen en investeren in op bedreigingen gebaseerde AI-implementatiestrategieën om de operationele veiligheid op lange termijn te waarborgen.
Meer informatie over Cybersecurity?
Bezoek surf.nl
Link SURF icoon