Η εξάπλωση της Τεχνητής Νοημοσύνης έχει οδηγήσει στην ανάπτυξη νέων εργαλείων που μπορούν να χρησιμοποιηθούν από τους κυβερνοεγκληματίες για τη δημιουργία προηγμένων μορφών απάτης. Τα deepfake και τα πλαστά email αποτελούν πλέον αποτελεσματικούς τρόπους παραπλάνησης ανυποψίαστων θυμάτων. Τα deepfake χρησιμοποιούν τεχνικές μηχανικής μάθησης για τη δημιουργία ρεαλιστικών βίντεο ή εικόνων που απεικονίζουν πρόσωπα ή γεγονότα που ποτέ δεν συνέβησαν.
Αυτή η τεχνολογία έχει γίνει διαβόητη λόγω της ικανότητάς της να πλαστογραφεί την εμφάνιση και τη φωνή γνωστών προσωπικοτήτων, προκαλώντας σύγχυση και ανασφάλεια στο κοινό. Χαρακτηριστικό παράδειγμα αποτελεί η περίπτωση του ηθοποιού Τομ Κρουζ, του οποίου το πρόσωπο έχει χρησιμοποιηθεί σε διάφορα deepfake βίντεο. Ταυτόχρονα, η δυνατότητα δημιουργίας πλαστών email με τη χρήση Τεχνητής Νοημοσύνης έχει αυξηθεί σημαντικά.
Αυτά τα μηνύματα είναι συχνά σχεδόν αδύνατο να διακριθούν από τα γνήσια, γεγονός που τα καθιστά εξαιρετικά επικίνδυνα. Τα phishing μηνύματα και οι απάτες που σχετίζονται με την παραβίαση δεδομένων γίνονται όλο και πιο συνηθισμένα. Η χρήση τέτοιων τεχνικών δεν περιορίζεται μόνο σε ποινικά περιστατικά αλλά μπορεί να επηρεάσει και πολιτικές ισορροπίες ή να προκαλέσει ζημία στην προσωπική και επαγγελματική ζωή ατόμων. Με τις προκλήσεις αυτές να συνεχίζουν να αυξάνονται, προκύπτει η ανάγκη για αυξημένη εγρήγορση και ανάπτυξη μεθόδων προστασίας απέναντι σε αυτές τις νέες μορφές απειλών.
