Adversarial Attacks and Defences: Threats and Prospects Analysis

Πτυχιακή Εργασία uoadl:3232946 117 Αναγνώσεις

Μονάδα:
Τμήμα Πληροφορικής & Τηλεπικοινωνιών
Πληροφορική
Ημερομηνία κατάθεσης:
2022-10-03
Έτος εκπόνησης:
2022
Συγγραφέας:
ΠΑΠΑΣΤΑΥΡΟΥ ΑΡΙΣΤΗ
Στοιχεία επιβλεπόντων καθηγητών:
ΚΩΝΣΤΑΝΤΙΝΟΣ ΧΑΤΖΗΚΟΚΟΛΑΚΗΣ, ΑΝΑΠΛΗΡΩΤΗΣ ΚΑΘΗΓΗΤΗΣ, ΤΜΗΜΑ ΠΛΗΡΟΦΟΡΙΚΗΣ ΚΑΙ ΤΗΛΕΠΙΚΟΙΝΩΝΙΩΝ, ΕΘΝΙΚΟΝ ΚΑΙ ΚΑΠΟΔΙΣΤΡΙΑΚΟΝ ΠΑΝΕΠΙΣΤΗΜΙΟΝ ΑΘΗΝΩΝ
Πρωτότυπος Τίτλος:
Adversarial Attacks and Defences: Threats and Prospects Analysis
Γλώσσες εργασίας:
Αγγλικά
Ελληνικά
Μεταφρασμένος τίτλος:
Επιθέσεις και Άμυνες χρησιμοποιώντας Adversarial Μηχανική Μάθηση: Ανάλυση κινδύνων και Προοπτικών
Περίληψη:
Ως χρήστες στη νέα εποχή των δεδομένων, η πλειονότητα των νέων τεχνολογιών που χρη-
σιμοποιούμε στην καθημερινότητα μας, βασίζονται σε εξαιρετικά σύνθετα μοντέλα μηχανι-
κής μάθησης. Οι καινοτόμες τεχνολογίες και τα δίκτυα αιχμής που παλαιότερα θεωρούνταν
ασφαλή και αποτελεσματικά, φαίνεται να είναι ασταθή σε μικρές και συνάμα δυναμικές,
διαταραχές. Παρά το γεγονός αυτό, δεν έχουν προταθεί αποτελεσματικές μέθοδοι που να
υπολογίζουν με ακρίβεια την ευρωστία των προηγμένων νευρωνικών δικτύων, υπό την
απειλή τέτοιων διαταραχών. Ως αποτέλεσμα, κακόβουλοι προγραμματιστές, θα μπορού-
σαν με την παραγωγή πλαστών (adversarial) δεδομένων να ξεγελάσουν το μοντέλο για
να κάνει λανθασμένες προβλέψεις ή να αποκαλύψουν ευαίσθητες πληροφορίες υπο την
άγνοια μας.
Η (adversarial) μηχανική μάθηση είναι η μελέτη των επιθέσεων σε αλγόριθμους μηχανικής
μάθησης και των αμυνών έναντι τέτοιων επιθέσεων. Μια πρόσφατη έρευνα αποκαλύπτει
το γεγονός ότι οι επαγγελματίες αναφέρουν την απόλυτη ανάγκη για καλύτερη προστασία
των συστημάτων μηχανικής μάθησης σε βιομηχανικές εφαρμογές. Σε αυτή την πτυχιακή
μελετήσαμε επιθέσεις που είναι πιο πιθανό να ξεγελάσουν από καθημερινούς χρήστες
έως μεγάλες εταιρείες λόγω του πολύ ρεαλιστικού αποτελέσματος που δημιουργούν και
της δυσκολίας να εντοπιστεί το σφάλμα εάν κάποιος δεν είναι εξοικειωμένος με τα δεδο-
μένα. Αναλογιστείτε τα έξυπνα - αυτοματοποιημένα αυτοκίνητα. Ο καθημερινός οδηγός
εμπιστεύεται τους πωλητές ότι έχουν προγραμματίσει καλά το αυτοκίνητο, ώστε όταν βρί-
σκεται σε αυτόματο πιλότο, να ξέρει πώς να αναλύει τα σήματα στο δρόμο και να ξέρει
πότε να ξεκινήσει, να σταματήσει, να φύγει. Τι συμβαίνει όμως όταν ένας κακόβουλος προ-
γραμματιστής εφαρμόζει μια επίθεση στη βάση δεδομένων του εν λόγω αυτοκινήτου και
αλλάζει την σημασία του συμβολου STOP σε GO έτσι ώστε να μπερδέψει τον υπολογιστή
του αυτοκινήτου; Στην πραγματικότητα, πολύ μικρές και συχνά ανεπαίσθητες διαταραχές
των δειγμάτων δεδομένων επαρκούν για να παραπλανηθούν οι ταξινομητές τελευταίας
τεχνολογίας και να οδηγήσουν σε εσφαλμένη ταξινόμηση. Αφού λοιπόν ληφθούν υπόψη
τα πρόσφατα ανακαλυφθέντα κενά των Νευρωνικών Δικτύων σχετικά με τις διαταραχές
θορύβου, τι χρειάζεται για να δημιουργηθεί μια καλά δομημένη επίθεση που θα μείωνε
την εμπιστοσύνη των μοντέλων; Είναι δυνατόν να δημιουργηθούν αμυντικοί μηχανισμοί
που να προστατεύουν τα δίκτυά μας από τέτοιο είδος δυναμικών επιθέσεων;
Στόχος αυτής της διπλωματικής εργασίας είναι να εξετάσει περαιτέρω, να αναλύσει και να
κατανοήσει τον μηχανισμό, τη συλλογιστική πίσω από τις αντίπαλες επιθέσεις κατά μο-
ντέλων μηχανικής μάθησης, καθώς και την αποτελεσματικότητα κάθε επίθεσης στον ίδιο
στόχο, βάση δεδομένων. Επίσης θα παρουσιάσουμε μια υβριδική έκδοση της περίφημης
οριακής επίθεσης, προτείνουν βελτιστοποιήσεις για διαφορετικές στρατηγικές επίθεσης
και αξιολογούν ορισμένους γνωστούς αμυντικούς μηχανισμούς έναντι των εν λόγω επιθέ-
σεων αντιπάλου. Καθ' όλη τη διάρκεια αυτής της πτυχιακής, μια πληθώρα διαγραμμάτων
και πινάκων θα παρασχεθεί στον αναγνώστη, προκειμένου να κατανοήσει την διεξαχθείσα
έρευνα μας, μέσω πειραμάτων.
Κύρια θεματική κατηγορία:
Τεχνολογία – Πληροφορική
Λέξεις-κλειδιά:
Μηχανική Μάθηση, Νευρωνικά Δίκτυα, Θόρυβος, Ταξινόμηση, Προστασία Δεδομένων, Κατηγοροποιηση, Adversarial Επιθεσεις και Άμυνες
Ευρετήριο:
Ναι
Αρ. σελίδων ευρετηρίου:
6
Εικονογραφημένη:
Ναι
Αρ. βιβλιογραφικών αναφορών:
21
Αριθμός σελίδων:
65
Ptixiaki_Aristi_Papastavrou.pdf (2 MB) Άνοιγμα σε νέο παράθυρο