Στοιχεία επιβλεπόντων καθηγητών:
Σέργιος Θεοδωρίδης Καθηγητής Τμήματος Πληροφορικής και Τηλεπικοινωνιών ΕΚΠΑ
Περίληψη:
Οι εφαρμογές αλγορίθμων μηχανικής μάθησης σε κλασικά προβλήματα της θεωρίας Επεξεργασίας Σήματος αποτελεί μια περιοχή με τεράστιο ερευνητικό ενδιαφέρον στις σημερινές ημέρες. Στην εποχή των "Big Data", η αναπαράσταση των τεράστιων όγκων δεδομένων με συναρτήσεις λίγων μεταβλητών αποτελεί μία μεγάλη πρόκληση για τους επιστήμονες της πληροφορικής και των μαθηματικών. Θέτοντας το θέμα στη γεωμετρική του σκοπιά, στόχος είναι η αναπαράσταση των δεδομένων από έναν χώρο πολλών διαστάσεων σε έναν χώρο με λίγες διαστάσεις χωρίς να χαθεί σημαντική ποσότητα πληροφορίας. Η εν λόγω διαδικασία, γνωστή ως μείωση της διάστασης (dimensionality reduction), αποτελεί εκ φύσεως ένα δύσκολο πρόβλημα.
Όσο και αν φαίνεται περίεργο, οι νόμοι της φύσης τείνουν να εφαρμοστούν ακόμη και στην επεξεργασία μεγάλων όγκων δεδομένων. Η φύση είναι "φειδωλή", απορρίπτει τα περιττά στοιχεία και διατηρεί τα απολύτως αναγκαία. Επιστρέφοντας στον κόσμο των μαθηματικών και της πληροφορικής, το μαθηματικό εργαλείο που εκφράζει αυτή τη "λιτότητα" της φύσης είναι η αραιότητα (sparsity). Η έκφραση μιας μεγάλης ποσότητας δεδομένων με τη βοήθεια διανυσμάτων με λίγους συντελεστές και πολλά μηδενικά καθώς και με τη βοήθεια κατάλληλων μητρώων έχει προσελκύσει έντονο ερευνητικό ενδιαφέρον. Η "αραιή" έκφραση των δεδομένων αποκαλύπτει συγκεκριμένα μοτίβα στα δεδομένα τα οποία είναι δύσκολο να αποκαλυφθούν με κλασικούς αλγορίθμους συσχέτισης. Η αραιότητα δείχνει ότι σύνολα δεδομένων που φαίνονται εντελώς τυχαία, κρύβουν σχέσεις συσχέτισης.
Αυτό που επίσης είναι εντυπωσιακό, είναι ότι μπορούμε να εκμεταλλευτούμε αυτή την παρουσία αραιών μορφών προκειμένου να απορρίψουμε τα ανεπιθύμητα δεδομένα που συνιστούν την έννοια του θορύβου. Ο θόρυβος ενυπάρχει σε όλα τα προβλήματα του πραγματικού κόσμου. Η ανίχνευση και η απόρριψή του αποτελεί ένα αντίστροφο πρόβλημα που είναι αδύνατο να λυθεί με ακρίβεια. Εντούτοις, η ύπαρξη αραιών μοντέλων για την έκφραση συνόλων δεδομένων μπορεί να απορρίψει με τη χρήση κατάλληλων αλγορίθμων τη μεγαλύτερη ποσότητα θορύβου.
Η μηχανική μάθηση, από την άλλη πλευρά, συνίσταται σε αλγορίθμους που "εκπαιδεύουν" ένα σύστημα να εκτελέσει συγκεκριμένες διαδικασίες ανάλογα με τις παραμέτρους του προβλήματος. Υπό αυτό το πρίσμα, η αραιή έκφραση ενός συνόλου δεδομένων μπορεί να γίνει πιο αποτελεσματική αν το μητρώο που θα χρησιμοποιηθεί ως βάση για την αναπαράσταση των δεδομένων προσαρμοστεί στα ίδια τα δεδομένα με τη βοήθεια αλγορίθμων μηχανικής μάθησης. Η τεχνική αυτή, γνωστή ως εκμάθηση λεξικού (dictionary learning) αποτελεί ένα βήμα πιο μακριά στους αλγορίθμους επίλυσης αντίστροφων προβλημάτων.
Στην παρούσα εργασία, μελετάται η εφαρμογή ενός από τους διαδεδομένους αλγορίθμους εκμάθησης λεξικού, του k-SVD, στην αποθορυβοποίηση σήματος ψηφιακής εικόνας για διάφορα είδη θορύβου. Ο συνδυασμός του αλγορίθμου k-SVD καθώς και αλγορίθμων αναπαράστασης σήματος σε αραιή μορφή, μπορεί να πετύχει, κατά περίπτωση, αρκετά ικανοποιητικά αποτελέσματα. Η εφαρμογή των αλγορίθμων πάνω σε ψηφιακές εικόνες, γίνεται για καθαρά λόγους οπτικοποίησης των αποτελεσμάτων. Συνεπώς, μπορούν να εφαρμοστούν για την αποθορυβοποίηση οποιουδήποτε σήματος κάτω από την κατάλληλη επιλογή παραμέτρων.
Λέξεις-κλειδιά:
επεξεργασία εικόνας, υπερπλήρη λεξικά, αποθορυβοποίηση, μηχανική μάθηση, αναπαράσταση με αραιά διανύσματα, διάσπαση μητρώων
