3745 Μηχανική Μάθηση

    Μάθημα Επιλογής, Ζ’ εξάμηνο, 6 μονάδες ECTS                                               

    URL: https://eclass.aueb.gr/courses/INF267/

    Διδάσκων: Αναπληρωτής Καθηγητής Θέμος Σταφυλάκης (υπό διορισμό)

    Περιεχόμενο

    Γενικές τεχνικές μάθησης με επίβλεψη και μάθησης χωρίς επίβλεψη. Το πρόβλημα επιλογής μοντέλου και η μέθοδος της δια-αξιολόγησης (cross-validation). Δειγματοληψία και bootstrapping. Εισαγωγή στην πιθανοτική μοντελοποίηση και τις στατιστικές τεχνικές μάθησης. Γραμμικά μοντέλα παλινδρόμησης και κατηγοριοποίησης δεδομένων. Μέθοδοι βελτιστοποίησης και η τεχνική της ανοδικής κλίσης. Μη γραμμικά μοντέλα παλινδρόμησης και κατηγοριοποίησης με την χρήση διανυσμάτων χαρακτηριστικών, ακτινικών συναρτήσεων βάσης και νευρωνικών δικτύων. Περιγραφικές μέθοδοι κατηγοριοποίησης χρησιμοποιώντας κοντινότερους γείτονες και το θεώρημα του Bayes. Μέθοδοι πυρήνων (kernel methods) και μηχανές διανυσμάτων υποστήριξης. Ομαδοποίηση δεδομένων με τον αλγόριθμο των κ-μέσων. Φασματική ομαδοποίηση (spectral clustering). Μίξεις κατανομών και ο αλγόριθμος προσδοκίας-μεγιστοποίησης. Μοντέλα κρυμμένων μεταβλητών για μείωση διάστασης με χρήση ανάλυσης πρωτευόντων συνιστωσών (principal component analysis) και ανάλυσης παραγόντων (factor analysis). Πιθανοτικά γραφικά μοντέλα. Δυναμικά Markov μοντέλα και κρυμμένα μοντέλα Markov.

    Μαθησιακά Αποτελέσματα

    Μετά την επιτυχή ολοκλήρωση του μαθήματος, οι φοιτητές θα είναι σε θέση:

    • Να γνωρίζουν πλήρως τις κλασσικές μεθόδους μηχανικής μάθησης όπως γραμμική παλινδρόμηση, λογιστική παλινδρόμηση, ταξινόμηση Κ-κοντινότερων γειτόνων, ομαδοποίηση δεδομένων και τεχνικές μείωσης διάστασης.
    • Να κατανοούν πιο προηγμένες τεχνικές όπως τα νευρωνικά δίκτυα, τις μηχανές διανυσμάτων υποστήριξης, πιθανοτική μοντελοποίηση με κρυμμένες μεταβλητές και τα πιθανοτικά γραφικά μοντέλα.
    • Να μπορούν να προγραμματίζουν και να εκπαιδεύουν μοντέλα μηχανικής μάθησης στις γλώσσες προγραμματισμού MATLAB και Python χρησιμοποιώντας αλγορίθμους βελτιστοποίησης και να εκτελούν επιλογή μοντέλου με χρήση διασταυρούμενης επικύρωσης.
    • Να γνωρίζουν ένα ευρύ φάσμα από εφαρμογές της μηχανικής μάθησης καθώς και πραγματικά προβλήματα μοντελοποίησης δεδομένων.

    Προαπαιτούμενα Μαθήματα

    Για να εγγραφεί στο μάθημα, ο φοιτητής πρέπει να έχει εξεταστεί επιτυχώς σε προηγούμενο εξάμηνο είτε στο μάθημα «Μαθηματικά ΙΙ» είτε στο μάθημα «Τεχνητή Νοημοσύνη». Όμως, συνιστάται στους φοιτητές να έχουν εξεταστεί επιτυχώς σε προηγούμενο εξάμηνο και στα δύο αυτά μαθήματα καθώς και στα μαθήματα «Πιθανότητες», «Στατιστική στην Πληροφορική», «Θεωρία και Υποδείγματα Βελτιστοποίησης», και τα προγραμματιστικά μαθήματα του τμήματος.

    Συνιστώμενη Βιβλιογραφία

    • Pattern Recognition and Machine Learning, Christopher M. Bishop, Springer, 2006.
    • Bayesian Reasoning and Machine Learning, David Barber, Cambridge University Press, 2012.
    • Deep Learning, Ian Goodfellow and Yoshua Bengio and Aaron Courville, MIT Press, 2016.
    • Machine Learning: a Probabilistic Perspective, Kevin Murphy, MIT Press, 2012.
    • Elements of Statistical Learning by Hastie, Tibshirani and Friedman, Springer, 2009.

    Διδακτικές και Μαθησιακές Μέθοδοι

    Διαλέξεις (2 δίωρες διαλέξεις εβδομαδιαίως), εργαστήρια (1 δίωρο εργαστήριο κάθε δύο εβδομάδες), και δύο ατομικές προγραμματιστικές ομάδες ασκήσεων.

    Μέθοδοι Αξιολόγησης/Βαθμολόγησης

    Ο τελικός βαθμός ισούται με τον βαθμό της τελικής εξέτασης (με άριστα το 6) συν τον βαθμό των προγραμματιστικών ασκήσεων (με άριστα το 4).