Μηχανική Μάθηση – Machine Learning (ΜΥΕ002)

Προπτυχιακό Μάθημα – Ακαδημαϊκό έτος 2023-24

Τμήμα Μηχανικών Η/Υ & Πληροφορικής , Πανεπιστήμιο Ιωαννίνων

Διδάσκων: Κωνσταντίνος Δ. Μπλέκας, Καθηγητής

email: kblekas[at]cse.uoi.gr

---

Ώρες διδασκαλίας: Τρίτη 09.00-12.00 (αίθουσα Ι2)

e-course: https://ecourse.uoi.gr/course/view.php?id=3270

Ms-Teams: ΜΗΧΑΝΙΚΗ ΜΑΘΗΣΗ - ΠΡΟΠΤΥΧΙΑΚΟ 2024 (team code: sn9uvhm)

Ύλη του μαθήματος

Εισαγωγή,

• Εισαγωγικές έννοιες και προβλήματα της Μηχανικής Μάθησης
• Εφαρμογές Μηχανικής Μάθησης
• Είδη μάθησης
• Γενίκευση και Υπερεκπαίδευση (overfitting)
• Δεδομένα και βασικά εργαλεία ανάλυσης

Επιβλεπόμενη Μάθηση (Supervised Learning)

• Γραμμική παλινδρόμηση (linear regression) και επεκτάσεις

• Μέθοδοι ταξινόμησης (classification)
• Ταξινόμηση με τον κανόνα του κοντινότερου γείτονα (Nearest neighbor classifiers).
• Δέντρα αποφάσεων (Decision Trees)

• Γραμμικοί ταξινομητές (linear classifiers), ο αλγόριθμος Perceptron.
• Νευρωνικά δίκτυα (Neural Networks)
• Μηχανές διανυσμάτων υποστήριξης (Support Vector Machines - SVMs).

• Στατιστική ταξινόμηση (Statistical Classifiers)
• Μπεϋζιανοί ταξινομητές. (Bayesian classifiers)
• Λογιστική πανλινδρόμηση (Logistic regression)

• Βαθιά Μάθηση (Deep Learning)
• Συναρτήσεις ενεργοποίησης (activation functions)
• Αλγόριθμοι μάθησης (Training algorithms)
• Συνελικτικά Νευρωνικά Δίκτυα (Convolution Neural Networks)
• Επαναληπτικά Δίκτυα – LSTMs
• Προεκπαιδευμένα επίπεδα – Pretrained layers

• Μέθοδοι πολλαπλών ταξινομητών (Ensemble Classifiers)
• Random Forests,
• Μέθοδοι Bagging, Boosting, Stacking

Μη επιβλεπόμενη Μάθηση (Unsupervised Learning)

• Ομαδοποίηση δεδομένων (Data Clustering)
• Ο αλγόριθμος των Κ-μέσων (K-means clustering)
• Επεκτάσεις: kernel k-means, fuzzy c-means
• Ιεραρχική ομαδοποίηση (Hierarchical Clustering)
• Ο αλγόριθμος DBSCAN
• Φασματική Ομαδοποίηση (Spectral clustering)
• Στατιστική ομαδοποίηση με μικτά παραμετρικά μοντέλα κατανομών (Mixture models) και ο αλγόριθμος EM (Expectation – Maximization)

• Μέθοδοι εκτίμησης της κατανομής από δειγματικό πληθυσμό (Density estimation)
• Μη-παραμετρικές μέθοδοι: Ιστογράμματα, Parzen windows
• Παραμετρικές μέθοδοι εκτίμησης:
• Εκτίμηση μεγίστης πιθανοφάνειας. (Maximum Likelihood estimation)
• Εκτίμηση εκ των υστέρων πιθανότητας (Maximum A – Posteriori estimation)
• Εκτίμηση κατανομής με Νευρωνικά Δίκτυα

Μείωση Διάστασης Δεδομένων (Dimensionality Reduction)

• H μέθοδος PCA ανάλυσης πρωτευουσών συνιστωσών,
• Η μέθοδος ICA ανάλυσης ανεξάρτητων συνιστωσών,
• Η μέθοδος LDA γραμμικής διακριτικής ανάλυσης.
• Μείωση διάστασης με Νευρωνικά Δίκτυα – Autoencoders – Latent spaces
• Επιλογή χαρακτηριστικών (Feature selection).

Ενισχυτική Μάθηση (Reinforcement Learning)

· Μαρκοβιανές Αλυσίδες Απόφασης (Markov Decision Processes – MDPs)

· Εξισώσεις Bellman

· Είδη ευφυών πρακτόρων (Intelligent Agents)

· TD (Temporal Difference) Learning

· Βαθιά ενισχυτική μάθηση (Deep Reinforcement Learning)

Συγγράματα

Κ. Διαμαντάρας, Δ. Μπότσης Μηχανική Μάθηση. . Εκδόσεις Κλειδάριθμος, 2019

Christopher M. Bishop. Αναγνώριση Προτύπων και Μηχανική Μάθηση, 2^η έκδοση. (μετάφραση), Εκδόσεις Γ. Φουντάς.