Μάθημα : ΜΗ0119 - Βαθιά Μάθηση

Το μάθημα "Βαθιά Μάθηση" προσφέρει μια συστηματική εισαγωγή στο αντικείμενο των βαθιών νευρωνικών δικτύων, απευθυνόμενο σε φοιτητές που έχουν ήδη κατακτήσει τις βασικές αρχές της Μηχανικής Μάθησης. Εξετάζοντας την εξέλιξη από τα κλασικά νευρωνικά μοντέλα προς τις σύγχρονες βαθιές αρχιτεκτονικές, το μάθημα ξεκινά με μια συνοπτική επανάληψη κρίσιμων εννοιών όπως η ταξινόμηση, η παλινδρόμηση και η συσταδοποίηση, καθώς και οι θεμελιώδεις αρχές των νευρωνικών δικτύων (μονοστρωματικά δίκτυα, συναρτήσεις κόστους και αλγόριθμος οπισθοδιάδοσης).

Στη συνέχεια το μάθημα εστιάζει αποκλειστικά στις αρχιτεκτονικές, τις τεχνικές εκπαίδευσης και τις εφαρμογές βαθιών δικτύων. Αναλύονται λεπτομερώς συνελικτικά νευρωνικά δίκτυα (CNNs) για επεξεργασία εικόνας, αναδρομικά δίκτυα (RNNs) και δίκτυα μνήμης βραχυπρόθεσμης μακροπρόθεσμης διάρκειας (LSTMs) για ακολουθιακά δεδομένα, καθώς και μετασχηματιστές (Transformers) για επεξεργασία φυσικής γλώσσας. Καλύπτονται επίσης παραγωγικά (Generative) μοντέλα όπως GANs και Diffusion Models, καθώς και μοντέλα μάθησης χωρίς επίβλεψη (Αυτοκωδικοποιητές/Autoencoders). Το μάθημα καλύπτει γενικά ζητήματα εκπαίδευσης νευρωνικών δικτύων, όπως τεχνικές κανονικοποίησης, βελτιστοποίησης και αντιμετώπισης του φαινομένου της υπερεκπαίδευσης, ενώ παρέχονται και πρακτικά παραδείγματα σε PyTorch.