27 May - 2 June
Section outline
- 
                    
- Online Gradient Descent, ανάλυση για convex και strongly convex συναρτήσεις.
 - Stochastic Gradient Descent, ανάλυση με αναγωγή στην ανάλυση της Online Gradient Descent. 
Προτεινόμενη μελέτη: Σύνοψη ανάλυσης σε διαφάνειες, ενότητες 2.1, 2.2, 3, 3.1, 3.3 και 3.4 από Online Convex Optimization. - Ο ρόλος του regularization στη βελτιστοποίηση υποθέσεων στο Machine Learning. 
Προτεινόμενη μελέτη: διαφάνειες Shalev-Shwartz (διαφ. 1-23), και κεφάλαιο 13 από Understanding Machine Learning. - Bandit Convex Optimization and Multi Armed Bandits. 
Προτεινόμενη μελέτη: Διαφάνειες, ενότητες 6.1 και 6.2 από Online Convex Optimization.