podstawy uczenia maszynowego

about:

Wykład, ćwiczenia oraz laboratoria prowadzone w semestrze letnim 2019/20.
Prowadzący: Jarosław Miszczak
Wsparcie: Kamil Książek
Wykład: środy, s. 315, laboratorium budownictwa
Laboratorium: wtorki i środy
Zajęcia zdalne: 17-18.03, 24-25.03, 31.03-01.04, 07-08.04, 21-22.04, 28-29.04, 05-06.05, 12-13.05, 19-20.05, 26-27.05
Prezentacje projektów: 02-03.06, 09.06
Dodatkowe materiały z uczenia ze wzmocnieniem: 03.06, 10.06 i 17.06
Dodatkowy tutorial na temat sieci konwolucyjnych: 17.06, godz. 15, Zoom
Karta przedmiotu

news:

28/02/2020 - Dodany pierwszy wykład.
04/03/2020 - Drugi wykład i ćwiczenia.
11/03/2020 - Trzeci wykład i przykładowy kod.
18/03/2020 - Pierwsze materiały do zajęć zdalnych.
25/03/2020 - Wykład zdalny Od regresji do klasyfikacji.
01/04/2020 - Ćwiczenia z funkcji logistycznej oraz wykład Maszyny wektorów wspierających (I).
08/04/2020 - Wykład zdalny Maszyny wektorów wspierających (II).
15/04/2020 - Przerwa świąteczna.
22/04/2020 - Wykład zdalny Drzewa decyzyjne.
29/04/2020 - Wykład zdalny Zespoły klasyfikatorów i lasy losowe.
05/05/2020 - Dodany wykład Bayesowskie podejście do klasyfikacji.
10/05/2020 - Dodane ćwiczenia do wykładów 07, 08 i 09.
20/05/2020 - Dodany wykład zdalny Analiza skupień.
27/05/2020 - Wykład zdalny Redukcja wymiarowości.
03/06/2020 - Pierwszy wykład z uczenia ze wzmocnieniem, przygotowany gościnnie przez Mateusza Ostaszewskiego i Wojciecha Masarczyka.
10/06/2020 - Drugi wykład z uczenia ze wzmocnieniem.
17/06/2020 - Przykłady do wykładu z uczenia ze wzmocnieniem.

wykłady:

Materiały z wykładu mogą być rozpowszechniane zgodnie z zasadami licencji CC BY-NC-SA 3.0 PL.

Wykład 01 – Wprowadzenie (26/02/2020)
Wykład 02 – Modele i dane (04/03/2020)
Ćwiczenia do wykładów 01 i 02 (04/03/2020)
Wykład 03 – Regresja i regularyzacja (przykłady: pearson-ex.py, normal-equation-ex.py) (11/03/2020)
Ćwiczenia do wykładu 03 (18/03/2020) [zdalnie]
Wykład 04 – Od regresji do klasyfikacji (przykłady: knn-regression-ex.py, lr-classification-ex.py) (25/03/2020) [zdalnie]
Ćwiczenia do wykładu 04 (01/04/2020) [zdalnie]
Wykład 05 – Maszyny wektorów wspierających (I) (przykład: svm-iris-sv-ex.py) (01/04/2020) [zdalnie]
Wykład 06 – Maszyny wektorów wspierających (II) (przykład: svm-moons-ex.py) (08/04/2020) [zdalnie]
Wykład 07 – Drzewa decyzyjne (przykłady: dt-iris-ex.py, dt-svm-iris-ex.py) (22/04/2020) [zdalnie]
Wykład 08 – Zespoły klasyfikatorów i lasy losowe (przykład: ens-moons-ex.py) (29/04/2020) [zdalnie]
Wykład 09 – Bayesowskie podejście do klasyfikacji (06/05/2020) [zdalnie]
Ćwiczenia do wykładów 07 i 08 (13/05/2020) [zdalnie]
Ćwiczenia do wykładu 09 (13/05/2020) [zdalnie]
Wykład 10 – Analiza skupień (przykład: clustering-moons-ex.py) (20/05/2020) [zdalnie]
Wykład 11 – Redukcja wymiarowości (27/05/2020) [zdalnie]
Wykład 12 – Uczenie się ze wzmocnieniem (I) (03/06/2020) [zdalnie]
Wykład 13 – Uczenie się ze wzmocnieniem (II) (10/06/2020) [zdalnie]
Przykład zastosowania uczenia ze wzmocnieniem do gry Frozen Lake.
- Notebooki z implementacją algorytmy Q-learnging (frozen-lake-q-learn.ipynb) oraz DQN (frozen-lake-dqn.ipynb).
- Wizualizacja algorytmu Q-learning (frozen-lake-demo.py) wraz z opisem (frozen-lake-demo.pdf).

Kilka wykładów o podobnej tematyce:

Jarosław Żygierewicz, Uczenie maszynowe i sztuczne sieci neuronowe, Zakład Fizyki Biomedycznej, Wydział Fizyki, Uniwersytet Warszawski, 2018/2019 oraz 2019/2020.
Szymon Bobek, Machine learning, Katedra Automatyki i Robotyki, Akademia Górniczo-Hutnicza w Krakowie, 2019.
Piotr Szwed, Metody Eksploracji Danych, Katedra Informatyki Stosowanej, Akademia Górniczo-Hutnicza w Krakowie, 2020.
Jerzy Stefanowski, Uczenie maszynowe i sieci neuronowe, Instytut Informatyki, Politechnika Poznańska.
Paweł Cichosz, Uczenie się maszyn, Wydział Elektroniki i Technik Informacyjnych, Politechnika Warszawska, 1997/1998.
Wodzisław Duch, Inteligencja Obliczeniowa, Wydział Fizyki, Astronomii i Informatyki Stosowanej, Uniwersytet Mikołaja Kopernika, 2009.
Marcin Szczuka, Narzędzia Matematyczne W Eksploracji Danych, Wydział Matematyki, Informatyki i Mechaniki, Uniwersytet Warszawski.
Agnieszka Nowak-Brzezińska, Sztuczna Inteligencja, Wydział Informatyki i Nauki o Materiałach, Uniwersytet Śląski, 2011.
Philippe Rigollet, Mathematics of Machine Learning, MIT, 2015.
Laura Kallmeyer, Machine Learning for NLP, Department of Computational Linguistics, Heinrich-Heine-Universität Düsseldorf, 2016.
Dan Jurafsky, From Languages to Information, Stanford University, 2020.
Urszula Libal, Algorytmy rozpoznawania obrazów, Politechnika Wrocławska, 2016.
Gilbert Strang, 18.065 Matrix Methods in Data Analysis, Signal Processing, and Machine Learning, Massachusetts Institute of Technology, 2018.

Materiały dodatkowe:

Materiały na kanale StatQuest with Josh Starmer (https://statquest.org/)
- Seria dotycząca SVM
- Seria dotycząca drzew decyzyjnych i lasów losowych
- Seria dotycząca klasyfikacji Bayesa
  - Live 2020-03-16!!! Naive Bayes
  - Live 2020-04-06!!! Naive Bayes: Gaussian
- Klasteryzacja
  - StatQuest: K-means clustering
  - StatQuest: Hierarchical Clustering
- PCA (Principal Component Analysis)
  - StatQuest: Principal Component Analysis (PCA), Step-by-Step
  - StatQuest: PCA - Practical Tips
Materiały dotyczące uczenia ze wzmocnieniem.

main page