סילבוס

תוכן הקורס ומטרתו

למידה עמוקה הינו תת-תחום בלמידת מכונה העוסק ברשתות נוירונים לא לינאריות בעלות מספר שכבות. פריצות דרך משמעותיות בתחום למידת מכונה התאפשרו בשנים האחרונות כתוצאה מחידושים שונים בתחום הלמידה העמוקה. כתוצאה מכך, מודלים מתקדמים של למידה עמוקה נמצאים היום בחזית המחקר בתחומים רבים של למידת מכונה כגון, בעיות רגרסיה, ראיה ממוחשבת, הבנת שפה, ניתוח דיבור, מערכות המלצה ועוד.

מטרת הקורס היא להקנות לסטודנטים הכרות עם מושגי יסוד בתחום הלמידה העמוקה ולאפשר לסטודנטים להתנסות בהפעלת מודלים שונים בפתרון בעיות מגוונות.
השיעורים בכיתה יוקדשו להכרות עם היחידות השונות של הרשת, החיבוריות ביניהם ושיטות אופטימיזציה לאימון הרשת. התרגולים ותרגילי הבית יוקדשו להתנסות ממשית עם רשתות מסוגים שונים. בסיום הקורס הסטודנטים יכירו וידעו להשתמש ברשתות מסוגים שונים לפתרון בעיות מגוונות בתעשייה ובמחקר.


Course Plan:
Intro
Loss Functions
MLP - Multi-layer Perceptron (fully connected)
Backpropagation
Activation Functions
Regularization
CNNs
Pooling
Normalization
Transfer Learning
Babysitting the learning process
Self-supervised learning
RNNs
Word Embeddings and NLP tasks