שיעור #1 – מודלים ג’נרטיביים המלל

מודלים דיסקרימנטיביים כמו קלאסיפיקציה או רגרסיה מוציאים פלט על בסיס קלט נתון. להבדיל, מודלים ג’נרטיביים מוציאים פלט שהינו דגימות לפי התפלגות כלשהיא שמאפיינת database כלשהוא.

database ז”א מאגר נתונים לאו דווקא מתויג (unsupervised data) יכול להיות למשל אוסף תמונות מבלי שיש רשימות שאומרות מה יש בכל תמונה כמו שנדרש בבעיית הקלאסיפיקציה שהינה בעיית supervised learning.

אם כן לדוגמה נאמן מודל ג’נרטיבי על אוסף תמונות לא מתויגות של זברות, ומטרתו המודל (הרשת) “להבין” באופן מפורש או לא מפורש את ההתפלגות של ה database או במילים אחרות איך אמורה להראות זברה. וליצור\לג’נרט\לחולל תמונות נוספות של זברות מבלי להעתיק מהמאגר הנתון, ז”א ליצור תמונות חדשות יש מאין.

מודלים ג’נרטיביים מחלקים לכאלו שגם יודעים להוציא באופן מפורש את פונקצית הפילוג של ה dataset הנתון ולכאלו שלא יודעים להוציא באופן מפורש אך עדיין יודעים לחולל דגימות שתואמות לאותה התפלגות.

שתיים מהגישות שצברו פופולאריות בעיקר כי הן מבוססות Convolutional Nueral Network הינן GAN=Generative Adversarial Network ו .VAE=Variational Auto Encoders

בשעורים אלו זה נדבר על GAN שהחל במאמר ב 2014 ונהיה תחום מחקר ופיתוח פורה עם מגוון תוצאות מדהימות שחלקן עוברים את מבחן טיורינג יותר וחלקן פחות. (לעבור את מבחן טיורינג ז”א שבן אנוש לא ידע להבדיל אם מדובר בתוצאה אנושית או מלאכותית)

למשל נראה את הסרטון הזה שמדגים איך אלגוריתם למד לצייר בתים.

בהתחלה ניתן לראות שהרשת מציירת כל מיני ציורים אקראיים וחסרי משמעות, אך לאט לאט ככל שהאימון מתקדם משתפרת ומציירת ציורים שקצת יותר נראים כציורים, ועד שכבר מתחילים לזהות שמדובר בציורים של בתים, שגם הם משתפרים ונהיים כבר ציורים מוצלחים של בתים.

מדהים לא ?

חזור לוידאו