לעיתים רבות עולה הצורך במיזוג התחזיות של מס׳ מודלים לכדי תחזית אחת. כאשר יש בידינו דוגמאות מתויגות, ניתן למזג את התחזיות ע״י מתן משקל לכל תחזית באופן שמשקף את הדיוק של המודל (מודלים מדויקים יותר יקבלו משקל גדול יותר).
אולם, במגוון רב של מקרים, לא קיימת גישה לדוגמאות מתויגות, ולכן לא ניתן להעריך את מידת הדיוק של כל מודל באופן ישיר מהנתונים. בנוסף, אסטרטגיות כגון מיצוע פשוט, או חישוב חציון של התחזיות הוא אינם אופטימלים כיוון שהם מניחים באופן סמוי שרמת הדיוק של המודלים השונים זהה. בעבודה זו, אנחנו מתמקדים בבעיית הרגרסיה, בה המודלים השונים נדרשים כולם לחזות משתנה רציף. קונקרטית, אנו מציגים גישה, בשם, U-PCR, שמאפשרת מיזוג של התחזיות של המודלים השונים, ואינה מצריכה גישה לדוגמאות מתויגות. הגישה נשענת על ניתוח של מטריצת הקורלציות של המודלים השונים, ומאפשרת שיערוך של מידת הדיוק של כל מודל, ולכן גם את דירוגם. התוצאה של השיטה שאנו מציעים היא דרך לאחד את התחזיות של כלל המודלים, באופן שהוא מדוייק יותר מהתחזית של כל מודל כשלעצמו, וכן מדוייק יותר בהשוואה לשיטות סטנדרטיות כגון מיצוע או חציון. אנו מדגימים זאת במס׳ אפליקציות ולבסוף מציעים הרחבה של השיטה גם לבעיות סיווג, בהן המשתנה התלוי הוא קטגוריאלי.
ד"ר יניב טנצר, מטא
Yaniv Tenzer is a senior researcher and growth expert at Meta. Before Joining Meta he founded Lightricks data-science department, and served as the head of the department between 2017-2021.
He completed his Ph.D. at the department of statistics and data-science, the Hebrew U., where his research focused on the representation of high-dimensional distributions and inference algorithms in probabilistic graphical models (e.g., Bayesian/Markovian networks). Upon completing his Ph.D. he continued for a postdoc position at the Weizmann Institute, department of computer-science, where he was hosted by prof. Boaz Nadler. During the postdoc he focused on ensemble learning strategies where the goal is to aggregate the predictions of multiple experts.
Finally Yaniv is also a lecturer at Bar-Ilan University, where he teaches several data-science courses at the faculty of engineering and mathematics.