2016 Shaul Markovitch גדולים Shaul Markovitch

Size: px

Start display at page:

Download "2016 Shaul Markovitch גדולים Shaul Markovitch"

Amelia Gilbert
6 years ago
Views:

המסלול 2 בעיות המתאימות לחיפוש מקומי בעיות בהן חשוב למצוא מצב מטרה אולם המסלול אינו מענין

1 שאול מרקוביץ, טכניון אלגוריתמים לחיפוש יוריסטי מקומי 1 אלגוריתמי חיפוש מקומי שומרים מצב אחד בזכרון )או מספר מצבים קטן( בכל צעד עוברים לאחד השכנים של המצב הנוכחי בדרך כלל לא שומרים את המסלול 2 בעיות המתאימות לחיפוש מקומי בעיות בהן חשוב למצוא מצב מטרה אולם המסלול אינו מענין בעיות במרחבים עם מקדמי סיעוף גדולים בעיות אופטימיזציה בהן רוצים למצוא מצב מטרה בעל ערך טוב 3

2 מתי המסלול אינו מעניין? כאשר המצב הסופי אינו ידוע או שהמצב הסופי מוגדר ע י תנאי, או שאנו רוצים למצוא מצב בעל ערך מספיק טוב הערך יכול להיות ערך של פונקציה יוריסטית, או ערך שהינו חלק מהגדרת הבעייה בכל המקרים האלה אנחנו מתענינים בדרך כלל במצב, ולא באיך הגענו אליו 4 ערך שהינו חלק מהגדרת הבעייה דוגמא: סטודנט רוצה למצוא מערכת שעות עם מספר קטן ככל האפשר של ימים בהם צריך להגיע לטכניון במקרה כזה הערך הוא מספר הימים בשבוע שהמערכת תופסת ורוצים למזער מספר זה שימו לב שבמקרה כזה לא מעניינת אותנו הדרך בה הגענו למערכת השעות אלא המערכת עצמה 5 הערות במקרה של חיפושים לוקליים אפשר לדון באותה צורה באלגוריתמים שממקסמים ערך ובאלו שמנסים להביאו למינימום לכן בלי הגבלת הכלליות נדבר לפעמים על מציאת מינימום ולפעמים על מציאת מקסימום - אין הדבר משנה. שימו לב שכאן הפונקצייה היוריסטית לא תמיד מנסה לאמוד מרחק אל המטרה אלא מעריכה באופן כללי את טיב המצב. 6

3 מיקסום (או מזעור) של ערך יוריסטי דוגמא: נתון דף טקסט עם K משפטים רוצים לבחור תת קבוצה של >>k K משפטים שיהוו סיכום טוב של הדף היוריסטיקה: מספר מקסימלי של מלים שאינן מלות קישור גם כאן איננו מתענינים בדרך אלא רק בתוצאה 7 בעיית 8 המלכות בעיה: נתונות 8 מלכות. הציבו אותן בלוח שחמט כך שלא יווצר מצב איום של מלכה אחת על מלכה אחרת 8 יצוג בעית המלכות מצב מיוצג ע י שמיניית מספרים האיבר ה- i מציין את השורה של המלכה בטור ה- i (5,6,7,4,5,6,7,6) 9

4 יצוג בעית המלכות (1,6,7,4,5,6,7,6)... 1,1 (8,6,7,4,5,6,7,6) (5,6,7,4,5,6,7,6) 8,8 (5,1,7,4,5,6,7,6)... (5,8,7,4,5,6,7,6)... (5,6,7,4,5,6,7,1)... אופרטור מצוין ע י זוג מספרים. i,j מזיז את המלכה בטור i לשורה.j מקדם הסיעוף הינו 56 (5,6,7,4,5,6,7,8) 10 מדוע לא להשתמש בחיפוש כמו backtracking כפי שזכור לכולנו, בעיית 8 המלכות נפתרה במבוא למדעי המחשב ע י פונקצייה רקורסיבית (שמממשת למעשה (backtracking מדוע לא להשתמש באלגוריתם כזה כאן? מספר העלים בעץ החיפוש לבעיית N מלכות הוא N! כאשר 8=N זה בערך אולם עבור 20 זה בסדר גודל של לשם השוואה - אלגוריתמים לוקליים פותרים את בעיית 3,000,000 המלכות בזמן סביר 11 יוריסטיקה לבעית המלכות מספר זוגות המלכות שנמצאים במצב איום סופרים גם זוגות בהם האיום מוסתר ע י מלכה שלישית h(s)=17 12

Steepest Accent hill-climbing חיפוש החיפוש מתחיל במצב ההתחלתי הנתון בכל שלב מפתחים את כל השכנים בעל הערך הקטן ביותר עבור -

ביותר האלגוריתם עוצר אם הגיע למצב מטרה או אם השכן הטוב ביותר אינו טוב יותר מהמצב הנוכחי 13 SAHC(state) ;Steepest Ascent

{} loop for op in legal-operators(current) new op(current); new-val h(new) if goalp(new) then return(new) if

best-val then best-states best-states {new} if better(h(current),best-val) then return(current) ; local extreme else current

15 12 13 16 13 16 17 15 16 16 16 18 15 15 המספר בכל משבצת מציין את הערך היוריסטי של המצב אם מלכה תוזז למשבצת זו 56 הערכים

5 Steepest Accent hill-climbing חיפוש החיפוש מתחיל במצב ההתחלתי הנתון בכל שלב מפתחים את כל השכנים בעל הערך הקטן ביותר עבור - בוחרים את השכן הטוב ביותר בעיות מינימיזציה או הגדול ביותר עבור בעיות מקסימיזציה בוחרים ביניהם אקראית, אם יש כמה שכנים טובים ביותר האלגוריתם עוצר אם הגיע למצב מטרה או אם השכן הטוב ביותר אינו טוב יותר מהמצב הנוכחי 13 SAHC(state) ;Steepest Ascent Hill-Climbing current state loop until resources exhausted best-val worst-value; if maximizing, minus infinity best-states {} loop for op in legal-operators(current) new op(current); new-val h(new) if goalp(new) then return(new) if better(new-val,best-val) ; if maximizing, new-val > best-val then best-val new-val; best-states {new} elseif new-val = best-val then best-states best-states {new} if better(h(current),best-val) then return(current) ; local extreme else current select-random(best-states) return(current) ערכים יוריסטיים של המצבים השכנים המספר בכל משבצת מציין את הערך היוריסטי של המצב אם מלכה תוזז למשבצת זו 56 הערכים היוריסטיים של המצבים השכנים 12 הערך הטוב ביותר הינו בד כ בוחר צעד SAHC אקראי מתוך קבוצת הצעדים הטובים ביותר (5,6,7,4,5,6,7,6) 15

2015 Shaul Markovitch הטופוגרפיה של פונקציית הערך מקסימום גלובלי מקסימום לוקלי 16 objective function global maximum shoulder local maximum flat local maximum current state state space איך יעבוד SAHC

6 2015 Shaul Markovitch הטופוגרפיה של פונקציית הערך מקסימום גלובלי מקסימום לוקלי 16 objective function global maximum shoulder local maximum flat local maximum current state state space איך יעבוד SAHC על בעיית 8 המלכות? 86% Success % Failure אלגוריתם חיפוש: SAHC יוריסטיקה: מספר איומים מצב התחלתי: אקראי 1000 הרצות אחוז הצלחה: % (השאר נתקעים במינימום מקומי) מהירות ממוצעת: 223 קריאות לפונקציה היוריסטית 18

7 0 התרת צעדים הצידה לפעמים הטיפוס לכיוון המקסימום הגלובלי נתקע בגלל כתף כתף הינה קבוצת מצבים סמוכים בעלי ערך זהה כך שמחלקם ניתן להמשיך לטפס כדי לאפשר התגברות על כתף מתירים התקדמות גם למצבים בעלי אותו ערך כמו המצב הנוכחי כדי למנוע הסתובבות במעגל על הכתף או התקעות על רמה, כלומר מקסימום לוקלי שטוח, מגבילים בדרך כלל את מספרים הצעדים הרצופים הצידה 19 SAHC-sideways(state) ;allow sideways current state; sideways 0 loop until resources exhausted best-val - ; best-states nil loop for op in legal-operators(current) new op(current); new-val h(new) if goalp(new) then return(new) if new-val > best-val then best-val new-val; best-states {new} elseif new-val = best-val then best-states best-states {new} if best-val > h(current) then current select-random(best-states); sideways 0 elseif best-val = h(current) AND sideways limit then current select-random(best-states); sideways sideways + 1 else ; h(current) better than best-val or no more sideways return(current) return(current) מכאן ואילך נניח לשם הפשטות שאנחנו מנסים למקסם ערך 20 Estimated probability of success as a function of allowed sideway moves Estimated probability of success Each point represents 1000 runs of SAHC with allowed sideway moves on random 8-ueen configurations using the number-of-attacks heuristic Limit on number of sideway moves 21

8 0 Heuristic evaluations as a function of allowed sideway moves 1,500 Average number of heuristic evaluations 1,350 1,200 1, Each point represents 1000 runs of SAHC with allowed sideway moves on random 8-ueen configurations using the number-of-attacks heuristic Limit on number of sideway moves 22 Stochastic hill-climbing אלגוריתם SAHC הוא אלגוריתם חמדן - בוחר תמיד את הצעד התלול ביותר אלגוריתם Stochastic hill-climbing מוכן גם לצעוד בכיווני שיפור שאינם התלולים ביותר האלגוריתם בוחר אקראית מבין הצעדים המשפרים עם הסתברות פרופורציונית לעצמת השיפור 23 Stochastic-hill-climbing(state) current state; current-val h(state) loop until resources exhausted improving-moves {} loop for op in legal-operators(current) new op(current); new-val h(new) if goalp(new) then return(new) V new-val - current-val if V > 0 then ; recall we assume maximization improving-moves improving-moves {(new, V )} if improving-moves={} then return(current) current Sellect new i with probability current-val h(current) return(current) 24

9 First-choice hill-climbing ישנם תחומים בהם מקדם הסיעוף הינו גדול מאוד (כמה אלפים או עשרות אלפים) שימוש באלגוריתמים הקודמים מחייב אלפי הפעלות אופרטורים ואלפי חישובי יוריסטיקה על כל צעד בתחומים כאלה מעדיפים אלגוריתם שמגריל אופרטורים ומנסה אותם עד אשר מושגת התקדמות 25 First-choice-stochastic-hill-climbing(state) current state loop until resources exhausted improved false ops legal-operators(current) loop for op in random-mix(ops) until improved new op(current) if goalp(new) then return(new) if h(new) > h(current) then improved true; current new if not improved then return(current) return(current) 26 Simulated-annealing האלגוריתמים הקודמים התעקשו לבחור רק צעד משפר או לא מזיק אסטרטגיה כזו תביא להיתקעות במינימום מקומי אלגוריתם Simulated-annealing מתיר צעדים בכיוון למעלה (כאלה שמרעים את הערך היוריסטי) ההסתברות לבחירת צעדים כאלה יורדת ככל שמתקדם החיפוש 27

קביעת ההסתברות לצעדים עולים ההסתברות לבחירת צעד עולה יורדת ככל שהחיפוש מתקדם ההסתברות נקבעת ע י פרמטר הנקרא טמפרטורה האלגוריתם מתחיל עם טמפרטורה גבוהה ומוריד אותה בהדרגה ישנן הרבה עבודות על

random-selection(legal-operators(current)) new op(current); new-val h(new) if goalp(new) then return(new) V new-val - current-val if V > 0 OR FlipCoin(e - V /T )=TRUE טמפרטורה גבוהה מגדילה

10 קביעת ההסתברות לצעדים עולים ההסתברות לבחירת צעד עולה יורדת ככל שהחיפוש מתקדם ההסתברות נקבעת ע י פרמטר הנקרא טמפרטורה האלגוריתם מתחיל עם טמפרטורה גבוהה ומוריד אותה בהדרגה ישנן הרבה עבודות על קביעת הערך ההתחלתי של הטמפטורה והדרך להוריד אותה 28 Simulated-annealing(state) current state; current-val h(state); T T0 loop until resources exhausted op random-selection(legal-operators(current)) new op(current); new-val h(new) if goalp(new) then return(new) V new-val - current-val if V > 0 OR FlipCoin(e - V /T )=TRUE טמפרטורה גבוהה מגדילה הסיכוי לצעד מנוגד ; הרעה גדולה מקטינה הסיכוי לצעד מנוגד ; then current new; current-val new-val; T 0.95*T ; This is only a simple schedule example return(current) 29 T הסיכוי לצעד מנוגד לכיוון עבור הפרש שלילי של 2 כפונקציה של הטמפרטורה 30

11 הסיכוי לצעד מנוגד לכיוון עבור טמפרטורה 10 כפונקציה של ההפרש 31 קצב ירידת הטמפרטורה עבור T=0.95T עם טמפרטורה התחלתית של " 100" 80" 60" 40" 20" 0" 0" 20" 40" 60" 80" 100" 120" 32 החלצות ממקסימום מקומי עד כה הנחנו שאלגוריתם החיפוש נעצר כשהוא מגיע למקסימום לוקלי במקום זאת ניתן להמשיך את החיפוש ממצב אחר יש טכניקות רבות להיחלצות ממקסימום לוקלי הטכניקה הפשוטה ביותר היא ע י קפיצה אקראית למצב אחר במרחב טכניקות נוספות: סדרת פעולות אקראית, שימוש באלגוריתם העמקה הדרגתית ועוד רבות 33

12 0 Random-restart hill climbing שיטה המניחה שיש ברשותנו אלגוריתם המחזיר מצב אקראי במרחב השיטה מפעילה את SAHC באופן איטרטיבי כאשר חיפוש ה- SAHC נתקע, החיפוש מתחיל מחדש ממצב התחלתי חדש המיוצר אקראית 34 Random-restart hill climbing 35 Estimated probability of success as a function of allowed sideway moves With restarts Probability of success Without restarts Each point represents 1000 runs of SAHC with allowed sideway moves on random 8-ueen configurations using the number-of-attacks heuristic Limit on number of sideway moves 36

13 Heuristic evaluations as a function of allowed sideway moves No Restarts Restarts 2,000 Average heuristic evaluations 1,800 1,600 1,400 1,200 1, Each point represents 1000 runs of SAHC with allowed sideway moves on random 8-ueen configurations using the number-of-attacks heuristic Limit on number of sideway moves 37 Number of restarts as a function of allowed sideway moves 7.0 Average number of restarts Each point represents 1000 runs of SAHC with allowed sideway moves on random 8-ueen configurations using the number-of-attacks heuristic Limit on number of sideway moves 38 Local Beam Search K=3 אבל כאן לא מתענינים במסלול - דומה לחיפוש אלומה רגיל אבל יש תלות בין החיפושים המקבילים - כמו חיפוש מקומי במקביל יתכן שבאיטרציה הבאה מעבד יעבור לעבוד על ילד של השכן מכיוון שהוא מבטיח יותר 2015 Shaul Markovitch 39

14 Beam-SAHC() ;Steepest ascent hill-climbing NewBeam [K random states] loop until resources exhausted Beam NewBeam; NewBeam [] loop for s in Beam loop for op in legal-operators(s) new op(s); if goalp(new) then return(new) if NewBeam < K then Insert(new,NewBeam) else if h(new) > h(last(newbeam)) then Remove last element of NewBeam Insert new into NewBeam ; Sorted such that best state is first 40 חיפוש אלומה מקומי סטוכסטי בעיה עם חיפוש אלומה מקומי: סכנה שכל החיפוש יתנקז לאיזור אחד כדי למנוע זאת רצוי להכניס אלמנט של שונות (diversity) בחיפוש בחיפוש אלומה מקומי סטוכסטי, K המצבים הבאים נבחרים בצורה סטוכסטית עם הסתברות פרופורציונית לטיב שלהם 41 Beam-Stochastic-HC() ; NewBeam [K random states] loop until resources exhausted Beam NewBeam; NewBeam [] Candidates {} loop for s in Beam loop for op in legal-operators(s) new op(s); if goalp(new) then return(new) V h(new) - h(s) if V > 0 then ; Recall we assume maximization improving-moves improving-moves {(new, V )} if improving-moves={} then return(current) Repeat K times n Sample an element from improving-moves with probability NewBeam NewBeam U {n} 42

אלגוריתמים גנטיים אלגוריתמי חיפוש מקומי ששואבים את השראתם מתהליך האבולוציה האלגוריתמים מבצעים למעשה חיפוש אלומה מקומי השינוי המרכזי - מצבים באלומה החדשה מורכבים משילוב חלקים של מצבים באלומה הנוכחית

15 אלגוריתמים גנטיים אלגוריתמי חיפוש מקומי ששואבים את השראתם מתהליך האבולוציה האלגוריתמים מבצעים למעשה חיפוש אלומה מקומי השינוי המרכזי - מצבים באלומה החדשה מורכבים משילוב חלקים של מצבים באלומה הנוכחית היה היה עמק ובו חיו 1000 סוסים לבנים לכל סוס היה כרומוזום עם L גנים בינאריים שמייצגים תכונות שונות רגל אחורית שמאלית קצרה / ארוכה אוזן ימנית שחורה / לבנה 44 חיפוש אבולוציוני במרחב הכרומוזומים נניח תחילה רביה אל - זוויגית )תהליך ביולוגי שבו יצור יוצר העתק של עצמו הזהה לו מבחינה גנטית )למעט מוטציות(, מבלי שיהיה מעורב בתהליך חומר גנטי מיצור אחר( בכל דור כל סוס שהגיע לגיל הרביה מוליד 2 צאצאים ומת. הסביבה מספיקה להכיל 1000 סוסים - לכן רק חצי מהם ישרדו עד גיל הרביה לשני סוסים עם כרומוזומים זהים הסתברות זהה לשרוד עד גיל הרביה 45

חיפוש אבולוציוני במרחב הכרומוזומים )המשך( בכל לידה נבחר באקראי ביט אחד בכרומוזום )נקרא גן(

יתכן שמוטציה תשנה את סיכויי ההישרדות של כרומוזום נניח שהגן האחראי על אורך הצוואר התחלף ונולד

בגלל שהוא מגיע לעלים יותר גבוהים בעץ 46 חיפוש אבולוציוני במרחב הכרומוזומים )המשך( בגלל

16 חיפוש אבולוציוני במרחב הכרומוזומים )המשך( בכל לידה נבחר באקראי ביט אחד בכרומוזום )נקרא גן( ומוחלף במשלים )מוטציה(. יתכן שמוטציה תשנה את סיכויי ההישרדות של כרומוזום נניח שהגן האחראי על אורך הצוואר התחלף ונולד סוס עם צוואר ארוך הסוס עם הצוואר הארוך יהיה בעל סיכויי הישרדות כפולים משל הסוסים הרגילים בגלל שהוא מגיע לעלים יותר גבוהים בעץ 46 חיפוש אבולוציוני במרחב הכרומוזומים )המשך( בגלל סיכויי ההישרדות הכפולים, מדור לדור יגדל מספר הסוסים ארוכי הצוואר באוכלוסיה באופן דומה, מוטציות גרועות יעלמו בהדרגה מהאוכלוסיה. אחרי הרבה דורות, אחד מהסוסים ארוכי הצואר עבר מוטציה בגן האחראי על צבעי הפרווה החיצונית ונהיו לו כתמים ג ינג ים לסוס החדש היה יותר אוכל בגלל הצוואר והוא שרד טוב יותר התקפות נמרים בגלל הסוואה הטובה 47 סוס עם צוואר ארוך וחברבורות 48

אבולוציה - חיפוש אלומה סטוכסטי התהליך האבולוציוני שתיארנו הוא למעשה חיפוש אלומה מקומי סטוכסטי על מרחב הכרומוזומים הפונקצייה h ממומשת ע י סיכויי ההשרדות 49 רביה זוויגית כאשר הרביה היא ע י שני הורים,

17 אבולוציה - חיפוש אלומה סטוכסטי התהליך האבולוציוני שתיארנו הוא למעשה חיפוש אלומה מקומי סטוכסטי על מרחב הכרומוזומים הפונקצייה h ממומשת ע י סיכויי ההשרדות 49 רביה זוויגית כאשר הרביה היא ע י שני הורים, תהליך החיפוש האבולוציוני מהיר בהרבה כאשר שני הורים עם תכונות טובות מזדווגים, יוולד להם צאצא עם שילוב התכונות הטובות וכך הג ירפה תווצר ע י הזדווגות של סוס ארוך צוואר עם סוס חברבורות 50 אופרטור גנטי - הצלבה ) (crossover אמא אבא ילד 1 ילד Shaul Markovitch

18 אלגוריתם גנטי בסיסי ג. התחל עם אוכלוסיה של N כרומוזומים אקראיים באורך L חשב את פונקציית ה fitness לכל כרומוזום באוכלוסיה חזור על הפעולות הבאות עד שיווצרו N ילדים א. בחר זוג הורים מהאוכלוסיה הנוכחית בהסתברות יחסית ל fitness שלהם ב. בהסתברות Pc בצע הצלבה בין ההורים (אחרת קח את ההורים כמו שהם) בצע מוטציה בכל אחד מהביטים בכל אחד מהילדים בהסתברות (קטנה) Pm ד. הוסף את שני הילדים לאוכלוסיה החדשה חזור לצעד אלגוריתמים גנטיים מתאימים לבעיות שהפתרון עבורם ניתן ליצוג ע י וקטור (לא דווקא בינארי) של ערכים. טובים בעיקר כאשר חלקים של פתרון טוב מציגים גם הם ביצועים טובים בעיקר טובים עבור בעיות שהם וריאציה של בעיית בחירת תת הקבוצה 53 בעיית בחירת תת הקבוצה נתונה קבוצת אוביקטים S נתונה פונקצייה U המחזירה ערך עבור כל תת קבוצה של S מצא תת קבוצה בעלת U מקסימלי 54

19 דוגמאות לבעיות בחירת תת קבוצה נתון קטע טקסט T בן N משפטים. מצא תת קבוצה של משפטים שתסכם את T בצורה הטובה ביותר. נתונה שאילתא Q ו N תוצאות חיפוש עבורה. בחר תת קבוצה בגודל 10 עם סיכוי מקסימלי שהמשתמש יקליק על אחת התוצאות נתונים N קורסים בתכנית הלימודים עבורם יש לנו את דרישות הקדם. מצא תת קבוצה של קורסים לסמסטר הקרוב שממקסמת פונקציית מטרה כלשהי (מגוון, עומס מצטבר, מרחק ממוצע בין בחינות וכו) 55

קשירות.s,t V שני צמתים,G=(V,E) קלט: גרף מכוון מ- s t ל- t ; אחרת.0 אם יש מסלול מכוון פלט: הערה: הגרף נתון בייצוג של רשימות סמיכות.

סריקה לרוחב פרק 3 ב- Kleinberg/Tardos קשירות.s,t V שני צמתים,G=(V,E) קלט: גרף מכוון מ- s t ל- t ; אחרת.0 אם יש מסלול מכוון פלט: הערה: הגרף נתון בייצוג של רשימות סמיכות. קשירות.s,t V שני צמתים,G=(V,E) קלט: