למתמטיקה המחלקהDepartment of Mathematics

לפתרון משופרות מחסום בהמרות שימושלא מאולצת אופטימיזציה בעיות

לינארית

: הסטודנט שם' ברקוב צ מריה

מנחה:יעקובזון" פיאנה ר  ד

לפתרון משופרות מחסום בהמרות שימושלינארית לא מאולצת אופטימיזציה בעיות

הבעיה • תיאור

מאולצת • אופטימיזציה לבעיות מחסום המרות גישת

של המרות מחסום משופרותBמחלקה •

תיאור שיטת הפתרון האיטרטיבית•

דוגמאות•

הבעיה :תיאור

* arg min /

/ 0, 1,ni

x f x x

x g x i m

R

:כאן

: nf R R– ) נתונה ) פונקציה מטרה פונקציית , היא

: nig R R– אילוצים פונקציות . ,הן 1,i m

כבישים במערכת תעבורה לנתח נרצה: " הבא גרף י ע המתוארת פשוטה כבישים מערכת על נסתכל

: היא המטרה , דקה בכל במערכת העוברים רכבים מספר בהינתן

כללי שעיכוב כך בדקה כביש בכל העוברים הרכבים מספר מצא. מינימאלי יהיה הכבישים במערכת רכבים של

1

2

3

4

ברשת - תעבורה של מינימאלי כללי עיכוב דוגמא

1

2

3

4

נסמן:

F)מספר הרכבים במערכת כבישים )נתון

i =1,2,3 צומת כניסה לכביש

j =2,3,4צומת יציאה מהכביש

xij מספר הרכבים בכביש המחבר בין צומת i לצומת j

tij זמן להגיע מצומת i לצומת j פונקציה של(xij)

cijמספר הרכבים בכביש המחבר בין צומת i לצומת j )נתונים( 12 13 32 24 34, , , ,c c c c c c

ברשת - תעבורה של מינימאלי כללי עיכוב דוגמא

1

2

3

4

: הינה המודל בעיית

)i( * arg min /

/ , 0; 0n

x f x x

x g g h

R

כאשר:

512 13 32 24 34

512 13 32 24 34

) (

, , , ,

, , , ,

Tf x t x

x x x x x x

t x t x t x t x t x t x

g x c x

g x x

R

R

1 13 32 34 2 12 32 24 3 12 13) ( , ) ( , ) (h x x x x h x x x x h x x x F

ברשת - תעבורה של מינימאלי כללי עיכוב דוגמא

) " מ ) ה מחסום המרות מבוססת ושיטה מחסום המרות

מקורית לבעיה כאלטרנטיבה מציעה מחסום שיטת

* arg min /

/ 0, 1,ni

x f x x

x g x i m

R

האחרת : הבעיה את

arg min /

/ 0, 1,nB i

B x f x x x

x g x i m

R

: n R R

0x Bx

limBx

x

:והפונקציה שמקיימת המחסום המרת היא

לכל

0כאשר

למת :המחסום

" מ ה ושיטת מחסום :המרות

המרות על המתבססות שיטות של ההתכנסות משפטמחסום:

מסקנות:אז , • התחום של פנימית מנקודה נתחיל אם

• , )*(- המינימום את מוצאים צעד בכל שבו חיפוש תהליך אז פתרון קיים ל אם

המתכנסת סדרה יוצר מאולצת לא לבעיה

בתחום )*( . הבעיה לפתרון

• , התנאי אז ברציפות גזירה מחסום המרת אם

לתנאי שקול

' לאגראנז , כופלי ווקטור למעשה הוא ווקטור

B 2

kBk

x

arg mink kx f x x

: n R R

0k kf x x

1

0km

k kik

i i

g xf x g x

g x

1 2, , ,k k k kmu u u u

k

ki k

i

g xu

g x

" מ ה ושיטת מחסום :המרות

: מחסום להמרות דוגמאות

של מחסום של : Frishהמרת מחסום : Carrolהמרת

.הן פונקציות מטרה המתאימות לבעיה C * ו- F* כאשר B

" מ ה ושיטת מחסום :המרות

1

*) , ( ) ( log) ) ((m

ii

F x f x g x

1

1

*) , ( ) ( ) ) ((m

ii

C x f x g x

: " מ ה ושיטת מחסום המרות של חסרונות

הוא • באם אופטימיזציה לבעיית בפתרון מוגדרות לא מחסום המרות

. האפשרי התחום שפת על נמצא

גדל • הבעיה עבור הסיאן מטריצת של ספקטראלי מספר

( - הדיוק את קובע ספקטרלי מספר קטן ש ככל מאוד

.) לפתרון והתכנסות

" מקסימאלי* עצמי ערך בין יחס י ע מוגדר מטריצה של הספקטרלי המספר

. שלה ומינימאלי

B

0

" מ ה ושיטת מחסום :המרות

ושיטת משופרות מחסום המרותמ" שלR. Polyak: המ

: משופרות מחסום המרות

, - מונוטוניות רציפות שליליות אי פונקציות הן משופרות מחסום המרות

שני/ במשתנה קעורות וקמורות

: המתאימות המטרה פונקציות

: הן משופרות מחסום המרות על המבוססות מטרה פונקציות

- ' שלו החשובות התכונות כל על השומרות הקלאסי יאן ללגרנז תחליף

מקורית - פונקציה כמו סדר מאותו חלקות

האופטימום - בנקודת וחלקות מוגדרות

1) , ( log) 1(, ) , ( [) 1( 1]F C

t tt t

1

) () , , ( ) ( log) 1(,

mi

ii

g xF x y f x y

1

1

) () , , ( ) ( [) 1( 1]

mi

ii

g xC x y f x y

" מ המ ושיטת משופרות מחסום :המרות

המרות :Bמחלקת היא קבוצת כל הפונקציות ,Bכלשהו. יהיה

אשר מקיימות:

(1)

(2)

(3)

- יורדת וקמורה/עולה וקעורה(4)

עבור יורדת: עבור עולה:

אם אז אם אזי:(5)

(6)

(7)

(8)

קיים כך ש- ו-(9)0

lim ) ,0(ktt l

" מ המ ושיטת משופרות מחסום :המרות

: חדשה אופטימיזציה בעית נגדיר

: וקמורה יורדת עבור

: וקעורה עולה עבור

:)**( בעיה' של יאן לאגראנז

** * arg min /x f x x

/ , 0, 1,nix g x i m R

/ 0 , , 1,nix g x i m R

sign ,ts t 1

, , , ,m

i ii

F x y f x s y g x

למה: היא )*( • אופטימיזציה, )**( אופטימיזציה בעיית אם בעיית היא גם אז קמורה

קמורה

• )**( , גם )*( אז הפתרון לקיום ומספיקים הכרחיים תנאים מקיימת אםמקיימת

נקודה ובאותה התנאים אותם

" מ המ ושיטת משופרות מחסום :המרות

: בבעיה נתבונן

•

• , קומפקטית גם אז קומפקטית אם

• ,)*( - יהיו של אופטימאליים תנאים מתקיימים ב כי נניח

: תחום נגדיר

ˆ arg min /) (*

/ , 1,ni

x f x x

x g x i m

R

0 , , 0 *, *x y

10 0

, * , 1, *, , , 0

0 , 1

i i im

i

y y y i rD y y R and

y r i m

המרות שיטת מתאימים פרמטרים עבור כי מראה הבא משפטשל )*( לפתרון מתכנסת על המופעלת משופרות (מחסום (*

: " מ המ שיטת של התכנסות משפט

בנקודה )*(, וכי בבעיה קמורות כי נניח

נתונה )*(. המרה תהיה לבעיה ומספיקים הכרחיים תנאים מתקיימים

: נגדיר- , ו

2 2, , 1, ,if C g C i m *x B

1

, , ,m

i ii

F x y f x s y g x

sign ,ts t

" מ המ ושיטת משופרות מחסום :המרות

- , ו , שלכל כך קטנים מספיק קיימים אז

•- ש כך ווקטור קיים

•- ו מתקיים לכל

•- - : ש כך ו ווקטורים לזוג

- - ו ב תלוי שלא קיים

בסביבת • ממש קמורה הפונקציה

0 0 0 1

0 min ii my

0, , *, ,y D y

ˆ , arg min , , /x y F x y x ˆ, , 0xF x y

0 ˆ , * *x y x ˆ , * *y y y

ˆ ˆ ,x x y

1 2ˆ ˆ , , , , , , ,g g g my y y diag g x g x g x y

ˆ ˆ,y y y

0 1c ˆ ˆmax * , * *x x y y c y y

, ,F x y ˆ ˆ ,x x y

נוכל: איטרציה בכל עבור מסקנהלחשב

את ? בוחרים איך היא השאלההרעיון:

" מ המ ושיטת משופרות מחסום :המרות

1

1 11

arg min) ) , , ((

[diag ) , ) ((]

k k

k k m kg i i

x F x y

y g x y

00, , *, ,y D y

0y

פונקציה ונגדיר בפונקציה :נציב

הבעיה

כי להוכיח וניתן מחסום שיטת של קלאסית מגישה מתקבלת

של )*( הפתרון עם מתלכד של פתרונה

) , , (F x y

0

1

) , ( , , ,m

ii

M x F x y f x g x

0 )1,..,1( my R

arg min , /

/ 0, 1,

M B

nB i

B x M x x

x g x i m

R

MB

: " מ המ שיטת של אתחול משפט

מקיימת )*(, )*( בעיה בבעיה קמורות כי נניח

, וכי בנקודה מתקיימים תנאים הכרחיים ומספיקים לאופטימום Slaterתנאיי

של )*(. תהיה המרה נתונה ו- נגדיר:

2 2, , 1, ,if C g C i m

*x B

1

, ,m

ii

M x f x s g x

sign ,ts t

" מ המ ושיטת משופרות מחסום :המרות

, לכל אז קומפקטית קבוצה עבורו קיים אם

•- ש כך ווקטור קיים

- ו

•- - : ש כך ו ווקטורים לזוג

- - ו ב תלוי שלא קיים

בסביבת • ממש קמורה הפונקציה

0 0

arg min , /x M x x ˆ, 0xM x

x 0

1 2ˆ ˆ , diag , , , , , ,g g g my y y g x g x g x y y

0 1c ˆ ˆmax * , *x x y y c

,M x x

0

0 0lim ) ) (( lim ) ) (, ( ) *(f x M x f x

0 0

של הפתרון Polyakשיטת

" מ המ ושיטת משופרות מחסום :המרות

0

1

1 11

1,1, ,1

arg min) ) , , ((

[diag ) , ) ((]

m

k k

k k m kg i i

y

x F x y

y g x y

R

: - שמתקיים כך ב תלוי שאינו קיים לכל

סידרה • נוצרת איטרטיבי מתהליך כתוצאה

לפתרון • מתקרבים איטרציה בכל

לינארי • הינו לפתרון התכנסות קצב

,k kx y

0 0 1c

1 1max * , * *k k kx x y y c y y

) *, *(x y

) *, *(x y

: ברשת תעבורה לבעית נחזוראת נציב

: מטרה בפונקצית

ואת:

: אילוצים בפונקציות

דוגמא עבור פתרון הדגמתברשת תעבורה של מינימאלי כללי :עיכוב

512 13 32 24 34

512 13 32 24 34

) (

, , , ,

, , , ,

Tf x t x

x x x x x x

t x t x t x t x t x t x

R

R

1 13 32 34 2 12 32 24 3 12 13) ( , ) ( , ) (h x x x x h x x x x h x x x F

12 13 32 24 3412 13 32 24 34

12 13 32 24 34

0.1 0.15 , , 1 , , 5

11 31 11 31 11

x x x x xt t t t t

x x x x x

g x x c

g x x

12 13 32 24 3410, 30, 10, 30, 10, 5c c c c c F

דוגמא עבור פתרון הדגמתברשת תעבורה של מינימאלי כללי :עיכוב

בנקודה - מתקבל לבעיה מדויק *=x(2.5 2.5 0 2.5 2.5) פתרון = )*40.3030f )xערך של הפונקציה בנקודה זאת -

0.1נבחר: - : " " מ המ בשיטת שימוש י ע שהתקבלו תוצאות

: מדויק פתרון מול שקיבלנו תוצאות השוואת

דוגמא עבור פתרון הדגמתברשת תעבורה של מינימאלי כללי :עיכוב

: בנורמה התכנסות גרפים

דוגמא עבור פתרון הדגמתברשת תעבורה של מינימאלי כללי :עיכוב

הפונקציה של מינימאלי לערך :התכנסות

דוגמא עבור פתרון הדגמתברשת תעבורה של מינימאלי כללי :עיכוב

:) ליניארית ) לא קמורה מאולצת אופטימיזציה בעיית נתונה תהי

2דוגמה :

221

2 21 2

1 2

2 21 2

1

2

21 2

min) (

64 0

9 0

25 ) 10( 0

0

0

) , (

xx e

x x

x x

x x

x

x

x x R

בנקודה - מתקבל לבעיה מדויק פתרון(5,0)x=*f )x*( = 26ערך של הפונקציה בנקודה זאת -

2דוגמה :

: " " מ המ בשיטת שימוש י ע שהתקבלו תוצאות

0.05נבחר

: מדויק פתרון מול שקיבלנו תוצאות השוואת

: בנורמה התכנסות גרפים

2דוגמה :

1) , ( log) 1(t

t

12 ) , ( [) 1( 1]

tt

: הפונקציה של מינימאלי לערך התכנסות

3דוגמה :

1) , ( log) 1(t

t

1

2 ) , ( [) 1( 1]t

t

:) ליניארית ) לא קמורה מאולצת אופטימיזציה בעיית נתונה תהי

3דוגמה :

בנקודה - מתקבל לבעיה מדויק פתרוןזאת - בנקודה הפונקציה של f(x*) = 3ערך

* 2,1x

2 21 2

21

22

1

2

21 2

min) (

2 0

1 0

0

0

) , (

x x

x

x

x

x

x x R

3דוגמה :

: " " מ המ בשיטת שימוש י ע שהתקבלו תוצאות

0.1נבחר

: מדויק פתרון מול שקיבלנו תוצאות השוואת

: בנורמה התכנסות גרפים

3דוגמה :

1) , ( log) 1(t

t

12 ) , ( [) 1( 1]

tt

: הפונקציה של מינימאלי לערך התכנסות

3דוגמה :

12 ) , ( [) 1( 1]

tt

1) , ( log) 1(t

t

:) ליניארית ) לא קמורה מאולצת אופטימיזציה בעיית נתונה תהי

4דוגמה :

בנקודה - מתקבל לבעיה מדויק פתרוןזאת - בנקודה הפונקציה של - = )*f )xערך

24

21 2 1 2

2 21 2

1 2

1

2

21 2

min) ( 10*) (

8 0

8 3* 0

0

0

) , (

x x x x

x x

x x

x

x

x x R

* 2,2x

4דוגמה :

: " " מ המ בשיטת שימוש י ע שהתקבלו תוצאות

0.1נבחר

: מדויק פתרון מול שקיבלנו תוצאות השוואת

: בנורמה התכנסות גרפים

4דוגמה :

1) , ( log) 1(t

t

12 ) , ( [) 1( 1]

tt

: הפונקציה של מינימאלי לערך התכנסות

4דוגמה :

12 ) , ( [) 1( 1]

tt

1) , ( log) 1(

tt