Scheduling Multithread Computations by Stealing Work

8/10/2019 Scheduling Multithread Computations by Stealing Work

http://slidepdf.com/reader/full/scheduling-multithread-computations-by-stealing-work 1/28

S c h e d u l i n g M u l t i t h r e a d e d C o m p u t a t i o n s

b y W o r k S t e a l i n g

R o b e r t D . B l u m o f e

T h e U n i v e r s i t y o f T e x a s a t A u s t i n

C h a r l e s E . L e i s e r s o n

M I T L a b o r a t o r y f o r C o m p u t e r S c i e n c e

A b s t r a c t

T h i s p a p e r s t u d i e s t h e p r o b l e m o f e c i e n t l y s c h e d u l i n g f u l l y s t r i c t ( i . e . , w e l l -

s t r u c t u r e d ) m u l t i t h r e a d e d c o m p u t a t i o n s o n p a r a l l e l c o m p u t e r s . A p o p u l a r a n d p r a c -

t i c a l m e t h o d o f s c h e d u l i n g t h i s k i n d o f d y n a m i c M I M D - s t y l e c o m p u t a t i o n i s \ w o r k

s t e a l i n g , " i n w h i c h p r o c e s s o r s n e e d i n g w o r k s t e a l c o m p u t a t i o n a l t h r e a d s f r o m o t h e r

p r o c e s s o r s . I n t h i s p a p e r , w e g i v e t h e r s t p r o v a b l y g o o d w o r k - s t e a l i n g s c h e d u l e r f o r

m u l t i t h r e a d e d c o m p u t a t i o n s w i t h d e p e n d e n c i e s .

S p e c i c a l l y , o u r a n a l y s i s s h o w s t h a t t h e e x p e c t e d t i m e t o e x e c u t e a f u l l y s t r i c t

c o m p u t a t i o n o n P p r o c e s s o r s u s i n g o u r w o r k - s t e a l i n g s c h e d u l e r i s T

1

= P + O ( T

1

) , w h e r e

T

1

i s t h e m i n i m u m s e r i a l e x e c u t i o n t i m e o f t h e m u l t i t h r e a d e d c o m p u t a t i o n a n d T

1

i s

t h e m i n i m u m e x e c u t i o n t i m e w i t h a n i n n i t e n u m b e r o f p r o c e s s o r s . M o r e o v e r , t h e

s p a c e r e q u i r e d b y t h e e x e c u t i o n i s a t m o s t S

1

P , w h e r e S

1

i s t h e m i n i m u m s e r i a l s p a c e

r e q u i r e m e n t . W e a l s o s h o w t h a t t h e e x p e c t e d t o t a l c o m m u n i c a t i o n o f t h e a l g o r i t h m i s

a t m o s t O ( P T

1

( 1 + n

d

) S

m a x

) , w h e r e S

m a x

i s t h e s i z e o f t h e l a r g e s t a c t i v a t i o n r e c o r d o f

a n y t h r e a d a n d n

d

i s t h e m a x i m u m n u m b e r o f t i m e s t h a t a n y t h r e a d s y n c h r o n i z e s w i t h

i t s p a r e n t . T h i s c o m m u n i c a t i o n b o u n d j u s t i e s t h e f o l k w i s d o m t h a t w o r k - s t e a l i n g

s c h e d u l e r s a r e m o r e c o m m u n i c a t i o n e c i e n t t h a n t h e i r w o r k - s h a r i n g c o u n t e r p a r t s . A l l

t h r e e o f t h e s e b o u n d s a r e e x i s t e n t i a l l y o p t i m a l t o w i t h i n a c o n s t a n t f a c t o r .

1 I n t r o d u c t i o n

F o r e c i e n t e x e c u t i o n o f a d y n a m i c a l l y g r o w i n g \ m u l t i t h r e a d e d " c o m p u t a t i o n o n a M I M D -

s t y l e p a r a l l e l c o m p u t e r , a s c h e d u l i n g a l g o r i t h m m u s t e n s u r e t h a t e n o u g h t h r e a d s a r e a c t i v e

c o n c u r r e n t l y t o k e e p t h e p r o c e s s o r s b u s y . S i m u l t a n e o u s l y , i t s h o u l d e n s u r e t h a t t h e n u m b e r

o f c o n c u r r e n t l y a c t i v e t h r e a d s r e m a i n s w i t h i n r e a s o n a b l e l i m i t s s o t h a t m e m o r y r e q u i r e m e n t s

a r e n o t u n d u l y l a r g e . M o r e o v e r , t h e s c h e d u l e r s h o u l d a l s o t r y t o m a i n t a i n r e l a t e d t h r e a d s

T h i s r e s e a r c h w a s s u p p o r t e d i n p a r t b y t h e A d v a n c e d R e s e a r c h P r o j e c t s A g e n c y u n d e r C o n t r a c t N 0 0 0 1 4 -

9 4 - 1 - 0 9 8 5 . T h i s r e s e a r c h w a s d o n e w h i l e R o b e r t D . B l u m o f e w a s a t t h e M I T L a b o r a t o r y f o r C o m p u t e r S c i e n c e

a n d w a s s u p p o r t e d i n p a r t b y a n A R P A H i g h - P e r f o r m a n c e C o m p u t i n g G r a d u a t e F e l l o w s h i p .

1



o n t h e s a m e p r o c e s s o r , i f p o s s i b l e , s o t h a t c o m m u n i c a t i o n b e t w e e n t h e m c a n b e m i n i m i z e d .

N e e d l e s s t o s a y , a c h i e v i n g a l l t h e s e g o a l s s i m u l t a n e o u s l y c a n b e d i c u l t .

T w o s c h e d u l i n g p a r a d i g m s h a v e a r i s e n t o a d d r e s s t h e p r o b l e m o f s c h e d u l i n g m u l t i t h r e a d e d

c o m p u t a t i o n s : w o r k s h a r i n g a n d w o r k s t e a l i n g . I n w o r k s h a r i n g , w h e n e v e r a p r o c e s s o r

g e n e r a t e s n e w t h r e a d s , t h e s c h e d u l e r a t t e m p t s t o m i g r a t e s o m e o f t h e m t o o t h e r p r o c e s s o r s

i n h o p e s o f d i s t r i b u t i n g t h e w o r k t o u n d e r u t i l i z e d p r o c e s s o r s . I n w o r k s t e a l i n g , h o w e v e r ,

u n d e r u t i l i z e d p r o c e s s o r s t a k e t h e i n i t i a t i v e : t h e y a t t e m p t t o \ s t e a l " t h r e a d s f r o m o t h e r

p r o c e s s o r s . I n t u i t i v e l y , t h e m i g r a t i o n o f t h r e a d s o c c u r s l e s s f r e q u e n t l y w i t h w o r k s t e a l i n g

t h a n w i t h w o r k s h a r i n g , s i n c e w h e n a l l p r o c e s s o r s h a v e w o r k t o d o , n o t h r e a d s a r e m i g r a t e d

b y a w o r k - s t e a l i n g s c h e d u l e r , b u t t h r e a d s a r e a l w a y s m i g r a t e d b y a w o r k - s h a r i n g s c h e d u l e r .

T h e w o r k - s t e a l i n g i d e a d a t e s b a c k a t l e a s t a s f a r a s B u r t o n a n d S l e e p ' s r e s e a r c h o n p a r -

a l l e l e x e c u t i o n o f f u n c t i o n a l p r o g r a m s 1 6 ] a n d H a l s t e a d ' s i m p l e m e n t a t i o n o f M u l t i l i s p 3 0 ] .

T h e s e a u t h o r s p o i n t o u t t h e h e u r i s t i c b e n e t s o f w o r k s t e a l i n g w i t h r e g a r d s t o s p a c e a n d

c o m m u n i c a t i o n . S i n c e t h e n , m a n y r e s e a r c h e r s h a v e i m p l e m e n t e d v a r i a n t s o n t h i s s t r a t e g y

1 1 , 2 1 , 2 3 , 2 9 , 3 4 , 3 7 , 4 6 ] . R u d o l p h , S l i v k i n - A l l a l o u f , a n d U p f a l 4 3 ] a n a l y z e d a r a n d o m -

i z e d w o r k - s t e a l i n g s t r a t e g y f o r l o a d b a l a n c i n g i n d e p e n d e n t j o b s o n a p a r a l l e l c o m p u t e r , a n d

K a r p a n d Z h a n g 3 3 ] a n a l y z e d a r a n d o m i z e d w o r k - s t e a l i n g s t r a t e g y f o r p a r a l l e l b a c k t r a c k

s e a r c h . R e c e n t l y , Z h a n g a n d O r t y n s k i 4 8 ] h a v e o b t a i n e d g o o d b o u n d s o n t h e c o m m u n i c a t i o n

r e q u i r e m e n t s o f t h i s a l g o r i t h m .

I n t h i s p a p e r , w e p r e s e n t a n d a n a l y z e a w o r k - s t e a l i n g a l g o r i t h m f o r s c h e d u l i n g \ f u l l y

s t r i c t " ( w e l l - s t r u c t u r e d ) m u l t i t h r e a d e d c o m p u t a t i o n s . T h i s c l a s s o f c o m p u t a t i o n s e n c o m -

p a s s e s b o t h b a c k t r a c k s e a r c h c o m p u t a t i o n s 3 3 , 4 8 ] a n d d i v i d e - a n d - c o n q u e r c o m p u t a t i o n s 4 7 ] ,

a s w e l l a s d a t a o w c o m p u t a t i o n s 2 ] i n w h i c h t h r e a d s m a y s t a l l d u e t o a d a t a d e p e n d e n c y .

W e a n a l y z e o u r a l g o r i t h m s i n a s t r i n g e n t a t o m i c - a c c e s s m o d e l s i m i l a r t o t h e a t o m i c m e s s a g e -

p a s s i n g m o d e l o f 3 6 ] i n w h i c h c o n c u r r e n t a c c e s s e s t o t h e s a m e d a t a s t r u c t u r e a r e s e r i a l l y

q u e u e d b y a n a d v e r s a r y .

O u r m a i n c o n t r i b u t i o n i s a r a n d o m i z e d w o r k - s t e a l i n g s c h e d u l i n g a l g o r i t h m f o r f u l l y s t r i c t

m u l t i t h r e a d e d c o m p u t a t i o n s w h i c h i s p r o v a b l y e c i e n t i n t e r m s o f t i m e , s p a c e , a n d c o m -

m u n i c a t i o n . W e p r o v e t h a t t h e e x p e c t e d t i m e t o e x e c u t e a f u l l y s t r i c t c o m p u t a t i o n o n P

p r o c e s s o r s u s i n g o u r w o r k - s t e a l i n g s c h e d u l e r i s T

1

= P + O ( T

1

) , w h e r e T

1

i s t h e m i n i m u m

s e r i a l e x e c u t i o n t i m e o f t h e m u l t i t h r e a d e d c o m p u t a t i o n a n d T

1

i s t h e m i n i m u m e x e c u t i o n

t i m e w i t h a n i n n i t e n u m b e r o f p r o c e s s o r s . I n a d d i t i o n , t h e s p a c e r e q u i r e d b y t h e e x e c u t i o n

i s a t m o s t S

1

P , w h e r e S

1

i s t h e m i n i m u m s e r i a l s p a c e r e q u i r e m e n t . T h e s e b o u n d s a r e b e t -

t e r t h a n p r e v i o u s b o u n d s f o r w o r k - s h a r i n g s c h e d u l e r s 1 0 ] , a n d t h e w o r k - s t e a l i n g s c h e d u l e r

i s m u c h s i m p l e r a n d e m i n e n t l y p r a c t i c a l . P a r t o f t h i s i m p r o v e m e n t i s d u e t o o u r f o c u s -

i n g o n f u l l y s t r i c t c o m p u t a t i o n s , a s c o m p a r e d t o t h e ( g e n e r a l ) s t r i c t c o m p u t a t i o n s s t u d i e d

i n 1 0 ] . W e a l s o p r o v e t h a t t h e e x p e c t e d t o t a l c o m m u n i c a t i o n o f t h e e x e c u t i o n i s a t m o s t

O ( P T

1

( 1 + n

d

) S

m a x

) , w h e r e S

m a x

i s t h e s i z e o f t h e l a r g e s t a c t i v a t i o n r e c o r d o f a n y t h r e a d

a n d n

d

i s t h e m a x i m u m n u m b e r o f t i m e s t h a t a n y t h r e a d s y n c h r o n i z e s w i t h i t s p a r e n t . T h i s

b o u n d i s e x i s t e n t i a l l y t i g h t t o w i t h i n a c o n s t a n t f a c t o r , m e e t i n g t h e l o w e r b o u n d o f W u

a n d K u n g 4 7 ] f o r c o m m u n i c a t i o n i n p a r a l l e l d i v i d e - a n d - c o n q u e r . I n c o n t r a s t , w o r k - s h a r i n g

s c h e d u l e r s h a v e n e a r l y w o r s t - c a s e b e h a v i o r f o r c o m m u n i c a t i o n . T h u s , o u r r e s u l t s b o l s t e r t h e

f o l k w i s d o m t h a t w o r k s t e a l i n g i s s u p e r i o r t o w o r k s h a r i n g .

O t h e r s h a v e s t u d i e d a n d c o n t i n u e t o s t u d y t h e p r o b l e m o f e c i e n t l y m a n a g i n g t h e s p a c e

r e q u i r e m e n t s o f p a r a l l e l c o m p u t a t i o n s . C u l l e r a n d A r v i n d 1 9 ] a n d R u g g i e r o a n d S a r g e a n t

2



4 4 ] g i v e h e u r i s t i c s f o r l i m i t i n g t h e s p a c e r e q u i r e d b y d a t a o w p r o g r a m s . B u r t o n 1 4 ] s h o w s

h o w t o l i m i t s p a c e i n c e r t a i n p a r a l l e l c o m p u t a t i o n s w i t h o u t c a u s i n g d e a d l o c k . M o r e r e c e n t l y ,

B u r t o n 1 5 ] h a s d e v e l o p e d a n d a n a l y z e d a s c h e d u l i n g a l g o r i t h m w i t h p r o v a b l y g o o d t i m e a n d

s p a c e b o u n d s . B l e l l o c h , G i b b o n s , M a t i a s , a n d N a r l i k a r 3 , 4 ] h a v e a l s o r e c e n t l y d e v e l o p e d

a n d a n a l y z e d s c h e d u l i n g a l g o r i t h m s w i t h p r o v a b l y g o o d t i m e a n d s p a c e b o u n d s . I t i s n o t

y e t c l e a r w h e t h e r a n y o f t h e s e a l g o r i t h m s a r e a s p r a c t i c a l a s w o r k s t e a l i n g .

T h e r e m a i n d e r o f t h i s p a p e r i s o r g a n i z e d a s f o l l o w s . I n S e c t i o n 2 w e r e v i e w t h e g r a p h -

t h e o r e t i c m o d e l o f m u l t i t h r e a d e d c o m p u t a t i o n s i n t r o d u c e d i n 1 0 ] , w h i c h p r o v i d e s a t h e o -

r e t i c a l b a s i s f o r a n a l y z i n g s c h e d u l e r s . S e c t i o n 3 g i v e s a s i m p l e s c h e d u l i n g a l g o r i t h m w h i c h

u s e s a c e n t r a l q u e u e . T h i s \ b u s y - l e a v e s " a l g o r i t h m f o r m s t h e b a s i s f o r o u r r a n d o m i z e d w o r k -

s t e a l i n g a l g o r i t h m , w h i c h w e p r e s e n t i n S e c t i o n 4 . I n S e c t i o n 5 w e i n t r o d u c e t h e a t o m i c - a c c e s s

m o d e l t h a t w e u s e t o a n a l y z e e x e c u t i o n t i m e a n d c o m m u n i c a t i o n c o s t s f o r t h e w o r k - s t e a l i n g

a l g o r i t h m , a n d w e p r e s e n t a n d a n a l y z e a c o m b i n a t o r i a l \ b a l l s a n d b i n s " g a m e t h a t w e u s e

t o d e r i v e a b o u n d o n t h e c o n t e n t i o n t h a t a r i s e s i n r a n d o m w o r k s t e a l i n g . W e t h e n u s e t h i s

b o u n d a l o n g w i t h a d e l a y - s e q u e n c e a r g u m e n t 4 1 ] i n S e c t i o n 6 t o a n a l y z e t h e e x e c u t i o n t i m e

a n d c o m m u n i c a t i o n c o s t o f t h e w o r k - s t e a l i n g a l g o r i t h m . T o c o n c l u d e , i n S e c t i o n 7 w e b r i e y

d i s c u s s h o w t h e t h e o r e t i c a l i d e a s i n t h i s p a p e r h a v e b e e n a p p l i e d t o t h e C i l k p r o g r a m m i n g

l a n g u a g e a n d r u n t i m e s y s t e m 8 , 2 5 ] , a s w e l l a s m a k e s o m e c o n c l u d i n g r e m a r k s .

2 A m o d e l o f m u l t i t h r e a d e d c o m p u t a t i o n

T h i s s e c t i o n r e p r i s e s t h e g r a p h - t h e o r e t i c m o d e l o f m u l t i t h r e a d e d c o m p u t a t i o n i n t r o d u c e d

i n 1 0 ] . W e a l s o d e n e w h a t i t m e a n s f o r c o m p u t a t i o n s t o b e \ f u l l y s t r i c t . " W e c o n c l u d e

w i t h a s t a t e m e n t o f t h e g r e e d y - s c h e d u l i n g t h e o r e m , w h i c h i s a n a d a p t a t i o n o f t h e o r e m s b y

B r e n t 1 3 ] a n d G r a h a m 2 7 , 2 8 ] o n d a g s c h e d u l i n g .

A m u l t i t h r e a d e d c o m p u t a t i o n i s c o m p o s e d o f a s e t o f t h r e a d s , e a c h o f w h i c h i s a s e -

q u e n t i a l o r d e r i n g o f u n i t - t i m e i n s t r u c t i o n s . T h e i n s t r u c t i o n s a r e c o n n e c t e d b y d e p e n d e n c y

e d g e s , w h i c h p r o v i d e a p a r t i a l o r d e r i n g o n w h i c h i n s t r u c t i o n s m u s t e x e c u t e b e f o r e w h i c h

o t h e r i n s t r u c t i o n s . I n F i g u r e 1 , f o r e x a m p l e , e a c h s h a d e d b l o c k i s a t h r e a d w i t h c i r c l e s

r e p r e s e n t i n g i n s t r u c t i o n s a n d t h e h o r i z o n t a l e d g e s , c a l l e d c o n t i n u e e d g e s , r e p r e s e n t i n g t h e

s e q u e n t i a l o r d e r i n g . T h r e a d

5

o f t h i s e x a m p l e c o n t a i n s 3 i n s t r u c t i o n s : v

1 0

, v

1 1

, a n d v

1 2

.

T h e i n s t r u c t i o n s o f a t h r e a d m u s t e x e c u t e i n t h i s s e q u e n t i a l o r d e r f r o m t h e r s t ( l e f t m o s t )

i n s t r u c t i o n t o t h e l a s t ( r i g h t m o s t ) i n s t r u c t i o n . I n o r d e r t o e x e c u t e a t h r e a d , w e a l l o c a t e f o r

i t a c h u n k o f m e m o r y , c a l l e d a n a c t i v a t i o n f r a m e , t h a t t h e i n s t r u c t i o n s o f t h e t h r e a d c a n

u s e t o s t o r e t h e v a l u e s o n w h i c h t h e y c o m p u t e .

A P - p r o c e s s o r e x e c u t i o n s c h e d u l e f o r a m u l t i t h r e a d e d c o m p u t a t i o n d e t e r m i n e s w h i c h

p r o c e s s o r s o f a P - p r o c e s s o r p a r a l l e l c o m p u t e r e x e c u t e w h i c h i n s t r u c t i o n s a t e a c h s t e p . A n

e x e c u t i o n s c h e d u l e d e p e n d s o n t h e p a r t i c u l a r m u l t i t h r e a d e d c o m p u t a t i o n a n d t h e n u m b e r P

o f p r o c e s s o r s . I n a n y g i v e n s t e p o f a n e x e c u t i o n s c h e d u l e , e a c h p r o c e s s o r e x e c u t e s a t m o s t

o n e i n s t r u c t i o n .

D u r i n g t h e c o u r s e o f i t s e x e c u t i o n , a t h r e a d m a y c r e a t e , o r s p a w n , o t h e r t h r e a d s . S p a w n -

i n g a t h r e a d i s l i k e a s u b r o u t i n e c a l l , e x c e p t t h a t t h e s p a w n i n g t h r e a d c a n o p e r a t e c o n c u r -

r e n t l y w i t h t h e s p a w n e d t h r e a d . W e c o n s i d e r s p a w n e d t h r e a d s t o b e c h i l d r e n o f t h e t h r e a d

t h a t d i d t h e s p a w n i n g , a n d a t h r e a d m a y s p a w n a s m a n y c h i l d r e n a s i t d e s i r e s . I n t h i s w a y ,

3



v18 v19 v20

v1 v2

v3

v4

v16 v17 v21 v22 v23

v6 v9 v13 v14 v15

v5 v7 v10 v11 v12

Γ 1

Γ 2

Γ 3 Γ 4 Γ 5

Γ 6

v8

F i g u r e 1 : A m u l t i t h r e a d e d c o m p u t a t i o n . T h i s c o m p u t a t i o n c o n t a i n s 2 3 i n s t r u c t i o n s v

1

; v

2

; : : : ; v

2 3

a n d 6 t h r e a d s

1

;

2

; : : : ;

6

.

t h r e a d s a r e o r g a n i z e d i n t o a s p a w n t r e e a s i n d i c a t e d i n F i g u r e 1 b y t h e d o w n w a r d - p o i n t i n g ,

s h a d e d d e p e n d e n c y e d g e s , c a l l e d s p a w n e d g e s , t h a t c o n n e c t t h r e a d s t o t h e i r s p a w n e d c h i l -

d r e n . T h e s p a w n t r e e i s t h e p a r a l l e l a n a l o g o f a c a l l t r e e . I n o u r e x a m p l e c o m p u t a t i o n , t h e

s p a w n t r e e ' s r o o t t h r e a d

1

h a s t w o c h i l d r e n ,

2

a n d

6

, a n d t h r e a d

2

h a s t h r e e c h i l d r e n ,

3

,

4

, a n d

5

. T h r e a d s

3

,

4

,

5

, a n d

6

, w h i c h h a v e n o c h i l d r e n , a r e l e a f t h r e a d s .

E a c h s p a w n e d g e g o e s f r o m a s p e c i c i n s t r u c t i o n | t h e i n s t r u c t i o n t h a t a c t u a l l y d o e s

t h e s p a w n o p e r a t i o n | i n t h e p a r e n t t h r e a d t o t h e r s t i n s t r u c t i o n o f t h e c h i l d t h r e a d . A n

e x e c u t i o n s c h e d u l e m u s t o b e y t h i s e d g e i n t h a t n o p r o c e s s o r m a y e x e c u t e a n i n s t r u c t i o n i n

a s p a w n e d c h i l d t h r e a d u n t i l a f t e r t h e s p a w n i n g i n s t r u c t i o n i n t h e p a r e n t t h r e a d h a s b e e n

e x e c u t e d . I n o u r e x a m p l e c o m p u t a t i o n ( F i g u r e 1 ) , d u e t o t h e s p a w n e d g e ( v

6

; v

7

) , i n s t r u c t i o n

v

7

c a n n o t b e e x e c u t e d u n t i l a f t e r t h e s p a w n i n g i n s t r u c t i o n v

6

. C o n s i s t e n t w i t h o u r u n i t - t i m e

m o d e l o f i n s t r u c t i o n s , a s i n g l e i n s t r u c t i o n m a y s p a w n a t m o s t o n e c h i l d . W h e n t h e s p a w n i n g

i n s t r u c t i o n e x e c u t e s , i t a l l o c a t e s a n a c t i v a t i o n f r a m e f o r t h e n e w c h i l d t h r e a d . O n c e a t h r e a d

h a s b e e n s p a w n e d a n d i t s f r a m e h a s b e e n a l l o c a t e d , w e s a y t h e t h r e a d i s a l i v e o r l i v i n g .

W h e n t h e l a s t i n s t r u c t i o n o f a t h r e a d e x e c u t e s , i t d e a l l o c a t e s i t s f r a m e a n d t h e t h r e a d d i e s .

A n e x e c u t i o n s c h e d u l e g e n e r a l l y r e s p e c t s o t h e r d e p e n d e n c i e s b e s i d e s t h o s e r e p r e s e n t e d

b y c o n t i n u e a n d s p a w n e d g e s . C o n s i d e r a n i n s t r u c t i o n t h a t p r o d u c e s a d a t a v a l u e t o b e

c o n s u m e d b y a n o t h e r i n s t r u c t i o n . S u c h a p r o d u c e r / c o n s u m e r r e l a t i o n s h i p p r e c l u d e s t h e

c o n s u m i n g i n s t r u c t i o n f r o m e x e c u t i n g u n t i l a f t e r t h e p r o d u c i n g i n s t r u c t i o n . T o e n f o r c e

s u c h o r d e r i n g s , o t h e r d e p e n d e n c y e d g e s , c a l l e d j o i n e d g e s , m a y b e r e q u i r e d , a s s h o w n i n

F i g u r e 1 b y t h e c u r v e d e d g e s . I f t h e e x e c u t i o n o f a t h r e a d a r r i v e s a t a c o n s u m i n g i n s t r u c t i o n

b e f o r e t h e p r o d u c i n g i n s t r u c t i o n h a s e x e c u t e d , e x e c u t i o n o f t h e c o n s u m i n g t h r e a d c a n n o t

c o n t i n u e | t h e t h r e a d s t a l l s . O n c e t h e p r o d u c i n g i n s t r u c t i o n e x e c u t e s , t h e j o i n d e p e n d e n c y i s

r e s o l v e d , w h i c h e n a b l e s t h e c o n s u m i n g t h r e a d t o r e s u m e i t s e x e c u t i o n | t h e t h r e a d b e c o m e s

r e a d y . A m u l t i t h r e a d e d c o m p u t a t i o n d o e s n o t m o d e l t h e m e a n s b y w h i c h j o i n d e p e n d e n c i e s

g e t r e s o l v e d o r b y w h i c h u n r e s o l v e d j o i n d e p e n d e n c i e s g e t d e t e c t e d . I n i m p l e m e n t a t i o n ,

r e s o l u t i o n a n d d e t e c t i o n c a n b e a c c o m p l i s h e d u s i n g m e c h a n i s m s s u c h a s j o i n c o u n t e r s 8 ] ,

f u t u r e s 3 0 ] , o r I - s t r u c t u r e s 2 ] .

W e m a k e t w o t e c h n i c a l a s s u m p t i o n s r e g a r d i n g j o i n e d g e s . W e r s t a s s u m e t h a t e a c h

i n s t r u c t i o n h a s a t m o s t a c o n s t a n t n u m b e r o f j o i n e d g e s i n c i d e n t o n i t . T h i s a s s u m p t i o n

4



i s c o n s i s t e n t w i t h o u r u n i t - t i m e m o d e l o f i n s t r u c t i o n s . T h e s e c o n d a s s u m p t i o n i s t h a t n o

j o i n e d g e s e n t e r t h e i n s t r u c t i o n i m m e d i a t e l y f o l l o w i n g a s p a w n . T h i s a s s u m p t i o n m e a n s

t h a t w h e n a p a r e n t t h r e a d s p a w n s a c h i l d t h r e a d , t h e p a r e n t c a n n o t i m m e d i a t e l y s t a l l . I t

c o n t i n u e s t o b e r e a d y t o e x e c u t e f o r a t l e a s t o n e m o r e i n s t r u c t i o n .

A n e x e c u t i o n s c h e d u l e m u s t o b e y t h e c o n s t r a i n t s g i v e n b y t h e s p a w n , c o n t i n u e , a n d j o i n

e d g e s o f t h e c o m p u t a t i o n . T h e s e d e p e n d e n c y e d g e s f o r m a d i r e c t e d g r a p h o f i n s t r u c t i o n s ,

a n d n o p r o c e s s o r m a y e x e c u t e a n i n s t r u c t i o n u n t i l a f t e r a l l o f t h e i n s t r u c t i o n ' s p r e d e c e s s o r s

i n t h i s g r a p h h a v e b e e n e x e c u t e d . S o t h a t e x e c u t i o n s c h e d u l e s e x i s t , t h i s g r a p h m u s t b e

a c y c l i c . T h a t i s , i t m u s t b e a d i r e c t e d a c y c l i c g r a p h , o r d a g . A t a n y g i v e n s t e p o f a n

e x e c u t i o n s c h e d u l e , a n i n s t r u c t i o n i s r e a d y i f a l l o f i t s p r e d e c e s s o r s i n t h e d a g h a v e b e e n

e x e c u t e d .

W e m a k e t h e s i m p l i f y i n g a s s u m p t i o n t h a t a p a r e n t t h r e a d r e m a i n s a l i v e u n t i l a l l i t s

c h i l d r e n d i e , a n d t h u s , a t h r e a d d o e s n o t d e a l l o c a t e i t s a c t i v a t i o n f r a m e u n t i l a l l i t s c h i l d r e n ' s

f r a m e s h a v e b e e n d e a l l o c a t e d . A l t h o u g h t h i s a s s u m p t i o n i s n o t a b s o l u t e l y n e c e s s a r y , i t g i v e s

t h e e x e c u t i o n a n a t u r a l s t r u c t u r e , a n d i t w i l l s i m p l i f y o u r a n a l y s e s o f s p a c e u t i l i z a t i o n . I n

a c c o u n t i n g f o r s p a c e u t i l i z a t i o n , w e a l s o a s s u m e t h a t t h e f r a m e s h o l d a l l t h e v a l u e s u s e d b y

t h e c o m p u t a t i o n ; t h e r e i s n o g l o b a l s t o r a g e a v a i l a b l e t o t h e c o m p u t a t i o n o u t s i d e t h e f r a m e s

( o r i f s u c h s t o r a g e i s a v a i l a b l e , t h e n w e d o n o t a c c o u n t f o r i t ) . T h e r e f o r e , t h e s p a c e u s e d

a t a g i v e n t i m e i n e x e c u t i n g a c o m p u t a t i o n i s t h e t o t a l s i z e o f a l l f r a m e s u s e d b y a l l l i v i n g

t h r e a d s a t t h a t t i m e , a n d t h e t o t a l s p a c e u s e d i n e x e c u t i n g a c o m p u t a t i o n i s t h e m a x i m u m

s u c h v a l u e o v e r t h e c o u r s e o f t h e e x e c u t i o n .

T o s u m m a r i z e , a m u l t i t h r e a d e d c o m p u t a t i o n c a n b e v i e w e d a s a d a g o f i n s t r u c t i o n s c o n -

n e c t e d b y d e p e n d e n c y e d g e s . T h e i n s t r u c t i o n s a r e c o n n e c t e d b y c o n t i n u e e d g e s i n t o t h r e a d s ,

a n d t h e t h r e a d s f o r m a s p a w n t r e e w i t h t h e s p a w n e d g e s . W h e n a t h r e a d i s s p a w n e d , a n

a c t i v a t i o n f r a m e i s a l l o c a t e d a n d t h i s f r a m e r e m a i n s a l l o c a t e d a s l o n g a s t h e t h r e a d r e m a i n s

a l i v e . A l i v i n g t h r e a d m a y b e e i t h e r r e a d y o r s t a l l e d d u e t o a n u n r e s o l v e d d e p e n d e n c y .

A g i v e n m u l t i t h r e a d e d p r o g r a m w h e n r u n o n a g i v e n i n p u t c a n s o m e t i m e s g e n e r a t e m o r e

t h a n o n e m u l t i t h r e a d e d c o m p u t a t i o n . I n t h a t c a s e , w e s a y t h e p r o g r a m i s n o n d e t e r m i n -

i s t i c . I f t h e s a m e m u l t i t h r e a d e d c o m p u t a t i o n i s g e n e r a t e d b y t h e p r o g r a m o n t h e i n p u t

n o m a t t e r h o w t h e c o m p u t a t i o n i s s c h e d u l e d , t h e n t h e p r o g r a m i s d e t e r m i n i s t i c . I n t h i s

p a p e r , w e s h a l l a n a l y z e m u l t i t h r e a d e d c o m p u t a t i o n s , n o t m u l t i t h r e a d e d p r o g r a m s . S p e c i -

c a l l y , w e s h a l l n o t w o r r y a b o u t h o w t h e m u l t i t h r e a d e d c o m p u t a t i o n i s g e n e r a t e d . I n s t e a d ,

w e s h a l l s t u d y i t s p r o p e r t i e s i n a n a p o s t e r i o r i f a s h i o n .

B e c a u s e m u l t i t h r e a d e d c o m p u t a t i o n s w i t h a r b i t r a r y d e p e n d e n c i e s c a n b e i m p o s s i b l e t o

s c h e d u l e e c i e n t l y 1 0 ] , w e s t u d y s u b c l a s s e s o f g e n e r a l m u l t i t h r e a d e d c o m p u t a t i o n s i n w h i c h

t h e k i n d s o f s y n c r h o n i z a t i o n s t h a t c a n o c c u r a r e r e s t r i c t e d . A s t r i c t m u l t i t h r e a d e d c o m -

p u t a t i o n i s o n e i n w h i c h a l l j o i n e d g e s f r o m a t h r e a d g o t o a n a n c e s t o r o f t h e t h r e a d i n

t h e a c t i v a t i o n t r e e . I n a s t r i c t c o m p u t a t i o n , t h e o n l y e d g e i n t o a s u b t r e e ( e m a n a t i n g f r o m

o u t s i d e t h e s u b t r e e ) i s t h e s p a w n e d g e t h a t s p a w n s t h e s u b t r e e ' s r o o t t h r e a d . F o r e x a m p l e ,

t h e c o m p u t a t i o n o f F i g u r e 1 i s s t r i c t , a n d t h e o n l y e d g e i n t o t h e s u b t r e e r o o t e d a t

2

i s t h e

s p a w n e d g e ( v

2

; v

3

) . T h u s , s t r i c t n e s s m e a n s t h a t a t h r e a d c a n n o t b e i n v o k e d b e f o r e a l l o f

i t s a r g u m e n t s a r e a v a i l a b l e , a l t h o u g h t h e a r g u m e n t s c a n b e g a r n e r e d i n p a r a l l e l . A f u l l y

s t r i c t c o m p u t a t i o n i s o n e i n w h i c h a l l j o i n e d g e s f r o m a t h r e a d g o t o t h e t h r e a d ' s p a r e n t . A

f u l l y s t r i c t c o m p u t a t i o n i s , i n a s e n s e , a \ w e l l - s t r u c t u r e d " c o m p u t a t i o n , i n t h a t a l l j o i n e d g e s

f r o m a s u b t r e e ( o f t h e s p a w n t r e e ) e m a n a t e f r o m t h e s u b t r e e ' s r o o t . T h e e x a m p l e c o m p u -

5



t a t i o n o f F i g u r e 1 i s f u l l y s t r i c t . A n y m u l t i t h r e a d e d c o m p u t a t i o n t h a t c a n b e e x e c u t e d i n a

d e p t h - r s t m a n n e r o n a s i n g l e p r o c e s s o r c a n b e m a d e e i t h e r s t r i c t o r f u l l y s t r i c t b y a l t e r i n g

t h e d e p e n d e n c y s t r u c t u r e , p o s s i b l y a e c t i n g t h e a c h i e v a b l e p a r a l l e l i s m , b u t n o t a e c t i n g t h e

s e m a n t i c s o f t h e c o m p u t a t i o n 5 ] .

W e q u a n t i f y a n d b o u n d t h e e x e c u t i o n t i m e o f a c o m p u t a t i o n o n a P - p r o c e s s o r p a r a l l e l

c o m p u t e r i n t e r m s o f t h e c o m p u t a t i o n ' s \ w o r k " a n d \ c r i t i c a l - p a t h l e n g t h . " W e d e n e t h e

w o r k o f t h e c o m p u t a t i o n t o b e t h e t o t a l n u m b e r o f i n s t r u c t i o n s a n d t h e c r i t i c a l - p a t h

l e n g t h t o b e t h e l e n g t h o f a l o n g e s t d i r e c t e d p a t h i n t h e d a g . O u r e x a m p l e c o m p u t a t i o n

( F i g u r e 1 ) h a s w o r k 2 3 a n d c r i t i c a l - p a t h l e n g t h 1 0 . F o r a g i v e n c o m p u t a t i o n , l e t T ( X ) d e n o t e

t h e t i m e t o e x e c u t e t h e c o m p u t a t i o n u s i n g P - p r o c e s s o r e x e c u t i o n s c h e d u l e X , a n d l e t

T

P

= m i n

X

T ( X )

d e n o t e t h e m i n i m u m e x e c u t i o n t i m e w i t h P p r o c e s s o r s | t h e m i n i m u m b e i n g t a k e n o v e r a l l P -

p r o c e s s o r e x e c u t i o n s c h e d u l e s f o r t h e c o m p u t a t i o n . T h e n T

1

i s t h e w o r k o f t h e c o m p u t a t i o n ,

s i n c e a 1 - p r o c e s s o r c o m p u t e r c a n o n l y e x e c u t e o n e i n s t r u c t i o n a t e a c h s t e p , a n d T

1

i s t h e

c r i t i c a l - p a t h l e n g t h , s i n c e e v e n w i t h a r b i t r a r i l y m a n y p r o c e s s o r s , e a c h i n s t r u c t i o n o n a p a t h

m u s t e x e c u t e s e r i a l l y . N o t i c e t h a t w e m u s t h a v e T

P

T

1

= P , b e c a u s e P p r o c e s s o r s c a n

e x e c u t e o n l y P i n s t r u c t i o n s p e r t i m e s t e p , a n d o f c o u r s e , w e m u s t h a v e T

P

T

1

.

E a r l y w o r k o n d a g s c h e d u l i n g b y B r e n t 1 3 ] a n d G r a h a m 2 7 , 2 8 ] s h o w s t h a t t h e r e e x i s t P -

p r o c e s s o r e x e c u t i o n s c h e d u l e s X w i t h T ( X ) T

1

= P + T

1

. A s t h e s u m o f t w o l o w e r b o u n d s ,

t h i s u p p e r b o u n d i s u n i v e r s a l l y o p t i m a l t o w i t h i n a f a c t o r o f 2 . T h e f o l l o w i n g t h e o r e m ,

p r o v e d i n 1 0 , 2 0 ] , e x t e n d s t h e s e r e s u l t s m i n i m a l l y t o s h o w t h a t t h i s u p p e r b o u n d o n T

P

c a n

b e o b t a i n e d b y g r e e d y s c h e d u l e s : t h o s e i n w h i c h a t e a c h s t e p o f t h e e x e c u t i o n , i f a t l e a s t

P i n s t r u c t i o n s a r e r e a d y , t h e n P i n s t r u c t i o n s e x e c u t e , a n d i f f e w e r t h a n P i n s t r u c t i o n s a r e

r e a d y , t h e n a l l e x e c u t e .

T h e o r e m 1 ( T h e g r e e d y - s c h e d u l i n g t h e o r e m ) F o r a n y m u l t i t h r e a d e d c o m p u t a t i o n w i t h w o r k

T

1

a n d c r i t i c a l - p a t h l e n g t h T

1

, a n d f o r a n y n u m b e r P o f p r o c e s s o r s , a n y g r e e d y P - p r o c e s s o r

e x e c u t i o n s c h e d u l e X a c h i e v e s T ( X ) T

1

= P + T

1

.

G e n e r a l l y , w e a r e i n t e r e s t e d i n s c h e d u l e s t h a t a c h i e v e l i n e a r s p e e d u p , t h a t i s T ( X ) =

O ( T

1

= P ) . F o r a g r e e d y s c h e d u l e , l i n e a r s p e e d u p o c c u r s w h e n t h e p a r a l l e l i s m , w h i c h w e

d e n e t o b e T

1

= T

1

, s a t i s e s T

1

= T

1

= ( P ) .

T o q u a n t i f y t h e s p a c e u s e d b y a g i v e n e x e c u t i o n s c h e d u l e o f a c o m p u t a t i o n , w e d e n e t h e

s t a c k d e p t h o f a t h r e a d t o b e t h e s u m o f t h e s i z e s o f t h e a c t i v a t i o n f r a m e s o f a l l i t s a n c e s t o r s ,

i n c l u d i n g i t s e l f . T h e s t a c k d e p t h o f a m u l t i t h r e a d e d c o m p u t a t i o n i s t h e m a x i m u m s t a c k

d e p t h o f a n y o f i t s t h r e a d s . W e s h a l l d e n o t e b y S

1

t h e m i n i m u m a m o u n t o f s p a c e p o s s i b l e f o r

a n y 1 - p r o c e s s o r e x e c u t i o n o f a m u l t i t h r e a d e d c o m p u t a t i o n , w h i c h i s e q u a l t o t h e s t a c k d e p t h

o f t h e c o m p u t a t i o n . L e t S ( X ) d e n o t e t h e s p a c e u s e d b y a P - p r o c e s s o r e x e c u t i o n s c h e d u l e

X o f a m u l t i t h r e a d e d c o m p u t a t i o n . W e s h a l l b e i n t e r e s t e d i n t h o s e e x e c u t i o n s c h e d u l e s t h a t

e x h i b i t a t m o s t l i n e a r e x p a n s i o n o f s p a c e , t h a t i s , S ( X ) = O ( S

1

P ) , w h i c h i s e x i s t e n t i a l l y

o p t i m a l t o w i t h i n a c o n s t a n t f a c t o r 1 0 ] .

6



3 T h e b u s y - l e a v e s p r o p e r t y

O n c e a t h r e a d h a s b e e n s p a w n e d i n a s t r i c t c o m p u t a t i o n , a s i n g l e p r o c e s s o r c a n c o m p l e t e

t h e e x e c u t i o n o f t h e e n t i r e s u b c o m p u t a t i o n r o o t e d a t e v e n i f n o o t h e r p r o g r e s s i s m a d e

o n o t h e r p a r t s o f t h e c o m p u t a t i o n . I n o t h e r w o r d s , f r o m t h e t i m e t h e t h r e a d i s s p a w n e d

u n t i l t h e t i m e d i e s , t h e r e i s a l w a y s a t l e a s t o n e t h r e a d f r o m t h e s u b c o m p u t a t i o n r o o t e d

a t t h a t i s r e a d y . I n p a r t i c u l a r , n o l e a f t h r e a d i n a s t r i c t m u l t i t h r e a d e d c o m p u t a t i o n c a n

s t a l l . A s w e s h a l l s e e , t h i s p r o p e r t y a l l o w s a n e x e c u t i o n s c h e d u l e t o k e e p t h e l e a v e s \ b u s y . "

B y c o m b i n i n g t h i s \ b u s y - l e a v e s " p r o p e r t y w i t h t h e g r e e d y p r o p e r t y , w e d e r i v e e x e c u t i o n

s c h e d u l e s t h a t s i m u l t a n e o u s l y e x h i b i t l i n e a r s p e e d u p a n d l i n e a r e x p a n s i o n o f s p a c e .

I n t h i s s e c t i o n , w e s h o w t h a t f o r a n y n u m b e r P o f p r o c e s s o r s a n d a n y s t r i c t m u l t i t h r e a d e d

c o m p u t a t i o n w i t h w o r k T

1

, c r i t i c a l - p a t h l e n g t h T

1

, a n d s t a c k d e p t h S

1

, t h e r e e x i s t s a P -

p r o c e s s o r e x e c u t i o n s c h e d u l e X t h a t a c h i e v e s t i m e T ( X ) T

1

= P + T

1

a n d s p a c e S ( X ) S

1

P

s i m u l t a n e o u s l y . W e g i v e a s i m p l e o n l i n e P - p r o c e s s o r p a r a l l e l a l g o r i t h m | t h e B u s y - L e a v e s

A l g o r i t h m | t o c o m p u t e s u c h a s c h e d u l e . T h i s s i m p l e a l g o r i t h m w i l l f o r m t h e b a s i s f o r t h e

r a n d o m i z e d w o r k - s t e a l i n g a l g o r i t h m p r e s e n t e d i n S e c t i o n 4 .

T h e B u s y - L e a v e s A l g o r i t h m o p e r a t e s o n l i n e i n t h e f o l l o w i n g s e n s e . B e f o r e t h e t t h s t e p ,

t h e a l g o r i t h m h a s c o m p u t e d a n d e x e c u t e d t h e r s t t 1 s t e p s o f t h e e x e c u t i o n s c h e d u l e .

A t t h e t t h s t e p , t h e a l g o r i t h m u s e s o n l y i n f o r m a t i o n f r o m t h e p o r t i o n o f t h e c o m p u t a t i o n

r e v e a l e d s o f a r i n t h e e x e c u t i o n t o c o m p u t e a n d e x e c u t e t h e t t h s t e p o f t h e s c h e d u l e . I n

p a r t i c u l a r , i t d o e s n o t u s e a n y i n f o r m a t i o n f r o m i n s t r u c t i o n s n o t y e t e x e c u t e d o r t h r e a d s n o t

y e t s p a w n e d .

T h e B u s y - L e a v e s A l g o r i t h m m a i n t a i n s a l l l i v i n g t h r e a d s i n a s i n g l e t h r e a d p o o l w h i c h

i s u n i f o r m l y a v a i l a b l e t o a l l P p r o c e s s o r s . W h e n s p a w n s o c c u r , n e w t h r e a d s a r e a d d e d t o

t h i s g l o b a l p o o l , a n d w h e n a p r o c e s s o r n e e d s w o r k , i t r e m o v e s a r e a d y t h r e a d f r o m t h e p o o l .

T h o u g h w e d e s c r i b e t h e a l g o r i t h m a s a P - p r o c e s s o r p a r a l l e l a l g o r i t h m , w e s h a l l n o t a n a l y z e i t

a s s u c h . S p e c i c a l l y , i n c o m p u t i n g t h e t t h s t e p o f t h e s c h e d u l e , w e a l l o w e a c h p r o c e s s o r t o a d d

t h r e a d s t o t h e t h r e a d p o o l a n d d e l e t e t h r e a d s f r o m i t . T h u s , w e i g n o r e t h e e e c t s o f p r o c e s s o r s

c o n t e n d i n g f o r a c c e s s t o t h e p o o l . I n f a c t , w e s h a l l o n l y a n a l y z e p r o p e r t i e s o f t h e s c h e d u l e

i t s e l f a n d i g n o r e t h e c o s t i n c u r r e d b y t h e a l g o r i t h m i n c o m p u t i n g t h e s c h e d u l e . ( S c h e d u l i n g

o v e r h e a d s w i l l b e a n a l y z e d f o r t h e r a n d o m i z e d w o r k - s t e a l i n g a l g o r i t h m , h o w e v e r . )

T h e B u s y - L e a v e s A l g o r i t h m o p e r a t e s a s f o l l o w s . T h e a l g o r i t h m b e g i n s w i t h t h e r o o t

t h r e a d i n t h e g l o b a l t h r e a d p o o l a n d a l l p r o c e s s o r s i d l e . A t t h e b e g i n n i n g o f e a c h s t e p , e a c h

p r o c e s s o r e i t h e r i s i d l e o r h a s a t h r e a d t o w o r k o n . T h o s e p r o c e s s o r s t h a t a r e i d l e b e g i n t h e

s t e p b y a t t e m p t i n g t o r e m o v e a n y r e a d y t h r e a d f r o m t h e p o o l . I f t h e r e a r e s u c i e n t l y m a n y

r e a d y t h r e a d s i n t h e p o o l t o s a t i s f y a l l o f t h e i d l e p r o c e s s o r s , t h e n e v e r y i d l e p r o c e s s o r g e t s

a r e a d y t h r e a d t o w o r k o n . O t h e r w i s e , s o m e p r o c e s s o r s r e m a i n i d l e . T h e n , e a c h p r o c e s s o r

t h a t h a s a t h r e a d t o w o r k o n e x e c u t e s t h e n e x t i n s t r u c t i o n f r o m t h a t t h r e a d . I n g e n e r a l ,

o n c e a p r o c e s s o r h a s a t h r e a d , c a l l i t

a

, t o w o r k o n , i t e x e c u t e s a n i n s t r u c t i o n f r o m

a

a t

e a c h s t e p u n t i l t h e t h r e a d e i t h e r s p a w n s , s t a l l s , o r d i e s , i n w h i c h c a s e , i t p e r f o r m s a c c o r d i n g

t o t h e f o l l o w i n g r u l e s .

S p a w n s : I f t h e t h r e a d

a

s p a w n s a c h i l d

b

, t h e n t h e p r o c e s s o r n i s h e s t h e c u r r e n t

s t e p b y r e t u r n i n g

a

t o t h e t h r e a d p o o l . T h e p r o c e s s o r b e g i n s t h e n e x t s t e p w o r k i n g

o n

b

.

7



p r o c e s s o r a c t i v i t y

s t e p t h r e a d p o o l p

1

p

2

1

1

: v

1

2 v

2

3

2

: v

3

1

: v

1 6

4

2

3

: v

4

v

1 7

5

1

2

v

5

6

: v

1 8

6

1

2

: v

6

v

1 9

7

1

2

4

: v

7

v

2 0

8

2

v

8

1

: v

2 1

9

1

2

: v

9

1 0

1

5

: v

1 0

2

: v

1 3

1 1

1

v

1 1

v

1 4

1 2

2

v

1 2

1

: v

2 2

1 3

1

2

: v

1 5

1 4

1

: v

2 3

F i g u r e 2 : A 2 - p r o c e s s o r e x e c u t i o n s c h e d u l e c o m p u t e d b y t h e B u s y - L e a v e s A l g o r i t h m f o r t h e c o m -

p u t a t i o n o f F i g u r e 1 . T h i s s c h e d u l e l i s t s t h e l i v i n g t h r e a d s i n t h e g l o b a l t h r e a d p o o l a t e a c h s t e p

j u s t a f t e r e a c h i d l e p r o c e s s o r h a s r e m o v e d a r e a d y t h r e a d . I t a l s o l i s t s t h e r e a d y t h r e a d b e i n g

w o r k e d o n a n d t h e i n s t r u c t i o n e x e c u t e d b y e a c h o f t h e 2 p r o c e s s o r s , p

1

a n d p

2

, a t e a c h s t e p . L i v i n g

t h r e a d s t h a t a r e r e a d y a r e l i s t e d i n b o l d . T h e o t h e r l i v i n g t h r e a d s a r e s t a l l e d .

S t a l l s : I f t h e t h r e a d

a

s t a l l s , t h e n t h e p r o c e s s o r n i s h e s t h e c u r r e n t s t e p b y r e t u r n i n g

a

t o t h e t h r e a d p o o l . T h e p r o c e s s o r b e g i n s t h e n e x t s t e p i d l e .

D i e s : I f t h e t h r e a d

a

d i e s , t h e n t h e p r o c e s s o r n i s h e s t h e c u r r e n t s t e p b y c h e c k i n g t o

s e e i f

a

' s p a r e n t t h r e a d

b

c u r r e n t l y h a s a n y l i v i n g c h i l d r e n . I f

b

h a s n o l i v e c h i l d r e n

a n d n o o t h e r p r o c e s s o r i s w o r k i n g o n

b

, t h e n t h e p r o c e s s o r t a k e s

b

f r o m t h e p o o l

a n d b e g i n s t h e n e x t s t e p w o r k i n g o n

b

. O t h e r w i s e , t h e p r o c e s s o r b e g i n s t h e n e x t s t e p

i d l e .

F i g u r e 2 i l l u s t r a t e s t h e s e t h r e e r u l e s i n a 2 - p r o c e s s o r e x e c u t i o n s c h e d u l e c o m p u t e d b y

t h e B u s y - L e a v e s A l g o r i t h m o n t h e c o m p u t a t i o n o f F i g u r e 1 . R u l e

: A t s t e p 2 , p r o c e s s o r

p

1

w o r k i n g o n t h r e a d

1

e x e c u t e s v

2

w h i c h s p a w n s t h e c h i l d

2

, s o p

1

p l a c e s

1

b a c k i n t h e

p o o l ( t o b e p i c k e d u p a t t h e b e g i n n i n g o f t h e n e x t s t e p b y t h e i d l e p

2

) a n d b e g i n s t h e n e x t

s t e p w o r k i n g o n

2

. R u l e : A t s t e p 8 , p r o c e s s o r p

2

w o r k i n g o n t h r e a d

1

e x e c u t e s v

2 1

a n d

1

s t a l l s , s o p

2

r e t u r n s

1

t o t h e p o o l a n d b e g i n s t h e n e x t s t e p i d l e ( a n d r e m a i n s i d l e s i n c e

t h e t h r e a d p o o l c o n t a i n s n o r e a d y t h r e a d s ) . R u l e : A t s t e p 1 3 , p r o c e s s o r p

1

w o r k i n g o n

2

e x e c u t e s v

1 5

a n d

2

d i e s , s o p

1

r e t r i e v e s t h e p a r e n t

1

f r o m t h e p o o l a n d b e g i n s t h e n e x t

s t e p w o r k i n g o n

1

.

B e s i d e s b e i n g g r e e d y , f o r a n y s t r i c t c o m p u t a t i o n , t h e s c h e d u l e c o m p u t e d b y t h e B u s y -

L e a v e s A l g o r i t h m m a i n t a i n s t h e b u s y - l e a v e s p r o p e r t y : a t e v e r y t i m e s t e p d u r i n g t h e

e x e c u t i o n , e v e r y l e a f i n t h e \ s p a w n s u b t r e e " h a s a p r o c e s s o r w o r k i n g o n i t . W e d e n e t h e

s p a w n s u b t r e e a t a n y t i m e s t e p t t o b e t h e p o r t i o n o f t h e s p a w n t r e e c o n s i s t i n g o f j u s t

8



t h o s e t h r e a d s t h a t a r e a l i v e a t s t e p t . T o r e s t a t e t h e b u s y - l e a v e s p r o p e r t y , a t e v e r y t i m e s t e p ,

e v e r y l i v i n g t h r e a d t h a t h a s n o l i v i n g d e s c e n d a n t s h a s a p r o c e s s o r w o r k i n g o n i t . W e s h a l l

n o w p r o v e t h i s f a c t a n d s h o w t h a t i t i m p l i e s l i n e a r e x p a n s i o n o f s p a c e . I t i s w o r t h n o t i n g

t h a t n o t e v e r y m u l t i t h r e a d e d c o m p u t a t i o n h a s a s c h e d u l e t h a t m a i n t a i n s t h e b u s y - l e a v e s

p r o p e r t y , b u t e v e r y s t r i c t m u l t i t h r e a d e d c o m p u t a t i o n d o e s . W e b e g i n b y s h o w i n g t h a t a n y

s c h e d u l e t h a t m a i n t a i n s t h e b u s y - l e a v e s p r o p e r t y e x h i b i t s l i n e a r e x p a n s i o n o f s p a c e .

L e m m a 2 F o r a n y m u l t i t h r e a d e d c o m p u t a t i o n w i t h s t a c k d e p t h S

1

, a n y P - p r o c e s s o r e x e c u t i o n

s c h e d u l e X t h a t m a i n t a i n s t h e b u s y - l e a v e s p r o p e r t y u s e s s p a c e b o u n d e d b y S ( X ) S

1

P .

P r o o f : T h e b u s y - l e a v e s p r o p e r t y i m p l i e s t h a t a t a l l t i m e s t e p s t , t h e s p a w n s u b t r e e h a s a t

m o s t P l e a v e s . F o r e a c h s u c h l e a f , t h e s p a c e u s e d b y i t a n d a l l o f i t s a n c e s t o r s i s a t m o s t S

1

,

a n d t h e r e f o r e , t h e s p a c e i n u s e a t a n y t i m e s t e p t i s a t m o s t S

1

P .

F o r s c h e d u l e s t h a t m a i n t a i n t h e b u s y - l e a v e s p r o p e r t y , t h e u p p e r b o u n d S

1

P i s c o n s e r -

v a t i v e . B y c h a r g i n g S

1

s p a c e f o r e a c h b u s y l e a f , w e m a y b e o v e r c h a r g i n g . F o r s o m e c o m -

p u t a t i o n s , b y k n o w i n g t h a t t h e s c h e d u l e p r e s e r v e s t h e b u s y - l e a v e s p r o p e r t y , w e c a n a p p e a l

d i r e c t l y t o t h e f a c t t h a t t h e s p a w n s u b t r e e n e v e r h a s m o r e t h a n P l e a v e s t o o b t a i n t i g h t

b o u n d s o n s p a c e u s a g e 6 ] .

W e n i s h t h i s s e c t i o n b y s h o w i n g t h a t f o r s t r i c t c o m p u t a t i o n s , t h e B u s y - L e a v e s A l g o r i t h m

c o m p u t e s a s c h e d u l e t h a t i s b o t h g r e e d y a n d m a i n t a i n s t h e b u s y - l e a v e s p r o p e r t y .

T h e o r e m 3 F o r a n y n u m b e r P o f p r o c e s s o r s a n d a n y s t r i c t m u l t i t h r e a d e d c o m p u t a t i o n w i t h

w o r k T

1

, c r i t i c a l - p a t h l e n g t h T

1

, a n d s t a c k d e p t h S

1

, t h e B u s y - L e a v e s A l g o r i t h m c o m p u t e s

a P - p r o c e s s o r e x e c u t i o n s c h e d u l e X w h o s e e x e c u t i o n t i m e s a t i s e s T ( X ) T

1

= P + T

1

a n d

w h o s e s p a c e s a t i s e s S ( X ) S

1

P .

P r o o f : T h e t i m e b o u n d f o l l o w s d i r e c t l y f r o m t h e g r e e d y - s c h e d u l i n g t h e o r e m ( T h e o r e m 1 ) ,

s i n c e t h e B u s y - L e a v e s A l g o r i t h m c o m p u t e s a g r e e d y s c h e d u l e . T h e s p a c e b o u n d f o l l o w s f r o m

L e m m a 2 i f w e c a n s h o w t h a t t h e B u s y - L e a v e s A l g o r i t h m m a i n t a i n s t h e b u s y - l e a v e s p r o p e r t y .

W e p r o v e t h i s f a c t b y i n d u c t i o n o n t h e n u m b e r o f s t e p s . A t t h e r s t s t e p o f t h e a l g o r i t h m , t h e

s p a w n s u b t r e e c o n t a i n s j u s t t h e r o o t t h r e a d w h i c h i s a l e a f , a n d s o m e p r o c e s s o r i s w o r k i n g

o n i t . W e m u s t s h o w t h a t a l l o f t h e a l g o r i t h m r u l e s p r e s e r v e t h e b u s y - l e a v e s p r o p e r t y . W h e n

a p r o c e s s o r h a s a t h r e a d

a

t o w o r k o n , i t e x e c u t e s i n s t r u c t i o n s f r o m t h a t t h r e a d u n t i l i t

e i t h e r s p a w n s , s t a l l s , o r d i e s . R u l e : I f

a


b

, t h e n

a

i s n o t a l e a f ( e v e n i f i t

w a s b e f o r e ) a n d

b

i s a l e a f . I n t h i s c a s e , t h e p r o c e s s o r w o r k s o n

b

, s o t h e n e w l e a f i s b u s y .

R u l e : I f

a

s t a l l s , t h e n

a

c a n n o t b e a l e a f s i n c e i n a s t r i c t c o m p u t a t i o n , t h e u n r e s o l v e d

d e p e n d e n c y m u s t c o m e f r o m a d e s c e n d a n t . R u l e

: I f

a

d i e s , t h e n i t s p a r e n t t h r e a d

b

m a y t u r n i n t o a l e a f . I n t h i s c a s e , t h e p r o c e s s o r w o r k s o n

b

u n l e s s s o m e o t h e r p r o c e s s o r

a l r e a d y i s , s o t h e n e w l e a f i s g u a r a n t e e d t o b e b u s y .

W e n o w k n o w t h a t e v e r y s t r i c t m u l t i t h r e a d e d c o m p u t a t i o n h a s a n e c i e n t e x e c u t i o n

s c h e d u l e , a n d w e k n o w h o w t o n d i t . B u t t h e s e f a c t s t a k e u s o n l y s o f a r . E x e c u t i o n s c h e d u l e s

m u s t b e c o m p u t e d e c i e n t l y o n l i n e , a n d t h o u g h t h e B u s y - L e a v e s A l g o r i t h m d o e s c o m p u t e

e c i e n t e x e c u t i o n s c h e d u l e s a n d d o e s o p e r a t e o n l i n e , i t s u r e l y d o e s n o t d o s o e c i e n t l y ,

e x c e p t p o s s i b l y i n t h e c a s e o f s m a l l - s c a l e s y m m e t r i c m u l t i p r o c e s s o r s . T h i s l a c k o f s c a l a b i l i t y

i s a c o n s e q u e n c e o f e m p l o y i n g a s i n g l e c e n t r a l i z e d t h r e a d p o o l a t w h i c h a l l p r o c e s s o r s m u s t

c o n t e n d f o r a c c e s s . I n t h e n e x t s e c t i o n , w e p r e s e n t a d i s t r i b u t e d o n l i n e s c h e d u l i n g a l g o r i t h m ,

a n d i n t h e f o l l o w i n g s e c t i o n s , w e p r o v e t h a t i t i s b o t h e c i e n t a n d s c a l a b l e .

9



4 A r a n d o m i z e d w o r k - s t e a l i n g a l g o r i t h m

I n t h i s s e c t i o n , w e p r e s e n t a n o n l i n e , r a n d o m i z e d w o r k - s t e a l i n g a l g o r i t h m f o r s c h e d u l i n g m u l -

t i t h r e a d e d c o m p u t a t i o n s o n a p a r a l l e l c o m p u t e r . A l s o , w e p r e s e n t a n i m p o r t a n t s t r u c t u r a l

l e m m a w h i c h i s u s e d a t t h e e n d o f t h i s s e c t i o n t o s h o w t h a t f o r f u l l y s t r i c t c o m p u t a t i o n s , t h i s

a l g o r i t h m c a u s e s a t m o s t a l i n e a r e x p a n s i o n o f s p a c e . T h i s l e m m a r e a p p e a r s i n S e c t i o n 6 t o

s h o w t h a t f o r f u l l y s t r i c t c o m p u t a t i o n s , t h i s a l g o r i t h m a c h i e v e s l i n e a r s p e e d u p a n d g e n e r a t e s

e x i s t e n t i a l l y o p t i m a l a m o u n t s o f c o m m u n i c a t i o n .

I n t h e W o r k - S t e a l i n g A l g o r i t h m , t h e c e n t r a l i z e d t h r e a d p o o l o f t h e B u s y - L e a v e s

A l g o r i t h m i s d i s t r i b u t e d a c r o s s t h e p r o c e s s o r s . S p e c i c a l l y , e a c h p r o c e s s o r m a i n t a i n s a r e a d y

d e q u e d a t a s t r u c t u r e o f t h r e a d s . T h e r e a d y d e q u e h a s t w o e n d s : a t o p a n d a b o t t o m .

T h r e a d s c a n b e i n s e r t e d o n t h e b o t t o m a n d r e m o v e d f r o m e i t h e r e n d . A p r o c e s s o r t r e a t s

i t s r e a d y d e q u e l i k e a c a l l s t a c k , p u s h i n g a n d p o p p i n g f r o m t h e b o t t o m . T h r e a d s t h a t a r e

m i g r a t e d t o o t h e r p r o c e s s o r s a r e r e m o v e d f r o m t h e t o p .

I n g e n e r a l , a p r o c e s s o r o b t a i n s w o r k b y r e m o v i n g t h e t h r e a d a t t h e b o t t o m o f i t s r e a d y

d e q u e . I t s t a r t s w o r k i n g o n t h e t h r e a d , c a l l i t

a

, a n d c o n t i n u e s e x e c u t i n g

a

' s i n s t r u c t i o n s

u n t i l

a

s p a w n s , s t a l l s , d i e s , o r e n a b l e s a s t a l l e d t h r e a d , i n w h i c h c a s e , i t p e r f o r m s a c c o r d i n g

t o t h e f o l l o w i n g r u l e s .

S p a w n s : I f t h e t h r e a d

a


b

, t h e n

a

i s p l a c e d o n t h e b o t t o m o f t h e

r e a d y d e q u e , a n d t h e p r o c e s s o r c o m m e n c e s w o r k o n

b

.

S t a l l s : I f t h e t h r e a d

a

s t a l l s , i t s p r o c e s s o r c h e c k s t h e r e a d y d e q u e . I f t h e d e q u e

c o n t a i n s a n y t h r e a d s , t h e n t h e p r o c e s s o r r e m o v e s a n d b e g i n s w o r k o n t h e b o t t o m m o s t

t h r e a d . I f t h e r e a d y d e q u e i s e m p t y , h o w e v e r , t h e p r o c e s s o r b e g i n s w o r k s t e a l i n g : i t

s t e a l s t h e t o p m o s t t h r e a d f r o m t h e r e a d y d e q u e o f a r a n d o m l y c h o s e n p r o c e s s o r a n d

b e g i n s w o r k o n i t . ( T h i s w o r k - s t e a l i n g s t r a t e g y i s e l a b o r a t e d b e l o w . )

D i e s : I f t h e t h r e a d

a

d i e s , t h e n t h e p r o c e s s o r f o l l o w s r u l e

a s i n t h e c a s e o f

a

s t a l l i n g .

E n a b l e s : I f t h e t h r e a d

a

e n a b l e s a s t a l l e d t h r e a d

b

, t h e n o w - r e a d y t h r e a d

b

i s

p l a c e d o n t h e b o t t o m o f t h e r e a d y d e q u e o f

a

' s p r o c e s s o r .

A t h r e a d c a n s i m u l t a n e o u s l y e n a b l e a s t a l l e d t h r e a d a n d s t a l l o r d i e , i n w h i c h c a s e w e r s t

p e r f o r m r u l e f o r e n a b l i n g a n d t h e n r u l e f o r s t a l l i n g o r r u l e f o r d y i n g . E x c e p t f o r

r u l e

f o r t h e c a s e w h e n a t h r e a d e n a b l e s a s t a l l e d t h r e a d , t h e s e r u l e s a r e a n a l o g o u s t o t h e

r u l e s o f t h e B u s y - L e a v e s A l g o r i t h m , a n d a s w e s h a l l s e e , r u l e

i s n e e d e d t o e n s u r e t h a t t h e

a l g o r i t h m m a i n t a i n s i m p o r t a n t s t r u c t u r a l p r o p e r t i e s , i n c l u d i n g t h e b u s y - l e a v e s p r o p e r t y .

T h e W o r k - S t e a l i n g A l g o r i t h m b e g i n s w i t h a l l r e a d y d e q u e s e m p t y . T h e r o o t t h r e a d o f

t h e m u l t i t h r e a d e d c o m p u t a t i o n i s p l a c e d i n t h e r e a d y d e q u e o f o n e p r o c e s s o r , w h i l e t h e o t h e r

p r o c e s s o r s s t a r t w o r k s t e a l i n g .

W h e n a p r o c e s s o r b e g i n s w o r k s t e a l i n g , i t o p e r a t e s a s f o l l o w s . T h e p r o c e s s o r b e c o m e s

a t h i e f a n d a t t e m p t s t o s t e a l w o r k f r o m a v i c t i m p r o c e s s o r c h o s e n u n i f o r m l y a t r a n d o m .

T h e t h i e f q u e r i e s t h e r e a d y d e q u e o f t h e v i c t i m , a n d i f i t i s n o n e m p t y , t h e t h i e f r e m o v e s a n d

b e g i n s w o r k o n t h e t o p t h r e a d . I f t h e v i c t i m ' s r e a d y d e q u e i s e m p t y , h o w e v e r , t h e t h i e f t r i e s

a g a i n , p i c k i n g a n o t h e r v i c t i m a t r a n d o m .

1 0



Γ k

Γ 2

Γ 1

Γ 0

currentlyexecutingthread

readydeque

F i g u r e 3 : T h e s t r u c t u r e o f a p r o c e s s o r ' s r e a d y d e q u e . T h e b l a c k i n s t r u c t i o n i n e a c h t h r e a d i n d i c a t e s

t h e t h r e a d ' s c u r r e n t l y r e a d y i n s t r u c t i o n . O n l y t h r e a d

k

m a y h a v e b e e n w o r k e d o n s i n c e i t l a s t

s p a w n e d a c h i l d . T h e d a s h e d e d g e s a r e t h e \ d e q u e e d g e s " i n t r o d u c e d i n S e c t i o n 6 .

W e n o w s t a t e a n d p r o v e a n i m p o r t a n t l e m m a o n t h e s t r u c t u r e o f t h r e a d s i n t h e r e a d y

d e q u e o f a n y p r o c e s s o r d u r i n g t h e e x e c u t i o n o f a f u l l y s t r i c t c o m p u t a t i o n . T h i s l e m m a i s

u s e d l a t e r i n t h i s s e c t i o n t o a n a l y z e e x e c u t i o n s p a c e a n d i n S e c t i o n 6 t o a n a l y z e e x e c u t i o n

t i m e a n d c o m m u n i c a t i o n . F i g u r e 3 i l l u s t r a t e s t h e l e m m a .

L e m m a 4 I n t h e e x e c u t i o n o f a n y f u l l y s t r i c t m u l t i t h r e a d e d c o m p u t a t i o n b y t h e W o r k - S t e a l i n g

A l g o r i t h m , c o n s i d e r a n y p r o c e s s o r p a n d a n y g i v e n t i m e s t e p a t w h i c h p i s w o r k i n g o n a

t h r e a d . L e t

0

b e t h e t h r e a d t h a t p i s w o r k i n g o n , l e t k b e t h e n u m b e r o f t h r e a d s i n p ' s r e a d y

d e q u e , a n d l e t

1

;

2

; : : : ;

k

d e n o t e t h e t h r e a d s i n p ' s r e a d y d e q u e o r d e r e d f r o m b o t t o m t o

t o p , s o t h a t

1

i s t h e b o t t o m m o s t a n d

k

i s t h e t o p m o s t . I f w e h a v e k > 0 , t h e n t h e t h r e a d s

i n p ' s r e a d y d e q u e s a t i s f y t h e f o l l o w i n g p r o p e r t i e s :

F o r i = 1 ; 2 ; : : : ; k , t h r e a d

i

i s t h e p a r e n t o f

i 1

.

I f w e h a v e k > 1 , t h e n f o r i = 1 ; 2 ; : : : ; k 1 , t h r e a d

i

h a s n o t b e e n w o r k e d o n s i n c e

i t s p a w n e d

i 1

.

P r o o f : T h e p r o o f i s a s t r a i g h t f o r w a r d i n d u c t i o n o n e x e c u t i o n t i m e . E x e c u t i o n b e g i n s w i t h

t h e r o o t t h r e a d i n s o m e p r o c e s s o r ' s r e a d y d e q u e a n d a l l o t h e r r e a d y d e q u e s e m p t y , s o t h e

l e m m a v a c u o u s l y h o l d s a t t h e o u t s e t . N o w , c o n s i d e r a n y s t e p o f t h e a l g o r i t h m a t w h i c h

p r o c e s s o r p e x e c u t e s a n i n s t r u c t i o n f r o m t h r e a d

0

. L e t

1

;

2

; : : : ;

k

d e n o t e t h e k t h r e a d s

i n p ' s r e a d y d e q u e b e f o r e t h e s t e p , a n d s u p p o s e t h a t e i t h e r k = 0 o r b o t h p r o p e r t i e s h o l d .

L e t

0

0

d e n o t e t h e t h r e a d ( i f a n y ) b e i n g w o r k e d o n b y p a f t e r t h e s t e p , a n d l e t

0

1

;

0

2

; : : : ;

0

k

0

d e n o t e t h e k

0

t h r e a d s i n p ' s r e a d y d e q u e a f t e r t h e s t e p . W e n o w l o o k a t t h e r u l e s o f t h e

a l g o r i t h m a n d s h o w t h a t t h e y a l l p r e s e r v e t h e l e m m a . T h a t i s , e i t h e r k

0

= 0 o r b o t h

p r o p e r t i e s h o l d a f t e r t h e s t e p .

R u l e

: I f

0

s p a w n s a c h i l d , t h e n p p u s h e s

0

o n t o t h e b o t t o m o f t h e r e a d y d e q u e

a n d c o m m e n c e s w o r k o n t h e c h i l d . T h u s ,

0

0

i s t h e c h i l d , w e h a v e k

0

= k + 1 > 0 , a n d

f o r j = 1 ; 2 ; : : : ; k

0

, w e h a v e

0

j

=

j 1

. S e e F i g u r e 4 . N o w , w e c a n c h e c k b o t h p r o p e r t i e s .

P r o p e r t y : I f k

0

> 1 , t h e n f o r j = 2 ; 3 ; : : : ; k

0

, t h r e a d

0

j


0

j 1

, s i n c e b e f o r e

t h e s p a w n w e h a v e k > 0 , w h i c h m e a n s t h a t f o r i = 1 ; 2 ; : : : ; k , t h r e a d

i


i 1

.

1 1



M o r e o v e r ,

0

1

i s o b v i o u s l y t h e p a r e n t o f

0

0

. P r o p e r t y : I f k

0

> 2 , t h e n f o r j = 2 ; 3 ; : : : ; k

0

1 ,

t h r e a d

0

j

h a s n o t b e e n w o r k e d o n s i n c e i t s p a w n e d

0

j 1

, b e c a u s e b e f o r e t h e s p a w n w e h a v e

k > 1 , w h i c h m e a n s t h a t f o r i = 1 ; 2 ; : : : ; k 1 , t h r e a d

i

h a s n o t b e e n w o r k e d o n s i n c e i t

s p a w n e d

i 1

. F i n a l l y , t h r e a d

0

1


0

0

, b e c a u s e t h e

s p a w n o n l y j u s t o c c u r r e d .

Γ k

Γ 2

Γ 1

Γ 0

Γ′k ′

Γ′3

Γ′2

Γ′1

Γ′0

( a ) B e f o r e s p a w n . ( b ) A f t e r s p a w n .

F i g u r e 4 : T h e r e a d y d e q u e o f a p r o c e s s o r b e f o r e a n d a f t e r t h e t h r e a d

0

t h a t i t i s w o r k i n g o n

s p a w n s a c h i l d . ( N o t e t h a t t h e t h r e a d s

0

a n d

0

0

a r e n o t a c t u a l l y i n t h e d e q u e ; t h e y a r e t h e

t h r e a d s b e i n g w o r k e d o n b e f o r e a n d a f t e r t h e s p a w n . )

R u l e s

a n d

: I f

0

s t a l l s o r d i e s , t h e n w e h a v e t w o c a s e s t o c o n s i d e r . I f k = 0 , t h e

r e a d y d e q u e i s e m p t y , s o t h e p r o c e s s o r c o m m e n c e s w o r k s t e a l i n g , a n d w h e n t h e p r o c e s s o r

s t e a l s a n d b e g i n s w o r k o n a t h r e a d , w e h a v e k

0

= 0 . I f k > 0 , t h e r e a d y d e q u e i s n o t

e m p t y , s o t h e p r o c e s s o r p o p s t h e b o t t o m m o s t t h r e a d o t h e d e q u e a n d c o m m e n c e s w o r k o n

i t . T h u s , w e h a v e

0

0

=

1

( t h e p o p p e d t h r e a d ) a n d k

0

= k 1 , a n d f o r j = 1 ; 2 ; : : : ; k

0

, w e

h a v e

0

j

=

j + 1

. S e e F i g u r e 5 . N o w , i f k

0

> 0 , w e c a n c h e c k b o t h p r o p e r t i e s . P r o p e r t y :

F o r j = 1 ; 2 ; : : : ; k

0

, t h r e a d

0

j


0

j 1

, s i n c e f o r i = 1 ; 2 ; : : : ; k , t h r e a d

i

i s t h e

p a r e n t o f

i 1

. P r o p e r t y : I f k

0

> 1 , t h e n f o r j = 1 ; 2 ; : : : ; k

0

1 , t h r e a d

0

j

h a s n o t b e e n

w o r k e d o n s i n c e i t s p a w n e d

0

j 1

, b e c a u s e b e f o r e t h e s t a l l o r d e a t h w e h a v e k > 2 , w h i c h

m e a n s t h a t f o r i = 2 ; 3 ; : : : ; k 1 , t h r e a d

i


i 1

.

Γ k

Γ 2

Γ 1

Γ 0

Γ′k ′

Γ′1

Γ′0

( a ) B e f o r e d e a t h . ( b ) A f t e r d e a t h .

F i g u r e 5 : T h e r e a d y d e q u e o f a p r o c e s s o r b e f o r e a n d a f t e r t h e t h r e a d

0

t h a t i t i s w o r k i n g o n d i e s .

( N o t e t h a t t h e t h r e a d s

0

a n d

0

0

a r e n o t a c t u a l l y i n t h e d e q u e ; t h e y a r e t h e t h r e a d s b e i n g w o r k e d

o n b e f o r e a n d a f t e r t h e d e a t h . )

R u l e : I f

0

e n a b l e s a s t a l l e d t h r e a d , t h e n d u e t o t h e f u l l y s t r i c t c o n d i t i o n , t h a t p r e -

v i o u s l y s t a l l e d t h r e a d m u s t b e

0

' s p a r e n t . F i r s t , w e o b s e r v e t h a t w e m u s t h a v e k = 0 . I f

1 2



w e h a v e k > 0 , t h e n t h e p r o c e s s o r ' s r e a d y d e q u e i s n o t e m p t y , a n d t h i s p a r e n t t h r e a d m u s t

b e b o t t o m m o s t i n t h e r e a d y d e q u e . T h u s , t h i s p a r e n t t h r e a d i s r e a d y a n d R u l e

d o e s n o t

a p p l y . W i t h k = 0 , t h e r e a d y d e q u e i s e m p t y a n d t h e p r o c e s s o r p l a c e s t h e p a r e n t t h r e a d o n

t h e b o t t o m o f t h e r e a d y d e q u e . W e h a v e

0

0

=

0

a n d k

0

= k + 1 = 1 w i t h

0

1

d e n o t i n g t h e

n e w l y e n a b l e d p a r e n t . W e o n l y h a v e t o c h e c k t h e r s t p r o p e r t y . P r o p e r t y

: T h r e a d

0

1

i s

o b v i o u s l y t h e p a r e n t o f

0

0

.

I f s o m e o t h e r p r o c e s s o r s t e a l s a t h r e a d f r o m p r o c e s s o r p , t h e n w e m u s t h a v e k > 0 , a n d

a f t e r t h e s t e a l w e h a v e k

0

= k 1 . I f k

0

> 0 h o l d s , t h e n b o t h p r o p e r t i e s a r e c l e a r l y p r e s e r v e d .

A l l o t h e r a c t i o n s b y p r o c e s s o r p | s u c h a s w o r k s t e a l i n g o r e x e c u t i n g a n i n s t r u c t i o n t h a t d o e s

n o t i n v o k e a n y o f t h e a b o v e r u l e s | c l e a r l y p r e s e r v e t h e l e m m a .

B e f o r e m o v i n g o n , i t i s w o r t h p o i n t i n g o u t h o w i t m a y h a p p e n t h a t t h r e a d

k

h a s b e e n

w o r k e d o n s i n c e i t s p a w n e d

k 1

, s i n c e P r o p e r t y e x c l u d e s

k

. T h i s s i t u a t i o n a r i s e s w h e n

k

i s s t o l e n f r o m p r o c e s s o r p a n d t h e n s t a l l s o n i t s n e w p r o c e s s o r . L a t e r ,

k

i s r e e n a b l e d b y

k 1

a n d b r o u g h t b a c k t o p r o c e s s o r p ' s r e a d y d e q u e . T h e k e y o b s e r v a t i o n i s t h a t w h e n

k

i s

r e e n a b l e d , p r o c e s s o r p ' s r e a d y d e q u e i s e m p t y a n d p i s w o r k i n g o n

k 1

. T h e o t h e r t h r e a d s

k 2

;

k 3

; : : : ;

0

s h o w n i n F i g u r e 3 w e r e s p a w n e d a f t e r

k

w a s r e e n a b l e d .

W e c o n c l u d e t h i s s e c t i o n b y b o u n d i n g t h e s p a c e u s e d b y t h e W o r k - S t e a l i n g A l g o r i t h m

e x e c u t i n g a f u l l y s t r i c t c o m p u t a t i o n .

T h e o r e m 5 F o r a n y f u l l y s t r i c t m u l t i t h r e a d e d c o m p u t a t i o n w i t h s t a c k d e p t h S

1

, t h e W o r k -

S t e a l i n g A l g o r i t h m r u n o n a c o m p u t e r w i t h P p r o c e s s o r s u s e s a t m o s t S

1

P s p a c e .

P r o o f : L i k e t h e B u s y - L e a v e s A l g o r i t h m , t h e W o r k - S t e a l i n g A l g o r i t h m m a i n t a i n s t h e b u s y -

l e a v e s p r o p e r t y : a t e v e r y t i m e s t e p o f t h e e x e c u t i o n , e v e r y l e a f i n t h e c u r r e n t s p a w n s u b t r e e

h a s a p r o c e s s o r w o r k i n g o n i t . I f w e c a n e s t a b l i s h t h i s f a c t , t h e n L e m m a 2 c o m p l e t e s t h e

p r o o f .

T h a t t h e W o r k - S t e a l i n g A l g o r i t h m m a i n t a i n s t h e b u s y - l e a v e s p r o p e r t y i s a s i m p l e c o n -

s e q u e n c e o f L e m m a 4 . A t e v e r y t i m e s t e p , e v e r y l e a f i n t h e c u r r e n t s p a w n s u b t r e e m u s t b e

r e a d y a n d t h e r e f o r e m u s t e i t h e r h a v e a p r o c e s s o r w o r k i n g o n i t o r b e i n t h e r e a d y d e q u e

o f s o m e p r o c e s s o r . B u t L e m m a 4 g u a r a n t e e s t h a t n o l e a f t h r e a d s i t s i n a p r o c e s s o r ' s r e a d y

d e q u e w h i l e t h e p r o c e s s o r w o r k s o n s o m e o t h e r t h r e a d .

W i t h t h e s p a c e b o u n d i n h a n d , w e n o w t u r n a t t e n t i o n t o a n a l y z i n g t h e t i m e a n d c o m m u -

n i c a t i o n b o u n d s f o r t h e W o r k - S t e a l i n g A l g o r i t h m . B e f o r e w e c a n p r o c e e d w i t h t h i s a n a l y s i s ,

h o w e v e r , w e m u s t t a k e c a r e t o d e n e a m o d e l f o r c o p i n g w i t h t h e c o n t e n t i o n t h a t m a y a r i s e

w h e n m u l t i p l e t h i e f p r o c e s s o r s s i m u l t a n e o u s l y a t t e m p t t o s t e a l f r o m t h e s a m e v i c t i m .

5 A t o m i c a c c e s s e s a n d t h e r e c y c l i n g g a m e

T h i s s e c t i o n p r e s e n t s t h e \ a t o m i c - a c c e s s " m o d e l t h a t w e u s e t o a n a l y z e c o n t e n t i o n d u r i n g t h e

e x e c u t i o n o f a m u l t i t h r e a d e d c o m p u t a t i o n b y t h e W o r k - S t e a l i n g A l g o r i t h m . W e i n t r o d u c e

a c o m b i n a t o r i a l \ b a l l s a n d b i n s " g a m e , w h i c h w e u s e t o b o u n d t h e t o t a l a m o u n t o f d e l a y

i n c u r r e d b y r a n d o m , a s y n c h r o n o u s a c c e s s e s i n t h i s m o d e l . W e s h a l l u s e t h e r e s u l t s o f t h i s

s e c t i o n i n S e c t i o n 6 , w h e r e w e a n a l y z e t h e W o r k - S t e a l i n g A l g o r i t h m .

T h e a t o m i c - a c c e s s m o d e l i s t h e m a c h i n e m o d e l w e u s e t o a n a l y z e t h e W o r k - S t e a l i n g

A l g o r i t h m . W e a s s u m e t h a t t h e m a c h i n e i s a n a s y n c h r o n o u s p a r a l l e l c o m p u t e r w i t h P

1 3



p r o c e s s o r s , a n d i t s m e m o r y c a n b e e i t h e r d i s t r i b u t e d o r s h a r e d . O u r a n a l y s i s a s s u m e s t h a t

c o n c u r r e n t a c c e s s e s t o t h e s a m e d a t a s t r u c t u r e a r e s e r i a l l y q u e u e d b y a n a d v e r s a r y , a s i n

t h e a t o m i c m e s s a g e - p a s s i n g m o d e l o f 3 6 ] . T h i s a s s u m p t i o n i s m o r e s t r i n g e n t t h a n t h a t i n

t h e m o d e l o f K a r p a n d Z h a n g 3 3 ] . T h e y a s s u m e t h a t i f c o n c u r r e n t s t e a l r e q u e s t s a r e m a d e

t o a d e q u e , i n o n e t i m e s t e p , o n e r e q u e s t i s s a t i s e d a n d a l l t h e o t h e r s a r e d e n i e d . I n t h e

a t o m i c - a c c e s s m o d e l , w e a l s o a s s u m e t h a t o n e r e q u e s t i s s a t i s e d , b u t t h e o t h e r s a r e q u e u e d

b y a n a d v e r s a r y , r a t h e r t h a n b e i n g d e n i e d . M o r e o v e r , f r o m t h e c o l l e c t i o n o f w a i t i n g r e q u e s t s

f o r a g i v e n d e q u e , t h e a d v e r s a r y g e t s t o c h o o s e w h i c h i s s e r v i c e d a n d w h i c h c o n t i n u e t o w a i t .

T h e o n l y c o n s t r a i n t o n t h e a d v e r s a r y i s t h a t i f t h e r e i s a t l e a s t o n e r e q u e s t f o r a d e q u e , t h e n

t h e a d v e r s a r y c a n n o t c h o o s e t h a t n o n e b e s e r v i c e d .

T h e m a i n r e s u l t o f t h i s s e c t i o n i s t o s h o w t h a t i f r e q u e s t s a r e m a d e r a n d o m l y b y P

p r o c e s s o r s t o P d e q u e s w i t h e a c h p r o c e s s o r a l l o w e d a t m o s t o n e o u t s t a n d i n g r e q u e s t , t h e n

t h e t o t a l a m o u n t o f t i m e t h a t t h e p r o c e s s o r s s p e n d w a i t i n g f o r t h e i r r e q u e s t s t o b e s a t i s e d

i s l i k e l y t o b e p r o p o r t i o n a l t o t h e t o t a l n u m b e r M o f r e q u e s t s , n o m a t t e r w h i c h p r o c e s s o r s

m a k e t h e r e q u e s t s a n d n o m a t t e r h o w t h e r e q u e s t s a r e d i s t r i b u t e d o v e r t i m e . I n o r d e r t o

p r o v e t h i s r e s u l t , w e i n t r o d u c e a \ b a l l s a n d b i n s " g a m e t h a t m o d e l s t h e e e c t s o f q u e u e i n g

b y t h e a d v e r s a r y .

T h e ( P ; M ) - r e c y c l i n g g a m e i s a c o m b i n a t o r i a l g a m e p l a y e d b y t h e a d v e r s a r y , i n w h i c h

b a l l s a r e t o s s e d a t r a n d o m i n t o b i n s . T h e p a r a m e t e r P i s t h e n u m b e r o f b a l l s i n t h e g a m e ,

w h i c h i s e q u a l t o t h e n u m b e r o f b i n s . T h e p a r a m e t e r M i s t h e t o t a l n u m b e r o f b a l l t o s s e s

e x e c u t e d b y t h e a d v e r s a r y . I n i t i a l l y , a l l P b a l l s a r e i n a r e s e r v o i r s e p a r a t e f r o m t h e P b i n s .

A t e a c h s t e p o f t h e g a m e , t h e a d v e r s a r y e x e c u t e s t h e f o l l o w i n g t w o o p e r a t i o n s i n s e q u e n c e :

1 . T h e a d v e r s a r y c h o o s e s s o m e o f t h e b a l l s i n t h e r e s e r v o i r ( p o s s i b l y a l l a n d p o s s i b l y

n o n e ) , a n d t h e n f o r e a c h o f t h e s e b a l l s , t h e a d v e r s a r y r e m o v e s i t f r o m t h e r e s e r v o i r ,

s e l e c t s o n e o f t h e P b i n s u n i f o r m l y a n d i n d e p e n d e n t l y a t r a n d o m , a n d t o s s e s t h e b a l l

i n t o i t .

2 . T h e a d v e r s a r y i n s p e c t s e a c h o f t h e P b i n s i n t u r n , a n d f o r e a c h b i n t h a t c o n t a i n s a t

l e a s t o n e b a l l , t h e a d v e r s a r y r e m o v e s a n y o n e o f t h e b a l l s i n t h e b i n a n d r e t u r n s i t t o

t h e r e s e r v o i r .

T h e a d v e r s a r y i s p e r m i t t e d t o m a k e a t o t a l o f M b a l l t o s s e s . T h e g a m e e n d s w h e n M b a l l

t o s s e s h a v e b e e n m a d e a n d a l l b a l l s h a v e b e e n r e m o v e d f r o m t h e b i n s a n d p l a c e d b a c k i n t h e

r e s e r v o i r .

T h e r e c y c l i n g g a m e m o d e l s t h e s e r v i c i n g o f s t e a l r e q u e s t s b y t h e W o r k - S t e a l i n g A l g o -

r i t h m . W e c a n v i e w e a c h b a l l a n d e a c h b i n a s b e i n g o w n e d b y a d i s t i n c t p r o c e s s o r . I f a b a l l

i s i n t h e r e s e r v o i r , i t m e a n s t h a t t h e b a l l ' s o w n e r i s n o t m a k i n g a s t e a l r e q u e s t . I f a b a l l i s

i n a b i n , i t m e a n s t h a t t h e b a l l ' s o w n e r h a s m a d e a s t e a l r e q u e s t t o t h e d e q u e o f t h e b i n ' s

o w n e r , b u t t h a t t h e r e q u e s t h a s n o t y e t b e e n s a t i s e d . W h e n a b a l l i s r e m o v e d f r o m a b i n

a n d r e t u r n e d t o t h e r e s e r v o i r , i t m e a n s t h a t t h e r e q u e s t h a s b e e n s e r v i c e d .

A f t e r e a c h s t e p t o f t h e g a m e , t h e r e a r e s o m e n u m b e r n

t

o f b a l l s l e f t i n t h e b i n s , w h i c h

c o r r e s p o n d t o s t e a l r e q u e s t s t h a t h a v e n o t b e e n s a t i s e d . W e s h a l l b e i n t e r e s t e d i n t h e t o t a l

d e l a y D =

P

T

t = 1

n

t

, w h e r e T i s t h e t o t a l n u m b e r o f s t e p s i n t h e g a m e . T h e g o a l o f t h e

a d v e r s a r y i s t o m a k e t h e t o t a l d e l a y a s l a r g e a s p o s s i b l e . T h e n e x t l e m m a s h o w s t h a t d e s p i t e

1 4



t h e c h o i c e s t h a t t h e a d v e r s a r y m a k e s a b o u t w h i c h b a l l s t o t o s s i n t o b i n s a n d w h i c h t o r e t u r n

t o t h e r e s e r v o i r , t h e t o t a l d e l a y i s u n l i k e l y t o b e l a r g e .

L e m m a 6 F o r a n y > 0 , w i t h p r o b a b i l i t y a t l e a s t 1 , t h e t o t a l d e l a y i n t h e ( P ; M ) - r e c y c l i n g

g a m e i s O ( M + P l g P + P l g ( 1 = ) ) .

1

T h e e x p e c t e d t o t a l d e l a y i s a t m o s t M . I n o t h e r w o r d s ,

t h e t o t a l d e l a y i n c u r r e d b y M r a n d o m r e q u e s t s m a d e b y P p r o c e s s o r s i n t h e a t o m i c - a c c e s s

m o d e l i s O ( M + P l g P + P l g ( 1 = ) ) w i t h p r o b a b i l i t y a t l e a s t 1 , a n d t h e e x p e c t e d t o t a l d e l a y

i s a t m o s t M .

P r o o f : W e r s t m a k e t h e o b s e r v a t i o n t h a t t h e s t r a t e g y b y w h i c h t h e a d v e r s a r y c h o o s e s a

b a l l f r o m e a c h b i n i s i m m a t e r i a l , a n d t h u s , w e c a n a s s u m e t h a t b a l l s a r e q u e u e d i n t h e i r b i n s

i n a r s t - i n - r s t - o u t ( F I F O ) o r d e r . T h e a d v e r s a r y r e m o v e s b a l l s f r o m t h e f r o n t o f t h e q u e u e ,

a n d w h e n t h e a d v e r s a r y t o s s e s a b a l l , i t i s p l a c e d o n t h e b a c k o f t h e q u e u e . I f s e v e r a l b a l l s

a r e t o s s e d i n t o t h e s a m e b i n a t t h e s a m e s t e p , t h e y c a n b e p l a c e d o n t h e b a c k o f t h e q u e u e

i n a n y o r d e r . T h e r e a s o n t h a t a s s u m i n g a F I F O d i s c i p l i n e f o r q u e u i n g b a l l s i n a b i n d o e s n o t

a e c t t h e t o t a l d e l a y i s t h a t t h e n u m b e r o f b a l l s i n a g i v e n b i n a t a g i v e n s t e p i s t h e s a m e

n o m a t t e r w h i c h b a l l i s r e m o v e d , a n d w h e r e b a l l s a r e t o s s e d h a s n o t h i n g t o d o w i t h w h i c h

b a l l i s t o s s e d .

F o r a n y g i v e n b a l l a n d a n y g i v e n s t e p , t h e s t e p e i t h e r n i s h e s w i t h t h e t h e b a l l i n a b i n

o r i n t h e r e s e r v o i r . D e n e t h e d e l a y o f b a l l r t o b e t h e r a n d o m v a r i a b l e

r

d e n o t i n g t h e

t o t a l n u m b e r o f s t e p s t h a t n i s h w i t h b a l l r i n a b i n . T h e n , w e h a v e

D =

P

X

r = 1

r

: ( 1 )

D e n e t h e i t h c y c l e o f a b a l l t o b e t h o s e s t e p s i n w h i c h t h e b a l l r e m a i n s i n a b i n f r o m t h e

i t h t i m e i t i s t o s s e d u n t i l i t i s r e t u r n e d t o t h e r e s e r v o i r . D e n e a l s o t h e i t h d e l a y o f a b a l l

t o b e t h e n u m b e r o f s t e p s i n i t s i t h c y c l e .

W e s h a l l a n a l y z e t h e t o t a l d e l a y b y f o c u s i n g , w i t h o u t l o s s o f g e n e r a l i t y , o n t h e d e l a y =

1

o f b a l l 1 . I f w e l e t m d e n o t e t h e n u m b e r o f t i m e s t h a t b a l l 1 i s t o s s e d b y t h e a d v e r s a r y , a n d

f o r i = 1 ; 2 ; : : : ; m , l e t d

i

b e t h e r a n d o m v a r i a b l e d e n o t i n g t h e i t h d e l a y o f b a l l 1 , t h e n w e

h a v e =

P

m

i = 1

d

i

.

W e s a y t h a t t h e i t h c y c l e o f b a l l 1 i s d e l a y e d b y a n o t h e r b a l l r i f t h e i t h t o s s o f b a l l 1

p l a c e s i t i n s o m e b i n k a n d b a l l r i s r e m o v e d f r o m b i n k d u r i n g t h e i t h c y c l e o f b a l l 1 . S i n c e

t h e a d v e r s a r y f o l l o w s t h e F I F O r u l e , i t f o l l o w s t h a t t h e i t h c y c l e o f b a l l 1 c a n b e d e l a y e d

b y a n o t h e r b a l l r e i t h e r o n c e o r n o t a t a l l . C o n s e q u e n t l y , w e c a n d e c o m p o s e e a c h r a n d o m

v a r i a b l e d

i

i n t o a s u m d

i

= x

i 2

+ x

i 3

+ + x

i m

o f i n d i c a t o r r a n d o m v a r i a b l e s , w h e r e

x

i r

=

(

1 i f t h e i t h c y c l e o f b a l l 1 i s d e l a y e d b y b a l l r ;

0 o t h e r w i s e .

T h u s , w e h a v e

=

m

X

i = 1

P

X

r = 2

x

i r

: ( 2 )

1

G r e g P l a x t o n o f t h e U n i v e r s i t y o f T e x a s , A u s t i n h a s i m p r o v e d t h i s b o u n d t o O ( M ) f o r t h e c a s e w h e n

1 = i s a t m o s t p o l y n o m i a l i n M a n d P 4 0 ] .

1 5



W e n o w p r o v e a n i m p o r t a n t p r o p e r t y o f t h e s e i n d i c a t o r r a n d o m v a r i a b l e s . C o n s i d e r a n y

s e t S o f p a i r s ( i ; r ) , e a c h o f w h i c h c o r r e s p o n d s t o t h e e v e n t t h a t t h e i t h c y c l e o f b a l l 1 i s

d e l a y e d b y b a l l r . F o r a n y s u c h s e t S , w e c l a i m t h a t

P r

8

<

:

̂

( i ; r ) 2 S

( x

i r

= 1 )

9

=

;

P

j S j

: ( 3 )

T h e c r u x o f p r o v i n g t h e c l a i m i s t o s h o w t h a t

P r

8

<

:

x

i r

= 1

̂

( i

0

; r

0

) 2 S

0

( x

i

0

r

0

= 1 )

9

=

;

1 = P ; ( 4 )

w h e r e S

0

= S f ( i ; r ) g , w h e n c e t h e c l a i m ( 3 ) f o l l o w s f r o m B a y e s ' s T h e o r e m .

W e c a n d e r i v e I n e q u a l i t y ( 4 ) f r o m a c a r e f u l a n a l y s i s o f d e p e n d e n c i e s . B e c a u s e t h e a d v e r -

s a r y f o l l o w s t h e F I F O r u l e , w e h a v e t h a t x

i r

= 1 o n l y i f , w h e n t h e a d v e r s a r y e x e c u t e s t h e i t h

t o s s o f b a l l 1 , i t f a l l s i n t o w h a t e v e r b i n c o n t a i n s b a l l r , i f a n y . A p r i o r i , t h i s e v e n t h a p p e n s

w i t h p r o b a b i l i t y e i t h e r 1 = P o r 0 , a n d h e n c e , w i t h p r o b a b i l i t y a t m o s t 1 = P . C o n d i t i o n i n g o n

a n y c o l l e c t i o n o f e v e n t s r e l a t i n g w h i c h b a l l s d e l a y t h i s o r o t h e r c y c l e s o f b a l l 1 c a n n o t i n -

c r e a s e t h i s p r o b a b i l i t y , a s w e n o w a r g u e i n t w o c a s e s . I n t h e r s t c a s e , t h e i n d i c a t o r r a n d o m

v a r i a b l e s x

i

0

r

0

, w h e r e i

0

6= i , t e l l w h e t h e r o t h e r c y c l e s o f b a l l 1 a r e d e l a y e d . T h i s i n f o r m a t i o n

t e l l s n o t h i n g a b o u t w h e r e t h e i t h t o s s o f b a l l 1 g o e s . T h e r e f o r e , t h e s e r a n d o m v a r i a b l e s a r e

i n d e p e n d e n t o f x

i r

, a n d t h u s , t h e p r o b a b i l i t y 1 = P u p p e r b o u n d i s n o t a e c t e d . I n t h e s e c o n d

c a s e , t h e i n d i c a t o r r a n d o m v a r i a b l e s x

i r

0

t e l l w h e t h e r t h e i t h t o s s o f b a l l 1 g o e s t o t h e b i n

c o n t a i n i n g b a l l r

0

, b u t t h i s i n f o r m a t i o n t e l l s u s n o t h i n g a b o u t w h e t h e r i t g o e s t o t h e b i n

c o n t a i n i n g b a l l r , b e c a u s e t h e i n d i c a t o r r a n d o m v a r i a b l e s t e l l u s n o t h i n g t o r e l a t e w h e r e b a l l

r a n d b a l l r

0

a r e l o c a t e d . M o r e o v e r , n o \ c o l l u s i o n " a m o n g t h e i n d i c a t o r r a n d o m v a r i a b l e s

p r o v i d e s a n y m o r e i n f o r m a t i o n , a n d t h u s I n e q u a l i t y ( 4 ) h o l d s .

E q u a t i o n ( 2 ) s h o w s t h a t t h e d e l a y e n c o u n t e r e d b y b a l l 1 t h r o u g h o u t a l l o f i t s c y c l e s

c a n b e e x p r e s s e s a s a s u m o f m ( P 1 ) i n d i c a t o r r a n d o m v a r i a b l e s . I n o r d e r f o r t o e q u a l

o r e x c e e d a g i v e n v a l u e , t h e r e m u s t b e s o m e s e t c o n t a i n i n g o f t h e s e i n d i c a t o r r a n d o m

v a r i a b l e s , e a c h o f w h i c h m u s t b e 1 . F o r a n y s p e c i c s u c h s e t , I n e q u a l i t y ( 3 ) s a y s t h a t t h e

p r o b a b i l i t y i s a t m o s t P

t h a t a l l r a n d o m v a r i a b l e s i n t h e s e t a r e 1 . S i n c e t h e r e a r e

m ( P 1 )

( e m P = )

s u c h s e t s , w h e r e e i s t h e b a s e o f t h e n a t u r a l l o g a r i t h m , w e h a v e

P r f g

e m P

P

=

e m

= P ;

w h e n e v e r m a x f 2 e m ; l g P + l g ( 1 = ) g .

A l t h o u g h o u r a n a l y s i s w a s p e r f o r m e d f o r b a l l 1 , i t a p p l i e s t o a n y o t h e r b a l l a s w e l l .

C o n s e q u e n t l y , f o r a n y g i v e n b a l l r w h i c h i s t o s s e d m

r

t i m e s , t h e p r o b a b i l i t y t h a t i t s d e l a y

r

e x c e e d s m a x f 2 e m

r

; l g P + l g ( 1 = ) g i s a t m o s t = P . B y B o o l e ' s i n e q u a l i t y a n d E q u a t i o n ( 1 ) ,

1 6



i t f o l l o w s t h a t w i t h p r o b a b i l i t y a t l e a s t 1 , t h e t o t a l d e l a y D i s a t m o s t

D

P

X

r = 1

m a x f 2 e m

r

; l g P + l g ( 1 = ) g

= ( M + P l g P + P l g ( 1 = ) ) ;

s i n c e M =

P

P

r = 1

m

r

.

T h e u p p e r b o u n d E D ] M c a n b e o b t a i n e d a s f o l l o w s . R e c a l l t h a t e a c h

r

i s t h e

s u m o f ( P 1 ) m

r

i n d i c a t o r r a n d o m v a r i a b l e s , e a c h o f w h i c h h a s e x p e c t a t i o n a t m o s t 1 = P .

T h e r e f o r e , b y l i n e a r i t y o f e x p e c t a t i o n , E

r

] m

r

. U s i n g E q u a t i o n ( 1 ) a n d a g a i n u s i n g

l i n e a r i t y o f e x p e c t a t i o n , w e o b t a i n E D ] M .

W i t h t h i s b o u n d o n t h e t o t a l d e l a y i n c u r r e d b y M r a n d o m r e q u e s t s n o w i n h a n d , w e

t u r n b a c k t o t h e W o r k - S t e a l i n g A l g o r i t h m .

6 A n a l y s i s o f t h e w o r k - s t e a l i n g a l g o r i t h m

I n t h i s s e c t i o n , w e a n a l y z e t h e t i m e a n d c o m m u n i c a t i o n c o s t o f e x e c u t i n g a f u l l y s t r i c t m u l -

t i t h r e a d e d c o m p u t a t i o n w i t h t h e W o r k - S t e a l i n g A l g o r i t h m . F o r a n y f u l l y s t r i c t c o m p u t a t i o n

w i t h w o r k T

1


1

, w e s h o w t h a t t h e e x p e c t e d r u n n i n g t i m e w i t h

P p r o c e s s o r s , i n c l u d i n g s c h e d u l i n g o v e r h e a d , i s T

1

= P + O ( T

1

) . M o r e o v e r , f o r a n y > 0 ,

t h e e x e c u t i o n t i m e o n P p r o c e s s o r s i s T

1

= P + O ( T

1

+ l g P + l g ( 1 = ) ) , w i t h p r o b a b i l i t y a t

l e a s t 1 . W e a l s o s h o w t h a t t h e e x p e c t e d t o t a l c o m m u n i c a t i o n d u r i n g t h e e x e c u t i o n o f a

f u l l y s t r i c t c o m p u t a t i o n i s O ( P T

1

( 1 + n

d

) S

m a x

) , w h e r e n

d

i s t h e m a x i m u m n u m b e r o f j o i n

e d g e s f r o m a t h r e a d t o i t s p a r e n t a n d S

m a x

i s t h e l a r g e s t s i z e o f a n y a c t i v a t i o n f r a m e .

U n l i k e i n t h e B u s y - L e a v e s A l g o r i t h m , t h e \ r e a d y p o o l " i n t h e W o r k - S t e a l i n g A l g o r i t h m

i s d i s t r i b u t e d , a n d s o t h e r e i s n o c o n t e n t i o n a t a c e n t r a l i z e d d a t a s t r u c t u r e . N e v e r t h e l e s s , i t

i s s t i l l p o s s i b l e f o r c o n t e n t i o n t o a r i s e w h e n s e v e r a l t h i e v e s h a p p e n t o d e s c e n d o n t h e s a m e

v i c t i m s i m u l t a n e o u s l y . I n t h i s c a s e , a s w e h a v e i n d i c a t e d i n t h e p r e v i o u s s e c t i o n , w e m a k e

t h e c o n s e r v a t i v e a s s u m p t i o n t h a t a n a d v e r s a r y s e r i a l l y q u e u e s t h e w o r k - s t e a l i n g r e q u e s t s .

W e f u r t h e r a s s u m e t h a t i t t a k e s u n i t t i m e f o r a p r o c e s s o r t o r e s p o n d t o a w o r k - s t e a l i n g

r e q u e s t . T h i s a s s u m p t i o n c a n b e r e l a x e d w i t h o u t m a t e r i a l l y a e c t i n g t h e r e s u l t s s o t h a t a

w o r k - s t e a l i n g r e s p o n s e t a k e s a n y c o n s t a n t a m o u n t o f t i m e .

T o a n a l y z e t h e r u n n i n g t i m e o f t h e W o r k - S t e a l i n g A l g o r i t h m e x e c u t i n g a f u l l y s t r i c t

m u l t i t h r e a d e d c o m p u t a t i o n w i t h w o r k T

1


1

o n a c o m p u t e r w i t h

P p r o c e s s o r s , w e u s e a n a c c o u n t i n g a r g u m e n t . A t e a c h s t e p o f t h e a l g o r i t h m , w e c o l l e c t P

d o l l a r s , o n e f r o m e a c h p r o c e s s o r . A t e a c h s t e p , e a c h p r o c e s s o r p l a c e s i t s d o l l a r i n o n e o f

t h r e e b u c k e t s a c c o r d i n g t o i t s a c t i o n s a t t h a t s t e p . I f t h e p r o c e s s o r e x e c u t e s a n i n s t r u c t i o n

a t t h e s t e p , t h e n i t p l a c e s i t s d o l l a r i n t o t h e W o r k b u c k e t . I f t h e p r o c e s s o r i n i t i a t e s a s t e a l

a t t e m p t a t t h e s t e p , t h e n i t p l a c e s i t s d o l l a r i n t o t h e S t e a l b u c k e t . A n d , i f t h e p r o c e s s o r

m e r e l y w a i t s f o r a q u e u e d s t e a l r e q u e s t a t t h e s t e p , t h e n i t p l a c e s i t s d o l l a r i n t o t h e W a i t

b u c k e t . W e s h a l l d e r i v e t h e r u n n i n g - t i m e b o u n d b y b o u n d i n g t h e n u m b e r o f d o l l a r s i n e a c h

b u c k e t a t t h e e n d o f t h e e x e c u t i o n , s u m m i n g t h e s e t h r e e b o u n d s , a n d t h e n d i v i d i n g b y P .

W e r s t b o u n d t h e t o t a l n u m b e r o f d o l l a r s i n t h e W o r k b u c k e t .

1 7



L e m m a 7 T h e e x e c u t i o n o f a f u l l y s t r i c t m u l t i t h r e a d e d c o m p u t a t i o n w i t h w o r k T

1

b y t h e

W o r k - S t e a l i n g A l g o r i t h m o n a c o m p u t e r w i t h P p r o c e s s o r s t e r m i n a t e s w i t h e x a c t l y T

1

d o l l a r s

i n t h e W o r k b u c k e t .

P r o o f : A p r o c e s s o r p l a c e s a d o l l a r i n t h e W o r k b u c k e t o n l y w h e n i t e x e c u t e s a n i n s t r u c t i o n .

T h u s , s i n c e t h e r e a r e T

1

i n s t r u c t i o n s i n t h e c o m p u t a t i o n , t h e e x e c u t i o n e n d s w i t h e x a c t l y T

1

d o l l a r s i n t h e W o r k b u c k e t .

B o u n d i n g t h e t o t a l d o l l a r s i n t h e S t e a l b u c k e t r e q u i r e s a s i g n i c a n t l y m o r e i n v o l v e d

\ d e l a y - s e q u e n c e " a r g u m e n t . W e r s t i n t r o d u c e t h e n o t i o n o f a \ r o u n d " o f w o r k - s t e a l a t -

t e m p t s , a n d w e m u s t a l s o d e n e a n a u g m e n t e d d a g t h a t w e t h e n u s e t o d e n e \ c r i t i c a l "

i n s t r u c t i o n s . T h e i d e a i s a s f o l l o w s . I f , d u r i n g t h e c o u r s e o f t h e e x e c u t i o n , a l a r g e n u m b e r o f

s t e a l s a r e a t t e m p t e d , t h e n w e c a n i d e n t i f y a s e q u e n c e o f i n s t r u c t i o n s | t h e d e l a y s e q u e n c e | i n

t h e a u g m e n t e d d a g s u c h t h a t e a c h o f t h e s e s t e a l a t t e m p t s w a s i n i t i a t e d w h i l e s o m e i n s t r u c -

t i o n f r o m t h e s e q u e n c e w a s c r i t i c a l . W e t h e n s h o w t h a t a c r i t i c a l i n s t r u c t i o n i s u n l i k e l y t o

r e m a i n c r i t i c a l a c r o s s a m o d e s t n u m b e r o f s t e a l a t t e m p t s . W e c a n t h e n c o n c l u d e t h a t s u c h

a d e l a y s e q u e n c e i s u n l i k e l y t o o c c u r , a n d t h e r e f o r e , a n e x e c u t i o n i s u n l i k e l y t o s u e r a l a r g e

n u m b e r o f s t e a l a t t e m p t s .

A r o u n d o f s t e a l a t t e m p t s i s a s e t o f a t l e a s t 3 P b u t f e w e r t h a n 4 P c o n s e c u t i v e s t e a l

a t t e m p t s s u c h t h a t i f a s t e a l a t t e m p t t h a t i s i n i t i a t e d a t t i m e s t e p t o c c u r s i n a p a r t i c u l a r

r o u n d , t h e n a l l o t h e r s t e a l a t t e m p t s i n i t i a t e d a t t i m e s t e p t a r e a l s o i n t h e s a m e r o u n d . W e

c a n p a r t i t i o n a l l o f t h e s t e a l a t t e m p t s t h a t o c c u r d u r i n g a n e x e c u t i o n i n t o r o u n d s a s f o l l o w s .

T h e r s t r o u n d c o n t a i n s a l l s t e a l a t t e m p t s i n i t i a t e d a t t i m e s t e p s 1 ; 2 ; : : : ; t

1

, w h e r e t

1

i s t h e

e a r l i e s t t i m e s u c h t h a t a t l e a s t 3 P s t e a l a t t e m p t s w e r e i n i t i a t e d a t o r b e f o r e t

1

. W e s a y t h a t

t h e r s t r o u n d s t a r t s a t t i m e s t e p 1 a n d e n d s a t t i m e s t e p t

1

. I n g e n e r a l , i f t h e i t h r o u n d

e n d s a t t i m e s t e p t

i

, t h e n t h e ( i + 1 ) s t r o u n d b e g i n s a t t i m e s t e p t

i

+ 1 a n d e n d s a t t h e

e a r l i e s t t i m e s t e p t

i + 1

> t

i

+ 1 s u c h t h a t a t l e a s t 3 P s t e a l a t t e m p t s w e r e i n i t i a t e d a t t i m e

s t e p s b e t w e e n t

i

+ 1 a n d t

i + 1

, i n c l u s i v e . T h e s e s t e a l a t t e m p t s b e l o n g t o r o u n d i + 1 . B y

d e n i t i o n , e a c h r o u n d c o n t a i n s a t l e a s t 3 P c o n s e c u t i v e s t e a l a t t e m p t s . M o r e o v e r , s i n c e a t

m o s t P 1 s t e a l a t t e m p t s c a n b e i n i t i a t e d i n a s i n g l e t i m e s t e p , e a c h r o u n d c o n t a i n s f e w e r

t h a n 4 P 1 s t e a l a t t e m p t s , a n d e a c h r o u n d t a k e s a t l e a s t 4 s t e p s .

T h e s e q u e n c e o f i n s t r u c t i o n s t h a t m a k e u p t h e d e l a y s e q u e n c e i s d e n e d w i t h r e s p e c t t o

a n a u g m e n t e d d a g o b t a i n e d b y m o d i f y i n g t h e o r i g i n a l d a g s l i g h t l y . L e t G d e n o t e t h e o r i g i n a l

d a g , t h a t i s , t h e d a g c o n s i s t i n g o f t h e c o m p u t a t i o n ' s i n s t r u c t i o n s a s v e r t i c e s a n d i t s c o n t i n u e ,

s p a w n , a n d j o i n e d g e s a s e d g e s . T h e a u g m e n t e d d a g G

0

i s t h e o r i g i n a l d a g G t o g e t h e r w i t h

s o m e n e w e d g e s , a s f o l l o w s . F o r e v e r y s e t o f i n s t r u c t i o n s u , v , a n d w s u c h t h a t ( u ; v ) i s a

s p a w n e d g e a n d ( u ; w ) i s a c o n t i n u e e d g e , t h e d e q u e e d g e ( w ; v ) i s p l a c e d i n G

0

. T h e s e

d e q u e e d g e s a r e s h o w n d a s h e d i n F i g u r e 3 . I n S e c t i o n 2 w e m a d e t h e t e c h n i c a l a s s u m p t i o n

t h a t i n s t r u c t i o n w h a s n o i n c o m i n g j o i n e d g e s , a n d s o G

0

i s a d a g . I f T

1

i s t h e l e n g t h o f a

l o n g e s t p a t h i n G , t h e n t h e l o n g e s t p a t h i n G

0

h a s l e n g t h a t m o s t 2 T

1

. I t i s w o r t h p o i n t i n g

o u t t h a t G

0

i s o n l y a n a n a l y t i c a l t o o l . T h e d e q u e e d g e s h a v e n o e e c t o n t h e s c h e d u l i n g a n d

e x e c u t i o n o f t h e c o m p u t a t i o n b y t h e W o r k - S t e a l i n g A l g o r i t h m .

T h e d e q u e e d g e s a r e t h e k e y t o d e n i n g c r i t i c a l i n s t r u c t i o n s . A t a n y t i m e s t e p d u r i n g

t h e e x e c u t i o n , w e s a y t h a t a n u n e x e c u t e d i n s t r u c t i o n v i s c r i t i c a l i f e v e r y i n s t r u c t i o n t h a t

p r e c e d e s v ( e i t h e r d i r e c t l y o r i n d i r e c t l y ) i n G

0

h a s b e e n e x e c u t e d , t h a t i s , i f f o r e v e r y i n -

s t r u c t i o n w s u c h t h a t t h e r e i s a d i r e c t e d p a t h f r o m w t o v i n G

0

, i n s t r u c t i o n w h a s b e e n

1 8



e x e c u t e d . A c r i t i c a l i n s t r u c t i o n m u s t b e r e a d y , s i n c e G

0

c o n t a i n s e v e r y e d g e o f G , b u t a

r e a d y i n s t r u c t i o n m a y o r m a y n o t b e c r i t i c a l . I n t u i t i v e l y , t h e s t r u c t u r a l p r o p e r t i e s o f a r e a d y

d e q u e e n u m e r a t e d i n L e m m a 4 g u a r a n t e e t h a t i f a t h r e a d i s d e e p i n a r e a d y d e q u e , t h e n

i t s c u r r e n t i n s t r u c t i o n c a n n o t b e c r i t i c a l , b e c a u s e t h e p r e d e c e s s o r o f t h e t h r e a d ' s c u r r e n t

i n s t r u c t i o n a c r o s s t h e d e q u e e d g e h a s n o t y e t b e e n e x e c u t e d .

W e n o w f o r m a l i z e o u r d e n i t i o n o f a d e l a y s e q u e n c e .

D e n i t i o n 8 A d e l a y s e q u e n c e i s a 3 - t u p l e ( U ; R ; ) s a t i s f y i n g t h e f o l l o w i n g c o n d i t i o n s :

U = ( u

1

; u

2

; : : : ; u

L

) i s a m a x i m a l d i r e c t e d p a t h i n G

0

. S p e c i c a l l y , f o r i = 1 ; 2 ; : : : ; L

1 , t h e e d g e ( u

i

; u

i + 1

) b e l o n g s t o G

0

, i n s t r u c t i o n u

1

h a s n o i n c o m i n g e d g e s i n G

0

( i n -

s t r u c t i o n u

1

m u s t b e t h e r s t i n s t r u c t i o n o f t h e r o o t t h r e a d ) , a n d i n s t r u c t i o n u

L

h a s n o

o u t g o i n g e d g e s i n G

0

( i n s t r u c t i o n u

L

m u s t b e t h e l a s t i n s t r u c t i o n o f t h e r o o t t h r e a d ) .

R i s a p o s i t i v e i n t e g e r n u m b e r o f s t e a l - a t t e m p t r o u n d s .

= (

1

;

0

1

;

2

;

0

2

; : : : ;

L

;

0

L

) i s a p a r t i t i o n o f R ( t h a t i s R =

P

L

i = 1

(

i

+

0

i

) ) , s u c h

t h a t

0

i

2 f 0 ; 1 g f o r e a c h i = 1 ; 2 ; : : : ; L .

T h e p a r t i t i o n i n d u c e s a p a r t i t i o n o f a s e q u e n c e o f R r o u n d s a s f o l l o w s . T h e r s t p i e c e

o f t h e p a r t i t i o n c o r r e s p o n d s t o t h e r s t

1

r o u n d s . T h e s e c o n d p i e c e c o r r e s p o n d s t o t h e n e x t

0

1

c o n s e c u t i v e r o u n d s a f t e r t h e r s t

1

r o u n d s . T h e t h i r d p i e c e c o r r e s p o n d s t o t h e n e x t

2

c o n s e c u t i v e r o u n d s a f t e r t h e r s t (

1

+

0

1

) r o u n d s , a n d s o o n . W e a r e i n t e r e s t e d p r i m a r i l y

i n t h e p i e c e s c o r r e s p o n d i n g t o t h e

i

, n o t t h e

0

i

, a n d s o w e d e n e t h e i t h g r o u p o f r o u n d s

t o b e t h e

i

c o n s e c u t i v e r o u n d s s t a r t i n g a f t e r t h e r

i

t h r o u n d , w h e r e r

i

=

P

i 1

j = 1

(

j

+

0

j

) .

B e c a u s e i s a p a r t i t i o n o f R a n d

0

i

2 f 0 ; 1 g , f o r i = 1 ; 2 ; : : : ; L , w e h a v e

L

X

i = 1

i

R L : ( 5 )

W e s a y t h a t a g i v e n r o u n d o f s t e a l a t t e m p t s o c c u r s w h i l e i n s t r u c t i o n v i s c r i t i c a l i f a l l

o f t h e s t e a l a t t e m p t s t h a t c o m p r i s e t h e r o u n d a r e i n i t i a t e d a t t i m e s t e p s w h e n v i s c r i t i c a l .

I n o t h e r w o r d s , v m u s t b e c r i t i c a l t h r o u g h o u t t h e e n t i r e r o u n d . A d e l a y s e q u e n c e ( U ; R ; )

i s s a i d t o o c c u r d u r i n g a n e x e c u t i o n i f f o r e a c h i = 1 ; 2 ; : : : ; L , a l l

i

r o u n d s i n t h e i t h g r o u p

o c c u r w h i l e i n s t r u c t i o n u

i

i s c r i t i c a l . I n o t h e r w o r d s , u

i

m u s t b e c r i t i c a l t h r o u g h o u t a l l

i

r o u n d s .

T h e f o l l o w i n g l e m m a s t a t e s t h a t i f a t l e a s t R r o u n d s t a k e p l a c e d u r i n g a n e x e c u t i o n ,

t h e n s o m e d e l a y s e q u e n c e ( U ; R ; ) m u s t o c c u r . I n p a r t i c u l a r , i f w e l o o k a t a n y e x e c u t i o n i n

w h i c h a t l e a s t R r o u n d s o c c u r , t h e n w e c a n i d e n t i f y a p a t h U = ( u

1

; u

2

; : : : ; u

L

) i n t h e d a g

G

0

a n d a p a r t i t i o n = (

1

;

0

1

;

2

;

0

2

; : : : ;

L

;

0

L

) o f t h e r s t R r o u n d s , s u c h t h a t f o r e a c h

i = 1 ; 2 ; : : : L , a l l o f t h e

i

r o u n d s i n t h e i t h g r o u p o c c u r w h i l e u

i

i s c r i t i c a l . E a c h

0

i

i n d i c a t e s

w h e t h e r u

i

i s c r i t i c a l a t t h e b e g i n n i n g o f a r o u n d b u t g e t s e x e c u t e d b e f o r e t h e r o u n d e n d s .

S u c h a r o u n d c a n n o t b e p a r t o f a n y g r o u p , b e c a u s e n o i n s t r u c t i o n i s c r i t i c a l t h r o u g h o u t .

L e m m a 9 C o n s i d e r t h e e x e c u t i o n o f a f u l l y s t r i c t m u l t i t h r e a d e d c o m p u t a t i o n w i t h c r i t i c a l -

p a t h l e n g t h T

1

b y t h e W o r k - S t e a l i n g A l g o r i t h m o n a c o m p u t e r w i t h P p r o c e s s o r s . I f a t l e a s t

4 P R s t e a l a t t e m p t s o c c u r d u r i n g t h e e x e c u t i o n , t h e n s o m e d e l a y s e q u e n c e ( U ; R ; ) m u s t

o c c u r .

1 9



P r o o f : F o r a g i v e n e x e c u t i o n i n w h i c h a t l e a s t 4 P R s t e a l a t t e m p t s t a k e p l a c e , w e c o n s t r u c t

a d e l a y s e q u e n c e ( U ; R ; ) a n d s h o w t h a t i t o c c u r s . W i t h a t l e a s t 4 P R s t e a l a t t e m p t s , t h e r e

m u s t b e a t l e a s t R r o u n d s . W e c o n s t r u c t t h e d e l a y s e q u e n c e b y r s t i d e n t i f y i n g a s e t o f

i n s t r u c t i o n s o n a d i r e c t e d p a t h i n G

0

s u c h t h a t f o r e v e r y t i m e s t e p d u r i n g t h e e x e c u t i o n ,

o n e o f t h e s e i n s t r u c t i o n s i s c r i t i c a l . T h e n , w e p a r t i t i o n t h e r s t R r o u n d s a c c o r d i n g t o w h e n

e a c h r o u n d o c c u r s r e l a t i v e t o w h e n e a c h i n s t r u c t i o n o n t h e p a t h i s c r i t i c a l .

T o c o n s t r u c t t h e p a t h U , w e w o r k b a c k w a r d s f r o m t h e l a s t i n s t r u c t i o n o f t h e r o o t t h r e a d ,

w h i c h w e d e n o t e b y v

1

. L e t v

l

1

d e n o t e a ( n o t n e c e s s a r i l y i m m e d i a t e ) p r e d e c e s s o r i n s t r u c t i o n

o f v

1

i n G

0

w i t h t h e l a t e s t e x e c u t i o n t i m e . L e t ( v

l

1

; : : : ; v

2

; v

1

) d e n o t e a d i r e c t e d p a t h f r o m

v

l

1

t o v

1

i n G

0

. W e e x t e n d t h i s p a t h b a c k t o t h e r s t i n s t r u c t i o n o f t h e r o o t t h r e a d b y

i t e r a t i n g t h i s c o n s t r u c t i o n a s f o l l o w s . A t t h e i t h i t e r a t i o n w e h a v e a n i n s t r u c t i o n v

l

i

a n d a

d i r e c t e d p a t h i n G

0

f r o m v

l

i

t o v

1

. W e l e t v

l

i + 1

d e n o t e a p r e d e c e s s o r o f v

l

i

i n G

0

w i t h t h e

l a t e s t e x e c u t i o n t i m e , a n d l e t ( v

l

i + 1

; : : : ; v

l

i

+ 1

; v

l

i

) d e n o t e a d i r e c t e d p a t h f r o m v

l

i + 1

t o v

l

i

i n G

0

. W e n i s h i t e r a t i n g t h e c o n s t r u c t i o n w h e n w e g e t t o a n i t e r a t i o n k i n w h i c h v

l

k

i s t h e

r s t i n s t r u c t i o n o f t h e r o o t t h r e a d . O u r d e s i r e d s e q u e n c e i s t h e n U = ( u

1

; u

2

; : : : ; u

L

) , w h e r e

L = l

k

a n d u

i

= v

L i + 1

f o r i = 1 ; 2 ; : : : ; L . O n e c a n v e r i f y t h a t a t e v e r y t i m e s t e p o f t h e

e x e c u t i o n , o n e o f t h e v

l

i

i s c r i t i c a l .

N o w , t o c o n s t r u c t t h e p a r t i t i o n = (

1

;

0

1

;

2

;

0

2

; : : : ;

L

;

0

L

) , w e p a r t i t i o n t h e s e q u e n c e

o f t h e r s t R r o u n d s a c c o r d i n g t o w h e n e a c h r o u n d o c c u r s . W e w o u l d l i k e o u r p a r t i t i o n t o

b e s u c h t h a t f o r e a c h r o u n d ( a m o n g t h e r s t R r o u n d s ) , w e h a v e t h e p r o p e r t y t h a t i f t h e

r o u n d o c c u r s w h i l e s o m e i n s t r u c t i o n u

i

i s c r i t i c a l , t h e n t h e r o u n d b e l o n g s t o t h e i t h g r o u p .

S t a r t w i t h

1

, a n d l e t

1

e q u a l t h e n u m b e r o f r o u n d s t h a t o c c u r w h i l e u

1

i s c r i t i c a l . A l l o f

t h e s e r o u n d s a r e c o n s e c u t i v e a t t h e b e g i n n i n g o f t h e s e q u e n c e , s o t h e s e r o u n d s c o m p r i s e t h e

1 s t g r o u p | t h a t i s , t h e y a r e t h e

1

c o n s e c u t i v e r o u n d s s t a r t i n g a f t e r t h e r

1

= 0 r s t r o u n d s .

N e x t , i f t h e r o u n d t h a t i m m e d i a t e l y f o l l o w s t h o s e r s t

1

r o u n d s b e g i n s a f t e r u

1

h a s b e e n

e x e c u t e d , t h e n w e s e t

0

1

= 0 , a n d w e g o o n t o

2

. O t h e r w i s e , t h a t r o u n d b e g i n s w h i l e u

1

i s

c r i t i c a l a n d e n d s a f t e r u

1

i s e x e c u t e d ( f o r o t h e r w i s e , i t w o u l d b e p a r t o f t h e r s t g r o u p ) , s o

w e s e t

0

1

= 1 , a n d w e g o o n t o

2

. F o r

2

, w e l e t

2

e q u a l t h e n u m b e r o f r o u n d s t h a t o c c u r

w h i l e u

2

i s c r i t i c a l . N o t e t h a t a l l o f t h e s e r o u n d s a r e c o n s e c u t i v e b e g i n n i n g a f t e r t h e r s t

r

2

=

1

+

0

1

r o u n d s , s o t h e s e r o u n d s c o m p r i s e t h e 2 n d g r o u p . W e c o n t i n u e i n t h i s f a s h i o n ,

l e t t i n g e a c h

i

b e t h e n u m b e r o f r o u n d s t h a t o c c u r w h i l e u

i

i s c r i t i c a l a n d l e t t i n g e a c h

0

i

b e

t h e n u m b e r o f r o u n d s t h a t b e g i n w h i l e u

i

i s c r i t i c a l b u t d o n o t e n d u n t i l a f t e r u

i

i s e x e c u t e d .

A s a n e x a m p l e , w e m a y h a v e a r o u n d t h a t b e g i n s w h i l e u

i

i s c r i t i c a l a n d t h e n e n d s w h i l e

u

i + 2

i s c r i t i c a l , a n d i n t h i s c a s e , w e s e t

0

i

= 1 a n d

0

i + 1

= 0 . I n t h i s e x a m p l e , t h e ( i + 1 ) s t

g r o u p i s e m p t y , s o w e a l s o s e t

i + 1

= 0 .

W e c o n c l u d e t h e p r o o f b y v e r i f y i n g t h a t t h e ( U ; R ; ) a s j u s t c o n s t r u c t e d i s a d e l a y

s e q u e n c e a n d t h a t i t o c c u r s . B y c o n s t r u c t i o n , U i s a m a x i m a l p a t h i n G

0

. N o w c o n s i d e r i n g

, w e o b s e r v e t h a t e a c h r o u n d a m o n g t h e r s t R r o u n d s i s c o u n t e d e x a c t l y o n c e i n e i t h e r

a

i

o r a

0

i

, s o i s i n d e e d a p a r t i t i o n o f R . M o r e o v e r , f o r i = 1 ; 2 ; : : : ; L , a t m o s t o n e

r o u n d c a n b e g i n w h i l e t h e i n s t r u c t i o n u

i

i s c r i t i c a l a n d e n d a f t e r u

i

i s e x e c u t e d , s o w e h a v e

0

i

2 f 0 ; 1 g . T h u s , ( U ; R ; ) i s a d e l a y s e q u e n c e . F i n a l l y , w e o b s e r v e t h a t , b y c o n s t r u c t i o n ,

f o r i = 1 ; 2 ; : : : ; L , t h e

i

r o u n d s t h a t c o m p r i s e t h e i t h g r o u p a l l o c c u r w h i l e t h e i n s t r u c t i o n

u

i

i s c r i t i c a l . T h e r e f o r e , t h e d e l a y s e q u e n c e ( U ; R ; ) o c c u r s .

W e n o w e s t a b l i s h t h a t a c r i t i c a l i n s t r u c t i o n i s u n l i k e l y t o r e m a i n c r i t i c a l a c r o s s a m o d e s t

n u m b e r o f r o u n d s . S p e c i c a l l y , w e r s t s h o w t h a t a c r i t i c a l i n s t r u c t i o n m u s t b e t h e r e a d y

2 0



i n s t r u c t i o n o f a t h r e a d t h a t i s n e a r t h e t o p o f i t s p r o c e s s o r ' s r e a d y d e q u e . W e t h e n u s e t h i s

f a c t t o s h o w t h a t a f t e r O ( 1 ) r o u n d s , a c r i t i c a l i n s t r u c t i o n i s v e r y l i k e l y t o b e e x e c u t e d .

L e m m a 1 0 A t e v e r y t i m e s t e p d u r i n g t h e e x e c u t i o n o f a f u l l y s t r i c t m u l t i t h r e a d e d c o m p u t a -

t i o n b y t h e W o r k - S t e a l i n g A l g o r i t h m , e a c h c r i t i c a l i n s t r u c t i o n i s t h e r e a d y i n s t r u c t i o n o f a

t h r e a d t h a t h a s a t m o s t 1 t h r e a d a b o v e i t i n i t s p r o c e s s o r ' s r e a d y d e q u e .

P r o o f : C o n s i d e r a n y t i m e s t e p , a n d l e t u

0

b e t h e c r i t i c a l i n s t r u c t i o n o f a t h r e a d

0

. S i n c e

u

0

i s c r i t i c a l ,

0

i s r e a d y . H e n c e , f o r s o m e p r o c e s s o r p , e i t h e r

0

i s i n p ' s r e a d y d e q u e o r

0

i s b e i n g w o r k e d o n b y p . I f

0

h a s m o r e t h a n 1 t h r e a d a b o v e i t i n p ' s r e a d y d e q u e , t h e n

L e m m a 4 g u a r a n t e e s t h a t e a c h o f t h e a t l e a s t 2 t h r e a d s a b o v e

0

i n p ' s r e a d y d e q u e i s a n

a n c e s t o r o f

0

. L e t

1

;

2

; : : : ;

k

d e n o t e

0

' s a n c e s t o r t h r e a d s , w h e r e

1


0

a n d

k

i s t h e r o o t t h r e a d . F u r t h e r , f o r i = 1 ; 2 ; : : : ; k , l e t u

i

d e n o t e t h e i n s t r u c t i o n o f

t h r e a d

i

t h a t s p a w n e d t h r e a d

i 1

, a n d l e t w

i

d e n o t e u

i

' s s u c c e s s o r i n s t r u c t i o n i n t h r e a d

i

.

B e c a u s e o f t h e d e q u e e d g e s , e a c h i n s t r u c t i o n w

i

i s a p r e d e c e s s o r o f u

0

i n G

0

, a n d c o n s e q u e n t l y ,

s i n c e u

0

i s c r i t i c a l , e a c h i n s t r u c t i o n w

i

h a s b e e n e x e c u t e d . M o r e o v e r , b e c a u s e e a c h w

i

i s t h e

s u c c e s s o r o f t h e s p a w n i n s t r u c t i o n u

i

i n t h r e a d

i

, e a c h t h r e a d

i

f o r i = 1 ; 2 ; : : : ; k h a s b e e n

w o r k e d o n s i n c e t h e t i m e s t e p a t w h i c h i t s p a w n e d t h r e a d

i 1

. B u t L e m m a 4 g u a r a n t e e s

t h a t o n l y t h e t o p m o s t t h r e a d i n p ' s r e a d y d e q u e c a n h a v e t h i s p r o p e r t y . T h u s ,

1

i s t h e o n l y

t h r e a d t h a t c a n p o s s i b l y b e a b o v e

0

i n p ' s r e a d y d e q u e .

L e m m a 1 1 C o n s i d e r t h e e x e c u t i o n o f a n y f u l l y s t r i c t m u l t i t h r e a d e d c o m p u t a t i o n b y t h e

W o r k - S t e a l i n g A l g o r i t h m o n a p a r a l l e l c o m p u t e r w i t h P 2 p r o c e s s o r s . F o r a n y i n s t r u c t i o n

v a n d a n y n u m b e r r 2 o f s t e a l - a t t e m p t r o u n d s , t h e p r o b a b i l i t y t h a t a n y p a r t i c u l a r s e t o f r

r o u n d s o c c u r w h i l e t h e i n s t r u c t i o n v i s c r i t i c a l i s a t m o s t t h e p r o b a b i l i t y t h a t o n l y 0 o r 1 o f

t h e s t e a l a t t e m p t s i n i t i a t e d i n t h e r s t r 1 o f t h e s e r o u n d s c h o o s e v ' s p r o c e s s o r , w h i c h i s a t

m o s t e

2 r + 3

.

P r o o f : L e t t

a

d e n o t e t h e r s t t i m e s t e p a t w h i c h i n s t r u c t i o n v i s c r i t i c a l , a n d l e t p d e n o t e

t h e p r o c e s s o r i n w h o s e r e a d y d e q u e v ' s t h r e a d r e s i d e s a t t i m e s t e p t

a

. C o n s i d e r a n y p a r t i c u l a r

s e t o f r r o u n d s , a n d s u p p o s e t h a t t h e y a l l o c c u r w h i l e i n s t r u c t i o n v i s c r i t i c a l . N o w , c o n s i d e r

t h e s t e a l a t t e m p t s t h a t c o m p r i s e t h e r s t r 1 o f t h e s e r o u n d s , o f w h i c h t h e r e m u s t b e a t

l e a s t 3 P ( r 1 ) . L e t t

b

d e n o t e t h e t i m e s t e p j u s t a f t e r t h e t i m e s t e p a t w h i c h t h e l a s t o f

t h e s e s t e a l a t t e m p t s i s i n i t i a t e d . N o t e t h a t b e c a u s e t h e l a s t r o u n d , l i k e e v e r y r o u n d , m u s t

t a k e a t l e a s t t w o ( i n f a c t , f o u r ) s t e p s , t h e t i m e s t e p t

b

m u s t o c c u r b e f o r e t h e t i m e s t e p a t

w h i c h i n s t r u c t i o n v i s e x e c u t e d .

W e s h a l l r s t s h o w t h a t o f t h e s e 3 P ( r 1 ) s t e a l a t t e m p t s i n i t i a t e d w h i l e i n s t r u c t i o n v i s

c r i t i c a l a n d a t l e a s t 2 t i m e s t e p s b e f o r e v i s e x e c u t e d , a t m o s t 1 o f t h e m c a n c h o o s e p r o c e s s o r

p a s i t s t a r g e t , f o r o t h e r w i s e , v w o u l d b e e x e c u t e d a t o r b e f o r e t

b

. R e c a l l f r o m L e m m a 1 0

t h a t i n s t r u c t i o n v i s t h e r e a d y i n s t r u c t i o n o f a t h r e a d , w h i c h h a s a t m o s t 1 t h r e a d a b o v e

i t i n p ' s r e a d y d e q u e a s l o n g a s v i s c r i t i c a l .

I f h a s n o t h r e a d s a b o v e i t , t h e n a n o t h e r t h r e a d c a n n o t b e p l a c e d a b o v e i t u n t i l a f t e r

i n s t r u c t i o n v i s e x e c u t e d , s i n c e o n l y b y p r o c e s s o r p e x e c u t i n g i n s t r u c t i o n s f r o m c a n a n o t h e r

t h r e a d b e p l a c e d a b o v e i t i n i t s r e a d y d e q u e . C o n s e q u e n t l y , i f a s t e a l a t t e m p t t a r g e t i n g

p r o c e s s o r p i s i n i t i a t e d a t s o m e t i m e s t e p t t

a

, w e a r e g u a r a n t e e d t h a t i n s t r u c t i o n v i s

2 1



e x e c u t e d a t a t i m e s t e p n o l a t e r t h a n t , e i t h e r b y t h r e a d b e i n g s t o l e n a n d e x e c u t e d o r b y

p e x e c u t i n g t h e t h r e a d i t s e l f .

N o w , s u p p o s e h a s o n e t h r e a d

0

a b o v e i t i n p ' s r e a d y d e q u e . I n t h i s c a s e , i f a s t e a l

a t t e m p t t a r g e t i n g p r o c e s s o r p i s i n i t i a t e d a t t i m e s t e p t t

a

, t h e n t h r e a d

0

g e t s s t o l e n

f r o m p ' s r e a d y d e q u e n o l a t e r t h a n t i m e s t e p t . S u p p o s e f u r t h e r t h a t a n o t h e r s t e a l a t t e m p t

t a r g e t i n g p r o c e s s o r p i s i n i t i a t e d a t t i m e s t e p t

0

, w h e r e t

a

t t

0

< t

b

. T h e n , w e k n o w t h a t

a s e c o n d s t e a l w i l l b e s e r v i c e d b y p a t o r b e f o r e t i m e s t e p t

0

+ 1 . I f t h i s s e c o n d s t e a l g e t s

t h r e a d , t h e n i n s t r u c t i o n v m u s t g e t e x e c u t e d a t o r b e f o r e t i m e s t e p t

0

+ 1 t

b

, w h i c h i s

i m p o s s i b l e , s i n c e v i s e x e c u t e d a f t e r t i m e s t e p t

b

. C o n s e q u e n t l y , t h i s s e c o n d s t e a l m u s t g e t

t h r e a d

0

| t h e s a m e t h r e a d t h a t t h e r s t s t e a l g o t . B u t t h i s s c e n a r i o c a n o n l y o c c u r i f i n

t h e i n t e r v e n i n g t i m e p e r i o d , t h r e a d

0

s t a l l s a n d i s s u b s e q u e n t l y r e e n a b l e d b y t h e e x e c u t i o n

o f s o m e i n s t r u c t i o n f r o m t h r e a d , i n w h i c h c a s e i n s t r u c t i o n v m u s t b e e x e c u t e d b e f o r e t i m e

s t e p t

0

+ 1 t

b

, w h i c h i s o n c e a g a i n i m p o s s i b l e .

T h u s , w e m u s t h a v e 3 P ( r 1 ) s t e a l a t t e m p t s , e a c h i n i t i a t e d a t a t i m e s t e p t s u c h t h a t

t

a

t < t

b

, a n d a t m o s t 1 o f w h i c h t a r g e t s p r o c e s s o r p . T h e p r o b a b i l i t y t h a t e i t h e r 0 o r 1

o f 3 P ( r 1 ) s t e a l a t t e m p t s c h o o s e s p r o c e s s o r p i s

1

1

P

3 P ( r 1 )

+ 3 P ( r 1 )

1

P

1

1

P

3 P ( r 1 ) 1

=

1 + 3 ( r 1 )

P

P 1

1

1

P

3 P ( r 1 )

( 6 r 5 )

1

1

P

3 P ( r 1 )

( 6 r 5 ) e

3 ( r 1 )

e

2 r + 3

f o r r 2 .

W e n o w c o m p l e t e t h e d e l a y - s e q u e n c e a r g u m e n t a n d b o u n d t h e t o t a l d o l l a r s i n t h e S t e a l

b u c k e t .

L e m m a 1 2 C o n s i d e r t h e e x e c u t i o n o f a n y f u l l y s t r i c t m u l t i t h r e a d e d c o m p u t a t i o n w i t h c r i t i c a l -

p a t h l e n g t h T

1

b y t h e W o r k - S t e a l i n g A l g o r i t h m o n a p a r a l l e l c o m p u t e r w i t h P p r o c e s s o r s .

F o r a n y > 0 , w i t h p r o b a b i l i t y a t l e a s t 1 , a t m o s t O ( P ( T

1

+ l g ( 1 = ) ) ) w o r k - s t e a l a t t e m p t s

o c c u r . T h e e x p e c t e d n u m b e r o f s t e a l a t t e m p t s i s O ( P T

1

) . I n o t h e r w o r d s , w i t h p r o b a b i l i t y a t

l e a s t 1 , t h e e x e c u t i o n t e r m i n a t e s w i t h a t m o s t O ( P ( T

1

+ l g ( 1 = ) ) ) d o l l a r s i n t h e S t e a l

b u c k e t , a n d t h e e x p e c t e d n u m b e r o f d o l l a r s i n t h i s b u c k e t i s O ( P T

1

) .

P r o o f : F r o m L e m m a 9 , w e k n o w t h a t i f a t l e a s t 4 P R s t e a l a t t e m p t s o c c u r , t h e n s o m e

d e l a y s e q u e n c e ( U ; R ; ) m u s t o c c u r . C o n s i d e r a p a r t i c u l a r d e l a y s e q u e n c e ( U ; R ; ) h a v i n g

U = ( u

1

; u

2

; : : : ; u

L

) a n d = (

1

;

0

1

;

2

;

0

2

; : : : ;

L

;

0

L

) , w i t h L 2 T

1

. W e s h a l l c o m p u t e

t h e p r o b a b i l i t y t h a t ( U ; R ; ) o c c u r s .

S u c h a s e q u e n c e o c c u r s i f f o r i = 1 ; 2 ; : : : ; L , e a c h i n s t r u c t i o n u

i

i s c r i t i c a l t h r o u g h o u t

a l l

i

r o u n d s i n t h e i t h g r o u p . F r o m L e m m a 1 1 , w e k n o w t h a t t h e p r o b a b i l i t y o f t h e

i

r o u n d s i n t h e i t h g r o u p a l l o c c u r r i n g w h i l e a g i v e n i n s t r u c t i o n u

i

i s c r i t i c a l i s a t m o s t t h e

p r o b a b i l i t y t h a t o n l y 0 o r 1 o f t h e s t e a l a t t e m p t s i n i t i a t e d i n t h e r s t

i

1 o f t h e s e r o u n d s

2 2



c h o o s e v ' s p r o c e s s o r , w h i c h i s a t m o s t e

2

i

+ 3

, p r o v i d e d

i

2 . ( F o r t h o s e v a l u e s o f i w i t h

i

< 2 , w e s h a l l u s e 1 a s a n u p p e r b o u n d o n t h i s p r o b a b i l i t y . ) M o r e o v e r , s i n c e t h e t a r g e t s

o f t h e w o r k - s t e a l a t t e m p t s i n t h e

i

r o u n d s o f t h e i t h g r o u p a r e c h o s e n i n d e p e n d e n t l y f r o m

t h e t a r g e t s c h o s e n i n o t h e r r o u n d s , w e c a n b o u n d t h e p r o b a b i l i t y o f t h e p a r t i c u l a r d e l a y

s e q u e n c e ( U ; R ; ) o c c u r r i n g a s f o l l o w s :

P r f ( U ; R ; ) o c c u r s g

=

Y

1 i L

P r f t h e

i

r o u n d s o f t h e i t h g r o u p o c c u r w h i l e u

i

i s c r i t i c a l g

Y

1 i L

i

2

e

2

i

+ 3

e x p

2

6

6

4

2

0

B

B

@

X

1 i L

i

2

i

1

C

C

A

+ 3 L

3

7

7

5

= e x p

2

6

6

4

2

0

B

B

@

X

1 i L

i

X

1 i L

i

< 2

i

1

C

C

A

+ 3 L

3

7

7

5

e

2 ( ( R L ) L ) + 3 L

= e

2 R + 7 L

;

w h e r e t h e s e c o n d - t o - l a s t l i n e f o l l o w s f r o m I n e q u a l i t y ( 5 ) .

T o b o u n d t h e p r o b a b i l i t y o f s o m e d e l a y s e q u e n c e ( U ; R ; ) o c c u r r i n g , w e n e e d t o c o u n t

t h e n u m b e r o f s u c h d e l a y s e q u e n c e s a n d m u l t i p l y b y t h e p r o b a b i l i t y t h a t a p a r t i c u l a r s u c h

s e q u e n c e o c c u r s . T h e d i r e c t e d p a t h U i n t h e m o d i e d d a g G

0

s t a r t s a t t h e r s t i n s t r u c t i o n

o f t h e r o o t t h r e a d a n d e n d s a t t h e l a s t i n s t r u c t i o n o f t h e r o o t t h r e a d . I f t h e o r i g i n a l d a g h a s

d e g r e e d , t h e n G

0

h a s d e g r e e a t m o s t d + 1 . C o n s i s t e n t w i t h o u r u n i t - t i m e a s s u m p t i o n f o r

i n s t r u c t i o n s , w e a s s u m e t h a t t h e d e g r e e d i s a c o n s t a n t . S i n c e t h e l e n g t h o f a l o n g e s t p a t h i n

G

0

i s a t m o s t 2 T

1

, t h e r e a r e a t m o s t ( d + 1 )

2 T

1

w a y s o f c h o o s i n g t h e p a t h U = ( u

1

; u

2

; : : : ; u

L

) .

T h e r e a r e a t m o s t

2 L + R

R

4 T

1

+ R

R

w a y s t o c h o o s e , s i n c e p a r t i t i o n s R i n t o 2 L p i e c e s .

A s w e h a v e j u s t s h o w n , a g i v e n d e l a y s e q u e n c e h a s a t m o s t a n e

2 R + 7 L

e

2 R + 1 4 T

1

c h a n c e

o f o c c u r r i n g . M u l t i p l y i n g t h e s e t h r e e f a c t o r s t o g e t h e r b o u n d s t h e p r o b a b i l i t y t h a t a n y d e l a y

s e q u e n c e ( U ; R ; ) o c c u r s b y

( d + 1 )

2 T

1

4 T

1

+ R

R

!

e

2 R + 1 4 T

1

; ( 6 )

w h i c h i s a t m o s t f o r R = c T

1

l g d + l g ( 1 = ) , w h e r e c i s a s u c i e n t l y l a r g e c o n s t a n t .

T h u s , t h e p r o b a b i l i t y t h a t a t l e a s t 4 P R = ( P ( T

1

l g d + l g ( 1 = ) ) ) = ( P ( T

1

+ l g ( 1 = ) ) )

s t e a l a t t e m p t s o c c u r i s a t m o s t . T h e e x p e c t a t i o n b o u n d f o l l o w s , b e c a u s e t h e t a i l o f t h e

d i s t r i b u t i o n d e c r e a s e s e x p o n e n t i a l l y .

W i t h b o u n d s o n t h e n u m b e r o f d o l l a r s i n t h e W o r k a n d S t e a l b u c k e t s , w e n o w s t a t e t h e

t h e o r e m t h a t b o u n d s t h e t o t a l e x e c u t i o n t i m e f o r a f u l l y s t r i c t m u l t i t h r e a d e d c o m p u t a t i o n

b y t h e W o r k - S t e a l i n g A l g o r i t h m , a n d w e c o m p l e t e t h e p r o o f b y b o u n d i n g t h e n u m b e r o f

d o l l a r s i n t h e W a i t b u c k e t .

2 3





I n t h e c a s e w h e n w e h a v e n

d

= O ( 1 ) a n d t h e a l g o r i t h m a c h i e v e s l i n e a r e x p e c t e d s p e e d u p

| t h a t i s , w h e n P = O ( T

1

= T

1

) | t h e t o t a l c o m m u n i c a t i o n i s a t m o s t O ( T

1

S

m a x

) . M o r e o v e r ,

i f P T

1

= T

1

, t h e t o t a l c o m m u n i c a t i o n i s m u c h l e s s t h a n T

1

S

m a x

, w h i c h c o n r m s t h e f o l k

w i s d o m t h a t w o r k - s t e a l i n g a l g o r i t h m s r e q u i r e m u c h l e s s c o m m u n i c a t i o n t h a n t h e p o s s i b l y

( T

1

S

m a x

) c o m m u n i c a t i o n o f w o r k - s h a r i n g a l g o r i t h m s .

7 C o n c l u s i o n

H o w p r a c t i c a l a r e t h e m e t h o d s a n a l y z e d i n t h i s p a p e r ? W e h a v e b e e n a c t i v e l y e n g a g e d i n

b u i l d i n g a C - b a s e d l a n g u a g e c a l l e d C i l k ( p r o n o u n c e d \ s i l k " ) f o r p r o g r a m m i n g m u l t i t h r e a d e d

c o m p u t a t i o n s 5 , 8 , 2 5 , 3 2 , 4 2 ] . C i l k i s d e r i v e d f r o m t h e P C M \ P a r a l l e l C o n t i n u a t i o n M a -

c h i n e " s y s t e m 2 9 ] , w h i c h w a s i t s e l f p a r t l y i n s p i r e d b y t h e r e s e a r c h r e p o r t e d h e r e . T h e C i l k

r u n t i m e s y s t e m e m p l o y s t h e W o r k - S t e a l i n g A l g o r i t h m d e s c r i b e d i n t h i s p a p e r . B e c a u s e C i l k

e m p l o y s a p r o v a b l y e c i e n t s c h e d u l i n g a l g o r i t h m , C i l k d e l i v e r s g u a r a n t e e d p e r f o r m a n c e t o

u s e r a p p l i c a t i o n s . S p e c i c a l l y , w e h a v e f o u n d e m p i r i c a l l y t h a t t h e p e r f o r m a n c e o f a n a p p l i -

c a t i o n w r i t t e n i n t h e C i l k l a n g u a g e c a n b e p r e d i c t e d a c c u r a t e l y u s i n g t h e m o d e l T

1

= P + T

1

.

T h e C i l k s y s t e m c u r r e n t l y r u n s o n c o n t e m p o r a r y s h a r e d - m e m o r y m u l t i p r o c e s s o r s , s u c h

a s t h e S u n E n t e r p r i s e , t h e S i l i c o n G r a p h i c s O r i g i n , t h e I n t e l Q u a d P e n t i u m , a n d t h e D E C

A l p h a s e r v e r . ( E a r l i e r v e r s i o n s o f C i l k r a n o n t h e T h i n k i n g M a c h i n e s C M - 5 M P P , t h e I n t e l

P a r a g o n M P P , a n d t h e I B M S P - 2 . ) T o d a t e , a p p l i c a t i o n s w r i t t e n i n C i l k i n c l u d e p r o t e i n

f o l d i n g 3 8 ] , g r a p h i c r e n d e r i n g 4 5 ] , b a c k t r a c k s e a r c h , a n d t h e ? S o c r a t e s c h e s s p r o g r a m 3 1 ] ,

w h i c h w o n s e c o n d p r i z e i n t h e 1 9 9 5 I C C A W o r l d C o m p u t e r C h e s s C h a m p i o n s h i p r u n n i n g

o n a 1 8 2 4 - n o d e P a r a g o n a t S a n d i a N a t i o n a l L a b o r a t o r i e s . O u r m o r e r e c e n t c h e s s p r o g r a m ,

C i l k c h e s s , w o n t h e 1 9 9 6 D u t c h O p e n C o m p u t e r C h e s s T o u r n a m e n t . A t e a m p r o g r a m m i n g

i n C i l k w o n F i r s t P r i z e ( u n d e f e a t e d ) i n t h e I C F P ' 9 8 P r o g r a m m i n g C o n t e s t s p o n s o r e d b y t h e

I n t e r n a t i o n a l C o n f e r e n c e o n F u n c t i o n a l P r o g r a m m i n g .

A s p a r t o f o u r r e s e a r c h , w e h a v e i m p l e m e n t e d a p r o t o t y p e r u n t i m e s y s t e m f o r C i l k o n n e t -

w o r k s o f w o r k s t a t i o n s . T h i s r u n t i m e s y s t e m , c a l l e d C i l k - N O W 5 , 1 1 , 3 5 ] , s u p p o r t s a d a p t i v e

p a r a l l e l i s m , w h e r e p r o c e s s o r s i n a w o r k s t a t i o n e n v i r o n m e n t c a n j o i n a u s e r ' s c o m p u t a t i o n

i f t h e y w o u l d b e o t h e r w i s e i d l e a n d y e t b e a v a i l a b l e i m m e d i a t e l y t o l e a v e t h e c o m p u t a t i o n

w h e n n e e d e d a g a i n b y t h e i r o w n e r s . C i l k - N O W a l s o s u p p o r t s t r a n s p a r e n t f a u l t t o l e r a n c e ,

m e a n i n g t h a t t h e u s e r ' s c o m p u t a t i o n c a n p r o c e e d e v e n i n t h e f a c e o f p r o c e s s o r s c r a s h i n g ,

a n d y e t t h e p r o g r a m m e r w r i t e s t h e c o d e i n a c o m p l e t e l y f a u l t - o b l i v i o u s f a s h i o n . A m o r e

r e c e n t d i s t r i b u t e d i m p l e m e n t a t i o n f o r c l u s t e r s o f S M P ' s i s d e s c r i b e d i n 4 2 ] .

W e h a v e a l s o i n v e s t i g a t e d o t h e r t o p i c s r e l a t e d t o C i l k , i n c l u d i n g d i s t r i b u t e d s h a r e d m e m -

o r y 6 , 7 , 2 4 , 2 6 ] a n d d e b u g g i n g t o o l s 1 7 , 1 8 , 2 2 , 4 5 ] . U p - t o - d a t e i n f o r m a t i o n , p a p e r s , a n d

s o f t w a r e r e l e a s e s c a n b e f o u n d o n t h e W o r l d W i d e W e b a t h t t p : / / s u p e r t e c h . l c s . m i t . e d u / c i l k .

F o r t h e c a s e o f s h a r e d - m e m o r y m u l t i p r o c e s s o r s , w e h a v e r e c e n t l y g e n e r a l i z e d t h e t i m e

b o u n d ( b u t n o t t h e s p a c e o r c o m m u n i c a t i o n b o u n d s ) a l o n g t w o d i m e n s i o n s 1 ] . F i r s t , w e

h a v e s h o w n t h a t f o r a r b i t r a r y ( n o t n e c e s s a r i l y f u l l y s t r i c t o r e v e n s t r i c t ) m u l t i t h r e a d e d c o m -

p u t a t i o n s , t h e e x p e c t e d e x e c u t i o n t i m e i s O ( T

1

= P + T

1

) . T h i s b o u n d i s b a s e d o n a n e w

s t r u c t u r a l l e m m a a n d a n a m o r t i z e d a n a l y s i s u s i n g a p o t e n t i a l f u n c t i o n . S e c o n d , w e h a v e

d e v e l o p e d a n o n b l o c k i n g i m p l e m e n t a t i o n o f t h e w o r k - s t e a l i n g a l g o r i t h m , a n d w e h a v e a n -

a l y z e d i t s e x e c u t i o n t i m e f o r a m u l t i p r o g r a m m e d e n v i r o n m e n t i n w h i c h t h e c o m p u t a t i o n

2 5



e x e c u t e s o n a s e t o f p r o c e s s o r s t h a t g r o w s a n d s h r i n k s o v e r t i m e . T h i s g r o w i n g a n d s h r i n k -

i n g i s c o n t r o l l e d b y a n a d v e r s a r y . I n c a s e t h e a d v e r s a r y c h o o s e s n o t t o g r o w o r s h r i n k t h e

s e t o f p r o c e s s o r s , t h e b o u n d s p e c i a l i z e s t o m a t c h o u r p r e v i o u s b o u n d . T h e n o n b l o c k i n g

w o r k s t e a l e r h a s b e e n i m p l e m e n t e d i n t h e H o o d u s e r - l e v e l t h r e a d s l i b r a r y 1 2 , 3 9 ] . U p - t o -

d a t e i n f o r m a t i o n , p a p e r s , a n d s o f t w a r e r e l e a s e s c a n b e f o u n d o n t h e W o r l d W i d e W e b a t

h t t p : / / w w w . c s . u t e x a s . e d u / u s e r s / h o o d .

A c k n o w l e d g m e n t s

T h a n k s t o B r u c e M a g g s o f C a r n e g i e M e l l o n , w h o o u t l i n e d t h e s t r a t e g y i n S e c t i o n 6 f o r u s i n g

a d e l a y - s e q u e n c e a r g u m e n t t o p r o v e t h e t i m e b o u n d s o n t h e W o r k - S t e a l i n g A l g o r i t h m , w h i c h

i m p r o v e d o u r p r e v i o u s b o u n d s . T h a n k s t o G r e g P l a x t o n o f U n i v e r s i t y o f T e x a s , A u s t i n f o r

t e c h n i c a l c o m m e n t s o n o u r p r o b a b i l i s t i c a n a l y s e s . T h a n k s t o t h e a n o n y m o u s r e f e r e e s , Y a n j u n

Z h a n g o f S o u t h e r n M e t h o d i s t U n i v e r s i t y , a n d W a r r e n B u r t o n o f S i m o n F r a s e r U n i v e r s i t y f o r

c o m m e n t s t h a t i m p r o v e d t h e c l a r i t y o f o u r p a p e r . T h a n k s a l s o t o A r v i n d , M i c h a e l H a l b h e r r ,

C h r i s J o e r g , B r a d l e y K u s z m a u l , K e i t h R a n d a l l , a n d Y u l i Z h o u o f M I T f o r h e l p f u l d i s c u s s i o n s .

R e f e r e n c e s

1 ] N i m a r S . A r o r a , R o b e r t D . B l u m o f e , a n d C . G r e g P l a x t o n . T h r e a d s c h e d u l i n g f o r m u l t i p r o -

g r a m m e d m u l t i p r o c e s s o r s . I n P r o c e e d i n g s o f t h e T e n t h A n n u a l A C M S y m p o s i u m o n P a r a l l e l

A l g o r i t h m s a n d A r c h i t e c t u r e s ( S P A A ) , p a g e s 1 1 9 { 1 2 9 , P u e r t o V a l l a r t a , M e x i c o , J u n e 1 9 9 8 .

2 ] A r v i n d , R i s h i y u r S . N i k h i l , a n d K e s h a v K . P i n g a l i . I - s t r u c t u r e s : D a t a s t r u c t u r e s f o r p a r a l -

l e l c o m p u t i n g . A C M T r a n s a c t i o n s o n P r o g r a m m i n g L a n g u a g e s a n d S y s t e m s , 1 1 ( 4 ) : 5 9 8 { 6 3 2 ,

O c t o b e r 1 9 8 9 .

3 ] G u y E . B l e l l o c h , P h i l l i p B . G i b b o n s , a n d Y o s s i M a t i a s . P r o v a b l y e c i e n t s c h e d u l i n g f o r

l a n g u a g e s w i t h n e - g r a i n e d p a r a l l e l i s m . I n P r o c e e d i n g s o f t h e S e v e n t h A n n u a l A C M S y m p o s i u m

o n P a r a l l e l A l g o r i t h m s a n d A r c h i t e c t u r e s ( S P A A ) , p a g e s 1 { 1 2 , S a n t a B a r b a r a , C a l i f o r n i a , J u l y

1 9 9 5 .

4 ] G u y E . B l e l l o c h , P h i l l i p B . G i b b o n s , Y o s s i M a t i a s , a n d G i r i j a J . N a r l i k a r . S p a c e - e c i e n t

s c h e d u l i n g o f p a r a l l e l i s m w i t h s y n c h r o n i z a t i o n v a r i a b l e s . I n P r o c e e d i n g s o f t h e 9 t h A n n u a l

A C M S y m p o s i u m o n P a r a l l e l A l g o r i t h m s a n d A r c h i t e c t u r e s ( S P A A ) , p a g e s 1 2 { 2 3 , N e w p o r t ,

R h o d e I s l a n d , J u n e 1 9 9 7 .

5 ] R o b e r t D . B l u m o f e . E x e c u t i n g M u l t i t h r e a d e d P r o g r a m s E c i e n t l y . P h D t h e s i s , D e p a r t -

m e n t o f E l e c t r i c a l E n g i n e e r i n g a n d C o m p u t e r S c i e n c e , M a s s a c h u s e t t s I n s t i t u t e o f T e c h n o l o g y ,

S e p t e m b e r 1 9 9 5 . A l s o a v a i l a b l e a s M I T L a b o r a t o r y f o r C o m p u t e r S c i e n c e T e c h n i c a l R e p o r t

M I T / L C S / T R - 6 7 7 .

6 ] R o b e r t D . B l u m o f e , M a t t e o F r i g o , C h r i s t o p h e r F . J o e r g , C h a r l e s E . L e i s e r s o n , a n d K e i t h H .

R a n d a l l . A n a n a l y s i s o f d a g - c o n s i s t e n t d i s t r i b u t e d s h a r e d - m e m o r y a l g o r i t h m s . I n P r o c e e d i n g s

o f t h e E i g h t h A n n u a l A C M S y m p o s i u m o n P a r a l l e l A l g o r i t h m s a n d A r c h i t e c t u r e s ( S P A A ) ,

p a g e s 2 9 7 { 3 0 8 , P a d u a , I t a l y , J u n e 1 9 9 6 .

2 6



7 ] R o b e r t D . B l u m o f e , M a t t e o F r i g o , C h r i s t o p h e r F . J o e r g , C h a r l e s E . L e i s e r s o n , a n d K e i t h H .

R a n d a l l . D a g - c o n s i s t e n t d i s t r i b u t e d s h a r e d m e m o r y . I n P r o c e e d i n g s o f t h e T e n t h I n t e r n a t i o n a l

P a r a l l e l P r o c e s s i n g S y m p o s i u m ( I P P S ) , p a g e s 1 3 2 { 1 4 1 , H o n o l u l u , H a w a i i , A p r i l 1 9 9 6 .

8 ] R o b e r t D . B l u m o f e , C h r i s t o p h e r F . J o e r g , B r a d l e y C . K u s z m a u l , C h a r l e s E . L e i s e r s o n , K e i t h H .

R a n d a l l , a n d Y u l i Z h o u . C i l k : A n e c i e n t m u l t i t h r e a d e d r u n t i m e s y s t e m . J o u r n a l o f P a r a l l e l

a n d D i s t r i b u t e d C o m p u t i n g , 3 7 ( 1 ) : 5 5 { 6 9 , A u g u s t 1 9 9 6 .

9 ] R o b e r t D . B l u m o f e a n d C h a r l e s E . L e i s e r s o n . S c h e d u l i n g m u l t i t h r e a d e d c o m p u t a t i o n s b y w o r k

s t e a l i n g . I n P r o c e e d i n g s o f t h e 3 5 t h A n n u a l S y m p o s i u m o n F o u n d a t i o n s o f C o m p u t e r S c i e n c e

( F O C S ) , p a g e s 3 5 6 { 3 6 8 , S a n t a F e , N e w M e x i c o , N o v e m b e r 1 9 9 4 .

1 0 ] R o b e r t D . B l u m o f e a n d C h a r l e s E . L e i s e r s o n . S p a c e - e c i e n t s c h e d u l i n g o f m u l t i t h r e a d e d

c o m p u t a t i o n s . S I A M J o u r n a l o n C o m p u t i n g , 2 7 ( 1 ) : 2 0 2 { 2 2 9 , F e b r u a r y 1 9 9 8 .

1 1 ] R o b e r t D . B l u m o f e a n d P h i l i p A . L i s i e c k i . A d a p t i v e a n d r e l i a b l e p a r a l l e l c o m p u t i n g o n n e t -

w o r k s o f w o r k s t a t i o n s . I n P r o c e e d i n g s o f t h e U S E N I X 1 9 9 7 A n n u a l T e c h n i c a l C o n f e r e n c e o n

U N I X a n d A d v a n c e d C o m p u t i n g S y s t e m s , p a g e s 1 3 3 { 1 4 7 , A n a h e i m , C a l i f o r n i a , J a n u a r y 1 9 9 7 .

1 2 ] R o b e r t D . B l u m o f e a n d D i o n i s i o s P a p a d o p o u l o s . T h e p e r f o r m a n c e o f w o r k s t e a l i n g i n m u l t i -

p r o g r a m m e d e n v i r o n m e n t s . T e c h n i c a l R e p o r t T R - 9 8 - 1 3 , T h e U n i v e r s i t y o f T e x a s a t A u s t i n ,

D e p a r t m e n t o f C o m p u t e r S c i e n c e s , M a y 1 9 9 8 .

1 3 ] R i c h a r d P . B r e n t . T h e p a r a l l e l e v a l u a t i o n o f g e n e r a l a r i t h m e t i c e x p r e s s i o n s . J o u r n a l o f t h e

A C M , 2 1 ( 2 ) : 2 0 1 { 2 0 6 , A p r i l 1 9 7 4 .

1 4 ] F . W a r r e n B u r t o n . S t o r a g e m a n a g e m e n t i n v i r t u a l t r e e m a c h i n e s . I E E E T r a n s a c t i o n s o n

C o m p u t e r s , 3 7 ( 3 ) : 3 2 1 { 3 2 8 , M a r c h 1 9 8 8 .

1 5 ] F . W a r r e n B u r t o n . G u a r a n t e e i n g g o o d m e m o r y b o u n d s f o r p a r a l l e l p r o g r a m s . I E E E T r a n s a c -

t i o n s o n S o f t w a r e E n g i n e e r i n g , 2 2 ( 1 0 ) , O c t o b e r 1 9 9 6 .

1 6 ] F . W a r r e n B u r t o n a n d M . R o n a n S l e e p . E x e c u t i n g f u n c t i o n a l p r o g r a m s o n a v i r t u a l t r e e o f

p r o c e s s o r s . I n P r o c e e d i n g s o f t h e 1 9 8 1 C o n f e r e n c e o n F u n c t i o n a l P r o g r a m m i n g L a n g u a g e s a n d

C o m p u t e r A r c h i t e c t u r e , p a g e s 1 8 7 { 1 9 4 , P o r t s m o u t h , N e w H a m p s h i r e , O c t o b e r 1 9 8 1 .

1 7 ] G u a n g - I e n C h e n g . A l g o r i t h m s f o r d a t a - r a c e d e t e c t i o n i n m u l t i t h r e a d e d p r o g r a m s . M a s t e r ' s

t h e s i s , D e p a r t m e n t o f E l e c t r i c a l E n g i n e e r i n g a n d C o m p u t e r S c i e n c e , M a s s a c h u s e t t s I n s t i t u t e

o f T e c h n o l o g y , M a y 1 9 9 8 .

1 8 ] G u a n g - I e n C h e n g , M i n g d o n g F e n g , C h a r l e s E . L e i s e r s o n , K e i t h H . R a n d a l l , a n d A n d r e w F .

S t a r k . D e t e c t i n g d a t a r a c e s i n C i l k p r o g r a m s t h a t u s e l o c k s . I n T e n t h A C M S y m p o s i u m o n

P a r a l l e l A l g o r i t h m s a n d A r c h i t e c t u r e s ( S P A A ) , P u e r t o V a l l a r t a , M e x i c o , J u n e 1 9 9 8 .

1 9 ] D a v i d E . C u l l e r a n d A r v i n d . R e s o u r c e r e q u i r e m e n t s o f d a t a o w p r o g r a m s . I n P r o c e e d i n g s

o f t h e 1 5 t h A n n u a l I n t e r n a t i o n a l S y m p o s i u m o n C o m p u t e r A r c h i t e c t u r e ( I S C A ) , p a g e s 1 4 1 {

1 5 0 , H o n o l u l u , H a w a i i , M a y 1 9 8 8 . A l s o a v a i l a b l e a s M I T L a b o r a t o r y f o r C o m p u t e r S c i e n c e ,

C o m p u t a t i o n S t r u c t u r e s G r o u p M e m o 2 8 0 .

2 0 ] D e r e k L . E a g e r , J o h n Z a h o r j a n , a n d E d w a r d D . L a z o w s k a . S p e e d u p v e r s u s e c i e n c y i n p a r a l l e l

s y s t e m s . I E E E T r a n s a c t i o n s o n C o m p u t e r s , 3 8 ( 3 ) : 4 0 8 { 4 2 3 , M a r c h 1 9 8 9 .

2 7



2 1 ] R . F e l d m a n n , P . M y s l i w i e t z , a n d B . M o n i e n . G a m e t r e e s e a r c h o n a m a s s i v e l y p a r a l l e l s y s t e m .

A d v a n c e s i n C o m p u t e r C h e s s 7 , p a g e s 2 0 3 { 2 1 9 , 1 9 9 3 .

2 2 ] M i n g d o n g F e n g a n d C h a r l e s E . L e i s e r s o n . E c i e n t d e t e c t i o n o f d e t e r m i n a c y r a c e s i n C i l k p r o -

g r a m s . I n N i n t h A n n u a l A C M S y m p o s i u m o n P a r a l l e l A l g o r i t h m s a n d A r c h i t e c t u r e s ( S P A A ) ,

p a g e s 1 { 1 1 , N e w p o r t , R h o d e I s l a n d , J u n e 1 9 9 7 .

2 3 ] R a p h a e l F i n k e l a n d U d i M a n b e r . D I B | a d i s t r i b u t e d i m p l e m e n t a t i o n o f b a c k t r a c k i n g . A C M

T r a n s a c t i o n s o n P r o g r a m m i n g L a n g u a g e s a n d S y s t e m s , 9 ( 2 ) : 2 3 5 { 2 5 6 , A p r i l 1 9 8 7 .

2 4 ] M a t t e o F r i g o . T h e w e a k e s t r e a s o n a b l e m e m o r y m o d e l . M a s t e r ' s t h e s i s , D e p a r t m e n t o f E l e c t r i -

c a l E n g i n e e r i n g a n d C o m p u t e r S c i e n c e , M a s s a c h u s e t t s I n s t i t u t e o f T e c h n o l o g y , J a n u a r y 1 9 9 8 .

2 5 ] M a t t e o F r i g o , C h a r l e s E . L e i s e r s o n , a n d K e i t h H . R a n d a l l . T h e i m p l e m e n t a t i o n o f t h e C i l k - 5

m u l t i t h r e a d e d l a n g u a g e . I n P r o c e e d i n g s o f t h e 1 9 9 8 A C M S I G P L A N C o n f e r e n c e o n P r o g r a m -

m i n g L a n g u a g e D e s i g n a n d I m p l e m e n t a t i o n ( P L D I ) , M o n t r e a l , C a n a d a , J u n e 1 9 9 8 .

2 6 ] M a t t e o F r i g o a n d V i c t o r L u c h a n g c o . C o m p u t a t i o n - c e n t r i c m e m o r y m o d e l s . I n P r o c e e d i n g s o f

t h e T e n t h A n n u a l A C M S y m p o s i u m o n P a r a l l e l A l g o r i t h m s a n d A r c h i t e c t u r e s ( S P A A ) , p a g e s

2 4 0 { 2 4 9 , P u e r t o V a l l a r t a , M e x i c o , J u n e 1 9 9 8 .

2 7 ] R . L . G r a h a m . B o u n d s f o r c e r t a i n m u l t i p r o c e s s i n g a n o m a l i e s . T h e B e l l S y s t e m T e c h n i c a l

J o u r n a l , 4 5 : 1 5 6 3 { 1 5 8 1 , N o v e m b e r 1 9 6 6 .

2 8 ] R . L . G r a h a m . B o u n d s o n m u l t i p r o c e s s i n g t i m i n g a n o m a l i e s . S I A M J o u r n a l o n A p p l i e d

M a t h e m a t i c s , 1 7 ( 2 ) : 4 1 6 { 4 2 9 , M a r c h 1 9 6 9 .

2 9 ] M i c h a e l H a l b h e r r , Y u l i Z h o u , a n d C h r i s F . J o e r g . M I M D - s t y l e p a r a l l e l p r o g r a m m i n g w i t h

c o n t i n u a t i o n - p a s s i n g t h r e a d s . I n P r o c e e d i n g s o f t h e 2 n d I n t e r n a t i o n a l W o r k s h o p o n M a s s i v e

P a r a l l e l i s m : H a r d w a r e , S o f t w a r e , a n d A p p l i c a t i o n s , C a p r i , I t a l y , S e p t e m b e r 1 9 9 4 .

3 0 ] R o b e r t H . H a l s t e a d , J r . I m p l e m e n t a t i o n o f M u l t i l i s p : L i s p o n a m u l t i p r o c e s s o r . I n C o n f e r e n c e

R e c o r d o f t h e 1 9 8 4 A C M S y m p o s i u m o n L i s p a n d F u n c t i o n a l P r o g r a m m i n g , p a g e s 9 { 1 7 , A u s t i n ,

T e x a s , A u g u s t 1 9 8 4 .

3 1 ] C h r i s J o e r g a n d B r a d l e y C . K u s z m a u l . M a s s i v e l y p a r a l l e l c h e s s . I n P r o c e e d i n g s o f t h e T h i r d

D I M A C S P a r a l l e l I m p l e m e n t a t i o n C h a l l e n g e , R u t g e r s U n i v e r s i t y , N e w J e r s e y , O c t o b e r 1 9 9 4 .

3 2 ] C h r i s t o p h e r F . J o e r g . T h e C i l k S y s t e m f o r P a r a l l e l M u l t i t h r e a d e d C o m p u t i n g . P h D t h e s i s ,

D e p a r t m e n t o f E l e c t r i c a l E n g i n e e r i n g a n d C o m p u t e r S c i e n c e , M a s s a c h u s e t t s I n s t i t u t e o f T e c h -

n o l o g y , J a n u a r y 1 9 9 6 .

3 3 ] R i c h a r d M . K a r p a n d Y a n j u n Z h a n g . R a n d o m i z e d p a r a l l e l a l g o r i t h m s f o r b a c k t r a c k s e a r c h

a n d b r a n c h - a n d - b o u n d c o m p u t a t i o n . J o u r n a l o f t h e A C M , 4 0 ( 3 ) : 7 6 5 { 7 8 9 , J u l y 1 9 9 3 .

3 4 ] B r a d l e y C . K u s z m a u l . S y n c h r o n i z e d M I M D C o m p u t i n g . P h D t h e s i s , D e p a r t m e n t o f E l e c t r i c a l

E n g i n e e r i n g a n d C o m p u t e r S c i e n c e , M a s s a c h u s e t t s I n s t i t u t e o f T e c h n o l o g y , M a y 1 9 9 4 . A l s o

a v a i l a b l e a s M I T L a b o r a t o r y f o r C o m p u t e r S c i e n c e T e c h n i c a l R e p o r t M I T / L C S / T R - 6 4 5 .

3 5 ] P h i l i p L i s i e c k i . M a c r o s c h e d u l i n g i n t h e C i l k n e t w o r k o f w o r k s t a t i o n s e n v i r o n m e n t . M a s t e r ' s

t h e s i s , D e p a r t m e n t o f E l e c t r i c a l E n g i n e e r i n g a n d C o m p u t e r S c i e n c e , M a s s a c h u s e t t s I n s t i t u t e

o f T e c h n o l o g y , M a y 1 9 9 6 .

Documents

Scheduling Multithread Computations by Stealing Work