Register File Caching for Energy Efficiency

Embed Size (px)

Citation preview

  • 8/13/2019 Register File Caching for Energy Efficiency

    1/6

    R e g i s t e r F i l e C a c h i n g f o r E n e r g y E f f i c i e n c yH u i Z e n g a n d K a n a d G h o s eD e p a r t m e n t o f C o m p u t e r S c i e n c e

    S t a t e U n i v e r s i t y o f New Y o r k a t B i n g h a m t o n{ h z e n g , g h o s e } @ c s . b i n g h a m t o n . e d u

    ABSTRACTW i t h t h e u s e o f f a s t e r c l o c k s a n d l a r g e r i n s t r u c t i o n w i n d o w s i nh i g h - e n d s u p e r s c a l a r p r o c e s s o r s , t h e p h y s i c a l r e g i s t e r f i l e s ( R F s )c a n n o l o n g e r b e a c c e s s e d i n a s i n g l e c y c l e . T o c o m b a t t h ec o n s e q u e n t i a l p e r f o r m a n c e p e n a l t y , t h e R F s e m p l o y m u l t i p l el e v e l s o f b y p a s s i n g . R e g i s t e r f i l e c a c h i n g , w h i c h c a c h e s a s m a l ls u b s e t o f t h e r e g i s t e r s i n a f a s t e r , s m a l l e r s t r u c t u r e c a l l e d t h er e g i s t e r f i l e c a c h e ( R F C ) h a s a l s o b e e n p r o p o s e d a s a r e m e d y f o rt h i s p r o b l e m . We i n t r o d u c e a r e l a t i v e l y s i m p l e RF C d e s i g n t h a tp a r t i t i o n s t h e RF C i n t o t w o s e p a r a t e c o m p o n e n t s : a F I F O q u e u ef o r h o l d i n g r e g i s t e r v a l u e s t h a t a r e u s e d o v e r a s h o r t d u r a t i o nf o l l o w i n g t h e i r w r i t e b a c k a n d a n o t h e r s m a l l s e t - a s s o c i a t i v e c a c h eh o l d i n g v a l u e s t h a t a r e l i k e l y t o b e u s e d o v e r a l o n g e r d u r a t i o n .R e s u l t s w r i t t e n t o t h e RF C a r e e a s i l y c l a s s i f i e d i n t o t h e s ec a t e g o r i e s a n d t h e c l a s s i f i c a t i o n b i t i s a l s o u s e d t o p r e d i c t t h en a t u r e o f t h e r e s u l t f o r t h e n e x t e x e c u t i o n o f t h e s a m e i n s t r u c t i o n .We s h o w t h a t s i g n i f i c a n t e n e r g y s a v i n g s - a b o u t 38 o n t h ea v e r a g e - o c c u r s i n a c c e s s i n g r e g i s t e r o p e r a n d s w h e n a 2 8 - e n t r yRF C i s u s e d , t o g e t h e r w i t h a 9 6 - e n t r y RF w i t h n o a d d i t i o n a lb y p a s s i n g w h e n c o m p a r e d w i t h a b a s e c a s e d e s i g n t h a t h a s 1 2 8r e g i s t e r s w i t h a 2 c y c l e a c c e s s t i m e a n d h a v i n g o n e a d d i t i o n a ll e v e l o f b y p a s s i n g . T h e p e r f o r m a n c e d r o p c o m p a r e d a g a i n s t t h eb a s e c a s e i s a l s o n e g l i g i b l e ( 0 . 3 d r o p ) .C a t e g o r i e s a n d S u b j e c t D e s c r i p t o r sC . 1 [ P r o c e s s o r A r c h i t e c t u r e s ] : O t h e r A r c h i t e c t u r e S t y l e s P i p e l i n e p r o c e s s o r s .G e n e r a l T e r m s : P e r f o r m a n c e , D e s i g nKeywords: R e g i s t e r F i l e s , R e g i s t e r C a c h i n g , E n e r g y -E f f i c i e n c y1 . INTRODUCTIONT h e a l m o s t u b i q u i t o u s i m p r o v e m e n t s i n d e v i c e t e c h n o l o g y h a v ee n a b l e d t h e u s e o f h i g h e r s p e e d c l o c k s . A t t h e s a m e t i m e , h i g h -e n d s u p e r s c a l a r m i c r o p r o c e s s o r s t h a t u s e o u t - o f - o r d e r i n s t r u c t i o np r o c e s s i n g h a v e r e l i e d o n t h e u s e o f b i g g e r a n d b i g g e r r e g i s t e rf i l e s t o e x p o s e a n d e x p l o i t i n s t r u c t i o n l e v e l p a r a l l e l i s m .C o n s e q u e n t l y , t h e r e g i s t e r f i l e a c c e s s t i m e h a s g o n e u p b e y o n d as i n g l e c y c l e . P r o c e s s o r d e s i g n e r s h a v e a d d r e s s e d t h e p e r f o r m a n c eP e r m i s s i o n t o m a k e d i g i t a l o r h a r d c o p i e s o f a l l o r p a r t o f t h i s w o r k f o rp e r s o n a l o r c l a s s r o o m u s e i s g r a n t e d w i t h o u t f e e p r o v i d e d t h a t c o p i e s a r en o t m a d e o r d i s t r i b u t e d f o r p r o f i t o r c o m m e r c i a l a d v a n t a g e a n d t h a tc o p i e s b e a r t h i s n o t i c e a n d t h e f u l l c i t a t i o n o n t h e f i r s t p a g e . T o c o p yo t h e r w i s e , o r r e p u b l i s h , t o p o s t o n s e r v e r s o r t o r e d i s t r i b u t e t o l i s t s ,r e q u i r e s p r i o r s p e c i f i c p e r m i s s i o n a n d / o r a f e e .I S L P E D ' 0 6 , O c t o b e r 4 - 6 , 2 0 0 6 , T e g e m s e e , G e r m a n y .C o p y r i g h t 2 0 0 6 ACM 1 - 5 9 5 9 3 - 4 6 2 - 6 / 0 6 / 0 0 1 0 . . . 5 . 0 0 .

    p r o b l e m s i n h e r e n t w i t h t h e u s e o f a m u l t i - c y c l e a c c e s s r e g i s t e rf i l e s b y u s i n g m u l t i p l e l e v e l s o f b y p a s s i n g o r b y u s i n g a l t e r n a t i v er e g i s t e r f i l e d e s i g n s o r b y u s i n g a r e g i s t e r f i l e c a c h e ( R F C o rs i m p l y a r e g i s t e r c a c h e ) t h a t p e r m i t s a s i n g l e c y c l e a c c e s s t o s t o r er e g i s t e r v a l u e s t h a t a r e e x p e c t e d t o b e a c c e s s e d b y t h e i s s u e di n s t r u c t i o n s [ B D A 0 1 , CGTV 0 0 , HM 0 0 , TA 0 3 , B u S o 0 4 ] . T h eRF C i s b a c k e d u p b y t h e l a r g e r r e g i s t e r f i l e ( R F ) . A n u m b e r o fr e g i s t e r c a c h i n g s c h e m e s h a v e b e e n p r o p o s e d t o a v o i d t h ep e r f o r m a n c e p e n a l t y a s s o c i a t e d w i t h m u l t i - c y c l e r e g i s t e r a c c e s s e s[ B D A 0 1 , CGTV 0 0 , LVA 9 5 , HM 0 0 , B u S o 0 4 ] . S o m e o f t h e s es c h e m e s c a n g e t q u i t e s o p h i s t i c a t e d a n d c o m p l e x [ B u S o 0 4 ] .T h i s p a p e r i n t r o d u c e s a r e l a t i v e l y s i m p l e r e g i s t e r c a c h i n g s c h e m ew h o s e p r i m a r y g o a l i s t o r e d u c e t h e e n e r g y s p e n t i n r e a d i n g a n dw r i t i n g a l a r g e , m u l t i - c y c l e r e g i s t e r f i l e . A s s e e n f r o m o u r r e s u l t sg i v e n l a t e r , o u r r e g i s t e r c a c h i n g m e c h a n i s m a v o i d s m o r e t h a n8 6 o f t h e o p e r a n d s r e a d s a n d a b o u t 3 5 o f t h e w r i t e s t h a t w o u l do t h e r w i s e t a k e p l a c e i n a s u p e r s c a l a r p r o c e s s o r t h a t d o e s n o t h a v ea r e g i s t e r c a c h e . F u r t h e r m o r e , t h e p r o p o s e d s c h e m e a 2 8 - e n t r yRF C a n d a 9 6 e n t r y r e g i s t e r f i l e s p r o v i d e p e r f o r m n a n c e l e v e l t h a tc o m e s w i t h i n 0 . 3 o f t h a t p r o v i d e d b y a b a s e d e s i g n t h a t u s e s a1 2 8 - e n t r y r e g i s t e r f i l e w i t h o n e a d d i t i o n i a l l e v e l o f b y p a s s i n g . I ft h i s a d d i t i o n a l l e v e l o f b y p a s s i n g i s n o t u s e d i n t h e b a s e c a s e , o u rs c h e m e p r o v i d e s a s i g n i f i c a n t p e r f o r m a n c e g a i n ; a s t h i s i s n o t af a i r c o m p a r i s o n , we a s s u m e t h a t t h e b a s e c a s e u s e s o n e a d d i t i o n a ll e v e l o f b y p a s s i n g . ) C o m p a r e d t o t h e b a s e c a s e , t h e p o w e r s p e n ti n r e g i s t e r f i l e a c c e s s i n g i s r e d u c e d b y 3 8 o n t h e a v e r a g ec o m p a r e d t o t h e b a s e c a s e .A d e t a i l e d m i c r o a r c h i t e c t u r e - l e v e l , c y c l e - b y - c y c l e s i m u l a t o r [ S h0 5 ] i s u s e d f o r t h e s t u d i e s r e p o r t e d i n t h i s p a p e r . T h i s s i m u l a t o re x t e n d s t h e w e l l - k n o w n S i m p l e s c a l a r s i m u l a t o r [ S i m 0 6 ] i n an u m b e r o f w a y s t h a t p e r m i t a c c u r a t e p o w e r e s t i m a t i o n o f t h ev a r i o u s d a t a p a t h c o m p o n e n t s . T h i s s i m u l a t o r m o d e l s a n o u t - o f -o r d e r p r o c e s s o r t h a t u s e s r e g i s t e r r e n a m i n g f o r h a n d l i n g t h e t r u ed a t a d e p e n d e n c i e s a n d f o r e l i m i n a t i n g a n t i a n d o u t p u t d e p e n d e n c yi n t h e r e n a m e d i n s t r u c t i o n s t r e a m . A s a n i n s t r u c t i o n t a r g e t i n g ar e s u l t i n t o a r e g i s t e r i s d i s p a t c h e d , t h e s o u r c e a r c h i t e c t u r a lr e g i s t e r s a r e r e m a p p e d t o t h e p h y s i c a l r e g i s t e r s r e p r e s e n t i n g t h e i rm o s t r e c e n t i n s t a n c e s u s i n g a r e g i s t e r a l i a s t a b l e ( R A T ) a n d a newp h y s i c a l r e g i s t e r i s a s s i g n e d t o t h e d e s t i n a t i o n a r c h i t e c t u r a lr e g i s t e r . A r e o r d e r b u f f e r ( R O B ) i s u s e d t o i m p l e m e n t p r e c i s ei n t e r r u p t s i n t h e f a c e o u t o u t - o f - o r d e r i n s t r u c t i o n s c o m p l e t i o n s .T h e c o m m i t t e d r e g i s t e r v a l u e s w i t h i n t h e p h y s i c a l r e g i s t e r f i l e a r ep o i n t e d t o b y a r e t i r e m e n t r e g i s t e r a l i a s t a b l e ( R - R A T ) . T h e b a s i cd a t a p a t h t l h u s h a s a s t r o n g r e s e m b l a n c e t o t h e I n t e l P 4 s t y l ed a t a p a t h . We m o d i f y t h i s s i m u l a t o r t o i n c o r p o r a t e t h e p r o p o s e dRF C d e s i g n a n d t o s t u d y t h e e n e r g y - p e r f o r m a n c e t r a d e o f f s .

    2 4 4

  • 8/13/2019 Register File Caching for Energy Efficiency

    2/6

    2 , R e l a t e d WorkT h e r e i s a l a r g e b o d y o f w o r k t h a t t a r g e t s t h e r e d u c t i o n o f r e g i s t e rf i l e p o r t s . A l t e r n a t i v e r e g i s t e r f i l e o r g a n i z a t i o n s h a v e b e e ne x p l o r e d p r i m a r i l y f o r r e d u c i n g t h e a c c e s s t i m e ( w h i c h g o e s u pw i t h t h e n u m b e r o f p o r t s a n d r e g i s t e r s ) , p a r t i c u l a r l y i n w i r e - d e l a yd o m i n a t e d c i r c u i t s [BTME 0 2 , CGTV 0 0 , TA 0 3 , LVA 9 5 ] .R e p l i c a t e d r e g i s t e r f i l e s i n a c l u s t e r e d o r g a n i z a t i o n h a v e b e e nu s e d i n t h e A l p h a 2 1 2 6 4 p r o c e s s o r [ K e 9 9 ] t o r e d u c e t h e n u m b e ro f p o r t s i n e a c h r e p l i c a a n d a l s o t o r e d u c e d e l a y s i n t h ec o n n e c t i o n s i n - b e t w e e n a f u n c t i o n u n i t g r o u p a n d i t s a s s o c i a t e dr e g i s t e r f i l e .M u l t i - b a n k e d r e g i s t e r f i l e s w i t h d i s s i m i l a r b a n k s , o r g a n i z e d a s at w o - l e v e l s t r u c t u r e ( c a c h e d R F ) o r a s a s i n g l e - l e v e l s t r u c t u r e , w i t hd i s s i m i l a r c o m p o n e n t s w e r e u s e d t o r e d u c e t h e r e g i s t e r f i l ec o m p l e x i t y a n d t o r e d u c e t h e e f f e c t i v e RF a c c e s s t i m e i n [CGTV0 0 ] . I n [BDA 0 1 ] , a t w o - l e v e l RF i m p l e m e n t a t i o n i s p r o p o s e d ,a l o n g w i t h t h e u s e o f m u l t i p l e r e g i s t e r b a n k s . T h ec o m p l e x i t y / a c c e s s d e l a y r e d u c t i o n i n t h i s t e c h n i q u e c o m e s f r o mt h e u s e o f b a n k s w i t h a s i n g l e r e a d p o r t a n d a s i n g l e w r i t e p o r t i ne a c h b a n k . T h e t w o - l e v e l s t r u c t u r e a l l o w s t h e f i r s t l e v e l ( b a n k e d )r e g i s t e r f i l e t o b e k e p t s m a l l ( a n d f a s t ) , w i t h t h e h i g h e r s p e e dc o m p e n s a t i n g f o r I P C d r o p s a r i s i n g f r o m l i m i t i n g t h i e n u m b e r o fp o r t s . I n a n y d e s i g n t h a t u s e s a m u l t i - b a n k s t r u c t u r e w i t h f e w e rp o r t s o n e a c h b a n k , a d d i t i o n a l c o m p l e x i t i e s , d e l a y s a n d e n e r g yd i s s i p a t i o n s a r e i n t r o d u c e d b y t h e c o n n e c t i o n s a n d a r b i t r a t i o nl o g i c n e e d e d b y t h e b a n k s t o a r b i t r a t e f o r a c c e s s i n g s h a r e dc o n n e c t i o n p a t h s . T h e i d e a o f c a c h i n g r e c e n t l y p r o d u c e d v a l u e sw a s u s e d i n [HM 0 0 ] ( h e r e a f t e r c a l l e d t h e VAB s c h e m e ) . A tt h e t i m e o f i n s t r u c t i o n w r i t e b a c k , f u n c t i o n u n i t s w r i t e r e s u l t s i n t oa c a c h e c a l l e d V a l u e A g i n g B u f f e r ( V A B ) . T h e r e g i s t e r f i l e ,h o l d i n g b o t h s p e c u l a t i v e a n d c o m m i t t e d r e g i s t e r v a l u e s , i su p d a t e d o n l y w h e n e n t r i e s w e r e e v i c t e d f r o m t h e V A B .F u r t h e r m o r e , w h e n t h e r e q u i r e d v a l u e i s n o t i n t h e V A B , a r e a d o ft h e r e g i s t e r f i l e i s n e e d e d , r e q u i r i n g a t l e a s t s o m e r e a d p o r t s f o rr e a d i n g t h e s o u r c e o p e r a n d s . U n l e s s a s u f f i c i e n t n u m b e r o fr e g i s t e r f i l e p o r t s i s a v a i l a b l e o r t h e n u m b e r o f e n t r i e s i n t h e VABi s s u f f i c i e n t l y l a r g e , t h e p e r f o r m a n c e d e g r a d a t i o n c a n b ec o n s i d e r a b l e . I n a d d i t i o n , i n t h e VAB s c h e m e , t h e m u l t i - c y c l er e g i s t e r f i l e a c c e s s i s s t i l l a n i n t i m a t e p a r t o f t h e i s s u e p r o c e s s . I n[ B u S o 0 4 ] , a v a r i e t y o f r e g i s t e r c a c h e o r g a n i z a t i o n s , a l l o c a t i o n sa n d r e p l a c e m e n t p o l i c i e s a r e s t u d i e d . T h e a l l o c a t i o n a n i dr e p l a c e m e n t p o l i c i e s s t u d i e d i n [ B u S o 0 4 ] r e q u i r e k e e p i n g t r a c ko f t h e n u m b e r o f a c t i v e c o n s u m e r s o f a n i n s t r u c t i o n . T h i s s t u d y ,i n c o n t r a s t , r e q u i r e s n o s u c h b o o k k e e p i n g a n d l o o k s a t a l t e r n a t i v et e c h n i q u e s f o r b o o s t i n g t h e p e r f o r m a n c e a n d / o r e n e r g y e f f i c i e n c yo f a R F C .3 . Th e P r o p o s e d R e g i s t e r F i l e C a c h eI t i s w e l l k n o w n t h a t m o s t r e g i s t e r v a l u e s ( r e s u l t s t a r g e t i n i g ad e s t i n a t i o n r e g i s t e r ) a r e c o n s u m e d w i t h i n a f e w c y c l e s o f t h e i rg e n e r a t i o n , e i t h e r i n t h e c o u r s e o f b y p a s s i n g o r v e r y s h o r t l yt h e r e a f t e r [ F S 9 2 , LoGa 9 5 , P o 0 3 ] . We w i l l h e r e a f t e r r e f e r t os u c h v a l u e s a s s h o r t - t e r m v a l u e s . H o w e v e r , t h e r e a r e s o m er e g i s t e r v a l u e s t h a t a r e a c c e s s e d o v e r a m o r e p r o l o n g e d p e r i o d .E x a m p l e s o f s u c h v a l u e s - c a l l e d l o n z g - t e r m v a l u e s h e r e a f t e r - a r eu p d a t e s g e n e r a t e d f o r t h e s t a c k o r e n v i r o n m e n t p o i n t e r , v a l u e sw h o s e c o n s u m e r s a r e d e l a y e d d u e t o c a c h e m i s s e s o rd e p e n d e n c i e s o n l o n g l a t e n c y o p e r a t i o n . A r e g i s t e r v a l u e i s t h u se i t h e r s h o r t - t e r m o r l o n g - t e r m n .

    We i n t r o d u c e a r e l a t i v e l y s i m p l e r e g i s t e r c a c h i n g m e c h a n i s m i nt h i s p a p e r t h a t t a r g e t s b o t h t y p e s o f r e g i s t e r v a l u e s s h o r t - t e r n a sw e l l a s l o n g - t e r m . T h e p r o p o s e d r e g i s t e r d e s i g n a c t u a l l y u s e s t w os e p a r a t e f o r m s o f r e g i s t e r c a c h e s , o n e g e a r e d t o w a r d s s h o r t - t e r mv a l u e s a n d t h e o t h e r t a r g e t i n g l o n g - t e r m v a l u e s . F i g u r e d e p i c t st h e o v e r a l l s t r u c t u r e o f o u r r e g i s t e r f i l e c a c h e ( R F C ) a n d t h ea s s o c i a t e d c o m p o n e n t s a n d c o n n e c t i o n s .S h o r t - t e r m v a l u e s a r e p r o v i d e d f r o m a F I F O q u e u e . T h e d e p t h o ft h i s q u e u e i s c h o s e n t o c o v e r t h e m a j o r i t y o f c o n s u m e d v a l u e s .T h e F I F O q u e u e i s i m p l e m e n t e d a s a c i r c u l a r q u e u e , w i t h i n as m a l l r e g i s t e r f i l e . A l l r e s u l t s g e n e r a t e d b y t h e e x e c u t i o n u n i t s -w h e t h e r t h e y a r e s h o r t - t e r m o r l o n g - t e r m a r e w r i t t e n i n t o t h i sF I F O p a r t o f t h e r e g i s t e r c a c h e . We w i l l r e f e r t o t h e F I F O p a r t o ft h e c a c h e a s t h e SRFC ( s h o r t - t e r m R F C ) . F o r t h e c o n f i g u r a t i o ns t u d i e d , t h e F I F O q u e u e h a s a t o t a l o f 1 2 e n t r i e s . N o t e t h a t i f t h em a i n r e g i s t e r f i l e r e q u i r e s 3 c y c l e s f o r a c c e s s i n g , t h e f i r s t 2 l e v e l so f t h i s F I F O q u e u e e f f e c t i v e l y f o r m t h e m u l t i - l e v e l b y p a s s l o g i ct h a t w i l l b e u s e d t o a v o i d t h e f u l l 3 - c y c l e a c c e s s p e n a l t y t h a tw o u l d o t h e r w i s e b e i n c u r r e d i n a c c e s s i n g a r e s u l t w h o s e w r i t i n gw a s i n i t i a t e d o n e c y c l e e a r l i e r .T h e s e c o n d p a r t o f t h e RF C i s c a l l e d t h e l o n g - t e r m R F C , L R F C .T h e LRFC i s a s m a l l s e t - a s s o c i a t i v e s t r u c t u r e ( 4 w a y s , 4 s e t s f o r at o t a l o f 1 6 e n t r i e s ) . T h e LRFC u s e s a LRU r e p l a c e m e n t t o c a c h el o n g - t e r m v a l u e s a s t h e y a r e e v i c t e d f r o m t h e F I F O S R F C . ( R e c a l lt h a t a l l r e s u l t s , w h e t h e r t h e y a r e s h o r t - t e r m o r l o n g - t e r m , a l w a y sg o t h r o u g h t h e F I F O S R F C ) .A s s e e n f r o m t h e e x p e r i m e n t a l r e s u l t s p r e s e n t e d l a t e r , t h es e g r e g a t e d RF C d e s i g n i n t r o d u c e d h e r e p r o v i d e s a h i t r a t e o f 86o n t h e a v e r a g e a c r o s s a l l SPEC 2 0 0 0 b e n c h m a r k s . On a RF C h i t ,t h e r e g i s t e r v a l u e s a r e r e t r i e v e d i n a s i n g l e c y c l e , a s t h e RF C i ss m a l l s t r u c t u r e . On a RF C m i s s a d d i t i o n a l c y c l e s a r e s p e n t i na c c e s s i n g t h e r e g i s t e r o p e r a n d f r o m t h e s l o w e r a n d l a r g e r R F .T h e p r o p o s e d RF C d e s i g n n o t o n l y s a v e s a s i g n i f i c a n t p a r t o fr e a d s t o t h e m a i n r e g i s t e r f i l e b u t a l s o s a v e s s o m e w r i t e s .A p p r o x i m a t e l y 35 o f t h e v a l u e s e v i c t e d f r o m t h e RF C ( S R F C o rL R F C ) d o n o t n e e d t o b e w r i t t e n t o t h e R F b e c a u s e t h e y a r ec o m m i t t e d a n d d e a l l o c a t e d b y t h e t i m e s u c h w r i t e s t o t h e R F a r en e e d e d .

    X L

    F i g u r e 1 . T h e P r o p o s e d R e g i s t e r F i l e C a c h e O r g a n i z a t i o nT o h a n d l e b r a n c h m i s p r e d i c t i o n s a n d t h e a s s o c i a t e d s q u a s h i n g s ,a l l v a l u e s - w h e t h e r t h e y a r e i n t h e S R F C , LRFC a r e t a g g e d w i t ht h e b r a n c h t a g - a s i n a t r a d i t i o n a l d e s i g n . T h e e n e r g y o v e r h e a df o r t h e b r a n c h t a g w i t h i n o u r RFC i s a c c o u n t e d f o r i n o u r s t u d i e sa l o n g w i t h a l l o t h e r c o m p o n e n t s o f t h e o v e r h e a d . T h e o t h e r

    2 4 5

  • 8/13/2019 Register File Caching for Energy Efficiency

    3/6

    c o m p o n e n t s o f t h e RF C s h o w n i n F i g u r e w i l l b e e x p l a i n e d l a t e r .We now d i s c u s s h o w we v e r y s i m p l y i d e n t i f y a n d p r e d i c t a r e s u l tt o b e e i t h e r s h o r t - t e r m o r l o n g - t e r m .I t i s w o r t h n o t i n g t h a t t h e 2 8 - e n t r y RF C d e s i g n s h o w n i n F i g u r e i s f a r s i m p l e r i n c o m p l e x i t y c o m p a r e d t o a f u l l y a s s o c i a t i v e 2 8 -e n t r y RF C d e s i g n F u r t h e r m o r e , t h e s e g r e g a t i o n o f t h e RF C i n t ot h e SRFC a n d t h e LRFC p e r m i t s s h o r t t e r m v a l u e s t o e x i t t h ec a c h e q u i c k l y i n s t e a d o f o c cu p y i n g v a l u a b l e c a c h e s p a c e , w h i l et h e s e t - a s s o c i a t i v e LRFC h a n d l e s l o n g t e r m v a l u e s w i t h o u tr e s o r t i n g t o t h e u s e o f f u l l a s s o c i a t i v e a d d r e s s i n g .3 . 1 I m p l e m e n t a t i o n o f t h e SRFC a n d LRFCA s i n d i c a t e d e a r l i e r , t h e SRFC i s i m p l e m e n t e d a s a c i r c u l a rq u e u e . T o e n a b l e i n s t r u c t i o n s t o a c c e s s a n o p e r a n d s t o r e d i n t h i sq u e u e , e a c h e n t r y i n t h e q u e u e i s a s s o c i a t i v e l y a d d r e s s e d u s i n gt h e a d d r e s s o f t h e p h y s i c a l r e g i s t e r t o w h i c h t h e v a l u e i s d e s t i n e df o r . N o t e t h a t t h e f i r s t f e w l e v e l s o f t h i s F I F O q u e u e a r e i d e n t i c a lt o t h e f a c i l i t i e s p r o v i d e s b y a m u l t i - l e v e l b y p a s s l o g i c t h a t a l l o w sr e g i s t e r v a l u e s t o b e a c c e s s e d i n b e t w e e n t h e t i m e a t w h i c h t h e ya r e w r i t t e n t o t h e r e g i s t e r f i l e a n d t h e t i m e a t w h i c h t h e m u l t i -c y c l e w r i t e o p e r a t i o n e n d s . S u c h b y p a s s l o g i c a l s o r e q u i r e f u l lc o m p a r a t o r s , s o i n e s s e n c e t h e a d d i t i o n a l c o m p a r a t o r s n e e d e d f o rt h e SRFC i n o u r s c h e m e a r e o n l y t h e o n e s u s e d i n t h e l a s t f e wl e v e l s o f t h e F I F O . S p e c i f i c a l l y , f o r t h e 4 - w a y s u p e r s c a l a rc o n f i g u r a t i o n s t u d i e d i n t h i s p a p e r , i f a 3 c y c l e a c c e s s r e g i s t e r f i l ei s u s e d , 2 a d d i t i o n a l l e v e l s o f b y p a s s i n g a r e n e e d e d . W i t h t h e u s eo f t h e s e a d d i t i o n a l l e v e l s o f b y p a s s i n g , u p t o 8 r e s u l t s , w r i t t e n i nt w o c o n s e c u t i v e c y c l e s c a n b e b y p a s s e d t o o n e o f t h e t w o s o u r c e so f u p t o 4 i n s t r u c t i o n s t h a t c a n i s s u e i n a c y c l e . S o t h e n u m b e r o fc o m p a r a t o r s n e e d e d i n t h e b y p a s s n e t w o r k o f t h e b a s e c a s e i s 8 X4 X 2 = 6 4 . T h e LRFC h a s 6 r e a d p o r t s a n d 4 w r i t e p o r t s . T h e1 2 - e n t r y SRFC t o s u p p o r t r e a d s o n a l l o f i t s 6 r e a d p o r t s r e q u i r e sa t o t a l o f 1 2 X 6 = 7 2 c o m p a r a t o r s . S o t h e a d d i t i o n a l n u m b e r o fc o m p a r a t o r s u s e d i n o u r s c h e m e f o r t h e F I F O SRFC i s o n l y 8 .T h e LRFC i s o u r d e s i g n i s a 4 - w a y s e t a s s o c i a t i v e w i t h 4 s e t s f o ra t o t a l o f 1 6 e n t r i e s . T h e LRFC h a s 6 r e a d p o r t s a n d 4 w r i t e p o r t s .T h e LRFC i s a c c e s s e d ( s e t ) a s s o c i a t i v e l y u s i n g t h e p h y s i c a lr e g i s t e r a d d r e s s , a s i n t h e c a s e o f t h e S R F C . T h e LRFC i si m p l e m e n t e d a s a 4 - w a y s e t a s s o c i a t i v e d e s i g n , r e q u i r i n g 6 X 4 =2 4 c o m p a r a t o r s i t s e l f . T h u s c o m p a r e d t o t h e 6 4 c o m p a r a t o r s u s e di n t h e 2 a d d i t i o n a l l e v e l s o f f u l l b y p a s s i n g u s e d i n a 3 c y c l e a c c e s sr e g i s t e r f i l e d e s i g n , t h e t o t a l n u m b e r o f c o m p a r a t o r s n e e d e d t os u p p o r t a s s o c i a t i v e a d d r e s s i n g o f t h e SRFC a n d LRFC i s 9 6 , i . e . ,3 2 m o r e c o m p a r e d t o t h e 3 c y c l e r e g i s t e r f i l e d e s i g n .3 . 2 D e t e c t i n g a n d P r e d i c t i n g a L o n g Term R e s u l tI n o u r s c h e m e , e a c h r e s u l t c a r r i e s a s i n g l e b i t t a g t h a t i n d i c a t e s i fi t i s s h o r t t e r m o r l o n g t e r m i n n a t u r e . B y d e f a u l t , a r e g i s t e r v a l u ei s t a g g e d a s s h o r t t e r m . S h o r t t e r m v a l u e s a r e w r i t t e n t o t h e F I F OSRFC a n d m i g r a t e f r o m t h e r e t o t h e m a i n r e g i s t e r f i l e ( R F ) , a st h e y a r e s h i f t e d o u t o f t h e SRFC ( p a t h ( a ) i n F i g u r e 1 ) . I fs u b s e q u e n t l y a r e g i s t e r v a l u e m a r k e d a s s h o r t t e r m i s a c c e s s e df r o m t h e m a i n r e g i s t e r f i l e , i t i s r e t a g g e d a s l o n g t e r m . S i m i l a r l y , av a l u e t a g g e d a s l o n g - t e r m g e t s r e t a g g e d a s a s h o r t - t e r m v a l u e i f i ti s n e v e r a c c e s s e d f r o m t h e L R F C .A r e s u l t t h a t i s p r e d i c t e d t o b e l o n g t e r m i s f i r s t w r i t t e n t o t h eSRFC j u s t l i k e t h e s h o r t t e r m v a l u e s ) b u t m i g r a t e s t o t h e LRFCw h e n i t i s s h i f t e d o u t o f t h e SRFC ( P a t h ( b ) i n F i g u r e 1 ) . Whent h i s v a l u e i s e v i c t e d f r o m t h e LRFC a s a v i c t i m f o r r e p l a c e m e n t , i ti s w r i t t e n t o t h e m a i n r e g i s t e r f i l e ( p a t h ( c ) i n F i g u r e 1 ) .

    W h e n t h e r e g i s t e r v a l u e i s r e t i r e d i n t o a n a r c h i t e c t u r a l r e g i s t e rf i l e , t h e a s s o c i a t e d 1 - b i t t a g a n d i n f o r m a t i o n t o l o c a t e t h ei n s t r u c t i o n g e n e r a t i n g t h i s r e s u l t w i t h i n t h e I - c a c h e ( a v a i l a b l e i nt h e r e o r d e r b u f f e r e n t r y o f t h e i n s t r u c t i o n ) i s s t o r e d a w a y .( A p p r o p r i a t e d e t a i l s a r e g i v e n l a t e r i n S e c t i o n 2 . 4 ) .W h e n t h e r e g i s t e r i s e v e n t u a l l y d e a l l o c a t e d , t h i s s t o r e di n f o r m a t i o n i s u s e d t o u p d a t e t h e I - c a c h e e n t r y o f t h e i n s t r u c t i o nw i t h t h e u p d a t e d t a g b i t . T h i s t a g b i t s e r v e s a s t h e p r e d i c t i o nm a d e f o r t h e t y p e o f t h e r e s u l t ( s h o r t - t e r m o r l o n g - t e r m ) g e n e r a t e db y t h e i n s t r u c t i o n w h e n i t i s s u b s e q u e n t l y e x e c u t e d .3 . 3 O p t i m i z i n g A c c e s s e s t o V a l u e s R e c e n t l y R e c l a s s i f i e d a sL o n g - T e r mA s d e s c r i b e d a b o v e , a s h o r t - t e r m v a l u e a c c e s s e d f r o m t h e m a i nr e g i s t e r f i l e h a s t o b e r e t a g g e d a s a l o n g - t e r m v a l u e . A s t h i s v a l u ei s r e a d o u t f r o m t h e R F , a c o p y i s a l s o i n s t a l l e d i n t o t h e L R F C .W i t h i n a s i n g l e c y c l e , we a l l o w o n l y o n e s u c h d a t a m o v e m e n tf r o m t h e RF t o t h e LRFC t o c o n s e r v e t h e n u m b e r o f w r i t e p o r t s t ot h e L R F C . A s i n g l e b i t f l a g , s e t o n a t r a n s f e r f r o m t h e RF t o t h eLRFC a n d c l e a r e d a t t h e e n d o f a c l o c k c y c l e i s u s e d t oi m p l e m e n t t h i s l i m i t i n g m e c h a n i s m . We h a v e i m p o s e d t h i sr e s t r i c t i o n t o r e d u c e t h e n n u m b e r o f a d d i t i o n a l w r i t e p o r t s i n t oL R F C . B y d o i n g t h i s s i m p l e o p t i m i z a t i o n , we c o u l d s e e a ni m p r o v e m e n t o f 21 i n t h e h i t r a t e o f t h e RF C i . e . , t h e SRFCa n d LRFC c o m b i n e d ) .3 . 4 S t o r i n g , U p d a t i n g a n d U s i n g t h e P r e d i c t i o nE a c h i n s t r u c t i o n i s t a g g e d w i t h a s i n g l e b i t t o i n d i c a t e i f t h e r e s u l ti t g e n e r a t e s i n t o a r e g i s t e r i s s h o r t - t e r m o r l o n g - t e r m . T h i s b i t , i ne s s e n c e , i s t h e p r e d i c t i o n m a d e f o r t h e r e s u l t g e n e r a t e d b y as u b s e q u e n t e x e c u t i o n o f t h e i n s t r u c t i o n . T h i s p r e d i c t i o n b i t i ss t o r e d i n t h e I - c a c h e a n d e f f e c t i v e l y i n c r e a s e s t h e w i d t h o f t h ec a c h e l i n e s b y a f a c t o r i f 1 / 3 2 , a s e a c h i n s t r u c t i o n i s 3 2 b i t s l o n g .( T h i s b i t h a s n o s i g n i f i c a n c e f o r i n s t r u c t i o n s l i k e s t o r e s a n db r a n c h e s t h a t d o n o t g e n e r a t e a r e s u l t i n t o a n a d d r e s s a b l er e g i s t e r . )U p d a t i n g a p r e d i c t i o n f r o m s h o r t - t e r m t o l o n g - t e r m o r v i c e - v e r s ar e q u i r e s t h e 1 - c a c h e e n t r y o f t h e a s s o c i a t e d i n s t r u c t i o n t o b eu p d a t e d - t h i s i s d o n e a s f o l l o w s . A t t h e t i m e o f i n s t r u c t i o nf e t c h i n g , b i t s i n d i c a t i n g t h e c a c h e w a y t h a t p r o v i d e d t h ei n s t r u c t i o n i s p r o p a g a t e d w i t h t h e i n s t r u c t i o n a s i t i s i s s u e d . S i n c et h e I - c a c h e u s e d i n t h i s s t u d y i s a 2 - w a y s e t a s s o c i a t i v e c a c h e ,o n l y I b i t i s n e e d e d f o r o u r d e s i g n . A s a r e s u l t i s g e n e r a t e d b yt h i s i n s t r u c t i o n , t h i s b i t m o v e s a l o n g w i t h t h e r e s u l t i n t h e r e s t o ft h e p i p e l i n e . W h e n t h e i n s t r u c t i o n i s r e t i r e d , t h e r e t i r e m e n tr e g i s t e r a l i a s t a b l e ( R - R A T ) e n t i y p o i n t i n g t o t h e c o m m i t t e d v a l u ei s a u g m e n t e d t o h o l d t h i s w a y i n d i c a t o r b i t a n d p a r t s o f t h ei n s t r u c t i o n a d d r e s s ( a v a i l a b l e f r o m t h e r e o r d e r b u f f e r e n t r y o f t h ei n s t r u c t i o n a t t h e t i m e o f r e t i r e m e n t ) t h a t l o c a t e s t h e c a c h e s e t a n dt h e i n s t r u c t i o n w i t h i n t h e c a c h e l i n e . T h e p r e d i c t i o n m a d e f o r t h er e s u l t i s a l s o s t o r e d w i t h i n t h e a u g m e n t e d p a r t o f t h e R-RATe n t r y . F o r t h e d e s i g n s t u d i e d , t h e R-RAT e n t r i e s a r e e x t e n d e d b y1 3 b i t s 1 w a y b i t , p r e d i c t i o n b i t , 3 b i t s f o r i n s t r u c t i o n o f f s e tw i t h i n l i n e a n d 9 b i t s f o r t h e I - c a c h e s e t a d d r e s s ) . A t t h e t i m e o fd e a l l o c a t i n g t h i s r e g i s t e r , t h e i n f o r m a t i o n i n t h e e x t e n d e d R-RATe n t r y i s u s e d t o w r i t e t h e p r e d i c t i o n i n f o r m a t i o n i n t o t h e 1 - c a c h e ,o n l y i f t h e p r e d i c t i o n n e e d s t o b e r e v i s e d . O u r s i m u l a t i o n r e s u l t si n d i c a t e t h a t s u c h u p d a t e s a r e n e e d e d o n l y f o r a b o u t 1 5 o f t h ec o m m i t t e d i n s t r u c t i o n s . N o t e t h a t a I - c a c h e l o o k u p i s n o tp e r f o r m e d d u r i n g t h i s u p d a t e , s o i f t h e c o n t e n t s o f t h e c a c h e l i n eg o t r e p l a c e d , so me o t h e r i n s t r u c t i o n p r e d i c t i o n s a r e i n a d v e r t e n t l y

    2 4 6

  • 8/13/2019 Register File Caching for Energy Efficiency

    4/6

    u p d a t e d . O u r s i m u l a t i o n s s h o w t h a t t h e o v e r a l l i m p a c t o f s u c hi n a d v e r t e n t u p d a t e s t o t h e p r e d i c t i o n i s n e g l i g i b l e b e c a u s e o f t h ev e r y h i g h I - c a c h e h i t r a t e s , t h e r e f o r e j u s t i f y i n g a d i r e c t u p d a t ea p p r o a c h t o a f u l l - f l e d g e d c a c h e l o o ku p b a s e d u p d a t e .A s a n i n s t r u c t i o n t a r g e t i n g a p h y s i c a l r e g i s t e r i s d i s p a t c h e d , i t sa s s o c i a t e d p r e d i c t i o n i s a l s o s t o r e d i n i t s i s s u e q u e u e ( I Q ) e n t r y .W h e n t h i s i n s t r u c t i o n i s s u e s , t h e a s s o c i a t e d p r e d i c t i o n b i t m o v e sw i t h t h e i n s t r u c t i o n . When t h e r e s u l t i s w r i t t e n i n t o t h e S R F C ,t h i s b i t t h e n m o v e s w i t h t h e r e s u l t a n d d e c i d e s w h e r e t h e r e s u l tm o v e s t o - e i t h e r t h e RF o r t h e LRFC - a s i t s h i f t s o u t o f t h eS R F C .3 . 5 H a n d l i n g R e g i s t e r C a c h e M i s s e sOn a RF C m i s s , w h i c h i s d i s c o v e r e d a t t h e e n d o f t h e c y c l e i nw h i c h t h e i n s t r u c t i o n i s i s s u e d , t h e i n s t r u c t i o n n e e d s t o b er e p l a y e d ( t h a t i s , r e - i s s u e d ) t o p e n n i t t h e o p e r a n d t o b e f e t c h e df r o m t h e s l o w e r R F . T o s i m p l i f y t h e r e p l a y m e c h a n i s m , we d on o t r e l e a s e t h e i s s u e q u e u e e n t r y o f a n i n s t r u c t i o n t i l l i t i ss u c c e s s f i l i n r e a d i n g i t s o p e r a n d . We u s e t h e u s u a l b i t t h a t m a r k sa n i s s u e q u e u e e n t r y a s v a l i d t o d e l a y t h e d e a l l o c a t i o n o f t h ee n t r y . N o t e t h a t d e p e n d e n t s o f a n i n s t r u c t i o n t h a t e x p e r i e n c e s aRF C m i s s m a y a c t u a l l y g e t s e l e c t e d f o r i s s u e b e f o r e t h e m i s s i sd i s c o v e r e d , a s t h e b r o a d c a s t o f a w a k e u p s i g n a l g e n e r a l l yp r e c e d e s t h e a v a i l a b i l i t y o f t h e c o r r e s p o n d i n g r e s u l t b y a t l e a s to n e c y c l e i n a h i g h - e n d d a t a p a t h . T h e s e d e p e n d a n t s o f t h ei n s t r u c t i o n t h a t h a d a RF C m i s s ( a s w e l l a s d e p e n d a n t s o f t h ed e p e n d a n t s ) a r e h a n d l e d i n t h e s a m e m a n n e r - u s i n g r e p l a y s . I nt h e d a t a p a t h u s e d f o r t h i s s t u d y , w h e r e a RF a c c e s s r e q u i r e s 2a d d i t i o n a l c y c l e s f o r a c c e s s i n g t h e RF f o l l o w i n g t h e d e t e c t i o n o f aRF C m i s s , t h e r e p l a y s d i s c u s s e d a b o v e c a n d e l a y t h e r e l e a s e o f 8i s s u e q u e u e e n t r i e s i n t h e a b s o l u t e w o r s t c a s e , g i v e n a 4 - w a yd i s p a t c h i n g . T h e a c t u a l n u m b e r o f d e p e n d a n t s a r e s i g n i f i c a n t l yl o w e r t h a n t h i s a n d i n r e a l i t y n o m o r e t h a n t o 2 i s s u e q u e u ee n t r i e s a r e l o c k e d u p . I n a n y c a s e , t h i s o v e r h e a d i s n e c e s s a r y f o ra n y modem m a c h i n e t h a t s p e c u l a t e s o n d a t a o r l o a d / s t o r ed e p e n d e n c i e s .4 . E n e r g y / P o w e r E s t i m a t i o nT h e o v e r a l l e n e r g y s p e n t i n a c c e s s i n g r e g i s t e r o p e r a n d s w i t h o u rr e g i s t e r f i l e c a c h i n g s c h e m e c a n b e b r o k en d o w n a s f o l l o w s :c E w r i t e , r f : e n e r g y s p e n t i n w r i t i n g r e s u l t s f r o m t h e RF C t o t h eRF* E r e a d , r f : e n e r g y s p e n t i n a c c e s s i n g t h e m a i n r e g i s t e r f i l e o n aRF C m i s s E r e a d , r f c : e n e r g y s p e n t i n p r o b i n g a n d r e a d i n g t h e SRFCa n i d LRFC i n p a r a l l e l i n t h e c o u r s e o f a s o u r c e r e g i s t e ra c c e s s .* E w r i t e , s r f c : e n e r g y s p e n t i n w r i t i n g t h e r e s u l t s i n t o t h eS R F C .* E w r i t e , l r f c : e n e r g y s p e n t i n w r i t i n g r e s u l t s f r o m t h e SRFCo r t h e RF t o t h e LRFC* E i q : a d d i t i o n a l i s s u e q u e u e e n e r g y s p e n t i n p r o p a g a t i n g t h ep r e d i c t i o n b i t a n d w a y b i t i n t h e I Q E r - r a t : e n e r g y s p e n t i n w r i t i n g a n d r e a d i n g t h e e x t e n d e d R -RAT e n t r i e s f o r s a v i n g a n d u p d a t i n g t h e p r e d i c t i o ni n f o r m a t i o n ( S e c t i o n 3 . 2 ) .E B i c a c h e : e n e r g y s p e n t i n s t o r i n g , u p d a t i n g a n d r e a d i n g o u tt h e p r e d i c t i o n b i t i n t h e I - c a c h e ( S e c t i o n 3 . 2 ) .

    * E r f c , i n v : e n e r g y s p e n t i n i n v a l i d a t i n g e n t r i e s f r o m t h e RF Co n b r a n i c h m i s p r e d i c t i o n s o r r e t i r i n g p h y s i c a l r e g i s t e r s .* E r p : e n e r g y s p e n t i n r e p l a y i n g i n s t r u c t i o n s o n a RF C m i s s .W i t h t h e RF C p r e s e n t , ( E w r i t e , r f + E r e a d , r f ) r e p r e s e n t s t h ee n e r g y e x p e n d e d i n a c c e s s i n g t h e m a i n r e g i s t e r f i l e , w h i l e ( E r e a d ,r f c + E w r i t e , l r f c + E w i t e , s r f c ) r e p r e s e n t s t h e e n e r g y d i s s i p a t e d i nt h e RF C ( S R F C , LRFC a n d t h e o t h e r c o m p o n e n t s a s s h o w n i nF i g u r e 1 ) . T h e l a s t f i v e e n e r g y c o m p o n e n t s t o g e t h e r r e p r e s e n t t h ee n e rg y o v e r h e ad f o r o u r s c h e m e .T h e s e e n e r g y c o m p o n e n t s g i v e n a b o v e a r e w e i g h t e d w i t h a c c e s sd a t a d e r i v e d f r o m t h e m i c r o a r c h i t e c t u r a l s i m u l a t i o n s a n d a d d e d u pt o o b t a i n t h e o v e r a l l e n e r g y s p e n t i n a c c e s s i n g r e g i s t e r o p e r a n d si n o u r d e s i g n . F o r t h e b a s e c a s e , t h e e n e r g y e x p e n d e d f r o ma c c e s s i n g r e g i s t e r o p e r a n d s c o m e s f r o m t h e r e g i s t e r f i l e r e a d s a n dw r i t e s a n d f r o m t h e e n e r g y e x p e n d e d i n t h e a d d i t i o n a l l e v e l o f f u l lb y p a s s i n g n e e d e d .We u s e 0 . 1 8 m i c r o n CMOS l a y o u t s f o r a l l m a j o r d a t a p a t hc o m p o n e n t s r e l e v a n t t o t h i s s t u d y . We a s s u m e t h a t a l lc o m p ar a to r s u s e d i n t h e b y p a s s n e t w o r k s ( i n c l u d i n g t h e b a s e c a s e )a n d f o r a s s o c i a t i v e a d d r e s s i n g w i t h i n t h e RF C t o d i s s i p a t e e n e r g yo n l y o n a n e x a c t m a t c h a n d u s e t h e d e s i g n i n t r o d u c e d i n [ E G K P0 2 ] . We u s e S P I C E m e a s u r e m n e n t s t o d e r i v e t h e e n e r g yc o e f f i c i e n t s f o r d i f f e r e n t t y p e s o f a c t i v i t i e s / t r a n s i t i o n s . T h e s e a r ec o m b i n e d w i t h t h e d a t a c o l l e c t e d f r o m t h e m i c r o a r c h i t e c t u r a ls i m u l a t i o n s t o o b t a i n t h e a v e r a g e r e g i s t e r o p e r a n d a c c e s s e n e r g yp e r c y c l e i n t h e b a s e c a s e ( R F a c c e s s e s ) a n d t h e a v e r a g e e n e r g ys p e n t i n a c c e s s i n g a r e g i s t e r o p e r a n d p e r c y c l e w i t h t h e RF C( R F C a c c e s s e s o n a h i t a n d RF a c c e s s e s o n a m i s s PLUS t h ee n e r g y o v e r h e a d c o m p o n e n t s , a s d e s c r i b e d e a r l i e r ) .

    T a b l e 1 . C o n f i g u r a t i o n o f t h e S i m u l a t e d P r o c e s s o rP a r a m e t e r C o f i g u r a t i o t i o

    M a c h i n e w i d t h 4 - w i d e f e t c h , 4 - w i d e i s s u e , 4 w i d e c o n m n i tW i n d o w s i z e 6 4 - e n t r y i s s u e q u e u e , 6 4 e n t r y l o a d / s t o r e q u e u e ,

    R e g i s t e r s V a r i o u s s i z e s s t u d i e d , a s s p e c i f i c a l l y i n d i c a t e d i nF u n c t i o n U n i t s a n d 4 I n t A d d 1 1 ) , I n t M u l t 3 / 1 ) / D i v 2 0 / 1 9 ) , 2L a t e n c y ( t o t a l / i s s u e ) L o a d / S t o r e 2 / 1 ) , 4 F P A d d 2 ) , I F P M u l t 4 / I ) D i v 1 2 / 1 2 ) / S q r t ( 2 4 / 2 4 )

    L I - c a c h e 3 2 K B , 2 - w a y s e t - a s s o c i a t i v e , 3 2 b y t e l i n e , c y c l e sL I D - c a c h e 3 2 K B , 4 - w a y s e t - a s s o c i a t i v e , 3 2 b y t e l i n e , 2 c y c l e s

    L 2 C a c h e u n i f i e d 5 1 2 K B , 4 - w a y s e t - a s s o c i a t i v e , 1 2 8 b y t e l i n e , 8BTB 1 0 2 4 e n t r y , 4 - w a y s e t - a s s o c i a t i v e . Mimimumb r a n c h m i s p r e d i c t i o n p e n a l t y 1 0 c y c l e s

    B r a n c h P r e d i c t o r C o m b i n e d w i t h I K e n t r y G s h a r e , 1 0 b i t g l o b a lh i s t o r y , 4K e n t r y b i m o d a l , 1 K e n t r y s e l e c t o rM e m o r y 1 2 8 b i t w i d e , 1 2 0 c y c l e s f i r s t c h u n k , 2 c y c l e s

    TLB 6 4 e n t r y I ) , 1 2 8 e n t r y ( D ) , f u l l y a s s o c i a t i v e5 . E x p e r i m e n t a l R e s u l t sT a b l e I s h o w s t h e c o n f i g u r a t i o n o f t h e b a s e l i n e m a c h i n e ( B a s eC a s e ) , w h i c h u s e s t w o s e p a r a t e i n t e g e r a n d f l o a t i n g p o i n tp h y s i c a l r e g i s t e r f i l e s , e ac h w i t h 1 2 8 r e g i s t e r s a n d w i t l h a n a c c e s st i m e o f 2 c y c l e s . T h e b a s e c a s e i s d e s c r i b e d a s t h e 1 2 8 / 2c o n f i g u r a t i o n i n t h e r e s u l t s ( 1 2 8 r e g i s t e r s i n t h e i n t e g e r o r f l o a t i n gp o i n t r e g i s t e r f i l e , w i t h a 2 c y c l e r e g i s t e r a c c e s s t i m e . ) We

    2 4 7

  • 8/13/2019 Register File Caching for Energy Efficiency

    5/6

    a s s u m e t h z a t t h e b a s e c a s e a l s o u s e s a n a d d i t i o n a l l e v e l o fb y p a s s i n g t o k e e p c o m t i p a r i s o n s f a i r . F o r p e r f o r m a n c ec o m p a r i s o n , we a l s o h a v e a n I d e a l C a s e t h a t a l s o u s e s ac o n f i g u r a t i o n i d e n t i c a l t o t h e b a s e c a s e b u t w i t h a 1 - c y c l e r e g i s t e ra c c e s s t i m e , a c o n f i g u r a t i o n d e s c r i b e d a s 1 2 8 / 1 i n t h e r e s u l t s . I nb o t h o f t h e s e c a s e s , t h e r e g i s t e r f i l e s a r e a s s u m e d t o b e f u l l yp o r t e d , w i t h 8 r e a d p o r t s a n d 4 w r i t e p o r t s . T h e m a c h i n ec o n f i g u r a t i o n s u s e d w i t h t h e RF C a r e a s f o l l o w s :R F C + 9 6 / 2 : T h i s c o n f i g u r a t i o n u s e s a RF C w i t h a 1 2 - e n t r y S R F C ,1 6 e n t r y ( 4 s e t s , 4 w a y s ) LRFC a n d 9 6 - e n t r y r e g i s t e r f i l e s w i t h 6r e a d p o r t s a n d 4 w r i t e p o r t s e a c h a n d a c y c l e t i m e o f 2 c y c l e s .N o t e t h a t i n t h i s c o n f i g u r a t i o n , t h e r e g i s t e r f i l e s h a v e f e w e r p o r t sc o m p a r e d t o t h e b a s e a n d i d e a l c a s e s .R F C + 1 2 8 / 2 : T h i s c o n f i g u r a t i o n i s i d e n t i c a l t o t h e R F C + 9 6 / 2c o n f i g u r a t i o n e x c e p t t h a t e a c h o f t h e i n t e g e r a n d f l o a t i n g p o i n tr e g i s t e r s h a s 1 2 8 r e g i s t e r s .

    I I . _ . . . . . . . . . . . . . . . . . . .RF CgtR a eQ 9 0

    F i g u r e 2 . RF C h i t r a t e s .We f i r s t s h o w how t h e p r o p o s e d RF C d e s i g n e l i m i n a t e s a l a r g em a j o r i t y o f a c c e s s e s t o t h e m a i n r e g i s t e r f i l e . F i g u r e 2 s h o w s t h eh i t r a t e s t o t h e RF C f o r t h e R F C + 9 6 / 2 c o n f i g u r a t i o n a c r o s s t h ee x e c u t i o n o f 1 0 0 m i l l i o n i n s t r u c t i o n s f o l l o w i n g t h e i n i t i a l i z a t i o na n d w a r m u p p h a s e f o r t h e SPEC 2 0 0 0 b e n c h m a r k p r o g r a m s a s i nS i m P o i n t [ S P H C 0 2 ] . T h e r e a r e 3 s e t s o f b a r s f o r e a c hb e n c h m a r k , a n d e a c h b a r b r e a k s d o w n t h e h i t s t o t h e SRFC a n dt h e LRFC i n d i v i d u a l l y . T h e f i r s t b a r s h o w s t h e h i i t r a t e s a c h i e v e dw i t h o u t t h e u s e o f a n y p r e d i c t i o n s i . e . , w i t h a d e f a u l t p r e d i c t i o no f l o n g - t e r m f o r a l l r e s u l t s ) . T h e s e c o n d b a r s h o w s t h e h i t r a t e so b t a i n e d w i t h t h e u s e o f a s i n g l e b i t p r e d i c t i o n a s d e s c r i b e d i nS e c t i o n 2 . 2 , w h i l e t h e 3 r d b a r s h o w s t h e h i t r a t e s r e a l i z e d u s i n g t h eo p t i m i z a t i o n o f S e c t i o n 3 . 3 w h e r e r e s u l t s r e c l a s s i f i e d a s l o n g - t e r md u e t o a RF a c c e s s a r e a l s o m o v e d i n t o t h e L R F C . F o r someb e n c h m a r k s , l i k e m c f , t h a t h a v e a s u b s t a n t i a l d e l a y b e t w e e ni n i t i a l s e t o f c o n s u m e r s a n d l a t e r c o n s u m e r s , t h e o p t i m i z a t i o n o fS e c t i o n 3 . 3 p a y s o f f h a n d s o m e l y . T h e p r e d i c t i o n a n d t h ea d d i t i o n a l o p t i m i z a t i o n e s s e n t i a l l y c l a s s i f y a n d e x p l o i t s l o n g - t e r mr e s u l t s , r e s p e c t i v e l y , s o f o r e a c h b e n c h m a r k , t h e LRFC h i t r a t e sg o u p p r o g r e s s i v e l y w i t h t h e p r e d i c t i o n a n d t h e o p t i m i z a t i o n . T h ea v e r a g e h i t r a t e a c h i e v e d a c r o s s a l l b e n c h m a r k s i s 86 w i t hp r e d i c t i o n a n d t h e o p t i m i z a t i o n . E v e n b e n c h m a r k s t h a t h a v e al o w r e f e r e n c e l o c a l i t y ( s u c h a s mcf a n d a p p l u ) a c h i e v e a h i g hRF C h i t r a t e . T h e s i m p l e RF C m e c h a n i s m p r o p o s e d i n t h i s p a p e ri s t h u s q u i t e e f f e c t i v e a t e l i m i n a t i n g RF a c c e s s e s . I n a l l o f t h es u b s e q u e n t r e s u l t s , we u s e a RF C w i t h p r e d i c t i o n a n d t h eo p t i m i z a t i o n o f S e c t i o n 3 . 2 .

    F i g u r e 3 . P e r f o r m a n c e ( I P C ) f o r t h e 4 CP U c o n f i g u r a t i o n sF i g u r e 3 s h o w s t h e I P C s r e a l i z e d w i t h t h e f o u r c o n f i g u r a t i o n s ,i n c l u d i n g t h e i d e a l c a s e ( 1 2 8 / 1 ) . T h e r e a r e f o u r b a r s f o r e a c hSPEC 2 0 0 0 b e n c h m a r k , w i t h o n e b a r p e r CP U c o n f i g u r a t i o n . Ona v e r a g e , t h e p e r f o r m a n c e r e a l i z e d b y t h e R F C + 9 6 / 2 c o n f i g u r a t i o nc o m e s w i t h i n 0 . 3 o f t h e b a s e c a s e e v e n t h o u g h s m a l l e r r e g i s t e rf i l e s ( 9 6 v s . 1 2 8 ) a n d f e w e r p o r t s ( 8 r e a d p o r t s 4 w r i t e p o r t s v s .6 r e a d p o r t s 4 w r i t e p o r t s ) a r e u s e d . T h e R F C + 1 2 8 / 2c o n f i g u r a t i o n a c t u L a l l y s h o w s a s m a l l p e r f o r m a n c e g a i n a r o u n d 2o v e r b a s e c a s e ( 1 2 8 / 2 ) o n t h e a v e r a g e a c r o s s t h e b e n c h m a r k s .T h i s c o n f i g u r a t i o n a l s o p r o v i d e s a p e r f o r m a n c e l e v e l v e r y c l o s e t ot h a t o f t h e i d e a l c a s e ( 1 2 8 / 1 ) . N o t e a g a i n t h a t f o r t h e 1 2 8 2c o n f i g u r a t i o n s , we a s s u m e d t h a t t h e RF h a s a n a d d i t i o n a l l e v e l o fb y p a s s i n g ; t h e c o n f i g u r a t i o n s w i t h t h e RFC d o n o t n e e d s u c ha d d i t i o n a l b y p a s s i n g a s t h e f r o n t e n d o f t h e SRFC e f f e c t i v e l ys e r v e s a s a m u l t i - l e v e l b y p a s s n e t w o r k .

    E f f e c i t v e R e g i s t Access Ergy P e r C yc le ( P J )2 5 015 010 0

    0

    U FfC-w~ 0 R F C - r ~ d 0 F r U F e - r d 0 C o . e r t d U F S - v A r 4 D a S e U - r W D - b s eI s t b a r ~ W C + 9 6 / 2 . 2 r i d b a r F ; ' C + t 1 2 8 / 2 , 3 r d baras 1 2 8 V 2

    F i g u r e 4 . A v e r a g e e n e r g y s p e n t p e r c y c l e i n a c c e s s i n g r e g i s t e r so p e r a n d s f o r d i f f e r e n t CP U c o n f i g u r a t i o n s .T h e a v e r a g e e n e r g y s p e n t p e r c y c l e f o r a c c e s s i n g t h e r e g i s t e ro p e r a n d s f o r t h e v a r i o u s c o n f i g u r a t i o n s f o r t h e v a r i o u sb e n c h m a r k s a r e s h o w n i n F i g u r e 4 . A g a i n t h e r e a r e t h r e e b a r s f o re a c h b e n c h m a r k , o n e p e r c o n f i g u r a t i o n . F o r t h e c o n f i g u r a t i o n sw i t h o u t t h e R F C , B a s e 1 2 8 / 2 , t h e b a r s a r e s p l i t i n t o t w o p a r t s o n e p a r t c o r r e s p o n d i n g t o t h e a v e r a g e r e a d e n e r g y p e r c y c l e a n dt h e o t h e r c o r r e s p o n d i n g t o t h e a v e r a g e w r i t e e n e r g y p e r c y c l e .F o r t h e c o n f i g u r a t i o n s t h a t u s e t h e R F C , t h e b a r s a r e s e g m e n t e di n t o 5 p a r t s : o n e f o r t h e a v e r a g e RF C r e a d e n e r g y , a p a r t f o r t h ea v e r a g e RF C w r i t e e n i e r g y , a p a r t f o r t h e RF r e a d e n e r g y ( o n RF Cm i s s ) , a p a r t f o r t h e RF w r i t e e n e r g y ( w r i t e b a c k s f r o m t h e RF C t ot h e R F ) a n d a f i n a l p a r t a c c o u n t i n g f o r t h e o v e r h e a d o f t h e r e g i s t e rf i l e c a c h i n g s c h e m e , a s d e s c r i b e d i n S e c t i o n 3 . T h e r e s u l t s s h o w ni n F i g u r e 4 c o n f i r m n w h a t o n e e x p e c t s f r o m t h e RFC h i t r a t e ss h o w n i n F i g u r e 2 . On t h e a v e r a g e , t h e R F C + 9 6 / 2 c o n f i g u r a t i o np r o v i d e s c l o s e t o 3 8 e n e r g y s a v i n g s o n t h e a v e r a g e c o m p a r e d t ot h e b a s e c a s e ( 1 2 8 / 2 ) . T h e e n e r g y s a v i n g s w i t h t h e R F C + 1 2 8 / 2c o n f i g u r a t i o n i s s o m e w h a t l o w e r ( a b o u t 3 4 ) on t h e a v e r a g eb e c a u s e we h a v e a b i g g e r r e g i s t e r f i l e ; t h i s c o n f i g u r a t i o n p r o v i d e sa p e r f o r - m a n c e c o m - p a r a b l e t o t h e i d e a l 1 2 8 / 1 c a s e , w i t h i n 0 . 1 % .N o t e a l s o t h a t f o r b e n c h m a r k s l i k e m c f a n d a p p l u t h a t h a v e b a d

    2 4 8

    Pe8fam: I P C252

    1 . 5

    0 5o

    a F F C 4 9 6 / 2 B a s e : 1 2 8 1 0 R F C + 1 2 8 r 2 0 k i e a : 1 2 8 / 1

  • 8/13/2019 Register File Caching for Energy Efficiency

    6/6

    r e f e r e n c e l o c a l i t y , t h e e n e r g y s a v i n g s a r e s o m e w h a t l e s sp r o n o u n c e d e v e n t h o u g h t h e y h a v e a r e a s o n a b l e RF C h i t r a t e . F o rs w i m a n d m g r i d , t h e p o w e r s a v i n g s a r e r a t h e r s m a l l a s t h e y h a v e al o w c a c h e h i t r a t e , a s s e e n f r o m F i g u r e 2 . A s e x p e c t e d , t h e RF Cr e a d e n e r g y d o m i n a t e s t h e RF C w r i t e e n e r g y , a s t h e RF C r e a d su s e a s s o c i a t i v e l o o k u p . T h e u s e o f d i s s i p a t e o n a f u l l m a t c hc o m p a r a t o r d e s i g n b r i n g s d o w n t h e RF C r e a d e n e r g y c o m p o n e n t ;t h i s c o m p o n e n t w o u l d h a v e b e e n f a r h i g h e r i f t r a d i t i o n a lp u l l d o w n - o n - m i s m a t c h c o m p a r a t o r s a r e u s e d . T h e e n e r g yc o m i i p o n e n t s s h o w n i n F i g u r e 4 a l s o c l e a r l y d e m o n s t r a t e h o w RFr e a d a n d w r i t e a c c e s s e n e r g i e s a r e r e d u c e d w i t h t h e u s e o f t h eR F C .6 . C o n c l u s i o n sWe i n t r o d u c e d a r e g i s t e r f i l e c a c h e ( R F C ) d e s i g n t h a t p r o v i d e ss i g n i f i c a n t d y n a m i c p o w e r s a v i n g s i n a c c e s s i n g r e g i s t e r o p e r a n d sw i t h n e g l i g i b l e p e r f o r m a n c e l o s s ( a b o u t 0 . 3 o n t h e a v e r a g e ) f o ra s u p e r s c a l a r d a t a p a t h t h a t h a s a r e g i s t e r f i l e t h a t r e q u i r e s m u l t i -c y c l e a c c e s s . T h e b a s i c c o n c e p t b e h i n d o u r RF C i s t h es e g r e g a t i o n o f t h e c a c h e i n t o t w o p a r t s - a F I F O c a c h e c a l l e d t h eSRFC f o r c a c h i n g s h o r t t e r m v a l u e s t h a t a r e c o n s u m e d w i t h i n af e w c y c l e s o f t h e i r p r o d u c t i o n a n d a v e r y s m a l l s e t a s s o c i a t i v ec a c h e c a l l e d t h e LRFC f o r c a c h i n g v a l u e s t h a t a r e l i k e l y t o b ec o n s u m e d o v e r a l o n g e r p e r i o d . T h e o v e r a l l i m p l e m e n t a t i o n h a s al o w e r c o m p l e x i t y c o m p a r e d t o a f r i l l y a s s o c i a t i v e d e s i g n a n d t u r n so u t t o b e v e r y e f f e c t i v e i n c a c h i n g l o n g t e r m v a l u e s . T h ep r o p o s e d s c h e m e a l s o d e t e c t s a n d p r e d i c t s r e g i s t e r v a l u e s a s s h o r tt e r m o r l o n g t e r m . T h e p r e d i c t i o n i n f o r m a t i o n i s s t o r e d i n t h e I -c a c h e e n t r y o f t h e i n s t r u c t i o n t h a t p r o d u c e s t h e v a l u e a n d i s u s e dt o d e t e r m i n e i f a v a l u e s h o u l d b e k e p t i n t h e LRFC a s i t i s s h i f t e do u t o f t h e S R F C . T h e t e c h n i q u e p r o p o s e d a c h i e v e s a RF C h i t r a t eo f 86 o n t h e a v e r a g e a c r o s s a l l S P E C b e n c h m a r k s a n d r e d u c e st h e e n e r g y s p e n t i n a c c e s s i n g r e g i s t e r o p e r a n d s b y 40 c o m p a r e dt o a b a s e c a s e t h a t h a s n o RF C b u t h a s o n e a d d i t i o n a l l e v e l o fb y p a s s i n g . F u r t h e r n o r e , t h e p e r f o r m a n c e a c h i e v e d w i t h t h e RF Ci s a l m o s t i d e n t i c a l t o t h a t o f t h e b a s e c a s e o n t h e a v e r a g e .A l t h o u g h we h a v e n o t q u a n t i f i e d t h e l e a k a g e p o w e r t r a d e o f f s i no u r d e s i g n , t h e l e a k a g e i n t r o d u c e d b y t h e a d d i t i o n a l s t r u c t u r e s i ss o m e w h a t o f f s e t b y t h e s a v i n g s i n t h e r e g i s t e r f i l e a r e a - w i t h t h eu s e o f t h e R F C , t h e m a i n RF c a n b e s m a l l e r c o m p a r e d t o a b a s ec a s e d e s i g n t h a t h a s c o m p a r a b l e p e r f o r m a n c e a n d r e q u i r e s a l a r g e rRF w i t h m o r e p o r t s . T h e l e a k a g e i n t h e R-RAT e x t e n s i o n s c a n b er e d u c e d b y m a k i n g t h e b i t c e l l d e s i g n s s t a c k e d i n t h e e x t e n s i o np a r t o f t h e R-RAT e n t r i e s . An y i n c r e a s e i n t h e s w i t c h i n g d e l a y sc a n b e t o l e r a t e d a s t h e s e s t r u c t u r e s a r e o f f t h e c r i t i c a l p a t h( s p e c i f i c a l l y , i n t h e r e t i r e m e n t p a r t o f t h e p i p e l i n e ) . T h e l e a k a g ei n t r o d u c e d b y t h e e x t r a b i t n e e d e d f o r e a c h i n s t r u c t i o n i n t h e I -c a c h e i s s i m i l a r l y a d d r e s s a b l e u s i n g s t a c k e d o r s l e e p d e v i c e s . I nf a c t i f l e a k a g e p o w e r b e c o m e s a d o m i n a n t f a c t o r , t h e I - c a c h ei t s e l f h a s t o b e m a d e r e s i l i e n t a g a i n s t l e a k a g e a n d t h e t e c h n i q u e su s e d w i l l e x t e n d n a t u r a l l y t o t h e e x t r a b i t n e e d e d f o r e a c hi n s t r u c t i o n .T h e p r o p o s e d RF C d e s i g n i s t h u s q u i t e e f f e c t i v e i n m a k i n gr e g i s t e r a c c e s s e s e n e r g y e f f i c i e n t .7 . ACKNOWLEDGMENTSWe w o u l d l i k e t o t h a n k J o e S h a r k e y f o r h i s c o n t r i b u t i o n s o ns i m u l a t i o n f i a m e w o r k u s e d i n t h i s w o r k . T h i s r e s e a r c h w a s

    s u p p o r t e d i n p a r t b y t h e N a t i o n a l S c i e n c e F o u n d a t i o n , a w a r dn u m b e r s CNS 0 4 5 4 2 9 8 a n d E I A 9 9 1 1 0 9 9 , a n d b y t h e I n t e g r a t e dE l e c t r o n i c s E n g i n e e r i n g C e n t e r a t SUNY B i n g h a m t o n .8 . REFERENCES[BDA 0 1 ] B a l a s u b r a m o n i a n , R . , D w a r k a d a s , S . , A l b o n e s i , D . , R e d u c i n g t h e C o m p l e x i t y o f t h e R e g i s t e r F i l e i n D y n a m i cS u p e r s c a l a r P r o c e s s o r , i n P r o c . M I C R O - 3 4 , 2 0 0 1 , p p 2 3 7 - 2 4 8 .[ B a S o 0 3 ] B a l a k t i s h n a n , S . , S o h i , G . S . , E x p l o i t i n g V a l u eL o c a l i t y i n P h y s i c a l R e g i s t e r F i l e s , i n P r o c . M I C R O - 3 6 , D e c .2 0 0 3 , p p 2 6 5 - 2 7 6 .[ B u S o 0 4 ] B u t t s , J . A . a n d S o h i , G . S . , U s e - B a s e d R e g i s t e rC a c h i n g w i t h D e c o u p l e d I n d e x i n g , P r o c . I S C A - 3 1 , 2 0 0 4 , p p3 0 2 .[BTME 0 2 ] B o r c h , E . , T u n e , E . , M a n n e , S . , E m e r , J . , L o o s eL o o p s S i n k C h i p s , i n P r o c e e d i n g s o f I n t l . C o n f e r e n c e o n H i g hP e r f o r m a n c e C o m p u t e r A r c h i t e c t u r e ( H P C A - 0 2 ) , 2 0 0 2 , p p 1 6 1 -1 7 0 .[CGTV 0 0 ] C r u z , J - L . , G o n z a l e z A . , T o p h a m , N . a n d V a l e r o , M . , M u l t i p l e - B a n k e d R e g i s t e r F i l e A r c h i t e c t u r e , i n P r o c e e d i n g sI S C A - 2 7 , 2 0 0 0 , p p . 3 1 6 - 3 2 5 .[ E G K P 0 2 ] E r g i n , 0 . G h o s e , K . , K u c u k , G . a n d P o n o m a r e v , D . P . A C i r c u i t - L e v e l I m p l e m e n t a t i o n o f F a s t , E n e r g y - E f f i c i e n tCMOS C o m p a r a t o r s f o r H i g h - P e r f o r n a n c e M i c r o p r o c e s s o r s , i nP r o c . 2 0 t h I C C D , 2 0 0 2 , p p . 1 1 8 - 1 2 1 .[ F S 9 2 ] F r a n k l i n , M . , a n d S o h i , G . S . , R e g i s t e r T r a f f i c A n a l y s i sf o r S t r e a m l i n i n g I n t e r - O p e r a t i o n C o m m u n i c a t i o n i n F i n e - G r a i nP a r a l l e l P r o c e s s o r s , i n P r o c . M I C R O - 2 5 , 1 9 9 2 , p p 2 3 6 - 2 4 5 .[HM 0 0 ] H u , Z . a n d M a r t o n o s i , M . , R e d u c i n g R e g i s t e r F i l eP o w e r C o n s u m p t i o n b y E x p l o i t i n g V a l u e L i f e t i m eC h a r a c t e r i s t i c s , i n W o r k s h o p o n C o m p l e x i t y - E f f e c t i v e D e s i g n ,2 0 0 0 .[ K e 9 9 ] K e s s l e r , R . E . , T h e A l p h a 2 1 2 6 4 M i c r o p r o c e s s o r , I E E EM i c r o , 1 9 ( 2 ) ( M a r c h 1 9 9 9 ) , p p . 2 4 - 3 6 .[LVA 9 5 ] L l o s a , J . , V a l e r o , M . a n d A y g u a d e , E . , N o n - c o n s i s t e n tD u a l R e g i s t e r F i l e s t o R e d u c e R e g i s t e r P r e s s u r e , i n P r o c e e d i n g so f H P C A , 1 9 9 5 , p p . 2 2 - 3 1 .[ L o G a 9 5 ] L o z a n o , G . a n d G a o , G . , E x p l o i t i n g S h o r t - L i v e dV a r i a b l e s i n S u p e r s c a l a r P r o c e s s o r s , i n P r o c . M I C R O - 2 8 , 1 9 9 5 ,p p 2 9 2 - 3 0 2 .[ P o 0 3 ] P o n o m a r e v , D . , e t . a l . R e d u c i n g D a t a p a t h E n e r g yT h r o u g h t h e I s o l a t i o n o f S h o r t - L i v e d O p e r a n d s , i n P r o c . o fP A C T - 1 2 , 2 0 0 3 , p p 2 5 8 - 2 6 8 .[ S i m 0 6 ] S i m p l e s c a l a r s i m u l a t o r c o d e a n d d o c u m e n t a t i o na v a i l a b l e f r o m S i m n p l e s c a l a r LLC a t : w w w . s i m p l e s c a l a r . c o m .[ S h 0 5 ] S h a r k e y , J . , M - S i m : F l e x i b l e , M u l t i - t h r e a d e dS i m u l a t i o n E n v i r o n m e n t . T e c h . R e p o r t C S - T R - 0 5 - D P I ,D e p a r t m e n t o f C o m p u t e r S c i e n c e , SUNY B i n g h a m t o n , 2 0 0 5 .[ S P H C 0 2 ] S h e r w o o d , T . , P e r e l m a n , E . , H a m e r l y , G . a n d C a l d e r ,B . , A u t o m a t i c a l l y c h a r a c t e r i z i n g l a r g e s c a l e p r o g r a m b e h a v i o r ,I n 1 0 t h I n t e r n a t i o n a l C o n f e r e n c e o n A r c h i t e c t u r a l S u p p o r t f o rP r o g r a m m i n g , O c t o b e r 2 0 0 2 , p p 4 5 - 5 7 .[ T A 0 3 ] T s e n g , J . H . a n d A s a n o v i c , K . , B a n k e d M u l t i p o r t e dR e g i s t e r F i l e s f o r H i g h - F r e q u e n c y S u p e r s c a l a r P r o c e s s o r s , i nP r o c . I S C A - 3 0 , 2 0 0 3 , p p 6 2 - 7 1 .

    2 4 9