7/27/2019 p227 Crane

1/15

A P r e d i c to r - C o r r e c t o r A l g o r i t h m w i t h a n I n c r e a s e d R a n g eo f A b s o l u t e S t a b i l i ty

R . L. C R AN E AND R . W . KLOPFENSTEINRCA Laboratories , Princeton, New Jersey

Abstract. A n e w p r e d i c t o r fo r u s e w i th t h e A d a m s - M o u l t o n c o r r e c to r h a s b e e n d e v e t .o pe d. T r u n c a t i o n e r r o r s a t e a c h s t e p a r c d e t e r m i n e d , t o f i r st o r d e r , so l e ly b y t h e c h a r -a c te ri st ic s o f th e c o r r e c t o r . L i k e w i s e , t h e p r o p a g a t i o n o f e r r o r i n t h e e v a l u a t i o n o f d e f i n it ein te g ra ls i s d e p e n d e n t o n l y o n t h e c o r r e c t o r e q u a t i o n . ( T h e o n l y p u r p o s e o f th e p r e d i c t o rh ere is t o f o r m a n e r r o r e s t i i n a t e . ) T h e p r e d i c t o r e q u a t i o n a n d t h e c o r r e c t o r e q u a t i o n a r ei n d e p e n d e n t l y a n d j o i n t l y o f t h e f o u r t h o r d e r . T h e p r e d i c t o r e q u a t i o n d e v e l o p e d h e r e i sbe li eved to hav e the l a rge s t r ang e o f ab so lu te s t ab i l i ty ( inc lud ing h = 0 ) fo r the com binedp re d ic to r- co rr ec to r a l g o r i t h m t h a t i s p o s s i b l e . A t t h e s a m e t i m e t h e m e t h o d h a s a r a n g e o fr el at iv e s t a b i l i t y w h i c h w i l l m a i n t a i i l s t a b l e p r o p a g a t i o n o f r e l a t i v e e r r o r s w h e n t r u n c a t i o ne rr ors o f l es s t h a n o n e p a r t i n o n e t h o u s a n d a r e b e i n g in c u r r e d . T h e s t o r a g e r e q u i r e d f o rp re vio us d e r i v a t i v e v a l u e s i s n o g r e a t e r t h a n t h a t f o r t h e s ta n d a r d A d a m s - M o u l to n m e t h o dw ith th e A d a m s - B a s h f o r t h p r e d i c t o r .I . Introduction

P r e d i c t o r - c o r r e c t o r a l g o r i t h m s f o r t h e n u m e r i c a l s o l u t i o n o f o r d i i l a r y d i ff e r -e Iltia l e q u a t i o n s a r e o f c o n s i d e r a b l e i n t e r e s t b e c a u s e o f th e i r r e l a t iv e e c o n o m y i nterm s o f t h e n u m b e r o f d e r i v a t i v e e v ~ , l u a ti o n s r e q u i r e d f o r a g i v e n o r d e r a l -g orith m. I n t h e c o m m o n l y u s e d v e r s i o n w h e r e a si n g le a p p l i c a t i o n o f t h e p r e d i c t o rf orm u la i s f o l l o w e d b y a s i n g l e a p p l i c a t i o n o f t h e c o r r e e t o r f o r m u l a , t w o d e r i v a t i v ee va lu at i on s a r e r e q u i r e d f o r o n e s t e p f o r w a r d . T h i s c o m p a r e s w i t h f o u r d e r i v a -tive e v a l u a t i o n s i n a f o u r t h - o r d e r R u n g e - K u t t a a l g o r i t h m f or o n e s t e p f o r w a r d ,f o r e x a m p l e .I n a p p l y i n g a p r e d i c t o r - c o r r e c t o r a l g o r i t h m , s p u r i o u s s o l u ti o n s o f t h e d if f er -encc e q u a t i o n m a y b e g e n e r a t e d w h i c h b e a r n o d i re c t r e l a t i o n t o t h e d i ff e re n t ia le q ua ti on b e i n g s o l v e d . T h i s p h e n o m e n o n i s k n o w l~ a s n u m e r i c a l i n s t a b i l it y . I tlim its t h e i n t e r v a l o f i n t e g r a t i o n w h i c h m a y b e u s e d . I n i t i a l ef f o rt s t o p r o d u c ea lg o ri th m s h a v i n g i n c r e a s e d r a n g e s o f n u m e r i c a l s t a b i l i t y l i m i t e d t h e i r c o n -s id e m ti on s t o t h e c o r r e c t o r f o r n m l a [1 , 2 ]. W h i l e t h is w o u l d b e a p p r o p r i a t e i f t h ee o rr ee to r f o r m u l a w e r e a p p l i e d i t e r a t i v e l y t o c o n v e r g e n c e , s u b s t a n t i a l d i f f e re n c e sia b e h a v i o r o c c u r w h e n t h e c o r r e c t o r f o r m u l a i s a p p l i e d o n l y o n c e [3 ].

I n t h is p a p e r a p r e d i c t o r f o r m u l a i s d e v e l o p e d w h i c h w h e n u s e d w i t h o n e a p -p lic at io n o f t h e A d a m s - M o u l t o n c o r r e c t o r l e a d s t o o p t i m a l a b s o l u t e s t a b i l i t yc h a r a ct e ri st ic s . T h e r a n g e o f a b s o l u t e s t a b i l i t y f o r a s i n g l e f i rs t o r d e r d i f f e r e n t i a le q ua tio n is n e a r l y d o u b l e d . A l t h o u g h i n t h e o p t i m i z a t i o n p r o c e ss c o n s i d e ra t i o n sw ere l i m i t e d t o t h e r a n g e o f a b s o l u t e n u m e r i c a l s t a b i l i t y f o r a si n g le d i f f e r e n ti a le qu atio n, t h e r e s u l t a n t a l g o r i t h m h a s f a v o r a b l e p r o p e r t i e s f r o m o t h e r p o i n t s o fv ie w a s w e l l .I I . De v e lo p me n t o f th e A lg o r i th m

A s a s t a r t i n g p o i n t , a g e n e r a l i z e d p r e d i c t o r - c o r r e c t o r f o r m u l a is c o n s id e r e d :! f l ~ !P , ~ + ~ = a~y~ + bly~_~ + c~y~_~+ d~y~_~+ h(e~y~ + f~y~-~ + g~y~-2 + ~Y~-~) , ( 1 )!

227

7/27/2019 p227 Crane

2/15

2 2 8 R . L . C R A N E A N D R . W . K L O P F E N S T E I NT h e b e h a v i o r o f t h i s a l g o r i t h m w h e n a p p l i e d t o t h e n u m e r i c a l s o lu t io n o f

y ' = f ( : c , y ) ( 2 )i s t o b e s t u d i e d . T h e d e f i n i t i o n s

y , ,' = f ( x , ~ , y , ), ( a )p ,~ ~1 = f ( : c , ,+ ~ , p , ,+ , )

a r e i m p l i c i t in t h e e q u a t i o n s ( 1 ) .T h e f o r m o f ( 1 ) is c h o s e n 1 o i n v o l v e t h e s t o r a g e o f t h e s a m e n u m b e r o f back

d e r i v a t i v e v a l u e s a s m a n y e o m l n o n l y u s e d f o u r t h o r d e r p re d ie to r-e o rre e t0 ra l g o r i t h m s s u c h a s A d a m s - B a s h f o r t h / A d a m s - M o u l t o n , f o r e x a m p l e [4, pp.1 9 2 -1 9 9] . T h e p a r a m e t e r s o f ( 1 ) c o u l d b e v a r i e d t o c o n s t r u c t a n a l go ri t hm ofm a x i m u m o r d e r . H o w e v e r , s u c h a n a l g o r i t h m w o u l d b e n u m e r i c a l l y unstab lef o r a l l i n t e r v a l s o f in t e g r a t i o n [ 5] . I n s t e a d t h e a l g o r i t h m ( 1 ) w i ll b e s pe cifie d tob e a f o u r t h o r d e r a l g o r i t h m a n d t h e a d d i t i o n a l p a r a m e t e r s w i ll b e se le cte d tom a x i m i z e t h e r a n g e o f a b s o l u t e n u m e r i c a l s t a b i l i t y .

I n f a c t , i t w i ll b e s p e c if ie d t h a t t h e p r e d i c t o r a n d e o r r e e t o r f o r m u l a s b e in-d e p e n d e n t l y o f f o u r t h o r d e r . T h e n t h e l e a d i n g t r u n c a t i o n e r r o r t e r m o f th e e0m -b i n e d a l g o r i t h m ( 1 ) is id e n t i e a l w i t h t h a t o f t h e e o r r e e t o r a l o n e [4, p . 2 61 ]. Ina d d i t i o n , p ,~ - y , w i ll t h e n f u r n i s h a c o n v e n i e n t e s t i m a t e o f t h e t r u n c a t io n errora t, e a c h s t e p . T h i s l e a v e s f i v e f r e e p a r a l n e t e r s i n t h e a l g o r i t h m ( 1 ) ; t h r e e in thep r e d i c t o r a n d t w o i n t h e e o r r e e t o r . T h e s e a r e s e l e c t e d a s d ~ , e ~, k a , d~ a nd e2.T h e f o ll o w i n g r e l a t io n s h o l d f o r t h e r e m a i n i n g c o e f f i c ie n t s :

a l = 9 - - d l - - 3 e l 3 k l ,b l = 9 - - 9 d l 2 4 k i ,c l = - - 1 7 9 d l 3 e l - - 2 7 k i ,f l = - 1 8 + 6 d l 4 e l - 1 7 k l ,g l = - - 6 6 d l e l - - 1 4 k l ,

a s = 9 - - 1 5 d 2 - 3 e 2,b2 = 9 - 2 4 d 2 ,c z = - 1 7 3 9d 2 3 e ~,f2 = - 1 8 3 9 d z 4 e 2 ,g 2 = - 6 1 4 d 2 e_~ .

(4)

T h e e r r o r t e r m f o r t i l e c o m b i n e d p r e d i e t o r - e o r r e e t o r a l g o r i t h m ( 1 ) i s givent o f i r s t o r d e r b y 5 (v){,~,E p c = ~ [9 - - 2 4 d 2 - e 2 lh y , x ) . (5)

W h e n t h e c h a r a c t e r i s t i c p o l y n o m i a l fo r ( 1 ) is o b t a i n e d i n t h e u s ua l way[ 3 , p p . 4 5 9 - 4 6 0 ] , i t i s f o u n d t h a t

P4 -Jr- q3P* q2P ~ q l P qo = O , (6 )w h e r eq.~ = ( - - 9 1 5 d ~ + 3 e 2 ) + h [ ( - - 9 d l 3 e l - - 3 k 1 )d 2 - - e 2] ~ 2 ( - d 2 e l ) ,q~ = ( - 9 -k- 2 4 d2 ) + h [ ( - - 4 8 9 e l l - - 2 4 k l ) d ~ + 1 8 - - 4 e 2 ]

_ ] '/ 2 [( 1 8 - - 6 d l - - 4e : + 17k:)d~],q l = ( 1 7 - 3 9 d 2 - - 3 e 2 ) + h i ( 3 - 9 d~ - 3 e~ + 27 k ~) d 2 + 6 - e2]

+ _ h z [ ( 6 - 6 d ~ - e ~ + 1 4 k ~ ) d ~ ] ,qo = _h(--d~d~) + _h~(-- d ~ l ) .

7/27/2019 p227 Crane

3/15

A PREDICTOR-CORRECTOR ALGORITHM 22 9

e2

~ .0

1.8

1.6IA

1.2

I .(

0 .6

0.4

= 6

9 d 2 t e 2

-0 .2

\- 0 . 4 ~0 . 5 2 0 . 3 4 0 . 3 6 0 . 5 8 0 . 4 0 0 . 4 2 0 . 4 4 0 . 4 6 0 . 4 8 0 . 5 0d 2

F IG . l . R ~ n g e o f d 2 ~ n d e 2 f o r l m l ~ 1, i = 1 , 2 , 3 , 4 a t / . ~ = 0

T he a b o v e is d e r i v e d u n d e r t h e u s u a l a s s u m p t i o n s t h a t t h e t r u n c a t i o n e r r o r a sw ~ll a s t h e p a r t i a l d e r i v a t i v e o f f ( x , y ) ( e q u a t i o n ( 2 ) ) w i t h r e s p e ct to y is c o n -sI~l~t f r o m p o i n t t o p o i n t . T h e q u a n t i t y _h i s d e f i n e d b y

h = h O f . (7 )OyW h~,~ h = 0 , e q u a t i o n ( 6 ) f a c t o r s i n t o

p ( p - 1 ) [ p ~ + ( - - 8 + 1 5 d 2 + 3e2)p + ( - 1 7 + 3 9 d 2 + 3 e 2) ] = 0 . ( 8 )T h e r o o ts o f ( 6 ) a n d ( 8 ) d e t e r m i n e t h e n u m e r i c a l s t a b i l it y o f t h e a l g o r i t h m( l ) . I n t h i s p a p e r , a n a l g o r i t h m w i l l b e c a l l e d ini t ial ly s table i f e a c h r o o t o f ( 8 )

I~ s m a g n i tu d e le ss t h a n o r e q u a l t o o n e a n d e v e r y r o o t o f u n i t m a g n i t u d e i s~ i~ p le . A n a l g o r i t h m w i l l b e c a l l e d absolutely h* stable i f h* i s th e l e a s t v a l u e f o r~':}~icht h e ro o t s o f ( 6 ) s a t i s f y th e s e s a m e c o n d i t i o n s f o r

b* < h < 0 . (9)I t is c le a r t h a t a n e c e s s a r y c o n d i t i o n f o r a n a l g o r i t h m t o b e a b s o l u t e l y h* s t a b l e

7/27/2019 p227 Crane

4/15

2 3 0 R. L. CRANE AND R. W. KLOPFENSTEINi s t h a t i t b e i n i t ia l l y s t a b le . A n a l g o r i t h m w i ll b e c a ll e d "~'e la t ivc ly sLable in ani n t e r v a l o f t h e h - a x i s i f a l l o f t h e r o o t s o f ( 6 ) a r e e q u a l t o o r l es s ~ h a n ex p (h )i n a b s o l u t e v a l u e a n d r o o t s e q u a l t o e x p ( t~ ) a r e s i m p l e f 'o r e v e r y ~ w i t h in thei n t e r v a l .R e l a t i v e s t a b i l i t y is o f t e n a p p r o p r i a t e w h e n s o l v i n g d i ff e r e n t i a l e q u a t i o n s w h icha r i s e f r o m p h y s i c a l s y s t e m s w i t h n o f or cit~ g i 'u n c t i o t l s . I ~ s u c h c a s e s , t h e s olu tio n" d a m p s o u t " ( o r g r o w s ) a s x in c r e a se s . W h e n , h o w e v e F , t h e p h y s i c a l s y s t e m hasa p e r io d i c fo r c i n g f u n c t i o n , a b s o l u t e s t a b i l i t y is i m p o r t a n t . I n p a r t i c u l a r , w h ent h e p h y s i c a l s y s t e m is d r i v e n b y a f o r c i n g f u n c t i o n w i t h a p e r i o d t h a t isn m c h l o n g e r t h a n t h e t im e c o n s t a n t s o f th e s y s t e m , t h e a b s o l u t e s t a b i l i t y o f then u m e r i c a l m e t h o d w i l l l i m i t t h e s o l u t i o n . A s s h o w n b e l o w , i t i s p o s s i b l e t o d e r i v ea p r e d ic t o r fo r m u l a fo r u s e w i t h a n A d a m s - M o u l t o n c o r r e c t o r f o r m u l a wh ichg i v e s a n u m e r i c a l m e t h o d w i t h n e a r l y tw i c e t h e r a n g e o f a b s o l u t e s t a b i l i t y w h iler e t a i n i n g s a t i s f a c t o r y r e l a t i v e s t a b i l i t y c h a r a c t e r i s t i c s .

I t is d e s ir e d t o f i n d a c o m b i n a t i o n o f t h e f iv e p a r a m e t e r s d ~ , e l , /~ 1 , d~ a n d e:w h i c h w i l l p r o v i d e a n a l g o r i t h m ( 1 ) w h i c h is a b s o l u t e l y h * s t a b l e a n d s u c h th a t[** is m i n i m i z e d . I t is t o b e n o t e d t h a t h * c a n n o t b e n e g a t i v e l y i n f i n i t e s in c e a tl e a s t o n e o f t h e r o o t s o f ( 6 ) m u s t a p p r o a c h i n f i n i t y a s ]_~ b e c o m e s n e g a ti v el yi n f i n i t e .I t i s f i rs t o b s e r v e d t h a t , th e c o n s i d e r a t i o n o f i n i t ia l s t a b i l i t y l i m i t s t h e ( d 2 , e2)p a ir s t h a t m a y b e u s e d t h r o u g h e q u a t i o n ( 8 ) . T h e r e w i ll b e o n e ro o t

a n d o n e r o o tp = - -} -1 w h en 9d~ + e : - 4 = O , ( 10 )

p = - - 1 w h e n 3 d2 - 1 = 0 . ( 11 )W h e n t h e t w o r o o t s a r e a c o m p l e x p a i r o f u n i t m a g n i t u d e ,

13de ~ e2 - - 6 = 0 . (12)T h e s e t h r e e s t r a i g h t l i n e s d e f i n e a r e g i o n i n t h e ( d 2 , e 2) p l a n e w i t h i n w h ic hi n i t ia l l y s t a b l e m e t h o d s m u s t b e c o n t a i n e d . T h i s i s i l l u s t r a t e d i n F i g u r e 1.P o i n t s s h o w t h e l o c a ti o n s o f a n u m b e r o f w e l l -k n o w n a l g o r i th m s . I t is to ben o t e d t h a t t h i s r e s t r i c t i o n i s o i l t h e c o r r e c t o r c o e f f i c i e n t s o n l y . T h e p r ed i ct orc o e f fi c ie n t s a r e n o t i n v o l v e d a s t h e y d o n o t a f f e c t t h e i n i t ia l s t a b i l i t y o f th ea l g o r i t h m ( 1 ) . T h e t r u n c a t i o n e r r o r i n c r e a se s a s o n e m o v e s f ro m l e f t t o rig hta c r o s s t h i s re g i o n in a c c o r d a n c e w i t h ( 5 ) .

A g r a d i e n t t e c h n i q u e w a s d e v e l o p e d f o r i n c r e a s in g t h e r a n g e o f ab s ol ut es t a b i l i ty . T h i s t e c h n i q u e is s k e t c h e d b e l o w , b u t s o m e o f t h e m o r e v o l um i n o u sd e t a i l s a r e o m i t t e d . I t i s c o n v e n i e n t t o c o n s i d e r t h r e e c a se s . L e t x d e n o t e th ev e c t o r ( d ~ , e ~ , k ~ , d ~ , e ~ ) o f f i v e p a r a m e t e r s . I f t h e l i m i t i n g v a l u e o f p i s + 1 ,t h e n f r o m ( 6 )

F ~ @ , x ) = 1 + q 3 + q2 + q ~ + q 0 = 0 . (13 )I f th e l i m i t in g v a lu e o f p is - 1 , t h e n a g a i n f ro m ( 6)

F~(_h, x ) = 1 - q~ + q~ - q~ + qo = 0 . (14)F i n a l l y , i f t h e l i m i t i n g v a l u e o f p is a c o m p l e x c o n j u g a t e p a i r o f u n i t m a g n i t u d e ,d i v i s i o n o f ( 6) b y t h e q u a d r a t i c f a c t o r p~ - 2 c o s ,p z r 1 l e a d s t o

7/27/2019 p227 Crane

5/15

A P R E D IC T O R - C O R R E C T O R A L G O R IT H m :[F.~(.h, x ) - - - ( q , ~ - - q ~ ) O - } - q ~ ( q a - - q ~ ) ( q o - - 1 )

( q ~ - q0 - 1 ) ( q 0 - 1 ) ~ = - 0 ,

2 3 1

qz - -- - - - - - ! l < 2 ( 1 5 )q 0 - - 1 I =beitlg a r e q u i r e d a d d i t i o n a l e o t l d i t i o n . ( 1 3 ) l e a d s t o a l i n e a r p o l y n o m i a l i n h_,

(14) is a q u a d r a t i c p o l y n o m i a l i n / z , a n d ( 1 5 ) i s a s i x t h d e g r e e p o l y n o m i a l i n h_.i : o r a g i v e n p o i n t i n p a r a m e t e r s p a c e , th e s e f ln 'e e p o l y n o m i a ls ar e s o l v ed f o rIheir r o o ts in h . T h e l e a s t n e g a t i v e r e a l h d e t e r m i n e s h * w h i c h l i m i ts t h e r a n g e o fab so lu te s t a b i l i t y . P o s i t i v e r e a l a t t d c o m p l e x r o o t s a r e i g n o r e d f o r t h i s p u r p o s e .For e x am p l e, i n t h e e a s e o f t h e A d a m s - B a s h f o r t h p r e d i c t o r a n d A d a m s - M o u l t .o ne 0rr ee to r, ( 1 5 ) h a s a n e g a t i v e r e a l r o o t o f - 1 .2 8 5 w h i c h d e t e r m i n e s h *.

N ow t h e g r a d i e n t o f h * i n p a r a m e t e r s p a c e c a n b e f o rm e d b y i m p l i c it d if -f er en tia tio n o f ( 1 3 - 1 5 ) . T i t u s ,5 ( a * ) = o h Oh_ o h oh_

- t ' O e l ' O k t ' O d 2 ' ~=~* j = 1 , 2 , 3 , ( 1 6 )d ep en din g o n w h i c h e o n d i t i o a i s l i m i t i n g i n a g i v e n c a s e . I~ s h o u l d b e m e n t i o n e dth at m u c h o f t h e i n v o l v e d a l g e b r a n e c e s s a r y i n t h e a b o v e c a n b e c a r r i e d o u titu m erie ally i n a c o m p u t e r p r o g r a m . T h i s r e s u l t s i n s u b s t a n t i a l s i m p l i f ic a t io n o fthe pro cess .

i n a t t e m p t w a s f i r st m a d e t o u s e t h i s g r a d ie n t i n t h e 5 - p a r a m e t e r s p a ce ,s tartin g a t t h e p o i n t d e t e r m i n e d b y H a m m i n g ' s m e t h o d . T h e d i r e c ti o n of th eg ra die nt w a s s u c h t h a t t h e c o n s t r a i n t 9 d2 -t - e2 = 4 s o o n l i m i t e d f u r t h e r p r o g r e s s .0 ae c an s h o w t h a t w h e n t h i s c o n s t r a i n t i s s a ti s fi e d , a d o u b l e r o o t o = + 1 e x i s t sw hen h = 0 . O n e o f t h e s e r o o t s i s a p p r o x i m a t e l y e q u a l t o e~-. I n o r d e r t o i n s u r e

I p i l

1 ,8

t . 6

IA

1,2

LO

0.6

0.4

0 2

0

- -. ,o o , - ,- P O S I T I V E R E A L- ~ N E G A T I V E R E A L

- . - , . ~ x . , . - - C O M P L E X P A I R- d ~ = 0 j ~ x ' ' ' ~- ' ' ' - "

e I = 5 5 / 2 4k I = - 5 / 8

I I I I 1 I I I I I I0.2 0.4- 0.6 0.8 " ' 1.0 1.2 I.A 1.6 1.8 2.0 2.2 z.4( - h }F I O . 2 . I P ~I v s . ( - h ) f o r A d a m s - lV [ o u l to n m e t h o d

7/27/2019 p227 Crane

6/15

2 3 2 I t . L. CRANE AND R. W. K LOP FEN STE [Ns o m e r a n g e o f a b s o l u t e s t a b i l i ty , t h e s l o p e o f t h e s e c o n d r o o t , d p / d l _ z ~=~ ,h=o , rot.%b e c o n s t r a i n e d t o b e n o n - n e g a t i v e . T h i s r e s u l ts in th e c o n d i t i o n 4 - 2d ~ - e~5/c~ > 0 w h e n d~ ~ . T h i s c o n d i t i o n w a s n o t s a t i s f i e d b y t h e p o i n t i n t h e p a r a~e t e r s p a c e to w h i c h u s e o f ( 1 6 ) h a d l e d . T o s a t i s f y t h e c o n d i t i o n , t h e p 0 in ~ ii n t e r s e c t i o n o f t h e g r a d i e n t a n d t h e h y p e r p l a n e 4 - 2 d~ - e~ + 5k ~ = 0 ~t a k e n . I n v e s t i g a t i o n o f t h e e f fe c t o f r e q u i r i n g t h a t t h e c o n d i t i o n s 9d.2 + e2 ~ .~a n d 4 - 2d~ - e~ - t- 5 k ~ = 0 h o l d s i m u l t a n e o u s l y s h o w e d t h a t i f t h e r e i s a r0~p = 1 f o r s o m e /_~ 0 , t h e n t h e r e i s a c o n s t a n t r o o t p = 1 . T h i s , o f e ou rs e, i~u n d e s i r a b l e s in c e n o r a n g e o f r e l a t i v e s t a b i l i t y c o u l d e x i s t.

T o a v o i d c o m p l i c a t i o n s s u c h a s th o s e j u s t d e s c r i b e d a n d t o i n s u r e t h a t th~i n e t h o d s u n d e r s t u d y w o u l d h a v e s o m e r a n g e o f r e l a t i v e s t a b i l i ty , i t w a s decidedt o f ix t h e e o r r e c t o r f o r m u l a , t h u s r e d u c i n g t h e n u m b e r o f p a r a m e t e r s t o thr(,~,T h e A d a m s - M o u l t o n e o r r e e t o r w a s s e l ec t e d p r i m a r i l y b e c a u s e , f o r i t, th e thre~.e x t r a n e o u s r o o t s o f ( 6 ) e q u a l z e r o w h e n _h = 0 . O t h e r e o r r e e t o r s c o u l d , o f eours~b e u s e d . I t, i s d o u b t f i f l i n t h e o p i n i o n o f t h e a u t h o r s , h o w e v e r , t h a t a sig nific an t!yb e t t e r a l g o r i t h m t h a n t h e o n e d e v e l o p e d h e r e w o u l d r e s u l t w h e n t h e f ae t0 rs ~!a b s o l u t e s t a b i l i t y , r e l a t i v e s t a b i l i t y , t r u n c a t i o n e r r o r a n d p e r f o r m a n c e f o r systemicso f e q u a t i o n s a r e a l l c o n s i d e r e d , a s is d o n e i n t h i s p a p e r .

T h e s t a r t i n g p o i n t f o r t h e o p t i m i z a t i o n p r o c e d u r e w a s c h o s e n a s ( d ~, ez,/:1 )(0, ~ '~f , , - - ~ ) , w h i e h c o r r e s p o n d s t o t h e A d a m s - B a s h f o r t h p r e d i c t o r [4, p p . 1,%1 94]. T h e s t a b i l i t y c h a r a c t e r i s t i c s o f t h e A d a r n s - B a s h f o r t h , A d a m s - M o u l to ~a l g o r i t h m a r e i l l u s t r a t e d i n F i g u r e 2 . I t i s a b s o l u t e l y h * s t a b l e w i t h _h* = - 1 .2 g ia n d r e l a t i v e l y s t a b l e f o r b, g r e a t e r t h a n a b o u t - 0 . 6 . I n a l l s u b s e q u e n t re feren ee~

1.8

I p I I

o - - - - o - P O S I T I V E R E A L1.6 - - . -o- . . .- . . .o- NEG AT IVE RE AL

- - x - - x - C O M P L EX P A IRIA d l : 0 . 0 0 6 1 5 5 1 2 9 2 /e , 2 . 2 9 5 3 0 8 9 /

k [ ] - 0 . 3 9 3 3 9 8 5 , /L 2 d 'z = 0 . 5 7 5 /~ L e :' = 0 " 7 9 1 6 6 6 6 6 7 J

| . . . . . . . . . . . . . . . . ~ - - - - _

O.

o 2 1 - ~ , ~/ ' ' ' ' ~ - ' ~ ^ .o i --. - . . . . . . . . . . . . . . . . . . . . .. . . ~

~) 0. 2 0.4 0.6 0 .8 .0 1.2 1.4 1.6 1.8 2.0 2.2 2.( - h )F It s . 3 . J p , t v s . ( - h )

7/27/2019 p227 Crane

7/15

A P[~EI)ICTO[t-CO[t[{ECT0[~, ALGO [t[ THM 233to the gradient vectors (16) it is assumed that the last two components are setequal to zero.

In the case at hand, the range of absolute stability is limited by a pair of com-plex conjugaie roots of unit magaitude. In parameter space, one takes

Ax = -CV;~(b*), (17)with C a positive real constant. This increases the range of absolute s tabili ty.]'his process can be eont inued unti l some other condition becomes limiting.When two conditions a rt simultaneously limiting, say F~ and F,~, one maye0ntinue by cons tructing a vector Ax in the plane of Vt and V~ such that

~ - V l ( ~ _ , * ) = Z ~ x . v ,~ ( _ h * ), ( 1 8 )~Xx.(~l- V2) = 0.In this wa,y, one arrives at the situation indicated in Figure 3. In moving h*

out to about -2.19, an intermediate pair of complex roots has become equal tounity in magnitude. Any further a ttempt to decrease _/_/3*will cause them toexceed unity and limit the range of absolute stability. However, the intermediateextremmn may be depressed wi thout changing h* by moving in a direction per-pendicular to the plane defined by V~ and V~, that is,

A x = C V 1 X V ~ . ( 1 9 )Theft ~* may again be decreased. By continuing this process one is finally led tothe situation shown in Figure 4 with b* = -2.481 . A plot over an expandedrange of _h is shown in Figure 5. Here repeated roots of plus one attd a tangentcomplex pair of unit magnitude occur simultaneously. No further improvement

1 . 8- - 0 - - - 0 - - P O S I T I V E R E A L

1 . 6 - - 0 - -- , .0 - N E G A T I V E R E A L- - x ~ x - - C O M P L E X P A I R

1.4 - d I = - 0 . 6 9 7 3 5 3 0 0 0e ~ - - 2 . 0 0 2 2 4 7 0 0

1.2 - - k , = - 0 . 7 1 4 3 2 0 0 0 0d~= 0 . 3 7 5 0 0 0 0 0 0 (e ~ t = 0 . 7 9 1 6 6 6 6 6 6 7 _ _ ~ ~

f f x " - ~ ~ / A B S O L U T E L Y S T A B LE : 0 = ' b . : ' - 2 , 4 8 0 90.2 , y C \ y R E L A T I V E L Y S T A B L E :+ ~ '= 'h ~ - 0 . 4 4 6\ /I I I I ~ I I I I I I ~ _

I p i l

0 0 0 . 2 0 . 4 0 . 6 0 . 8 1 . 0 1 . 2 1 . 4 i . 6 1 . 8 2 . 0 2 . 2( - h E )Fi r . 4 . I ~ i I v s . ( -h _ ,)

2.4

7/27/2019 p227 Crane

8/15

2 3 4 R. L. CRANE AND R. W. KLOPFENSTEINs e e m s p o s s i b le , a n d t h i s i s b e l i e v e d t o r e p r e s e n t t h e p r e d i c t o r h a v i n g o ptir~ Ga b s o l u t e s t a b i l i t y c h a r a c t e r i s t i c s w h e n u s e d w i i h t h e A d a m s - M o u l t o n co rrect0r.

T h e c o m p l e t e s e t o f c o e ff ic i en t s r e p r e s e n t i n g t h is m e t h o d a r ea ~ = 1 . 5 4 7 6 5 2 0 0 , a 2 = 1 . 0 0 0 0 0 0 0 0 ,b l = - - 1 . 8 6 7 5 0 3 0 0 , b2 = 0 ,c~ = 2 . 0 1 7 2 0 4 0 0 , c~ = 0 ,d l = - 0 . 6 9 7 3 5 3 0 0 0 , d2 = 0 . 3 7 50 0 0 0 0 0 ,e l = 2 . 0 0 2 2 4 7 0 0 , e2 = 0 . 7 9 1 6 6 6 6 6 7 ,.fl = - - 2 . 0 3 1 6 9 0 0 0 , f._, = - 0 . 2 0 8 3 3 3 3 3 3 ,g l = 1 . 8 1 8 6 0 9 0 0 , g 2 = 0 . 0 4 1 6 6 6 6 6 6 7 .k l = - - 0 . 7 1 4 3 2 0 0 0 0 ,

A n e r r o r e s t i m a t o r

( 2 o i )

i s g i v e n a t e a c h s t e p o f t h e a p p l i c a t i o n o f ( 1 ) t l ~ ' o u g h

E , ~ p " - - y" (21)1 6 . 2 1 9 6 6 "T h i s c a n b e u s e d f o r o n l i n e m o d i f i c a t i o n o f t h e i n t e r v a l o f i n t e g r a t i o n t o reta in ~:~p r e s c r i b e d a c c u r a c y i f d e s i r a b l e . T h e t r a i l i n g z e r o s i n t r o d u c e d i n th e pred ic t~ rc o e i f i c ie n t s o f ( 2 0 ) a r e f o r t h e p u r p o s e o f m a k i n g t h e p r e d i c t o r a s n e a r ly "nt~ . . . .m e r i c a l l y " f o u r t h o r d e r a s p o ss i b le . T h e r e l a t i o n s ( 4 ) a r e s a t i sf i ed " nu m e r ic a ll yb y t h es e n u m b e r s .

T h e t r u n c a t i o n e r r o r o f t h e c o m b i n e d a l g o r i t h m ( 1 ) is g i v e n b y ( 5) an d i~.c l e a r l y i d e n t ic a l w i t h t h a t o f th e A d a m s - M o u l t o n c o r r e c t o r f o r m u l a alone,.

7

6I p i l s i

P OS IT IV E RE AL |NEGATIVE REAL eh- |I

- - ~ - - C O M P L E X P A I R II AI

d I : - 0 . 6 9 7 5 5 3 0 0 0 Ie I = 2 . 0 0 2 2 4 7 0 0 ~ fk I = - 0 . 7 1 4 3 2 0 0 0 0 / /z = 0 . 5 7 5 0 0 0 0 0 0 z = 0 . 7 9 1 6 6 6 6 6 7

A B S O L U T E L Y S T A B L E : o Z h .> -2 .4 8C ~LR E L A T I V E L Y S T A B LE :+ O O > It > 'Q 4 4 5

-5 - 4 - 3 -2 - I 0F r o . 5. I p ~ I vs. (_h)

I II 2 3 4

7/27/2019 p227 Crane

9/15

A PREDICTOR-CORRECTOR ALGORITHM 235:III. S y s t e m s o f D ~ :D 'e re ntia l E q u a t i o n s

T h e o p t i m i z a t i o n o f t h e a l g o r i t h m ( 1 ) h a s b e e n c a rr ie d o u t w i t h re s p e c t toth e s o lu t io n o f a s i n g l e d i f f e r e n t i a l e q u a t i o n ( 2 ) o n l y . I n p o i n t o f f a c t , o n e i sseld om i n t e r e s t e d i n s o l v i n g a s i n g l e f i r s t o r d e r d i f fe r e n t i a l e q u a t i o n , b u t r a t h e rsy ste m s o f m a n y c o u p l e d f i r s t- o r d e r e q u a t i o n s ( p e r h a p s h u n d r e d s ! ) . I n o r d e rto ju d g e t h e a l g o r i t h m d e r i v e d i t i s n e c e s s a r y t o s t u d y i t s c h a r a c t e r is t i c s i~so lv in g s y s t e m s o f d i f f e r e n t i a l e q u a t i o n s . I t t u r n s o u t t h a t t h e r e i s a r e a s o n a b l ysin lp le r e l a t i o n b e t w e e n t h e a l g o r i t h m ' s p e r f o r m a n c e f o r a s i ng le d i f f e r e n t ia le qu atio n a n d s y s t e m s o f e q u a t i o n s [7 ].

C oL ~sider t h e s y s t e m o f d i f f e r e n t i a l e q u a t i o n sd y _ f i x , y ) (2 2 )d x

where y = (Y ~ , Y~, "" " , Y , , ) a n d f -- ( . f l, j .z , . . . , f , ) .i f th e i n c r e m e n t a l v a r i a b l e s= x - X o , ~ - - y i - y .,o ( 2 3 )

are i n tr o d u c ed a n d t h e c q u a t i o n s a r e l i n e a r iz e d , th e s y s t e m ( 2 2 ) m a y b e w r i t te nas

d n - c + ~ b - ~ A n , ( 2 4 )d ~w here t h e e l e m e n t s o f t h e m a t r i x A a n d t h e v e c t o r s b a n d e a r e

a ij - O fl b~ af~o y~ ' = o x ' e~ = L ( x , y ) .[[h is s y s t e m o f l i n e a r d i f f e r e n t i a l e q u a t i o n s c a n n o w b e d i a g o n a li z e d t h r o u g h ach an ge o f d e p e n d e n t v a r i a b l e

z = P . . ( 2 5 )T he s y s te m ( 2 4 ) t h e n b e c o m e s

d z _ P c .~ ~ P b + P A P - l z ,4 4 (26 )= P c - k ~ P b -t- h z ,

w here t h e m a t r i x A i s t h e d i a g o n a l m a t r i x o f th e e i g e n v a lu e s o f A . T h e e x c e p t io n a lca se s w h e re c o m p l e t e d i a g o n a l i z a t i o n i s n o t p o s s ib l e a r e n o t c o n s i d e r e d f o r p r e s e n tp urp ose s. T h e s y s t e m o f e q u a t i o n s ( 2 4 ) h a s b e e n d e c o u p l e d b y t h e t r a n s f o r m a -tio n a n d n o w c o n s i s t s o f a s y s t e m o f n u n c o u p l e d f i rs t- o rd e r e q u a t io n s .T h e re fo re , w i t h a s y s t e m o f n c o u p l e d e q u a t i o n s w e c o n s i d e r a s e t o f h ~g i v e n b y

h l = ~ , h , ( 27 )w he re t h e h ~ a r e t h e e i g e n v a l u e s o f t h e J a c o b i a n m a t r i x o f th e d e r i v a t iv e f u n c -tio ns w i t h r e s p e c t t o t h e d e p e n d e n t v a r i a b le s . O r d i n a r il y , t h e r e w i ll b e o n e o fth e e i g e n v a lu e s w h i c h w i l l l i m i t t h e s t a b i l i t y o f th e n u m e r i c a l s o l u t io n .

I n g e ne ra l, h o w e v e r , i t is t o b e e x p e c t e d t h a t t h e s e e i g e n v a l u e s m a y b e c o rn -

7/27/2019 p227 Crane

10/15

2 3 6 I L L . C R A N E A N [ ) R . ~ ,V , K I ~ O P F E N S T E [ Np l e x n u m b e r s s o t h a t i n o r d e r l o e v a l u a t e t h e a l g o r i i h m ( 2 0 ) it; w i ll b e n ecessaryt o i n v e s l , ig a t e t h e b e h a v i o r o f t h e r oo l, s o f ( 6 ) f o r c o m p l e x _h a s w e l l as re a l h.T h e r e g i o n i n t h e c o m p l e x _h p l a n e w h e r e ~11 o f t h e r o o t s a r e l e s s f l~ a n o r e q ua l too n e i n a b s o l u t e v a l u e a n d r o o t s o f u n i t m a g n i t u d e a r e s i m p l e is t h e r e g io n w ith inw h i c h t h e a l g o r i t h m i s a b s o l u t e l y s t a b l e .T h i s w a s d o n e f o r t h e a l g o r i t h m ( 2 0 ) a n d l~ he r e s u l t s a r e d i s p l a y e d i n F ig ure 6.T h e c r o s s - h a t c h i n g i n d i c a t e s t h e r e g i o n o f a b s o l u t e s ~ a b i l it y . F i g m ' e s 7 , 8, 9 and1 0 i n d i c a t e s i m i l a r r e s u l t s f o r f o u r o l ;h e r w e l l - k n o w n a l g o r i t h m s f o r s olv in g dif-f e r e n t i a l e q u a t i o n s . T h e c h a r a c t e r i s ti c s fo r f o u r t h - o r d e r R u n g e - K u t / a alg orith m sa r e e x h i b i t e d i n F i g u r e 1 0 e v e n t h o u g h s u c h m e t h o d s a r e n o t i n c l u d e d in thec l as s o f a l g o r i t h m s c o n s i d e r e d i n t h i s p a p e r . T h e y w e r e e x c l u d e d f r o m e on sid era .

d I = - 0 . 6 9 7 3 5 3 0 0 0 r ~ l . u /e I : 2 .00224700 ~ [k = -0 .7 14 3 20 0 0 0 ~ , . _ ~ /d2= 0 . 3 7 5 0 0 0 0 0 0 ~ / . / / 1

I

F I G . 6 .

BOUNDARY OF ABSOLUTELYSTABLE REGIONBOUNDARY OF RELATIVELYSTABLE REGION

- ; i . o / /

. - / , 0 . 5%%

R e g i o n o f s t ' tb i l i t y i n c o m p l e x h p l a n e f o r n e w a l g o r i t h m (2 0)

F I o . 7 .

d l = Oe = = 2 . 2 9 1 6 6 6 6 7k = - 0 . 3 7 5 0 0 0 0 0 0d2= 0 . 3 7 5 0 0 0 0 0 0e 2 = O . 7 9 1 6 6 6 6 6 7

I- 2

BOUNDARY OF ABSOLUTELYSTABLE REGIONBOUNDARY OF RELATIVELYSTABLE REGION

, '~ 1.0

/ O .5

~ - - tO .5

' - ~ t 1.0

R e g i o n o f s t a b i l i t y i n c o m p l e x _h p l a n e f o r A d a m s - M o u l t o n m e t h o d

7/27/2019 p227 Crane

11/15

A P R E D I C T O R ~ C O R R E C T O R A L G O R I T H M 2 3 7

S E E [ 3 , E Q N . ( 2 6 1 ] F O RC H A R A C T E R I S T I C E Q U A T I O N

! i- 2 - I

B O U N D A R Y O F A B S O L U T E L YS T A B L E R E G I O N. . . . . B O U N D A R Y O F R E L A T I V E L YS T A B L E R E G I O N

FIG. 8.

-i.LO/J#-tO.5

- - i , 0 , 5\ \- - L I . O

Region of s ta bi l i ty in com plex 13 p lane for Ham m iug mo di f ied m ethod

d I = 1 . 0 0 0 0 0 0 0 0e = = 2 . 6 6 6 6 6 6 6 7k l = Od z = : 0 : 3 5 3 3 3 3 3 3 3e 2 = 1 . 3 3 3 3 3 3 3 3

I- 2

- -- -- .. - .- - - B O U N D A R Y o F A B S O L U T E L YS T A B L E R E G I O N. . . . . B O U N D A R Y O F R E L A T I V E L Y

S T A B L E R E G I O N

I-1 , 4 7 7 - / m

. i . l .O ///. ~ o . s/

\ \, - i . l . O

FIG. 9 . Region of s tabi l i ty in eo laplex h p lane for M i lne m ethodio n b ec au se t h e y r e q u i r e t w i c e a s m a n y d e r i v a t i v e e v u l u a t i o n s f o r ~ he s a m e o r d e r)f a c cu ra cy a n d t h r e e t i m e s a s m a n y i f a n o n l i n e e r ro r e s t i m a t o r i s t o b e d e v e l o p e dtt e ac h i n t e g r a t i o n s t e p . H o w e v e r , t h e y d o h a v e a c c e p t a b l e s t a b i l i ty c h a r a c ,e ris tic s a s in d i c a t e d i n F i g u r e 1 0 . T h e i m a g i n a r y a x i s i s e x c l u d e d fi.o m t h e r e g i o n)f a b so lu te s t a b i l i t y i n F i g u r e s 6 , 7 a n d 8 . H o w e v e r , t h e b o u n d a r y i s s o c lo s e t oh e i m a g i n a ry a x i s t h a t t h i s c a n n o t b c s h o w n to t h e s ca le p l o t t e d . I t i s t o b ea ote d t ha t. t h e r e g i o n s o f s t a b i l i t y f o r b o t h t h e H a m m i n g m e t h o d [1] a n d t h e~ [iln e m e t h o d [6] a r e c o m p l e t e l y c o n t a i n e d i n t h e s t a b l e r e g io n s f o r b o t h t h eA d a m s - M o u l t o n m e t h o d a n d t h e p r e s e n t m e t h o d .A s is t o b e e x p e c t e d , a c e r t a i n a m o u n t o f t r a d e - o f f h a s o c c u r r e d i n o p t im i z in gth e p re d ic to r f o r t h e A d a m s - M o u l t o n c o r r e c t o r o n t h e n e g a t i v e r e a l a x is . H o w ~ev er, t h e re h a s b e e n s u r p r i s i n g l y l i t t l e l o s s o f s ta b l e r e g i o n i n t h e c o m p l e x p l a n e .

7/27/2019 p227 Crane

12/15

2 3 8 R. L, CRANE AND R. -~V. KL OP FEN ST E[N

I- 4

B O U N D A R Y O F A B S O L U T E L YS T A B L E R E G I O N

FIG. 10. Reg ion of s tab i l i ty in com plex h p lane for l- 'unge-K ut ta four th order methodO n t h e i m a g i n a r y a xis , t h e l im i ti n g _h h a s b e e n r e d u c e d i n m a g n i t u d e f ro m ab ou t0 . 92 t o 0 .7 0 . T h i s 2 4 p e r c e n t r e d u c t i o n o n t h e i m a g i n a r y a x i s c o m p a r e s to 92p e r c e n t in c r e a s e o n t h e n e g a t i v e r e a l a x i s. I t is w o r t h n o t i n g t h a t o i l t h e im a gin arya x i s , t h e t r u n c a t i o n e r r o r w i ll b e c o m e l i m i t i n g b e f o r e e i t h e r a l g o r i t h m is lim itedb y n u m e r i c a l i n s t a b i l i t y s o t h a t t h e s l ig h t r e d u c t i o n t h e r e is o f n o c on se qu en ce .T h e b o u n d a r i e s o f t h e a b s o l u t e l y s t a b l e r e g io n s f o r t h e t w o a l g o r i th m s i nte rsecta t a b o u t h = - - 0 . 7 6 : i: /0 .5 7. I n g e n e r a l , w h e n t h e l i m i t i n g e i g e n v a l u e h as ap h a s e a n g l e l e ss t h a n 3 7 d e gT e e s r e m o v e d f r o m t h e n e g a t i v e r e a l a x i s, t h e prese nta l g o r i th m w i ll b e s u p e r io r t o t h e s t a n d a r d A d a m s - M o u l t o n m e t h o d w i th theA d a m s - B a s h f o r t h p r e d i c to r . W h e n t h e l im i t in g e i g e n v a l u e is n e a r t h e neg ativ er e a l ax is , t h e i m p r o v e m e n t w i ll b e s u b s t a n t i a l .

I t i s d i f f i c u l t t o j u d g e t h e c l a s s o f " t y p i c a l p r o b l e m s " w i t h s u f f i c i e n t p r e c i s i o nt o n l a k e d e f i n i ti v e s t a t e m e n t s a b o u t t h e o v e r a l l e f f ic a c y o f t h e t w o alg orith m s.H o w e v e r , it w o u l d a p p e a r t h a t t h e p r e s e n t a l g o r i th m h a s s u b s t a n t i a l a d va nta ge so v e r t h e s t a n d a r d A d a m s - M o u l t o n m e t h o d . T h e a d d i t i o n a l m u l ti p li ca ti on s re-q u i r e d i n t h i s a l g o r i t h m a r e o f l it t le c o n s e q u e n c e o n h i g h - s p e e d c o m p u t e r s w hered e r i v a t i v e e v a lu a t i o n s ty p i c a l l y d o m i n a t e th e c o m p u t a t i o n t i m e .

I ~ ' . R e l a t i v e S t a b i l i t y a n d A c c u r a c yI n : m a n y a p p l i c a t i o n s i t is r e l a t iv e e r r o r s a n d r e l a t i v e n u m e r i c a l s t a b i l it y which

a r e t h e q u a n t i t i e s o f in t e r e s t. T h i s o c c u r s t y p i c a l l y i n p h y s i c a l s y s t e m s (lin earo r n o n l i n e a r ) w h i c h a r e e x c i t e d a n d a l lo w e d t o d e c a y t o r e s t . O n t h e re al.ha x i s, a n a l g o r i t h m i s r e l a t i v e l y s t a b l e w h e n a l l o f t h e r o o t s o f ( 6 ) a r e eq u al too r l e s s t h a n e x p (_h ) i n m a g n i t u d e a n d r o o t s e q u a l t o e x p ( _h ) i n m a g n i t u d e arcs i m p l e . T h e a l g o r i t h m ( 2 0 ) i s r e l a t i v e l y s t a b l e f o r r e a l _h > - - 0 . 4 4 6 .

7/27/2019 p227 Crane

13/15

A PREDICTOR-CORRECTOR ALGORITHM 2 3 9O ne m i g h t f e el t h ai ; i t w o u l d b e w o r t h w h i l e t o h a v e a s o m e w h a t r e d u c e d r a n g e

of a bs olu te s t a b i l i t y i n o r d e r t o i n c r e a s e t h e r a n g e o f r e l a t i v e s t a b i l i t y e x h i b i t e db y th e a l g o r i t h m ( 2 0 ) . T h e f o l l o w i n g d i s c u s s io n i s i n c l u d e d t o s h o w t h a t s u c h ap ro ce du re is n o t w e l l m o t i v a t e d . C o n s i d e r , f o r e x a l n p le , t h e n u m e r i c a l i n t e g r a -tioJ~ o f t h e p r o t o t y p e d i f f e r e n t i a l e q u a t i o n : :

y ' = - A y , ( 2 8 )~ dth y ( 0 ) = 1 , w h i c h h a s t h e c l o s e d f o r m s o l u t io n

y = e x p ( - A x ) . ( 2 9 )F ro m ( 5 ) t h e t r u n c a t i o n e r r o r f o r a g i v e n i n t e r v a l o f i n t e g r a t i o n i s g i v e n t o f ir sto rder b y

E ~, , = - K h S A ~ c x p ( - A n ) , (3o)= + K _ h 5 e x p ( - A ~ )w here K = - 1 9 / 7 2 0 f o r t h e A d a m s - M o u l t o n e o r r e c t o r a n d ~ i s a n a v e r a g e v a l u eof x . F o r t h e p u r p o s e s o f t h e p r e s e u ~ d i s c u ss io n ~ is t a k e n a s t h e m i d p o i n t o f t h era ng e o f a p p l i c a t i o n o f t h e a l g o r i t h m , i . e ., ~ = x - h . T h e r e l a t i v e e r r o r is g i v e nby

E , ~ / y = K h _5 e x p [ - A ( n - x ) ], ( 3 1 )= K h 5 e x p ( - h ) . ( 3 2 )

T h us , f o r b = - - 0 . 4 4 6 t h e r e l a t i v e e r r o r w il l b e a b o u t o n e p a r t i n a 1 00 0 . I no th er w o r d s, t h e a l g o r i t h m ( 2 0 ) d e v e l o p e d h e r e w il l b e r e l a t iv e l y s t a b l e s o l o n gas i nt er v al s o f i n t e g r a t i o n a r e u s e d w h i c h r e s t r i c t t h e r e l a t iv e e r r o r i n t r o d u c e da t e ac h s t e p t o a b o u t o n e p a r t i tl a 1 0 0 0 o r le ss . O n e w o u l d b e u n l i k e l y t o u s e ala rg er s te p s i ze i n p r o b l e m s f o r w h i c h t h e r e l a t iv e e r r o r i s t h e q u a n t i t y o f p r i md pa l i n t e re s t . T h u s , a f u r t h e r e x t e n s i o n o f t h e r a n g e o f r e l a t i v e s t a b i l i t y f o r t ima lg orith m ( 2 0 ) w o u l d n o t b e u s e f u l .

I t m a y b e w e l l t o i n d i c a t e t h a t ~m s i m i la r a r g u m e n t c a n b e a p p l i e d i n r e g a r dto a s u it a bl e r a n g e o f a b s o l u t e s t a b i l i t y o f a n u m e r i c a l a lg o r i t h m f o r t h e s o l u t io no f o r d i n a r y d i f f e r e n t i a l e q u a t i o n s . A s u i t a b l e e x a m p l e t o c o n s i d e r fo r t h i s p u r p o s eis

y ' = A - A y , (33)w i th y ( 0 ) = 1 , w h i c h h a s t h e c l o s e d f o r m s o l u t i o n

y = 1 - e x p ( - A x ) . ( 3 4 )t t er e i t is th e a b s o l u t e e r r o r w h i c h i s t h e q u a n t i t y o f i n te r e s t . T h i s a b s o l u t e e r r o ris th e s a m e a s t h a t g i v e n b y ( 3 0 ) . A s t h e s o l u t i o n p r o c e e d s t h e t r u n c a t i o n e r r o rp er s te p w i ll d e c r e a s e e x p o n e n t i a U y s o t h a t l a r g e r a n d l a r g e r i n t e r v a l s o f in t e g r a -tio n w o u l d b e p e r m i t t e d w h i le m a i n t a i n i n g a g i v e n a b s o l u t e e r r o r p e r s t e p .T h e a b s o l u te s t a b i l i t y o f t h e a l g o r i t h m w i ll u l t i m a t e l y b e l i m i ti n g , a n d t h ela rg er t h e r a n g e o f a b s o l u t e s t a b i l i t y t h e m o r e e f fi c ie n t t h e i n t e g r a t i o n p r o c es swi l l be .

F o r s y s t e m s o f o r d i n a r y d i f f e r e n t i a l e q u a t io n s , t h e v a l u e s o f h w i l l in g e n e r a lb e c o m p l ex . S o l u t i o n s c o r r e s p o n d i n g t o c o m p l e x _h n t h e l e f t -h a l f p l a n e c o r r e s p o n d

7/27/2019 p227 Crane

14/15

2 ~ 0 . R . L .. C I~ A N E A N D R . W . K L O P F E N S T E I N

t o d a m p e d o s c i l l a t o r y f u l m t i o n s . I t is s e n s i b le i n t h i s c a s e t o c o n s i d e r e rr or s re Ia .t i r e t o t h e e n v e l o p e o f s u c h f u n c t i o n s . I t is a l s o se n s i b le t o e x e m p t f r o m e on sid era .t i o n t h a t c h a r a c t e r i s t i c r oo t. w h i c h i s e q u a l t o e x p l/t] | h r o u g h t e r m s o f o rd e r eq~ip u t e r s i n c lu d i n g t h e R C A 6 01 C o m p u l e r S y s t e m .

~ I n s u m m a r y , a n e w p r e d i c t o r f o r u s e w i t h t h e A d a m s - M o u l t o n c o rr cc to r ha~b e e n d e v e l o p e d . T r u n c a t i o n e r r o r s a t e a e h s t e p a r e d e t e r n f i n e d , t o f ir st o rd er,s o l e l y b y t h e c h a r a c t e r i s t i c s o f t h e e o r r e c t o r . L i k e w i s e , t h e p r o p a g a t . io n o f e rro rit 't |-,h e e v a l u a t i o n o f d e fi ni i;e in t e g r a l s i s d e p e n d e n t o n l y o n t h e c o r r e c t o r e q u a ti oI l,( T h e o n l y p u r p o s e o f th e p r e d i e l o r h e r e i s t o f o r m a rt e r r o r e s t i m a t e , ) T h e pre-d i c t o r e q u a t i o n a n d t h e c o r r e c t o r e q u a t i o n a r e i n d e p e n d e n t l y a n d j o i n t ly o f t~(?f o u r t h o r d e r . T h e p r e d i c t o r e q u a t i o n d e v e l o p e d h e r e is b e l i ev e d t o h a v e t h e larg esil 'h n g e o f a b s o l u t e s t a b i l i t y ( i n c l u d i n g h = 0 ) f o r t h e c o m b i n e d p re d ic to r- eo r-r e c t o r a l g o r i t h m t h a t is p o ss ib le . A t (:.he s a m e t i m e t h e m e t h o d h a s a r a n g e o f re l>t i v e s t a b i l i t y w h i c h w ill m a i n t a i n s t a b l e p r o p a g a t i o n o f r e l a t i v e e r r o r s w h e n trtm -c a t i o n e rr o r s o f l e ss t h a n o n e p a r t i n 1 0 0 0 a r e b e i n g i n c u r r e d . T h e st0 r,'tg er e q u i r e d f o r p r e v i o u s d e r i v a t i v e v a l u e s is n o g r e a t e r t h a n t h a t f o r t h e s ta nd ardA d a m s - M o u l to n m e t h o d w i th t h e A d a m s - B a s h f o r t h p r ed i ct o r.

. A c k n o w l e d g m e n t . T h e a u t h o r s w o u l d li k e to e x p r e s s t h e i r a p p r e c i a t i o n to D r,R C . B r o w n c u r r e n t ly w !t~ U S A S R D L w h o s u p p l ie d s o m e o f ' th e d a ~ a f or com -p l e x h .I {~ C E I V: ~: I) J U L Y , 1 9 6 4 ; : l ~ V ~ S ~ D N O V E M B E R , 1 9 64

: " '~ i; ; R E F E R I ~ N C E S : '. . . .1 . HA M M IN G , I{. S t a b l e p r e d i c t o r - c o r r e c t o r m e t h o d s f o r o r d i n a r y d i f f c r e n t i M e q u a ti o ns .: . . . J . A C M 6 ( J a n . 1 9 5 9 )~ 3 7 = -4 7.9 i C ,a A N E , R . L . , A N D L A M ~E W [', R . J . S t a b i l i t y o f a g e n e r a l z e d c o r r e c t o r f o r m u l a . ,[ "

A C M 9 ( J an . 1 9 6 2 ) , 1 0 4 - -1 1 7 .

7/27/2019 p227 Crane

15/15

A P R E I ) [ C T O R - C O R R E C T O R A L G O R I T H M 2 4 13. C ~ as l~ , P . E . S t a b i l i t y p r o p e r t i e s o f t )r e d ic t o r_ c o l .r e c to r m e t h o d s f o r o r d i n a r y d i f fe r -e n t ia l e q u a t i ( m s . J . A C M 9 (Oc t . 1962) , 457-468..~. t~F~ NIIICl, P - Di .~c ~ 'e le V a ~ ' ia b l e M e tho d s i n O rd in a ' ry D i f f e re n t ia l Eq u a t io n s . Wile) , &

S (.m s , N e w Y o r k , 1962 .5, I )AttLQUIST, ( ] . C o n v e r g e n c e a n d s t a b i l i t y i n t h e m m ~ e ri ea l i n te g r a ti o l~ o f o r d i n a r yd i f f e r e n t i a l e q u a t i o n s . M a l h . S c a n d . . ~ (1956), 33-53.5. 5III,N E , W . I!]. N' l t'me r ic a l So lu t io n o f D i f fe re n ti c tl Eq u a t io n s . W i l e y & S o n s , N e w Y o r k ,

1953.7 . - ~ -- , A ND I IE Y N O L D S , I)~ . I I . S t a b i l i t y o f a n u m e r i c a l s o l u t i o n o f d i f fe r e n t i a l e q u a t i o n s :P a r t I I . . I . A C M 7 ( . I an . 1960) , 46-56.