Support Vector Classification of Landmarks for a Mobile Robot

8/9/2019 Support Vector Classification of Landmarks for a Mobile Robot

1/7

S u p p o r t V e c t o r C l a s s i c a t i o n o f L a n d m a r k s

f o r a M o b i l e R o b o t

I l k k a A u t i o

T a p i o E l o m a a T e e m u K u r p p a

y

D e p a r t m e n t o f C o m p u t e r S c i e n c e , P . O . B o x 2 6 ,

F I N - 0 0 0 1 4 U n i v e r s i t y o f H e l s i n k i , F i n l a n d

A b s t r a c t M o b i l e r o b o t n a v i g a t i o n i s o f t e n b a s e d

o n t h e u s e o f l a n d m a r k s d i s t r i b u t e d i n t h e o p e r a t i o n

e n v i r o n m e n t o f t h e r o b o t . T h e y c a n b e s i m p l i s t i c

a n d e n g i n e e r e d t o e a s e t h e d e t e c t i o n b u t , i d e a l l y , a

r o b o t s h o u l d o n l y u s e l a n d m a r k s t h a t a r e n a t u r a l l y

f o u n d i n i t s e n v i r o n m e n t . W e p r e s e n t a n a p p r o a c h

i n w h i c h a r o b o t l e a r n s t o r e c o g n i z e l a n d m a r k s b a s e d

o n t h e i r s i l h o u e t t e s , w h i c h c a n b e e s s e n t i a l l y a r -

b i t r a r y a n d d e p e n d o n t h e v i e w p o i n t o f t h e r o b o t .

W h i l e t h e p r o b l e m s o f r e a l - t i m e i m a g e s e g m e n t a t i o n

f o r c e u s t o u s e l e s s t h a n c o m p l e t e l y n a t u r a l l a n d -

m a r k s , t h e a p p r o a c h s t i l l o e r s i m p r o v e m e n t s o v e r

t e c h n i q u e s t h a t o n l y t a k e i n t o a c c o u n t s i m p l i s t i c

f e a t u r e s o f l a n d m a r k s . E m p i r i c a l e v a l u a t i o n w i t h

a r e a l r o b o t d e m o n s t r a t e s t h a t t h e d e t e c t i o n t i m e s

a r e v i a b l e f o r r e a l - t i m e a p p l i c a t i o n s .

1 I n t r o d u c t i o n

V i s u a l o b j e c t r e c o g n i t i o n t y p i c a l l y r e q u i r e s t w o

m o r e o r l e s s d i s t i n c t s t e p s : i n t h e i m a g e s e g -

m e n t a t i o n t h e o b j e c t b o u n d a r i e s a r e e s t i m a t e d

a n d i n t h e r e c o g n i t i o n t h e s e g m e n t s a r e c l a s s i -

e d . F o r a m o b i l e r o b o t , w h i c h i s s u p p o s e d

t o n e g o t i a t e i t s e n v i r o n m e n t i n r e a l - t i m e , e -

c i e n c y i s a m a j o r c o n c e r n . T h e r e f o r e , i t c a n n o t

a o r d t o d o e x p e n s i v e p r e p r o c e s s i n g o f t h e o b -

s e r v a t i o n s , b u t h a s t o c o n t e n t w i t h a s t r a i g h t -

f o r w a r d s e g m e n t a t i o n a p p r o a c h .

W e d e v e l o p a l a n d m a r k d e t e c t i o n s y s t e m f o r

a m o b i l e r o b o t . T h e s e g m e n t a t i o n m e t h o d t h a t

w e u s e i s b a s e d o n d e t e c t i o n o f c o l o r e d o b j e c t s .

W o r k s u p p o r t e d b y H e l s i n k i G r a d u a t e S c h o o l i n

C o m p u t e r S c i e n c e a n d E n g i n e e r i n g .

y

W o r k s u p p o r t e d b y t h e U n i v . o f H e l s i n k i p r o j e c t

2 0 5 6 2 : \ I n t e l l i g e n t C o n t r o l o f a n A u t o n o m o u s R o b o t " .

T h e r o b o t g a t h e r s i m a g e s o f i n t e r e s t i n g o b -

j e c t s f r o m d i e r e n t d i s t a n c e s a n d p e r s p e c t i v e s .

T h e s e o b s e r v a t i o n s a r e l a b e l e d a n d g i v e n a s a

s a m p l e t o a l e a r n i n g a l g o r i t h m i m p l e m e n t e d b y

S u p p o r t V e c t o r M a c h i n e s ( o r S V M s ) 1 1 , 4 ] f o r

c l a s s i e r f o r m a t i o n . T h e o u t p u t c l a s s i e r s a r e

u s e d t o c l a s s i f y s u b s e q u e n t o b s e r v a t i o n s i n t o

t h e l a n d m a r k c a t e g o r i e s . W e p r e s e n t i n i t i a l e x -

p e r i m e n t s w i t h a r e a l r o b o t p l a t f o r m .

S V M s h a v e b e e n s u c c e s s f u l l y a p p l i e d t o i m -

a g e 6 , 2 ] a n d h a n d - w r i t t e n d i g i t 3 , 1 1 ] r e c o g n i -

t i o n . O u r a p p r o a c h d i e r s f r o m t h e s e s t u d i e s

i n m a n y r e s p e c t s . I n o u r w o r k s e g m e n t a t i o n

a n d o b j e c t r e c o g n i t i o n u s e o n l y c o l o r v a l u e s o f

p i x e l s . A l s o t h e a p p r o a c h o f C h a p e l l e e t a l .

2 ] i s b a s e d o n u s i n g c o l o r a n d l u m i n e s c e n c e

i n f o r m a t i o n , b u t c o n c e r n s r e c o g n i t i o n o f w h o l e

i m a g e s f r o m c o l o r h i s t o g r a m s . W e s e g m e n t i m -

a g e s a s 3 2 3 2 b i t m a p s , w h i c h a r e g i v e n t o a

S V M a s a v e c t o r , w i t h o u t a s s i g n i n g a n y f u r t h e r

i n f o r m a t i o n t o t h e d a t a . I n 6 ] s i m i l a r r e p r e -

s e n t a t i o n o f i m a g e s w a s u s e d t o g e t h e r w i t h t h e

g r e y l e v e l i n f o r m a t i o n o f e a c h p i x e l . H o w e v e r ,

s e g m e n t a t i o n w a s n o t t a k e n i n t o a c c o u n t a t a l l ;

t h e i m a g e s w e r e p e r f e c t l y s e g m e n t e d o b j e c t s .

S e c t i o n 2 o f t h i s p a p e r d i s c u s s e s t h e p r o b -

l e m s e t t i n g i n v i s u a l o b j e c t r e c o g n i t i o n a n d

s o m e s u g g e s t e d m e t h o d s f o r i t . I n S e c t i o n 3

w e b r i e y d e s c r i b e t h e s e g m e n t a t i o n a p p r o a c h

u s e d i n o u r e x p e r i m e n t s . A n o v e r v i e w o f S V M s

i s g i v e n i n S e c t i o n 4 . E m p i r i c a l e x p e r i m e n t s

w i t h t h e l a n d m a r k d e t e c t i o n s y s t e m a r e p r e -

s e n t e d i n S e c t i o n 5 . F i n a l l y , w e g i v e t h e c o n -

c l u d i n g r e m a r k s o f t h i s s t u d y a n d o u t l i n e s o m e

f u t u r e d i r e c t i o n s .


2/7

2 T h e P r o b l e m S e t t i n g

I n r e a l - w o r l d e n v i r o n m e n t s t h e s e g m e n t a t i o n

p r o b l e m c a n n o t b e r e d u c e d i n t o a n y s i m p l e c r i -

t e r i a t h a t c o u l d b e e v a l u a t e d s e p a r a t e l y f o r e v -

e r y d i s j o i n t p a r t o f t h e i m a g e 9 ] . C o n s i d e r , f o r

e x a m p l e , a n i m a g e c o n t a i n i n g a s m a l l s p h e r i -

c a l a r e a w i t h s e v e r a l o w e r s i n i t . O n e c a n a r -

g u e t h a t t h e r e s h o u l d b e o n l y t w o s e g m e n t s |

t h e i m p l i c i t \ s p h e r e " o f o w e r s a n d t h e b a c k -

g r o u n d . S t i l l , a s e g m e n t a t i o n w i t h e a c h o w e r

a s i t s o w n s e g m e n t i s h a r d l y w r o n g .

F o r i n s t a n c e , S h i a n d M a l i k 9 ] m a n a g e t o

m a k e t h e n o r m a l i z e d c u t p r o b l e m t r a c t a b l e b y

a p p r o x i m a t i n g i t w i t h a g e n e r a l i z e d e i g e n s y s -

t e m p r o b l e m . N e v e r t h e l e s s , t h e c o m p u t a t i o n

s t i l l t a k e s s e v e r a l m i n u t e s f o r a s i n g l e l o w r e s -

o l u t i o n i m a g e . C o m p u t a t i o n i s s l o w e v e n w i t h

a d d i t i o n a l h e u r i s t i c s a n d a s p e c i a l i z e d e i g e n -

s o l v e r . O t h e r a p p a r e n t l y r e a l i s t i c a n d f a i r l y

g e n e r a l a p p r o a c h e s , s u c h a s t h e o n e i n 5 ] , a l s o

s e e m t o r e q u i r e q u i t e h e a v y c o m p u t a t i o n s .

A s s o p h i s t i c a t e d s e g m e n t a t i o n s e e m s t o o e x -

p e n s i v e f o r r e a l - t i m e r o b o t i c s , o n e o f t e n r e s o r t s

t o e n v i r o n m e n t a l e n g i n e e r i n g t h a t e n a b l e s t h e

u s e o f s t r o n g p r i o r k n o w l e d g e a b o u t t h e o b -

j e c t s . F o r e x a m p l e , c o l o r c o d i n g o f t h e o b -

j e c t s e a s e s t h e p r o b l e m b y s e v e r a l o r d e r s o f

m a g n i t u d e . I f w e a r e s a t i s e d w i t h t h e a s -

s u m p t i o n t h a t a d j a c e n t p i x e l s h a v i n g t h e s a m e

c o l o r b e l o n g t o t h e s a m e s e g m e n t , w e c a n n d

t h e m b y j o i n i n g t w o p i x e l s u b s e t s w h i c h c o n -

t a i n a d j a c e n t p i x e l s o f t h e s a m e c o l o r . T h e r e

a r e , o f c o u r s e , m o r e a d v a n c e d v a r i a t i o n s o f t h i s

c o l o r - b a s e d r e g i o n - g r o w i n g a p p r o a c h 1 ] . I n

a n y c a s e , t h e s e g m e n t a t i o n p r o b l e m d i s a p p e a r s

w h e n w e h a v e a s e g m e n t a t i o n r u l e t h a t c a n b e

e v a l u a t e d f o r e a c h p i x e l l o c a l l y .

A f t e r i m a g e s e g m e n t a t i o n , t h e r o b o t h a s t o

c l a s s i f y t h e s e g m e n t s i n o r d e r t o o b t a i n a n \ u n -

d e r s t a n d i n g " o f i m a g e c o n t e n t ; i . e . , t o d e t e r -

m i n e i f t h e r e a r e a n y s i g n i c a n t o b j e c t s p r e s e n t

a n d w h e r e t h e y a r e r e l a t i v e t o t h e r o b o t . T h e

c l a s s , i f a n y , m u s t b e d e t e r m i n e d b y a f u n c t i o n

o f t h e f e a t u r e s t h a t a r e c a l c u l a t e d f r o m t h e r a w

p i x e l d a t a o f t h e s e g m e n t .

T h e p u r p o s e o f t h e f e a t u r e s i s t o r e d u c e t h e

d i m e n s i o n a l i t y o f t h e d a t a w i t h o u t a n y s i g n i -

c a n t l o s s o f i n f o r m a t i o n . F i n d i n g s u c h g e n e r a l

p u r p o s e f e a t u r e s i s d i c u l t , s i n c e t h e v a l u e o f

i n f o r m a t i o n i s t a s k s p e c i c a n d d e p e n d s h e a v -

i l y o n t h e t y p e s o f t h e o b j e c t s a l l o w e d . I t

i s t e m p t i n g t o r e s o r t t o e n v i r o n m e n t a l e n g i -

n e e r i n g b y d i s a l l o w i n g a l l o b j e c t s t h a t c a n n o t

b e c l a s s i e d w e l l w i t h t h e c h o s e n s e t o f f e a -

t u r e s . I n c o m b i n a t i o n w i t h a s i m p l e s e g m e n -

t a t i o n s y s t e m , t h e u s e o f s i m p l e f e a t u r e s m a y

w o r k w e l l i n s o m e s p e c i a l i z e d e n v i r o n m e n t s .

W e p r o p o s e t o a v o i d t h e f e a t u r e s e l e c t i o n

p r o b l e m b y u s i n g S V M s , w h i c h c a n c i r c u m v e n t

t h e c u r s e o f d i m e n s i o n a l i t y w i t h s m a l l s a m p l e s

o f d a t a . R e c e n t l y t h e r e h a v e b e e n i n t e r e s t i n g

r e s u l t s i n t h e a p p l i c a t i o n o f S V M s i n i m a g e

r e c o g n i t i o n 6 , 2 , 8 ] . T h e s e r e s u l t s a r e n o t d i -

r e c t l y a p p l i c a b l e t o r o b o t i c s , b e c a u s e t h e y d o

n o t a d d r e s s t h e s e g m e n t a t i o n p r o b l e m , e v e n

t h o u g h i t i s i n r e a l i t y t i g h t l y c o u p l e d w i t h t h e

r e c o g n i t i o n p r o b l e m . M o r e o v e r , w e c a n n o t a s -

s u m e t h a t w h o l e o b j e c t s o r n o o b j e c t s a t a l l

a r e a l w a y s s e e n ; t h e r o b o t m u s t b e a b l e t o c o p e

w i t h p a r t i a l l y v i s i b l e o b j e c t s a s w e l l .

I n a m o d e l - b a s e d a p p r o a c h a l i b r a r y o f 3 D

o b j e c t m o d e l s i s a v a i l a b l e a n d t h e a i m i s t o n d

t h e o n e w h i c h h a s a p l a n a r p r o j e c t i o n r e s e m -

b l i n g s o m e s e g m e n t o f t h e i m a g e . P r o j e c t i o n

t t i n g i s c o m p u t a t i o n a l l y e x p e n s i v e . A l s o , i n

n a v i g a t i o n i t s u c e s t o r e c o g n i z e t h e o b j e c t s

f r o m s e v e r a l v i e w p o i n t s , b u t i t i s n o t n e c e s -

s a r y t o k n o w h o w t h o s e v i e w p o i n t s r e l a t e t o

e a c h o t h e r . W e o n l y n e e d t o k n o w t h e c l a s s

a n d t h e a p p r o x i m a t e p o s i t i o n o f t h e o b j e c t , b u t

i t s o r i e n t a t i o n w i t h r e s p e c t t o t h e r o b o t i s o f

n o c o n s e q u e n c e a s l o n g a s w e c a n d e t e c t o r i -

e n t a t i o n f r o m t h e r e l a t i v e p o s i t i o n s o f s e v e r a l

v i s i b l e o b j e c t s .

W e c h o o s e a v i e w - b a s e d a p p r o a c h 8 ] a n d

r e c o r d m u l t i p l e i m a g e s o f a l l i n t e r e s t i n g o b j e c t s

f r o m v a r i o u s v i e w p o i n t s . W e a l s o u s e d i e r e n t

i n s t a n c e s o f t h e o b j e c t c l a s s . T h e r e s u l t i n g i m -

a g e s a r e t h e n n o r m a l i z e d i n t o 1 0 2 4 - d i m e n s i o n a l

b i n a r y v e c t o r s , w h i c h a r e e s s e n t i a l l y l o w r e s o -

l u t i o n i m a g e s . T h e s e r a w v e c t o r s a r e u s e d t o

t r a i n o n e S V M f o r e a c h o b j e c t c l a s s , w h i c h t h e n

a c t s a s a c l a s s i e r f o r i t s c l a s s .

O u r e x p e r i m e n t s s h o w t h a t t h e c o l l e c t i o n o f

c l a s s i e r s a l m o s t a l w a y s g i v e s r e l i a b l e a n d u n -


3/7

a m b i g u o u s r e s u l t s . E s p e c i a l l y t h e v e r y s m a l l

n u m b e r o f f a l s e p o s i t i v e s i s i m p o r t a n t ; i n r e -

a l i s t i c e n v i r o n m e n t s t h e v a s t m a j o r i t y o f o b -

j e c t s d o n o t b e l o n g i n t o a n y c l a s s . I n c a s e s o f

a m b i g u i t y , w e p r o p o s e t h a t t h e r o b o t s h o u l d

u s e a c t i v e e x p l o r a t i o n t o r e s o l v e i t ; i . e . , g e t

c l o s e r t o t a k e a n o t h e r l o o k . T h e 1 - a g a i n s t - a l l

s e l e c t i o n u s e d h e r e i s s o m e t i m e s s e e n i n f e r i o r

t o 1 - a g a i n s t - 1 t o u r n a m e n t s e l e c t i o n 6 , 8 ] , b u t

t h i s d o e s n o t a p p l y i n o u r p r o b l e m d o m a i n |

t o u r n a m e n t s e l e c t i o n a l w a y s p i c k s a w i n n e r ,

w h e r e a s t h e p o s s i b i l i t y o f n o w i n n e r i s c r u c i a l

i n o u r d o m a i n .

3 S e g m e n t a t i o n

W e u s e a p r i m i t i v e c o l o r - b a s e d s e g m e n t a t i o n

i n w h i c h a l l a p p r o x i m a t e l y r e d o b j e c t s a r e e x -

t r a c t e d f r o m t h e i m a g e b y m a k i n g a d j a c e n t

r e d p i x e l s b e l o n g t o t h e s a m e s e t . N o f u r -

t h e r c l u s t e r i n g i s d o n e | i f c l o s e b y r e d a r e a s

d o n o t t o u c h , t h e y a r e p e r m a n e n t l y s e p a r a t e

s e g m e n t s . A t t h e t r a i n i n g s t a g e t h e l a r g e s t

r e d s e g m e n t l a r g e r t h a n a p r e d e n e d t h r e s h -

o l d ( s a y 5 0 p i x e l s ) i s n o r m a l i z e d i n t o a 3 2 3 2

b i n a r y m a t r i x , h e n c e d i s c a r d i n g t h e i n t e n s i t i e s

a n d p r e c i s e c o l o r v a l u e s . F o r t h e S V M s t h e

m a n u a l l y c l a s s i e d m a t r i c e s a r e s i m p l y 1 0 2 4 -

d i m e n s i o n a l b i n a r y v e c t o r s . T h e c h o i c e o f t h e

l a r g e s t s e g m e n t i s s i m p l y a c o n v e n i e n c e | i n

r e a l a p p l i c a t i o n s a l l v i s i b l e s e g m e n t s m u s t b e

c l a s s i e d s e p a r a t e l y .

I n t h i s c o l o r - b a s e d s e g m e n t a t i o n s c h e m e ,

p a r t i a l l y v i s i b l e o b j e c t s c a n b e h a n d l e d i n a

t r i v i a l m a n n e r . I f t h e b o u n d i n g b o x o f a s e g -

m e n t t o u c h e s t h e o u t e r e d g e s o f t h e c a m e r a i m -

a g e , t h e r o b o t c a n e i t h e r d i s c a r d t h e s e g m e n t

a l t o g e t h e r o r t u r n t h e c a m e r a i n t o a p p r o p r i -

a t e d i r e c t i o n a f t e r c l a s s i f y i n g a l l t h e c e r t a i n l y

v i s i b l e o b j e c t s .

W e d o n o t t r y t o b u i l d t h e b e s t p o s s i b l e

c o l o r - b a s e d s e g m e n t a t i o n s y s t e m h e r e . T h e

r o u g h n e s s o f t h e s e g m e n t a t i o n s h i g h l i g h t s t h e

r o b u s t n e s s o f t h e S V M c l a s s i c a t i o n r e s u l t s i n

t h e l a t e r s e c t i o n s . C l o s e - t o - p e r f e c t s e g m e n t a -

t i o n a l g o r i t h m s a r e n o t n e c e s s a r y f o r t h e l a n d -

m a r k d e t e c t i o n b a s e d o n S V M s t o w o r k .

4 S u p p o r t V e c t o r L e a r n i n g

S V M s a r e a f a i r l y n e w c l a s s o f m a c h i n e l e a r n -

i n g a l g o r i t h m s 3 , 1 1 ] . T h e y f a l l u n d e r t h e c a t -

e g o r y o f k e r n e l - b a s e d m e t h o d s 4 ] . C h a r a c t e r -

i s t i c p r o p e r t i e s o f S V M s a r e t h a t t h e y l a c k l o -

c a l m i n i m a , h a v e a s p a r s e s o l u t i o n , a n d a r e d i -

m e n s i o n i n d e p e n d e n t . T a k e n t o g e t h e r a l l t h i s

m a k e s S V M s a n a t t r a c t i v e a p p r o a c h t o u s e i n

a p p l i c a t i o n s s u c h a s m a c h i n e v i s i o n .

4 . 1 B a c k g r o u n d

C o n s i d e r t h e f o l l o w i n g b i n a r y c l a s s i c a t i o n

t a s k . G i v e n a s a m p l e o f k t r a i n i n g e x a m p l e s

S = ( ( x

1

; y

1

) ; : : : ; ( x

k

; y

k

) ) , w h e r e e a c h x

i

2 X

a n d y

i

2 f 1 ; 1 g . T h e n - d i m e n s i o n a l s p a c e X

i s t h e i n p u t s p a c e . T h e t a s k i s t o f o r m u l a t e a

h y p o t h e s i s o n t h e b a s i s o f t h e s a m p l e f o r c l a s -

s i f y i n g f u r t h e r i n s t a n c e s f r o m t h e i n p u t s p a c e .

T h e h y p o t h e s e s t h a t w e c o n s i d e r a r e l i n e a r s e p -

a r a t o r s , i . e . , h y p e r p l a n e s .

T h e c l a s s i c a l p e r c e p t r o n a l g o r i t h m i s g u a r -

a n t e e d t o c o n v e r g e i n a n i t e n u m b e r o f i t e r a -

t i o n s p r o v i d e d t h a t t h e i n p u t b i n a r y s a m p l e i s

l i n e a r l y s e p a r a b l e . P e r c e p t r o n i s a n e x a m p l e o f

a l i n e a r m a c h i n e ; i t o u t p u t s a l i n e a r f u n c t i o n

o f t h e i n p u t i n s t a n c e z :

f ( z ) = h w z i + b =

n

X

i = 1

w

i

z

i

+ b ;

w h e r e w = ( w

1

; : : : ; w

n

) i s a w e i g h t v e c t o r ,

w h i c h t o g e t h e r w i t h p a r a m e t e r b d e n e s a h y -

p e r p l a n e i n t h e i n p u t s p a c e . I t i s l e a r n e d f r o m

t h e t r a i n i n g e x a m p l e s , a n d t h u s i s a l i n e a r c o m -

b i n a t i o n o f t h e m : w =

P

k

i = 1

i

y

i

x

i

. T h e n u m -

b e r o f i t e r a t i o n s r e q u i r e d t o l e a r n t h e h y p o t h -

e s i s d e p e n d s o n t h e ( g e o m e t r i c ) m a r g i n o f t h e

t r a i n i n g s e t , w h i c h i s t h e m a x i m u m E u c l i d e a n

d i s t a n c e o f t h e i n s t a n c e s f r o m a n y h y p e r p l a n e .

R o s e n b l a t t ' s o n - l i n e , m i s t a k e - d r i v e n p r o c e -

d u r e f o r t r a i n i n g a p e r c e p t r o n w o r k s b y a d d i n g

m i s c l a s s i e d p o s i t i v e t r a i n i n g e x a m p l e s t o o r

s u b t r a c t i n g m i s c l a s s i e d n e g a t i v e o n e s f r o m a n

i n i t i a l z e r o w e i g h t v e c t o r . H e n c e , o n c e a s a m -

p l e S h a s b e e n x e d , t h e v e c t o r c a n b e

t h o u g h t o f a s a n a l t e r n a t i v e r e p r e s e n t a t i o n o f

t h e h y p o t h e s i s i n d u a l r e p r e s e n t a t i o n .


4/7

A n a l t e r n a t i v e l e a r n i n g s c h e m e p r o j e c t s t h e

d a t a t h r o u g h a n o n - l i n e a r m a p p i n g t o a N -

d i m e n s i o n a l f e a t u r e s p a c e F , i n s t e a d o f o p e r -

a t i n g o n t h e i n p u t s p a c e . I . e . , t h e r e i s s o m e

x e d n o n l i n e a r m a p : X ! F . U s u a l l y t h e

d i m e n s i o n o f F i s l a r g e c o m p a r e d t o t h a t o f t h e

i n p u t s p a c e . T h e s e t o f h y p o t h e s e s c o n s i d e r e d

i n F a r e a g a i n l i n e a r m a c h i n e s o f t y p e

f ( z ) =

N

X

i = 1

w

i

i

( z ) + b :

O p e r a t i n g i n a v e r y h i g h - d i m e n s i o n a l f e a t u r e

s p a c e i s i n e c i e n t . H o w e v e r , s i n c e l i n e a r m a -

c h i n e s c a n b e r e p r e s e n t e d i n a d u a l r e p r e s e n t a -

t i o n , t h e h y p o t h e s i s c a n b e e x p r e s s e d i m p l i c i t l y

a s a l i n e a r c o m b i n a t i o n o f t h e t r a i n i n g p o i n t s .

T h e d e c i s i o n r u l e c a n , t h e n , b e e v a l u a t e d u s -

i n g j u s t i n n e r p r o d u c t s b e t w e e n t h e t e s t p o i n t

z a n d t h e t r a i n i n g p o i n t s x

1

; : : : ; x

k

:

f ( z ) =

k

X

i = 1

i

y

i

h ( x

i

) ( z ) i + b :

T o c o m p u t e t h e f e a t u r e s p a c e i n n e r p r o d u c t

h ( x

i

) ( z ) i d i r e c t l y a s a f u n c t i o n o f t h e i n p u t

p o i n t s w e u s e k e r n e l f u n c t i o n s . F o r a l l x ; z 2 X

a k e r n e l K h a s K ( x ; z ) = h ( x ) ( z ) i , w h e r e

: X ! F . F o r t h e d e t a i l e d r e q u i r e m e n t s o f

k e r n e l f u n c t i o n s w e r e f e r t h e r e a d e r t o t h e S V M

l i t e r a t u r e 1 1 , 4 ] .

4 . 2 S u p p o r t V e c t o r M a c h i n e s

V a p n i k a n d C h e r v o n e n k i s ' 1 1 ] t h e o r y o f l e a r n -

i n g b o u n d s t h e g e n e r a l i z a t i o n e r r o r o f l i n e a r

m a c h i n e s i n t e r m s o f t h e m a r g i n o f t h e h y p o t h -

e s i s w i t h r e s p e c t t o t h e s a m p l e . T h i s r e s u l t

d o e s n o t d e p e n d o n t h e d i m e n s i o n a l i t y o f t h e

f e a t u r e s p a c e . B y e n f o r c i n g c o n d i t i o n s f r o m

o p t i m i z a t i o n t h e o r y , t h e d u a l r e p r e s e n t a t i o n o f

t h e h y p o t h e s i s i s s p a r s e a n d , h e n c e , p r o d u c e s

e c i e n t a l g o r i t h m s .

T a k i n g a l l t o g e t h e r , t h e b a s i s o f t h e m a x -

i m a l m a r g i n c l a s s i e r i s i n t h e f o l l o w i n g r e -

s u l t f r o m o p t i m i z a t i o n t h e o r y . G i v e n a s a m p l e

S = ( ( x

1

; y

1

) ; : : : ; ( x

k

; y

k

) ) t h a t i s l i n e a r l y s e p -

a r a b l e i n t h e f e a t u r e s p a c e i m p l i c i t l y d e n e d b y

k e r n e l K ( x ; z ) a n d s u p p o s e t h a t p a r a m e t e r s

F i g u r e 1 : N o m a d S u p e r S c o u t I I , a s m a l l m o -

b i l e r o b o t e q u i p p e d w i t h a c o l o r v i d e o c a m e r a .

a n d b

s o l v e t h e f o l l o w i n g q u a d r a t i c o p t i m i z a -

t i o n p r o b l e m : M a x i m i z e

W ( ) =

k

X

i = 1

i

1

2

k

X

i ; j = 1

y

i

y

j

i

j

h x

i

x

j

i

w i t h c o n s t r a i n t s

P

k

i = 1

y

i

i

= 0 ;

i

0 ; i =

1 ; : : : ; k .

T h e n t h e d e c i s i o n r u l e g i v e n b y t h e s i g n o f

t h e f u n c t i o n f ( z ) =

P

k

i = 1

y

i

i

h x

i

z i + b

i s

e q u i v a l e n t t o t h e m a x i m a l m a r g i n h y p e r p l a n e

i m p l i c i t l y d e n e d b y t h e k e r n e l K ( x ; z ) .

O n l y f o r i n p u t s x

i

, w h i c h l i e c l o s e s t t o t h e

h y p e r p l a n e , a r e t h e c o r r e s p o n d i n g

i

n o n - z e r o .

T h e y a r e c a l l e d s u p p o r t v e c t o r s . L e t s v d e n o t e

t h e s e t o f s u p p o r t v e c t o r s i n S . T h e m a x i m a l

m a r g i n h y p e r p l a n e h a s g e o m e t r i c m a r g i n =

(

P

i 2 S V

i

)

1 = 2

.

T e c h n i c a l p r o p e r t i e s o f k e r n e l s e n s u r e t h a t

t h e o p t i m i z a t i o n p r o b l e m i s c o n v e x , w h i c h i n

t u r n m e a n s t h a t t h e m a x i m a l m a r g i n o p t i m i z a -

t i o n p r o b l e m h a s a u n i q u e s o l u t i o n t h a t c a n b e

f o u n d e c i e n t l y . T h e r e a r e n o l o c a l m i n i m a .

M a x i m a l m a r g i n c l a s s i c a t i o n r e q u i r e s t h e

d a t a t o b e l i n e a r l y s e p a r a b l e , w h i c h i s n o t u s u -

a l l y t h e c a s e i n n o i s y r e a l - w o r l d d a t a . T h e r e -

f o r e , t h e s t r i c t r e q u i r e m e n t o f l i n e a r s e p a r a b i l -

i t y h a s t o b e r e l a x e d . T h e t h e o r y b e h i n d s u c h

m a c h i n e s h a s a l s o b e e n w o r k e d o u t 1 1 , 4 ] .

5 E m p i r i c a l E v a l u a t i o n

O u r e x p e r i m e n t s c o n s i s t o f c o l l e c t i n g i m a g e s o f

d i e r e n t o b j e c t s , e x t r a c t i n g n o r m a l i z e d m a t r i -

c e s , a n d t r a i n i n g a n d t e s t i n g S V M s u s i n g t h e


5/7

c o r r e s p o n d i n g v e c t o r s . I m a g e s o f o b j e c t s w e r e

c o l l e c t e d b y a m o b i l e r o b o t w i t h a v i s i o n s y s -

t e m . T h e y w e r e c a p t u r e d u n d e r s l i g h t l y v a r y -

i n g l i g h t i n g c o n d i t i o n s f r o m s e v e r a l v i e w p o i n t s .

T h e r o b o t i c e q u i p m e n t u s e d i n o u r e m p i r i c a l

e x p e r i m e n t s i s a s m a l l - s i z e d r o b o t w i t h a c o l o r

v i d e o c a m e r a a n d a p a n - a n d - t i l t u n i t m o u n t e d

o n t o p ( s e e F i g . 1 ) .

T h e s e g m e n t a t i o n m e t h o d i s q u i t e f a s t , b u t

p r o d u c e s r a t h e r r o u g h r e s u l t s . F r o m o n e o b -

j e c t 2 0 t o 4 0 d i e r e n t i m a g e s w e r e c o l l e c t e d

a n d a S V M w a s t r a i n e d u s i n g t h e c o r r e s p o n d -

i n g v e c t o r s a s p o s i t i v e e x a m p l e s a n d t h o s e o f

s o m e o t h e r o b j e c t s a s n e g a t i v e e x a m p l e s . W e

a l s o u s e d a s p e c i a l c l a s s o f n o n - o b j e c t o b s e r v a -

t i o n s , w h i c h w e r e f o r m e d o f r a n d o m c o l o r s e g -

m e n t s f r o m r e a l v i s i o n d a t a . F i v e - f o l d c r o s s -

v a l i d a t i o n w a s u s e d t o b r i n g v a r i a t i o n t o t h e

t r a i n i n g a n d t e s t d a t a . I n s e l e c t i n g v e c t o r s w e

e n s u r e d t h a t f r o m e a c h c l a s s b o t h t r a i n i n g a n d

t e s t e x a m p l e s w e r e s e l e c t e d .

T h e S V M u s e d i n t h e s e e x p e r i m e n t s i s a

p u b l i c l y a v a i l a b l e C + + i m p l e m e n t a t i o n 7 ] .

T h e k e r n e l f u n c t i o n u s e d i s K ( x ; z ) = h x z i

2

.

H e n c e , t h e 1 0 2 4 - b i t e x a m p l e s a r e i m p l i c i t l y

m a p p e d t o a f e a t u r e s p a c e o f d i m e n s i o n a l i t y

a p p r o x i m a t e l y o n e m i l l i o n . T h i s k e r n e l f u n c -

t i o n w a s c h o s e n m o r e o r l e s s a r b i t r a r i l y f r o m

e a r l i e r w o r k 8 ] . T h e p e r f o r m a n c e o f S V M s i s

o f t e n t h o u g h t t o b e h i g h l y s e n s i t i v e t o t h e s e -

l e c t i o n o f t h e k e r n e l f u n c t i o n . W e o b t a i n e d e x -

c e l l e n t r e s u l t s w i t h o u t p a y i n g m u c h a t t e n t i o n

t h e t h e c h o i c e o f t h e k e r n e l . H o w e v e r , i t h a d

a l r e a d y b e e n t e s t e d i n i m a g e r e c o g n i t i o n t a s k .

T w o s e t s o f e x p e r i m e n t s a r e r e p o r t e d i n

t h e f o l l o w i n g . T h e r s t o n e c o n c e r n s r e c o g -

n i t i o n o f p a p e r l e t t e r s . L e t t e r s r e p r e s e n t e n -

g i n e e r e d l a n d m a r k s e a s i l y e x t r a c t e d f r o m t h e

i m a g e s . T h e o t h e r s e t c o n c e r n s t h e r e c o g n i -

t i o n o f r e a l - w o r l d o b j e c t s , w h i c h a r e h a r d e r

t o e x t r a c t , b u t r e p r e s e n t m o r e c l o s e l y n a t u -

r a l l a n d m a r k s . L a n d m a r k s o f t h e r s t c a t e -

g o r y a r e a t 2 D o b j e c t s , w h i l e t h o s e o f t h e s e c -

o n d c a t e g o r y a r e 3 D o b j e c t s , w h i c h m a y l o o k

c o m p l e t e l y d i e r e n t w h e n v i e w e d f r o m d i e r -

e n t s i d e s o r a n g l e s . M o r e o v e r , t h e i r r e e c t i n g

p r o p e r t i e s c h a n g e f r o m p o i n t t o p o i n t . H e n c e ,

e . g . , t h e r e c o r d e d i n t e n s i t i e s v a r y .

F i g u r e 2 : O b s e r v a t i o n s o f t h e n u m b e r 8 a n d

t h e l e t t e r A .

T a b l e 1 : R e s u l t s o f 5 - f o l d c r o s s - v a l i d a t i o n l e t -

t e r r e c o g n i t i o n t e s t . C o l u m n T P g i v e s t h e p e r -

c e n t a g e o f c o r r e c t l y c l a s s i e d o b s e r v a t i o n s f o r

t h e S V M i n q u e s t i o n . C o l u m n f a l s e p o s i t i v e

l i s t s t h e p e r c e n t a g e s o f d i e r e n t o b s e r v a t i o n s

a c c e p t e d b y t h e m a c h i n e .

C l a s s T P F a l s e P o s i t i v e

A 9 7 2 ( N o n e )

B 9 4 1 ( 8 )

C 1 0 0

D 9 8

O 9 9

P 9 5

R 9 9 8 ( N o n e )

S 9 7

8 9 2

5 . 1 L e t t e r R e c o g n i t i o n

L e t t e r s c u t f r o m r e d p a p e r w e r e u s e d a s l a n d -

m a r k s t h a t c a n e a s i l y b e e x t r a c t e d f r o m t h e

i m a g e s . A l t h o u g h e a c h e x t r a c t e d l e t t e r s e g -

m e n t u s u a l l y l o o k s l i k e t h e l e t t e r i t r e p r e s e n t s ,

t h e a c t u a l f o r m o f t h e s e g m e n t v a r i e s w i t h t h e

v i e w a n g l e t h e i m a g e w a s t a k e n f r o m . I n s o m e

c a s e s t h e s i m p l e s e g m e n t a t i o n m e t h o d f a i l s t o

m a i n t a i n w h o l e c h a r a c t e r a s o n e s e g m e n t , a n d

t h u s p r o d u c e s d i e r e n t r e s u l t s ( s e e F i g . 2 ) .

A S V M w a s t r a i n e d f o r e a c h l e t t e r u s i n g o b -

s e r v a t i o n s o f t h e p a r t i c u l a r l e t t e r a s p o s i t i v e

e x a m p l e s , a n d t h e v e c t o r s o f o t h e r l e t t e r s a n d

n o n - o b j e c t s a s n e g a t i v e e x a m p l e s . T h e n e a c h

S V M w a s t e s t e d a g a i n s t e x a m p l e s o f a l l l e t t e r s

a n d n o n - o b j e c t s . T h e c h a r a c t e r s u s e d i n t h i s

t e s t a r e s h o w n i n T a b l e 1 .

R e s u l t s f o r t h i s t e s t s e t a r e g i v e n i n T a b l e

1 . D e s p i t e v a r i a t i o n i n t h e t r a i n i n g d a t a , t e s t

e x a m p l e s a r e c l a s s i e d a l m o s t p e r f e c t l y . T h e r e

a r e s o m e f a l s e n e g a t i v e s i n m o s t o f t h e c l a s s e s ,

b u t t h e n u m b e r o f f a l s e p o s i t i v e s i s n o t a b l y l o w .

T h e o n l y e x c e p t i o n i s t h e S V M f o r t h e l e t t e r

R , w h i c h c l a s s i e d 8 % o f n o n - o b j e c t e x a m p l e s

a s p o s i t i v e . M a n y o f t h e s e f a l s e p o s i t i v e s w e r e


6/7

( a ) ( b ) ( c ) ( d ) ( e )

F i g u r e 3 : O b s e r v a t i o n s o f r e a l - w o r l d o b j e c t s ,

a ) C o e e c u p , b ) L a r g e c a n , c ) S m a l l c a n , d )

F o o t b a l l , a n d e ) C h r i s t m a s g u r e .

F i g u r e 4 : O b s e r v a t i o n s o f a f o o t b a l l .

c a u s e d b y o n e p a r t i c u l a r r e c o r d i n g h a v i n g s o m e

s h a p e i n c o m m o n w i t h t h e l e t t e r R .

S V M s c a n b e u s e d t o r e c o g n i z e e a s i l y e x -

t r a c t a b l e l a n d m a r k s . I n r o b o t n a v i g a t i o n

b a s e d o n p o s i t i o n e d l a n d m a r k s , u s i n g s i m -

p l e c o l o r - b a s e d s e g m e n t a t i o n a n d S V M s s e e m s

a v i a b l e a l t e r n a t i v e t o a d - h o c f e a t u r e - b a s e d

m e t h o d s .

5 . 2 R e a l - W o r l d O b j e c t R e c o g n i t i o n

R e a l - w o r l d o b j e c t s d i e r d r a m a t i c a l l y f r o m e n -

g i n e e r e d l a n d m a r k s . T h e y a r e u s u a l l y t h r e e d i -

m e n s i o n a l a n d , t h u s , l o o k v e r y d i e r e n t f r o m

v a r y i n g v i e w a n g l e s . T h e y a l s o h a v e v a r y i n g

c o l o r i n g a n d s u r f a c e s t h a t r e e c t l i g h t u n e v e n l y

f r o m d i e r e n t a n g l e s . I n o u r t e s t d a t a t h e r e

w e r e i m a g e s o f v e r e a l - w o r l d o b j e c t s : a d o t -

t e d c o e e c u p , a d o t t e d f o o t b a l l , t w o b e v e r a g e

c a n s o f d i e r e n t s i z e s , a n d o n e r e d C h r i s t m a s

g u r e ( s e e F i g . 3 ) .

F o r r e a l - w o r l d o b j e c t s o n l y f e w o b s e r v a t i o n s

a r e i d e a l s e g m e n t a t i o n s o f t h e o b j e c t . O u r

s i m p l e s e g m e n t a t i o n m e t h o d f a l l s a p a r t w h e n

f a c e d w i t h m o r e c o m p l i c a t e d o b j e c t s . V a r i -

a t i o n b e t w e e n r e c o r d i n g s o f t h e s a m e o b j e c t

i s o f t e n l a r g e . I t i s p a r t i c u l a r l y l a r g e i n s e g -

m e n t e d i m a g e s o f t h e f o o t b a l l , a s i l l u s t r a t e d i n

F i g . 4 ; i t i s h a r d t o t h i n k a n y f e a t u r e s c o m m o n

t o a l l t h e s e o b s e r v a t i o n s . T h i s f u r t h e r i l l u s -

t r a t e s t h e s t r e n g t h o f S V M s o v e r f e a t u r e - b a s e d

m e t h o d s i n r e a l - w o r l d o b j e c t r e c o g n i t i o n .

T h e r e s u l t s o f t h i s t e s t s e t a r e g i v e n i n T a -

T a b l e 2 : R e s u l t s o f r e a l - w o r l d o b j e c t r e c o g -

n i t i o n t e s t . F a l s e p o s i t i v e r e c o r d i n g s a r e t h i s

t i m e l i s t e d f o r a l l o b j e c t c l a s s e s a n d n o n - o b j e c t

o b s e r v a t i o n s .

S V M T P F a l s e P o s i t i v e

C u p 9 5 { / 2 / 0 / 1 / 0 / 8

B a l l 7 4 4 / { / 0 / 2 / 0 / 7

L . C a n 9 5 0 / 0 / { / 0 / 0 / 8

S . C a n 9 5 0 / 2 / 0 / { / 0 / 0

P i x i e 9 7 0 / 0 / 0 / 0 / { / 0

b l e 2 . A g a i n , m o s t o f t h e o b j e c t s a r e r e c o g -

n i z e d w i t h h i g h a c c u r a c y ; o v e r 9 5 % t r u e p o s i -

t i v e s u c c e s s r a t e i s a c h i e v e d f o r a l l o t h e r o b j e c t s

e x c e p t t h e f o o t b a l l . T h e r e i s a n i n c r e a s e i n t h e

n u m b e r o f f a l s e p o s i t i v e s w h e n c o m p a r e d t o t h e

c h a r a c t e r r e c o g n i t i o n t a s k .

T h e r e i s a d r a m a t i c r i s e i n t h e n u m b e r o f

f a l s e n e g a t i v e s f o r t h e f o o t b a l l . H o w e v e r , t h e

n u m b e r o f f a l s e p o s i t i v e s s t a y s w i t h i n a c c e p t -

a b l e l i m i t s . T h e r e e c t i n g p r o p e r t i e s o f t h e

b a l l s u r f a c e a r e , o f c o u r s e , a s u n e v e n a s p o s -

s i b l e . T h e b l a c k d o t s o n t h e r e d b a l l f u r t h e r

i n t e r f e r e w i t h t h e s e g m e n t a t i o n .

A l t h o u g h w e u s e d v e r y p r i m i t i v e s e g m e n -

t a t i o n m e t h o d , S V M s c l a s s i e d r e a l - w o r l d o b -

s e r v a t i o n s w i t h h i g h a c c u r a c y . P r o v i d e d t h a t

t h e r e a r e e n o u g h e x a m p l e s o f d i e r e n t t y p i c a l

s e g m e n t a t i o n s o f o b j e c t , S V M s c a n o v e r c o m e

s o m e o f t h e p r o b l e m s i n v o l v e d i n s e g m e n t a t i o n .

T h e s e r e s u l t s a r e v e r y e n c o u r a g i n g . A

r o b o t c a n b e t a u g h t t o r e c o g n i z e n a t u r a l

l a n d m a r k s | e . g . , d o o r s | i n i t s e n v i r o n m e n t .

I n e x p l o r a t i o n t h e s e l a n d m a r k s c a n b e u s e d t o

b u i l d a m a p o f t h e e n v i r o n m e n t . F u r t h e r m o r e ,

i t s e e m s t h a t w i t h S V M s t h e r o b o t c o u l d e a s i l y

b e t a u g h t t o r e c o g n i z e t a s k s p e c i c o b j e c t s .

5 . 3 P e r f o r m a n c e I s s u e s

T r a i n i n g a n d c l a s s i c a t i o n w e r e r u n o - b o a r d

f o r p r a c t i c a l r e a s o n s . T h e s p e e d o f c l a s s i c a -

t i o n i s a d e q u a t e f o r o u r n e e d s , a n d a c t u a l l y i t

w a s o n e o f t h e m a i n r e a s o n s , w h y w e t u r n e d o u r

a t t e n t i o n t o S V M s . A l t h o u g h o u r s e g m e n t a -

t i o n m e t h o d i s q u i t e f a s t , i t s t i l l c o n s t i t u t e s t h e

t i m e - c o n s u m p t i o n b o t t l e n e c k o f t h e s y s t e m .


7/7

O u r i n i t i a l t e s t s s h o w t h a t t h e n u m b e r o f

p o s i t i v e t r a i n i n g e x a m p l e s d o e s n o t a e c t t h e

a c c u r a c y o f c l a s s i c a t i o n v e r y m u c h . A s l o n g

a s t h e r e a r e a c o u p l e o f r e p r e s e n t a t i v e e x a m -

p l e s , c l a s s i c a t i o n o f p o s i t i v e e x a m p l e s p e r -

f o r m s w e l l . H o w e v e r , t h e n u m b e r o f n e g a -

t i v e t r a i n i n g e x a m p l e s a e c t s t h e n u m b e r o f

f a l s e p o s i t i v e c l a s s i c a t i o n s . T h i s s u g g e s t t h a t

w h e n t r a i n i n g S V M s f o r p a r t i c u l a r r e a l - w o r l d

o b j e c t , o n e c o u l d u s e r a n d o m s e g m e n t s f r o m

r e a l - w o r l d v i d e o i m a g e a s n e g a t i v e e x a m p l e s .

6 C o n c l u s i o n

O u r r o b o t l a n d m a r k d e t e c t i o n s y s t e m i s b a s e d

o n l e a r n i n g i n t e r e s t i n g o b j e c t s f r o m l a b e l e d e x -

a m p l e s . I t d o e s n o t r e q u i r e a n e x p e n s i v e p r e -

p r o c e s s i n g o f t h e i m a g e s t o w o r k w i t h e x c e l -

l e n t a c c u r a c y . P e r f e c t c l a s s i c a t i o n , c o n t r a r y

t o s y s t e m s b a s e d o n p e r f e c t s e g m e n t a t i o n , c a n -

n o t b e e x p e c t e d i n r e a l - t i m e r o b o t i c s .

W e s h o u l d t e s t t h e l a n d m a r k d e t e c t i o n s y s -

t e m i n t o p o l o g i c a l m a p p i n g . O u r s o n a r - b a s e d

s y s t e m s h a v e b e e n v e r y b r i t t l e d u e t o t h e l i m -

i t e d a b i l i t y t o p e r c e i v e d e t a i l a n d t h e i n a b i l i t y

t o d e t e c t m o v i n g o b j e c t s o r e v e n c l o s e d d o o r s

r e l i a b l y . W i t h v i s i o n , l o c a l i z a t i o n c a n b e b a s e d

m o r e o n t h e i m m e d i a t e p e r c e p t i o n s a n d l e s s o n

t h e e x p e r i e n c e d h i s t o r y o f p e r c e p t i o n s . T h u s ,

t h e r e i s l e s s n e e d f o r a n y w o r l d o r m o v e m e n t

m o d e l s t o t i e t h e p a s t p e r c e p t i o n s t o g e t h e r .

I n s o n a r - b a s e d p e r c e p t i o n p l a c e s c a n n o t b e

r e c o g n i z e d w i t h o u t r e c o r d i n g a n i n t e n s i v e h i s -

t o r y o f p a s t m o v e m e n t s a n d p e r c e p t i o n s . T h i s

l e a d s t o s e r i o u s t r o u b l e a s t h e r o l e o f o d o m e t -

r i c e r r o r b e c o m e s l a r g e r . I n m a p p i n g a n d n a v -

i g a t i o n , w o r l d a n d m o v e m e n t m o d e l s b e c o m e a

n e c e s s i t y l e a d i n g t o c o m p l e x a n d c o m p u t a t i o n -

a l l y e x p e n s i v e s o l u t i o n s s u c h a s t h e o n e i n 1 0 ] .

I . e . , i t s e e m s n e c e s s a r y t o c o n s i d e r a l l p o s s i -

b l e r o b o t p o s e s a l l t h e t i m e i n s t e a d o f m a k i n g

p e r i o d i c c o r r e c t i o n s b a s e d o n m a p c o r r e l a t i o n .

R e f e r e n c e s

1 ] J a m e s B r u c e , T u c k e r B a l c h , a n d M a n u e l a

V e l o s o . F a s t a n d i n e x p e n s i v e c o l o r i m -

a g e s e g m e n t a t i o n f o r i n t e r a c t i v e r o b o t s . I n

I E E E / R S J I n t e r n a t i o n a l C o n f . o n I n t e l l i g e n t

R o b o t s a n d S y s t e m s . I E E E , 2 0 0 0 .

2 ] O l i v i e r C h a p e l l e , P a t r i c k H a n e r , a n d

V l a d i m i r V a p n i k . S u p p o r t v e c t o r m a c h i n e s f o r

h i s t o g r a m - b a s e d i m a g e c l a s s i c a t i o n . I E E E

T r a n s a c t i o n s o n N e u r a l N e t w o r k s , 1 0 ( 5 ) :

1 0 5 5 { 1 0 6 4 , 1 9 9 9 .

3 ] C o r i n n a C o r t e s a n d V l a d i m i r N . V a p n i k . S u p -

p o r t v e c t o r n e t w o r k s . M a c h i n e L e a r n i n g ,

2 0 ( 3 ) : 2 7 3 { 2 9 7 , 1 9 9 5 .

4 ] N e l l o C r i s t i a n i n i a n d J o h n S h a w e - T a y l o r . A n

I n t r o d u c t i o n t o S u p p o r t V e c t o r M a c h i n e s a n d

O t h e r K e r n e l - B a s e d M e t h o d s . C a m b r i d g e U n i -

v e r s i t y P r e s s , 2 0 0 0 .

5 ] T h o m a s H o m a n , J a n P u z i c h a , a n d J o a c h i m

M . B u h m a n n . U n s u p e r v i s e d t e x t u r e s e g m e n -

t a t i o n i n a d e t e r m i n i s t i c a n n e a l i n g f r a m e w o r k .

I E E E T r a n s a c t i o n s o n P a t t e r n A n a l y s i s a n d

M a c h i n e I n t e l l i g e n c e , 2 0 ( 8 ) : 8 0 3 { 8 1 8 , 1 9 9 8 .

6 ] M a s s i m i l i a n o P o n t i l a n d A l e s s a n d r o V e r r i .

S u p p o r t v e c t o r m a c h i n e s f o r 3 D o b j e c t r e c o g -

n i t i o n . I E E E T r a n s a c t i o n s o n P a t t e r n A n a l y -

s i s a n d M a c h i n e I n t e l l i g e n c e , 2 0 ( 6 ) : 6 3 7 { 6 4 6 ,

1 9 9 8 .

7 ] R y a n R i f k i n . S v m F u S o f t w a r e . M a s s a c h u s e t t s

I n s t i t u t e o f T e c h n o l o g y , 2 0 0 0 . h t t p : / / v e -

p e r c e n t - n a t i o n . m i t . e d u / S v m F u / .

8 ] D a n n y R o o b a e r t a n d M a r c M . v a n H u l l e .

V i e w - b a s e d 3 D o b j e c t r e c o g n i t i o n w i t h s u p -

p o r t v e c t o r m a c h i n e s . I n P r o c . 1 9 9 9 I E E E I n -

t e r n a t i o n a l W o r k s h o p o n N e u r a l N e t w o r k s f o r

S i g n a l P r o c e s s i n g ( p p . 7 7 { 8 4 ) . I E E E , 1 9 9 9 .

9 ] J i a n b o S h i a n d J i t e n d r a M a l i k . N o r m a l i z e d

c u t s a n d i m a g e s e g m e n t a t i o n . I E E E T r a n s .

o n P a t t e r n A n a l y s i s a n d M a c h i n e I n t e l l i g e n c e ,

2 2 ( 8 ) : 8 8 8 { 9 0 5 , 2 0 0 0 .

1 0 ] S e b a s t i a n T h r u n , W o l f r a m B u r g a r d , a n d D i -

e t e r F o x . A p r o b a b i l i s t i c a p p r o a c h t o c o n -

c u r r e n t m a p p i n g a n d l o c a l i z a t i o n f o r m o b i l e

r o b o t s . M a c h i n e L e a r n i n g , 3 1 ( 1 { 3 ) : 2 9 { 5 3 ,

1 9 9 8 .

1 1 ] V l a d i m i r N . V a p n i k . S t a t i s t i c a l L e a r n i n g T h e -

o r y . J o h n W i l e y & S o n s , 1 9 9 8 .

Documents

Support Vector Classification of Landmarks for a Mobile Robot