M S U i s a n A f fi r m a t i v e A c t i o n / E q u a l O p p o r t u n i t y I n s t i t u t i o n 0 - 1 2 7 7 1 l l l l l l l l l l l l l l l l l l l l l l l l l l l l t l l l l l l i l l l 3 1 2 9 3 0 0 9 0 3 2 0 5 7 T h i s i s t o c e r t i f y t h a t t h e d i s s e r t a t i o n e n t i t l e d S e a r l e ' s C h i n e s e B o x : T h e C h i n e s e R o o m A r g u m e n t a n d A r t i f i c i a l I n t e l l i g e n c e p r e s e n t e d b y L a r r y S t e v e n H a u s e r h a s b e e n a c c e p t e d t o w a r d s f u l fi l l m e n t o f t h e r e q u i r e m e n t s f o r P h D d e g r e e i n P h i l o s o p h y M z : 1 & 7 — M a j o r p r o f e s s o r D a t e 9 1 1 1 4 3 4 2 m 6 0 2 2 T 8 0 ‘ 1 7 0 . D u f ‘ L I B R A R Y l a c u n a S t a t e U n i v e r s i t y s i fl K P L A C E I N R E T U R N B O X t o r e m o v e t h i s c h e c k o u t f r o m y o u r r e c o r d . T O A V O I D F I N E S r e t u r n o n o r b e f o r e d a t e d u e . D A T E D U E D A T E D U E D A T E D U E A P R 1 4 2 0 3 3 9 “ E , s . - L I l l M S U I s A n A f f i r m e t l v e A c t i o n / E q u a l O p p o r t u n i t y I n s t i t u t i o n c M m a - p n S E A R L E ’ S C H I N E S E B O X : T H E C H I N E S E R O O M A R G U M E N T A N D A R T I F I C I A L I N T E L L I G E N C E V o l u m e I B y L a r r y S t e v e n H a u s e r A D I S S E R T A T I O N S u b m i t t e d t o M i c h i g a n S t a t e U n i v e r s i t y i n p a r t i a l f u l f i l l m e n t o f t h e r e q u i r e m e n t s f o r t h e d e g r e e o f D O C T O R O F P H I L O S O P H Y D e p a r t m e n t o f P h i l o s o o h y 1 9 9 8 A B S T R A C T S E A R L E ’ S C H I N E S E B O X : T H E C H I N E S E R O O M A R G U M E N T A N D A R T I F I C I A L I N T E L L I G E N C E B Y L a r r y S t e v e n H a u s e r T h e a p p a r e n t l y i n t e l l i g e n t d o i n g s o f c o m p u t e r s o c c a s i o n p h i l o s o p h i c a l d e b a t e a b o u t a r t i f i c i a l i n t e l l i g e n c e ( A l ) . E v i d e n c e o f A l ( s u c h d o i n g s ) i s n o t b a d ; a r g u m e n t s a g a i n s t A l a r e : s u c h i s t h e c a s e f o r . O n e a r g u m e n t a g a i n s t A I ~ - c u r r e n t l y , p e r h a p s , t h e m o s t i n f l u e n t i a l - - i s c o n s i d e r e d i n d e t a i l : J o h n S e a r l e ’ s C h i n e s e r o o m a r g u m e n t ( C R A ) . T h i s a r g u m e n t a n d i t s a t t e n d a n t t h o u g h t e x p e r i m e n t ( C H E ) a r e s h o w n t o b e u n a v a i l i n g a g a i n s t c l a i m s ( o f A l p r o p e r ) t h a t c o m p u t e r s c a n a n d e v e n d o t h i n k . C R A i s f o r m a l l y i n v a l i d a n d i n f o r m a l l y f a l l a c i o u s . C R E ’ s p u t a t i v e e x p e r i m e n t a l r e s u l t i s n o t r o b u s t ( s i m i l a r " e x p e r i m e n t s " g i v e c o n f l i c t i n g r e s u l t s ) a n d f a i l s t o g e n e r a l i z e f r o m u n d e r s t a n d i n g t o o t h e r m e n t a l a t t r i b u t e s a s c l a i m e d . F u r t h e r , C R E d e p e n d s f o r i t s c r e d i b i l i t y , i n t h e f i r s t p l a c e , o n a d u b i o u s t e n d e r o f t h e e p i s t e m i c p r i v i l e g e o f o v e r r i d i n g a l l “ e x t e r n a l " b e h a v i o r a l e v i d e n c e t o f i r s t p e r s o n d i s a v o w a l s o f m e n t a l p r o p e r t i e s l i k e u n d e r s t a n d i n g . A d v e r t i s e d a s e f f e c t i v e a g a i n s t A l , S e a r l e ’ s a r g u m e n t i s a n i g n o r a t i o e l e n c h i , f e i g n i n g t o r e f u t e A l b y d i s p u t i n g a s i m i l a r ( b u t l o g i c a l l y i n d e p e n d e n t ) c l a i m o f “ s t r o n g A l ” o r T u r i n g m a c h i n e f u n c t i o n a l i s m ( F U N ) m e t a p h y s i c a l l y i d e n t i f y i n g m i n d s w i t h p r o g r a m s . A l , h o w e v e r , i s w a r r a n t e d i n d e p e n d e n t l y o f F U N : e v e n i f C R A d i s p r o v e d F U N t h i s w o u l d s t i l l f a i l t o r e f u t e o r s e r i o u s l y d i s c o n f i r m c l a i m s o f A l . S e a r l e ’ s c o n t e n t i o n t h a t e v e r y d a y p r e d i c a t i o n s o f m e n t a l t e r m s o f c o m p u t e r s a r e d i s c o u n t a b l e a s e q u i v o c a l ( f i g u r a t i v e ) " a s - i f " p r e d i c a t i o n s - - i m p u g n i n g i n d e p e n d e n t s e e m i n g - e v i d e n c e o f A l i f t e n a b l e - - i s u n w a r r a n t e d . L a c k i n g i n t u i t i v e b a s i s , s u c h a c c u s a t i o n s o f a m b i g u i t y r e q u i r e t h e o r e t i c a l s u p p o r t . T h e w o u l d - b e t h e o r e t i c a l d i f f e r e n t i a t i o n o f i n t r i n s i c i n t e n t i o n a l i t y ( o u r s ) f r o m a s - i f i n t e n t i o n a l i t y ( t h e i r s ) S e a r l e p r o p o u n d s t o b u t t r e s s a l l e g a t i o n s o f a m b i g u i t y a g a i n s t m e n t a l a t t r i b u t i o n s t o c o m p u t e r s , h o w e v e r , d e p e n d s e i t h e r o n d u b i o u s d o c t r i n e s o f o b j e c t i v e i n t r i n s i c a l i t y a c c o r d i n g t o w h i c h m e a n i n g s a r e p h y s i c a l l y i n t h e h e a d o r o n e v e n m o r e d u b i o u s ( a s i f d u a l i s t i c ) n o t i o n s o f s u b j e c t i v e i n t r i n s i c a l i t y a c c o r d i n g t o w h i c h m e a n i n g s a r e p h e n o m e n o l o g i c a l l y " i n " c o n s c i o u s n e s s . N e i t h e r w o u l d s u c h w o u l d - b e d i f f e r e n t i a e a s t h e s e u n p r o b l e m a t i c a l l y r u l e o u t s e e m i n g i n s t a n c e s o f A I i f g r a n t e d . T h e d u b i o u s n e s s o f a s i f d u a l i s t i c i d e n t i f i c a t i o n o f t h o u g h t w i t h c o n s c i o u s n e s s a l s o u n d e r m i n e s t h e e p i s t e m i c p r i v i l e g i n g o f t h e “ f i r s t p e r s o n p o i n t o f v i e w “ c r u c i a l t o S e a r l e ’ s t h o u g h t e x p e r i m e n t . A C K N O W L E D G E M E N T S I a m i n d e b t e d t o H e r b H e n d r y f o r h i s p a t i e n c e , h e l p , e n c o u r a g e m e n t , c r i t i c i s m , a n d a d v i c e , t h r o u g h o u t . I n C h a p t e r 4 , e s p e c i a l l y , I a m a d d i t i o n a l l y i n d e b t e d t o c o n v e r s a t i o n s w i t h B a r b A b b o t t . P a r t s o f C h a p t e r 6 b e n e f i t e d g r e a t l y f r o m d i s c u s s i o n s w i t h R i c h H a l l . T h a n k s a l s o t o t h e m e m b e r s o f m y c o m m i t t e e - - H e r b e r t H e n d r y , J o s e p h H a n n a , R i c h a r d H a l l , M a r k R i s j o r d , W i n s t o n W i l k i n s o n , a n d A l a n B e r e t t a - - a n d t o a l l m y t e a c h e r s o f p h i l o s o p h y a t M i c h i g a n S t a t e U n i v e r s i t y . A c k n o w l e d g e m e n t i s a l s o o w e d J o h n S e a r l e i n t h i s c o n n e c t i o n . I h a v e l e a r n t m u c h i n o p p o s i n g h i m . A b o v e a l l , I a m g r a t e f u l t o f a m i l y a n d f r i e n d s : t o m y p a r e n t s , H o w a r d a n d M u r i e l H a u s e r , f o r t h e i r u n f a i l i n g l o v e a n d s u p p o r t ; a n d e s p e c i a l l y t o B a r b a r a . T A B L E O F C O N T E N T S L I S T O F A C R O N Y M S , A B B R E V I A T I O N S , A N D N O M E N C L A T U R E I N T R O D U C T I O N C H A P T E R O N E : T H E P H I L O S O P H I C A L N E I G H B O R H O O D 1 . I n t r o d u c t i o n 2 . D e s c a r t e s : M i n d s a n d O t h e r M i n d s 2 . 1 M i n d , B o d y a n d S e l f - K n o w l e d g e 2 . 2 O t h e r M i n d s P r o b l e m s 2 . 3 T w o S u r e a n d C e r t a i n T e s t s 2 . 4 M i n d s a n d M a c h i n e s : T h e " P r o d u c t i v i t y " A r g u m e n t 3 . T u r i n g M a c h i n e s , T u r i n g ’ s T e s t , a n d T u r i n g M a c h i n e F u n c t i o n a l i s m 3 . 1 C o m p u t i n g M a c h i n e r y : D e s c a r t e s t o T u r i n g 3 . 2 T u r i n g M a c h i n e s a n d C o m p u t a t i o n 3 . 3 U n i v e r s a l T u r i n g M a c h i n e s a n d D i g i t a l C o m p u t e r s 3 . 4 T u r i n g ’ s T e s t : T h e I m i t a t i o n G a m e 3 . 5 T u r i n g ’ s T e s t : M e t h o d o l o g i c a l a n d E m p i r i c a l C o n s i d e r a t i o n s 3 . 6 T u r i n g ’ s T e s t : M e t a p h y s i c a l C o n s i d e r a t i o n s 4 . C o n c l u s i o n : P r e v i e w i n g t h e C h i n e s e R o o m C H A P T E R T W O : T H E C H I N E S E R O O M A R G U M E N T 1 . I n t r o d u c t i o n 2 . T h e C h i n e s e R o o m a n d A r t i f i c i a l I n t e l l i g e n c e ( A l ) 2 . 1 S o m e P r e l i m i n a r y C o n c e p t s a n d C o n s i d e r a t i o n s 2 . 1 1 C o g n i t i v i s m a n d F u n c t i o n a l i s m 2 . 1 2 M u l t i p l e R e a l i z a b i l i t y 2 . 1 3 C o g n i t i v i s m a n d A l 2 . 1 4 l n t e r r e g n u m 2 . 1 5 T h e C h i n e s e R o o m A r g u m e n t a n d E x p e r i m e n t 2 . 2 T h e C h i n e s e R o o m A r g u m e n t ( C R A ) 2 . 2 1 C a u s a l P o w e r s ( a t l e a s t ) E q u i v a l e n t t o B r a i n s 2 . 2 2 B r a i n p o w e r : A C a p t i v a t i n g P i c t u r e 2 . 2 3 E n g i n e s o f I n t e n t i o n a l i t y 2 0 2 2 3 7 7 0 7 2 7 5 v i i i 2 0 7 2 3 . 4 . v i 2 . 2 4 C o n c l u s i o n s C o n c e r n i n g B r a i n p o w e r 2 . 2 5 A " P o l e m i c a l " T a c k T h e C h i n e s e R o o m A r g u m e n t a n d F u n c t i o n a l i s m 3 . 1 S e a r l e ’ s " B r u t a l l y S i m p l e " A r g u m e n t ( B S A ) 3 . 2 A F o n ' n a l i z a t i o n o f B S A 3 . 3 S u p p l e m e n t a r y H y p o t h e s i s O n e : A l l T h i n g s l n s t a n t i a t e P r o g r a m s 3 . 4 S u p p l e m e n t a r y H y p o t h e s i s T w o : S y n t a x P r e c l u d e s S e m a n t i c s 3 . 5 T h e M i n d s a n d P r o g r a m s a t I s s u e 3 . 6 M i n d s H a v e S e m a n t i c s 3 . 7 I n t e r i m C o n c l u s i o n s 3 . 8 V i r t u a l l y U n i v e r s a l R e a l i z a b i l i t y 3 . 9 T h e C o n c e p t o f C o m p u t a t i o n C o n c l u s i o n C H A P T E R T H R E E : T H E C H I N E S E R O O M T H O U G H T E X P E R I M E N T 1 . 2 . 3 . 4 . T h e C h i n e s e R o o m E x p e r i m e n t ( C R E ) F i r s t A n a l y s i s a n d P r o s p e c t u s S e a r l e ’ s D i a g n o s i s : W h y S e a r l e i n t h e R o o m D o e s n ’ t U n d e r s t a n d A r g u m e n t a n d " E x p e r i m e n t " 4 . 1 A n o m a l i e s o f t h e S t a n d a r d C o n s t r u a l o f C R E ’ s R e l a t i o n t o C R A 4 . 2 S o m e W o u l d - b e S t r e n g t h e n i n g s o f B S A R e j e c t e d 4 . 3 T h e " U p s i d e D o w n " T a k e T h e C P U S i m u l a t o r R e p l y 5 . 1 T u r i n g , B o m b e s , W r e n s , a n d E n i g m a 5 . 2 N e w e l l a n d S i m o n : B l i n d P r o t o c o l s 5 . 3 C o n c l u s i o n R e p l i e s a n d R e j o i n d e r s 6 . 1 S y s t e m s R e p l y a n d N e t w o r k T h e o r y : H i g h C h u r c h F u n c t i o n a l i s m 6 . 2 T h e R o b o t R e p l y a n d C a u s a l T h e o r y o f R e f e r e n c e : L o w C h u r c h F u n c t i o n a l i s m 6 . 3 T h e B r a i n S i m u l a t o r R e p l y 6 . 4 T h e C o m b i n a t i o n R e p l y 6 . 5 T h e O t h e r M i n d s R e p l y 6 . 6 M a n y M a n s i o n s C H A P T E R F O U R : N A I V E A l A N D “ A S - I F I N T E N T I O N A L I T Y " 1 . 2 . 3 . 4 . F u n c t i o n a l i s m a n d A I E v i d e n c e o f A l A l l e g e d l y E q u i v o c a l “ A s - i f I n t e n t i o n a l i t y “ O c c a m ’ s R a z o r a n d A r i s t o t l e ’ s A d m o n i t i o n 1 0 4 1 3 5 1 3 7 1 3 7 1 4 1 1 4 5 1 4 7 1 5 8 1 6 5 1 9 8 1 9 8 2 0 2 2 0 5 2 0 6 H N ’ P P Q ’ P N P S O S S O S - ” N S ” ? v i i N a i v e t é R e v i s i t e d “ A s - i f I n t e n t i o n a l i t y “ A g a i n M a r k s o f t h e M e t a p h o r i c a l T h e B o g e y o f P a n p s y c h i s m C o n c l u s i o n a n d P r o s p e c t u s C H A P T E R F I V E : O B J E C T I V E I N T R I N S I C A L I T Y : I N T E N T I O N A L I T Y I N T H E B R A I N 1 0 1 1 1 2 1 3 I n t e n t i o n a l i t y a n d l n t r i n s i c a l i t y P s y c h o l o g i c a l M o d e s o f I n t e n t i o n a l i t y I n t e n t i o n a l C o n t e n t I n t r i n s i c a n d D e r i v e d I n t e n t i o n a l i t y D e r i v e d I n t e n t i o n a l i t y a s N o r m a t i v e D e r i v e d A r t i f i c i a l I n t e n t i o n a l i t y T w o A c c o u n t s o f O b j e c t i v e l n t r i n s i c a l i t y P u t n a m A g a i n s t I n t r i n s i c I n t e n t i o n a l i t y S e a r l e A g a i n s t P u t n a m C o n c e r n i n g " O b s e r v e r - r e l a t i v i t y “ . S e a r l e A g a i n s t P u t n a m o n C a u s a l I n d e x i c a l D e p e n d e n c e . T h e R e l e v a n c e o f P u t n a m ’ s C r i t i q u e o f l n t e m a l i s m . D i e h a r d l n t e m a l i s m . T h e D e r i v a t i o n P r o b l e m C H A P T E R S I X : S U B J E C T I V E I N T R I N S I C A L I T Y : A S - I F D U A L I S M 1 . 2 . I n t r o d u c t i o n A s - i f D u a l i s m 2 . 1 A s - i f I n t e n t i o n a l i t y 2 . 2 O n t o l o g i c a l S u b j e c t i v i t y : C o n n e c t i o n P r i n c i p l e a n d C a r t e s i a n E g o 2 . 3 P r i v i l e g e d A c c e s s 2 . 4 S u m m a r y a n d P r o s m c t u s T h e M i n d - B o d y P r o b l e m a n d S e a r l e ’ s “ S o l u t i o n " 3 . 1 R e a l i z a t i o n a n d L e v e l s o f C a u s a t i o n : A P i c t u r e 3 . 2 S t a n d a r d ( F u n c t i o n a l i s t ) N o n r e d u c t i v i s m 3 . 3 S e a r l e ' s N o n s t a n d a r d N o n r e d u c t i v i s t N o n s o l u t i o n 3 . 3 1 A s - i f P a r a l l e l i s m : S h a d e s o f P r e e s t a b l i s h e d H a r m o n y 3 . 3 2 S h a d e s o f E p i p h e n o m e n a l i s m 3 . 3 3 A s - i f I n t e r a c t i o n i s m 3 . 3 4 C o n c l u s i o n : S t a n d a r d N o n r e d u c t i v i s m a n d S e a r l e ’ s N o n s o l u t i o n . T h e O t h e r M i n d s P r o b l e m . l n t r o s p e c t i o n i s m R e v i s i t e d : W h y I s n ’ t P s y c h o l o g y E a s y ? C o n c l u s i o n : T h e C h i n e s e R o o m R e v i s i t e d B I B L I O G R A P H Y 2 1 0 2 1 2 2 1 6 2 2 7 2 3 8 2 4 1 2 4 1 2 4 4 2 4 6 2 5 0 2 5 4 2 5 7 2 6 0 2 6 5 2 6 9 2 7 6 2 8 4 2 8 6 2 9 0 2 9 9 2 9 9 3 0 8 3 1 9 3 4 4 3 5 3 3 6 4 3 7 0 L I S T O F A C R O N Y M S , A B B R E V I A T I O N S , A N D N O M E N C L A T U R E A 1 A 1 8 A 1 * A 2 A 2 8 A 3 A S S A 4 A l A I P B S A B S A S B S 1 A B S Z A B S 1 2 A C 1 P r o g r a m s a r e f o r m a l ( s y n t a c t i c ) ( ( x ) ( P x — > F x ) ) . S t r o n g m o d a l v e r s i o n o f A 1 : P r o g r a m s a r e n e c e s s a r i l y f o r m a l ( C K X X P X - ’ F x ) ) - E n v i s a g e d s t r e n g t h e n i n g o f A 1 : P r o g r a m s a r e p u r e l y f o r m a l , h a v i n g o n l y s y n t a c t i c p r o p e r t i e s . M i n d s h a v e s e m a n t i c s ( ( x ) ( M x _ . S x ) ) . S t r o n g m o d a l v e r s i o n o f A 2 : M i n d s n e c e s s a r i l y h a v e s e m a n t i c s ( E K X X M X - ’ S X ) ) - F o r m ( s y n t a x ) i s n o t ( s u f f i c i e n t f o r ) s e m a n t i c s ( - ( x ) ( F x _ . S x ) ) . S t r o n g m o d a l v e r s i o n o f A 3 : N e c e s s a r i l y s y n t a x i s n o t ( s u f f i c i e n t f o r ) s e m a n t i c s ( E l - ( x ) ( F x a S x ) ) . B r a i n s c a u s e m i n d s . A r t i f i c i a l i n t e l l i g e n c e . A I p r o p e r : C o m p u t e r s c a n ( r o u g h l y , s o m e d a y w i l l ) t h i n k . T h e “ b r u t a l l y s i m p l e ” a r g u m e n t : A 1 , A 2 , A 3 / . ~ . C 1 . S t r o n g m o d a l B S A : A 1 S , A 2 S , A 3 6 / . - . C 1 S . S u p p l e m e n t e d B S A 1 : A 1 , A 2 , A 3 , S 1 / . - . C 1 . S u p p l e m e n t e d B S A 2 : A 1 , A 2 , 8 2 , P 1 / . - . C t . D o u b l y s u p p l e m e n t e d B S A : A 1 , A 2 , S 1 , S 2 / E . . L . P r o g r a m s a r e n o t ( s u f f i c i e n t f o r ) m i n d s ( ( 3 x ) ( P x & - M x ) ) . v i i i C 1 S C 1 W C 2 C 3 C 4 C O G C P C P U C R A C R E C R E A C R E A S C R E A W C S A M D O S E E i x S t r o n g m o d a l v e r s i o n o f C 1 : N e c e s s a r i l y P r o g r a m s a r e n o t ( s u f f i c i e n t f o r ) m i n d s ( D — ( x ) ( P x _ . M x ) ) . W e a k m o d a l v e r s i o n o f C 1 : P o s s i b l y P r o g r a m s a r e n o t ( s u f f i c i e n t f o r ) m i n d s ( o - ( x ) ( P x - + M x ) ) . S u f f i c i e n c y f o r m i n d r e q u i r e s c a u s a l p o w e r s ( a t l e a s t ) e q u i v a l e n t t o t h o s e o f b r a i n s . A n y a r t i f a c t t h a t p r o d u c e d m e n t a l p h e n o m e n a w o u l d h a v e t o d u p l i c a t e t h e s p e c i f i c c a u s a l p o w e r s o f b r a i n s , a n d i t c o u l d n o t d o t h i s j u s t b y r u n n i n g a p r o g r a m . T h e w a y h u m a n b r a i n s a c t u a l l y p r o d u c e m e n t a l p h e n o m e n a c a n n o t b e s o l e l y b y v i r t u e o f r u n n i n g a c o m p u t e r p r o g r a m . C o g n i t i v i s m : T o e x p l a i n m e n t a l p h e n o m e n a i s t o s p e c i f y t h e p r o g r a m s f r o m w h o s e e x e c u t i o n t h e y d e r i v e . S e a r l e ’ s ” C o n n e c t i o n P r i n c i p l e " : u n c o n s c i o u s m e n t a l p h e n o m e n a a r e i n p r i n c i p l e a c c e s s i b l e t o c o n s c i o u s n e s s . C e n t r a l p r o c e s s i n g u n i t . T h e C h i n e s e r o o m a r g u m e n t : A 1 , A 2 , A 3 / . - . C I ; C 1 , A 4 / . - . C 2 / . - . 0 3 / . - . C 4 . T h e C h i n e s e r o o m t h o u g h t e x p e r i m e n t . H y p o t h e s i z e d C h i n e s e r o o m e x p e r i m e n t a l a r g u m e n t : A 2 , I R / . - . C 1 . S t r o n g m o d a l C R E A : A 2 3 , I R S / . ~ . C 1 S . W e a k m o d a l C R E A : A 2 , I R W / : . C 1 W . I m a g i n a r y s o u p e d u p C h i n e s e v e r s i o n o f S A M i m p l e m e n t e d b y S e a r l e i n t h e C h i n e s e r o o m . S h o r t f o r M S — D O S , a n a c r o n y m f o r " M i c r o s o f t D i s k O p e r a t i n g S y s t e m . " M S - D O S i s t h e s t a n d a r d o p e r a t i n g s y s t e m f o r I B M - P C s . 1 E x p l a n a t o r y e x c l u s i o n p r i n c i p l e : " N o e v e n t c a n b e g i v e n m o r e t h a n o n e c o m p l e t e a n d i n d e p e n d e n t e x p l a n a t i o n " ( K i m 1 9 8 9 , p . 7 9 ) . 1 . ' M S - D O S " I s a r e g i s t e r e d t r a d e m a r k o f M i c r o s o f t I n c o r p o r a t e d . ” I B M “ a n d ' I B M - P C " a r e r e g i s t e r e d t r a d e m a r k s o f I n t e r n a t i o n a l B u s i n e s s M a c h i n e s I n c o r p o r a t e d . E L F U N F U N ’ I n I R I R S I R W M R N L U P 1 P C P r o g r a m X E l i m i n a t i v i s m : N o t h i n g h a s m e n t a l o r s e m a n t i c p r o p e r t i e s : n o m i n d s o r m e a n i n g s e x i s t . ( - ( E l x ) ( S x v M x ) ) . T u r i n g m a c h i n e f u n c t i o n a l i s m : P r o g r a m s a r e ( s u f f i c i e n t f o r ) m i n d s S p e c i f i c p r o g r a m s a r e ( s u f f i c i e n t f o r ) m i n d s f o r s p e c i f i c t y p e s o f s y s t e m . " I n " ( w i t h a c a p i t a l ’ 1 " ) , o r " i n t r i n s i c a l i t y , " c o n n o t e s a r e l a t i o n b e t w e e n t h i n g s ( i n c l u d i n g s t a t e s a n d e v e n t s a s w e l l a s o b j e c t s ) s t r o n g e r t h a n p h y s i c a l c o n t a i n m e n t . X ’ s b e i n g I n Y r e q u i r e s e v e r y t h i n g n e c e s s a r y f o r X b e i n g w h a t i t e s s e n t i a l l y i s ( o r f o r i n d i v i d u a t i n g X ) b e i n g I n Y . P r o p e r - t i e s a r e a l s o h e l d t o b e I n t h e i r s u b j e c t s i t e v e r y t h i n g n e c e s s a r y f o r h a v i n g t h e p r o p e r t y i s i n t r i n s i c t o ( o r s u p e r v e n i e n t o n t h e l o c a l p h y s i c a l p r o p e r t i e s o f ) t h e s u b j e c t : i n t h i s c o n n e c t i o n i n t r i n s i c a l i t y c a n b e v i e w e d a s a m e c h a n i s t i c c o n s t r a i n t o n e s s e n c e , a n e c e s s a r y c o n d i t i o n f o r e s s e n t i a l i t y o f a t t r i b u t e s . I n t e r m e d i a t e w o u l d - b e e x p e r i m e n t a l r e s u l t : P r o g r a m m i n g d o e s n o t s u f f i c e f o r s e m a n t i c s ( - ( x ) ( P x — » S x ) ) o r , e q u i v a l e n t l y , s o m e t h i n g s i m p l e m e n t P r o g r a m s w i t h o u t h a v i n g s e m a n t i c s ( ( E l x ) ( P x & - S x ) . S t r o n g m o d a l v e r s i o n o f I R : N e c e s s a r i l y P r o g r a m m i n g d o e s n ’ t s u f f i c e f o r s e m a n t i c s ( I I I - ( x ) ( P x a S x ) ) . W e a k m o d a l v e r s i o n o f I R : P o s s i b l y P r o g r a m m i n g d o e s n ’ t s u f f i c e f o r s e m a n t i c s ( o - ( x ) ( P x a S x ) ) . M u l t i p l e r e a l i z a b i l i t y : I d e n t i c a l t y p e s o f m e n t a l a t t r i b u t e s c a n b e r e a l i z e d o r c a u s e d b y d i f f e r e n t p r o g r a m s ( p r o c e d u r a l M R ) i n d i f f e r e n t p h y s i c a l t y p e s o f s y s t e m s ( h a r d w a r e M R ) . N a t u r a l l a n g u a g e u n d e r s t a n d i n g . P r e s u p p o s i t i o n 1 : S o m e t h i n g s i n s t a n t i a t e p r o g r a m s ( ( E l x ) P x ) . P e r s o n a l c o m p u t e r . ” P r o g r a m “ ( w i t h a c a p i t a l “ P " ) r e f e r s t o j u s t t h e T u r i n g t e s t p a s s i n g p r o g r a m s ( i n s o f a r a s b e h a v i o r i s m i s i n q u e s t i o n ) o r j u s t t h e T u r i n g t e s t p a s s i n g p r o g r a m s w h i c h d o i t i n t h e r i g h t w a y o r b y i m p l e m e n t i n g t h e r i g h t p r o g r a m ( i n s o f a r a s f u n c t i o n a l i s m i s i n q u e s t i o n ) . R ! R I S S 1 S 2 S A I P S A M S I R S R S t r o n g A l W e a k A l X R x i W o u l d — b e e x p e r i m e n t a l r e s u l t o f C R E ( d i r e c t l y c o n s t r u e d ) : S e a r l e i n t h e r o o m i m p l e m e n t s a n N L U P r o g r a m f o r C h i n e s e ( C S A M ) w i t h o u t u n d e r s t a n d i n g a n y C h i n e s e ( P s & - M s ) . W o u l d - b e e x p e r i m e n t a l r e s u l t o f C R E i n d i r e c t l y c o n s t r u e d : S e a r l e i n t h e r o o m i m p l e m e n t s a n N L U P r o g r a m f o r C h i n e s e ( C S A M ) w i t h o u t h a v i n g s e m a n t i c s f o r t h e C h i n e s e s y m b o l s h e p r o c e s s e s ( P s & - S s ) . T h e r o o m - i n - S e a r l e : S I R i n t e r n a l i z e d ( i . e . , C S A M m e m o r i z e d ) b y S e a r l e . S u p p l e m e n t a r y h y p o t h e s i s ( f o r S C R A ) : N o ( p r e s e n t l y e x i s t i n g ) c o m p u t e r h a s c a u s a l p o w e r s ( a t l e a s t ) e q u i v a l e n t t o a b r a i n ’ s . S u p p l e m e n t a r y h y p o t h e s i s 1 ( f o r B S A ) : A l l t h i n g s i n s t a n t i a t e P r o g r a m s ( ( X ) P X ) - S u p p l e m e n t a r y h y p o t h e s i s 2 ( f o r B S A ) : P r o g r a m m i n g p r e c l u d e s s e m a n t i c s ( ( x ) ( P x a - S x ) ) . S t r o n g A l p r o p e r : C o m p u t e r s t h i n k a l r e a d y . S c r i p t A p p l i e r M e c h a n i s m : S c h a n k a n d A b e l s o n ’ s s t o r y u n d e r s t a n d i n g p r o g r a m . S u p p l e m e n t a l C h i n e s e r o o m a r g u m e n t : C 2 , S / . - . - S A I P . S e a r l e - i n - t h e - r o o m : t h e s y s t e m c o n s i s t i n g o f S e a r l e , p r o g r a m , s l i p s o f p a p e r , e t c . . S c i e n t i f i c R e a l i s m : W h a t e v e r t h e b e s t s c i e n t i f i c t h e o r y u l t i m a t e l y p o s t u l a t e s f o r e x p l a n a t o r y p u r p o s e s r e a l l y e x i s t s a n d c o n s t i t u t e s o r c a u s e s t h e p h e n o m e n a i t e x p l a i n s . S e a r l e ’ s n a m e f o r T u r i n g m a c h i n e f u n c t i o n a l i s m . S e a r l e ’ s n a m e f o r h i s v i e w t h a t c o m p u t e r s m e r e l y s i m u l a t e t h e m e n t a l a b i l i t i e s t h e y s e e m t o m a n i f e s t . E x t r e m e w o u l d - b e e x p e r i m e n t a l r e s u l t ( e q u i v a l e n t t o S 2 ) : P r o g r a m m i n g p r e c l u d e s s e m a n t i c s ( ( x ) ( P x _ . - S x ) ) . I N T R O D U C T I O N I n c o n s i d e r i n g a n y n e w s u b j e c t , t h e r e i s f r e q u e n t l y a t e n d e n c y , f i r s t t o o v e r r a t e w h a t w e f i n d t o b e a l r e a d y I n t e r e s t i n g a n d r e m a r k a b l e ; a n d s e c o n d l y , b y a s o r t o f n a t u r a l r e a c t i o n , t o u n d e r v a l u e t h e t r u e s t a t e o f t h e c a s e , w h e n w e d o d i s c o v e r t h a t o u r n o t i o n s h a v e s u r p a s s e d t h o s e t h a t w e r e r e a l l y t e n a b l e . ( A u g u s t a 1 8 4 2 , p . 3 9 8 ) T h i s e s s a y c o n c e r n s t h e b e a r i n g o f J o h n S e a r l e ’ s i n f l u e n t i a l C h i n e s e r o o m t h o u g h t e x p e r i m e n t ( C R E ) a n d c o n n e c t e d C h i n e s e r o o m a r g u m e n t ( C R A ) o n q u e s t i o n s o f a r t i f i c i a l i n t e l l i g e n c e ( A I ) : c e n t r a l l y , o n t h e q u e s t i o n , " C a n m a c h i n e s [ s u c h a s c o m p u t e r s ] t h i n k ? “ ( T u r i n g 1 9 5 0 , p . 4 3 3 ) . S i n c e t h e a r g u m e n t a n d " e x p e r i m e n t " a r e n o t a l w a y s c a r e f u l l y d i s t i n g u i s h e d e i t h e r b y S e a r l e o r i n t h e l i t e r a t u r e , t h e o c c a s i o n a n d e v e n t h e n e e d w i l l f r e q u e n t l y a r i s e t o r e f e r i n d i s c r i m i - n a t e l y t o e i t h e r o r b o t h : o n s u c h o c c a s i o n s I w i l l e i t h e r s p e a k o f “ t h e C h i n e s e r o o m a r g u m e n t / ‘ e x p e n ' m e n t ” o r s i m p l y " t h e C h i n e s e r o o m . " " I n v i e w o f t h e f a c t t h a t t h e p r e s e n t i n t e r e s t i n ‘ t h i n k i n g m a c h i n e s ’ h a s b e e n a r o u s e d b y a p a r t i c u l a r k i n d o f m a c h i n e , u s u a l l y c a l l e d a n ‘ e l e c t r o n i c c o m p u t e r ’ o r ‘ d i g i t a l c o m p u t e r ” ( T u r i n g 1 9 5 0 , p . 4 3 6 ) , I r e s t r i c t m y I n q u i r y m a i n l y t o t h e s e . B y " m a c h i n e " I m e a n s u c h a s y o u r M a c l n t o s h , m y I B M - P C , I B M m a i n f r a m e s , t h e i r k i n , a n d ( A p p l e a n d I B M a b l e ) t h e i r d e s c e n d a n t s . ‘ ' T h i n k , " i n t h e c o n t e x t o f t h i s d i s c u s s i o n m e a n s t o h a v e m e n t a l p r o p e r t i e s : c o g n i t i v e p r o p e r t i e s ( 6 . 9 . , k n o w i n g , d e d u c i n g ) . c o n a t i v e o r 1 . “ M a c l n t o s h ” a n d " A p p l e “ a r e r e g i s t e r e d t r a d e m a r k s o f A p p l e I n c . 1 2 m o t i v e p r o p e r t i e s ( e . g . , w a n t i n g , s e e k i n g ) , p e r c e p t u a l p r o p e r t i e s ( e . g . , s e e i n g , h e a r i n g ) , e m o t i o n a l p r o p e r t i e s ( e . g . , a n g e r , a n x i e t y ) , e t c . T h i s d o e s n o t c l a i m t o b e a n e x h a u s t i v e o r m u t u a l l y e x c l u s i v e c a t e g o r i z a t i o n , j u s t a r o u g h , m o r e o r l e s s o s t e n s i v e , i n d i c a t i o n o f t h e p r o p e r t i e s i n q u e s t i o n : p r o p e r t i e s a n s w e r i n g t o p r e d i c a t e s o f t h e f a m i l i a r n e t w o r k o f t e r m s w e u s e t o u n d e r s t a n d e a c h o t h e r a n d p r e d i c t , e x p l a i n , a n d e v a l u a t e h u m a n ( a n d s o m e i n f r a h u m a n ) b e h a v i o r , t h e n e t w o r k o f t e r m s a s c r i b i n g p r o p o s i t i o n a l a t t i t u d e s a n d o t h e r a s s o c i a t e d p r o p e r t i e s ( e . g . , n e r v o u s n e s s , a n d p a i n ) t h a t I w i l l c a l l ( f o l l o w i n g C h u r c h l a n d 1 9 8 0 ) “ f o l k p s y c h o l o - g y , “ t h o u g h i t i s a l s o k n o w n a s " p r o p o s i t i o n a l a t t i t u d e p s y c h o l o g y “ ( F o d o r 1 9 8 6 ) , " t h e i n t e n t i o n a l i d i o m " ( L a n c e r 1 9 9 1 ) , “ c o m m o n s e n s e b e l i e f / d e s i r e p s y c h o l o g y " ( F o d o r 1 9 8 7 ) , e t c . T h u s f o r m u l a t e d , t h e q u e s t i o n o f A l c o n c e r n s w h e t h e r s u c h p r e d i c a t e s a s ” d e t e c t s k e y p r e s s e s , ” " c a l c u l a t e s t h a t 7 9 * 3 = 2 3 7 , " " t r i e s t o i n i t i a l i z e t h e p r i n t e r w h e n I f o r g e t t o t u r n t h e p r i n t e r o n , " " l o o k s a h e a d t o c o n s i d e r a n d e v a l u a t e d i f f e r e n t p o s s i b l e c o n t i n u a t i o n s o f c h e s s g a m e s , " e t c . - - p r e d i c a t e s w e h a b i t u a l l y a p p l y t o m a c h i n e s s u c h a s o u r I B M - P C s a n d M a c l n t o s h e s - t r u l y a p p l y t o p r e s e n t d a y c o m p u t e r s o r s o m e d a y w i l l t r u l y a p p l y t o m a c h i n e s t h a t a r e t h e d e s c e n d a n t s o f p r e s e n t d a y c o m p u t e r s . I c a l l t h e t h e s i s t h a t t h e y d o a p p l y , t h a t e x i s t i n g m a c h i n e s d o t h i n k , o r a l r e a d y h a v e m e n t a l p r o p e r t i e s , t h e t h e s i s o f s t r o n g A l p r o p e r ( S A I P ) . " ’ I c a l l t h e t h e s i s t h a t s u c h m a c h i n e s a s t h e s e c a n t h i n k ( r o u g h l y , t h a t t h e y s o m e d a y w i l l , i f t h e y d o n ’ t a l r e a d y ) , t h e t h e s i s o f A I p r o p e r ( A I P ) . T h i s c o n t r a s t s w i t h S e a r l e ’ s p r o p r i e t a r y u s e 2 . F o r e a s y r e f e r e n c e , a l i s t o f t h e a c r o n y m s , a b b r e v i a t i o n s a n d n o m e n c l a t u r e u s e d i n t h i s w o r k i s p r o v i d e d a b o v e . 3 o f t h e p h r a s e " s t r o n g A l " t o m e a n ( u s u a l l y ? ) T u r i n g m a c h i n e f u n c t i o n a l i s m ( t h e m e t a p h y s i c a l i d e n t i f i c a t i o n o f m e n t a l s t a t e s a n d p r o c e s s e s w i t h c o m p u t a t i o n a l s t a t e s a n d p r o c e s s e s ) , b u t a l s o t o m e a n ( s o m e t i m e s ) c l a i m s o f A l p r o p e r ( A I P o r S A I P ) , e . g . , c l a i m s b y A l r e s e a r c h e r s ( o n b e h a l f o f c u r r e n t l y e x i s t i n g o r e n v i s a g e d c o m p u t e r s ) t h a t " m y m a c h i n e , o r t h e m a c h i n e w e ’ r e e v e n t u a l l y g o i n g t o b u i l d h a s t h o u g h t p r o c e s s e s i n e x a c t l y t h e s a m e s e n s e t h a t y o u o r I h a v e t h o u g h t p r o c e s s e s " ( S e a r l e e t a l . 1 9 8 4 , p . 1 4 6 ) o r t h a t " t h e a p p r o p r i a t e l y p r o g r a m m e d c o m p u t e r r e a l l y i s a m i n d " a n d " c a n l i t e r a l l y b e s a i d t o u n d e r s t a n d a n d h a v e c o g n i t i v e s t a t e s " ( S e a r l e 1 9 8 0 a , p . 4 1 7 ) . S e a r l e ’ s C h i n e s e r o o m “ e x p e r i m e n t " i n v o l v e s i m a g i n i n g s o m e o n e ( S e a r l e o r o n e s e l f ) l o c k e d i n a r o o m , h a n d t r a c i n g a n a t u r a l l a n g u a g e u n d e r s t a n d i n g a n d g e n e r a t i o n p r o g r a m f o r C h i n e s e i n t h e f o r m o f a s e t o f w r i t t e n i n s t r u c t i o n s ( i n E n g l i s h ) f o r g e n e r a t i n g a p p r o p r i a t e C h i n e s e r e p l i e s t o C h i n e s e q u e r i e s . T h e p r o g r a m i s i m a g i n e d t o b e s u c h t h a t t h e " I n p u t a n d o u t p u t c a p a c i t i e s “ a n d p e r f o r m a n c e s o f S e a r l e i n t h e r o o m ( S I R ) " d u p l i c a t e d t h o s e o f a C h i n e s e s p e a k e r " ( S e a r l e 1 9 8 0 a , p . 4 2 3 ) . O n S e a r l e ’ s t e l l i n g , A s f a r a s t h e C h i n e s e i s c o n c e r n e d , I s i m p l y b e h a v e l i k e a c o m p u t e r ; I p e r f o r m c o m p u t a t i o n a l o p e r a t i o n s o n f o r m a l l y s p e c i f i e d e l e m e n t s . F o r t h e p u r p o s e s o f C h i n e s e , I a m s i m p l y a n l n s t a n t i a t i o n o f t h e c o m p u t e r p r o g r a m . ( S e a r l e 1 9 8 0 a , p . 4 1 9 ) " A l l t h e s a m e , " S e a r l e m a i n t a i n s , i n t h e e n v i s a g e d s i t u a t i o n h e " u n d e r s t a n d s n o t h i n g o f C h i n e s e , a n d a f o r t i o r i , n e i t h e r d o e s t h e s y s t e m , b e c a u s e t h e r e i s n ’ t a n y t h i n g i n t h e s y s t e m t h a t i s n ’ t i n h i m [ S e a r l e ] " ( S e a r l e 1 9 8 0 a , p . 4 1 9 ) . T h i s C h i n e s e r o o m " e x p e r i m e n t " - - a l o n g w i t h i t s a l l i e d a r g u m e n t a t i o n - - h a s b e e n a d v e r t i s e d b y S e a r l e 4 a n d w i d e l y v i e w e d a s s h o w i n g c l a i m s o f a r t i f i c i a l i n t e l l i g e n c e t o b e e i t h e r " d e m o n s t r a b l y f a l s e " ( S e a r l e e t a l . 1 9 8 4 , p . 1 4 6 ) o r “ s c i e n t i f i c a l l y o u t o f t h e q u e s t i o n " ( S e a r l e 1 9 9 0 3 , p . 3 1 ) , a d v e r t i s e d a n d u n d e r s t o o d a s s u p p o r t i n g t h e c o n c l u s i o n t h a t m a c h i n e s s u c h a s d i g i t a l c o m p u t e r s d o n ’ t t h i n k ( - S A I P ) a n d ( p r o b a b l y ) w o n ’ t e v e r ( - A l P ) . 3 I c o n t e n d t h a t n e i t h e r S e a r l e ’ s e x p e r i m e n t n o r i t s e m b e d d i n g a r g u m e n t h a v e a n y s u c h r e f u t a t o r y f o r c e a g a i n s t A I P o r e v e n S A I P . H e r e , i t i s w e l l t o d i s t i n g u i s h c l a i m s a b o u t t h e m e n t a l p r o p e r t i e s ( o r l a c k t h e r e o f ) o f s p e c i f i c t h i n g s ( e . g . , S A I P ) a n d t h e m e n t a l p r o s p e c t s ( o r l a c k t h e r e o f ) o f s m c i f i c t h i n g s ( e . g . , A I P ) f r o m t h e o r e t i c a l l y m o r e a m b i t i o u s m e t a p h y s i c a l c l a i m s a b o u t t h e n a t u r e o f m i n d s a n d e p i s t e m o l o g i c a l c l a i m s a b o u t t h e n a t u r e o f p s y c h o l o g i c a l e x p l a n a t i o n . S p e c i f i c a l l y , i t i s w e l l t o d i s t i n g u i s h t h e t w o c l a i m s j u s t b r u i t e d ( S A I P a n d A I P ) f r o m t h e o r e t i c a l l y m o r e a m b i t i o u s m e t a p h y s i c a l d o c t r i n e s , a n d r e l a t e d e p i s t e m o l o g i c a l d o c t r i n e s , w h i c h a l o n g w i t h A I P ( a n d s o m e t i m e s , b u t n o t a l w a y s , S A I P ) , h a v e t e n d e d , i n c o n t e m p o r a r y d i s c u s s i o n s , t o g o t o g e t h e r u n d e r s o m e s u c h b a n n e r a s " c o m p u t a t i o n a l i s m . " I w i l l r e f e r t o t h e d o c t r i n e w h i c h i d e n t i f i e s ( a r e s t r i c t e d c l a s s o f ) p r o g r a m s w i t h m i n d s , o r ( m o r e w e a k l y ) a s s u f f i c i e n t t o c a u s e m i n d s , " T u r i n g m a c h i n e f u n c t i o n a l i s m " ( F U N ) . l d i s t i n g u i s h t h i s h i g h l e v e l t h e o r e t i c a l c l a i m a b o u t w h a t m i n d s o r m e n t a l p r o p e r t i e s a r e ( t h e i r o n t o l o g y ) o r w h a t c a u s e s t h e m ( t h e i r e t i o l o g y ) f r o m l e s s t h e o r e t i c a l ( m o r e p r a c t i c a l o r e m p i r i c a l ) c l a i m s a b o u t t h e s p e c i f i c m e n t a l p r o p e r t i e s o f s p e c i f i c ( t y p e s o f ) t h i n g s ( i . e . , A I P a n d S A I P ) o n t h e o n e h a n d ; a n d l d i s t i n g u i s h t h e s e ( A I P , S A I P a n d F U N ) f r o m m e t h o d o l o g i c a l o r e p i s t e m o l o g i c a l c l a i m s - t h a t " p r o g r a m s e x p l a i n 3 . F o l l o w i n g a s t a n d a r d c o n v e n t i o n , s i g n i f i e s n e g a t i o n h e r e . 5 h u m a n c o g n i t i o n " ( S e a r l e 1 9 8 0 a , p . 4 1 7 ) o r t h a t " A l c o n c e p t s o f s o m e s o r t m u s t f o r m p a r t o f t h e s u b s t a n t i v e c o n t e n t o f p s y c h o l o g i c a l t h e o r y " ( B o d e n 1 9 9 0 , p . 2 ) - - o n t h e o t h e r . I r e f e r t o t h i s l a t t e r e p i s t e m o l o g i c a l o r m e t h o d o l o g i c a l t h e s i s ( o r f a m i l y o f t h e s e s ) a s " c o g n i t i v l s m " ( C O G ) . S e a r l e ’ s r e m a r k a b l y i n f l u e n t i a l C h i n e s e R o o m a r g u m e n t / " e x p e r i m e n t " ( S e a r l e 1 9 8 0 a ; 1 9 8 4 , p . 3 8 f ; 1 9 9 0 a ) - t h i s " i n f a m o u s C h i n e s e r o o m a r g u m e n t , " a s J o h n F i s h e r h a s c a l l e d i t ( F i s h e r 1 9 8 8 , p . 2 7 9 ) - h a s b e e n d e s c r i b e d a s h a v i n g " a l r e a d y a c h i e v e d t h e s t a t u s o f a m i n o r c l a s s i c " ( F i s h e r 1 9 8 8 , p . 2 7 9 ) a n d a s " h a v i n g s h o o k u p t h e e n t i r e A l f i e l d " s o c o n s i d e r a b l y t h a t " t h i n g s s t i l l h a v e n o t s e t t l e d d o w n s i n c e " ( H a m a d 1 9 9 1 , p . 4 7 ) . S e a r l e ’ s C h i n e s e r o o m ( a r g u m e n t a n d e x p e r i m e n t ) , f o r s o m e , h a s e v e n " r a p i d l y b e c o m e a r i v a l t o t h e T u r i n g T e s t a s a t o u c h s t o n e o f p h i l o s o p h i c a l i n q u i r i e s i n t o t h e f o u n d a t i o n s o f A l " ( R a p a p o r t 1 9 8 8 , p . 8 3 ) . A l p i o n e e r P . J . H a y e s h a s w r i t t e n t h a t h i s o w n n o t i o n o f w h a t c o n s t i t u t e s t h e c o r e o f c o g n i t i v e s c i e n c e " c o u l d b e s u m m e d u p i n t h e f o l l o w i n g w a y : i t c o n s i s t s o f a c a r e f u l a n d d e t a i l e d e x p l a n a t i o n o f w h a t ’ s r e a l l y s i l l y a b o u t S e a r l e ’ s C h i n e s e r o o m a r g u m e n t “ ( H a y e s 1 9 8 2 , p . 2 ) . I p r o p o s e t o u n d e r t a k e s u c h a c a r e f u l a n d d e t a i l e d e x p l a n a t i o n . O n t h e o n e h a n d , I a g r e e w i t h H a y e s a b o u t t h e s i l l i n e s s o f t h e C h i n e s e r o o m ( a r g u m e n t a n d e x p e r i m e n t ) , a n d w i t h G e o r g e s R e y t h a t " t h i s a r g u m e n t h a s c o m m a n d e d m o r e r e s p e c t t h a n i t d e s e r v e s " ( R e y 1 9 8 6 , p . 1 6 9 ) : i t ( r a t h e r o b v i o u s l y , I t h i n k ) l a c k s l o g i c a l o r e v i d e n t i a l f o r c e s u c h a s i t h a s b e e n a d v e r t i s e d a n d w i d e l y s u p p o s e d t o h a v e a g a i n s t c l a i m s o f a r t i f i c i a l i n t e l l i g e n c e ( S A I P a n d A I P ) a n d “ r e l i e s [ m i g h t i l y ] o n i l l g o t t e n g a i n s " ( B e n n e t t 1 9 8 0 , p . 4 2 9 ) f r o m " i m p r e s s i v e p i c t u r e s a n d d i m n o t i o n s c a p t u r i n g o l d p r e j u d i c e s n o t o n s o l i d 6 a r g u m e n t " ( W e i s s 1 9 9 0 , p . 1 8 0 ) . O n t h e o t h e r h a n d , I s h a r e H a y e s ’ s g r u d g i n g a d m i r a t i o n a n d r e c o g n i t i o n o f t h e C h i n e s e r o o m ’ s i m p o r t a n c e d u e t o t h e f a c t , I b e l i e v e , t h a t m u c h o f w h a t t u r n s o u t t o b e " r e a l l y s i l l y a b o u t S e a r l e ’ s C h i n e s e r o o m a r g u m e n t " i s n o t u n i q u e t o t h e a r g u m e n t o r o r i g i n a l w i t h S e a r l e b u t d e r i v e s r a t h e r f r o m a s s u m p t i o n s m o s t p r o p o n e n t s o f A I a n d p r a c t i t i o n e r s o f C o g n i t i v e S c i e n c e s h a r e w i t h S e a r l e . I n t h i s c o n n e c t i o n , t h e q u e s t i o n o f w h y S e a r l e ’ s C h i n e s e r o o m a r g u m e n t h a s c o m m a n d e d s u c h r e s p e c t ( d e s p i t e i t s l o g i c a l a n d e v i d e n t i a l s h o r t c o m i n g s ) , n o t j u s t a m o n g o p p o n e n t s o f A I , b u t a m o n g A l p r o p o n e n t s , i s s c a r c e l y l e s s i n t e r e s t i n g t h a n t h e m a i n q u e s t i o n o f w h e t h e r t h e a r g u m e n t h a s t h e f o r c e a g a i n s t c l a i m s o f A l i t h a s b e e n a d v e r t i s e d a n d w i d e l y t h o u g h t t o h a v e . F o l l o w i n g a s u r v e y o f t h e p h i l o s o p h i c a l n e i g h b o r h o o d o f t h e C h i n e s e r o o m a n d t h e p h i l o s o p h i c a l g e n e a l o g y o f S e a r l e ’ s t h o u g h t e x p e r i m e n t t r a c i n g i t s l i n e a g e b a c k t o s i m i l a r p r o p o s a l s o f T u r i n g ( 1 9 5 0 ) a n d D e s c a r t e s ( 1 6 3 7 ) , i n C h a p t e r 1 o f t h i s e s s a y , C h a p t e r 2 s h o w s S e a r l e ’ s a r g u m e n t ( C R A ) l a c k s l o g i c a l f o r c e a g a i n s t e i t h e r A I P o r S A I P . T h e f o r c e a g a i n s t t h e s e c l a i m s t h a t S e a r l e ’ s a r g u m e n t h a s s e e m e d t o m a n y t o h a v e , I m a i n t a i n , i s d u e t o h i s p r o p r i e t a r y u s e o f t h e p h r a s e “ s t r o n g A l " t o c o n f l a t e t h e c l a i m ( F U N ) t h a t p r o g r a m s a r e ( m e t a p h y s i c a l l y ) " c o n s t i t u t i v e o f " o r ( c a u s a l l y ) " s u f f i c i e n t f o r " m i n d , w i t h c l a i m s t h a t " m y m a c h i n e [ S A I P ] , o r t h e m a c h i n e t h a t w e ’ r e e v e n t u a l l y g o i n g t o b u i l d [ A I P ] h a s t h o u g h t p r o c e s s e s i n e x a c t l y t h e s a m e s e n s e a s y o u a n d l h a v e t h o u g h t p r o c e s s e s " ( S e a r l e e t a l . 1 9 8 4 , p . 1 4 6 ) . C o n s t r u e d a s a n a r g u m e n t a g a i n s t S A I P a n d A I P S e a r l e ’ s c e l e b r a t e d " r e f u t a t i o n o f A I " i s a n i g n o r a t i o e l e n c h i . Y e t , i t h a s a c e r t a i n a d h o m i n e m o r p o l e m i c a l f o r c e a g a i n s t " h i g h c h u r c h " c o m p u t a t i o n a l i s t s 7 w h o b a s e t h e i r a c c e p t a n c e o f A I P o n F U N ( i n c o n j u n c t i o n w i t h t h e C h u r c h - T u r i n g t h e s i s ) w h i l e d e n y i n g o r s t r o n g l y d o u b t i n g S A I P : e i t h e r t h e y d e n y o r s t r o n g l y d o u b t a n y p r e s e n t d a y m a c h i n e s r e a l l y h a v e t h e m e n t a l p r o p e r t i e s w e h a b i t u a l l y a t t r i b u t e t o t h e m o r , a l t e r n a t e l y ( t h e l i n e a s s a y e d , e . g . , b y R a p a p o r t 1 9 9 2 ) d e n y o r s t r o n g l y d o u b t t h a t s u c h p r o p e r t i e s ( e . g . , r e c o g n i z i n g t h e d i r c o m m a n d , c a l c u l a t i n g t h a t 7 + 5 = 1 2 , c o n s i d e r i n g a n d e v a l u a t i n g a l t e r n a t e p o s s i b l e c o n t i n u a t i o n s o f c h e s s g a m e s ) a s h a d b y c o m p u t e r s ( P C s r u n n i n g D O S , p o c k e t c a l c u l a t o r s , a n d D e e p T h o u g h t , r e s p e c t i v e l y ) a r e r e a l l y m e n t a l . I u n d e r s t a n d t h e h i g h c h u r c h a r g u m e n t t o b e , r o u g h l y , t h e f o l l o w i n g : T h i n k i n g i s a s p e c i e s o f c o m p u t a t i o n . ( F U N ) A T u r i n g m a c h i n e c a n c o m p u t e a n y c o m p u t a b l e f u n c t i o n . ( T u r i n g - C h u r c h t h e s i s ) D i g i t a l c o m p u t e r s i m p l e m e n t T u r i n g m a c h i n e s . D i g i t a l c o m p u t e r s c a n t h i n k . T h e s e c o n d h a l f o f C h a p t e r 2 s h o w s t h a t S e a r l e ’ s a r g u m e n t ( C R A ) i s n o t a s o u n d a r g u m e n t a g a i n s t F U N , t h e d o c t r i n e w h i c h S e a r l e ’ s m o s t c a r e f u l f o r m u l a t i o n s o f C R A , I t a k e i t , e x p l i c i t l y t a r g e t . T h e a r g u m e n t i s i n v a l i d : t h o u g h t h e p r e m i s e s S e a r l e s e t s o u t m a y b e t r u e , t h e y d o n ’ t l o g i c a l l y e n t a i l - F U N . T h i s b e i n g t h e c a s e , o n e m a y w o n d e r w i t h T h o m a s W e i s s , " W h y d i d s o m a n y f u n c t i o n a l i s t s t r y t o a n s w e r a n i n v a l i d a r g u m e n t ? W h y a r e s o m a n y [ o t h e r s ] c o n v i n c e d t h a t S e a r l e s u c c e e d e d i n s h o w i n g t h e f a l s i t y o f f u n c t i o n a l i s m ? " ( W e i s s 1 9 9 0 , p . 1 6 9 ) W e i s s ’ s a n s w e r " t h a t S e a r l e a p p e a l s t o u n e x a m i n e d i n t u i t i o n s " c o m p r i s i n g " o u r c o m m o n - s e n s e n o t i o n o f c o n s c i o u s n e s s , " w h i c h i s " o u r i d e a o f a s u b j e c t , o f a b e i n g w i t h e x p e r i e n c e " ( W e i s s 1 9 9 0 , p . 1 6 9 ) , w h i l e p a r t o f t h e s t o r y , p l a i n l y i s n ’ t t h e w h o l e . " I n t u i t i o n s " a b o u t c o n s c i o u s s u b p c t i v e e x p e r i e n c e W e i s s c i t e s d o , I t h i n k , a c c o u n t 8 f o r m u c h o f t h e p o p u l a r a p p e a l o f S e a r l e ’ s a r g u m e n t , a s w e l l a s t h e a r g u m e n t ’ s a p p e a l f o r s u c h N e o - C a r t e s l a n s a s H a r n a d ( 1 9 8 9 , 1 9 9 1 ) a n d S e a r l e h i m s e l f ; b u t W e i s s ’ s e x p l a n a t i o n f a i l s t o e x p l a i n w h y e v e n i n d i v i d u a l s u n s y m p a t h e t i c t o S e a r l e ’ s N e o - C a r t e s i a n i n t u i t i o n s a b o u t c o n s c i o u s s u b j e c t i v e e x p e r i e n c e " h a v e [ a l s o ] t r i e d t o a n s w e r a n a p p a r e n t l y i n v a l i d a r g u m e n t " o r h a v e e v e n b e e n " c o n v i n c e d t h a t S e a r l e s u c c e e d e d i n s h o w i n g t h e f a l s i t y o f f u n c t i o n a l i s m . " C h a p t e r 2 c o n c l u d e s b y e x p l o r i n g o n e r e a s o n S e a r l e ’ s a r g u m e n t h a s s e e m e d t o c a l l f o r r e f u t a t i o n b y f u n c t i o n a l i s t s o r m e r i t a l l e g i a n c e f r o m o p p o n e n t s o f f u n c t i o n a l i s m d i s i n c l i n e d t o a c c e p t S e a r l e ’ s N e o - C a r t e s i a n i s m a s s u m p t i o n s . T h e r e a s o n i s t h a t , d e s p i t e t h e i n v a l i d i t y o f S e a r l e ’ s s t a t e d a r g u m e n t , t h e a r g u m e n t s u p p l e m e n t e d b y a n a s s u m p t i o n m a n y f u n c t i o n a l i s t s a n d c o m p u t a t i o n a l i s t s h o l d - - t h a t a n y t h i n g i n t e r p r e t a b l e a s a n i n s t a n t i a t i o n o f a p r o g r a m i s a p r o p e r i m p l e m e n t a t i o n o f t h a t p r o g r a m - - i s v a l i d . T h i s a s s u m p t i o n S e a r l e t e r m s " t h e s t a n d a r d t e x t b o o k d e f i n i t i o n o f c o m p u t a t i o n " ( S e a r l e 1 9 9 0 0 , p . 2 6 ) h a s t h e c o n s e q u e n c e t h a t a l m o s t a n y t h i n g i n s t a n t i a t e s ( u n d e r s o m e p o s s i b l e i n t e r p r e t a t i o n f u n c t i o n ) a l m o s t a n y p r o g r a m y o u l i k e . T h e v a l i d i t y o f S e a r l e ’ s a r g u m e n t g i v e n t h i s a s s u m p t i o n a n d c o n s e q u e n c e , I t h i n k , e x p l a i n s i n p a r t w h y f u n c t i o n a l i s t s n o t p r e d i s p o s e d t o c r e d i t i n t u i t i o n s a b o u t c o n s c i o u s s u b j e c t i v e e x p e r i e n c e s h a v e s t i l l t h o u g h t i t n e c e s s a r y t o a n s w e r S e a r l e ’ s a r g u m e n t . Y e t o t h e r s s h a r e t h e i n t u i t i o n a b o u t s y n t a x n o t s u f f i c i n g f o r s e m a n t i c s t h a t S e a r l e ' s t h o u g h t e x p e r i m e n t " p u m p s " ( D e n n e t t 1 9 8 0 , p . 4 2 9 ) f o r r e a s o n s h a v i n g n o t h i n g t o d o w i t h t h e i m a g i n e d l a c k o f c o n s c i o u s s u b j e c t i v e e x p e r i e n c e s o f m e a n i n g o n t h e p a r t o f S I R , b u t f o r r e a s o n s h a v i n g t o d o w i t h w h a t t h e y t a k e t o b e S e a r l e - i n - r o o m ’ s l a c k o f s o m e t h i n g e l s e . S o m e 9 h y p o t h e s i z e t h e s o m e t h i n g e l s e t h a t S I R l a c k s i s a p p r 0 p r i a t e c a u s a l ( p e r c e p t u a l l y , b e h a v i o r a l l y , a n d p e r h a p s s o c i a l l y m e d i a t e d ) c o n n e c t i o n t o t h e r e f e r e n t s o f t h e C h i n e s e s y m b o l s h e p r o c e s s e s . S u c h m i s g i v i n g s , d r i v e n r a t h e r b y c a u s a l t h e o r e t i c i n t u i t i o n s a b o u t r e f e r e n c e t h a n N e o - C a r t e s i a n i n t u i t i o n s a b o u t c o n s c i o u s n e s s , a r e a n t i c i p a t e d i n C h a p t e r 1 a n d a d d r e s s e d m o r e f u l l y i n C h a p t e r 3 . C h a p t e r 3 s h i f t s t h e f o c u s o f m y a t t e n t i o n f r o m S e a r l e ’ s f o r m a l i z e d a r g u m e n t ( C R A ) t o h i s v a u n t e d " e x p e r i m e n t " ( C R E ) . C h a p t e r 3 a i m s t o s h o w t h a t S e a r l e ’ s " e x p e r i m e n t " i s m e t h o d o l o g i c a l l y f l a w e d a n d u l t i m a t e l y u n c o n v i n c i n g : C R E f a i l s t o p r o v i d e a t e l l i n g c o u n t e r e x a m p l e t o t h e T u r i n g T e s t ( T u r i n g 1 9 5 0 ) a n d , c o n s e - q u e n t l y , C R E f a i l s t o a r g u e a s s u c h ( a c o u n t e r e x a m p l e t o t h e T u r i n g T e s t ) a g a i n s t S A I P a n d t h e r e b y f a i l s t o m i l i t a t e , ( a s i t m i g h t b e s u p p o s e d b y i n d u c t i v e e x t r a p o l a - t i o n , p e r h a p s , t o d o ) e i t h e r a g a i n s t A I P o r F U N . T h e m e t h o d o l o g i c a l f l a w l a l l e g e i s S e a r l e ’ s N e o - C a r t e s i a n g r a n t o f o v e r r i d i n g e p i s t e m i c p r i v i l e g e - t h e p r i v i l e g e o f o v e r r i d i n g a l l p u b l i c , b e h a v i o r a l e v i d e n c e t o t h e c o n t r a r y - - t o S I R ’ s p r e s u m e d l a c k o f i n t r o s p e c t i v e a w a r e n e s s o r p r e s u m e d d i s a v o w a l o f t h e m e n t a l p r o p e r t y ( u n d e r - s t a n d i n g C h i n e s e ) a t i s s u e . S e a r l e ’ s " e x p e r i m e n t " ( o n h i s o w n u n d e r s t a n d i n g o f i t ) i s a n a t t e m p t t o i m p l e m e n t t h e m e t h o d o l o g i c a l i m p e r a t i v e , " a l w a y s i n s i s t o n t h e fi r s t p e r s o n p o i n t o f v i e w " ( S e a r l e 1 9 8 0 b , p . 4 5 1 ) . M y o b j e c t i o n - - t h a t s u c h a g r a n t o f o v e r r i d i n g e p i s t e m i c p r i v i l e g e t o h o w i t s e e m s t o S I R " f r o m t h e p o i n t o f v i e w o f t h e a g e n t , f r o m m y p o i n t o f v i e w " ( S e a r l e 1 9 8 0 3 , p . 4 1 9 - 4 2 0 ) i s i n d e f e n s i - b l e - - p u r s u e s w h a t S e a r l e ( 1 9 8 0 a , p . 4 2 1 - 4 2 2 ) c a l l s t h e " o t h e r m i n d s r e p l y " : t h i s a n t i c i p a t e s l a t t e r d i s c u s s i o n ( i n C h a p t e r 6 ) o f t h e i n a d e q u a c y ( f o r s c i e n t i f i c t h e o r e t i c o r j u s t p l a i n p r a c t i c a l p u r p o s e s ) o f S e a r l e ’ s a t t e m p t e d w h o l e s a l e 1 O i d e n t i f i c a t i o n o f m e n t a l p r o p e r t i e s w i t h s t a t e s o r m o d i f i c a t i o n s o f c o n s c i o u s n e s s . A d d i t i o n a l l y , C h a p t e r 3 a r g u e s , e v e n i f s u c h a g r a n t o f o v e r r i d i n g e p i s t e m i c p r i v i l e g e t o " t h e f i r s t p e r s o n p o i n t o f v i e w " w e r e a l l o w e d , S e a r l e ’ s e x a m p l e w o u l d s t i l l b e u n c o n v i n c i n g u n l e s s t h e g r a n t i s e v e n m o r e i m p l a u s i b l y e x t e n d e d n o t o n l y t o a c t u a l i n t r o s p e c t i v e j u d g m e n t s o r f i r s t - p e r s o n a v o w a l s , b u t t o i n t r o s p e c t i v e j u d g m e n t s o r d i s a v o w a l s o n e i m a g i n e s o n e w o u l d m a k e i n c i r c u m s t a n c e s o n e c a n s c a r c e l y i m a g i n e . C h a p t e r 2 c o n c l u d e d b y o b s e r v i n g t h a t C R A - - w h i l e f a i l i n g t o r e f u t e F U N o u t r i g h t - - i s c o m p e l l i n g a g a i n s t s t a n d a r d v e r s i o n s o f T u r i n g M a c h i n e f u n c t i o n a l i s m w h i c h h o l d i t s u f f i c e s f o r i m p l e m e n t i n g a p r o g r a m ( o r m a c h i n e t a b l e ) i n t h e s e n s e r e l e v a n t t o c o g n i t i v e a t t r i b u t i o n m e r e l y t o i n s t a n t i a t e t h e p r o g r a m ( o r m a c h i n e t a b l e ) u n d e r s o m e m a t h e m a t i c a l l y p o s s i b l e i n t e r p r e t a t i o n f u n c t i o n . T h u s C R A a t l e a s t d e f i n e s a r e s e a r c h i m p e r a t i v e f o r T u r i n g M a c h i n e f u n c t i o n a l i s m : e l a b o r a t e a m o r e r o b u s t n o t i o n o f p r o g r a m i m p l e m e n t a t i o n t h a n t h e a n e m i c ( m a t h e m a t i c a l ) s e n s e i n v o k e d b y “ t h e s t a n d a r d t e x t b o o k d e f i n i t i o n o f c o m p u t a t i o n " ( S e a r l e 1 9 9 0 c , p . 2 6 2 7 ) . S i n c e e f f o r t s a l o n g t h e s e l i n e s h a v e , t o d a t e , b e e n f e w a n d h a l t i n g ( V i n o d G o a l 1 9 9 1 r e p r e s e n t s o n e s u c h a t t e m p t ) , S e a r l e ’ s a r g u m e n t h a s c o n s i d e r a b l e a d h o m i n e m o r p o l e m i c a l f o r c e a g a i n s t e x t a n t v e r s i o n s o f T u r i n g m a c h i n e f u n c t i o n a l i s m . S h o u l d e f f o r t s a l o n g t h e s e l i n e s c o n t i n u e t o b e f e w a n d h a l t i n g , S e a r l e ’ s a r g u m e n t , p e r h a p s , b e c o m e s s c i e n t i f i c a l l y d e c i s i v e a g a i n s t T u r i n g m a c h i n e f u n c t i o n a l i s m . T h e u p s h o t o f C h a p t e r 3 i s t h a t i f t h e m a i n o r o n l y r e a s o n o n e h a s f o r b e l i e v i n g t h a t A l P i s t r u e d e r i v e s f r o m f u n c t i o n a l i s t t h e o r y v i a s o m e t h i n g l i k e t h e " h i g h c h u r c h " a r g u m e n t l i m n e d a b o v e , a n d C R A i n l i e u o f 1 1 p r o g r e s s b y f u n c t i o n a l i s t s a l o n g t h e l i n e s j u s t m e n t i o n e d m a k e s a c o m p e l l i n g c a s e a g a i n s t F U N , t h e n C R A m a k e s a p o l e m i c a l l y c o m p e l l i n g c a s e a d h o m i m e n , a g a i n s t o n e ’ s b e l i e f i n A l ( i . e . , i n t h e t r u t h o f A I P ) . F u r t h e r m o r e , i f C R A m a k e s a c o m p e l l i n g c a s e a g a i n s t F U N , a n d F U N i s t h e o n l y b a s i s a n y o n e h a s f o r b e l i e v i n g i n A l , o r i f i t ’ s t h e m a i n b a s i s f o r s c i e n t i f i c b e l i e f i n A l , t h e n S e a r l e ’ s C R A m a y e v e n p u t A l " s c i e n t i f i c a l l y o u t o f t h e q u e s t i o n " a s S e a r l e a l l e g e s . A g a i n s t a l l t h i s , I m a i n t a i n i n C h a p t e r 4 , t h a t t h e r e a r e r e a s o n s f o r a c c e p t i n g A I t h a t d o n o t d e p e n d o n a c c e p t a n c e o f F U N , t h a t r e n d e r A I i t s e l f ( S A I P a n d c o n s e q u e n t l y A I P ) i m m u n e t o S e a r l e ’ s a r g u m e n t ; s t r o n g r e a s o n s t o c o n s i d e r s u c h a t t r i b u t i o n s a s t h o s e a l r e a d y m e n t i o n e d ( e . g . , " D O S r e c o g n i z e s t h e d i r c o m m a n d " ) t o b e t r u e l i t e r a l a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s . W h a t w a r r a n t s c r e d i t i n g s u c h a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o c o m p u t e r s a t f a c e v a l u e - - w h a t s u p p o r t s t h e i d e a t h a t p r e s e n t d a y m a c h i n e s , s u c h a s t h e I B M - P C I a m w r i t i n g o n , r e a l l y d o d e t e c t k e y p r e s s e s , r e c o g n i z e c o m m a n d s , p e r f o r m m a t h e m a t i c a l c a l c u l a - t i o n s , t r y t o i n i t i a l i z e o u r p r i n t e r s ( w h e n w e f o r g e t t o t u r n o u r p r i n t e r s o n ) , e t c . a n d t h u s " h a v e t h o u g h t p r o c e s s e s i n e x a c t l y t h e s a m e s e n s e t h a t y o u a n d I h a v e t h o u g h t p r o c e s s e s " ( S e a r l e 1 9 8 4 e t a l . , p . 1 4 6 ) - - i s ( 1 ) t h a t s u c h a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o c o m p u t e r s " g i v e s p r e d i c t i v e [ a n d e x p l a n a t o r y ] p o w e r w e c o u l d g e t b y n o o t h e r m e t h o d " ( D e n n e t t 1 9 8 1 , p . 2 3 ) a n d ( 2 ) t h a t " a n o r d i n a r y a p p l i c a t i o n o f O c c a m ’ s r a z o r p l a c e s t h e o n u s o f p r o o f o n t h o s e w h o w i s h t o c l a i m t h a t t h e s e s e n t e n c e s a r e a m b i g u o u s " ( S e a r l e 1 9 7 5 b , p . 4 0 ) . C h a p t e r 4 a r g u e s t h a t t h e r e a r e n o c o m p e l l i n g i n t u i t i v e r e a s o n s , n o i n t u i t i o n s o f f i g u r a t i v e n e s s o r a m b i g u i t y a t t e n d i n g s u c h a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o c o m p u t e r s , s u f f i c i e n t 1 2 t o w a r r a n t S e a r l e ’ s c h a r g e s t h a t s u c h e v e r y d a y a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o c o m p u t e r s a r e u n i f o r m l y f i g u r a t i v e a n d e q u i v o c a l . S t a n d a r d a m b i g u i t y t e s t s t h a t S e a r l e h i m s e l f a d v o c a t e s a n d a p p l i e s i n o t h e r c o n n e c t i o n s ( S e a r l e 1 9 8 0 d ) , i n f a c t , s t r o n g l y s u p p o r t t h e c l a i m s o f t h e p r e d i c a t i o n s o f m e n t a l t e r m s t o c o m p u t e r s i n q u e s t i o n t o b e l i t e r a l u n i v o c a l p r e d i c a t i o n s . W h i l e a g r e e i n g w i t h S e a r l e t h a t t h e q u e s t i o n o f w h e t h e r m a c h i n e s ( s u c h a s c o m p u t e r s ) c a n t h i n k " i s a n e m p i r i c a l q u e s t i o n “ ( S e a r l e 1 9 6 0 a , p . 4 2 2 ) ; w h a t I m a i n t a i n , c o n t r a r y t o S e a r l e , i n C h a p t e r 4 , i s t h a t p r i m a f e e l s , t h e e m p i r i c a l e v i d e n c e i s t h a t t h e y c a n , b e c a u s e s o m e o f t h e m e v i d e n t l y d o . I c a l l t h i s v i e w , w h i c h b a s e s a c c e p t a n c e o f A I P o n a c c e p t a n c e o f S A I P , a n d a c c e p t s S A I P b a s e d o n t h e u n s t u d i e d j u d g m e n t s ( w o r k i n g m e n t a l a t t r i b u t i o n s ) w e m a k e o n t h e b a s i s o f o u r e x p e r i e n c e s w i t h c o m p u t e r s , n a i v e A l . T h e p r i m a f a c i e e v i d e n c e ( w h a t o u r i n t e r a c t i o n s w i t h c o m p u t e r s l e a d u s t o s a y o f t h e m ) t o g e t h e r w i t h t h e t e n d e n c y o f s t a n d a r d a m b i g u i t y t e s t s t o s u p p o r t t h e c l a i m t h a t m a n y a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s w e m a k e t o c o m p u t e r s a r e l i t e r a l u n i v o c a l a t t r i b u t i o n s , I c o n c l u d e , p l a c e s t h e o n u s S e a r l e a c k n o w l e d g e s s q u a r e l y o n t h o s e ( s u c h a s h i m s e l f ) w h o m a i n t a i n ( i n t h e f a c e o f t h e p r i m a f a c i e e m p i r i c a l e v i d e n c e ) t h a t t h e m a c h i n e s i n q u e s t i o n d o n o t l i t e r a l l y a n d t r u l y h a v e t h e m e n t a l p r o p e r t i e s w e a t t r i b u t e t o t h e m w i t h s u c h p r e d i c t i v e a n d e x p l a n a t o r y s u c c e s s . I n t h e f a c e o f s u c h l i n g u i s t i c h a b i t s a n d t h e i r p r e d i c t i v e s u c c e s s , t h e o r e t i c a l b a s i s i s r e q u i r e d f o r d e n y i n g t h e a t t r i b u t i o n s i n q u e s t i o n a r e t r u e a n d l i t e r a l , n o t f o r a s s e r t i n g i t . T h e t h e o r e t i c a l b a s i s S e a r l e t r i e s t o p r o v i d e f o r d i s c o u n t i n g e v e r y d a y a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o c o m p u t e r s a s e q u i v o c a l i s a d i s t i n c t i o n b e t w e e n 1 3 ( g e n u i n e ) " i n t r i n s i c i n t e n t i o n a l i t y " a n d d e r i v e d i n t e n t i o n a l i t y o r ( c o u n t e r f e i t ) " a s - i f i n t e n t i o n a l i t y ” ( s e e , e . g . , S e a r l e 1 9 8 0 b ) . T h e r e m a i n i n g i s s u e , t h e n , i s w h e t h e r S e a r l e ’ s n o t i o n o f i n t r i n s i c i n t e n t i o n a l i t y p r o v i d e s a n y a d e q u a t e s c i e n t i f i c o r t h e o r e t i c a l b a s i s f o r d e n y i n g o u r e v e r y d a y w o r k i n g p r e d i c a t i o n s o f m e n t a l t e r m s ( s o c a l l e d " p r o p o s i t i o n a l a t t i t u d e v e r b s , " e s p e c i a l l y ) t o c o m p u t e r s a r e t r u e l i t e r a l p r e d i c a t i o n s . C h a p t e r 5 a n d C h a p t e r 6 a r g u e t h a t n e i t h e r o f S e a r l e ’ s t a k e s o n i n t r i n s i c a l i t y - - n e i t h e r u n d e r s t a n d i n g " i n t r i n s i c " t o m e a n p h y s i c a l l y i n t h e n e r v o u s s y s t e m n o r u n d e r s t a n d i n g i t t o m e a n p h e n o m e n o l o g i c a l l y i n c o n s c i o u s n e s s - - p r o v i d e s p e r s p i c u o u s t h e o r e t i c o r s c i e n t i f i c r e a s o n s f o r d i s m i s s i n g p r e d i c a t i o n s o f m e n t a l t e r m s o f c o m p u t e r s a s m e r e a s - i f a t t r i b u t i o n s d i s t i n c t f r o m t r u e l i t e r a l a t t r i b u t i o n s ( o f " i n t r i n s i c i n t e n t i o n a l i t y " ) w e m a k e b y p r e d i c a t i n g t h e s a m e m e n t a l t e r m s o f h u m a n s a n d s o m e a n i m a l s . C h a p t e r 5 c o n s i d e r s t h e q u e s t i o n o f w h e t h e r o u r m e n t a l p r o p e r t i e s ( i n p a r t i c u l a r , p r o p o s i t i o n a l a t t i t u d e s o r i n t e n t i o n a l m e n t a l s t a t e s ) a r e p h y s i c a l l y i n u s ( h u m a n s ) a n d o u r a n i m a t e c o u s i n s i n a w a y i n w h i c h t h e y a r e n o t p h y s i c a l l y i n c o m p u t e r s : w i t h c o m p u t e r s , S e a r l e a l l e g e s , m e n t a l p r O p e r t i e s a r e j u s t " i n t h e e y e o f t h e b e h o l d e r ” ( S e a r l e 1 9 8 0 a , p . 4 2 0 ) . C h a p t e r 5 a r g u e s t h a t , o n t h e o n l y u n d e r s t a n d i n g o f " i n " o n w h i c h t h e p r o p o s i t i o n a l c o n t e n t o f t h e a t t i t u d e s o r i n t e n t i o n a l m e n t a l s t a t e s w e a t t r i b u t e t o c o m p u t e r s a n d h e n c e t h e a t t i t u d e s o r s t a t e s t h e m s e l v e s a r e n ’ t l n “ t h e m , t h e c o n t e n t s o f o u r p r o p o s i t i o n a l a t t i t u d e s o r i n t e n t i o n a l m e n t a l s t a t e s a r e n ’ t I n u s e i t h e r . M e a n i n g s f a i l t o b e p h y s i c a l l y I n c o m p u t e r s , n o t b e i n g u n i q u e l y d e t e r m i n e d b y o r n o t b e i n g s u p e r v e n i e n t o n t h e 4 . S i n c e t h i s i s a q u i t e s t r o n g u n d e r s t a n d i n g o f " i n " , l I n d i c a t e i t b y " I n " ( w i t h a c a p i t a l ‘ l ’ ) . . 1 4 e b c t r i c a l - m e c h a n i c a l s t a t e s o f t h e i r h a r d w a r e , i n j u s t t h e s a m e w a y i n w h i c h P u t n a m I s h o w s ( b y h i s T w i n E a r t h , a n d o t h e r e x a m p l e s a n d a r g u m e n t s ) t h a t m e a n i n g s “ a i n ’ t i n t h e h e a d “ ( P u t n a m 1 9 7 5 , p . 2 2 7 ) , n o t b e i n g u n i q u e l y d e t e r m i n e d b y o r s u p e r v e n i e n t o n t h e e l e c t r i c a l - c h e m i c a l s t a t e s o f o u r i n d i v i d u a l b r a i n s . O n w e a k e r u n d e r s t a n d i n g s o f " i n , " o n t h e o t h e r h a n d , i t t u r n s o u t t h a t t h e i n t e n t i o n a l s t a t e s a n d c o n t e n t s w e a t t r i b u t e t o c o m p u t e r s a r e j u s t a s m u c h p h y s i c a l l y i n t h e m a s o u r i n t e n t i o n a l s t a t e s a n d t h e i r c o n t e n t s a r e p h y s i c a l l y i n u s . C h a p t e r 6 e x p l o r e s t h e p o s s i b i l i t y o f g r o u n d i n g a s c i e n t i f i c a l l y o r t h e o r e t i c a l l y p e r s p i c u o u s n o t i o n o f i n t r i n s i c i n t e n t i o n a l i t y o n t h e p r e s e n c e o f h u m a n ( a n d i n f r a h u m a n a n i m a t e ) i n t e n t i o n a l s t a t e s ( o r t h e i r p r o p o s i t i o n a l c o n t e n t s ) t o o r i n c o n s c i o u s n e s s . H e r e , I c o n c l u d e t h a t S e a r l e ’ s c o n s c i o u s n e s s b a s e d " r e s e a r c h " p r o p o s a l s a r e l i t t l e m o r e t h a n w a r m e d - o v e r D e s c a r t e s . I f S e a r l e ’ s g r a n t o f o v e r r i d i n g e p i s t e m i c p r i v i l e g e t o " t h e fi r s t p e r s o n p o i n t o f v i e w " i n h i s C h i n e s e r o o m t h o u g h t e x p e r i m e n t " i n v i t e s u s t o r e g r e s s t o t h e C a r t e s i a n v a n t a g e p o i n t " ( D e n n e t t 1 9 8 7 b , p . 3 3 6 ) , h i s r e c e n t C o n n e c t i o n P r i n c i p l e , r e q u i r i n g e v e r y i n t r i n s i c " i n t e n t i o n a l p h e n o m e n o n " b e " i n p r i n c i p l e a c c e s s i b l e t o c o n s c i o u s n e s s " i s s u e s a n e n g r a v e d i n v i t a t i o n . I n t h e a b s e n c e o f p r o p o s a l s b y S e a r l e o r h i s f e l l o w N e o - C a r t e s i a n s ( e . g . , N a g e l 1 9 7 4 , 1 9 8 6 ; G u n d e r s o n 1 9 9 0 , H a r n a d 1 9 9 1 ) f o r r e s o l v i n g t h e a n o m a l i e s - - m o s t n o t a b l y t h e o t h e r m i n d s p r o b l e m s a n d m i n d - b o d y i n t e r a c t i o n p r o b l e m s - t h a t s c u t t l e d t h e o r i g i n a l C a r t e s i a n r e s e a r c h p r o g r a m , I a r g u e t h a t S e a r l e ’ s " n e w " c o n s c i o u s n e s s - b a s e d p r o p o s a l s a r e i l l s u i t e d t o p r o v i d i n g s c i e n t i f i c o r t h e o r e t i c a l v i n d i c a t i o n o f h i s p u t a t i v e d i s t i n c t i o n b e t w e e n i n t r i n s i c a n d a s - i f i n t e n t i o n a l i t y ( o r a n y t h i n g e l s e ) . F u r t h e r m o r e , f o r a l l i t c o s t s ( i n h e r i t i n g t h e 1 5 d e b t s - - t h e o t h e r m i n d s p r o b l e m s a n d i n t e r a c t i o n p r o b l e m s - - o f t r a d i t i o n a l C a r t e s i a n c o n s c i o u s n e s s - b a s e d " r e s e a r c h " ) , S e a r l e ’ s a p p e a l t o c o n s c i o u s e x p e r i e n c e h a s n o o f f s e t t i n g b e n e f i t s . T h e " s y m b o l g r o u n d i n g p r o b l e m " ( H a r n a d 1 9 9 0 ) t h a t " s y n t a x i s n o t s u f f i c i e n t f o r s e m a n t i c s " ( S e a r l e 1 9 8 4 a , p . 3 8 ) - - t h e c r u c i a l d i f f i c u l t y S e a r l e ’ s C h i n e s e r o o m ( a r g u m e n t a n d e x p e r i m e n t ) p o s e s f o r T u r i n g m a c h i n e f u n c t i o n a l i s m - - i s n o l e s s p r o b l e m a t i c f o r c o n s c i o u s n e s s - b a s e d a c c o u n t s s u c h a s S e a r l e ’ s . C o n s c i o u s p h e n o m e n o l o g i c a l e x p e r i e n c e - - e i t h e r a l o n e o r i n a d d i t i o n t o s y n t a x - - d o e s n o t s u f f i c e f o r s e m a n t i c s e i t h e r . L i n e s o f a r g u m e n t o r i g i n a t i n g w i t h L u d w i g W i t t g e n s t e i n ( 1 9 5 8 ) a n d p u r s u e d b y S a u l K r i p k e ( 1 9 8 2 ) a n d P a u l B o g h o s s i a n ( 1 9 8 9 ) , a n d i n d e p e n d e n t l i n e s o f a r g u m e n t d e v e l o p e d b y R u t h M i l l i k a n ( M i l l i k a n 1 9 8 4 . p p . 8 9 f ) , c o n v i n c i n g l y s h o w t h i s . P u t n a m ’ s r e f l e c t i o n s o n T w i n E a r t h c o m p r i s e a t h i r d , i n d e p e n d e n t , l i n e o f s u p p o r t f o r t h i s c o n c l u s i o n t h a t w h a t e v e r c o n s c i o u s e x p e r i e n c e s a t t e n d o u r v a r i o u s u s e s o f w o r d s a r e i n s u f f i c i e n t t o d e t e r m i n e t h e i r m e a n i n g s o r f i x t h e i r r e f e r e n c e s . , T h e o v e r a l l p l a n o f t h i s e s s a y i s t o w o r k , f i r s t i n w a r d ( a s i t w e r e ) f r o m t h e s u r r o u n d i n g p h i l 0 3 0 p h i c a l t e r r a i n ( i n C h a p t e r 1 ) t o t h e C h i n e s e r o o m a r g u m e n t ( i n C h a p t e r 2 ) t o t h e c e n t r a l C h i n e s e R o o m " e x p e r i m e n t " ( i n C h a p t e r 3 ) , t h e n t o w o r k b a c k o u t w a r d f r o m t h e " e x p e r i m e n t " t o s u p p o r t i n g S e a r l e a n ( a n d o t h e r p o s s i b l y s u p p o r t i v e ) d o c t r i n e ( i n C h a p t e r ’ s 5 a n d 6 ) . T h e f o r c e o f t h e a r g u m e n t l i e s i n s h o w i n g S e a r l e ’ s c a s e t o d e p e n d o n m o r e a n d m o r e d u b i o u s d o c t r i n e - - d r i v i n g t h e a d v o c a t e o f C h i n e s e r o o m o b j e c t i o n s t o A I f u r t h e r a n d f u r t h e r o u t o n t h i n i c e - - u n t i l a t l a s t t h e i c e i s t o o t h i n ( t h e d o c t r i n e i n s u f f i c i e n t l y c r e d i b l e ) t o s u p p o r t s u b s t a n t i a l c l a i m s ( ~ S A I P o r - A I P ) a g a i n s t A l i n t h e f a c e o f t h e p r i m a 1 6 f a c i e e v i d e n c e o f a r t i f i c i a l i n t e l l i g e n c e c i t e d i n C h a p t e r 4 . C h a p t e r 4 i s t h e c r u x : i t s h o w s t h e o n u s t o b e o n t h e o p p o n e n t o f A l w h o w o u l d d e n y t h a t c o m p u t e r s h a v e t h e m e n t a l p r o p e r t i e s w e s a y - - w h o w o u l d d e n y t h a t o u r p r e d i c t i v e l y s u c c e s s f u l a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o m a c h i n e s a r e l i t e r a l l y t r u e - - a n d n o t o n t h e ( n a i v e ) p r o p o n e n t o f A l ( l i k e m e ) w h o t a k e s t h e s e a t t r i b u t i o n s a t f a c e v a l u e , a s e v i d e n c i n g a r t i f i c i a l i n t e l l i g e n c e i n e x i s t i n g a r t i f a c t s . H i g h c h u r c h a d v o c a t e s o f A l , o n t h e o t h e r h a n d , b y d i s d a i n i n g t h e v u l g a r e m p i r i c i s m o f n a i v e A l ( d i s d a i n i n g a p p e a l t o t h e m a n i f e s t c a p a c i t i e s o f p r e s e n t g e n e r a t i o n c o m p u t e r s r u n n i n g o r d i n a r y a p p l i c a t i o n s p r o g r a m s ) , b y r e j e c t i n g S A I P , o r w a f f l i n g o n i t , t a k e t h e b u r d e n o f s c i e n t i f i c a l l y e l u c i d a t i n g t h e e s s e n t i a l n a t u r e o f t h i n k i n g o n t h e m s e l v e s . R u s h i n g i n w h e r e T u r i n g f e a r e d t o t r e a d - a s w o u l d - b e d e f i n e r s o f " t h o u g h t " - b y t h e i r h u b r i s , t h e y c e d e t h e h i g h g r o u n d i n t h e s e d e b a t e s t o t h e i r n e m e s i s . S e a r l e ’ s C h i n e s e r o o m a r g u m e n t , g i v e n t h i s h i g h g r o u n d , s e e m s u n b e a t a b l e . S e a r l e i n s i s t s t h a t t h e q u e s t i o n " C a n a m a c h i n e t h i n k ? " i s n o t t h e r i g h t q u e s t i o n t o a s k : t h i s q u e s t i o n , h e p r o t e s t s , i s u n i n t e r e s t i n g b e c a u s e , " T h e a n s w e r i s , o b v i o u s l y , y e s . W e a r e p r e c i s e l y s u c h m a c h i n e s " ( S e a r l e 1 9 8 0 a , p . 4 2 2 ) . A g a i n : " I f b y ‘ m a c h i n e ’ o n e m e a n s a p h y s i c a l s y s t e m c a p a b l e o f p e r f o r m i n g c e r t a i n f u n c t i o n s ( a n d w h a t e l s e c a n o n e m e a n ? ) , t h a n h u m a n s a r e m a c h i n e s o f a s p e c i a l b i o l o g i c a l k i n d “ ( S e a r l e 1 9 9 0 a , p . 2 6 ) . T h e r i g h t q u e s t i o n t o a s k , a c c o r d i n g t o S e a r l e i s r a t h e r t h i s : " C o u l d a m a c h i n e t h i n k j u s t b y i m p l e m e n t i n g a c o m p u t e r p r o g r a m ? I s t h e p r o g r a m b y i t s e l f c o n s t i t u t i v e o f t h i n k i n g ? " ( S e a r l e 1 9 9 0 a , p . 2 6 ) . A g a i n : 1 7 B u t c o u l d s o m e t h i n g t h i n k , u n d e r s t a n d , a n d s o o n s o l e l y I n v i r t u e o f b e i n g a c o m p u t e r w i t h t h e r i g h t s o r t o f p r o g r a m ? C o u l d i n s t a n t i a t i n g a p r o g r a m , t h e r i g h t p r o g r a m o f c o u r s e , b y i t s e l f b e a s u f f i c i e n t c o n d i t i o n o f u n d e r s t a n d i n g ? T h i s I t h i n k i s t h e r i g h t q u e s t i o n t o a s k , t h o u g h i t i s u s u a l l y c o n f u s e d w i t h o n e o r m o r e o f t h e e a r l i e r q u e s t i o n s [ ' C o u l d a m a c h i n e t h i n k ? ‘ ; ' C o u l d a n a r t i f a c t , a m a n - m a d e m a c h i n e t h i n k ? " ; “ C o u l d a d i g i t a l c o m p u t e r t h i n k ? " ] , a n d t h e a n s w e r t o i t I s n o . ( S e a r l e 1 9 8 0 a , p . 4 2 2 ) I n s o f a r a s S e a r l e r e s t r i c t s h i m s e l f t o t h e q u e s t i o n " C o u l d i n s t a n t i a t i n g a p r o g r a m , " i n t h e a n e m i c m a t h e m a t i c a l s e n s e o f c o u r s e , " b y i t s e l f b e a s u f f i c i e n t c o n d i t i o n o f u n d e r s t a n d i n g ? " , h e i s r i g h t ; i t c o u l d n ’ t . S e a r l e ’ s C h i n e s e r o o m a r g u m e n t s u p p l e m e n t e d b y t h e s t a n d a r d t e x t b o o k a c c o u n t o f c o m p u t a t i o n ( o r w h a t i t i s t o i n s t a n t i a t e a p r o g r a m ) d o e s p r o v e t h i s . O n t h e o t h e r h a n d , i n s o f a r a s t h e c o n c l u s i o n t h a t i n s t a n t i a t i n g a p r o g r a m , b y i t s e l f , i s n o t a s u f f i c i e n t c o n d i t i o n o f u n d e r s t a n d i n g i s s u p p o s e d t o s u p p o r t t h e c l a i m t h a t n o e x i s t i n g ( o r s o o n t o b e e x i s t i n g ) c o m p u t e r " h a s t h o u g h t p r o c e s s e s i n e x a c t l y t h e s a m e s e n s e t h a t y o u a n d I h a v e t h o u g h t p r o c e s s e s " ; i n s o f a r a s - F U N i s s u p p o s e d t o s u p p o r t c l a i m s t h a t " i n t h e l i t e r a l s e n s e t h e p r o g r a m m e d c o m p u t e r [ r u n n i n g S c h a n k a n d A b e l s o n ’ s s t o r y u n d e r s t a n d i n g p r o g r a m S A M ] u n d e r s t a n d s e x a c t l y n o t h i n g " ( S e a r l e 1 9 8 0 a , p . 4 1 9 ) a n d “ t h e s a m e w o u l d a p p l y t o a n y T u r i n g m a c h i n e s i m u l a t i o n o f h u m a n m e n t a l p h e n o m e n a " ( S e a r l e 1 9 8 0 a , p . 4 1 7 ) ; S e a r l e i s m i s t a k e n . N o t h i n g i n t h e C h i n e s e r o o m ( e x p e r i m e n t o r a r g u m e n t ) m i l i t a t e s i n t h e l e a s t a g a i n s t t h e c l a i m t h a t e x i s t i n g o r s o o n t o b e e x i s t i n g T u r i n g m a c h i n e " s i m u l a t i o n s " o f m e n t a l p h e n o m e n a h a v e t h e m e n t a l p r o p e r t i e s t h e y m a y b e s a i d w i t h g o o d p r e d i c t i v e e f f e c t t o h a v e . J u s t a s S e a r l e ’ s p r o p r i e t a r y u s e o f t h e p h r a s e " S t r o n g A l " t o d e n o t e T u r i n g m a c h i n e f u n c t i o n a l i s m c o n f l a t e s t h e i s s u e o f w h e t h e r c o m p u t e r s t h i n k w i t h t h e q u e s t i o n o f w h e t h e r p r o g r a m s " a r e c o n s t i t u t i v e o f [ o r ] s u f f i c i e n t f o r m i n d s " 1 8 ( S e a r l e 1 9 9 0 a , p . 2 7 ) , o r w h e t h e r p r o g r a m s " b y t h e m s e l v e s a r e m i n d s " ( S e a r l e 1 9 8 9 a , p . 7 0 3 ) , s o t o o d o h i s d i s a r m i n g p h y s i c a l i s t i c p i e t i e s a b o u t h u m a n s b e i n g t h i n k i n g " m a c h i n e s o f a s p e c i a l b i o l o g i c a l s o r t " s h i f t t h e g r o u n d o f t h e d i s c u s s i o n t e n d e n t i o u s l y a w a y f r o m c l a i m s o f a r t i f i c i a l i n t e l l i g e n c e p r o p e r ( S A I P a n d A I P ) w h i c h ( g i v e n t h e w e a l t h o f e m p i r i c a l e v i d e n c e f o r a n d t h e d e a r t h o f c r e d i b l e t h e o r e t i c a l r e a s o n s a g a i n s t ) a r e h i g h l y p r o b a b l e t o w a r d t h e v a s t l y m o r e d u b i o u s q u e s t i o n o f w h e t h e r p r o g r a m s a r e w h a t m i n d s e s s e n t i a l l y a r e a n d t o w a r d T u r i n g M a c h i n e f u n c t i o n a l i s t m e t a p h y s i c a l s p e c u l a t i o n t h a t t h e y e s s e n t i a l l y a r e ( a p r o p e r s u b s e t ) o f m a c h i n e t a b l e s o r p r o g r a m s . T h i s q u e s t i o n , p e r h a p s , p r e s u p p o s e s t h a t m i n d s a r e n a t u r a l k i n d s ; w h i c h s e e m s u n l i k e l y . T h e T u r i n g m a c h i n e f u n c t i o n a l i s t a n s w e r t o t h i s q u e s t i o n s u p p o s e s t h a t m i n d s a r e n a t u r a l k i n d s w i t h c o m p u t a t i o n a l l y s p e c i f i a b l e e s s e n c e s ; w h i c h , o f c o u r s e , i s e v e n l e s s l i k e l y . S e a r l e r e c e n t l y a c k n o w l e d g e s , " l h a v e n o t t r i e d t o p r o v e t h a t ‘ a c o m p u t e r c a n n o t t h i n k ’ " ( 1 9 9 0 3 , p . 2 9 ) : n e i t h e r h a s h e p r o v e d ( n o r p r o v i d e d a n y r e a s o n a t a l l t o t h i n k ) t h a t e x i s t i n g a n d s o o n t o b e e x i s t i n g " T u r i n g m a c h i n e s i m u l a t i o n [ s ] o f h u m a n m e n t a l p h e n o m e n a " d o n ’ t " l i t e r a l l y h a v e t h o u g h t p r o c e s s e s i n e x a c t l y t h e s a m e s e n s e t h a t y o u a n d l h a v e t h o u g h t p r o c e s s e s . " S e a r l e ’ s C h i n e s e r o o m ( a r g u m e n t a n d e x p e r i m e n t ) , w h i l e t e l l i n g ( t h o u g h p e r h a p s m i s l e a d i n g l y ) a g a i n s t T u r i n g m a c h i n e f u n c t i o n a l i s m ( o n s t a n d a r d t e x t b o o k a c c o u n t s o f c o m p u t a t i o n ) , d o e s n o t t e l l a t a l l a g a i n s t c l a i m s o f a r t i f i c i a l i n t e l l i g e n c e o n b e h a l f o f e x i s t i n g a n d s o o n t o b e e x i s t i n g c o m p u t e r s . C o n t r a s t i n g " s t r o n g A l " t o " w e a k A I " ( S e a r l e ’ s n a m e f o r h i s v i e w t h a t c o m p u t e r s m e r e l y s i m u l a t e t h e m e n t a l a b i l i t i e s t h e y s e e m t o m a n i f e s t ) a s S e a r l e d o e s ( S e a r l e 1 9 8 0 a , p . 4 1 7 ) , s e r v e s t o c o m p o u n d t h e 1 9 c o n f u s i o n S e a r l e ’ s u s e o f t h e p h r a s e " s t r o n g A l " t o d e s i g n a t e T u r i n g M a c h i n e f u n c t i o n a l i s m i n t r o d u c e s : c o n f u s i o n b e t w e e n s t r o n g c l a i m s o f A l ( t h a t c o m p u t e r s r e a l l y h a v e m e n t a l a b i l i t i e s ) a n d T u r i n g m a c h i n e f u n c t i o n a l i s m ( t h a t t h o u g h t i s e s s e n t i a l l y c o m p u t a t i o n ) . I t i s t h u s , b y b u t t r e s s i n g a n i g n o r a t i o e l e n c h i ( i l l i c i t t r a n s i t i o n f r o m - F U N t o - S A I P ) w i t h a f a l s e d i c h o t o m y ( b e t w e e n " W e a k A l ” a n d “ S t r o n g A l " ) , t h a t S e a r l e ’ s v a u n t e d C h i n e s e r o o m a r g u m e n t / e x p e r i m e n t m u s t e r s s u c h p o t e n t r h e t o r i c a l f o r c e - d e s p i t e l a c k i n g a n y l o g i c a l o r m u c h e v i d e n t i a l f o r c e - - a g a i n s t b e l i e f i n a r t i f i c i a l i n t e l l i g e n c e . C h a p t e r O n e T H E P H I L O S O P H I C A L N E I G H B O R H O O D T h e T u r i n g t e s t e n s h r i n e s t h e t e m p t a t i o n t o t h i n k t h a t i f s o m e t h i n g b e h a v e s a s i f i t h a d c e r t a i n m e n t a l p r o c e s s e s , t h e n i t m u s t a c t u a l l y h a v e t h o s e m e n t a l p r o c e s s e s . A n d t h i s i s p a r t o f t h e b e h a v i o r l s t ’ s m i s t a k e n a s s u m p t i o n t h a t i n o r d e r t o b e s c i e n t i f i c , p s y c h o l o g y m u s t c o n f i n e I t s s t u d y t o e x t e r n a l l y o b s e r v a b l e b e h a v i o r . P a r a d o x i c a l l y , t h i s r e s i d u a l b e h a v i o r i s m i s t i e d t o a r e s i d u a l d u a l i s m . T h e m i n d , t h e y s u p p o s e , I s s o m e t h i n g f o r m a l a n d a b s t r a c t , n o t a p a r t o f t h e w e t s l i m y s t u f f i n o u r h e a d s . . . . u n l e s s o n e a c c e p t s t h e i d e a t h a t t h e m i n d i s c o m p l e t e l y i n d e p e n d e n t o f t h e b r a i n o r o f a n y o t h e r p h y s i c a l l y s p e c i f i c s y s t e m , o n e c o u l d n o t p o s s i b l y h o p e t o c r e a t e m i n d s j u s t b y d e s i g n i n g p r o g r a m s . ( S e a r l e 1 9 9 0 a , p . 3 1 ) 1 . I n t r o d u c t i o n Q u e s t i o n s o f a r t i f i c i a l i n t e l l i g e n c e a r e q u e s t i o n s a b o u t o t h e r m i n d s . T h e r e a r e o n t o l o g i c a l o t h e r m i n d s q u e s t i o n s a b o u t w h a t , b e s i d e s m y s e l f , h a s m e n t a l p r o p e r t i e s : h e r e v i e w s r a n g e f r o m s o l i p s l s m ( n o t h i n g e l s e d o e s ) t o p a n p s y c h i s m ( e v e r y t h i n g d o e s ) . T h e r e a r e e p i s t e m o l o g i c a l o t h e r m i n d s q u e s t i o n s a b o u t w h e t h e r a n d h o w w e k n o w . S u c h o t h e r m i n d s q u e s t i o n s r e l a t e c l o s e l y t o m e t a p h y s i c a l m i n d - b o d y i s s u e s a b o u t w h a t m i n d s o r m e n t a l p r 0 p e r t i e s e s s e n t i a l - l y a r e ( i f t h e y a r e e s s e n t i a l l y a n y t h i n g ) a n d h o w t h i n g s ’ s m e n t a l p r o p e r t i e s r e l a t e t o t h e i r p h y s i c a l p r o p e r t i e s . ‘ F o r i n s t a n c e , D e s c a r t e s ’ s i d e n t i f i c a t i o n o f t h o u g h t ( m e n t a l p r o c e s s e s a n d a b i l i t i e s ) w i t h a b s t r a c t r e a s o n i n g g e n e r a l l y , a n d l i n g u i s t i c 1 . I u s e “ o n t o l o g i c a l " a n d " m e t a p h y s i c a l " m o r e o r l e s s i n t e r c h a n g e a b l y t o d e n o t e a s s e r t i o n s , q u e s t i o n s , i s s u e s . e t c . a b o u t b e i n g : I u s e ” e p i s t e m o l o g i c a l " a n d ' e p l s t e m l c ' m o r e o r l e s s i n t e r c h a n g e a b l y t o d e n o t e a s s e r t i o n s , q u e s t i o n s , I s s u e s , e t c . a b o u t k n o w i n g . 2 0 2 1 c a p a b i l i t y i n p a r t i c u l a r , l e a d s h i m , n o t o r i o u s l y , t o d e n y n o n h u m a n a n i m a l s r e a l l y t h i n k o r h a v e a n y m e n t a l p r o p e r t i e s a t a l l . D e s c a r t e s ’ s f u r t h e r i d e n t i f i c a t i o n o f t h o u g h t o r r e a s o n w i t h p r i v a t e p h e n o m e n o l o g i c a l s t a t e s o r s u b j e c t i v e c o n s c i o u s e x p e r i e n c e s - - w h i c h S e a r l e s e c o n d s - - t h r e a t e n s t h e ( I t a k e i t , a b s u r d ) c o n c l u s i o n t h a t w e d o n ’ t r e a l l y k n o w i f o t h e r h u m a n s g e n u i n e l y h a v e m e n t a l p r o p e r t i e s s u c h a s t h e i r b e h a v i o r a n d c o n v e r s a t i o n s e e m t o b e s p e a k . A p p e a r a n c e s o f a r t i f i c i a l i n t e l l i g e n c e b e a r c r u c i a l l y o n t h i s c o m p l e x o f i s s u e s . I n t h e f i r s t p l a c e , t h e a p p a r e n t m e n t a l c a p a c i t i e s o f e x i s t i n g c o m p u t e r s a n d p r o s p e c t s f o r t h e i n t e l l i g e n t - s e e m i n g c a p a c i t i e s o f s u c h m a c h i n e s i n c r e a s i n g d r a m a t i c a l l y i n t h e n e a r f u t u r e b e a r d i r e c t l y o n t h e o n t o l o g i c a l o t h e r m i n d s q u e s t i o n . O t h e r m i n d s ( e v e n r a d i c a l l y a l i e n o n e s ) a r e w h a t i n t e l l i g e n t m a c h i n e s s e e m t o h a v e . S e c o n d a r i l y - - t h e i r p r o g r a m m i n g , p r e s u m a b l y , b e i n g t h e s o u r c e o f t h e i r i n t e l l i g e n t s e e m i n g c a p a c i t i e s - o t h e r m i n d s , i t h a s e v e n b e e n t h o u g h t , a r e w h a t c o m p u t e r p r o g r a m s a r e . T h i s h a s l e d s o m e t o t h i n k t h a t o u r m i n d s , i n d e e d a l l m i n d s , a r e p r o g r a m s : t o t h e T u r i n g m a c h i n e f u n c t i o n a l i s t d o c t r i n e t h a t ( a p r o p e r s u b s e t o f ) p r o g r a m s a r e w h a t m i n d s e s s e n t i a l l y a r e . O n t h e o t h e r h a n d , i f m i n d s c a n n o t b e i d e n t i f i e d w i t h p r o g r a m s , t h i s m a y c a s t d o u b t o n w h e t h e r c o m p u t e r s r e a l l y h a v e t h e m e n t a l p r o p e r t i e s t h e i r s e e m i n g l y i n t e l l i g e n t p e r f o r - m a n c e s s e e m t o i n d i c a t e . T h a t m i n d s c a n n o t b e i d e n t i f i e d w i t h p r o g r a m s a n d t h a t t h i s , m o r e o v e r , r e f u t e s c l a i m s o f a r t i f i c i a l i n t e l l i g e n c e o n t h e p a r t o f e x i s t i n g o r s o o n t o b e e x i s t i n g m a c h i n e s i s w h a t S e a r l e ’ s C h i n e s e r o o m t h o u g h t e x p e r i m e n t , I t a k e i t , t r i e s t o s h o w . I f t h o u g h t e x p e r i m e n t s a r e a p t l y s t y l e d " i n t u i t i o n p u m p s " ( D e n n e t t 1 9 8 0 , 2 2 p . 4 2 9 ) , S e a r l e ’ s C h i n e s e r o o m " e x p e r i m e n t " c a n b e a l s o b e s a i d , i n t h i s c o n n e c t i o n , t o p u m p i n t u i t i o n s c o n t r a r y t o T u r i n g ’ s f a m o u s i m i t a t i o n g a m e " e x p e r i - m e n t " o r " t e s t " ( T u r i n g 1 9 5 0 ) . S e a r l e s t a t e s , T h e [ C h i n e s e r o o m ] e x a m p l e s h o w s t h a t t h e r e c o u l d b e ‘ s y s t e m s ’ , b o t h o f w h i c h p a s s t h e T u r i n g t e s t , b u t o n l y o n e o f w h i c h u n d e r s t a n d s ; a n d i t i s n o a r g u m e n t a g a i n s t t h i s p o i n t t o s a y t h a t s i n c e b o t h p a s s t h e T u r i n g t e s t t h e y m u s t b o t h u n d e r s t a n d , s i n c e t h i s f a i l s t o m e e t t h e a r g u m e n t t h a t t h e s y s t e m i n m e t h a t u n d e r s t a n d s [ E n g l i s h ] h a s a g r e a t d e a l m o r e t h a n - t h e s y s t e m [ S e a r l e - l n - t h e - r o o m ] t h a t m e r e l y p r o c e s s e s C h i n e s e . ( S e a r l e 1 9 6 0 a , p . 4 1 9 ) E v e n t h e f o r m o f S e a r l e ’ s a r t i c l e ( S e a r l e 1 9 8 0 a ) c o p i e s t h e f o r m o f T u r i n g ’ s ( 1 9 5 0 ) a s s a y : a t h o u g h t e x p e r i m e n t i s p r e s e n t e d , i t s m o r a l d r a w n , a s e r i e s o f o b j e c t i o n s a r e c o n s i d e r e d a n d a n s w e r e d . S i n c e S e a r l e ’ s C h i n e s e r o o m t h o u g h t e x p e r i m e n t i s e x p l i c i t l y d i r e c t e d a g a i n s t T u r i n g ’ s i m i t a t i o n g a m e " e x p e r i m e n t " ( t h e T u r i n g t e s t ) , I p r e f a c e m y d i s c u s s i o n o f S e a r l e ’ s " e x p e r i m e n t " w i t h a d i s c u s s i o n o f T u r i n g ’ s . S i n c e T u r i n g ’ s i m i t a t i o n g a m e " e x p e r i m e n t " i s a v a r i a t i o n o n a t h o u g h t e x p e r i m e n t d e s c r i b e d b y D e s c a r t e s ( i n P a r t F i v e o f h i s D i s c o u r s e o n M e t h o d ) , I w i l l p r e f a c e m y d i s c u s s i o n o f T u r i n g ’ s " e x p e r i m e n t " w i t h a d i s c u s s i o n o f D e s c a r t e s ’ s . F i n a l l y , w i t h T u r i n g ’ s t e s t " a p p a r a t u s " i n p l a c e , I w i l l u s e i t t o b r i e f l y s u r v e y t h e m e t a p h y s i c a l a n d e p i s t e m o l o g i c a l t e r r a i n j u s t g l i m p s e d . 2 . D e s c a r t e s : M i n d s a n d O t h e r M i n d s 2 . 1 M i n d , B o d y a n d S e l f - K n o w l e d g e : T h e C o g i t o T h o u g h t E x p e r i m e n t I n t h e b a c k g r o u n d o f D e s c a r t e s ’ s p r o p o s a l s f o r d e t e c t i n g o t h e r m i n d s i s a t h o u g h t e x p e r i m e n t h e u n d e r t a k e s e a r l i e r , i n P a r t F o u r o f t h e D i s c o u r s e o n 2 3 M e t h o d ( D e s c a r t e s 1 6 3 7 , p . 1 2 7 ) , a n d ( m o s t f a m o u s l y ) i n B o o k I a n d B o o k I I o f h i s M e d i t a t i o n s o n F i r s t P h i l o s o p h y . ” T h i s f a m o u s t h o u g h t e x p e r i m e n t , t h e c o g i t o " e x p e r i m e n t , " p u r p o r t s t o p r o v e s o m e t h i n g a b o u t t h e n a t u r e o f m i n d ( t h a t i t i s e s s e n t i a l l y i m m a t e r i a l , r a t i o n a l a n d c o n s c i o u s ) a n d a b o u t a m i n d ’ s k n o w l e d g e o f i t s e l f ( t h a t i t i s d i r e c t a n d i n c o r r i g i b l e ) . I t p r o c e e d s a s f o l l o w s . H o p i n g j u s t a s “ A r c h i m e d e s u s e d t o d e m a n d j u s t o n e f i r m a n d i m m o v a b l e p o i n t i n o r d e r t o s h i f t t h e e n t i r e e a r t h ; s o I t o o c a n h o p e f o r g r e a t t h i n g s [ i n t h e s c i e n c e s ] i f I m a n a g e t o f i n d j u s t o n e t h i n g , h o w e v e r s l i g h t , t h a t i s c e r t a i n a n d u n s h a k a b l e " ( D e s c a r t e s 1 6 4 2 , p . 1 6 ) , D e s c a r t e s p r o p o s e s t o d o u b t a l l t h a t c a n p o s s n y b e d o u b t e d i n o r d e r t o " d e m o l i s h e v e r y t h i n g c o m p l e t e l y a n d s t a r t a g a i n r i g h t f r o m t h e f o u n d a t i o n s “ ( D e s c a r t e s 1 6 4 2 , p . 1 2 ) . F e i g n i n g t o d o u b t e v e r y t h i n g " a c q u i r e d t h r o u g h t h e s e n s e s " ( D e s c a r t e s 1 6 4 2 , p . 1 2 ) b y i m a g i n i n g h i s s e e m i n g w a k i n g e x p e r i e n c e t o b e d r e a m t o r h a l l u c i n a t e d o r e v e n i n d u c e d b y " a m a l i c i o u s d e m o n o f t h e u t m o s t p o w e r a n d c u n n i n g [ w h o ] h a s e m p l o y e d a l l h i s e n e r g i e s i n o r d e r t o d e c e i v e m e " ( D e s c a r t e s 1 6 4 2 , p . 1 5 ) , D e s c a r t e s " d i s c o v e r s " fi r s t t h a t h e i s a b l e t o c o m p l e t e l y d o u b t t h e e v i d e n c e o f h i s s e n s e s a n d a l l t h a t s u c h e v i d e n c e s e e m s t o r e v e a l a b o u t t h e n a t u r e a n d e x i s t e n c e o f t h e e x t e r n a l w o r l d ; b u t n e x t h e p r o c e e d s t o f i n d , h e t h i n k s , j u s t t h e c e r t a i n a n d u n s h a k a b l e p o i n t h e s e e k s , o n w h i c h t o f o u n d t h e s c i e n c e s , i n h i s o w n s e l f - a w a r e n e s s . I w i l l s u p p o s e t h e n , t h a t e v e r y t h i n g I s e e l s s p u r i o u s . I w i l l b e l i e v e t h a t m y m e m o r y t e l l s m e l i e s , a n d t h a t n o n e o f t h e t h i n g s t h a t I t r e p o r t s e v e r h a p p e n e d . I h a v e n o 2 . O t h e r p r e s e n t a t i o n s o f t h e c o g i t o “ e x p e r i m e n t ' a r e t o b e f o u n d I n D e s c a r t e s ’ s R u l e s f o r t h e D i r e c t i o n o f t h e M i n d , R u l e T w e l v e ( 1 6 2 8 , p . 4 6 ) , a n d I n t h e P r e f a c e t o t h e F r e n c h e d i t i o n o f h i s P r i n c i p l e s o f P h i l o s o p h y ( 1 6 4 7 a , p . 1 8 3 f ) . M y e x p o s i t i o n f o l l o w s t h e M e d i t a t i o n s . 2 4 s e n s e s . B o d y , s h a p e , e x t e n s i o n , m o v e m e n t a n d p l a c e a r e c h i m e r a s . S o w h a t r e m a i n s t r u e ? l h a v e c o n v i n c e d m y s e l f t h a t t h e r e i s a b s o l u t e l y n o t h i n g i n t h e w o r l d , n o s k y , n o e a r t h , n o m i n d s , n o b o d i e s . D o e s i t n o w f o l l o w t h a t I t o o d o n o t e x i s t ? N o : I f I c o n v i n c e d m y s e l f o f s o m e t h i n g t h e n I c e r t a i n l y e x i s t e d . ( D e s c a r t e s 1 6 4 2 , p p . 1 6 — 1 7 ) F r o m t h i s , D e s c a r t e s f a m o u s l y c o n c l u d e s , " a f t e r c o n s i d e r i n g e v e r y t h i n g v e r y t h o r o u g h l y , I m u s t f i n a l l y c o n c l u d e t h a t t h i s p r o p o s i t i o n , I a m , I e x i s t , i s n e c e s s a r i l y t r u e w h e n e v e r i t i s p u t f o r w a r d b y m e o r c o n c e i v e d i n m y m i n d " ( D e s c a r t e s 1 6 4 2 , p . 1 7 ) . Y e t t h i s - " I a m , I e x i s t " - - s e e m s a t f i r s t t o o f l e e t i n g a n d u n s t a b l e a p o i n t f r o m w h i c h t o " m o v e t h e w o r l d " : i t s e e m s , a t f i r s t , t o p r o v i d e t o o s l i m a b a s i s o n w h i c h t o e s t a b l i s h m u c h ( m u c h l e s s e v e r y t h i n g ! ) " i n t h e s c i e n c e s s t a b l e a n d l i k e l y t o l a s t " ( D e s c a r t e s 1 6 4 2 , p . 1 2 ) . Y e t , f u r t h e r r e f l e c t i o n o n t h e c o g i t o d i s c o v e r s m o r e , D e s c a r t e s u r g e s , t h a n t h i s b a r e p o i n t o f c e r t a i n t y t h a t " I a m , I e x i s t . " I t d i s c o v e r s t h a t f r o m t h e s u p p o s i t i o n t h a t " t h e r e i s a b s o l u t e l y n o t h i n g i n t h e w o r l d " i t d o e s n o t a t a l l f o l l o w “ t h a t I t o o d o n o t e x i s t . " T h u s , D e s c a r t e s m a i n t a i n s , i t s h o w s t h a t ( a t l e a s t c o n c e p t u a l l y , a n d p e r h a p s i n f a c t ) I a m " n o t s o b o u n d u p w i t h a b o d y a n d w i t h t h e s e n s e s t h a t I c a n n o t e x i s t w i t h o u t t h e m " ( D e s c a r t e s 1 6 4 2 , p . 1 6 ) : " t h o u g h t a l o n e i s i n s e p a r a b l e f r o m m e " ( 1 6 4 2 , p . 1 8 ) . T h u s , D e s c a r t e s u n d e r s t a n d s t h e c o g i t o e x p e r i m e n t t o s h o w n o t o n l y t h a t I e x i s t , n e c e s s a r i l y , “ w h e n e v e r t h i s p r o p o s i t i o n , I a m , I e x i s t i s p u t f o r w a r d b y m e o r c o n c e i v e d i n m y m i n d " ; h e a l s o t a k e s t h e c o g i t o e x p e r i m e n t t o r e v e a l " w h a t t h i s ‘ I ’ i s , t h a t n o w n e c e s s a r i l y e x i s t s " ( D e s c a r t e s 1 6 4 2 , p . 1 7 ) . I t r e v e a l s t h a t “ I a m i n t h e s t r i c t s e n s e o n l y a t h i n g t h a t t h i n k s ; t h a t i s , I a m a m i n d , o r i n t e l l i g e n c e , o r i n t e l l e c t , o r r e a s o n " ( D e s c a r t e s 1 6 4 2 , p . 1 8 ) . 2 5 B u t , " W h a t i s t h a t [ a m i n d o r i n t e l l i g e n c e , o r i n t e l l e c t o r r e a s o n ] ? " D e s c a r t e s a n s w e r s , " A t h i n g t h a t d o u b t s , u n d e r s t a n d s , a f f i r m s , d e n i e s , i s w i l l i n g , i s u n w i l l i n g , a n d a l s o i m a g i n e s a n d h a s s e n s o r y p e r c e p t i o n s " ( D e s c a r t e s 1 6 4 2 , p . 1 9 ) . N o w , t h e n a r r o w A r c h i m e d e a n p o i n t o f c e r t a i n t y b i d s t o e x p a n d i n t o s o m e t h i n g m o r e e x t e n s i v e : T h i s I s c o n s i d e r a b l e l i s t , i f e v e r y t h i n g o n i t b e l o n g s t o m e . B u t d o e s i t ? I s I t n o t o n e a n d t h e s a m e ’ I ’ w h o I s n o w d o u b t i n g a l m o s t e v e r y t h i n g , w h o n o n e t h e l e s s u n d e r s t a n d s s o m e t h i n g s , w h o a f f i r m s t h a t t h i s o n e t h i n g I s t r u e , d e n i e s e v e r y t h i n g e l s e , d e s i r e s t o k n o w m o r e , I s u n w i l l i n g t o b e d e c e i v e d , I m a g i n e s m a n y t h i n g s e v e n l n v o l u n t a r l l y , a n d I s a w a r e o f m a n y t h i n g s w h i c h a p p a r e n t l y c o m e f r o m t h e s e n s e s ( D e s c a r t e s 1 6 4 2 , p . 1 9 ) . T h e t h i n k i n g t h i n g t h e c o g i t o " e x p e r i m e n t “ u n c o v e r s , a c c o r d i n g t o D e s c a r t e s , i s m o r e t h a n j u s t a m o m e n t a r y a s s u r a n c e o f t h e b a r e f a c t o f m y t h i n k i n g e x i s t e n c e . D e s c a r t e s u r g e s t h a t w h a t t h e " e x p e r i m e n t " r e v e a l s i s a u n i f i e d , e n d u r i n g , m u l t i f a c e t e d c o n s c i o u s s e l f : i t r e v e a l s w i t h i n t h i s " I " i t d i s c o v e r s - - o r , p e r h a p s , r e v e a l s t h i s " I " t o b e - a n e x t e n s i v e f i e l d a n d t e m p o r a l l y c o n t i n u o u s s t r e a m o f c o n s c i o u s n e s s ; a fi e l d a n d s t r e a m o f c o n s c i o u s n e s s , m o r e o v e r , t h a t i s i n d u b i t a b l y k n o w n ( o r c a n b e I n d u b i t a b l y k n o w n ) i n t r o s p e c t i v e l y o r s e l f - r e f l e c t i v e l y t o i t s e l f . A r e n o t a l l t h e s e t h i n g s [ d o u b t l n g s , u n d e r s t a n d i n g s , a f f i r m i n g s , d e n y i n g s , w l l l l n g s , I m a g i n i n g s , a n d s e n s i n g s ] j u s t a s t r u e a s t h e f a c t t h a t I e x i s t W h i c h o f t h e m c a n b e s a i d t o b e s e p a r a t e f r o m m y s e l f ? T h e f a c t t h a t i t I s I w h o a m d o u b t i n g a n d u n d e r s t a n d i n g a n d w i l l i n g I s s o e v i d e n t t h a t I s e e n o w a y o f m a k i n g I f a n y c l e a r e r . B u t i t I s a l s o t h e c a s e t h a t t h e ‘ I ’ w h o i m a g i n e s i s t h e s a m e ’ I ’ . F o r e v e n I f , a s l h a v e s u p p o s e d , n o n e o f t h e o b j e c t s o f I m a g i n a t i o n a r e r e a l , t h e p o w e r o f I m a g i n a t i o n i s s o m e t h i n g t h a t r e a l l y e x i s t s a n d i s p a r t o f m y t h i n k i n g . L a s t l y , I t i s a l s o t h e s a m e ’ I ’ t h a t h a s s e n s o r y p e r c e p t i o n s , o r l s a w a r e o f b o d i l y t h i n g s a s I t w e r e t h r o u g h t h e s e n s e s . F o r e x a m p l e , I a m n o w s e e i n g l i g h t , h e a r i n g n o i s e , f e e l i n g h e a t . B u t I a m a s l e e p [ t h i s i s a l l a d r e a m , s u p p o s e ] , s o a l l t h i s i s f a l s e . Y e t I c e r t a i n l y s e e m t o s e e , t o h e a r , a n d t o b e w a r m e d . T h i s c a n n o t b e f a l s e ; w h a t I s c a l l e d " h a v i n g a s e n s o r y p e r c e p t i o n ’ l s s t r i c t l y j u s t t h i s . a n d I n t h i s r e s t r i c t e d s e n s e o f t h e t e r m I t I s s i m p l y t h i n k i n g . ( D e s c a r t e s 1 6 4 2 , p . 1 9 ) 2 6 I n v i e w o f t h e i m m e d i a t e c e r t a i n t y o f h i s a w a r e n e s s o f h i s o w n c o n s c i o u s e x p e r i e n c e s a s c o m p a r e d t o t h e d u b i o u s i n f e r e n t i a l n a t u r e o f b e l i e f i n t h e e x i s t e n c e o f e x t e r n a l t h i n g s ( i n f e r r e d o n t h e b a s i s o f t h e s e e x p e r i e n c e s ) , D e s c a r t e s c o n c l u d e s , " I k n o w p l a i n l y t h a t I c a n a c h i e v e a n e a s i e r a n d m o r e e v i d e n t p e r c e p t i o n o f m y o w n m i n d t h a n o f a n y t h i n g e l s e " ( D e s c a r t e s 1 6 4 2 , 2 2 - 2 3 ) . T h e c o g i t o " e x p e r i m e n t " w h i c h b e g i n s b y d i s m i s s i n g b e l i e f s a b o u t t h e e x t e r n a l w o r l d s e n s e p e r c e p t i o n s e e m s t o r e v e a l a s t o o d u b i o u s a n d u n c e r t a i n t o p r o v i d e a b a s i s f o r s c i e n c e c o n c l u d e s b y " d i s c o v e r i n g " a n i n d u b i t a b l e i n t e r n a l “ w o r l d " o f c o n s c i o u s e x p e r i e n c e s ; a " w o r l d " r e v e a l e d n o t b y s e n s e , b u t i n t r o s p e c - t i v e l y , b y t h e " n a t u r a l l i g h t " o f i n f a l l i b l e i n t e l l e c t u a l s e l f - a p p r e h e n s i o n . 2 . 2 O t h e r M i n d s P r o b l e m s W h e t h e r t h e e p i s t e m o l o g i c a l a d v a n t a g e s t h e s u b j e c t i v e t u r n t h e c o g i t o " e x p e r i m e n t “ i s d e s i g n e d t o i n d u c e a r e g e n u i n e o r c o u n t e r f e i t , t h e y a r e p u r c h a s e d a t c o n s i d e r a b l e e p i s t e m o l o g i c a l c o s t : d i f f i c u l t i e s a b o u t o u r k n o w l e d g e o f o t h e r m i n d s . S u c h d i f f i c u l t i e s s t e m f r o m t h e a l l e g e d e p i s t e m o l o g i c a l c o n s e q u e n c e o f t h e c o g i t o " e x p e r i m e n t , " t h a t “ I c a n a c h i e v e a n e a s i e r a n d m o r e e v i d e n t p e r c e p t i o n t h a n o f a n y t h i n g e l s e " o n l y o f m y o w n c o n s c i o u s n e s s i n c o n j u n c t i o n w i t h t h e a l l e g e d m e t a p h y s i c a l c o n s e q u e n c e o f t h e e x p e r i m e n t , t h a t c o n s c i o u s n e s s e s a r e w h a t m i n d s e s s e n t i a l l y a r e . G i v e n t h e p r i v a c y o r s u b j e c t i v i t y o f e x p e r i e n c e , " m a r k e d b y s u c h f a c t s a s t h a t I c a n f e e l m y p a i n s , a n d y o u c a n ’ t " ( S e a r l e 1 9 8 4 a , p . 1 7 ) , a n d t h e c l a i m t h a t s u c h s u b j e c t i v e f e e l i n g s o r e x p e r i e n c e s ( m o d i f i c a t i o n s o r m o d e s o f c o n s c i o u s n e s s , a s D e s c a r t e s p u t s i t ) a r e w h a t m e n t a l p r o c e s s e s a n d 2 7 s t a t e s e s s e n t i a l l y a r e , w h a t ( i f a n y t h i n g ) w a r r a n t s m y b e l i e f t h a t o t h e r s b e s i d e s m y s e l f h a v e m i n d s a l s o ? T h e e x t r e m e f o r m o f t h i s d i f f i c u l t y , c o n c e r n i n g k n o w l e d g e o f o t h e r h u m a n m i n d s , i s f o r e s h a d o w e d a t t h e c o n c l u s i o n o f t h e c o g i t o " e x p e r i m e n t " i n t h e S e c o n d M e d i t a t i o n . D e s c a r t e s w r i t e s , B u t t h e n I f I l o o k o u t t h e w i n d o w a n d s e e m e n c r o s s i n g t h e s q u a r e , a s I j u s t h a p p e n t o h a v e d o n e , I n o r m a l l y s a y t h a t I s e e t h e m e n t h e m s e l v e s , j u s t a s I s a y t h a t I s e e t h e w a x . Y e t d o I s e e a n y m o r e t h a n h a t s a n d c o a t s w h i c h c o u l d c o n c e a l a u t o m a t o n s ? I j u d g e t h a t t h e y a r e m e n . A n d s o s o m e t h i n g w h i c h I t h o u g h t I w a s s e e i n g w i t h m y e y e s I s I n f a c t g r a s p e d s o l e l y b y t h e f a c u l t y o f j u d g e m e n t . ( D e s c a r t e s 1 6 4 2 , p . 2 1 ) T h e t r o u b l e , a s P i e r r e B a y l e e x p r e s s e s i t , i s " t h e a r g u m e n t s o f t h e C a r t e s i a n s l e a d u s t o j u d g e t h a t o t h e r m e n a r e [ u n t h i n k i n g ] m a c h i n e s " ( B a y l a 1 6 9 7 , p . 2 3 1 ) a l s o . T h i s w a s b y B a y l a ’ s r e c k o n i n g ( a n d c o n t i n u e s , b y t h e r e c k o n i n g o f m a n y , t o b e ) " p e r h a p s t h e w e a k e s t s i d e o f C a r t e s i a n i s m " ( B a y l e 1 6 9 7 , p . 2 3 1 ) . Y e t , d e s p i t e s o s t r o n g l y f o r e s h a d o w i n g t h i s a t t h e a n d o f M e d i t a t i o n T w o , D e s c a r t e s s e e m s s u r p r i s i n g l y u n c o n c e r n e d w i t h t h i s e x t r e m e f o r m o f t h e d i f f i c u l t y . T h e o t h e r m i n d s p r o b l e m t h a t D e s c a r t e s d o e s e x p l i c i t l y a d d r e s s i s w h e t h e r " b r u t e s " ( i n f r a h u m a n a n i m a l s ) h a v e m i n d s . M u c h a s S e a r l e d e n i e s c o m p u t e r s h a v e a n y m e n t a l p r o p e r t i e s a t a l l , D e s c a r t e s n o t o r i o u s l y d e n i e s t h a t b r u t e s h a v e a n y . O b j e c t i o n s t o t h i s a r e p r e s s e d b y s e v e r a l o f t h e c o m m e n t a t o r s i n t h e O b i a c t i o n s a n d R e p l i e s ( D e s c a r t e s a t a l . 1 6 4 2 ) t o D e s c a r t e s ’ s M e d i t a t i o n s . P i e r r e G a s s e n d i , e . g . , p o i n t e d l y a s k s , " w h e t h e r t h e s e n s e p e r c e p t i o n w h i c h t h e b r u t e s h a v e d o e s n o t a l s o d e s e r v e t o b e c a l l e d ‘ t h o u g h t ’ , s i n c e i t i s n o t d i s s i m i l a r t o y o u r o w n " ( D e s c a r t e s a t a l . 1 6 4 2 , p . 1 8 7 ) . D e s c a r t e s r e p l i e s , 2 8 Y o u r q u e s t i o n s a b o u t t h e b r u t e s a r e n o t a p p r o p r i a t e I n t h i s c o n t e x t s i n c e t h e m i n d , w h e n e n g a g e d i n p r i v a t e m e d i t a t i o n , c a n e x p e r i e n c e i t s o w n t h i n k i n g b u t c a n n o t h a v e a n y e x p e r i e n c e t o e s t a b l i s h w h e t h e r t h e b r u t e s t h i n k o r n o t ; I t m u s t t a c k l e t h i s q u e s t i o n l a t e r o n , b y a n a p o s t e r i o r i i n v e s t i g a t i o n o f t h e i r b e h a v i o r . ( D e s c a r t e s a t a l . 1 6 4 2 , 2 4 7 - 2 4 8 ) A n t o i n e A r n a u l d , i n t h e s a m e v e i n a s G a s s e n d i , o b j e c t s t h a t " i t s e e m s i n c r e d i b l e t h a t i t c a n c o m e a b o u t , w i t h o u t t h e a s s i s t a n c e o f a n y s o u l , t h a t t h e l i g h t r e f l e c t e d f r o m t h e b o d y o f a w o l f i n t o t h e e y e s o f a s h e e p s h o u l d p r e c i p i t a t e t h e s h e e p ’ s fl i g h t " ( D e s c a r t e s a t a l . 1 6 4 2 , p . 1 4 4 ) . D e s c a r t e s r e p l i e s , " A s f a r a s t h e s o u l s o f t h e b r u t e s a r e c o n c e m a d , t h i s i s n o t t h e p l a c e t o e x a m i n e t h e s u b j e c t , a n d , s h o r t o f g i v i n g a n a c c o u n t o f t h e w h o l e o f p h y s i c s , I c a n n o t a d d t o t h e e x p l a n a t o r y r e m a r k s I m a d e i n P a r t 5 o f t h e D i s c o u r s e o n M e t h o d " ( D e s c a r t e s a t a l . , p . 1 6 1 ) . L e t u s t u r n , t h e n , t o t h e s e " e x p l a n a t o r y r e m a r k s " o u t l i n i n g t h e s o r t o f " a p o s t e r i o r i i n v e s t i g a t i o n o f b e h a v i o r " D e s c a r t e s p r o p o s e s f o r d e t e c t i n g t h e a b s e n c e ( i n t h e c a s e o f t h e b r u t e s ) o r p r e s e n c e ( i n t h e c a s e o f o t h e r h u m a n b e i n g s ) o f m e n t a l p r o p e r t i e s i n o t h e r s . 2 . 3 T w o S u r e a n d C e r t a i n T e s t s I n P a r t 5 o f t h e D i s c o u r s e D e s c a r t e s d e s c r i b e s t h e s o r t o f " a p o s t e r i o r i i n v e s t i g a t i o n o f b e h a v i o r “ h e t h i n k s c o n c l u s i v e l y e v i d e n c e s t h e a b s e n c e o f t h o u g h t o r c o n s c i o u s n e s s i n b e a s t s ( a s i n m a c h i n e s ) . T h a t D e s c a r t e s s u p p o s e s t h i s s a m e s o r t o f i n v e s t i g a t i o n a l s o s e r v e s t o c o n c l u s i v e l y e v i d e n c e t h e p r e s e n c e o f t h o u g h t o r c o n s c i o u s n e s s i n o t h e r h u m a n b e i n g s ( a s i n h i m s e l f ) e x p l a i n s - - a n d e v e n , i n a m a n n e r , j u s t i f i e s - - h i s n e g l e c t o f t h e o t h e r h u m a n m i n d s p r o b l e m . I t j u s t i f i e s s u c h n e g l e c t o n t h e h y p o t h e s i s t h a t c e r t a i n b e h a v i o r a l c a p a c i t i e s - - 2 9 e s p e c i a l l y l i n g u i s t i c c a p a c i t i e s - - c o n c l u s i v e l y e v i d e n c e t h o u g h t I n o t h e r s o r i n d u c t i v e l y s u f f i c e t o w a r r a n t a t t r i b u t i o n o f m e n t a l p r o p e r t i e s t o t h e m . I t i s a f u r t h e r q u e s t i o n , o f c o u r s e , w h e t h e r D e s c a r t e s a n d h i s f o l l o w e r s a r e e n t i t l e d t o t h i s h y p o t h e s i s o r a s s u m p t i o n b u t w e n e e d n ’ t b e l a b o r t h i s f u r t h e r q u e s t i o n h e r e . W e n e e d n ’ t b e l a b o r t h i s b e c a u s e t h e s a v i n g h y p o t h e s i s D e s c a r t e s i n v o k e s ( w h i c h T u r i n g e m b o d i e s i n h i s t e s t ) i s s o m e t h i n g S e a r l e ’ s C h i n e s e r o o m t h o u g h t e x p e r i m e n t c l a i m s t o r e f u t e . S i n c e w h a t c o n c e r n s u s i n c o n n e c t i o n w i t h S e a r l e ’ s C h i n e s e r o o m " e x p e r i m e n t " i s t h e c o n s e q u e n c e o f t h i s r e j e c t i o n , w h a t c o n c e r n s u s i n c o n n e c t i o n w i t h D e s c a r t e s , t h a n , i s j u s t t h e u s e t o w h i c h h e p u t s t h i s s a v i n g h y p o t h e s i s i n t h e c r u c i a l e x p e r i m e n t s h e e n d o r s e s t o p r o v e t h e m i n d l e s s n e s s ( o r l a c k o f c o n s c i o u s n e s s a n d r a t i o n a l i t y ) o f t h e b r u t e s a n d a n p a s s a n t t h e c o n s c i o u s n e s s a n d r a t i o n a l i t y ( o r m i n d a d n e s s ) o f o t h e r h u m a n s . H e r e , D e s c a r t e s p r o p o s e s t h e f o l l o w i n g t h o u g h t e x p e r i m e n t . I m a g i n e " a u t o m a t o n s , o r m o v i n g m a c h i n e s " a n d s u p p o s e ( i n t h e f i r s t c a s e ) " s u c h m a c h i n e s h a d t h e o u t w a r d s h a p e o f a m o n k e y o r o f s o m e o t h e r b e a s t t h a t l a c k s r e a s o n " ( D e s c a r t e s 1 6 3 7 , p . 1 3 9 ) . I n t h i s c a s e , D e s c a r t e s m a i n t a i n s , ” w e s h o u l d h a v e n o m e a n s o f k n o w i n g t h a t t h e y d i d n o t p o s s e s s e n t i r e l y t h e s a m e n a t u r e a s t h e s e a n i m a l s ; w h e r e a s [ i n t h e s e c o n d c a s e ] I f a n y s u c h m a c h i n e s b o r e a r e s e m b l a n c e t o o u r b o d i e s , a n d i m i t a t e d o u r a c t i o n s a s c l o s e l y a s p o s s i b l e f o r a l l p r a c t i c a l p u r p o s e s . w e s h o u l d s t i l l h a v e t w o v e r y c e r t a i n m e a n s o f r e c o g n i z i n g t h e y w e r e n o t r e a l m e n . ( D e s c a r t e s 1 6 3 7 , p p . 1 3 9 - 1 4 0 ) T h e f i r s t " m e a n s " o r t e s t " i s t h a t [ m i n d l e s s u n c o n s c i o u s t h i n g s , e . g . , a u t o m a t e ] c o u l d n e v e r u s e w o r d s , o r p u t t o g e t h e r o t h e r s i g n s , a s w e d o i n o r d e r t o d e c l a r e o u r t h o u g h t s t o o t h e r s " ( D e s c a r t e s 1 6 3 7 , p . 1 4 1 ) ; t h e s e c o n d i s t h a t [ m i n d l e s s u n c o n s c i o u s t h i n g s , e . g . , a u t o m a t e ] c o u l d n e v e r “ a c t i n a l l t h e c o n t i n g e n c i e s o f l i f e 3 0 i n t h e w a y i n w h i c h o u r r e a s o n m a k e s u s a c t " ( D e s c a r t e s 1 6 3 7 , p . 1 4 1 ) . I w i l l m a i n l y c o n s i d e r t h i s f i r s t " l a n g u a g e t e s t " b e c a u s e i t i s t h e p r e c u r s o r o f T u r i n g ’ s . D e s c a r t e s h i m s e l f r e g a r d s t h e l a n g u a g e t e s t a s " t h e p r i n c i p a l a r g u m e n t t h a t t h e b r u t e s a r e d e v o i d o f r e a s o n " ( D e s c a r t e s 1 6 4 7 b ) . 3 E l s e w h e r e D e s c a r t e s e v e n a s s e r t s , " s p e e c h i s t h e o n l y c e r t a i n s i g n o f t h o u g h t h i d d e n i n a b o d y " ( D e s c a r t e s 1 6 4 9 , p . 3 6 6 , m y e m p h a s i s ) . I n c o n n e c t i o n w i t h h i s u s e o f t h e t e s t ( s ) t o e x c l u d e t h e b r u t e s f r o m t h e r a n k s o f t h i n k i n g ( o r c o n s c i o u s o r i n t e l l i g e n t ) t h i n g s , D e s c a r t e s s e e m s c o m m i t t e d t o t h e c l a i m t h a t a n y t h o u g h t ( o r c o n s c i o u s n e s s o r i n t e l l i g e n c e ) a t a l l c a u s a l l y s u f f i c e s f o r l i n g u i s t i c c o m p e t e n c e a n d h e n c e t h a t l a c k o f l i n g u i s t i c c o m p e t e n c e i n t h e b r u t e s p r o v i d e s i n d u c t i v e l y s u f f i c i e n t e v i d e n c e o f a b s e n c e o f t h o u g h t ( t h e c o m p l e t e a n d u t t e r m i n d l e s s n e s s o r l a c k o f a n y m e n t a l p r o p e r t i e s a t a l l ) i n t h e m . I n c o n n e c t i o n w i t h h i s u s e o f t h e t e s t ( s ) t o i n c l u d e o t h e r h u m a n b e i n g s i n t h e r a n k s o f t h i n k i n g ( o r c o n s c i o u s o r i n t e l l i g e n t ) t h i n g s , D e s c a r t e s s e e m s c o m m i t t e d t o t h e c l a i m t h a t t h o u g h t ( o r c o n s c i o u s n e s s o r i n t e l l i g e n c e ) i s c a u s a l l y n e c e s s a r y f o r l i n g u i s t i c c o m p e t e n c e a n d h e n c e t h a t p o s s e s s i o n o f l i n g u i s t i c c o m p e t e n c e p r o v i d e s i n d u c t i v e l y s u f f i c i e n t e v i d e n c e o f t h e p r e s e n c e o f t h o u g h t ( o r c o n s c i o u s n e s s o r i n t e l l i g e n c e ) i n o t h e r h u m a n b e i n g s . N o w , I t a k e i t t h a t D e s c a r t e s ’ s d e f e n s e o f t h e c l a i m t h a t ( a n y ) c o n s c i o u s n e s s o r t h o u g h t ( a t a l l ) c a u s a l l y s u f f i c e s f o r l i n g u i s t i c c o m p e t e n c e a n d c o n s e q u e n t l y t h a t t h e a b s e n c e o f l i n g u i s t i c c o m p e t e n c e i n d u c t i v e l y s u f f i c e s t o e v i d e n c e u t t e r l a c k o f 3 . C i t e d b y N o a m C h o m s k y ( 1 9 6 6 , p . 7 3 ) . T h e " l a n g u a g e t e s t , " " b e h a v i o r t e s t ” d e s i g n a t i o n s f o l l o w K e i t h G u n d e r s o n ( 1 9 7 1 ) . G u n d e r s o n a l s o s t r e s s e s t h e p r i o r i t y D e s c a r t e s s e e m s t o a c c o r d t o t h e l a n g u a g e t e s t . 3 1 t h o u g h t o r c o n s c i o u s n e s s i s t h e w e a k e s t p a r t o f h i s d i s c u s s i o n . I t i s t h i s c l a i m , o f c o u r s e , t h a t m a n d a t e s D e s c a r t a s ’ s n o t o r i o u s v i e w s a b o u t t h e m i n d l e s s n e s s o f i n f r a h u m a n a n i m a l s . H e r e a s o n s : i t i s q u i t e r e m a r k a b l e t h a t t h e r e a r e n o m e n s o d u l l - w i t t e d o r s t u p i d - - a n d t h i s i n c l u d e s e v e n m a d m e n - - t h a t t h e y a r e i n c a p a b l e o f a r r a n g i n g v a r i o u s w o r d s a n d s o u n d s t o g e t h e r a n d f o r m i n g a n u t t e r a n c e f r o m t h e m i n o r d e r t o m a k e t h e i r t h o u g h t s u n d e r s t o o d ; w h e r e a s t h e r e i s n o o t h e r a n i m a l h o w e v e r p e r f e c t a n d w e l l e n d o w e d i t m a y b e , t h a t c a n d o t h e l i k e . T h i s d o e s n o t h a p p e n b e c a u s e t h e y l a c k t h e n e c e s s a r y o r g a n s , f o r w e s e e t h a t m a g p l e s a n d p a r r o t s c a n u t t e r w o r d s a s w e d o , a n d y e t t h e y c a n n o t s p e a k a s w e d o : t h a t I s , t h e y c a n n o t s h o w t h a t t h e y a r e t h i n k i n g w h a t t h e y a r e s a y i n g . O n t h e o t h e r h a n d , m a n b o r n d e a f a n d d u m b , a n d t h u s d e p r i v e d o f s p e e c h - o r g a n s a s m u c h a s t h e b e a s t s o r e v e n m o r e s o , n o r m a l l y I n v e n t t h e i r o w n s i g n s t o m a k e t h e m s e l v e s u n d e r s t o o d b y t h o s e w h o , b e i n g r e g u l a r l y i n t h e i r c o m p a n y , h a v e t h e t i m e t o l e a r n t h e i r l a n g u a g e . T h i s s h o w s n o t m e r e l y t h a t t h e b e a s t s h a v e l e s s r e a s o n t h a n m e n , b u t t h a t t h e y h a v e n o r e a s o n a t a l l . F o r I t p a t e n t l y r e q u i r e s v e r y l i t t l e r e a s o n t o s p e a k ; a n d s i n c e a s m u c h I n e q u a l i t y c a n b e o b s e r v e d a m o n g t h e a n i m a l s o f a g i v e n s p e c i e s a s a m o n g h u m a n b e i n g s , a n d s o m e a n i m a l s a r e m o r e e a s i l y t r a i n e d t h a n o t h e r s , I t w o u l d b e I n c r e d i b l e t h a t a s u p e r i o r s p e c i m e n o f t h e m o n k e y o r p a r r o t s p e c i e s s h o u l d n o t b e a b l e t o s p e a k a s w e l l a s t h e s t u p i d e s t c h i l d - o r a t l e a s t a s w e l l a s a c h i l d w i t h a d e f e c t i v e b r a i n - - i f t h e i r s o u l s w e r e n o t c o m p l e t e l y d i f f e r e n t I n n a t u r e f r o m o u r s . ( D e s c a r t e s 1 6 3 7 , p . 1 4 0 ) A m a u l d i s s u r e l y r i g h t t h a t t h i s c o n c l u s i o n c o n c e r n i n g t h e m e n t a l p r o p e r t i e s o f t h e b r u t e s , " t h a t t h e y h a v e n o n e " i s a v i e w t h a t " w i l l n o t s u c c e e d i n fi n d i n g a c c e p t a n c e i n p e o p l e ’ s m i n d s u n l e s s i t s u p p o r t e d b y v e r y s o l i d a r g u m e n t s " ( D e s c a r t e s a t a l . 1 6 4 2 , p . 1 4 4 ) ; a n d D e s c a r t e s a r g u m e n t s h a r e h a r d l y s e e m s o l i d . C r u c i a l l y , t h e t h e o r e t i c a l i d e n t i fi c a t i o n o f l i n g u i s t i c c o m p e t e n c e W i t h i n t e l l e c t u a l c o m p e t e n c e p e r s a a n d f u r t h e r i d e n t i f i c a t i o n o f i n t e l l i g e n c e w i t h m i n d p e r s e , o n w h i c h t h e a r g u m e n t d e p e n d s , a r e t o o d u b i o u s t o s u p p o r t t h e b l a n k e t d e n i a l o f m e n t a l p r o p e r t i e s t o i n f r a h u m a n a n i m a l s i n t h e f a c e o f t h e w i d e s p r e a d a n d p r e d i c t i v e l y f r u i t f u l p r a c t i c e o f m a k i n g m e n t a l p r e d i c a t i o n s ( " s e e s t h e r a b b i t , " " r e c o g n i z a s h i s m a s t e r , " e t c . ) o f t h e m . I t i s t o s u c h p r e d i c a t i o n s t h a t A m a u l d a n d G a s s e n d i a p p e a l . C h o m s k y e v e n d r a w s p r e c i s e l y t h e o p p o s i t e m o r a l t h a n D e s c a r t e s d o e s 3 2 f r o m t h e r e b e i n g v i r t u a l l y " n o m e n s o d u l l - w i t t e d a n d s t u p i d a s t o b e i n c a p a b l e o f a r r a n g i n g v a r i o u s w o r d s t o g e t h e r a n d f o r m i n g a n u t t e r a n c e f r o m t h e m " : w h e r e D e s c a r t e s c o n c l u d e s f r o m t h i s t h a t m e n t a l c a p a c i t y a n d l i n g u i s t i c c a p a c i t y a r e i d e n t i c a l , C h o m s k y c o n c l u d e s f r o m t h i s t h a t l i n g u i s t i c a b i l i t y i s " i n d e p e n d e n t o f i n t e l l i g e n c e " ( C h o m s k y 1 9 6 6 , p . 7 1 ) . T h e r e i s l i t t l e t o b e s a i d , i t s e e m s , e i t h e r f o r t h e i d e n t i f i c a t i o n o f m e n t a l a c t i v i t i e s a n d s t a t e s g e n e r a l l y w i t h r e a s o n i n g o r f o r t h e i d e a t h a t a l l m e n t a l s t a t e s a n d p r o c e s s e s p r e s u p p o s e t h e h i g h e r r e a s o n i n g p r o c e s s e s . T h e r e i s m u c h t o b e s a i d , o n t h e o t h e r h a n d , f o r t h e i d e a t h a t c a t s ( e . g . ) , d e s p i t e t h e i r m a n i f e s t l a c k o f h i g h e r r a t i o n a l ( e . g . , l i n g u i s t i c a n d m a t h e m a t i - c a l ) a b i l i t i e s , n e v e r t h e l e s s , s o m a t i m a s s e a b i r d s , s e e k t o c a t c h t h e m , e t c . S o m u c h f o r w h a t I t a k e t o b e t h e w e a k e s t p a r t o f D e s c a r t e s ‘ s d i s c u s s i o n - - h i s n o t i o n t h a t a n y g e n u i n e l y m e n t a l a b i l i t y ( g i v e n t h e u n i v e r s a l i n s t r u m e n t a l i t y o f r e a s o n ) m u s t b r i n g i n i t s t r a i n e v e r y m e n t a l a b i l i t y a n d h i s c o n s e q u e n t d i s m i s s a l o f t h e m o r e o r l e s s p a r t i a l m e n t a l e n d o w m e n t s ( c o m m r a d t o o u r s ) o f t h e l o w e r a n i m a l s . I t u r n n o w t o w h a t I s e e a s t h e s t r e n g t h o f D e s c a r t e s ’ s d i s c u s s i o n , h i s n o t i o n t h a t t h o u g h t ( i . e . , m e n t a l p r o p e r t i e s s u c h a s u n d e r s t a n d i n g ) a r e c a u s a l l y n e c e s s a r y f o r c o n v e r s a t i o n a l a b i l i t y a n d , c o n s e q u e n t l y , t h a t c o n v e r s a t i o n o r l i n g u i s t i c c o m p e t e n c e i n d u c t i v e l y s u f f i c e s t o e v i d e n c e t h e m e n t a l p r o p e r t y o f u n d e r s t a n d i n g w h a t ’ s s a i d a n d t h e l a n g u a g e b e i n g c o n v e r s e d i n . W h a t c o m m a n d s t h i s a l l o w a n c e a b o v e a l l , I t h i n k , i s t h a t t o r e f u s e t h i s - t o r e f u s e t o c r e d i t b e h a v i o r ( e . g . , c o n v e r s a t i o n ) w i t h b e i n g s u f f i c i e n t t o i n d u c t i v e l y w a r r a n t a t t r i b u t i o n o f m e n t a l p r o p e r t i e s ( e . g . , u n d e r s t a n d i n g ) - t h r e a t e n s i n s o l u b l e d i f f i c u l t i e s a b o u t o u r k n o w l e d g e o f o t h e r h u m a n m i n d s . W h a t e l s e d o w e r e l y o n 3 3 " i f e v e r w e a r e c h a l l e n g e d t o s a y w h y w e b e l i e v e o t h e r p e o p l e h a v e m i n d s “ b e s i d e s “ t h e c a p a c i t y t o p r o d u c e T u r i n g - i n d i s t i n g u i s h a b l e b o d i l y p e r f o r m a n c e " ( H a r n a d 1 9 9 1 , p . 5 1 ) ? W h a t b e s i d e s t h e i r c o n v e r s a t i o n a n d o t h e r b e h a v i o r ? W e k n o w w h a t o t h e r p e o p l e t h i n k - h e n c e t h a t t h e y t h i n k - - f o r e m o s t a n d m o s t f u l l y f r o m w h a t t h e y s a y . T h i s , I t a k e i t , u n d e r w r i t e s D e s c a r t e s ’ s c o n f i d e n t n e g l e c t o f t h e o t h e r h u m a n m i n d s p r o b l e m : h e r e g a r d s s p e e c h a s a " c a r t a i n s i g n o f t h o u g h t h i d d e n i n a b o d y , " a n d c o n v e r s a t i o n a s p r o v i d i n g , a s i t w e r e , s e m i - d i r e c t a c c e s s t o o t h a r ’ s t h o u g h t s . 2 . 4 M i n d s a n d M a c h i n e s : T h e " P r o d u c t i v i t y " A r g u m e n t I h a v e s u g g e s t e d t h a t a l l o w i n g b e h a v i o r g e n e r a l l y , a n d s p e e c h e s p e c i a l l y , t o c o n c l u s i v e l y e v i d e n c e t h o u g h t i s j u s t i f i e d b y t h e d i r e c o n s e q u e n c e s - - i n t r a c t a b l e d i f f i c u l t i e s a b o u t o t h e r m i n d s , e v e n o t h e r h u m a n m i n d s - t h a t o t h e r w i s e t h r e a t e n . D e s c a r t e s a l s o a t t e m p t s t o p r o v i d e a d d i t i o n a l p o s i t i v e t h e o r e t i c a l r e a s o n s f o r t a k i n g t h e b e h a v i o r t e s t a n d l a n g u a g e t e s t t o b e d e c i s i v e t e s t s o f m e n t a l i t y o r l a c k t h e r e o f . H a r e a s o n s a s f o l l o w s : F o r w h e r e a s r e a s o n I s a u n i v e r s a l i n s t r u m e n t w h i c h c a n b e u s e d i n a l l k i n d s o f s i t u a t i o n s , t h e s e o r g a n s [ o f a n i m a l s , l i k e m e c h a n i s m s I n g e n e r a l ] n e e d s o m e p a r t i c u l a r d i s p o s i t i o n f o r e a c h p a r t i c u l a r a c t i o n ; h e n c e i t I s f o r a l l p r a c t i c a l p u r p o s e s I m p o s s i b l e f o r a m a c h i n e t o h a v e e n o u g h d i f f e r e n t o r g a n s t o m a k e i t a c t I n a l l t h e c o n t i n g e n c i e s o f l i f e I n t h e w a y I n w h i c h o u r r e a s o n m a k e s u s a c t . ( D e s c a r t e s 1 6 3 7 , p . 1 4 0 ) W e m i g h t a l s o s a y , w i t h r e g a r d t o t h e l a n g u a g e t e s t , i t i s f o r a l l p r a c t i c a l p u r p o s e s i m p o s s i b l e f o r a m a c h i n e t o h a v e e n o u g h d i f f e r e n t o r g a n s t o m a k e i t s p e a k i n a l l t h e c o n t i n g e n c i e s o f c o n v e r s a t i o n i n t h e w a y i n w h i c h o u r r e a s o n m a k e s u s s p e a k . 3 4 F o r w e c a n c e r t a i n l y c o n c e i v e o f a m a c h i n e s o c o n s t r u c t e d t h a t i t u t t e r s w o r d s , a n d e v e n u t t e r s w o r d s w h i c h c o r r e s p o n d t o b o d i l y a c t i o n s c a u s i n g a c h a n g e I n I t s o r g a n s ( e . g . , I f y o u t o u c h i t I n o n e s p o t i t a s k s w h a t y o u w a n t o f i t , i f y o u t o u c h i t I n a n o t h e r i t c r i e s o u t t h a t y o u a r e h u r t i n g i t , a n d s o o n ) . B u t i t i s n o t c o n c e i v a b l e t h a t s u c h a m a c h i n e s h o u l d p r o d u c e d i f f e r e n t a r r a n g e m e n t s o f w o r d s s o a s t o g i v e a n a p p r o p r i a t e l y m e a n i n g f u l a n s w e r t o w h a t e v e r i s s a i d i n i t s p r e s e n c e , a s e v e n t h e d u l l e s t o f m e n c a n d o . ( D e s c a r t e s 1 6 3 7 , p . 1 4 0 ) D e s c a r t e s c o n t i n u e s , " e v e n t h o u g h s u c h m a c h i n e s m i g h t d o [ o r s a y ] s o m e t h i n g s a s w e l l a s w e d o [ o r s a y ] t h e m , o r p e r h a p s e v e n b e t t e r , t h e y w o u l d i n e v i t a b l y f a i l i n o t h e r s , w h i c h w o u l d r e v e a l t h a t t h e y w e r e a c t i n g [ o r s p e a k i n g ] n o t t h r o u g h u n d e r s t a n d i n g b u t o n l y f r o m t h e d i s p o s i t i o n o f t h e i r o r g a n s " ( D e s c a r t e s 1 6 3 7 , p . 1 4 0 ) D e s c a r t a s ’ s w o u l d - b e p o s i t i v e j u s t i f i c a t i o n o f t h e ( i n d u c t i v e s u f f i c i e n c y o f ) t h e l a n g u a g e t e s t , t h e n , w e m s t o a r g u e f r o m ( 1 ) t h e u n l i m i t e d n o v e l t y o f s p e e c h ( f r o m s p e a k e r s ’ s u n b o u n d e d c a p a c i t i e s " t o f o r m n e w s t a t e m e n t s w h i c h w h i c h a r e a p p r o p r i a t e t o n e w s i t u a t i o n s " ( C h o m s k y 1 9 6 6 , p . 7 1 ) - - w h a t C h o m s k y c a l l s t h e “ c r e a t i v e a s p e c t " a n d o t h e r s ( e . g . , F o d o r 1 9 7 5 , L y c a n 1 9 9 2 ) h a v e c a l l e d t h e “ p r o d u c t i v i t y " o f s p e e c h - t o g e t h e r w i t h t h e " f a c t " ( 2 ) t h a t " i t i s f o r a l l p r a c t i c a l p u r p o s e s i m p o s s i b l e f o r a m a c h i n e t o h a v e e n o u g h o r g a n s " w i t h e n o u g h d i s p o s i t i o n s ( s i n c e " t h e s e o r g a n s n e e d s o m e p a r t i c u l a r d i s p o s i t i o n f o r e a c h p a r t i c u l a r a c t i o n [ o r l o c u t i o n ] " ) t o m a k e i t s p e a k p r o d u c t i v e l y , t o t h e c o n c l u s i o n ( 3 ) t h a t " t h i s c a p a c i t y [ f o r p r o d u c t i v e s p e e c h ] i s b e y o n d t h e l i m i t a t i o n s o f a n y i m a g i n a b l e m e c h a n i s m " ( C h o m s k y 1 9 6 6 , p . 7 3 ) a n d c o n s e q u e n t l y i n e x p l i c a b l e o n p u r e l y m a t e r i a l ( i . e . , f o r D e s c a r t e s , p u r e l y m e c h a n i c a l ) p r i n c i p l e s . H e n c e ( 4 ) w e n e e d t o p o s t u l a t e s o m e i m m a t e r i a l c a u s e o r p r i n c i p l e - - " a ‘ c r e a t i v e p r i n c i p l a ’ a l o n g s i d e t h e “ m e c h a n i c a l p r i n c i p l e ’ t h a t s u f f i c e s t o a c c o u n t f o r a l l o t h e r a s p e c t s 3 5 o f t h e a n i m a t e a n d i n a n i m a t e w o r l d " ( C h o m s k y 1 9 6 6 , p . 7 3 ) - - t o a c c o u n t f o r t h e c r e a t i v e a s p e c t o r p r o d u c t i v i t y o f h u m a n s p e e c h . M o r e o v e r ( 5 ) w e a r e d i r e c t l y a w a r e ( v i a t h e c o g i t o ) o f j u s t s u c h a n i m m a t e r i a l " c r e a t i v e p r i n c i p l e " - t h e m i n d o r r e a s o n - - i n o u r s e l v e s . H e n c e , f i n a l l y , ( 6 ) t h e p r o d u c t i v e s p e e c h o f o t h e r h u m a n s i n d u c t i v e l y w a r r a n t s ( b y a k i n d o f i n f e r e n c e t o t h e b e s t e x p l a n a t i o n ) t h e c l a i m t h a t t h e y m u s t a l s o b e a c t u a t e d i n t h e i r c o n v e r s a t i o n b y a n i m m a t e r i a l " c r e a t i v e p r i n c i p l e " - - l a , a m i n d o r r e a s o n - - s u c h a s w e d i s c o v e r ( v i a t h e c o g i t o ) i n o u r s e l v e s . A s I h a v e a l r e a d y i n d i c a t e d , s a v e f o r t h e s u p p o s e d i m m a t e r i a l i t y o f t h e " c r e a t i v e p r i n c i p l e " a n d t h e s u p p o s e d d i s c o v e r a b i l i t y o f t h i s ( b o t h t h e p r i n c i p l e i t s e l f a n d i t ’ s i m m a t e r i a l i t y ) v i a t h e c o g i t o ( o r s i m p l y i n t r o s p e c t i v e l y ) , I a c c e p t t h i s fi n a l c o n c l u s i o n : I a c c e p t t h e i n d u c t i v e s u f f i c i e n c y o f c o n v e r s a t i o n t o e v i d e n c e t h o u g h t . I t i s p o s s i b l e - i n d e e d , w i t h a n e y e t o a v o i d i n g i n t r a c t a b l e o t h e r m i n d s p r o b l e m s , e s s e n t i a l - t o a c c e p t t h i s l i m i t e d c l a i m w i t h o u t a c c e p t i n g D e s c a r t e s f u r t h e r c l a i m s c o n c e r n i n g t h e i m m a t e r i a l i t y a n d i n t r o s p e c t i v e k n o w a b i l i t y o f t h o u g h t , a n d ( c o n s e q u e n t l y ) w i t h o u t a c c e p t i n g a n y s u c h C a r t e s i a n a r g u m e n t f o r t h e s u f f i c i e n c y o f s p e e c h t o e v i d e n c e t h o u g h t a s t h e o n e j u s t o u t l i n e d . I n d e e d , m y r e j e c t i o n o f w h a t I t a k e t o b e t h e e x t r a n e o u s C a r t e s i a n p a r t o f t h e a r g u m e n t ’ s f i n a l c o n c l u s i o n ( 6 ) i s t a n t a m o u n t t o r e j e c t i n g t h e c l a i m o f p r e m i s e ( 5 ) . T h e r e c e r t a i n l y s e e m g o o d e n o u g h r e a s o n s f o r r e j e c t i n g t h i s " i n t h a t i t a s s u m e s t h a t o u r f a c u l t y o f i n n e r o b s e r v a t i o n o r i n t r o s p e c t i o n r e v e a l s t h i n g s a s t h e y r e a l l y a r e i n t h e i r i n n e r m o s t n a t u r e " ( C h u r c h l a n d 1 9 8 8 , p . 1 5 ) w h e n , i n g e n e r a l , " o t h e r f o r m s o f o b s e r v a t i o n - - s i g h t , h e a r i n g , t o u c h , a n d s o o n - d o n o s u c h t h i n g " ( C h u r c h l a n d 1 9 8 8 , p . 1 5 ) . 3 6 I n d e e d , " r e c e n t r e s e a r c h i n s o c i a l p s y c h o l o g y [ e . g . , N i s b e t t & W i l s o n 1 9 7 7 ] h a s s h o w n t h a t t h e e x p l a n a t i o n s o n e o f f e r s f o r o n e ’ s o w n b e h a v i o r h a v e l i t t l e o r n o o r i g i n i n r e l i a b l e i n t r o s p e c t i o n b u t a r e i n s t e a d s p o n t a n e o u s l y c o n f a b u l a t e d o n t h e s p o t a s e x p l a n a t o r y h y p o t h e s e s t o f i t t h e b e h a v i o r a n d c i r c u m s t a n c e s o b s e r v e d " ( C h u r c h l a n d 1 9 8 8 , p . 7 9 ) ; h y p o t h e s e s , m o r e o v e r , w h i c h " a r e o f t e n d e m o n s t r a b l y w r o n g " ( C h u r c h l a n d 1 9 8 8 , p . 7 9 ) . T h e r e i s a s e c o n d p r o b l e m w i t h t h i s a r g u m e n t o f D e s c a r t e s : o f t h e t h r e e t h i n g s i t p r e m i s e s , ( 1 ) t h e p r o d u c t i v i t y o r c r e a t i v i t y o f s p e e c h , ( 2 ) t h e n o n p r o d u c - t i v i t y o r n o n c r e a t i v i t y o f m a c h i n e r y , a n d ( 5 ) t h e i n t r o s p e c t i b i l i t y o f t h e i m m a t e r i a l i t y a n d c r e a t i v i t y o f m i n d , I t i s n o t j u s t ( 5 ) w h i c h i s d u b i o u s , b u t a l s o ( 2 ) . I n d e e d , i f ( 2 ) w e r e a l l o w e d t o s t a n d w e w o u l d h a v e g r o u n d s i n d e p e n d e n t o f t h e i n t r o s p e c t i v e o n e s a d d u c e d i n ( 5 ) s u p p o r t i n g t h e c l a i m e d i m m a t e r i a l i t y o f t h o u g h t . I f t h o u g h t i s s u p p o s e d t o b e c a u s a l l y r e q u i r e d f o r s p e e c h ( s o t h a t s p e e c h , c o n v e r s e l y , i n d u c t i v e l y s u f f i c e s t o e v i d e n c e t h o u g h t ) t h a n , s i n c e b y ( 2 ) u n b o u n d e d ( p r o d u c t i v e o r c r e a t i v e ) c a p a c i t i e s c a n ’ t b e m e c h a n i c a l l y ( a n d h e n c e , i t s e e m s , n o t m a t e r i a l l y ) g e n e r a t e d , i t f o l l o w s t h a t t h o u g h t ( i n s o f a r a s i t c a u s e s s p e e c h ) m u s t b e i m m a t e r i a l . D e s c a r t e s i s l e d t o t h e c o n c l u s i o n t h a t " m a t t e r i s i n c a p a b l e o f t h i n k i n g " ( B a y l e 1 6 9 7 , p . 2 1 6 ) e v e n i n d e p e n d e n t l y o f t h e c o g i t o b y t h e c o n t r a s t b e t w e e n t h e p r o d u c t i v i t y o f t h o u g h t m a n i f e s t e d i n o u r h u m a n c a p a c i t i e s o f r e s p o n d i n g a p p r o p r i - a t e l y t o o u r a i m s i n i n d e f i n i t e l y m a n y n o v e l s i t u a t i o n s o r a p p r o p r i a t e l y t o o u r c o n v e r s a t i o n a l a i m s i n i n d e f i n i t e l y m a n y n o v e l s p e e c h s i t u a t i o n s ( o n t h e o n e h a n d ) a n d t h e p r e s u m a b l y l i m i t e d i n f l e x i b l e n a t u r e o f m a c h i n e s ( o n t h e o t h e r ) . F r o m t h i s c o n t r a s t - b e t w e e n t h e l i m i t e d c a p a c i t i e s o f m a c h i n e s a n d t h e b o u n d l e s s 3 7 p r o d u c t i v i t y o f t h o u g h t a n d s p e e c h - - D e s c a r t e s a n d h i s f o l l o w e r s f a m o u s l y c o n c l u d e “ t h a t o n l y s p i r i t u a l s u b s t a n c e s a r e c a p a b l e o f r e a s o n i n g " ( B a y l e 1 6 9 7 , p . 2 1 6 ) ; " t h a t a l l t h o u g h t i s o f s u c h a n a t u r e t h a t t h e m o s t s u b t l e a n d p e r f e c t m a t t e r i s i n c a p a b l e o f i t a n d t h a t i t c a n o n l y e x i s t i n i n c o r p o r e a l s u b s t a n c e s " ( B a y l e 1 6 9 7 , p . 2 1 6 ) . T u r i n g ’ s s e m i n a l a r g u m e n t ( T u r i n g 1 9 3 6 - 7 ) t h a t c e r t a i n t y p e s o f m a c h i n e s - s i n c e c a l l e d " T u r i n g m a c h i n e s " - c a n c o m p u t e a n y c o m p u t a b l e f u n c t i o n p r e c i s e l y d e m o n s t r a t e s t h e f a l s i t y o f D e s c a r t e s ’ s p r e s u m p t i o n a b o u t t h e n e c e s s a r i l y l i m i t e d c a p a c i t i e s o f m a c h i n e s . T u r i n g m a c h i n e s h a v e u n b o u n d e d c a p a c i t i e s f o r u n l i m i t e d n o v e l c o m p u t a t i o n . ‘ 3 . T u r i n g M a c h i n e s , T u r i n g ’ s T e s t , a n d T u r i n g M a c h i n e F u n c t i o n a l i s m 3 . 1 C o m p u t i n g M a c h i n e r y : D e s c a r t e s t o T u r i n g O f v i e w s l i k e D e s c a r t e s ’ s a b o u t t h e l i m i t e d i n f l e x i b l e n a t u r e o f m a c h i n e s , T u r i n g r e m a r k s , i b e l i e v e t h e y a r e m o s t l y f o u n d e d o n t h e p r i n c i p l e o f s c i e n t i f i c i n d u c t i o n . A m a n h a s s e e n t h o u s a n d s o f m a c h i n e s i n h i s l i f e t i m e . F r o m w h a t h e s e e s o f t h e m h e d r a w s a n u m b e r o f g e n e r a l c o n c l u s i o n s . T h e y a r e u g l y , e a c h i s d e s i g n e d f o r a l i m i t e d p u r p o s e , w h e n r e q u i r e d f o r a m i n u t e l y d i f f e r e n t p u r p o s e t h e y a r e u s e l e s s , t h e v a r i e t y o f b e h a v i o u r o f a n y o n e o f t h e m i s v e r y s m a l l , e t c . , e t c . N a t u r a l l y h e c o n c l u d e s t h e s e a r e n e c e s s a r y p r o p e r t i e s o f m a c h i n e s i n g e n e r a l . ( T u r i n g 1 9 5 0 , p . 5 4 ) 4 . O f c o u r s e a c t u a l c o m p u t a t i o n a l p e r f o r m a n c e i s l i m i t e d b y s u c h f a c t o r s a s c h i p b u r n o u t , p o w e r f a i l u r e , m e m o r y l i m i t a t i o n s , e t c . ; b u t s o i s a c t u a l l i n g u i s t i c p e r f o r m a n c e l i m i t e d b y " s u c h g r a m m a t i c a l l y i r r e l e v a n t c o n d i t i o n s a s m e m o r y l i m i t a t i o n s , d i s t r a c t i o n s , s h i f t s o f a t t e n t i o n a n d i n t e r e s t , a n d e r r o r s “ ( C h o m s k y 1 9 6 5 , p . 3 ) . M u c h a s a g e n e r a t i v e g r a m m a r " p u r p o r t s t o b e a d e s c r i p t i o n o f t h e i d e a l s p e a k e r - h e a r e r ’ s i n t r i n s i c c o m p e t e n c e " a T u r i n g m a c h i n e t a b l e p u r p o r t s t o d e s c r i b e i d e a l m a c h i n e s ’ s c o m p e t e n c i e s : i t i s t h e u n d e r l y i n g c o m p e t e n c e ( n o t a c t u a l p e r f o r m a n c e ) w h i c h i s s a i d t o b e “ p r o d u c t i v e " o r " c r e a t i v e " o r " u n b o u n d e d " i n b o t h c a s e s . 3 8 A g a i n , " t h e b e l i e f t h a t m a c h i n e r y w a s n e c e s s a r i l y l i m i t e d t o e x t r e m e l y s t r a i g h t f o r - w a r d p o s s i b l y e v e n r e p e t i t i v e , j o b s " h a s b e e n e n c o u r a g e d b y t h e " v e r y l i m i t e d c h a r a c t e r o f t h e m a c h i n e r y w h i c h h a s b e e n u s e d u n t i l r e c e n t t i m e s " ( T u r i n g 1 9 6 9 , p . 3 ) . S u c h b e l i e f s , h o w e v e r , w e r e c o u n t e r i n s t a n c e d a l r e a d y i n t h e n i n e t e e n t h c e n t u r y b y C h a r l e s B a b b a g e ’ s d e s i g n s f o r a n " A n a l y t i c a l E n g i n e " ( a s h e c a l l e d i t ) . " B a b b a g e h a d a l l t h e e s s e n t i a l i d e a s " ( T u r i n g 1 9 5 0 , p . 4 5 ) . B a b b a g e ' s A n a l y t i c a l E n g i n e w a s ( o r w o u l d h a v e b e e n , h a d i t b e e n c o m p l e t e d ) a p r o g r a m m a b l e ( h e n c e a f l e x i b l e - - e v e n u n l i m i t e d l y f l e x i b l e ) m a c h i n e . i t w a s ( o r w o u l d h a v e b e e n ) t h e f i r s t d i g i t a l c o m p u t e r . T h e t h e o r e t i c a l i m p o r t o f t h i s w a s r e c o g n i z e d b y B a b b a g e ’ s a s s o c i a t e , L a d y L o v e l a c e f " S h e w r i t e s , T h e b o u n d s o f a r i t h m e t i c w e r e o u t s t e p p e d t h e m o m e n t t h e i d e a o f a p p l y i n g t h e [ i n s t r u c t i o n ] c a r d s h a d o c c u r r e d ; a n d t h e A n a l y t i c a l E n g i n e d o e s n o t o c c u p y c o m m o n g r o u n d w i t h m e r e " c a l c u l a t i n g m a c h i n e s . " i t h o l d s a p o s i t i o n w h o l l y i t s o w n ; a n d t h e c o n s i d e r a t i o n s i t s u g g e s t s a r e m o r e i n t e r e s t i n g i n t h e i r n a t u r e . i n e n a b l i n g m e c h a n i s m t o c o m b i n e t o g e t h e r w i t h g e n e r a l s y m b o l s , i n s u c c e s s i o n s o f u n l i m i t e d v a r i e t y a n d e x t e n t , a u n i t i n g l i n k i s e s t a b l i s h e d b e t w e e n t h e o p e r a t i o n s o f m a t t e r a n d t h e a b s t r a c t m e n t a l p r o c e s s e s o f t h e m o s t a b s t r a c t b r a n c h o f m a t h e m a t i c a l s c i e n c e . T h u s n o t o n l y t h e m e n t a l a n d t h e m a t e r i a l , b u t t h e t h e o r e t i c a l a n d t h e p r a c t i c a l i n t h e m a t h e m a t i c a l w o r l d , a r e b r o u g h t i n t o m o r e i n t i m a t e a n d e f f e c t i v e c o n n e c t i o n w i t h e a c h o t h e r . W e a r e n o t a w a r e o f i t s b e i n g o n r e c o r d t h a t a n y t h i n g p a r t a k i n g o f t h e n a t u r e o f w h a t i s s o w e l l d e s i g n a t e d t h e A n a l y t i c a l E n g i n e h a s h i t h e r t o b e e n p r o p o s e d , o r e v e n t h o u g h t o f , a n y m o r e t h a n t h e i d e a o f a t h i n k i n g o r o f a r e a s o n i n g m a c h i n e . ( A u g u s t a 1 8 4 2 , p . 3 6 8 - 3 6 9 ) L a d y L o v e l a c e ’ s s p e c u l a t i o n s w e r e m a d e e x a c t - t h e r e f u t a t i o n o f D e s c a r t e s ’ s p r e s u m p t i o n a b o u t t h e l i m i t s a n d i n f l e x i b i l i t y o f m a c h i n e s i m p l i c i t i n B a b b a g e ’ s d e s i g n m a d e e x p l i c i t a n d d e c i s i v e - b y T u r i n g . 5 . A m a t h e m a t i c a l l y g i f t e d d a u g h t e r o f L o r d B w o n , L a d y L o v e l a c e h a s b e e n c a l l e d t h e f i r s t c o m p u t e r p r o g r a m m e r . S h e w r o t e p r o g r a m s f o r B a b b a g e ’ s e n g i n e s . 3 9 3 . 2 T u r i n g M a c h i n e s a n d C o m p u t a t i o n I n a p a p e r t i t l e d " 0 n c o m p u t a b l e n u m b e r s w i t h a n a p p l i c a t i o n t o t h e E i n s c h e i d u n g s p r o b i e m " ( l u r i n g 1 9 3 6 - 7 ) , T u r i n g e s t a b l i s h e s p r e c i s e l y t h e " l i n k b e t w e e n t h e o p e r a t i o n s o f m a t t e r a n d t h e a b s t r a c t m e n t a l p r o c e s s e s o f t h e m o s t a b s t r a c t b r a n c h o f m a t h e m a t i c a l s c i e n c e s " L a d y L o v e l a c e f o r e s a w . i n s o d o i n g T u r i n g d e v e l o p s ( a s L a d y L o v e l a c e f o r e c a s t ) , A n e w , a v a s t , a n d a p o w e r f u l l a n g u a g e f o r t h e f u t u r e u s e o f a n a l y s i s , i n w h i c h t o w i e l d i t s t r u t h s s o t h a t t h e s e m a y b e c o m e o f m o r e s p e e d y a n d a c c u r a t e p r a c t i c a l a p p l i c a t i o n f o r t h e p u r p o s e s o f m a n k i n d t h a n t h e m e a n s h i t h e r t o i n o u r p o s s e s s i o n h a v e r e n d e r e d p o s s i b l e . ( A u g u s t a 1 8 4 2 , p . 3 6 9 ) T h e " l a n g u a g e " T u r i n g d e v e l o p e d i s a s c h e m e f o r t h e a b s t r a c t d e s c r i p t i o n o f d i s c r e t e s t a t e m a c h i n e s . T h i s h e u s e s t o d e s c r i b e m a c h i n e s c a p a b l e o f c o m p u t i n g a n y e f f e c t i v e l y c o m p u t a b l e f u n c t i o n o r o f r e p r e s e n t i n g a n y m a t h e m a t i c a l a l g o r i t h m . T h e s e a b s t r a c t m a c h i n e s w h i c h T u r i n g ( 1 9 6 9 ) c a l l e d “ l o g i c a l c o m p u t i n g m a c h i n e s " ( L C M s ) t o d i s t i n g u i s h t h e m f r o m a c t u a l d i g i t a l c o m p u t e r s o r " p r a c t i c a l c o m p u t i n g m a c h i n e s " ( P C M s ) h a v e c o m e t o b e c a l l e d " T u r i n g m a c h i n e s . " T h o u g h t y p i c a l l y e x t r e m e l y l i m i t e d i n t h e i r r e p e r t o i r e o f b a s i c o p e r a t i o n s , T u r i n g m a c h i n e s a r e c a p a b l e , b y c o n c a t e n a t i o n o f t h e s e b a s i c o p e r a t i o n s , o f r e p r e s e n t i n g a n y a l g o r i t h m a n d c o m p u t i n g a n y e f f e c t i v e l y c a l c u l a b l e m a t h e m a t i c a l f u n c t i o n . D i s c r e t e s t a t e m a c h i n e s a r e " m a c h i n e s t h a t m o v e b y s u d d e n j u m p s o r c l i c k s f r o m o n e q u i t e d e f i n i t e s t a t e t o a n o t h e r " ( T u r i n g 1 9 5 0 , p . 4 3 9 ) . T h i s n o t i o n o f a d i s c r e t e s t a t e m a c h i n e m a y b e i l l u s t r a t e d , a n d T u r i n g ’ s w a y o f a b s t r a c t l y c h a r a c t e r i z i n g t h e o p e r a t i o n o f s u c h m a c h i n e s i n t r o d u c e d , b y c o n s i d e r i n g t h e f o l l o w i n g v e r y s i m p l e m a c h i n e : 4 0 a w h e e l w h i c h c l i c k s r o u n d t h r o u g h 1 2 0 ' o n c e a s e c o n d , b u t m a y b e s t o p p e d b y a l e v e r w h i c h c a n b e o p e r a t e d f r o m t h e o u t s i d e ; i n a d d i t i o n a l a m p i s t o l i g h t i n o n e o f t h e p o s i t i o n s o f t h e w h e e l . T h i s m a c h i n e c o u l d b e d e s c r i b e d a b s t r a c t l y a s f o l l o w s . T h e i n t e r n a l s t a t e o f t h e m a c h i n e ( w h i c h i s d e s c r i b e d b y t h e p o s i t i o n o f t h e w h e e l ) m a y b e q 1 , q 2 , o r q a . T h e r e i s a n i n p u t s i g n a l I D o r i 1 ( p o s i t i o n o f l e v e r ) . ( T u r i n g 1 9 5 0 , p . 4 3 9 - 4 4 0 ) T h e o p e r a t i o n o f t h i s m a c h i n e " c a n b e d e s c r i b e d a b s t r a c t l y " a s b e i n g c o n t r o l l e d b y t a b l e s A ( d e t e r m i n i n g t h e o u t p u t s i g n a l s 0 0 ( l a m p o f f ) o r 0 1 ( l a m p o n ) o n t h e b a s i s o f t h e m a c h i n e ’ s i n t e r n a l s t a t e ) a n d B ( d e t e r m i n i n g t h e i n t e r n a l s t a t e o f t h e m a c h i n e a t a n y m o m e n t o n t h e b a s i s o f t h e l a s t s t a t e a n d t h e i n p u t " s i g n a l " ) b e l o w . T A B L E A S t a t e ‘ 7 1 ‘ 7 2 O u t p u t 0 0 o o g s I n p u t T A B L E 3 L a s t S t a t e ( 7 1 Q 2 ‘ 7 3 Q 2 ‘ 7 3 Q 1 Q 1 Q 2 ( 1 3 T h e s e t w o t a b l e s m a y b e c o m b i n e d t o f o r m a s t a n d a r d " m a c h i n e t a b l e . " S u c h a t a b l e c o m p l e t e l y s p e c i f i e s t h e b e h a v i o r - b o t h s t a t e t r a n s i t i o n s a n d o u t p u t - - o f a d i s c r e t e s t a t e m a c h i n e a t a n y g i v e n m o m e n t o n t h e b a s i s o f t h e l a s t s t a t e a n d t h e i n p u t . T h e t a b l e f o r o u r m a c h i n e , t h e n , i s t h e f o l l o w i n g : T A B L E C L a s t S t a t e Q 1 Q 2 a s 0 0 9 2 0 1 0 3 O o q i 0 0 ( 7 1 0 0 C ] : ( ’ t h 4 1 F o r e a c h i n p u t ( r o w ) a n d l a s t s t a t e ( c o l u m n ) t h e t a b l e s p e c i f i e s a n o u t p u t a n d n e x t s t a t e : s o , t h e f i r s t e n t r y ( f o r i o i n q , ) c a n b e r e a d , " i f i 0 i s i n p u t w h e n t h e m a c h i n e i s i n s t a t e q , t h e n 0 0 i s o u t p u t a n d t h e m a c h i n e g o e s i n t o s t a t e q , " ; a n d s o o n , m u t a t i s m u t a n d i s , f o r t h e o t h e r e n t r i e s . T w o t h i n g s a b o u t t h i s m a c h i n e a n d i t s d e s c r i p t i o n , 1 t h i n k , a r e n o t e w o r t h y . F i r s t , t h e b r u t a l l y m e c h a n i c a l n a t u r e o f t h e s t a t e t r a n s i t i o n s a n d o u t p u t d e t e r m i n e d b y t h e i n p u t " s i g n a l " a n d t h e p r e v i o u s s t a t e o f t h e m a c h i n e : t h e m a c h i n e " o b e y s " t h e “ i n s t r u c t i o n s " i n t h e m a c h i n e t a b l e o n l y i n t h e s e n s e t h a t t h e t a b l e d e s c r i b e s t h e s e q u e n c e s o f s t a t e s u n d e r t h e d i f f e r e n t i n p u t c o n d i t i o n s . S e c o n d l y , t h e a b s t r a c t c h a r a c t e r o f t h e d e s c r i p t i o n , n o t e w o r t h i i y , i n v o l v e s a d o u b l e i d e a l i z a t i o n o r a b s t r a c t i o n . i n t h e f i r s t p l a c e , a s T u r i n g o b s e r v e s , t h e r e i s a l r e a d y i d e a l i z a t i o n i n v o l v e d i n c h a r a c t e r i z i n g t h i s p h y s i c a l s y s t e m a s a d i s c r e t e s t a t e m a c h i n e s i n c e , " S t r i c t l y s p e a k i n g t h e r e a r e n o s u c h m a c h i n e s . E v e r y t h i n g r e a l l y m o v e s c o n t i n u - o u s l y . B u t t h e r e a r e m a n y k i n d s o f m a c h i n e [ s u c h a s t h i s o n e ] w h i c h c a n p r o f i t a b l y b e t h o u g h t o f a s b e i n g d i s c r e t e s t a t e m a c h i n e s " ( T u r i n g 1 9 5 0 , p . 4 3 9 ) . i n t h e s e c o n d p l a c e , t h e m a c h i n e t a b l e d e s c r i p t i o n a b s t r a c t s f r o m t h e a c t u a l p h y s i c a l c o n s t r u c t i o n o f t h e m a c h i n e i n s o f a r a s a n y s y s t e m t h a t h a s ( o r c a n b e p r o f i t a b l y t h o u g h t o f a s h a v i n g ) t w o d i s c r e t e i n p u t s , t h r e e d i s c r e t e i n t e r n a l s t a t e s , a n d t w o d i s c r e t e o u t p u t s w h o s e c a u s a l i n t e r a c t i o n s a n s w e r t o t h i s t a b l e w i l l r e c e i v e e q u i v a l e n t a b s t r a c t d e s c r i p t i o n s u n d e r t h i s s c h e m e . U n d e r t h i s a b s t r a c t d e s c r i p t i o n t h e y w i l l b e e q u i v a l e n t m a c h i n e s . T h u s , T u r i n g s p e a k s o f m a c h i n e s s p e c i f i e d u n d e r t h i s s c h e m e a s " a b s t r a c t " o r " l o g i c a l m a c h i n e s " ( T u r i n g 1 9 6 9 , p . 6 ) . 4 2 T u r i n g ( 1 9 3 6 - 7 ) s p e c i f i e s a t y p e o f l o g i c a l c o m p u t i n g m a c h i n e - - a " T u r i n g m a c h i n e " - a n d a r g u e s t h a t t h e r e i s s o m e L C M c a p a b l e o f c o m p u t i n g e v e r y p o s s i b l e a l g o r i t h m a n d t h u s o f d e t e r m i n i n g e v e r y e f f e c t i v e l y c o m p u t a b l e m a t h e m a t i c a l f u n c t i o n . S e v e r a l c o n s i d e r a t i o n s s t r o n g l y s u p p o r t t h i s n o w g e n e r a l l y a c k n o w l e d g e d T u r i n g - C h u r c h t h e s i s “ : c r u c i a l l y , ( 1 ) a l l k n o w n ( i n t u i t i v e l y r e c o g - n i z e d ) a l g o r i t h m s a r e r e p r e s e n t a b l e a s T u r i n g m a c h i n e s ; a n d ( 2 ) o t h e r i n d e p e n - d e n t l y d e v e l o p e d c h a r a c t e r i z a t i o n s o f t h e s e t o f c o m p u t a b l e f u n c t i o n s , e . g . , G o d e i ' s ( 1 9 3 4 ) a n d K l e e n e ’ s ( 1 9 3 6 ) r e c u r s i v e a l g o r i t h m ( r e c u r s i v e f u n c t i o n ) a n d C h u r c h ’ s ( 1 9 3 6 ) l a m b d a c a l c u l u s p i c k o u t t h e s a m e f u n c t i o n s a s T u r i n g ’ s . T u r i n g ’ s o w n d e f e n s e o f t h e t h e s i s t h a t t h e T u r i n g " c o m p u t a b l e n u m b e r s i n c l u d e a l l n u m b e r s w h i c h c o u l d n a t u r a l l y b e r e g a r d e d a s c o m p u t a b l e " ( T u r i n g 1 9 3 6 - 7 , p . 1 1 6 ) , b e s i d e s a t t e m p t i n g t o s h o w t h a t L C M c o m p u t a b i l i t y i s c o e x t e n s i v e w i t h i n t u i t i v e l y r e c o g n i z e d c a s e s o f a l g o r i t h m i c c a l c u l a b i l i t y ( T u r i n g 1 9 3 6 - 7 , “ 9 - 1 0 ) a n d t h a t “ a l l e f f e c t i v e l y c a l c u l a b l e ( i t - d e f i n a b l e ) s e q u e n c e s a r e c o m p u t a b l e a n d i t s c o n v e r s e [ t h a t a l l T u r i n g c o m p u t a b l e s e q u e n c e s a r e e f f e c t i v e l y c a l c u l a b l e ( i i - d e f i n a b l e ) ? ( T u r i n g 1 9 3 6 - 7 , p . 1 4 9 ) , i n g e n i o u s l y s u p p o r t s t h e f i r s t c l a i m b y c l o s e c o n s i d e r a t i o n o f w h a t h u m a n a l g o r i t h m i c c o m p u t a t i o n i n v o l v e s . T h u s : 6 . T h e T u r i n g - C h u r c h t h e s i s i s a m a t h e m a t i c a l t h e s i s o r c o n j e c t u r e , n o t a t h e o r e m . G i v e n t h e i m p r e c i s e i n t u i t i v e c o n c e p t o f a n a l g o r i t h m t h e r e c a n b e n o e x a c t p r o o f t h a t t h e p r e c i s e l y d e f i n e d n o t i o n o f a T u r i n g m a c h i n e e x a c t l y c o i n c i d e s w i t h t h e i n t u i t i v e c o n c e p t i o n o f a n a l g o r i t h m a s ' a l i s t o f i n s t r u c t i o n s s p e c i f y i n g a s e q u e n c e o f o p e r a t i o n s w h i c h [ f o l l o w e d t o t h e l e t t e r , i n f a l l i b l y ] g i v e t h e a n s w e r t o a n y p r o b l e m o f a g i v e n t y p e " ( T a k h b r o t 1 9 6 3 , p . 3 ) . T h o u g h n o t s t r i c t l y p r o v a b l e , h o w e v e r , r e c o g n i t i o n o f i n t u i t i v e l y a l g o r i t h m i c p r o c e d u r e s w h i c h a r e n o t r e p r e s e n t a b l e a s T u r i n g m a c h i n e s w o u l d c o u n t e r i n s t a n c e a n d c o u l d r e f u t e t h e t h e s i s . C h u r c h p u b l i s h e d h i s c o n j e c t u r e s h o r t l y b e f o r e T u r i n g . B o o l o s a n d J e f f r e y ( 1 9 7 4 , p . 2 0 ) s p e a k o f ” C h u r c h ’ s t h e s i s , " J o h n s o n - L a i r d ( 1 9 8 8 , p . 5 0 - 5 1 ) o f ' T u r i n g ’ s c o n j e c t u r e . " 4 3 C o m p u t i n g i s n o r m a l l y d o n e b y w r i t i n g c e r t a i n s y m b o l s o n p a p e r . W e m a y s u p p o s e t h e p a p e r i s d i v i d e d i n t o s q u a r e s l i k e a c h i l d ’ s a r i t h m e t i c b o o k . i n e l e m e n t a r y a r i t h m e t i c t h e t w o - d i m e n s i o n a l c h a r a c t e r o f t h e p a p e r i s s o m e t i m e s u s e d . B u t s u c h a u s e i s a l w a y s a v o i d a b l e , a n d t h e t w o d i m e n s i o n a l c h a r a c t e r o f p a p e r i s n o t a n e s s e n t i a l o f c o m p u t a t i o n . i s h a l l a l s o s u p p o s e t h a t t h e n u m b e r o f s y m b o l s w h i c h m a y b e p r i n t e d i s f i n i t e . T h e e f f e c t o f t h i s r e s t r i c t i o n o f t h e n u m b e r o f s y m b o l s i s n o t v e r y s e r i o u s . i t i s a l w a y s p o s s i b l e t o u s e s e q u e n c e s o f s y m b o l s i n p l a c e o f s i n g l e s y m b o l s . T h u s a n A r a b i c n u m e r a l s u c h a s 1 7 o r 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 i s n o r m a l l y t r e a t e d a s a s i n g l e s y m b o l . S i m i l a r l y i n a n y E u r o p e a n l a n g u a g e w o r d s a r e t r e a t e d a s s i n g l e s y m b o l s . . . T h e d i f f e r e n c e s f r o m o u r p o i n t o f v i e w b e t w e e n t h e s i n g l e a n d c o m p o u n d s y m b o l s i s t h a t t h e c o m p o u n d s y m b o l s , i f t h e y a r e t o o l e n g t h y , c a n n o t b e o b s e r v e d a t o n e g l a n c e . T h i s i s i n a c c o r d a n c e w i t h e x p e r i e n c e . W e c a n n o t t e l l a t a g l a n c e w h e t h e r 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 a n d 9 9 9 9 9 9 9 9 9 9 9 9 9 9 9 a r e t h e s a m e . ( T u r i n g 1 9 3 6 - 7 , p . 1 3 5 - 1 3 6 ) R e f b c t i n g f u r t h e r o n t h e m e c h a n i c s o f h u m a n c o m p u t a t i o n , T u r i n g c o n t i n u e s , T h e b e h a v i o r o f t h e [ h u m a n ] c o m p u t e r a t a n y m o m e n t i s d e t e r m i n e d b y t h e s y m b o l s w h i c h h e i s o b s e r v i n g , a n d h i s " s t a t e o f m i n d " a t t h e m o m e n t . W e m a y s u p p o s e t h a t t h e r e i s a b o u n d 8 t o t h e n u m b e r o f s y m b o l s o r s q u a r e s w h i c h t h e [ h u m a n ] c o m p u t e r c a n o b s e r v e a t o n e m o m e n t . i f h e w i s h e s t o o b s e r v e m o r e , h e m u s t u s e s u c c e s s i v e o b s e r v a t i o n s . W e w i l l a l s o s u p p o s e t h a t t h e n u m b e r o f s t a t e s o f m i n d w h i c h n e e d t o b e t a k e n i n t o a c c o u n t i s f i n i t e . A g a i n , t h e r e s t r i c t i o n i s n o t o n e w h i c h s e r i o u s l y a f f e c t s c o m p u t a t i o n , s i n c e t h e u s e o f m o r e c o m p l i c a t e d s t a t e s o f m i n d c a n b e a v o i d e d b y w r i t i n g d o w n m o r e s y m b o l s o n t h e t a p e . ( T u r i n g 1 9 3 6 - 7 , p . 1 3 6 ) N o w , i n t h e l i g h t o f t h e p r e c e d i n g , L e t u s i m a g i n e t h e o p e r a t i o n s p e r f o r m e d b y t h e [ h u m a n ] c o m p u t e r t o b e s p l i t u p i n t o " s i m p l e o p e r a t i o n s “ w h i c h a r e s o e l e m e n t a r y t h a t i t i s n o t e a s y t o i m a g i n e t h e m f u r t h e r d i v i d e d . E v e r y s u c h o p e r a t i o n c o n s i s t s o f s o m e c h a n g e o f t h e p h y s i c a l s y s t e m c o n s i s t i n g o f t h e [ h u m a n ] c o m p u t e r a n d h i s t a p e . W e k n o w t h e s t a t e o f t h e s y s t e m i f w e k n o w t h e s e q u e n c e o f s y m b o l s o n t h e t a p e , w h i c h o f t h e s e a r e o b s e r v e d b y t h e [ h u m a n ] c o m p u t e r ( p o s s i n w i t h a s p e c i a l o r d e r ) , a n d t h e s t a t e o f m i n d o f t h e c o m p u t e r . W e m a y s u p p o s e t h a t i n a s i m p l e o p e r a t i o n n o t m o r e t h a n o n e s y m b o l i s a l t e r e d . A n y o t h e r c h a n g e s c a n b e s p l i t u p i n t o s i m p l e c h a n g e s o f t h i s k i n d . T h e s i t u a t i o n i n r e g a r d t o t h e s q u a r e s w h o s e s y m b o l s m a y b e a l t e r e d i n t h i s w a y i s t h e s a m e a s i n r e g a r d t o t h e o b s e r v e d s q u a r e s . W e m a y , t h e r e f o r e , w i t h o u t l o s s o f g e n e r a l i t y , a s s u m e t h a t t h e s q u a r e s w h o s e s y m b o l s a r e c h a n g e d a r e a l w a y s “ o b s e r v e d " s q u a r e s . ( T u r i n g 1 9 3 6 - 7 , p . 1 3 6 ) F i n a l l y , B e s i d e s t h e s e c h a n g e s o f s y m b o l s , t h e s i m p l e O p e r a t i o n s m u s t i n c l u d e c h a n g e s o f d i s t r i b u t i o n o f t h e o b s e r v e d s q u a r e s . T h e n e w o b s e r v e d s q u a r e s m u s t b e I m m e d i a t e l y r e c o g n i z a b l e b y t h e [ h u m a n ] c o m p u t e r . I t i s r e a s o n a b l e t o s u p p o s e 4 4 t h a t t h e y c a n o n l y b e s q u a r e s w h o s e d i s t a n c e f r o m t h e c l o s e s t o f t h e i m m e d i a t e l y p r e v i o u s l y o b s e r v e d s q u a r e s d o e s n o t e x c e e d a c e r t a i n f i x e d a m o u n t . L e t u s s a y t h a t e a c h o f t h e n e w o b s e r v e d s q u a r e s i s w i t h i n L s q u a r e s o f a n i m m e d i a t e l y p r e v i o u s l y o b s e r v e d s q u a r e . ( T u r i n g 1 9 3 6 - 7 , p . 1 3 6 ) i n s u m , t h e n , w e c a n s a y , w i t h r e g a r d t o h u m a n c o m p u t a t i o n , T h e s i m p l e o p e r a t i o n s m u s t t h e r e f o r e i n c l u d e : ( a ) C h a n g e s o f t h e s y m b o l o n o n e o f t h e o b s e r v e d s q u a r e s . ( b ) C h a n g e s o f o n e o f t h e s q u a r e s o b s e r v e d t o a n o t h e r s q u a r e w i t h i n L s q u a r e s o f o n e o f t h e p r e v i o u s l y o b s e r v e d s q u a r e s . ( T u r i n g 1 9 3 6 - 7 , p . 1 3 7 ) F u r t h e r m o r e , I t m a y b e t h a t s o m e o f t h e s e c h a n g e s n e c e s s a r i l y i n v o l v e a c h a n g e o f s t a t e o f m i n d . T h e m o s t g e n e r a l s i n g l e o p e r a t i o n m u s t t h e r e f o r e b e t a k e n t o b e o n e o f t h e f o l l o w i n g : ( A ) A p o s s i b l e c h a n g e ( a ) o f s y m b o l t o g e t h e r w i t h a p o s s i b l e c h a n g e o f m i n d . ( B ) A p o s s i b l e c h a n g e ( b ) o f o b s e r v e d s q u a r e s , t o g e t h e r w i t h a p o s s i b l e c h a n g e o f s t a t e o f m i n d . ( T u r i n g 1 9 3 6 - 7 , p . 1 3 7 ) T u r i n g c o n t i n u e s , W e m a y n o w c o n s t r u c t a m a c h i n e t o d o t h e w o r k o f t h i s [ h u m a n ] c o m p u t e r . T o e a c h s t a t e o f m i n d o f t h e c o m p u t e r c o r r e s p o n d s a n d ' m - c o n f i g u r a t i o n ' o f t h e m a c h i n e . T h e m a c h i n e s c a n s 8 s q u a r e s c o r r e s p o n d i n g t o t h e 8 s q u a r e s o b s e r v e d b y t h e [ h u m a n ] c o m p u t e r . I n a n y m o v e t h e m a c h i n e c a n c h a n g e a s y m b o l o n a s c a n n e d s q u a r e o r c a n c h a n g e a n y o n e o f t h e s c a n n e d s q u a r e s t o a n o t h e r s q u a r e d i s t a n t n o t m o r e t h a n L s q u a r e s f r o m o n e o f t h e o t h e r s c a n n e d s q u a r e s . T h e m o v e w h i c h i s d o n e , a n d t h e s u c c e e d i n g c o n f i g u r a t i o n , a r e d e t e r m i n e d b y t h e s c a n n e d s y m b o l a n d t h e m - c o n f i g u r a t l o n . ( T u r i n g 1 9 3 6 - 7 , p . 1 3 7 - 1 3 8 ) i n s o f a r a s t h e d e t a i l s o f T u r i n g ’ s d e s c r i p t i o n o f h u m a n c o m p u t a t i o n a l p r o c e s s e s a r e w a r r a n t e d ( a s t h e y s e e m t o b e ) i t s e e m s c l e a r t h a t m a c h i n e s s o c o n s t r u c t e d c a n d o t h e s a m e c o m p u t a t i o n a l w o r k a s h u m a n c o m p u t e r s . I n d e e d , T u r i n g s h o w s t h a t m a c h i n e s s o c o n s t r u c t e d c a n d o t h e s a m e c o m p u t a t i o n a l w o r k a s a h u m a n c o m p u t e r e v e n o n t h e m i n i m a l a s s u m p t i o n s : a s s u m i n g B ( t h e n u m b e r o f s q u a r e s a b l e t o b e s c a n n e d b y t h e m a c h i n e ) = 1 ; a s s u m i n g L ( t h e n u m b e r o f s q u a r e s 4 5 a w a y f r o m t h e i m m e d i a t e l y p r e v i o u s l y s c a n n e d s q u a r e t h a t m a c h i n e i s s u p p o s e d t o b e a b l e t o r e d i r e c t i t s " g a z e “ ) = 1 ; a n d a s s u m i n g n ( t h e n u m b e r o f s y m b o l s i n t h e m a c h i n e ’ s a l p h a b e t ) = 2 . N o w , T u r i n g m a c h i n e s c a n b e c h a r a c t e r i z e d ( a s T u r i n g 1 9 5 0 , § 4 c h a r a c t e r i z e s t h e m ) a s c o n s i s t i n g o f a s t o r e , a n e x e c u t i v e u n i t , a n d a c o n t r o l . T h e s t o r e o f t h e m a c h i n e s T u r i n g e n v i s a g e d i s a t a p e , d i v i d e d i n t o s q u a r e s , e a c h s q u a r e c o n t a i n i n g a s y m b o l f r o m a f i n i t e a l p h a b e t ( c o n s i s t i n g o f t w o o r m o r e s y m b o l t y p e s ) : t h i s t a p e i s s u p p o s e d t o e x t e n d i n f i n i t e l y ( o r , p r a c t i c a l l y , t o b e i n d e f i n i t e l y e x t e n d a b l e ) i n e i t h e r d i r e c t i o n . T h e e x e c u t i v e u n i t i s a r e a d - w r i t e m e c h a n i s m o r s c a n n e r c a p a b l e o f s c a n n i n g t h e i n p u t - o u t p u t t a p e j u s t d e s c r i b e d a n d r e a d i n g o r r e c o g n i z i n g a s y m b o l o n t h e t a p e , w r i t i n g ( o r o v e r w r i t i n g ) a s y m b o l o n t h e t a p e , a n d a d v a n c i n g t h e t a p e o n e s q u a r e i n e i t h e r d i r e c t i o n . T h e c o n t r o l d e t e r m i n e s w h i c h o p e r a t i o n s t o p e r f o r m i n w h i c h o r d e r o n t h e b a s i s o f t h e l a s t s t a t e o f t h e d e v i c e a n d t h e i n p u t ( s c a n n e d ) s i g n a l . B y w h a t e v e r m e c h a n i s m s u c h c o n t r o l i s s u p p o s e d t o b e a c c o m p l i s h e d i t c a n b e t h o u g h t o f a s ( o r r e p r e s e n t e d b y ) a t a b l e a c c o r d i n g t o w h i c h t h e o u t p u t ( s y m b o l w r i t t e n ) “ i s d e t e r m i n e d b y t h e l a s t s t a t e a n d i n p u t s i g n a l a c c o r d i n g t o t h e t a b l e " ( T u r i n g 1 9 5 0 , p . 4 6 ) . E a c h s u c h a b s t r a c t L C M o r T u r i n g m a c h i n e i s c o m p l e t e l y c h a r a c t e r i z e d b y i t s m a c h i n e t a b l e . T h e f o l l o w i n g m a c h i n e t a b l e s r e p r e s e n t d i f f e r e n t T u r i n g m a c h i n e s f o r a d d i n g t w o p o s i t i v e i n t e g e r s e x p r e s s e d ( i n k e e p i n g w i t h o u r m i n i m a l a s s u m p t i o n s ) i n u n a r y ( " s i m p l i f i e d R o m a n " o r " p r i s o n e r ’ s s c r i p t " ) n o t a t i o n . 4 6 T A B L E D T A B L E E L a s t S t a t e L a s t S t a t e Q 1 Q 2 Q 3 Q 4 Q 1 Q 2 Q 3 Q 4 8 0 2 0 S 1 Q 2 R Q s R Q 4 S 0 3 0 R i n 8 1 % R Q 4 i n p u t i n p u t 3 1 3 1 R Q 1 L Q 2 S o n 3 1 3 1 3 0 Q 1 R Q 2 L Q a T h e r o w s o f t h e s e m a t r i c e s r e p r e s e n t t h e p o s s i b l e i n p u t s t o t h e m a c h i n e s , w h i c h a r e t h e t w o s y m b o l s o f t h e i r a l p h a b e t s , " O " a n d ” " . 1 T h e c o l u m n s c o r r e s p o n d t o t h e s t a t e s o f t h e m a c h i n e . i n e a c h s q u a r e o f t h e m a t r i c e s a p p e a r s a n " i n s t r u c t i o n " w h i c h m a y b e r e a d a s f o l l o w s : “ s , q 2 " m e a n s " p r i n t t h e s y m b o l 3 , i n t h e s c a n n e d s q u a r e a n d g o i n t o s t a t e q a " ; " q u " m e a n s " p r o c e e d t o s c a n t h e s q u a r e i m m e d i a t e - l y t o t h e r i g h t o f t h e s q u a r e p r e s e n t l y b e i n g s c a n n e d ( s h i f t r i g h t ) a n d g o i n t o s t a t e q ’ " ; " a n " m e a n s " s h i f t l e f t a n d g o i n t o s t a t e Q 3 " ; e t c . W h e n a m a c h i n e r e a c h e s a c o n d i t i o n ( i . e . , i s i n a s t a t e s c a n n i n g a s y m b o l ) f o r w h i c h n o i n s t r u c t i o n i s d e f i n e d ( i . e . , f o r w h i c h t h e c o r r e s p o n d i n g c e l l o f t h e f u n c t i o n a l m a t r i x i s e m p t y ) t h e m a c h i n e i s s a i d t o " e n t e r t h e r e s t s t a t e " o r " h a l t . " T h e m a c h i n e s d e s c r i b e d b y t h e s e t a b l e s f u n c t i o n a s f o l l o w s : t h e y a r e s t a r t e d i n s t a t e q , s c a n n i n g t h e f i r s t u n a r y d i g i t o f t h e s u m t o b e w o r k e d o u t , w h i c h s u m i s r e p r e s e n t e d b y t w o s t r i n g s o f " 1 " s ( i . e . , t w o u n a r y n u m e r a l s ) s e p a r a t e d , b y a s i n g l e " 0 " , t h e u n u s e d l e a d i n g a n d t r a i l i n g p o r t i o n s o f t h e t a p e b e i n g f i l l e d w i t h " 0 " s . T h e f i r s t m a c h i n e ( T a b l e D ) p r o c e e d s t o w o r k o u t t h e s u m b y s h i f t i n g r i g h t u n t i l i t s c a n s t h e s e p a r a t i n g " 0 " , r e p l a c i n g t h i s " 0 " w i t h a " 1 " , s h i f t i n g l e f t u n t i l i t s c a n s t h e f i r s t l e a d i n g ' 0 " , s h i f t i n g r i g h t t o p o s i t i o n i t s e l f o n c e m o r e o v e r t h e i n i t i a l " 1 " , r e p l a c i n g t h i s " 1 " w i t h a n " " , O 4 7 a n d f i n a l l y s h i f t i n g r i g h t t o h a l t s c a n n i n g t h e f i r s t u n a r y d i g i t o f t h e a n s w e r . T h e s e c o n d m a c h i n e ( T a b l e E ) p r o c e e d s b y f i r s t r e p l a c i n g t h e i n i t i a l " 1 " i n t h e s u m t o b e w o r k e d o u t w i t h " 0 ' , t h e n s h i f t i n g r i g h t u n t i l i t r e a c h e s t h e s e p a r a t i n g " 0 " w h i c h i t r e p l a c e s w i t h " " , 1 s h i f t i n g b a c k l e f t u n t i l i t r e a c h e s t h e f i r s t l e a d i n g " O " , a n d f i n a l l y s h i f t i n g r i g h t t o h a l t s c a n n i n g t h e f i r s t u n a r y d i g i t o f t h e a n s w e r . i n o t e s e v e r a l t h i n g s a b o u t t h e s e m a c h i n e s . F i r s t , n o t e t h a t w h i l e , a c c o r d i n g t o t h e T u r i n g - C h u r c h t h e s i s t h e r e i s a T u r i n g m a c h i n e f o r e v e r y e f f e c t i v e l y c o m p u t a b l e f u n c t i o n , t h e r e l a t i o n s h i p b e t w e e n c o m p u t a b l e f u n c t i o n s a n d T u r i n g m a c h i n e s ( l i k e t h a t b e t w e e n f u n c t i o n s a n d a l g o r i t h m s f o r c o m p u t i n g t h e m ) i s o n e - r n a n y . T h e t w o m a c h i n e s j u s t d e s c r i b e d , f o r i n s t a n c e , a r e d i f f e r e n t m a c h i n e s r e p r e s e n t i n g d i f f e r e n t a l g o r i t h m s f o r c o m p u t i n g t h e a d d i t i o n f u n c t i o n i n u n a r y . M a c h i n e s s u c h a s t h e s e - - w h i c h c o m p u t e t h e s a m e f u n c t i o n o r p r o d u c e i d e n t i c a l o u t p u t w h e n g i v e n i d e n t i c a l i n p u t - - a r e s a i d b e " w e a k l y e q u i v a l e n t “ o r " i n p u t - o u t p u t " e q u i v a l e n t . T h i s w i l l c o n c e r n u s l a t e r . S e c o n d l y , t h e r e ’ s t h e " f o r m a l " a n d ” m e c h a n i c a l " n a t u r e o f c o m p u t a t i o n a s T u r i n g c h a r a c t e r i z e s i t : o u r m a c h i n e s a r e m a c h i n e s f o r o p e r a t i n g o n u n a r y n u m e r a l s : T u r i n g ( 1 9 3 6 - 7 ) " d e f i n e d c o m p u t a t i o n a s t h e f o r m a l m a n i p u l a t i o n o f u n i n t e r p r e t e d s y m b o l s b y t h e a p p l i c a t i o n o f f o r m a l m i s s " ( B o d e n 1 9 9 0 , p . 4 ) . J u s t a s t h e " i n p u t " l e v e r o f o u r f i r s t m a c h i n e c a u s a l l y d e t e r m i n e d t h e n e x t s t a t e o f t h e w h e e l i n v i r t u e o f i t s p h y s i c a l p r o p e r t i e s ( e . g . , i t s r i g i d i t y ) s o a r e t h e i n p u t s y m b o l s o f T u r i n g m a c h i n e s s u p p o s e d t o c a u s a l l y d e t e r m i n e t h e s t a t e t r a n s i t i o n s o f t h e m a c h i n e s a c c o r d i n g t o t h e i r 4 8 p h y s i c a l p r o p e r t i e s ( e . g . , t h e i r s h a p e s o r e l e c t r i c a l p o t e n t i a l s ) . 7 T h i s w i l l c o n c e r n u s m i g h t i l y i n c o n n e c t i o n w i t h S e a r l e ’ s C h i n e s e r o o m a r g u m e n t a n d e x p e r i m e n t l a t e r o n s i n c e S e a r l e " t a k e s f o r g r a n t e d t h a t A l p r o g r a m s a n d c o m p u t e r m o d e l s a r e p u r e l y f o r m a l - s y n t a c t i c ( a s i s a T u r i n g m a c h i n e ) “ ( B o d e n 1 9 9 0 , p . 5 ) . O n t h e o t h e r h a n d ( t h i r d l y ) , t h o u g h , " t h e ‘ l o g i c a l [ m a c h i n e t a b l e ] d e s c r i p t i o n ’ o f a T u r i n g m a c h i n e d o e s n o t i n c l u d e a n y s p e c i f i c a t i o n o f t h e p h y s i c a l n a t u r e o f t h e s e [ m a c h i n e ] ‘ s t a t e s ’ - o r i n d e e d o f t h e p h y s i c a l n a t u r e o f t h e w h o l e m a c h i n e " ( P u t n a m 1 9 6 0 , p . 3 7 1 ) . T h e m a c h i n e t a b l e , i n o t h e r w o r d s , d o e s n o t d e s c r i b e a n a c t u a l p h y s i c a l d e v i c e b u t o n l y t h e " f o n n a i s h a d o w " ( S e a r l e 1 9 8 0 a , p . 4 2 2 ) c a s t b y ( p o s s i b l y m a n y p h y s i c a l l y d i f f e r e n t ) d e v i c e s . " i n o t h e r w o r d s , a g i v e n ‘ T u r i n g m a c h i n e ’ i s a n a b s t r a c t m a c h i n e w h i c h m a y b e r e a l i z e d i n a n a l m o s t i n f i n i t e n u m b e r o f d i f f e r e n t w a y s " ( P u t n a m 1 9 6 0 , p . 3 7 1 ) . J u s t a s t h e " l o g i c a l d e s c r i p t i o n " a b s t r a c t s f r o m t h e p h y s i c a l n a t u r e o f t h e p r o c e s s i n g a n d s t a t e s , s o d o e s i t a b s t r a c t f r o m t h e p h y s i c a l n a t u r e o f t h e p r o c e s s e d s y m b o l s - w h e t h e r 3 0 a n d s , a r e “ 0 “ a n d " 1 " o r " x " a n d " y " o r a O - v o i t a n d 5 - v o l t c h a r g e a r e i r r e l e v a n t . J u s t a s “ t h e ‘ l o g i c a l d e s c r i p t i o n ’ ( m a c h i n e t a b l e ) o f t h e m a c h i n e d e s c r i b e s t h e s t a t e [ s ] o n l y i n t e r m s o f t h e i r r e l a t i o n s t o e a c h o t h e r a n d t o w h a t a p p e a r s o n t h e t a p e " ( P u t n a m 1 9 6 0 , p . 3 6 7 ) i t d e s c r i b e s t h e s y m b o l s t h a t a p p e a r o n t h e t a p e o n l y i n t e r m s o f t h e i r r e l a t i o n s t o e a c h o t h e r a n d t o t h e m a c h i n e s t a t e s a l s o . J u s t a s " t h e ‘ p h y s i c a l r e a l i z a t i o n ’ o f t h e m a c h i n e i s i m m a t e r i a l , s o l o n g a s t h e r e a r e d i s t i n c t s t a t e s [ q , , 7 . i t i s a l s o n o t a b l e t h a n h u m a n a p p l i c a t i o n s o f a l g o r i t h m s h a v e t h i s s a m e f o r m a l o r ” s y n t a c t i c “ c h a r a c t e r . T h e f a m i l i a r a d d i t i o n a l g o r i t h m m o s t o f u s l e a r n e d i n e l e m e n t a r y s c h o o l i s a n a l g o r i t h m f o r a d d i n g - i n - d e c i m a l - n o t a t i o n . " T h e e l e m e n t a r y o p e r a t i o n s , " i n a p p l y i n g t h i s a l g o r i t h m a r e , l i k e t h e e l e m e n t a r y o p e r a t i o n s o f c o m p u t e r s , " p u r e l y f o r m a l I n t h a t t h e y c a n b e c a r r i e d o u t a u t o m a t i c a l l y u s i n g a n a d d i t i o n t a b l e " ( T r a k h t e n b r o t 1 9 6 3 , p . 3 ) . 4 9 q 2 , q 3 , e t c . ] a n d t h e y s u c c e e d e a c h o t h e r a s s p e c i f i e d i n t h e m a c h i n e t a b l e " ( P u t n a m 1 9 6 0 , p . 3 6 7 ) , s o i s t h e p h y s i c a l r e a l i z a t i o n o f t h e a l p h a b e t i m m a t e r i a l . 3 . 3 U n i v e r s a l T u r i n g M a c h i n e s a n d D i g i t a l C o m p u t e r s A c c o r d i n g t o t h e T u r i n g - C h u r c h t h e s i s , a T u r i n g m a c h i n e " c a n d o a n y t h i n g t h a t c o u l d b e d e s c r i b e d a s ‘ r u l e o f t h u m b ’ o r “ p u r e l y m e c h a n i c a l ” ( T u r i n g 1 9 6 9 , p . 7 ) , L e , s o m e s u c h m a c h i n e i s c a p a b l e o f p e r f o r m i n g a n y a l g o r i t h m i c o r r o t e p r o c e d u r e . T h i s f o r m u l a t i o n i s a m b i g u o u s . E v e r y t h i n g s a i d s o f a r , p e r h a p s , s u g g e s t s o n l y t h e w e a k r e a d i n g t h a t t h e r e i s s o m e T u r i n g m a c h i n e ( a d i f f e r e n t o n e ) c a p a b l e o f i m p l e m e n t i n g e a c h a l g o r i t h m ; b u t i t i s a l s o t h e c a s e t h a t t h e r e e x i s t T u r i n g m a c h i n e s ( i n d i v i d u a l l y ) c a p a b l e o f i m p l e m e n t i n g e v e r y a l g o r i t h m . U p t o n o w w e h a v e h e l d t h e p o i n t o f v i e w t h a t d i f f e r e n t a l g o r i t h m s a r e p e r f o r m e d b y d i f f e r e n t T u r i n g m a c h i n e s , e a c h w i t h I t s o w n f u n c t i o n a l m a t r i x ( i . e . , m a c h i n e t a b l e ] . W e c a n , h o w e v e r , c o n s t r u c t a u n i v e r s a l T u r i n g m a c h i n e c a p a b l e o f e x e c u t i n g a n y a l g o r i t h m , t h a t i s , i n a c e r t a i n s e n s e , c a p a b l e o f d o i n g t h e w o r k o f a n y T u r i n g m a c h i n e . ( T r a k h t e n b r o t 1 9 6 3 , p . 8 0 ) T h i s p o s s i b i l i t y m a y b e s h o w n ( i n f o r m a l l y ) t o f o l l o w f r o m t h e f o l l o w i n g c o n s i d e r - a t i o n s : 1 . F o r e v e r y r o t e p r o c e d u r e o r a l g o r i t h m t h e r e e x i s t s s o m e T u r i n g m a c h i n e w h i c h i m p l e m e n t s t h a t p r o c e d u r e o r a l g o r i t h m . ( T h e T u r i n g - C h u r c h t h e s i s ) 2 . E v e r y T u r i n g m a c h i n e i s c o m p l e t e l y c h a r a c t e r i z e d b y i t s m a c h i n e t a b l e . 3 . I t i s p o s s i b l e t o d e s c r i b e a r o t e p r o c e d u r e f o r a p p l y i n g ( f o l l o w i n g ) a m a c h i n e t a b l e . F r o m t h e s e c o n s i d e r a t i o n s i t f o l l o w s , 4 . T h e r e a r e T u r i n g m a c h i n e s t h a t i m p l e m e n t r o t e p r o c e d u r e s f o r a p p l y i n g m a c h i n e t a b l e s a n d , h e n c e , f o r i m i t a t i n g o r e m u l a t i n g a n y T u r i n g m a c h i n e . 5 0 S u c h a p r o c e d u r e i s c a l l e d a n " i m i t a t i o n a l g o r i t h m " a n d a m a c h i n e i m p l e m e n t i n g s u c h a n a l g o r i t h m i s c a l l e d a " u n i v e r s a l T u r i n g m a c h i n e " ( T r a k h t e n b r o t 1 9 6 3 , p . 8 0 - 8 1 ) . F o r t h e f o r m a l p r o o f t h a t t h e r e e x i s t s u c h m a c h i n e s a n d d e t a i l e d d e s c r i p t i o n o f o n e t h e r e a d e r i s r e f e r r e d t o T u r i n g 1 9 3 6 - 7 ( § § 5 - 7 ) ; b u t i t i s i n t u i t i v e l y o b v i o u s t h a t t h e p r o c e s s o f h a n d - s i m u l a t i n g a T u r i n g m a c h i n e ’ s O p e r a t i o n f r o m i t s t a b l e a n d i n i t i a l c o n f i g u r a t i o n ( t h e c o n t e n t s o f t h e t a p e , t h e s q u a r e b e i n g s c a n n e d , a n d t h e i n i t i a l s t a t e o f t h e m a c h i n e ) i s r o t e . G i v e n t h e m a c h i n e t a b l e a n d i n i t i a l c o n f i g u r a t i o n y o u s i m p l y l o o k u p t h e i n s t r u c t i o n i n t h e c e l l c r o s s r e f e r e n c e d b y t h e i n i t i a l s t a t e a n d t h e s c a n n e d s y m b o l t h e n e x e c u t e t h e i n s t r u c t i o n ( w h i c h e i t h e r h a l t s o r a l t e r s t h e c o n f i g u r a t i o n o f t h e m a c h i n e ) , a n d s o o n ( f o r e a c h s u b s e q u e n t c o n f i g u r a t i o n ) . T h i s " c a n b e c a r r i e d o u t b y s o m e o n e w h o k n o w s n o t h i n g a b o u t T u r i n g m a c h i n e s . i f h e h a s t h e f u n c t i o n a l m a t r i x o f a n y m a c h i n e a n d a n i n i t i a l c o n f i g u r a t i o n o f t h e t a p e , h e w i l l b e a b l e t o i m i t a t e t h e o p e r a t i o n o f t h e m a c h i n e e x a c t l y a n d o b t a i n t h e s a m e r e s u l t “ ( T r a k h t e n b r o t 1 9 6 3 , p . 8 0 ) . B e i n g a r o t e p r o c e d u r e t h i s " i m i t a t i o n a l g o r i t h m c a n a l s o b e g i v e n a s a T u r i n g f u n c t i o n a l m a t r i x " w h i c h c a n b e r e e x p r e s s e d a s a s e t ( r e p r e s e n t a b l e a s a s t r i n g ) o f q u a d r u p i e s . T h e a d d i n g m a c h i n e d e s c r i b e d b y T a b l e D , e . g . , i s d e s c r i b e d b y t h e s e q u e n c e q 1 s o s , q 2 q 1 s , F i q 2 q z s o R q s q z s , L q . 2 q , , s , , l l ? i q 4 q s s , s o q 3 , w h e r e t h e o r d e r o f t h e e l e m e n t s i n e a c h q u a d r u p l e i s l a s t s t a t e , s c a n n e d s y m b o l , o p e r a t i o n ( t a p e m o v e m e n t o r o u t p u t s y m b o l ) , n e x t s t a t e . T u r i n g ( 1 9 3 6 - 7 , p . 1 2 6 ) s h o w s h o w s u c h a s e q u e n c e c a n b e c o d e d a s a " s t a n d a r d d e s c r i p t i o n ( S . D . ) “ i n t h e f o r m o f a s e q u e n c e o f " 0 ‘ s a n d " 1 ‘ s . H e n c e , 5 1 i t i s p o s s i b l e t o i n v e n t a s i n g l e m a c h i n e w h i c h c a n b e u s e d t o c o m p u t e a n y c o m p u t a b l e s e q u e n c e . I f t h i s m a c h i n e U i s s u p p l i e d w i t h a t a p e o n t h e b e g i n n i n g o f w h i c h i s w r i t t e n t h e S D . o f s o m e c o m p u t i n g m a c h i n e M , t h e n U w i l l c o m p u t e t h e s a m e s e q u e n c e a s M . ( T u r i n g 1 9 3 6 - 7 , p p . 1 2 7 - 1 2 8 ) I f t h e C h u r c h - T u r i n g t h e s i s i s t r u e t h e n " t h i s o n e m a c h i n e , t h e u n i v e r s a l m a c h i n e , i t s e l f p o s s e s s e s a l l t h e c o m p u t a t i o n a l p o w e r t h a t a n y c o m p u t i n g m a c h i n e m a y p o s s e s s " ( S t i l l i n g s e t a l . 1 9 8 7 , p . 3 2 2 ) . " G i v e n t h e e x i s t e n c e o f t h e u n i v e r s a l m a c h i n e , " n o w , " a n y f u n c t i o n a l m a t r i x [ m a c h i n e t a b l e ] c a n b e v i e w e d i n t w o w a y s " : ( 1 ) a s d e s c r i b i n g " t h e l o g i c a l u n i t o f a s p e c i a l T u r i n g m a c h i n e f o r s o l v i n g t h e c o r r e s p o n d i n g p r o b l e m " ; ( 2 ) a s d e s c r i b i n g " a p r o g r a m t o b e u s e d b y t h e u n i v e r s a l m a c h i n e t o s o l v e t h e c o r r e s p o n d i n g p r o b l e m " ( T r a k h t e n b r o t 1 9 6 3 , p . 8 4 ) . " T h e i m p o r t a n c e o f t h e u n i v e r s a l m a c h i n e i s c l e a r " ( T u r i n g 1 9 6 9 , p . 7 ) b o t h p r a c t i c a l l y ( f o r t h e d e s i g n a n d c o n s t r u c t i o n o f a c t u a l c o m p u t i n g m a c h i n e s ) a n d p h i l o s o p h i c a l l y . P r a c t i c a l l y , a c t u a l c o m p u t i n g m a c h i n e s o f t h e p r o g r a m m a b l e s o r t ( P C s , m a i n f r a m e s , e t c . ) " h a v e t h e e s s e n t i a l p r o p e r t i e s o f ‘ U n i v e r s a i L o g i c a l C o m p u t i n g M a c h i n e s ’ m e n t i o n e d e a r l i e r . i n p r a c t i c e , g i v e n a n y j o b w h i c h c o u l d h a v e b e e n d o n e o n a n L C M o n e c a n a l s o d o i t o n o n e o f t h e s e d i g i t a l c o m p u t e r s " ( T u r i n g 1 9 6 9 , p . 8 ) . " T h i s s p e c i a l p r o p e r t y o f d i g i t a l c o m p u t e r s , t h a t t h e y c a n m i m i c a n y d i s c r e t e s t a t e m a c h i n e " m e a n s t h e y c a n a p t l y b e " d e s c r i b e d a s b e i n g u n i v e r s a l m a c h i n e s " ( T u r i n g 1 9 5 0 , p . 4 4 1 ) . H e n c e , t h e u n i v e r s a l m a c h i n e ’ s p h i l o s o p h i c a l i m p o r t a n c e : c o n t r a r y t o D e s c a r t e s ’ s c o n t e n t i o n t h a t “ i t i s f o r a l l p r a c t i c a l p u r p o s e s i m p o s s i b l e f o r a m a c h i n e t o h a v e e n o u g h d i f f e r e n t o r g a n s t o m a k e i t a c t i n a l l t h e c o n t i n g e n c i e s o f l i f e i n t h e w a y i n w h i c h o u r r e a s o n m a k e s u s a c t , " ( D e s c a r t e s 1 6 3 7 , p . 1 4 0 ) , " i t i s 5 2 u n n e c e s s a r y t o d e s i g n n e w m a c h i n e s t o d o v a r i o u s c o m p u t i n g p r o c e s s e s " ( T u r i n g 1 9 5 0 , p . 4 4 1 ) W e d o n o t n e e d t o h a v e a n i n f i n i t y o f m a c h i n e s d o i n g d i f f e r e n t j o b s . A s i n g l e o n e w i l l s u f f i c e . T h e e n g i n e e r i n g p r o b l e m o f p r o d u c i n g v a r i o u s m a c h i n e s f o r v a r i o u s j o b s i s r e p l a c e d b y t h e o f f i c e w o r k o f ‘ p r o g r a m m l n g ’ t h e u n i v e r s a l m a c h i n e t o d o t h e s e j o b s . ( T u r i n g 1 9 6 9 , p . 7 ) V a r i o u s c o m p u t i n g p r o c e s s e s o f a l l k i n d s " c a n a l l b e d o n e w i t h o n e c o m p u t e r s u i t a b l y p r o g r a m m e d f o r e a c h c a s e " ( T u r i n g 1 9 5 0 , p p . 4 4 1 - 4 4 2 ) . 3 . 4 T u r i n g ’ s T e s t : T h e I m i t a t i o n G a m e T h o u g h t h e o f t a l l e g e d b e h a v i o r i s t i c n a t u r e o f t h e T u r i n g t e s t c a n b e o v e r p l a y e d - - w e h a v e j u s t s e e n D e s c a r t e s , c e r t a i n l y n o b e h a v i o r i s t , p r o p o s e a n a l m o s t e x a c t l y s i m i l a r t e s t - i t i s n o n e t h e l e s s i n s t r u c t i v e t o v i e w T u r i n g ’ s p r o p o s a l a g a i n s t t h e b a c k g r o u n d o f t h e d o m i n a n t b e h a v i o r i s t p a r a d i g m o r r e s e a r c h p r o g r a m o f t h e p s y c h o l o g y o f h i s d a y . i t w i l l a l s o b e p r o f i t a b l e t o v i e w b e h a v i o r i s m a g a i n s t t h e b a c k g r o u n d o f t h e C a r t e s i a n i n t r o s p e c t i v e r e s e a r c h p r o g r a m t h e b e h a v i o r i s t m o v e m e n t s u p e r s e d e d . A c c o r d i n g t o C a r t e s i a n s a n d i n t r o s p e c t i o n i s t s " p s y c h o l o g y i s a s t u d y o f t h e p h e n o m e n a o f c o n s c i o u s n e s s " ( W a t s o n 1 9 1 3 , p . 2 7 2 ) a n d n o o n e c a n e x p e r i e n c e a n y o n e e l s e ’ s e x p e r i e n c e s . T h e u p s h o t o f t h i s , W a t s o n c o m p l a i n s , i s t h a t " c o n s c i o u s n e s s c a n o n l y b e a n a l y z e d b y i n t r o s p e c t i o n " a n d a s a r e s u l t “ w e f i n d a s m a n y a n a l y s e s a s t h e r e a r e i n d i v i d u a l p s y c h o l o g i s t s " ( W a t s o n 1 9 2 4 , p . 5 ) . C o n s e q u e n t l y , o n C a r t e s i a n a s s u m p t i o n s , " t h e r e i s n o w a y o f e x p e r i m e n t a l l y a t t a c k i n g a n d s o l v i n g p s y c h o l o g i c a l p r o b l e m s a n d s t a n d a r d i z i n g m e t h o d s " ( W a t s o n 5 3 1 9 2 4 , p . 5 ) . T h o u g h t h e C a r t e s i a n p a r a d i g m o r i n t r o s p e c t i o n i s t r e s e a r c h p r o g r a m f o r p s y c h o l o g y h e l d v i r t u a l l y u n c h a l l e n g e d s w a y f o r a l m o s t t h r e e h u n d r e d y e a r s , i t h a d f a i l e d t o m a k e s i g n i f i c a n t h e a d w a y o n i t s o u t s t a n d i n g a n o m a l i e s : i t s s k e p t i c a l i m p l i c a t i o n s c o n c e r n i n g o u r k n o w l e d g e o f o t h e r m i n d s , a n d t h e p r o b l e m a t i c n a t u r e o f t h e p r e s u m e d c a u s a l i n t e r a c t i o n o f m i n d s w i t h b o d i e s . i n t r o s p e c t i o n i s t p s y c h o l o g y h a d r e a c h e d a s t a t e w h i c h f r o m o u r p r e s e n t v a n t a g e w e m i g h t d e s c r i b e a s a s t a t e o f K u h n i a n p a r a d i g m a t i c c r i s i s ( o f . K u h n 1 9 7 0 ) . T h u s : W e h a v e b e c o m e s o e n m e s h e d i n s p e c u l a t i v e q u e s t i o n s c o n c e r n i n g t h e e l e m e n t s o f m i n d , t h e n a t u r e o f c o n s c i o u s c o n t e n t ( f o r e x a m p l e , i m a g e l e s s t h o u g h t , a t t i t u d e s , B e w u s s e i n s l a g e , e t c . ) t h a t i , a s a n e x p e r i m e n t a l s t u d e n t , f e e l t h a t s o m e t h i n g i s w r o n g w i t h o u r p r e m i s e s a n d t h e t y p e s o f p r o b l e m s w h i c h d e v e l o p f r o m t h e m . ( W a t s o n 1 9 1 3 , p . 2 7 3 ) G i v e n t h e e s s e n t i a l p r i v a c y o f i n t r o s p e c t i o n , a n d t h e s e e m i n g i r r e c o n c i l a b l e d i s a g r e e m e n t s a m o n g t h e i n t r o s p e c t i v e r e p o r t s o f d i f f e r e n t i n d i v i d u a l s a n d s c h o o l s , W a t s o n e v e n t h o u g h t , " T h e r e i s n o l o n g e r a n y g u a r a n t e e t h a t w e a l l m e a n t h e s a m e t h i n g w h e n w e u s e t h e t e r m s n o w c u r r e n t i n p s y c h o l o g y " ( W a t s o n 1 9 1 3 , p . 2 3 ) . I n a l i k e v e i n , T u r i n g c o m p l a i n s t h a t t h e q u e s t i o n " C a n m a c h i n e s t h i n k ? " " i s p e r h a p s t o o m e a n i n g l e s s f o r c o n s i d e r a t i o n " ( T u r i n g 1 9 5 0 , p . 4 4 2 ) a n d p r o p o s e s " t o r e p l a c e t h e [ o r i g i n a l ] q u e s t i o n b y a n o t h e r , w h i c h i s c l o s e l y r e l a t e d t o i t , a n d i s e x p r e s s e d i n r e l a t i v e l y u n a m b i g u o u s w o r d s " ( T u r i n g 1 9 5 0 , p . 4 3 3 ) . H e p r o p o s e s t o r e p l a c e t h e q u e s t i o n o f w h e t h e r a m a c h i n e c a n t h i n k w i t h t h e q u e s t i o n o f w h e t h e r i t c a n p a s s a c e r t a i n o p e r a t i o n a l t e s t - " t o p l a y t h e i m i t a t i o n g a m e s o w e l l , t h a t t h e a v e r a g e o b s e r v e r h a s o n l y a 7 0 % c h a n c e o f m a k i n g t h e c o r r e c t i d e n t i f i c a - t i o n a f t e r f i v e m i n u t e s o f q u e s t i o n i n g " ( T u r i n g 1 9 5 0 , p . 4 4 2 ) . T h i s " i m i t a t i o n g a m e " 5 4 i s a g a m e d e s i g n e d t o t e s t , i n t h e f i r s t i n s t a n c e , t h e c a n d i d a t e s c o n v e r s a t i o n a l a b i l i t y o r m a s t e r y o f n a t u r a l l a n g u a g e . I n t h e s e c o n d i n s t a n c e , s i n c e " T h e q u e s t i o n a n d a n s w e r m e t h o d s e e m s t o b e s u i t a b l e f o r i n t r o d u c i n g a l m o s t a n y o n e o f t h e f i e l d s o f h u m a n e n d e a v o r w h i c h w e w i s h t o i n c l u d e " ( T u r i n g 1 9 5 0 , p . 4 3 5 ) - s i n c e l a n g u a g e , l i k e r e a s o n , i s a " u n i v e r s a l i n s t r u m e n t " - t h e g a m e s e r v e s t o t e s t f o r g e n e r a l k n o w l e d g e a n d c o m p r e h e n s i o n . T h i s m e t h o d c a n e v e n b e m a d e t o g o p r o x y f o r s o m e t h i n g l i k e D e s c a r t e s ’ s b e h a v i o r t e s t : i n s t e a d o f a c t u a l l y p u t t i n g t h e s u b j e c t i n v a r i o u s s i t u a t i o n s a n d o b s e r v i n g h o w t h e y a c t w e c a n d e s c r i b e t h e s i t u a t i o n s t o t h e m a n d a s k h o w t h e y w o u l d a c t . I t w o u l d n o t b e t o o w i d e o f t h e m a r k t o t h i n k T u r i n g v i e w s h i m s e l f a s p r o p o s i n g a n " o p e r a t i o n a l d e f i n i t i o n " o r " o p e r a t i o n a l t e s t " o f t h i n k i n g i n a c c o r d a n c e w i t h t h e m e t h o d o l o g i c a l p r e s c r i p t i o n s o f t h e p s y c h o l o g y o f h i s d a y . T u r i n g s p e a k s o f r e p l a c i n g t h e n a m e q u e s t i o n " c a n a m a c h i n e t h i n k ” w i t h t h e q u e s t i o n o f w h e t h e r a m a c h i n e c a n p a s s t h e t e s t h e i s p r o p o s i n g . T h i s i n d i c a t e s t h a t T u r i n g d i d n o t t a k e h i m s e l f t o b e o f f e r i n g a n e x p l i c a t i o n o f t h e p r e t h e o r e t i c n o t i o n o f t h i n k i n g o r i n t e l l i g e n c e . H e e v e n d o u b t s t h e r e i s s i n g l e w e l l - d e f i n e d p r e t h e o r e t i c s e n s e o f " t h o u g h t " t o b e e x p i i c a t e d . H e r e j e c t s , p e r h a p s f o r t h i s r e a s o n , t h e i d e a t h a t " t h e m e a n i n g o f t h e w o r d s ‘ m a c h i n e ’ a n d ‘ t h i n k ’ a r e t o b e f o u n d b y e x a m i n i n g h o w t h e y a r e c o m m o n l y u s e d " ( T u r i n g 1 9 5 0 , p . 4 3 3 ) . S u c h a n " o r d i n a r y l a n g u a g e " a p p r o a c h t o t h e q u e s t i o n , h e t h o u g h t , " m a d e i t d i f f i c u l t t o e s c a p e t h e c o n c l u s i o n t h a t t h e m e a n i n g a n d t h e a n s w e r t o t h e q u e s t i o n , ‘ C a n m a c h i n e s t h i n k ? ’ i s t o b e s o u g h t i n a s t a t i s t i c a l s u r v e y s u c h a s a G a l l u p p o l l " ( T u r i n g 1 9 5 0 , p . 4 3 3 ) , w h i c h 5 5 h e j u d g e s t o b e " a b s u r d " ( T u r i n g 1 9 5 0 , p . 4 3 3 ) . 8 S o , r a t h e r t h a n s p e a k i n g o f " e x p l i c a t i o n “ o r o f f e r i n g a " d e f i n i t i o n " T u r i n g s p e a k s o f " r e p l a c e m e n t , " a n d r a t h e r t h a n a g r e e m e n t o f t h e r e p l a c e m e n t w i t h o r d i n a r y u s a g e a n d p r e t h e o r e t i c n o t i o n s , i s u p p o s e , T u r i n g w o u l d h a v e l a i d g r e a t e r s t r e s s o n t h e r e p l a c e m e n t ’ s s c i e n t i f i c u t i l i t y . i n t h e i n t e r e s t o f s c i e n t i f i c u t i l i t y T u r i n g p r o p o s e s t o o u t t h r o u g h t h e G o r d i a n k n o t o f p r e t h e o r e t i c i d e a s a n d o r d i n a r y u s a g e i n a s i n g l e " o p e r a t i o n a l " s t r o k e . Y e t , T u r i n g r e c o g n i z e s , " W e c a n n o t a l t o g e t h e r a b a n d o n t h e o r i g i n a l f o r m o f t h e p r o b l e m , f o r c p i n i o n s w i l l d i f f e r a s t o t h e a p p r o p r i a t e n e s s o f t h e s u b s t i t u t i o n a n d w e m u s t a t l e a s t l i s t e n t o w h a t h a s t o b e s a i d i n t h i s c o n n e c t i o n " ( T u r i n g 1 9 5 0 , p . 4 4 2 ) a n d t h e r e i s m u c h t o b e s a i d f o r t h e t e s t T u r i n g p r o p o s e s a s p a r t i a l e x p l i c a t i o n o f o u r o r d i n a r y u s e o f m e n t a l t e r m i n o l o g y . I t i s j u s t s u c h c o n v e r s a - t i o n a l e v i d e n c e ( a s t h e T u r i n g t e s t , l i k e D e s c a r t e s ’ s l a n g u a g e t e s t , i n v o k e s ) , s u p p l e m e n t e d ( o r i n t h e c a s e o f m e n t a l a t t r i b u t i o n s t o n o n v e r b a l s y s t e m s , e g . i n f r a h u m a n a n i m a l s , s u p p l a n t e d ) b y b e h a v i o r a l e v i d e n c e ( s u c h a s D e s c a r t e s ’ s b e h a v i o r t e s t i n v o k e s ) t h a t w e r e l y o n i n a t t r i b u t i n g m e n t a l p r o p e r t i e s t o o t h e r s . M o r e o v e r , t h e u n i v e r s a l i n s t r u m e n t a l i t y o f l a n g u a g e j u s t a l l u d e d t o - - l a , t h e p o s s i b i l i t y o f q u e s t i o n i n g t h e c a n d i d a t e " a b o u t a n y o f t h e f i e l d s o f h u m a n e n d e a v o r " - s e e m s t o T u r i n g ( a s p e r h a p s i t s e e m e d t o D e s c a r t e s a l s o ) t o m a k e t h e s u p p l e m e n t a t i o n o f t h e l a n g u a g e t e s t b y t h e b e h a v i o r t e s t i n e s s e n t i a l i n t h e c a s e o f v e r b a l s y s t e m s . A l s o , t h e l a n g u a g e t e s t , u n l i k e t h e b e h a v i o r a l t e s t 8 . I a g r e e t h a t i t w o u l d b e a b s u r d t o d e c i d e t h e s e q u e s t i o n s o n t h e b a s i s o f a s t a t i s t i c a l s u r v e y l i k e a G a l l u p p o l l . I d o n o t a g r e e , h o w e v e r , t h a t t h e i d e a t h a t “ t h e m e a n i n g o f t h e w o r d s ‘ m a c h i n e ’ a n d ‘ t h i n k ’ a r e t o b e f o u n d b y e x a m i n i n g h o w t h e y a r e c o m m o n l y u s e d " c o m m i t s u s t o a n y s u c h a b s u r d i t y . T h i s i s a v o i d e d I f w e c r e d i t p e o p l e ' s w o r k i n g u s e o f m e n t a l t e r m i n o l o g y a b o v e s u c h ” h o l i d a y " t a l k ( W i t t g e n s t e i n 1 9 5 8 , § 3 8 ) . S e e c h a p t e r 4 f o r f u r t h e r d i s c u s s i o n . 5 6 p e r h a p s , " h a s t h e a d v a n t a g e o f d r a w i n g a f a i r l y s h a r p l i n e b e t w e e n t h e p h y s i c a l a n d i n t e l l e c t u a l c a p a c i t i e s " ( T u r i n g 1 9 5 0 , p . 4 3 4 ) : " w e s h o u l d f e e l t h e r e w a s l i t t l e p o i n t i n t r y i n g t o m a k e a ‘ t h i n k i n g m a c h i n e ’ m o r e h u m a n b y d r e s s i n g i t u p i n a r t i f i c i a l f l e s h " ( T u r i n g 1 9 5 0 p . 4 3 4 ) . " T h e f o r m i n w h i c h w e h a v e s e t t h e p r o b l e m [ t h e f o r m o f t h e I m i t a t i o n g a m e t h o u g h t e x p e r i m e n t ] r e f l e c t s t h i s f a c t i n t h e c o n d i t i o n w h i c h p r e v e n t s t h e i n t e r r o g a t o r f r o m s e e i n g o r t o u c h i n g t h e o t h e r c o m p e t i t o r s , o r h e a r i n g t h e i r v o i c e s " ( T u r i n g 1 9 5 0 , p . 4 3 4 ) . T h e o p e r a t i o n a l t e s t T u r i n g p r o p o s e s t o r e p l a c e t h e q u e s t i o n " C a n m a c h i n e s t h i n k ? " - s i n c e c a l l e d " T u r i n g ’ s T e s t " o r " t h e T u r i n g T e s t " - i s a b e h a v i o r a l t e s t , i n t h e f i r s t p l a c e , o f l i n g u i s t i c c o m p e t e n c e a n d , i n t h e s e c o n d ( i n t h e l i g h t o f t h e " u n i v e r s a l i n s t r u m e n t a l i t y " o f l a n g u a g e ) , o f g e n e r a l i n t e l l e c t u a l a b i l i t y . T u r i n g c h a r a c t e r i z e s t h i s t e s t " i n t e r m s o f a g a m e w h i c h w e c a l l t h e ‘ i m i t a t i o n g a m e , ” ( T u r i n g 1 9 5 0 , p . 4 3 3 ) w h o s e o r i g i n a l v e r s i o n h e d e s c r i b e s a s f o l l o w s . i t i s p l a y e d b y t h r e e p e o p l e , a m a n ( A ) , a w o m a n ( B ) , a n d a n i n t e r r o g a t o r ( C ) w h o m a y b e o f e i t h e r s e x . T h e i n t e r r o g a t o r s t a y s i n a r o o m a p a r t f r o m t h e o t h e r t w o . T h e o b j e c t o f t h e g a m e f o r t h e i n t e r r o g a t o r i s t o d e t e r m i n e w h i c h o f t h e o t h e r t w o i s t h e m a n a n d w h i c h i s t h e w o m a n . H e k n o w s t h e m b y l a b e l s X a n d Y , a n d a t t h e e n d o f t h e g a m e h e s a y s e i t h e r ‘ X i s A a n d Y i s B ’ o r ‘ X i s B a n d Y i s A ’ T h e i n t e r r o g a t o r i s a l l o w e d t o p u t q u e s t i o n s t o A a n d B t h u s : C : W i l l X p l e a s e t e l l m e t h e l e n g t h o f h i s o r h e r h a i r ? N o w s u p p o s e X i s a c t u a l l y A , t h e n A m u s t a n s w e r . I t i s A ’ s o b j e c t i n t h e g a m e t o t r y a n d c a u s e C t o m a k e t h e w r o n g I d e n t i f i c a t i o n . H i s a n s w e r m i g h t t h e r e f o r e b e ‘ M y h a i r i s s h i n g l e d , a n d t h e l o n g e s t s t r a n d s a r e a b o u t n i n e i n c h e s l o n g . ’ i n o r d e r t h a t t h e t o n e s o f v o i c e m a y n o t h e l p t h e i n t e r r o g a t o r t h e a n s w e r s s h o u l d b e w r i t t e n , o r b e t t e r s t i l l , t y p e w r i t t e n . T h e i d e a l a r r a n g e m e n t i s t o h a v e a t e l e p r i n t e r c o m m u n i c a t i n g b e t w e e n t h e t w o r o o m s . T h e o b j e c t o f t h e g a m e f o r t h e t h i r d p l a y e r ( B ) i s t o h e l p t h e i n t e r r o g a t o r . T h e b e s t s t r a t e g y f o r h e r i s p r o b a b l y t o g i v e t r u t h f u l a n s w e r s . S h e c a n a d d s u c h t h i n g s a s ‘ I a m t h e w o m e n , d o n ’ t l i s t e n t o h i m ! ’ t o h e r a n s w e r s . b u t i t w i l l a v a i l n o t h i n g a s t h e m a n c a n m a k e s i m i l a r r e m a r k s . W e m a y n o w a s k t h e q u e s t i o n , “ W h a t w i l l h a p p e n w h e n a m a c h i n e t a k e s t h e p a r t o f A i n t h i s g a m e ? ’ W i l l t h e l n t e r r o g a t o r d e c i d e w r o n g l y a s o f t e n w h e n t h e g a m e i s b e i n g p l a y e d l i k e t h i s a s h e d o e s w h e n t h e g a m e I s p l a y e d b e t w e e n a m a n a n d a w o m a n ? T h e s e q u e s t i o n s r e p l a c e o u r o r i g i n a l , “ C a n m a c h i n e s t h i n k ? ’ ( T u r i n g 1 9 5 0 , p . 4 3 3 - 4 3 4 ) 5 7 C o n c e r n i n g t h e v e r s i o n o f t h e i m i t a t i o n g a m e i n w h i c h t h e m a c h i n e t a k e s t h e p a r t o f A , T u r i n g p r e d i c t e d t h a t " i n a b o u t f i f t y y e a r s ’ t i m e [ b y t h e y e a r 2 0 0 0 ] i t w i l l b e p o s s i b l e t o p r o g r a m c o m p u t e r s t o m a k e t h e m p l a y t h e i m i t a t i o n g a m e s o w e l l t h a t a n a v e r a g e i n t e r r o g a t o r w i l l h a v e n o m o r e t h a n 7 0 p e r c e n t . c h a n c e o f m a k i n g t h e c o r r e c t i d e n t i f i c a t i o n a f t e r f i v e m i n u t e s o f q u e s t i o n i n g . " ( T u r i n g 1 9 5 0 , p . 4 4 2 ) . F r o m t h e p r e s e n t v a n t a g e p o i n t ( 1 9 9 2 ) t h i s p r e d i c t i o n s e e m s e x c e e d i n g l y o p t i m i s t i c . B a r r i n g u n e x p e c t e d l y d r a m a t i c b r e a k t h r o u g h s i n k n o w l e d g e r e p r e s e n t a - t i o n a n d a m b i g u i t y r e s o l u t i o n s o f t w a r e e n g i n e e r i n g a n d p e r h a p s a l s o t h e h a r d w a r e e n g i n e e r i n g o f t r u e p a r a l l e l p r o c e s s o r s , f u l l y c o n v e r s a t i o n a l c o m p u t e r s - - c a p a b l e o f p a s s a b i y h u m a n c o n v e r s a t i o n i n a n a t u r a l l a n g u a g e , w i t h o u t r e s t r i c t i o n ( e . g . , t o m i c r o - w o r l d s o r o t h e r l i m i t e d d o m a i n s o f d i s c o u r s e ) - - s e e m s m o r e t h a n a d e c a d e ( p e r h a p s m u c h m o r e t h a n a d e c a d e ) a w a y . “ N o n e t h e l e s s , I b e l i e v e m e t h o d o l o g i - c a l a n d o t h e r c o n s i d e r a t i o n s a l r e a d y b r o a c h e d s h o u l d t e m p e r t h e e n t h u s i a s m o f t h e w o u l d - b e A l d e t r a c t o r f o r e m p i r i c a l a r g u m e n t s a g a i n s t A l b a s e d o n t h e c o n v e r s a t i o n a l d i s a b i l i t i e s o f t h e p r e s e n t g e n e r a t i o n , o r e v e n t h e l i m i t e d p r o s m c t s o f t h e n e x t g e n e r a t i o n , o f c o m p u t e r s . 3 . 5 T u r i n g ' s T e s t : M e t h o d o l o g i c a l a n d E m p i r i c a l C o n s i d e r a t i o n s T h e e m p i r i c a l l i n e o f a r g u m e n t a g a i n s t A l j u s t b r o a c h e d h a s b e e n a d v o c a t e d m o s t p r o m i n e n t l y , p e r h a p s , b y H u b e r t D r e y f u s ( D r e y f u s 1 9 7 9 , D r e y f u s & D r e y f u s 9 . T h e r e c e n t l y i n s t i t u t e d a n n u a l L o e b n e r P r i z e c o m p e t i t i o n ’ s p l a n i s ” t o c o n f i n e t h e i n t e r r o g a t o r ’ s q u e s t i o n i n g t o n a r r o w a r e a s o f k n o w l e d g e t h a t c o m p u t e r e n t r i e s h a v e b e e n s p e c i f i c a l l y p r o g r a m m e d t o h a n d l e " I n o r d e r t o " e n s u r e t h a t t h e e a r l i e r [ a n n u a l ] r o u n d s o f t h e t e s t a r e i n t e r e s t i n g ” ( S t l p p 1 9 9 1 ) . T h e f i r s t r o u n d o f c o m p e t i t i o n h e l d o n N o v e m b e r 8 , 1 9 9 1 w a s w o n b y J o s e p h W e l n t r a u b ’ s P C T h e r a p i s t l l l w h i c h w a s j u d g e d h u m a n b y f i v e o f t e n j u d g e s . 5 8 1 9 8 6 ) w h o s t r e s s e s h o w f a r w e s t i l l r e m a i n f r o m b e i n g a b l e t o p r o g r a m m a c h i n e s t o p a s s t h e T u r i n g T e s t , a n d h o w d i m t h e p r o s p e c t s f o r f u l f i l l m e n t o f T u r i n g ’ s p r e d i c t i o n r e m a i n . T h i s , a c c o r d i n g t o D r e y f u s , e v i d e n c e s t h e i n h e r e n t i n c a p a c i t y o f c o m p u t i n g m a c h i n e s t o h a v e , o r t h e i n t r i n s i c i n a b i l i t y o f p r o g r a m m i n g t o i m p a r t , t h e s o r t o f g e n e r a l i n t e l l e c t u a l c a p a c i t y a n d r e s u l t a n t c a p a c i t i e s f o r a d a p t a b l e b e h a v i o r a n d c o n v e r s a t i o n t h e T u r i n g T e s t p u r p o r t s t o d e t e c t . T h e D r e y f u s l i n e i s , i n e f f e c t , t o a c c e p t t h e v a l i d i t y o f t h e T u r i n g T e s t , a c c e p t t h a t t h e a b i l i t y t o p a s s t h i s t e s t w o u l d b e v e r y g o o d e v i d e n c e o f i n t e l l i g e n c e ; t o n o t e t h a t , a s a m a t t e r o f e m p i r i c a l f a c t , c o m p u t e r s a r e v e r y f a r f r o m b e i n g a b l e t o p a s s T u r i n g ’ s t e s t ; a n d t o c o n c l u d e t h a t t h i s s t r o n g l y e v i d e n c e s t h a t A l ’ s " s u c c e s s e s " i n i m p a r t i n g l i m i t e d " i n t e l l e c t u a l " a b i l i t i e s t o c o m p u t e r s a r e " m e r e e n g i n e e r i n g f e a t s , n o t s t e p s t o w a r d g e n e r a l l y i n t e l l i g e n t s y s t e m s " ( D r e y f u s 1 9 7 9 , p . 1 8 ) , a n d " d o n o t c o n s t i t u t e p r o g r e s s t o w a r d p r o d u c i n g g e n e r a l o r g e n e r a l i z a b l e t e c h n i q u e s f o r a c h i e v i n g a d a p t a b l e i n t e l l i g e n t b e h a v i o r " ( D r e y f u s 1 9 7 9 , p . 5 ) . 0 n D r e y f u s ’ s a s s e s s m e n t , n o t o n l y a r e n a t u r a l l a n g u a g e p r o c e s s i n g c o m p u t e r s w i t h p r o s p e c t s f o r c o n v e r s i n g fl u e n t l y i n o n e n a t u r a l l a n g u a g e ( a s T u r i n g ’ s t e s t r e q u i r e s ) o r t r a n s l a t i n g f r o m o n e n a t u r a l l a n g u a g e t o a n o t h e r ( a r e l a t e d a b i l i t y D r e y f u s d i s c u s s e s ) “ s t i l l o v e r t h e h o r i z o n " ( D r e y f u s 1 9 7 9 , p . 9 2 ) b u t " t h e h o r i z o n s e e m s t o b e r e c e d i n g a t a n a c c e l e r a t i n g r a t e " ( D r e y f u s 1 9 7 9 , p . 9 2 ) . A c c o r d i n g t o D r e y f u s , m o r e o v e r , s u c h f a c t s a n d a p p e a r a n c e s s h o w t h a t p r o s p e c t s f o r g e n u i n e A l a r e d i m , a n d c o n s e q u e n t l y t h a t ( w h a t i c a l l ) t h e t h e s i s o f A l p r o p e r , t h a t " M a c h i n e s s u c h a s d i g i t a l c o m p u t e r s c a n t h i n k " i s s t r o n g l y e m p i r i c a l l y d i s c o n t i n n e d . 5 9 N o w , t h i s e m p i r i c a l t a c k D r e y f u s t a k e s a g a i n s t A l i n v i t e s t w o s o r t s o f r e p l y . F i r s t , i t m a y b e a n s w e r e d o n i t s o w n t e r m s w i t h a n e m p i r i c a l r e j o i n d e r : i t m a y b e s a i d t h a t d e v e l o p m e n t s i n A l h a v e m a d e p r o g r e s s t o w a r d t h e g o a l o f c o n v e r s i n g i n ( a n d t r a n s l a t i n g b e t w e e n ) n a t u r a l l a n g u a g e s , a l b e i t s l o w e r p r o g r e s s p e r h a p s t h a n T u r i n g e n v i s i o n e d w h e n h e m a d e h i s p r e d i c t i o n . B u t a m o r e t e l l i n g r e j o i n d e r t o t h e e m p i r i c a l l i n e o f o b j e c t i o n D r e y f u s e s s a y s c a n b e m a d e o n t h e m e t h o d o l o g i - c a l g r o u n d s a l r e a d y b r o a c h e d . T h e s a m e m e t h o d o l o g i c a l c o n s i d e r a t i o n s t h a t u n d e r c u t D e s c a r t e s ’ s c l a i m t h a t t h e i n a b i l i t y o f " b r u t e s " t o p a s s t h e l a n g u a g e t e s t p r o v i d e s s u r e a n d c e r t a i n e v i d e n c e o f t h e u t t e r m i n d l e s s n e s s o f i n f r a h u m a n a n i m a l s a l s o u n d e r c u t a p p e a l s , s u c h a s D r e y f u s ’ s , t o t h e i n a b i l i t y o f a c t u a l . c o m p u t e r s t o p a s s T u r i n g ’ s t e s t a s e v i d e n c e o f t h e u t t e r m i n d l e s s n e s s o f c o m p u t e r s . I n t h e a b s e n c e o f c o n s i d e r a b l e t h e o r e t i c a l r e a s o n s f o r t h i n k i n g n a t u r a l l a n g u a g e c o m p r e h e n s i o n i s p r e r e q u i s i t e f o r h a v i n g a n y m e n t a l p r o p e r t i e s a t a l l , t h e c o n v e r s a t i o n a l d i s a b i l i t i e s o f a n i m a l s d o n o t s u f f i c e t o w a r r a n t r e f u s a l t o c r e d i t s u c h p r e d i c t i v e l y f r u i t f u l a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s ( e . g . , s e e i n g t h e b i r d , s e e k i n g t o c a t c h i t , e t c . ) t o a n i m a l s a s w e s e e m p r a c t i c a l l y i m p e l l e d t o m a k e o f t h e m . N e i t h e r , i n t h e a b s e n c e o f c o n s i d e r a b l e t h e o r e t i c a l r e a s o n s f o r t h i n k i n g l a c k o f n a t u r a l l a n g u a g e c o m p r e h e n s i o n i s r e q u i r e d f o r h a v i n g t h e s e m e n t a l a b i l i t i e s , d o t h e c o n v e r s a t i o n a l d i s a b i l i t i e s o f c o m p u t e r s s u f f i c e t o w a r r a n t r e f u s a l t o c r e d i t s u c h p r e d i c t i v e l y f r u i t f u l a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s ( d e t e c t i n g t h e c a r r i e r s i g n a l , s e e k i n g t o s o l v e e q u a t i o n s , e t c . ) t o c o m p u t e r s a s w e s e e m p r a c t i c a l l y i m p e l l e d t o m a k e t o t h e m . S i n c e t h e r e a r e n o c o n s i d e r a b l e t h e o r e t i c a l r e a s o n s , i t a k e i t , f o r t h i n k i n g n a t u r a l l a n g u a g e c o m p r e h e n s i o n i s t h e s i n e q u a n o n o f m i n d ( r e q u i r e d 6 0 f o r h a v i n g a n y m e n t a l p r o p e r t i e s w h a t s o e v e r ) T u r i n g t e s t p a s s i n g c a p a b i l i t y o u g h t n o t t o b e u n d e r s t o o d a s a n e c e s s a r y c o n d i t i o n f o r ( w a r r a n t e d a t t r i b u t i o n ) o f m i n d o r i n t e l l i g e n c e b u t o u g h t r a t h e r t o b e u n d e r s t o o d m e r e l y t o b e s u f f i c i e n t . E v e n s u p e r e r o g a t o r y . T u r i n g h i m s e l f o b s e r v e s , " T h e [ i m i t a t i o n ] g a m e m a y p e r h a p s b e c r i t i c i z e d o n t h e g r o u n d t h a t t h e o d d s a r e w e i g h t e d t o o h e a v i l y a g a i n s t t h e m a c h i n e " ( T u r i n g 1 9 5 0 , p . 4 3 5 ) . H e c o n t i n u e s , “ T h i s o b j e c t i o n i s a v e r y s t r o n g o n e , b u t a t l e a s t w e c a n s a y t h a t i f , n e v e r t h e l e s s , a m a c h i n e c a n b e c o n s t r u c t e d t o p l a y t h e i m i t a t i o n g a m e s a t i s f a c t o r i l y , w e n e e d n o t b e t r o u b l e d b y t h i s o b j e c t i o n " ( T u r i n g 1 9 5 0 , p . 4 3 5 ) . A s T u r i n g w o u l d h a v e i t , t e l l i n g t h i s t e s t d o e s n o t c o n c l u s i v e l y e v i d e n c e l a c k o f a n y m i n d o r i n t e l l i g e n c e ( a s D e s c a r t e s t h o u g h t f a i l u r e t o p a s s h i s l a n g u a g e t e s t w o u l d ) , b u t p a s s i n g t h i s t e s t i s v e r y p r e s u m p t i v e e v i d e n c e o f t h e p r e s e n c e o f m i n d o r i n t e l l i g e n c e . T h a t T u r i n g t e s t p a s s i n g c a p a c i t y i s n o t r e q u i r e d f o r i n t e l l i g e n c e - t h a t l a c k o f T u r i n g t e s t p a s s i n g c a p a c i t y i s i n s u f f i c i e n t t o w a r r a n t d e n i a l o f m i n d o r i n t e l l i g e n c e t o s y s t e m s l a c k i n g s u c h c a p a c i t y - s e e m s i n c o n t r o v e r t i b l e a n d b l o c k s a n y s u c h a p p e a l t o t h e c o n v e r s a t i o n - a l d i s a b i l i t i e s o f c o m p u t e r s a s e v i d e n c e o f t h e i r u t t e r m i n d l e s s n e s s a s D r e y f u s ’ s e m p i r i c a l o b j e c t i o n a t t e m p t s . W h i l e i t i s p l a u s i b l e t o t h i n k T u r i n g t e s t p a s s i n g c a p a c i t y r e q u i r e s o r p r e s u p p o s e s a v a r i e t y o f o t h e r m e n t a l c a p a c i t i e s ( w h i c h T u r i n g t e s t p a s s i n g , c o n s e q u e n t l y , s u f f i c e s t o e v i d e n c e ) , i t i s w i l d l y i m p l a u s i b l e t o s u p p o s e t h a t e v e r y o t h e r m e n t a l c a p a c i t y r e q u i r e s o r p r e s u p p o s e s T u r i n g t e s t p a s s i n g c a p a c i t y . i t i s , c o n s e q u e n t l y , i m p l a u s i b l e t o a r g u e f r o m t h e c o n v e r s a t i o n a l d i s a b i l i t i e s o f c o m p u t e r s ( i . e . , t h e i r T u r i n g t e s t f a i l i n g ) t o t h e i r u t t e r l a c k o f a n y m e n t a l a b i l i t i e s w h a t e v e r ( a s D r e y f u s ’ s e m p i r i c a l l i n e o f o b j e c t i o n t o A l a t t e m p t s ) . 6 1 3 . 6 T u r i n g ' s T e s t : M e t a p h y s i c a l C o n s i d e r a t i o n s W h a t i s c r u c i a l l y a t i s s u e , t h e n , i s t h e s u f f i c i e n c y o f T u r i n g t e s t p a s s i n g c a p a c i t y f o r m i n d o r i n t e l l i g e n c e : i t i s t h i s s u f f i c i e n c y c l a i m o n b e h a l f o f t h e T u r i n g t e s t , m o r e o v e r , t h a t S e a r l e ’ s C h i n e s e r o o m e x p e r i m e n t c l a i m s t o c o u n t e r i n s t a n c e . S e a r l e ’ s c l a i m i s t h a t s o m e t h i n g o r s o m e o n e ( e . g . , S e a r l e i n t h e C h i n e s e r o o m ) c o u l d p a s s T u r i n g ’ s t e s t b y " c o n v e r s i n g " f l u e n t l y i n a n a t u r a l l a n g u a g e w h i l e t o t a l l y l a c k i n g t h e m e n t a l p r o p e r t y o r p r o p e r t i e s ( i n t h e f i r s t p l a c e , u n d e r s t a n d i n g o f t h e l a n g u a g e ) t h e i r p e r f o r m a n c e s e e m e d t o e v i d e n c e . G i v e n t h e g e n e r a l a d m i s s i o n t h a t b e h a v i o r a l e v i d e n c e g e n e r a l l y , a n d i n t h e c a s e o f o t h e r h u m a n m i n d s c o n v e r s a t i o n a l e v i d e n c e p a r t i c u l a r l y , i s w h a t w e o r d i n a r i l y d o t a k e t o e v i d e n c e m e n t a l p r o p e r t i e s ( o r l a c k t h e r e o f ) i n o t h e r s , d e n i a l o f e v i d e n t i a l s u f f i c i e n c y t o T u r i n g ’ s t e s t , I t a k e i t , r e q u i r e s s o m e t h e o r e t i c a l u n d e r p i n n i n g . I p r o p o s e t o c l o s e t h i s c h a p t e r w i t h a s u r v e y o f t h e u n d e r p i n n i n g f o r d i s p u t i n g a d e q u a c y o f T u r i n g ’ s t e s t t h a t v a r i o u s m e t a p h y s i c a l v i e w s a b o u t t h e n a t u r e o f m i n d o r i n t e l l i g e n c e t h i n k ( o r , a t l e a s t , m u s t h o p e ) t o p r o v i d e . i t w i l l b e r e v e a l i n g , I t h i n k , b o t h o f t h e t h e s e m e t a p h y s i c a l v i e w s a n d o f t h e i s s u e s p e r t a i n i n g t o t h e a d e q u a c y o f T u r i n g ’ s t e s t t o p r e s e n t w h a t a r e g e n e r a l l y r e g a r d e d t o b e t h e b a s i c m e t a p h y s i c a l a l t e r n a t i v e s h e r e i n t h e l i g h t o f a m o d i f i e d v e r s i o n o f T u r i n g ’ s t e s t " a p p a r a t u s . “ l p r o p o s e t o s i m p l i f y T u r i n g ’ s a r r a n g e m e n t b y d r o p p i n g o n e o f t h e c o n t e s t a n t s , t h e m a n o r t h e w o m a n , a n d t a k i n g i t t o b e t h e j o b o f t h e i n t e r r o g a t o r t o d i s c o v e r w h i c h ( m a n o r w o m a n ) t h e s u b j e c t i s . T h i s , I 6 2 t a k e i t , d o e s n o t f u n d a m e n t a l l y a l t e r t h e e x p e r i m e n t . W e c a n d e p i c t t h i s t e s t s e t u p , n o w , a s f o l l o w s : M O D I F I E D I M I T A T I O N G A M E S E T U P q u e s t i o n s ' M a l e o r F e m a l e S u b j e c t : a n s w e r s T h i s s e t u p a i m s t o p a r a l l e l b o t h t h e e p i s t e m i c s i t u a t i o n o n e m a y p l a u s i b l y b e s u p p o s e d t o b e i n v i s a v i s t h e " t h o u g h t h i d d e n i n t h e b o d y " o f a n o t h e r a n d t h e c a u s a l o r m e t a p h y s i c a l s i t u a t i o n o f t h o u g h t b e t w e e n s e n s o r y s t i m u l i a n d b e h a v i o r a l r e s p o n s e s . J u s t a s t h e c o n t e n t s o f t h e r o o m a r e h i d d e n f r o m t h e q u e s t i o n e r , w h o m u s t i n f e r t h e s e x o f t h e s u b j e c t o n t h e b a s i s o f t h e i r a n s w e r s t o q u e s t i o n s , s o , t h e t h o u g h t s o f o t h e r s m a y p l a u s i b l y b e s u p p o s e d t o b e h i d d e n f r o m o u r s e l v e s , i n f e r a b i e o n l y o n t h e b a s i s o f t h e i r b e h a v i o r a n d c o n v e r s a t i o n . W h a t e v e r e l s e t h o u g h t i s , i t i s s o m e t h i n g s o m e t i m e s o c c a s i o n e d b y s e n s o r y i n p u t s a n d e v e n t u a t i n g i n b e h a v i o r a l o u t p u t s ; a n d w h a t e v e r i s e s s e n t i a l t o t h o u g h t ‘ s b e i n g w h a t i t i s , m e t a p h y s i c a l l y , t h a t i t s o m e t i m e s m e d i a t e s b e t w e e n s e n s o r y i n p u t s a n d b e h a v i o r a l o u t p u t s w o u l d s e e m t o b e e s s e n t i a l t o i t s b e i n g k n o w n t o o t h e r s ( i f n o t o u r s e l v e s ) a s , i t a k e i t , i t i s . 1 0 1 0 . i f W i t t g e n s t e i n ’ s w e l l - k n o w n r e f l e c t i o n s o n " p r i v a t e l a n g u a g e " ( 1 9 5 8 . § § 2 4 3 - 3 1 7 ) a r e w e l l c o n c e i v e d ( a s i b e l i e v e t h e m t o b e ) t h a t t h o u g h t s s h o u l d s o m e t i m e s m e d i a t e b e t w e e n s e n s o r y i n p u t s a n d b e h a v i o r a l o u t p u t s i s e s s e n t i a l e v e n t o o u r k n o w l e d g e o f o u r o w n m i n d s i n b e i n g p r e s u p p o s e d b y o u r e v e n h a v i n g s u c h m e n t a l c o n c e p t s a s b e l i e f , d e s i r e , e t c . t o a p p l y t o o u r s e l v e s . E v i d e n c e t h a t “ m u c h o f w h a t p a s s e s f o r i n t r o s p e c t i v e r e p o r t s i s r e a l l y s p o n t a n e o u s t h e o r i z i n g w h e r e t h e h y p o t h e s e s p r o d u c e d a r e b a s e d o n t h e s a m e e x t e r n a l e v i d e n c e a v a i l a b l e t o t h e p u b l i c a t l a r g e ” ( C h u r c h l a n d 1 9 8 8 , p . 7 9 ) a r e s i m i l a r l y s u g g e s t i v e . 6 3 N o w , a c r u c i a l f e a t u r e o f t h e o r i g i n a l ( m a n / w o m a n ) i m i t a t i o n g a m e s e t u p i s t h i s : w h a t e v e r t h e e v i d e n c e p r o v i d e d b y t h e s u b j e c t ’ s a n s w e r s m a y s e e m t o i n d i c a t e , t h e r e i s a f u r t h e r f a c t ( o r f a c t s ) o f t h e m a t t e r t h a t r e a l l y d e t e r m i n e s w h e t h e r t h e s u b j e c t i s m a l e o r f e m a l e r e g a r d l e s s o f h o w t y p i c a l l y m a s c u l i n e o r f e m i n i n e t h e i r r e s p o n s e s ; w h a t ’ s i n t h e i r j e a n s ( o r g e n e s ) . T h e s e x o r g a n s ( o r c h r o m o s o m a l s t r u c t u r e ) o f t h e s u b j e c t a r e c o n s t i t u t i v e o f t h e i r s e x : t h e m a s c u l i n i t y o r f e m i n i n i t y o f t h e i r a n s w e r s ( o r e v e n m o r e g e n e r a l l y , i n o r d i n a r y l i f e , o f t h e i r d r e s s a n d b e h a v i o r ) a r e m e r e l y i n d i c a t i v e o f t h e i r s e x . B e c a u s e h a v i n g a p e n i s o r y — c h r o m o s o m e s i s m e t a p h y s i c a l l y c o n s t i t u t i v e o f m a l e n e s s t h e p r o p e r t y o f h a v i n g a p e n i s o r y - c h r o m o s o m e s m a y b e s a i d , e p i s t e m o l o g i c a l l y , t o b e c r i t e r i a ! f o r b e i n g m a l e . B e i n g a b l e t o a n s w e r q u e s t i o n s a b o u t f o o t b a l l m o r e r e a d i l y a n d a c c u r a t e l y t h a n q u e s t i o n s a b o u t f a s h i o n , s i n c e i t i s n o t m e t a p h y s i c a l l y c o n s t i t u t i v e o f m a l e n e s s , o n t h e o t h e r h a n d , m a y b e s a i d , e p i s t e m o l o g i c a l l y , t o b e m e r e l y s y m p t o m a t i c o f b e i n g m a l e . N o t e t h a t k n o w l e d g e t h a t s o m e o n e s a t i s f i e s t h e c r i t e r i a o f m a l e n e s s s u f f i c e s t o o v e r r i d e a n y a m o u n t o f s y m p t o m a t i c e v i d e n c e ( a n y n u m b e r o f t y p i c a l l y f e m i n i n e m a n n e r i s m s , p e r s o n a l i t y t r a i t s , h a b i t s , e t c . ) t o t h e c o n t r a r y . N o t e , f i n a l l y , t h a t t h e r e a r e s u c h t h i n g s a s r e l i a b l e s y m p t o m s : i s h a l l s a y s o m e p r 0 p e r t y P i s a " r e l i a b l e s y m p t o m " o f t h e p r e s e n c e o f s o m e o t h e r p r o p e r t y 0 i f a n d o n l y i f k n o w i n g s o m e i n d i v i d u a l x i s P s u f f i c e s f o r k n o w i n g x i s 0 e v e n t h o u g h P - n e s s i s n o t m e t a p h y s i c a l l y c o n s t i t u t i v e o f Q - n e s s . R E M s l e e p i s , p e r h a p s , r e l i a b l y s y m p t o m a t i c o f d r e a m i n g ; t u r n i n g b l u e l i t m u s p a p e r r e d o f a c i d i t y ; t h u n d e r o f l i g h t n i n g ; e t c . 6 4 N o w , T u r i n g ‘ s p r o p o s a l m a y b e s a i d t o b e t h i s : p a s s i n g t h i s c o n v e r s a t i o n a l t e s t ( o r b e t t e r , a c t u a l l y h a v i n g t h e c o n v e r s a t i o n a l c a p a c i t i e s t h e t e s t t e s t s f o r ) i s e i t h e r c r i t e r i a l f o r , o r r e l i a b l y s y m p t o m a t i c o f h a v i n g a m i n d ( o r m e n t a l p r o p e r t i e s ) . H a v i n g s u c h c a p a c i t i e s i s s u p p o s e d ( b y t h e p r o p o n e n t o f T u r i n g ’ s t e s t ) t o b e a t l e a s t e p i s t e m o l o g i c a l l y s u f f i c i e n t f o r h a v i n g a m i n d ( i f l i n g u i s t i c c a p a c i t y i s m e r e l y r e l i a b l y s y m p t o m a t i c o f m i n d e d n e s s ) a n d p e r h a p s m e t a p h y s i c a l l y s u f f i c i e n t ( i f l i n g u i s t i c c a p a c i t y i s c o n s t i t u t i v e o f m i n d e d n e s s ) . G i v e n t h a t b e h a v i o r a l e v i d e n c e g e n e r a l l y ( a n d c o n v e r s a t i o n a l e v i d e n c e e s p e c i a l l y , i n t h e c a s e o f o t h e r h u m a n m i n d s ) i s w h a t w e o r d i n a r i l y g o o n i n a s s e s s i n g t h e m e n t a l p r o p e r t i e s ( o r l a c k o f s a m e ) o f o t h e r s , i t s e e m s t h a t a n y o n e w h o w o u l d d e n y t h e s u f f i c i e n c y o f t h e l i n g u i s t i c c a p a c i t i e s T u r i n g ’ s t e s t t e s t s f o r f o r h a v i n g a m i n d u n d e r t a k e s s o m e b u r d e n t o s a y w h a t e l s e i s n e c e s s a r y . D i f f e r e n t m e t a p h y s i c a l v i e w s c o n c e r n i n g t h e n a t u r e o f m i n d m a n d a t e d i f f e r e n t a n s w e r s t o t h i s q u e s t i o n a n d m a y b e c h a r a c t e r i z e d i n t e r m s o f t h e a n s w e r s t h e y m a n d a t e . I n o t e i n t h i s c o n n e c t i o n t h a t d e s p i t e t h e i r r a d i c a l d i s a g r e e m e n t a b o u t “ w h a t i t i s t h a t i a m a t t r i b u t i n g t o [ m y s e l f a n d o t h e r s ] w h e n I a t t r i b u t e c o g n i t i v e [ o r o t h e r m e n t a l ] s t a t e s t o t h e m “ ( S e a r l e 1 9 8 0 a , p . 4 2 0 ) a l l p a r t i e s t o t h e s e d i s p u t e s - - d u a l i s t s , f u n c t i o n a l i s t s , i d e n t i t y t h e o r i s t s , a n d e l i m i n a t i v i s t s , a s w e l l a s b e h a v i o r i s t s - a g r e e t h a t t h e e v i d e n c e o n t h e b a s i s o f w h i c h w e a t t r i b u t e ( o r r e f r a i n f r o m a t t r i b u t i n g ) m e n t a l p r o p e r t i e s ( a t l e a s t t o o t h e r s ) i s l a r g e l y , i f n o t e n t i r e l y , b e h a v i o r a l . B e h a v i o r i s m t h e n - - a t l e a s t w h e n s h o r n o f o p e r a t i o n a l i s t a n d s c i e n t i s t i c a l l e g i a n c e s w i t h w h i c h i t h a s b e e n h i s t o r i c a l l y a s s o c i a t e d i n t h e U n i t e d 6 5 S t a t e s " - - m i g h t b e s t y l e d , i n c o n t r a s t w i t h d u a l i s m , i d e n t i t y t h e o r y , a n d f u n c t i o n - a l i s m , a s a k i n d o f n u l l h y p o t h e s i s . 1 2 A c c o r d i n g t o t h e b e h a v i o r i s t , n o t h i n g e l s e i s n e c e s s a r y f o r t h o u g h t b e s i d e s h a v i n g t h e r i g h t ( c h a r a c t e r i s t i c ) b e h a v i o r a l c a p a c i t i e s . H a v i n g t h e l i n g u i s t i c c a p a c i t i e s T u r i n g ’ s t e s t t e s t s i s s u f f i c i e n t t o e v i d e n c e m i n d o r t h i n k i n g b e c a u s e i t i s c r i t e r i a l f o r h a v i n g a m i n d ( i . e . , s o m e m e n t a l p r o p e r t i e s ) g e n e r a l l y a n d c r i t e r i a l f o r t h e m e n t a l p r o p e r t y o f u n d e r s t a n d i n g w h a t e v e r n a t u r a l l a n g u a g e t h e q u e s t i o n s a n d a n s w e r s a r e c o u c h e d i n , i n p a r t i c u l a r . A c c o r d i n g t o t h e b e h a v i o r i s t t h e c a s e o f " t h o u g h t h i d d e n i n a b o d y " i s n o t f u l l y a n a l o g o u s t o t h e c a s e o f t h e m a l e o r f e m a l e s u b j e c t h i d d e n i n t h e r o o m b e c a u s e , i n t h e c a s e o f u n d e r s t a n d i n g E n g l i s h ( e . g . ) t h e r e i s n o f u r t h e r f a c t o f t h e m a t t e r a b o u t s o m e t h i n g ’ s u n d e r s t a n d i n g E n g l i s h b e s i d e s t h e f a c t t h a t i t c a n " p r o d u c e d i f f e r e n t a r r a n g e m e n t s o f w o r d s s o a s t o g i v e a n a p p r o p r i a t e l y m e a n i n g f u l a n s w e r t o w h a t e v e r i s s a i d i n i t s p r e s e n c e " ( D e s c a r t e s 1 6 3 7 , p . 1 3 9 - 1 4 0 ) . B e i n g a b l e t o r e s p o n d m o r e r e a d i l y a n d a p p r o p r i a t e l y t o q u e s t i o n s a b o u t s p o r t s t h a n q u e s t i o n s a b o u t s o a p o p e r a s p l a i n l y d o e s n o t s u f f i c e f o r m a l e n e s s b e c a u s e p l a i n l y s o m e t h i n g e l s e ( t h e r i g h t s e x o r g a n s o r c h r o m o s o m e s ) i s n e c e s s a r y : i t i s n o t s o 1 1 . T h e B r i t i s h s c h o o l o f b e h a v i o r i s m t y p i f i e d b y W i t t g e n s t e i n ( 1 9 5 8 ) . R y l e ( 1 9 4 9 ) a n d A n s o o m b e ( 1 9 6 3 ) s e e m s t o c o n t r a s t w i t h t h e A m e r i c a n s c h o o l t y p i f i e d b y S k i n n e r . H e m p e l ( 1 9 4 9 ) , a n d Q u l n e i n t h i s r e s p e c t . 1 2 . T h e ' n u l l n e s s " i n q u e s t i o n c o n c e r n s w h e t h e r m i n d s o r t h o u g h t s a r e n a t u r a l k i n d s o r h a v e e s s e n c e s , i t a k e i t . F u n c t i o n a l i s m h y p o t h e s i z e s a c o m p u t a t i o n a l e s s e n c e . i d e n t i t y t h e o r y a n e u r o p h y s i o l o g l c a l e s s e n c e . D u a l i s m a p h e n o m e n o l o g i c a l o r e x p e r i e n t i a l e s s e n c e . O p e r a t i o n a l l s t i c b e h a v i o r i s m p r e s u m e d t o s t i p u l a t e ( d i s c o v e r ? ) s o m e t h i n g l i k e a n e s s e n c e ( a n o m i n a l e s s e n c e ? ) i n t h e f o r m o f n e c e s s a r y a n d s u f f i c i e n t o b s e r v a b l e c o n d i t i o n s f o r h a v i n g t h o u g h t s o r m e n t a l p r o p e r t i e s . " N u l l h y p o t h e s i s " o r " B r i t i s h b e h a v i o r i s m " i s t a n t a m o u n t t o " n o n e o f t h e a b o v e “ : u n l i k e e l i m i n a t i v l s m , h o w e v e r i t d o e s n o t t h i n k " n o n e o f t h e a b o v e “ i m p u g n s e x i s t e n c e o f t h e p h e n o m e n a . N o m o r e s o t h a n t h e l n d e f i n a b l i l t y o f " g a m e ” i m p u g n s t h e e x i s t e n c e o f g a m e s . 6 6 p l a i n t h a t a n y t h i n g e l s e i s n e c e s s a r y f o r k n o w i n g m o r e a b o u t s p o r t s t h a n s o a p o p e r a s . N o n b e h a v i o r i s t i c v i e w s a b o u t t h e n a t u r e o f m i n d a r e c o m m i t t e d t o t h e c l a i m t h a t s o m e t h i n g e l s e i s n e c e s s a r y i n t h i s c a s e a l s o - — t h a t k n o w l e d g e , u n d e r s t a n d i n g , a n d o t h e r m e n t a l p r o p e r t i e s ' h i d d e n i n t h e b o d i e s " o f o t h e r s a r e a n a l o g o u s t o t h e m a l e n e s s o r f e m a i e n e s s o f t h e s u b j e c t h i d d e n i n t h e r o o m . N o n b e h a v i o r i s t i c v i e w s , t h e n , c a n b e d i s t i n g u i s h e d o n e f r o m t h e o t h e r ( a s w e l l a s f r o m b e h a v i o r i s m ) b y w h a t t h e y t a k e t h i s s o m e t h i n g e l s e w h i c h i s n e c e s s a r y t o b e . M i n d - b r a i n i d e n t i t y t h e o r y h o l d s t h a t w h a t i s n e c e s s a r y ( b e s i d e s s y m p t o m a t i c b e h a v i o r ) i s t h a t t h e b e h a v i o r b e b r o u g h t a b o u t b y t h e r i g h t m a t e r i a l p r o c e s s e s a n d s t a t e s : i f p a i n i s s u p p o s e d t o b e t h e f i r i n g o f C - fi b e r s ( s a y ) t h e n w h a t i s n e c e s s a r y f o r a n i n d i v i d u a l e x h i b i t i n g t h e b e h a v i o r a l s y n d r o m e s y m p t o m a t i c o f p a i n ( f l i g h t f r o m a n d s u b s e q u e n t a v o i d a n c e o f t h e o c c a s i o n i n g s t i m u l u s , n u r s i n g t h e i n j u r e d p a r t . e t c . ) i s t h a t t h i s b e h a v i o r b e c a u s e d i n t h e r i g h t w a y ( b y C - fl b e r fi r i n g s ) a n d n o t o t h e n l v i s e . F u n c t i o n a l i s m h o l d s t h a t w h a t i s n e c e s s a r y ( b e s i d e s s y m p t o m a t i c b e h a v i o r ) i s t h a t t h e b e h a v i o r b e b r o u g h t a b o u t i n t h e r i g h t a b s t r a c t m a n n e r , w h e r e t h e r i g h t m a n n e r i s n o t d e f i n e d p h y s i c a l l y ( a s w i t h t h e m i n d - b r a i n i d e n t i t y t h e o r y ) b u t p u r e l y p r o c e d u r a l l y : a f u n c t i o n a l i s t w h o t a k e s t h e r i g h t m a n n e r o f a c t i n g a s - i f p a i n e d , a n s w e r i n g q u e s t i o n s i n E n g l i s h , e t c . , t o c o n s i s t i n i m p l e m e n t i n g t h e r i g h t T u r i n g - m a c h i n e t a b l e i s a T u r i n g m a c h i n e f u n c t i o n a l - i s t . D u a l i s m h o l d s t h a t w h a t i s n e c e s s a r y ( b e s i d e s s y m p t o m a t i c b e h a v i o r ) a r e t h e r i g h t a s s o c i a t e d c o n s c i o u s e x p e r i e n c e s ( e . g . , t h e f e e l i n g o r q u a l e o f p a i n o r t h e i n n e r e x p e r i e n c e o f u n d e r s t a n d i n g E n g l i s h ) . S i n c e o n e a c h o f t h e s e v i e w s t h e s o m e t h i n g e l s e t h a t i s n e c e s s a r y i s s u p p o s e d t o b e c o n s t i t u t i v e o f t h e m e n t a l 6 7 p h e n o m e n a i n q u e s t i o n w e m a y s a y a c c o r d i n g l y t h a t d u a l i s m i d e n t i f i e s s p e c i f i c m e n t a l s t a t e s a n d p r o c e s s e s ( e . g . , b e i n g i n p a i n , u n d e r s t a n d i n g E n g l i s h ) w i t h s p e c i f i c p h e n o m e n o l o g i c a l ( o r q u a l i t a t i v e o r c o n s c i o u s e x p e r i e n t i a l ) s t a t e s a n d p r o c e s s e s . S i m i l a r l y , w e m a y s a y f u n c t i o n a l i s m i d e n t i f i e s m e n t a l s t a t e s a n d p r o c e s s e s w i t h s p e c i f i c p r o c e d u r a l s t a t e s a n d p r o c e s s e s ( e . g . , T u r i n g m a c h i n e s t a t e s a n d s t a t e t r a n s i t i o n s ) a n d m i n d - b r a i n i d e n t i t y t h e o r y i d e n t i f i e s m e n t a l s t a t e s a n d p r o c e s s e s w i t h s p e c i f i c p h y s i c a l s t a t e s a n d p r o c e s s e s . B e h a v i o r i s m , o n t h e o t h e r h a n d . d o e s n o t i d e n t i f y s p e c i f i c m e n t a l " s t a t e s " a n d ” p r o c e s s e s " w i t h s p e c i f i c s t a t e s o r p r o c e s s e s i n t e r v e n i n g b e t w e e n s e n s o r y s t i m u l i a n d b e h a v i o r a l r e s p o n s e s . N o t e t h a t t h e b e h a v i o r i s t n e e d n ’ t d e n y t h e r e a r e i n t e r v e n i n g m e c h a n i s m s m e d i a t i n g b e t w e e n s e n s o r y i n p u t s ( e . g . , q u e s t i o n s ) a n d b e h a v i o r a l o u t p u t s ( e . g . , a n s w e r s ) w h e n i u n d e r s t a n d E n g l i s h : b e h a v i o r i s m i s o n l y c o m m i t t e d t o t h e c l a i m t h a t t h e p h y s i c a l , p r o c e d u r a l , a n d p h e n o m e n o l o g i c a l c h a r a c t e r i s t i c s o f t h e s e s t a t e s a n d p r o c e s s e s a r e i r r e l e v a n t t o t h e i r b e i n g s t a t e s o r p r o c e s s e s o f u n d e r s t a n d i n g E n g l i s h . S o l o n g a s t h e i n t e r v e n i n g s t a t e s a n d p r o c e s s e s ( w h a t e v e r t h e y a r e ) s u p p o r t t h e ( a c t u a l a n d c o u n t e r f e c t u a l ) i n p u t - o u t p u t o r s t i m u l u s - r e s p o n s e c o r r e l a t i o n s t y p i f y i n g ( i n d e e d , c o n s t i t u t i n g ) t h e m e n t a l p r o p e r t y i n q u e s t i o n , t h e n t h e i n d i v i d u a l i n w h o m t h e s e s t a t e s a n d p r o c e s s e s i n t e r v e n e c a n t r u l y b e s a i d t o h a v e t h a t m e n t a l p r o p e r t y . T y p i c a l l y b e h a v i o r i s t s d o n ' t i d e n t i f y t h e i n t e r v e n i n g p r o c e s s e s a n d s t a t e s ( w h a t e v e r t h e y m i g h t b e ) w i t h t h e m e n t a l " s t a t e s a n d p r o c e s s e s " t h e y s u p p o r t , " t h o u g h t h i s r e f u s a l i s p e r h a p s n o t e s s e n t i a l t o t h e v i e w . S o m e o n e m i g h t s a y , i s u p p o s e , t h a t w h a t e v e r m i c r o s t r u c t u r a l s t a t e s a n d 1 3 . 8 e r ( 1 9 4 9 ) a n d W i t t g e n s t e i n ( 1 9 5 8 ) a r e t y p i c a l i n t h i s r e g a r d . 6 8 p r o c e s s e s c a u s e g l a s s t o b r e a k w h e n s h a r p l y s t r u c k a r e w h a t t h e f r a g i l i t y o f g l a s s c o n s i s t s i n ; o t h e r , m u c h d i f f e r e n t , m i c r o s t r u c t u r a l s t a t e s a n d p r o p e r t i e s w h i c h c a u s e b o n e c h i n a t o b r e a k w h e n s h a r p l y s t r u c k a r e w h a t t h e f r a g i l i t y o f b o n e c h i n a c o n s i s t s i n ; e t c . S i m i l a r l y , i s u p p o s e , s o m e o n e m i g h t s a y t h a t w h a t e v e r i n t e m a l s t a t e s m e d i a t e b e t w e e n w h a t e v e r i s s a i d i n E n g l i s h i n m y p r e s e n c e a n d m y a n s w e r i n g a p p r o p r i a t e l y i n E n g l i s h a r e w h a t m y u n d e r s t a n d i n g o f E n g l i s h c o n s i s t s i n : o n e m i g h t s a y t h i s , i s u p p o s e , a n d s t i l l b e a b e h a v i o r i s t . “ S t i l l , i t s e e m s m o r e p e r s p i c u o u s ( a n d p a r s i m o n i o u s ) t o s a y f r a g i l i t y j u s t i s t h e d i s p o s i t i o n ( o n e a n d t h e s a m e d i s p o s i t i o n ) i n a n y t h i n g t o b r e a k w h e n s h a r p l y s t r u c k . S i m i l a r l y , i t s e e m s m o r e p e r s p i c u o u s ( a n d p a r s i m o n i o u s ) t o s a y t h a t u n d e r s t a n d i n g E n g l i s h j u s t i s a d i s p o s i t i o n ( o r c a p a c i t y ) t o r e s p o n d a p p r o p r i a t e l y i n E n g l i s h t o w h a t i s s a i d i n o n e ' s p r e s e n c e i n E n g l i s h ; e s m c i a l i y , i f ( a s I s u s p e c t ) t h e m e d i a t i n g s t a t e s a n d p r o c e s s e s c a p a b l e o f c a u s i n g a p p r o p r i a t e a n s w e r s i n E n g l i s h t o q u e s t i o n s i n E n g l i s h ( c e t e r l s p a r i b u s ) a r e a s v a r i e d a s t h e t h o s e c a p a b l e o f c a u s i n g t h i n g s t o b r e a k ( c e t e r i s p a r i b u s ) w h e n s h a r p l y s t r u c k . D u a l i s t , f u n c t i o n a l i s t , m i n d - b r a i n i d e n t i t y t h e o r e t i c , a n d b e h a v i o r i s t h y p o t h e s e s c o n c e r n i n g w h a t , i f a n y t h i n g , b e s i d e s t h e b e h a v i o r a l d i s p o s i t i o n s o r c o m p e t e n c i e s ( e . g . , f o r c o n v e r s a t i o n i n E n g l i s h ) a s s o c i a t e d w i t h v a r i o u s m e n t a l p r o p e r t i e s ( e . g . , u n d e r s t a n d i n g E n g l i s h ) i s n e c e s s a r y i n o r d e r t o b e a c t u a l l y p o s s e s s e d o f t h e m e n t a l p r o p e r t y m a y n o w b e d e p i c t e d b y t h e f o l l o w i n g " T u r i n g - b o x " d i a g r a m s : 1 4 . R i c h H a l l i n s i s t s t h i s w o u l d n o t b e b e h a v i o r i s m b u t s p e c i e s s p e c i f i c i d e n t i t y t h e o r y ( o f . K i m 1 9 9 2 a ) . W h e t h e r t h e e s s e n t i a l i s t c h a r a c t e r o f i d e n t i t y t h e o r y ( w h i c h d i s t i n g u i s h e s i t f r o m b e h a v i o r i s m ) s u r v i v e s t h e r e l a t i v i z a t l o n o f i d e n t i t i e s t o s p e c i f i c s p e c i e s . h o w e v e r , s e e m s . a t b e s t , d o u b t f u l t o m e . i t s e e m s e s p e c i a l l y d o u b t f u l i f t h e " s p e c i e s " i n q u e s t i o n f a l l t o m a t c h u p o n e t o o n e ( a s t h e r e i s r e a s o n . I t a k e i t , t o d o u b t t h e y w i l l ) w i t h n a t u r a l b i o l o g i c a l k i n d s . 4 ‘ 6 9 B E H A V I O R I S M q u e s t i o n s : N o t h i n g e l s e I s r e q u i r e d . M e d i a t i n g i n t e r - n a l s t a t e s & p r o c e s s e s , - m e n t a l s t a t e s & p r o c e s s e s : m e n t a l p r e d i c a t e s c o n n o t e A b e h a v i o r a l d i s p o s i t i o n s o r c a p a c i t i e s o f ' w h o l e o r g a n i s m s o r s y s t e m s . a n s w e r s M I N D - B R A I N I D E N T I T Y T H E O R Y q u e s t i o n s : A p p r o p r i a t e o u t p u t , g i v e n i n p u t , m u s t b e p r o d u c e d b y t h e r i g h t p h y s i c a l m e c h a - n i s m s . M e n t a l s t a t e s & p r o c e s s e s = n e u - : r o p h y s l o i o g l c a l s t a t e s 8 : p r o c e s s e s . a n s w e r s F U N C T I O N A L I S M q u e s t i o n s c A p p r o p r i a t e o u t p u t , g i v e n i n p u t , m u s t b e a r r i v e d a t b y t h e r i g h t m e t h o d . M e n t a l p r o c e s s e s 8 1 s t a t e s = ( c o m p u t a t i o n a l ) ‘ L p r o c e d u r e s 8 1 p r o c e d u r a l s t a t e s . a n s w e r s D U A L I S M q u e s t i o n s : A p p r o p r i a t e o u t p u t , g i v e n i n p u t s , m u s t b e m e d i a t e d b y t h e r i g h t c o n s c i o u s e x p e r - i e n c e s . M e n t a l s t a t e s 8 1 p r o c e s s e s = t p h e n o m e n o l o g i c a l s t a t e s 8 1 p r o c e s s e s . a n s w e r s O n t h i s c o n s t r u a l i d e n t i t y t h e o r i s t , f u n c t i o n a l i s t , a n d d u a l i s t a l i k e u n d e r t a k e a c e r t a i n b u r d e n o f r e s e a r c h : t o p r o v i d e a t h e o r e t i c a l l y f r u i t f u l a n d i n t u i t i v e l y a c c e p t a b l e n e u r o p h y s i o l o g i c a l s p e c i f i c a t i o n ( m i n d - b r a i n i d e n t i t y t h e o r y ) o r p r o c e d u r a l s p e c i f i c a t i o n ( f u n c t i o n a l i s m ) o r p h e n o m e n o l o g i c a l s p e c i f i c a t i o n ( d u a l i s m ) o f w h a t m i n d s ( g e n e r a l l y ) o r s p e c i f i c m e n t a l p r o p e r t i e s e s s e n t i a l l y a r e . B e h a v i o r i s m s h o r n o f o p e r a t i o n a i i s t p r e t e n s i o n s o w e s n o s u c h s p e c i f i c a t i o n . U n l i k e r e d u c t i v e 7 0 b e h a v i o r i s m , s u c h m o d e s t ( n o n r e d u c t i v e ) b e h a v i o r i s m d o e s n o t t r y t o u n d e r w r i t e " t h e l i k e l i h o o d t h a t t h e i n t e n t i o n a l s c i e n c e s m i g h t e v e n t u a l l y p r o d u c e t h e o r i e s w h o s e o b j e c t i v i t y a n d r e l i a b i l i t y p a r a l l e l t h o s e o f t h e p h y s i c a l a n d b i o l o g i c a l s c i e n c e s " ( F o d o r 8 . L e p o r e 1 9 9 2 , p . 1 6 ) . U n l i k e e l i m i n a t i v i s m n o n r e d u c t i v e b e h a v i o r i s m d o e s n o t a c c e p t t h e s c i e n t i s t i c i m p e r a t i v e t h a t s u c h l i k e l i h o o d i s r e q u i r e d f o r " a n i n t e n t i o n a l R e a l i s m w o r t h h a v i n g " ( F o d o r 1 9 9 0 , p . 5 2 ) . ” 4 . C o n c l u s i o n : P r e v i e w i n g t h e C h i n e s e R o o m T h e C h i n e s e r o o m e x p e r i m e n t , a c c o r d i n g t o S e a r l e , i s a b o u t " w h a t i t i s t h a t i a m a t t r i b u t i n g w h e n I a t t r i b u t e c o g n i t i v e [ a n d o t h e r m e n t a l ] s t a t e s " ( S e a r l e 1 9 8 0 a , p . 4 2 2 ) : t h e t h r u s t o f t h e e x p e r i m e n t i s s u p p o s e d t o b e " t h a t i t c o u l d n ’ t b e j u s t c o m p u t a t i o n a l p r o c e s s e s a n d t h e i r o u t p u t b e c a u s e t h e c o m p u t a t i o n a l p r o c e s s e s a n d t h e i r o u t p u t c o u l d e x i s t w i t h o u t t h e c o g n i t i v e s t a t e " ( S e a r l e 1 9 8 0 a , p . 4 2 2 ) . S i n c e t h e s u b p c t i n t h e r o o m i s i m a g i n e d t o p r o d u c e o u t p u t ( a n s w e r s ) t o i n p u t C h i n e s e ( q u e s t i o n s ) " i n d i s t i n g u i s h a b l e f r o m n a t i v e C h i n e s e s p e a k e r s " y e t " n o t u n d e r s t a n d a w o r d o f C h i n e s e " ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) , S e a r l e c o n t e n d s t h i s e x p e r i m e n t c o u n t e r i n s t a n c e s b e h a v i o r i s m : i t s h o w s t h a t s o m e t h i n g e l s e i s r e q u i r e d f o r u n d e r s t a n d i n g a n a t u r a l l a n g u a g e b e s i d e s b e h a v i o r a l c o m p e t e n c y , b e s i d e s c o n v e r s a t i o n a l f l u e n c y . S i n c e t h e s u b j e c t i n t h e r o o m i s f u r t h e r i m a g i n e d t o p r o d u c e t h i s o u t p u t t o t h i s i n p u t b y t h e r i g h t c o m p u t a t i o n a l m e a n s ( w h a t e v e r 1 5 . E l i m i n a t i v l s m i s t h e v i e w , a d v o c a t e d , e . g . , b y P a u l C h u r c h l a n d ( 1 9 8 8 ) . t h a t t h e r e r e a l l y a r e n o s u c h t h i n g s a s m i n d s - - n o b e l i e f s . d e s i r e s , e t c . F o d o r h i m s e l f a d v o c a t e s f u n c t i o n a l i s m a s t h e " o n l y g a m e i n t o w n " t h a t h a s a c h a n c e o f f o r f e n d l n g e l i m i n a t i v i s m b y u n d e r w r i t i n g t h e a f o r e m e n t i o n e d " l i k e l i h o o d . " 7 1 t h e s e a r e ) , S e a r l e c o n t e n d s t h e e x p e r i m e n t a l s o c o u n t e r i n s t a n c e s T u r i n g m a c h i n e f u n c t i o n a l i s m a n d p e r h a p s ( g i v e n t h e p r e e m i n e n c e o f T u r i n g ’ s m a c h i n e r y f o r s p e c i f y i n g p r o c e d u r e s ) f u n c t i o n a l i s m g e n e r a l l y . S e a r l e ’ s o w n " m o n i s t i n t e r a c t i o n i s t " ( S e a r l e 1 9 8 0 b , p . 4 5 4 ) p o s i t i o n o r p o s i t i o n o f " b i o i o g i c a l n a t u r a l i s m “ ( S e a r l e 1 9 9 2 , p . 1 ) t r i e s t o c o m b i n e e l e m e n t s o f t h e m i n d - b r a i n i d e n t i t y t h e o r e t i c p i c t u r e w i t h e l e m e n t s ( d e n a t u r e d , h e c l a i m s ) o f d u a l i s m : s o m e f u r t h e r p h y s i c o - p h e n o m e n o - l o g i c a l f a c t s o f t h e m a t t e r b e y o n d T u r i n g - i n d i s t i n g u i s h a b l e c o m p e t e n c y a n d p e r f o r m a n c e a r e s u p p o s e d t o d e t e r m i n e w h e t h e r t h e s u b j e c t i n t h e r o o m r e a l l y u n d e r s t a n d s t h e C h i n e s e t e x t p r o c e s s e d . T h e s e f u r t h e r p h y s i c o - p h e n o m e n o i o g i c a l f a c t s ( w h e n p r e s e n t ) c o n s t i t u t e , f o r S e a r l e , t h e m e a n i n g o r " s e m a n t i c s " t h e s u b j e c t a t t a c h e s t o t h e t e x t o r " s y n t a x " i t p r o c e s s e s . C h a p t e r T w o T H E C H I N E S E R O O M A R G U M E N T i n v o l v e d e x p r e s s i o n s w i t h s u c h i n b u i l t C h i n e s e - b o x c o m p l e x i t y i m p e d e v a l l d a t o r y o p e r a t i o n s o r r e n d e r t h e m u n p e r f o r m a b l e . ( E d m u n d H u s s e r l . L o g i c a l I n v e s t i g a - t i o n s v o l . 1 , p . 6 9 ) . 1 . i n t r o d u c t i o n J o h n S e a r l e h a s f r e q u e n t l y c h a r a c t e r i z e d h i s C h i n e s e r o o m a r g u m e n t ( C R A ) a s b e i n g " d i r e c t e d a t " t h e c l a i m t h a t " t h e a p p r o p r i a t e l y p r o g r a m m e d c o m p u t e r l i t e r a l l y h a s c o g n i t i v e s t a t e s " ( S e a r l e 1 9 8 0 a , p . 4 1 7 ) o r a s b e i n g i n t e n d e d t o " d e m o n s t r a t e t h e f a l s i t y o f " t h e c l a i m t h a t " a p p r o p r i a t e l y p r o g r a m m e d c o m p u t e r s l i t e r a l l y h a v e t h o u g h t p r o c e s s e s " ( S e a r l e e t a l . 1 9 8 4 , p . 1 4 6 ) . H e h a s a l w a y s c o n t e n d e d a l s o t h a t , a s h e p u t s i t , t h e a r g u m e n t ’ s " p o i n t s a r e b r u t a l l y s i m p l e " ( S e a r l e 1 9 8 9 a , p . 7 0 3 ) . T h e s e c h a r a c t e r i z a t i o n s a r e m i s l e a d i n g . C R A h a s n o b r u t a l c o n s e q u e n c e s a g a i n s t c l a i m s o f A r t i f i c i a l i n t e l l i g e n c e o n b e h a l f o f d i g i t a l c o m p u t e r s : s i m p l y p u t , t h e a r g u m e n t o r " d e r i v a t i o n f r o m a x i o m s " ( S e a r l e 1 9 8 9 a , p . 7 0 1 ) S e a r l e s k e t c h e s i n t h e a b s t r a c t o f h i s o r i g i n a l a r t i c l e ( 1 9 8 0 a , p . 4 1 7 ) a n d e l a b o r a t e s i n l a t t e r d i s c u s s i o n s ( 1 9 8 4 a , 1 9 8 7 b , 1 9 8 9 a , 1 9 9 0 a ) i s s i m p l y i n v a l i d . C l a i m s o f a r t i f i c i a l i n t e l l i g e n c e p r o p e r ( A I P ) , t h a t c o m p u t e r s c a n t h i n k ( i . e . , t h a t a r t i f i c i a l i n t e l l i g e n c e i s p o s s i b l e ) , e v e n s t r o n g c l a i m s o f a r t i f i c i a l i n t e l l i g e n c e p r o p e r ( S A I P ) t h a t c o m p u t e r s a l r e a d y d o t h i n k , a r e e n t i r e l y c o n s i s t e n t w i t h t h e 7 2 7 3 p r e m i s e s o f t h e C h i n e s e r o o m a r g u m e n t . I n f a c t , d e s p i t e S e a r l e ’ s c o n t i n u i n g a d v e r t i s e m e n t o f t h e a r g u m e n t a s t a r g e t e d a g a i n s t A l - a g a i n s t t h e c l a i m t h a t " a p p r o p r i a t e l y p r o g r a m m e d c o m p u t e r s l i t e r a l l y h a v e t h o u g h t p r o c e s s e s " ( S e a r l e e t a l . 1 9 8 4 , p . 1 4 6 ) , o r a g a i n s t t h e c l a i m t h a t " a m a c h i n e [ c a n ] h a v e c o n s c i o u s t h o u g h t s i n e x a c t l y t h e s a m e s e n s e t h a t y o u a n d l h a v e " ( S e a r l e 1 9 9 0 a , p . 2 6 ) - - C R A e s t a b l i s h e s n o s u c h c o n c l u s i o n s . S e a r l e h i m s e l f s o m e t i m e s e v e n s e e m s t o a d m i t h i s a r g u m e n t l a c k s t h e f o r c e a g a i n s t t h e t h e s i s o f A l h e s e e m e d o r i g i n a l l y t o s u g g e s t ( a n d m a n y s t i l l s e e m t o s u p p o s e ) i t h a s . H e a l l o w s , " l h a v e n o t t r i e d t o p r o v e a c o m p u t e r c a n n o t t h i n k " ( S e a r l e 1 9 9 0 a , p . 2 7 ) . F a r f r o m b e i n g a b r u t a l r e f u t a t i o n 2 o f A l , t h e n , C R A d o e s n o t p r o p e r l y r e f u t e A l a t a l l . A g a i n s t c l a i m s o f a r t i f i c i a l i n t e l l i g e n c e p r o p e r l y s o c a l l e d ( a s o p p o s e d t o t h e c l a i m s o f " s t r o n g A l " i n S e a r l e ’ s p r 0 p r i e t a r y s e n s e o f t h a t p h r a s e ) , C R A i s a n o n s e q u i t u r ; a n d i n s o f a r a s S e a r l e c o n t i n u e s t o m i s l e a d i n g l y s t y l e i t a n a r g u m e n t a g a i n s t " s t r o n g A l , " a n i g n o r a t i o e l e n c h i . E v e n i f C R A d i d e s t a b l i s h i t s e x p l i c i t c o n c l u s i o n t h a t " p r o g r a m s b y t h e m s e l v e s a r e n o t m i n d s " ( S e a r l e 1 9 8 9 a , p . 4 0 7 ) , t h i s a l o n e d o e s n o t e n t a i l " i t ’ s i m p o s s b l e t h a t m a c h i n e s s u c h a s d i g i t a l c o m p u t e r s w i l l e v e r t h i n k , " n o r e v e n t h a t t h e y d o n o t t h i n k a l r e a d y . A n d i n f a c t - a s i w i l l s h o w ( i n C h a p t e r 4 ) - t h e r e a r e s u b s t a n t i a l r e a s o n s f o r t h i n k i n g c o m p u t e r s l i t e r a l l y h a v e m e n t a l p r o p e r t i e s , o r l i t e r a l l y t h i n k , a l r e a d y ; r e a s o n s q u i t e i n d e p e n d e n t o f t h e ( r o u g h l y f u n c t i o n a l i s t ) h y p o t h e s i s t h a t p r o g r a m s b y t h e m s e l v e s c a u s a l l y s u f f i c e f o r m e n t a l a c t i v i t y , o r t h a t m i n d s a r e r e a l l y j u s t p r o g r a m s , t h a t S e a r l e e x p l i c i t l y s t a l k s . 7 4 S e c t i o n 2 o f t h i s c h a p t e r s h o w s t h a t t h e fi r s t , w o u l d - b e a n t i f u n c t i o n a l i s t , c o n c l u s i o n o f S e a r l e ’ s a r g u m e n t - " P r o g r a m s a r e [ n o t ] s u f f i c i e n t f o r m i n d s " ( S e a r l e 1 9 8 9 a , p . 7 0 3 ) - e v e n w e r e i t w e r e p r o v e n b y S e a r l e ’ s a r g u m e n t ( o r s i m p l y t r u e ) w o u l d n o t l o g i c a l l y i m p u g n c l a i m s ( t h a t c o m p u t e r s c a n t h i r k o r d o t h i n k ) o f A l p r o p e r . t h i s S e a r l e h a s r i g h t l y ( i f n o t a l w a y s c o n s i s t e n t l y ) a c k n o w l e d g e d . B u t t h e " b r u t a l l y s i m p l e " c r u x o f t h e a r g u m e n t ( B S A ) p u r p o r t i n g t o p r o v e t h e a f o r e m e n - t i o n e d a n t i f u n c t i o n a l i s t c o n c l u s i o n ( - F U N ) a l s o f a i l s : t h e c o n c l u s i o n , " P r o g r a m s a r e [ n o t ] s u f f i c i e n t f o r m i n d s " i s n o t a v a l i d c o n s e q u e n c e o f S e a r l e ’ s s t a t e d p r e m i s e s . T h i s i s s h o w n i n S e c t i o n 3 . B e s i d e s n o t h a v i n g t h e b r u t a l c o n s e q u e n c e s a g a i n s t A l S e a r l e a d v e r t i s e s , n e i t h e r d o e s t h e u n s u p p i e r n e n t e d C R A m a k e a v a l i d ( m u c h l e s s s o u n d ) c a s e f o r t h e a n t i - f u n c t i o n a l i s t c o n c l u s i o n i t t a r g e t s i n t h e fi r s t i n s t a n c e . i n S e c t i o n 3 i a l s o c o n s i d e r v a r i o u s s u p p l e m e n t a r y a s s u m p t i o n s w h i c h w o u l d , i f a d m i s s i b l e , v a l i d a t e S e a r l e ’ s a r g u m e n t a g a i n s t f u n c t i o n a l i s m a f t e r a l l . O n e s u c h a s s u m p t i o n - t h a t a l l t h i n g s a r e c o m p u t e r s o r i n s t a n t i a t e p r o g r a m s - p r o v e s m o s t i n t e r e s t i n g . i m p l a u s i b l e t h o u g h i t s e e m s o n i t s f a c e , t h i s a s s u m p t i o n t u r n s o u t n o t t o b e u n i q u e t o S e a r l e n o r i s i t o r i g i n a l t o h i m . I n f a c t , i t i s a n a s s u m p t i o n t h a t ( m o s t ) f u n c t i o n a l i s t s s h a r e . D e s p i t e t h e u n s u p p l e m e n t e d C R A ’ s f a i l u r e t o p r o v i d e a s o u n d ( o r e v e n v a l i d ) a r g u m e n t a g a i n s t f u n c t i o n a l i s m , t h e n ; a n d d e s p i t e t h e i m p l a u s b i l i t y , o n i t s o w n h e a d . o f t h i s s u p p l e m e n t a r y a s s u m p t i o n w h i c h w o u l d s u f f i c e ( g i v e n S e a r l e ’ s o t h e r p r e m i s e s ) t o v a l i d l y e n t a i l t h e a n t i - f u n c t i o n a l i s t c o n c l u s i o n t h a t " p r o g r a m s . b y t h e m s e l v e s , a r e n ’ t m i n d s " ; S e a r l e ’ s C R A d o e s m a k e a c o m p e l l i n g a d h o m i n e m c a s e a g a i n s t a n y v e r s i o n o f f u n c t i o n a l i s m w h i c h a c c e p t s ( a s m o s t d o ) t h e v i e w t h a t " j u s t a b o u t a n y s y s t e m h a s a l e v e l o f 7 5 d e s c r i p t i o n w h e r e y o u c a n d e s c r i b e i t a s a d i g i t a l c o m p u t e r “ o r " a s i n s t a n t i a t i n g a f o r m a l p r o g r a m " ( S e a r l e e t a l . 1 9 8 4 , p . 1 5 3 ) . P e r h a p s t h i s e x p l a i n s t h e p i q u e a n d c o n s t e r n a t i o n S e a r l e ’ s a r g u m e n t h a s i n s p i r e d i n f u n c t i o n a l i s t s a n d c o g n i t i v i s t s , d e s p i t e i t s l o g i c a l a n d e v i d e n t i a l f a i l i n g s . 2 . T h e C h i n e s e R o o m A r g u m e n t a n d A r t i f i c i a l I n t e l l i g e n c e 2 . 1 S o m e P r e l i m i n a r y C o n c e p t s a n d D i s t i n c t i o n s l r e i t e r a t e s o m e d i s t i n c t i o n s a t t h e o u t s e t , b e g i n n i n g w i t h S e a r l e ’ s i n i t i a l c h a r a c t e r i z a t i o n o f t h e v i e w h e c a l l s " s t r o n g A I , " w h i c h h e c l a i m s C R A i s " d i r e c t e d a t " ( 1 9 8 0 a , p . 4 1 7 ) . i n h i s o r i g i n a l C h i n e s e r o o m a r t i c l e ( S e a r l e 1 9 8 0 8 ) S e a r l e f i r s t c h a r a c t e r i z e s " s t r o n g A l " a s " t h e c l a i m t h a t t h e a p p r o p r i a t e l y p r o g r a m m e d c o m p u t e r l i t e r a l l y h a s c o g n i t i v e s t a t e s a n d t h a t t h e p r o g r a m s t h e r e b y e x p l a i n h u m a n c o g n i t i o n . " ( S e a r l e 1 9 8 0 a , p . 4 1 7 ) T h e v i e w S e a r l e s a y s h i s C h i n e s e r o o m a r g u m e n t i s " d i r e c t e d a t , " t h e n , o n t h i s c o n s t r u a l , i s ( r o u g h l y ) t h e c o n j o i n t a s s e r t i o n o f t w o c l a i m s . F i r s t , w h a t i c a l l " A l p r o p e r " : ( A I P ) C o m p u t e r s ( I f a p p r o p r i a t e l y p r o g r a m m e d ) c a n l i t e r a l l y h a v e m e n t a l s t a t e s . T h i s i s , r o u g h l y , t h e c l a s s i c A l c l a i m - a r t i c u l a t e d b y T u r i n g ( 1 9 5 0 ) , f o r i n s t a n c e - - t h a t m a c h i n e s c a n t h i n k . A s t r o n g e r v e r s i o n o f t h i s c l a i m - — w h i c h i t e r m " s t r o n g A l p r o p e r " - w o u l d m a i n t a i n t h a t n o t o n l y c a n c o m p u t e r s t h i n k ( n o t o n l y c o u l d a n a p p r o p r i a t e l y p r o g r a m m e d c o m p u t e r h a v e m e n t a l s t a t e s ) , b u t s o m e p r e s e n t d a y c o m p u t e r s a l r e a d y d o : ( S A I P ) S o m e c o m p u t e r s a c t u a l l y h a v e m e n t a l s t a t e s a l r e a d y . 7 6 S i n c e t h e r e s e e m s t o b e n o l o g i c a l i m p o s s i b i l i t y a b o u t c o m p u t e r s t h i n k i n g , b o t h A I P a n d S A I P w o u l d s e e m t o b e b e s t u n d e r s t o o d a s m a k i n g e m p i r i c a l c l a i m s : r o u g h l y , A I P p r e d i c t s t h a t c o m p u t e r s c a n ( b e m a d e t o ) t h i n k ( i f t h e y d o n ’ t a l r e a d y ) ; S A I P c l a i m s s o m e e x i s t i n g c o m p u t e r s ( h a v e b e e n m a d e t o ) t h i n k o r h a v e m e n t a l p r o p e r t i e s a l r e a d y . S e a r l e h i m s e l f a c k n o w l e d g e s t h e e m p i r i c a l s t a t u s o f t h e c l a i m t h a t a r t i f i c i a l i n t e l l i g e n c e i s p o s s i b l e , a l o n g w i t h t h e e m p i r i c a l s t a t u s o f p a r t i c u l a r c l a i m s o n b e h a l f o f a c t u a l d e v i c e s , w h e n h e a s k s , " i s t h e r e s o m e l o g i c a l l y c o m p e l l i n g r e a s o n w h y [ c o m p u t e r s ] c o u l d n o t a l s o g i v e o f f [ t h o u g h t o r ] c o n s c i o u s n e s s ? " ( S e a r l e 1 9 9 0 a , p . 3 1 ) , a n d a n s w e r s t h a t t h e r e i s n o t ; t h o u g h " s c i e n t i f i c a l l y , " h e c l a i m s , " t h e i d e a i s o u t o f t h e q u e s t i o n " ( S e a r l e 1 9 9 0 a , p . 3 1 ) . ‘ W h a t S e a r l e c a l l s " s t r o n g A l , " i n i t i a l l y , t h e n , i s s o m e t h i n g l i k e t h e c o n j u n c t i o n o f t h e c l a i m t h a t c o m p u t e r s c a n t h i n k ( o r w i l l , i f t h e y d o n ’ t a l r e a d y ) , w i t h t h e f u r t h e r c l a i m t h a t p r o g r a m s e x p l a i n h o w w e ( h u m a n s a n d c e r t a i n h i g h e r a n i m a l s ) t h i n k . C a l l t h i s s e c o n d t e n e t o f S e a r l e ’ s " s t r o n g A l , " w h i c h p r o p o s e s " t o e l u c i d a t e t h e w o r k i n g s o f t h e m i n d b y t r e a t i n g t h e m a s c o m p u t a t i o n s " ( J o h n s o n - L a i r d 1 9 8 8 , p . 9 ) , c o g n i t i v i s m . i t m i g h t b e s t a t e d a s f o l l o w s : ( C O G ) T o e x p l a i n h u m a n c o g n i t i v e ( a n d o t h e r m e n t a l ) p r o p e r t i e s i s t o s p e c i f y t h e p r o g r a m s f r o m w h o s e e x e c u t i o n t h o s e p r o p e r t i e s d e r i v e . S o S e a r l e ’ s f i r s t f o r m u l a t i o n o f t h e c l a i m h e c a l l s " s t r o n g A l , " w h i c h h e s a y s C R A I s d i r e c t e d a g a i n s t i s r o u g h l y A I P & C O G ” ; a n d i f t h e c o n c l u s i o n o f C R A i s 1 . S e a r l e , l i k e D e s c a r t e s , i d e n t i f i e s t h o u g h t w i t h c o n s c i o u s n e s s . 2 . i a s s u m e t h e f o l l o w i n g s t a n d a r d n o t a t i o n a l c o n v e n t i o n s : " 8 1 " f o r " a n d " ( c o n j u n c t i o n ) . " v " f o r " o r " ( d i s j u n c t i o n ) ; f o r " n o t " ( n e g a t i o n ) , " - > " f o r " i f t h e n " ( m a t e r i a l i m p l i c a t i o n ) , " e " f o r " i f a n d o n l y i f " ( m a t e r i a l e q u i v a l e n c e ) . ( x ) f o r " a l l x " ( u n i v e r s a l q u a n t i f i c a t i o n ) , " ( 3 x ) " f o r " s o m e x " ( e x i s t e n t i a l q u a n t i f i c a t i o n ) . 7 7 s u p p o s e d t o b e j u s t t h e d e n i a l o f t h i s , t h e n t h e c o n c l u s i o n o f S e a r l e ’ s a r g u m e n t s h o u l d b e e q u i v a l e n t t o - A I P v - C O G . W h a t S e a r l e a c t u a l l y s a y s , h o w e v e r - " m y d i s c u s s i o n h e r e w i l l b e d i r e c t e d a t t h e c l a i m s I h a v e d e f i n e d a s t h o s e o f s t r o n g A l " [ m y e m p h a s i s ] - - s u g g e s t s h e a i m s t o d e n y b o t h c o n j u n c t s , i . e . , t o p r o v e a c o n c l u s i o n e q u i v a l e n t t o - A I P 8 1 - C O G . O f c o u r s e o n l y t h i s l a t t e r , s t r o n g e r c o n c l u s i o n e n t a i l s - A I P . U n f o r t u n a t e l y ( f o r s i m p l i c i t y ’ s s a k e ) , t h e f o l l o w i n g i s w h a t S e a r l e e v e n t u a l l y d o e s c o n c l u d e f r o m C R A : " P r o g r a m s b y t h e m s e l v e s a r e n o t m i n d s " ( S e a r l e 1 9 8 9 a . p . 7 0 3 ) , o r ( a l t e r n a t e l y ) " P r o g r a m s a r e n e i t h e r c o n s t i t u t i v e o f n o r s u f f i c i e n t f o r m i n d s " ( S e a r l e 1 9 9 0 a , p . 2 7 ) . P e r h a p s w e c a n c o m b i n e t h e s e v a r i a n t f o r m u l a t i o n s a n d r e p r e s e n t S e a r l e ’ s e x p l i c i t c o n c l u s i o n , t h e n , a s f o l l o w s : ( C i ) P r o g r a m s b y t h e m s e l v e s a r e n o t ( s u f f i c i e n t f o r ) m i n d s . R a t h e r t h a n b e i n g d i r e c t l y t a r g e t e d a g a i n s t t h e e m p i r i c a l c l a i m s o f A I P a n d S A I P , o r t h e e p i s t e m o l o g i c a l ( o r m e t h o d o l o g i c a l ) d o c t r i n e s o f c o g n i t i v i s m , S e a r l e ’ s e x p l i c i t c o n c l u s i o n s e e m s r a t h e r t o b e a d e n i a l o f t h e m e t a p h y s i c a l d o c t r i n e o f T u r i n g m a c h i n e f u n c t i o n a l i s m ( j u s t " f u n c t i o n a l i s m , " f o r s h o r t ) ; t h e v i e w w h i c h S e a r l e t a k e s t o b e i n f o r m a l l y s u m m a r i z e d b y t h e s l o g a n , " m i n d i s t o b r a i n a s p r o g r a m i s t o h a r d w a r e " ( S e a r l e 1 9 8 0 a , p . 4 2 3 ) . T h i s s l o g a n s u g g e s t s t h e f o l l o w i n g f i r s t a p p r o x i m a t i o n o f t h i s v i e w t h a t C R A e x p l i c i t l y c o n c l u d e s a g a i n s t : ( F 1 ) M i n d s a r e ( c a u s e d b y ) p r o g r a m s : i . e . , m e n t a l s t a t e s a r e ( c a u s e d b y ) p r o g r a m s t a t e s , m e n t a l o p e r a t i o n s a r e ( c a u s e d b y ) p r o g r a m o p e r a t i o n s , e t c . S i n c e S e a r l e ’ s e x p l i c i t c o n c l u s i o n i s n o t t h e d e n i a l o f s o m e t h i n g l i k e F 1 ( A l l m i n d s a r e p r o g r a m s ) b u t r a t h e r i t s s u b a i t e r n a t e ( S o m e p r o g r a m s a r e m i n d s ) , c a l l t h e s e 7 8 p r o g r a m s t h a t a r e c l a i m e d ( b y F U N ) t o b e s u f f i c i e n t f o r m i n d s " P r o g r a m s " ( w i t h a c a p i t a l " P " ) . I t n o w b e m o r e a p p r o p r i a t e t o s t a t e t h e ( T u r i n g m a c h i n e ) f u n c t i o n a l i s t v i e w S e a r l e e x p r e s s l y d e n i e s a s f o l l o w s : ( F U N ) T h e r i g h t P r o g r a m s a r e ( s u f f i c i e n t t o c a u s e ) m i n d s : i . e . , s o m e P r o g r a m s t a t e s a r e ( s u f f i c i e n t t o c a u s e ) m e n t a l s t a t e s , s o m e P r o g r a m o p e r a t i o n s a r e ( s u f fi c i e n t t o c a u s e ) m e n t a l o p e r a t i o n s , e t c . I t n o t a t a l l c l e a r t h a t e i t h e r A l P o r C O G , o r t h e i r c o n j u n c t i o n , e n t a i l s F U N ; a n d i t i s n o t c l e a r , c o n s e q u e n t l y , t h a t - F U N e n t a i l s - A I P o r - C O G ; s o , i t i s n o t c l e a r w h a t f o r c e C R A i s s u p p o s e d t o h a v e a g a i n s t " s t r o n g A I " a s S e a r l e i n i t i a l l y s t y l e s i t . 2 . 1 1 C o g n i t i v i s m a n d F u n c t i o n a l i s m O b v i o u s l y S A I P , t h e c l a i m t h a t ( s o m e ) c o m p u t e r s d o t h i n k , e n t a i l s A l P , t h e c l a i m t h a t ( s o m e ) c o m p u t e r s c a n t h i n k : w h a t ’ s a c t u a l i s p o s s i b l e . A n d - S A I P o b v i o u s l y d o e s n o t e n t a i l - A l P : w e c a n n o t c o n c l u d e f r o m t h e f a c t ( i f i t i s a f a c t ) t h a t n o c o m p u t e r y e t d e s i g n e d a n d p r o g r a m m e d r e a l l y h a s m e n t a l a b i l i t i e s a n d m e n t a l s t a t e s , t h a t n o c o m p u t e r c a n o r e v e r w i l l b e s o d e s i g n e d a n d p r o g r a m m e d a s t o h a v e s u c h a b i l i t i e s a n d s t a t e s . T h i s m u c h i s o b v i o u s . H o w S A I P a n d A I P a r e l o g i c a l l y r e l a t e d t o C O G a n d F U N , a n d h o w C O G a n d F U N a r e r e l a t e d , h o w e v e r , a r e v e x i n g q u e s t i o n s . D o e s C O G e n t a i l F U N ? i f s o , w e r e C R A a s o u n d a r g u m e n t f o r - F U N , t h e n C R A w o u l d e n t a i l - ( A l P & C O G ) ; t h o u g h o f c o u r s e , u n l e s s - C O G e n t a i l s - A I P , t h i s w i l l s t i l l n o t m a k e C R A a n a r g u m e n t a g a i n s t A I p r o p e r . i t a k e i t t h a t C O G d o e s e n t a i l F U N , i n c o n j u n c t i o n w i t h t h e f o l l o w i n g p r i n c i p l e o f s c i e n t i f i c r e a l i s m : 7 9 ( S R ) W h a t e v e r t h e b e s t ( m o s t p r e c i s e , e x t e n s i v e , i n t e r c o n n e c t e d . e t c . ) s c i e n t i f i c t h e o r y u l t i m a t e l y p o s t u l a t e s f o r e x p l a n a t o r y p u r p o s e s r e a l l y e x i s t s a n d c o n s t i t u t e s o r c a u s e s t h e p h e n o m e n a t h u s e x p l a i n e d . U n l e s s w e a c c e p t S R , C O G w i l l n o t e n t a i l t h a t t h e p r o g r a m s t h a t e x p l a i n m e n t a l s t a t e s a n d o p e r a t i o n s ( a s s u m i n g t h e r e t o b e s u c h e x p l a n a t i o n s ) e v e n e x i s t , m u c h l e s s t h a t t h e y e x i s t a n d a r e i d e n t i c a l t o w h a t w e n a i v e l y r e f e r t o a s m e n t a l s t a t e s a n d p r o c e s s e s . T h o u g h S R i s n o t w h o l l y u n c o n t r o v e r s i a l o r p e r h a p s e v e n c l e a r ( g i v e n i t s n e e d t o a p p e a l , P e i r c e - l i k e , t o t h e u l t i m a t e e x p l a n a t o r y p o s i t s o f t h e " c o m p l e t e d s c i e n c e " t o h a v e a n y c h a n c e o f b e i n g a c c e p t a b l e ) , y e t I d o n ’ t p r o p o s e t o m a k e h e a v y w e a t h e r f o r S R , o r b e l a b o r f i c t i o n a l i s t w o r r i e s , o n t h i s s c o r e . i t i s p l a u s i b l e e n o u g h t o t h i n k t h a t i n o r d e r f o r a p r o g r a m t o e x p l a i n s o m e p a r t i c u l a r m e n t a l s t a t e o r p e r f o r m a n c e , o r t y p e o f m e n t a l s t a t e o r p e r f o r m a n c e , t h e p r o g r a m m u s t e x i s t . A n d s u r e l y t h i s i s w h a t ( m o s t ) c o g n i t i v i s t s d o b e l i e v e : n o t j u s t t h a t , w h e n w e u n d e r s t a n d s t o r i e s , e . g . , w e a c t a s i f w e w e r e f o l l o w i n g c e r t a i n p r o g r a m s - e . g . , a s i f w e a p p l y s c r i p t s i n t h e m a n n e r o f S c h a n k a n d A b e l s o n ’ s ( 1 9 7 7 ) S A M - b u t t h a t o u r n e r v o u s s y s t e m s a c t u a l l y i m p l e m e n t s u c h p r o g r a m s . T h u s c o g n i t i v i s t s t y p i c a l l y h o l d t h a t c o m p u t a t i o n a l e x p l a n a t i o n s o f m i n d " t r e a t c o m p u t a t i o n s a s a l i t e r a l d e s c r i p t i o n o f s o m e a s p e c t o f n a t u r e ( i n t h i s c a s e , m e n t a l a c t i v i t y ) " ( P y l y s h y n 1 9 8 4 , p . x v ) ; a n d m o s t c o g n i t i v i s t s , i t a k e i t , w o u l d t h i n k a p r o g r a m t h a t o u r n e r v o u s s y s t e m s c o u l d n o t p o s s i b l y i m p l e m e n t ( w h i c h r e q u i r e d m o r e s t o r a g e c a p a c i t y , o r f a s t e r " c l o c k s p e e d s , " e . g . , t h a n o u r b r a i n s c o u l d p o s s i b l y m u s t e r ) c o u l d n o t p o s s i b l y e x p l a i n o u r t h o u g h t p r o c e s s e s , n o m a t t e r h o w e x a c t l y ( f o r e v e r y g i v e n i n p u t ) o u r b e h a v i o r m a t c h e d t h e o u t p u t o n e w o u l d e x p e c t f r o m t h e p r o g r a m i n q u e s t i o n ; n o m a t t e r h o w p r e c i s e l y ( a s a c o n s e q u e n c e ) 8 0 t h e p r o g r a m p r e d i c t e d o u r b e h a v i o r a l r e s p o n s e ( o u t p u t ) f o r a n y g i v e n s t i m u l u s i n p u t . ( C f . M a n 1 9 7 7 ) . S o , i f o r e g o m i s g i v i n g s a b o u t S R a n d a c c e p t t h a t f o r a p r o g r a m t o e x p l a i n s o m e p a r t i c u l a r h u m a n p e r f o r m a n c e , o r t y p e o f h u m a n p e r f o r m a n c e , t h e p r o g r a m m u s t r e a l l y e x i s t ; p r e s u m a b l y i n u s , i n o u r n e r v o u s s y s t e m s : t h e s t a t e s a n d o p e r a t i o n s o f p r o g r a m s p o s i t e d t o e x p l a i n o u r m e n t a l s t a t e s ( i f t h e y r e a l l y d o e x p l a i n o u r m e n t a l s t a t e s ) , m o r e o v e r , h a v e t o c a u s e o r c o n s t i t u t e t h e m e n t a l s t a t e s a n d o p e r a t i o n s m e y e x p l a i n . A c c e p t i n g S R , t h e n , C O G e n t a i l s F U N : b u t a s o u r f o r m u l a t i o n o f F U N ( f o l l o w i n g S e a r l e ) i s e q u i v o c a l ( b e t w e e n " c a u s e s " a n d " c o n s t i t u t e s " ) , w h i c h v e r s i o n o f F U N d o e s i t e n t a i l ? T h i s d e p e n d s o n t h e s o r t o f e x p l a n a t o r y a c c o u n t s c o g n i t i v i s m t a k e s p r o g r a m s t o p r o v i d e : r e d u c t i v e a c c o u n t s , s u b s u m i n g t h e m e n t a l p h e n o m e n a ( o r m e n t a l d e s c r i p t i o n s o f t h e p h e n o m e n a ) t h e y e x p l a i n u n d e r b i c o n d i t i o n a l l a w s ( o f t h e f o r m ( x ) ( P x o M x ) ; o r w h e t h e r t h e y p r o v i d e n o n r e d u c t i v e c a u s a l a c c o u n t s , s u b s u m i n g m e n t a l p h e n o m e n a u n d e r c o n d i t i o n a l l a w s o f t h e f o r m ( x ) ( P x - M x ) . 3 2 . 1 2 M u l t i p l e R e a l i z a b i l i t y T h i s b r i n g s u s t o t h e s o c a l l e d " m u l t i p l e r e a l i z a b i l i t y " p r i n c i p l e . A l l w h o i d e n t i f y t h e m s e l v e s a s c o g n i t i v i s t s o r f u n c t i o n a l i s t s ( t o t h e b e s t o f m y k n o w l e d g e ) a c c e p t s o m e s u c h p r i n c i p l e a s t h i s : 3 . T a k e " P " t o b e s o m e p r o g r a m a t t r i b u t i o n a n d " M " t o b e s o m e m e n t a l a t t r i b u t i o n : r e a d " ( x ) ( P x 4 - M x ) , ' t h e n . a s " x i m p l e m e n t s ( o r r u n s ) p r o g r a m P i f a n d o n l y i f x h a s m e n t a l p r o p e r t y M " a n d r e a d " ( x ) ( P x - M x ) " a s " i f x i m p l e m e n t s ( o r r u n s ) p r o g r a m P t h e n x h a s m e n t a l p r o p e r t y M . " 8 1 ( M R ) i d e n t i c a l t y p e s o f m e n t a l a t t r i b u t e s c a n b e r e a l i z e d o r c a u s e d d i f f e r e n t l y ( b y d i f f e r e n t p r o g r a m s o r a l g o r i t h m s ) i n d i f f e r e n t t y p e s o f s y s t e m s ( a n d p e r h a p s e v e n d i f f e r e n t i n d i v i d u a l s y s t e m s o f a s i n g l e t y p e ) . T h e m u l t i p l e r e a l l z a b i l i t y t h u s p r o c l a i m e d i s r e a l l y t w o f o l d . F i r s t , t h e r e i s t h e ( p o s s i b l e ) f i t n e s s o f d i f f e r e n t h a r d w a r e s f o r i m p l e m e n t i n g t h e s a m e a l g o r i t h m s o r p r o g r a m s : t h u s w e e n c o u n t e r s u c h c l a i m s a s t h a t a c o m p u t e r " c o u l d b e m a d e o u t c o g s a n d l e v e r s l i k e a n o l d - f a s h i o n e d c a l c u l a t o r ; i t c o u l d b e m a d e o u t o f a h y d r a u l i c s y s t e m t h r o u g h w h i c h w a t e r f l o w s ; i t c o u l d b e m a d e o u t o f t r a n s i s t o r s t h r o u g h w h i c h a n e l e c t r i c a l c u r r e n t f l o w s " ( J o h n s o n - L a i r d 1 9 8 8 , p . 3 9 ) ; e t c . S t o n e s a n d t o i l e t p a p e r ( W e i z e n b a u m 1 9 7 6 , c h a p t . 2 ) , c a t s a n d c h e e s e ( B l o c k 1 9 9 0 , p . 2 6 0 ) , t r a i n e d p i g e o n s ( P y l y s h y n 1 9 8 4 , p . 5 7 ) , a n d b e e r c a n s ( S e a r l e e t a l . 1 9 8 4 , p . 1 5 9 ) , a r e s o m e o f t h e m o r e o u t r é p o s s i b i l i t i e s e n v i s a g e d i n t h e l i t e r a t u r e . S e c o n d l y , u n d e r t h e g e n e r a l h e a d i n g o f M R , t h e r e i s a l s o t h e ( p o s s i b l e ) f i t n e s s o f v a r i o u s p r o c e d u r e s f o r t h e s a m e t a s k ; a s t h e r e a r e v a r i o u s a l g o r i t h m s f o r s o r t i n g l i s t s , f o r i n s t a n c e ; a s " i t i s p o s s i b l e t o h a v e d i f f e r e n t p r o g r a m s f o r a p a r t i c u l a r a l g o r i t h m " ( P y l y s h y n 1 9 8 4 , p . 8 9 ) . W h i l e t h e l i t e r a t u r e t e n d s t o s t r e s s h a r d w a r e M R , i t w i l l b e t h i s p r o c e d u r a l M R t h a t m o s t c o n c e r n s u s ; a n d i t i s p r o c e d u r a l M R t h a t s u g g e s t s - g i v e n i t s a c c e p t a n c e b y c o g n i t i v i s t s - t h a t c o g n i t i v i s m m u s t n ’ t b e v i e w e d a s p r o f f e r i n g r e d u c t i v e e x p l a n a t i o n s w h o s e e x p l a n a n s c i t e b i c o n d i t i o n a l l a w s p r e d i c a t i n g p r o p e r t i e s c o e x t e n s i v e w i t h t h e p r o p e r t i e s t o b e e x p l a i n e d ( p r e d i c a t e d b y t h e e x p l a n a n d u m ) . W h a t M R o p p o s e s t h e n , a l o n g w i t h t h e n o t i o n t h a t t h e r e i s s o m e s p e c i f i c t y p e o f h a r d w a r e t h a t i s n e c e s s a r y f o r i m p l e m e n t i n g a n y s p e c i f i c p r o g r a m , i s t h e i d e a t h a t a n y s p e c i f i c p r o g r a m ( P ) i s n e c e s s a r y f o r a g i v e n c l a s s o f m e n t a l p e r f o r m a n C e s i n g e n e r a l , f o r s y s t e m s o f 8 2 a l l t y p e s . W h a t C O G i n t h e l i g h t o f M R t h e n p r o p o s e s i s t h a t t h e r e a r e p r o g r a m s o r p r o g r a m s t a t e s s u c h t h a t h a v i n g t h e p r o g r a m P i s c a u s a l l y s u f f i c i e n t f o r b e i n g i n s o m e m e n t a l s t a t e M ; a n d p e r h a p s w e m u s t a d d f o r a s p e c i f i c ( t y p e o f ) s y s t e m ( S ) . N o t e t h a t M R , b e s i d e s d e n y i n g t h a t p r o g r a m s s u f f i c i e n t f o r a s p e c i f i c m e n t a l p r o p e r t y i n o n e ( t y p e o f ) s y s t e m a r e n e c e s s a r y f o r m i n d i n a l l ( t y p e s o f ) s y s t e m s , a l s o s e e m s t o a l l o w t h a t t h e r e c o u l d b e p r o g r a m s o r p r o g r a m s t a t e s s u f f i c i e n t f o r M i n s o m e s m c i f i c ( t y p e o f ) s y s t e m S w i t h o u t b e i n g s u f f i c i e n t f o r M i n g e n e r a l , i n a l l ( t y p e s o f ) s y s t e m s ; a p o s s i b i l i t y w e ’ l l p r e s e n t l y c o m e t o c o n s i d e r m o r e f u l l y . T h u s u n d e r s t o o d , M R w o u l d c o u n s e l o r m i g h t s u g g e s t t h a t I t m a y b e f r u i t l e s s t o s e e k c a u s a l l a w s o f t h e f o r m ( x ) ( P x _ . M x ) : a l l i t m a i n t a i n s t h a t t h e r e a r e , a n d p e r h a p s a l l i t e n j o i n s u s t o s e e k , a r e l a w s o f t h e f o r m ( x ) ( ( S x & P x ) - » M x ) . L e t u s a l l o w t h e n t h a t C O G , g i v e n S R , e n t a i l s F U N ; o r r a t h e r ( g i v e n M R a l s o ) t h a t i t e n t a i l s F U N a s u n d e r s t o o d t o a l l o w t h a t h a v i n g o n e s o r t o f p r o g r a m c a u s a l l y s u f f i c e s f o r a g i v e n s o r t o f m e n t a l c a p a c i t y ( s a y f o r b e l i e f ) i n p e o p l e , p e r h a p s a n o t h e r ( a n d n o t t h i s ) f o r c o w s , p r o b a b l y a n o t h e r ( a n d n o t t h i s ) f o r M a r t i a n s ( i f t h e r e a r e a n y ) , e t c . L e t t i n g o u r f o r m u l a t i o n o f F U N e x p l i c i t l y r e f l e c t t h e s e a l l o w a n c e s y i e l d s t h e f o l l o w i n g : ( F U N ’ ) F o r s y s t e m s o f a n y s p e c i f i c k i n d . s o m e p r o g r a m ( s ) a r e ( s u f f i c i e n t f o r ) m i n d s i n s y s t e m s o f t h a t s p e c i f i c k i n d : i . e . , s o m e p r o g r a m o p e r a t i o n s a r e ( s u f f i c i e n t f o r ) m e n t a l o p e r a t i o n i n s y s t e m s o f o n e k i n d ; s o m e p r o g r a m s t a t e s a r e ( s u f f i c i e n t f o r ) m e n t a l s t a t e s i n s y s t e m s o f a n o t h e r k i n d , e t c . A l l o w i n g , t h e n , t h a t C O G , g i v e n S R a n d M R e n t a i l s F U N ’ ; t h e n - F U N ’ , g i v e n S R a n d M R e n t a i l s - C O G ( h e n c e - ( A I P & 0 0 6 ) ) : i f S e a r l e ’ s C R A e s t a b l i s h e s - F U N ’ t h e n , C R A r e f u t e s t h e c o g n i t i v i s t h a l f o f t h e c o n j o i n t c l a i m w h i c h S e a r l e 8 3 ( m i s l e a d i n g l y ) c a l l s " s t r o n g A l . " A s f o r t h e c l a i m o f A I P t h a t ( a p p r o p r i a t e l y p r o - g r a m m e d ) c o m p u t e r s c a n t h i n k ; i f C R A e n t a i l s - F U N ’ , a n d - F U N ’ ( g i v e n S R a n d M R ) e n t a i l s - C O G , t h e n i f A I P e n t a i l s C O G , C R A w i l l h a v e f o r c e ( b y m o d u s t o i l e n s ) a g a i n s t A I P a f t e r a l l . 2 . 1 3 C o g n i t i v i s m a n d A l D o e s A I P e n t a i l C O G ? S e a r l e ’ s i n i t i a l s t a t e m e n t o f t h e p o s i t i o n h e c a l l s " s t r o n g A l " s u g g e s t s t h a t p r o p o n e n t s o f t h i s v i e w p r o p o s e j u s t s u c h a n i n f e r e n c e : h e s a y s , " s t r o n g A l " c l a i m s " t h e a p p r o p r i a t e l y p r o g r a m m e d c o m p u t e r l i t e r a l l y h a s c o g n i t i v e s t a t e s a n d t h a t t h e p r o g r a m s t h e r e b y [ m y e m p h a s i s ] e x p l a i n h u m a n c o g n i t i o n " ( S e m i s 1 9 8 0 a , p . 4 1 7 ) . L e t u s u n d e r s t a n d A I P t o b e a n e m p i r i c a l h y p o t h e s i s ( a s p r e v i o u s l y s u g g e s t e d ) , o r p r e d i c t i o n t o t h e e f f e c t t h a t A l r e s e a r c h c o n f i r m s ( o r e v e n t u a l l y w i l l c o n f i r m , i f p u r s u e d s u f f i c i e n t l y ) h y p o t h e s e s o f t h e g e n e r a l f o r m ( x ) ( ( C x & P x ) — . M x ) : t h u s u n d e r s t o o d A I P i s t h e c l a i m t h a t f o r s o m e c o m p u t e r , o r b e t t e r , p e r h a p s , a l l c o m p u t e r s o f s o m e t y p e ( C ) , t h e r e i s s o m e p r o g r a m t y p e ( P ) w h i c h , i m p l e m e n w d o n s u c h a c o m p u t e r , w o u l d s u f f i c e t o c a u s e s o m e t y p e o f m e n t a l s t a t e o r p e r f o r m a n c e ( M ) . S u p p o s e t h e r e w e r e a p r o g r a m o f a g i v e n t y p e ( P ) w h i c h , i m p l e m e n t e d i n t h e h a r d w a r e o f a T l - 1 7 0 6 p o c k e t c a l c u l a t o r ( C ) , w o u l d c a u s e s u c h a c a l c u l a t o r ( s o p r o g r a m m e d ) t o p e r f o r m ( m e n t a l ) a c t s o f c a l c u l a t i o n ( M ) . ‘ i t d o e s n o t p l a i n l y f o l l o w f r o m t h i s t h a t t h e s a m e p r o g r a m o r a l g o r i t h m , i t i t c o u l d b e i m p l e m e n t e d i n d i f f e r e n t h a r d w a r e , w o u l d h a v e t h e s a m e e f f e c t ; n o r t h a t a n y o t h e r s y s t e m s h a v i n g 4 . T l - 1 7 0 6 i s a r e g i s t e r e d t r a d e m a r k o f T e x a s i n s t r u m e n t s . 8 4 t h e s a m e c a l c u l a t i n g a b i l i t i e s a s t h e T i - 1 7 0 6 h a v e t h e m i n v i r t u e o f i m p l e m e n t i n g t h e s a m e p r o g r a m ( o r a l g o r i t h m ) . I t w o u l d n o t f o l l o w , i n o t h e r w o r d s , f r o m t h e f a c t m a t P s u f f i c e d t o c a u s e t h e T l - 1 7 0 6 t o c a l c u l a t e t h a t P e x p l a i n e d t h e c a i c u l a t i v e p e r f o r m a n c e o f h u m a n s o r a n y o t h e r c a i c u l a t i v e s y s t e m . I n d e e d , P m i g h t n o t e v e n e x p l a i n t h e c a i c u l a t i v e p e r f o r m a n c e s o f o t h e r p i e c e s o f T l - 1 7 0 6 h a r d w a r e ( e v e n t h e s a m e p i e c e o n a d i f f e r e n t o c c a s i o n l ) , s i n c e i t m i g h t b e t h e c a s e t h a t m o r e t h a n o n e p r o g r a m w o u l d s u f f i c e t o m a k e T l - 1 7 0 6 t y p e d e v i c e s c a l c u l a t e : t h e p r o g r a m t h a t m a k e s T l - 1 7 0 6 a c a l c u l a t e m i g h t n o t e v e n e x p l a i n T l - 1 7 0 6 b ’ s c a l c u l a t i o n ( m u c h l e s s a l l c a l c u l a t i o n , i n c l u d i n g h u m a n c a l c u l a t i o n ) ; o r i f T l - 1 7 0 6 a w e r e r e p r o - g r a m m e d b e t w e e n t i m e t a n d t ’ , t h e p r o g r a m t h a t m a d e i t c a l c u l a t e a t t w o u l d n o t e v e n e x p l a i n t h i s v e r y s a m e ( h a r d w a r e ) d e v i c e ’ s c a l c u l a t i o n a t t ’ . C l e a r l y , g i v e n M R , A I P c a n ’ t e n t a i l C O G : t h e f a c t t h a t a g i v e n P s u f f i c e s f o r M i n s y s t e m s o f t y p e S d o e s n o t ( g i v e n M R ) e n t a i l t h a t e v e r y s y s t e m t h a t m a n i f e s t s M m u s t l i k e w i s e i m p l e m e n t a p r o g r a m o f t y p e P - o r , f o r t h a t m a t t e r , a n y p r o g r a m a t a l l . I t w o u l d n o t f o l l o w , i n o t h e r w o r d s , f r o m t h e f a c t t h a t a p a r t i c u l a r t y p e o f c o m p u t e r r u n n i n g a p p r o p r i a t e p r o g r a m s " l i t e r a l l y h a s c o g n i t i v e s t a t e s " t h a t " t h e [ s a m e ] p r o g r a m s t h e r e b y e x p l a i n h u m a n [ m y e m p h a s i s ] c o g n i t i o n . " i t w o u l d n o t e v e n f o l l o w f r o m t h e f a c t t h a t s o m e p r o g r a m s s u f f i c e f o r s o m e s p e c i e s o f c o g n i t i o n i n s o m e ( s p e c i f i c t y p e s o f ) c o m p u t e r s , t h a t t h e r e m u s t b e s o m e ( p e r h a p s d i f f e r e n t ) p r o g r a m s t h a t s u f f i c e f o r a n d e x p l a i n t h e s a m e s m c i e s o f c o g n i t i o n i n h u m a n s . A t m o s t , t h e f a c t t h a t c o m p u t e r s c a n b e p r o g r a m m e d t o " l i t e r a l l y h a v e c o g n i t i v e s t a t e s " m i g h t p r o v i d e c o n f i r m a t i o n o r i n d u c t i v e s u p p o r t f o r t h e h y p o t h e s i s t h a t t h e m e n t a l s t a t e s i n q u e s t i o n r e s u l t f r o m p r o g r a m m i n g i n u s a l s o . 8 5 T h u s , S e a r l e i s r i g h t , i t s e e m s , t o c o n f e s s t h a t C R A d o e s n o t a t a l l g o t o d e m o n s t r a t e t h e f a l s i t y o f A I P o r p r o v e t h a t " a c o m p u t e r c a n n o t t h i n k " ( S e a r l e 1 9 9 0 a , p . 2 7 ) ; t h o u g h w h e t h e r t h e c o n s i d e r a t i o n s C R A b r i n g s f o r w a r d d i s c o n f i r m A I P o r e v i d e n c e t h a t " a c o m p u t e r c a n n o t t h i n k " r e m a i n s a n o p e n q u e s t i o n . i f t h e a r g u m e n t d o e s n o t e v e n d o t h i s , t h e n m u s s c h a r a c t e r i z a t i o n o f t h e C h i n e s e r o o m a r g u m e n t a s " d i r e c t e d a t " A l i s c o m p l e t e l y u n w a r r a n t e d . 2 . 1 4 l n t e r r e g n u m i t i s w e l l t o r e c a l l , a t t h i s p o i n t , t h e a r g u m e n t i v e p u r p o s e t h a t m o t i v a t e d t h e p r e c e d i n g d i s c u s s i o n o f m u l t i p l e r e a l l z a b i l i t y : i t s p u r p o s e w a s t o d i s c o v e r - g i v e n t h e s o m e w h a t e q u i v o c a l n a t u r e o f S e a r l e ’ s " r e t r a c t i o n " o f h i s c l a i m t o h a v e r e f u t e d A l - w h e t h e r C R A ’ s e x p l i c i t , a n t i - f u n c t i o n a l i s t c o n c l u s i o n e n t a i l s t h e f a l s i t y o f A I P . T h e t h o u g h t w a s t h a t , i f A I P e n t a i l e d C O G , a n d C O G e n t a i l e d F U N , t h e n - F U N w o u l d e n t a i l - A I P b y m o d u s t o l l e n s ; a n d i n p u r s u i t o f t h a t t h o u g h t i w a s l e d t o i n q u i r e w h e t h e r t h e r e w e r e s o m e p l a u s i b l e w a y o f c o n s t r u i n g t h e v a r i o u s c l a i m s i n q u e s t i o n s o t h e e n t a i l m e n t s a t i s s u e h o l d . T h e r e i s n o t . b e c a u s e A I P d o e s n o t e n t a i l C O G . T h i s w a s s h o w n b y a s s u m i n g , i n e f f e c t , S A I P ( t h e e x i s t e n c e o f a T I - 1 7 0 6 w h i c h h a s s o m e m e n t a l , c a i c u l a t i v e p r o p e r t i e s i n v i r t u e o f i t s p r o g r a r n - m i n g ) a n d n o t i n g t h a t t h i s w o u l d s t i l l n o t e n t a i l t h a t w e c a l c u l a t e i n v i r t u e o f t h e s a m e p r o g r a m m i n g , o r f o r t h a t m a t t e r i n v i r t u e o f a n y p r o g r a m m i n g - u n l e s s w e a s s u m e d t h a t t h e r e w e r e o n l y o n e w a y t o c a r r y o u t a g i v e n m e n t a l p e r f o r m a n c e , o r ( a l t e r n a t e l y ) t h a t c o n d i t i o n s s u f f i c i e n t t o c a u s e o n e t y p e o f s y s t e m t o m a n i f e s t s o m e m e n t a l p r o p e r t y a r e t h e r e b y s h o w n t o b e n e c e s s a r y c o n d i t i o n s f o r a n y 8 6 s y s t e m h a v i n g t h a t p r o p e r t y . B u t t h i s l a s t p r i n c i p l e - - w h a t s u f f i c e s f o r o n e i s n e c e s s a r y f o r a l l - - i s s u r e l y u n a c c e p t a b l e : t h i s u n a c c e p t a b i i i t y i s w h a t t h e p r o c e d u r a l p a r t o f t h e M R p r i n c i p l e e x p r e s s e s . N o w i n t h e c o u r s e o f d i s c u s s i n g M R I s u g g e s t e d a n e v e n s t r o n g e r r e n d e r i n g o f t h e p r i n c i p l e : t o a l l o w , n o t o n l y t h a t d i f f e r e n t c a u s e s m i g h t s u f f i c e f o r t h e s a m e m e n t a l e f f e c t i n d i f f e r e n t t y p e s o f s y s t e m s , b u t t h a t t h e s a m e c a u s e s t h a t s u f f i c e d f o r o n e t y p e o f s y s t e m m i g h t n o t s u f f i c e f o r a n o t h e r - a s e q u i a n g u l a r i t y s u f f i c e s f o r e q u i l a t e r a l i t y i n t r i a n g l e s , b u t n o t i n r e c t a n g l e s ( c f . S h a r v y 1 9 8 5 ) . F o r m y p r e s e n t e x p o s i t o r y a n d a n a l y t i c p u r p o s e s , i t i s b e s t t h a t w e s e t t h i s a s i d e ; f o r i t i s c o n t r a r y t o t h e w h o l e t h r u s t o f S e a r l e ’ s u n d e r s t a n d i n g o f t h e v i e w h e o p p o s e s , w h i c h h e c h a r a c t e r i z e s a s t h e v i e w t h a t p r o g r a m s b y t h e m s e l v e s s u f f i c e f o r m i n d . " S t r o n g A l , " a s S e a r l e s t y l e s i t , s e e m s c o m m i t t e d t o t h e p r o p o s i t i o n t h a t i f a p r o g r a m P s u f f i c e s f o r h a v i n g m e n t a l p r o p e r t y M i n o n e t y p e o f s y s t e m t h e s a m e p r o g r a m m u s t s u f f i c e f o r e v e r y o t h e r t y p e o f s y s t e m . P e r h a p s F U N ’ i s t h e d o c t r i n e t h a t f u n c t i o n a l i s t s s h o u l d h a d ; y e t s o m e t h i n g l i k e t h e o r i g i n a l s i m p l e r t h e s i s , F U N i s w h a t p r o p o n e n t s o f f u n c t i o n a l i s m , b y a n d l a r g e , d o s e e m t o h o l d ; a n d i t i s s o m e t h i n g l i k e F U N , a n d n o t F U N ’ w h i c h i s S e a r l e ’ s a c t u a l t a r g e t . l p r o p o s e t o t a b l e F U N ’ , t h e n , a n d p r o c e e d t o c o n s i d e r w h e t h e r C R A e n t a i l s - F U N , a s S e a r l e e x p r e s s l y a l l e g e s . 2 . 1 5 T h e C h i n e s e R o o m A r g u m e n t a n d E x p e r i m e n t I r e i t e r a t e a d i s t i n c t i o n b e t w e e n S e a r l e ’ s C h i n e s e r o o m a r g u m e n t ( C R A ) , a n d w h a t i s h a l l t e r m t h e C h i n e s e r o o m e x a m p l e o r e x p e r i m e n t ( C R E ) . B y C R E I 8 7 m e a n t h e t h o u g h t e x p e r i m e n t w h e r e b y S e a r l e i n v i t e s u s t o i m a g i n e t h a t w e a r e p a p e r s h u f f l i n g i n s t a n t i a t i o n s o f a C h i n e s e n a t u r a l l a n g u a g e u n d e r s t a n d i n g ( N L U ) p r o g r a m i n o r d e r t o s u p p o r t ( S e a r l e s u g g e s t s , a n d a c c o r d i n g t o t h e u s u a l c o n s t r u a i ) t h e c r u c i a l p r e m i s e . - " S y n t a x b y i t s e l f i s n e i t h e r s u f f i c i e n t f o r n o r c o n s t i t u t i v e o f s e m a n t i c s " ( S e a r l e 1 9 8 9 a , p . 7 0 3 ) - o f h i s a r g u m e n t . 5 B y C R A I m e a n t h e e n c o m p a s s i n g a r g u m e n t , w h i c h i n v o k e s t h i s c l a i m ( t h a t s y n t a x d o e s n ’ t c o n s t i t u t e o r s u f f i c e f o r s e m a n t i c s ) a s a p r e m i s e , i n o r d e r t o d r a w ( f i r s t o f f ) t h e a n t i - f u n c t i o n a l i s t c o n c l u s i o n C 1 t h a t p r o g r a m s b y t h e m s e l v e s a r e n o t ( s u f f i c i e n t f o r ) m i n d s . I n t h e n e x t s e c t i o n m y a i m i s e x p o s i t o r y , t o s e t o u t t h e a r g u m e n t S e a r l e e l a b o r a t e s . i w i l l t h e n i n q u i r e w h e t h e r C R A m i g h t p l a u s i b l y b e s u p p l e m e n t e d s o a s t o h a v e f o r c e a g a i n s t t h e c l a i m s o f A l p r o p e r ( a g a i n s t A I P a n d S A I P ) . i f i t l a c k s t h e s o r t o f d e d u c t i v e f o r c e t h a t S e a r l e s e e m s t o h a v e i n i t i a l l y t h o u g h t ( a n d c o n t i n u e s , m i s l e a d i n g l y , a n d c o n t r a r y t o h i s e x p l i c i t d i s a v o w a l , t o s u g g e s t ) i t h a s , p e r h a p s C R A c a n b e a u g m e n t e d a n d e x t e n d e d s o a s t o h a v e a t l e a s t s o m e e v i d e n t i a l o r i n d u c t i v e f o r c e a g a i n s t A I P a n d S A I P ; e v e n s u c h f o r c e , p e r h a p s , a s t o r e n d e r t h e s e d o c t r i n e s " s c i e n t i f i c a l l y o u t o f t h e q u e s t i o n " ( S e a r l e 1 9 9 0 3 , p . 3 1 ) . 5 . T h o u g h S e m i s c h a r a c t e r i z e s t h e " p o i n t o f t h e p a r a b l e a b o u t t h e C h i n e s e r o o m " a s b e i n g t o r e v e a l t h a t " f r o m s y n t a x a l o n e y o u c a n ’ t g e t t h e m e n t a l [ s e m a n t i c ] c o n t e n t " ( S e a r l e 1 9 8 9 a , p . 1 4 7 ) a n d c o m m e n t a t o r s h a v e b y a n d l a r g e a c c e p t e d t h i s n o t i o n t h a t " S e a r l e ’ s t h o u g h t e x p e r i m e n t i s d e v o t e d t o s h o r i n g u p a x i o m 3 [ t h e c l a i m t h a t s y n t a x i s n o t s u f f i c i e n t f o r s e m a n t i c s ] s p e c i f i c a l l y " ( C h u r c h l a n d 8 1 S m i t h C h u r c h l a n d 1 9 9 0 . p . 3 4 ) , I s u g g e s t ( i n C h a p t e r 3 , S e c t i o n 4 . 3 ) t h a t t h e r e l a t i o n o f t h e l o g i c a l a n d e v i d e n t i a l s u p p o r t b e t w e e n S e a r l e ’ s e x p e r i m e n t a n d t h i s " a x i o m " o f S e a r l e ’ s a r g u m e n t m i g h t b e t t e r b e u n d e r s t o o d a s t h e r e v e r s e : t h e a x i o m i s n e e d e d t o s h o r e u p t h e e x p e r i m e n t . 8 8 2 . 2 T h e C h i n e s e R o o m A r g u m e n t S e a r l e g i v e s p e r h a p s h i s c l e a r e s t a n d f u l l e s t s t a t e m e n t o f t h e C h i n e s e r o o m a r g u m e n t i n h i s r e c e n t S c i e n t i f i c A m e r i c a n a r t i c l e " i s t h e B r a i n ’ s M i n d a C o m p u t e r P r o g r a m ? " ( 1 9 9 0 a ) ; t h o u g h m u c h t h e s a m e a r g u m e n t c a n b e c u l l e d f r o m v a r i o u s o t h e r p r e s e n t a t i o n s . T h e v e r s i o n o f t h e a r g u m e n t S e a r l e p r e s e n t s i n M i n d s , B r a i n s a n d S c i e n c e ( 1 9 8 4 3 ) , f o r i n s t a n c e , d i f f e r s h a r d l y a t a l l f r o m h i s " I s t h e B r a i n ’ s M i n d a C o m p u t e r P r o g r a m ? " ( 1 9 9 0 a ) p r e s e n t a t i o n . T h e d e r i v a t i o n s k e t c h e d i n t h e a b s t r a c t o f t h e o r i g i n a l C h i n e s e r o o m a r t i c l e i s p e r h a p s b e s t r e g a r d e d a s a n e n t h y m e m i c f i r s t a p p r o x i m a t i o n o f t h e s e e x p l i c i t l a t t e r f o r m u l a t i o n s . A s S e a r l e p r e s e n t s i t t h e r e , C R A f i r s t s t a t e s t h e f o l l o w i n g t h r e e p r e m i s e s o r " a x i o m s " ( a s S e a r l e t e r m s t h e m ) : ( A t ) P r o g a m s a r e f o r m a l ( s y n t a c t i c ) . ( A 2 ) M i n d s h a v e c o n t e n t s ( s e m a n t i c s ) . ( A 3 ) S y n m x b y i t s e l f i s n e i t h e r c o n s t i t u t i v e o f n o r s u f f i c i e n t f o r s e m a n t i c s . T h e s e t h r e e a x i o m s , a c c o r d i n g t o S e a r l e , e n t a i l C R A ’ s f i r s t c o n c l u s i o n , t h e a n t i - f u n c t i o n a l i s t c o n c l u s i o n w e h a v e b e e n c a n v a s s i n g : ( C i ) P r o g r a m s b y t h e m s e l v e s a r e n o t ( s u f f i c i e n t f o r ) m i n d s . N o w t o h i s f i r s t t h r e e p r e m i s e s o r " a x i o m s " a n d t h i s c o n c l u s i o n , S e a r l e a d d s a f o u r t h a x i o m : ( A 4 ) B r a i n s c a u s e m i n d s . 8 9 A n d f r o m t h i s f o u r t h a x i o m - w h e t h e r a l o n e ( S e a r l e 1 9 8 0 a , p . 4 1 7 a b s t r a c t ) , o r " i n c o n j u n c t i o n w i t h m y e a r l i e r d e r i v a t i o n " ( S e a r l e 1 9 9 0 a , p . 2 9 ) i s u n c l e a r - S e a r l e c l a i m s t o , " i m m e d i a t e l y d e r i v e , t r i v i a l l y " ( S e a r l e 1 9 9 0 a , p . 2 9 ) , ( C 2 ) A n y o t h e r s y s t e m c a p a b l e o f c a u s i n g m i n d s w o u l d h a v e t o h a v e c a u s a l p o w e r s ( a t l e a s t ) e q u i v a l e n t t o t h o s e o f b r a i n s . F i n a l l y , g i v e n t h i s r e s u l t ( C 2 ) , S e a r l e c l a i m s t o d e r i v e t w o f u r t h e r c o n c l u s i o n s : ( 0 3 ) A n y a r t i f a c t t h a t p r o d u c e d m e n t a l p h e n o m e n a , a n y a r t i f i c i a l b r a i n w o u l d h a v e t o b e a b l e t o d u p l i c a t e t h e s p e c i f i c c a u s a l p o w e r s o f b r a i n s . a n d i t c o u l d n o t d o t h a t j u s t b y r u n n i n g a f o r m a l p r o g r a m . ( C 4 ) T h e w a y h u m a n b r a i n s a c t u a l l y p r o d u c e m e n t a l p h e n o m e n a c a n n o t b e s o l e l y b y v i r t u e o f r u n n i n g a c o m p u t e r p r o g r a m . M y a p p r a i s a l o f t h i s a r g u m e n t w i l l f o c u s o n t h e d e r i v a t i o n o f C 1 a n d C Z , a n d o n t h e p r e m i s e s f r o m w h i c h S e a r l e c l a i m s , a n d p o s s i b l e a u x i l i a r y a s s u m p t i o n s f r o m w h i c h h e m i g h t c h a r i t a b l y b e c o n s t r u e d , t o d e r i v e t h e m . T h o u g h S e a r l e d o e s n o t o u t l i n e h o w t h e d e r i v a t i o n o f C 3 a n d C 4 i s s u p p o s e d t o g o , i t s e e m s t h e y d e p e n d o n t h e d e r i v a t i o n o f C 1 a n d C 2 a s i n t e r m e d i a t e r e s u l t s ; s o , m y e x p l i c i t c r i t i c i s m o f t h e s o u n d n e s s o f S e a r l e ’ s c a s e s f o r C 1 a n d C Z w i l l b e i m p l i e d c r i t i c i s m o f h i s c a s e s f o r C 3 a n d C 4 a l s o . ( T h o u g h , i n t r u t h , C S a n d C 4 w i l l n o t m u c h c o n c e r n m e ) . W i t h r e s p e c t t o C 2 , I c o n t e n d t h a t t h e o n l y c o n s t r u a l o f t h i s c l a i m t h a t w o u l d a l l o w i t t o b e a n i m m e d i a t e t r i v i a l c o n s e q u e n c e o f A 4 , m a k e s C 2 a t r i v i a l i t y i n i t s o w n r i g h t : o n t h i s c o n s t r u a l 0 2 b e c o m e s t a n t a m o u n t t o t h e t r u i s m t h a t w h a t e v e r s u f f i c e s t o c a u s e s o m e e f f e c t h a s t h e s a m e c a u s a l p o w e r s a s w h a t e v e r e l s e s u f f i c e s t o c a u s e t h a t e f f e c t , i n t h e s e n s e t h a t e a c h h a s t h e c a u s a l p o w e r t o b r i n g 9 0 a b o u t t h i s v e r y e f f e c t . T h u s u n d e r s t o o d , C 2 i s t o o t r i t e t o b e o f i n t e r e s t , a n d a l s o w i l l b e t o o w e a k f o r t h e u s e - - t o a r g u e a g a i n s t S A I P - - t o w h i c h S e a r l e , I t a k e i t , w a n t s i t p u t . O n t h e o t h e r h a n d , c o n s t r u e d i n s u c h a w a y a s t o s u i t i t t o f i g u r e i n t h e s o r t o f i m p l i e d a r g u m e n t a g a i n s t ( t h e s c i e n t i f i c t h i n k a b i l i t y ) o f A I P o r S A I P S e a r l e m a y w e l l e n v i s a g e , C Z i s n o t a c o n s e q u e n c e ( o b v i o u s o r o t h e r w i s e ) o f A 4 ( w h e t h e r t a k e n a l o n e , o r " i n c o n j u n c t i o n w i t h [ S e a r l e ’ s ] e a r l i e r d e r i v a t i o n [ o f 0 1 ] " ) . 2 . 2 1 C a u s a l P o w e r s ( a t l e a s t ) E q u i v a l e n t t o B r a i n s P e r h a p s i n s t y l i n g C R A a s a i m e d a t t h e d o c t r i n e s I h a v e l a b e l l e d A I P a n d S A I P , S e a r l e i s i m p l i c i t l y a p p e a l i n g t o s o m e t h i n g l i k e t h e f o l l o w i n g a r g u m e n t , a s s o m e c o m m e n t a t o r s h a v e s u g g e s t e d . ( C a l l t h i s a r g u m e n t S C R A : t h e s u p p l e m e n t a l C h i n e s e r o o m a r g u m e n t . ) ( C 2 ) A n y o t h e r s y s t e m c a p a b l e o f c a u s i n g m i n d s w o u l d h a v e c a u s a l p o w e r s ( a t l e a s t ) e q u i v a l e n t t o a b r a i n ’ s . ( S ) N o ( p r e s e n t l y e x i s t i n g ) c o m p u t e r h a s c a u s a l p o w e r s ( a t l e a s t ) e q u i v a l e n t t o a b r a i n ’ s . ( - S A I P ) N o ( p r e s e n t l y e x i s t i n g ) c o m p u t e r s a r e c a p a b l e o f c a u s i n g m i n d s . i n a s i m i l a r v e i n L a w r e n c e C a r l e t o n s u g g e s t s t h a t i n s t y l i n g C R A a s " d i r e c t e d a t " s o m e t h i n g l i r e S A I P , S e a r l e m u s t b e r e l y i n g o n a r g u m e n t a t i o n a l o n g t h e s e l i n e s : " C e r t a i n b r a i n p r o c e s s e q u i v a l e n t s p r o d u c e i n t e n t i o n a l i t y " a n d " X [ a d i g i t a l c o m p u t e r ] d o e s n o t h a v e t h e s e e q u i v a l e n t s , " t h e r e f o r e " X d o e s n o t h a v e i n t e n t i o n a l i t y . " ( C a r l e t o n 1 9 8 4 , p . 2 2 1 ) P e r h a p s S e a r l e h a s s o m e s u c h a r g u m e n t a s t h i s i n m i n d w h e n h e s a y s t h a t a n y t h i n g l i k e S A I P i s " s c i e n t i f i c a l l y o u t o f t h e q u e s t i o n " ( 1 9 9 0 a , p . 3 1 ) . 9 1 N o w C Z , i n a s e n s e , i s a n i m m e d i a t e a n d t r i v i a l c o n s e q u e n c e o f A 4 , " B r a i n s c a u s e m i n d s “ ; w h i l e 8 j u s t s e e m s l i k e a n o b v i o u s e m p i r i c a l t r u t h a b o u t t h e c a u s a l p o w e r s o f ( e x i s t i n g ) c o m p u t e r s . B u t t h e a p p e a r a n c e o f s o u n d n e s s h e r e i s d e c e i v i n g a n d d e r i v e s f r o m e q u i v o c a l u s e o f t h e p h r a s e " c a u s a l p o w e r s ( a t l e a s t ) e q u i v a l e n t t o b r a i n s . " i n t h e s e n s e o f t h a t p h r a s e i n w h i c h t h e c l a i m " A n y s y s t e m c a u s i n g m i n d m u s t h a v e c a u s a l p o w e r s e q u i v a l e n t , i n t h i s s e n s e , t o a b r a i n " f o l l o w s i m m e d i a t e l y a n d t r i v i a l l y f r o m t h e s t a t e m e n t " B r a i n s c a u s e m i n d s , " i t i s n o t a t a l l o b v i o u s - i n f a c t , i t m e r e l y b e g s t h e q u e s t i o n a g a i n s t S A I P t o a s s u m e - t h a t p r e s e n t l y e x i s t i n g c o m p u t e r s d o n ’ t h a v e c a u s a l p o w e r s e q u i v a l e n t t o b r a i n s : t h e s e n s e t h a t " e q u i v a l e n t c a u s a l p o w e r s " m u s t b e e r f o r C Z t o b e a t r i v i a l c o n s e q u e n c e o f A 4 i s j u s t t h a t o f e q u i v a l e n c e w i t h r e s p e c t t o c a u s i n g m i n d s o r m e n t a l s t a t e s ( w h i c h i s t h e v e r y t h i n g a t i s s u e ) . O n t h e o t h e r h a n d , t h e s e n s e i n w h i c h i t ’ s e m p i r i c a l l y o b v i o u s t h a t p r e s e n t l y e x i s t i n g c o m p u t e r s f a l l s h o r t o f b r a i n s i n t h e i r c a u s a l p o w e r s , " c a u s a l p o w e r s ( a t l e a s t ) e q u i v a l e n t t o b r a i n s “ m u s t m e a n s o m e t h i n g l i k e e q u i v a l e n t i n a l l r e s p e c t s ; b u t u n d e r s t o o d i n t h i s s e n s e , t h e i n f e r e n c e f r o m A 4 t o C Z i s a n y t h i n g b u t o b v i o u s a n d t r i v i a l . i n f a c t i t s e e m s t h a t n o t h i n g b u t a n o t h e r b r a i n - p e r h a p s e v e n n o t h i n g b u t t h e v e r y s a m e b r a i n - - c o u l d h a v e c a u s a l p o w e r s e x a c t l y e q u i v a l e n t t o a b r a i n ’ s . I f t h e i n f e r e n c e f r o m A 4 t o C Z w e r e v a l i d g i v e n t h i s u n d e r s t a n d i n g o f " c a u s a l p o w e r s ( a t l e a s t ) e q u i v a l e n t " i m i g h t j u s t a s w e l l a r g u e . " S i n c e H y d r o g e n b o m b s c a u s e d e a t h , t o c a u s e d e a t h r e q u i r e s c a u s a l p o w e r s ( a t l e a s t ) e q u a l t o a n H - B o m b . C y a n i d e l a c k s c a u s a l p o w e r s e q u a l t o a n H - b o m b . S o , c y a n i d e c a n ’ t c a u s e d e a t h . " 9 2 S o , i f " ( a t l e a s t ) e q u a l c a u s a l p o w e r s " j u s t m e a n s " e q u a l l y c a p a b l e o f c a u s i n g t h e s p e c i f i e d e f f e c t , " C Z f o l l o w s t r i v i a l l y e n o u g h f r o m A 4 ; b u t t h e t r u t h o f S i s n o m o r e o b v i o u s t h a n t h e f a l s i t y o f S A I P . O n t h i s c o n s t r u a l o f " e q u a l c a u s a l p o w e r s " S i s t a n t a m o u n t t o - S A I P , a n d p r e m i s i n g t h a t c o m p u t e r s l a c k e q u a l c a u s a l p o w e r s i n t h i s s e n s e j u s t b e g s t h e d i s p u t e d q u e s t i o n . O n t h e o t h e r h a n d , i f " e q u a l c a u s a l p o w e r s " m e a n s " e q u i v a l e n t i n a l l r e s p e c t s , " t h e n t h e i n f e r e n c e f r o m A 4 t o C Z i s f a r f r o m t r i v i a l . R a t h e r i t s e e m s g u i l t y o f s o m e t h i n g l i k e t h e f o r m a l f a l l a c y o f d e n y i n g t h e a n t e c e d e n t ( w h i c h i s e x p l i c i t o n C a r l e t o n ’ s f o r m u l a t i o n , a s h e n o t e s ) i n i t s s e e m i n g a s s u m p t i o n t h a t i f A ’ s ( e . g . , b r a i n s ) c a u s e B ’ s ( e . g . , m e n t a l s t a t e s ) . t h a n o n l y A ’ s c a n c a u s e B ’ s . T h u s c o n s t r u e d , t h e a r g u m e n t s e e m s l i t t l e b e t t e r t h a n t h i s : A l l f u n c t i o n i n g b r a i n s c a u s e m e n t a l s t a t e s , a n d N o d i g i t a l c o m p u t e r s a r e f u n c t i o n i n g b r a i n s , t h e r e f o r e N o d i g i t a l c o m p u t e r s c a u s e m e n t a l s t a t e s . A p p a r e n t l y , t h e n , t h e a r g u m e n t r e q u i r e s a n u n d e r s t a n d i n g o f " e q u a l c a u s a l p o w e r s " w h i c h i s s t r o n g e r t h a n m e r e l y " e q u a l w i t h r e s p e c t t o b e i n g a b l e t o c a u s e t h i s e f f e c t " ( t h e q u e s t i o n b e g g i n g a l t e r n a t i v e ) , y e t w e a k e r t h a n " e q u i v a l e n t i n a l l r e s p e c t s " ( t h e i n v a l i d a t i n g a l t e r n a t i v e ) ; s o m e t h i n g l i k e " e q u i v a l e n t i n t h e c a u s a l l y r e l e v a n t r e s p e c t s , " w h i c h w o u l d r e q u i r e s o m e t h i n g l i k e a s p e c i f i c a t i o n o f w h i c h c a u s a l p o w e r s ( e . g . , o f b r a i n s ) a r e n e c e s s a r y f o r p r o d u c i n g a g i v e n m e n t a l e f f e c t . P r e s u m a b l y s u c h a n ( i n t e n n e d i a t e l y s t r o n g ) u n d e r s t a n d i n g o f " e q u a l c a u s a l p o w e r s " w o u l d a l s o s p e a k t o t h e d i f f i c u l t y t h a t t h e r e a r e n o t o n l y e f f e c t s H - b o m b s h a v e ( e . g . , f a l l o u t ) t h a t c y a n i d e l a c k s , t h e r e a r e a l s o c a u s a l p o w e r s c y a n i d e h a s b u t n o t H - b o m b s ( e . g . , y o u c a n s w a l l o w c y a n i d e ) . T h e p r o b l e m i s , s i n c e c y a n i d e 9 3 h a s p o w e r s t h a t H - b o m b s l a c k , a n d H - b o m b s p o w e r s t h a t c y a n i d e l a c k s , w h i c h i s c a u s a l l y m o r e p o w e r f u l ? W h a t c o u l d S e a r l e m e a n b y " a t l e a s t " ? 2 . 2 2 B r a i n p o w e r : A C a p t i v a t i n g P i c t u r e S e a r l e f r e q u e n t l y s e e m s t o s u c c u m b t o t h e t h o u g h t t h a t j u s t a s a c e r t a i n a m o u n t o f h o r s e p o w e r i s r e q u i r e d t o l i f t a g i v e n w e i g h t a g i v e n d i s t a n c e , a c e r t a i n a m o u n t o f m i n d p o w e r o r b r a i n p o w e r i s r e q u i r e d t o p r o d u c e s p e c i f i c m e n t a l e f f e c t s . T h u s h e e x p l a i n s , c o n c e r n i n g C Z ’ s c l a i m t h a t " A n y t h i n g e l s e t h a t c a u s e d m i n d s w o u l d h a v e t o h a v e c a u s a l p o w e r s a t l e a s t e q u i v a l e n t t o t h o s e o f t h e b r a i n , " i t i s a b i t l i k e s a y i n g t h a t i f m y p e t r o l e n g i n e d r i v e s m y c a r a t s e v e n t y - f i v e m i l e s a n h o u r , t h e n a n y d i e s e l e n g i n e t h a t w a s c a p a b l e o f d o i n g t h a t w o u l d h a v e t o h a v e a p o w e r o u t p u t a t l e a s t e q u i v a l e n t t o t h a t o f m y p e t r o l e n g i n e . ( S e a r l e 1 9 8 4 a . p . 4 0 - 4 1 ) P r e s u m a b l y m o r e b r a i n p o w e r ( s o m e t h i n g l i k e h u m a n b r a i n p o w e r ) i s n e e d e d t o p r o d u c e m e n t a l e f f e c t s o f n a t u r a l l a n g u a g e u n d e r s t a n d i n g o r m a t h e m a t i c a l c a l c u l a t i o n t h a t a r e o n l y m e t ( o r w e r e . o n l y m e t , p r e v i o u s t o t h e a d v e n t o f c o m p u t e r s ) i n h u m a n s ; a n d l e s s b r a i n p o w e r , p r e s u m a b l y , i s n e e d e d t o p r o d u c e m e n t a l s t a t e s , s u c h a s s e n s a t i o n s o f s m e l l , t h a t e v e n c l a m s a n d s t a r f i s h s e e m t o h a v e . J u s t a s a 1 0 0 h o r s e p o w e r d i e s e l e n g i n e a n d a 1 0 0 h o r s e p o w e r e l e c t r i c m o t o r a r e c a u s a l l y e q u i v a l e n t w i t h r e s p e c t t o t h e i r c a p a c i t y t o l i f t a u n i t w e i g h t o v e r a u n i t d i s t a n c e ; s o , p e r h a p s , c h i m p b r a i n s a n d p o r p o i s e b r a i n s a r e c a u s a l l y e q u i v a l e n t w i t h r e s p e c t t o t h e i r c a p a c i t y t o X ( w h e r e X i s s o m e m e a s u r e o f t h i s h y p o t h e s i z e d g e n e r a l m e n t a l f o r c e ) , a n d c o n s e q u e n t l y w i t h r e s p e c t t h e i r m e n t a l p e r f o r m a n c e o r e n d o w m e n t s . S o i f t h e b r a i n p o w e r o f a n a v e r a g e a d u l t h u m a n i s 1 , a n d c h i m p s h a v e . 3 a n d d o g s . 1 ; a n d i f t o o l u s e r e q u i r e s 9 4 b r a i n p o w e r o f . 2 5 , s a y , a n d l a n g u a g e u n d e r s t a n d i n g r e q u i r e s b r a i n p o w e r o f . 7 ; t h e n c h i m p s ( b u t n o t d o g s ) u s e t o o l s ; a n d n e i t h e r c h i m p s n o r d o g s w i l l h a v e a n y l a n g u a g e u n d e r s t a n d i n g . T h e u n d e r l y i n g t h o u g h t h e r e i s s i m i l a r t o D e s c a r t e s ’ s p o r t r a y a l o f r e a s o n ( l i k e N e w t o n i a n f o r c e ) a s “ a u n i v e r s a l i n s t r u m e n t " a n d e v e n s u g g e s t i v e o f D e s c a r t e s ’ s a l l u s i o n s t o t h i s u n i v e r s a l f o r c e ( w h i c h h e , l i k e S e a r l e , i d e n t i f i e s w i t h c o n s c i o u s n e s s ) a s a k i n d o f " l i g h t o f n a t u r e " : t h e r e i s a m e n t a l f o r c e . o f c o n s c i o u s n e s s ( a s t h e r e a r e p h y s i c a l f o r c e s o f e l e c t r i c i t y a n d l i g h t ) , a n d s o m e b r a i n s ( e . g . , A r i s t o t l e ‘ s a n d E i n s t e i n ’ s ) h a v e . s o t o s p e a k , m e g a w a t t c a p a c i t i e s , a s c o m p a r e d t o t h e m i c r o w a t t c a p a c i t i e s o f a f r o g ' s b r a i n . T h a t i s t h e p i c t u r e . S u c h a p i c t u r e i s e v e n e n s h r i n e d i n f i g u r e s o f s p e e c h , a s w h e n d e s c r i b e a p e r s o n w e t h i n k l a c k i n g i n i n t e l l i g e n c e a s " a d i m b u l b . " B u t h o w a r e w e t o u n d e r s t a n d i t ? O n e a l t e r n a t i v e i s t o r e a d " i s c o n s c i o u s " a s t a n t a m o u n t t o " t h i n k s " i n t h e w e a k , g e n e r i c s e n s e o f " h a v i n g ( s o m e ) m e n t a l p r o p e r t i e s . " D e s c a r t e s h i m s e l f a p p e a r s t o s u g g e s t s o m e t h i n g l i k e t h i s w e a k o r g e n e r i c s e n s e o f t h e " t h o u g h t “ i n t h e f a m o u s p a s s a g e w h e r e h e c h a r a c t e r i z e s a " t h i n k i n g t h i n g " a s " a t h i n g w h i c h d o u b t s , u n d e r s t a n d s , a f f i r m s , d e n i e s , w i l l s , r e f u s e s , w h i c h a l s o i m a g i n e s a n d f e e l s ( D e s c a r t e s , 1 6 4 2 , p . 1 9 ) . ° B u t t h e t r o u b l e w i t h t h i s a l t e r n a t i v e i s t h a t , s o i n t e r p r e t e d , t h e p r o p o s a l t h a t X = c o n s c i o u s n e s s j u s t s e e m s t o f o l l o w t h e q u e s t i o n b e g g i n g p a t h o f " e q u a l c a u s a l p o w e r s " w e a k l y c o n s t r u e d . T h e q u e s t i o n o f w h e t h e r s o m e t h i n g h a s t h e r e q u i s i t e c o n s c i o u s n e s s t o a l l o w i t t o d i s p l a y s o m e 6 . T h i s a p p e a r a n c e i s d e c e i v i n g . D e s c a r t e s a c t u a l l y s e e m s t o h o l d t h a t t h e u n i t y o f m i n d s i s s u c h t h a t I t ’ s a l l o r n o t h i n g : m i n d s e i t h e r h a v e a l l t h e s e p o w e r s ( o r a t l e a s t a l l t h e p u r e l y i n t e l l e c t u a l o n e s ) o r n o n e ( i . e . , d o n ’ t e x i s t ) . A r e s c o g i t a n s i s n o t a t h i n g t h a t d o u b t s o r u n d e r s t a n d s , e t c . , b u t o n e w h i c h d o u b t s a n d u n d e r s t a n d s , e t c . 9 5 p a r t i c u l a r m e n t a l a b i l i t y ( e . g . , t h e q u e s t i o n o f w h e t h e r t h e r o b o t w i t h i t s c o m p u t e r - i z e d v i s u a l p r o c e s s i n g r e a l l y s e e s ) i s n o t i n d e p e n d e n t o f ( o r a n s w e r a b l e a n t e c e d - e n t i y t o a n s w e r i n g ) t h e q u e s t i o n o f w h e t h e r i t a c t u a l l y d i s p l a y s t h o s e a b i l i t i e s ( o r m e r e l y a c t s a s i f i t d i d ) . A m o r e s o p h i s t i c a t e d v a r i a n t o f t h i s a p p r o a c h - g o i n g A r i s t o t e l i a n - i n s i s t s t h e r e ’ s a h i e r a r c h y o f m e n t a l p o w e r s , s u c h t h a t t h e h i g h e r p o w e r s ( e . g . , m a t h e m a t i c a l c a l c u l a t i o n ) p r e s u p p o s e l o w e r o n e s ( e . g . , s e n s e p e r c e p t i o n ) , s u c h t h a t n o t h i n g c a n c a l c u l a t e t h a t c a n ’ t a l s o p e r c e i v e . S e a r l e s e e m s t o a v a i l h i m s e l f o f s o m e s u c h A r i s t o t e l i a n p i c t u r e w h e n h e s a y s , F r o m a n e v o l u t i o n a r y p o i n t o f v i e w . j u s t a s t h e r e i s a n o r d e r o f p r i o r i t y i n t h e d e v e l o p m e n t o f o t h e r b i o l o g i c a l p r o c e s s e s . s o t h e r e i s a n o r d e r a n d p r i o r i t y i n t h e d e v e l o p m e n t o f I n t e n t i o n a l p h e n o m e n a . I n t h i s d e v e l o p m e n t l a n g u a g e a n d m e a n i n g , a t l e a s t i n t h e s e n s e i n w h i c h h u m a n s h a v e l a n g u a g e a n d m e a n i n g , c o m e s v e r y l a t e . M a n y s p e c i e s o t h e r t h a n h u m a n s h a v e s e n s o r y p e r c e p t i o n a n d i n t e n t i o n a l a c t i o n , a n d s e v e r a l s p e c i e s . c e r t a i n l y t h e p r i m a t e s . h a v e b e l i e f s , d e s i r e s a n d i n t e n t i o n s , b u t v e r y f e w s p e c i e s , p e r h a p s o n l y h u m a n s , h a v e t h e p e c u l i a r b u t a l s o b i o l o g i c a l l y b a s e d f o r m o f i n t e n t i o n a l i t y w e a s s o c i a t e w i t h l a n g u a g e a n d m e a n i n g . ( S e a r l e 1 9 8 3 , p . 8 ) T h i s p l a i n l y r e p r e s e n t s a n a d v a n c e o v e r t h e s i m p l i s t i c a p p r o a c h , w h i c h m a d e a s y s t e m ‘ s a c t u a l m a n i f e s t a t i o n o f a s p e c i f i c m e n t a l p r o p e r t y t h e m e a s u r e o f w h e t h e r i t h a d s u f f i c i e n t b r a i n p o w e r t o h a v e t h a t p r o p e r t y : n o w w e c a n t a k e t h e s y s t e m ‘ s m a n i f e s t a t i o n ( o r f a i l u r e ) t o m a n i f e s t " l o w e r " m e n t a l f a c u l t i e s a s e v i d e n c e o f i t s l a c k i n g b r a i n p o w e r s u f f i c i e n t f o r i t t o b e t r u l y p o s s e s s e d o f w h a t e v e r " h i g h e r " c a p a c i t i e s ( e . g . , c a p a c i t i e s f o r m a t h e m a t i c a l c a l c u l a t i o n ) i t m i g h t g i v e t h e a p p e a r a n c e o f h a v i n g . B u t o b s e r v e t h a t t h i s M a o - A r i s t o t e l i a n l i n e , o n c l o s e r c o n s i d e r a t i o n . s e e m s t o p a r t a k e o f m u c h t h e s a m e c i r c u l a r i t y a s t h e s i m p l i s t i c v i e w t h a t p r e c e d e d - t h e c i r c l e i s j u s t l a r g e r . I t s e e m s a s p l a u s i b l e t o r e g a r d p o c k e t 9 6 c a l c u l a t o r s ’ s s e e m i n g a b i l i t i e s t o c a l c u l a t e a s e v i d e n c i n g t h a t c a l c u l a t i o n d o e s n ' t p r e s u p p o s e s u c h " l o w e r " m e n t a l c a p a c i t i e s a s s e n s e p e r c e p t i o n a s t o r e g a r d c a l c u l a t o r s ’ s s e e m i n g l a c k s o f s u c h " l o w e r " f a c u l t i e s a s s i g n a l l i n g t h a t ( a p p e a r a n c - e s t o t h e c o n t r a r y ) t h e y d o n ’ t r e a l l y c a l c u l a t e . ( T h i s a l s o a p p l i e s t o t h e p r e c e d i n g p o i n t : i f S e a r l e ’ s i n t u i t i o n t h a t c a l c u l a t o r s a n d t h e i r i k h a v e n ’ t a s h r e d o f c o n s c i o u s a w a r e n e s s t h i s f i n d i n g w i l l s t i l l b e e q u i v o c a l i n i t ’ s i m p l i c a t i o n s b e t w e e n " C a l c u l a t o r s d o n ’ t c a l c u l a t e " o n t h e o n e h a n d a n d " C a l c u l a t i o n d o e s n ’ t r e q u i r e c o n s c i o u s n e s s " o n t h e o t h e r . ) A l t e r n a t e i y - i n s t e a d o f g o i n g A r i s t o t e l i a n - - w e m i g h t t r y b e i n g t h o r o u g h l y C a r t e s i a n a n d i d e n t i f y i n g d i f f e r e n t l e v e l s o f b r a i n p o w e r w i t h h a v i n g v a r y i n g d e g r e e s o f p r i v a t e , i n t r o s m c t a b l e , c o n s c i o u s e x p e r i e n c e . T h i s , o f c o u r s e , r u n s a f o u l o f f a m i l i a r p h i l o s o p h i c a l d i f f i c u l t i e s . H o w d o I k n o w w h e t h e r a n y t h i n g e l s e i s c o n s c i o u s , o r ( i f t h e y a r e ) w h a t t h e i r p r i v a t e c o n s c i o u s e x p e r i e n c e s a r e l i k e ? ( O t h e r m i n d s p r o b l e m s . ) T h e r e a r e d o u b t s ( o f W a t s o n i a n v i n t a g e ) a b o u t t h e p u b l i c s c i e n t i f i c u t i l i t y o f p r i v a t e i n t r o s p e c t e d " f a c t s " ; d o u b t s ( o f a W i t t g e n s t i n e a n s t r i p e ) a b o u t t h e e x p l a n a t o r y r e l e v a n c e o f c o n s c i o u s e x p e r i e n c e e v e n w h e r e i t m i g h t s e e m g e r m a n e i n o n e ’ s o w n c a s e , e . g . , f o r e x p l a i n i n g w h a t i t i s t o k n o w w h a t " r e d " o r " p a i n " m e a n s ; p r o b l e m s a b o u t t h e p o s s i b l e e x i s t e n c e o f u n c o n s c i o u s m e n t a l s t a t e s s u c h a s m o s t ( n o n b e h a v i o r i s t ) r e s e a r c h p r o g r a m s i n m o d e r n p s y c h o l o g y ( f r o m M a c h a n d F r a u d , t o M a n a n d C h o m s k y ) h a v e p o s i t e d ; e t c . C e r t a i n l y , m u c h o f w h a t S e a r l e h a s s a i d i n t h e s e c o n n e c t i o n s o v e r t h e y e a r s - f r o m h i s i n s i s t e n c e , e a r l y o n , " o n t h e f i r s t p e r s o n p o i n t o f v i e w “ ( S e a r l e 1 9 8 0 c , p . 4 2 1 ) t o h i s r e c e n t t a l k o f " o n t o l o g i c a l s u b j e c t i v i t y " ( S e a r l e 1 9 8 9 b , p . 1 9 4 ) - s u g g e s t s t h a t h e i s a l l t o o 9 7 w i l l i n g t o a p p e a l t o c o n s c i o u s n e s s i n t h e C a r t e s i a n m a n n e r ; y e t h e h a s , a l l a l o n g , b e e n a l l t o o u n w i l l i n g t o f a c e u p t o t h e s o r t s o f d i f f i c u l t i e s w i t h s u c h a p p e a l s , j u s t n o t e d . H e d i s m i s s e s o t h e r m i n d s o b j e c t i o n s a s a t t e m p t s t o " f e i g n a n e s t h e s i a " ( S e a r l e 1 9 8 0 a , p . 4 2 1 ) a n d d i s m i s s e s Y c r i c k W i l k s ’ s a t t e m p t t o r e m i n d h i m o f W i t t g e n s t e i n ’ s d i s c u s s i o n " t o t h e e f f e c t t h a t u n d e r s t a n d i n g a n d s i m i l a r s t a t e s c a n n o t c o n s i s t i n a f e e l i n g o r e x p e r i e n c e " ( W i i k s 1 9 8 2 , p . 3 4 4 ) a s " j u s t i r r e l e v a n t t o m y v i e w s " ( S e a r l e 1 9 8 2 , p . 3 4 8 ) - t h o u g h t h i s d i s c u s s i o n s e e m s p r e c i s e l y r e l e v a n t t o h i s v i e w s - w i t h o u t e x p l a n a t i o n . W e l l , i f t h e r e i s " n o p r o b l e m " i n S e a r l e ’ s d i s c u s s i o n " a b o u t h o w I k n o w t h a t o t h e r p e o p l e h a v e c o g n i t i v e s t a t e s " ( S e a r l e 1 9 8 0 a , p . 4 2 1 ) ; a n d i f w e c a n u n d e r s t a n d S e a r l e ’ s i n s i s t e n c e t h a t , " i , o f c o u r s e , d o n o t c l a i m t h a t u n d e r s t a n d i n g [ s i c ] i s t h e n a m e o f a f e e l i n g o r e x p e r i e n c e " ( S e a r l e 1 9 8 2 , p . 3 4 8 ) t o b e d e n y i n g t h a t u n d e r s t a n d i n g i s a f e e l i n g o r e x p e r i e n c e t h a t t h e w o r d " u n d e r s t a n d i n g " n a m e s ; t h e n p e r h a p s - d e s p i t e s u c h a p p e a r a n c e s t o t h e c o n t r a r y a s m e n t i o n e d a b o v e - w e s h o u l d c r e d i t S e a r l e ’ s e x p l i c i t d i s a v o w a l o f " a n y o f t h e C a r t e s i a n p a r a p h e r n a l i a " ( S e a r l e 1 9 8 7 , p . 1 4 6 ) a n d n o t v i e w h i m a s p o s i t i n g d e g r e e s o f u n i t a r y m e n t a l f o r c e o r " b r a i n p o w e r " i d e n t i f i a b l e w i t h i n t r o s p e c t a b l e d e g r e e s o f c o n s c i o u s n e s s . ’ W h a t s e e m s n e e d e d i s t o c a s h o u t s u c h s c i e n t i f i c a l l y q u e s t i o n a b l e a p p e a l s t o t h e p r i v a t e d a t a o f c o n s c i o u s e x p e r i e n c e i n t e r m s o f s o m e p u b l i c l y d e t e c t a b l e c o r r e l a t e s o r c a u s e s o f t h o s e e x p e r i e n c e s . S i n c e i t i s l a r g e l y t h r o u g h h i s d i s a v o w a l o f d u a l i s m i n f a v o r o f a " m o n i s t i n t e r a c t i o n i s t " ( S e a r l e 1 9 8 0 b , p . 4 5 4 ) o r " b i o l o g i c a l 7 . T h i s i s a c o n t r o v e r s i a l p o i n t t o w h i c h I r e t u r n i n C h a p t e r 6 . 9 8 n a t u r a l i s t " ( S e a r l e 1 9 8 3 ; 1 9 9 2 ) v i e w t h a t " m e n t a l p h e n o m e n a a r e b o t h c a u s e d b y t h e o p e r a t i o n s o f t h e b r a i n a n d r e a l i z e d i n t h e s t r u c t u r e o f t h e b r a i n " ( S e a r l e 1 9 8 3 , p . i x ) b y w h i c h S e a r l e s e e k s t o d i s t a n c e h i m s e l f f r o m f u l l - b l o o d e d C a r t e s i a n i s m , l e t u s c o n s i d e r w h e t h e r w e m i g h t n ’ t ( a l o n g t h e s e l i n e s ) i n d i r e c t l y m e a s u r e " b r a i n p o w e r " b y r e f e r r i n g d i r e c t l y t o s u c h o p e r a t i o n s a n d s t r u c t u r e s i n b r a i n s a s p r o d u c e i t . T h o u g h w e m a y b e b a r r e d f r o m d i r e c t l y m e a s u r i n g t h e c o n s c i o u s n e s s l e v e l s p r o d u c e d b y b r a i n s o t h e r t h a n o u r o w n - i n d e e d , t h e n o t i o n o f m e a s u r a b l e d e g r e e s o f c o n s c i o u s n e s s i s o b s c u r e e n o u g h e v e n i n i t s f i r s t p e r s o n a p p l i c a t i o n s - - w e m i g h t a t l e a s t i n f e r t h e l e v e l s o f c o n s c i o u s n e s s o t h e r b r a i n s c a n p r o d u c e f r o m s o m e m e a s u r a b l e ( o r a t l e a s t p u b l i c l y d e t e c t a b l e ) s t r u c t u r a l p r o p e r t i e s o r c a u s a l f e a t u r e s o f b r a i n s . ( A s w e c a n c a l c u l a t e t h e h o r s e p o w e r c a p a c i t i e s o f i n t e r n a l c o m b u s t i o n e n g i n e s f r o m t h e i r d i s p l a c e m e n t s a n d c o m p r e s s i o n r a t i o s . ) 2 . 2 3 E n g i n e s o f i n t e n t i o n a l i t y O n e t r o u b l e w i t h t h e p r o p o s a l j u s t b r u i t e d i s w e d o n ’ t r e a l l y k n o w w h a t t h e r e l e v a n t s t r u c t u r a l p r o p e r t i e s o f b r a i n s a r e : i f m e n t a l o u t p u t i s t o b r a i n s a s h o r s e p o w e r o u t p u t t o e n g i n e s , w e d o n ’ t k n o w w h a t f e a t u r e s o f b r a i n s a r e c r u c i a l t o d e t e r m i n i n g t h e m e n t a l c a p a c i t i e s o f b r a i n s a s d i s p l a c e m e n t s i z e a n d c o m p r e s - s i o n r a t i o a r e c m c i a l t o d e t e r m i n i n g t h e p o w e r c a p a c i t i e s o f i n t e r n a l c o m b u s t i o n e n g i n e s . B e s i d e s c e r t a i n v a g u e a n d s c i e n t i f i c a l l y e c c e n t r i c s u g g e s t i o n s t h a t t h e c r u c i a l e l e m e n t s a n d s t r u c t u r a l f e a t u r e s o f b r a i n s a r e c h e m i c a l r a t h e r t h a n c o m p u t a t i o n a l , s u c h t h a t " i n t e n t i o n a l i t y i s c a u s a l l y d e p e n d e n t o n t h e s p e c i f i c 9 9 b i o c h e m i s t r y o f i t s o r i g i n s " ( S e a r l e 1 9 8 0 a , p . 4 2 4 ) , S e a r l e h a s l i t t l e t o s a y c o n c e r n i n g w h a t t h e c r u c i a l m e n t a l p o w e r p r o d u c i n g f e a t u r e s o f b r a i n s a r e ; t h o u g h h e ’ s a d a m a n t e n o u g h a b o u t w h a t t h e y a r e n ’ t . W h a t e v e r t h e r e l e v a n t , b r a i n p o w e r d e t e r m i n i n g f e a t u r e s o f b r a i n s t u r n o u t t o b e . t h e y w i l l n o t ( a c c o r d i n g t o S e a r l e ) b e c o m p u t a t i o n a l f e a t u r e s . I t s e e m s , t h e n , t h a t t h e m e n t a l p o w e r d e t e r m i n i n g f e a t u r e s o f b r a i n s c o m p a r a b l e t o t h e p h y s i c a l p o w e r p r o d u c i n g f e a t u r e s o f d i s p l a c e m e n t a n d c o m p r e s s i o n r a t i o i n i n t e m a l c o m b u s t i o n e n g i n e s , c o u l d n o t ( a c c o r d i n g t o S e a r l e ) b e c o m p u t a t i o n a l p r o p e r t i e s l i k e o p e r a t i o n s p e e d a n d m e m o r y c a p a c i t y b u t m u s t b e s o m e t h i n g e l s e . U n f o r t u n a t e l y , b e s i d e s t h e s o r t o f v a g u e s u g g e s t i o n s a b o u t t h e b r a i n ’ s c h e m i c a l p r o p e r t i e s j u s t c i t e d - s p e c u l a t i o n w i t h o n l y t h e s l i g h t e s t e m p i r i c a l b a s i s ( m a i n l y i n t h e f a c t t h a t o u r b r a i n s a r e p r o d i g i o u s c h e m i c a l " f a c t o r i e s " a s w e l l a s e l a b o r a t e e l e c t r i c a l " s w i t c h i n g s y s t e m s " ) - S e a r l e h a s l i t t l e t o o f f e r u s h e r e . O f c o u r s e e v e n t h e d i s c o v e r y t h a t t h e c r u c i a l c a u s a l f e a t u r e s o f b r a i n s w e r e c h e m i c a l w o u l d n o t b e w h o l l y d e c i s i v e a g a i n s t A l a n d S A I P . S u p p o s i n g f u t u r e p s y c h o l o g i s t s c o m e t o s e e t h e w i s d o m o f S e a r l e ’ s c o n j e c t u r e - i t ’ s t h e c h e m i s t r y t h a t c o u n t s - b e g i n t o p u r s u e a S e a r l e a n r e s e a r c h p r o g r a m , a n d c o m e t o e s t a b l i s h t h a t t h e c r u c i a l m i n d p r o d u c i n g f e a t u r e s o f b r a i n s r e a l l y a r e c h e m i c a l . E v e n s u p p o s e t h e y a d d i t i o n a l l y d i s c o v e r t h a t t h e e l e c t r i c a l s w i t c h i n g c a p a c i t i e s o f b r a i n s a r e a s i r r e l e v a n t t o t h e i r m e n t a l p o w e r o u t p u t s a s t h e e l e c t r o m a g n e t i c p r o p e r t i e s ( m o s t ) i n t e r n a l c o m b u s t i o n e n g i n e s h a v e ( a s a c c i d e n t a l s i d e e f f e c t s o f b e i n g m a d e o f s t e e l ) a r e i r r e l e v a n t t o t h e i r h o r s e p o w e r o u t p u t s . Y e t i t i s e n t i r e l y c o n s i s t e n t w i t h t h e s e f i n d i n g s - - i f s u c h w e r e f o u n d o u t , c o n c e r n i n g o u r b r a i n s - t h a t c o m p u t e r s 1 0 0 c o u l d p r o d u c e m i n d - p o w e r , b y d i f f e r e n t m e a n s , d e s p i t e l a c k i n g w h a t e v e r c h e m i c a l p r o d u c t i o n c a p a b i l i t i e s t u r n e d o u t t o b e c r u c i a l d e t e r m i n a n t s o f t h e m i n d - p o w e r o f b r a i n s . M u c h a s e l e c t r i c m o t o r s - d e s p i t e n o t h a v i n g d i s p l a c e m e n t s o r c o m p r e s - s i o n r a t i o s - p r o d u c e h o r s e p o w e r , i t m i g h t e v e n t u r n o u t t h a t t h e v e r y e l e c t r i c s w i t c h i n g c a p a c i t i e s o r c o m p u t a t i o n a l p r o p e r t i e s ( e . g . , s t o r a g e c a p a c i t y a n d o p e r a t i o n s p e e d ) w h i c h , a c c o r d i n g t o S e a r l e ’ s c o n j e c t u r e , a r e i r r e l e v a n t t o t h e m e n t a l p o w e r o u t p u t s o f b r a i n s , a r e n o n e t h e l e s s t h e c r u c i a l d e t e r m i n a n t s o f t h e m e n t a l c a p a c i t i e s o f c o m p u t e r s ; m u c h a s t h e v e r y e l e c t r o m a g n e t i c p r o p e r t i e s w h i c h a r e i r r e l e v a n t t o t h e h o r s e p o w e r c a p a c i t i e s o f i n t e m a i c o m b u s t i o n e n g i n e s a r e c r u c i a l d e t e r m i n a n t s o f t h e h o r s e p o w e r c a p a c i t i e s o f e l e c t r i c m o t o r s . B u t n o w i t i s a n e a s y e x t r a p o l a t i o n f r o m t h i s t o m e t h a t w h a t e v e r t h e c r u c i a l d e t e r m i n a n t s o f t h e m e n t a l p o w e r s o f b r a i n s t u r n s o u t t o b e - c o n t r a r y t o t h e l i n e o f a r g u m e n t w e a r e c a n v a s s i n g a s a p o s s i b l e a p p l i c a t i o n o f C R A a g a i n s t S A I P - a r t i f i c i a l i n t e l l i g e n c e c a n n o t b e s h o w n t o b e " s c i e n t i f i c a l l y o u t o f t h e q u e s t i o n " ( S e a r l e 1 9 9 0 a ) b y s h o w i n g t h a t c o m p u t e r s l a c k t h e s e c r u c i a l d e t e r m i n a n t s ( w h a t e v e r t h e y t u r n o u t t o b e ) . S u p p o s e w e u n d e r s t o o d t h e p h y s i o l o g i c a l b a s i s o f b r a i n ’ s p r o d u c t i o n o f m e n t a l p o w e r s a s w e l l a s w e u n d e r s t a n d h o w i n t e r n a l c o m b u s t i o n e n g i n e s p r o d u c e h o r s e p o w e r . S u p p o s e a l s o t h a t w e k n e w f o r c e r t a i n t h a t n o c o m p u t e r h a d a n y o f t h e f e a t u r e s w h i c h a r e t h e c r u c i a l d e t e r m i n a n t s o f t h e m e n t a l p o w e r s o f b r a i n s . W e s t i l l c a n n o t c o n c l u d e , " T h e r e f o r e , n o c o m p u t e r h a s m e n t a l p o w e r s " w i t h o u t a r g u i n g f a l l a c i o u s l y ( i n e f f e c t , d e n y i n g t h e a n t e c e d e n t ) . W e w o u l d b e a r g u i n g , i n e f f e c t : " O f b r a i n s , o n l y t h o s e w i t h c h e m i c a l p o w e r 2 , p r o d u c e a n y 1 0 1 m i n d p o w e r " ; " N o c o m p u t e r h a s c h e m i c a l p o w e r 2 " ; t h e r e f o r e , " N o c o m p u t e r p r o d u c e s a n y m i n d p o w e r . " T h i s i s n o m o r e v a l i d t h a n t o a r g u e : " O f i n t e r n a l c o m b u s t i o n e n g i n e s , o n l y t h o s e h a v i n g d i s p l a c e m e n t s o f ( a t l e a s t ) o n e c u b i c c e n t i m e t e r p r o d u c e a n y h o r s e p o w e r “ ; " N o e l e c t r i c m o t o r h a s a d i s p l a c e m e n t o f ( e v e n ) o n e c u b i c c e n t i m e t e r " ; " S o n o e l e c t r i c m o t o r p r o d u c e s a n y h o r s e p o w e r . " Y o u m i g h t a s w e l l a r g u e : " O f t r i a n g l e s , o n l y t h o s e w h i c h a r e e q u i l a t e r a l a r e e q u i a n g u l a r " ; " S o m e r e c t a n g l e s a r e n o t e q u i l a t e r a l " ; t h e r e f o r e , " S o m e r e c t a n g l e s a r e n o t e q u i a n g u l a r “ ( S h a r v y 1 9 8 5 , p . 1 2 6 ) . 2 . 2 4 C o n c l u s i o n s C o n c e r n i n g B r a i n p o w e r B y a l l o w i n g S e a r l e t h e c h a r i t y o f t h e d u b i o u s ( t h o u g h f a m i l i a r ) i d e a o f a u n i t a r y m e n t a l f o r c e ( b r a i n p o w e r ) c o m p a r a b l e t o t h e u n i t a r y c o n c e p t i o n o f p h y s i c a l f o r c e ( h o r s e p o w e r ) i n N e w t o n i a n p h y s i c s , w e e x p l o r e d t h e p o s s i b i l i t y o f s t a k i n g o u t a s e n s e o f " e q u a l c a u s a l p o w e r s " i n t e r m e d i a t e b e t w e e n " e q u a l i n r e s m c t c a u s i n g t h e p a r t i c u l a r e f f e c t a t i s s u e " ( w h i c h m a d e S C R A b e g t h e q u e s t i o n ) a n d " e q u a l i n a l l r e s p e c t s " ( w h i c h m a d e t h e a r g u m e n t i n v a l i d ) . i t t u r n s o u t t h i s i s a c h a r i t y t h a t t h e p r o p o n e n t o f S A I P c a n w e l l a f f o r d : t h e i n t e r m e d i a t e s e n s e o f " e q u a l c a u s a l p o w e r s " i t a l l o w s , t h e s e n s e o f " e q u a l b r a i n p o w e r “ ( w h a t e v e r t h i s t u r n s o u t t o b e ) , l e a d s t h e a r g u m e n t i n t o i n v a l i d i t y a s s u r e l y a s t h e s t r o n g r e n d e r i n g o f t h e p h r a s e " e q u a l c a u s a l p o w e r s " a s " e q u a l i n a l l r e s p e c t s . " I t s e e m s a n y t h i n g s t r o n g e r t h a n t h e w e a k ( q u e s t i o n b e g g i n g ) i n t e r p r e t a t i o n o f O Z l e a d s d o w n t h i s f a l l a c i o u s p a t h : t h e q u e s t i o n b e g g i n g i n t e r p r e t a t i o n o f O Z ( a s a t r u i s m , v a l i d o n i t s o w n h e a d ) i s t h e o n l y i n t e r p r e t a t i o n o f C Z v a l i d l y ( m u c h l e s s o b v i o u s l y ) e n t a i l e d b y A 4 . T h e 1 0 2 s p e c i f i c ( a n d c o n s i d e r a b l e ) d e m e r i t s o f t a k i n g " e q u a l " t o m e a n " e q u a l i n b r a i n p o w - e r " d o n o t e v e n h a v e t o b e c o n s i d e r e d . A n y a t t e m p t t o s p e l l o u t s p e c i f i c r e s p e c t s i n w h i c h a n y t h i n g c a p a b l e o f p r o d u c i n g m e n t a l e f f e c t s m u s t b e " ( a t l e a s t ) e q u a l t o b r a i n s " w i l l t r a n s g r e s s t h e b o u n d s o f v a l i d e n t a i l m e n t - c o m m i t t i n g s o m e t h i n g l i k e t h e f a l l a c y o f d e n y i n g t h e a n t e c e d e n t - j u s t a s t a k i n g " e q u a l " t o m e a n " i n a l l r e s p e c t s " d o e s . I n f e r r i n g C 2 f r o m A 4 a n d S i s n o t g o i n g t o b e v a l i d i f " e q u a l " i n A 4 a n d S i s u n d e r s t o o d t o i n c l u d e a n y p r o p e r t y b e s i d e s t h e p r o p e r t y o f c a u s i n g t h e s p e c i f i c m e n t a l e f f e c t a t i s s u e . I c o n c l u d e t h a t t h e o n l y w a y o f i n t e r p r e t i n g C Z a s a v a l i d ( m u c h l e s s i m m e d i a t e a n d t r i v i a l ) c o n s e q u e n c e o f A 4 y i e l d s n o i n t e r e s t i n g ( n o n - q u e s t i o n - b e g g i n g ) a r g u m e n t i n c o n j u n c t i o n w i t h f a c t s a b o u t t h e c o m p a r a t i v e p h y s i c a l e n d o w m e n t s o f h u m a n s a n d c o m p u t e r s a g a i n s t S A I P : i t s e e m s S e a r l e ’ s C h i n e s e R o o m A r g u m e n t i s v e r y f a r f r o m y i e l d i n g a n y a r g u m e n t w i t h a n y l o g i c a l f o r c e a g a i n s t S A I P ( o r a n y i n d u c t i v e o r e v i d e n t i a l f o r c e a g a i n s t A I P , i f - S A I P i s s u p p o s e d t o d i s c o n f i r m A I P ) a t a l l . 2 . 2 5 A " P c i e m i c a l " T a c k P e r h a p s , w h i l e n e i t h e r C R A n o r t h e e x t e n d e d v e r s i o n o f i t ( S C R A ) j u s t c o n s i d e r e d y i e l d a n y l o g i c a l l y c o m p e l l i n g a r g u m e n t a g a i n s t t h e c l a i m s o f S A I P a n d A I P , t h e y n o n e t h e l e s s m a k e a n e f f e c t i v e a d h o m i n e m c a s e . C R A m a y m a k e a p o l e m i c a l l y c o m p e l l i n g a r g u m e n t a g a i n s t A l f o r s o m e o n e w h o s e m a i n r e a s o n , o r o n l y r e a s o n , f o r h o l d i n g s u c h v i e w s a s A I P a n d S A I P i s t h e i r a c c e p t a n c e o f f u n c t i o n a l i s m . I f I b e l i e v e A I P b e c a u s e I b e l i e v e F U N , a n d F U N e n t a i l s A I P ; a n d 1 0 3 i f S e a r l e ’ s C R A r e a l l y d o e s r e f u t e F U N a s h e a l l e g e s ; t h e n C R A i s a p o l e m i c a l l y e f f e c t i v e a r g u m e n t a g a i n s t m y b e l i e f i n A I P , d e s p i t e i t ’ s n o t h a v i n g - A I P a s a v a l i d l o g i c a l c o n s e q u e n c e . I t u n d e r m i n e s m y b a s i s f o r h o l d i n g A I P i n t h e f i r s t p l a c e . A n d i f f u n c t i o n a l i s m i s t h e o n l y b a s i s a n y o n e h a s f o r b e l i e v i n g i n A l , o r i f i t ’ s t h e o n l y b a s i s o r m a i n b a s i s f o r b e l i e f i n A l o n t h e p a r t o f r e s e a r c h e r s i n C o g n i t i v e S c i e n c e , t h e n p e r h a p s , i f C R A i s a s o u n d a r g u m e n t f o r - F U N , i t w i l l p u t A I " s c i e n t i f i c a l l y o u t o f t h e q u e s t i o n " w i t h o u t m a k i n g i t l o g i c a l l y u n t h i n k a b l e . I f i t ’ s t r u e t h a t i t ‘ s m a i n l y b e c a u s e t h e y a c c e p t f u n c t i o n a l i s m t h a t c o g n i t i v e s c i e n t i s t s f i n d A I P t h i n k a b i e ; a n d p r e s u m i n g C R A r e f u t e s F U N ; t h e n C R A m a k e s A I P u n t h i n k a b l e f o r s u c h c o g n i t i v e s c i e n t i s t s , a n d p e r h a p s ( i f t h e s e a r e a l l , o r a l l t h e m o s t i n f l u e n t i a l c o g n i t i v e s c i e n t i s t s ) s c i e n t i f i c a l l y d i s c o n f i r m s i t . O n b e h a l f o f t h i s p o l e m i c a l t a c k i t c a n b e o b s e r v e d t h a t C R A m u s t s p e a k t o c o g n i t i v e s c i e n t i s t s ’ s r e a s o n s f o r a c c e p t i n g v i e w s s u c h a s A I P o r S A I P ( w h e r e t h e y d o ) , o r e l s e I t c o u l d n ’ t h a v e " s t r u c k a n e r v e " ( S e a r l e 1 9 8 2 , p . 3 4 5 ) a n d " a c h i e v e d t h e s t a t u s o f a m i n o r c l a s s i c " ( F i s h e r 1 9 8 8 , p . 2 7 9 ) i n t h e f i e l d o f C o g n i t i v e S c i e n c e , a s i t h a s . A g a i n s t t h i s p o l e m i c a l t a c k , h o w e v e r , t h e r e a r e t w o w e i g h t y q u e s t i o n s t o b e a s k e d . A r e t h e r e s u b s t a n t i a l i n d e p e n d e n t r e a s o n s f o r a c c e p t i n g A I , w h i c h d o n o t p r e s u m e t h e t r u t h o f f u n c t i o n a l i s m ? i n C h a p t e r 4 , b e l o w , I a r g u e t h a t t h e r e a r e . D o e s C R A v a l i d l y d e d u c e - F U N f r o m S e a r l e ’ s p r e m i s e s : d o e s t h e C h i n e s e r o o m a r g u m e n t r e f u t e f u n c t i o n a l i s m ? T h i s i s t h e q u e s t i o n i n o w c o n s i d e r . C h a p t e r 3 w i l l c o n s i d e r t h e t r u e r e l a t i o n s h i p b e t w e e n a r g u m e n t ( C R A ) a n d e x p e r i m e n t ( C R E ) a n d t h e f o r c e o f C R E i t s e l f a g a i n s t t h e v a r i o u s c l a i m s ( F U N , A I P , a n d S A I P ) c e n t r a l l y a t i s s u e . 1 0 4 3 . T h e C h i n e s e R o o m A r g u m e n t a n d F u n c t i o n a l i s m A n y o n e w h o w i s h e s t o c h a l l e n g e t h e c e n t r a l t h e s i s o w e s u s a p r e c i s e s p e c i f i c a t i o n o f w h i c h ‘ a x i o m s ’ a n d w h i c h d e r i v a t i o n s a r e b e i n g c h a l l e n g e d . ( S e a r l e 1 9 8 7 b , p . 2 3 2 ) 3 . 1 S e a r l e ’ s " B r u t a l l y S i m p l e " A r g u m e n t A s h e h a s r e c e n t l y s e e m e d t o r e t r a c t f o r m e r c l a i m s t o h a v e r e f u t e d A I P o r S A I P b y h i s C h i n e s e R o o m A r g u m e n t , a l l o w i n g , " i h a v e n o t t r i e d t o s h o w a m a c h i n e c a n n o t t h i n k " ( 1 9 9 0 a , p . 2 7 ) , S e a r l e h a s , a t t h e s a m e t i m e , i n c r e a s i n g l y e m p h a s i z e d t h e a n t i - f u n c t i o n a l i s t t h r u s t o f h i s a r g u m e n t a n d c o m e t o s t y l e t h e f o l l o w i n g " b r u t a l l y s i m p l e " p o i n t s ( S e a r l e 1 9 8 9 a , p . 7 0 3 ) i t s c r u x : ( A 1 ) P r o g r a m s a r e s y n t a c t i c a l . ( A 2 ) M i n d s h a v e s e m a n t i c s . ( A 3 ) S y n t a x b y i t s e l f i s n e i t h e r s u f f i c i e n t f o r n o r c o n s t i t u t i v e o f s e m a n t i c s . ( C t ) P r o g r a m s b y t h e m s e l v e s a r e n o t m i n d s . ( 1 9 8 9 a , p . 7 0 3 ) l ’ l l r e f e r t o t h i s p a r t o f C R A a s S e a r l e ’ s B r u t a l l y S i m p l e A r g u m e n t ( B S A ) . S e a r l e ' s d e m o t i o n o f t h e p r e m i s e A 4 , " B r a i n s c a u s e m i n d s , " f r o m t h e p l a c e o f h o n o r a s C R A ’ s f i r s t p r e m i s e ( a s i n 1 9 8 3 , 1 9 8 4 a ) , a l s o s e e m s i n d i c a t i v e o f t h i s s h i f t o f e m p h a s i s . A l o n g w i t h h i s s e e m i n g s u r r e n d e r o f p r e v i o u s c l a i m s t h a t h i s C R A m a n a g e s t o " d e m o n s t r a t e t h e f a l s i t y " o f " t h e v i e w t h a t a p p r o p r i a t e l y p r o g r a m m e d c o m p u t e r s l i t e r a l l y h a v e t h o u g h t p r o c e s s e s " ( 1 9 8 4 b , p . 1 4 6 ) , i t s e e m s t h a t S e a r l e t a k e s t h e p r e m i s e " B r a i n s c a u s e m i n d s " t o b e l e s s c e n t r a l t o h i s a r g u m e n t t h a n h e s u g g e s t e d w h e n h e f i r s t p r o p o s e d C R A a s , a n a t t e m p t t o e x p l o r e t h e c o n s e q u e n c e s o f t w o p r o p o s i t i o n s . ( 1 ) i n t e n t i o n a l i t y i n h u m a n s ( a n d a n i m a l s ) i s a p r o d u c t o f t h e c a u s a l f e a t u r e s o f t h e b r a i n . ( 2 ) i n s t a n t i a t i n g a c o m p u t e r p r o g r a m i s n e v e r b y i t s e l f a s u f f i c i e n t c o n d i t i o n o f i n t e n t i o n a l i t y . ( 1 9 8 0 a . p . 4 1 7 a b s t r a c t ) 1 0 5 S e a r l e ’ s m o s t r e c e n t f o r m u l a t i o n s o f C R A ( 1 9 8 9 a , 1 9 9 0 a ) m a k e i t c l e a r t h a t A 4 ( t o g e t h e r w i t h C 1 ) i s s u p p o s e d t o s u p p o r t t h e c o n c l u s i o n C Z ( w h i c h i s s u p p o s e d , i n t u r n t o s u p p l y a b a s i s f o r a r g u i n g a g a i n s t t h e s c i e n t i f i c t e n a b i i i t y o f A I P o r S A I P ) . C l e a r l y , A 4 d o e s n ’ t s e r v e t o s u p p o r t t h e p r i m a r y ( a n t i - f u n c t i o n a l i s t ) c o n c l u s i o n , C 1 . T h e p r e c e d i n g s e c t i o n e x a m i n e d w a y s o f a r g u i n g f o r - S A I P o r - A l P f r o m C Z , t h e c o n c l u s i o n t h a t " A n y o t h e r s y s t e m c a p a b l e o f c a u s i n g m i n d s w o u l d h a v e t o h a v e c a u s a l p o w e r s ( a t l e a s t ) e q u i v a l e n t t o t h o s e o f b r a i n s . " i n o w c o n s i d e r w h e t h e r C R A m a k e s a s o u n d a r g u m e n t f o r i t s f i r s t c o n c l u s i o n , t h e a n t i - f u n c t i o n a l i s t c o n c l u s i o n C 1 , w h i c h S e a r l e h a s c o m e i n c r e a s i n g l y t o e m p h a s i z e , a n d w h i c h m a y y e t ( i f C R A p r o v e s i t ) p r o v i d e s o m e b a s i s f o r a n i n d u c t i v e ( o r p o l e m i c a l o r a d h o m i n e m ) c a s e a g a i n s t t h e s c i e n t i f i c t e n a b i l i t y o f S A I P . W h a t e m e r g e s f r o m a c l o s e a n a l y s i s o f t h i s s u p p o s e d l y " b r u t a l l y s i m p l e " p a r t o f C R A i s t h a t . s i m p l y ( e . g . , n o n m o d a l i y ) c o n s t r u e d , B S A i s fl a t l y i n v a l i d . N o r d o e s C t s e e m t o f o l l o w v a l i d l y f r o m A 1 , A 2 , a n d A 3 o n a n y o b v i o u s , u n c o n t r o v e r s i a l c a u s a l o r m o d e l p r i n c i p l e s ( a s A I P f o l l o w s f r o m S A I P , f o r i n s t a n c e , v i a t h e o b v i o u s a n d u n c o n t r o v e r s i a l m o d a l p r i n c i p l e t h a t e x i s t e n c e e n t a i l s p o s s i b i l i t y ) ” N o r d o e s C 1 s e e m t o f o l l o w v a l i d l y f r o m A 1 , A 2 , a n d A 3 i n c o n j u n c t i o n w i t h a n y p l a u s i b l e s u p p l e m e n t a r y a s s u m p - t i o n s . I n t h i s l a s t c o n n e c t i o n l c o n s i d e r t w o s u p p l e m e n t a r y h y p o t h e s e s : ( 8 1 ) A l l t h i n g s h a v e ( o r l n s t a n t i a t e ) P r o g r a m s . ( 8 2 ) P r o g r a m m i n g p r e c l u d e s s e m a n t i c s . E a c h o f t h e s e t h e s e s f i n d s s o m e s u p p o r t ( a l b e i t e q u i v o c a l ) i n S e a r l e ’ s w r i t i n g s . i t t u r n s o u t t h a t e i t h e r o f t h e s e s u p p l e m e n t a r y a s s u m p t i o n s y i e l d s v a l i d a r g u m e n t s 8 . P o s s i b l e m o d a l c o n s t r u a l s w i l l b e c a n v a s s e d i n C h a p t e r 3 . s u b s e c t i o n 4 . 2 , b e l o w . 1 0 6 ( i n c o n j u n c t i o n w i t h A 1 - A 3 ) f o r C 1 . H o w e v e r , a s s u m p t i o n o f b o t h S 1 a n d $ 2 ( i n c o n j u n c t i o n w i t h A 2 ) w o u l d e n t a i l t h a t n o t h i n g h a s a m i n d o r a n y m e n t a l p r o p e r t i e s a t a l l - - a c o n c l u s i o n w h i c h , i f n o t u n a c c e p t a b l e s i m p l i c i t e r ( i f e l i m i n a t i v i s m i s n o t s i m p l y u n t h i n k a b l e ) , m u s t s u r e l y b e u n a c c e p t a b l e t o S e a r l e . B o t h o f t h e s e s u g g e s t e d s u p p l e m e n t a r y h y p o t h e s e s , S 1 a n d $ 2 , s e e m w i l d l y i m p l a u s i b l e o n t h e i r f a c e s ; t h o u g h i n s o f a r a s f u n c t i o n a l i s t s c o m m i t t h e m s e l v e s t o S 1 ( i n s o f a r a s t h e n o t i o n s o f p r o g r a m s a n d h a v i n g p r o g r a m s d o e s n o t d i s t i n g u i s h b e t w e e n t h e s e n s e i n w h i c h c o m p u t e r s - a n d p e r h a p s n e r v o u s s y s t e m s - - i m p l e m e n t p r o g r a m s a n d t h e s e n s e i n w h i c h a n y s y s t e m w h a t s o e v e r c a n b e c h a r a c t e r i z e d a s i n s t a n t i a t i n g p r o g r a m s ) , S e a r l e ’ s B S A i n c o n j u n c t i o n w i t h S 1 c o m p r i s e s a n e f f e c t i v e a d h o m i n e m r e j o i n d e r t o t h e f u n c t i o n a l i s t t h e s i s t h a t m i n d s a r e p r o g r a m s o r t h a t s o m e p r o g r a m s c o n s t i t u t e o r s u f f i c e f o r m i n d . 3 . 2 A F o r m a l i z a t i o n o f B S A A s t h e p r e c e d i n g s e c t i o n s h o w e d C R A t o h a v e n o s u c h b r u t a l c o n s e q u e n c e s f o r A l ( p r o p e r l y u n d e r s t o o d ) a s S e a r l e h a d p r o m i n e n t l y a d v e r t i s e d , o u r p r e s e n t i n q u i r y a i m s t o s h o w t h a t C R A d o e s n o t p r o v i d e a s i m p l e a r g u m e n t ( v a l i d o n o b v i o u s a n d g e n e r a l l y a c c e p t e d p r i n c i p l e s ) a g a i n s t f u n c t i o n a l i s m . O n t h e o n e h a n d , S e a r l e ’ s u n s u p p l e m e n t e d B S A i s s i m p l y i n v a l i d a s s t a t e d ; o n t h e o t h e r , s u p p l e m e n t a r y h y p o t h e s e s w h i c h d o v a l i d a t e i n f e r e n c e s t o a n t i - f u n c t i o n a l i s t c o n c l u s i o n s ( g i v e n A 1 - A 3 ) , a n d w h o s e a t t r i b u t i o n t o S e a r l e i s n o t e n t i r e l y u n w a r r a n t e d , s e e m e i t h e r a b s u r d o r o b v i o u s l y f a l s e . I a d o p t t h e f o l l o w i n g d i c t i o n a r y f o r t h e o r p r e d i c a t e s o f S e a r l e ’ s a r g u m e n t : 1 0 7 i s a P r o g r a m i s f o r m a l ( s y n t a c t i c a l ) h a s s e m a n t i c s i s a m i n d P : F : S : A d : N o w , c o n s i d e r t h e f o l l o w i n g r e c o n s t r u c t i o n o f S e a r l e ’ s " b r u t a l l y s i m p l e " a r g u m e n t : ( A 1 ) ( x ) ( P x - F x ) P r o g r a m s a r e f o r m a l ( s y n t a c t i c ) . ( A Z ) ( x ) ( M x a S x ) M i n d s h a v e s e m a n t i c s . ( A 3 ) - ( x ) ( F x - S x ) F o r m ( s y n t a x ) d o e s n o t s u f f i c e f o r s e m a n t i c s . ( C l ) - ( x ) ( P x - M x ) P r o g r a m m i n g d o e s n o t s u f f i c e f o r m i n d . T h u s r e c o n s t r u c t e d t h e a r g u m e n t i s a d m i r a b l y s i m p l e , b u t i n v a l i d . A 3 - - b e i n g e q u i v a l e n t t o ( E i x ) ( F x & - S x ) - a s s e r t s t h a t s o m e f o r m a l t h i n g s o r f o r m a l i z a t i o n s l a c k s e m a n t i c s . T h i s i s u n d o u b t e d l y t r u e : u n i n t e r p r e t e d c a l c u l i p r e s e n t e d i n l o g i c c l a s s e s l a c k s e m a n t i c s , f o r i n s t a n c e . Y e t i t m i g h t s t i l l b e t h e c a s e , s i n c e t h e r e a r e f o r m a l i s m s ( e . g . , t h e a f o r e m e n t i o n e d u n i n t e r p r e t e d c a l c u l i ) w h i c h a r e n o t P r o g r a m s ( o r e v e n p r o g r a m s ) , t h a t a l l t h e f o r m a l i s m s t h a t a r e P r o g r a m s a l s o h a v e s e m a n t i c s a n d a r e m i n d s . T h i s i s g r a p h i c a l l y i l l u s t r a t e d b y t h e f o l l o w i n g V e n n d i a g r a m : F I G U R E 1 : I N V A L I D I T Y O F B S A P B S A { — — _ ~ — fi . . . . . l A 1 . ( X ) ( P x 4 F x ) ¥ § § § § x A 2 . ( x ) ( M x 4 S x ) a s s e s A 3 . - < x ) < F x - S x ) § 1 C l . - ( x ) ( P x 4 M x ) 1 0 8 3 . 3 S u p p l e m e n t a r y H y p o t h e s i s O n e : A l l T h i n g s l n s t a n t i a t e P r o g r a m s C o n s i d e r t h e s u p p l e m e n t a r y c l a i m , t h a t a l l t h i n g s i n s t a n t i a t e P r o g r a m s , r e p r e s e n t e d a s f o l l o w s : ( S i ) ( x ) P x C l e a r l y t h i s c l a i m , i t i t w e r e a c c e p t a b l e , w o u l d y i e l d a v a l i d a r g u m e n t a g a i n s t F U N i n c o n j u n c t i o n w i t h B S A ’ s o t h e r p r e m i s e s . ( C a l l B S A , t h u s s u p p l e m e n t e d . B S i A ) . 8 1 r u l e s o u t t h e s o r t o f c o u n t e r e x a m p i e s w h i c h w e r e s e e n t o i n v a l i d a t e t h e u n s u p p l e m e n t e d B S A . I f a l l t h i n g s h a v e P r o g r a m s , t h e n i t i s n o l o n g e r p o s s i b l e t h a t t h e f o r m a l i s m ( s ) w h i c h A 3 a s s e r t s l a c k s e m a n t i c s a r e n o t P r o g r a m s ; e r g o , t h e r e a r e P r o g r a m s w h i c h a r e n ’ t m i n d s , a s i l l u s t r a t e d b e l o w : F I G U R E 2 : V A L I D I T Y O F B S 1 A P B S A F T — ‘ T T — ‘ W A 1 . ( x ) ( P x - r F x ) x ” 1 3 * " ? A 2 . ( x ) ( M x a S x ) . . i s t . - = 2 A 3 . - ( x ) ( F x - S x ) x . . . . . ‘ 5 ‘ 3 . S 1 . ( x ) P x : " " i t s e e s : . c 1 . - ( x ) ( P x - M x ) S " s i s - ‘ 3 ! " i t s - s t - M . - . - . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . L _ _ . , . _ _ _ J F T h e r e i s a m p l e t e x t t o s u g g e s t t h a t S e a r l e h o l d s s o m e t h i n g l i k e 6 1 , s u c h a s t h e f o l l o w i n g : 1 0 9 j u s t a b o u t a n y s y s t e m h a s a l e v e l o f d e s c r i p t i o n w h e r e y o u c a n d e s c r i b e i t a s a d i g i t a l c o m p u t e r . Y o u c a n d e s c r i b e I t a s i n s t a n t i a t i n g a f o r m a l p r o g r a m . ( S e a r l e e t a l . 1 9 8 4 , p . 1 5 3 ) F r o m a m a t h e m a t i c a l p o i n t o f v i e w . a n y t h i n g w h a t e v e r c a n b e d e s c r i b e d a s I f i t w e r e a c o m p u t e r . A n d t h a t ’ s b e c a u s e i t c a n b e d e s c r i b e d a s i n s t a n t i a t i n g o r i m p l e - m e n t i n g a c o m p u t e r p r o g r a m . I n a n u t t e r l y t r i v i a l s e n s e , t h e p e n t h a t i s o n t h e d e s k i n f r o n t o f m e c a n b e d e s c r i b e d a s a d i g i t a l c o m p u t e r . I t j u s t h a p p e n s t o h a v e a v e r y b o r i n g c o m p u t e r p r o g r a m . T h e p r o g r a m s a y s : ' S t a y t h e r e . ’ N o w i n t h i s s e n s e . a n y t h i n g w h a t e v e r i s a d i g i t a l c o m p u t e r , b e c a u s e a n y t h i n g w h a t e v e r c a n b e d e s c r i b e d a s i m p l e m e n t i n g a c o m p u t e r p r o g r a m . . . ( 1 9 8 4 a , p . 3 6 ) N o r i s S e a r l e a l o n e i n h o l d i n g s u c h v i e w s , s t r a n g e t h o u g h t h e y s e e m o n t h e i r f a c e . I f f u n c t i o n a l i s m h o l d s t h a t m i n d i s t o b r a i n a s p r o g r a m i s t o h a r d w a r e i n t h i s " u t t e r l y t r i v i a l s e n s e " i n w h i c h " a n y t h i n g w h a t e v e r i s a d i g i t a l c o m p u t e r " ( S e a r l e 1 9 8 4 a , p . 3 6 ) , i t s e e m s S e a r l e d o e s h a v e t h e w h e r e w i t h a l f o r a v a l i d a r g u m e n t a g a i n s t f u n c t i o n a l i s m : B S 1 A , B S A s u p p l e m e n t e d b y S i . 9 O n t h e o t h e r h a n d i t i s s u r e l y r i g h t t o c o m p l a i n t h a t t h e s e n s e i n w h i c h p r o g r a m s a r e s u p p o s e d ( b y f u n c t i o n a l i s t s a n d o t h e r p a r t i s a n s o f A l ) t o c a u s e t h e t h i n g s w h i c h h a v e t h e m t o d i s p l a y m e n t a l p r o p e r t i e s c a n n o t j u s t b e i n t h i s u t t e r l y t r i v i a l s e n s e i n w h i c h t h e d i s k o n t h e s h e l f 9 . H e r b H a n d y p o i n t s o u t ( p e r s o n a l c o m m u n i c a t i o n ) t h a t S t y i e l d s a v a l i d a r g u m e n t f o r C i i n d e p e n d e n t l y o f A 1 , i n c o n j u n c t i o n w i t h A 2 a n d A 3 a l o n e . H e n d r y a l s o p o i n t s o u t t h a t r e p l a c i n g A 3 w i t h t h e w e a k e r ( 3 x ) - S x s t i l l y i e l d s a v a l i d a r g u m e n t ( a s s u m i n g S 1 a n d A 2 ) f o r C t . W h e t h e r t h e s e o b s e r v a t i o n s i m p u g n t h e r e c o n s t r u c t i o n o f S e a r l e ’ s a r g u m e n t s e t f o r t h h e r e o r e v i d e n c e i n s t e a d t h e l o g i c a l i m p e r s p l c u l t y o f S e a r l e ’ s a r g u m e n t ( a s i b e l i e v e ) d e p e n d s o n w h e t h e r m o r e p e r s p i c u o u s r e c o n s t r u c t i o n s a r e a v a i l a b l e . R e a s o n s f o r r e s i s t i n g H e n d r y ’ s s u g g e s t i o n t h a t S e a r l e ’ s A 3 s h o u l d b e r e n d e r e d ( x ) ( F x - - S x ) - - i t s e v i d e n t f a l s i t y a n d I n c o n s i s t e n c y w i t h o t h e r t h e s e s S e a r l e s e e m s t o h o l d - - a r e c o n s i d e r e d i n ‘ s u b s e c t i o n 3 . 4 , b e l o w . H e n d r y ’ s s u g g e s t i o n t h a t c o n c l u s i o n C l b e s i m i l a r l y s t r e n g t h e n e d t o ( x ) ( P x - - M x ) l i k e w i s e s e e m s o b j e c t i o n a b l e . N o t o n l y w o u l d t h i s s t r o n g e r c o n c l u s i o n n o t f o l l o w i f H e n d r y ’ s s u p p o s e d s t r e n g t h e n i n g o f A 3 i s n o t a d m i t t e d , b u t ( x ) ( P x - - M x ) l i k e ( x ) ( F x 4 - S x ) i s i n c o n s i s t e n t w i t h o t h e r c l a i m s S e a r l e s e e m s t o a c c e p t : ( x ) ( P x 4 - M x ) I n c o n j u n c t i o n w i t h S t ( w h i c h S e a r l e a p p a r e n t l y a c c e p t s ) e n t a i l s ( x ) - M x - - t i t e r s a r e n o m l n d s l - - w h i c h S e a r l e p l a i n l y d o e s n o t a c c e p t . H e n d r y n o t e s t h a t t h e c o n c l u s i o n - ( x ) ( P x - v M x ) - - w h i c h a s s e r t s t h a t a t l e a s t o n e p r o g r a m I s n o t a m i n d - - s e e m s t o o w e a k . I a g r e e , a n d a r g u e ( I n s u b s e c t i o n 3 . 5 . b e l o w ) t h a t t o a v o i d s u c h t r i v i a l l z a t l o n o f t h e c o n c l u s i o n t h e p r o g r a m s a t i s s u e n e e d t o b e u n d e r s t o o d t o b e , j u s t t h e ( p a r t i a l ) T u r i n g t e s t p a s s i n g p r o g r a m s o r a s u b s e t o f t h e s e . 1 1 0 i n s t a n t i a t e s S c h a n k ’ s S A M ( f o r i n s t a n c e ) , n o l e s s t h a n t h e c o m p u t e r r u n n i n g S A M . ‘ o S u r e l y n o o n e w h o c l a i m e d t h a t S A M u n d e r s t a n d s t h e s t o r i e s i t p a r a - p h r a s e s w o u l d m e a n t o s u g g e s t t h a t i t d o e s s o b y b e i n g i n s t a n t i a t e d o n a d i s k e t t e s i t t i n g o n a s h e l f ( m u c h l e s s b y b e i n g i n s t a n t i a t e d - i n t h e s e n s e o f b e i n g m a p p a b l e i n p r i n c i p l e o n t o i t - b y t h e s h e l f i t s e l f l ) ; t h e y m e a n t o s a y t h a t S A M u n d e r s t a n d s ( o r t h e c o m p u t e r r u n n i n g i t u n d e r s t a n d s ) w h e n i t i s r u n n i n g o r i n v i r t u e o f i t s e x e c u t i o n . T o k e e p B S A i n c o n j u n c t i o n w i t h S 1 f r o m b e i n g a l o g i c a l l y c o m p e l l i n g a r g u m e n t a g a i n s t f u n c t i o n a l i s m , t h e n , t h e f u n c t i o n a l i s t n e e d s t o d i s t i n g u i s h i m p l e m e n t i n g ( i . e . , r u n n i n g o r e x e c u t i n g ) a p r o g r a m f r o m m e r e l y i n s t a n t i a t i n g o n e i n t h e m a t h e m a t i c a l s e n s e i n w h i c h , O n t h e s t a n d a r d t e x t b o o k d e f i n i t i o n o f c o m p u t a t i o n . 1 . F o r a n y o b j e c t t h e r e i s s o m e d e s c r i p t i o n o f t h a t o b j e c t s u c h t h a t u n d e r t h a t d e s c r i p t i o n t h e o b j e c t i s a d i g i t a l c o m p u t e r . 2 . F o r a n y p r o g r a m t h e r e i s s o m e s u f f i c i e n t l y c o m p l e x o b j e c t s u c h t h a t t h e r e i s s o m e d e s c r i p t i o n o f t h e o b j e c t u n d e r w h i c h i t i s I r n p i e m e n t l n g t h e p r o g r a m . ( S c a l e 1 9 9 0 c . p . 2 6 - 2 7 ) Y e t m a n y ( a n d p e r h a p s m o s t ) c o g n i t i v i s t s a n d f u n c t i o n a l i s t s i n s i s t t h a t t h e s e n s e o f " i n s t a n t i a t i n g a p r o g r a m " t h e y h a v e i n m i n d i s j u s t t h e m a t h e m a t i c a l s e n s e . E . g . , P h i l i p J o h n s o n - L a i r d a s s e r t s : C o g n i t i v e s c i e n c e t r i e s t o e l u c i d a t e t h e w o r k i n g s o f t h e m i n d b y t r e a t i n g t h e m a s c o m p u t a t i o n s , n o t n e c e s s a r i l y o f t h e s o r t c a r r i e d o u t b y t h e f a m i l i a r d i g i t a l c o m p u t e r , b u t o f a s o r t t h a t l i e s w i t h i n t h i s b r o a d e r f r a m e w o r k o f t h e t h e o r y o f c o m p u t a t i o n . ( J o h n s o n - L a i r d 1 9 8 8 , p . 9 ) 1 0 . S A M i s t h e a c r o n y m o f S c h a n k a n d A b e l s o n ’ s " S c r i p t A p p l i e r M e c h a n i s m " ( S c h a n k 8 1 A b e l s o n 1 9 7 7 ) , t h e s t o r y u n d e r s t a n d i n g p r o g r a m S e a r l e i s s u p p o s e d t o b e i m p l e m e n t i n g ( b y h a n d t r a c i n g ) i n t h e C h i n e s e r o o m t h o u g h t e x p e r i m e n t . ( C h a p t e r 3 , n o t e 2 , p r o v i d e s a f u l l e r d e s c r i p t i o n o f S A M . ) 1 1 1 S i n c e v i r t u a l l y e v e r y t h i n g i n s t a n c e s p r o g r a m s i n t h e m a t h e m a t i c a l s e n s e , i f t h i s w a y o f i n s t a n c i n g p r o g r a m s i s w h a t f u n c t i o n a l i s m h o l d s c o n s t i t u t e s o r s u f f i c e s f o r m i n d ( a n d c o g n i t i v i s m t a k e s t o e x p l a i n m e n t a l p h e n o m e n a ) i t i s c l e a r t h a t c o g n i t i v i s t s a n d f u n c t i o n a l i s t s h o u l d f i n d S e a r l e ’ s a r g u m e n t a s d i s c o n c e r t i n g a s m a n y h a v e . T h e s i l l i n e s s w e h a v e f o u n d b o t h t e x t u a l g r o u n d s a n d a l o g i c a l n e e d ( t o v a l i d a t e a n t i f u n c t i o n a l i s t c o n c l u s i o n C 1 ) t o i m p u t e t o S e a r l e - - t h i s a n e m i c u n d e r s t a n d i n g o f " b e i n g p r o g r a m m e d " o r " h a v i n g a p r o g r a m " w h i c h u n d e r w r i t e s S 1 - - i s n o t o r i g i n a l t o S e a r l e . R a t h e r , i t s e e m s a s t a p l e o f f u n c t i o n a l i s t t h o u g h t a n d c o g n i t i v i s t l i t e r a t u r e a n d e f f o r t s t o s p e c i f y a m o r e r o b u s t s e n s e o f " b e i n g p r o g r a m m e d " o r " h a v i n g a p r o g r a m " ( e . g . , D e n n e t t 1 9 8 7 b , G o e l 1 9 9 1 ) - - i n w h i c h r u n n i n g c o m p u t e r s h a v e t h e p r o g r a m s t h e y ’ r e r u n n i n g b u t t h e d i s k o n t h e s h e l f a n d t h e s h e l f i t s e l f d o n o t - h a v e b e e n f e w a n d h a l t i n g . S 1 i s s i l l y , a n d p e r h a p s i t n e e d s t o b e i m p u t e d t o S e a r l e t o v a l i d a t e h i s a n t i - f u n c t i o n a l i s t a r g u m e n t ( a s i a m h e r e p r o p o s i n g ) ; b u t t h i s c h a r g e o f s i l l i n e s s i s o f n o a v a i l t o t h e f u n c t i o n a l i s t a g a i n s t S e a r l e ’ s c o u n t e r a r g u m e n t i f i t i s a p i e c e o f s i l l i n e s s b u i l t i n t o f u n c t i o n a l i s t d o c t r i n e i t s e l f . U n l e s s f u n c t i o n a l i s m s p e c i f i e s a n a p p r o p r i a t e l y r o b u s t s e n s e o f " p r o - g r a m m e d , " t h e i m p u t a t i o n o f s i l l i n e s s f a i l s , i n t h e f i r s t p l a c e , o n f u n c t i o n a l i s m i t s e l f a n d B S 1 A p r o v i d e s a c o m p e l l i n g a d h o m i n e m o r p o l e m i c a l r e f u t a t i o n o f f u n c t i o n a l i s m . 1 1 1 1 . S u b s e c t i o n 3 . 9 . b e l o w , e x p l i c a t e s t h e " s t a n d a r d t e x t b o o k d e f i n i t i o n " S e a r l e a l l e g e s ( r i g h t l y I t h i n k ) t o h a v e t h e s e c o n s e q u e n c e s . 1 1 2 3 . 4 S u p p l e m e n t a r y H y p o t h e s i s T w o : S y n t a x P r e c l u d e s S e m a n t i c s I n o w c o n s i d e r a n a l t e r n a t e w a y o f s u p p l e m e n t i n g B S A - - w i t h t h e c l a i m t h a t " h a v i n g a f o r m a l p r o g r a m a s s u c h d i s q u a l i f i e s a s y s t e m f r o m h a v i n g i n t e n t i o n a l s t a t e s " ( S a v i t t 1 9 8 2 , p . 3 4 2 ) . S i n c e i t i s s u p p o s e d , b y S e a r l e , t o b e t h e i r “ f o r m a l " o r " p u r e l y s y n t a c t i c " n a t u r e t h a t d i s q u a l i f i e s p r o g r a m s f o r c a u s i n g m e n t a l p h e n o m e n a I p r o p o s e t h e f o l l o w i n g ( i n d i r e c t ) r e n d e r i n g o f S a v i t t ’ s " u n o f f i c i a l t h e s i s " : " “ ( S Z ) S y n t a x p r e c l u d e s s e m a n t i c s . T h o u g h t h e t e x t u a l e v i d e n c e t h a t S e a r l e a c t u a l l y h o l d s t h i s " u n o f f i c i a l t h e s i s " ( S a v i t t 1 9 8 2 , p . 3 4 2 ) i s e q u i v o c a l ( a s w e s h a l l s e e ) , i t i s n o t h a r d t o d i s c o v e r . M o s t n o t a b l y , t h e r e i s t h e f o l l o w i n g : I f w e k n e w i n d e p e n d e n t l y h o w t o a c c o u n t f o r [ a n y s y s t e m ’ s , e v e n a n i n t e l l i g e n t a c t i n g r o b o t ’ s ] b e h a v i o r w i t h o u t s u c h a s s u m p t i o n s [ o f m e n t a l p r o p e r t i e s ] w e w o u l d n o t a t t r i b u t e i n t e n t i o n a l i t y t o i t . a s s o o n a s w e k n e w t h a t t h e b e h a v i o r [ o f a n i n t e l l i g e n t a c t i n g r o b o t ] w a s t h e r e s u l t o f a f o r m a l p r o g r a m w e w o u l d a b a n d o n t h e a s s u m p t i o n o f i n t e n t i o n a l i t y . ( S e a r l e 1 9 8 0 a , p . 4 2 1 ) T h o u g h , i n r e s p o n s e t o S a v i t t ’ s i m p u t a t i o n o f t h i s " u n o f f i c i a l t h e s i s " S e a r l e d i s m i s s i v e l y r e m a r k s , " l o b v i o u s l y d o n ’ t h o l d a n y s u c h v i e w " a s " t h a t a n y s y s t e m t h a t h a d a n y p r o g r a m a t a l l w o u l d t h e r e b y b e d i s q u a l i f i e d f r o m h a v i n g i n t e n t i o n a l s t a t e s " ( S e a r l e 1 9 8 2 c , p . 3 4 7 ) , t h i s d e n i a l i s i t s e l f e q u i v o c a l . i t s e e m s p o s s i b l e - - a n d e v e n c h a r i t a b l e , i n t h a t i t r e c o n c i l e s t h e s e s e e m i n g l y c o n f l i c t i n g p a s s a g e s - - t o t a k e S e a r l e t o h o l d t h a t , w h i l e h a v i n g j u s t a n y p r o g r a m a t a l l d o e s n ’ t d i s q u a l i f y 1 2 . T h e d i r e c t a l t e r n a t i v e , ( x ) ( P x 4 - S x ) , i s c a n v a s s e d i n C h a p t e r 3 , s u b s e c t i o n 4 . 3 , b e l o w . 1 1 3 a s y s t e m f r o m h a v i n g i n t e n t i o n a l s t a t e s , h a v i n g a p r o g r a m t h a t m a k e s i t d i s p l a y i n t e l l i g e n t s e e m i n g b e h a v i o r d o e s . T h o u g h i t i s d i f f i c u l t t o s e e h o w t o s q u a r e t h i s c l a i m w i t h S e a r l e ' s m o r e r e c e n t c o n t e n t i o n t h a t " p r o g r a m s h a v e n o p h y s i c a l , c a u s a l p r o p e r t i e s " ( S e a r l e 1 9 9 0 a , p . 2 7 ) i t i s c o n s i s t e n t w i t h c o m m e n t s S e a r l e m a k e s i n c o n n e c t i o n w i t h h i s o r i g i n a l c l a i m t h a t k n o w i n g s o m e b e h a v i o r r e s u l t e d f r o m p r o g r a m m i n g w o u l d m a k e u s a b a n d o n t h e a s s u m p t i o n o f i n t e n t i o n - a l i t y : " I f w e k n e w i n d e p e n d e n t l y h o w t o a c c o u n t f o r [ a s y s t e m s ] b e h a v i o r w i t h o u t s u c h a s s u m p t i o n s [ o f i n t e n t i o n a l i t y ] w e w o u l d n o t a t t r i b u t e i n t e n t i o n a l i t y t o i t " ( 1 9 8 0 a , p . 4 2 1 ) . S o i t s e e m s i t ’ s o n l y h a v i n g s o m e t h i n g l i k e a T u r i n g t e s t p a s s i n g p r o g r a m t h a t a c t u a l l y c a u s e s a s y s t e m ’ s i n t e l l i g e n t s e e m i n g b e h a v i o r w h i c h , f o r S e a r l e , d i s q u a l i f i e s a s y s t e m f r o m h a v i n g t h e s e m a n t i c s ( o r i n t e n t i o n a l m e n t a l p r o p e r t i e s ) i t s b e h a v i o r s e e m s t o e v i d e n c e . T h i s w a y o f s u p p l e m e n t i n g B S A ( w i t h $ 2 ) , l i e t h e p r e c e d i n g w a y ( w i t h S 1 ) , i t s e e m s , i s u l t i m a t e l y g o i n g t o t h r o w u s b a c k o n t h e f o l l o w i n g q u e s t i o n : W h a t p r o g r a m s a n d w h a t m a n n e r o f h a v i n g t h e m s h o u l d t h e f u n c t i o n a l i s t b e u n d e r s t o o d t o b e c l a i m i n g s u f f i c e f o r o r c o n s t i t u t e m e n t a l s t a t e s ? D e f e r r i n g c o n s i d e r a t i o n o f t h e s e o v e r a r c h i n g q u e s t i o n s , l e t u s f o r m a l i z e 8 2 a s f o l l o w s : ( 8 2 ) ( x ) ( S x 4 - F x ) N o w B S A , i n c o n j u n c t i o n w i t h 8 2 , g i v e n t h e u n c o n t r o v e r s i a l p r e s u p p o s i t i o n t h a t s o m e t h i n g s h a v e p r o g r a m s , ( P 1 ) ( 3 x ) P x ' . ' . ' . ' . ' - ' . ' . ' . ' . ' . ‘ - ' - ' - ' - N 1 1 4 y i e l d s a v a l i d a r g u m e n t ( B S Z A ) f o r c o n c l u s i o n C 1 ( a s F i g u r e 3 s h o w s ) . S i n c e a s s u m i n g 8 2 a n d P 1 o b v i a t e s t h e n e e d f o r A 3 t o v a l i d a t e t h e e n t a i l m e n t o f C 1 , i w i l l t a k e t h e s e t o r e p l a c e A 3 i n t h e n e w , s u p p l e m e n t e d a r g u m e n t . F I G U R E 3 : V A L I D I T Y O F B S Z A B S A A l . ( x ) ( P x 4 F x ) A 2 . ( x ) ( M x 4 S x ) S Z . ( x ) ( F x 4 - S x ) P 1 . ( 3 x ) P x 1 C 1 . - ( x ) ( P x 4 M x ) T h e r e a r e s e v e r a l p o i n t s o f i n t e r e s t , i t h i n k , a b o u t t h i s d e r i v a t i o n a n d t h e p r e m i s e 8 2 i t a s s u m e s . 1 3 F i r s t , 8 2 , l i k e S 1 i s i m p l a u s i b l e o n i t s f a c e : S 1 s e e m e d a b s u r d ; $ 2 i s j u s t o b v i o u s l y f a l s e . i f b e i n g a f o r m a l i s m ( b e i n g s y n t a c t i c o r h a v i n g s y n t a x ) p r e c l u d e d h a v i n g i n t e n t i o n a l c o n t e n t o r m e a n i n g o r s e m a n t i c s E n g l i s h s e n t e n c e s c o u l d n o t h a v e m e a n i n g s ( s i n c e E n g l i s h h a s s y n t a x ) . S e c o n d , t h e a s s u m p t i o n o f b o t h S 1 1 3 . I a g r e e w i t h H e n d r y ( p e r s o n a l c o m m u n i c a t i o n ) t h a t t h i s s u p p l a n t i n g o f A 3 s e e m s c o n t r a r y t o S e a r l e ’ s u n d e r s t a n d i n g o f h i s o w n a r g u m e n t ( c o n t r a r y t o t h e p u r p o r t e d r e l a t i o n o f s u p p o r t b y t h e e x p e r i m e n t ( C R E ) f o r t h e a l l e g e d l y c r u c i a l p r e m i s e A 3 ) . B u t n o t e . t h i s i s n o t t h e o n l y o d d i t y a b o u t A 3 a n d t h e s u p p o r t s u p p o s e d l y p r o v i d e d f o r i t b y t h e C R E . O n e f u r t h e r o d d i t y i n t h i s c o n n e c t i o n i s t h i s : t h e o c c u p a n t o f t h e C h i n e s e r o o m s e e m s t o e x e m p l i f y n o t m e r e l y a f o r m a l i s m w i t h o u t s e m a n t i c s . b u t - - m o r e d i r e c t l y - - t o i n s t a n t i a t e a p r o g r a m y e t l a c k s e m a n t i c s : C R E p r o v i d e s m o r e d i r e c t a n d c o m p e l l i n g w a r r a n t f o r c o n c l u s i o n C i t h a n f o r t h e p r e m i s e A 3 S e a r l e c l a i m s C R E s u p p o r t s . T h e s e i s s u e s a r e t a k e n u p i n C h a p t e r 3 , s u b s e c t i o n 4 . 3 , b e l o w . 1 1 5 a n d $ 2 i n c o n j u n c t i o n w i t h A 2 e n t a i l s t h e r e i s n o m e a n i n g a n d a r e n o m i n d s ( - ( E i x ) ( S x v M x ) ) l T h i s i s i l l u s t r a t e d b y t h e f o l l o w i n g : F I G U R E 4 : E L I M I N A T I V I S T C O N S E Q U E N C E S O F D O U B L Y S U P P L E M E N T I N G B S A B S l Z A A 1 . ( x ) ( P x 4 F x ) A 2 . ( x ) ( M x 4 S x ) _ S l . ( x ) P x E 5 2 . ( x ) ( F x 4 - S x ) I L E L . — ( 3 x ) ( S x v M x ) L i m i t a t i o n o f t h e p r o g r a m s u n d e r c o n s i d e r a t i o n t o j u s t t h e ( p a r t i a l ) T u r i n g t e s t p a s s i n g p r o g r a m s - - n e x t t o b e c o n s i d e r e d - - t u r n s o u t t o b e o f m u c h l e s s a v a i l f o r a v o i d i n g t h i s e l i m i n a t i v i s t o u t c o m e t h a n o n e m i g h t t h i n k . “ I t t u r n s o u t - - a s w e s h a l l s e e - - t h a t t h e s a m e p r i n c i p l e s w h i c h u n d e r w r i t e c l a i m s l i k e $ 1 , t o t h e e f f e c t t h a t e v e r y t h i n g i n s t a n t i a t e s s o m e p r o g r a m ( s ) , a n d , m o r e o v e r , t h a t " w e [ h u m a n s ] a r e i n s t a n t i a t i o n s o f a n y n u m b e r o f p r o g r a m s " ( S e a r l e 1 9 8 0 a , p . 4 2 2 ) , w o u l d a l s o s e e m t o u n d e r w r i t e c l a i m s t h a t a t l e a s t e v e r y m i d d l e s i z e o b j e c t i n s t a n t i a t e s s o m e ( p a r t i a l ) T u r i n g t e s t p a s s i n g p r o g r a m ( s ) , a n d t h a t w e h u m a n s l n s t a n t i a t e a n y n u m b e r o f s u c h ( p a r t i a l ) T u r i n g t e s t p a s s i n g p r o g r a m s . W h e t h e r o r n o t t h i s e l i m i n a t i v i s t o u t c o m e s u f f e r s f r o m p r a g m a t i c i n c o h e r e n c e a s s o m e ( e . g . , B a k e r 1 4 . l o w e t h i s " p a r t i a l T u r i n g t e s t " d e s i g n a t i o n t o J o n S t i c k l e n . 1 1 6 1 9 8 9 ) h a v e a l l e g e d , S e a r l e i s n o e l i m i n a t i v i s t : i t s e e m s S e a r l e c a n n o t h o l d b o t h 8 1 a n d 8 2 , b u t u n c b a r w h i c h , i f e i t h e r , h e d o e s h o l d . H a v i n g n o t e d t h i s p o s s i b l e i n c o n s i s t e n c y i n S e a r l e ’ s v i e w b e t w e e n h i s a f f i r m a t i o n s o f S t a n d $ 2 a n d h i s o b v i o u s b e l i e f t h a t s o m e t h i n g s ( e . g . , o u r s e l v e s ) r e a l l y h a v e m i n d s o r m e n t a l p r o p e r t i e s , a n d h a v i n g n o t e d t e x t s e e m i n g t o w a r r a n t i m p u t a t i o n t o S e a r l e o f b o t h S 1 a n d 8 2 , I c l o s e t h i s s e c t i o n b y n o t i n g a c o n s i d e r - a t i o n w h i c h m i g h t i n c l i n e u s t o w a r d o n e a l t e r n a t i v e r a t h e r t h a n t h e o t h e r , i f o n l y o n e o f t h e s e t w o s u p p l e m e n t a r y h y p o t h e s e s c a n b e m a i n t a i n e d ( o n p a i n o f e l i m i n a t i v i s m ) . T h e c o n s i d e r a t i o n i s t h i s : S 1 m a k e s a c l a i m t h a t m o s t f u n c t i o n a l i s t s a n d c o g n i t i v i s t s a c c e p t . T h u s , i f b o t h S 1 a n d 8 2 a r e i m p l a u s i b l e o n t h e i r f a c e s ( a n d s i n c e n e i t h e r B S 1 A n o r B S Z A , c o n s e q u e n t l y , s e e m t o b e s o u n d a r g u m e n t s a g a i n s t f u n c t i o n a l i s m ) , p e r h a p s w e ( o r r a t h e r S e a r l e ) s h o u l d f o r s a k e S 2 a n d m a i n t a i n S 1 t o m a k e a c o m p e l l i n g a d h o m i n e m c a s e a g a i n s t f u n c t i o n a l i s m ( a s w e h a v e s e e n t h a t B S 1 A d o e s ) . A s s u m i n g t h e s u p p l e m e n t a r y p r e m i s e S i m a k e s a v a l i d a r g u m e n t ( B S i A ) o u t o f S e a r l e ’ s B S A , t h e n f o r a n y o n e w h o a c c e p t s S t ( a l o n g w i t h A 1 - A 3 ) , a s f u n c t i o n a l i s t s s e e m w o n t t o d o , B S 1 A i s n o t o n l y v a l i d , b u t ( a s i t w e r e ) s o u n d a d h o m i n e m . 3 . 5 T h e M i n d s a n d P r o g r a m s a t I s s u e O n a l l a c c o u n t s ( e a r l i e r a n d l a t e r ) S e a r l e h a s s t r e s s e d t h e c e n t r a l i t y o f A 3 ; a n d i n d e e d , n o t o n l y w h e t h e r C 1 f o l l o w s f r o m A 1 - A 3 b u t , a l s o , h o w C i i s b e s t u n d e r s t o o d . s e e m s t o d e p e n d c r u c i a l l y o n w h a t w e u n d e r s t a n d A 3 t o c l a i m . A s h e p r e m i s e s t h a t s y n t a x " b y i t s e l f “ i s “ n e t h e r c o n s t i t u t i v e n o r s u f f i c i e n t f o r " 1 1 7 s e m a n t i c s ( 1 9 9 0 3 ) , S e a r l e l i k e w i s e c o n c l u d e s t h a t p r o g r a m s " b y t h e m s e l v e s " ( 1 9 8 9 b ) a r e " n e i t h e r c o n s t i t u t i v e o r n o r s u f f i c i e n t f o r m i n d s " ( 1 9 9 0 3 ) . G i v e n t h e c l o s e p a r a l l e l b e t w e e n t h e c r u c i a l p r e m i s e A 3 , a n d t h e a n t i - f u n c t i o n a l i s t c o n c l u s i o n C 1 a p l a u s i b l e c o n j e c t u r e i s t h a t w h a t e v e r s e n s e " n e i t h e r c o n s t i t u t i v e n o r s u f f i c i e n t " b e a r s i n A 3 m u s t b e t h e s a m e a s i t b e a r s i n C 1 . B u t t h e d i f f i c u l t y w i t h t h i s c o n j e c t u r e i s t h a t S e a r l e c l a i m s t h a t A 3 i s " a c o n c e p t u a l t r u t h " ( 1 9 8 4 a , p . 3 9 ) o r " a l o g i c a l t r u t h " ( 1 9 9 0 c , p . 2 1 ) o r “ t r u e b y d e f i n i t i o n " ( 1 9 9 0 3 ) w h i l e t h e t h e s i s o f f u n c t i o n a l i s m ( w h i c h C 1 p u r p o r t s t o d e n y ) i s n o t g e n e r a l l y u n d e r s t o o d , b y i t s p r o p o n e n t s a s a c o n c e p t u a l c l a i m , b u t a s a n e m p i r i c a l o n e . T h u s , w h a t F U N c l a i m s , a n d C 1 m u s t d e n y i s t h a t c e r t a i n p r o g r a m s a r e c a u s a l l y s u f f i c i e n t f o r m i n d ; a n d t h e p r o b l e m i s t o u n d e r s t a n d h o w t h e l o g i c a l i n s u f fi c i e n c y o f s y n t a x t o d e t e r m i n e s e m a n t i c s i s s u p p o s e d t o e n t a i l ( g i v e n A 1 & A 2 ) t h e c a u s a l i n s u f f i c i e n c y o f p r o g r a m s f o r m i n d s o r t h i n k i n g . H e a t i n g w a t e r a t s e a l e v e l u n d e r o n e a t m o s p h e r i c p r e s s u r e t o 1 0 0 ° C , e . g . , i s n o t l o g i c a l l y s u f f i c i e n t f o r b o i l i n g i t : n o n e t h e l e s s , i t c a u s a l l y s u f f i c e s . E v e n i f w e a c c e p t S e a r l e ’ s c l a i m t h a t s y n t a x d o e s n o t l o g i c a l l y s u f f i c e f o r s e m a n t i c s i t n o m o r e f o l l o w s f r o m t h i s t h a t s y n t a x d o e s n ’ t c a u s a l l y s u f f i c e f o r s e m a n t i c s t h a n i t f o l l o w s f r o m t h e l o g i c a l p o s s i b i l i t y o f w a t e r a t s e a l e v e l U n d e r o n e a t m o s p h e r i c p r e s s u r e n o t b o i l i n g a t 1 0 0 ' C t h a t h e a t i n g w a t e r t o t h i s t e m p e r a t u r e u n d e r t h e s e c o n d i t i o n s w o n ’ t c a u s a l l y s u f f i c e f o r b o i l i n g i t . i n t h i s l i g h t , t h e n , c o n s i d e r B S A ’ s w o u l d - b e a n t i - f u n c t i o n a l i s t c o n c l u s i o n C 1 . T h i s c o n c l u s i o n , a c c o r d i n g t o S e a r l e s h o u l d b e u n d e r s t o o d t o b e c l a i m i n g , " i t i s n o t t h e c a s e t h a t ( n e c e s s a r i l y ( p r o g r a m i m p l i e s m i n d ) ) " ( S e a r l e 1 9 8 9 3 , p . 7 0 3 ) . T o b e d i r e c t e d a g a i n s t f u n c t i o n a l i s m ( w h i c h f u n c t i o n a l i s t s h o l d t o b e a n e m p i r i c a l 1 1 8 d o c t r i n e ) , a s j u s t r e m a r k e d , I s u p p o s e t h a t w e m u s t u n d e r s t a n d “ n e c e s s a r i l y " h e r e t o s i g n i f y c a u s a l o r p e r h a p s m e t a p h y s i c a l “ n e c e s s i t y . T h e c l o s e s t n o n m o d a l a p p r o x i m a t i o n o f t h i s . i t a k e i t , i s o u r r e c o n s t r u c t e d C 1 a b o v e : - ( x ) ( P x 4 M x ) . “ O n e n o t a b l e t h i n g a b o u t C 1 t h u s c o n s t r u e d ( a n d a g a i n , m u c h t h e s a m e c o u l d b e s a i d o f A 3 , a s w e s h a l l s e e ) , i s t h a t C i t h u s f o r m u l a t e d s e e m s t o o o b v i o u s l y t r u e t o n e e d s u p p o r t i n g a r g u m e n t . C o n s i d e r , e . g . , t h e f o l l o w i n g B A S I C p r o g r a m ( P R O ) : 1 . G o t o 2 2 . G o t o l I t w o u l d b e s u r p r i s i n g i f a n y o n e t h o u g h t t o a t t r i b u t e a n y m e n t a l s t a t e s t o t h e i r c o m p u t e r o n t h e b a s i s o f i t s e x e c u t i o n o f P R O : n o p r o p o n e n t o f A l ( t h a t I k n o w o f ) h a s p r o p o s e d t h a t a n y a n d e v e r y p r o g r a m s u f f i c e s ( u p o n e x e c u t i o n ) t o e n d o w t h e c o m p u t e r e x e c u t i n g i t w i t h m e n t a l a t t r i b u t e s . B u t i f e v e r y o n e a g r e e s a b i n i t i o t h a t s o m e p r o g r a m s , e . g . , P R O , d o n o t e n d o w t h e m a c h i n e s t h a t e x e c u t e t h e m w i t h a n y m e n t a l a t t r i b u t e s w h a t s o e v e r ; t h e n , s i n c e ( 3 x ) ( P x & - M x ) i s l o g i c a l l y e q u i v a l e n t t o - ( x ) ( P x 4 M x ) , i t s e e m s w e h a v e a c o n c l u s i o n n o f u n c t i o n a l i s t ( o r a n y o n e e l s e ) w o u l d c a r e t o d i s p u t e . I t w o u l d s e e m - i f w e r e a d h i m t h i s w a y - t h a t S e a r l e ’ s c o n c l u s i o n d o e s n o t t e l l a g a i n s t f u n c t i o n a l i s m o r a n y o t h e r d o c t r i n e t h a t a n y o n e a c t u a l l y h o l d s . I t s e e m s w e n e e d t o r e s t r i c t P t o , s a y , a l l a n d o n l y p r o g r a m s w h i c h 1 5 . P e r h a p s T u r i n g m a c h i n e f u n c t i o n a l i s m c a n b e c o n s t r u e d a s a n e s s e n t i a l i s t d o c t r i n e ( c f . P u t n a m 1 9 7 6 ) p r o p o s i n g t h a t t h e " m i c r o s t r u c t u r e " c o n s t i t u t i v e o f m i n d s i s c o m p u t a t i o n a l l y s p e c i f i a b l e ; t h a t d e c o m p o s i t i o n o f m e n t a l p r o c e s s e s i n t o e l e m e n t a r y d a t a p r o c e s s e s ( a s w i t h T u r i n g m a c h i n e s p e c i f i c a t i o n s ) a m o u n t s t o c h a r a c t e r i z a t i o n o f t h e i r e s s e n t i a l " i n t e r n a l s t r u c t u r e . " 1 6 . I c o n s i d e r a n a l t e r n a t i v e m o d a l r e c o n s t r u c t i o n o f S e a r l e ’ s c o n c l u s i o n . D - ( x ) ( P x 4 M x ) ( u n d e r s t a n d i n g ’ 0 ’ t o s i g n i f y m e t a p h y s i c a l o r t e m p o r a l o r c a u s a l n e c e s s i t y ) , I n t h e n e x t c h a p t e r ( s u b s e c t i o n 4 . 2 ) . 1 1 9 " s a t i s f y t h e T u r i n g t e s t " ( 1 9 8 9 3 , p . 7 0 2 ) ( m a k i n g C 1 t h e d e n i a l o f a r e c o g n i z a b l y b e h a v i o r i s t c l a i m ) o r a l l a n d o n l y p r o g r a m s w h i c h " s a t i s f y t h e T u r i n g t e s t " b y t h e r i g h t p r o c e d u r e ( m a k i n g C 1 d e n y a r e c o g n i z a b l y f u n c t i o n a l i s t c l a i m ) t o s a v e i t f r o m o b v i o u s n e s s a n d t r i v i a l i t y . N o t e t h a t t h i s d o e s n o t a d v e r s e l y a f f e c t t h e a c c e p t a b i l i t y o f A 1 : i f a l l p r o g r a m s a r e f o r m a l o r s y n t a c t i c , t h e n s o , o b v i o u s l y , a r e a l l t h e T u r i n g t e s t p a s s i n g o n e s . N o w i f ( a l l ) m i n d s a r e p r o g r a m s , t h e n ( a s s u m i n g t h e r e a r e m i n d s ) , s o m e p r o g r a m s a r e m i n d s . A n d i f t h e p r o g r a m s t h a t a r e m i n d s a r e s u p p o s e d , b y f u n c t i o n a l i s t s , t o b e o n l y t h o s e t h a t p a s s t h e T u r i n g T e s t , a n d o n l y a r e s t r i c t e d c l a s s o f t h o s e , l e t u s u n d e r s t a n d " p r o g r a m " i n S e a r l e ’ s a r g u m e n t t o r e f e r t o j u s t t h e s e p a r t i a l T u r i n g t e s t p a s s i n g p r o g r a m s : t h e p r o g r a m s i n q u e s t i o n , t h e n w o u l d s e e m t o b e o n l y ( s o m e o f ) t h o s e w h i c h , w h e n i m p l e m e n t e d , s u f f i c e t o m a k e t h e i m p l e m e n t i n g s y s t e m b e h a v e a s i f i t h a d c e r t a i n m e n t a l p r o p e r t i e s ; a s a s l a v e o f E r o s t h e n e s p r o g r a m b e h a v e s a s i f i t w e r e s e a r c h i n g f o r p r i m e n u m b e r s , a s t h e p r o g r a m o f m y p o c k e t c a l c u l a t o r b e h a v e s a s i f i t c a l c u l a t e s s u m s , p r o d u c t s a n d r e m a i n d e r s , a s D O S b e h a v e s a s i f i t r e c o g n i z e s t h e d i r c o m m a n d , e t c . I t i s j u s t s u c h P r o g r a m s a s t h e s e , 1 7 o r t h e m a c h i n e s t h a t i m p l e m e n t s u c h P r o g r a m s , w h o s e m e n t a l p r o p e r t i e s a r e a t i s s u e . S i m i l a r l y , s o m e t e r m i n o l o g i c a l c l a r i f i c a t i o n i s n e c e s s a r y w i t h r e g a r d t o S e a r l e ' s u s e - - w h i c h I h a v e f o l l o w e d - - o f t h e t e r m " m i n d " i n t h e s e d i s c u s s i o n s ; w h i c h p e r t a i n s t o m y c h a r a c t e r i z a t i o n o f p a r t i a l T u r i n g t e s t p a s s i n g p r o g r a m s a s t h o s e a t i s s u e . " M i n d " i s b e i n g u s e d h e r e , i n C R A a n d a t t e n d a n t d i s c u s s i o n , t o 1 7 . L e , t h e s u b s e t o f p r o g r a m s I p r e v i o u s l y d i s t i n g u i s h e d a s " P r o g r a m s " ( w i t h a c a p i t a l ‘ P ’ ) . 1 2 0 " a b b r e v i a t e " s o m e t h i n g l i k e “ m e n t a l p r o c e s s e s " ( S e a r l e 1 9 8 4 a , p . 3 9 ) ; s o t h a t " b r a i n s c a u s e m i n d s " i s s u p p o s e d t o a b b r e v i a t e , o r i s b e i n g u s e d " a s a s l o g a n " ( S e a r l e e t a l . 1 9 8 4 , p . 1 5 3 ) f o r s o m e t h i n g l i k e “ t h e b r a i n c a u s e s m e n t a l s t a t e s " ( S e a r l e e t a l . 1 9 8 4 , p . 1 5 3 ) o r " m e n t a l p r o c e s s e s a r e c a u s e d b y p r o c e s s e s g o i n g o n i n s i d e t h e b r a i n " ( S e a r l e 1 9 8 4 a , p . 3 9 ) . B y t h e s a m e t o k e n , t h e n " P r o g r a m s a r e n o t ( c o n s t i t u t i v e o f o r s u f fi c i e n t f o r ) m i n d s " s h o u l d b e u n d e r s t o o d t o a b b r e v i a t e o r b e a s l o g a n f o r s o m e t h i n g l i k e " P r o g r a m s a r e n o t ( c o n s t i t u t i v e o f o r s u f f i c i e n t f o r ) m e n t a l p r o p e r t i e s . " T h i s m e a n s t h a t t h e h o l i s t i c c o n n o t a t i o n s o f " m i n d " a r e n o t s u p p o s e d t o b e f i g u r i n g i n S e a r l e ’ s a r g u m e n t - - t h o u g h h e s o m e t i m e s s e e m s t o i n v o k e t h e m i n s u p p o r t i n g d i s c u s s i o n ( e . g . , S e a r l e 1 9 8 3 , p . 8 ) . C R A , a c c o r d i n g t o S e a r l e ’ s a v o w e d u s e o f " m i n d , " s h o u l d n o t d e p e n d o n h o l i s t i c a p p e a l s t o t h e u n i t y o r u n i v e r s a l p o w e r s o f m i n d s . T h i s p r o v i s o , j u s t s c o u t e d , c o n c e r n i n g h o w " m i n d " i s t o b e u n d e r s t o o d i n S e a r l e ’ s d i s c u s s i o n s , r e f l e c t s b a c k i n t u r n o n o u r p r o p o s e d u n d e r s t a n d i n g o f " P r o g r a m " a s s o m e t h i n g l i k e " T u r i n g t e s t p a s s i n g p r o g r a m " : i t m e a n s t h a t t h e T u r i n g t e s t p a s s i n g i n q u e s t i o n c o n c e r n s w h a t h a v e b e e n c a l l e d " p a r t i a l T u r i n g t e s t s " o f s p e c i f i e d m e n t a l p r o p e r t i e s o r a b i l i t i e s ( e . g . , D O S ‘ s r e c o g n i t i o n o f t h e p r i n t c o m m a n d ) a n d n o t t h e f u l l T u r i n g t e s t ( d e s c r i b e d i n T u r i n g 1 9 5 0 ) o f w h e t h e r a s y s t e m r e s e m b l e s a p e r s o n i n a l l ( c o n v e r s a t i o n a l l y d i s t i n g u i s h a b l e ) m e n t a l r e s p e c t s . ' U n l i k e t h e r e s t r i c t i o n o f t h e t e r m " p r o g r a m " a s i t fi g u r e s i n t h e s e d i s c u s s i o n s t o T u r i n g t e s t p a s s i n g p r o g r a m s , h o w e v e r , w h i c h d i d n ’ t a f f e c t t h e t r u t h o f A 1 , t h e a l l o w a n c e t h a t " m i n d " i s t o b e u n d e r s t o o d t o m e a n " m e n t a l p r o p e r t y “ d o e s a f f e c t t h e t r u t h o f t h e p r e m i s e A 3 . P e r h a p s a l l m i n d s ( i n t h e u s u a l s e n s e i n 1 2 1 w h i c h a m i n d i s s o m e t h i n g l i k e a s y s t e m o f i n t e r c o n n e c t e d m e n t a l p r o p e r t i e s o r s t a t e s ) h a v e s e m a n t i c s o r i n t e n t i o n a l i t y ; b u t i t s e e m s n o t a l l m e n t a l s t a t e s ( t a k e n i n i s o l a t i o n ) d o . i t s e e m s m o s t p l a u s i b l e t o t h i n k t h a t m e n t a l s t a t e s l i k e u n d i f f e r e n t i - a t e d a n x i e t y a n d ( p e r h a p s ) p a i n - w h i c h a r e d i s t i n g u i s h e d c h i e f l y , p e r h a p s , b y t h e i r e x p e r i e n t i a l o r " q u a l i t a t i v e " c o n t e n t s - - a r e n o t r e f e r e n t i a l ( i n t e n t i o n a l o r s e m a n t i c a l l y c o n t e n t f u l ) s t a t e s a t a l l . B u t p e r h a p s t h i s d o e s n o t h i n g m u c h t o d e r a i l S e a r l e ‘ s a r g u m e n t P a i n s a n d u n d i f f e r e n t i a t e d a n x i e t y a r e n o t t h e s o r t s o f m e n t a l p r o p e r t i e s t h a t c o m p u t e r s a r e c h a r a c t e r i s t i c a l l y t h o u g h t t o b e e n d o w e d w i t h , o r h a v e s o m e p r o s p e c t s o f b e c o m i n g e n d o w e d w i t h ; t h o u g h , o n t h e o t h e r h a n d , s e v e r a l a u t h o r s ( e . g . , P u t n a m 1 9 6 0 ) h a v e s k e t c h e d t h e g e n e r a l o u t l i n e s o f f u n c t i o n a l a c c o u n t s o f p a i n . S t i l l , t h e s o r t s o f m e n t a l p r o p e r t i e s t h a t c o m p u t e r s a r e c h a r a c t e r i s t i c a l l y t h o u g h t t o h a v e s o m e p r o s p e c t o f b e i n g o r b e c o m i n g e n d o w e d w i t h a r e , g e n e r a l l y , i n t e n t i o n a l o n e s ( c a l c u l a t i n g t h a t 2 + Z = 4 , s e e k i n g t o C h e c k m a t e i t s o p p o n e n t , s e a r c h i n g f o r p r i m e s , e t c . ) . T h e s e a l s o s e e m t o b e t h e k i n d o f m e n t a l p r o p e r t i e s t h a t m o s t i n v i t e c o g n i t i v i s t i c e x p l a n a t i o n s a n d f u n c t i o n a l i s t i d e n t i f i c a t i o n s . 3 . 6 M i n d s H a v e S e m a n t i c s i f " m i n d " i s u n d e r s t o o d t o a b b r e v i a t e " m e n t a l s t a t e " o r " m e n t a l p r o p e r t y " a s S e a r l e s u g g e s t s , t h e n A Z i s t a n t a m o u n t t o ( h a l f o f ) B r e n t a n o ’ s ( 1 8 7 4 ) t h e s i s t h a t i n t e n t i o n a l i t y i s t h e m a r k ( h e r e , n e c e s s a r y c o n d i t i o n ) o f t h e m e n t a l . W h a t A Z l i t e r a l l y c l a i m s t h e n , o n c e w e u n p a c k t h e " s l o g a n " o r " a b b r e v i a t i o n " S e a r l e i n t e n d s b y " m i n d , " i s t h a t a l l m e n t a l s t a t e s o r p r o c e s s e s a r e i n t e n t i o n a l o r ( a l t e r n a t e l y ) , t h a t 1 2 2 n o t h i n g t h a t l a c k s i n t e n t i o n a l i t y i s a m e n t a l p h e n o m e n o n . A s a l r e a d y o b s e r v e d , e x a m p l e s s u c h a s u n d i r e c t e d a n x i e t y , s e e m t o f a l s i f y t h i s h a l f o f B r e n t a n o ’ s t h e s i s : n o t a l l m e n t a l s t a t e s h a v e s e m a n t i c s , i t s e e m s , s i n c e u n d i f f e r e n t i a t e d a n x i e t y i s a m e n t a l s t a t e s e e m i n g l y w i t h o u t i n t e n t i o n a l i t y . M o r e o v e r - - w h a t m a k e s ’ s S e a r l e ’ s a d v o c a c y o f A 2 e v e n o d d e r - - t h e h a l f o f B r e n t a n o ’ s t h e s i s t h a t w o u l d h o l d i n t e n t i o n a l i t y t o b e a n e c e s s a r y c o n d i t i o n f o r b e i n g a m e n t a l s t a t e i s s o m e t h i n g S e a r l e h i m s e l f s e e m s t o e x p r e s s l y d e n y , i n t h e f o l l o w i n g p a s s a g e : I d o n o t t h i n k t h a t i n t e n t i o n a l i t y i s a " d i s t i n g u i s h i n g f e a t u r e o f t h e m e n t a l , " b e c a u s e i t s e e m s t o m e q u i t e p o s s i b l e t h a t t h e r e m a y b e o r g a n i s m s t h a t h a v e m e n t a l p h e n o m e n a i n t h e f o r m o f c o n s c i o u s s t a t e s . b u t h a v e n o i n t e n t i o n a l i t y . I d o n o t k n o w w h e t h e r t h i s i s t h e c a s e , b u t I c e r t a i n l y h a v e n o p h i l o s o p h i c a l a r g u m e n t s a g a i n s t I t . I f w e a r e t a l k i n g a b o u t t h e " d i s t i n g u i s h i n g f e a t u r e s o f t h e m e n t a l , " I w o u l d t h i n k c o n s c i o u s n e s s i s a m o r e p l a u s i b l e c a n d i d a t e t h a n I n t e n t i o n a l i t y . ( S e a r l e 1 9 8 9 a . 7 0 7 - 7 0 8 ) P e r h a p s n o s y s t e m h a s a n y m e n t a l s t a t e s w i t h o u t h a v i n g s o m e m e n t a l s t a t e s w h i c h a r e i n t e n t i o n a l ; p e r h a p s n o t h i n g c a n s u f f e r u n d i f f e r e n t i a t e d a n x i e t y , f o r i n s t a n c e , w h i c h i s n o t a l s o c a p a b l e o f s u f f e r i n g o r d i n a r y d i r e c t e d a n x i e t y ; p e r h a p s n o t h i n g c a n h a v e p a i n s , f o r i n s t a n c e , w h i c h d o e s n o t a l s o h a v e d e s i r e s . S u c h s p e c u l a t i o n s e e m s , t o m e , m o s t p r o b a b l e : I a m m o r e c h a r y t h a n S e a r l e , i t s e e m s , o f t h e p o s s i b i l i t y o f s y s t e m s " t h a t h a v e m e n t a l p h e n o m e n a i n t h e f o r m o f c o n s c i o u s s t a t e s , b u t h a v e n o i n t e n t i o n a l i t y . " S i n c e p a i n , d i f f u s e a n x i e t y a n d t h e l i k e ( m e n t a l s t a t e s m o s t p l a u s i b l y i d e n t i f i e d a s n o n i n t e n t i o n a l , a s b e i n g d i s t i n g u i s h e d b y q u a l i t a t i v e a n d n o t t h e i r i n t e n t i o n a l c o n t e n t ) s e e m t o i n f l u e n c e b e h a v i o r m a i n l y i n c o n n e c t i o n w i t h o t h e r m e n t a l s t a t e s ( e . g . , b e l i e f s a n d d e s i r e s ) w h i c h a r e i n t e n t i o n a l , w h e t h e r t h e r e a r e s y s t e m s o f t h e s o r t S e a r l e e n v i s a g e s s e e m s t o b e a n e m p i r i c a l l y m o s t l y e m p t y q u e s t i o n . C o n s c i o u s n e s s w i t h o u t i n t e n t i o n a l i t y s e e m s 1 2 3 t o b e c o n s c i o u s n e s s l a r g e l y w i t h o u t b e h a v i o r a l i m p l i c a t i o n s , f o r w h i c h t h e r e w o u l d b e v i r t u a l l y n o p u b l i c o r o b s e r v a b l e e v i d e n c e . S u c h w o r r i e s a s i d e - - i t s e e m s , i n a d d i t i o n t o u n d e r s t a n d i n g " m i n d " a s a b b r e v i a t i n g s o m e t h i n g l i k e " m e n t a l p r o p e r t i e s , " w e n e e d t o u n d e r s t a n d t h a t t h e m e n t a l p r o p e r t i e s a t i s s u e a r e j u s t t h e i n t e n t i o n a l o n e s . T h u s u n d e r s t o o d A Z b e c o m e s a t a u t o l o g i c a i c l a i m t o t h e e f f e c t i n t e n t i o n a l s t a t e s a r e i n t e n t i o n a l , o r t h a t s e m a n t i c a l l y c o n t e n t f u l s t a t e s h a v e s e m a n t i c c o n t e n t . T 0 s q u a r e t h i s p r e m i s e w i t h t h e s e e m i n g f a c t s ( a b o u t u n d i f f e r e n t i a t e d a n x i e t y , e . g . ) , a n d t o r e c o n c i l e i t w i t h S e a r l e ’ s o w n e x p r e s s e d o p i n i o n s , t h e n , w e n e e d t o u n d e r s t a n d t h e m e n t a l s t a t e s a t i s s u e t o b e j u s t t h e i n t e n t i o n a l o r s e m a n t i c a l l y c o n t e n t f u l s t a t e s . N o w t h e f i r s t c o n s e q u e n c e o f t h i s f u r t h e r c o n s t r a i n t o n o u r u n d e r s t a n d i n g o f " m i n d " a s i t o c c u r s i n B S A i s t h a t i t w i l l b e p e r f e c t l y c o n s i s t e n t w i t h t h e c o n c l u s i o n t h a t " P r o g r a m s a r e n ’ t ( s u f f i c i e n t f o r ) m i n d " ( w h e r e " m i n d " m e a n s " i n t e n t i o n a l m e n t a l p r o p e r t i e s “ ) f o r p r o g r a m s t o b e s u f f i c i e n t f o r a n d c o n s t i t u t i v e o f n o n i n t e n t i o n a l m e n t a l p r o p e r t i e s ; a n d i f y o u i n c l i n e , l i k e S e a r l e , t o a l l o w t h a t i t ’ s " q u i t e p o s s i b l e t h a t t h e r e c o u l d b e o r g a n i s m s t h a t h a v e m e n t a l p h e n o m e n a i n t h e f o r m o f c o n s c i o u s s t a t e s , b u t h a v e n o i n t e n t i o n a l i t y , " i s u p p o s e y o u w o u l d h a v e t o a l l o w t h a t t h e s a m e i s q u i t e p o s s i b l e f o r i n o r g a n i c s y s t e m s , s u c h a s c o m p u t e r s , a s w e l l . i t m a y e v e n b e - f o r a l l B S A h a s s h o w n - t h a t c o m p u t e r s o r o r g a n i s m s h a v e t h e s e n o n i n t e n t i o n a l s t a t e s i n v i r t u e o f t h e i r p r o g r a m m i n g ; t h o u g h , a g a i n , i t ‘ s h a r d t o k n o w h o w w e c o u l d e v e r t e l l w h e t h e r t h i s w e r e s o o r n o t , i f h a v i n g s u c h s t a t e s w e r e d i s c o n n e c t e d f r o m h a v i n g i n t e n t i o n a l s t a t e s a n d t h u s ( b y m y r e c k o n i n g ) l a r g e l y ( i f n o t e n t i r e l y ) w i t h o u t b e h a v i o r a l c o n s e q u e n c e s . 1 2 4 S o , p e r h a p s w e c a n d i s m i s s t h i s p o s s i b i l i t y o f S e a r l e ’ s a s i d l e s p e c u l a t i o n - - t h o u g h i t ’ s s p e c u l a t i o n t h a t d r i v e s a f u r t h e r w e d g e b e t w e e n t h e c l a i m s o f C R A a n d i t s a d v e r t i s e d f o r c e a g a i n s t A I P o r S A I P . S i n c e t h e m e n t a l p r o p e r t i e s w e a r e m o s t i n c l i n e d t o a t t r i b u t e t o c o m p u t e r s a r e i n t e n t i o n a l l e t u s s i m p l y u n d e r s t a n d C R A ( i n s o f a r a s i t i s d i r e c t e d a g a i n s t A I P o r S A I P ) t o b e d e n y i n g t h a t c o m p u t e r s h a v e o r c a n h a v e i n t e n t i o n a l m e n t a l p r o p e r t i e s ; a n d i n s o f a r a s w e a r e r e s t r i c t i n g o u r a t t e n t i o n a t p r e s e n t t o t h e a n t i - f u n c t i o n a l i s t c m x o f S e a r l e ’ s a r g u m e n t , l e t u s s i m p l y u n d e r s t a n d B S A t o b e d i r e c t e d a g a i n s t t h e c l a i m t h a t p r o g r a m s t a t e s a n d t r a n s i t i o n ( i . e . , c o m p u t a t i o n a l p r o c e s s e s ) a r e ( c o n s t i t u t i v e o f o r s u f f i c i e n t f o r ) i n t e n t i o n a l m e n t a l s t a t e s a n d p r o c e s s e s . 3 . 7 I n t e r i m C o n c l u s i o n s T h e m a i n c o n c l u s i o n o f S e c t i o n 2 o f t h e p r e s e n t c h a p t e r w a s t h a t S e a r l e ' s v a u n t e d C h i n e s e r o o m a r g u m e n t l a c k s t h e l o g i c a l f o r c e a g a i n s t t h e c l a i m s o f A I P ( t h a t c o m p u t e r s m i g h t s o m e d a y b e c o m e e n d o w e d w i t h g e n u i n e m e n t a l p r o p e r t i e s ) o r e v e n S A I P ( t h a t s o m e c o m p u t e r s a r e a l r e a d y s o e n d o w e d ) S e a r l e o r i g i n a l l y s e e m e d t o s u g g e s t h i s a r g u m e n t h a d , a n d w h i c h h i s c o n t i n u e d p r o p r i e t a r y u s e o f t h e p h r a s e “ s t r o n g A l " t o r e f e r t o f u n c t i o n a l i s m c o n t i n u e s , m i s l e a d i n g l y , t o s u g g e s t . I t h e n u r g e d t h a t , n e v e r t h e l e s s . C R A m i g h t t u r n o u t t o h a v e i n d u c t i v e ( o r p o l e m i c a l o r a d h o m i n e m ) f o r c e a g a i n s t t h e s e d o c t r i n e s i f t h e m a i n o r o n l y r a t i o n a l s u p p o r t t h e c l a i m s o f A I P a n d S A I P h a v e d e r i v e s f r o m f u n c t i o n a l i s t t h e o r y , a n d C R A t u r n s o u t t o s u c c e s s f u l l y r e f u t e f u n c t i o n a l i s m . I t h e n t u r n e d t o a c o n s i d e r a t i o n o f w h e t h e r B S A , t h e " b r u t a l l y s i m p l e " c r u x o f C R A , s u c c e e d s i n e s t a b l i s h i n g i t s 1 2 5 a n t i - f u n c t i o n a l i s t c o n c l u s i o n . T h e m a i n c o n c l u s i o n o f t h i s s e c o n d p a r t o f t h i s c h a p t e r i s o n c e a g a i n e q u i v o c a l : w h i l e t h e u n s u p p l e m e n t e d B S A d o e s n o t c o m p r i s e a v a l i d a r g u m e n t f o r C i o r - F U N , C 1 d o e s f o l l o w a s a v a l i d c o n s e q u e n c e o f t h e p r e m i s e s ( A t - A 3 ) o f B S A g i v e n t h e s u p p l e m e n t a r y p r e m i s e S 1 , t h a t a l l t h i n g s h a v e o r i n s t a n t i a t e p r o g r a m s . i n o t e d t h e p r i m a f a c i e i m p l a u s i b i l i t y o f S i , b u t w a s b r o u g h t u p s h o r t o f t h i n k i n g t o u s e t h i s a s a n o b j e c t i o n t o t h e s u p p l e m e n t - e d B S A ’ s c a s e a g a i n s t f u n c t i o n a l i s m b y t h e r e m a r k a b l e f a c t t h a t b y a n d l a r g e , f u n c t i o n a l i s t s a c c e p t t h e i d e a t h a t e v e r y t h i n g h a s o r i n s t a n t i a t e s s o m e p r o - g r a m ( s ) . P e r h a p s a n y n u m b e r o f p r o g r a m s . i t t u r n s o u t t h e p r e m i s e S i , i m p l a u s i b l e t h o u g h i t i s o n i t s f a c e , g i v e n w h i c h B S A y i e l d s - F U N ( i . e . , C 1 ) a s a v a l i d c o n s e q u e n c e , i s a p r e m i s e t h a t ( w i t h f e w e x c e p t i o n s ) f u n c t i o n a l i s t s a r e n o t o n l y w i l l i n g t o a d m i t , b u t e v e n k e e n t o i n s i s t o n . S o , a s S e c t i o n 2 c o n c l u d e s t h a t C R A m i g h t p r o v i d e a t e l l i n g a d h o m i n e m c a s e a g a i n s t A I P a n d S A I P f o r a n y o n e w h o s e a l l e g i a n c e t o t h e s e d o c t r i n e s d e p e n d s o n t h e i r a c c e p t a n c e o f F U N , i f i t t u r n s o u t t h a t C R A s u c c e s s f u l l y r e f u t e s F U N , t h i s p r e s e n t s e c t i o n h a s l e d t o t h e c o n c l u s i o n t h a t t h e p a r t o f C R A d i r e c t e d a g a i n s t F U N , B S A , t h o u g h i t d o e s n o t b y i t s e l f e n t a i l t h e d e n i a l o f F U N , d o e s e n t a i l - F U N g r a n t i n g t h e s u p p l e m e n t a r y p r e m i s e S 1 w h i c h ( m o s t ) f u n c t i o n a l i s t s q u i t e w i l l i n g l y g r a n t . T h e m a i n c o n c l u s i o n o f t h i s c h a p t e r s o f a r , t h e n , i s t h a t B S 1 A m a k e s a c o m p e l l i n g a d h o m i m e n c a s e a g a i n s t a n y v e r s i o n o f f u n c t i o n a l i s m t h a t g r a n t s 6 1 ( a s m o s t d o ) a l o n g w i t h S e a r l e ’ s o t h e r p r e m i s e s , A 1 - A 3 . T h i s m e a n s , i t a k e i t , t h a t f u n c t i o n a l i s t s m u s t m a k e g o o d t h e ( a s y e t f e w a n d h a l t i n g ) a t t e m p t s t o d i s t i n g u i s h i m p l e m e n t i n g p r o g r a m s ( a s c o m p u t e r s a n d p e r h a p s b r a i n s d o ) a n d s i m p l y 1 2 6 i n s t a n t i a t i n g p r o g r a m s a s h u r r i c a n e s ( S e a r l e 1 9 8 0 a , p . 4 2 0 ) , S e a r l e ’ s w a l l ( S e a r l e 1 9 9 0 c , p . 2 7 ) , S e a r l e ’ s p e n ( S e a r l e 1 9 8 4 a , p . 3 6 ) , a n d s e e m i n g l y e v e r y t h i n g e l s e d o e s . T h u s , w h i l e i t d o e s n o t f l a t l y r e f u t e f u n c t i o n a l i s m B S A i m p o s e s a r e s e a r c h i m p e r a t i v e o n f u n c t i o n a l i s m - - t o m a k e o u t t h e j u s t m e n t i o n e d d i s t i n c t i o n - - b e c a u s e ( g i v e n t h e d i f f i c u l t y o f d i s p u t i n g S e a r l e ’ s o t h e r p r e m i s e s , a s w e s h a l l s e e ) t h i s s e e m s t h e o n l y w a y t o b l u n t t h e r e f u t a t i v e f o r c e o f S e a r l e ’ s a r g u m e n t . W e n o w n e e d t o c o n s i d e r h o w s o m e o f t h e o t h e r d i s c o v e r i e s o f t h i s c h a p t e r m i g h t e i t h e r a l l o w f u n c t i o n a l i s m ( i n s o m e a s y e t u n f o r s e e n w a y ) t o a v o i d t h i s r e s e a r c h i m p e r a t i v e j u s t a l l e g e d , o r e l s e ( a l t e r n a t e l y ) h o w t h e y m i g h t g i v e t h i s i m p e r a t i v e s o m e p a r t i c u l a r s h a p e . T h e m o s t r e l e v a n t d a t u m i n t h i s c o n n e c t i o n - m o s t s u p p o r t i v e o f s o m e r e m a i n i n g f u n c t i o n a l i s t h o p e s t o a v o i d S e a r l e a n r e f u t a t i o n w i t h o u t r e t h i n k i n g t h e a c c o u n t o f c o m p u t a t i o n f u n c t i o n a l i s t t h e o r y i n v o k e s - w o u l d s e e m t o b e t h e r e s t r i c t i o n w e f o u n d i t n e c e s s a r y t o i m p o s e o n t h e s e n s e o f " p r o g r a m " i n v o k e d b y B S A , t h e d i s c o v e r y t h a t ” p r o g r a m " a s S e a r l e u s e s t h e t e r m h e r e , m u s t r e f e r o n l y t o ( s o m e s u b s e t o f ) p a r t i a l T u r i n g t e s t p a s s i n g p r o g r a m s . T h e s t r a t e g y t h i s m i g h t s u g g e s t , a s a w a y f o r f u n c t i o n a l i s m t o e v a d e t h e f o r c e o f B S 1 A , i s t h i s : c l e a v e t o t h e i d e a t h a t e v e r y t h i n g i n s t a n t i a t e s s o m e p r o g r a m ( s ) , w h i l e d e n y i n g t h a t e v e r y t h i n g i n s t a n t i a t e s s o m e p a r t i a l T u r i n g t e s t p a s s i n g p r o g r a m ( s ) . T h e q u e s t i o n i s w h e t h e r 8 1 ( ( x ) P x ) r e m a i n s t r u e - - o r r a t h e r w h e t h e r i t r e m a i n s a c c e p t a b l e o r e v e n o b l i g a t o r y o n f u n c t i o n a l i s t p r i n c i p l e s - - o n c e w e u n d e r s t a n d P t o r e f e r , n o t t o i n s t a n t i a t i o n s o f j u s t a n y p r o g r a m , b u t j u s t t o i n s t a n t i a t i o n s o f ( a s u b s e t o f ) p a r t i a l T u r i n g t e s t p a s s i n g p r o g r a m s . 1 2 7 3 . 8 V i r t u a l l y U n i v e r s a l R e a l i z a b i l i t y S e a r l e n o t e s t h a t " t h e s t a n d a r d t e x t b o o k d e f i n i t i o n o f c o m p u t a t i o n " h a s t w o i n t e r e s t i n g c o n s e q u e n c e s : 1 . F o r a n y o b j e c t t h e r e i s s o m e d e s c r i p t i o n o f t h a t o b j e c t s u c h t h a t u n d e r t h a t d e s c r i p t i o n t h e o b j e c t i s a d i g i t a l c o m p u t e r . 2 . F o r a n y p r o g r a m t h e r e i s s o m e s u f f i c i e n t l y c o m p l e x o b j e c t s u c h t h a t t h e r e i s s o m e d e s c r i p t i o n o f t h e o b j e c t u n d e r w h i c h i t i s I m p l e m e n t i n g t h e p r o g r a m . ( S e a r l e 1 9 9 0 c , p . 2 6 - 2 7 ) O u r s u p p l e m e n t a r y p r e m i s e S 1 ( ( x ) P x ) t h a t a l l t h i n g s ( u n d e r s o m e d e s c r i p t i o n ) i n s t a n t i a t e p r o g r a m s d e r i v e s , o f c o u r s e , f r o m 1 . G i v e n t h e o p e r a t i v e s e n s e o f “ p r o g r a m " i n S e a r l e ’ s B S A t h e q u e s t i o n , h o w e v e r , i s t h i s : i s t h e r e s o m e d e s c r i p t i o n u n d e r w h i c h e v e r y t h i n g i s a T u r i n g t e s t p a s s i n g c o m p u t e r o r i n s t a n c e s a T u r i n g t e s t p a s s i n g p r o g r a m ? A c c o r d i n g t o o u r s e c o n d c o n s e q u e n c e o f " t h e s t a n d a r d t e x t b o o k d e f i n i t i o n o f c o m p u t a t i o n , " i t s e e m s , t h e a n s w e r t o t h i s q u e s t i o n i s t h a t e v e r y " s u f f i c i e n t l y c o m p l e x o b c h i s a T u r i n g t e s t p a s s i n g c o m p u t e r a n d d o e s i n s t a n t i a t e a T u r i n g t e s t p a s s i n g p r o g r a m . B u t h o w m u c h c o m p l e x i t y i s s u f f i c i e n t ; a n d w h a t o b j e c t s i f a n y - c o n t r a r y t o S 1 - d o e s t h i s c o m p l e x i t y r e q u i r e m e n t e x c l u d e f r o m t h e r a n k s o f t h i n g s i n s t a n c i n g T u r i n g t e s t p a s s i n g p r o g r a m s ? I b e l i e v e t h e t h o u g h t , w h e n f u n c t i o n a l i s t a n d c o g n i t i v i s t s s a y o r s u g g e s t s u c h t h i n g s a s S e a r l e r e p o r t s , i s s o m e t h i n g l i k e t h i s : i t i s p o s s i b l e t o m a p t h e s u c c e s s i v e s t a t e s o f a n y t h i n g w i t h e n o u g h p a r t s a n d p o s s i b l e c o n f i g u r a t i o n s o n t o t h e s u c c e s s i o n o f s t a t e s e x e c u t e d b y a p r o g r a m b e i n g r u n ; t h e r e a r e i n t e r p r e t a t i o n f u n c t i o n s u n d e r w h i c h a o n e t o o n e c o r r e l a t i o n b e t w e e n t h e s t a t e s o f t h e o b j e c t a n d s t a t e s o f t h e 1 2 8 p r o g r a m c a n b e s t i p u l a t e d . S o l o n g a s t h e o b j e c t h a s e n o u g h d i s t i n c t s t a t e s i t w i l l b e a b l e t o m a p a n y p r o g r a m o f a g i v e n c o m p l e x i t y . T h u s f o r e x a m p l e t h e w a l l b e h i n d m y b a c k i s I m p l e m e n t i n g t h e W o r d s t a r p r o g r a m , b e c a u s e t h e r e i s s o m e p a t t e r n o f m o l e c u l e m o v e m e n t s u n d e r w h i c h i s i s o m o r p h i c t o t h e f o r m a l s t r u c t u r e o f W o r d s t a r . B u t i f t h e w a l l i s i m p l e m e n t i n g W o r d s t a r t h e n i f i t i s a b i g e n o u g h w a l l i t i s i m p l e m e n t i n g a n y p r o g r a m . ( S e a r l e 1 9 9 0 c , p . 2 7 ) . S o w e s h o u l d n ’ t n e e d l B M s a n d M A C s , w e c o u l d j u s t u s e o u r w a l l s - w h i c h c o m e , i f b i g e n o u g h , p r e p a c k a g e d w i t h e v e r y p r o g r a m e v e r w r i t t e n a n d m a n y u n w r i t t e n - - i f o n l y w e k n e w h o w t o e n c o d e t h e i r i n p u t a n d i n t e r p r e t t h e i r o u t p u t . N o t e , i t i s n o t a c o n s t r a i n t o n t h e s e m a t h e m a t i c a l i n t e r p r e t a t i o n f u n c t i o n s t h a t t h e y b e s u c h a s p e o p l e l i k e u s c o u l d a c t u a l l y e v e r l e a r n a n d a p p l y ; n o r i s i t r e q u i r e d , I t a k e i t , t h a t t h e d i s t i n c t s t a t e s i n q u e s t i o n a c t u a l l y b e d i s t i n g u i s h a b l e b y u s . T h i s m e a n s a n a w f u l l o t o f t h i n g s a r e g o i n g t o q u a l i f y a s T u r i n g t e s t p a s s i n g c o m p u t e r s - — t h e r e a r e p r e s u m a b l y a n y n u m b e r o f p a r t i a l T u r i n g t e s t p a s s i n g p r o g r a m s s i m u l t a n e o u s l y e x e c u t i n g a t a n y o n e t i m e o n t h e h e a d o f a p i n . A n d s i n c e m o l e c u l a r s t a t e s a r e t e r r i b l y c o a r s e g r a i n e d - i f w e h e l p o u r s e l v e s t o s u b a t o m i c p a r t i c l e s a n d s t a t e s o f t h e s e - t h e r e m a y e v e n b e a n y n u m b e r o f f u l l T u r i n g t e s t p a s s i n g p r o g r a m s s i m u l t a n e o u s l y e x e c u t i n g o n e v e r y m o l e c u l e o n t h e h e a d o f a p i n l H e r e i a g r e e w i t h S e a r l e : " P h i l o s o p h i c a l l y s p e a k i n g , t h i s d o e s n o t s m e l l r i g h t t o m e " ( S e a r l e 1 9 9 0 c , p . 2 2 ) e i t h e r . B u t f o r n o w , t h e s e o b s e r v a t i o n s s u g g e s t a n e a s y w a y - a g r e e a b l e w i t h t h e c o n c e p t i o n o f c o m p u t a t i o n i n v o k e d b y c o g n i t i v i s t s a n d f u n c t i o n a l i s t s t h e m s e l v e s - t o m a k e $ 1 t r u e a n d t h e B S 1 A s o u n d . W h y s w e a t t h e s m a l l s t u f f ? L e t u s j u s t s t i p u l a t e t h a t t h e u n i v e r s e o f d i s c o u r s e t o w h i c h t h e B S 1 A i s t o b e t a k e n t o a p p l y i n c l u d e s n o o b j e c t s s m a l l e r t h a n a p i n h e a d . 1 2 9 T h e n , o n t h e p r i n c i p l e s j u s t c a n v a s s e d , S 1 ( ( x ) P x ) i s t r u e . E v e r y t h i n g b i g g e r t h a n t h e h e a d o f a p i n w i l l i n s t a n t i a t e s o m e ( i n d e e d , i t s e e m s , a n y n u m b e r o f ) p a r t i a l T u r i n g t e s t p a s s i n g p r o g r a m ( s ) . N o w , b y B S 1 A , i t f o l l o w s , f o r t h i n g s b i g g e r t h a n p i n h e a d s , f o r a l l i n t e n t i o n a l m e n t a l s t a t e s , t h a t i n s t a n c i n g a p r o g r a m d o e s n o t c o n s t i t u t e o r c a u s a l l y s u f f i c e f o r h a v i n g s u c h s t a t e s . I c o n c l u d e t h a t i f f u n c t i o n a l i s m i n v o k e s a c o n c e p t o f c o m p u t a t i o n w h i c h l i c e n s e s 8 1 , t h e n ( i f A 1 - A 3 a r e u n a s s a i l a b l e , a s t h e y s e e m ) f u n c t i o n a l i s t s l i c e n s e t h e i r o w n r e f u t a t i o n a l o n g t h e S e a r l e a n l i n e s o f o u r p r o p o s e d a r g u m e n t B S 1 A . G i v e n t h a t h u m a n s a n d a l l h i g h e r a n i m a l s a n d m o s t a l l c o m p u t e r s ( i n t h e u s u a l s e n s e o f t h e t e r m “ c o m p u t e r , " i n w h i c h n o t e v e r y t h i n g i s a c o m p u t e r ) a r e b i g g e r t h a n p i n h e a d s , a n d t h a t m e n t a l a t t r i b u t i o n s t o c o m p u t e r s a r e a l m o s t e x c l u s i v e l y a t t r i b u t i o n s o f i n t e n t i o n a l s t a t e s , t h e l i m i t a t i o n s o n t h e s c o p e o f B S 1 A j u s t p r o p o s e d a r e i n c o n s e q u e n t i a l . H a v i n g j u s t s e e n w h y f u n c t i o n a l i s m i s ” I a d v i s e d t o p r o p o u n d a n a c c o u n t o f c o m p u t a t i o n w h i c h i m p l i e s n o t j u s t m u l t i p l e r e a l i z a b i l i t y b u t v i r t u a l " u n i v e r s a l r e a l i z a b i l i t y " ( S e a r l e 1 9 9 0 b , p . 2 7 ) , l d e f e r d i s c u s s i o n o f w h e t h e r f u n c t i o n a l i s m m u s t u n a v o i d a b l y p r o p o u n d s u c h a n a c c o u n t . F o r o u r p r e s e n t p u r p o s e s , l e t i t s u f f i c e t o s a y t h a t m a n y f u n c t i o n a l i s t s a n d c o g n i t i v i s t s ( e . g . , J o h n s o n - L a i r d 1 9 8 8 , P y l y s h y n 1 9 8 4 ) d o p r o p o u n d a c c o u n t s o f c o m p u t a t i o n t h a t h a v e t h i s c o n s e - q u e n c e . “ 1 8 . R i c h H a l l ( p e r s o n a l c o m m u n i c a t i o n ) p o i n t s o u t t h e s i m i l a r i t y o f c o n s i d e r a t i o n s s u p p o r t i n g t h i s v i r t u a l l y u n i v e r s a l r e a l i z a b i l i t y r e s u l t f o r c o m p u t e r p r o g r a m s t o c o n s i d e r a t i o n s a d v a n c e d b y G o o d m a n a n d Q u l n e i n " S t e p s T o w a r d a C o n s t r u c t i v e N o m i n a l l s m . ‘ G o o d m a n a n d Q u i n e o b s e r v e , ' T h e s t o c k o f a v a i l a b l e i n s c r i p t i o n s [ f o r n o m i n a l l s t c o n s t r u c t i o n ] c a n b e v a s t l y i n c r e a s e d i f w e i n c l u d e , n o t o n l y t h o s e t h a t h a v e c o l o r s o r s o u n d s c o n t r a s t i n g w i t h t h e 1 3 0 3 . 9 T h e C o n c e p t o f C o m p u t a t i o n A c c o r d i n g t o s t a n d a r d d e f i n i t i o n s o f c o m p u t a t i o n a n o b j e c t O c a n b e d e s c r i b e d a s i n s t a n t i a t i n g a s t a t e o f s o m e p r o g r a m P j u s t i n c a s e t h e r e i s a f u n c t i o n w h i c h m a p s d i s c r e t e p h y s i c a l s t a t e s o f 0 i n t o d i s c r e t e i n f o r m a t i o n a l s t a t e s o f P ; o r t h i n k i n g o f p r o g r a m s d i a c h r o n i c a l l y , a s s e q u e n c e s o f s t a t e s , a n o b j e c t 0 i n s t a n t i a t e s a p r o g r a m P i f a n d o n l y i f t h e r e i s a f u n c t i o n w h i c h m a p s a s e q u e n c e o f t h e p h y s i c a l s t a t e s o f 0 i n t o t h e s e q u e n c e o f i n f o r m a t i o n a l s t a t e s o f P . S u p p o s e P i s a ( p a r t i a l ) T u r i n g t e s t p a s s i n g a d d i t i o n p r o g r a m , w h i c h u s e s 1 k i l o b y t e o r 8 1 9 6 b i t s o f R A M : a n y o b j e c t h a v i n g ( a t l e a s t ) 8 1 9 6 d i s c r i m i n a b l e c o m p o n e n t s h a v i n g ( a t l e a s t ) t w o d i s t i n c t p o s s i b l e s t a t e s e a c h t h e n w i l l b e d e s c r i b a b l e ( i n p r i n c i p l e , u n d e r t h e r i g h t m a p p i n g ) a s i n s t a n t i a t i n g s o m e s t a t e s o f t h i s p r o g r a m ; a n d a n y s e q u e n c e o f n m a n y s t a t e s o f 0 w i l l i n s t a n t i a t e s o m e s e q u e n c e o f n p r o g r a m o p e r a t i o n s . A s w e h a v e a l r e a d y n o t e d i t i s n o t a c o n s t r a i n t o n s u c h m a p p i n g s t h a t t h e i n t e r p r e t a t i o n f u n c t i o n b e o n e t h a t w e h u m a n s c o u l d a c t u a l l y a p p l y ( o r e v e n c o n c e i v e ) , o r t h a t t h e d i s t i n c t p h y s i c a l s t a t e s o f O w h i c h m a p s t a t e s o f t h e p r o g r a m s h o u l d a c t u a l l y ( o r e v e n c o n c e i v a b l y ) d i s t i n g u i s h a b l e b y u s ; a n d , n o t s u r p r i z i n g l y , i t i s t h i s a b s e n c e o f c o n s t r a i n t o n a c c e p t a b l e m a p p i n g s o r i n t e r p r e t a t i o n f u n c t i o n s w h i c h l e a d s , c o u n t e r i n t u i t i v e l y , t o t h e r e s u l t o f ( a l l b u t ) u n i v e r s a l r e a l i z a b i l i t y o f ( p a r t i a l ) T u r i n g t e s t p a s s i n g p r o g r a m s , a n d h e n c e ( v i a B S 1 A ) t o g r a v e c o n s e q u e n c e s f o r f u n c t i o n a l i s m . s u r r o u n d i n g s , b u t a l l a p p r o p r i a t e l y s h a p e d s p a t l o - t e m p o r a l r e g i o n s e v e n t h o u g h t h e y b e i n d i s t i n g u i s h a b l e f r o m t h e i r s u r r o u n d i n g s i n c o l o r , s o u n d , t e x t u r e , e t c . B u t t h e n u m b e r a n d l e n g t h o f i n s c r i p t i o n s w i l l s t i l l b e l i m i t e d i n s o f a r a s t h e s p a t l o - t e m p o r a l w o r l d i t s e l f i s l i m i t e d “ ( G o o d m a n 8 t Q u i n s 1 9 4 7 , p . 1 7 5 ) . 1 3 1 F o r o u r p r e s e n t p u r p o s e s w e m a y c h a r a c t e r i z e p r o g r a m s a s " s y s t e m s o f s y m b o l s " ( J o h n s o n - L a i r d 1 9 8 8 , p . 2 9 ) : " A p r o g r a m i s a p i e c e o f t e x t , i t i s t h e e n c o d i n g o f a p a r t i c u l a r a l g o r i t h m i n s o m e p r o g r a m m i n g l a n g u a g e " ( P y l y s h y n 1 9 8 4 , p . 8 8 - 8 9 ) . M o r e p r e c i s e l y , w e c o u l d s a y t h a t a p r o g r a m i s l i k e a p i e c e o f t e x t w i t h b l a n k s ( i . e . , v a r i a b l e s ) ; t h a t d i f f e r e n t w a y s o f f i l l i n g i n t h e b l a n k s c o m p r i s e d i f f e r e n t p r o g r a m s t a t e s : a c t u a l s e q u e n c e s o f s u c h s t a t e s c o m p r i s e a n e x e c u t i o n o r r u n n i n g o f t h e p r o g r a m . N o w , s y s t e m s o f s y m b o l s h a v e t h r e e c o m p o n e n t s : a s e t o f p r i m i t i v e s y m b o l s , t o g e t h e r w i t h p r i n c i p l e s f o r c o n s t r u c t i n g c o m p l e x s y m b o l s o u t o f t h e m ; a s e t o f e n t i t i e s c o n s t i t u t i n g t h e d o m a i n t h a t i s s y m b o l i z e d ; a n d a m e t h o d o f r e l a t i n g s y m b o l s t o t h e e n t i t i e s t h a t t h e y s y m b o l i z e , a n d v i c e v e r s a . ( J o h n s o n - L a i r d 1 9 8 8 , p . 2 9 ) S i n c e t h e r e l a t i o n o f ( l i n g u i s t i c ) s i g n s t o w h a t t h e y s i g n i f y i s c o n v e n t i o n a l o r " a r b i t r a r y " - - s u c h t h a t E n g l i s h , e . g . , d i d n ’ t h a v e t o t a k e " d o g " t o r e f e r t o d o g s b u t m i g h t j u s t a s w e l l h a v e t a k e n " d o g " t o s i g n i f y , e . g . , c a t s - - i t s e e m s , " A n y d o m a i n o f e n t i t i e s c a n b e r e p r e s e n t e d b y m a n y d i f f e r e n t s y s t e m s o f s y m b o l s " ( J o h n s o n - L a i r d , 1 9 8 8 ) A l s o , c o n v e r s e l y , " A n y s y s t e m o f e x t e r n a l s y m b o l s , s u c h a s n u m e r a l s , o r a n a l p h a b e t , i s c a p a b l e o f s y m b o l i z i n g m a n y d i f f e r e n t d o m a i n s . " ( J o h n s o n - L a i r d 1 9 8 8 , p . 3 1 ) A c c o r d i n g l y , i n m a n y m o d e l s t h a t t a k e t h e f o r m o f c o m p u t e r p r o g r a m s t h e r e i s m u c h l a t i t u d e i n a s s i g n i n g s e m a n t i c i n t e r p r e t a t i o n s t o t h e s y m b o l s . h e n c e , t o t h e m o d e l s ' s t a t e s . I n d e e d , w e r o u t i n e l y c h a n g e o u r i n t e r p r e t a t i o n o f t h e f u n c t i o n a l s t a t e s o f a t y p i c a l c o m p u t e r , s o m e t i m e s v i e w i n g t h e s t a t e s a s n u m b e r s , s o m e t i m e s a s a l p h a b e t i c c h a r a c t e r s , s o m e t i m e s a s w o r d s o r d e s c r i p t i o n s o f a s c e n e . E v e n w h e n i t i s d i f f i c u l t t o t h i n k o f a c o h e r e n t i n t e r p r e t a t i o n d i f f e r e n t f r o m t h e o n e t h e p r o g r a m m e r h a d i n m i n d , s u c h a l t e r n a t i v e s a r e , i n p r i n c i p l e , a l w a y s p o s s i b l e . ( T h e r e i s a n e x o t i c r e s u l t i n m o d e l t h e o r y , t h e L o w e n h e i m - S k o l e m t h e o r e m , w h i c h g u a r a n t e e s t h a t s u c h p r o g r a m s c a n a l w a y s b e c o h e r e n t l y i n t e r p r e t e d a s r e f e r r i n g t o i n t e g e r s a n d t o a r i t h m e t i c r e l a t i o n s o v e r t h e m . ) ( P y l y s h y n 1 9 8 4 , p . 4 4 ) 1 3 2 H e r e w e a r e a p p r o a c h i n g S e a r l e ’ s " a x i o m " A 3 - t h a t s y n t a x d o e s n ’ t s u f f i c e t o d e t e r m i n e s e m a n t i c s - i n a w a y t h a t l e n d s c r e d e n c e , e v e n , t o S e a r l e ’ s t a k i n g A 3 " a s a l o g i c a l t r u t h " ( 1 9 9 0 8 , p . 3 1 ) . H e r e t o o i s t h e d o c t r i n e u n d e r l y i n g S e a r l e ’ s c o n t e n t i o n t h a t s o m e o n e ( e . g . , t h e i n m a t e o f h i s C h i n e s e r o o m ) h a n d s i m u l a t i n g a C h i n e s e n a t u r a l l a n g u a g e u n d e r s t a n d i n g ( N L U ) p r o g r a m c o u l d " d e c i d e t o i n t e r p r e t t h e s y m b o l s a s s t a n d i n g f o r m o v e s i n a c h e s s g a m e " ( S e a r l e 1 9 9 0 a , p . 3 1 ) ; b y w h i c h h e i s m e r e l y c l a i m i n g , I t a k e i t , t h a t s u c h a n i n t e r p r e t a t i o n i s i n p r i n c i p l e p o s s i b l e , n o t t h a t l ( o r a n y o n e ) c o u l d r e a l l y " c o o k u p " s u c h a l t e r n a t e i n t e r p r e t a t i o n f u n c t i o n s . ( e s p e c i a l l y i n r e a l , c o n v e r s a t i o n a l , t i m e ) . T a k i n g t h e s e q u e n c e o f s t a t e s o f a N L U p r o g r a m a s a s e q u e n c e o f s t a t e s o f a c h e s s p l a y i n g p r o g r a m ( i n a w a y t h a t r e s p e c t e d t h e r u l e s o f c h e s s ) , w h i l e p o s s i b l e i n p r i n c i p l e , w o u l d b e a n i n t e l l e c t u a l t o u r d e f o r c e w h i c h m i g h t b e ( a n d p r o b a b l y i s ) q u i t e b e y o n d t h e i n t e l l e c t u a l a b i l i t i e s o f a n y a c t u a l p e r s o n . W e a r e c o n c e r n e d h e r e w i t h i n t e r p r e t a t i o n s t h a t a r e m a t h e m a t i c a l l y p o s s i b l e , w h i c h n e e d n ’ t b e p s y c h o l o g i - c a l l y p o s s i b l e ( m u c h l e s s e a s y ) f o r b e i n g s s u c h a s u s . N o w , j u s t a s t h e v a s t p a n o p l y o f m a t h e m a t i c a l l y p o s s i b l e i n t e r p r e t a t i o n f u n c t i o n s u n d e r w r i t e s s o m e t h i n g l i k e S e a r l e ’ s A 3 , a s i m i l a r l y v a s t p a n o p l y o f m a t h e m a t i c a l l y p o s s i b l e m a p p i n g s b e t w e e n s y m b o l s y s t e m s - o r b e t w e e n v a r i o u s p h y s i c a l i n s t a n t i a t i o n s o f s y m b o l s y s t e m s - - u n d e r w r i t e s t h e t w o p r e g n a n t f e a t u r e s o f " t h e s t a n d a r d t e x t b o o k d e f i n i t i o n o f c o m p u t a t i o n " t h a t S e a r l e r e m a r k s ( 1 9 9 0 c , p . 2 6 ) . A g a i n , t h e s e a r e 1 ) t h a t a n y o b j e c t i s a d i g i t a l c o m p u t e r ( o r i n s t a n t i a t e s s o m e p r o g r a m ( s ) u n d e r s o m e d e s c r i p t i o n ) a n d 2 ) t h a t a n y p r o g r a m i s i n s t a n t i a t e d b y a n y s u f f i c i e n t l y c o m p l e x o b j e c t . D e s p i t e t h e b r a v e t a l k o f p r o p o n e n t s o f 1 3 3 " s y n t a c t i c " t h e o r i e s o f m i n d - - e . g . , F o d o r ( 1 9 7 5 ) a n d S t i t c h ( 1 9 8 3 ) - - a b o u t t h e s u i t a b i l i t y o f t h e i r " s y n t a c t i c “ t h e o r i e s f o r p r o v i d i n g c a u s a l e x p l a n a t i o n s ( o f i n t e l l i g e n t b e h a v i o r ) c o n s i s t e n t w i t h m a t e r i a l i s t p r e s u p p o s i t i o n s , a n d d e s p i t e t h e l i p - s e r v i c e t h a t c o g n i t i v i s t a n d f u n c t i o n a l i s t a c c o u n t s o f c o m p u t a t i o n p a y t o t h e c a u s a l p r o p e r t i e s a n d c o n n e c t i o n s a m o n g t h e c o m p u t a t i o n a l s t a t e s o f a c t u a l d e v i c e s , S e a r l e i s r i g h t a b o u t t h i s : " s y n t a x i s n o t i n t r i n s i c t o p h y s i c s " ( 1 9 9 0 0 , p . 2 6 ) , a n d " i f c o m p u t a t i o n i s d e f i n e d s y n t a c t i c a l l y , t h e n n o t h i n g i s a d i g i t a l c o m p u t e r s o l e l y i n v i r t u e o f i t s p h y s i c a l p r o p e r t i e s " ( 1 9 9 0 c , p . 2 8 ) . T h i s i s b e c a u s e , g i v e n t h e ( p r a c t i c a l l y a n d p s y c h o l o g i c a l l y u n c o n s t r a i n e d ) m a t h e m a t i c a l s e n s e o f " i n t e r p r e t a - t i o n " o r " i n s t a n t i a t i o n " t h a t f u n c t i o n a l i s t s g e n e r a l l y s u p p o s e i n t h e i r a c c o u n t s , t h e p h y s i c a l m a k e u p a n d c a u s a l p r o p e r t i e s o f a n o b j e c t p l a c e a l m o s t n o c o n s t r a i n t s o n w h i c h p r o g r a m ( s ) t h e o b j e c t i n s t a n t i a t e s ( u n d e r s o m e i n s t a n t i a t i o n f u n c t i o n ) . i n d e e d a n y o b j e c t ( o f s u f f i c i e n t c o m p l e x i t y ) w i l l i n s t a n t i a t e v i r t u a l l y a n y p r o g r a m y o u c h o o s e u n d e r s o m e m a t h e m a t i c a l l y p o s s i b l e i n s t a n t i a t i o n f u n c t i o n . A g a i n , t h i s p r o b l e m w i t h t h e " s t a n d a r d t e x t b o o k d e f i n i t i o n " o f c o m p u t a t i o n t h a t f u n c t i o n a l i s t ’ s c h a r a c t e r i s t i c a l l y a c c e p t , i s t h a t " t h e p h y s i c s i s i r r e l e v a n t [ t o t h e q u e s t i o n o f w h a t p r o g r a m ( s ) a t h i n g i n s t a n t i a t e s ] e x c e p t i n s o f a r a s i t a d m i t s o f t h e a s s i g n m e n t s o f 0 ’ s a n d 1 ’ s a n d o f s t a t e t r a n s i t i o n s b e t w e e n t h e m " ( S e a r l e , 1 9 9 0 c , p . 2 6 ) : t h e t r o u b l e i s t h a t i n t h e a b s e n c e o f a n y p s y c h o l o g i c a l o r o t h e r c o n s t r a i n t s o n a d m i s s i b l e i n s t a n t i a t i o n f u n c t i o n s , t h e c o m p u t a t i o n a l p r o p e r t i e s o f a t h i n g c o m e a l m o s t e n t i r e l y u n c o n n e c t e d f r o m i t s a c t u a l c o n s t r u c t i o n a n d c a u s a l c o n n e c t i o n s . T h u s , t h e o b l i g a t o r y o b e i s a n c e s p a i d t o t h e m a t e r i a l a n d c a u s a l c h a r a c t e r i s t i c s o f 1 3 4 c o m p u t e r s b y t e x t b o o k a c c o u n t s a r e m i s l e a d i n g l y b e s i d e t h e p o i n t . P y l y s h y n , f o r i n s t a n c e , i n f o r m s u s , u n h e l p f u l i y , A c o m p u t e r i s a p h y s i c a l o b j e c t w h o s e p r o p e r t i e s v a r y o v e r t i m e i n a c c o r d a n c e w i t h t h e l a w a o f p h y s i c s . i n p r i n c i p l e o n e m i g h t c h a r a c t e r i z e a c o m p u t e r ’ s d y n a m i c b e h a v i o r a s a c a u s a l l y c o n n e c t e d s e q u e n c e o f p h y s i c a l s t a t e d e s c r i p t i o n s , w i t h t r a n s i t i o n s s u b s u m e d u n d e r v a r i o u s p h y s i c a l l a w s . ( P y l y s h y n 1 9 8 4 , p . 5 5 ) B u t e v e r y p h y s i c a l o b j e c t ’ s p h y s i c a l p r o p e r t i e s " v a r y o v e r t i m e i n a c c o r d a n c e w i t h t h e l a w s o f p h y s i c s " ! I n p r i n c i p l e o n e m i g h t c h a r a c t e r i z e a n y t h i n g ' 3 b e h a v i o r a s " a c a u s a l l y c o n n e c t e d s e q u e n c e o f p h y s i c a l s t a t e d e s c r i p t i o n s . " E v e n a m o n g t h o s e p h y s i c a l o b j e c t s ( e . g . , o u r l B M s a n d M a c l n t o s h e s ) t h a t w e t h i n k a r e c o m p u t e r s i n p r a c t i c e a n d n o t j u s t i n p r i n c i p l e i t c a n b e s a i d , " B e c a u s e a n u n l i m i t e d n u m b e r o f p h y s i c a l p r o p e r t i e s a n d t h e i r c o m b i n a t i o n s c a n b e s p e c i f i e d i n t h e p h y s i c a l d e s c r i p t i o n , t h e r e i s , i n f a c t , a n u n l i m i t e d n u m b e r o f s u c h [ c a u s a l ] s e q u e n c e s " ( P y l y s h y n 1 9 8 4 , p . 5 5 ) g o i n g o n i n o u r c o m p u t e r s , b e s i d e s t h e c a u s a l s e q u e n c e w h i c h w e w o u l d a c t u a l l y i d e n t i f y a s t h e e x e c u t i o n o f t h e p r o g r a m i n t h e m a c h i n e . T h u s " b y i t s e l f , t h e r e c o r d o f a p a r t i c u l a r s e q u e n c e o f p h y s i c a l s t a t e s t e l l s u s n o t h i n g a b o u t t h e c o m p u t a t i o n a l p r o c e s s e s g o i n g o n i n t h e m a c h i n e " ( P y l y s h y n 1 9 8 4 , p . 5 5 ) b e c a u s e , V e r y f e w o f t h e p h y s i c a l l y d i s c r i m i n a b i e p r o p e r t i e s o f t h e m a c h i n e a r e r e l e v a n t t o i t s c o m p u t a t i o n a l f u n c t i o n - - f o r e x a m p l e , i t s c o l o r , t e m p e r a t u r e , a n d m a s s . a s w e l l a s i t s v e r y f a s t o r v e r y s l o w e l e c t r i c a l f l u c t u a t i o n s , v a r i a t i o n s i n e l e c t r i c a l p r o p e r t i e s a b o v e o r b e l o w r e l e v a n t r a n g e s , v a r i a t i o n s i n e l e c t r i c a l p r o p e r t i e s t h a t a r e w i t h i n t o l e r a n c e l e v e l s , a n d s o o n . T h u s i n a g i v e n c o m p u t e r o n l y a m i n u s c u l e s u b s e t o f p h y s i c a l l y d i s c r i m i n a b i e s t a t e s a r e c o m p u t a t i o n a l l y d i s c r i m i n a b i e . O f c o u r s e e a c h o f t h e i n f i n i t e l y m a n y s e q u e n c e s o f p h y s i c a l d e s c r i p t i o n s c o u l d c o r r e s p o n d t o s o m e c o m p u t a t i o n a l s e q u e n c e . A t l e a s t i n p r i n c i p l e t h e r e i s n o t h i n g t o p r e v e n t s u c h a n i n t e r p r e t a t i o n . i n o t h e r w o r d s , c o m p u t a t i o n a l s t a t e s a r e r e l a t i v l z e d t o s o m e c o n v e n i e n t m a p p i n g , w h i c h I s h a l l c a l l t h e i n s t a n t i a t i o n f u n c t i o n ( l F ) . B y m a p p i n g f r o m p h y s i c a l t o c o m p u t a t i o n a l s t a t e s , s u c h a f u n c t i o n p r o v i d e s a w a y o f i n t e r p r e t i n g a s e q u e n c e o f n o m o l o g i c a i i y g o v e r n e d p h y s i c a l s t a t e c h a n g e s a s a 1 3 5 c o m p u t a t i o n . a n d t h e r e f o r e o f v i e w i n g a p h y s i c a l o b j e c t a s a c o m p u t e r . ( P y l y s h y n 1 9 8 4 , p . 5 5 ) B u t t h e m a p p i n g n e e d n ’ t b e c o n v e n i e n t a t a l l : o n s t a n d a r d t e x t b o o k a c c o u n t s i t o n l y n e e d s t o b e m a t h e m a t i c a l l y p o s s i b l e . T h i s a c c o u n t h a s e x a c t l y t h e c o n s e q u e n c e t h a t S e a r l e d i s c e r n s : T h e s a m e p r i n c i p l e t h a t i m p l i e s m u l t i p l e r e a l i z a b i l i t y w o u l d s e e m t o i m p l y u n i v e r s a l r e a l i z a b i l i t y . i f c o m p u t a t i o n i s d e f i n e d i n t e r m s o f t h e a s s i g n m e n t o f s y n t a x t h e n e v e r y t h i n g w o u l d b e a d i g i t a l c o m p u t e r , b e c a u s e a n y o b j e c t w h a t e v e r c o u l d h a v e s y n t a c t i c a l a s c r i p t i o n s m a d e t o i t . Y o u c o u l d d e s c r i b e a n y t h i n g i n t e r m s o f 0 ’ s a n d 1 ’ s . ( 1 9 9 0 c , p . 2 6 ) N o t o n l y , o n t h i s a c c o u n t , c a n a n y o b j e c t w h a t e v e r h a v e s o m e p r o g r a m ( s ) a s c r i b e d t o i t , a n y " s u f f i c i e n t l y c o m p l e x " o b j e c t c a n h a v e e v e r y ( s u f f i c i e n t l y s i m p l e ) p r o g r a m a s c r i b e d t o i t . 1 9 4 . C o n c l u s i o n T h o u g h C R A d o e s n o t l o g i c a l l y e x c l u d e t h e p o s s i b i l i t y o f c o m p u t e r s t h i n k i n g - C R A d o e s n o t e n t a i l - A I P - - b a r r i n g s o m e a l t e r n a t i v e a c c o u n t ( t o t h e s t a n d a r d t e x t b o o k o n e ) o f c o m p u t a t i o n w e h a v e s e e n t h a t S e a r l e ’ s " b r u t a l l y s i m p l e " a r g u m e n t B S A s u p p l e m e n t e d b y S i ( B S 1 A ) d o e s e n t a i l - F U N . T h u s , i f s u c h a l t e r n a t i v e a c c o u n t s a r e n o t f o r t h c o m i n g , a n d i f t h e o n l y g o o d r e a s o n s f o r b e l i e v i n g A l P t r u e d e r i v e f r o m F U N , B S 1 A w i l l d i s c o n f i r m A i P w i t h o u t l o g i c a l l y d i s p r o v i n g i t . i w i l l n o t p u r s u e t h e p o s s i b i l i t y o f p r o v i d i n g a n a l t e r n a t i v e a c c o u n t o f c o m p u t a t i o n w h i c h w o u l d a v o i d t h i s c o n s e q u e n c e ( - F U N ) b e c a u s e i b e l i e v e 1 9 . P u t n a m ( 1 9 8 8 , A p p e n d i x ) p u r p o r t s t o p r o v e w h a t s e e m s a n e v e n s t r o n g e r r e s u l t t h a t “ t h e r e i s a s e n s e i n w h i c h e v e r y t h i n g h a s e v e r y f u n c t i o n a l o r g a n i z a t i o n " ( P u t n a m 1 9 8 8 , p . x v ) . 1 3 6 t h e r e a r e p o w e r f u l r e a s o n s i n d e p e n d e n t o f B S A a n d S 1 f o r d o u b t i n g t h e t r u t h o f f u n c t i o n a l i s m ( w h i c h I c o n s i d e r i n C h a p t e r 5 ) a n d t h e r e a r e q u i t e c o n s i d e r a b l e r e a s o n s ( s e t f o r t h i n C h a p t e r 4 ) i n d e p e n d e n t o f F U N f o r b e l i e v i n g A I P t o b e t r u e . B e f o r e p r o c e e d i n g t o t h e s e m a t t e r s , h o w e v e r , i t s e e m s w e a r e o w i n g a n a c c o u n t o f S e a r l e ’ s v a u n t e d C h i n e s e r o o m e x p e r i m e n t : w h a t i s C R E ’ s r e l a t i o n t o C R A a n d h o w d o e s C R E b e a r u p o n t h e c e n t r a l l y d i s p u t e d q u e s t i o n s ( F U N , A I P , a n d S A I P ) ? C h a p t e r T h r e e T H E C H I N E S E R O O M T H O U G H T E X P E R I M E N T T h e i d e a b e h i n d d i g i t a l c o m p u t e r s m a y b e e x p l a i n e d b y s a y i n g t h a t t h e s e m a c h i n e s a r e i n t e n d e d t o c a r r y o u t a n y o p e r a t i o n s w h i c h c o u l d b e d o n e b y a h u m a n c o m p u t e r . A h u m a n c o m p u t e r i s s u p p o s e d t o b e f o l l o w i n g f i x e d r u l e s : h e h a s n o a u t h o r i t y t o d e v i a t e f r o m t h e m i n a n y d e t a i l . W e m a y s u p p o s e t h a t t h e s e r u l e s a r e s u p p l i e d i n a b o o k , w h i c h I s a l t e r e d w h e n e v e r h e i s p u t o n a n e w j o b . H e a l s o h a s a n u n l i m i t e d s u p p l y o f p a p e r o n w h i c h t o d o h i s c a l c u l a t i o n s . ( T u r i n g 1 9 5 0 , p . 4 3 6 ) A s f o r t h e l i n k i n g t o g e t h e r t h a t o c c u r s w h e n w e r e a s o n , t h i s i s n o t a l i n k i n g t o g e t h e r o f n a m e s b u t o f t h e t h i n g s t h a t a r e s i g n i f i e d b y t h e n a m e s , a n d i a m s u r p r i s e d t h a t t h e o p p o s i t e v i e w s h o u l d o c c u r t o a n y o n e . F o r i f h e a d m i t s t h a t t h e w o r d s s i g n i f y s o m e t h i n g , w h y w i l l h e n o t a l l o w t h a t o u r r e a s o n i n g d e a l s w i t h t h i s s o m e t h i n g w h i c h i s s i g n i f i e d . r a t h e r t h a n m e r e l y w i t h w o r d s . ( D e s c a r t e s ’ s r e p l y t o H o b b e s : D e s c a r t e s e t a l . 1 6 4 2 , p . 1 2 6 ) 1 . T h e C h i n e s e R o o m E x p e r i m e n t i n o r d e r t o t e s t , a m o n g o t h e r t h i n g s , ‘ t h e T u r i n g m a c h i n e f u n c t i o n a l i s t ( S e a r l e 1 9 8 0 c ) o r " s t r o n g A I " ( S e a r l e 1 9 8 0 a ) t h e o r y t h a t t h i n k i n g i s a s p e c i e s o f c o m p u t a t i o n , J o h n S e a r l e a s k s u s t o a s k o u r s e l v e s , " w h a t i t w o u l d b e l i k e i f t h e m i n d a c t u a l l y w o r k e d o n t h e p r i n c i p l e s t h a t t h e t h e o r y s a y s a l l m i n d s w o r k o n ? " ( S e a r l e 1 9 8 0 a , p . 4 1 7 ) . T o t h i s e n d S e a r l e p r o p o s e s " t h e f o l l o w i n g G e d a n - k e n e x p e r i m e n t " ( S e a r l e 1 9 8 0 a , p . 4 1 7 ) : 1 . S e a r l e ’ s C h i n e s e r o o m “ e x p e r i m e n t " ( C R E ) a n d h i s a x i o m a t i z e d C h i n e s e r o o m a r g u m e n t ( C R A ) a r e a d v e r t i s e d b y S e a r l e a n d g e n e r a l l y t a k e n t o g e t h e r a s a k i n d o f a l l p u r p o s e A i - b e — g o n e r e m e d y e f f e c t i v e a g a i n s t T u r i n g m a c h i n e f u n c t i o n a l i s m ( F U N ) ; a g a i n s t c l a i m s o f A l p r o p e r ( A I P ) , t h a t c o m p u t e r s c a n ( o r s o m e d a y w i l l ) t h i n k , a g a i n s t c l a i m s o f w h a t I c a l l " s t r o n g A l p r o p e r " ( S A I P ) , t h a t s o m e c o m p u t e r s a l r e a d y d o t h i n k ; a n d a g a i n s t b e h a v i o r i s m a n d t h e T u r i n g T e s t b e i n g a v a l i d ( i n d u c t i v e l y a d e q u a t e ) t e s t f o r t h i n k i n g . 1 3 7 1 3 8 S u p p o s e t h a t I ’ m l o c k e d i n a r o o m a n d g i v e n a l a r g e b a t c h o f C h i n e s e w r i t i n g . S u p p o s e f u r t h e r m o r e ( a s i s i n d e e d t h e c a s e ) t h a t i k n o w n o C h i n e s e , e i t h e r w r i t t e n o r s p o k e n , a n d t h a t i ’ m n o t e v e n c o n f i d e n t t h a t I c o u l d r e c o g n i z e C h i n e s e w r i t i n g a s C h i n e s e w r i t i n g d i s t i n c t f r o m , s a y , J a p a n e s e w r i t i n g o r m e a n i n g l e s s s q u i g g l e s . T o m e , C h i n e s e w r i t i n g i s j u s t s o m a n y m e a n i n g l e s s s q u i g g l e s . N o w s u p p o s e f u r t h e r t h a t a f t e r t h i s f i r s t b a t c h o f C h i n e s e w r i t i n g i a m g i v e n a s e c o n d b a t c h o f C h i n e s e s c r i p t t o g e t h e r w i t h a s e t o f r u l e s f o r c o r r e l a t i n g t h e s e c o n d b a t c h w i t h t h e f i r s t b a t c h . T h e r u l e s a r e i n E n g l i s h , a n d I u n d e r s t a n d t h e s e r u l e s a s w e l l a s a n y o t h e r n a t i v e s p e a k e r o f E n g l i s h . T h e y e n a b l e m e t o c o r r e l a t e o n e s e t o f f o r m a l s y m b o l s w i t h a n o t h e r s e t o f f o r m a l s y m b o l s , a n d a l l t h a t " f o r m a l " m e a n s h e r e i s t h a t I c a n i d e n t i f y t h e s y m b o l s e n t i r e l y b y t h e i r s h a p e s . N o w s u p p o s e t h a t i a m g i v e n a t h i r d b a t c h o f C h i n e s e s y m b o l s t o g e t h e r w i t h s o m e i n s t r u c t i o n s , a g a i n i n E n g l i s h , t h a t e n a b l e m e t o c o r r e l a t e e l e m e n t s o f t h i s t h i r d b a t c h w i t h t h e f i r s t t w o b a t c h e s . a n d t h e s e r u l e s I n s t r u c t m e h o w t o g i v e b a c k c e r t a i n s o r t s o f C h i n e s e s y m b o l s w i t h c e r t a i n s o r t s o f s h a p e s i n r e s p o n s e t o c e r t a i n s o r t s o f s h a p e s g i v e n m e i n t h e t h i r d b a t c h . U n k n o w n t o m e , t h e p e o p l e w h o a r e g i v i n g m e a l l t h e s e s y m b o l s c a l l t h e f i r s t b a t c h ' a s c r i p t , " t h e y c a l l t h e s e c o n d b a t c h “ a s t o r y , " a n d t h e y c a l l t h e t h i r d b a t c h " q u e s t i o n s . " F u r t h e r m o r e . t h e y c a l l t h e s y m b o l s I g i v e b a c k " a n s w e r s t o t h e q u e s t i o n s , " a n d t h e s e t o f r u l e s i n E n g l i s h t h a t t h e y g a v e m e t h e y c a l l ' t h e p r o g r a m . " ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) F u r t h e r m o r e , S u p p o s e a l s o t h a t a f t e r a w h i l e I g e t s o g o o d a t f o l l o w i n g t h e I n s t r u c t i o n s f o r m a n i p u l a t i n g t h e C h i n e s e s y m b o l s a n d t h e p r o g r a m m e r s g e t s o g o o d a t w r i t i n g t h e p r o q a m s t h a t f r o m t h e e x t e r n a l p o i n t o f v i e w - - t h a t i s , f r o m t h e p o i n t o f v i e w o f s o m e b o d y o u t s i d e t h e r o o m i n w h i c h I a m l o o k e d - - m y a n s w e r s t o t h e q u e s t i o n s a r e a b s o l u t e l y i n d i s t i n g u i s h a b l e f r o m t h o s e o f C h i n e s e s p e a k e r s . N o b o d y j u s t l o o k i n g a t m y a n s w e r s c a n t e l l t h a t i d o n ’ t s p e a k a w o r d o f C h i n e s e . ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) l p r o d u c e t h e a n s w e r s b y m a n i p u l a t i n g u n i n t e r p r e t e d f o r m a l s y m b o l s . A s f a r a s t h e C h i n e s e i s c o n c e r n e d , I s i m p l y b e h a v e l i k e a c o m p u t e r ; I p e r f o r m c o m p u t a t i o n - a l o p e r a t i o n s o n f o r m a l l y s p e c i f i e d e l e m e n t s . F o r t h e p u r p o s e s o f C h i n e s e , I a m s i m p l y a n i n s t a n t i a t i o n o f t h e c o m p u t e r p r o g r a m . ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) H e r e S e a r l e i m a g i n e s w h a t i t w o u l d b e l i k e f r o m " t h e p o i n t o f v i e w o f t h e a g e n t , f r o m m y p o i n t o f v i e w " ( S e a r l e 1 9 8 0 a , p . 4 2 0 ) t o i m p l e m e n t a s t o r y u n d e r s t a n d i n g P r o g r a m I w i l l c a l l " C S A M . " C S A M i s s u p p o s e d t o b e l i k e S c h a n k a n d A b e l s o n ’ s ( 1 9 7 7 ) S c r i p t A p p l i e r M e c h a n i s m ( S A M ) e x c e p t ( 1 ) f o r b e i n g i m a g i n e d ( f o r t h e s a k e o f t h e a r g u m e n t ) t o b e i n d i s p u t a b l y T u r i n g t e s t p a s s i n g , a n d e x c e p t ( 2 ) f o r t h e s t o r i e s i t p r o c e s s e s a n d s e e m s " f r o m t h e e x t e r n a l [ t h i r d p e r s o n ] p o i n t o f v i e w " 1 3 9 ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) t o u n d e r s t a n d b e i n g i m a g i n e d ( f o r d r a m a t i c e f f e c t ) t o b e i n C h i n e s e . S u c h i s t h e " e x p e r i m e n t . “ T h e r e s u l t S e a r l e o b s e r v e s o r a v o w s w h e n h e i m a g i n e s " w h a t i t w o u l d b e l i k e " f o r h i m t o b e t h e i n d i v i d u a l h a n d t r a c i n g C S A M i n t h e r o o m i s t h i s : i t s e e m s t o m e q u i t e o b v i o u s i n t h e e x a m p l e t h a t i d o n o t u n d e r s t a n d a w o r d o f t h e C h i n e s e s t o r i e s . I h a v e i n p u t s a n d o u t p u t s t h a t a r e i n d i s t i n g u i s h a b l e f r o m t h o s e o f t h e n a t i v e C h i n e s e s p e a k e r , a n d i c a n h a v e a n y f o r m a l p r o g r a m y o u l i k e , b u t i s t i l l u n d e r s t a n d n o t h i n g . ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) S e a r l e f u r t h e r a s s e r t s t h a t t h i s g e n e r a l i z e s i m m e d i a t e l y f r o m t h e c a s e o f a p e r s o n ( h i m s e l f ) i m p l e m e n t i n g ( b y h a n d t r a c i n g ) t h e i m a g i n a r y C h i n e s e s t o r y u n d e r s t a n d - i n g P r o g r a m C S A M t o t h e c a s e o f a n e l e c t r o n i c c o m p u t e r i m p l e m e n t i n g ( b y r u n n i n g o r e x e c u t i n g ) S c h a n k a n d A b e l s o n ’ s a c t u a l s t o r y u n d e r s t a n d i n g p r o g r a m S A M . F o r t h e s a m e r e a s o n s [ t h a t S e a r l e u n d e r s t o o d n o C h i n e s e i n t h e C h i n e s e r o o m ] S c h a n k ’ s c o m p u t e r u n d e r s t a n d s n o t h i n g o f a n y s t o r i e s , w h e t h e r i n C h i n e s e , E n g l i s h , o r w h a t e v e r , s i n c e i n t h e C h i n e s e c a s e t h e c o m p u t e r i s m e , a n d i n c a s e s w h e r e t h e c o m p u t e r I s n o t m e , t h e c o m p u t e r h a s n o t h i n g m o r e t h a n i h a v e i n t h e c a s e w h e r e i u n d e r s t a n d n o t h i n g . ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) F u r t h e r m o r e , S e a r l e m a i n t a i n s , 2 . A c c o r d i n g t o S c h a n k ’ s d e s c r i p t i o n , S A M , b e s i d e s b e i n g a b l e t o g e n e r a t e p a r a p h r a s e s o f i n p u t s t o r i e s a n d " s u m m a r i e s t h a t r e l y o n m e a s u r e s o f t h e r e l e v a n t i m p o r t a n c e o f e v e n t s , “ a n d t o " a n s w e r q u e s t i o n s a b o u t t h e i n p u t s t o r y , " c a n " t r a n s l a t e t h e s t o r i e s i n t o C h i n e s e , R u s s i a n , D u t c h , a n d S p a n i s h “ ( S c h a n k 1 9 7 7 , p . 1 9 8 ) . T h e T u r i n g t e s t p a s s i n g c a p a c i t y i n q u e s t i o n h e r e i s w h a t i t e r m " p a r t i a l T u r i n g t e s t p a s s i n g " c a p a c i t y ( i . e . t h e c a p a c i t y t o " s i m u l a t e " i s o l a t e d m e n t a l a b i l i t i e s ) n o t f u l l T u r i n g t e s t p a s s i n g c a p a c i t y ( t o " s i m u l a t e ” s o m e t h i n g l i k e t h e f u l l r a n g e o f c h a r a c t e r i s t i c a l l y h u m a n m e n t a l a b i l i t i e s ) . B y " P r o g r a m " ( w i t h a c a p i t a l " P ' ) i m e a n t h e s u b s e t o f c o m p u t e r p r o g r a m s a t i s s u e : e i t h e r a l l t h e T u r i n g t e s t p a s s i n g p r o g r a m s ( i n s o f a r a s t h e C h i n e s e r o o m i s s u p p o s e d t o b e d i r e c t e d a g a i n s t t h e T u r i n g t e s t a n d S A I P ) o r t h e s u b s e t o f t h e s e w h i c h , a d d i t i o n a l l y , c o m p u t e t h e i r i n p u t - o u t p u t f u n c t i o n s b y t h e r i g h t m e t h o d o r i n t h e r i g h t m a n n e r ( i n s o f a r a s t h e C h i n e s e r o o m i s a d d i t i o n a l l y t a r g e t i n g F U N ) . O t h e r a b b r e v i a t o r y c o n v e n t i o n s p r e v i o u s l y i n t r o d u c e d a n d c o n t i n u e d i n t h i s c h a p t e r ( b e s i d e s F U N , A I P , S A I P , C R A , C R E : s e e n o t e 1 , a b o v e ) i n c l u d e A 1 , A 2 , A 3 , a n d C l f o r t h e " a x i o m s “ a n d c o n c l u s i o n o f t h e f o l l o w i n g " b r u t a l l y s i m p l e " a r g u m e n t , B S A , a t t h e c r u x o f C R A . ( C h a p t e r 2 , s u b s e c t i o n 3 . 1 . a b o v e , p r o v i d e s a d e t a i l e d r e c o n s t r u c t i o n o f B S A . ) 1 4 0 n o t h i n g [ I n t h e e x p e r i m e n t ] t h a t f o l l o w s d e p e n d s o n t h e d e t a i l s o f S c h a n k ’ s p r o g r a m s . T h e s a m e a r g u m e n t s w o u l d a p p l y t o W i n o g r a d ’ s S H R D L U ( W i n o g r a d 1 9 7 3 ) , W e l z e n b a u m ’ s E L I Z A ( W e i z e n b a u m 1 9 6 5 ) , a n d i n d e e d a n y T u r i n g m a c h i n e s i m u l a t i o n o f h u m a n m e n t a l p h e n o m e n a . ( S e a r l e 1 9 8 0 a , p . 4 1 7 ) H e n c e , h e u r g e s , t h i s r e s u l t g e n e r a l i z e s t o a n y s y s t e m i m p l e m e n t i n g a n y P r o g r a m w h a t e v e r . i f t h e s e r e s u l t s a r e c r e d i b l e , S e a r l e i n t h e C h i n e s e r o o m c o u n t e r i n s t a n - c e s F U N , t h e T u r i n g m a c h i n e f u n c t i o n a l i s t c l a i m ( ( x ) ( P x . . . M x ) ) t h a t i m p l e m e n t i n g a P r o g r a m s u f f i c e s f o r p o s s e s s i o n o f t h e m e n t a l p r o p e r t i e s t h a t e x e c u t i o n o f t h e p r o g r a m " s i r n u i a t e s . " S i n c e S e a r l e l a c k s t h e m e n t a l p r o p e r t y o f u n d e r s t a n d i n g C h i n e s e t h a t i m p l e m e n t i n g C S A M c a u s e s h i m t o " s i m u l a t e , " - F U N ( ( E l x ) ( P x & - M x ) ) f o l l o w s i m m e d i a t e l y f r o m e x p e r i m e n t a l r e s u l t R : 3 ( R ) P a 8 : M s S i n c e S e a r l e ’ s i m a g i n i n g ( i n t h e t h o u g h t e x p e r i m e n t ) r e a l l y d o e s s e e m c o m p l e t e l y g e n e r i c i t d o e s s e e m " n o t h i n g d e p e n d s o n t h e d e t a i l s " o f t h e n a t u r a l l a n g u a g e u n d e r s t a n d i n g p r o g r a m b e i n g i m a g i n e d , i f C R E i s w e l l i m a g i n e d a n d e s t a b l i s h e s R , i t d o e s s e e m R w i l l e x t r a p o l a t e ( a s S e a r l e a l l e g e s ) t o a l l c u r r e n t o r p e n d i n g T u r i n g m a c h i n e " s i m u l a t i o n s " o f u n d e r s t a n d i n g . N o t i c e , h o w e v e r , t h a t t h i s w o u l d — b e r e s u i t ’ s g e n e r a l i z i n g t o a l l c u r r e n t " s i m u l a t i o n s " o f a n y m e n t a l p h e n o m e n o n w h a t e v e r ( c o n t r a r y t o S A I P ) a n d t o a n y " m a c h i n e w e ’ r e e v e n t u a l l y g o i n g t o b u i l d [ a n d p r o g r a m ] " ( S e a r l e e t a l . 1 9 8 4 , p . 1 4 6 ) f o r " s i m u l a t i n g " a n y m e n t a l p h e n o m e n o n w h a t e v e r ( c o n t r a r y t o A I P ) r e q u i r e s n o t o n l y t h a t " n o t h i n g [ i n t h e t h o u g h t e x p e r i m e n t ] d e p e n d u p o n t h e d e t a i l s o f S c h a n k ’ s 3 . F o r e x p o s i t o r y p u r p o s e s - F U N i s r e p r e s e n t e d h e r e a s ( 3 x ) ( P x & - M x ) , a n e q u i v a l e n t o f - ( x ) ( P x . . M x ) t h e s y n t a c t i c n e g a t i o n o f F U N . s = S e a r l e . 1 4 1 p r o g r a m s , " b u t a l s o t h a t n o t h i n g i n t h e t h o u g h t e x p e r i m e n t d e p e n d u p o n t h e s p e c i f i c m e n t a l p h e n o m e n o n b e i n g " s i m u l a t e d . " W h e t h e r S e a r l e ’ s " e x p e r i m e n t " m e e t s t h i s s e c o n d r e q u i r e m e n t i s d o u b t f u l : i t s e e m s , i n f a s t e n i n g o n u n d e r s t a n d - i n g , S e a r l e f a s t e n s o n p e r h a p s t h e m o s t p r o p i t i o u s i n t e n t i o n a l m e n t a l s t a t e f o r h i s p u r p o s e s . H o w e v e r o x y m o r o n i c " u n c o n s c i o u s u n d e r s t a n d i n g " s e e m s , " u n c o n - s c i o u s s e e k i n g " " u n c o n s c i o u s i n f e r r i n g , " e t c . , s e e m l e s s s o . M y m a i n c r i t i c i s m o f C R E , h o w e v e r , i s m o r e f u n d a m e n t a l : i t f a i l s t o s u p p o r t R . S i n c e C R E " a p p e a r s t o s o m e t o b e v a l i d ( M a l o n e y 1 9 8 7 ) “ a n d " t o o t h e r s t o b e i n v a l i d ( e . g . , m a n y o f t h e ‘ p e e r ’ c o m m e n t a t o r s f o l l o w i n g S e a r l e 1 9 8 0 [ a ] , S h a r v y 1 9 8 3 , C a r l e t o n 1 9 8 4 , R a y 1 9 8 6 , A n d e r s o n 1 9 8 7 ) " ( C o l e 1 9 9 1 b p . 3 9 9 ) i t a p p e a r s t h a t w h e t h e r C R E s e e m s t o o n e t o s u p p o r t R v a r i e s w i t h t h e t h e o r y o f m i n d o r m e a n i n g o n e s u b s c r i b e s t o . F o r t h i s r e a s o n C R E , l m a i n t a i n , c a n n o t a d j u d i c a t e b e t w e e n t h e s e t h e o r i e s o r p r o v i d e t h e o r y i n d e p e n d e n t g r o u n d s f o r a c c e p t i n g R a n d h e n c e f o r d o u b t i n g F U N , A I P , a n d S A I P . T h e t h o u g h t e x p e r i m e n t i s e v i d e n t l y c i r c u l a r . S e a r l e ’ s " p a r a b l e " ( S e a r l e 1 9 8 4 a , p . 3 3 ) i s a C h a r a d e . 2 . F i r s t A n a l y s i s a n d P r o s p e c t u s W h a t s t a n d s o u t f i r s t , c r u c i a l l y , i n S e a r l e ’ s " e x p e r i m e n t " i s t h e t r a n s i t i o n f r o m " i t s e e m s t o m e q u i t e o b v i o u s t h a t i d o n o t u n d e r s t a n d " t o " I u n d e r s t a n d n o t h i n g " ( S e a r l e 1 9 8 0 9 , p . 4 1 8 ) . C l e a r l y R ’ s f o l l o w i n g ( a n d h e n c e a l l S e a r l e w i l l c l a i m f o l l o w s f r o m R ) d e p e n d s n o t j u s t o n S e a r l e ' s s e e m i n g t o h i m s e l f n o t t o u n d e r s t a n d b u t o n h i s r e a l l y n o t u n d e r s t a n d i n g t h e C h i n e s e s t o r i e s , q u e s t i o n s , a n d a n s w e r s . 4 . A l s o , H a r n a d 1 9 8 9 , 1 9 9 1 ; P u c e t t t 1 9 8 0 . 1 4 2 T h a t i t w o u l d s e e m t h u s t o S e a r l e , f r o m h i s “ f i r s t p e r s o n p o i n t o f v i e w " ( S e a r l e 1 9 8 0 b , p . 4 5 1 ) i n t h e s i t u a t i o n S e a r l e i n i t i a l l y d e s c r i b e s s e e m s u n e x c e p t i o n a b l e . W h a t i s e x c e p t i o n a b i e i s t h e t r a n s i t i o n f r o m i t s s e e m i n g s o f r o m " t h e f i r s t p e r s o n p o i n t o f v i e w " t o i t s b e i n g s o . N o d o u b t t h o s e w h o u n d e r s t a n d n a t u r a l l a n g u a g e s s u c h a s E n g l i s h o r C h i n e s e a r e n o r m a l l y a w a r e o f u n d e r s t a n d i n g t h e m : i t b o t h s e e m s t o t h e m , f r o m t h e i r f i r s t p e r s o n p o i n t s o f v i e w , t h a t t h e y u n d e r s t a n d ( E n g l i s h o r C h i n e s e , 9 . 9 . ) a n d t h e y d o . C o n v e r s e l y , n o d o u b t , t h o s e w h o d o n o t s e e m t o t h e m s e l v e s t o u n d e r s t a n d a n a t u r a l l a n g u a g e ( w h e n t h e y h e a r i t s p o k e n o r s e e i t w r i t t e n ) n o r m a l l y d o n o t u n d e r s t a n d . T h i s i s t h e n o r m a l c a s e - b u t n o t e , i n t h e n o r m a l c a s e o f n o t u n d e r s t a n d i n g i t n o t o n l y s e e m s t o m e f r o m m y " f i r s t p e r s o n p o i n t o f v i e w " t h a t i d o n o t u n d e r s t a n d , i t a l s o s e e m s t h a t w a y t o o t h e r s ( o r w o u l d s e e m t h a t w a y t o o t h e r s w h o s p o k e t o m e o r c o r r e s p o n d e d w i t h m e i n C h i n e s e ) f r o m t h e i r " e x t e r n a l p o i n t o f v i e w . " I n t h e o r d i n a r y c a s e o f s o m e o n e ( e . g . , m y s e l f ) n o t u n d e r s t a n d i n g C h i n e s e , g i v e n s o m e C h i n e s e s t o r i e s a l o n g w i t h q u e s t i o n s ( i n C h i n e s e ) a b o u t t h e s t o r i e s , a n y o n e w h o u n d e r s t a n d s C h i n e s e " j u s t l o o k i n g a t m y a n s w e r s c a n t e l l t h a t I d o n ’ t s p e a k a w o r d o f C h i n e s e " ( S e a r l e 1 9 8 0 a , p . 4 1 8 : m y e m p h a s i s ) . S i n c e t h e e n v i s a g e d c a s e , C R E , i s d e s i g n e d l y a b n o r m a l i n j u s t t h i s r e s p e c t , i t s e e m s t h a t w e c a n n o t a p p e a l e i t h e r t o t h e n o r m a l c o v a r i a n c e o f s e e m i n g t o o n e s e l f n o t t o u n d e r s t a n d w i t h n o t u n d e r s t a n d i n g t o d e c i d e t h i s c a s e i n f a v o r o f S c a r b ’ s n o t u n d e r s t a n d i n g o r t o t h e n o r m a l c o v a r i a n c e o f s e e m i n g t o o t h e r s t o u n d e r s t a n d w i t h a c t u a l l y u n d e r s t a n d i n g t o d e c i d e t h i s c a s e t o t h e c o n t r a r y . I f S e a r l e ’ s i m a g i m d i n t r o s p e c t i v e l a c k o f a w a r e n e s s o r s i n c e r e d i s a v o w a l o f u n d e r s t a n d i n g i s a l l t h e w a r r a n t C R E p r o v i d e s f o r t h e c o n c l u s i o n t h a t S e a r l e 1 4 3 w o u l d n o t u n d e r s t a n d t h e C h i n e s e s t o r i e s , q u e s t i o n s , a n d a n s w e r s i n t h e e n v i s a g e d s c e n a r i o , C R E m u s t b e j u d g e d i n c o n c l u s i v e . W h a t w o u l d e n a b l e C R E t o e s t a b l i s h t h e r e s u l t t h a t , d e s p i t e i m p l e m e n t i n g C S A M a n d c o n s e q u e n t l y g i v i n g " a n s w e r s t o t h e q u e s t i o n s [ t h a t ] a r e a b s o l u t e l y i n d i s t i n g u i s h a b l e f r o m t h o s e o f C h i n e s e s p e a k e r s " ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) , S e a r l e i n t h e e v i s a g e d s c e n a r i o w o u l d n o t u n d e r s t a n d ? O n l y a n a p r i o r i t e n d e r o f t h e e p i s t e m i c p r i v i l e g e o f o v e r r i d i n g a l l " e x t e r n a l " a p p e a r a n c e s t o h o w i t s e e m s " f r o m t h e p o i n t o f v i e w o f t h e a g e n t , f r o m m y [ f i r s t p e r s o n ] p o i n t o f v i e w " ( S e a r l e 1 9 8 0 a , p . 4 2 0 ) s e e m s t o s u f f i c e ; i . e . , o n l y a C a r t e s i a n g r a n t t o S e a r l e o f p r i v i l e g e d a c c e s s t o h i s o w n ( l a c k o f ) u n d e r s t a n d i n g i n t h e e x p e r i m e n t a l s i t u a t i o n . I t s e e m s t o m e q u i t e o b v i o u s f r o m t h i s , a s f r o m S e a r l e ’ s c h a r a c t e r i z a t i o n o f C R E a s i m p l e m e n t i n g t h e m e t h o d o l o g i c a l i m p e r a t i v e " a l w a y s i n s i s t o n t h e f i r s t p e r s o n p o i n t o f v i e w " ( S e a r l e 1 9 8 0 b , p . 4 5 1 ) , t h a t C R E d o e s i n v i t e u s " t o r e g r e s s t o t h e C a r t e s i a n v a n t a g e p o i n " ( D e n n e t t 1 9 8 7 b , p . 3 3 6 ) v i a j u s t s u c h a n a p r i o r i t e n d e r o f e p i s t e m i c p r i v i l e g e t o “ t h e f i r s t p e r s o n p o i n t o f v i e w " : t h e " e x p e r i m e n t " s u c c e e d s ( o r s e e m s t o ) o n l y i f w e a c c e p t t h e i n v i t a t i o n . I f C R E d o e s d e p e n d o n s u c h a n a p r i o r i g r a n t o f o v e r r i d i n g e p i s t e m i c p r i v i l e g e t o h o w i t s e e m s t o t h e a g e n t w i t h r e g a r d t o t h e i r o w n i n t e n t i o n a l m e n t a l s t a t e s ( e . g . , u n d e r s t a n d i n g ) " f r o m t h e p o i n t o f v i e w o f t h e a g e n t , f r o m m y p o i n t o f v i e w " ( S e a r l e 1 9 8 0 a , p . 4 2 0 ) i t s e e m s C R E ’ s s u p p o r t f o r w o u l d - b e f i r s t r e s u l t R w i l l b e a s d u b i o u s a s t h i s C a r t e s i a n g r a n t o f e p i s t e m i c p r i v i l e g e . W h e t h e r C R E ’ s s u p p o r t f o r R d o e s d e p e n d o n s u c h a g r a n t o f e p i s t e m i c p r i v i l e g e t o t h e " f i r s t p e r s o n p o i n t o f v i e w " ( S e a r l e 1 9 8 0 b , p . 4 5 1 ) , h o w e v e r , i s 1 4 4 c o n t r o v e r s i a l . S e a r l e h i m s e l f p r o t e s t s ( I t h i n k , t o o m u c h ) t h a t h e e m p l o y s n o " C a r t e s i a n a p p a r a t u s " ( S e a r l e 1 9 9 2 , p p . x x i , 1 4 ) o r " C a r t e s i a n p a r a p h e r n a l i a ( S e a r l e 1 9 8 7 a , p . 1 4 6 ) , a n d i n s e v e r a l p l a c e s ( S e a r l e 1 9 9 2 , p . 9 5 f ; 1 9 8 7 a , p . 1 4 6 ) e x p l i c i t l y d i s a v o w s p r i v i l e g e d a c c e s s . Y e t o t h e r s - - e s p e c i a l l y a d v o c a t e s o f w h a t S e a r l e c a l l s " t h e r o b o t r e p l y " ( i . e . , c a u s a l t h e o r i e s o f r e f e r e n c e ) - - u n s y m p a t h e t i c t o t h e a p r i o r i t e n d e r o f o v e r r i d i n g e p i s t e m i c p r i v i l e g e t o t h e " f i r s t p e r s o n p o i n t o f v i e w " t h a t S e a r l e ’ s a p p l i c a t i o n o f t h e " a l w a y s i n s i s t " i n j u n c t i o n i n t h e " e x p e r i m e n t " s e e m s t o i n v o l v e , n o n e t h e l e s s i n c l i n e t o c r e d i t S e a r l e ’ s " e x p e r i m e n t " a s r e f u t a t i v e o f u n a d u l t e r a t e d o r " h i g h c h u r c h " f u n c t i o n a l i s m ; t h o u g h n o t a u g m e n t e d o r " l o w c h u r c h " f u n c t i o n a l i s m F ’ I n t h i s c o n n e c t i o n , S e a r l e ’ s o w n d i a g n o s i s o f w h a t h e w o u l d b e l a c k i n g i n t h e w a y o f u n d e r s t a n d i n g C h i n e s e i n t h e " e x p e r i m e n t a l " s i t u a t i o n - a w a r e n e s s o f w h a t t h e s y m b o l s m e a n t o r o f t h e i r s e m a n t i c s - - p e r h a p s e n c o u r a g e s t h e i d e a t h a t C R E s u p p o r t s R ( o r c a n b e m a d e t o s u p p o r t R ) b y p u m p i n g c r e d i b l e i n t u i t i o n s a b o u t s y n t a x a n d s e m a n t i c s r a t h e r t h a n C a r t e s i a n i n t u i t i o n s a b o u t c o n s c i o u s n e s s a n d p r i v i l e g e d a m a s s l , f o r o n e , " h a d t h o u g h t l o n g a g o d i s c r e d i t e d " ( S e a r l e 1 9 9 2 , p . x i i ) . A g a i n , g i v e n t h e a b n o r m a l i t y o f t h e " e x p e r i m e n t a l " c a s e S e a r l e d e s c r i b e s - - o f S e a r l e ’ s ( i m a g i n e d ) s e l f - a v o w e d o r i n t r o s p e c t e d l a c k o f u n d e r s t a n d i n g o f C h i n e s e i n t h e r o o m - C R E d o e s n o t s u f f i c e t o e s t a b l i s h S e a r l e ’ s a c t u a l l a c k o f u n d e r s t a n d - i n g g i v e n t h e ( i m a g i n e d ) o v e r w h e l m i n g e v i d e n c e " f r o m t h e e x t e r n a l p o i n t o f v i e w ” 5 . B y " p u r e " o r " h i g h c h u r c h " f u n c t i o n a l i s m i m e a n t h e v i e w t h a t p r o g r a m m i n g " b y i t s e l f " ( S e a r l e 1 9 8 0 a , p . 4 1 7 a b s t r a c t ) s u f f i c e s f o r m i n d ( i . e . , f o r v a r i o u s m e n t a l p r o p e r t i e s ) ; b y " l m p u r e " o r " l o w c h u r c h " f u n c t i o n a l i s m I m e a n v i e w s t h a t p r o g r a m m i n g p l u s s o m e t h i n g e l s e - - t y p i c a l l y , i t i s u r g e d , t h e r i g h t c a u s a l ( s e n s o r i m o t o r ) c o n n e c t i o n s o f p r o c e s s e d s y m b o l s t o t h e i r r e f e r e n t s - - s u f f i c e s . 1 4 5 t h a t h e d o e s u n d e r s t a n d . A g a i n , w h i l e C R E r e l i a b l y p u m p s t h e i n t u i t i o n t h a t S e a r l e w o u l d n o t b e c o n s c i o u s o f u n d e r s t a n d i n g t h e C h i n e s e ( s t o r i e s , q u e s t i o n s , a n d a n s w e r s ) h e w a s p r o c e s s i n g i t f a i l s t o r e l i a b l y p u m p t h e i n t u i t i o n t h a t t h i s p r o c e s s i n g w o u l d n o t t o a m o u n t t o u n d e r s t a n d i n g . T h e s u g g e s t i o n w e a r e n o w c o n s i d e r i n g i s t h a t t h i s c r i t i c i s m m i g h t b e a v o i d e d b y t a k i n g t h e i n t u i t i o n s C R E p u m p s d i r e c t l y t o b e a b o u t t h e m e a n i n g l e s s n e s s ( t o S e a r l e ) o f t h e s y m b o l s S e a r l e s h u f f l e s ; i . e . , w e a r e c o n s i d e r i n g t h e p o s s i b i l i t y o f t a k i n g C R E t o s u p p o r t R a t o n e r e m o v e , s o t o s p e a k , a s f o l l o w s : ( a ) P s & - S s ( A 2 ) ( x ) ( M x - ' S x ) ( a ) P s & - M s i f t h i s " i n d i r e c t c o n s t r u a l " o f C R E c a n b e s u s t a i n e d a n d i n t u i t i o n s a b o u t s y n t a x a n d s e m a n t i c s u n d e r w r i t i n g R " ( u n l i k e i n t u i t i o n s a b o u t c o n s c i o u s n e s s a n d p r i v i l e g e d a c c e s s d i r e c t l y u n d e r w r i t i n g R ) d o n o t d e p e n d o n a d u b i o u s a p r i o r i t e n d e r o f e p i s t e m i c p r i v i l e g e t o t h e “ f i r s t p e r s o n p o i n t o f v i e w , " t h a n C R E , i n d i r e c t l y c o n s t r u e d , w i l l b e i m m u n e t o t h e u s u a l o b j e c t i o n s t o c l a i m s o f p r i v i l e g e d a c c e s s . 3 . S e a r l e ’ s D i a g n o s i s : W h y S e a r l e i n t h e R o o m D o e s n ’ t U n d e r s t a n d B o t h , i t s e e m s , t o r e i n f o r c e t h e " i n t u i t i o n " t h a t o n e w o u l d n o t u n d e r s t a n d C h i n e s e i n t h e i m a g i n e d s c e n a r i o , a n d t o s h o w ( b y c o m p a r i s o n ) w h a t t h e o c c u p a n t o f t h e r o o m l a c k s i n t h e w a y o f u n d e r s t a n d i n g , S e a r l e c o n t r a s t s h i s i m a g i n e d d o i n g s i n t h e C h i n e s e r o o m w i t h t h e o r d i n a r y c a s e i n w h i c h " p e o p l e g i v e m e [ a n a t i v e E n g l i s h s p e a k e r ] s t o r i e s i n E n g l i s h , w h i c h i u n d e r s t a n d , a n d t h e y t h e n a s k m e q u e s t i o n s i n E n g l i s h a b o u t t h e s e s t o r i e s , a n d i g i v e t h e m b a c k a n s w e r s i n 1 4 6 E n g l i s h " ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) . S e a r l e t h e n a s k s , " W e l l , t h e n , w h a t i s i t t h a t 1 h a v e i n t h e c a s e o f t h e E n g l i s h s e n t e n c e s t h a t i d o n o t h a v e i n t h e c a s e o f t h e C h i n e s e s e n t e n c e s ? " H e r e p l i e s , " T h e o b v i o u s a n s w e r i s t h a t I k n o w w h a t t h e f o r m e r m e a n , w h i l e i h a v e n ' t t h e f a i n t e s t i d e a w h a t t h e l a t t e r m e a n " ( S e a r l e 1 9 8 0 9 , p . 4 1 8 ) . O n t h i s d i a g n o s i s S e a r l e f a i l s t o u n d e r s t a n d b e c a u s e " u n d e r s t a n d i n g i m p l i e s t h e p o s s e s s i o n o f m e n t a l ( i n t e n t i o n a l ) s t a t e s " ( S e a r l e 1 9 8 0 a , p . 4 1 8 n ) a n d w h e n y o u a s k y o u r s e l f w h a t i t w o u l d b e l i k e f o r y o u t o b e t h e p e r s o n i n t h e r o o m i t s e e m s c l e a r t o y o u t h a t y o u r a w a r e n e s s w o u l d l a c k t h e r e q u i s i t e i n t e n t i o n a l d i r e c t e d n e s s t o w a r d t h e r e f e r e n t s o f s y m b o l s y o u w e r e p r o c e s s i n g ( y o u w o u l d n o t k n o w w h a t t h e s t o r i e s w e r e a b o u t ) a n d t h u s t h e r e q u i s i t e i n t e n t i o n a l i t y f o r t h e m e n t a l s t a t e s ( e . g . , u n d e r s t a n d i n g ) a t i s s u e . B e c a u s e t h e f o r m a l s y m b o l m a n i p u l a t i o n s b y t h e m s e l v e s d o n ’ t h a v e a n y i n t e n t i o n a l i t y ; t h e y a r e q u i t e m e a n i n g l e s s ; t h e y a r e n ’ t e v e n s y m b o l m a n i p u l a t i o n s , s i n c e t h e s y m b o l s d o n ’ t s y m b o l i z e a n y t h i n g . i n t h e l i n g u i s t i c j a r g o n . t h e y h a v e o n l y a s y n t a x b u t n o s e m a n t i c s . ( S e a r l e 1 9 8 0 a , p . 4 2 2 ) A c c o r d i n g t o t h i s d i a g n o s i s , w h a t S e a r l e i n t h e r o o m l a c k s f o r C h i n e s e ( a n d p r o g r a m m e d c o m p u t e r s , S e a r l e m a i n t a i n s , l a c k a l t o g e t h e r ) i s i n t e n t i o n a l i t y o r m e a n i n g o r s e m a n t i c s . T o t h e h u m a n c o m p u t e r i n t h e r o o m ( h e n c e a l s o t o t h e e l e c t r o n i c c o m p u t e r r u n n i n g S A M ) t h e C h i n e s e q u e s t i o n s a n d a n s w e r s a r e " j u s t s o m a n y m e a n i n g l e s s s q u i g g l a s " ( S e a r l e 1 9 8 0 , p . 4 1 8 ) . A c c o r d i n g t o t h i s d i a g n o s i s t h e i n t u i t i o n t h a t S e a r l e w o u l d n o t u n d e r s t a n d t h e C h i n e s e s t o r i e s q u e s t i o n s a n d a n s w e r s h e p r o c e s s e d i n t h e r o o m d e p e n d s o n t h e m o r e f u n d a m e n t a l i n t u i t i o n t h a t , i n t h e " e x p e r i m e n t a l " s i t u a t i o n d e s c r i b e d , S e a r l e c o u l d n ’ t 1 4 7 a t t a c h t h e r i g h t s e m a n t i c s a n d n e e d n ’ t a t t a c h a n y s e m a n t i c s t o t h e s y m b o l s h e . w a s p r o c e s s i n g . N o w i t m i g h t r i g h t l y b e o b p c t a d t h a t m u c h a s S e a r l e ’ s u n a w a r a n e s s o f u n d e r s t a n d i n g d o e s n o t s u f f i c e i n t h e f a c e o f o v e r w h e l m i n g e v i d e n c e t o t h e c o n t r a r y t o c o n c l u s i v e l y e s t a b l i s h t h a t h e d o e s n ’ t u n d e r s t a n d u n a w a r a s , n e i t h e r d o e s S e a r l e ’ s f a i l u r e t o c o n s c i o u s l y a t t a c h m e a n i n g t o t h e s y m b o l s h a ’ s p r o c e s s i n g e s t a b l i s h t h a t t h e s y m b o l s a n d p r o c e s s i n g t h e m s e l v e s l a o k m e a n i n g o r i n t e n t i o n - a l i t y . H e r a , h o w e v e r , p e r h a p s a w e d g e m i g h t b e d r i v e n b e t w e e n t h e t w o " i n t u i t i o n s " ( s u p p o r t i v e o r R a n d R ’ ) : w h i l e i t i s d o u b t f u l t h a t i t f o l l o w s f r o m S e a r l e ’ s s e e m i n g t o h i m s e l f n o t t o u n d e r s t a n d C h i n e s e t h a t h e i s a c t u a l l y n o t u n d e r s t a n d — i n g , i t i s p e r h a p s l e s s d o u b t f u l t h a t i t f o l l o w s f r o m S e a r l e ' s u n a w a r a n e s s o f t h e m e a n i n g o f t h e s y m b o l s b e i n g p r o c e s s e d t h a t t h e s e s y m b o l s a r e m e a n i n g l e s s t o S e a r l e , t h a t t h e y l a c k w h a t S e a r l e c a l l s " i n t r i n s i c i n t e n t i o n a l i t y " ( S e a r l e 1 9 8 0 b , p . 4 5 0 : m y e m p h a s i s ) . W h e n t h i s l i n e i s p u r s u e d ( a s i t i s i n c h a p t e r s 4 6 , b e l o w ) i t t u r n s o u t t h e " i n t u i t i o n s " C R E ’ s s u p p o r t o f R ’ d e p e n d o n a r e , c r u c i a l l y , n o t a b o u t t h e ( l a c k o f ) m e a n i n g o f t h e s y m b o l s p r o c e s s e d a n d t h e ( l a c k o f ) i n t e n t i o n a l i t y o f t h e p r o c e s s i n g p e r s e , b u t a b o u t t h e ( l a c k o f ) i n t r i n s i c a l i t y o f t h i s m e a n i n g a n d i n t e n t i o n a l i t y . 4 . A r g u m e n t a n d " E x p e r i m e n t " L e t u s , n o w , l o o k a t t h e i n t e r f a c e b e t w e e n t h e f o r m a l C h i n e s e r o o m a r g u m e n t ( C R A ) a n d S e a r l e ’ s G a d a n k e n a x p a r i m a n t ( C R E ) . S t r e s s e s a t t h i s 1 4 a i n t e r f a c e s h o w C R E ’ s q u e s t i o n - b e g g i n g r e l i a n c e o n t h e v e r y t h e o r i e s o f m i n d t h a t R ( o r R ’ ) s u p p o s e d l y s u p p o r t s t o s u p p o r t R ( o r R ’ ) . 4 . 1 A n o m a l i e s o f t h e S t a n d a r d C o n s t r u a l o f C R E ’ s R e l a t i o n t o C R A S e a r l e w r i t e s t h a t t h e f o r m a l C h i n e s e r o o m a r g u m e n t ( C R A ) h a s a v e r y s i m p l e l o g i c a l s t r u c t u r e , s o y o u c a n s e e w h e t h e r i t i s v a l i d o r i n v a l i d " ( 1 9 8 4 , p . 3 8 ) : l h a v e s h o w n ( C h a p t e r T w o , a b o v e ) t h a t t h e " d e r i v a t i o n f r o m a x i o m s " ( 1 9 8 9 a , p . 7 0 1 ) S e a r l e o f f e r s i s i n v a l i d l T h e " b r u t a l l y s i m p l e " c r u x ( B S A ) o f S e a r l e ’ s a r g u m e n t f a i l s t o e n t a i l t h e a n t i - f u n c t i o n a l i s t c o n c l u s i o n ( C 1 ) " P r o g r a m s a r e n ’ t ( s u f f i c i e n t f o r ) m i n d s " S e a r l e a l b g e s b e c a u s e t h e p o s s i b i l i t y r e m a i n s , o n t h e s t a t e d p r e m i s e s ( A t - A 3 ) t h a t t h e s y n t a x a s w h i c h a r e s u p p o s e d ( b y w a y o f s a t i s f y i n g A 3 ) t o l a c k s e m a n t i c s a r e n o t P r o g r a m s . T h u s , i t i s c o n s i s t e n t w i t h S e a r l e ’ s p r e m i s e s t h a t a l l s y n t a x a s t h a t a r e P r o g r a m s a r e ( s u f f i c i e n t f o r ) s e m a n t i c s a n d m i n d s . I n C h a p t e r T w o I i n d i c a t e d o n e p o s s i b l e r e a s o n w h y t h i s l o g i c a l g a p i n S e a r l e ' s p u t a t i v e d e r i v a t i o n h a s b e e n o v e r l o o k e d b y S e a r l e a n d o t h e r s : a l l e g i a n c e o f p a r t i s a n s t o t h e s e d i s p u t e s t o a " s t a n d a r d t e x t b o o k d e f i n i t i o n o f c o m p u t a t i o n " ( S e a r l e 1 9 9 0 c , p . 2 6 ) o n w h i c h y o u c a n d e s c r i b e a n y s u f f i c i e n t l y c o m p l e x o b j e c t a s i n s t a n t i a t i n g a n y s u f f i c i e n t l y s i m p l e p r o g r a m ( h e n c e a n y s u f f i c i e n t l y s i m p l e P r o g r a m ) y o u l i k e f i l l s t h e l o g i c a l g a p i n t h e d e r i v a t i o n n i c e l y . I n o w n o t e t h a t t h e C h i n e s e r o o m e x p e r i m e n t i t s e l f , i f i t s u c c e e d s , f i l l s t h i s l o g i c a l g a p i n t h e a r g u m e n t t o o ; b u t f i l l s i t t o o w e l l . S e a r l e d o e s n ’ t d i s p u t e t h e a n a l y s e s o f o t h e r s o f h i s " t h o u g h t e x p e r i m e n t [ a s ] d e v o t e d t o s h o r i n g u p a x i o m 3 " ( C h u r c h l a n d & S m i t h C h u r c h l a n d 1 9 9 0 , p . 3 4 ) - a n d h i m s e l f c l a i m s , 1 4 9 T h e p o i n t o f t h e p a r a b l e a b o u t t h e C h i n e s e r o o m i s t o r e v e a l a d e e p p o i n t a b o u t t h e c h a r a c t e r o f a r t i f i c i a l i n t e l l i g e n c e r e s e a r c h a n d h u m a n t h i n k i n g . T h i s i s t h e p o i n t f r o m s y n t a x a l o n e y o u c a n ’ t g e t t h e m e n t a l [ s e m a n t i c ] c o n t e n t " ( S e a r l e e t . a l . 1 9 3 4 , p . 1 4 7 ) S y n t a x b y i t s e l f i s n o t t h e s a m e a s , n o r i s i t s u f f i c i e n t f o r , s e m a n t i c s . T h i s i s s h o w n b y m y C h i n e s e r o o m [ a x p e r i m e n t ] " ( S e a r l e 1 9 9 0 b , p . 5 8 ) . Y e t , i n t h e e x a m p l e h e r e s u p p o s e d t o c o u n t e r i n s t a n c e t h e t h e s i s t h a t s y n t a x a l o n e s u f f i c e s f o r s e m a n t i c s ( t h e e x a m p l e o f S e a r l e i n s t a n t i a t i n g C S A M y e t f a i l i n g t o a t t a c h m e a n i n g t o t h e C h i n e s e s y m b o l s h e p r o c e s s e s ) t h e s y n t a x i n s t a n t i a t e d i s a l r e a d y s u p p o s e d t o b e a P r o g r a m . i f C R E s u c c e e d s a s a d v e r t i s e d i n e s t a b l i s h i n g R t h e n C R E e i t h e r p r o v e s " P r o g r a m s b y t h e m s e l v e s a r e n o t ( s u f f i c i e n t f o r ) m i n d s " d i r e c t l y i n d e p e n d e n t l y o f a l l t h e " a x i o m s " o f S e a r l e ’ s w o u l d - b e d e r i v a - t i o n ( t h e " d i r e c t i n t e r p r e t a t i o n " o f C R E ) ; o r e l s e ( o n t h e " i n d i r e c t c o n s t r u a l " ) t h e e x p e r i m e n t , i f s u c c e s s f u l , p r o v e s " P r o g r a m s b y t h e m s e l v e s a r e n o t s u f fi c i e n t f o r s e m a n t i c s o r i n t e n t i o n a l i t y , " f r o m w h i c h C 1 f o l l o w s i n c o n j u n c t i o n w i t h A 2 a l o n e , i n d e p e n d e n t l y o f A 3 a n d A 1 . S i n c e C R E , i f i t s u c c e e d s , d o e s n o t s u p p o r t C R A b y f i l l i n g t h e l o g i c a l g a p i n B S A b u t r a t h e r e n t i r e l y ( o n t h e d i r e c t r e a d i n g ) o r p a r t l y ( o n t h e i n d i r e c t ) s u p p l a n t s B S A , w h a t i s t h e p o i n t o f S e a r l e ' s " d e r i v a t i o n f r o m a x i o m s " ( S e a r l e 1 9 8 9 a , p . 7 0 2 ) ? i n d i r e c t l y c o n s t r u e d C R E y i e l d s i n t e r m e d i a t e r e s u l t I R ( ( a x x P x & - S x ) ) a s f o l l o w s : ( R ’ ) P s & - S s ( l R ) ( 3 x ) ( P x & - S x ) I R t h e n e n t a i l s C 1 b y a n a r g u m e n t i w i l l t e r m t h e C h i n e s e r o o m e x p e r i m e n t a l a r g u m e n t ( C R E A ) : 1 5 0 C R E A ( A 2 ) ( X X M x - * 3 X ) ( l R ) ( 3 x ) ( P x & - S x ) ( C t ) - ( x ) ( P x - » M x ) i t i s o d d , t o s a y t h e l e a s t , t o s u g g e s t a m o r e c o m p l i c a t e d i n v a l i d a r g u m e n t ( B S A ) i n p l a c e o f t h i s s i m p l e r v a l i d o n e . 4 . 2 S o m e W o u l d - b e S t r e n g t h e n i n g s o f B S A R e j e c t e d O n e p o s s i b l e e x p l a n a t i o n f o r t h i s p e r p l e x i n g s h i f t i s s u g g e s t e d b y S e a r l e ’ s i n i t i a l a d v e r t i s e m e n t o f t h e C h i n e s e r o o m a r g u m e n t / e x p e r i m e n t a s b e i n g i n t e n w d t o s h o w t h a t " a c o m p u t e r p r o g r a m i s n e v e r b y i t s e l f a s u f f i c i e n t c o n d i t i o n o f i n t e n t i o n a l i t y [ o r s e m a n t i c s j " ( S e a r l e 1 9 8 0 a , p . 4 1 7 a b s t r a c t , m y e m p h a s i s ) . T h e h y p o t h e s i s i s t h a t t h i s i s a m o d a l " n e v e r " ; t h a t S e a r l e w a n t s t o s h o w t h a t p r o g r a m m i n g i s n e c e s s a r i l y i n s u f f i c i e n t . B u t C R E w o u l d o n l y s h o w , a t m o s t , t h a t i n s t a n t i a t i n g a c o m p u t e r P r o g r a m i s n o t a c t u a l l y s u f f i c i e n t f o r m i n d ( - ( x ) ( P x _ . M x ) ) o r s e m a n t i c s ( - ( x ) ( P x - - S x ) ) . P e r h a p s , m o r e w e a k l y y e t ( t h e r e b e i n g d o u b t w h e t h e r c o n v i n c i n g " s i m u l a t i o n " o f C h i n e s e u n d e r s t a n d i n g b y t h e m e a n s i m a g i n e d b y S e a r l e i s p r a c t i c a l l y , o r e v e n n o m o i o g i c a l l y , p o s s i b l e ) , C R E m a y o n l y s h o w t h a t i t i s ( n o m o i o g i c a l l y o r l o g i c a l l y ) p o s s i b l e f o r P r o g r a m m i n g t o b e i n s u f f i - c i e n t ; m a y o n l y s h o w t h a t " l i n g u i s t i c c o m m u n i c a t i o n c o u l d i n p r i n c i p l e ( t h o u g h p e r h a p s n o t i n p r a c t i c e ) b e n o m o r e t h a n m i n d l e s s s y m b o l m a n i p u l a t i o n " ( H a r n a d 1 9 9 1 , p . 5 0 : m y e m p h a s i s ) . C a l l t h e s t r o n g m o d a l v e r s i o n o f C l ( E l - ( x ) ( P x _ . M x ) ) , t h a t p r o g r a m m i n g n e v e r s u f f i c e s f o r m i n d , t h e " s t r o n g c o n c l u s i o n " ( 0 1 8 ) . C a l l t h e s t r o n g m o d a l v e r s i o n o f l R ( C i - ( x ) ( P x a S x ) ) . t h a t p r o g r a m m i n g n e v e r s u f f i c e s f o r 1 5 1 s e m a n t i c s t h e " s t r o n g i n t e r m e d i a t e r e s u l t " ( I R S ) . 6 W h a t w o u l d s h o w t h a t P r o g r a m m i n g i s n e c e s s a r i l y i n s u f f i c i e n t f o r i n t e n t i o n a l m e n t a l s t a t e s w o u l d b e i f C 1 c o u l d b e d e r i v e d f r o m " t h e v e r y d e f i n i t i o n o f a d i g i t a l c o m p u t e r " ( S e a r l e 1 9 8 4 a , p . 3 0 , m y e m p h a s i s ) o r p r o g r a m ( A 1 ) , a d e f i n i t i o n a l t r u t h ( A 2 ) a b o u t i n t e n t i o n a l m e n t a l s t a t e s , a n d ( A 3 ) a " l o g i c a l t r u t h , n a m e l y , s y n t a x a l o n e i s n o t s u f fi c i e n t f o r s e m a n t i c s " ( S e a r l e 1 9 8 4 a , p . 3 4 , m y e m p h a s i s ) . A c c o r d i n g t o t h e i n t e r p r e t i v e h y p o t h e s i s w e a r e n o w c o n s i d e r i n g S e a r l e i n v o k e s B S A t o g e t t h e c o n c l u s i o n t h a t p r o g r a m m i n g i s n e c e s s a r i l y i n s u f fi c i e n t f o r m i n d t h a t C R E a l o n e w o n ’ t y i e l d . R e p r e s e n t i n g t h e m o d a l c o m m i t m e n t s i m p l i c i t i n t h e d e fi n i t i o n a l o r l o g i c a l t r u t h o f S e a r l e ’ s a x i o m s e x p l i c i t l y y i e l d s t h e f o l l o w i n g s t r o n g m o d a l v e r s i o n ( B S A S ) o f B S A : B S A S ( A 1 8 ) C l ( x ) ( P x - + F x ) ( A 2 8 ) C l ( x ) ( M x - t S x ) ( A 3 8 ) C l - ( x ) ( F x - t S x ) ' . ( C 1 S ) [ I t - ( x ) ( P x - t M x ) T h i s e n v i s a g e d m o d a l s t r e n g t h e n i n g o f t h e p r e m i s e s i s o f n o a v a i l . B S A S i s i n v a l i d f o r m u c h t h e s a m e r e a s o n s a s B S A . I t s a t i s f i e s A S S i f a t e v e r y p o s s i b l e t i m e o r c a u s a l l y p o s s i b l e w o r l d t h e r e e x i s t s s o m e u n i n t e r p r e t e d f o r m a l i s m l a c k i n g s e m a n t i c s : t h e p o s s i b i l i t y r e m a i n s , o n t h e s t a t e d p r e m i s e s ( A 1 S — A 3 8 ) , t h a t t h e 6 . T h o u g h S e a r l e ’ s " n e v e r " s u g g e s t s u n d e r s t a n d i n g " D " h e r e a s a t e m p o r a l n e c e s s i t y o p e r a t o r s i g n i f y i n g t r u t h a t a l l t i m e s , i t i s m o r e i n l i n e w i t h S e a r l e ’ s s u b s e q u e n t d i s c u s s i o n , p e r h a p s , t o u n d e r s t a n d t h e n e c e s s i t y i n q u e s t i o n h e r e a s c a u s a l o r n o m o i o g i c a l n e c e s s i t y . N o t e a l s o t h a t , s t r i c t l y s p e a k i n g , w e s h o u l d h a v e t o r e n d e r 0 1 8 a s D - ( ( 3 x ) P x - v ( x ) ( P x - > M x ) ) a n d I R S a s E l - ( ( 3 X ) P x - t ( x ) ( P x . . S x ) ) t o a v o i d t h e p r o b l e m o f t h e s i m p l i f i e d r e n d e r i n g s b e i n g v a c u o u s l y c o u n t e r i n s t a n c e d b y t i m e s a t w h i c h n o t h i n g i n s t a n t i a t e s a ( p a r t i a l T u r i n g t e s t p a s s i n g ) p r o g r a m : I i g n o r e t h i s c o m p l i c a t i o n . 1 5 2 f o r m a l i s m s o r s y n t a x a s w h i c h a r e s u p p o s e d ( b y w a y o f s a t i s f y i n g A 3 8 ) t o b e n e c e s s a r i l y i n s u f f i c i e n t f o r s e m a n t i c s a r e n o t P r o g r a m s , i . e . , t h a t t h e r e a r e p o s s i b l e w o r l d s a t w h i c h a l l t h e s y n t a x a s t h a t a r e P r o g r a m s h a v e s e m a n t i c s a n d a r e m i n d s . T h e p o s s i b i l i t y e v e n r e m a i n s t h a t t h i s i s a c t u a l l y t h e c a s e , t h a t a l l P r o g r a m s h a v e s e m a n t i c s a n d a r e m i n d s a t o u r w o r l d , t h e a c t u a l w o r l d . M e r e l y s t y l i n g t h e p r e m i s e s n e c e s s a r y d o e s n o t h i n g t o r e p a i r t h e l o g i c a l g a p i n B S A . T h e s t r o n g m o d a l i n t e r m e d i a t e r e s u l t ( I R S ) t h a t p r o g r a m m i n g i s n e c e s s a r i l y i n s u f f i c i e n t f o r s e m a n t i c s ( C l - ( x ) ( P x . . S x ) ) , o f c o u r s e , w o u l d s u f f i c e t o f i l l t h i s g a p ; b u t , a g a i n , t h e g a p i s f i l l e d t o o w e l l . A d d i n g m s t o t h e m o d a l f o r m u l a t i o n a b o v e r e n d e r s A 1 6 a n d A 3 6 o t i o s a . T h e o p e r a t i v e a r g u m e n t n o w - - t h e s t r o n g m o d a l C R E A ( C R E A S ) - - i s j u s t : C R E A S ( A 2 3 ) C 1 0 0 0 “ x - ’ 3 X ) ( I R S ) C l - ( x ) ( P x - + S x ) ( 0 1 $ ) m x x e x - > M x ) T h i s s t r o n g m o d a l c o n s t r u a l a c c o r d s w e l l w i t h t h e a p r i o r i s t i c s p i r i t o f S e a r l e ’ s i n s i s t e n c e t h a t h i s " r e f u t a t i o n " o f A l ( u n l i k e , e . g . , D r e y f u s ’ s ) " i s c o m p l e t e l y i n d e p e n d e n t o f a n y s t a t e o f t e c h n o l o g y " a n d r a t h e r " h a s t o d o w i t h t h e v e r y d e f i n i t i o n o f a d i g i t a l c o m p u t e r " ( S e a r l e 1 9 8 4 a , p . 3 0 ) . T h i s c o n s t r u a l a l s o s e e m s c o n s i s t e n t w i t h S e a r l e ’ s a d v e r t i s e m e n t o f t h e c o n c l u s i o n o f t h e C h i n e s e r o o m a r g u m e n t / e x p e r i m e n t a s " a v e r y p o w e r f u l c o n c l u s i o n " ( S e a r l e 1 9 8 4 a , p . 3 9 ) . O n t h e o t h e r h a n d , t h i s s t r o n g m o d a l c o n s t r u a l o f C R E A s q u a r e s i l l w i t h S e a r l e ’ s r e n d e r i n g o f t h e C h i n e s e r o o m ’ s c o n c l u s i o n e l s e w h e r e a s " I t i s p o s s i b l e t h a t 1 5 3 ( p r o g r a m a n d n o t m i n d ) " ( S e a r l e 1 9 8 9 a , p . 7 0 2 ) o r e q u i v a l e n t l y " i t i s n o t t h e c a s e t h a t ( n e c e s s a r i l y ( p r o g r a m i m p l i e s m i n d ) ) " ( S e a r l e 1 9 8 9 a , p . 7 0 3 ) . R e p r e s e n t t h e w e a k m o d a l c o n s t r u a l o f i R ( I R W ) a n s w e r i n g t o t h i s w e a k m o d a l r e a d i n g o f C 1 a s f o l l o w s : ( I R W ) o - ( x ) ( P x 4 S x ) P e r h a p s C R E m e r e l y p r o v e s I R W . W e h a v e , t h e n a w e a k m o d a l v e r s i o n o f C R E A ( C R E A W ) i n t h e f o l l o w i n g : C R E A W ( A 2 ) ( x ) ( M x - ' 3 X ) ( l R W ) 0 - ( x ) ( P x » S x ) ( C I W ) 0 - ( x ) ( P x - » M x ) l f T u r i n g m a c h i n e f u n c t i o n a l i s m i s a p t l y c o n s t r u e d a s h o l d i n g " N e c e s s a r i l y ( p r o g r a m i m p l i e s m i n d ) , " a s S e a r l e ( 1 9 8 9 a , p . 7 0 1 ) c o n s t r u a s i t , C t W i s a p p r o p r i a t e l y a n t i f u n c t i o n a l i s t . N o t e , h o w e v e r , t h a t C 1 W , u n l i k e C 1 8 , i s n o t " a v e r y p o w e r f u l c o n c l u s i o n " ( S e a r l e 1 9 8 4 a , p . 3 9 ) b u t a v e r y w e a k o n e . S e a r l e s a y s t h a t t h e c o n c l u s i o n ( C 1 ? ) h e d e r i v e s f r o m h i s a x i o m s ( A 1 ? - A 3 ? ) i s " v e r y p o w e r f u l b e c a u s e i t m e a n s t h e p r o j e c t o f t r y i n g t o c r e a t e m i n d s s o l e l y b y d e s i g n i n g p r o g r a m s i s d o o m e d f r o m t h e s t a r t . " 7 B u t C 1 W d o e s n o t m e a n o r i m p l y a n y s u c h t h i n g : n o t t h a t " t h e p r o j e c t o f t r y i n g t o c r e a t e m i n d s i s d o o m e d f r o m t h e s t a r t " ( S e a r l e 1 9 8 4 a , p . 3 9 ) , a n d n o t t h a t " n o c o m p u t e r p r o g r a m c a n e v e r b e a m i n d " ( S e a r l e 1 9 8 4 a , p . 3 1 ) a s S e a r l e m a i n t a i n s h i s c o n c l u s i o n ( C 1 ? ) d o e s . C 1 W n o m o r e i m p l i e s a n y o f t h i s t h a n t h e n o m o i o g i c a l p o s s i b i l i t y o f a h u m a n b e i n g 7 . R e a d t h e " ? " s , h e r e , a s \ v l i d c a r d s " f o r w h i c h " S " " W " o r n o t h i n g a t a l l m a y b e s u b s t i t u t e d t o g i v e t h e t h r e e p o s s i b l e r e n d e r i n g s o f S e a r l e ’ s a x i o m s a n d c o n c l u s i o n b e i n g c o n s i d e r e d . 1 5 4 s u r v i v i n g h a n g i n g i m p l i e s t h a t t h e p r o j e c t o f e x e c u t i n g p e o p l e " s o l e l y " b y h a n g i n g t h e m i s " d o o m e d f r o m t h e s t a r t " o r t h a t n o b o d y " c a n e v e r b e " e x e c u t e d b y h a n g i n g . P e r h a p s l e s s o b v i o u s l y , t h e o b j e c t i o n j u s t r a i s e d a g a i n s t C 1 W - t h a t i t i s n o t s o " v e r y p o w e r f u l " t h a t i t " m e a n s t h a t t h e p r o j e c t o f t r y i n g t o c r e a t e m i n d s s o l e l y b y d e s i g n i n g p r o g r a m s i s d o o m e d f r o m t h e s t a r t " ( S e a r l e 1 9 8 4 a , p . 3 9 ) - a p p l i e s e q u a l l y t o 0 1 8 . S u p p o m b y w a y o f a n a l o g y w i t h I R S t h a t a t e v e r y n o m o l o g i c a l l y p o s s i b l e w o r l d h a n g i n g i s n o t s u f f i c i e n t t o k i l l s o m e o n e ( E i ( x ) ( H x _ . K x ) ) . i t s t i l l d o e s n o t f o l l o w t h a t t h e p r o j e c t o f t r y i n g t o e x e c u t e p e o p l e b y h a n g i n g a l o n e i s " d o o m e d f r o m t h e s t a r t " a t o u r w o r l d o r i n d e e d a t a n y w o r l d . I t m i g h t b e t h e c a s e a t a n y n o m o i o g i c a l l y p o s s i b l e w o r l d ( a s i t i s a t o u r s ) t h a t g i v e n c e r t a i n b a c k g r o u n d c o n d i t i o n s t h a t g e n e r a l l y o b t a i n a t t h a t w o r l d h a n g i n g g e n e r a l l y s u f f i c e s t o c a u s e d e a t h w i t h o u t b e i n g n o m o l o g i c a l l y s u f f i c i e n t b y i t s e l f t o c a u s e d e a t h . i t i s e v e n p o s s i b l e f o r s o m e t h i n g t o a l w a y s s u f f i c e t o c a u s e d e a t h a t o u r w o r l d w i t h o u t b e i n g n o m o l o g i c a l l y s u f f i c i e n t b y i t s e l f t o d o s o : e . g . , d e c a p i t a t i o n . N o m o l o g i c a l i n s u f f i c i e n c y d o e s n o t e n t a i l a c t u a l o r p r a c t i c a l i n s u f f i c i e n c y . W h a t w o u l d h a v e t h e e x t r e m e i m p l i c a t i o n s S e a r l e i n t e n d s h i s c o n c l u s i o n t o h a v e w o u l d b e i f t h e C h i n e s e r o o m e x p e r i m e n t e s t a b l i s h e d t h e e x t r e m e r e s u l t ( X R ) t h a t P r o g r a m m i n g s u f f i c e s t o p r e c l u d e s e m a n t i c s ( ( x ) ( P x - + - S x ) ) . ° A l a s , t h e r e i s a l s o S e a r l e a n t e x t , t o s u p p o r t t h i s i n t e r p r e t a t i o n . S e a r l e a s s e r t s , " w e s h o u l d n o t a t t r i b u t e i n t e n t i o n a l i t y " t o a n y t h i n g i f " w e k n e w i t h a d a f o r m a l p r o g r a m " t h a t w o u l d " a c c o u n t f o r i t s [ a p p a r e n t l y i n t e l l i g e n t ] b e h a v i o r " a n d " a s s o o n a s w e k n e w t h e 8 . X R i s e q u i v a l e n t t o $ 2 o f a r g u m e n t 8 6 2 A ( C h a p t e r 2 , s u b s e c t i o n 3 . 4 ) . 1 5 5 b e h a v i o r w a s t h e r e s u l t o f 9 f o r m a l p r o g r a m w e w o u l d a b a n d o n t h e a s s u m p t i o n o f i n t e n t i o n a l i t y " ( S e a r l e 1 9 8 0 9 , p . 4 2 1 ) . S e a r l e ’ s r e p e a t e d a s s e r t i o n s t h a t " a c o m p u t e r p r o g r a m i s o n l y s y n t a c t i c a l " ( 1 9 8 4 9 , p . 3 0 ) o r " p u r e l y f o r m a l " ( 1 9 9 0 9 , p . 2 7 ) [ m y e m p h a s e s ] e v e n s u g g e s t h e m a y s u b s c r i b e t o s o m e t h i n g l i k e t h e " p u r i t y p r i n c i p l e " t h a t p r o g r a m m i n g e x c l u d e s a t h i n g f r o m h a v i n g , n o t j u s t s e m a n t i c s , b u t a n y o t h e r ( n o n s y n t a c t i c ) p r o p e r t i e s ! T h o u g h X R m i g h t w e l l f a l l o u t f r o m t h i s p u r i t y p r i n c i p l e , w e r e i t t r u e , t h e p r i n c i p l e i s a b s u r d l y f a l s e : t h i s c o m p u t e r I ’ m w o r k i n g a t i n s t a n t i a t e s ( a t t h i s t i m e ) 9 w o r d p r o c e s s i n g p r o g r a m y e t o b v i o u s l y h a s o t h e r p r o p e r t i e s - - b e i n g b e i g e , b e i n g o n m y d e s k - b e s i d e s . N e i t h e r i s i t e a s y t o s q u a r e S e a r l e ’ s c o n t e n t i o n t h a t " a s s o o n a s w e k n e w t h e b e h a v i o r [ o f a n y t h i n g ] w a s t h e r e s u l t o f a f o r m a l p r o g r a m w e w o u l d a b a n d o n t h e a s s u m p t i o n o f i n t e n t i o n a l i t y " ( S e a r l e 1 9 8 0 9 , p . 4 2 1 ) w i t h h i s r e c e n t a s s e r t i o n t h a t " f o r m a l s y m b o l s [ h a n c a , b y A 1 p r o g r a m s ? ] h a v e n o p h y s i c a l c a u s a l p o w e r s " ( S e a r l e 1 9 9 0 9 , p . 3 0 ) : i f f o r m a l p r o g r a m s " h a v e n o p h y s i c a l c a u s a l p o w e r s " h o w c o u l d b e h a v i o r b e " t h e r e s u l t o f a f o r m a l p r o g r a m " ? I c o n c l u d e t h a t n o n e o f t h e i n t e r p r e t i v e h y p o t h e s e s o r w o u l d - b e s t r e n g t h e n - i n g s o f B S A c o n s i d e r e d i n t h i s s e c t i o n m e r i t a d o p t i o n : e a c h f i n d s b u t e q u i v o c a l t e x t u a l w a r r a n t a n d e a c h p r o v e s o n c l o s e c o n s i d e r a t i o n u n a v a i l i n g f o r S e a r l e ’ s l a r g e r a r g u m e n t a t i v e p u r p o s e s . E i t h e r t h e r e c o n s t r u c t e d a r g u m e n t s f o r t h c o m i n g o n t h e s e h y p o t h e s e s a r e i n v a l i d ( a s B S A S i s ) o r t h e i r p r e m i s e s a r e o b v i o u s l y f a l s e ( a s X R i s ) . I t i s m o r e p l a u s i b l e , I t h i n k , t o r e a d t h e " n e v e r " o f " p r o g r a m m i n g a l o n e i s n e v e r b y i t s e l f 9 s u f f i c i e n t c o n d i t i o n o f i n t e n t i o n a l i t y " a s a " n e v e r " o f s e c o n d o r d e r 1 5 6 p r a d i c a t i o n , c l a i m i n g t h a t b e i n g P r o g r a m m e d i s i n s u f f i c i e n t f o r s e m a n t i c s w h a t e v e r t h e P r o g r a m m i n g ( ( P ) — ( x ) ( P x . . . S x ) ) . " 4 . 3 T h e " U p s i d e D o w n " T a k e P e r h a p s C R E d o e s n o t r e a l l y s u p p o r t A 3 - - d o e s n o t r e a l l y g o t o p r o v e A 3 o r e v e n , p e r h a p s , c o n f i r m i t - b u t m e r e l y " r e m i n d s u s " ( S e a r l e 1 9 8 9 a , p . 7 0 1 ) t h a t s y n t a x i s n o t s u f f i c i e n t f o r s e m a n t i c s . E v e n t h i s i s o d d . A 3 i s n o t d u b i o u s . A 3 f o l l o w s i m m e d i a t e l y f r o m t h e a c k n o w l e d g e d " a r b i t r a r i n e s s " o f l i n g u i s t i c r e p r e s e n t a t i o n a n d i s a c o r o l l a r y o f t h e L o w e n h e i m - S k o l e m t h e o r e m g u a r a n t e e i n g t h a t a n y c o n s i s t e n t f o r m a l i s m " c a n a l w a y s b e i n t e r p r e t e d a s r e f e r r i n g t o i n t e g e r s a n d a r i t h m e t i c O p e r a t i o n s o v e r t h e m " ( P y l y s h y n 1 9 8 4 , p . 4 4 ) . M o r e o v e r , i f o n e d i d n e e d " r e m i n d i n g " ( S e a r l e 1 9 8 9 9 , p . 7 0 1 ) o f A 3 t h e r e a r e f a r c l e a r e r , m o r e c o n v i n c i n g r e m i n d e r s t h a t m i g h t b e a s s e m b l e d t h a n C R E ; e . g . , u n i n t e r p r e t e d c a l c u l i s u c h a s t h o s e p r e s e n t e d i n l o g i c t e x t s a n d l o g i c c l a s s e s . T h e m o r e t h e a t t e m p t t o c o n s t r u e t h e r e l a t i o n s h i p b e t w e e n C R E a n d A 3 a s o n e o f p r o o f o r c o n f i r m a t i o n o f t h e l a t t e r b y t h e f o r m e r i s p r e s s e d , i t s e e m s , t h e c u r i o u s e r i t g e t s . T h i s i s w h y , I b e l i e v e : t h e r e l a t i o n o f s u p p o r t b e t w e e n C R E a n d A 3 r u n s i n t h e o p p o s i t e d i r e c t i o n f r o m t h e o n e s u g g e s t e d b y t h e s t a n d a r d a c c o u n t . S e a r l e s u g g e s t s a s m u c h i n a s s e r t i n g t h a t C R E , h i s " d e m o n s t r a t i o n " t h a t " a c o m p u t e r , m e f o r e x a m p l e , c o u l d r u n t h e s t e p s i n t h e p r o g r a m f o r s o m e 9 . i n a c c o r d w i t h S e a r l e ’ s c l a i m t h a t t h e " s a m e a r g u m e n t s w o u l d a p p l y t o a n y T u r i n g m a c h i n e s i m u l a t i o n o f a n y h u m a n m e n t a l p h e n o m e n a " l h a v e i m p l i c i t l y b e e n t r e a t i n g C R A a s , i n e f f e c t , q u a n t i f y i n g o v e r P r o g r a m t y p e s ( a l l P 9 ) a n d m e n t a l p r o p e r t i e s ( a l l M s ) a l l a l o n g : t h e " a r g u m e n t s " o f t h e p r e c e d i n g c h a p t e r a r e r e a l l y a r g u m e n t s c h e m a t a . 1 5 7 m e n t a l c a p a c i t y , s u c h a s u n d e r s t a n d i n g C h i n e s e , w i t h o u t u n d e r s t a n d i n g a w o r l d o f C h i n e s e " ( S e a r l e 1 9 9 2 , p . 2 0 0 ) , " r e s t s o n t h e s i m p l e l o g i c a l t r u t h t h a t s y n t a x i n n o t t h e s a m e a s , n o r i s i t b y i t s e l f s u f f i c i e n t f o r , s e m a n t i c s " ( S e a r l e 1 9 9 2 , p . 2 0 0 : m y e m p h a s i s ) . C o n s i s t e n t w i t h t h i s " u p s i d e d o w n " t a k e S e a r l e e v e n g o e s s o f a r a s t o a s t o d e n y t h a t h i s " e x p e r i m e n t " r e l i e s o n i n t u i t i o n s a t a l l i T h e p o i n t o f t h e a r g u m e n t i s n o t t h a t s o m e h o w o r o t h e r w e h a v e a n ‘ i n t u i t i o n ’ t h a t I d o n ’ t u n d e r s t a n d C h i n e s e , t h a t I f i n d m y s e l f i n c l i n e d t o s a y t h a t I d o n ’ t u n d e r s t a n d C h i n e s e b u t , w h o k n o w s , p e r h a p s i r e a l l y d o . T h a t i s n o t t h e p o i n t . T h e p o i n t o f t h e s t o r y i s t o r e m i n d u s o f a c o n c e p t u a l t r u t h t h a t w e k n e w a l l a l o n g ; n a m e l y , t h a t t h e r e i s a d i s t i n c t i o n b e t w e e n m a n i p u l a t i n g t h e s y n t a c t i c a l e l e m e n t s o f l a n g u a g e s a n d a c t u a l l y u n d e r s t a n d i n g t h e l a n g u a g e a t t h e s e m a n t i c l e v e l . W h a t i s l o s t i n A l s i m u l a t i o n o f c o g n i t i v e b e h a v i o r i s t h e d i s t i n c t i o n b e t w e e n s y n t a x a n d s e m a n t i c s . ( S e a r l e 1 9 8 7 b , p . 2 1 4 ) T h i s " u p s i d e - d o w n " t a k e o n C R E h a s t h e a d d i t i o n a l v i r t u e o f e x p l a i n i n g S e a r l e ’ s t e n d e n c y t o s t r e n g t h e n t h e c l a i m ( A 1 ) t h a t " p r o g r a m s a r e f o r m a l " t o t h e c l a i m ( c a l l i t A 1 * ) t h a t " p r o g r a m s a r e p u r e l y f o r m a l " ( S e a r l e 1 9 9 0 9 , p . 3 1 : c f . S e a r l e 1 9 8 0 9 , p . 4 2 3 ; 1 9 8 4 9 , p . 3 1 ) . A 1 * w o u l d s u p p o r t I R , t h u s b u t t r e s s i n g C R E A , a s f o l l o w s : ( A 1 * ) P r o g r a m s a r e p u r e l y f o r m a l ( s y n t a c t i c a l ) . ( A 3 ) S y n t a x d o e s n o t s u f f i c e f o r s e m a n t i c s . ( I R ) P r o g r a m m i n g d o e s n o t s u f f i c e f o r s e m a n t i c s . R a t h e r t h a n " S e a r l e ’ s t h o u g h t e x p e r i m e n t [ b e i n g ] d e v o t e d t o s h o r i n g u p a x i o m 3 " ( C h u r c h l a n d 8 : S m i t h C h u r c h l a n d 1 9 9 0 , p . 3 4 ) , i s u g g e s t t h a t S e a r l e i n v o k e s " t h e s i m p l e l o g i c a l t r u t h " t h a t s y n t a x i s n ’ t ( s u f f i c i e n t f o r ) s e m a n t i c s ( A 3 ) ( i n s u p p l e m e n t - i n g C R E w i t h C R A ) t o s h o r e u p C R E a g a i n s t t h e p o s s i b i l i t y t h a t t h e " t h e i n t u i t i o n s t o w h i c h h e a p p e a l s a r e u n r e l i a b l e " ( B o d e n 1 9 8 8 , p . 9 2 ) . G i v e n h o w u n r e l i a b l e t h e s e " i n t u i t i o n s " a r e ( a s t h e f o l l o w i n g s e c t i o n , a l o n g w i t h S e c t i o n T w o , a b o v e , s h o w s ) , l s u b m i t , C R E ’ s w o u l d - b e s u p p o r t o f R d e s p e r a t e l y n e e d s s u c h s h o r i n g 1 5 8 u p . T h e t r o u b l e w i t h t h i s u p s i d e - d o w n t a k e , h o w e v e r , i s t h a t t h i s w a y o f s h o r i n g u p o f t h e w o u l d - b e i n t e r m e d i a t e r e s u l t I R u n d e r c u t s C R E ’ s a l l e g e d s u p p o r t o f t h i s r e s u l t : i f I R i s s u p p o r t e d b y A 1 * a n d A 3 r a t h e r t h a n b y R , t h e n C R E p r o v i d e s n o s u p p o r t f o r l R a n d h e n c e p r o v i d e s n o s u p p o r t ( v i a C R E A ) f o r C t . C l e a r l y i f C R E i s t o s u p p o r t C 1 i t h a s t o b e v i a R ; a n d i f C R E i s t o p r o v i d e s u p p o r t f o r R i t h a s t o b e e x p e r i m e n t a l s u p p o r t , b a s e d o n o b s e r v a t i o n s o r ( i n t h e t h o u g h t e x p e r i m e n t a l c a s e ) o n i n t u i t i o n s . A g a i n t h e q u e s t i o n a r i s e s - m o r e p o i n t e d l y n o w - - o f w h e m e r C R E r e l i a b l y p u m p s t h e r e q u i s i t e i n t u i t i o n s . 5 . T h e C P U S i m u l a t o r R e p l y i h a v e a l r e a d y m a i n t a i n e d t h a t t h e " i n t u i t i o n s " C R E p u m p s a b o u t u n d e r s t a n d - i n g ( w h i c h , i f r e l i a b l e , d i r e c t l y s u p p o r t R ) r e l y o n d u b i o u s C a r t e s i a n a s s u m p t i o n s a b o u t c o n s c i o u s n e s s a n d p r i v i l e g e d a c c e s s . I h a v e a l s o s u g g e s t e d t h a t " i n t u i t i o n s " a b o u t s y n t a x a n d s e m a n t i c s p e r s e ( w h i c h , i f r e l i a b l e , d i r e c t l y s u p p o r t R ’ a n d h e n c e i n d i r e c t l y s u p p o r t R v i a C R E A ) s i m i l a r l y r e l y o n t h e s e C a r t e s i a n a s s u m p t i o n s a n d , s o , a r e s i m i l a r l y u n r e l i a b l e . T h e r e i s a f u r t h e r c o n s i d e r a t i o n t h a t u n d e r m i n e s t h e i n t u i t i o n s ( w h e t h e r a b o u t u n d e r s t a n d i n g o r s e m a n t i c s ) C R E i s d e s i g n e d t o p u m p : s i m i l a r ( t h o u g h t ) e x p e r i m e n t a l p r o c e d u r e s c a n p u m p " i n t u i t i o n s " c o n t r a r y t o t h o s e S e a r l e c o m m e n d s . C o m p a r a b l e ( t h o u g h t ) e x p e r i m e n t a l p r o c e d u r e s t o S e a r l e ’ s - b l i n d C P U s i m u l a t i o n s o r b l i n d t r a c i n g s - y i e l d ( f o r T u r i n g 1 9 5 0 , N e w e l l & S i m o n 1 9 6 3 ) c o n t r a r y " o b s e r v a t i o n s " t o S e a r l e ’ s : S e a r l e ’ s " e x p e r i m e n t a l " r e s u l t s a r e n o t r e l i a b l y r e p l i c a b l e a n d h e n c e n o t c r e d i b l e . 1 5 9 S e a r l e i m a g i n e s h i m s e l f t o b e h a n d t r a c i n g C S A M o n C h i n e s e i n p u t ( s t o r i e s a n d q u e s t i o n s ) , p r o d u c i n g a p p r o p r i a t e C h i n e s e o u t p u t . H a n d t r a c i n g , s t e p p i n g t h r o u g h a p r o g r a m b y h a n d , o n p a p e r , i s s o m e t h i n g c o m p u t e r p r o g r a m m e r s c h a r a c t e r i s t i c a l l y d o i n t h e p r o c e s s o f c h e c k i n g a n d d e b u g g i n g p r o g r a m s . N o r m a l l y , t h e p r o g r a m m e r k n o w s w h a t t h e i n p u t m e a n s , w h a t t h e o u t p u t m e a n s , a n d w h a t t h e p r o g r a m i s s u p p o s e d t o b e i s d o i n g ( t h e f u n c t i o n i t ’ s s u p p o s e d t o b e c o m p u t i n g ) . G e n e r a l l y , t h e p r o g r a m m e r m u s t k n o w t h e s e t h i n g s i n o r d e r t o u s e t h e h a n d t r a c e t o c h e c k t h e p r o g r a m : y o u n e e d t o k n o w w h a t t h e i n p u t a n d o u t p u t m e a n i n o r d e r t o t e l l w h e t h e r t h e p r o g r a m i s p r o c e s s i n g t h e f o r m e r i n t o t h e l a t t e r c o r r e c t l y . T h e c a s e S e a r l e i m a g i n e s i s u n u s u a l i n t h a t t h e t r a c i n g i s " b l i n d " : U n k n o w n t o m e , t h e p e o p l e w h o a r e g i v i n g m e a l l o f t h e s e s y m b o l s c a l l t h e f i r s t b a t c h " a s c r i p t , " t h e y c a l l t h e s e c o n d b a t c h 9 " s t o r y . " a n d t h e y c a l l t h e t h i r d b a t c h " q u e s t i o n s . " F u r t h e r m o r e , t h e y c a l l t h e s y m b o l s i g i v e t h e m b a c k i n r e s p o n s e t o t h e t h i r d b a t c h " a n s w e r s t o t h e q u e s t i o n s " a n d t h e s e t o f r u l e s i n E n g l i s h t h a t t h e y g a v e m e t h e y c a l l " t h e p r o g r a m . " ( S e a r l e 1 9 8 0 9 , p . 4 1 8 ) S e a r l e i n t h e C h i n e s e r o o m n o t o n l y d o e s n ’ t k n o w t h e m e a n i n g s o f t h e i n p u t a n d o u t p u t s t r i n g s h e p r o c e s s e s , h e d o e s n ’ t e v e n k n o w t h e i n p u t s t r i n g s a r e s t o r i e s a n d q u e s t i o n s o r t h e o u t p u t s t r i n g s a r e a n s w e r s t o q u e s t i o n s , h e m a y n o t e v e n " r e c o g n i z e t h e C h i n e s e w r i t i n g a s C h i n e s e " ( o r f o r t h a t m a t t e r , a s w r i t i n g a s o p p o s e d " j u s t s o m a n y m e a n i n g l e s s s q u i g g l e s " ( S e a r l e 1 9 8 0 9 , p . 4 1 8 ) , a n d h e d o e s n ’ t k n o w t h a t t h e s e t o f i n s t r u c t i o n s t r a n s f o r m i n g i n p u t s t r i n g s i n t o o u t p u t s t r i n g s h e i s f o l l o w i n g i s a n a t u r a l l a n g u a g e u n d e r s t a n d i n g ( o r a n y o t h e r k i n d o f ) p r o g r a m . S e a r l e ’ s b l i n d t r a c e p r o c e d u r e h e r e i s p r e c e d e n t e d : f i r s t , b y T u r i n g ’ s w a r t i m e u s e o f " b l i n d " h u m a n " c o m p u t e r s " t o d e c r y p t t h e G e r m a n n a v a l c o d e d u r i n g t h e S e c o n d W o r l d W a r , a n d s e c o n d b y N e w e l l a n d S i m o n ’ s u s e o f 1 6 0 " p r o t o c o l s " d e r i v e d f r o m " b l i n d " i n f e r e n c e s o f h u m a n s u b j e c t s t o g a t h e r i n f o r m a t i o n a b o u t h u m a n r e a s o n i n g p r o c e s s e s i n t h e h o p e o f e m b e d d i n g t h e s e s a m e p r o c e s s e s i n t h e i r G e n e r a l P r o b l e m S o l v e r ( G P S ) p r o g r a m . 5 . 1 T u r i n g , B o m b e s , W r e n s , a n d E n i g m a D u r i n g W o r l d W a r T w o , A l a n T u r i n g d i r e c t e d a p r o j e c t a i m e d a t b r e a k i n g t h e G e r m a n n a v a l c o d e , " E n i g m a , " a n d d e c i p h e r i n g c o d e d G e r m a n n a v a l c o m m u n i c a - t i o n s . T h e w o r k w a s i n i t i a l l y d o n e b y m e m b e r s o f t h e W o m e n ’ s R o y a l N a v a l S e r v i c e ( W r e n s ) a c t i n g a s h u m a n c o m p u t e r s f o l l o w i n g d e c r y p t i o n p r o g r a m s T u r i n g d e v i s e d . T o m a i n t a i n s e c r e c y , t h e W r e n s w e r e k e p t i n t h e d a r k a b o u t t h e m e a n i n g o f t h e i n p u t t h e y r e c e i v e d a n d o u t p u t t h e y p r o d u c e d ( t h a t t h e s e w e r e m e s s a g e s a b o u t t h e l o c a t i o n s o f s u b m a r i n e s , e t c ) , a b o u t t h e i n p u t a n d o u t p u t b e i n g e n c i p h e r e d a n d d a c i p h e r e d G e r m a n , a n d e v e n a b o u t t h e i n p u t a n d o u t p u t b e i n g e n c r y p t e d o r d e c r y p t e d m a s s a g e s . T h e y w e r e u n a w a r e t h a t t h e p r o j e c t o n w h i c h t h e y w e r e i n v o l v e d w a s a d e c r y p t i o n p r o j e c t ; u n a w a r e t h e i n s t r u c t i o n s t h e y w e r e f o l l o w i n g w e r e d e c r y p t i o n p r o g r a m s ; e t c . " T h e W r e n s d i d t h e i r a p p o i n t e d t a s k s w i t h o u t k n o w i n g w h a t a n y o f i t w a s f o r " ( H o d g e s 1 9 8 3 , p . 2 1 1 ) , l i k e S e a r l e i n t h e C h i n e s e r o o m . O v e r s e e i n g t h i s v e r i t a b l e C h i n e s e g y m n a s i u m ( c f . S e a r l e 1 9 9 0 9 , p . 2 8 ) T u r i n g , i n A n d r e w H o d g e s w o r d s , " w a s f a s c i n a t e d b y t h e f a c t t h a t p e o p l e c o u l d b e t a k i n g p a r t i n s o m e t h i n g q u i t e c l e v e r , i n a q u i t e m i n d l e s s w a y " ( H o d g e s 1 9 8 3 , p . 2 1 1 ) . M o r e p r e c i s e l y , T u r i n g j u d g e d t h a t t h e W r e n s w e r e d o i n g s o m e t h i n g m e n t a l , i . e . , d e c i p h e r i n g , u n a w a r e s ; a n d a s t h e w o r k o f t h e W r e n s w a s t a k e n o v e r b y m a c h i n e s o f T u r i n g ’ s d e v i s i n g , c a l l e d " B o m b e s , " s o t o o , T u r i n g 1 6 1 j u d g e d , w e r e t h e B o m b a s d o i n g s o m e t h i n g m e n t a l , i . e . , d e c i p h e r i n g , s a m e a s t h e W r e n s . T h i s i n t u i t i o n - o c c a s i o n e d b y 9 s i t u a t i o n c o m p a r a b l e t o t h e s i t u a t i o n S e a r l e i m a g i n e s i n h i s t h o u g h t e x p e r i m e n t - s e e m s t o h a v e b e e n a m a j o r i n s p i r a t i o n f o r T u r i n g ’ s f a m o u s ( 1 9 5 0 ) d e f e n s e o f m a c h i n e i n t e l l i g e n c e . H a d h e t h o u g h t t o p o s e t h e p r o b l e m i n t h e m a n n e r o f o u r i n d i r e c t r e a d i n g o f S e a r l e ’ s t h o u g h t e x p e r i m e n t , I s u b m i t , T u r i n g w o u l d a l s o h a v e j u d g e d W r e n s a n d B o m b a s a l i k e t o b e p r o c e s s i n g i n f o r m a t i o n a b o u t t h e l o c a t i o n s o f G e r m a n U - b o a t s , e t c . , u n a w a r e s . 5 . 2 N e w e l l a n d S i m o n : B l i n d P r o t o c o l s A n o t h e r p r o m i n e n t b l i n d t r a c e e x p e r i m e n t w a s u n d e r t a k e n b y A l l e n N e w e l l a n d H . A . S i m o n i n c o n n e c t i o n w i t h t h e i r G P S ( G e n e r a l P r o b l e m S o l v e r ) p r o g r a m . N e w e l l a n d S i m o n u s e d a b l i n d t r a c e p r o c e d u r e t o g a t h e r " p r o t o c o l s " ( r u n n i n g v e r b a l c o m m e n t a r i e s ) o f d e d u c t i v e r e a s o n i n g s p e r f o r m e d b l i n d l y b y h u m a n s u b j e c t s i n o r d e r t o " e x t r a c t i n f o r m a t i o n " ( N e w e l l & S i m o n 1 9 6 3 , p . 2 8 2 ) a b o u t p r o c e d u r e s h u m a n s u s e o r m a n i p u l a t i o n s h u m a n s p e r f o r m i n t h e c o u r s e o f t h e i r d e d u c t i v e r e a s o n i n g s . T h e i n f o r m a t i o n e x t r a c t e d w a s t h e n t o b e u s e d t o " w r i t e [ G P S ] p r o g r a m s t h a t d o t h e k i n d s o f m a n i p u l a t i o n h u m a n s d o " ( N e w e l l & S i m o n 1 9 6 3 , p . 2 8 3 ) . H e r e i s h o w N e w e l l a n d S i m o n d e s c r i b e t h e e x p e r i m e n t a l s i t u a t i o n : A h u m a n s u b j e c t , a s t u d e n t i n e n g i n e e r i n g i n a n A m e r i c a n c o l l e g e , s i t s I n f r o n t o f a b l a c k b o a r d o n w h i c h a r e w r i t t e n t h e f o l l o w i n g e x p r e s s i o n s : ( a a - P ) - ( 4 1 : 9 ) l - ( - Q - P ) i T h i s i s a p r o b l e m i n e l e m e n t a r y s y m b o l i c l o g i c , b u t t h e s t u d e n t d o e s n o t k n o w I t [ m y e m p h a s i s ] . H e d o e s k n o w t h a t h e h a s t w e l v e r u l e s f o r m a n i p u l a t i n g 1 6 2 e x p r e s s i o n s c o n t a i n i n g l e t t e r s c o n n e c t e d b y " d o t s " ( . ) , W e d g e s " ( v ) , " h o r s e s h o e s " ( 2 ) ) a n d " t i l d e s " ( ~ ) , w h i c h s t a n d [ w h i c h t h e s u b j e c t d o e s n o t k n o w ] f o r " a n d , " " o r , " " i m p l i e s , " a n d " n o t . " T h e s e r u l e s [ i n f e r e n c e a n d e q u i v a l e n c e r u l e s - - t h o u g h t h e s u b j e c t d o e s n ’ t k n o w t h i s ] s h o w t h a t e x p r e s s i o n s o f c e r t a i n f o r m s c a n b e t r a n s - f o r m e d i n t o e x p r e s s i o n s o f s o m e w h a t d i f f e r e n t f o r m . . . . T h e s u b j e c t h a s p r a c t i c e d a p p l y i n g t h e r u l e s , b u t h e h a s p r e v i o u s l y d o n e o n l y o n e o t h e r p r o b l e m l i k e t h i s . T h e e x p e r i m e n t e r h a s i n s t r u c t e d h i m t h a t h i s p r o b l e m i s t o o b t a i n t h e e x p r e s s i o n i n t h e u p p e r r i g h t c o r n e r f r o m t h e e x p r e s s i o n i n t h e u p p e r l e f t c o r n e r u s i n g t h e t w e l v e r u l e s . T h e s u b j e c t w a s a l s o a s k e d t o t a l k a l o u d a s h e w o r k e d ; h i s c o m m e n t s w e r e r e c o r d e d a n d t h e n t r a n s c r i b e d i n t o a " p r o t o c o l " - - i . e . , 9 v e r b a t i m r e c o r d o f a l l t h a t h e o r t h e e x p e r i m e n t e r s a i d d u r i n g t h e e x p e r i m e n t . ( N e w e l l 8 : S i m o n 1 9 6 3 , p p . 2 7 8 - 2 8 0 ) H e r e i s a n e x c e r p t f r o m t h e i n i t i a l p o r t i o n o f t h i s s u b j e c t ’ s p r o t o c o l . W e l l , l o o k i n g a t t h e l e f t h a n d s i d e o f t h e e q u a t i o n . f i r s t w e w a n t t o e l i m i n a t e o n e o f t h e s i d e s b y u s i n g r u I e B [ A . B - v A / A . B - t B ] . l t a p p e a r s t o o c o m p l i c a t e d t o w o r k w i t h f i r s t . N e w - - n o . - - n o , i c a n ’ t d o t h a t b e c a u s e i w i l l b e e l i m i n a t i n g e i t h e r t h e Q o r t h e P i n t h a t t o t a l e x p r e s s i o n . I w o n ’ t d o t h a t f i r s t . N o w I ’ m l o o k i n g f o r a w a y t o g e t r i d o f t h e h o r s e s h o e i n s i d e t h e t w o b r a c k e t s t h a t a p p e a r o n t h e l e f t a n d r i g h t s i d e s o f t h e e q u a t i o n . R a v e a l i n g l y , t h e p o s s i b l e p a r t i a l b r e a c h o f " b l i n d n e s s " e v i d e n c e d b y t h e s u b j e c t ’ s c h a r a c t e r i z a t i o n o f t h e e x p r e s s i o n s ( l o g i c a l f o r m u l a e ) a s " e q u a t i o n s " i s i r r e l e v a n t . A s u b j e c t w h o h a d n e v e r h e a r d o f a n e q u a t i o n m i g h t p r o d u c e 9 p r o t o c o l m u c h l i k e t h i s . S o m i g h t a s u b j e c t w h o r e c o g n i z e d t h e e x p r e s s i o n s a s l o g i c a l f o r m u l a e , t h e r u l e s a s i n f e r e n c e a n d e q u i v a l e n c e r u l e s , t h e t r a n s i t i o n s a s d e d u c t i o n s , e t c . T h e i n t u i t i o n h e r e ( l i k e T u r i n g ’ s i n t u i t i o n i n t h e E n i g m a c a s e ) i s t h a t t h e s u b j e c t s k n o w i n g w h a t t h e y ’ r e d o i n g t o b e d e d u c t i o n ( o r d e c r y p t i o n ) i s n o t a r e q u i r e m e n t f o r w h a t t h e y ’ r e d o i n g b e i n g d e d u c t i o n ( o r d e c r y p t i o n ) . H e r e t o o , s h o u l d w e p o s e t h e i s s u e i n t e r m s r e m i n i s c e n t o f o u r i n d i r e c t r e a d i n g o f C R E , t h e i n t u i t i o n o f N e w e l l a n d S i m o n , I t a k e i t , w o u l d b e t h a t i n a p p l y i n g R u l e 8 t h e s u b j e c t w a s a p p l y i n g a r u l e a b o u t c o n j u n c t i o n u n a w a r e s w h e r e S e a r l e ’ s " i n t u i t i o n " w o u l d b e t h a t t h e s u b j e c t ’ s u n a w a r a n e s s o f t h e r u l e ’ s b e i n g a b o u t c o n j u n c t i o n m a k e s t h e 1 6 3 r u l e , a s t h e s u b j e c t a p p l i e s i t , n o t b e a b o u t c o n j u n c t i o n ; o r p e r h a p s S e a r l e w o u l d m e r e l y s a y i t ’ s n o t a b o u t c o n j u n c t i o n f o r t h e s u b j e c t . N o t e h o w e v e r , t h a t i t w i l l n o t s u f f i c e t o o b j e c t a l o n g t h e s e l i n e s - t h a t R u l e 8 i s n o t a b o u t c o n j u n c t i o n f o r t h e s u b j e c t , t h e t r a n s i t i o n s n o t d e d u c t i o n s f o r t h e s u b j e c t - u n l e s s t h e i r n o t b e i n g s u c h f o r t h e s u b j e c t i m p l i e s t h e i r n o t b e i n g s u c h p e r i o d . I f t h e t r a n s i t i o n s n o t b e i n g d e d u c t i v e i n f e r e n c e s " f o r t h e s u b j e c t " o r " t o t h e s u b b c t " j u s t m e a n s t h e s u b j e c t i s u n a w a r e o f t h e i r b e i n g d e d u c t i v e i n f e r e n c e s , t h i s i s n o t h i n g N e w e l l a n d S i m o n d o n o t a l r e a d y a l l o w ; b u t i f t h e t r a n s i t i o n s n o t b e i n g d e d u c t i v e i n f e r e n c e s " f o r t h e s u b p c t " m e a n s t h e s u b j e c t i s n o t r e a l l y d e d u c i n g , t h e n t h e p r o t o c o l d a t a c o u l d n o t p r o v i d e i n f o r m a t i o n a b o u t h o w h u m a n s d e d u c e . N e i t h e r w i l l i t a v a i l i n t h i s c o n n e c t i o n t o t r y t o s t o p s h o r t o f s a y i n g , " I f i t ’ s n o t d e d u c t i o n f o r t h e s u b j e c t i t ’ s n o t d e d u c i n g p e r i o d " b y s a y i n g , " i t ’ s s t i l l d e d u c t i o n t o t h e e x p a r i r n e n t e r . " T h e s u b j e c t ’ s d o i n g s n o t b e i n g d e d u c t i v e e x c e p t " i n t h e e y e o f t h e b e h o l d e r " ( S e a r l e 1 9 9 0 9 , p . 6 3 7 : m y e m p h a s i s ) d i s c o u n t e n a n c e s t h e n o t i o n t h a t s u b j e c t ’ 9 p r o t o c o l s i n f o r m u s a b o u t t h e i r d e d u c t i o n s n o l e s s t h a n t h e s u b j e c t ’ s d o i n g s n o t b e i n g d e d u c t i o n s a t a l l d i s c o u n t e n a n c e s t h a t n o t i o n . i n t r e a t i n g p r o t o c o l s o f " b l i n d " d e d u c t i o n s a s s o u r c e s f r o m w h i c h i n f o r m a t i o n a b o u t t h e s u b j e c t ' s d e d u c t i v e t h o u g h t p r o c e s s e s c a n r e l i a b l y b e e x t r a c t e d N e w e l l a n d S i m o n , l i k e T u r i n g , c r e d i t i n t u i t i o n s a b o u t b l i n d t r a c e s c o n t r a r y t o S e a r l e ’ s . 5 . 3 C o n c l u s i o n W e h a v e b e e n c o n s i d e r i n g t h e p r o p o s a l - i m p l i c i t i n S e a r l e ’ s a d v e r t i s e m e n t o f C R E a s a k n o c k d o w n " r e f u t a t i o n " ( S e a r l e 1 9 8 7 b , p . 2 1 3 ) o f A l - t h a t b l i n d t r a c e 1 9 4 o r C P U s i m u l a t i o n e x a m p l e s o n l y p u m p i n t u i t i o n s , s u c h a s S e a r l e ’ s " i n t u i t i o n s " t h a t " b l i n d u n d e r s t a n d i n g " r e a l l y i s n ’ t u n d e r s t a n d i n g , " b l i n d d e d u c i n g " r e a l l y i s n ’ t d e d u c i n g , e t c . T h e e x a m p l e s j u s t c i t e d - - o f T u r i n g a n d N e w e l l a n d S i m o n t a k i n g s u c h e x a m p l e s c o n t r a r i l y - c o n f u t e s t h i s i m m o d e s t p r o p o s a l . P e r h a p s C R E c a n b e c o n s t r u e d , m o r e m o d e s t l y , a s m e r e l y s h o w i n g t h a t C P U s i m u l a t i o n e x a m p l e s c a n a l s o p u m p " i n t u i t i o n s " c o n t r a r y t o T u r i n g ’ s a n d N e w e l l a n d S i m o n ’ s . T h u s , m o d e s t l y c o n s t r u e d , C R E w o u l d u n d e r w r i t e a " n o n r e p l i c a b l e t h e r e f o r e n o n c r e d i b l e " v e r d i c t a g a i n s t T u r i n g ’ s i n t u i t i o n t h a t b l i n d t r a c e o r C P U s i m u l a t i o n e x a m p l e s s u p p o r t c l a i m s o f A l ; t h e n o n r e p l i c a b i l i t y a r g u m e n t w o u l d o u t b o t h w a y s . T h o u g h m y o w n i n t u i t i o n s r u n s t r o n g l y c o u n t e r t o S e a r l e ’ s e v e n i n t h e t h o u g h t e x p e r i m e n t a l s i t u a t i o n h e c a r e f u l l y c o n s t r u c t s , y e t , m a n y r e a d e r s d o s e e m t o s h a r e S e a r l e ’ s i n t u i t i o n s c o n c e r n i n g t h i s t h o u g h t e x p e r i m e n t a l s i t u a t i o n . P e r h a p s t h e c o n c l u s i o n t o d r a w f r o m t h i s i s t h a t i n t u i t i o n s e v o k e d b y b l i n d t r a c e c a s e s a r e u n r e l i a b l e a n d i n c a p a b l e o f w e i g h i n g d e c i s i v e l y e i t h e r i n f a v o r o f c l a i m s o f a r t i f i c i a l i n t e l l i g e n c e ( i . e . , o f A I P o r S A I P ) o r a g a i n s t t h e m . S i n c e p r i o r t o S e a r l e ’ s " e x p e r i m e n t " b l i n d t r a c e c a s e s h a d s e e m e d ( t o T u r i n g a n d N e w e l l a n d S i m o n , n o t a b l y ) t o r e l i a b l y t o p u m p i n t u i t i o n s f a v o r i n g c l a i m s o f A t , t h i s m o d e r a t e r e s u l t i t s e l f , i f i t s t a n d s , i s n o t u n i m p o r t a n t . O n t h e o t h e r h a n d t h e p r o m i n e n c e o f t h e c o n t r a r y i n t u i t i o n s o f T u r i n g a n d N e w e l l a n d S i m o n s e e m s t o d e c i s i v e l y u n d e r c u t S e a r l e ’ s a d v e r t i s e m e n t o f t h e b l i n d C P U s i m u l a t i o n h e e n v i s i o n s ( C R E ) a s u n e q u i v o c a l l y i n f i r m a t o r y o f c l a i m s o f A I . L i k e h i s f o r m a l a r g u m e n t , C R A , C R E , S e a r l e ’ s p u t a t i v e e x p e r i m e n t a l " r e f u t a t i o n " o f T u r i n g m a c h i n e f u n c t i o n a l i s m a n d a s s o c i a t e d c l a i m s o f A l , i s i n c o n c l u s i v e . 1 6 5 6 . R e p l i e s a n d R a j o i n d e r s M u c h o f S e a r l e ’ s o r i g i n a l ( 1 9 8 0 9 ) C h i n e s e r o o m a r t i c l e i s c o n c e r n e d w i t h s t a t i n g a n d a n s w e r i n g " a v a r i e t y o f r e p l i e s " s u g g e s t e d w h e n S e a r l e " h a d t h e o c c a s i o n t o p r e s e n t t h i s [ C h i n e s e r o o m ] e x a m p l e t o a n u m b e r o f w o r k e r s i n a r t i f i c i a l i n t e l l i g e n c e " ( S e a r l e 1 9 8 0 9 , p . 4 1 8 ) . I c o n c l u d e t h i s c h a p t e r w i t h a c o n s i d e r a t i o n o f t h e s e r e p l i e s a n d S e a r l e ’ s r e j o i n d e r s . M y m a i n c o n c e r n i n s o d o i n g i s t o e l u c i d a t e a s u g g e s t i o n m a d e e a r l i e r , a n d c o n f i r m e d , I t a k e i t , b y t h e r e s u l t s o f t h e p r e c e d i n g s e c t i o n , t h a t t h e " i n t u i t i o n s " C R E p r o v o k e s i n o n e d e p e n d o n w h a t t h e o r y o f m i n d o r m e a n i n g o n e s u b s c r i b e s t o ; t h a t t h e s e " i n t u i t i o n s " c o n s e q u e n t l y a r e t o o t h e o r y d e p e n d e n t t o c o m p r i s e e v i d e n c e f o r o r a g a i n s t - t h a t t h e y a r e i n c a p a b l e , a s s u c h , o f M o l d i n g b e t w e e n - t h e s e t h e o r i e s . l h a v e a l r e a d y o u t l i n e d ( i n C h a p t e r O n e ) t h e t h e o r i e s o f m i n d a t i s s u e a n d a r g u e d ( i n t h e p r e c e d i n g s e c t i o n s o f t h e p r e s e n t c h a p t e r ) t h a t o n e ’ s d i r e c t i n t u i t i o n s a b o u t w h e t h e r S e a r l e i n t h e C h i n e s e r o o m u n d e r s t a n d s s e e m t o d e p e n d o n t h e a s i f d u a l i s t i c i d e n t i f i c a t i o n o f u n d e r s t a n d i n g a n d o t h e r i n t e n t i o n a l m e n t a l s t a t e s w i t h " m o d a l i t i e s " o f c o n s c i o u s n e s s ( S e a r l e 1 9 9 2 , p p . 1 2 8 , 1 6 8 ) . B e s i d e s r e i n f o r c i n g t h i s r e s u l t c o n c e r n i n g t h e r e l i a n c e o f C R E , d i r e c t l y c o n s t r u e d , o n t h e v e r y t h e o r y o f m i n d t h a t R i s s u p p o s e d t o s u p p o r t t o s u p p o r t R , c o n s i d e r a t i o n o f t h e s e r e p l i e s a n d S e a r l e ’ s r e j o i n d e r s b r i n g s o u t t h e t h e o r i e s o f m e a n i n g a t i s s u e a n d h o w C R E , i n d i r e c t l y c o n s t r u e d , r e l i e s o n t h e v e r y t h e o r y o f m e a n i n g o r i n t e n t i o n a l i t y t h a t R ’ i s s u p p o s e d t o s u p p o r t t o s u p p o r t R ’ . 1 6 6 6 . 1 S y s t e m s R e p l y a n d N e t w o r k T h e o r y : H i g h C h u r c h F u n c t i o n a l i s m T h e s y s t e m s r e p l y t o t h e C h i n e s e r o o m e x a m p l e , a s S e a r l e p r e s e n t s i t , i s a s f o l l o w s : " W h i l e i t i s t r u e t h a t t h e i n d i v i d u a l p e r s o n w h o i s l o c k e d i n t h e r o o m d o e s n o t u n d e r s t a n d t h e s t o r y , t h e f a c t i s t h a t h e l s m e r e l y p a r t o f a w h o l e s y s t e m , a n d t h e s y s t e m d o e s u n d e r s t a n d t h e s t o r y . T h e p e r s o n h a s a l a r g e l e d g e r i s f r o n t o f h i m i n w h i c h a r e w r i t t e n t h e r u l e s , h e h a s l o t s o f s c r a t c h p a p e r a n d p e n c i l s f o r d o i n g c a l c u l a t i o n s , h e h a s “ d a t a b a n k s ’ a n d s e t s o f C h i n e s e s y m b o l s . N o w u n d e r s t a n d - i n g i s n o t b e i n g a s c r i b e d t o t h e m e r e i n d i v i d u a l ; r a t h e r i t i s b e i n g a s c r i b e d t o t h i s w h o l e s y s t e m o f w h i c h h e i s 9 p a r t . ( S e a r l e 1 9 8 0 9 , p . 4 1 9 ) C a l l t h i s w h o l e s y s t e m " S e a r l e - i n - t h e - r o o m " ( S I R ) . S e a r l e ’ s m a i n r e s p o n s e , w h i c h h e d e e m s " q u i t e s i m p l e " ( S e a r l e 1 9 8 0 9 , p . 4 1 9 ) , i s t h i s : l e t t h e i n d i v i d u a l i n t e r n a l i z e a l l t h e e l e m e n t s o f t h e s y s t e m . H e m e m o r i z e s t h e r u l e s I n t h e l e d g e r a n d t h e d a t a b a n k s o f C h i n e s e s y m b o l s , a n d h e d o e s a l l t h e c a l c u l a t i o n s i n h i s h e a d . T h e i n d i v i d u a l t h e n i n c o r p o r a t e s t h e e n t i r e s y s t e m . T h e r e i s n ’ t a n y t h i n g a t a l l t o t h e s y s t e m t h a t h e d o e s n o t e n c o m p a s s . W e c a n e v e n g e t r i d o f t h e r o o m a n d s u p p o s e h e w o r k s o u t d o o r s . A l l t h e s a m e , h e u n d e r s t a n d s n o t h i n g o f t h e C h i n e s e , a n d a f o r t i o r i n e i t h e r d o e s t h e s y s t e m , b e c a u s e t h e r e i s n ’ t a n y t h i n g i n t h e s y s t e m t h a t i s n ’ t i n h i m . I f h e d o e s n ’ t u n d e r s t a n d t h e n t h e r e i s n o w a y t h e s y s t e m c o u l d u n d e r s t a n d b e c a u s e t h e s y s t e m i s j u s t a p a r t o f h i m . ( S e a r l e 1 9 8 0 9 , p . 4 2 0 ) C a l l t h e m e m o r i z e d l e d g e r , d a t a b a n k s , e t c . t h e " r o o m - i n - S e a r l e " ( R I S ) . i s t h i s " s w a l l o w - u p - s t r a t e g y " ( W e i s s 1 9 9 0 , p . 1 8 7 ) , a s T h o m a s W e i s s c a l l s i t , s u c c e s s f u l ? I n c o n s i d e r i n g t h e f o r c e o f t h e s y s t e m s r e p l y a n d t h e a d e q u a c y o f t h e s w a l l o w - u p - s t r a t e g y S e a r l e o f f e r s i n r e s p o n s e w e w i l l h a v e o c c a s i o n t o r e f e r t o W e i s s ’ s t a k e o n t h e a r g u m e n t a c c o r d i n g t o w h i c h C R E c o u n t e r i n s t a n c e s f u n c t i o n a l i s m . W e i s s ’ s t a k e o n t h i s i s a s f o l l o w s : P 1 I f f u n c t i o n a l i s m i s r i g h t a n y s y s t e m w i t h t h e r i g h t s t r u c t u r e a n d t h e r i g h t i n p u t - o u t p u t p a t t e r n u n d e r s t a n d s C h i n e s e . P 2 S e a r l e i n s t a n t i a t e s s u c h a s y s t e m . P 3 S e a r l e d o e s n o t u n d e r s t a n d C h i n e s e i n t h e t h o u g h t e x p e r i m e n t . C F u n c t i o n a l i s m i s w r o n g . ( W e i s s 1 9 9 0 , p . 1 6 7 ) 1 6 7 W e i s s a s s e r t s , " T h e f u n c t i o n a l i s t h a s t w o o p t i o n s f o r c o m i n g t o t e r m s w i t h [ t h e ] c h a n g e " ( W e i s s 1 9 9 0 , p . 1 6 7 ) S e a r l e ’ s s w a l l o w - u p - s t r a t e g y e f f e c t s i n t h e e x a m p l e . O n e c a n " d o u b t t h a t S e a r l e r e a l l y d o e s n o t u n d e r s t a n d C h i n e s e " ( W e i s s 1 9 9 0 , p . 1 6 7 - 1 6 8 ) ; o r o n e c a n d e n y " t h a t S e a r l e - e v e n w o r k i n g o u t d o o r s - i n s t a n t i a t e s t h e r e q u i r e d f u n c t i o n a l s t r u c t u r e . " ( W e i s s 1 9 9 0 , p . 1 6 8 ) . W e i s s ' s v e r s i o n o f t h e s e c o n d a n d , h e t h i n k s " s t r o n g e r r e j o i n d e r t h e d e n i a l o f p r e m i s e t w o " - " N o s y s t e m l a c k i n g a n y m o t o r o r s e n s o r y c a p a c i t i e s c o u n t s a s a s y s t e m w i t h t h e r i g h t f u n c t i o n a l s t r u c t u r e a n d t h e C h i n e s e s p e a k i n g s u b s y s t e m o f S e a r l e [ a n d ] h i s s e n s e a n d m o v e m e n t s a r e a l m o s t t o t a l l y u n c o n n e c t e d " ( W e i s s 1 9 9 0 , p . 1 6 8 ) - e f f e c t s a s h i f t t o w a r d t h e " r o b o t r e p l y " t o b e c o n s i d e r e d i n t h e n e x t s u b s e c t i o n . i n t h e p r e s e n t s u b s e c t i o n l c o n s i d e r , f i r s t , a l t e r n a t e g r o u n d s ( o t h e r t h a n t h o s e W e i s s g i v e s ) f o r d i s p u t i n g W e i s s ’ s P 2 : t h e s e g r o u n d s , l i k e W e i s s ’ s , f o r e s h a d o w t h e r o b o t r e p l y . S e c o n d , I c o n s i d e r g r o u n d s W e i s s o f f e r s f o r d i s p u t i n g P 3 ( i . e . , f o r d i r e c t l y d i s p u t i n g p u t a t i v e r e s u l t R ) . T h e s e p r o v i d e a b r i d g e o f s o r t s b e t w e e n t h e d i r e c t r e j o i n d e r s t o R o f f e r e d a b o v e ( i n S e c t i o n 2 a n d S e c t i o n 5 ) a n d t h e o t h e r m i n d s r e p l y ( o f s u b s e c t i o n 6 . 3 , b e l o w ) . W e i s s ’ s P 2 i n v o k e s t h e v e x e d n o t i o n o f P r o g r a m i n s t a n t i a t i o n ; b u t p r e v i o u s l y n o t e d t r o u b l e s w i t h t h i s n o t i o n a s i d e , t h e r e i s c o n s i d e r a b l e r e a s o n t o d o u b t t h a t t h e s i t u a t i o n " a s [ S e a r l e ] h a s d e s c r i b e d i t " ( S e a r l e 1 9 8 4 9 , p . 3 2 ) i s n o m o l o g i c a l l y p o s s i b l e . H e n c e , t h e r e i s c o n s i d e r a b l e r e a s o n t o d o u b t t h a t S e a r l e h a s i m a g i n e d a c o u n t e r e x a m p l e t o t h e c a u s a l s u f f i c i e n c y o f P r o g r a m m i n g f o r i m p a r t i n g s a r n a n t i c c o n t e n t a n d i n t e n t i o n a l m e n t a l s t a t e s . I t i s b e y o n d t h e r e a l m o f p r e s e n t h u m a n c a p a b i l i t y t o h a n d t r a c e a c o m p l i c a t e d p r o g r a m ( e x p r e s s e d a s 1 6 8 a s e t o f E n g l i s h i n s t r u c t i o n s o r i n a p r o g r a m m i n g l a n g u a g e o r h o w e v e r ) , a s i n t h e o r i g i n a l s c e n a r i o , f a s t e n o u g h a n d a c c u r a t e l y e n o u g h t h a t " f r o m t h e e x t e r n a l p o i n t o f v i e w - t h a t i s , f r o m m e p o i n t o f v i e w o f s o m e b o d y o u t s i d e t h e r o o m i n w h i c h i a m l o c k e d - m y a n s w e r s a r e a b s o l u t e l y i n d i s t i n g u i s h a b l e f r o m t h o s e o f n a t i v e C h i n e s e s p e a k e r s " ( S e a r l e 1 9 8 0 , p . 4 1 8 ) . P a t r i c k H a y e s o b s e r v e s , " T h e w h o l e i d e a o f b e i n g a b l e t o m e m o r i z e ( o r e v e n f o l l o w f o r t h a t m a t t e r ) a p i e c e o f c o d e s u f f i c i e n t l y c o m p l i c a t e d t o s i m u l a t e a C h i n e s e s p e a k e r i s c o m p l e t e f a n t a s y " ( H a y e s a t a l . 1 9 9 2 , p . 2 3 6 ) . R o g e r P e n r o s a s i m i l a r l y n o t e s , . . . o n e m u s t t a k e i n t o a c c o u n t t h e f a c t t h a t t h e e x e c u t i o n o f e v e n a r a t h e r s i m p l e c o m p u t e r p r o g r a m w o u l d n o r m a l l y b e s o m e t h i n g e x t r a o r d i n a r i l y l e n g t h y a n d t e d i o u s I f c a r r i e d o u t b y h u m a n b e i n g s m a n i p u l a t i n g s y m b o l s . I f S e a r l e w e r e a c t u a l l y t o p e r f o r m S c h a n k ’ s a l g o r i t h m i n t h e w a y s u g g e s t e d , h e w o u l d b e l i k e l y t o b e i n v o l v e d w i t h m a n y d a y s , m o n t h s , o r y e a r s o f e x t r e m e l y b o r i n g w o r k i n o r d e r t o a n s w e r j u s t a s i n g l e q u e s t i o n ( P e n r o s a 1 9 8 9 , p . 1 9 ) I n t h e s i t u a t i o n o r i g i n a l l y e n v i s a g e d t h e r e s p o n s e s f r o m S I R w o u l d b e d i s t i n g u i s h - a b l e f r o m " t h e e x t e r n a l p o i n t o f v i e w " f r o m t h o s e o f a n a t i v e C h i n e s e s p e a k e r b y t a k i n g h o u r s ( i f n o t w e e k s a n d m o n t h s a n d y e a r s ) i n s t e a d o f s e c o n d s . I t i s j u s t b a r e l y w i t h i n t h e r e a l m o f n o m o i o g i c a l p o s s i b i l i t y f o r a p e r s o n t o h a n d t r a c e a c o m p l e x p r o g r a m s u c h a s S A M a c c u r a t e l y e n o u g h ( e v e n f o r g e t t i n g r e a l t i m e c o n s t r a i n t s ) t o g i v e r e s p o n s e s " i n d i s t i n g u i s h a b l e f r o m t h o s e o f n a t i v e C h i n e s e s p e a k e r s " ; n o r i s t h e s i t u a t i o n h e l p e d m u c h ( i f a t a l l ) b y h a v i n g S e a r l e " s w a l l o w - u p " t h e p r o g r a m b y m e m o r i z i n g p r o g r a m , d a t a s t r u c t u r e s , e t c . a n d d o i n g a l l t h e c a l c u l a t i o n s i n h i s h e a d . A n y g a i n i n s p e e d f r o m s u c h i n t e r n a l i z a t i o n w o u l d h a v e t o b e b a l a n c e d a g a i n s t a n i n e v i t a b l e l o s s o f a c c u r a c y a n d t h e c o n s i d e r a t i o n t h a t t h i s w o u l d b e a n a l l b u t i m p o s s i b l e ( i f n o t c o m p l e t e l y i m p o s s i b l e ) f e a t o f 1 6 9 m e m o r i z a t i o n . I t w o u l d b e c o n t r a r y t o t h e s p i r i t o f T u r i n g m a c h i n e f u n c t i o n a l i s m , h o w e v e r , t o p r e s s t h i s o b j e c t i o n t o o s t r o n g l y . R e c a l l t h a t t h e b a s i s o f T u r i n g ’ s c l a i m t h a t d i g i t a l c o m p u t e r s a r e u n i v e r s a l T u r i n g m a c h i n e s a r e " u n i v e r s a l i n s t r u m e n t s " i s t h a t " c o n s i d e r a t i o n s o f s p e e d a p a r t , i t i s u n n e c e s s a r y t o d e s i g n v a r i o u s m a c h i n e s t o d o v a r i o u s c o m p u t i n g p r o c e s s e s " ( T u r i n g 1 9 5 0 , p . 4 4 1 : m y e m p h a s i s ) . T h a t c o n s i d e r a t i o n s o f s p e e d a r e i r r e l e v a n t t o m e n t a l a t t r i b u t i o n w o u l d a l s o s e e m t o b e a c o n s e q u e n c e F U N g i v e n t h e " s t a n d a r d t e x t b o o k d e f i n i t i o n " o f c o m p u t a t i o n . O n t h e u s u a l " p u r e " o r " h i g h c h u r c h " u n d e r s t a n d i n g o f f u n c t i o n a l i s m t i m e i s i r r e l e v a n t : i f S I R h a n d t r a c e s t h e r i g h t a l g o r i t h m S I R m u s t b e t h i n k i n g ( i . e . , u n d e r s t a n d i n g C h i n e s e a n d C h i n e s e s t o r i e s ) a l b e i t s l o w l y . Y e t e v e n i f w e s h o u l d f o r g o t h e s p e e d / a c c u r a c y o b j e c t i o n i n c o n s i d e r i n g C R E ’ s c l a i m t o c o u n t e r i n s t a n c e p u r e f u n c t i o n a l i s m , c l e a r l y t h i s o b j e c t i o n i s r e l e v a n t a n d d o e s u n d e r m i n e S e a r l e ’ s c o n t e n t i o n t h a t " p r e c i s e l y o n e o f t h e p o i n t s a t i s s u e " i n t h i s " e x p e r i m e n t " i s " t h e a d e q u a c y o f t h e T u r i n g t e s t " ( S e a r l e 1 9 8 0 9 , p . 4 1 9 ) a n d t h a t t h e p e r s o n i n t h e C h i n e s e r o o m " s a t i s f i e s t h e b e h a v i o r a l c r i t e r i o n f o r u n d e r s t a n d i n g w i t h o u t a c t u a l l y u n d e r s t a n d i n g " s o t h a t t h e r e f u t a t i o n o f p u r e f u n c t i o n a l i s m ( i f t h i s s u c c e e d s ) i s " a f o r t i o r i a r e f u t a t i o n o f b e h a v i o r i s m " ( S e a r l e 1 9 8 7 a , p . 1 2 4 n o t e ) . S e a r l e c l a i m s " T h e e x a m p l e s h o w s t h a t t h e r e c o u l d b e t w o " s y s t e m s " [ t h e C h i n e s e p r o c e s s i n g s u b s y s t e m i n c l u d i n g ( o r i n c l u d e d i n ) S e a r l e a n d h i s E n g l i s h s p e a k i n g s u b s y s t e m ] , b o t h o f w h i c h p a s s t h e T u r i n g t e s t , b u t o n l y o n e o f w h i c h u n d e r s t a n d s " ( S e a r l e 1 9 8 0 9 , p . 4 1 9 ) : t h e s p e e d / a c c u r a c y o b j e c t i o n i s t h a t S e a r l e h a s n o t s h o w n t h a t t h e r e n o m o l o g i c a l l y c o u l d b e a T u r i n g t e s t 1 7 0 p a s s i n g s y s t e m s u c h a s S I R o r R I S a r e i m a g i n e d t o b e . I f S e a r l e i n t h e r o o m o r w i t h t h e r o o m i n h i m i s r e a l l y s u p p o s e d t o b e a n a c t u a l o r n o m o l o g i c a l l y p o s s i b l e h u m a n b e i n g h e w i l l n o t b e T u r i n g t e s t p a s s i n g : i f h e i s i m a g i n e d t o b e T u r i n g t e s t p a s s i n g h e m u s t b e i m a g i n e d t o h a v e s u p e r h u m a n p o w e r s a n d a b i l i t i e s o f m e m o r i z a t i o n o r p a p e r s h u f f l i n g . L e t u s u n d e r s t a n d C R E , t h a n , t o b e d i r e c t e d i n t h e fi r s t p l a c e a g a i n s t p u r e , h i g h c h u r c h f u n c t i o n a l i s m a n d i t s a s s o c i a t e d " n e t w o r k t h e o r y " ( C h u r c h l a n d 1 9 8 0 , p . 5 6 ) o f m e a n i n g a c c o r d i n g t o w h i c h t h e m e a n i n g o f i n f o r m a t i o n b e a r i n g c o m p o n e n t s o f p r o g r a m s t a t e s a n d s e q u e n c e s i s d e t e r m i n e d b y t h e i r c a u s - a l / i n f e r e n t i a l i n t e r c o n n e c t i o n s ( t h e p r o g r a m ) p l u s ( o n e h o p e s ) t h e s t r u c t u r a l s i m i l a r i t y o r i s o m o r p h i s m ( C u m m i n s 1 9 8 9 , c h a p t . 8 ) b e t v v e a n t h e p r o g r a m s t a t e s a n d s t a t e s o f t h e d o m a i n t h e p r o g r a m m o d e l s ( h e n c e , i s a b o u t ) ; d e t e r m i n e d b y t h e s e f a c t o r s i n d e p e n d e n t l y o f c o n s i d e r a t i o n s o f t i m e o r p l a c e o f p r o g r a m e x e c u t i o n . M o d i f i e d i n a c c o r d w i t h t h e " s w a l l o w - u p s t r a t e g y , " C R E ’ s p r o v i d i n g a c o u n t e r e x a m p l e t o h i g h c h u r c h f u n c t i o n a l i s m d e p e n d s o n R I S i m p l e m e n t i n g a C h i n e s e l a n g u a g e p r o c e s s i n g P r o g r a m y e t u n d e r s t a n d i n g " n o t a w o r d o f C h i n e s e " ( S e a r l e 1 9 8 0 , p . 4 2 0 ) . N o w , w h i l e c o n s i d e r a t i o n s o f s p e e d a n d a c c u r a c y c o n s i d e r e d a b o v e c a s t d o u b t o n w h e t h e r R I S r e a l l y w o u l d b e 9 p r o p e r P r o g r a m i m p l e m e n t a t i o n , h i g h c h u r c h f u n c t i o n a l i s m , w e h a v e j u s t s e e n , i s n o t f r e e t o a v a i l i t s e l f o f a n y s u c h c o n s i d e r a t i o n s . B y v i e w i n g C R E a s p o s i n g a c o u n t e r e x a m p l e j u s t t o h i g h c h u r c h f u n c t i o n a l i s m , t h a t R I S i m p l e m e n t s a C h i n e s e s t o r y u n d e r s t a n d i n g p r o g r a m c a n f r e e l y b e a s s u m e d : t h e h i g h c h u r c h f u n c t i o n a l i s t b e l i e f t h a t c o n s i d e r a t i o n s o f t i m e o r s p e e d o f p r o g r a m e x e c u t i o n a r e i r r e l e v a n t 1 7 1 l i c e n s e s t h i s a s s u m p t i o n . T o r e b u t S e a r l e ’ s w o u l d b e c o u n t e r e x a m p l e i n a w a y c o n s i s t e n t w i t h h i g h c h u r c h p r i n c i p l e s , t h a n , o n e n e e d s t o r e b u t W e i s s ’ s p r e m i s e P 3 , t h e c l a i m t h a t R I S , d e s p i t e b e i n g a p r o p e r ( h i g h c h u r c h ) i m p l e m e n t a t i o n o f C S A M , s t i l l d o e s n o t u n d e r s t a n d C h i n e s e . W e t u r n o u r a t t e n t i o n n o w t o W e i s s ’ s P 3 : w h a t , i n t h e C h i n e s e r o o m s c e n a r i o , i s s u p p o s e d t o e s t a b l i s h t h i s ? W e l l , f o r S e a r l e , t h e c r u c i a l d a t u m ( w h i c h i s s u p p o s e d t o e s t a b l i s h t h a t S I R o r R I S w o u l d n ’ t u n d e r s t a n d C h i n e s e ) s e e m s t o b e S e a r l e ’ s i n t r o s p e c t i o n o r a v o w a l t h a t " l [ h a v i n g i n t e r n a l i z e d t h e r o o m ] h a v e n ’ t t h e f a i n t e s t i d e a w h a t t h e [ C h i n e s e s y m b o l s ] m e a n " ( S e a r l e 1 9 8 0 9 , p . 4 1 8 ) . S e a r l e ( h a v i n g i n t e r n a l i z e d t h e r o o m ) w o u l d s t i l l n o t b e c o n s c i o u s o f , o r a w a r e o f , w h a t t h e C h i n e s e s t o r i e s w e r e a b o u t . B u t a g a i n , i t i s o n l y f r o m t h e p o i n t o f v i e w o f t h e a g e n t , f r o m t h e i m a g i n e d p o i n t o f v i e w o f S e a r l e , t h a t S I R o r R I S s e e m s t o b e " o b v i o u s l y f a i l i n g t o u n d e r - s t a n d " ( H a r n a d 1 9 9 1 , p . 5 0 ) o r o b v i o u s l y f a i l i n g t o a t t a c h t h e c o r r e c t m e a n i n g s t o t h e s y m b o l s ; f r o m t h e p o i n t o f v i e w o f a n e x t a m a l o b s e r v e r o u t s i d e t h e r o o m , o f c o u r s e , i t s e e m s p e r f e c t l y o b v i o u s t h a t t h e c o r r e c t m e a n i n g s a r e b e i n g a t t a c h e d t o t h e s y m b o l s a n d t h e i n p u t a n d o u t p u t s t r i n g s a r e b e i n g u n d e r s t o o d . T h e r e p l y t h a t I a s s a y e d ( i n t h e p r e c e d i n g s e c t i o n s ) i s t h a t g i v e n t h i s p r e p o n d e r a n c e o f e v i d e n c e f r o m " t h e e x t a m a l p o i n t o f v i e w ” a n d t h e i n a d v i s a b i l i t y ( w h i c h t h e e q u i v o c a l e v i d e n c e o f b l i n d t r a c e o r C P U s i m u l a t i o n e x p e r i m e n t s u n d e r s c o r e s ) o f a c c o r d i n g h o w i t s e e m s t o t h e a g e n t f r o m t h e i r " f i r s t p e r s o n p o i n t o f v i e w " t h e e p i s t e m i c p r i v i l e g e o f o v e r r i d i n g t h i s p r e p o n d e r a n c e o f e v i d e n c e f r o m t h e " t h i r d p e r s o n p o i n t o f v i e w " t o t h e c o n t r a r y , S e a r l e ’ s " e x p e r i m e n t " i s i n c o n c l u s i v e , a t b e s t . 1 7 2 W h e r e t h e p r e c e d i n g r e p l y s e e k s t o u s e " e x t e r n a l " e v i d e n c e o f u n d e r s t a n d i n g t o c o u n t e r b a l a n c e " i n t e r n a l " a p p e a r a n c e s t o t h e c o n t r a r y , t h e s y s t e m s r e p l y d i s p u t e s t h e r e l e v a n c e o f t h e " i n t e r n a l " a p p e a r a n c e s S e a r l e c i t e s . A c c o r d i n g t o t h e s y s t e m s r e p l y , d o u b t s c o n c e r n i n g t h e i d e n t i t y o f t h e u n d e r s t a n d i n g s u b j e c t i n t h e " e x p e r i m e n t " u n d e r c u t t h e r e l e v a n c e o f S e a r l e ’ s i n t r o s p e c t i v e u n a w a r e n e s s o r s i n c e r e d i s a v o w a l o f a n y u n d e r s t a n d i n g o f t h e C h i n e s e s y m b o l s b e i n g p r o c e s s e d b e c a u s e t h e s u b j e c t w h o i s p r o p e r l y a c c o r d e d u n d e r s t a n d i n g i n t h e s c e n a r i o i s n o t S e a r l e . I n t h e f i r s t s c e n a r i o , S e a r l e i s o n l y a s r b s y s t e m t h a t i s p a r t o f t h e c a n d i d a t e ( w o u l d - b e u n d e r s t a n d i n g ) s y s t e m n o t t h e w h o l e s y s t e m : e v e n g r a n t i n g t h e d u b i o u s p r i n c i p l e t h a t i n t e n t i o n a l i t y i m p l i e s c o n s c i o u s n e s s , t h e c a n d i d a t e w h o s e a v o w a l s o r i n t r o s p e c t i o n s h o u l d b e c o n s u l t e d ( o n t h e n e o — C a r t e s i a n p r i n c i p l e s b e i n g g r a n t e d ) w o u l d n o t b e S e a r l e b u t S I R , t h e l a r g e r s y s t e m . C o n v e r s e l y , i n t h e s e c o n d s c e n a r i o , o n c e a g a i n , t h e s u b j e c t w h o s e I n t r o s p e c t i v e l a c k o f a w a r e n e s s o r a v o w a l t h a t " I h a v e n ’ t t h e f a i n t e s t i d e a w h a t t h e [ C h i n e s e s y m b o l s ] m e a n " c o u n t s i s n o t S e a r l e h i m s e l f b u t R I S , a s u b s y s t e m i n S e a r l e . A s W e i s s p u t s t h i s o b j e c t i o n , A f u n c t i o n a l i s t c a n s i m p l y c l a i m t h a t t h e [ s y s t e m ] h a s c o n s c i o u s n e s s . S e a r l e . h e c a n t h e n g o o n , i s n o t i n t h e r i g h t p o s i t i o n t o r e a l i z e t h a t . A l l t h e f u n c t i o n a l i s t h a s t o c l a i m I s t h a t t h e [ s y s t e m ] h a s a c e r t a i n e x p e r i e n c e , n o t t h a t S e a r l e h a s i t . A s a l a s t s t e p a f u n c t i o n a l i s t c a n d e n y t h e v e r y b a s i s o f S e a r l e ’ s a r g u m e n t . ( W e i s s 1 9 9 0 , p . 1 7 1 ) W e i s s ’ s p o i n t w o u l d s e e m t o a p p l y w h e t h e r S e a r l e i s p a r t o f t h e s y s t e m o r t h e s y s t e m p a r t o f S e a r l e : i n e i t h e r c a s e , " S e a r l e i s s i m p l y i n t h e w r o n g p o s i t i o n t o k n o w [ i n t r o s p e c t i v e i y ] w h e t h e r o r n o t t h e [ s y s t e m ] h a s c o n s c i o u s n e s s " ( W e i s s 1 9 9 0 , p . 1 7 1 ) . i n a s i m i l a r v e i n , D a v i d C o l e s u g g e s t s t h a t t h e c a s e w h e r e t h e 1 7 3 s y s t e m i s i n S e a r l e m i g h t b e c o n c e i v e d o n t h e m o d e l o f m u l t i p l e p e r s o n a l i t y d i s o r d e r : " E a c h p e r s o n a l i t y i s a f u l l y i n t e g r a t e d a n d c o m p l e x u n i t w i t h u n i q u e m e m o r i e s , b e h a v i o r p a t t e r n s , a n d s o c i a l r e l a t i o n s h i p s t h a t d e t e r m i n e t h e n a t u r e o f " ‘ ° W e i s s t h e i n d i v i d u a l ’ s a c t s [ a n d a v o w a l s ] w h e n t h a t p e r s o n a l i t y i s d o m i n a n t . a n d C o l e g r a n t S e a r l e a l l t h e n e e - C a r t e s i a n a p p a r a t u s h e w a n t s a n d s t i l l r e s i s t C R E ’ s w o u l d - b e a n t i - f u n c t i o n a l i s t c o n c l u s i o n . T h u s , b y W e i s s ’ s r e c k o n i n g : i t i s S e a r l e ’ s f i r s t p e r s o n p o i n t o f v i e w t h a t m a k e s f o r t h e i n t u i t i v e f o r c e o f h i s a r g u m e n t . B u t i t I s t h a t v e r y p e r s p e c t i v e w h i c h m a k e s i t f a i l . S e a r l e h a s a f i r s t p e r s o n p o i n t o f v i e w o n l y o f h i m s e l f , n o t a t h e r o b o t [ o r s y s t e m ] a s h e p u r p o r t s t o h a v e . S e a r l e o n l y t e l l s u s , t h a t h e , S e a r l e , d o e s n o t h a v e t h e f l a v o u r o f u n d e r s t a n d i n g : h e l a c k s a c e r t a i n s o r t o f c o n s c i o u s n e s s . ( W e i s s 1 9 9 0 , p . 1 7 1 ) Y e t , w h i l e i t m a k e s f o r a p r e t t y i r o n y t o r e s i s t S e a r l e ’ s c o n c l u s i o n o n t h e b a s i s o f t h e v e r y " i n t u i t i o n s ” h i s C h i n e s e r o o m e x p e r i m e n t i s d e s i g n e d t o e v o k e - o n t h e b a s i s o f t h e v e r y N e o - C a r t e s i a n a s s u m p t i o n s o n w h i c h i t s e e m s t o d e p e n d - i t i s n o t , I t h i n k , a d v i s a b l e t o c r e d i t s u c h " i n t u i t i o n s " o r a c c e p t s u c h a s s u m p t i o n s a s W e i s s a n d C o l e s e e m t o d o . T h e d e e p e r d i f f i c t u w i t h t h e C h i n e s e r o o m s c e n a r i o i s w i t h t h e s e a s s u m p t i o n s a n d " i n t u i t i o n s " t h e m s e l v e s . F i n a l l y , t w o a d d i t i o n a l , c l o s e l y r e l a t e d g a m b i t s ( b e s i d e s t h e m a i n " s w a l l o w - u p " g a m b i t ) S e a r l e u s e s i n h i s r e j o i n d e r t o t h e s y s t e m s r e p l y a r e w o r t h m e n t i o n h e r e . S t a v a n H a r n a d a t t e m p t s t o u s e t h e f i r s t o f t h e s e - - t h e " i n c r e d u l o u s s t a r e " “ b y w h i c h t h e s y s t e m s r e p l y i s n o t s o m u c h a r g u e d a g a i n s t a s " l a m p o o n e d " ( H a r n a d 1 9 9 1 , p . 4 8 ) - t o g i v e a " p l a u s i b i l i t y d e f e n s e " o f S e a r l e ’ s e x p e r i m e n t a g a i n s t s u c h 1 0 . T h i s d e s c r i p t i o n f r o m t h e A m e r i c a n P s y c h i a t r i c A s s o c i a t i o n ’ s D i a g n o s t i c a n d S t a t i s t i c a l M a n u a l o f M e n t a l D l s o r d e r s . I I I , p . 2 5 7 i s c i t e d b y C o l e 1 9 9 1 b , p p . 4 1 0 - 4 1 1 . 1 1 . I o w e t h i s h a p p y p h r a s e t o G e n e C l i n e , w h o g e t s I t f r o m D a v i d L e w i s : t h i s I s t h e t i t l e o f § 2 . 8 o f L e w i s ’ s O n t h e P l u r a l l t y o f W o r l d s ( L e w i s 1 9 8 6 ) . 1 7 4 r e j o i n d e r s a s W e i s s ’ s a n d C o l e ’ s . T h i s p l a u s i b i l i t y d e f e n s e s e e k s t o s h o w u p s u c h s y s t e m s r e p l i e s a s " t h e o r y - s a v i n g o n t h e b a s i s o f [ i m p l a u s i b l e ] s c i - f l f a n t a s i e s " ( H a y e s a t a l . 1 9 9 2 , p . 2 2 0 ) . i n t h e s a m e v e i n S e a r l e m o c k s t h e " i d e a t h a t w h i l e a p e r s o n d o e s n ‘ t u n d e r s t a n d C h i n e s e , s o m e h o w t h e c o n j u n c t i o n o f fl a t p e r s o n a n d b i t s o f p a p e r m i g h t u n d e r s t a n d " ( S e a r l e 1 9 8 0 , p . 4 2 0 ) . H a r n a d a c k n o w l e d g 6 8 , I t i s l o g i c a l l y p o s s i b l e t h a t S e a r l e w o u l d b e u n d e r s t a n d i n g C h i n e s e u n d e r t h o s e c o n d i t i o n s ( a f t e r a l l , i t ’ s j u s t a t h o u g h t e x p e r i m e n t - - i n r e a l l i f e , m e m o r i z i n g a n d m a n i p u l a t i n g t h e s y m b o l s c o u l d c o n c e i v a b l y g i v e r i s e t o a n e m e r g e n t c o n s c i o u s u n d e r s t a n d i n g o f C h i n e s e i n S e a r l e . a s s o m e s y s t e m s - r e p l l e r s h a v e s u g g e s t e d ) . i t I s a l s o l o g i c a l l y p o s s i b l e t h a t m e m o r i z i n g t h e s y m b o l s a n d r u l e s a n d d o i n g t h e m a n i p u l a t i o n s w o u l d g e n e r a t e a s e c o n d c o n s c i o u s m i n d i n s i d e S e a r l e , t o w h i c h S e a r l e w o u l d h a v e n o a c c e s s , l i k e a m u l t i p l e p e r s o n a l i t y , w h i c h w o u l d i n t u r n b e u n d e r s t a n d i n g C h i n e s e . T h i s t o o h a s b e e n p r o p o s e d . F i n a l l y , I t h a s b e e n s u g g e s t e d [ w h i c h i s a l s o l o g i c a l l y p o s s i b l e ] t h a t " u n d e r s t a n d i n g w o u l d b e g o i n g o n " i n s i d e S e a r l e u n d e r t h e s e c o n d i t i o n s , b u t n o t I n a n y o n e ’ s o r a n y t h i n g ’ s m i n d , j u s t a s a n u n c o n s c i o u s p r o c e s s , l i k e m a n y o t h e r u n c o n s c i o u s p r o c e s s e s t h a t n o r m a l l y t a k e p l a c e i n S e a r l e a n d o u r s e l v e s . ( H a y e s e t a l . , p . 2 1 9 ) W h i l e a c k n o w l e d g i n g , " A l l t h e s e l o g i c a l p o s s i b i l i t i e s e x i s t , s o t h e r e i s c l e a r l y n o q u e s t i o n o f a ‘ p r o o f " ‘ ( H a y e s e t a l . 1 9 9 2 , p . 2 1 9 ) H a r n a d c o n t i n u e s , B u t t h e n n e i t h e r i s t h e r e a q u e s t i o n o f a p r o o f t h a t a s t o n e d o e s n o t u n d e r s t a n d C h i n e s e , o r i n d e e d t h a t a n y o n e ( o t h e r t h a n m y s e l f , i f i d o ) d o e s . Y e t o n e c a n d r a w q u i t e r e a s o n a b l e ( a n d i n d e e d a l m o s t c e r t a i n l y c o r r e c t ) c o n c l u s i o n s o n t h e b a s i s o f p l a u s i b i l i t y a l o n e , a n d o n t h a t b a s i s n e i t h e r a s t o n e n o r S e a r l e u n d e r - s t a n d s C h l n e s e ( a n d , u n t i l f u r t h e r n o t i c e . o n l y b e i n g s c a p a b l e o f c o n s c i o u s u n d e r s t a n d i n g a r e c a p a b l e o f u n c o n s c i o u s ‘ u n d e r s t a n d i n g ’ , a n d t h e l a t t e r m u s t i n t u r n b e a t l e a s t p o t e n t i a l l y c o n s c i o u s - - w h i c h i t w o u l d n o t b e i n S e a r l e i f h e m e r e l y m e m o r i z e d t h e m e a n i n g l e s s s y m b o l s a n d m a n i p u l a t i o n s ) . ( H a y e s e t a l . 1 9 9 2 , p p . 2 1 9 - 2 2 0 ) H a r n a d c o n c l u d e s , " t h e l o g i c o f S e a r l e ’ s s i m p l e a r g u m e n t i s n o m o r e n o r l e s s t h a n t h i s . A n a p p a r e n t l y p l a u s i b l e t h e s i s i s s h o w n t o l e a d t o i m p l a u s i b l e c o n c l u s i o n s , w h i c h a r e t h e n t a k e n ( q u i t e r i g h t l y i n m y v i e w ) a s e v i d e n c e a g a i n s t t h e t h e s i s " ( H a y e s a t a l . 1 9 9 2 , p . 2 2 0 ) . S i m i l a r l y S e a r l e j u d g e s t h e s y s t e m s r e p l y t o l e a d t o 1 7 5 i m p l a u s i b l e c o n c l u s i o n s t h a t a r e “ i n d e p e n d e n t l y a b s u r d " ( S e a r l e 1 9 8 0 9 , p . 4 1 9 ) . B u t a r e t h e y ? C o n s i d e r S e a r l e ’ s i n c r e d u l i t y a t t h e n o t i o n t h a t " s o m e h o w t h e c o n j u n c t i o n o f p e r s o n a n d b i t s o f p a p e r " m i g h t h a v e m e n t a l p r o p e r t i e s t h e p e r s o n ( s a n s p a p e r ) w o u l d l a c k . T h e p o s s i b i l i t y h e r e b e i n g I a m p o o n e d i s n o t j u s t p l a u s i b l e b u t c o m m o n p l a c e . T h e a v a i l a b i l i t y o f p a p e r a n d p e n c i l c a n d r a s t i c a l l y a l t e r o n e s m a t h e m a t i c a l c a i c u l a t i v e a b i l i t i e s ; t h e c o n j u n c t i o n o f a m o n o l i n g u a l E n g l i s h s p e a k e r w i t h a C h i n e s e - E n g l i s h p h r a s e b o o k h a s C h i n e s e u n d e r s t a n d i n g a b i l i t i e s ( s l i g h t t h o u g h t h e y a r e ) t h e s p e a k e r w i t h o u t t h e p h r a s e b o o k l a c k s ; e t c . T h e i m p l a u s i b i l i t y o f t h i n k i n g a s t o n e u n d e r s t a n d s C h i n e s e , i s s i m p l y i r r e l e v a n t b e c a u s e s t o n e s d o n ’ t a c t l i k e t h e y u n d e r s t a n d C h i n e s e a t a l l , w h e r e a s S I R a n d R I S ( i g n o r i n g c o n s i d e r a t i o n s o f t i m e ) d o a c t l i k e t h e y u n d e r s t a n d C h i n e s e . I t ’ s n o t t h e p l a u s i b i l i t y o f c r e d i t i n g i n a n i m a t e " s y s t e m s , " e . g . , s t o n e s , w i t h m e n t a l p r o p e r t i e s t h e y d o n ’ t b e h a v e a t a l l l i k e t h e y h a v e t h a t ’ s a t i s s u e b u t t h e p l a u s i b i l i t y o f n o t c r e d i t i n g i n a n i m a t e s y s t e m s , e . g . , c o m p u t e r s , w i t h m e n t a l p r o p e r t i e s t h e y t h a t b e h a v e l i k e t h e y . d o h a v e . I f t h e b r u t e i n t u i t i o n t h a t w e “ j u s t k n o w " t h a t t h e c o m p u t e r l i k e " t h e h u n k o f m e t a l o n t h e w a l l t h a t w e u s e t o r e g u l a t e t e m p e r a t u r e " ( S e a r l e 1 9 8 0 , p . 4 2 0 ) c a n n o t r i g h t l y b e c r e d i t e d w i t h a n y m e n t a l p r o p e r t i e s a n y m o r e t h a n a s t o n e c a n s e t t l e d t h e m a t t e r , t h e r e w o u l d b e n o p r o b l e m a b o u t A l a n d n o n e e d f o r 9 C h i n e s e r o o m a r g u m e n t / e x p e r i m e n t t o t r y t o c o u n t e r c l a i m s o f A l i n t h e f i r s t p l a c e . A f u r t h e r a r g u m e n t S e a r l e i n v o k e s i n t a n d e m w i t h t h e i n c r e d u l o u s s t a r e p u r p o r t s t o r e d u c e t h e s y s t e m s r e p l y t o a n a b s u r d p a n p s y c h i s m w h i c h w o u l d a l l o w 1 7 6 " m i n d i s e v e r y w h e r e " ( S e a r l e 1 9 8 0 9 , p . 4 2 0 ) . T o t h e e x t e n t t h a t t h e a b s u r d p a n p s y c h i c c o n c l u s i o n d e p e n d s o n a s s u m p t i o n o f t h e " s t a n d a r d t e x t b o o k d e f i n i t i o n " o f c o m p u t a t i o n , a s d o e s S e a r l e ’ s a s s e r t i o n i n t h i s c o n n e c t i o n t h a t " t h e r e i s a l e v e l o f d e s c r i p t i o n a t w h i c h m y s t o m a c h d o e s i n f o r m a t i o n p r o c e s s i n g " b e c a u s e " t h e r e i s n o t h i n g t o p r e v e n t [ h u m a n i n t e r p r e t e r s ] f r o m t r e a t i n g t h e i n p u t a n d o u t p u t o f m y d i g e s t i v e o r g a n s a s i n f o r m a t i o n i f t h e y s o d e s i r e , " t h e a b s u r d i t y a t t a c h e s n o t t o t h e s y s t e m s r e p l y b u t t o t h i s " s t a n d a r d t e x t b o o k d e f i n i t i o n . " I h a v e a l r e a d y a c k n o w l e d g e d ( a n d t r i e d t o s h o w ) a b s u r d i t y o f t h i s a n d t h e v e x e d c h a r a c t e r o f t h e a n e m i c m a t h e m a t i c a l n o t i o n o f p r o g r a m i m p l e m e n t a t i o n a s s o c i a t e d w i t h i t i n t h e p r e c e d i n g c h a p t e r . T h a t p a n p s y c h i c i m p l i c a t i o n s t h e s y s t e m s r e p l y i t s e l f h a s ( i n d e p e n d e n t l y o f t h o s e f l o w i n g f r o m t h e " s t a n d a r d t e x t b o o k d e f i n i t i o n " o f c o m p u t a t i o n ) a r e n o t " i n d e p e n d e n t l y a b s u r d , “ i s a r g u e d i n t h e n e x t c h a p t e r . 6 . 2 T h e R o b o t R e p l y a n d C a u s a l T h e o r y o f R e f e r e n c e : L o w C h u r c h F u n c t i o n a l i s m i t u r n , n o w , t o W e i s s ’ s " s t r o n g e r r e j o i n d e r " ( W e i s s 1 9 9 0 , p . 1 6 8 ) w h i c h a g r e e s t h a t t h e s y m b o l m a n i p u l a t i o n S I R ( o r R I S ) d o e s l a c k s s e m a n t i c s , b u t n o t f o r t h e a s - i f d u a l i s t i c r e a s o n s t h a t c o m m a n d t h i s j u d g m e n t t o S e a r l e . A c c o r d i n g t o W e i s s , w h a t S I R a n d R I S l a c k a r e " m o t o r o r s e n s o r y c a p a c i t i e s " o r b o t h . T h e s y m b o l m a n i p u l a t i o n s o f R I S l a c k s e m a n t i c s b e c a u s e " t h e C h i n e s e s p e a k i n g s u b - s y s t e m o f S e a r l e [ a n d ] h i s s e n s e a n d m o v e m e n t s a r e a l m o s t t o t a l l y u n c o n n e c t e d " ( W e i s s 1 9 9 0 , p . 1 6 8 ) . T h i s b r o a c h e s w h a t S e a r l e c a l l s t h e " r o b o t r e p l y " - b u t W e i s s ’ s f o r m u l a t i o n d i f f e r s f r o m S e a r l e ’ s . I t d i f f e r s i n t a k i n g s u c h r o b o t i c c o n s i d e r a t i o n s t o 1 7 7 b e s u p p o r t i v e o f f u n c t i o n a l i s m a n d , s o t o s p e a k , c o n t i n u o u s w i t h t h e s y s t e m s r e p l y ; a s b e i n g " t h e d e n i a l o f p r e m i s e t w o , n a m e l y t h a t S e a r l e - e v e n w o r k i n g o u t d o o r s - i n s t a n t i a t e s t h e r e q u i r e d f u n c t i o n a l s t r u c t u r e . N o s y s t e m l a c k i n g a n y m o t o r o r s e n s o r y c a p a c i t i e s c o u n t s a s a s y s t e m w i t h t h e r i g h t f u n c t i o n a l s t r u c t u r e " ( W e i s s 1 9 9 0 , p . 1 6 8 ) . S e a r l e , o n t h e o t h e r h a n d , t a k e s t h e r o b o t r e p l y t o b e g e n u i n e l y d i s t i n c t f r o m t h e s y s t e m s r e p l y s i n c e " i t t a c i t l y c o n c e d e s , " c o n t r a r y t o p u r e f u n c t i o n a l i s m " t h a t c o g n i t i o n i s n o t s o l e l y a m a t t e r o f f o r m a l s y m b o l m a n i p u l a t i o n , s i n c e t h i s r e p l y a d d s a s e t o f c a u s a l r e l a t i o n [ s ] w i t h t h e o u t s i d e w o r l d " ( S e a r l e 1 9 8 0 9 , p . 1 6 9 ) . H e r e i s S e a r l e ’ s v e r s i o n o f t h e r o b o t r e p l y : " S u p p o s e w e w r o t e a d i f f e r e n t k i n d o f p r o g r a m f r o m S c h a n k ’ s p r o g r a m . S u p p o s e w e p u t a c o m p u t e r i n s i d e a r o b o t , a n d t h i s c o m p u t e r w o u l d n o t j u s t t a k e I n f o r m a l s y m b o l s a s i n p u t a n d g i v e o u t f o r m a l s y m b o l s a s o u t p u t , b u t r a t h e r w o u l d a c t u a l l y o p e r a t e t h e r o b o t I n s u c h a w a y t h a t t h e r o b o t d o e s s o m e t h i n g v e r y m u c h l i k e p e r c e i v i n g , w a l k i n g , m o v i n g a b o u t , h a m m e r i n g n a i l s , e a t i n g , d r i n k i n g - - a n y t h i n g y o u l i k e . T h e r o b o t w o u l d , f o r e x a m p l e , h a v e a t e l e v i s i o n c a m e r a a t t a c h e d t o I t t h a t e n a b l e d i t t o s e e , ’ I t w o u l d h a v e a r m s a n d l e g s t h a t e n a b l e d I t t o ' a c t , ’ a n d a l l o f t h i s w o u l d b e c o n t r o l l e d b y i t s c o m p u t e r ‘ b r a l n . ’ S u c h a r o b o t w o u l d , u n l i k e S c h a n k ’ s c o m p u t e r , h a v e g e n u i n e u n d e r s t a n d i n g a n d o t h e r m e n t a l s t a t e s . " ( S e a r l e 1 9 8 0 9 , p . 4 2 0 ) W h e t h e r t h i s r e p l y i s c o n t r a r y t o t h e t h e s i s ( P 2 ) t h a t S e a r l e i n s t a n t i a t e s a " s y s t e m w i t h t h e r i g h t s t r u c t u r e a n d t h e r i g h t i n p u t o u t p u t p a t t e r n " ( W e i s s 1 9 9 0 , p . 1 6 7 ) , a s W e i s s w o u l d h a v e i t , o r w h e t h e r i t i s , r a t h e r , t a c i t l y c o n t r a r y t o t h e f u n c t i o n a l i s t t h e s i s ( u n d e r s t o o d a s i n W e i s s ’ s P 1 ) t h a t " a n y s y s t e m w i t h t h e r i g h t s t r u c t u r e a n d t h e r i g h t i n p u t o u t p u t p a t t e r n " u n d e r s t a n d s C h i n e s e " ( W e i s s 1 9 9 0 , p . 1 6 7 ) , a s S e a r l e m a i n t a i n s , d e p e n d s o n w h a t i s u n d e r s t o o d b y " t h e r i g h t i n p u t o u t p u t p a t t e r n . " I t t h e i n p u t a n d o u t p u t a r e j u s t s u p p o s e d t o b e s y m b o l s t r i n g s ( a b s t r a c t i n g f r o m t h e a c t u a l p h y s i c a l p r o p e r t i e s o f t h e s y m b o l s a n d t h e a c t u a l 1 7 8 e x t e r n a l c a u s e s o f t h e i n p u t a n d e f f e c t s o f t h e o u t p u t s t r i n g s , a s i n c o n c e p t u a l i z - i n g a n a p p a r a t u s a s i n s t a n t i a t i n g a n a b s t r a c t T u r i n g m a c h i n e ) S e a r l e i s r i g h t : t h e r o b o t r e p l y " c o n c e d e s t h a t c o g n i t i o n i s n o t s o l e l y a m a t t e r o f f o r m a l s y m b o l m a n i p u l a t i o n " a n d t h a t p u r e f u n c t i o n a l i s m , a t l e a s t , i s w r o n g . O n t h e o t h e r h a n d , i f " t h e r i g h t i n p u t - o u t p u t p a t t e r n " i s u n d e r s t o o d t o i n c l u d e a c t u a l l y " p e r c e i v i n g , w a l k i n g , m o v i n g a b o u t , h a m m e r i n g n a i l s , e a t i n g , d r i n k i n g " ( S e a r l e 1 9 8 0 9 , p . 4 2 0 ) , s o t h a t t h e s y s t e m w o u l d a c t u a l l y " r e a c t a p p r o p r i a t e l y i f s o m e b o d y y e l l e d ‘ F i r e ’ i n C h i n e s e " ( W e i s s 1 9 9 0 , p . 1 6 8 ) , W e i s s i s r i g h t a b o u t n e i t h e r R I S n o r S I R i n s t a n t i a t i n g s u c h 9 s y s t e m ; b u t S e a r l e i s s t i l l r i g h t a b o u t t h e h y p o t h e s i s t h a t " c o g n i t i o n i s s o l e l y a m a t t e r o f f o r m a l s y m b o l m a n i p u l a t i o n " ( i . e . , p u r e f u n c t i o n a l i s m ) h a v i n g b e e n t a c i t l y g i v e n u p . H e r e ( o n t h i s s e c o n d c o n s t r u a l ) i t i s g i v e n u p a b i n i t i o b y t a k i n g a l o w c h u r c h v i e w o f " t h e r i g h t i n p u t - o u t p u t p a t t e r n . " N o w I t a k e i t t h a t t h e p o s i t i o n W e i s s u l t i m a t e l y w a n t s t o d e f e n d i s a k i n d o f c h a s t e n e d , o r p e r h a p s d o u b l y c h a s t e n e d , f u n c t i o n a l i s m t h a t m a y b e e x p r e s s e d t h u s : " t h e i n s t a n t i a t i o n o f a c e r t a i n f u n c t i o n a l s t r u c t u r e p l u s t r a n s d u c e r s a n d m o t o r c a p a c i t i e s c a n c a p t u r e a l l [ c o g n i t i v e ] m e n t a l p r o p e r t i e s " ( W e i s s 1 9 9 0 , p . 1 6 6 : m y e m p h a s i s ) . T h e s e c o n d p r o v i s o o f t h i s f o r m u l a t i o n - r e s t r i c t i n g t h e s c o p e o f f u n c t i o n a l e x p l a n a t i o n s o f m i n d t o t h e " c o g n i t i v e c a p a c i t i e s " a n d e x c l u d i n g " p h e n o m e n a l p r o p e r t i e s " f r o m t h e s c o p e o f s u c h e x p l a n a t i o n s - W e i s s c l e a r l y a c c e p t s : t h u s h e d i s t i n g u i s h e s h i s v i e w f r o m t h e v i e w t h a t f u n c t i o n a l s t r u c t u r e p l u s s e n s o r i m o t o r c a p a c i t i e s c a n c a p t u r e " a l l m e n t a l p r o p e r t i e s " ( W e i s s 1 9 9 0 , p . 1 6 6 : m y e m p h a s i s ) w h i c h h e c a l l s " f u l l - b l o w n f u n c t i o n a l i s m i n i t s s t r o n g e s t f o r m " a n d s t y l e s t o b e " t h e p o s i t i o n a t t a c k e d " ( W e i s s 1 9 9 0 , p . 1 6 5 ) b y S e a r l e ’ s e x p e r i m e n t . 1 7 9 Y e t , W e i s s ’ s " f u l l - b l o w n f u n c t i o n a l i s m , " i n a l l o w i n g " f u n c t i o n a l i s m " r e c o u r s e t o " t r a n s d u c e r s a n d m o t o r c a p a c i t i e s " i n a d d i t i o n t o " f u n c t i o n a l s t r u c t u r e " f o r e x p l a i n i n g c o g n i t i o n , s e e m s w e a k e r t h a n t h e p o s i t i o n " c o g n i t i o n i s s o l e l y a m a t t e r o f s y m b o l m a n i p u l a t i o n " S e a r l e ’ s r e s p o n s e t o t h e s y s t e m s r e p l y s e e m s s p e c i fi c a l l y t o a t t a c k . N o w i t l s p o s s i b l e t o m a k e t h e k i n d o f s y s t e m s - r o b o t r e p l y t h a t W e i s s a t t e m p t s - - u r g i n g r o b o t i c c o n s i d e r a t i o n s a g a i n s t t h e p r e m i s e t h a t S e a r l e i n s t a n t i a t e s 9 s y s t e m w i t h t h e r i g h t s t r u c t u r e a n d r i g h t i n p u t - o u t p u t p a t t e r n - I t a k e i t , i f " t r a n s d u c e r s a n d m o t o r c a p a c i t i e s " a r e c o n s t r u e d " n a r r o w l y " ( c f . F o d o r 1 9 8 6 b ) o r " s o i i p s i s t i c a l l y " ( c f . F o d o r 1 9 8 0 ) ; t h a t i s t o s a y i f t h e c r i t i c i s m i s t h a t t h e i n t e r n a l i z e d s y s t e m ( R I S ) l a c k s a n y m o d u l e s o f t h e s o r t t h a t w o u l d s u f f i c e t o " h o o k u p “ t h e C h i n e s e s y m b o l s t o s e n s o r y i n p u t a n d m o t o r o u t p u t i t t h e s y s t e m w e r e p r o p e r l y e n s c o n c e d i n a r o b o t b o d y , w h e t h e r o r n o t t h e s y s t e m i s a c t u a l l y s o s i t u a t e d o r n o t . P e r h a p s W e i s s i n t e n d s s o m e t h i n g l i k e t h i s " n a r r o w r o b o t r e p l y . " B u t t h i s " n a r r o w " o r " i n t e m a l i s t " d e f e n s e o f p u r e f u n c t i o n a l i s m i s u n s t a b l e . T h e i n s t a b i l i t y t h a t e m e r g e s h e r e m a y b e s e e n , I b e l i e v e , t o c u t d e e p e r a n d t o m o t i v a t e a t r u e " b r e a d " o r " e x t e m a l i s t " r o b o t r e p l y o u t o f t h e i n n e r d y n a m i c s a n d i n h e r e n t d i f f i c u l t i e s o f t h e p u r e f u n c t i o n a l i s t p o s i t i o n i t s e l f . T h e i n s t a b i l i t y c o n c e r n s , a t f i r s t v i e w , t h e s p e c i f i c a t i o n o f t h e s o r t s o f p r o c e s s e s t h a t w o u l d s u f f i c e f o r s e n s o r i m o - t o r c a p a c i t i e s i f t h e s y s t e m w e r e p r o p e r l y e n s c o n c e d i n a r o b o t b o d y : t h e d i f f i c u l t y i s t h a t i t w i l l b e i m p o s s i b l e t o g i v e a n y p u r e l y f o r m a l s p e c i f i c a t i o n o f w h a t w o u l d s u f fi c e f o r s u c h c o u n t e r f e c t u a l s e n s o r i m o t o r c a p a c i t i e s . S p e c i f i c a l l y , i t s e e m s i m p o s s i b l e t o a b s t r a c t f r o m c o n s i d e r a t i o n s t i m e o r s p e e d o f o p e r a t i o n i n t h i s 1 8 0 c o n n e c t i o n , a s h i g h c h u r c h d o c t r i n e r e q u i r e s . i t i s n o m o l o g i c a l l y i m p o s s i b l e , I t a k e i t , f o r a s y s t e m c a p a b l e o f p e r f o r m i n g o n e e l e m e n t a r y o p e r a t i o n p e r h o u r - ~ o r l i k e S I R , p e r h a p s o n e e l e m e n t a r y o p e r a t i o n e v e r y s e v e r a l s e c o n d s - - t o h e a r t h e c l o c k s t r i k e t w e l v e o r w a t c h t h e s u n s e t , c a t c h a t h r o w n b a l l o r " c a t c h " m o r e t h a n a p h o n e m e h e r e a n d t h e r e o f s p o k e n c o n v e r s a t i o n . F u r t h e r m o r e , o p e r a t i o n s p e e d i s d e p e n d e n t o n t h e p h y s i c a l p r o p e r t i e s o f t h e i n s t a n t i a t i n g s y s t e m . D i f f e r e n t i m p l e m e n t a t i o n s o f t h e s a m e p r o g r a m i n d i f f e r e n t m e d i a - e . g . , S A M i m p l e m e n t e d b y S c h a n k ’ s m a i n - f r a m e c o m p u t e r v s S e a r i e - i n - t h e - r o o m v s " a n e l a b o r a t e s e t o f w a t e r p i p e s w i t h v a l v e s c o n n e c t i n g t h e m " ( S e a r l e 1 9 8 0 9 , p . 4 2 1 ) - - m a y d i f f e r r a d i c a l l y i n s p e e d a n d a c c u r a c y o f o p e r a t i o n . H a y e s o b s e r v e s , T h e T u r i n g T e s t I s n o t d i r e c t l y r e l a t e d t o T u r i n g c o m p u t a b i l i t y . F o r e x a m p l e , I f o n e p r o g r a m r u n s 1 0 0 0 t i m e s a s f a s t a s a n o t h e r , i t m a k e s n o d i f f e r e n c e w h a t e v e r t o t h e i r T u r i n g E q u i v a l e n c e , b u t i t c o u l d m a k e a l l t h e d i f f e r e n c e t o o n e p a s s i n g a n d t h e o t h e r f a i l i n g t h e T u r i n g T e s t . ( H a y e s e t a l . 1 9 9 2 , p . 2 3 2 ) T h i s d i f f i c u l t y , w h i c h p r e c l u d e s a p u r e f u n c t i o n a l i s t t a k e o n t h e r o b o t r e p l y o r a n y p u r e l y f o r m a l a c c o u n t o f p e r c e p t u a l a n d a g e n t i a l m e n t a l a b i l i t i e s i s a l s o c o n t i n u o u s w i t h t h e d i f f i c u l t y ( b e s e t t i n g f u n c t i o n a l i s m i t s e l f ) c o n c e r n i n g w h a t c o u n t s a s a p r o g r a m I m p l e m e n t a t i o n : h o w t o s p e c i f y t h i s i n a w a y t h a t d o e s n o t h a v e t h e a b s u r d l y u n d i s c r i m i r l a t i n g r e s u l t t h a t e v e r y s u f f i c i e n t l y c o m p l e x s y s t e m o r o b j e c t i s r u n n i n g e v e r y s u f f i c i e n t l y s i m p l e p r o g r a m a t e v e r y i n s t a n t . H e r e , i s u b m i t , a n y w o u l d - b e p l a u s i b l e t a k e o n f u n c t i o n a l i s m m u s t , a t a m i n i m u m , d i s t i n g u i s h b e t w e e n t h e w a y i n w h i c h S A M i s i n s t a n t i a t e d o n a d i s k e t t e o r b y a h a r d c o p y o f t h e p r o g r a m t e x t ( o r p e r h a p s b y t h e m o b c u l e s o f S e a r l e ’ s w a l l , " s u i t a b l y 1 8 1 i n t e r p r e t e d " ) a n d t h e w a y i t i s i n s t a n t i a t e d i n b e i n g r u n o n a c o m p u t e r . W i l l i a m R a p a p o r t i s o n t h e r i g h t t r a c k , I t h i n k , w h e n h e s u g g e s t s t h a t " a b o u n d a r y i s c r o s s e d w h e n w e m o v e f r o m s t a t i c t o d y n a m i c s y s t e m s " ( R a p a p o r t 1 9 9 3 ) : " n o o n e c l a i m s ( o r s h o u l d c l a i m ) t h a t a p r o g r a m q u a a l g o r i t h m u n d e r s t a n d s " ( R a p a p o r t 1 9 8 6 , p . 2 7 2 ) . M o r e f u l l y : t h e q u e s t i o n [ o f w h e t h e r a c o m p u t e r c a n u n d e r s t a n d n a t u r a l l a n g u a g e , e . g . j i s w h e t h e r a c o m p u t e r t h a t i s r u n n i n g ( o r e x e c u t i n g ) a s u i t a b l e p r o g r a m - - a ( s u i t a b l e p r o g r a m b e i n g e x e c u t e d o r r u n ) - - c a n u n d e r s t a n d n a t u r a l l a n g u a g e . A p r o g r a m a c t u a l l y b e i n g e x e c u t e d i s s o m e t i m e s s a i d t o b e a " p r o c e s s " ( c f . T a n e n b a u m 1 9 7 6 , p . 1 2 ) . T h u s , o n e m u s t d i s t i n g u i s h t h r e e t h i n g s : ( a ) t h e c o m p u t e r ( i . e . , t h e h a r d w a r e ; i n p a r t i c u l a r , t h e c e n t r a l p r o c e s s i n g u n i t ) , ( b ) t h e p r o g r a m ( l . e . , t h e s o f t w a r e ) , a n d ( c ) t h e p r o c e s s ( i . e . , t h e h a r d w a r e r u n n i n g t h e s o f t w a r e ) . A p r o g r a m i s l i k e t h e s c r i p t o f a p l a y ; t h e c o m p u t e r i s l i k e t h e a c t o r s , s e t s , e t c . ; a n d a p r o c e s s i s l i k e a n a c t u a l p r o d u c t i o n o f t h e p l a y - t h e p l a y i n t h e a c t u a l p r o c e s s o f b e i n g p e r f o r m e d . ( R a p a p o r t 1 9 8 8 , p . 8 1 - 8 2 ) T h o u g h w e o f t e n " r e v e r t t o e a s i e r w a y s o f s p e a k i n g ( ‘ c o m p u t e r s u n d e r s t a n d " , " t h e p r o g r a m u n d e r s t a n d s ’ ) " ( R a p a p o r t 1 9 8 8 , p . 8 2 ) i n t r u t h t h e o n l y p l a u s i b l e c a n d i d a t e f o r u n d e r s t a n d i n g ( o r a n y o t h e r m e n t a l p r o p e r t y ) h e r e i s " a c o m p u t e r t h a t i s r u n n i n g ( o r e x e c u t i n g ) a s u i t a b l e p r o g r a m " ( R a p a p o r t 1 9 8 8 , p . 8 1 : m y e m p h a s e s ) . A p r o g r a m r u n , l i k e a p e r f o r m a n c e o f 9 p l a y - - u n l i k e p r o g r a m s a n d p l a y s c o n s i d e r e d a s a b s t r a c t o b j e c t s - - i s s o m e t h i n g t h a t o c c u r s a t a p l a c e a n d t i m e , a n d t a k e s s o m e t i m e . O n c e i t i s r e c o g n i z e d t h a t t h i n k i n g ( u n d e r s t a n d i n g n o l e s s t h a n p e r c e i v i n g ) i s e s s e n t i a l l y s o m e t h i n g t h a t h a p p e n s ( a t a p l a c e , f o r a t i m e ) i t s e e m s n o t i m p l a u s i b l e t o p r o p o s e t h a t w h e t h e r a g i v e n e x e c u t i o n o f a n a b s t r a c t p r o g r a m c o n s t i t u t e s t h o u g h t a n d w h a t t h o u g h t i t c o n s t i t u t e s - i . e . , w h e t h e r t h e " s y m b o l s " p r o c e s s e d a r e a b o u t a n y t h i n g a n d w h a t i n p a r t i c u l a r t h e y ’ r e a b o u t - d e p e n d s n o t o n l y o n t h e f o r m o f t h e p r o g r a m b e i n g e x e c u t e d b u t o n w h e r e a n d w h e n a n d h o w q u i c k l y ( c f . D e n n e t t 1 9 8 7 b ) . 1 8 2 C a l l t h e v i e w t h a t P r o g r a m m i n g p l u s s o m e t h i n g e l s e s u f f i c e s f o r m i n d ( f o r h a v i n g s o m e m e n t a l p r o p e r t i e s ) " i m p u r e " o r " l o w c h u r c h " f u n c t i o n a l i s m . T h e m o s t p r e v a l e n t s p e c i e s o f l o w c h u r c h f u n c t i o n a l i s m h o l d s t h a t t h e s o m e t h i n g w h i c h a d d e d t o P r o g r a m m i n g s u f f i c e s t o m a k e i t s e m a n t i c a l a n d h e n c e p r o m o t e s i t t o b e i n g m e a n i n g f u l t h o u g h t ( u n d e r s t a n d i n g , c a l c u l a t i n g , d e t e c t i n g , e t c . ) i s t r a n s d u c - t i o n a n d m o t o r c a p a c i t y ( a t , W e i s s 1 9 9 0 ; H a r n a d 1 9 9 1 ; D r e t s k e 1 9 8 5 ) - a l i n e o f s p e c u l a t i o n i n s p i r e d a n d s t r e n g t h e n e d b y c a u s a l t h e o r i e s o f r e f e r e n c e f o r p r o p e r n a m e s a n d n a t u r a l k i n d t e r m s p r o p o s e d b y H i l a r y P u t n a m ( 1 9 7 5 ) a n d S a u l K r i p k e ( 1 9 7 1 ) . " A c c o r d i n g t o t h i s p a r a d i g m , " a s M i c h a e l D e v i t t e x p o u n d s i t , " t h e r e f e r e n c e o f a t e r m i s d e t e r m i n e d b y a n a p p r o p r i a t e c a u s a l c h a i n " ( D e v i t t 1 9 9 0 , p . 7 9 ) . A n a t u r a l e x t e n s i o n o f t h i s p a r a d i g m w o u l d s e e m t o l e a d t o t h e c o n c l u s i o n t h a t , a s S t e v e n H a r n a d p u t s i t , " c o m p u t a t i o n i s n o t e n o u g h " t o m a k e s y m b o l s m e a n i n g f u l b u t " w h a t m i g h t i n d e e d b e e n o u g h " w o u l d b e s o m e t h i n g l i k e " s y m b o l s y s t e m s c a u s a l l y c o n n e c t e d t o a n d g r o u n d e d b o t t o m - u p i n t h e i r r o b o t i c c a p a c i t y t o c a t e g o r i z e a n d m a n i p u l a t e o n t h e b a s i s o f t h e i r s e n s o r y p r o j e c t i o n s , t h e o b j e c t s , e v e n t s a n d s t a t e s o f a f f a i r s t h a t t h e i r s y m b o l s r e f e r t o " ( H a y e s a t a l . 1 9 9 2 , p . 2 2 1 ) . N o w , S e a r l e ’ s r e s p o n s e t o t h e i m p u r e / c a u s a l t h e o r i s t w h o t h i n k s " i f w e p u t a c o m p u t e r i n a r o b o t “ w i t h s e n s o r y i n p u t s a n d m o t o r o u t p u t s i t w o u l d " u n l i k e S c h a n k s ’ s c o m p u t e r [ o r S I R ] , h a v e g e n u i n e u n d e r s t a n d i n g a n d o t h e r m e n t a l s t a t e s " i s " t h a t t h e s a m e e x p e r i m e n t a p p l i e s i n t h e r o b o t c a s e " ( S e a r l e 1 9 8 0 , p . 4 2 0 ) a s f o l l o w s : 1 8 3 S u p p o s e t h a t i n s t e a d o f t h e c o m p u t e r i n s i d e t h e r o b o t , y o u p u t m e i n s i d e t h e r o o m a n d , a s i n t h e o r i g i n a l C h i n e s e c a s e , y o u g i v e m e m o r e C h i n e s e s y m b o l s w i t h m o r e I n s t r u c t i o n s I n E n g l i s h f o r m a t c h i n g C h i n e s e s y m b o l s t o C h i n e s e s y m b o l s a n d f e e d i n g b a c k C h i n e s e s y m b o l s t o t h e o u t s i d e . S u p p o s e , u n k n o w n t o m e , s o m e o f t h e C h i n e s e s y m b o l s c o m e f r o m a t e l e v i s i o n c a m e r a a t t a c h e d t o t h e r o b o t a n d o t h e r C h i n e s e s y m b o l s t h a t I a m g i v i n g o u t s e r v e t o m a k e t h e m o t o r s i n s i d e t h e r o b o t m o v e t h e r o b o t ’ s l e g s o r a r m s . I t I s i m p o r t a n t t o e m p h a s i z e t h a t a l l I a m d o i n g i s m a n i p u l a t i n g f o r m a l s y m b o l s : I k n o w n o n e o f t h e s e o t h e r f a c t s . I a m r e c e i v i n g " i n f o r m a t i o n " f r o m t h e r o b o t ' s " p e r c e p t u a l " a p p a r a t u s a n d i a m g i v i n g o u t " i n s t r u c t i o n s " t o i t s m o t o r a p p a r a t u s w i t h o u t k n o w i n g e i t h e r o f t h e s e f a c t s . I a m t h e r o b o t ’ s h o m u n c u l u s , b u t u n l i k e t h e t r a d i t i o n a l h o m u n c u l u s , I d o n ’ t k n o w w h a t ’ s g o i n g o n . I d o n ’ t u n d e r s t a n d a n y t h i n g e x c e p t t h e r u l e s f o r s y m b o l m a n i p u l a t i o n . N o w i n t h i s c a s e I w a n t t o s a y t h a t t h e r o b o t h a s n o i n t e n t i o n a l s t a t e s a t a l l ; i t i s s i m p l y m o v i n g a b o u t a s a r e s u l t o f i t s e l e c t r i c a l w i r i n g a n d i t s p r o g r a m . A n d f u r t h e r m o r e , b y i n s t a n t i a t i n g t h e p r o g a m l h a v e n o i n t e n t i o n a l s t a t e s o f t h e r e l e v a n t t y p e . A l l I d o i s f o l l o w f o r m a l i n s t r u c t i o n s a b o u t m a n i p u l a t i n g f o r m a l s y m b o l s . ( S e a r l e 1 9 8 0 9 , p . 4 2 0 ) W h a t ’ s r i g h t a b o u t t h i s r e j o i n d e r , I s u b m i t , i s S e a r l e ’ s c o n t e n t i o n t h a t “ t h e s a m e e x p e r i m e n t a p p l i e s " : w h a t ’ s w r o n g , I s u b m i t , i s t h e s u p p o s i t i o n - w h i c h t h e i m p u r e / c a u s a l t h e o r i s t i s w o n t t o g r a n t ! - - t h a t i t s u c c e e d e d i n t h e p r e c e d i n g c a s e ( s ) o f S e a r l e , S I R a n d R I S . I f t h e i n t u i t i o n s p u m p e d i n t h e n o n r o b o t i c c a s e b y S e a r l e ’ s e x p e r i m e n t u n d e r m i n e t h e c l a i m s o f S e a r l e , S I R a n d R I S t o u n d e r s t a n d ( a s s o m a n y l o w c h u r c h c a u s a l t h e o r i s t s w a n t t o g r a n t ) t h a n t h e r e v i s e d e x p e r i m e n t ( s i n c e i t p u m p s t h e s a m e i n t u i t i o n s i n t h e r o b o t i c c a s e ) u n d e r m i n e s t h e c a u s a l t h e o r y t o o . i f y o u r c a u s a l t h e o r y i m p l i e s t h a t m e a n i n g r e q u i r e s r i c h e r c a u s a l ( s e n s o r i m o t o r ) a s s o c i a t i o n s b e t w e e n s y m b o l s a n d t h i n g s t h a n S e a r l e , S I R / R I S o r a n y c o m p u t e r o f t h e p r e s e n t ( n o n - r o b o t - e n s c o n c e d ) i l k r u n n i n g S A M m u s t e r s y o u s h o u l d a g r e e ( a s , e . g . , D r e t s k e 1 9 8 5 d o e s ) w i t h S e a r l e ’ s c o n c l u s i o n t h a t S I R a n d R I S a n d S c h a n k ’ s m a c h i n e s r u n n i n g S A M o n l y p r o c e s s m e a n i n g l e s s s y m b o l s a n d d o n ’ t r e a l l y u n d e r s t a n d ; b u t n o t f o r S e a r l e ' s t h o u g h t e x p e r i m e n t a l r e a s o n s . S e a r l e ’ s " e x p e r i m e n t “ c a n ’ t p r o v i d e s u p p l e m e n t a r y s u p p o r t ( i n a d d i t i o n t o t h e o r e t i c c o n s i d e r a t i o n s d e r i v i n g f r o m c a u s a l t h e o r i e s o f r e f e r e n c e ) f o r t h i s 1 8 4 c o n t e n t i o n b e c a u s e t h e i n t u i t i o n S e a r l e ’ s e x a m p l e p u m p s - t h a t S I R / R I S , n o t b e i n g c o n s c i o u s l y a w a r e o f t h e m e a n i n g s o f t h e s y m b o l s , t h e r e b y " u n d e r s t a n d s n o t h i n g o f C h i n e s e " ( S e a r l e 1 9 8 0 , p . 4 1 9 ) - c a n b e p u m p e d j u s t a s r e a d i l y i n t h e c a s e o f S I R / R I S e n s c o n c e d i n a r o b o t a s i n t h e o r i g i n a l c a s e . C R E c l a i m s t o e s t a b l i s h t h e s a m e c o n c l u s i o n t h e c a u s a l t h e o r y c o m m e n d s , b u t t h e w a y C R E p u r p o r t s t o . e s t a b l i s h t h i s c o n c l u s i o n - b y p u m p i n g i n t u i t i o n s a b o u t t h e p e r s o n i n t h e r o o m ’ s l a c k o f a w a r e n e s s o f m e a n i n g o f t h e s y m b o l s b e i n g p r o c e s s e d , w h i c h i n t u i t i o n s a r e c r e d i t e d i n t u r n a s o v e r r i d i n g p r o o f o f t h e s y m b o l s ’ s l a c k o f ( i n t r i n s i c ) m e a n i n g - - i f a c c e p t e d , u n d e r m i n e s t h e “ r o b o t r e p l y " o f i m p u r e f u n c t i o n a l i s m n o l e s s t h a n i t u n d e r m i n e s t h e s y s t e m s r e p l y o f p u r e f u n c t i o n a l i s m . T h e e q u a l ( i n ) v u l n e r a b i l i t y o f r o b o t a n d s y s t e m s r e p l i e s t o t h e i n t “ u i t i o n s " C R E p u m p s c o n f i m t h e s u s p i c i o n t h a t C R E d e p e n d s e s s e n t i a l l y o n t h e a s s u m p t i o n s o f p r i v i l e g e d a c c e s s a n d o n t o l o g i c a l s u b j e c t i v i t y f e e d i n g t h e s e " i n t u - i t i o n s . “ T h e n o t i o n s o m e c a u s a l t h e o r i s t s s e e m t o h a v e t h a t h a i r t h e o r y b u t t r e s s e s C R E ’ s s u p p o r t o f R b y e n a b l i n g C R E t o d i s p e n s e w i t h s u c h C a r t e s i a n a s s u m p t i o n s i s u n t e n a b l e . F o r t h e s a m e r e a s o n C R E c a n n o t p r o v i d e i n d e p e n d e n t s u p p o r t f o r t h e c a u s a l t h e o r y o f r e f e r e n c e - t h e " i n t u i t i o n s " C R E p u m p s b e i n g c o n t r a r y t o t h a t t h e o r y ’ s r o b o t r e p l y n o l e s s t h a n t o p u r e f u n c t i o n a l i s m ’ s s y s t e m s r e p l y - t h e c a u s a l t h e o r y c a n ’ t p r o p u p C R E e i t h e r . I f y o u “ i n t u i t " t h a t S e a r l e i n t h e C h i n e s e r o o m d o e s n o t m e a n a n y t h i n g b y t h e s y m b o l s h e p r o c e s s e s i t s e e m s y o u " i n t u i t " - - c o n t r a r y t o c a u s a l t h e o r y - t h a t S e a r l e i n t h e r o b o t r o o m d o e s n o t m e a n a n y t h i n g e i t h e r . i f , o n t h e o t h e r h a n d , y o u i n f e r o n t h e b a s i s o f c a u s a l t h e o r y i n c o n j u n c t i o n w i t h t h e s e n s o r i m o t o r d e f i c i t s o f S e a r l e i n t h e C h i n e s e r o o m ( l i k e 1 8 5 p r e s e n t d a y c o m w t e r s ) t h a t S e a r l e i n t h e C h i n e s e r o o m ( l i k e p r e s e n t d a y c o m p u t e r s ) d o e s n ’ t a t t a c h a n y m e a n i n g t o t h e s t r i n g s p r o c e s s e d , y o u c a n n o t ( o n p a i n o f c i r c u l a r i t y ) t a k e t h e e x p e r i m e n t a s s u p p o r t f o r t h e c a u s a l t h e o r y . T o r e g a r d C R E a s p r o v i d i n g i n d e p e n d e n t s u p p o r t f o r c a u s a l t h e o r i e s o f r e f e r e n c e y o u n e e d t o c r e d i t t h e c o n c l u s i o n t h a t S I R / R I S d o e s n o t a M c h m e a n i n g t o , a n d h e n c e d o e s n o t u n d e r s t a n d , t h e C h i n e s e w r i t i n g b e c a u s e o f i n t u i t i o n s C R E p u m p s n o t j u s t b e c a u s e c a u s a l t h e o r y ( t o g e t h e r w i t h t h e u n c o n n e c t e d n e s s o f t h e s y m b o l s S I R / R I S p r o c e s s e s t o s e n s o r y i n p u t s a n d m o t o r o u t p u t s ) i m p l i e s i t ; y e t c r e d i t i n g t h e s e " i n t u i t i o n s " a b o u t c o n s c i o u s n e s s o f m e a n l n g C R E p u m p s u n d e r m i n e s t h e r o b o t r e p l y a n d c a u s a l t h e o r y . i m a g i n e t h e r o b o t t o s t a n d i n w h a t e v e r s e n s o r i m o t o r r e l a t i o n y o u p l e a s e t o t h e t h i n g s d e n o t e d b y t h e s t r i n g s o f C h i n e s e c h a r a c t e r s - i m a g i n e w i t h W e i s s , e . g . , t h a t w h e n t h e C h i n e s e c h a r a c t e r s m e a n i n g " F i r e l " a r e i n p u t t h e r o b o t h a s t e n s f o r t h e n e a r e s t e x i t o r g r a b s a f i r e e x t i n g u i s h e r - a n d t h e r e s t i l l s e e m s n o r e a s o n t o s u p p o s e S e a r l e i n t h e r o o m i n t h e r o b o t ’ s h e a d ( o r t h e r o b o t - r o o m - S e a r l e s y s t e m ) w o u l d b e c o n s c i o u s o f t h e m e a n i n g s o f t h e s y m b o l s . T h e e s s e n t i a l r e l i a n c e o f C R E o n a s i f d u a l i s t i c a s s u m p t i o n s o f p r i v i l e g e d a c c e s s a n d o n t o l o g i c a l s u b j e c t i v i t y ( c o n f i r m e d b y t h e i n a b i l i t y o f c a u s a l t h e o r y t o s u p p o r t t h e e x p e r i m e n t ) i s a v e r y s t r o n g r e s u l t . I t m e a n s , I c o n t e n d , t h a t t h e a t t e m p t t o u s e C R E t o e s t a b l i s h e v e n s o m u c h a s t h e w e a k a n t i f u n c t i o n a l i s t c o n c l u s i o n ( C 1 W ) i s d o o m e d f r o m t h e s t a r t b y t h e c o n s i d e r a t i o n t h a t t h e s e a s s u m p t i o n s l e a d u n a v o i d a b l y t o t h e i n d e p e n d e n t l y a b s u r d c o n c l u s i o n t h a t " t h e r e ’ s n o w a y I c a n k n o w " ( H a r n a d , p . 4 5 ) " t h a t a n y o n e e l s e b u t m e h a s a m i n d " ( H a r n a d , 1 8 6 p . 4 5 ) ; a c o n c l u s i o n H a r n a d - a s t a u n c h p r o p o n e n t o f S e a r l e ’ s “ e x p e r i m e n t " - - a c c e p t s ! T o m y m i n d , t h i s “ o t h e r m i n d s r e p l y " i n v a l i d a t e s S e a r l e ’ s e x p e r i m e n t a s a c o u n t e r e x a m p l e e i t h e r t o T u r i n g m a c h i n e f u n c t i o n a l i s m o r t o t h e c l a i m o f S A M “ o r a n y T u r i n g m a c h i n e s i m u l a t i o n o f h u m a n m e n t a l p h e n o m e n a " ( S e a r l e 1 9 8 0 9 , p . 4 1 7 ) t o h a v e t h e m e n t a l p r o p e r t i e s i t a c t s a s i t i f h a s . B u t f i r s t , t h e " b r a i n s i m u l a t o r r e p l y “ a n d t h e " c o m b i n a t i o n r e p l y " t a k e u p o t h e r l o o s e e n d s . A l l t h e r e p l i e s , h o w e v e r , n e g l e c t p e r h a p s t h e m o s t s u b s t a n t i a l l o o s e a n d r e m a i n i n g i n c o n n e c t i o n w i t h t h e r o b o t r e p l y : t h i s c o n c e r n s t h e c u r i o u s l y s t r a w m a n i s h c h a r a c t e r o f S e a r l e ’ s r e s t r i c t i o n o f t h e r o b o t r e p l y t o i n d i v i d u a l i s t i c c a u s a l t h e o r e t i c c o n s i d e r a t i o n s . T h i s i s s t r a w m a n i s h b e c a u s e t h e s t r o n g e s t c a u s a l t h e o r e t i c c o n s i d e r a t i o n s f a v o r i n g c l a i m s o f A l , i t s e e m s t o m e , a r e s o c i a l , h a v i n g t o d o w i t h w h a t P u t n a m t e r m s t h e “ d i v i s i o n o f l i n g u i s t i c l a b o r “ ( P u t n a m 1 9 7 5 , p . 2 4 5 ) . I t i s s u c h s o c i a l c o n s i d e r a t i o n s a s t h a t a c c o u n t i n g p r o g r a m s p e r f o r m t h e i n t e l l e c t u a l l a b o r p r e v i o u s l y p e r f o r m e d b y a c c o u n t a n t s , a f t e r a l l , t h a t l e a d u s t o s a y , 9 . 9 . m a t c o m p u t e r s r u n n i n g a c c o u n t i n g p r o g r a m s c a l c u l a t e n e t p r o f i t s , d e t e r m i n e g r o s s r e v e n u e s , e t c . T h i s c o n s i d e r a t i o n g i v e s t h e o r e t i c b i t e t o t h e n a i v e e m p i r i c a l c o n s i d e r a t i o n s f a v o r i n g c l a i m s o f m e n t a l a b i l i t i e s o n b e h a l f o f a l r e a d y e x i s t i n g c o m p u t e r s t o b e d e v e I O p e d i n t h e n e x t c h a p t e r a n d f o r e s h a d o w s t h e e m e r g e n c e o f i n t r i n s i c a l i t y r a t h e r t h a n i n t e n t i o n a l i t y p e r s e a s t h e c r u c i a l p o i n t a t i s s u e a t t h e n e x t c h a p t e r ’ s c o n c l u s i o n . 1 8 7 6 . 3 T h e B r a i n S i m u l a t o r R e p l y T h e b r a i n s i m u l a t o r r e p l y , a s S e a r l e r e c o u n t s i t , i n s i s t s t h a t f o l l o w i n g t h e b r a i n ' 9 p r o g r a m m u s t s u f f i c e f o r i n t e n t i o n a l i t y . S e a r l e r e c o u n t s i t a s f o l l o w s : " S u p p o s e w e d e s i g n a p r o g r a m t h a t d o e s n ’ t r e p r e s e n t i n f o r m a t i o n t h a t w e h a v e a b o u t t h e w o r l d , s u c h a s t h e i n f o r m a t i o n i n S c h a n k ’ s s c r i p t s , b u t s i m u l a t e s t h e a c t u a l s e q u e n c e o f n e u r o n f i r i n g s a t t h e s y n a p s e s o f t h e b r a i n o f a n a t i v e C h i n e s e s p e a k e r w h e n h e u n d e r s t a n d s s t o r i e s i n C h i n e s e a n d g i v e s a n s w e r s t o t h e m . T h e m a c h i n e t a k e s i n C h i n e s e s t o r i e s a n d q u e s t i o n s a b o u t t h e m a s i n p u t , i t s i m u l a t e s t h e f o r m a l s t r u c t u r e o f a c t u a l C h i n e s e b r a i n s i n p r o c e s s i n g t h e s e s t o r i e s , a n d I t g i v e s o u t C h i n e s e a n s w e r s a s o u t p u t s . W e c a n e v e n i m a g i n e t h a t t h e m a c h i n e o p e r a t e s , n o t w i t h a s i n g l e s e r i a l p r o g r a m , b u t w i t h a w h o l e s e t o f p r o g r a m s o p e r a t i n g i n p a r a l l e l , I n t h e m a n n e r t h a t a c t u a l h u m a n b r a i n s p r e s u m a b l y o p e r a t e w h e n t h e y p r o c e s s n a t u r a l l a n g u a g e . N o w s u r e l y i n s u c h a c a s e w e w o u l d h a v e t o s a y t h a t t h e m a c h i n e u n d e r s t o o d t h e s t o r i e s ; a n d i f w e r e f u s e t o s a y t h a t , w o u l d n ’ t w e a l s o h a v e t o d e n y t h a t n a t i v e C h i n e s e s p e a k e r s u n d e r s t o o d t h e s t o r i e s ? A t t h e l e v e l o f t h e s y n a p s e s , w h a t c o u l d b e d i f f e r e n t a b o u t t h e p r o g r a m o f t h e c o m p u t e r a n d t h e p r o g r a m o f t h e C h i n e s e b r a i n ? " ( S e a r l e 1 9 8 0 9 , p . 4 2 0 ) S e a r l e r e s p o n d s , B e f o r e c o u n t e r i n g t h i s r e p l y I w a n t t o d i g r e s s t o n o t e t h a t i t i s a n o d d r e p l y f o r a n y p a r t i s a n o f a r t i f i c i a l i n t e l l i g e n c e ( o r f u n c t i o n a l i s m , e t c . ) t o m a k e : I t h o u g h t t h e w h o l e i d e a o f s t r o n g A ! I s t h a t w e d o n ’ t n e e d t o k n o w h o w t h e b r a i n w o r k s t o k n o w h o w t h e m i n d w o r k s . T h e b a s i c h y p o t h e s i s , o r s o I h a d s u p p o s e d , w a s t h a t t h e r e i s a l e v e l o f m e n t a l o p e r a t i o n s c o n s i s t i n g o f c o m p u t a t i o n a l p r o c e s s e s o v e r f o r m a l e l e m e n t s t h a t c o n s t i t u t e t h e e s s e n c e o f t h e m e n t a l a n d c a n b e r e a l i z e d i n a l l s o r t s o f d i f f e r e n t b r a i n p r o c e s s e s , i n t h e s a m e w a y t h a t a n y c o m p u t e r p r o g r a m c a n b e r e a l i z e d i n d i f f e r e n t c o m p u t e r h a r d w a r e s : o n t h e a s s u m p t i o n s o f s t r o n g A l , t h e m i n d i s t o t h e b r a i n a s t h e p r o g r a m i s t o t h e h a r d w a r e , a n d t h u s w e c a n u n d e r s t a n d t h e m i n d w i t h o u t d o i n g a n y n e u r o p h y s i o l o g y . ( S e a r l e 1 9 8 0 9 , p . 4 2 1 ) S e a r l e c o n t i n u e s , H o w e v e r , e v e n g e t t i n g t h i s c l o s e t o t h e o p e r a t i o n o f t h e b r a i n l s s t i l l n o t s u f f i c i e n t t o p r o d u c e u n d e r s t a n d i n g . T o s e e t h i s , i m a g i n e t h a t I n s t e a d o f a m o n o l i n g u a l m a n I n a r o o m s h u f fl i n g s y m b o l s w e h a v e t h e m a n o p e r a t e a n e l a b o r a t e s e t o f w a t e r p i p e s w i t h v a l v e s c o n n e c t i n g t h e m . W h e n t h e m a n r e c e i v e s t h e C h i n e s e s y m b o l s , h e l o o k s u p i n t h e p r o g r a m , w r i t t e n i n E n g l i s h , w h i c h v a l v e s h e h a s t o t u r n o f f a n d o n . E a c h w a t e r c o n n e c t i o n c o r r e s p o n d s t o a s y n a p s e I n t h e C h i n e s e b r a i n , a n d t h e w h o l e s y s t e m i s r i g g e d s o t h a t a f t e r d o i n g a l l t h e r i g h t f i r i n g s , t h a t i s a f t e r t u r n i n g o n a l l t h e r i g h t f a u c e t s , t h e C h i n e s e a n s w e r p o p s o u t a t t h e o u t p u t e n d o f t h e s e r i e s o f p i p e s . N o w w h e r e i s t h e u n d e r s t a n d i n g I n t h i s s y s t e m ? . . . t h e m a n c e r t a i n l y d o e s n ’ t u n d e r s t a n d C h i n e s e , a n d n e i t h e r d o t h e w a t e r p i p e s , a n d i f w e a r e t e m p t e d 1 8 8 t o a d o p t w h a t I t h i n k i s t h e a b s u r d v i e w t h a t s o m e h o w t h e c o n j u n c t i o n o f m a n a n d w a t e r p i p e s u n d e r s t a n d s , r e m e m b e r t h a t I n p r i n c i p l e t h e m a n c a n i n t e r n a l i z e t h e f o r m a l s t r u c t u r e o f t h e w a t e r p i p e s a n d d o a l l t h e " n e u r o n f i r i n g s " i n h i s i m a g i n a t i o n . T h e p r o b l e m w i t h t h e b r a i n s i m u l a t o r i s t h a t i t i s s i m u l a t i n g t h e w r o n g t h i n g s a b o u t t h e b r a i n . A s l o n g a s i t s i m u l a t e s o n l y t h e f o r m a l s t r u c t u r e o f t h e s e q u e n c e o f n e u r o n f i r i n g s a t t h e s y n a p s e s i t w o n ’ t h a v e s i m u l a t e d w h a t m a t t e r s a b o u t t h e b r a i n , n a m e l y i t s c a u s a l p r o p e r t i e s , i t s a b i l i t y t o p r o d u c e I n t e n t i o n a l s t a t e s . A n d t h a t t h e f o r m a l p r o p e r t i e s a r e n o t s u f f i c i e n t f o r t h e c a u s a l p r o p e r t i e s I s s h o w n b y t h e w a t e r p i p e e x a m p l e : w e c a n h a v e a l l t h e f o r m a l p r o p e r t i e s c a r v e d o f f f r o m t h e r e l e v a n t n e u r o b i o l o g l c a l p r o p e r t i e s . ( S e a r l e 1 9 8 0 9 , p . 4 2 1 ) D e s p i t e i t s p o p u l a r i t y , i b e l i e v e t h i s r e p l y a n d S e a r l e ’ s r e j o i n d e r m e r i t o n l y t h e b r i e f e s t c o m m e n t . T h e p o p u l a r i t y o f t h i s r e p l y , i b e l i e v e , s t e m s f r o m t h e d i f f i c u l t y , f o r f u n c t i o n a l - i s m , o f s p e c i f y i n g w h a t p r o c e d u r e s f o r p r o d u c i n g p r o p e r o u t p u t f o r a g i v e n i n p u t c o m p r i s e t h e r i g h t o n e s . N o w - s i n c e w e t h i n k - - i t s e e m s o b v i o u s t h a t w h a t e v e r m e a n s w e ( h u m a n s ) u s e a r e r i g h t o n e s : s o , t h e p r o p o n e n t o f t h e b r a i n - s i m u l a t o r r e a s o n s , i t s e e m s , t h a t i f c o m p u t e r s w e r e p r o g r a m m e d t o p r o d u c e t h e r e q u i s i t e p e r f o r m a n c e s o r c o m p e t e n c i e s i n o u r w a y ( b y t h e p r o c e d u r e s w e u s e ) , s u r e l y t h i s w o u l d s u f f i c e f o r t h e i r h a v i n g t h e s a m e m e n t a l p r o p e r t i e s m a n i f e s t e d b y s u c h p e r f o r m a n c e s o r c o m p e t e n c i e s o n o u r p a r t . O n e r e a s o n t h i s m e r i t s o n l y s h o r t c o n s i d e r a t i o n i s t h a t i t ’ s n o t e n o u g h - s i n c e s p e c i f y i n g t h e r i g h t p r o c e d u r e s i s r e q u i r e d ( o n p a i n o f b e h a v i o r i s m ) t o p r o v i d e g r o u n d s f o r d e n y i n g c e r t a i n s u b j e c t s ’ s T u r i n g t e s t p a s s i n g p e r f o r m a n c e s ( t h o s e p r o d u c e d b y t h e w r o n g m e t h o d s ) e v i d e n c e t h e s a m e m e n t a l p r o p e r t i e s i n t h e s e s u b j e c t s t h a t c o m p a r a b l e p e r f o r - m a n c e s o r c o m p e t e n c i e s w o u l d e v i d e n c e i n u s - t o u r g e t h a t w h a t e v e r p r o c e d u r e s w e u s e m u s t b e s u f f i c i e n t . W h a t n e e d s t o b e c l a i m e d i n t h i s c o n n e c t i o n i s t h a t b r a i n - s i m u l a t i o n ( p r o d u c i n g a p p r o p r i a t e o u t p u t b y t h e s a m e p r o c e d u r e s w e o r o u r b r a i n s u s e ) i s n e c e s s a r y : a n d t h e o b j e c t i o n t o t h i s ( c a n v a s s e d i n C h a p t e r O n e ) 1 8 9 i s t h a t - - t h o u g h t h e c h a u v i n i s m h e r e i s o f m a n n e r n o t ( a s w i t h t h e m i n d - b r a i n i d e n t i t y t h e o r y ) o f m a t t e r - - t h i s p r o c e d u r e ! c h a u v i n i s m i s s t i l l o b j e c t i o n a b i y c h a u v i n i s t i c . T h o u g h b r a i n s i m u l a t i o n m a y b e a n a p p r o p r i a t e r e s e a r c h s t r a t e g y f o r d i s c o v e r i n g a w a y t o p r o d u c e t h e b e h a v i o r a l c o m p e t e n c i e s t h a t e v i d e n c e o r ( f o r t h e b e h a v i o r i s t ) c o m p r i s e i n t e l l i g e n c e n o t h e o r e t i c i m p o r t a n c e c a n a t t a c h ( o n p a i n o f c h a u v i n i s m ) t o a w a y ’ s b e i n g o u r w a y . F u r t h e r m o r e , w h i l e i t i s a p p a r e n t t h a t t h e s a m e p r o g r a m s w i l l s u p p o r t t h e s a m e i n p u t - o u t p u t f u n c t i o n s o r t i m e l e s s b e h a v i o r a l d i s p o s i t i o n s i n c o m p u t e r s a s i n u s , i t i s b y n o m e a n s a p p a r e n t t h a t i m p l e m e n t i n g t h e s a m e p r o c e d u r e s i n m a t e r i a l l y d i f f e r e n t d e v i c e s ( w i t h d i f f e r e n t “ c l o c k s p e e d s " ) w i l l u n d e r w r i t e e i t h e r t h e s a m e r e a l t i m e b e h a v i o r a l d i s p o s i t i o n s ( f o r T u r i n g t e s t p a s s i n g ) i n t h e m a s i n u s , a s t h e b e h a v i o r i s t w o u l d s t r e s s , o r e v e n t h e s a m e " d i s p o s i t i o n a l c a p a c i t y t o c a u s e c o n s c i o u s t h o u g h t s " ( S e a r l e 1 9 9 2 , p . 1 8 8 ) , a s S e a r l e s t r e s s e s . S e a r l e i s r i g h t i n t h i s : i f y o u a c c e p t t h e o r i g i n a l c o u n t e r e x a m p l e o n t h e g r o u n d s h e p r o p o s e s - o n t h e b a s i s o f t h e i n t u i t i o n t h a t S e a r l e i n t h e r o o m w o u l d n o t b e h a v i n g t h e r i g h t c o n s c i o u s e x p e r i e n c e s o f u n d e r s t a n d i n g o r " g i v i n g o f f " t h e r i g h t q u a l i a f o r u n d e r s t a n d i n g - - a d d i n g t h e p r o v i s o t h a t t h e p r o g r a m h e i s i m p l e m e n t i n g i s a b r a i n s i m u l a t i o n p r o g r a m s e e m s n o t t o h a v e t h e l e a s t t e n d e n c y t o s h a k e t h a t i n t u i t i o n . ” 1 2 . I t h a s b e e n n o t e d ( e . g . , b y R a p a p o r t 1 9 9 3 , B l o c k 1 9 7 8 , W e i s s 1 9 9 0 ) t h a t f u n c t i o n a l i s m s e e m s i l l s u i t e d t o a c c o u n t f o r t h e " q u a l i t a t i v e " s i d e o f t h e m e n t a l . T h e r e i s n o r e a s o n t o s u p p o s e t h a t q u a l i a d o v a r y a s a f u n c t i o n o f p r o g r a m m i n g a n d s o m e r e a s o n - - e . g . , I n v e r t e d q u a l i a " e x p e r i m e n t s " - - f o r s u p p o s i n g t h e y d o n ’ t . 1 9 0 6 . 4 T h e C o m b i n a t i o n R e p l y T h e “ c o m b i n a t i o n r e p l y , " a s S e a r l e d e s c r i b e s i t , i s a s f o l l o w s : " W h i l e e a c h o f t h e p r e v i o u s t h r e e r e p l i e s m i g h t n o t b e c o m p l e t e l y c o n v i n c i n g b y i t s e l f a s a r e f u t a t i o n o f t h e C h i n e s e r o o m c o u n t e r e x a m p l e , i f y o u t a k e a l l t h r e e t o g e t h e r t h e y a r e c o l l e c t i v e l y m u c h m o r e c o n v i n c i n g a n d e v e n d e c i s i v e . i m a g i n e a r o b o t w i t h a b r a i n - s h a p e d c o m p u t e r l o d g e d i n I t s c r a n i a l c a v i t y , I m a g i n e t h e c o m p u t e r p r o g r a m m e d w i t h a l l t h e s y n a p s e s o f a h u m a n b r a i n , i m a g i n e t h e w h o l e b e h a v i o r o f t h e r o b o t i s i n d i s t i n g u i s h a b l e f r o m h u m a n b e h a v i o u r , a n d n o w t h i n k o f t h e w h o l e t h i n g a s a u n i f i e d s y s t e m a n d n o t j u s t a s a c o m p u t e r w i t h i n p u t s a n d o u t p u t s . S u r e l y i n s u c h a c a s e w e w o u l d h a v e t o a s c r i b e i n t e n t i o n a l i t y t o t h e s y s t e m . " ( S e a r l e 1 9 8 0 9 , p . 4 2 1 ) S e a r l e o f f e r s t h i s r e j o i n d e r : l e n t i r e l y a g r e e t h a t i n s u c h a c a s e w e s h o u l d f i n d i t r a t i o n a l a n d i n d e e d i r r e s i s t i b l e t o a c c e p t t h e h y p o t h e s i s t h a t t h e r o b o t h a d i n t e n t i o n a l i t y , a s l o n g a s w e k n e w n o t h i n g m o r e a b o u t i t . i n d e e d , b e s i d e s a p p e a r a n c e a n d b e h a v i o r , t h e o t h e r e l e m e n t s o f t h e c o m b i n a t i o n a r e r e a l l y i r r e l e v a n t . i f w e c o u l d b u i l d a r o b o t w h o s e b e h a v i o r w a s i n d i s t i n g u i s h a b l e o v e r a l a r g e r a n g e f r o m h u m a n b e h a v i o r , w e w o u l d a t t r i b u t e i n t e n t i o n a l i t y t o i t p e n d i n g s o m e r e a s o n n o t t o d o s o . W e w o u l d n ’ t n e e d t o k n o w i n a d v a n c e t h a t I t s c o m p u t e r b r a i n w a s a f o r m a l a n a l o g u e o f t h e h u m a n b r a i n . B u t I r e a l l y d o n ’ t s e e t h a t t h i s i s a n y h e l p t o c l a i m s o f s t r o n g A l ; a n d h e r e ’ s w h y : A c c o r d i n g t o s t r o n g A l , i n s t a n t i a t i n g a f o r m a l p r o g r a m w i t h t h e r i g h t i n p u t a n d o u t p u t I s a s u f f i c i e n t c o n d i t i o n o f , i n d e e d i s c o n s t i t u t i v e o f , i n t e n t i o n a l i t y . A s N e w e l l ( 1 9 7 9 ) p u t s I t , t h e e s s e n c e o f t h e m e n t a l i s t h e o p e r a t i o n o f 9 p h y s i c a l s y m b o l s y s t e m . B u t t h e a t t r i b u t i o n s o f I n t e n t i o n a l i t y t h a t w e m a k e t o t h e r o b o t i n t h i s e x a m p l e h a v e n o t h i n g t o d o w i t h f o r m a l p r o g r a m s . T h e y a r e s i m p l y b a s e d o n t h e a s s u m p t i o n t h a t I f t h e r o b o t l o o k s a n d b e h a v e s s u f f i c i e n t l y l i k e u s , t h e n w e w o u l d s u p p o s e , u n t i l p r o v e n o t h e r w i s e , t h a t i t m u s t h a v e m e n t a l s t a t e s l i k e o u r s t h a t c a u s e a n d a r e e x p r e s s e d b y i t s b e h a v i o r a n d m u s t h a v e a n i n n e r m e c h a n i s m c a p a b l e o f p r o d u c i n g s u c h m e n t a l s t a t e s . I f w e k n e w i n d e p e n d e n t l y h o w t o a c c o u n t f o r i t s b e h a v i o r w i t h o u t s u c h a s s u m p t i o n s w e w o u l d n o t a t t r i b u t e i n t e n t i o n a l i t y t o i t , e s p e c i a l l y I f w e k n e w I t h a d a f o r m a l p r o g r a m . A n d t h i s I s p r e c i s e l y t h e p o i n t o f m y e a r l i e r r e p l y t o o b j e c fl o n i i [ t h e r o b o t r e p l y ] . ( S e a r l e 1 9 8 0 9 , p . 4 2 1 ) T h o u g h t h e r e i s m u c h h e r e , i n S e a r l e ‘ s r e j o i n d e r , t h a t i s o b j e c t i o n a b l e - s o m e , e . g . , t h e s u g g e s t i o n t h a t p r o g r a m m i n g e x c l u d e s i n t e n t i o n a l i t y o r s e m a n t i c s , t o w h i c h I h a v e a l r e a d y o b j e c t e d - l b e l i e v e h e r e , t o o , h i s r e j o i n d e r i s , i n i t s m a i n o u t fi n e s , c o r r e c t . i f y o u a c c e p t t h e o r i g i n a l c o u n t e r e x a m p l e o n t h e g r o u n d s S e a r l e 1 9 1 p r o p o s e s - o n t h e b a s i s o f t h e i n t u i t i o n t h a t S e a r l e i n t h e r o o m w o u l d n o t b e h a v i n g t h e r i g h t c o n s c i o u s e x p e r i e n c e s o f u n d e r s t a n d i n g o r " g i v i n g o f f “ t h e r i g h t q u a l i a f o r u n d e r s t a n d i n g - a d d i n g a l l t h e p r o v i s o s e n v i s a g e d b y t h e v a r i o u s r e p l i e s n o m o r e s e r v e s t o c o u n t e r a c t t h i s i n t u i t i o n t h a n a d d i n g e a c h s e p a r a t e l y d i d . i n d e e d , s i n c e e a c h r e p l y t a k e n s e p a r a t e l y s e e m s n o t a t a l l t o c o u n t e r a c t t h i s i n i t i a l “ i n t u i t i o n “ - z e r o t i m e s t h r e e b e i n g s t i l l z e r o - i t i s h a r d t o s e e h o w t a k i n g t h e m a l l t o g e t h e r w o u l d . F i n a l l y , i t s e e m s t h a t a l l t h e s e r e p l i e s - s y s t e m s , r o b o t , a n d b r a i n - s i m u l a t o r - - a r e " o d d " f o r a p r o p o n e n t o f f u n c t i o n a l i s m ( o r i n d e e d f o r a n y n o n d u a l i s t ) t o m a k e b e c a u s e t h e y a l l s e e m t o a c c e p t S e a r l e ’ s i n v i t a t i o n t o " r e g r e s s t o t h e C a r t e s i a n v a n t a g e p o i n t " ( D e n n e t t 1 9 8 7 b , p . 3 3 6 ) b y a l l o w i n g S e a r l e ’ s i n t r o s p e c t i v e u n a w a r e n e s s o r c o n s c i o u s d i s a v o w a l o r u n d e r s t a n d i n g t o o v e r r i d e o v e r w h e l m i n g “ e x t a m a l " e v i d e n c e o f u n d e r s t a n d i n g i n t h e i n i t i a l s c e n a r i o . T h i s - c o n t r a r y t o t h e s p i r i t i f n o t t h e l a t t e r o f f u n c t i o n a l i s m - a c c e p t s t h e d u a l i s t i c i d e a t h a t w h a t ’ s r e q u i r e d f o r t h o u g h t i n a d d i t i o n t o i n t e l l i g e n t s e e m i n g ( o r T u r i n g t e s t p a s s i n g ) b e h a v i o r i s ( t h e r i g h t ) c o n s c i o u s e x p e r i e n c e s . ” O n c e t h e c o n s c i o u s n e s s c r i t e r i o n i s t a c i t l y a c c e p t e d i n c r e d i t i n g S e a r l e ’ s v e r d i c t c o n c e r n i n g h i s l a c k o f u n d e r s t a n d i n g o r t h e m e a n i n g l e s s n e s s o f t h e " s y m b o l “ p r o c e s s i n g h e d o e s i n t h e i n i t i a l s c e n a r i o , o n e b e a r s t h e b u r d e n o f g i v i n g r e a s o n s f o r t h i n k i n g t h a t f u l f i l l m e n t o f w h a t e v e r f u r t h e r c r i t e r i o n o n e p r o p o s e s g u a r a n t e e s o r ( a t l e a s t ) i n c r e a s e s t h e 1 3 . D u a l i s m a n d f u n c t i o n a l i s m , a s P u t n a m ( 1 9 6 7 ) p o i n t s o u t , a r e c o m p a t i b l e ; s o I t I s m e r e l y c o n t r a r y t o t h e w o u l d - b e p h y s i c a l i s t i c s p i r i t o r f u n c t i o n a l i s m - n o t t o i t s l e t t e r - - t o a l l o w ( a s w o u l d - b e f u n c t i o n a l i s t p r o p o n e n t s o f a l l t h e s e v a r i o u s r e p l i e s s e e m t o ) t h a t I n a d d i t i o n t o T u r i n g t e s t p a s s i n g b e h a v i o r a l c a p a c i t y b o t h t h e r i g h t p r o g r a m m i n g a n d t h e r i g h t c o n s c i o u s e x p e r i e n c e s a r e r e q u i r e d f o r g e n u i n e m e n t a t i o n . 1 9 2 l i k e l i h o o d o f t h e r i g h t c o n s c i o u s e x p e r i e n c e s b e i n g f o r t h c o m i n g o r t h e r i g h t q u a l i a b e i n g g i v e n o f f . T h e b u r d e n i s t o p r o v i d e s o m e t h e o r e t i c a l w a r r a n t f o r s u p p o s i n g t h a t S I R ( t h e r o o m - S e a r l e s y s t e m ) i s “ g i v i n g o f f " t h e r i g h t q u a l i a o r h a v i n g t h e r i g h t c o n s c i o u s e x p e r i e n c e s ( o n t h e s y s t e m s r e p l y ) , o r t h a t S e a r l e w o u l d b e t h e h a v i n g t h e r i g h t c o n s c i o u s e x p e r i e n c e s i f o n l y h e w e r e f o l l o w i n g a m o r e b r a i n l i k e p r o g r a m t h a n C S A M ( o n t h e b r a i n s i m u l a t o r r e p l y ) , o r i f o n l y h e w e r e e n s c o n c e d i n a r o b o t g e t t i n g i n p u t f r o m t h e r o b o t s t r a n s d u c e r s a n d s e n d i n g o u t p u t t o t h e r o b o t ’ s e f f e c t o r s ( t h e r o b o t r e p l y ) , o r t h a t S I R ( r a t h e r t h a n S e a r l e ) w o u l d b e h a v i n g t h e r i g h t c o n s c i o u s e x p e r i e n c e s i f o n l y t h e s e f u r t h e r r o b o t i c o r b r a i n s i m u l a t i o n c o n d i t i o n s w e r e m e t a l s o ( t h e c o m b i n a t i o n r e p l y ) . T h i s b u r d e n i s i n s u p p o r t a b l e f o r r e a s o n s h a v i n g l i t t l e t o d o w i t h t h e n e t w o r k t h e o r y o r t h e b r a i n s i m u l a t i o n a d d e n d u m o r t h e c a u s a l a d d e n d u m b u t f o r r e a s o n s h a v i n g m u c h t o d o , r a t h e r , w i t h t h e w e l l - k n o w n m e t h o d o l o g i c a l v e x e d n e s s a n d e m p i r i c a l v a g a r y o f a p p e a l s t o c o n s c i o u s n e s s . 6 . 5 T h e O t h e r M i n d s R e p l y T h e o t h e r m i n d s r e p l y a n d t h e r e l a t e d " m a n y m a n s i o n r e p l y " ( t o b e c o n s i d e r e d n e x t ) a r e c h a r a c t e r i z e d b y S e a r l e a s " t w o o t h e r r e s p o n s e s t o m y e x a m p l e t h a t c o m e u p f r e q u e n t l y ( a n d s o a r e w o r t h d i s c u s s i n g ) b u t r e a l l y m i s s t h e p o i n t " ( S e a r l e 1 9 8 0 9 , p . 4 2 1 ) . T h e o t h e r m i n d s r e p l y . a s S e a r l e s t a t e s i t , i s a s f o l l o w s : " H o w d o y o u k n o w t h a t o t h e r p e o p l e u n d e r s t a n d C h i n e s e o r a n y t h i n g e l s e ? O n l y b y t h e i r b e h a v i o r . N o w t h e c o m p u t e r c a n p a s s t h e b e h a v i o r a l t e s t s a s w e l l a s t h e y c a n ( I n p r i n c i p l e ) , s o I f y o u a r e g o i n g t o a t t r i b u t e c o g n i t i o n t o o t h e r p e o p l e y o u m u s t i n p r i n c i p l e a l s o a t t r i b u t e i t t o c o m p u t e r s . " ( S e a r l e 1 9 8 0 9 , p . 4 2 1 ) 1 9 3 S e a r l e ’ s r e j o i n d e r ( i n f u l l ! ) i s t h e f o l l o w i n g : T h i s o b j e c t i o n r e a l l y i s o n l y w o r t h a s h o r t r e p l y . T h e p r o b l e m i n t h i s d i s c u s s i o n i s n o t a b o u t h o w I k n o w t h a t o t h e r p e o p l e h a v e c o g n i t i v e s t a t e s , b u t r a t h e r w h a t i t i s t h a t i a m a t t r i b u t i n g t o t h e m w h e n I a t t r i b u t e c o g n i t i v e s t a t e s t o t h e m . T h e t h r u s t o f t h e a r g u m e n t i s t h a t i t c o u l d n ’ t b e j u s t c o m p u t a t i o n a l p r o c e s s e s a n d t h e i r o u t p u t b e c a u s e t h e c o m p u t a t i o n a l p r o c e s s e s a n d t h e i r o u t p u t c a n e x i s t w i t h o u t t h e c o g n i t i v e s t a t e . I t I s n o a n s w e r t o t h i s a r g u m e n t t o f e i g n a n e s t h e s i a . I n " c o g n i t i v e s c i e n c e s " o n e p r e s u p p o s e s t h e r e a l i t y a n d k n o w a b i l i t y o f t h e m e n t a l i n t h e s a m e w a y t h a t i n p h y s i c a l s c i e n c e s o n e h a s t o p r e s u p p o s e t h e r e a l i t y a n d k n o w a b i l i t y o f p h y s i c a l o b j e c t s . ( S e a r l e 1 9 8 0 9 , p . 4 2 1 - 4 2 2 ) T h i s r e j o i n d e r m i s s e s t h e p o i n t a n d i s r e a l l y o n l y w o r t h a s h o r t r e p l y . T h e C h i n e s e r o o m e x a m p l e o n l y w o r k s - o n l y c o u n t e r i n s t a n c e s f u n c t i o n a l i s m a n d ( p e r h a p s ) c l a i m s o f A I , a s i t h a s b e e n t h e b u r d e n o f m y p r e c e d i n g d i s c u s s i o n t o s h o w - - g i v e n t h e C a r t e s i a n a s s u m p t i o n s ( 1 ) t h a t m e a n i n g o r i n t e n t i o n a l i t y e i t h e r i s a m o d e o r m o d i f i c a t i o n o f c o n s c i o u s n e s s ( a s D e s c a r t e s w o u l d h a v e p u t i t ) o r p r e s u p p o s e s c o n s c i o u s n e s s a n d ( 2 ) t h a t c o n s c i o u s n e s s ( h e n c e , g i v e n t h e p r e c e d i n g a s s u m p t i o n , i n t e n t i o n a l i t y ) c a n b e d i r e c t l y d i s c e r n e d o n l y f r o m " t h e f i r s t p e r s o n p o i n t o f v i e w " ( S e a r l e 1 9 8 0 b , p . 4 5 1 ) o r t h e " p o i n t o f v i e w o f t h e a g e n t " ( S e a r l e 1 9 8 0 9 , p . 4 2 0 ) . O n t h e s e a s s u m p t i o n s , i t s e e m s t h e o n l y w a y t o t e l l i f a n o t h e r a g e n t o r b o d y r e a l l y i s c o n s c i o u s ( a n d r e a l l y h a s i n t e n t i o n a l i t y ) a n d i s n o t j u s t a c t i n g a s i f c o n s c i o u s - h a v i n g o n l y " a s i f f o r m s o f i n t e n t i o n a l i t y " ( S e a r l e 1 9 8 9 b , p . 1 9 7 ) l i c e n s i n g o n l y " m e t a p h o r i c a l a s c r i p t i o n s " ( S e a r l e 1 9 8 4 b , p . 5 ) - - i s " b y b e i n g t h e o t h e r b o d y “ ( H a r n a d 1 9 9 1 , p . 4 2 a b s t r a c t ) . S i n c e S e a r l e ’ s p u t a t i v e c o u n t e r e x a m p l e t o f u n c t i o n a l i s m a n d ( p e r h a p s ) A l d e p e n d s o n t h e s e t w o a s s u m p t i o n s , a n d t h e s e a s s u m p t i o n s g i v e r i s e t o t h e c l a s s i c a l C a r t e s i a n o t h e r m i n d s p r o b l e m , S e a r l e i s o b l i g e d t o a d d r e s s t h i s d i f f i c u l t y i f h e e x p e c t s u s t o c r e d i t h i s " e x p e r i m e n t . " T h e i n a d e q u a c y o f S e a r l e ’ s r e j o i n d e r t o t h e " o t h e r m i n d s r e p i y “ 1 9 4 i s e s p e c i a l l y d a m n i n g s i n c e h i s “ e x p e r i m e n t " ( C R E ) i s a v a r i a t i o n o n T u r i n g ’ s ( 1 9 5 0 ) " i m i t a t i o n g a m e " t e s t , w h i c h i n t u r n a d a p t s D e s c a r t e s ’ s ( 1 6 3 7 ) " l a n g u a g e t e s t " : D e s c a r t e s p r o p o s e s t h i s t e s t e x p r e s s l y t o a c c o u n t f o r t h e p o s s i b i l i t y o f k n o w l e d g e o f o t h e r m i n d s g i v e n t h e s e v e r y a s s u m p t i o n s o f p r i v i l e g e d a c c e s s a n d o n t o l o g i c a l s u b j e c t i v i t y o n w h i c h t h e w o u l d - b e f o r c e o f C R E d e p e n d s . D e s c a r t e s i s a l m o s t u n i v e r s a l l y a c k n o w l e d g e d t o h a v e o t h e r m i n d s p r o b l e m s d e s p i t e h i s a l l o w a n c e t h a t t h o u g h t i s n e c e s s a r y f o r c r e a t i v e l y p r o d u c t i v e b e h a v i o r ( e . g . , c o n v e r s a t i o n ) a n d c o n s e q u e n t l y t h a t s u c h b e h a v i o r s u f f i c e s t o e v i d e n c e t h o u g h t . S i n c e S e a r l e d e n i e s t h e c a u s a l n e c e s s i t y o f t h o u g h t f o r c r e a t i v e l y p r o d u c t i v e b e h a v i o r a n d h e n c e ( i t s e e m s ) t h e e m p i r i c a l a d e q u a c y o f s u c h b e h a v i o r t o e v i d e n c e t h o u g h t ( b y p o s i t i n g " a s i t " t h o u g h t o r " a s i f i n t e n t i o n a l i t y " a s a n a l t e r n a t i v e e x p l a n a t i o n o f s u c h b e h a v i o r ) S e a r l e w o u l d s e e m t o h a v e o t h e r m i n d s p r o b l e m s i n s p a d e s . I n t r u t h , t h e o t h e r m i n d s p r o b l e m i s b o t h a b o u t h o w I k n o w t h a t o t h e r p e o p l e h a v e c o g n i t i v e s t a t e s a n d a b o u t w h a t i t i s t h a t I a m a t t r i b u t i n g t o t h e m w h e n i a t t r i b u t e c o g n i t i v e s t a t e s t o t h e m . T h e t h r u s t o f t h e o b j e c t i o n i s t h a t i t c o u l d n ’ t b e c o n s c i o u s e x p e r i e n c e s i a m a t t r i b u t i n g b e c a u s e , i f i t w e r e , o n e c o u l d n e v e r k n o w - - a s t h e o t h e r m i n d s o b j e c t i o n a s s u m e s o n e d o e s k n o w - t h a t o t h e r p e o p l e h a v e m i n d s . T h e t r o u b l e i s t h a t f o r a n y c a n d i d a t e t h i n k e r o t h e r t h a n o n e s e l f , a l l p o s s i b l e e m p i r i c a l e v i d e n c e ( a n d a n y t h e o r y o f b r a i n f u n c t i o n t h a t e x p l a i n s I t ) i s j u s t a s c o m p a t i b l e w i t h t h e a s s u m p t i o n t h a t a c a n d i d a t e i s m e r e l y b e h a v i n g e x a c t l y a s I f i t h a d a m i n d [ = c o n s c i o u s n e s s ] ( b u t d o e s n ’ t ) a s w i t h t h e a s s u m p t i o n t h a t 9 c a n d i d a t e r e a l l y h a s a m i n d . S o " h a v i n g a m i n d " c a n ’ t d o a n y I n d e p e n - d e n t t h e o r e t i c a l w o r k f o r u s [ c f . F o d o r ( 1 9 8 0 ) ] I n t h e w a y t h a t p h y s i c s ’ u n o b s e r - v a b l e s d o . H e n c e , c o n s c i o u s n e s s c a n b e a f f i r m e d o r d e n i e d [ i n o t h e r s ] o n t h e b a s i s o f p r e c i s e l y t h e s a m e e v i d e n c e [ H a r n a d ( 1 9 8 2 , 1 9 8 9 b ) ] . ( H a r n a d 1 9 9 1 , p - 4 6 ) 1 9 5 T h e t r o u b l e w i t h C R E ’ s r e l i a n c e o n a c o n s c i o u s n e s s c r i t e r i o n o f u n d e r s t a n d i n g i s t h a t i t c a n ’ t b e s u b s t a n t i a t e d j u s t h o w f a r ( b e y o n d m y s e l f ) t h i s m y s t e r i o u s " i n n e r l i g h t " o f c o n s c i o u s n e s s e x t e n d s . T h i s o t h e r m i n d s r e p l y d o e s n o t , a s S e a r l e ( 1 9 8 0 , p . 4 2 2 ) p a r s , " f e i g n a n e s t h e s i a " : i t o n l y r e q u i r e s c r i t i c s o f A l t o c o n s i s t e n t l y a p p l y t h e c r i t e r i o n t h e y p r o p o s e t o d i s q u a l i f y c o m p u t e r s ’ s c l a i m s t o t h i n k . W h a t t h e o t h e r m i n d s r e p l y s a y s i s t h a t i f c o n s c i o u s n e s s w e r e o u r b a s i s f o r d e c i d i n g w h e t h e r a n y i n t e l l i g e n t s e e m i n g t h i n g w a s r e a l l y a t h i n k i n g s u b p c t , t h e n o n e s h o u l d h a v e s k e p t i c a l d o u b t s a b o u t o t h e r m i n d s . S o , i f w e d o n ’ t , a n d s h o u l d n ‘ t , s e r i o u s l y e n t e r t a i n s u c h d o u b t s , t h i s s e e m s t o s h o w t h a t w e d o n ’ t ( o r s h o u l d n ’ t ) a p p e a l t o c o n s c i o u s n e s s t o d e c i d e w h a t i s a n d i s n ' t t h i n k i n g . I t i s n o a n s w e r t o t h i s l o n g s t a n d i n g t r o u b l e w i t h C a r t e s i a n i s m t o f e i g n a m n e s i a . “ 6 . 6 M a n y M a n s i o n s T h e “ m a n y m a n s i o n s r e p l y " a s S e a r l e f o r m u l a t e s i t , i s t h i s : " Y o u r w h o l e a r g u m e n t p r e s u p p o s e s t h a t A l i s o n l y a b o u t a n a l o g u e a n d d i g i t a l c o m p u t e r s . B u t t h a t j u s t h a p p e n s t o b e t h e p r e s e n t s t a t e o f t e c h n o l o g y . W h a t e v e r t h e s e c a u s a l p r o c e s s e s a r e t h a t y o u s a y a r e e s s e n t i a l f o r I n t e n t i o n a l i t y ( a s s u m i n g y o u a r e r i g h t ) , e v e n t u a l l y w e w i l l b e a b l e t o b u i l d d e v i c e s t h a t h a v e t h o s e c a u s a l p r o c e s s e s , a n d t h a t w i l l b e a r t i f i c i a l i n t e l l i g e n c e . S o y o u r a r g u m e n t s a r e i n n o w a y d i r e c t e d a t t h e a b i l i t y o f a r t i f i c i a l i n t e l l i g e n c e t o p r o d u c e a n d e x p l a i n c o g n i t i o n " ( S e a r l e 1 9 8 0 9 , p . 4 2 2 ) S e a r l e r e s p o n d s a s f o l l o w s : I r e a l l y h a v e n o o b j e c t i o n t o t h i s r e p l y s a v e t o s a y t h a t I t i n e f f e c t t r i v i a l i z e s t h e p r o j e c t o f S t r o n g A l b y r e d e f i n i n g i t a s w h a t e v e r a r t i f i c i a l l y p r o d u c e s a n d e x p l a i n s c o g n i t i o n . T h e i n t e r e s t o f t h e o r i g i n a l c l a i m m a d e o n b e h a l f o f a r t i f i c i a l i n t e l l i g e n c e I s t h a t i t w a s a p r e c i s e , w e l l d e f i n e d t h e s i s : m e n t a l p r o c e s s e s a r e c o m p u t a t i o n a l 1 4 . S e a r l e ’ s m o r e r e c e n t ( 1 9 9 2 ) a t t e m p t t o r e a l l y a d d r e s s t h e o t h e r m i n d s p r o b l e m r a t h e r t h a n m e r e l y s t o n e w a l l l n g , a s h e r e ( 1 9 8 0 9 ) , w i l l b e c o n s i d e r e d b e l o w , i n C h a p t e r 6 . 1 9 6 p r o c e s s e s o v e r f o r m a l l y d e f i n e d e l e m e n t s . I h a v e b e e n c o n c e r n e d t o c h a l l e n g e t h a t t h e s i s . I f t h e c l a i m I s r e d e f i n e d s o t h a t i t i s n o l o n g e r t h a t t h e s i s , m y o b j e c t i o n s n o l o n g e r a p p l y b e c a u s e t h e r e i s n o l o n g e r a t e s t a b l e h y p o t h e s i s f o r t h e m t o a p p l y t o . ( S e a r l e 1 9 8 0 9 , p . 4 2 2 ) O n t h e c o n t r a r y , t h e r e i s a p r e c i s e w e l l d e f i n e d t h e s i s t h a t S e a r l e ’ s C h i n e s e r o o m o b j e c t i o n s t o A ! h a v e b e e n w i d e l y h e l d t o a p p l y t o a n d S e a r l e h a s a d v e r t i s e d t h e s e o b j e c t i o n s a s a p p l y i n g t o : t h e t h e s i s t h a t e x t a n t “ c o m p u t e r s w i t h t h e r i g h t i n p u t s a n d o u t p u t s l i t e r a l l y h a v e t h o u g h t p r o c e s s e s " ( S e a r l e a t a l . 1 9 8 4 , p . 1 4 6 ) w h i c h I c a l l " s t r o n g A ! p r o p e r “ ( S A I P ) a n d S e a r l e c l a i m s h e h a s s h o w n t o b e “ d e m o n s t r a - b l y f a l s e " b y h i s “ p a r a b l e a b o u t t h e C h i n e s e r o o m " ( S e a r l e a t a l . 1 9 8 4 , p . 1 4 6 — 1 4 7 ) . W h a t ’ s m o r e , u n l e s s w e a c c e p t S e a r l e ’ s i n v i t a t i o n t o " r e g r e s s t o t h e C a r t e s i a n v a n t a g e p o i n t " ( D e n n e t t 1 9 8 7 b , p . 3 3 6 ) b y i d e n t i f y i n g " t h o u g h t p r o c e s s e s " w i t h s t r e a m s o f c o n s c i o u s e x p e r i e n c e s w e " e a c h k n o w e x a c t l y w h a t i t ’ s l i k e t o h a v e " ( H a r n a d 1 9 9 1 , p . 4 4 ) b u t c o u l d o n l y k n o w " w h e t h e r a n y b o d y o t h e r t h a n o u r o w n h a s " b y " b e i n g t h e o t h e r b o d y " ( H a r n a d 1 9 9 1 , p . 4 3 a b s t r a c t ) - w h i c h w o u l d r e n d e r t h e h y p o t h e s i s u n t e s t a b l e - t h e r e i s n o r e a s o n t o t h i n k S A I P n o t t o b e " a t e s t a b l e h y p o t h e s i s " ( S e a r l e 1 9 8 0 9 , p . 4 2 2 ) . S e a r l e h a s r e c e n t l y s a i d , " T h e e p i s t e m o l o g i c a l a n d m e t h o d o l o g i c a l q u e s t i o n s a r e r e l a t i v e l y u n i n t e r e s t i n g b e c a u s e t h e y a l w a y s h a v e t h e s a m e a n s w e r : U s e y o u r i n g e n u i t y . U s e a n y w e a p o n a t h a n d , a n d s t i c k w i t h a n y w e a p o n t h a t w o r k s " ( 1 9 9 0 9 , p . 6 4 0 ) . G i v e n h i s p r o p o s e d t h e o r e t i c a l i d e n t i f i c a t i o n o f m i n d o r t h o u g h t w i t h c o n s c i o u s n e s s , t h i s , o f c o u r s e , i s n o a n s w e r t o S e a r l e ' s p r o b l e m o f p r o v i d i n g s o m e t o l e r a b l y p r e c i s e w a y o f m e a s u r i n g ( o r a t l e a s t d e t e c t i n g ) t h e p r e s e n c e o r a b s e n c e o f t h o u g h t i n o t h e r s i n d e p e n d e n t l y o f i t s b e h a v i o r a l e f f e c t s 1 9 7 s i n c e b e h a v i o r a l e v i d e n c e c a n ’ t d e c i d e ( o n S e a r l e ’ s v i e w s ) b e t w e e n t h e h y p o t h e - s e s o f g e n u i n e a n d m e r e a s i f i n t e n t i o n a l i t y o r t h o u g h t . A s H a r n a d p u t s i t , i n t h i s c o n n e c t i o n , " I e i t h e r a c c e p t t h e d i c t a t e s o f m y i n t u i t i o n ( w h i c h i s t h e e q u i v a l e n t o f ‘ I f i t l o o k s l i k e a d u c k , w a l k s l i k e a d u c k , q u a c k s l i k e a d u c k i t ’ s a d u c k ’ ) o r I a d m i t t h a t t h e r e ' s n o w a y I c a n k n o w “ ; a c c e p t t h a t t h e r e ’ s " n o e v i d e n c e f o r m e t h a t a n y o n e e l s e b u t m e h a s a m i n d " ( H a r n a d 1 9 9 1 , p . 4 4 ) . T o " a c c e p t t h e d i c t a t e s o f “ i n t u i t i o n “ a n d " i n g e n u i t y " a s t h e o n l y " w e a p o n a t h a n d “ t h e o n l y " w e a p o n t h a t w o r k s “ - t h o u g h i t i s n o t a n a n s w e r t o w h i c h S e a r l e i s e n t i t l e d - i s , I s u b m i t , t h e c o r r e c t a n s w e r . W h a t i n g e n u i t y s u g g e s t s t o e x p l a i n w h y m y p o c k e t c a l c u l a t o r d i s p l a y s " 4 " ( o r t o p r e d i c t i t w i l l d i s p l a y " 4 " ) a f t e r h a v i n g " 2 “ , " + ‘ " , “ 2 " , “ = " e n t e r e d o n i t s k e y p a d i s t h e h y p o t h e s i s " I t a d d s 2 + 2 a n d g e t s 4 . " T h i s w o r k s . I f w e a l l o w w i t h S e a r l e t h a t w h e t h e r m a c h i n e s h a v e m e n t a l p r o p e r t i e s i s " a n e m p i r i c a l q u e s t i o n " ( S e a r l e 1 9 8 0 9 , p . 4 2 2 ) ; i f w e c r e d i t ( a s w e s h o u l d ) w o r k i n g a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o m a c h i n e s - " D O S r e c o g n i z e s t h e d i r c o m - m a n d , " " D e e p T h o u g h t c o n s i d e r s m o r e c o n t i n u a t i o n s o f p l a y a t g r e a t e r l e n g t h t h a n a n y h u m a n c h e s s p l a y e r , " e t c . - a b o v e s p e c u l a t i v e " h o l i d a y " t a l k ( W i t t g e n s t e i n 1 9 5 8 , 5 3 8 ) a b o u t t h e n a t u r e o f m i n d o r t h e e s s e n c e o f t h i n k i n g ( s u c h a s S e a r l e ’ s ) ; t h e n , I s u b m i t , t h e e m p i r i c a l e v i d e n c e s u g g e s t s t h a t p o c k e t c a l c u l a t o r s , m a c h i n e s r u n n i n g D O S , a n d D e e p T h o u g h t , h a v e t h e m e n t a l p r o p e r t i e s o f c a l c u l a t i n g t h a t t w o p l u s t w o e q u a l f o u r , r e c o g n i z i n g t h e d i r c o m m a n d , a n d c o n s i d e r i n g a l t e r n a t i v e c o n t i n u a t i o n s o f p l a y , r e s p e c t i v e l y . " I i i i i i l l l i l l i i i i l i l l l l i i : ; u . . f t . 1 l . I v u . 0 | . l . x . ! . v . . r « . 9 fi - . . . 3 . s 1 2 u . 5 d ? s 3 . 2 . . 2 0 v ( U fi z . fi z t . ; . y a n k 0 . 1 ’ 3 V ' : F 2 l f - u ‘ . v v . i . . 2 3 1 1 ) . . 5 . 9 { . § F V I . ! g ! I . I O § D P Q $ ‘ O ! i . t 1 fl 2 - u . . O . ‘ c C . a , ~ i Y . i A £ d 1 ‘ 3 . 5 1 3 v ( . o % l 9 ) . : . 3 a u L . . v v . . . : v . _ I : i I I ‘ I » . - , 7 C v : u 1 l ~ a . ’ . t . . . f a r 1 . V i - I ’ ( . t . - 4 l . c f : . 9 ' 2 l O z l “ . v : . r p . v i , l ‘ o . l ' . . i f i . . ‘ v . . . v ' i . r . . r . . n a [ l l 3 l l . i » r o 9 " 3 ) l : t i ) — I t o 2 ! ! . . . . . 2 : ' : ) " 1 . z l . . . : } I z x . I : . . l l . . 1 9 . 3 5 1 . . 5 . i . . . - l l l ‘ i ' b i fl i i ' l m l ' l ' l I T I ' I W E I I I I T I ' U I ‘ I I F I T M I i I ' I T I T M ' i i l ‘ I fi I 3 1 2 9 3 0 0 9 0 3 2 0 6 5 P T L O A D C A E O V A I I T N D R F E I E T N D U E R S _ U N M E B o _ O m t n X o _ o r e o r _ A D m b e T o f v o _ E e r t e h d _ D i a s t c e U h _ d E e u c e k o u t . _ _ f D — T A r o m y o u o r d . r — t e c — E D U j E M S U I s A n A f f i r m a t i v e A c t i o n l E q u a l O p p o r t u n i t y I n s m u l i o n _ — _ . — L i n u x ? H u m a n S t a t e L U n i v e r s i t y , 1 A ‘ s - n u ! S E A R L E ’ S C H I N E S E B O X : T H E C H I N E S E R O O M A R G U M E N T A N D A R T I F I C I A L I N T E L L I G E N C E V o l u m e I I B y L a r r y S t e v e n H a u s e r A D I S S E R T A T I O N S u b m i t t e d t o M i c h i g a n S t a t e U n i v e r s i t y i n p a r t i a l f u l f i l l m e n t o f t h e r e q u i r e m e n t s f o r t h e d e g r e e o f D O C T O R O F P H I L O S O P H Y D e p a r t m e n t o f P h i l o s o p h y 1 9 9 3 C h a p t e r F o u r N A I V E A I A N D “ A S - I F I N T E N T I O N A L I T Y ' W h e n p r o s p e c t i n g f o r i n t u i t i o n s . w e s h o u l d p r e f e r a f i e l d w h i c h i s n o t t o o m u c h t r o d d e n l n t o b o g s b y t r a d i t i o n a l p h i l o s o p h y , f o r i n t h a t c a s e e v e n " o r d i n a r y " l a n g u a g e w i l l o f t e n h a v e b e c o m e i n f e c t e d w i t h t h e j a r g o n o f e x t i n c t t h e o r i e s , a n d o u r o w n p r e j u d i c e s t o o , a s t h e u p h o l d e r s a n d i m b i b e r s o f t h e o r e t i c a l v i e w s , w i l l b e t o o r e a d i l y , a n d o f t e n i n s e n s l b l y , e n g a g e d . ( A u s t i n 1 9 5 7 , p . 3 8 4 ) i b e l i e v e t h a t a t t h e e n d o f t h e c e n t u r y t h e u s e o f w o r d s a n d g e n e r a l e d u c a t e d o p i n i o n w i l l h a v e a l t e r e d s o m u c h t h a t o n e w i l l b e a b l e t o s p e a k o f m a c h i n e s t h i n k i n g w i t h o u t e x p e c t i n g t o b e c o n t r a d i c t e d . ( T u r i n g 1 9 5 0 , p . 4 5 2 ) 1 . F u n c t i o n a l i s m a n d A l i f y o u b a s e y o u r c o n v i c t i o n t h a t c o m p u t e r s c a n t h i n k ( A I P ) o n T u r i n g m a c h i n e f u n c t i o n a l i s t p r i n c i p l e s a n d i f s u c h p r i n c i p l e s a l l o w ( a s t h e y s e e m ) t h a t a l m o s t a n y t h i n g i n s t a n t i a t e s a n y n u m b e r o f p a r t i a l T u r i n g t e s t p a s s i n g p r o g r a m s ( i f i n s t a n t i a t i n g p r o g r a m s i n t h e a n e m i c m a t h e m a t i c a l s e n s e i s s u p p o s e d t o c a u s e t h i n g s t o h a v e , o r c o n s t i t u t e t h e i r h a v i n g , m e n t a l p r o p e r t i e s ) , t h a n t h e " b r u t a l l y s i m p l e " p a r t o f S e a r l e ’ s C h i n e s e r o o m a r g u m e n t s t r i k e s a t e l l i n g b l o w a g a i n s t y o u r a c c e p t a n c e o f N P b y u n d e r m i n i n g i t s f u n c t i o n a l i s t b a s i s . A n d , i n f a c t , f u n c t i o n a l i s m i s b e l e a g u e r e d - - n o t o n l y f r o m S e a r l e ’ s a r g u m e n t , b u t f r o m o t h e r s o u r c e s a s w e l l . B e s i d e s l o n g - s t a n d i n g q u a l i a - b a s e d o b j e c t i o n s ( 6 . 9 . , t h e i n v e r t e d s m c t r u m ) s u c h a s B l o c k ( 1 9 7 8 ) a n d o t h e r s h a v e p r e s s e d , a s i m i l a r c h a r g e o f " p r o v i n c i a l i s m , " o r " a n t h r o p o c e n t r i s m , " t o t h a t w h i c h f u n c t i o n a l i s t c r i t i c i s m l e v e l s a t 1 9 8 1 9 9 t h e m i n d - b r a i n i d e n t i t y t h e o r y , c a n b e l o d g e d a g a i n s t f u n c t i o n a l i s m i t s e l f . M u c h a s f u n c t i o n a l i s m a c c u s e s t h e i d e n t i t y t h e o r y o f s i n n i n g a g a i n s t t h e p r i n c i p l e o f t h e m u l t i p l e r e a l i z a b i l i t y ( M R ) o f t h e s a m e p r o c e d u r e s i n d i f f e r e n t h a r d w a r e , f u n c t i o n a l - i s m - - o r a t l e a s t m a n y f u n c t i o n a l i s t s - - c a n b e a c c u s e d o f s i n n i n g a g a i n s t t h e m u l t i p l e r e a l i z a b i l i t y o f t h e s a m e t a s k b y d i f f e r e n t p r o c e d u r e s . i f t h e f u n c t i o n a l i s t r e q u i r e s s t r o n g ( p r o c e d u r a l ) e q u i v a l e n c e o r s i m i l a r i t y o f c o m p u t a t i o n a l p r o c e s s e s ( o r M a r t i a n w o u l d - b e t h o u g h t p r o c e s s e s ) t o h u m a n t h o u g h t p r o c e s s e s b e f o r e a t t r i b u t i o n o f l i k e m e n t a l p r o p e r t i e s t o o u r s i s w a r r a n t e d - a n d i t ’ s d i f f i c u l t t o s e e h o w e l s e t h e a d d i t i o n a l p r o c e d u r a l c o n s t r a i n t o v e r a n d a b o v e w e a k ( i n p u t - o u t p u t ) e q u i v a l e n c e i s t o b e s p e c i f i e d - - t h i s s e e m s s c a r c e l y l e s s p r e j u d i c i a l t o t h e c o m p u t e r ’ s ( o r M a r t i a n ’ s ) c h a n c e s o f a d m i s s i o n t o t h e c l u b o f t h i n k i n g t h i n g s t h a n t h e i d e n t i t y t h e o r i s t ' s r e q u i r e m e n t o f h a r d w a r e e q u i v a l e n c e . A g a i n , t h o u g h d i f f e r e n t h a r d w a r e s m a y s u p p o r t t h e s a m e p r o c e d u r e s , t h e r e i s n o g u a r a n t e e t h a t t h e y w i l l . i t s e e m s u n l i k e l y , f o r e x a m p l e , t h a t t h e e y e s a n d c o n n e c t e d n e u r o l o g i c a l a p p a r a t u s i n h o u s e f l i e s s u p p o r t a n y t h i n g l i k e h u m a n v i s u a l p r o c e s s i n g a l g o r i t h m s , y e t i t s e e m s n o t u n l i k e l y t h a t h o u s e f l i e s s e e . O n c e a g a i n , a s w i t h S e a r l e ’ s " b r u t a l l y s i m p l e " a r g u m e n t , t h i s " p r o v i n c i a l i s m " - - o r " c h a u v i n i s m ' o r “ s p e c i e s c h a u v i n i s m " ( B l o c k 1 9 7 8 ) - - o b j e c t i o n , p e r h a p s , d o e s n o t s o m u c h m a k e a k n o c k - d o w n a r g u m e n t a g a i n s t f u n c t i o n a l i s m a s i t d e f i n e s a r e s e a r c h i m p e r a t i v e f o r f u n c t i o n a l i s m t o p r o v i d e a c h a r a c t e r i z a t i o n o f p r o c e d u r a l e q u i v a l e n c e s t r o n g e r t h a n w e a k ( i n p u t - o u t p u t ) e q u i v a l e n c e y e t w e a k e n o u g h n o t t o b e o b j e c t i o n a b l y p r o v i n c i a l . N o o n e p r e s e n t l y k n o w s h o w t o d o t h i s . 2 0 0 P e r h a p s t h e m o s t l e t h a l l i n e o f a t t a c k o n T u r i n g m a c h i n e f u n c t i o n a l i s m ( a n d , p e r h a p s , f u n c t i o n a l i s m g e n e r a l l y ) i s t h a t m o u n t e d b y H i l a r y P u t n a m ’ s ( 1 9 7 5 ; 1 9 8 8 , c h a p t . 1 - 5 ) a n d o t h e r " e x t e r n a l i s t " c r i t i c i s m s o f f u n c t i o n a l i s t d o c t r i n e . P u t n a m ’ s d i s a v o w a l o f t h e d o c t r i n e h e , p e r h a p s m o r e t h a n a n y o n e , w a s r e s p o n s i b l e f o r e l a b o r a t i n g - t h e T u r i n g m a c h i n e f u n c t i o n a l i s t h y p o t h e s i s t h a t m i n d s a r e T u r i n g m a c h i n e s ( t h a t m e n t a l s t a t e s a r e T u r i n g m a c h i n e s t a t e s , m e n t a l p r o c e s s e s T u r i n g m a c h i n e o p e r a t i o n s , e t c . ) - - s e e m s e s p e c i a l l y t e l l i n g . M a n y f i n d P u t n a m ’ s r e a s o n s f o r r e p c t i n g t h e d o c t r i n e h e f a t h e r e d t r o u b l i n g , a n d p e r h a p s c o m p e l l i n g . D r a w i n g o n h i s T w i n E a r t h t h o u g h t e x p e r i m e n t a n d r e l a t e d c o u n t e r e x a m p l e s t o s h o w , " W e c a n n o t i n d i v i d u a t e c o n c e p t s a n d b e l i e f s w i t h o u t r e f e r e n c e t o t h e e n v i r o n m e n t ” ( P u t n a m 1 9 8 8 , p . 7 2 ) , P u t n a m c o n c l u d e s z ‘ M e a n i n g s a r e n ’ t " i n t h e h e a d ” . T h e u p s h o t o f o u r d i s c u s s i o n f o r t h e p h i l o s o p h y o f m i n d i s t h a t p r o p o s i t i o n a l a t t i t u d e s , a s p h i l o s o p h e r s c a l l t h e m - - t h a t i s , s u c h t h i n g s a s b e l i e v i n g t h a t s n o w i s w h i t e a n d f e e l i n g t h a t a c e r t a i n c a t i s o n t h e m a t - - a r e n o t " s t a t e s " o f t h e h u m a n b r a i n a n d n e r v o u s s y s t e m c o n s i d e r e d i n i s o l a t i o n f r o m t h e h u m a n a n d n o n h u m a n e n v i r o n m e n t . A f o r t i o r i t h e y a r e n o t ” f u n c t i o n a l s t a t e s ” - - t h a t i s , s t a t e s d e f i n a b l e i n t e r m s o f p a r a m e t e r s w h i c h w o u l d e n t e r i n t o a s o f t w a r e d e s c r i p t i o n o f t h e o r g a n i s m . F u n c t i o n a l i s m , c o n s t r u e d a s t h e t h e s i s t h a t p r o p o s i t i o n a l a t t i t u d e s a r e j u s t c o m p u t a t i o n a l s t a t e s o f t h e b r a i n , c a n n o t b e c o r r e c t . ( P u t n a m 1 9 8 8 . p . 7 2 ) U n l i k e t h e p r o v i n c i a l i s m o b j e c t i o n ( w h i c h m i g h t b e m e t , i f f u n c t i o n a l i s m c a n p r o v i d e a n a d e q u a t e a c c o u n t o f s t r o n g e q u i v a l e n c e ) o r t h e s t r e n g t h e n e d S e a r l e a n “ b r u t a l l y 1 . T h i s t h o u g h t e x p e r i m e n t ( d e s c r i b e d m o r e f u l l y i n S e c t i o n 7 o f t h e n e x t c h a p t e r ) i n v o l v e s i m a g i n i n g a s u b s t a n c e X Y Z t h a t f a l l s f r o m t h e s k i e s a n d f i l l s t h e l a k e s a n d s t r e a m s o f a p l a n e t , T w i n E a r t h , l i k e o u r s i n e v e r y o t h e r r e s p e c t . T w i n E a r t h i a n s c a l l X Y Z “ w a t e r . ” N o w m y t w i n a n d l b o t h s i n c e r e l y a s s e r t , ” W a t e r i s w e t " ( I i n E n g l i s h , h e i n T w i n E n g l i s h ) . E v e n s u p p o s i n g w e a r e i n e x a c t l y s i m i l a r n e u r o l o g i c a l c o n d i t i o n s w h e n w e s a y i t , i w i l l h a v e a s s e r t e d ( a n d b e b e l i e v i n g ) H 2 0 i s w e t , m y t w i n t h a t X Y Z i s w e t . S i n c e i t i s p o s s i b l e f o r u s t o h a v e t h e s e d i f f e r e n t b e l i e f s d e s p i t e b e i n g i n i d e n t i c a l n e u r o l o g i c a l c o n d i t i o n s b e l i e f s “ a i n ’ t i n t h e h e a d “ ( P u t n a m 1 9 7 5 , p . 2 2 7 ) 2 0 1 s i m p l e “ a r g u m e n t 2 ( w h i c h c o u l d b e c o u n t e r e d b y a n a c c o u n t o f p r o g r a m i m p l e m e n t a t i o n t h a t d o e s n ’ t h a v e t h e c o n s e q u e n c e t h a t e v e r y t h i n g i m p l e m e n t s v i r t u a l l y a n y p r o g r a m y o u p l e a s e , i f s u c h w e r e p r o v i d e d ) , P u t n a m ’ s e x t e r n a l i s t c r i t i c i s m - - i f s o u n d - — s e e m s i m m e d i a t e l y f a t a l t o t h e i d e n t i f i c a t i o n o f f o l k p s y c h o l o g i c a l s t a t e s a n d p r o c e s s e s w i t h c o m p u t a t i o n a l s t a t e s a n d p r o c e s s e s . 3 i f t h e t h e s i s o f a r t i f i c i a l i n t e l l i g e n c e ( A I P ) i s a s d e p e n d e n t o n f u n c t i o n a l i s m f o r i t s p l a u s i b i l i t y a n d s u p p o r t a s S e a r l e p r e t e n d s ‘ a n d s o m a n y o f i t s c o g n i t i v e s c i e n t i f i c a d v o c a t e s h a v e o b l i g i n g l y s e e m e d t o s u p p o s e , t h e n A l i s o n t h e r o p e s a l o n g w i t h f u n c t i o n a l i s m ; a n d , n o d o u b t , s u c h t r o u b l e s w i t h f u n c t i o n a l i s m a s j u s t s u r v e y e d u n d e r l i e t h e o d d r e c e n t s p a t e o f b r e a s t - b e a t i n g a b o u t “ b i g p r o b l e m s " ( D o y l e 1 9 8 8 , p . 2 0 ) , " m e t h o d o l o g i c a l m a l a i s e " ( B u n d y a n d O h l s s o n 1 9 9 0 , p . 1 4 3 ) , a n d " K u h n i a n c r i s i s “ ( P a r t r i d g e a n d W i l k s 1 9 9 0 , p . 3 8 3 ) i n A l . i s a y " o d d " b e c a u s e d e s p i t e " t h e n o t s o w e l l k e p t s e c r e t t h a t A l i s i n t e r n a l l y i n a p a r a d i g m a t i c m e s s ” ( C h a n d r a s e k a r a n 1 9 9 0 , p . 1 4 ) , w h i c h h a s g i v e n " o l d h a n d s a t a r t i f i c i a l i n t e l l i g e n c e 2 . A r g u m e n t 3 8 1 A o f C h a p t e r 2 , s u b s e c t i o n 3 . 3 , a b o v e . 3 . H a u s e r 1 9 9 3 c c o n s i d e r s w h e t h e r t h i s a p p e a r a n c e m i g h t b e d e c e i v i n g . l n o t e t h a t P u t n a m a r g u e s f r o m ( A ) I n t e n t i o n a l m e n t a l s t a t e s a r e n ’ t i n t h e h e a d , a n d ( B ) C o m p u t a t i o n a l s t a t e s a r e i n c o m p u t e r s , t o ( C ) M e n t a l s t a t e s a r e n ’ t c o m p u t a t i o n a l s t a t e s . C o n v e r s e l y , S e a r l e ( 1 9 9 0 0 , 2 1 - 3 8 ) a r g u e s f r o m ( A ’ ) i n t e n t i o n a l m e n t a l s t a t e s a r e i n t r i n s i c ( i . e . , I n t h e h e a d ) , a n d ( 8 ’ ) C o m p u t a t i o n a l s t a t e s a r e n ’ t i n t r i n s i c t o ( o r s u p e r v e n i e n t o n l o c a l p h y s i c a l p r o p e r t i e s o f ) c o m p u t e r s , t o ( C ) M e n t a l s t a t e s a r e n ’ t c o m p u t a t i o n a l s t a t e s . T h i s s u g g e s t s i t m a y b e o p e n t o a n o m i n a l f u n c t i o n a l i s m , c o n s o n a n t w i t h P u t n a m ’ s T w i n E a r t h r e s u l t , t o h o l d A , B ’ , a n d n o t C . 4 . l h a v e a l r e a d y n o t e d ( i n C h a p t e r 2 , a b o v e ) h o w S e a r l e ’ s i n s i s t e n c e o n s t y l i n g T u r i n g m a c h i n e f u n c t i o n a l i s m ( F U N ) " S t r o n g A l " m i s l e a d i n g l y c r e a t e s t h e i m p r e s s i o n t h a t h i s C h i n e s e r o o m a r g u m e n t ( C R A ) a g a i n s t F U N s o m e h o w t e l l s a g a i n s t A l P t o b o o t : a s a n a r g u m e n t a g a i n s t A I P , C R A i s a n i g n o r a t i o e l e n c h i . i n t h e s a m e o b f u s c a t o r y v e i n , S e a r l e w r i t e s , “ W h e n , f o r e x a m p l e , s o m e b o d y f e e l s c o m f o r t a b l e w i t h t h e i d e a t h a t a c o m p u t e r w o u l d s u d d e n l y a n d m i r a c u l o u s l y h a v e m e n t a l s t a t e s j u s t i n v i r t u e o f r u n n i n g a c e r t a i n s o r t o f c o m p u t e r p r o g r a m , t h e u n d e r l y i n g a s s u m p t i o n s [ o f F U N / " S t r o n g A l ' ] t h a t m a k e t h i s v i e w s e e m p o s s i b l e a r e s e l d o m s t a t e d e x p l i c i t l y ” ( S e a r l e 1 9 9 2 , p . 9 ) - - a s i f e v e r y o n e ’ s e v e r y d a y m e n t a l a t t r i b u t i o n s t o m a c h i n e s w e r e s o m e h o w u n d e r w r i t t e n b y t h e i r ( c o v e r t ? ) a l l e g i a n c e t o t h i s h i g h - p o w e r e d t h e o r y . 2 0 2 r e c e n t l y t o d e p l o r i n g t h e s t a t e o f r e s e a r c h i n t h e f i e l d ” ( D o y l e 1 9 8 8 , p . 1 9 ) - - d e s p i t e t h e d e p l o r a b l e s t a t e o f t h e T u r i n g m a c h i n e f u n c t i o n a l i s t t h e o r y - - t h e s t a t e o f t h e a r t o f m a k i n g c o m p u t e r s d o i n t e l l i g e n t t h i n g s m i g h t f a i r l y b e d e s c r i b e d a s f l o u r i s h i n g . 2 . E v i d e n c e o f A l C o n t r a r y t o m i s g i v i n g s a b o u t A l d e r i v i n g f r o m t h e v e x e d s t a t e o f T u r i n g m a c h i n e f u n c t i o n a l i s t t h e o r y ; a t t e n d a n t , r a t h e r , o n A l ’ s a d m i r a b l e a n d c o n t i n u i n g s t r i n g o f p r a c t i c a l a c h i e v e m e n t s ; t h e r e s e e m s t o b e a m p l e e v i d e n c e o f a m u c h m o r e h o m e l y , e m p i r i c a l s o r t f o r t h e p r o p o s i t i o n t h a t m a c h i n e s ( s u c h a s d i g i t a l c o m p u t e r s ) c a n t h i n k o r h a v e m e n t a l p r o p e r t i e s - - e v i d e n c e t h a t i s i m m u n e t o t h e c r i t i c a l t h r u s t o f S e a r l e ’ s a n t i - f u n c t i o n a l i s t a r g u m e n t ( c o n s t r u e d a s i n 8 8 1 A ) , a n d t o P u t n a m ’ s e x t e r n a l i s t ( T w i n E a r t h b a s e d ) o b j e c t i o n s t o f u n c t i o n a l i s m , a n d o t h e r a r g u m e n t s a g a i n s t f u n c t i o n a l i s m a s w e l l . i a g r e e w i t h S e a r l e , t h a t A I P - - w h e t h e r c o m p u t e r s c a n t h i n k - - i s a n e m p i r i c a l q u e s t i o n . B u t c o n t r a r y t o S e a r l e , I s u b m i t t h a t t h e e m p i r i c a l e v i d e n c e a l r e a d y s u p p o r t s t h e c l a i m t h a t c o m p u t i n g m a c h i n e s c a n t h i n k , b e c a u s e i t e v i d e n c e s t h e c l a i m t h a t t h e y a l r e a d y d o . T h e m o s t c o m p e l l i n g w a y t o a r g u e f o r t h e p o s s i b i l i t y o f a r t i f i c i a l i n t e l l i g e n c e i s f r o m t h e m a n y i n t e l l i g e n t a r t i f a c t s a l r e a d y i n e x i s t e n c e : t h e b e s t e v i d e n c e f o r t h e c l a i m t h a t c o m p u t e r s c a n t h i n k o r h a v e m e n t a l p r o p e r t i e s i s t h a t , o n m a n y o c c a s i o n s , v e r y m a n y o f t h e m d o . i n d e e d , i f w e c o u c h t h e i s s u e i n t e r m s o f i s o l a b l e m e n t a l a t t r i b u t e s ( a s S e a r l e i n t h e C h i n e s e r o o m a r g u m e n t a n d e x p e r i m e n t , a s w e h a v e s e e n , c o u c h e s i t ) t h e n t h e r e i s e v e r y r e a s o n t o t h i n k c o m p u t e r s c o n s i d e r a b l y l e s s 2 0 3 p o w e r f u l t h a n T u r i n g i m a g i n e d - " h a v i n g a m e m o r y c a p a c i t y o f 1 0 9 " a n d ” a b l e t o p l a y t h e i m i t a t i o n g a m e s o w e l l t h a t t h e a v e r a g e i n t e r r o g a t o r w i l l h a v e n o m o r e t h a n 7 0 % c h a n c e o f m a k i n g t h e r i g h t i d e n t i f i c a t i o n a f t e r f i v e m i n u t e s o f q u e s t i o n i n g ” ( T u r i n g 1 9 5 0 , p . 4 4 2 ) - - g e n u i n e l y p o s s e s s m e n t a l p r o p e r t i e s o r t h o u g h t p r o c e s s e s a l r e a d y . E v e n s u c h " s i m p l e " d e v i c e s a s o u r p o c k e t c a l c u l a t o r s , w h i c h a f t e r a l l a d d , s u b t r a c t , m u l t i p l y , a n d d i v i d e ( i n s h o r t , c a l c u l a t e ) , n o w s e e m t o h a v e m e n t a l p r o p e r t i e s a n d t o b e t h i n k i n g t h i n g s . i f w e t u r n f r o m v a g a r i e s o f c o g n i t i v e s c i e n t i f i c o r s p e c u l a t i v e m e t a p h y s i c a l t h e o r i e s a b o u t m i n d s t o u n r e f l e c t i v e p r a c t i c a l j u d g m e n t s , t o o u r " u n t h i n k i n g ” a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o m a c h i n e s s u c h a s c a l c u l a t o r s a n d c o m p u t e r s , t h e e v i d e n c e f o r S A I P ( t h a t s o m e c o m p u t e r s a c t u a l l y t h i n k a l r e a d y ) s e e m s i m p o s i n g e n o u g h . W e s a y , " m y c a l c u l a t o r a d d s a n d s u b t r a c t s , d i v i d e s a n d m u l t i p l i e s , b u t c a n ’ t e x t r a c t s q u a r e r o o t s " ; " D O S r e c o g n i z e s t h e d i r c o m m a n d b u t n o t t h e d i e c o m m a n d ” ; " D e e p T h o u g h t c o n s i d e r s m o r e p o s s i b l e c o n t i n u a t i o n s o f p l a y t h a n i t s h u m a n o p p o n e n t s " ; e t c . P r o p e r t i e s w e t a k e t o b e m e n t a l w h e n w e a s c r i b e t h e m t o h u m a n s a n d o t h e r a n i m a l s g e t a s c r i b e d t o p r o g r a m m e d m a c h i n e s o n v i r t u a l l y e v e r y p a g e o f e v e r y c o m p u t e r o r s o f t w a r e m a n u a l . T h i s b e i n g s o , t h e r e r e a l l y i s a b r u t a l l y s i m p l e a r g u m e n t - - a n y n u m b e r o f t h e m , i n f a c t - - f o r S A I P a n d h e n c e ( s i n c e w h a t ’ s a c t u a l i s p o s s i b l e ) , f o r A I P b y w a y o f S A I P . A r g u m e n t s l i k e t h e f o l l o w i n g ( c f . H a u s e r 1 9 9 3 a ; 1 9 9 3 b ) : M y p o c k e t c a l c u l a t o r c a l c u l a t e s . C a l c u l a t i n g i s t h i n k i n g . M y p o c k e t c a l c u l a t o r t h i n k s . 2 0 4 D O S r e c o g n i z e s c e r t a i n c o m m a n d s . R e c o g n i t i o n i s a m e n t a l p r o c e s s . D O S h a s m e n t a l p r o c e s s e s . D e e p T h o u g h t c o n s i d e r s d i f f e r e n t c o n t i n u a t i o n s o f p l a y . C o n s i d e r i n g i s t h i n k i n g . D e e p t h o u g h t t h i n k s . S u c h a r g u m e n t s , o f c o u r s e , c a n b e m u l t i p l i e d a d l i b i t u m f o r a l l t h e a c t s o f a l l t h o s e d e v i c e s w e a r e u n r e f l e c t i v e l y i n c l i n e d ( i f n o t p r a c t i c a l l y c o m p e l l e d ) t o d e s c r i b e i n m e n t a l t e r m s . C a l l t h e v i e w t h a t a c c e p t s S A I P o n t h e b a s i s o f t h e p r i m a f a c i e e v i d e n c e o f s p e c i fi c m e n t a l p r o p e r t i e s h a d b y s p e c i f i c d e v i c e s , a n d a c c e p t s A I P b e c a u s e S A I P e n t a i l s A I P , “ n a i v e A l . “ A n a d v o c a t e o f n a i v e A l , l i k e m e , h o l d s t h a t s o m e c o m p u t e r s c a n t h i n k o n t h e g r o u n d s t h a t s o m e c o m p u t e r s ( e . g . , m y p o c k e t c a l c u l a t o r a n d m y l a p t o p p e r s o n a l c o m p u t e r ) a l r e a d y e v i d e n t l y d o ; a n d a g a i n s t n a i v e A l - - A I P h e l d f o r t h e s e r e a s o n s - - S e a r l e ’ s C h i n e s e r o o m a r g u m e n t s e e m s u n a v a i l i n g . S i n c e S e a r l e h a s o f t e n m a d e i t c l e a r t h a t h e r e g a r d s i t a s “ j u s t a p l a i n ( t e s t a b l e , e m p i r i c a l ) f a c t a b o u t t h e w o r l d t h a t i t c o n t a i n s c e r t a i n b i o l o g i c a l s y s t e m s , s p e c i f i c a l l y h u m a n a n d c e r t a i n a n i m a l b r a i n s , t h a t a r e c a p a b l e o f c a u s i n g m e n t a l p h e n o m e n a w i t h i n t e n t i o n a l o r s e m a n t i c c o n t e n t " ( S e a r l e 1 9 8 2 b , p . 5 7 ) ; a n d s i n c e h e i n t e w i s e h a s i n s i s t e d , " I t i s a n e m p i r i c a l q u e s t i o n w h e t h e r a n y g i v e n m a c h i n e h a s c a u s a l p o w e r s e q u i v a l e n t t o t h e b r a i n " ( S e a r l e 1 9 8 0 b , p . 4 5 2 ) ; w h y s h o u l d n ’ t w e a c c e p t e v i d e n c e t h a t e x i s t i n g m a c h i n e s d o e x h i b i t m e n t a l p r o p e r t i e s - - w h i c h w e f i n d c o m m l l i n g e n o u g h , t o l e a d u s t o p r e d i c a t e s p e c i f i c m e n t a l p r o p e r t i e s o f p a r t i c u l a r m a c h i n e s u n d e r v a r i o u s c i r c u m s t a n c e s - - a t f a c e v a l u e ? 2 0 5 3 . A l l e g e d l y E q u i v o c a l “ A s - i f i n t e n t i o n a l i t y ' N o w a g a i n s t n a i v e A l a n d t h e s o r t o f h u m b l e a r g u m e n t s j u s t c a n v a s s e d i t m a y b e u r g e d t h a t “ c a l c u l a t e s , " " r e c o g n i z e s , " a n d t h e l i k e - - m e n t a l p r e d i c a t e s w h i c h w e s e e m p r e r e f l e c t i v e l y i n c l i n e d ( i f n o t p r a c t i c a l l y c o m p e l l e d ) t o a s c r i b e t o c o m p u t e r s - a r e b e i n g u s e d e q u i v o c a l l y w h e n s o a s c r i b e d . S e a r l e n o t e s , S i n c e a p p r o p r i a t e l y p r o g r a m m e d c o m p u t e r s c a n h a v e i n p u t - o u t p u t p a t t e r n s s i m i l a r t o t h o s e o f h u m a n b e i n g s , w e a r e t e m p t e d t o p o s t u l a t e m e n t a l s t a t e s i n t h e c o m p u t e r s i m i l a r t o h u m a n m e n t a l s t a t e s . ( S e a r l e , 1 9 8 0 a , p . 4 2 3 ) T h e n h e p r o c e e d s i m m e d i a t e l y t o a d m o n i s h u s " t o o v e r c o m e t h i s i m p u l s e " ( S e a r l e 1 9 8 0 a , p . 4 2 3 ) . T o o v e r c o m e t h i s i m p u l s e , a c c o r d i n g t o S e a r l e , i s t o r e c o g n i z e t h a t t h o u g h " W e o f t e n a t t r i b u t e ‘ u n d e r s t a n d i n g ’ a n d o t h e r c o g n i t i v e p r e d i c a t e s b y m e t a p h o r a n d a n a l o g y t o c a r s , a d d i n g m a c h i n e s , a n d o t h e r a r t i f a c t s , " n o n e t h e l e s s , s i n c e t h e p r e d i c a t i o n i s m e r e l y f i g u r a t i v e , " n o t h i n g i s p r o v e d b y s u c h a t t r i b u t i o n s " ( S e a r l e 1 9 8 0 a , p . 4 1 9 ) . T h u s a g a i n s t s u c h s i m p l e " p r o o f s " o f A l - - o f t h e p r e s e n t r e a l i t y ( a n d a f o r t i o r i t h e p o s s i b i l i t y ) o f a r t i f i c i a l i n t e l l i g e n c e - a s t h e s y l l o g i s m s s e t o u t i n t h e p r e c e d i n g s e c t i o n , i t w o u l d b e S e a r l e ’ s c o n t e n t i o n , I t a k e i t , t h a t s u c h " p r o o f s " a r e i n v a l i d a t e d b y t h e i r e q u i v o c a t i o n o n t h e m e n t a l p r e d i c a t e s t h e y i n v o k e . A c c o r d i n g t o S e a r l e , w h e n " i s a y t h a t m y p o c k e t c a l c u l a t o r a d d s a n d s u b t r a c t s , b u t d o e s n o t d i v i d e , " b y s u c h u s a g e " i a m n o t a s c r i b i n g a n y i n t r i n s i c m e n t a l p h e n o m e n a t o m y p o c k e t c a l c u l a t o r " ( S e a r l e 1 9 8 0 a , p . 4 0 7 ) . S i m i l a r l y , S e a r l e a s s e r t s , " T h e r e i s a n e n o r m o u s d i f f e r e n c e b e t w e e n a t t r i b u t i n g a ‘ d e s i r e ’ t o a c h e s s - p l a y i n g c o m p u t e r t o c a s t l e o n t h e s t r o n g s i d e a n d m y s a y i n g I h a v e a d e s i r e t o d r i n k a g l a s s o f c o l d b e e r " ( S e a r l e 1 9 8 0 0 , p . 4 1 8 ) . P e r h a p s , i f w e c a n n o t 2 0 6 e n t i r e l y " o v e r c o m e t h i s i m p u l s e " t o m a k e m e n t a l p r e d i c a t i o n s o f m a c h i n e s s u c h a s c o m p u t e r s , w e c a n n o n e t h e l e s s v a c c i n a t e o u r s e l v e s a g a i n s t d r a w i n g t h e w r o n g p h i l o s o p h i c a l c o n c l u s i o n s b y r e c o g n i z i n g s u c h u s a g e a s s y s t e m a t i c a l l y a m b i g u o u s b e t w e e n " a s c r i p t i o n s o f i n t r i n s i c m e n t a l p h e n o m e n a " s u c h a s w e m a k e t o o u r s e l v e s a n d c e r t a i n o t h e r a n i m a l s , o n t h e o n e h a n d , a n d b e t w e e n " o b s e r v e r r e l a t i v e m e n t a l a s c r i p t i o n s o n t h e o t h e r " ( S e a r l e 1 9 8 0 c , p . 4 0 7 ) . " i n t h e c o m p u t e r c a s e " o u r m e n t a l a t t r i b u t i o n s a r e " j u s t a u s e f u l s h o r t h a n d f o r d e s c r i b i n g h o w t h e s y s t e m f u n c t i o n s " ( S e a r l e 1 9 8 0 0 , p . 4 1 8 ) . “ i n m y o w n c a s e , l a m s t a t i n g f a c t s a b o u t i n t r i n s i c m e n t a l p h e n o m e n a " ( S e a r l e 1 9 8 0 0 , p . 4 1 8 ) . 5 4 . O c c a m ’ s R a z o r a n d A r i s t o t l e ’ s A d m o n i t i o n H o w a r e w e t o a s s e s s s u c h c l a i m s ? B e f o r e c o n s i d e r i n g S e a r l e ’ s e x p l i c a t i o n o f t h e a m b i g u i t y h e a l l e g e s b e t w e e n " i n t r i n s i c " a n d " o b s e r v e r - r e l a t i v e " p r e d i c a t i o n s o f m e n t a l t e r m s , i a s k w h a t i s r e q u i r e d o f a n y s u c h a c c o u n t f o r i t t o s u c c e e d . W h a t i s r e q u i r e d t o m a k e c h a r g e s o f a m b i g u i t y o r e q u i v o c a t i o n s t i c k ? A t t h i s p o i n t , i c l a i m , t w o n o t e w o r t h y p r i n c i p l e s s h o u l d g u i d e o u r d e l i b e r a t i o n s . T h e f i r s t o f t h e s e i s o n e t h a t S e a r l e , i n a n o t h e r c o n t e x t , e n u n c i a t e s a n d i n v o k e s h i m s e l f : a n o r d i n a r y a p p l i c a t i o n o f O c c a m ’ s r a z o r p l a c e s t h e o n u s o f p r o o f o n t h o s e w h o w i s h t o c l a i m t h a t t h e s e s e n t e n c e s a r e a m b i g u o u s . O n e d o e s n o t m u l t i p l y m e a n i n g s b e y o n d n e c e s s i t y . ( S e a r l e 1 9 7 5 b , p . 4 0 ) S i m i l a r l y , J o e H a n n a a d v i s e s , 5 . D r e t s k e ( 1 9 8 5 ) c o n t e n d s , s i m i l a r y , t h a t o u r e v e r y d a y a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o c o m p u t e r s a r e s y s t e m a t i c a l l y e q u i v o c a l . 2 0 7 w e a r e n o t a l l o w e d t o m u l t i p l y m e a n i n g s a r b i t r a r i l y . T h o u g h t h e s k y a n d a p e r s o n ’ s m o o d m a y b e b l u e i n d i f f e r e n t s e n s e s , s u r e l y t h e s k y i s b l u e t o d a y i n t h e s a m e s e n s e ( b u t p e r h a p s n o t t o t h e s a m e d e g r e e ) a s i t w a s y e s t e r d a y , a n d o n e p e r s o n ’ s m o o d i s b l u e i n t h e s a m e s e n s e a s a n o t h e r ’ s . ( H a n n a 1 9 6 8 , p . 3 9 ) a n d i n t h e s a m e v e i n , S a u l K r i p k e c a u t i o n s , i t i s v e r y m u c h t h e l a z y m a n ’ s a p p r o a c h t o p h i l o s o p h y t o p o s i t a m b i g u i t i e s w h e n i n t r o u b l e . i f w e f a c e a p u t a t i v e c o u n t e r e x a m p l e t o o u r f a v o r i t e p h i l o s o p h i c a l t h e s i s , i t i s a l w a y s o p e n f o r u s t o p r o t e s t t h a t s o m e k e y t e r m i s b e i n g u s e d i n a s p e c i a l s e n s e , d i f f e r e n t f r o m i t s u s e i n t h e t h e s i s . W e m a y b e r i g h t , b u t t h e e a s e o f t h e m o v e s h o u l d c o u n s e l a p o l i c y o f c a u t i o n . D o n o t p o s i t a n a m b i g u i t y u n l e s s y o u a r e r e a l l y f o r c e d t o , u n l e s s t h e r e a r e r e a l l y c o m p e l l i n g t h e o r e t i c a l o r i n t u i t i v e g r o u n d s t o s u p p o s e t h a t a n a m b i g u i t y r e a l l y i s p r e s e n t . ( K r i p k e 1 9 7 7 , p . 2 6 8 ) T h i s s e e m s u n d e n i a b l y s o u n d a d v i c e ; a n d I t a k e i t t h a t t h i s m e a n s , i n t h e p r e s e n t c o n t e x t , t h a t w e s h o u l d t a k e o u r e v e r y d a y u n r e f l e c t i v e m e n t a l a t t r i b u t i o n s t o c o m p u t e r s , a n d p e r h a p s s o m e o t h e r i n a n i m a t e t h i n g s , a t f a c e v a l u e u n l e s s o r u n t i l S e a r l e ( o r w h o e v e r ) m a k e s a c o n v i n c i n g c a s e a g a i n s t s o t a k i n g t h e m . i n l i e u o f a c l e a r e x p o s i t i o n o f t h e a m b i g u i t y b e i n g i n v o k e d , t h e c l a i m s a t i s s u e r e m a i n c r e d i b l e . T h e " b u r d e n o f p r o o f " o n c l a i m s o f a m b i g u i t y g e n e r a l l y , w h i c h S e a r l e h i m s e l f a c k n o w l e d g e s a n d a c c e p t s , p l a i n l y f a l l s , i n t h e p r e s e n t c o n t e x t , o n S e a r l e h i m s e l f . B u t t h e r e i s a s e c o n d m e t h o d o l o g i c a l p r i n c i p l e w h i c h , I t h i n k , a l s o n e e d s t o b e a c k n o w l e d g e d w i t h r e g a r d t o p s y c h o l o g i c a l t h e o r i e s a n d s u c h a c c o u n t s o f b e h a v i o r o r c o n d u c t a s t h e y p r o v i d e ; a p r i n c i p l e v o i c e d b y A r i s t o t l e ’ s a d m o n i t i o n : a m o n g s t a t e m e n t s a b o u t c o n d u c t t h o s e w h i c h a r e p a r t i c u l a r a r e m o r e g e n u i n e , s i n c e c o n d u c t h a s t o d o w i t h I n d i v i d u a l c a s e s , a n d o u r s t a t e m e n t s m u s t h a r m o n i z e w i t h t h e f a c t s i n t h e s e c a s e s . ( N i c h o m a c h e a n E t h i c s " : 6 , 1 1 0 7 a 2 8 - 3 1 ) W h i l e S e a r l e n e v e r e x p l i c i t l y d r a w s a n y s u c h m o r a l f r o m r e m a r k s s u c h a s t h e f o l l o w i n g - i n w h i c h h e s u r v e y s t h e h i s t o r y o f o v e r a r c h i n g t h e o r i e s o f m i n d s ( t h e i r 2 0 8 n a t u r e s a n d p r o p e r t i e s ) a n d f i n d i n g t h i s h i s t o r y t o c o n s i s t , m a i n l y , i n u n s u p p o r t e d ( a n d o f t e n i n s u p p o r l a b l e ) m e t a p h y s i c a l s p e c u l a t i o n - - p e r h a p s h e s h o u l d . H e s a y s , S o m e o f t h e t r a d i t i o n a l a n s w e r s [ t o t h e o n t o l o g i c a l q u e s t i o n o f w h a t m i n d s o r m e n t a l s t a t e s s u c h a s b e l i e f s a r e ] a r e t h a t a b e l i e f i s a m o d i f i c a t i o n o f a C a r t e s i a n e g o , H u m e a n i d e a s f l o a t i n g a r o u n d i n t h e m i n d , c a u s a l d i s p o s i t i o n s t o b e h a v e i n c e r t a i n w a y s , o r a f u n c t i o n a l s t a t e o f a s y s t e m . i h a p p e n t o t h i n k t h a t a l l t h e s e a n s w e r s a r e f a l s e . ( S e a r l e 1 9 8 3 , p . 1 4 ) A m p l i f y i n g t h i s , d e p l o r i n g t h e d e a r t h o f w e l l f o u n d e d k n o w l e d g e a n d t h e p r e t e n s i o n s o f o v e r a r c h i n g t h e o r i e s a b o u t t h e n a t u r e a n d c a u s e s o f m e n t a l p h e n o m e n a , S e a r l e c o m p l a i n s o f h o w l i t t l e w e k n o w o f t h e f u n c t i o n i n g o f t h e h u m a n b r a i n , a n d h o w m u c h t h e p r e t e n s i o n s o f c e r t a i n t h e o r i e s d e p e n d o n t h i s i g n o r a n c e . . . M a n y o f t h e c l a i m s m a d e a b o u t t h e m i n d i n v a r i o u s d i s c i p l i n e s r a n g i n g f r o m F r e u d i a n p s y c h o l o g y t o a r t i f i c i a l i n t e l l i g e n c e d e p e n d o n t h i s s o r t o f i g n o r a n c e . S u c h c l a i m s l i v e i n t h e h o l e s i n o u r k n o w l e d g e . ( S e a r l e 1 9 8 4 a , p . 8 - 9 ) Y e t S e a r i e ’ s o w n m e t a p h y s i c a l p r o n o u n c e m e n t s c o n c e r n i n g t h e n a t u r e a n d p r o p e r t i e s o f m i n d s , e . g . , h i s r e c e n t e l a b o r a t e d " C o n n e c t i o n P r i n c i p l e " w h i c h c l a i m s , T h e a s c r i p t i o n o f a n u n c o n s c i o u s i n t e n t i o n a l p h e n o m e n o n t o a s y s t e m i m p l i e s t h e p h e n o m e n o n i s i n p r i n c i p l e a c c e s s i b l e t o c o n s c i o u s n e s s . ( S e a r l e 1 9 9 0 f , p . 5 8 6 ) s e e m j u s t a s s p e c u l a t i v e a n d e m p i r i c a l l y u n s u p p o r t e d ( i f n o t i n s u p p o r t a b l e ) a s t h o s e h e c r i t i c i z e s . i s u p p o s e t a k e n s p e c u l a t i v e l y , s u c h a c l a i m a s S e a r i e ' s C o n n e c t i o n P r i n c i p l e , w h i c h s p e c u l a t e s t h a t a l l m e n t a l p h e n o m e n a m u s t b e p o t e n t i a l l y c o n s c i o u s , h a s a s m u c h ( a n d n o m o r e ) r i g h t t o l i v e i n t h e h o l e s o f o u r k n o w l e d g e a s t h e a l t e r n a t i v e s p e c u l a t i v e m e t a p h y s i c a l h y p o t h e s e s a b o u t t h e e s s e n t i a l n a t u r e 2 0 9 o f m i n d ( e . g . , H u m e ’ s , o r b e h a v i o r i s m ’ s , o r f u n c t i o n a l i s m ’ s ) S e a r l e m e n t i o n s . 6 i a l s o s u p p o s e ( p a c e t h e p r o c e e d i n g " a p p l i c a t i o n o f O c c a m ’ s r a z o r " ) t h a t t h e g r i p o n l i f e o f s u c h m e t a p h y s i c a l s p e c u l a t i o n s i s t o o t e n u o u s t o a l l o w t h e m t o w a r r a n t d i s c o u n t i n g w h o l e c l a s s e s o f p a r t i c u l a r j u d g m e n t s a b o u t t h i n g s ’ s m e n t a l p r o p e r t i e s a s a m b i g u o u s , a s S e a r i e ’ s a t t e m p t t o d i s t i n g u i s h m e r e " a s - i f " f r o m r e a l " i n t r i n s i c " i n t e n t i o n a l i t y a t t e m p t s t o d o . P e r h a p s W i t t g e n s t e i n ’ s a d v i c e t o g i v e p r e f e r e n c e i n o u r p h i l o s o p h i c a l d e l i b e r a t i o n s t o " l a n g u a g e a t w o r k " o v e r " l a n g u a g e o n h o l i d a y " ( W i t t g e n s t e i n 1 9 5 8 , § 3 8 ) i s a k i n d o f g e n e r a l a c k n o w l e d g e m e n t o f t h e s a m e m e t h o d o l o g i c a l p r i n c i p l e A r i s t o t l e i n v o k e s w i t h r e g a r d t o " s t a t e m e n t s a b o u t c o n d u c t " ( h e n c e , a b o u t i n d i v i d u a l s ’ s m o t i v e s , b e l i e f s o r o t h e r m e n t a l p r o p e r t i e s ) . S e a r i e ’ s " C o n n e c t i o n P r i n c i p l e " i s h o l i d a y t a l k a b o u t t h e m e n t a l : s t a t e m e n t s l i k e " D e e p T h o u g h t c o n s i d e r s a l t e r n a t e c o n t i n u a t i o n s o f p l a y , " a n d " D O S r e c o g n i z e s t h e d i r c o m m a n d , " i n s t a n c e t h e m e n t a l v o c a b u l a r y a t w o r k , d e s c r i b i n g , e x p l a i n i n g , e n a b l i n g u s t o p r e d i c t . T h e A r i s t o t e l i a n c u m W i t t g e n s t i n e a n p r i n c i p l e - c a l l i t t h e " p r i n c i p l e o f n a i v e t é " - - s u g g e s t s i t w o u l d b e a m i s t a k e t o d i s c o u n t t h e l e t t e r o n t h e b a s i s o f a n y t h i n g l i k e , t h e f o r m e r . T h i s t o o s e e m s s o u n d a d v i c e . 6 . A s C a r t e s i a n e g o s a r e c o n s c i o u s n e s s e s , i w o n ’ t c a l l t h e m o d i f i c a t i o n s o f C a r t e s i a n e g o s v i e w a n a l t e r n a t i v e t o S e a r i e ’ s h y p o t h e s i s . T h e y a r e t h e s a m e h y p o t h e s i s . D e s c a r t e s e v e n p r o p o s e s t h e f o l l o w i n g " C o n n e c t i o n P r i n c i p l e " o f h i s o w n , m a i n t a i n i n g , ' t h e r e c a n b e n o t h i n g i n t h e m i n d , i n s o f a r a s i t i s a t h i n k i n g t h i n g , o f w h i c h i t i s n o t a w a r e " a n d " w e c a n n o t h a v e a n y t h o u g h t o f w h i c h w e a r e n o t a w a r e a t t h e v e r y m o m e n t w h e n i t i s i n u s ( D e s c a r t e s e t a i . 1 6 4 2 , p . 1 7 1 ) . T h e s i m i l a r i t y o f S e a r i e ’ s v i e w a t o D e s c a r t e s i n t h i s c o n n e c t i o n i s m o r e s t r i k i n g a n d t h o r o u g h g o i n g t h a n t h i s b r i e f q u o t a t i o n i n d i c a t e s . ( S e e C h a p t e r 6 . ) 2 1 0 5 . N a i v e t é R e v i s i t e d T h e n a i v e t é p r i n c i p l e c a n b e f u r t h e r s u p p o r t e d b y c o n s i d e r a t i o n o f t h e b a c k g r o u n d o r n e t w o r k o f c o n c e p t s , o r " t h e o r y " - - w h a t P a u l C h u r c h l a n d a n d o t h e r s h a v e c a l l e d " f o l k p s y c h o l o g y " - - t o w h i c h o u r l e a d i n g q u e s t i o n " C a n m a c h i n e s ( s u c h a s d i g i t a l c o m p u t e r s ) t h i n k ? " a n d o u r p a r t i c u l a r a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s ( e . g . , r e c o g n i t i o n , c o n s i d e r a t i o n , e t c . ) t o p a r t i c u l a r d e v i c e s b e l o n g . i f t h e t h e o r y o r n e t w o r k o f c o n c e p t s t o w h i c h t h i s q u e s t i o n a n d t h e s e c l a i m s b e l o n g i s f o l k p s y c h o l o g y , t h e n i t s e e m s t h a t t h e p r o n o u n c e m e n t s o f t h e f o l k ( p a r t i c u l a r l y t h e i r w o r k i n g p r o n o u n c e m e n t s ) s h o u l d b e c r e d i t e d i n t h e s e c o n n e c t i o n s ; m u c h a s o n e c r e d i t s t h e w o r k i n g p r o n o u n c e m e n t s o f m a t h e m a t i c i a n s w h e n d o i n g p h i l o s o p h y o f m a t h e m a t i c s ; a s o n e c r e d i t s t h e w o r k i n g p r o n o u n c e m e n t s o f b i o l o g i s t s i n d o i n g t h e p h i l o s o p h y o f b i o l o g y ; e t c . H o w e v e r l i t t l e s y m p a t h y y o u h a v e w i t h " o r d i n a r y l a n g u a g e " a r g u m e n t s o r a p p e a l s t o " o r d i n a r y u s a g e " i n g e n e r a l , ’ i t s e e m s e n t i r e l y w a r r a n t e d h e r e w h e r e t h e q u e s t i o n i s a f o l k p s y c h o l o g i c a l o n e . A n d i t i s s u r e l y a m i s u n d e r s t a n d i n g - - t h o u g h o n e w h i c h t h o s e w h o c a l l t h e m s e l v e s " o r d i n a r y l a n g u a g e p h i l o s o p h e r s " h a v e p e r h a p s i n v i t e d - - t o t h i n k t h a t " o r d i n a r y u s a g e " m e a n s t h e u s a g e o f t h e p e r s o n o n t h e s t r e e t ( a s o p p o s e d t o t h e s p e c i a l i z e d u s a g e o f s c i e n t i s t s , 9 . 9 . ) . T h e a p p r o p r i a t e c o n t r a s t i s r a t h e r t h e o n e w e h a v e c a n v a s s e d a l r e a d y , b e t w e e n " o r d i n a r y " w o r k i n g u s e o f l a n g u a g e ( i n c l u d i n g s c i e n t i f i c u s a g e ) a n d i d l e ( m e t a p h y s i c a l ? ) " l a n g u a g e o n h o l i d a y " ( c f . W i t t g e n s t e i n 1 9 5 8 , § 3 8 ; § 1 3 2 ) . 7 . B a r b a r a A b b o t t - - w h o h a s l e s s s y m p a t h y w i t h s u c h a p p e a l s t h a n i - - h a s v o i c e d t h e o b j e c t i o n t o m e t h a t m y " n a i v e " a r g u m e n t s f o r A l m e r e l y a p p e a l t o o r d i n a r y u s a g e . . 2 1 1 R e g a r d l e s s o f t h a t ( W i t t g e n s t e i n e x e g e s i s a s i d e ) i t h a p p e n s t h a t i n t h e c a s e o f f o l k p s y c h o l o g y , t h e " e x p e r t s " a r e t h e f o l k - - h e r e " e x p e r t " u s e a n d e v e r y d a y u s e c o i n c i d e . P e r h a p s i t m i g h t s t i l l b e o b j e c t e d - - g r a n t i n g t h e f o l k s i n e s s o f f o l k p s y c h o l o g y - - t h a t , n e v e r t h e l e s s , t h e q u e s t i o n " C a n m a c h i n e s t h i n k " s h o u l d n o t t u r n s o m u c h o n p r e s e n t u s a g e , a s o n t h e s c i e n t i f i c f r u i t f u l n e s s o r u t i l i t y o f p r o p o s e d u s a g e s , s u p p o r t i n g w h a t e v e r u l t i m a t e v e r d i c t a b o u t t h e m e n t a l p o w e r s o f m a c h i n e s t h e y m i g h t s u p p o r t . i t m i g h t b e u r g e d , i n t h i s s p i r i t , t h a t t h e t o u c h s t o n e o f o u r i n q u i r y s h o u l d b e w h a t e v e r b e s t s u p p o r t s “ a t t e m p t s t o d e v e l o p a s c i e n t i f i c a l l y r e s p e c t a b l e p s y c h o l o g y " ( G o a l 1 9 9 1 , p . 1 3 1 ) ; t h a t w e s h o u l d a c c e p t s u c h c o n c l u s i o n s a s w o u l d b e s t a l l o w u s t o " d e v e l o p a n d s y s t e m a t i z e [ f o l k p s y c h o l o g i c a l e x p l a n a t i o n ] u n t i l i t m e e t s a c c e p t e d s t a n d a r d s o f s c i e n t i f i c e x p l a n a t i o n " ( G o a l 1 9 9 1 , p . 1 3 1 ) ; a n d t h a t w e m i g h t e v e n b e l e d b y t h i s s c i e n t i f i c m e t h o d o l o g i c a l i m p e r a t i v e t o " r e j e c t t h i s w h o l e [ f o l k p s y c h o l o g i c a l ] a p p a r a t u s " a s a s u p e r s t i t i o u s r e m n a n t o f o u r d a r k u n t u t o r e d p a s t " ( G o a l 1 9 9 1 , p . 1 3 1 ) . H e r e I s h o u l d s a y ; 1 ) t h a t a c c e p t a n c e o f t h e p r i n c i p l e o f n a i v e t é i s n o t a t a l l i n c o n s i s t e n t w i t h ( t h o u g h i t d o e s n o t r e q u i r e ) a c c e p t i n g t h i s s c i e n t i f i c m e t h o d o l o g i c a l i m p e r a t i v e " ; a n d 2 ) t h a t S e a r l e a n d o c t r i n e s l i k e t h e " C o n n e c t i o n P r i n c i p l e " o f f e r l i t t l e p r o s p e c t o f c o n t r i b u t i n g t o a t t e m p t s t o “ d e v e l o p a n d s y s t e m a t i z e " f o l k p s y c h o l o g y " u n t i l i t m e e t s t h e s t a n d a r d s o f s c i e n t i f i c e x p l a n a t i o n " a n y w a y . T h e i n v i t a t i o n " t o r e g r e s s t o t h e C a r t e s i a n v a n t a g e p o i n t “ ( D e n n e t t 1 9 8 7 , p . 3 3 6 ) t h a t S e a r i e ’ s p o s i t i v e s u g g e s t i o n s a m o u n t t o - - i s 8 . T h o u g h i t w o u l d s u g g e s t a B a c o n i a n , b o t t o m - u p a p p r o a c h o v e r a N e w t o n i a n , t o p - d o w n o n e , i s h o u l d s a y , t o a n y o n e w h o a c c e p t s t h i s i m p e r a t i v e . H a u s e r 1 9 9 2 , h o w e v e r . d i s p u t e s t h e , s c i e n t i f i c n a t u r e o f f o l k p s y c h o l o g i c a l " t h e o r y . ” 2 1 2 m o r e l i k e l y t o b e c o u n t e r p r o d u c t i v e t h a n p r o d u c t i v e o f s c i e n t i f i c d e v e l o p m e n t . C o n s i d e r a t i o n s o f s c i e n t i f i c f r u i t f u l n e s s a n d u t i l i t y a r e u n l i k e l y , l s u b m i t , t o f a v o r d e e m p h a s i s o f " t h e e x t e r n a l p o i n t o f v i e w " ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) i n f a v o r o f " t h e f i r s t p e r s o n p o i n t o f v i e w " ( S e a r l e 1 9 8 0 b , p . 4 5 1 ) S e a r l e a d v o c a t e s . 6 . “ A s - i f i n t e n t i o n a l i t y ' A g a i n E v e n i f , s t r i c t l y s p e a k i n g , S e a r i e ’ s C h i n e s e R o o m A r g u m e n t - b e i n g d i r e c t e d a g a i n s t T u r i n g m a c h i n e f u n c t i o n a l i s m a n d n o t d i r e c t l y a g a i n s t A l ( A I P o r S A I P ) - - l a c k s d i r e c t f o r c e a g a i n s t n a i v e A l , S e a r l e c l a i m s t h a t h i s C h i n e s e R o o m E x p e r i m e n t , b e s i d e s s u p p o r t i n g o r i l l u s t r a t i n g t h e p r e m i s e t h a t s y n t a x d o e s n o t s u f f i c e f o r s e m a n t i c s , a l s o m o t i v a t e s a n d l i c e n s e s a d i s t i n c t i o n b e t w e e n c a s e s o f r e a l " i n t r i n s i c i n t e n t i o n a l i t y , w h i c h a r e c a s e s o f a c t u a l m e n t a l s t a t e s " a n d c a s e s o f m e r e " a s - i f i n t e n t i o n a l i t y " s u c h a s w e a t t r i b u t e w h e n w e m a k e " o b s e r v e r r e l a t i v e a s c r i p t i o n s o f i n t e n t i o n a l i t y , w h i c h a r e w a y s p e o p l e h a v e o f s p e a k i n g a b o u t e n t i t i e s f i g u r i n g i n o u r a c t i v i t i e s b u t l a c k i n g i n t r i n s i c i n t e n t i o n a l i t y " ( S e a r l e 1 9 8 0 b , p . 4 5 1 ) . T h e C h i n e s e R o o m E x p e r i m e n t m o t i v a t e s a n d l i c e n s e s t h i s d i s t i n c t i o n , S e a r l e t h i n k s , b y s h o w i n g " t h a t i t i s b o t h c o n c e p t u a l l y a n d e m p i r i c a l l y p o s s i b l e t o h a v e h u m a n c a p a c i t i e s i n s o m e r e a l m [ e . g . , p o s s i b l e t o h a v e C h i n e s e t e x t p r o c e s s i n g c a p a b i l i t i e s i n d i s t i n g u i s h a b l e f r o m a n a t i v e C h i n e s e s p e a k e r ’ s ] w i t h o u t h a v i n g a n y i n t e n t i o n a l i t y a t a l l " ( S e a r l e 1 9 8 0 a , p . 4 2 3 ) . S e a r l e i n t h e C h i n e s e R o o m a c t s j u s t a s i f h e u n d e r s t a n d s C h i n e s e w i t h o u t r e a l l y u n d e r s t a n d i n g : 2 1 3 f r o m t h e e x t e r n a l p o i n t o f v i e w - - t h a t i s f r o m t h e p o i n t o f v i e w o f s o m e b o d y o u t s i d e t h e r o o m i n w h i c h I a m l o c k e d - - m y a n s w e r s t o t h e q u e s t i o n s a r e i n d i s t i n g u i s h a b l e f r o m t h o s e o f n a t i v e C h i n e s e s p e a k e r s . N o b o d y j u s t l o o k i n g a t m y a n s w e r s c a n t e l l t h a t i d o n ’ t s p e a k a w o r d o f C h i n e s e . ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) l h a v e i n p u t s a n d o u t p u t s t h a t a r e i n d i s t i n g u i s h a b l e f r o m t h o s e o f t h e n a t i v e C h i n e s e s p e a k e r , a n d i c a n h a v e a n y f o r m a l p r o g r a m y o u l i k e , b u t I s t i l l u n d e r s t a n d n o t h i n g . ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) N o w , " F o r t h e s a m e r e a s o n s , " S e a r l e g o e s o n , " S c h a n k ’ s c o m p u t e r [ r u n n i n g S A M " , a p r o g r a m w h i c h a n s w e r s q u e s t i o n s a n d p r o d u c e s p a r a p h r a s e s o f c e r t a i n s t o r i e s i n E n g l i s h ] u n d e r s t a n d s n o t h i n g o f a n y s t o r i e s , w h e t h e r i n C h i n e s e , E n g l i s h , o r w h a t e v e r " ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) . T h e p o i n t " t h a t i t i s c o n c e p t u a l l y a n d e m p i r i c a l l y p o s s i b l e t o h a v e h u m a n c a p a c i t i e s i n s o m e r e a l m w i t h o u t h a v i n g a n y i n t e n t i o n a l i t y a t a l l " ( S e a r l e 1 9 8 0 a , p . 4 2 3 ) , t h a t s o m e t h i n g c a n a c t i n a l l r e s p e c t s a s i f i t h a s s o m e p a r t i c u l a r m e n t a l p r o p e r t y o r a b i l i t y a n d y e t s t i l l n o t h a v e i t , S e a r l e m a i n t a i n s , i s c o m p l e t e l y g e n e r a l ; a n d o n c e w e g r a s p t h i s p o i n t " w e s h o u l d b e a b l e t o o v e r c o m e t h i s i m p u l s e t o p o s t u l a t e m e n t a l s t a t e s " ( S e a r l e 1 9 8 0 a , p . 4 2 3 ) o f m a c h i n e s w h i c h b e h a v e a s i f t h e y h a v e t h e m . E v e n i f w e c a n ’ t e n t i r e l y o v e r c o m e t h e i m p u l s e t o s p e a k t h i s w a y ; e v e n i f a t t r i b u t i o n s o f " c a l c u l a t i o n , " " c o n s i d e r a t i o n , " " r e c o g n i t i o n , " a n d t h e l i k e t o c o m p u t e r s " g i v e s p r e d i c t i v e p o w e r w e c a n g e t b y n o o t h e r m e t h o d " ( D e n n e t t 1 9 8 1 , p . 2 3 ) ; y e t w e c a n s t i l l " o v e r c o m e t h e i m p u l s e " t o t h i n k w e s p e a k l i t e r a l l y i n s o s p e a k i n g . T h o u g h , " W e o f t e n a t t r i b u t e ‘ u n d e r s t a n d i n g ’ a n d o t h e r c o g n i t i v e p r e d i c a t e s b y m e t a p h o r a n d a n a l o g y t o c a r s , a d d i n g m a c h i n e s , a n d o t h e r a r t i f a c t s , " n o n e t h e l e s s , S e a r l e m a i n t a i n s , n o t h i n g i s p r o v e d b y s u c h a t t r i b u t i o n s . 9 . ' S A M " i s a n a c r o n y m f o r " S c r i p t A p p l i e r M e c h a n i s m " ( S c h a n k & A b e l s o n 1 9 7 7 ) . 2 1 4 ( S e a r l e 1 9 8 0 a , p . 4 1 9 ) W e c a n a c k n o w l e d g e t h e b o d y o f u s a g e « - a t t r i b u t i n g m e n t a l p r e d i c a t e s t o c o m p u t e r s - - t o w h i c h n a i v e A I a p p e a l s , S e a r l e h o l d s , a n d s t i l l m a i n t a i n " t h a t i n t h e l i t e r a l s e n s e t h e p r o g r a m m e d c o m p u t e r u n d e r s t a n d s w h a t t h e c a r a n d t h e a d d i n g m a c h i n e u n d e r s t a n d , n a m e l y , e x a c t l y n o t h i n g " ( S e a r l e 1 9 8 0 , p . 4 1 9 ) . L i k e w i s e ( a s f o r " u n d e r s t a n d i n g " ) f o r e v e r y o t h e r p r e d i c a t i o n o f m e n t a l t e r m s o f c o m p u t e r s - - w h e n w e s a y " C a l c u l a t o r s c a l c u l a t e , " o r " D e e p T h o u g h t c o n s i d e r s a l t e r n a t e c o n t i n u a t i o n s , " o r " D O S r e c o g n i z e s c o m m a n d s “ - - S e a r l e w o u l d s a y , t h a t i n t h e l i t e r a l s e n s e o u r c a l c u l a t o r s d o n ’ t r e a l l y c a l c u l a t e , D e e p T h o u g h t d o e s n ’ t r e a l l y c o n s i d e r c o n t i n u a t i o n s , a n d D O S d o e s n ’ t r e a l l y r e c o g n i z e c o m m a n d s . A l l t h e s e , a c c o r d i n g t o S e a r l e , s h o u l d b e d i s c o u n t e d a s m e t a p h o r i c a l " o b s e r v e r r e l a t i v e a s c r i p t i o n s " o f " a s - i f " i n t e n t i o n a l i t y . l h a v e t w o i n i t i a l w o r r i e s a b o u t t h i s . F i r s t , t h e s e s u p p o s e d l y o b s e r v e r r e l a t i v e a t t r i b u t i o n s o f " a s - i f " m e n t a l p r o p e r t i e s o r i n t e n t i o n a l i t y a r e n o t m u c h l i k e o t h e r p r e d i c a t i o n s w e r e c o g n i z e a s m e t a p h o r i c a l . W h e n a w o m a n s a y s " m y d a t e w a s a n o c t o p u s , " s h e i s s a y i n g h e r d a t e r e s e m b l e d a n o c t 0 p u s i n s o m e r e s p e c t s ( i t w a s a s i f h e h a d e i g h t h a n d s ) b u t n o t i n a l l , o r e v e n m a n y r e s p e c t s . W h e n s o m e o n e c o m p a r e s d i s c u s s i n g t h e C h i n e s e r o o m a r g u m e n t i n u n d e r g r a d u a t e c l a s s e s t o " m u d w r e s t l i n g , " s h e i s n o t s a y i n g t h a t d i s c u s s i n g t h e C h i n e s e R o o m A r g u m e n t i n u n d e r g r a d u a t e c o u r s e s i s l i k e m u d w r e s t l i n g i n a l l ( o r e v e n m a n y ) r e s p e c t s , b u t i n q u i t e l i m i t e d r e s p e c t s ( e . g . , i n r e s p e c t o f b e i n g m e s s y , c o m b a t i v e , a n d p e r h a p s n o t v e r y u p l i f t i n g o r i l l u m i n a t i n g ) . 1 o I t ’ s a n o d d s o r t o f " m e t a p h o r i c a l " a t t r i b u t i o n w h e r e t h e s u b j e c t o f t h e a t t r i b u t i o n i s s u p p o s e d t o b e i n e v e r y 1 0 . T h e c o m p a r i s o n i s C a r o l S i s t e r ’ s . 2 1 5 d i s c e r n i b l e r e l e v a n t r e s p e c t j u s t l i k e t h e t h i n g s t o w h i c h w e l i t e r a l l y a t t r i b u t e t h e p r e d i c a t e s i n q u e s t i o n - - y e t t h i s i s h o w i t i s w i t h t h e s e s u p p o s e d l y m e t a p h o r i c a l “ o b s e r v e r r e l a t i v e a t t r i b u t i o n s " o f “ a s - i f i n t e n t i o n a l i t y " t o c o m p u t e r s . P e r h a p s S e a r l e i s u s i n g " m e t a p h o r i c a l " m e t a p h o r i c a l l y . M y s e c o n d w o r r y a r i s e s i f y o u r e s p o n d - - a s i b e l i e v e S e a r l e w o u l d r e s p o n d - - t o t h i s f i r s t w o r r y a s f o l l o w s : I t ’ s n o t t h a t t h e a s - i f c o g n i t i v e s y s t e m s ( e . g . , S e a r l e i n t h e r o o m , o r d i g i t a l c o m p u t e r s ) t o w h i c h w e m a k e o b s e r v e r r e l a t i v e a t t r i b u t i o n s r e s e m b l e g e n u i n e c o g n i t i v e s y s t e m s i n e v e r y r e l e v a n t r e s p e c t ( w h i c h i s a b s u r d ) , n o r e v e n i n e v e r y d i s c e r n i b l e r e l e v a n t r e s p e c t ( w h i c h m a y b e s l i g h t l y l e s s a b s u r d ) , b u t j u s t i n e v e r y r e l e v a n t r e s p e c t t h a t ’ s d i s c e r n i b l e f r o m t h e e x t e r n a l p o i n t o f v i e w ( w h i c h i s n o t a b s u r d ) . T h e r e i s a d i f f e r e n c e , w h i c h i s d i s c e r n i b l e , " f r o m t h e p o i n t o f v i e w o f t h e a g e n t , f r o m m y p o i n t o f v i e w " ( S e a r l e 1 9 9 0 3 , p . 4 2 0 [ m y i t a l i c s j ) . A n d , o f c o u r s e , t h e w e l l - k n o w n d i f f i c u l t y w i t h t h i s i s t h a t i t ’ s o n l y d i s c e m i b i e f r o m m y p o i n t o f v i e w : s o , i f s e n s e d e t e r m i n e s r e f e r e n c e ( a s S e a r l e h o l d s ) , a n d i f w h a t l i c e n s e s o r d e t e r m i n e s m y r e f e r r i n g t h e s e m e n t a l p r o p e r t i e s t o y o u i s t h e s a m e p u b l i c l y o b s e r v a b l e e v i d e n c e ( b e h a v i o r a l e v i d e n c e ) t h a t l i c e n s e s o r d e t e r m i n e s m y ( " o b s e r v e r r e l a t i v e , " " a s - i f " ) a p p l i c a t i o n o f t h e s a m e m e n t a l p r e d i c a t e s t o c o m p u t e r s , t h e n i t s e e m s i a t t r i b u t e m e n t a l p r o p e r t i e s t o y o u , u n l i k e m y s e l f , i n t h e s a m e s e n s e ( o n t h e s a m e b a s i s ) a s I a t t r i b u t e t h e m t o c o m p u t e r s . i t s e e m s m y a t t r i b u t i o n s t o y o u , o n S e a r i e ’ s a c c o u n t , a r e j u s t " a n a l o g i c a l , " " a s - i f , " " o b s e r v e r - r e l a t i v e " a t t r i b u t i o n s a l s o . T h i s i s t h e i n f a m o u s o t h e r 2 1 6 m i n d s p r o b l e m S e a r l e h a s , u n t i l r e c e n t l y , s t e a d f a s t l y s t o n e w a l l e d ( s e e , e . g . , 1 9 8 0 a , p . 4 2 1 - 4 2 2 ; 1 9 9 0 9 , p . 6 4 0 ) " l p r o c e e d , n o w , t o a d e t a i l e d c o n s i d e r a t i o n o f m y f i r s t c o m p l a i n t : " o b s e r v e r r e l a t i v e " a t t r i b u t i o n s o f " a s - i f " i n t e n t i o n a l i t y d o n o t , o n t h e i r f a c e , s e e m m e t a p h o r i c a l a t a l l ; t h e y s e e m l i k e u n e q u i v o c a l a t t r i b u t i o n s o f t h e m e n t a l p r o p e r t i e s t h e y a t t r i b u t e . 7 . M a r k s o f t h e M e t a p h o r i c a i N a i v e A l a r g u e s , e . g . , t h a t p o c k e t c a l c u l a t o r s c a l c u l a t e ( m i n o r p r e m i s e ) , t h a t c a l c u l a t i n g i s t h i n k i n g ( m a j o r p r e m i s e ) , a n d h e n c e , t h a t c a l c u l a t o r s t h i n k ; a n d t h e S e a r l e a n r e s p o n s e , i s t h a t t h e a r g u m e n t i s i n v a l i d a t e d b y i t ’ s e q u i v o c a t i o n o n i t s m i d d l e t e r m , " c a l c u l a t e s " ( i . e . , i t c o m m i t s t h e " F a l l a c y o f F o u r T e r m s " ) . A c c o r d i n g t o S e a r l e , i n t h e ( " m e t a p h o r i c a l " o r " a n a l o g i c a l , " " a s - i f , " " o b s e r v e r r e l a t i v e " ) s e n s e i n w h i c h " c a l c u l a t e s " i s t r u l y a s c r i b a b l e t o m y p o c k e t c a l c u l a t o r ( c a l l h i m " C a l " f o r t h e s a k e o f a r g u m e n t ) c a l c u l a t i n g i s n ’ t t h i n k i n g ( w h i c h f a l s i f i e s t h e m a j o r p r e m i s e ) ; a n d i n t h e ( ” l i t e r a i , " " i n t r i n s i 0 " ) s e n s e i n w h i c h c a l c u l a t i n g i s r e a l l y t h i n k i n g , i t ’ s n o t t r u e t h a t C a l c a l c u l a t e s ( f a l s i f y i n g t h e m i n o r p r e m i s e ) . S o , i f S e a r l e i s r i g h t t h e n a i v e a r g u m e n t i s u n s o u n d o n e i t h e r a t t e m p t e d v a l i d a t i n g r e c o n s t r u c t i o n , a n d d o e s n o t s t a n d . T h e c r u c i a l p o i n t a t i s s u e - - w h a t n e e d s t o b e s h o w n f o r t h e “ f o u r t e r m s " o b j e c t i o n t o t h e n a i v e a r g u m e n t t o b e s u s t a i n e d - i s t h a t " c a l c u l a t e s " i s b e i n g u s e d e q u i v o c a l l y h e r e : t h a t I u s e t h e w o r d " c a l c u l a t e s " w i t h a d i f f e r e n t s e n s e 1 1 . C h a p t e r 6 , S e c t i o n 4 , b e l o w , c o n s i d e r s S e a r i e ’ s r e c e n t l y a n n o u n c e d ” s o l u t i o n t o ‘ t h e o t h e r m i n d s p r o b l e m " ( S e a r l e 1 9 9 2 , p . 7 6 ) . 2 1 7 o r a d i f f e r e n t m e a n i n g w h e n I s a y , " C a l c a l c u l a t e s , " t h a n w h e n i s a y , " i c a l c u l a t e " o r ( o n e h o p e s , a p r o p o s o f m y s e c o n d m i s g i v i n g , a b o v e ) w h e n i s a y , " Y o u c a l c u l a t e . " W e l l a l l m e t a p h o r i c a l u s a g e , i p r e s u m e i s a m b i g u o u s , b u t n o t a l l a m b i g u o u s u s a g e i s m e t a p h o r i c a l - - s o w h i l e i s p e a k l o o s e l y h e r e , f o l l o w i n g S e a r l e i t h i n k , o f “ m a r k s o f t h e m e t a p h o r i c a l " - - w h a t r e a l l y c o n c e r n s u s i s w h e t h e r t h e u s a g e s a t s t a k e a r e a m b i g u o u s ( w h e t h e r o r n o t t h e a m b i g u i t y i s d u e t o t h e i r b e i n g m e t a p h o r i c a l ) . i n t h i s c o n n e c t i o n , I o b s e r v e t h a t t h e t e s t s w e w i l l c o n s i d e r i n t h i s s e c t i o n a r e g e n e r a l t e s t s f o r a m b i g u i t y . T h e c r u c i a l q u e s t i o n i s w h e t h e r t h e u s a g e s i n q u e s t i o n a r e a m b i g u o u s ; a n d t h e a r g u m e n t o f t h i s s e c t i o n i s t h a t , a c c o r d i n g t o v a r i o u s t e s t s f o r a m b i g u i t y w h i c h S e a r l e h i m s e l f a c k n o w l e d g e s , i t ’ s n o t c l e a r t h e y a r e . I n d e e d , i s h o u l d g o f u r t h e r a n d s a y t h a t , b y t h e s e t e s t s , t h e y ’ r e c l e a r l y n o t ; b u t w h e t h e r o r n o t t h e c o n s i d e r a t i o n s t o b e a d d u c e d i n t h i s s e c t i o n e s t a b l i s h t h i s s e c o n d s t r o n g e r v e r d i c t , t h e y c l e a r l y e s t a b l i s h t h e f i r s t . T h e c h a r g e o f a m b i g u i t y i s n o t s u s t a i n a b l e o n t h e b a s i s o f a n y o f t h e s t a n d a r d t e s t s t h a t S e a r l e h i m s e l f a c k n o w l e d g e s . N o r a r e t h e y s u s t a i n a b l e o n t h e b a s i s o f a n y o t h e r t e s t t h a t i k n o w o f . Q u e s t i o n s o f a m b i g u i t y a r e d i c i e r t h a n i s g e n e r a l l y a p p r e c i a t e d : e v e n t h o u g h " p h i l o s o p h e r s p e r e n n i a l l y a r g u e f o r a m b i g u i t i e s o n t h e b a s i s o f a d i f f e r e n c e i n u n d e r s t a n d i n g a l o n e " ( Z w i c k y & S a d o c k 1 9 7 5 , p . 4 ) , n e v e r t h e l e s s , ” 1 2 . F o l l o w i n g Z w i c k y a n d S a d o c k : ” F r o m h e r e o n t h e c o u n t n o u n u n d e r s t a n d i n g i s a n e u t r a l t e r m t o c o v e r b o t h t h o s e e l e m e n t s o f ‘ m e a n i n g ’ ( i n a b r o a d s e n s e ) t h a t g e t c o d e d i n s e m a n t i c r e p r e s e n t a t i o n s a n d t h o s e t h a t d o n o t . E a c h u n d e r s t a n d i n g c o r r e s p o n d s t o a c l a s s o f c o n t e x t s i n w h i c h t h e l i n g u i s t i c e x p r e s s i o n i s a p p r o p r i a t e - - t h o u g h , o f c o u r s e , a c l a s s o f c o n t e x t s m i g h t c o r r e s p o n d t o s e v e r a l u n d e r s t a n d i n g s , a s i n e x a m p l e s l i k e S o m e o n e i s r e n t i n g t h e h o u s e 2 1 8 I t w i l l n o t d o , o f c o u r s e , t o a r g u e t h a t a s e n t e n c e i s a m b i g u o u s b y c h a r a c t e r i z i n g t h e d i f f e r e n c e b e t w e e n t w o u n d e r s t a n d i n g s . ( Z w i c k y & S a d o c k , p . 3 ) A d i f f e r e n c e i n u n d e r s t a n d i n g i s a n e c e s s a r y , b u t n o t a s u f f i c i e n t , c o n d i t i o n f o r a m b i g u i t y . ( Z w i c k y 8 . S a d o c k , p . 4 ) G i v e n t h a t t h i s n e c e s s a r y c o n d i t i o n o f a d i f f e r e n c e i n u n d e r s t a n d i n g i s m e t , t h e c h o i c e i s b e t w e e n a m b i g u i t y , " s e v e r a l u n d e r l y i n g s y n t a c t i c ( o r s e m a n t i c ) r e p r e s e n t a t i o n s " ( Z w i c k y & S a d o c k , p . 2 ) a n d l a c k o f s p e c i f i c a t i o n , " a s i n g l e r e p r e s e n t a t i o n c o r r e s p o n d i n g t o d i f f e r e n t s t a t e s o f a f f a i r s " ( Z w i c k y & S a d o c k , p . 2 ) . ” T o i l l u s t r a t e t h i s s e c o n d n o t i o n , a n d t h e c o n t r a s t w i t h a m b i g u i t y , c o n s i d e r t h e e x a m p l e s e n t e n c e ( Z w i c k y & S a d o c k , p . 2 ) b e l o w : M y s i s t e r i s t h e R u r i t a n l a n s e c r e t a r y o f s t a t e . T h i s s e n t e n c e , i t m a y b e o b s e r v e d , i s u n s p e c i f i e d ( g e n e r a l , i n d e f i n i t e , u n m a r k e d , i n d e t e r m i n a t e , v a g u e , n e u t r a l ) w i t h r e s p e c t t o w h e t h e r m y s i s t e r i s o l d e r o r y o u n g e r t h a n i a m , w h e t h e r s h e a c c e d e d t o h e r p o s t r e c e n t l y o r s o m e t i m e a g o , w h e t h e r t h e p o s t i s h e r s b y b i r t h o r b y m e r i t , w h e t h e r i t h a s a n i n d e f i n i t e t e n u r e o r w i l l c e a s e a t s o m e s p e c i f i c f u t u r e t i m e , w h e t h e r s h e i s r i g h t - h a n d e d o r l e f t - h a n d e d , a n d s o o n . ( Z w i c k y & S a d o c k , p . 2 - 3 ) Y e t i t s h o u l d n ’ t b e s a i d t h a t t h i s s e n t e n c e i s m a n y w a y s a m b i g u o u s j u s t b e c a u s e w e c a n p e r c e i v e m a n y d i s t i n c t c l a s s e s o f c o n t e x t s i n w h i c h i t w o u l d b e a p p r o p r i a t e , o r b e c a u s e w e c a n i n d i c a t e m a n y u n d e r s t a n d i n g s w i t h p a r a p h r a s e s . ( Z w i c k y & S a d o c k , p . 4 ) ( c o u r t e s y o f M o r g a n [ 1 9 7 2 ] ) " ( Z w i c k y & S a d o c k 1 9 7 5 , p . 3 n . 9 ) 1 3 . Z w i c k y a n d S a d o c k n o t e , ” T h i s s e c o n d s i t u a t i o n h a s b e e n c a l l e d G E N E R A L I T Y ( C h a o , 1 9 5 9 : 1 ; Q u i n e , 1 9 6 0 : 1 2 5 - 1 3 2 ) ; B o l i n g e r , 1 9 6 1 , c h a p t . 2 ) , V A G U E N E S S ( G . L a k o f f , 1 9 7 0 b ) ; i N D E T E R M i N A C Y ( H u m b e r s t o n e , 1 9 7 2 : 1 4 0 ; S h o p e n , 1 9 7 3 ) ; N O N D E T E R M I N A T I O N ( W e y d t , 1 9 7 3 2 5 7 8 ) a n d I N D E F I N I T E N E S S O F R E F E R E N C E ( W e i n r e i c h , 1 9 6 6 : 4 1 2 ) , t h o u g h N E U T R A L I T Y , U N M A R K E D N E S S , a n d L A C K O F S P E C I F I C A T I O N w o u l d b e e q u a l l y g o o d t e r m s . " ( Z w i c k y & S a d o c k 1 9 7 5 , p . 2 ) 2 1 9 O f f h a n d , i t s e e m s , t h e d i f f e r e n c e b e t w e e n m y u n d e r s t a n d i n g o f " c o n s i d e r s a l t e r n a t i v e c o n t i n u a t i o n s o f p l a y “ i n " D e e p T h o u g h t c o n s i d e r s a l t e r n a t i v e c o n t i n u a t i o n s o f p l a y " a n d " K a r p o v c o n s i d e r s a l t e r n a t i v e c o n t i n u a t i o n s " i s m o r e l i k e t h e d i f f e r e n c e b e t w e e n t h e s e v a r i o u s u n d e r s t a n d i n g s o f “ M y s i s t e r i s t h e R u r i t a n i a n S e c r e t a r y o f S t a t e " t h a n t h e d i f f e r e n c e b e t w e e n t h e d i s p a r a t e u n d e r s t a n d i n g s o f s u c h c l e a r l y a m b i g u o u s s e n t e n c e s a s “ T h e y s a w h e r d u c k “ a n d “ H e c o o k e d h e r g o o s e " ( Z w i c k y a n d S a d o c k , p . 3 ) . T h e d i s p a r a t e u n d e r s t a n d i n g s o f t h e o b j e c t p h r a s e “ h e r d u c k “ i n “ T h e y s a w h e r d u c k " - - L e , “ a c e r t a i n s o r t o f b i r d b e l o n g i n g t o t h e w o m a n a n d a c e r t a i n k i n d o f a c t i o n p e r f o r m e d b y t h e w o m a n “ ( Z w i c k y a n d S a d o c k , p . 4 ) - - d o n o t s e e m t o b e " t h e s o r t o f t h i n g t h a t l a n g u a g e s c o u l d p l a u s i b l y f a i l t o s p e c i f y “ ( Z w i c k y & S a d o c k , p . 4 ) . i n s u c h c a s e s , w h e r e “ l a c k o f s p e c i f i c a t i o n i s i m p l a u s i b l e “ ( Z w i c k y a n d S a d o c k , p . 4 ) , " t h e b u r d e n o f p r o o f f a l l s o n a n y o n e w h o i n s i s t s t h a t [ t h e ] s e n t e n c e s a r e u n s p e c i f i e d r a t h e r t h a n a m b i g u o u s " ( Z w i c k y & S a d o c k , p . 4 ) . O n t h e o t h e r h a n d , s e n t e n c e s l i k e “ M y s i s t e r i s t h e R u r i t a n i a n S e c r e t a r y o f S t a t e " d e s p i t e b e i n g " u n s p e c i f i e d w i t h r e s p e c t t o s o m e d i s t i n c t i o n " ( Z w i c k y & S a d o c k , p . 4 ) , a n d i n d e e d a n y n u m b e r o f t h e m , n e v e r t h e l e s s “ h a v e o t h e r w i s e q u i t e s i m i l a r u n d e r s t a n d i n g s “ ( Z w i c k y a n d S a d o c k , p . 4 ) , t h e d i s t i n c t i o n s a r e a l l “ t h e s o r t o f t h i n g [ s ] t h a t l a n g u a g e s c o u l d p l a u s i b l y f a i l t o s p e c i f y " ( Z w i c k y a n d S a d o c k , p . 4 ) ; a n d i n s u c h c a s e s j u d g m e n t s o f a m b i g u i t y a r e , p e r h a p s s t r o n g l y , c o n t r a i n d i c a t e d . S i n c e i t s e e m s t h a t e v e r y s e n t e n c e s a t i s f i e s t h e n e c e s s a r y c o n d i t i o n f o r a m b i g u i t y o f h a v i n g s o m e d i f f e r e n t u n d e r s t a n d i n g s , p e r h a p s w e m i g h t s t r e n g t h e n o u r n e c e s s a r y c o n d i t i o n s o a s t o a c t u a l l y e f f e c t s o m e e x c l u s i o n s , a s f o l l o w s : a r p “ . ' 9 2 2 0 p l a u s i b l y s p e c i f i e d d i f f e r e n c e i n u n d e r s t a n d i n g i s a n e c e s s a r y , b u t n o t a s u f f i c i e n t , c o n d i t i o n f o r a m b i g u i t y . “ O n t h i s s t r e n g t h e n e d c r i t e r i o n " M y s i s t e r i s t h e R u r i t a n i a n S e c r e t a r y o f S t a t e “ p e r h a p s e v e n f a i l s t o m e e t t h e n e c e s s a r y c o n d i t i o n f o r a m b i g u i t y ; b u t t h e r e w i l l s t i l l b e a c l a s s o f c a s e s - - e . g . , t h e d i f f e r e n c e i n u n d e r s t a n d i n g a s b e t w e e n “ c u t " a s i n “ c u t t h e c a k e “ ( w i t h a s p a t u l a ) , “ c u t t h e l a w n " ( w i t h a l a w n m o w e r ) , a n d “ c u t t h e c l o t h “ ( w i t h s c i s s o r s ) - - w h e r e t h i s n e c e s s a r y c o n d i t i o n i s m e t , a n d y e t w e m a y s t i l l d i s p u t e w h e t h e r t h e u s a g e s a r e a m b i g u o u s . E l s e w h e r e ( n o t i n c o n n e c t i o n w i t h t h e c l a i m t h a t a s c r i p t i o n s o f m e n t a l t e r m s t o c o m p u t e r s a r e j u s t a m b i g u o u s “ a s - i f “ a t t r i b u t i o n s ) S e a r l e ( 1 9 8 0 d ) h i m s e l f p r o p o s e s s e v e r a l t e s t s f o r d i s t i n g u i s h i n g t r u e a m b i g u i t y f r o m m o r e l a c k o f s p e c i f i c a t i o n i n q u e s t i o n a b l e c a s e s . S e a r l e a s k s u s t o c o n s i d e r “ t h e f o l l o w i n g s e q u e n c e o f r a t h e r o r d i n a r y E n g l i s h s e n t e n c e s , a l l c o n t a i n i n g t h e w o r d ‘ c u t ’ “ ( S e a r l e 1 9 8 0 d , p . 2 2 1 ) : B i l l c u t t h e g r a s s . T h e b a r b e r c u t T o m ’ s h a i r . S a l l y c u t t h e c a k e . I c u t m y s k i n . T h e t a i l o r c u t t h e c l o t h . S a m c u t t w o c l a s s e s l a s t w e e k . T h e P r e s i d e n t c u t t h e s a l a r i e s o f t h e e m p l o y e e s . T h e R a i d e r s c u t t h e r o s t e r t o 4 5 . P S ! ” 9 . B o b c a n ’ t c u t t h e m u s t a r d . 1 0 . C u t t h e c a c k l e i 1 1 . C u t i t o u t ! 1 4 . R o u g h l y , t h e s t r e n g t h e n e d n e c e s s a r y c o n d i t i o n o f a m b i g u i t y i s t h a t t h e r e b e p l a u s i b l y s e m a n t i c a l l y s p e c i f i e d d i f f e r e n c e s i n u n d e r s t a n d i n g b e t w e e n t h e u s a g e s i n q u e s t i o n ; a n d , r o u g h l y , a s u f f i c i e n t c o n d i t i o n f o r a m b i g u i t y w o u l d b e t h a t t h e r e b e n o t p l a u s i b l y s e m a n t i c a l l y u n s p e c i f i e d d i f f e r e n c e s o f u n d e r s t a n d i n g b e t w e e n t h e u s a g e s . 2 2 1 S e a r l e t a k e s i t a s " m o r e o r l e s s i n t u i t i v e l y o b v i o u s “ ( S e a r l e 1 9 8 0 d , p . 2 2 1 ) t h a t “ t h e o c c u r r e n c e o f t h e w o r d ‘ c u t ‘ i n t h e u t t e r a n c e s o f 1 - 5 i s l i t e r a l " ( 1 9 8 0 d , p . 2 2 1 ) a n d t h a t “ t h e s e n s e o r s e n s e s i n w h i c h “ c u t " w o u l d b e u s e d i n t h e u t t e r a n c e s o f 6 - 8 , " o n t h e o t h e r h a n d , " i s a f i g u r a t i v e e x t e n s i o n o f t h e l i t e r a l m e a n i n g i n 1 - 5 “ ( S e a r l e 1 9 8 0 d , p . 2 2 2 ) . i n 9 - 1 1 “ t h e o c c u r r e n c e s o f t h e w o r d ‘ c u t ’ a r e c l e a r l y i n i d i o m s “ - - t h e s e w i l l n o t c o n c e r n u s . T h e m a i n p r o b l e m w h i c h S e a r l e c o n s i d e r s i s h o w j u s t i f y t h e d i s t i n c t i o n b e t w e e n t h e f i r s t g r o u p ( 1 - 5 ) a n d t h e s e c o n d g r o u p ( 6 8 ) “ i f s o m e o n e w a n t e d t o d e n y i t “ ( S e a r l e , 1 9 8 0 d , p . 2 2 2 ) . S e a r l e p r o p o s e s , t h a t t h e d i s t i n c t i o n b e t w e e n t h e l i t e r a l u s e o f " c u t “ i n 1 - 5 a n d i t s f i g u r a t i v e e m p l o y m e n t i n 6 - 8 c a n b e m a d e o u t b y f o u r d i f f e r e n t t e s t s . 1 5 T h e y a r e : P r i o r i t y o r A s y m m e t r i c a l D e p e n d e n c e o f U n d e r s t a n d i n g : ' A p e r s o n w h o d o e s n ’ t u n d e r s t a n d 6 - 8 , b u t s t i l l u n d e r s t a n d s 1 - 5 , u n d e r s t a n d s t h e l i t e r a l m e a n i n g o f t h e w o r d " c u t ‘ ; w h e r e a s a p e r s o n w h o d o e s n o t u n d e r s t a n d 1 - 5 d o e s n o t u n d e r s t a n d t h a t l i t e r a l m e a n i n g ; a n d w e a r e i n c l i n e d t o s a y h e c o u l d n ’ t f u l l y u n d e r s t a n d t h e m e a n i n g o f " c u t ‘ i n 6 8 i f h e d i d n ’ t u n d e r s t a n d t h e m e a n i n g i n 1 - 5 . “ ( S e a r l e 1 9 8 0 d , p . 2 2 2 ) - T r a n s l a t i o n : " I n g e n e r a l , 1 5 t r a n s l a t e e a s i l y i n t o o t h e r l a n g u a g e s ; 6 - 1 1 d o n o t . " ( S e a r l e 1 9 8 0 d , p . 2 2 2 ) C o n j u n c t i o n R e d u c t i o n : “ c e r t a i n s o r t s o f c o n j u n c t i o n r e d u c t i o n s w i l l w o r k f o r 1 - 5 t h a t w i l l n o t w o r k f o r t h e n e x t g r o u p . F o r e x a m p l e , 1 5 . A t l e a s t t w o o f S e a r i e ’ s t e s t s , c o n j u n c t i o n r e d u c t i o n a n d c o m p a r a t i v e f o r m a t i o n a r e a l s o f o u n d i n Z w i c k y a n d S a d o c k , a l o n g w i t h a n u m b e r o f t e s t s n o t f o u n d i n S e a r l e . F o r m y a r g u m e n t a t i v e p u r p o s e s h e r e , i o n l y c o n s i d e r t h e t e s t s S e a r l e h i m s e l f p r o p o s e s , t h o u g h i b e l i e v e n o n e o f t h e a d d i t i o n a l t e s t s Z w i c k y a n d S a d o c k m e n t i o n w i l l d i s t i n g u i s h a d i f f e r e n c e i n s e n s e ( o r a m b i g u i t y o f u s a g e ) i n t h e c a s e s u n d e r c o n s i d e r a t i o n e i t h e r - - e . g . , b e t w e e n t h e s e n s e o f " c o n s i d e r e d “ i n “ D e e p t h o u g h t c o n s i d e r e d v a r i o u s c o n t i n u a t i o n s o f p l a y “ a n d " K a r p o v c o n s i d e r e d v a r i o u s c o n t i n u a t i o n s . “ R i c h H a l l n o t e s t h e s i m i l a r i t y o f t h e f i r s t “ A s s y m e t r i c a l d e p e n d e n c e “ t e s t t o p r o p o s a l s o f F o d o r ( c f . F o d o r 1 9 9 0 , c h a p t . 4 ) . T h e o r i g i n a l s o u r c e o f t h i s t e s t m a y b e W i t t g e n s t e i n ’ s d i s c u s s i o n o f p r i m a r y “ a n d " s e c o n d a r y “ s e n s e s o f w o r d s , t h o u g h ( u n l i k e S e a r l e ) W i t t g e n s t e i n m a i n t a i n s t h e “ s e c o n d a r y s e n s e [ d i s t i n g u i s h e d b y t h i s t e s t ] i s n o t a ‘ m e t a p h o r i c a l ’ s e n s e " ( W i t t g e n s t e i n 1 9 5 8 , l l x i , p . 2 1 6 ) . 2 2 2 1 2 . G e n e r a l E l e c t r i c h a s j u s t a n n o u n c e d t h e d e v e l o p m e n t o f a n e w c u t t i n g m a c h i n e t h a t c a n c u t g r a s s , h a i r , c a k e s , s k i n , a n d c l o t h . B u t i f I a d d t o t h i s , a f t e r t h e w o r d “ c l o t h “ , t h e e x p r e s s i o n , f r o m 6 8 , “ c l a s s e s , s a l a r i e s , a n d r o s t e r s “ , t h e s e n t e n c e b e c o m e s a t b e s t a b a d j o k e a n d a t w o r s t a c a t e g o r y m i s t a k e . ( S e a r l e 1 9 8 0 d , p . 2 2 2 ) C o m p a r a t i v e F o r m a t i o n : t h e f a c t t h a t w e c a n f o r m s o m e c o m p a r a t i v e s s u c h a s , ” B i l l c u t m o r e o f f t h e g r a s s t h a n t h e b a r b e r d i d o f f T o m ’ s h a i r “ , i s f u r t h e r e v i d e n c e t h a t w e a r e n o t d e a l i n g w i t h a m b i g u i t y a s i t i s t r a d i t i o n a l l y c o n c e i v e d . ( S e a r l e 1 9 8 0 d , p . 2 2 4 ) N o w l e t u s p u t o u r p r o b l e m a t i c c l a s s o f m e n t a l p r e d i c a t i o n s o f m a c h i n e s t o t h e s e t e s t s S e a r l e p r o p o s e s , t o s e e h o w w e l l t h e y w a r r a n t t h e j u d g m e n t t h a t s u c h u s a g e s a r e f i g u r a t i v e l i k e t h e u s e s o f “ c u t “ i n 6 8 “ F i r s t , a s r e g a r d s T r a n s l a t i o n : i b e l i e v e i t i s m a n i f e s t l y f a l s e t h a t s t a t e m e n t s l i k e “ D e e p T h o u g h t c o n s i d e r s p o s s i b l e c o n t i n u a t i o n s o f p l a y , “ “ D O S r e c o g n i z e s t h e d i r c o m m a n d , “ “ M y p o c k e t c a l c u l a t o r c a l c u l a t e s t h a t t h e s q u a r e r o o t o f 2 i s 1 . 4 1 4 2 1 3 5 , " a n d t h e l i k e , a r e p a r t i c u l a r l y d i f f i c u l t t o t r a n s l a t e i n t o o t h e r l a n g u a g e s . C o m p u t e r m a n u a l s , w h i c h ( a s a l r e a d y n o t e d ) h e l p t h e m s e l v e s g e n e r o u s l y t o l o c u t i o n s o f t h i s s o r t , a r e p u b l i s h e d i n ( a n d t r a n s l a t e d t o a n d f r o m ) E n g l i s h , J a p a n e s e , F r e n c h , G e r m a n , e t c . B y t h e t r a n s l a t i o n t e s t , i t s e e m s a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o c o m p u t e r s , a s i n c o m p u t e r m a n u a l s , a r e l i t e r a l a n d n o t f i g u r a t i v e . N e x t c o n s i d e r C o m p a r a t i v e F o r m a t i o n : t h e f a c t t h a t w e c a n f o r m c o m p a r a - t i v e s s u c h a s “ D e e p T h o u g h t c o n s i d e r s m o r e c o n t i n u a t i o n s t o a g r e a t e r d e p t h t h a n i t s h u m a n o p p o n e n t “ a n d , “ M y p o c k e t c a l c u l a t o r e x t r a c t s s q u a r e r o o t s m o r e 1 6 . i t w i l l n o t d o - - i t i s j u s t q u e s t i o n b e g g i n g - t o s a y “ i t ’ s a c a t e g o r y m i s t a k e t o a t t r i b u t e m e n t a l p r o p e r t i e s t o i n a n i m a t e t h i n g s , b e c a u s e m e n t a l p r e d i c a t e s a r e s e m a n t i c a l l y m a r k e d a s r e q u i r i n g a n i m a t e s u b j e c t s . " 2 2 3 q u i c k l y a n d a c c u r a t e l y t h a n i " a r g u e s a s s t r o n g l y t h a t “ w e a r e n o t d e a l i n g w i t h a m b i g u i t y a s i t i s t r a d i t i o n a l l y c o n c e i v e d " ( S e a r l e 1 9 8 0 d , p . 2 2 4 ) h e r e a s i t a r g u e d t h a t w e w e r e n o t u s i n g “ c u t " a m b i g u o u s l y w h e n w e s p o k e o f B i l l c u t t i n g t h e l a w n a n d t h e b a r b e r c u t t i n g T o m ’ s h a i r b e c a u s e w e c o u l d f o r m t h e c o m p a r i s o n " B i l l c u t m o r e o f f t h e l a w n t h a n t h e b a r b e r o f f T o m ’ s h a i r " ( w i t h o u t o r m a k i n g a " b a d j o k e " o r a c a t e g o r y m i s t a k e ) . A s f o r C o n j u n c t i o n R e d u c t i o n - - h e r e a g a i n t h e t e s t s e e m s t o s u p p o r t t h e v e r d i c t t h a t t h e u s a g e s a t i s s u e a r e l i t e r a l a n d n o t f i g u r a t i v e . C o n s i d e r t h e s e n t e n c e , “ K a r p o v c o n s i d e r e d t h e p o s s i b l e c o n t i n u a t i o n Q x R c h e c k . “ i f I a d d “ a n d s o d i d D e e p T h o u g h t , " t h e r e i s n o z e u g m a : t h e r e s u l t i n g s e n t e n c e i s n e i t h e r a j o k e n o r a c a t e g o r y m i s t a k e . T h e C o m p a r a t i v e F o r m a t i o n a n d C o n j u n c t i o n R e d u c t i o n t e s t s , y o u m i g h t s a y , a r e t e s t s t h a t e n a b l e u s t o " h e a r “ a m b i g u i t y a s z e u g m a o r p u n n i n g ( “ a b a d j o k e “ ) . T h u s t h e h u m o r o u s i m p r e s s i o n m a d e b y a c o n j u n c t i o n r e d u c t i o n l i k e “ S h e c a m e h o m e i n a f l o o d o f t e a r s a n d a s e d a n c h a i r “ r e v e a l s a n a m b i g u i t y o f “ i n “ b e t w e e n t h e s e n t e n t i a l c o n t e x t , “ S h e c a m e h o m e i n a f l o o d o f t e a r s “ a n d t h e s e n t e n t i a l c o n t e x t “ S h e c a m e h o m e i n a s e d a n c h a i r . “ A l l o f R y l e ’ s e x a m p l e s o f c a t e g o r y m i s t a k e s ( R y l e 1 9 4 9 , p p . 1 6 f ) - - e . g . , s o m e o n e w h o , a f t e r h a v i n g b e e n s h o w n t h e L i b r a r y a n d t h e A d m i n i s t r a t i o n B u i l d i n g a n d a l l t h e r e s t o f t h e c a m p u s a n d b u i l d i n g s p r o c e e d s t o c o m p l a i n o f n o t h a v i n g b e e n s h o w n t h e U n i v e r s i t y , a s p r o m i s e d - - h a v e t h i s " b a d j o k e " q u a l i t y a l s o . U n l i k e “ G E ’ s n e w c u t t i n g m a c h i n e c u t s c l o t h a n d s a l a r i e s , " i h e a r n o p u n n i n g o r p l a y o n w o r d s ( o r 2 2 4 o t h e r w i s e h a v e a n y i n t u i t i o n o f s e m a n t i c a n o m a l y ) i n " K a r p o v c o n s i d e r e d t h e c o n t i n u a t i o n Q x R c h e c k , a n d s o d i d D e e p T h o u g h t . " 1 7 W h i c h l e a v e s o n l y P r i o r i t y o r A s y m m e t r i c a l D e p e n d e n c e o f U n d e r s t a n d i n g : t h i s t e s t y i e l d s n o f i r m v e r d i c t a g a i n s t t h e l i t e r a l n e s s o f t h e a t t r i b u t i o n s i n q u e s t i o n e i t h e r . W h e r e t h e o t h e r t h r e e t e s t s a p p e a l b e y o n d o u r o r i g i n a l i n t u i t i o n s , e i t h e r t o e m p i r i c a l f a c t s o f t r a n s l a t a b i l i t y o r t o s p e c i a l c o m p a r a t i v e o r c o n j u n c t i v e c o n t e x t s w h e r e a m b i g u i t i e s c a n b e h e a r d a s z e u g m a o r p u n n i n g , t h e u n d e r s t a n d i n g t e s t d o e s n o t s e e m t o e x t e n d o u r o r i g i n a l i n t u i t i o n s . T h u s , i f y o u r o r i g i n a l i n t u i t i o n , l i k e S e a r i e ’ s , i s t h a t m e n t a l p r e d i c a t i o n s o f c o m p u t e r s a r e f i g u r a t i v e a n d e q u i v o c a l , y o u r i n t u i t i o n w i l l b e t h a t s o m e o n e w h o d i d n ’ t k n o w h o w t o m a k e s u c h p r e d i c a t i o n s o f p e o p l e b u t o n l y k n e w h o w t o a s c r i b e t h e s e p r e d i c a t e s t o m a c h i n e s w o u l d " n o t u n d e r s t a n d t h e l i t e r a l m e a n i n g " o f t h e p r e d i c a t e s , a n d y o u m i g h t i n c l i n e t o t h i n k t h a t s o m e o n e w h o h a d n ’ t f i r s t l e a r n e d h o w t o m a k e s u c h p r e d i c a t i o n s o f p e o p l e “ c o u l d n ’ t f u l l y u n d e r s t a n d “ t h e i r m e a n i n g a p p l i e d t o c o m p u t e r s e i t h e r . i f y o u d o n ’ t s h a r e S e a r i e ’ s o r i g i n a l i n t u i t i o n , y o u w o n ’ t s h a r e t h e s e o t h e r “ i n t u i t i o n s “ e i t h e r . T h e o t h e r t e s t s h a v e a d e g r e e o f t h e o r y n e u t r a l i t y o u r “ i n t u i t i o n s “ a b o u t p r i o r i t y a n d a s y m m e t r i c a l d e p e n d e n c e o f u n d e r s t a n d i n g s e e m t o l a c k . S e a r l e h i m s e l f p r e s e n t s t h e U n d e r s t a n d i n g T e s t a s c o n t i n u o u s w i t h h i s i n i t i a l i n t u i t i v e d e m a r c a t i o n o f l i t e r a l , f i g u r a t i v e , a n d i d i o m a t i c u s e s ( S e a r l e 1 9 8 0 d , p . 2 2 1 - 2 2 2 ) , a n d s e e m s t o a d m i t i t s i n d e c i s i v e n e s s i n t h i s c o n n e c t i o n . T h e o t h e r t h r e e t e s t s a r e w h a t c o m e i n w h e n t h e d i s t i n c t i o n b e t w e e n t h e l i t e r a l u s e s a n d t h e 1 7 . " G E " i s t h e r e g i s t e r e d t r a d e m a r k o f G e n e r a l E l e c t r i c . 2 2 5 f i g u r a t i v e u s e s i s n ’ t s o o b v i o u s a s i t i s ( a s S e a r l e p o i n t s o u t ) i n t h e " c u t “ e x a m p l e s . T h e o t h e r t h r e e t e s t s c o m e i n “ i f s o m e o n e w a n t e d t o d e n y “ ( S e a r l e 1 9 8 0 d , p . 2 2 2 ) y o u r i n i t i a l i n t u i t i o n s ( a s l d e n y S e a r i e ’ s “ i n t u i t i o n s " a b o u t t h e f i g u r a t i v e n e s s o f m e n t a l a t t r i b u t i o n s t o c o m p u t e r s ) . A n d t h e v e r d i c t t h e s e t e s t s r e n d e r i n t h i s c a s e - - i n t h e c a s e o f s u c h m e n t a l a t t r i b u t i o n s a s S e a r l e w o u l d d e e m f i g u r a t i v e ( a n d e q u i v o c a l ) , w h i c h i d e e m l i t e r a l ( a n d u n e q u i v o c a l ) - - i s u n e q u i v o c a l . A g a i n , i t s e e m s t h a t t h e c l a i m b e i n g m a d e b y t h e U n d e r s t a n d i n g T e s t i s n o t j u s t , t h a t a s a m a t t e r o f e m p i r i c a l f a c t , p e o p l e l e a r n ( o r e v e n , a s a m a t t e r o f c a u s a l n e c e s s i t y m u s t l e a r n ) t o a p p l y t h e p r e d i c a t e s i n q u e s t i o n t o o t h e r p e o p l e b e f o r e t h e y c a n a p p l y t h e m t o m a c h i n e s . i s u p p o s e i t i s a n u n c o n t e s t a b l e m a t t e r o f f a c t t h a t p e o p l e d o l e a r n t o a p p l y m e n t a l p r e d i c a t e s t o p e o p l e b e f o r e t h e y c o m e t o a p p l y t h e m t o m a c h i n e s . B u t t o s e e t h a t t h i s i s i n s u f f i c i e n t t o s h o w t h a t t h e f o r m e r a t t r i b u t i o n s a r e l i t e r a l a n d t h e l a t t e r m e r e l y f i g u r a t i v e c o n s i d e r - - w h a t I a l s o s u p p o s e i s a n i n c o n t r o v e r t i b l e m a t t e r o f f a c t - t h a t w e l e a r n t o a p p l y t h e s e p r e d i c a t e s t o p e o p l e b e f o r e w e c o m e t o a p p l y t h e m t o d o g s a n d c a t s ( f o r i n s t a n c e ) ; y e t m o s t o f u s w o u l d a l l o w ( a n d S e a r l e i n p a r t i c u l a r a l l o w s ) t h a t m a n y m e n t a l p r e d i c a t i o n s t o d o g s a n d c a t s a r e t r u e l i t e r a l p r e d i c a t i o n s . A s a m a t t e r o f f a c t , i s u p p o s e , p e o p l e l e a r n t o a p p l y t h e w o r d " e a t “ t o p e o p l e b e f o r e t h e y l e a r n t o a p p l y i t t o o t h e r a n i m a l s , b u t n o o n e w o u l d e v e r t a k e t h i s t o a r g u e “ e a t " i s b e i n g u s e d f i g u r a t i v e l y i n " C a t s e a t b i r d s . “ F i n a l l y , t h e r e ’ s t h e v a g a r y o f S e a r i e ’ s c l a i m s t h a t “ a p e r s o n w h o d i d n o t u n d e r - s t a n d 1 - 5 d o e s n o t u n d e r s t a n d t h a t l i t e r a l m e a n i n g " a n d , " h e c o u l d n ’ t f u l l y u n d e r s t a n d t h e m e a n i n g i n 6 8 i f h e d i d n ’ t u n d e r s t a n d t h e m e a n i n g i n 1 - 5 . “ ( S e a r l e 2 2 6 1 9 8 0 d , p . 2 2 2 ) . S u r e l y s o m e o n e n e e d n ’ t b e c o n v e r s a n t w i t h a l l t h e d i f f e r e n t u n d e r s t a n d i n g s o r s e t s o f t r u t h c o n d i t i o n s d e t e r m i n e d b y a l l t h e s e u s e s ( 1 - 5 ) ( a n d p e r h a p s n o t w i t h a n y o f t h e s e p a r t i c u l a r u s e s o r u n d e r s t a n d i n g s ) t o r i g h t l y b e s a i d t o u n d e r s t a n d t h e l i t e r a l m e a n i n g o f “ c u t “ a n d t o b e a b l e t o l i t e r a l l y a n d f i g u r a t i v e l y e x t e n d i t . " 3 S u r e l y o n e c a n b e a c o m p e t e n t u s e r o f " c u t “ w i t h o u t k n o w i n g a b o u t l a w n c u t t i n g a n d h a i r c u t t i n g a n d c a k e c u t t i n g - - i s u p p o s e m o s t o f u s k n e w w h a t “ c u t “ m e a n s f u l l w e l l b e f o r e w e e v e r h e a r d o f d i a m o n d c u t t i n g . S i m i l a r l y , p e o p l e k n e w w h a t “ s p l i t “ m e a n t ( a n d i t m e a n t t h e s a m e a s i t d o e s n o w ) b e f o r e t h e y e v e r h e a r d o f s p l i t t i n g a t o m s ; a n d I s u p p o s e m a n y c o m p e t e n t E n g l i s h s p e a k e r s s t i l l h a v e n ’ t h e a r d o f s p l i t t i n g a t o m s , a n d m o s t E n g l i s h s p e a k e r s w o u l d b e i n c o m p e t e n t t o r e c o g n i z e a c a s e o f a t o m s p l i t t i n g i f t h e y e n c o u n t e r e d o n e . A g a i n , i s u p p o s e a s a m a t t e r o f e m p i r i c a l f a c t ( a n d p e r h a p s o f n o m o l o g i c a l n e c e s s i t y ) n o o n e l e a r n s w h a t i t m e a n s t o s p l i t a t o m s w i t h o u t h a v i n g p r e v i o u s l y u n d e r s t o o d w h a t i t m e a n t t o s p l i t l o g s , p o k e r p o t s , e t c . ; a n d , a g a i n , i s u p p o s e t h i s h a s n o t e n d e n c y t o s h o w t h a t " S p l i t “ i s u s e d f i g u r a t i v e l y i n t a l k o f “ s p l i t t i n g a t o m s . " I c o n c l u d e t h a t n o n e o f t h e f o u r a m b i g u i t y t e s t s S e a r l e p r o p o s e s w a r r a n t s a n y j u d g m e n t o f f i g u r a t i v e n e s s , o r s u p p o r t s a c h a r g e o f a m b i g u i t y , a g a i n s t m e n t a l a t t r i b u t i o n s t o c o m p u t e r s . T h e U n d e r s t a n d i n g T e s t i s t o o t h e o r y d e p e n d e n t t o 1 8 . " T h e f e a t u r e o f t h i s l i s t w h i c h i n t e r e s t s m e f o r p r e s e n t p u r p o s e s , a n d w h i c h i w i l l t r y t o e x p l a i n i s t h i s . T h o u g h t h e o c c u r r e n c e o f t h e w o r d ‘ c u t ’ i s l i t e r a l i n u t t e r a n c e s o f 1 - 5 , a n d t h o u g h t h e w o r d i s n o t a m b i g u o u s , i t d e t e r m i n e s d i f f e r e n t s e t s o f t r u t h c o n d i t i o n s f o r t h e d i f f e r e n t s e n t e n c e s . T h e s o r t o f t h i n g t h a t c o n s t i t u t e s c u t t i n g t h e g r a s s i s q u i t e d i f f e r e n t f r o m , e . g . , t h e s o r t o f t h i n g t h a t c o n s t i t u t e s c u t t i n g a c a k e . " ( S e a r l e 1 9 8 0 d , p . 2 2 2 - 2 2 3 ) C o m p a r e S e a r i e ’ s n o t i o n o f " d i f f e r e n t s e t s o f t r u t h c o n d i t i o n s f o r t h e d i f f e r e n t s e n t e n c e s " w i t h Z w i c k y a n d S a d o c k ’ s n o t i o n o f d i f f e r e n t u n d e r s t a n d i n g s , e a c h " c o r r e s p o n d i n g t o a c l a s s o f c o n t e x t s i n w h i c h t h e l i n g u i s t i c e x p r e s s i o n i s a p p r o p r i a t e . " ( Z w i c k y & S a d o c k , 1 9 7 5 , p . 3 , n . 9 . S e e n o t e 1 2 a b o v e ) 2 2 7 s e r v e a s a c h e c k o n ( e q u a l l y t h e o r y d e p e n d e n t ) i n t u i t i o n s a b o u t f i g u r a t i v e n e s s a n d l i t e r a l n e s s o f d i f f e r e n t p r e d i c a t i o n s . T h e m o r e t h e o r y n e u t r a l t e s t s o f T r a n s l a t i o n , C o n j u n c t i o n R e d u c t i o n , a n d C o m p a r a t i v e F o r m a t i o n , o n t h e o t h e r h a n d , a l l t e l l i n f a v o r o f t h e l i t e r a l n e s s a n d u n i v o c a l i t y o f t h e p r e d i c a t i o n s i n q u e s t i o n . 1 9 I f S e a r i e ’ s C h i n e s e R o o m E x p e r i m e n t m o t i v a t e s a n d l i c e n s e s a s e m a n t i c d i s t i n c t i o n b e t w e e n “ a s - i f " a n d " i n t r i n s i c " a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s i t w i l l h a v e t o d o s o i n o p p o s i t i o n t o , a n d n o t i n a g r e e m e n t w i t h , t h e s e m a n t i c i n t u i t i o n s t a p p e d b y C o n j u n c t i o n R e d u c t i o n a n d C o m p a r a t i v e F o r m a t i o n t e s t s . 8 . T h e B o g e y o f P a n p s y c h i s m B e s i d e s “ i n t u i t i o n s “ e v o k e d o r “ i n s i g h t s e s t a b l i s h e d “ b y h i s C h i n e s e R o o m E x p e r i m e n t , S e a r l e o f f e r s a n o t h e r m o t i v e f o r a c c e p t i n g t h e d i s t i n c t i o n b e t w e e n r e a l “ i n t r i n s i c “ a n d m o r e “ a s - i f “ i n t e n t i o n a l i t y o r m e n t a l a t t r i b u t i o n h e p r o p o s e s : a v o i d a n c e o f p a n p s y c h i s m . T h e p r o p o n e n t o f n a i v e A l ( o r a n y a d v o c a t e o f S A I P , I s u p p o s e ) , a c c o r d i n g t o S e a r l e , m u s t b e h a u n t e d b y t h i s s p e c t e r : i f w e a l l o w t h a t c o m p u t e r s l i t e r a l l y h a v e m e n t a l a t t r i b u t e s , t h e n w h y n o t w a t e r a n d w i n d ? S i n c e “ r e l a t i v e t o s o m e p u r p o s e o r o t h e r a n y t h i n g c a n b e t r e a t e d a s i f i t w e r e m e n t a l " ( S e a r l e 1 9 8 9 , p . 1 9 8 ) , S e a r l e w a r n s , w e m u s t d i s t i n g u i s h l i t e r a l a s c r i p t i o n s o f “ i n t r i n s i c “ m e n t a l s t a t e s t o h u m a n s a n d v a r i o u s a n i m a l s f r o m m e t a p h o r i c a l “ a s - i f “ a t t r i b u t i o n s w e m a k e t o c o m p u t e r s b e c a u s e " t h e p r i c e f o r g i v i n g t h i s d i s t i n c t i o n u p w o u l d b e t h a t e v e r y t h i n g t h e n b e c o m e s m e n t a l “ ( S e a r l e 1 9 8 9 , p . 1 9 8 ) . A g a i n : “ I f 1 9 . O f c o u r s e s o m e m e n t a l a t t r i b u t i o n s t o c o m p u t e r s a r e f i g u r a t i v e - - a s s o m e m e n t a l a t t r i b u t i o n s t o h u m a n s , I s u p p o s e , a r e a l s o . I f i s a y " D O S e r a s e d a l l m y f i l e s b e c a u s e i t h a t e s m e " t h a t ’ s m e t a p h o r i c a l ; w h e n I s a y " D O S r e c o g n i z e s t h e ‘ D I R ’ c o m m a n d " t h a t ’ s d i f f e r e n t . 2 2 8 y o u d e n y t h e d i s t i n c t i o n t h e n i t t u r n s o u t t h a t e v e r y t h i n g i n t h e u n i v e r s e h a s i n t e n t i o n a l i t y “ ( S e a r l e 1 9 9 0 1 , p . 5 8 6 ) . l h a v e t w o p r o b l e m s w i t h t h i s . T h e f i r s t i s t h a t i t d o e s n ’ t f o l l o w f r o m t h e a l l o w a n c e t h a t s o m e c o m p u t e r s s o m e t i m e s h a v e m e n t a l p r o p e r t i e s n o r f r o m t h e d e n i a l o f S e a r i e ’ s p r o p r i e t a r y n o t i o n o f " a s - i f i n t e n t i o n a l i t y " t h a t “ e v e r y t h i n g b e c o m e s m e n t a l “ : i t o n l y f o l l o w s f r o m t h e f i r s t t h a t t h e c o n j e c t u r e t h a t “ N o i n a n i m a t e t h i n g s h a v e m e n t a l p r o p e r t i e s “ m u s t b e r e j e c t e d . B u t i t n e e d n ’ t f o l l o w f r o m t h i s e i t h e r t h a t t h e r e ’ s n o s u c h t h i n g a s " a s - i f i n t e n t i o n a l i t y “ i n S e a r i e ’ s p r o p r i e t a r y s e n s e o f t h e p h r a s e ( t h o u g h , I t h i n k , t h e r e i s n ’ t ) ; n o r d o e s i t f o l l o w f r o m t h i s i n t u r n ( i f o n e d i d r e j e c t S e a r i e ’ s p r o p r i e t a r y d i s t i n c t i o n b e t w e e n r e a l “ i n t r i n s i c i n t e n t i o n a l i t y " a n d c o u n t e r f e i t " a s - i f i n t e n t i o n a l i t y " - - a s i d o ) t h a t a l l i n a n i m a t e t h i n g s h a v e m e n t a l p r o p e r t i e s . P e r h a p s s o m e c o m p u t e r s d o , b u t " d o o r k n o b s , b i t s o f c l o t h , a n d s h i n g l e s “ ( S e a r l e 1 9 9 0 9 , p . 6 3 5 ) s t i l l d o n ’ t . T o m y w a y o f t h i n k i n g , d o o r k n o b s , b i t s o f c l o t h , a n d s h i n g l e s d o n ’ t e v e n a c t a s i f t h e y h a v e m e n t a l p r o p e r t i e s , w h i c h i s w h y w e a r e n o t t e m p t e d t o a n d w o u l d n o t f i n d i t p r e d i c t i v e l y a d v a n t a g e o u s t o a t t r i b u t e a n y m e n t a l p r o p e r t i e s t o t h e m : w h e r e a s , i n t h e c a s e o f c o m p u t e r s , w e a r e t e m p t e d ( i f n o t c o m p e l l e d ) a n d d o f i n d i t p r e d i c t i v e l y a d v a n t a g e o u s ( e v e n p r a c t i c a l l y i n d i s p e n s a b l e ) t o d o s o . M y s e c o n d m i s g i v l n g i s t h a t e v e n i f t h e d e n i a l o f a ( s e m a n t i c ) d i s t i n c t i o n b e t w e e n “ i n t r i n s i c " a n d “ a s - i f " i n t e n t i o n a l i t y d i d e n t a i l p a n p s y c h i s m ( w h i c h i t d o e s n ’ t ) - - t h i s w o u l d n o t b e a f a t a l o b p c t i o n , b e c a u s e p a n p s y c h i s m ( t h o u g h c o n t r a r y t o r e c e i v e d v i e w s i n C h r i s t e n d o m ) i s n o t t h e a b s u r d i t y S e a r l e ( 1 9 9 0 1 , p . 5 8 7 ) a l l e g e s i t t o b e . I w i l l a d d r e s s t h i s s e c o n d p o i n t , t h a t t h e c o n c l u s i o n o f S e a r i e ‘ s “ g e n e r a l r e d u c t i o a d 2 2 9 a b s u r d u m “ o f " a n y a t t e m p t t o d e n y t h e d i s t i n c t i o n b e t w e e n i n t r i n s i c a n d a s - i f i n t e n t i o n a l i t y " ( S e a r l e 1 9 9 0 f , p . 5 8 7 ) i s n o t a b s u r d , f i r s t . C o n c e r n i n g t h e a l l e g e d a b s u r d i t y o f p a n p s y c h i s m - - I s t a r t b y r e i t e r a t i n g m y a v e r s i o n t o a r g u i n g f r o m s w e e p i n g m e t a p h y s i c a l a s s u m p t i o n s t o m o r e p a r t i c u l a r c o n c l u s i o n s . T h e p o l i c y o f a l l o w i n g e x a l t e d m e t a p h y s i c a l s p e c u l a t i o n s t o o v e r t u r n m o r e p a r t i c u l a r j u d g m e n t s o f f a c t i s g e n e r a l l y s u s p e c t b e c a u s e g r a n d m e t a p h y s i c a l h y p o t h e s e s a r e g e n e r a l l y m o r e d u b i o u s t h a n m o r e p a r t i c u l a r j u d g m e n t s p e o p l e w a n t t o u s e t h e m t o o v e r r u l e . I f p a r t i c u l a r j u d g m e n t s a r e s u p p o s e d t o c o n f i r m o r d i s c o n f i r m o u r m e t a p h y s i c a l s p e c u l a t i o n s , w e c a n n o t s y s t e m a t i c a l l y a l l o w o u r s p e c u l a t i v e m e t a p h y s i c a l c o n v i c t i o n s t o s y s t e m a t i c a l l y o v e r r i d e o u r i n t u i t i o n s a b o u t p a r t i c u l a r c a s e s . T h e p r i n c i p l e o f n a i v e t é s h o u l d l e a d u s t o r e j e c t t h e s t y l e o f a r g u m e n t a t i o n i n s t a n c e d b y S e a r i e ’ s w o u l d - b e r e d u c t i o a d a b s u r d u m , S A I P - r P A N P S Y C H I S M - P A N P S Y C H | S M - S A I P n o l e s s t h a n t h e f o l l o w i n g w o u l d b e d e f e n s e o f A l : 2 0 P A N P S Y C H I S M 4 S A I P P A N P S Y C H I S M S A I P S i n c e S e a r l e d o e s a r g u e i n t h i s m a n n e r , h o w e v e r , i w i l l s a y a w o r d o r t w o i n d e f e n s e o f t h e t e n a b i l i t y ( t h e n o n a b s u r d i t y , i f n o t t h e t r u t h ) o f p a n p s y c h i s m . 2 0 . T h a n k s t o G e n e C l i n e f o r c l a r i f y i n g m y t h i n k i n g o n t h i s p o i n t . I s u b m i t i t i s j u s t a s i l l a d v i s e d t o a r g u e f r o m t h e ( p r e s u m e d ) f a l s i t y o f p a n p s y c h i s m t o t h e c o n c l u s i o n t h a t c o m p u t e r s d o n ’ t h a v e m e n t a l p r o p e r t i e s , a s i t i s t o a r g u e f r o m t h e ( p r e s u m e d ) t r u t h o f p a n p s y c h i s m t o t h e c o n c l u s i o n t h a t t h e y d o . 2 3 0 C o n s i d e r t h e r a n g e o f p o s s i b l e v i e w s c o n c e r n i n g t h e e x t e n t o r d i s t r i b u t i o n o f m e n t a l p r o p e r t i e s i n t h e w o r l d : t h e y r a n g e f r o m e l i m i n a t i v i s m , t h e v i e w t h a t n o t h i n g h a s a n y m e n t a l p r o p e r t i e s ; t o s o l i p s l s m , t h e v i e w t h a t n o t h i n g b e s i d e s m e h a s a n y ; t o t h e C a r t e s i a n v i e w t h a t a l l a n d o n l y h u m a n s h a v e m e n t a l p r o p e r t i e s ( c a l l i t “ a n t h r o p i s m “ ) ; t o t h e v i e w t h a t a l l a n d o n l y a n i m a l s - - o r p e r h a p s j u s t c e r t a i n “ h i g h e r “ a n i m a l s - h a v e a n y m e n t a l p r o p e r t i e s ( w h i c h m i g h t b e c a l l e d “ z o o l o g i s m “ ) ; t o t h e v i e w t h a t a l l a n d o n l y l i v i n g t h i n g s h a v e m e n t a l p r o p e r t i e s ( w h i c h m i g h t b e c a l l e d “ b i o l o g i s m “ ) ; t o p a n p s y c h i c v i e w s t h a t a l l t h i n g s h a v e m e n t a l p r o p e r t i e s e i t h e r c o l l e c t i v e l y ( p a n t h e i s m ) , o r d i s t r i b u t i v e l y ( a n i m i s m ) . A m o n g t h e s e v i e w s , i t s e e m s o n l y e l i m i n a t i v i s m c a n p l a u s i b l y b e s a i d t o b e a b s u r d ( o r a t a n y r a t e , t o b e i m p o s s i b l e t o c o n s i s t e m l y b e l i e v e ) " 1 P e r h a p s S o l i p s i s m c a n b e d i s c o u n t e d a s a m e r e t h e o r e t i c a l p o s s i b i l i t y w h i c h i s p r a c t i c a l l y i m p o s s i b l e ( f o r p s y c h o l o g i c a l a n d s o c i o l o g i c a l r e a s o n s ) t o b e l i e v e . A l l t h e r e s t w o u l d s e e m t o b e n o t o n l y t h e o r e t i c a l l y b u t p r a c t i c a l l y l i v e a l t e r n a t i v e s . O f c o u r s e , C a r t e s i a n a n t h r o p i s m ( p e r h a p s f o r m e r l y ) o r s o m e f o r m o f z o o l o g i s m ( p e r h a p s p r e s e n t l y ) a r e t h e p r e v a l e n t p e r s u a s i o n s i n C h r i s t e n d o m ; b u t b o t h h i s t o r i c a l l y a n d a c r o s s c u l t u r e s t h e m o r e p r e v a l e n t p e r s u a s i o n a c t u a l l y s e e m s t o b e s o m e v e r s i o n o f p a n p s y c h i s m , w h e t h e r p a n t h e i s t i c ( a s i n s t a n c e d , e . g . , b y H i n d u i s m a n d B u d d h i s m ) , o r a n i m i s t i c ( a s i n s t a n c e d , e . g . , b y t h e b e l i e f s o f s h a m a n i s t i c , “ p r i m i t i v e r e l i g i o n s " ) . 2 1 . S e e , e . g . , B a k e r ( 1 9 8 7 ) f o r s u c h a n a r g u m e n t a g a i n s t e l i m i n a t i v i s m . S e e C h u r c h i a n d ( 1 9 8 0 , p . 4 8 ) f o r a d e f e n s e o f e l i m i n a t i v i s m a g a i n s t s u c h c h a r g e s . 2 3 1 G i v e n t h e r e a l p o s s i b i l i t y o f p a n p s y c h i s m , I s u b m i t , p a r t i c u l a r a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s - e . g . , t o o a k t r e e s , c o m p u t e r s , o r c o l l e c t i v e s - - c a n n o t b e d i s a l l o w e d j u s t b e c a u s e t h e y a r e j u d g e d t o b e c o n t r a r y t o a n t h r o p i s m o r z o o l o g i s m , o r t o “ o u r " ( C a r t e s i a n o r z o o l o g i s t i c ) “ i n t u i t i o n s . " A p p e a l s t o s u c h “ i n t u i t i o n s “ a s S e a r i e ’ s p u t a t i v e i n t u i t i o n s t h a t c o m p u t e r s l i k e c a r s a n d t h e r m o s t a t s ( 1 9 8 0 b ) , p l a n t s ( 1 9 9 0 9 ) , s t o m a c h s ( 1 9 9 0 f ) , l i k e “ d o o r k n o b s , b i t s o f c h a l k a n d s h i n g l e s “ ( 1 9 9 0 9 ) a r e “ n o t c o n s c i o u s a t a l l " ( 1 9 9 0 9 , p . 6 3 5 ) ( a n d h a v e n o m e n t a l p r o p e r t i e s w h a t s o e v e r ) a r e h i g h l y s u s p e c t . T h e s u s p i c i o n i s t h a t s u c h “ i n t u i t i o n s “ a r e c u l t u r a l l y p r o v i n c i a l a n d t h e o r y d r i v e n ( p e r h a p s t h e o l o g y l a d e n ) : b e t t e r t h e p a r t i c u l a r j u d g m e n t s o u r n a i v e a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o s u c h t h i n g s a s c o l l e c t i v e s , p l a n t s , a n d c o m p u t e r s r e v e a l s h o u l d i n f o r m o u r m e t a p h y s i c a l s m c u l a t i o n s t h a n t h a t o u r m e t a p h y s i c a l s p e c u l a t i o n s s h o u l d c e n s o r o u r p a r t i c u l a r j u d g m e n t s . i f i t ’ s i l l i c i t t o d i s c o u n t s u c h n a i v e a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s b y a p p e a l s t o g r a n d m e t a p h y s i c a l d o c t r i n e s ( o r t h e i r a t t e n d a n t “ i n t u i t i o n s " ) - - i f n a i v e i n t u i t i o n s , i n s t e a d , s h o u l d g o t o c o n f i r m o r d i s c o n f i r m o u r m e t a p h y s i c a l s p e c u l a t i o n s - t h e n , a s a m a t t e r o f f a c t , I s u b m i t , o u r n a i v e a t t r i b u t i o n s t o f e r n s ( w h i c h , w e t h i n k , s o m e t i m e s n e e d w a t e r i n g ) , a n d C r e d i t U n i o n s ( w h i c h , w e t r u s t , k n o w h o w m u c h i s i n o u r a c c o u n t s ) a s w e l l a s c o m p u t e r s ( w h i c h , w e s a y , " c a l c u l a t e , “ “ c o n s i d e r , " “ r e c o g n i z e , " e t c . ) , a r g u e f o r s o m e t h i n g l i k e p a n p s y c h i s m . C o n s i d e r t h e s l i p p e r y s l o p e ( o f l i f e - t o n n e a n d n o n - l i f e - f o r m s ) f r o m p r o f e s s o r t o p a p e r w e i g h t . I f y o u a r e c o n c e r n e d t o d r a w a l i n e t o r e s t r i c t t h e t y p e s o f t h i n g s t o w h i c h m e n t a l p r o p e r t i e s c a n b e a t t r i b u t e d , I s u b m i t t h a t y o u w i l l b e b e t t e r a d v i s e d t o d r a w i t , l i k e D e s c a r t e s , b e t w e e n p r o f e s s o r a n d ( i n f r a h u m a n ) p r i m a t e 2 3 2 t h a n a n y w h e r e e l s e . Y o u w i l l f i n d n o f i r m e r f o o t h o l d o n t h i s s l o p e , a n d n o b e t t e r p l a c e f o r d r a w i n g a p r i n c i p l e d l i n e b e t w e e n t h e m i n d e d a n d t h e m i n d l e s s , t h a n b e t w e e n h u m a n s a n d t h e i r n e a r e s t p r i m a t e r e l a t i o n s . ” S e a r i e ’ s c o m p a r i s o n o f c o n s c i o u s n e s s t o “ a r h e o s t a t “ ( S e a r l e 1 9 9 0 9 , p . 6 3 5 ) s u c h t h a t " t h e r e c a n b e a n i n d e f i n i t e r a n g e o f d i f f e r e n t d e g r e e s o f c o n s c i o u s n e s s , " g i v e n t h e c o n t i n u u m o f l i f e - f o r m s a n d n o n l l f e - f o r m s , s e e m s a p t : w h a t s e e m s l e s s a p t , o r l e s s m o t i v a t e d ( c o n s i d e r i n g t h i s c o n t i n u u m ) i s h i s c l a i m t h a t c o n s c i o u s n e s s “ i s a n o n / o f f s w i t c h " ( S e a r l e 1 9 9 0 9 , p . 6 3 5 ) . N o w I , f o r o n e , a m n o t t e r r i b l y c o n c e r n e d w i t h d r a w i n g a l i n e - i a m w i l l i n g ( c o n s o n a n t w i t h m y n a i v e m e t h o d o l o g i c a l p e r s u a s i o n s ) t o s a y “ m i n d i s w h e r e y o u f i n d i t “ ( a n d w e s e e m t o f i n d i t i n C r e d i t U n i o n s , o a k t r e e s , a n d c o m p u t e r s - - b u t n o t e v e r y w h e r e ) . I f t h i s i s p a n p s y c h i s m , i t i s w e a k p a n p s y c h i s m - - a k i n d o f a g n o s t i c r e j e c t i o n o f p r i o r o n t o l o g i c a l r e s t r i c t i o n s o n w h a t k i n d s o f t h i n g s c a n h a v e m e n t a l p r o p e r t i e s , o r o f p r i o r r e s t r a i n t s ( s e m a n t i c t y p e r e s t r i c t i o n s ) o n t h e s o r t o f t h i n g s o f w h i c h m e n t a l p r e d i c a t e s a r e u n i v o c a l l y p r e d i c a b l e . T h i s d o e s n o t c o m m i t m e t o t h e m e t a p h y s i c a l g e n e r a l i z a t i o n t h a t a l l t h i n g s h a v e m e n t a l p r o p e r t i e s ( w h i c h w e m i g h t c a l l “ s t r o n g p a n p s y c h i s m “ ) . M o s t p e o p l e i n C h r i s t e n d o m a r e , i r e a l i z e , m o r e a v e r s e t o p a n p s y c h i s m t h a n I a m . S o , i t i s f o r t u n a t e t h a t l n e e d n ’ t r e s t m y c r i t i c i s m o f S e a r i e ’ s a t t e m p t e d i n d i r e c t p r o o f o f t h e d i s t i n c t i o n b e t w e e n " a s - i f " a n d “ i n t r i n s i c “ m e n t a l i t y o n t h e p r e c e d i n g d e f e n s e o f ( t h e p l a u s i b i l i t y o f ) p a n p s y c h i s m ; b e c a u s e r e j e c t i o n o f 2 2 . M o s t o f w h a t S e a r l e s a y s s u g g e s t s t h a t t h e l i n e b e t w e e n t h i n g s h a v i n g m i n d s a n d m i n d l e s s t h i n g s c o r r e s p o n d s , f o r h i m , t o t h e l i n e b e t w e e n t h i n g s h a v i n g ( b i o l o g i c a l ) b r a i n s a n d b r a i n l e s s t h i n g s ( S e a r l e 1 9 8 0 a ; 1 9 8 2 b , p . 5 7 ) . A t a n y r a t e h e p l a i n l y r e c o g n i z e s t h a t f r o g s h a v e m e n t a l p r o p e r t i e s , a n d d o g s ( 1 9 7 9 b , p . 1 9 0 ) , t h o u g h h e ' s n o t s u r e a b o u t g r a s s h o p p e r s a n d f l e a s . ( 1 9 9 0 1 , p . 5 8 7 ) . 2 3 3 S e a r i e ’ s d i s t i n c t i o n h a s n o s u c h d r e a d f u l p a n p s y c h i c c o n s e q u e n c e s a s h e a l l e g e s . P e r h a p s t h e p r e c e d i n g r e m a r k s , s t y l i n g m y v i e w a s a k i n d o f a g n o s t i c i s m - - s o I d o n o t c o m m i t m y s e l f t o a n y g e n e r a l i z a t i o n s a b o u t t h e m e n t a l p r o p e r t i e s o f a l l i n a n i m a t e t h i n g s b y a l l o w i n g t h a t s o m e i n a n i m a t e t h i n g s ( e . g . , c e r t a i n c o m p u t e r s , r u n n i n g c e r t a i n p r o g r a m s ) h a v e t h e p a r t i c u l a r m e n t a l p r o p e r t i e s t h e y s e e m t o e v i n c e ( a n d w h i c h w e n a i v e l y a t t r i b u t e t o t h e m ) - - t a k e u s p a r t o f t h i s w a y a l r e a d y . M o s t l y , t h o u g h , w e n e e d t o b e w a r y h e r e o f t h e d i c h o t o m y S e a r l e p r o p o s e s : e i t h e r r u l e o u t t h e l i t e r a l a s c r i b a b i l i t y o f a n y m e n t a l p r o p e r t i e s t o a n y i n a n i m a t e t h i n g , o r a l s o a l m o s t a n y m e n t a l p r o p e r t y w i l l b e l i t e r a l l y a s c r i b a b l e t o a n y t h i n g a t a l l . W h y w o u l d a n y o n e s u p p o s e t h i s ? T h e r e a s o n I s u s p e c t i s S e a r i e ’ s u n r e m i t t i n g c o n f l a t i o n o f h i s p r o p r i e t a r y d i s t i n c t i o n b e t w e e n “ i n t r i n s i c " a n d " a s i f “ ( a t t r i b u t i o n s o f ) m e n t a l p r o p e r t i e s w i t h t h e o b v i o u s d i s t i n c t i o n ( w h i c h n o o n e d e n i e s ) b e t w e e n l i t e r a l a n d f i g u r a t i v e ( o r " m e t a p h o r i c a l “ o r “ a n a l o g i c a l “ ) a t t r i b u t i o n . O f c o u r s e t h e r e i s a d i f f e r e n c e b e t w e e n f i g u r a t i v e a n d l i t e r a l a t t r i b u t i o n o f m e n t a l p r o p e r t i e s . T h e r e ’ s a d i f f e r e n c e b e t w e e n f i g u r a t i v e a n d l i t e r a l a t t r i b u t i o n o f a l l s o r t s o f p r o p e r t i e s . T o s p e a k o f “ J a c k N i c k l a u s ’ s f l u i d b a c k s w i n g “ i n v o l v e s f i g u r a t i v e l y a t t r i b u t i n g t h e p h y s i c a l p r o p e r t y o f f l u i d i t y t o N i c k l a u s ’ s b a c k s w i n g . S i m i l a r l y , i s u p p o s e , t o s p e a k o f a “ s t o r m r a g i n g " f i g u r a t i v e l y a t t r i b u t e s t h e m e n t a l p r o p e r t y o f r a g i n g t o t h e s t o r m . T h i s d o e s n o t a n y m o r e 9 0 t o s h o w t h a t “ r a g e “ i s s y s t e m a t i c a l l y a m b i g u o u s ( t h a t t h e r e ’ s r e a l i n t r i n s i c r a g e a n d m o r e " a s i f " r a g e ) 2 3 4 t h a n i t g o e s t o s h o w t h a t “ f l u i d i t y “ i s s y s t e m a t i c a l l y a m b i g u o u s ( b e t w e e n “ i n t r i n s i c " a n d “ a s - i f " f l u i d i t y ) ? 3 O r d i n a r i l y , w h e n l f i g u r a t i v e l y a t t r i b u t e s o m e p r o p e r t y , e . g . , f l u i d i t y t o N i c k l a u s ’ s b a c k s w i n g , o r r a g e t o t h e s t o r m , o r m a l i c e t o 0 0 8 ( w h e n i t e r a s e s a l l m y f i l e s ) , t h e o b j e c t o f m y a t t r i b u t i o n r e s e m b l e s t h i n g s t h a t l i t e r a l l y h a v e t h e p r o p e r t y i n s o m e r e s p e c t s - - t h e e f f o r t l e s s c o n t i n u i t y o f N i c k l a u s ’ s b a c k s w i n g , t h e a g g r a v a t i o n a n d f r u s t r a t i o n D O S c a u s e s m e b y n o t o b e y i n g m y i n t e n d e d i n s t r u c t i o n s - b u t n o t a l l r e s p e c t s . A n d I s u p p o s e t h e r e i s n o w a y t o k n o w i n a d v a n c e , n o p r i o r w a y t o d e l i m i t w h a t a n a l o g y s o m e f e r t i l e i m a g i n a t i o n m i g h t p e r c e i v e a m o n g t h i n g s , h o w e v e r v a r i o u s , a n d t o w h a t t h i n g s s u c h a n i m a g i n a t i o n m i g h t c o m e t o f i g u r a t i v e l y a t t r i b u t e w h a t e v e r p r o p e r t y . Y o u c a n s e e h o w r e f u s i n g t o a c k n o w l e d g e a d i s t i n c t i o n b e t w e e n l i t e r a l a n d f i g u r a t i v e m e n t a l a t t r i b u t i o n t h r e a t e n s t h e c o n c l u s i o n t h a t a n y m e n t a l p r o p e r t y i s g o i n g t o b e p r e d i c a b l e o f a n y t h i n g y o u c a n i m a g i n e . A s S e a r l e e x p r e s s e s i t , " i t w o u l d b e u p t o a n y b e h o l d e r t o t r e a t h u r r i c a n e s a s m e n t a l i f h e l i k e d “ ( 1 9 8 0 a , p . 4 2 0 ) , s i n c e “ r e l a t i v e t o s o m e p u r p o s e o r o t h e r a l m o s t a n y t h i n g c a n b e t r e a t e d a s i f i t w e r e m e n t a l " ( S e a r l e 1 9 8 9 b , p . 1 9 8 ) . S i m i l a r l y , i f i d e n y t h e d i f f e r e n c e b e t w e e n l i t e r a l a n d f i g u r a t i v e a t t r i b u t i o n s o f f l u i d i t y , t h i s t h r e a t e n s t h e c o n c l u s i o n t h a t a n y t h i n g a n y o n e c a n i m a g i n e t o b e a n y t h i n g l i k e a fl u i d w i l l t u r n o u t t o r e a l l y b e a f l u i d : p a n f l u i d i t y t h r e a t e n s . B u t p a n f l u i d i t y d o e s n ’ t t h r e a t e n , b e c a u s e w e c a n a n d d o d i s t i n g u i s h 2 3 . A n a s - i f fl u i d ( t o p u r s u e t h e a n a l o g y w i t h " a s - i f i n t e n t i o n a l i t y ' ) w o u l d r e s e m b l e t h i n g s w h i c h a r e l i t e r a l l y fl u i d s i n e v e r y p u b l i c l y d i s c e r n i b l e r e s p e c t : n o t e t h a t t h i s m e a n s t h a t s t a n d a r d c a s e s o f f i g u r a t i v e a t t r i b u t i o n s , e g . o f f l u i d i t y t o N i c k l a u s ’ s b a c k s w i n g , a r e n o t " a s - i f " a t t r i b u t i o n s ; a n d " a s - i f ' a t t r i b u t i o n s a r e n o t s t a n d a r d c a s e s o f f i g u r a t i v e a t t r i b u t i o n . S e e b e l o w . 2 3 5 f i g u r a t i v e f r o m l i t e r a l u s e s o f “ f l u i d " ; s i m i l a r l y p a n p s y c h i s m d o e s n ’ t t h r e a t e n , b e c a u s e w e c a n a n d d o d i s t i n g u i s h f i g u r a t i v e f r o m l i t e r a l u s e s o f m e n t a l t e r m s l i k e “ r e c o g n i z e , “ “ c a l c u l a t e , " a n d " c o n s i d e r . " W e c a n d i s t i n g u i s h f i g u r a t i v e f r o m l i t e r a l u s e s o f m e n t a l t e r m s q u i t e i n d e p e n d e n t l y o f w h e t h e r w e a c c e p t o r r e j e c t S e a r i e ’ s d i s t i n c t i o n b e t w e e n “ a s - i f " a n d “ i n t r i n s i c " i n t e n t i o n a l i t y b e c a u s e t h e l i t e r a l / f i g u r a t i v e a n d “ i n t r i n s i c “ / “ a s - i f “ d i s t i n c t i o n s a r e n o t t h e s a m e d i s t i n c t i o n . T h a t S e a r i e ’ s d i s t i n c t i o n b e t w e e n “ a s - i f " a n d " i n t r i n s i c " ( a t t r i b u t i o n o f ) m e n t a l p r o p e r t i e s i s n o t c o e x t e n s i v e w i t h o u r o r d i n a r y g e n e r a l d i s t i n c t i o n b e t w e e n fi g u r a t i v e a n d l i t e r a l ( a t t r i b u t i o n o f ) m e n t a l p r o p e r t i e s i s p l a i n t o s e e , a l s o , f r o m t h e c o n s i d e r a t i o n t h a t , i f w e w e r e t o r e p l a c e t h e l a t t e r ( l i t e r a l / f i g u r a t i v e d i s t i n c t i o n ) b y t h e f o r m e r ( " a s - i f “ / “ i n t r i n s i c " d i s t i n c t i o n ) , i t w o u l d a b o l i s h d i s t i n c t i o n s w e p r e s e n t l y c a n a n d d o m a k e . O u r a t t r i b u t i o n s o f m e n t a l p r e d i c a t e s t o c o m p u t e r s d o n ’ t a l l m o m e q u a l l y m e t a p h o r i c a l . R a t h e r , a s w i t h a t t r i b u t i o n s t o h u m a n s a n d a n i m a l s a l s o , w e s e e m t o d i s t i n g u i s h a p r o p e r s u b s e t o f m e n t a l a t t r i b u t i o n s t o c o m p u t e r s a s f i g u r a t i v e . W e t h i n k w e d i s c e r n a d i f f e r e n c e b e t w e e n s a y i n g “ D O S r e c o g n i z e s t h e p r i n t c o m m a n d “ a n d “ D O S h a t e s m e “ ; o n l y i n t h e l a t e r c a s e d o w e i m m e d i a t e l y r e c o g n i z e t h a t w e a r e s p e a k i n g f i g u r a t i v e l y . S e a r l e m u s t e i t h e r d i s m i s s o u r i n t u i t i o n s a b o u t t h i s a n d s a y t h a t t h e s e a t t r i b u t i o n s a r e a l l e q u a l l y ( i . e . , c o m p l e t e l y ) f i g u r a t i v e ; o r e l s e ( t o a c c o u n t f o r o u r i n t u i t i o n s h e r e ) , a c k n o w l e d g e t h a t s o m e o f t h e s e u s a g e s ( e . g . , “ D O S h a t e s m e " ) a r e m o r e f i g u r a t i v e t h a n o t h e r s . P e r h a p s d i f f e r e n c e s i n d e g r e e s o f f i g u r a t i v e n e s s c o u l d b e c a s h e d o u t i n t e r m s o f b e h a v i o r a l s i m i l a r i t y : D O S a c t s v e r y m u c h l i k e i t r e c o g n i z e s t h e p r i n t c o m m a n d a n d o n l y a l i t t l e l i k e i t h a t e s m e . B u t h o w e v e r w e d o i t , d i s t i n g u i s h i n g d e g r e e s o f 2 3 6 f i g u r a t i v e n e s s o f m e n t a l a t t r i b u t i o n u n d e r m i n e s t h e m o t i v e o f a v o i d i n g p a n p s y c h i s m S e a r l e o f f e r s f o r d i s t i n g u i s h i n g “ a s i f " a n d “ i n t r i n s i c “ ( a t t r i b u t i o n s o f ) m e n t a l p r o p e r t i e s a s h e d o e s . i f w e a l r e a d y d i s t i n g u i s h a m o n g m e n t a l a t t r i b u t i o n s t o i n a n i m a t e t h i n g s , b e t w e e n h i g h l y f i g u r a t i v e a n d n o t s o f i g u r a t i v e a t t r i b u t i o n s , o n t h e b a s i s o f h o w m u c h t h i n g s a c t l i k e t h e y h a v e t h e p r o p e r t i e s ( o r h o w e v e r w e d o i t ) - l e s s f i g u r a t i v e b e i n g m o r e l i t e r a l - w e a l r e a d y s e e m t o b e d i s t i n g u i s h i n g f i g u r a t i v e f r o m l i t e r a l a t t r i b u t i o n . W e c a n a l l o w t h i s w i t h o u t f e a r o f i n d i s c r i m i n a t e p r o l i f e r a t i o n o f m e n t a l s t a t e s t o e v e r y t h i n g b e c a u s e d i f f e r e n c e s i n h o w m u c h t h i n g s a c t l i k e t h e y h a v e s p e c i f i c m e n t a l p r o p e r t i e s c u t a c r o s s a n i m a t e / i n a n i m a t e o r b i o l o g i c a l l y - b r a i n e d / b r a i n l e s s b o u n d a r i e s . B e h a v i o r a l d i f f e r e n c e s ( o r w h a t e v e r d i f f e r e n c e s ) w e a l r e a d y u s e t o a t t r i b u t e ( a n d r e f r a i n f r o m a t t r i b u t i n g ) s p e c i f i c m e n t a l s t a t e s ( e . g . , r e c o g n i t i o n ) t o p e o p l e a n d a n i m a l s a l r e a d y s u f f i c e t o p r e v e n t p a n p s y c h i c p r o l i f e r a t i o n w i t h o u t S e a r i e ’ s b l a n k e t d i s t i n c t i o n . i f N i c k l a u s ’ s b a c k s w i n g r e s e m b l e d l i t e r a l l y f l u i d t h i n g s i n e v e r y r e s p e c t ( r e l e v a n t t o f l u i d i t y ) , t h e n h i s b a c k s w i n g w o u l d l i t e r a l l y ( a n d n o t j u s t fi g u r a t i v e l y ) b e fl u i d ; a n d i f D O S ' s b e h a v i o r r e s e m b l e d m a l i c e i n e v e r y r e s p e c t ( r e l e v a n t t o m a i l - c i o u s n e s s ) , t h e n D O S w o u l d l i t e r a l l y ( n o t j u s t f i g u r a t i v e l y ) b e m a l i c i o u s w h e n i t e r a s e d m y f i l e s . B u t t h e C h i n e s e R o o m - - o r t h e m a n i n i t - b e h a v e s i n e v e r y r e s p e c t a s i f i t u n d e r s t a n d s C h i n e s e ( a c c o r d i n g t o S e a r i e ’ s E x p e r i m e n t ) ; w h i c h s e e m s d r a s t i c a l l y u n l i k e s t a n d a r d c a s e s o f f i g u r a t i v e a t t r i b u t i o n . I n t h i s c o n n e c t i o n , i s u p p o s e i t m i g h t b e o b j e c t e d t h a t l m i s r e p r e s e n t t h e c a s e b y m i s t a k i n g t h e C h i n e s e r o o m ’ s ( o r S e a r l e - i n - t h e - r o o m ’ s ) b e h a v i n g i n e v e r y r e s p e c t a s i f i t u n d e r s t a n d w i t h i t s b e i n g i n e v e r y r e s p e c t l i k e a n u n d e r s t a n d e r . 2 3 7 I s u p p o s e S e a r l e w i l l s a y t h e a s - i f u n d e r s t a n d i n g s y s t e m o f S e a r l e - i n - t h e - r o o m i s o n l y l i k e t h e i n t r i n s i c C h i n e s e u n d e r s t a n d e r ( e . g . , a n a t i v e C h i n e s e s p e a k e r ) " f r o m t h e e x t e r n a l p o i n t o f v i e w - - f r o m t h e p o i n t o f v i e w o f s o m e o n e r e a d i n g m y a n s w e r s “ ( S e a r l e 1 9 8 0 a , p . 4 1 8 ) , b u t t h a t i t i s u t t e r l y u n l i k e a n i n t r i n s i c C h i n e s e u n d e r s t a n d e r “ f r o m t h e p o i n t o f v i e w o f t h e a g e n t , f r o m m y p o i n t o f v i e w “ ( S e a r l e 1 9 8 0 3 , p . 4 2 0 ) . I n t h i s v e i n S e a r l e m a i n t a i n s t h a t t h e i n s u f f i c i e n c y o f b e h a v i o r a l e v i d e n c e t o w a r r a n t a t t r i b u t i o n s o f u n d e r s t a n d i n g ( o r a n y o t h e r m e n t a l p r o p e r t y ) i s a m a i n p o i n t o f h i s C h i n e s e R o o m E x a m p l e . H e m a i n t a i n s t h a t C R E s h o w s t h a t t w o t h i n g s c o u l d b e b e h a v i o r a l l y i n d i s t i n g u i s h a b l e " 4 a n d y e t h a v e d i f f e r e n t m e n t a l p r o p e r t i e s . A c c o r d i n g t o S e a r l e , T h e e x a m p l e s h o w s t h a t t h e r e c o u l d b e t w o " s y s t e m s , " b o t h o f w h i c h p a s s t h e T u r i n g t e s t , b u t o n l y o n e o f w h i c h u n d e r s t a n d s ; a n d i t i s n o a r g u m e n t a g a i n s t t h i s p o i n t t o s a y t h a t s i n c e t h e y b o t h p a s s t h e T u r i n g T e s t t h e y b o t h u n d e r s t a n d s i n c e t h i s a r g u m e n t f a i l s t o m e e t t h e a r g u m e n t t h a t t h e s y s t e m i n m e t h a t u n d e r s t a n d s E n g l i s h h a s a g r e a t d e a l m o r e t h a n t h e s y s t e m i n m e t h a t m e r e l y p r o c e s s e s C h i n e s e . I n s h o r t , t h e s y s t e m s r e p l y [ i n p r e s u m i n g t h a t s o m e t h i n g ’ s b e h a v i n g a s i f i t u n d e r s t a n d s i s t a n t a m o u n t t o i t s u n d e r s t a n d i n g ] s i m p l y b e g s t h e q u e s t i o n b y i n s i s t i n g w i t h o u t a r g u m e n t t h a t t h e s y s t e m m u s t u n d e r s t a n d C h i n e s e . ( S e a r l e 1 9 8 0 a , p . 4 1 9 ) T o w h i c h i r e s p o n d t h a t i f s o m e t h i n g a c t s e x a c t l y a s i f i t u n d e r s t a n d s , t h e n i t i s S e a r l e ( w h o w o u l d d e n y i t u n d e r s t a n d s ) , a n d n o t t h e a d v o c a t e o f T u r i n g ’ s T e s t ( w h o a l l o w s i t d o e s u n d e r s t a n d ) w h o m u s t p r o d u c e a r g u m e n t s . 2 4 . " T u r i n g i n d i s t i n g u i s h a b l e , " i s h o w H a r n a d ( 1 9 9 1 ) p u t s i t : n o t d i s t i n g u i s h a b l e b y a n y t h i n g l i k e a T u r i n g t e s t . 2 3 8 9 . C o n c l u s i o n a n d P r o s p e c t u s W h a t t h e p r e s e n t c h a p t e r s h o w s , i t a k e i t , i s t h e f o l l o w i n g . F i r s t , t h a t o u r a c t u a l s e m a n t i c i n t u i t i o n s ( a s t a p p e d , e . g . , b y C o m p a r a t i v e F o r m a t i o n a n d C o n j u n c t i o n R e d u c t i o n t e s t s ) d o n o t s u p p o r t - - a n d r a t h e r s t r o n g l y w e i g h a g a i n s t - - S e a r i e ’ s c h a r g e t h a t m e n t a l p r e d i c a t i o n s o f c o m p u t e r s a r e i n v a r i a b l y f i g u r a t i v e a n d t h a t s u c h p r e d i c a t i o n s a r e a l l , c o n s e q u e n t l y , e q u i v o c a l . S e c o n d , t h a t S e a r i e ’ s c h a r a c t e r i z a t i o n o f t h e s y s t e m a t i c a m b i g u i t y h e a l l e g e s b e t w e e n “ a s - i f " a n d “ i n t r i n s i c “ ( a t t r i b u t i o n o f ) m e n t a l p r o p e r t i e s a s a d i s t i n c t i o n b e t w e e n f i g u r a t i v e a n d l i t e r a l a t t r i b u t i o n i s c o n f u s e d a n d f a i l s t o s u p p o r t S e a r i e ’ s c o n t e n t i o n t h a t d e n i a l o f t h e f o r m e r d i s t i n c t i o n s e r i o u s l y , i f n o t u n a v o i d a b l y , t h r e a t e n s t h e p a n p s y c h i c c o n c l u s i o n t h a t e v e r y t h i n g i s m e n t a l . I t f a l l s , i n t h i s c o n n e c t i o n , b e c a u s e o n e c a n d e n y t h e f o r m e r ( " a s - i f “ / " i n t r i n s i c “ ) d i s t i n c t i o n w i t h o u t d e n y i n g t h e l a t e r ( f i g u r a - t i v e / l i t e r a l ) d i s t i n c t i o n ; a n d t h i s l a t e r d i s t i n c t i o n i s a l l w e n e e d t o e s c a p e t h e t h r e a t e n e d ( s t r o n g ) p a n p s y c h i c c o n c l u s i o n . N a i v e s e m a n t i c i n t u i t i o n s ( e . g . , t h o s e t a p p e d b y C o m p a r a t i v e F o r m a t i o n a n d C o n j u n c t i o n R e d u c t i o n t e s t s ) d i s c o n f i r m t h e d a i m t h a t w e r e c o g n i z e a s e m a n t i c d i s t i n c t i o n b e t w e e n “ a s / i f " a n d “ i n t r i n s i c " i n t e n t i o n a l i t y s u c h a s S e a r l e p r o p o s e s ; a n d t h e m e t a p h y s i c a l m o t i v e ( t o a v o i d p a n p s y c h i c p r o l i f e r a t i o n o f m e n t a l s t a t e s ) S e a r l e o f f e r s t o s h o w w e s h o u l d m a k e s u c h a s e m a n t i c d i s t i n c t i o n ( i f w e d o n ’ t a l r e a d y ) d o e s n ’ t w a s h . i f t h e d i s t i n c t i o n S e a r l e p r o p o s e s i s d e f e n s i b l e a t a l l , i t s e e m s i t w i l l h a v e t o b e a s c i e n t i f i c t h e o r e t i c a l d e f e n s e . 2 3 9 I f t h e s c i e n t i f i c t a c k i s t a k e n i n d e f e n s e o f t h e d i s t i n c t i o n a t i s s u e , t h e n i t w i l l n o l o n g e r b e o p e n t o S e a r l e t o s t y l e h i m s e l f a s t h e d e f e n d e r o f a c t u a l o r o r d i n a r y u s a g e a g a i n s t t h o s e w h o s u g g e s t t h a t t h e d e v e l o p m e n t o f c o g n i t i v e s c i e n c e m i g h t a s s i m i l a t e e x i s t i n g m e n t a l p h e n o m e n a t o s o m e l a r g e r n a t u r a l k i n d t h a t w o u l d s u b s u m e b o t h e x i s t i n g m e n t a l p h e n o m e n a a n d o t h e r n a t u r a l p h e n o m e n a u n d e r a m o r e g e n e r a l e x p l a n a t o r y a p p a r a t u s . ( S e a r l e 1 9 8 0 b , p . 4 5 2 ) A c c o r d i n g t o t h e d i a g n o s i s t o w h i c h t h e c o n s i d e r a t i o n s j u s t s u m m a r i z e d h a v e l e d , i t m u s t b e S e a r l e ' s t a s k t o s c i e n t i f i c a l l y d i s t i n g u i s h t h e g e n u i n e i n t r i n s i c m e n t a l p h e n o m e n a f r o m m e r e " a s - i f “ p s e u d o - m e n t a l p h e n o m e n a a m o n g p r e s e n t l y r e c o g n i z e d m e n t a l p h e n o m e n a ( i n c l u d i n g , e . g . , D e e p T h o u g h t ’ s c o n s i d e r a t i o n o f a l t e r n a t e c o n t i n u a t i o n s , a n d o u r p o c k e t c a l c u l a t o r s ’ c a l c u l a t i o n s ) u n d e r a m o r e d i s c r i m i n a t i n g e x p l a n a t o r y a p p a r a t u s ( t h a n o u r p r e s e n t f o l k p s y c h o l o g i c a l a p p a r a t u s ) . S e a r l e w i l l h a v e t o g i v e u p t h e c l a i m t h a t , e v e n i f s o m e f u t u r e s c i e n c e c o m e s u p w i t h a c a t e g o r y t h a t s u p e r s e d e s b e l i e f a n d t h u s e n a b l e s u s t o p l a c e t h e r m o s t a t s a n d p e o p l e o n a s i n g l e c o n t i n u u m , t h i s w o u l d n o t a l t e r t h e f a c t t h a t u n d e r o u r p r e s e n t c o n c e p t o f b e l i e f , p e o p l e l i t e r a l l y h a v e b e l i e f s a n d c o m p u t e r s a n d t h e r m o s t a t s d o n ’ t . ( S e a r l e 1 9 8 0 b , p . 4 5 2 ) i d o n ’ t k n o w i f t h e r m o s t a t s h a v e b e l i e f s - - b u t i f t h e p r e c e d i n g a r g u m e n t s a r e c o r r e c t , j u d g i n g f r o m o u r w o r k i n g p r e d i c a t i o n s a n d t h e f a i l u r e o f a m b i g u i t y t e s t s l i k e c o n j u n c t i o n r e d u c t i o n a n d c o m p a r a t i v e f o r m a t i o n , i t s e e m s t h a t “ u n d e r o u r p r e s e n t c o n c e p t " o f a i m i n g o r s e e k i n g t h e y a i m o r s e e k t o k e e p t e m p e r a t u r e s a t o r a b o v e t h e i r s e t p o i n t s ; u n d e r o u r p r e s e n t u s e o f t h e t e r m “ d e t e c t “ t h e y d e t e c t w h e t h e r t e m p e r a t u r e s f a l l b e l o w o r e x c e e d t h e i r s e t p o i n t s . U n d e r o u r p r e s e n t c o n c e p t s o f s e e k i n g a n d d e t e c t i n g , i t s e e m s , p e o p l e l i t e r a l l y s e e k a n d d e t e c t t h i n g s 2 4 0 a n d s o d o t h e r m o s t a t s a n d c o m p u t e r s . 2 5 P e r h a p s S e a r l e a n c o g n i t i v e s c i e n t i f i c r e s e a r c h w i l l c o m e u p w i t h c a t e g o r i e s t h a t s u p e r s e d e a i m i n g a n d i n t e n d i n g a n d a l l o w u s n o t t o p l a c e t h e r m o s t a t s a n d p e o p l e o n a s i n g l e c o n t i n u u m a s w e p r e s e n t l y d o ; o r r a t h e r ( f o r t h i s s e e m s a m o r e p e r s p i c u o u s f o r m u l a t i o n o f t h e h o p e i n q u e s t i o n ) , p e r h a p s c o g n i t i v e s c i e n t i f i c r e s e a r c h w i l l l e a d t o t h e d i s c o v e r y t h a t w h a t w e ’ v e m i s t a k e n l y c a l l e d “ c o n s i d e r a t i o n " a n d “ c a l c u l a t i o n “ i n c o m p u t e r s i s n ’ t r e a l l y o f t h e s a m e n a t u r e a s h u m a n c a l c u l a t i o n ( m u c h a s b i o l o g i c a l r e s e a r c h l e d t o t h e d i s c o v e r y t h a t w h a l e s a r e n ’ t f i s h ) w i t h o u t a n y c h a n g e o r s u p e r s e s s i o n o f c o n c e p t s . ” I f t h e a r g u m e n t s o f t h i s c h a p t e r a r e s o u n d , s o m e s o r t o f s c i e n t i f i c v i n d i c a t i o n o f t h i s s o r t s e e m s S e a r i e ’ s l a s t h o p e o f p r o v i d i n g a n a r g u m e n t a g a i n s t n a i v e A l , a n d h e n c e a g a i n s t A l p e r s e ( i . e . , c o n t r a r y t o A I P ) . 2 5 . C o n s i d e r , t h e f o l l o w i n g c o n j u n c t i o n r e d u c t i o n s a n d c o m p a r i s o n f o r m a t i o n s : 1 . l a i m e d t o k e e p w a r m a n d t h e t h e r m o s t a t t o k e e p t h e r o o m t e m p e r a t u r e a t s e v e n t y . 2 . l d e t e c t e d a s o u n d a n d t h e t h e r m o s t a t a d r o p i n t h e r o o m t e m p e r a t u r e . 3 . T h e t h e r m o s t a t d e t e c t s s o m e t e m p e r a t u r e v a r i a t i o n s m o r e r e a d i l y t h a n i d o , b u t I d e t e c t a w i d e r a s s o r t m e n t o f v a r i a t i o n s . 4 . T h e t h e r m o s t a t h a s f e w e r a i m s , a n d l e s s c o n f l i c t i n g o n e s , t h a n i h a v e . T h e f i r s t s e e m s , p e r h a p s , v e r y s l i g h t l y s e m a n t i c a l l y a n o m a l o u s t o m e . T w o s e e m s n o t s o a n o m a l o u s . T h r e e a n d f o u r s e e m n o t a t a l l a n o m a l o u s ; a n d n e i t h e r d o t h e c o n v e r s e s o f o n e a n d t w o , I f w e m a k e " I " t h e s u b j e c t o f t h e r e d u c e d c l a u s e a n d " t h e r m o s t a t " t h e u n r e d u c e d c l a u s e ’ s s u b j e c t . I f t h e s e r e s u l t s a r e e q u i v o c a l , s o b e i t : i a m n o t , a f t e r a l l , c o m m i t t e d t o t h e a i m s a n d d e t e c t i v e p o w e r s o f t h e r m o s t a t s ( n o r t o t h e i r l a c k o f s u c h e i t h e r ) . I h a v e o n l y a r g u e d i n t h i s c h a p t e r t h a t i f t h e s t u d y o f m i n d s t a r t s w i t h o u r e v e r y d a y w o r k i n g ( e . g . , p r e d i c t i v e a n d e x p l a n a t o r y ) u s e s o f s u c h f o l k p s y c h o l o g i c a l t e r m s a s " a i m s " a n d " d e t e c t s , " t h e n i t i s n o t c l e a r l y t h e c a s e t h a t " t h e s t u d y o f m i n d s t a r t s [ m y e m p h a s i s ] w i t h s u c h f a c t s a s t h a t h u m a n s h a v e b e l i e f s , w h i l e t h e r m o s t a t s , t e l e p h o n e s , a n d a d d i n g m a c h i n e s d o n ’ t " ( S e a r l e 1 9 8 0 a , p . 4 2 0 ) ; a n d i f w e c h a n g e " b e l i e f s " t o " a i m s " o r “ p o w e r s t o d e t e c t t h i n g s " - - i f S e a r i e ’ s p r o n o u n c e m e n t i s s u p p o s e d t o g e n e r a l i z e t o a l l f o l k p s y c h o l o g i c a l p r e d i c a t i o n s o r a l l m e n t a l p r o p e r t i e s - - i t i s c l e a r l y n o t t h e c a s e t h a t t h e s t u d y o f t h e m i n d s t a r t s w i t h a n y s u c h t h i n g . 2 6 . I f m i n d s a r e n a t u r a l k i n d s a n d n a t u r a l k i n d t e r m s a r e n o n d e s c r l p t i o n a l ( c f . A b b o t t 1 9 8 9 ) . C h a p t e r F i v e O B J E C T I V E I N T R I N S I C A L I T Y : I N T E N T I O N A L I T Y I N T H E B R A I N W e c a n i m a g i n e s o m e o n e a p p e a l i n g t o t h e i d e n t i t y t h e o r y t o e x c u s e h i s o w n f r e e a n d u n c r i t i c a l r e c o u r s e t o m e n t a l i s t i c s e m a n t i c s . W e c a n i m a g i n e h i m p l e a d i n g t h a t i t i s a f t e r a l l j u s t a m a t t e r o f p h y s i o l o g y , e v e n t h o u g h n o o n e k n o w s q u i t e h o w . T h i s w o u l d b e a s a d i r o n y i n d e e d . ( Q u l n e 1 9 7 5 , p . 9 5 ) 1 . I n t e n t i o n a i i t y a n d I n t r i n s i c a l i t y A c c o r d i n g t o S e a r l e , a s c i e n t i f i c t h e o r e t i c a l b a s i s f o r d i s c o u n t i n g t h e a p p a r e n t m e n t a l p r o p e r t i e s o f c o m p u t e r s i s t o b e f o u n d i n c o m p u t e r s ’ s l a c k o f w h a t h e c a l l s “ i n t r i n s i c i n t e n t i o n a l i t y " ( S e a r l e 1 9 8 0 b ) : c a s e s o f i n t r i n s i c i n t e n t i o n a l i t y " a r e c a s e s o f a c t u a l m e n t a l s t a t e s “ ( S e a r l e 1 9 8 0 b , p . 4 5 1 ) ; a n d “ o n l y i n t r i n s i c i n t e n t i o n a l i t y i s m e n t a l " ( S e a r l e 1 9 9 0 9 , p . 6 3 9 ) . M y n e x t c o n c e r n , t h e n , i s S e a r i e ’ s a c c o u n t o f i n t r i n s i c i n t e n t i o n a l i t y a n d i t s s c i e n t i f i c p r o s p e c t s a n d c r e d e n t i a l s . M e a n w h i l e , i n l i g h t o f t h e p r e c e d i n g c h a p t e r , i t a k e i t t h a t i t i s a s o b j e c t i o n a b l e t o d e n y t h a t p o c k e t c a l c u l a t o r s c a l c u l a t e , a n d D e e p T h o u g h t c o n s i d e r s a l t e r n a t e c o n t i n u a t i o n s o f p l a y “ i n t h e g r i p o f a p h i l o s o p h i c a l t h e o r y " ( S e a r l e 1 9 7 9 b , p . 1 9 0 [ m y e m p h a s i s j ) a s i t w o u l d b e " t o d e n y t h a t d o g s a n d s m a l l c h i l d r e n c a n , s a y , d e s i r e m i l k a n d b o n e s r e s m c t i v e l y “ ( S e a r l e 1 9 7 9 b , p . 1 9 0 ) , i f o n e w e r e t o d e n y t h i s " i n t h e g r i p o f a p h i l o s o p h i c a l t h e o r y “ ( S e a r l e 1 9 7 9 b , p . 1 9 0 ) . i t i s a d i s p u t e d p o i n t , a s I n o t e d e a r l i e r ( C h a p t e r 2 ) w h e t h e r a l l m e n t a l p r o p e r t i e s o r s t a t e s a r e i n t e n t i o n a l . I w i l l s i m p l y s t i p u l a t e h e r e a s b e f o r e t h a t t h e 2 4 1 2 4 2 m e n t a l p r o p e r t i e s t h a t c o n c e r n u s a r e i n t e n t i o n a l o r r e p r e s e n t a t i o n a l m e n t a l p r o p e r t i e s : " p r o p o s i t i o n a l a t t i t u d e s , a s p h i l o s o p h e r s c a l l t h e m " ( P u t n a m 1 9 8 8 , p . 7 2 ) . C l e a r l y i n t e n t i o n a l i t y i s a n e s s e n t i a l ( n e c e s s a r y ) c h a r a c t e r i s t i c o f e v e r y i n t e n t i o n a l m e n t a l p h e n o m e n o n . N o t e t h a t e v e n g i v e n t h i s r e s t r i c t i o n o f o u r a t t e n t i o n j u s t t o t h o s e m e n t a l s t a t e s w h i c h a r e i n t e n t i o n a l , i n t e n t i o n a l i t y ( s e m a n t i c o r r e p r e s e n t a t i v e c o n t e n t , o r " a b o u t n e s s , " o r r e f e r e n c e ) i s s t i l l n o t a d i s t i n g u i s h i n g f e a t u r e i n t h e s e n s e o f a s u f f i c i e n t c o n d i t i o n : s o m e e x t r a m e n t a l t h i n g s s u c h a s u t t e r a n c e s o f E n g l i s h s e n t e n c e s a n d m a t h e m a t i c a l f o r m u l a e h a v e s e m a n t i c o r r e p r e s e n t a t i v e c o n t e n t . S e a r l e a c k n o w l e d g e s , “ t h e n o t i o n o f l n t e n t i o n a l i t y - w i t h - a - t 1 a p p l i e s e q u a l l y w e l l t o b o t h m e n t a l s t a t e s a n d t o l i n g u i s t i c e n t i t i e s s u c h a s s p e e c h a c t s a n d s e n t e n c e s , n o t t o m e n t i o n m a p s , d i a g r a m s , l a u n d r y l i s t s , p i c t u r e s , a n d a h o s t o f o t h e r t h i n g s . " ( S e a r l e 1 9 8 3 , p . 2 6 ) W h a t i s a d i s t i n g u i s h i n g f e a t u r e o f i n t e n t i o n a l m e n t a l p h e n o m e n a s t r i c t l y s p e a k i n g ( a n e c e s s a r y a n d s u f f i c i e n t c o n d i t i o n f o r b e i n g a n i n t e n t i o n a l m e n t a l p h e n o m e n o n ) o n S e a r i e ’ s a c c o u n t , s e e m s t o b e t h e i r i n t r i n s i c i n t e n t i o n a l i t y . W h a t ’ s " i n t r i n s i c ? " T w o p o s s i b i l i t i e s s u g g e s t t h e m s e l v e s h e r e . T h e f i r s t i s t h a t w h a t “ i n t r i n s i c “ m e a n s , w h e n p r e d i c a t e d o f i n t e n t i o n a l m e n t a l s t a t e s , i s t h a t t h e y a r e p h y s i c a l l y c o n t a i n e d b y o r o b j e c t i v e l y i n t h e s u b j e c t s t o w h o m w e t r u l y 1 . H e r e ( 1 9 8 3 ) a n d i n o t h e r w o r k s f r o m t h e m i d - e i g h t i e s S e a r l e u s e s t h e c o n v e n t i o n o f c a p i t a l i z a t i o n t o d i s t i n g u i s h l n t e n t i o n a l i t y i n t h e t e c h n i c a l s e n s e o f s e m a n t i c a b o u t n e s s o r r e f e r e n c e f r o m g a r d e n v a r i e t y i n t e n t i o n ( a s i n " I i n t e n d e d t o p a y t h e r e n t , b u t i f o r g o t " ) . " l n t e n t i o n a l i t y i s d i r e c t e d n e s s ; i n t e n d i n g t o d o s o m e t h i n g i s j u s t o n e k i n d o f l n t e n t i o n a l i t y a m o n g o t h e r s " ( S e a r l e 1 9 8 3 , p . 3 ) . H e a l s o s o m e t i m e s u s e s t h e “ - w i t h - a - t " s u f f i x t o d i s t i n g u i s h t h e p r o p e r t y o f a b o u t n e s s o r r e f e r e n c e ( l n t e n t i o n a l i t y - w i t h - a - t ) f r o m t h e p r o p e r t y o f n o n - e x t e n s i o n - a l i t y o r r e f e r e n t i a l o p a c i t y ( i n t e n s l o n a l l t y - w i t h - a n - s ) w h e r e h e t h i n k s w e a r e l i k e l y t o c o n f u s e t h e m d u e t o t h e f a c t t h a t " s o m e s e n t e n c e s a b o u t l n t e n t i o n a l i t y - w i t h - a - t a r e i n t e n s i o n a i - w i t h - a n - s " ( S e a r l e 1 9 8 3 , p . 2 4 ) . 2 4 3 a s c r i b e t h e m : c a l l t h i s " p h y s i c a l " o r " o b j e c t i v e " i n t r i n s i c a l l t y . T h e s e c o n d p o s s i b i l i t y i s t h a t “ i n t r i n s i c " h e r e m e a n s b e i n g p h e n o m e n o l o g i c a l l y i n a c o n s c i o u s s u b j e c t o r b e i n g s u b j e c t i v e c o n t e n t s o f s u c h a m i n d ’ s p r i v a t e f i e l d a n d s t r e a m o f e x p e r i e n c e s : c a l l t h i s “ m e n t a l " o r " s u b j e c t i v e " i n t r i n s i c a l l t y . 2 E v i d e n t l y S e a r l e m e a n s b o t h . i n t h i s c h a p t e r I c o n s i d e r w h e t h e r t h e i n t e n t i o n a l s t a t e s w e a t t r i b u t e t o h u m a n s ( a n d h i g h e r a n i m a l s ) a r e o b p c t i v e l y a n d p h y s i c a l l y i n t h e i r h u m a n ( a n d h i g h e r a n i m a t e ) s u b j e c t s i n a w a y i n w h i c h t h e i n t e n t i o n a l m e n t a l s t a t e s w e a t t r i b u t e t o c o m p u t e r s a r e n ’ t o b p c t i v e l y i n t h e m . I n t h e n e x t c h a p t e r I c o n s i d e r w h e t h e r a s c i e n t i f i c a l l y s a l i e n t d i f f e r e n c e b e t w e e n h u m a n ( a n d h i g h e r a n i m a t e ) i n t e n t i o n a l i t y a n d t h e s e e m i n g i n t e n t i o n a l i t y o f c o m p u t e r s i s t o b e f o u n d i n t h e s u b j e c t i v e i n t r i n s i c a l l t y - - i n t h e c o n s c i o u s n e s s o r a c c e s s i b i l i t y t o c o n s c i o u s n e s s - - o f h u m a n a n d h i g h e r a n i m a t e i n t e n t i o n a l i t y a n d t h e ( p r e s u m e d ) u n c o n s c i o u s n e s s o f c o m p u t e r s ’ s a r t i f i c i a l i n t e n t i o n a l s t a t e s . B u t b e f o r e t u r n i n g t o t h e q u e s t i o n o f h o w , a c c o r d i n g t o S e a r l e , i n t e n t i o n a l s t a t e s a r e s u p p o s e d t o b e i n t h e s y s t e m s ( i . e . , t h e o r g a n i s m s , m o s t e s p e c i a l l y t h e i r b r a i n s ) t h a t h a v e t h e m , a n d w h e t h e r o r n o t t h e i n t e n t i o n a l s t a t e s w e n a i v e l y a t t r i b u t e t o c o m p u t e r s a r e i n t h e m i n t h i s w a y ( w h a t e v e r i t i s ) ; p e r h a p s I n e e d t o s a y a w o r d a b o u t w h a t i s s u p p o s e d t o b e i n u s w h e n i t s c l a i m e d ( b y S e a r l e , a m o n g o t h e r s ) t h a t i n t e n t i o n a l m e n t a l s t a t e s a r e i n u s ( o r o u r b r a i n s ) . W h a t d o e s “ i n t e n t i o n a l i t y “ m e a n , a n d w h a t a r e i n t e n t i o n a l m e n t a l s t a t e s ? 2 . i n t h e c a s e o f c e r t a i n " g a r d e n v a r i e t y I n t e n t i o n s " - - o u r " f r e e l y w i l l e d " c h o i c e s i n p a r t i c u l a r - s u b j e c t i v e i n t r i n s i c a l l t y a l s o i n v o l v e s , p e r h a p s , t h e i r b e i n g i n s p e c i a l s e n s e m o r a l l y i n u s ( a s t h e i r s o l e o r f i r s t c a u s e s ) . T h i s i s t o u c h e d o n i n t h e c o n c l u d i n g c h a p t e r , b e l o w . 2 4 4 2 . P s y c h o l o g i c a l M o d e s o f l n t e n t i o n a l i t y A c c o r d i n g t o S e a r l e , " i n t e n t i o n a l s t a t e s a r e e n t i r e l y c o n s t i t u t e d b y t h e i r I n t e n t i o n a l c o n t e n t a n d p s y c h o l o g i c a l m o d e , b o t h o f w h i c h a r e i n t h e h e a d “ ( S e a r l e 1 9 8 3 , p . 2 0 8 ) . W h a t S e a r l e m e a n s b y “ p s y c h o l o g i c a l m o d e " i s r o u g h l y w h a t D e s c a r t e s m e a n t b y " m o d e s o f t h i n k i n g , “ o r w h a t S e a r l e e l s e w h e r e ( S e a r l e 1 9 8 4 a , p . 6 0 - 6 1 ) r e f e r s t o a s “ m e n t a l t y p e " : o n e o f t h e t y p e s o f p r o p o s i t i o n a l a t t i t u d e s o r i n t e n t i o n a l m e n t a l s t a t e s a n s w e r i n g t o o u r e v e r y d a y t y p o l o g y o f b e l i e f , d e s i r e , h o p e , s e e i n g , h e a r i n g , e t c . W h a t h e m e a n s b y “ I n t e n t i o n a l c o n t e n t " i s w h a t t h e b e l i e f , d e s i r e , e t c . r e f e r s t o o r i s a b o u t . T h i n k i n g o f I n t e n t i o n a l m e n t a l s t a t e s a s p r o p o s i t i o n a l a t t i t u d e s , t h e c o n t e n t i s t h e p r o p o s i t i o n , a n d t h e m o d e i s t h e a t t i t u d e . T h o u g h S e a r i e ’ s m a i n c o n c e r n i s c o n t e n t ( a s m i n e w i l l b e a l s o ) , l e t u s f i r s t s a y a b i t a b o u t m o d e . i n t e n t i o n a l m e n t a l s t a t e s c a n h a v e t h e s a m e c o n t e n t i f t h e y d i f f e r i n m o d e . T h u s i c a n b e l i e v e t h a t t h e c a t i s o n t h e m a t , h o p e t h a t t h e c a t i s o n t h e m a t , w a n t t h e c a t t o b e o n t h e m a t , e t c . D i f f e r e n t s p e c i e s o r m o d e s o f i n t e n t i o n a l m e n t a l s t a t e s d e t e r m i n e d i f f e r e n t s a t i s f a c t i o n r e l a t i o n s t o t h e i r i n t e n t i o n a l o b j e c t s ( o r s t a t e s o f a f f a i r s c o r r e s p o n d i n g t o t h e i r p r o p o s i t i o n a l c o n t e n t s ) a n d f a l l i n t o t h r e e c a t e g o r i e s , o n S e a r i e ’ s a c c o u n t , a c c o r d i n g t o t h e d i r e c t i o n o f f i t o f t h e i n t e n t i o n a l r e l a t i o n ( e . g . , w a n t i n g , b e l i e v i n g , h o p i n g ) t h a t t h e y s p e c i f y . S t a t e s o r a t t i t u d e s h a v i n g a m i n d - t o - w o r l d d i r e c t i o n o f f i t , c o g n i t i v e s t a t e s s u c h a s b e l i e v i n g , h a v e t r u t h v a l u e s . “ B e l i e f s l i k e s t a t e m e n t s c a n b e t r u e o r f a l s e “ ( S e a r l e 1 9 8 3 , p . 8 ) , a n d t o s a y t h e y h a v e a m i n d - t o - w o r l d d i r e c t i o n o f f i t i s t o s a y 2 4 5 t h a t t h e y a r e “ s u p p o s e d t o m a t c h a n i n d e p e n d e n t l y e x i s t i n g w o r l d " ( S e a r l e 1 9 8 3 , p . 7 ) l i k e “ m e m b e r s o f t h e a s s e r t i v e c l a s s o f s p e e c h a c t s - s t a t e m e n t s , d e s c r i p - t i o n s , a s s e r t i o n s , e t c . “ ( S e a r l e 1 9 8 3 , p . 7 ) . l n t u i t i v e l y w e m i g h t s a y t h e i d e a o f d i r e c t i o n o f f i t i s t h a t o f r e s p o n s i b i l i t y f o r f i t t i n g . i f t h e s t a t e m e n t i s f a l s e , i t i s t h e f a u l t o f t h e s t a t e m e n t ( w o r d - t o - w o r l d d i r e c t i o n o f f i t ) . ( S e a r l e 1 9 8 3 , p . 7 ) S i m i l a r l y , i f t h e b e l i e f i s f a l s e , “ I t i s t h e r e s p o n s i b i l i t y o f t h e b e l i e f , s o t o s p e a k , t o m a t c h t h e w o r l d , a n d w h e r e t h e m a t c h f a i l s , I r e p a i r t h e s i t u a t i o n b y c h a n g i n g t h e b e l i e f “ ( S e a r l e 1 9 8 3 , p . 8 ) . S t a t e s o r a t t i t u d e s h a v i n g w o r l d - t o - m i n d d i r e c t i o n o f f i t , c o n a t i v e s t a t e s o r a t t i t u d e s , s u c h a s d e s i r e s a n d i n t e n t i o n s , o n t h e o t h e r h a n d , a r e l i k e “ m e m b e r s o f t h e c o m m i s s i v e c l a s s [ o f s p e e c h a c t s ] ~ p r o m i s e s , v o w s , p l e d g e s , e t c . " ( S e a r l e 1 9 8 3 , p . 7 ) . T h e s e " a r e n o t s u p p o s e d t o m a t c h a n i n d e p e n d e n t l y e x i s t i n g r e a l i t y b u t r a t h e r a r e s u p p o s e d t o b r i n g a b o u t c h a n g e s i n t h e w o r l d s o t h a t t h e w o r l d m a t c h e s t h e p r o p o s i t i o n a l c o n t e n t o f t h e s p e e c h a c t “ ( S e a r l e 1 9 8 3 , p . 7 ) , o r ( i n t h e c a s e o f I n t e n t i o n a l m e n t a l s t a t e s ) t h e p r o p o s i t i o n a l c o n t e n t o f t h e m e n t a l o p e r a t i o n o r s t a t e ( S e a r l e 1 9 8 3 , p . 7 ) . D e s i r e s a n d i n t e n t i o n s , l i k e p r o m i s e s , v o w s , a n d p l e d g e s , " c a n n o t b e t r u e o r f a l s e , b u t c a n b e c o m p l i e d w i t h , f u l f i l l e d , o r c a r r i e d o u t “ ( S e a r l e 1 9 8 3 , p . 8 ) . L a s t l y , j u s t a s t h e r e i s a c l a s s o f s p e e c h a c t s w i t h n o d i r e c t i o n f i t , s u c h a s a p o l o g i e s a n d c o n g r a t u l a t i o n s , s o t o o t h e r e a r e “ c o m p l e x I n t e n t i o n a l s t a t e s , " S e a r l e m a i n t a i n s ( S e a r l e 1 9 8 3 , p . 9 ) - s t a t e s s u c h a s s o r r o w a n d p l e a s u r e - w h i c h m a y e m b e d o r p r e s u p p o s e c o g n i t i v e a n d c o n a t i v e a t t i t u d e s ( a s " m y s o r r o w c o n t a i n s a 2 4 6 b e l i e f t h a t l i n s u l t e d y o u a n d a w i s h t h a t I h a d n ’ t " ( S e a r l e 1 9 8 3 , p . 8 ) ) , b u t " d o n ’ t h a v e a n y d i r e c t i o n o f f i t ‘ ( S e a r l e 1 9 8 3 , p . 9 ) t h e m s e l v e s . H o w p s y c h o l o g i c a l m o d e s a r e “ i n t h e h e a d " ( i f t h e y a r e ) n o o n e k n o w s . O n e l i n e o f s p e c u l a t i o n h a s i t t h a t d i f f e r e n c e s i n p s y c h o l o g i c a l m o d e c o n e s p o n d t o d i f f e r e n t a r e a s o r l o c a t i o n s i n t h e b r a i n . T h e p i c t u r e ( a s a d v o c a t e d , e . g . , b y F o d o r 1 9 7 5 ) i s t h a t c o n t e n t s , b e i n g p r o p o s i t i o n a l , a r e l i k e s e n t e n c e s - p e r h a p s t h e y a r e s e n t e n c e s , o f t h e l a n g u a g e o f t h o u g h t o r “ m e n t a l e s e " a s i t h a s b e e n c a l l e d . 8 0 , w a n t i n g t h e c a t o n t h e m a t , a n d b e l i e v i n g t h e c a t i s o n t h e m a t w i l l c o n s i s t i n s t o r i n g a t o k e n ( o r a m e n t a l e s e s e n t e n c e ) s i g n i f y i n g t h a t t h e c a t i s o n t h e m a t i n t h e " b e l i e f b o x “ ( S c h i f f e r , 1 9 8 7 ) w h e n i b e l i e v e i t , i n t h e " d e s i r e b o x “ w h e n I w a n t i t , e t c . O n t h i s h y p o t h e s i s e n t e r t a i n i n g t h e s a m e p r o p o s i t i o n i n d i f f e r e n t a t t i t u d e o r m o d e i s , i n e f f e c t , h a v i n g t h e s a m e s e n t e n c e o f m e n t a l e s e " w r i t t e n " o r s t o r e d a t d i f f e r e n t l o c a t i o n s i n t h e b r a i n . F o r t u n a t e l y , I t h i n k , w e n e e d n ’ t w o r r y a b o u t a n y o f t h i s o r p u r s u e s u c h s p e c u l a t i o n s f u r t h e r , s i n c e o u r m a i n c o n c e r n f o r n o w , f o l l o w i n g S e a r l e , i s w i t h t h e c o n t e n t n o t t h e m o d e ; t h e p r o p o s i t i o n , n o t t h e a t t i t u d e . 3 . I n t e n t i o n a l C o n t e n t T h e s y n t a c t i c c o r r e l a t e o f t h e s e m a n t i c c o n t e n t o f a n i n t e n t i o n a l m e n t a l s t a t e o r p r o c e s s o f b e l i e f ( f o r i n s t a n c e ) i s t h e s e n t e n c e e m b e d d e d i n t h e t h a t c l a u s e o f t h e s e n t e n c e a t t r i b u t i n g t h e b e l i e f . T h u s , t h e c o n t e n t o f t h e b e l i e f t h a t I a t t r i b u t e t o m y s e l f b y a s s e r t i n g , “ I b e l i e v e t h a t s n o w i s w h i t e , “ i s ( t h e p r o p o s i t i o n e x p r e s s e d b y ) " s n o w i s w h i t e . " S i m i l a r l y t h e c o n t e n t o f t h e w a n t i a t t r i b u t e t o m y s e l f b y a s s e r t i n g , " I w a n t t h e c a t [ t o b e ] o n t h e m a t “ i s t h e c a t [ b e i n g ] o n t h e m a t . 2 4 7 N o t e h o w f i t t i n g e v e n t h i s l a s t e x a m p l e - w a n t i n g t h e c a t [ t o b e ] o n t h e m a t - - i n t o c a n o n i c a l p r o p o s i t i o n a l a t t i t u d e f o r m r e q u i r e s s o m e f u d g i n g : n o t a l l a t t r i b u t i o n s o f i n t e n t i o n a l s t a t e s h a v e t h e s u r f a c e g r a m m a r o f p r o p o s i t i o n a l a t t i t u d e s , a n d i s u p p o s e t h a t p u t t i n g s u c h a t t r i b u t i o n s i n t o s o m e t h i n g l i k e w h a t i h a v e j u s t c a l l e d " c a n o n i c a l p r o p o s i t i o n a l f o r m “ w i l l s e e m t o s o m e t o b e f o r c i n g t h e m o n t o a P r o c r u s t e a n b e d . “ I w a n t b e e r , “ f o r i n s t a n c e , i n v o k e s n o t h a t c l a u s e c o n t a i n i n g a s e n t e n c e c o r r e s p o n d i n g t o t h e c o n t e n t o f m y w a n t . D o e s t h i s s i g n i f y t h a t t h e r e a r e d i f f e r e n t t y p e s o f w a n t s - - t h a t s o m e w a n t s ( p r o p o s i t i o n a l a t t i t u d e s , e . g . , w a n t i n g t h e c a t t o b e o n t h e m a t ) a r e f o r ( o r d i r e c t e d a t , o r a b o u t ) s t a t e s o f a f f a i r s c o r r e s p o n d i n g t o s e n t e n c e s ( e . g . , w a n t i n g t h e c a t t o b e o n t h e m e t ) , w h i l e o t h e r s ( o b j e c t u a l a t t i t u d e s , e . g . , w a n t i n g b e e r ) a r e d i r e c t e d a t o b j e c t s o r s u b s t a n c e s d e n o t e d b y n o u n p h r a s e s ( N P s ) ? A r e t h e r e p r o p o s i t i o n a l o r s e n t e n t i a l c o n a t i v e a t t i t u d e s o n t h e o n e h a n d , a n d o b j e c t u a l o r N P a t t i t u d e s o n t h e o t h e r ? P e r h a p s n o t . O n e a r g u m e n t f o r t h i s - f o r t a k i n g t h e e m b e d d e d t h a t c l a u s e f o r m a s c a n o n i c a l , a n d t r e a t i n g t h e i n t e n t i o n a l c o n t e n t o f c o n a t i v e s t a t e s a s i n v a r i a b l y p r o p o s i t i o n a l - - i s t h a t s u c h a t t r i b u t i o n s a s “ I w a n t b e e r “ s e e m i n c o m p l e t e . A t t r i b u t i o n s k e t c h e s , a s i t w e r e . F o r w h a t d o e s i t m e a n t o s a y “ I w a n t b e e r " - - w h a t w o u l d s a t i s f y m y w a n t ? P r e s u m a b l y n o t j u s t t h a t t h e r e b e b e e r ( t h a t b e e r e x i s t s ) . P r e s u m a b l y w h a t I w a n t i s t o h a v e b e e r ( o r t o b e a b s o l u t e l y c a n o n i c a l t h a t l h a v e b e e r ) o r t o d r i n k b e e r o r t o p u r c h a s e b e e r . S i m i l a r l y S e a r l e a r g u e s “ t h a t t h e s u r f a c e s t r u c t u r e [ o f a s e n t e n c e l i k e “ I w a n t y o u r h o u s e " ] i s m i s l e a d i n g a n d t h a t w a n t i n g [ a n d s i m i l a r l y , w i s h i n g , d e s i r i n g , e t c . ] i s a 2 4 s p r o p o s i t i o n a l a t t i t u d e " ( S e a r l e 1 9 8 3 , p . 3 0 ; c f . , S e a r l e 1 9 7 9 b , p . 1 8 9 - 1 9 0 ) . H e a r g u e s t h u s v i a t h e f o l l o w i n g " s i m p l e s y n t a c t i c a l a r g u m e n t “ ( S e a r l e 1 9 8 3 , p . 3 0 ) : C o n s i d e r t h e s e n t e n c e I w a n t y o u r h o u s e n e x t s u m m e r . W h a t d o e s " n e x t s u m m e r m o d i f y ? I t c a n ’ t b e " w a n t " f o r t h e s e n t e n c e d o e s n o t m e a n I n e x t - s u m m e r - w a n t y o u r h o u s e s i n c e I t i s p e r f e c t l y c o n s i s t e n t t o s a y i n o w w a n t y o u r h o u s e n e x t s u m m e r t h o u g h b y n e x t s u m m e r I w o n ' t w a n t y o u r h o u s e . W h a t t h e s e n t e n c e m u s t m e a n i s I w a n t ( l h a v e y o u r h o u s e n e x t s u m m e r ) a n d w e c a n s a y t h a t t h e a d v e r b i a l p h r a s e m o d i f i e s t h e d e e p s t r u c t u r e v e r b " h a v e " o r I f w e a r e r e l u c t a n t t o p o s t u l a t e s u c h d e e p s y n t a c t i c s t r u c t u r e s w e c a n s i m p l y s a y t h a t t h e s e m a n t i c c o n t e n t o f t h e s e n t e n c e " I w a n t y o u r h o u s e " i s : i w a n t t h a t I h a v e y o u r h o u s e . ( S e a r l e 1 9 8 3 , p . 3 0 ) S t i l l , S e a r l e a c k n o w l e d g e s , " n o t a l l I n t e n t i o n a l s t a t e s h a v e a n e n t i r e p r o p o s i t i o n a s I n t e n t i o n a l c o n t e n t " ( S e a r l e 1 9 8 3 , p . 7 ) , c i t i n g l o v e ( a s a t t r i b u t e d i n " R o m e o l o v e s J u l i e t “ ) a n d h a t e ( a s a t t r i b u t e d i n “ B u s h h a t e s b r o c c o l i “ ) a s g e n u i n e l y n o n - p r o p o s i - t i o n a l o r o b j e c t u a l ( c o n a t i v e ) a t t i t u d e s a f t e r a l l . N o n e t h e l e s s , I w i l l f o l l o w S e a r l e i n t a k i n g p r o p o s i t i o n a l a t t i t u d e s a s " c e n t r a l c a s e s " ( S e a r l e 1 9 8 3 , p . 3 5 ) . i f t h i s i s a n o v e r s i m p l i f i c a t i o n i t ‘ s o n e S e a r l e h i m s e l f m a k e s . T h e p r o p o s i t i o n a l s e m a n t i c c o n t e n t s o f m e n t a l s t a t e s g o t o d e t e r m i n e t h e i r c o n d i t i o n s o f s a t i s f a c t i o n . W h a t w o u l d s a t i s f y m y d e s i r e f o r t h e c a t t o b e o n t h e m a t i s “ T h e c a t i s o n t h e m a t " b e i n g t r u e , o r t h e c a t b e i n g o n t h e m a t ; w h a t s a t i s f i e s y o u r b e l i e f t h a t s n o w i s w h i t e i s " S n o w i s w h i t e " b e i n g t r u e o r s n o w b e i n g w h i t e ; e t c . W h a t d i s t i n g u i s h e s i n t e n t i o n a l s t a t e s o f t h e s a m e t y p e o r m o d e - - d i f f e r e n t b e l i e f s , s a y - - i s t h e i r c o n t e n t : w h a t m a k e s m y b e l i e f t h a t s n o w i s w h i t e t h e 2 4 9 b e l i e f i t i s ( a n d d i f f e r e n t i a t e s i t f r o m m y b e l i e f , t h a t a c e r t a i n c a t i s o n t h e m a t , s a y ) i s t h a t t h e o n e i s a b o u t ( i . e . , i s s a t i s f i e d o r m a d e t r u e b y ) s n o w b e i n g w h i t e , a n d t h e o t h e r i s a b o u t a c e r t a i n c a t b e i n g o n t h e m a t . A g a i n , a s w i t h " p s y c h o l o g i c a l m o d e s " o r a t t i t u d e s i t i s a n u n c l e a r p o i n t a m o n g t h o s e w h o b e l i e v e t h a t i n t e n t i o n a l c o n t e n t s a r e “ i n t h e h e a d " j u s t w h a t i n t h e h e a d o r b r a i n t h e y a r e ; a n d h e r e a g a i n t h e l a n g u a g e o f t h o u g h t h y p o t h e s i s - t h a t t h e p r o p o s i t i o n s o r c o n t e n t a r e s e n t e n c e s o f “ m e n t a l e s e " - h a s f u e l e d t h e m o s t s p e c u l a t i o n . C e r t a i n l y w h a t h a s b e e n c a l l e d " g o o d o l d f a s h i o n e d A l “ ( G O F A I - c . f . , P a r t r i d g e & W i l k s 1 9 9 0 a ) s u p p o s e s t h i s : t h a t p s y c h o l o g i c a l s t a t e s c o n s i s t o f h a v i n g t o k e n s ( s y m b o l s ) s t o r e d i n s p e c i f i c l o c a t i o n s , f r o m “ 1 " s a n d “ 0 “ s i n t h e a c c u m u l a t o r t o d i s s e r t a t i o n c h a p t e r s i n R A M . R e c e n t c o n n e c t i o n i s t r e s e a r c h h a s f u e l e d d o u b t s a b o u t t h i s p i c t u r e a n d t a l k a b o u t " d i s t r i b u t e d " a n d e v e n “ n o n s y m b o l i c ” r e p r e s e n t a t i o n . S e a r l e h i m s e l f h a s e x p r e s s e d s o m e g u a r d e d s y m p a t h y f o r s p e c u l a t i o n s a l o n g s u c h l i n e s s u g g e s t i n g t h e r e a r e “ a d v a n t a g e s o f p a r a l l e l a r c h i t e c t u r e f o r w e a k A l ‘ s ( S e a r l e 1 9 9 0 a , p . 2 8 ; c f . , S e a r l e 1 9 9 2 , p . 2 4 6 ) ; b u t n o m a t t e r . W h e t h e r c o m p u t e r s ’ s a r c h i t e c t u r e s a r e p a r a l l e l o r s e r i a l , a n d w h e t h e r t h e r e p r e s e n t a t i o n i s s e r i a l ( s e n t e n c e a n d s t r i n g l i k e ) r e p r e s e n t a t i o n o r d i s t r i b u t e d ( u n s e n t e n c e l i k e o r “ n o n s y m b o l i c " ) , r e g a r d l e s s o f w h e t h e r t h e b r a i n ’ s a r c h i t e c t u r e i s s e r i a l o r p a r a l l e l , w h a t e v e r i n o u r b r a i n s m a k e s u s r e c o g n i z e t h a t w h i t e ’ s k i n g i s i n c h e c k a n d c o n s i d e r w h e t h e r i n t e r p o s i n g t h e q u e e n w o u l d b e a g o o d r e s p o n s e , 3 . " W e a k A l " a c c o r d i n g t o S e a r l e t r e a t s t h e c o m p u t e r a s m e r e l y a t o o l " t h a t e n a b l e s u s t o f o r m u l a t e a n d t e s t h y p o t h e s e s i n a m o r e r i g o r o u s a n d p r e c i s e f a s h i o n " w h e t h e r t h e s e h y p o t h e s e s a r e a b o u t m e n t a l p r o c e s s e s , o r m e t e o r o l o g i c a l p r o c e s s e s , o r w h a t e v e r . A c c o r d i n g t o " w e a k A l " j u s t a s a c o m p u t e r m o d e l i n g t h e m e t e o r o l o g i c a l p r o c e s s e s o f p r e c i p i t a t i o n i s n o t r e a l l y r a i n i n g a c o m p u t e r m o d e l i n g t h o u g h t p r o c e s s e s i s n o t r e a l l y t h i n k i n g . 2 5 0 a c c o r d i n g t o S e a r l e , i s s o m e h o w i n o u r b r a i n s i n a w a y t h a t t h e c o r r e s p o n d i n g r e p r e s e n t a t i o n a l s t a t e s o f D e e p T h o u g h t ( o r a c o m p a r a b l e p a r a l l e l p r o c e s s p r o g r a m , i f o n e c o u l d b e d e v i s e d ) a r e n o t i n t h e e l e c t r i c c i r c u i t s o f a c o m p u t e r r u n n i n g D e e p T h o u g h t a n d w o u l d n o t b e i n c i r c u i t s i m p l e m e n t i n g P a r a l l e l T h o u g h t e i t h e r ( c f . , S e a r l e 1 9 9 0 a , p . 2 8 ) . T h i s i s p u z z l i n g . W h a t ’ s p u z z l i n g i s t h i s : s u r e l y t h e s t a t e s o f D e e p T h o u g h t ’ s c i r c u i t r y t h a t r e p r e s e n t c h e s s p i e c e s a n d p o s i t i o n s a r e i n t h e c o m p u t e r i n a p e r f e c t l y o r d i n a r y s e n s e o f " i n “ ; t h e " i n " o f " i n t r i n s i c " s e e m s s t r o n g e r t h a n o r d i n a r y p h y s i c a l c o n t a i n m e n t . S e a r i e ’ s t h o u g h t h e r e s e e m s t o b e t h a t o n e t h i n g i s i n t r i n s i c t o a n o t h e r o n l y i f e v e r y t h i n g t h a t m a k e s i t ( t h e f i r s t t h i n g ) t h e k i n d o f t h i n g i t i s i s p h y s i c a l l y c o n t a i n e d i n t h e s e c o n d . “ i n t r i n s i c “ i n t h i s s e n s e , a c c o r d i n g t o H a r m a n , i s " a t e c h n i c a l t e r m i n p h i l o s o p h y " ( H e r m a n 1 9 9 0 , p . 6 0 7 ) : " A f e a t u r e o f a t h i n g i s i n t r i n s i c t o t h a t t h i n g i f t h e t h i n g h a s t h a t f e a t u r e p u r e l y b y v i r t u e o f t h e w a y t h e t h i n g i s i n i t s e l f a n d a p a r t f r o m i t s r e l a t i o n s t o o t h e r t h i n g s . " i n t r i n s i c , i n t h i s s e n s e , m e a n s s o m e t h i n g l i k e " n o n r e l a t i o n a l . “ I n t h i s e x a c t i n g s e n s e o f " i n , “ I s u p p o s e , t h e d o l l a r i n y o u r p o c k e t i s n ’ t i n y o u r p o c k e t e i t h e r , s i n c e e v e r y t h i n g t h a t g o e s t o m a k e i t a d o l l a r ( s u c h a s t h e g o l d i n F o r t K n o x ) i s n ’ t i n y o u r p o c k e t . i f t h i s i s t h e s e n s e o f " i n t r i n s i c " S e a r l e i n v o k e s , w h y w o u l d h e i n v o k e i t ? W h a t i s i t s s c i e n t i f i c o r p h i l o s o p h i c a l i m p o r t ? 4 . I n t r i n s i c a n d D e r i v e d l n t e n t i o n a l i t y S e a r l e i n s i s t s ( S e a r l e 1 9 9 0 9 , p . 6 3 9 ) t h a t h i s n o t i o n o f i n t r i n s i c i n t e n t i o n a l i t y i s m e a n t t o c o n t r a s t w i t h " w h a t I w i l l c a l l o b s e r v e r r e l a t i v e a s c r i p t i o n s o f 2 5 1 i n t e n t i o n a l i t y , w h i c h a r e w a y s p e o p l e h a v e o f s p e a k i n g a b o u t e n t i t i e s f i g u r i n g i n o u r a c t i v i t i e s b u t l a c k i n g i n t r i n s i c i n t e n t i o n a l i t y “ ( S e a r l e 1 9 8 0 b , p . 4 5 1 ) . S e a r l e a l s o t r i e s t o m a k e a f u r t h e r d i s t i n c t i o n a m o n g o b s e r v e r r e l a t i v e a t t r i b u t i o n s o f i n t e n t i o n a l i t y b e t w e e n t h o s e s u c h a s “ ‘ E s r e g n e t ’ m e a n s ‘ i t i s r a i n i n g ’ “ ( S e a r l e 1 9 8 4 b , p . 4 ) w h i c h “ a r e l i t e r a l a s c r i p t i o n s o f [ d e r i v e d ] i n t e n t i o n a l i t y " ( S e a r l e 1 9 8 4 b , p . 5 ) " w h o s e t r u t h d e p e n d s o n t h e e x i s t e n c e o f s o m e m e n t a l p h e n o m e n o n “ ( S e a r l e 1 9 8 4 b , p . 5 ) a n d “ m e t a p h o r i c a l a s c r i p t i o n [ s ] “ ( S e a r l e 1 9 8 4 b , p . 4 ) o f a s - i f i n t e n t i o n a l i t y " w h i c h d o n o t l i t e r a l l y a s c r i b e a n y i n t e n t i o n a l i t y a t a l l , e v e n t h o u g h t h e p o i n t o f t h e m e t a p h o r i c a l a s c r i p t i o n m i g h t d e p e n d o n s o m e i n t r i n s i c i n t e n t i o n a l i t y o f h u m a n a g e n t s “ ( S e a r l e 1 9 8 4 b , p . 5 ) . I n t h e s e c o n n e c t i o n s S e a r l e ( S e a r l e 1 9 8 4 b , p . 3 ) o f f e r s t h e f o l l o w i n g e x a m p l e s : A . R o b e r t b e l i e v e s t h a t R o n a l d R e a g a n i s P r e s i d e n t . 8 . B i l l s e e s t h a t i t i s s n o w i n g . C . " E s r e g n e t ' m e a n s i t ’ s r a i n i n g . D . M y c a r t h e r m o s t a t p e r c e i v e s c h a n g e s i n t h e e n g i n e t e m p e r a t u r e . A a n d 8 , a c c o r d i n g t o S e a r l e , a r e l i t e r a l a s c r i p t i o n s o f i n t r i n s i c i n t e n t i o n a l i t y : B o t h b e l i e f s a n d v i s u a l e x p e r i e n c e s a r e i n t r i n s i c i n t e n t i o n a l p h e n o m e n a i n t h e m i n d s / b r a i n s o f a g e n t s ; t h e a s c r i p t i o n o f t h e s e s t a t e s a n d e v e n t s I s t o b e t a k e n l i t e r a l l y , n o t j u s t a s a m a n n e r o f s p e a k i n g , n o r a s s h o r t h a n d f o r a s t a t e m e n t d e s c r i b i n g s o m e m o r e c o m p l e x s e t o f e v e n t s a n d r e l a t i o n s g o i n g o n o u t s i d e t h e a g e n t s . ( S e a r l e 1 9 8 4 b , p . 4 ) C , o n t h e o t h e r h a n d , l i t e r a l l y a s c r i b e s i n t e n t i o n a l i t y , t h o u g h t h e l n t e n t i o n a l i t y i s n o t I n t r i n s i c t o t h e s e n t e n c e . T h a t v e r y s e n t e n c e m i g h t h a v e m e a n t s o m e t h i n g e l s e o r n o t h i n g a t a l l . T o a s c r i b e t h i s f o r m o f i n t e n t i o n a l i t y t o i t i s s h o r t h a n d f o r s o m e s t a t e m e n t o r s t a t e m e n t s t o t h e e f f e c t t h a t s p e a k e r s o f G e r m a n u s e t h e s e n t e n c e l i t e r a l l y t o m e a n o n e t h i n g r a t h e r t h a n a n o t h e r , a n d t h e l n t e n t i o n a l i t y o f t h e s e n t e n c e i s 2 5 2 d e r i v e d f r o m t h i s m o r e b a s i c f o r m o f l n t e n t i o n a l i t y o f s p e a k e r s o f G e r m a n . ( S e a r l e 1 9 8 4 b , p . 4 ) F i n a l l y , a s f o r D , I n D , o n t h e o t h e r h a n d , t h e r e i s n o l i t e r a l a s c r i p t i o n o f l n t e n t i o n a l i t y a t a l l b e c a u s e m y c a r t h e r m o s t a t d o e s n o t l i t e r a l l y h a v e a n y p e r c e p t i o n s . D , u n l i k e C , i s a m e t a p h o r i c a l a s c r i p t i o n o f i n t e n t i o n a l i t y ; b u t , l i k e C I t s p o i n t d e p e n d s o n s o m e i n t r i n s i c i n t e n t i o n a l i t y o f a g e n t s . W e u s e c a r t h e r m o s t a t s t o r e g u l a t e e n g i n e t e m p e r a t u r e s a n d t h e r e f o r e t h e y m u s t b e a b l e t o r e s p o n d t o c h a n g e s i n t e m p e r a - t u r e . H e n c e t h e m e t a p h o r ; a n d h e n c e i t s h a r m i e s s n e s s , p r o v i d e d w e d o n ’ t c o n f u s e t h e a n a l y s i s o f A , B , a n d C , w i t h t h a t o f D . ( S e a r l e 1 9 8 4 b , p . 4 ) N o w , c o n s i d e r a t i o n s b r o u g h t f o r w a r d i n t h e p r e c e d i n g c h a p t e r a g a i n s t S e a r i e ’ s a t t e m p t t o s t y l e a l l a s c r i p t i o n s o f i n t e n t i o n a l m e n t a l p r o p e r t i e s t o m a c h i n e s m e t a p h o r i c a l u n d e r c u t t h i s d i s t i n c t i o n S e a r l e p r o p o s e s b e t w e e n l i t e r a l a t t r i b u t i o n s o f d e r i v e d i n t e n t i o n a l i t y ( a s i n C ) a n d m e t a p h o r i c a l a t t r i b u t i o n s o f a s - i f i n t e n t i o n a l i t y ( a s i n D ) . B u t e v e n i f w e d i s a l l o w S e a r i e ’ s b l a n k e t d i s m i s s a l o f a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o c o m p u t e r s a s “ m e t a p h o r i c a l , “ h e m i g h t s t i l l i n s i s t t h a t t h e p r i m a r y d i s t i n c t i o n , b e t w e e n i n t r i n s i c i n t e n t i o n a l i t y a n d o b s e r v e r - r e l a t i v e i n t e n t i o n a l i t y r e m a i n s . W h y n o t g r a n t t h a t a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o c o m p u t e r s l i t e r a l l y a t t r i b u t e d e r i v e d i n t e n t i o n a l i t y ? N o t e t h a t t h e p r e c e d i n g " c o n c e s s i o n “ - i f i t w e r e t o b e a l l o w e d o n S e a r i e ’ s b e h a l f - - w o u l d s t i l l e n a b l e u s t o a r g u e o n h i s b e h a l f a l o n g t h e f o l l o w i n g l i n e s : I n t e n t i o n a l m e n t a l s t a t e s a r e i n t r i n s i c a l l y I n t e n t i o n a l . C o m p u t e r s ’ i n t e n t i o n a l s t a t e s a r e d e r i v e d n o t i n t r i n s i c . N o c o m p u t e r h a s i n t e n t i o n a l m e n t a l s t a t e s . T o m a k e a c a s e a g a i n s t A I , i t w o u l d s e e m t o b e e n o u g h t o c l a s s i f y C w i t h D , a s e s s e n t i a l l y d i s t i n c t f r o m A a n d 8 . P e r h a p s t h e r e i s n o n e e d t o f u r t h e r d i s t i n g u i s h D f r o m C a s S e a r l e t r i e s t o d o . 2 5 3 I n c o n s i d e r i n g t h i s l i n e o f a t t a c k a g a i n s t S A I P ( a n d i n d e f e n s e o f S e a r l e ) , h o w e v e r , t w o c a u t i o n s a r e i n o r d e r a g a i n s t t w o s h o r t c u t w a y s w i t h t h i s o b j e c t i o n t h a t m i g h t m a k e i t a p p e a r t o b e e a s i e r t o m a k e a c a s e a l o n g t h e s e l i n e s t h a n i t i s . F i r s t , w h i l e c o m p u t e r s c l e a r l y , i n s o m e s e n s e , d e r i v e t h e i r i n t e n t i o n a l i t y f r o m u s , t h e i r p r o g r a m m e r s , b u i l d e r s , a n d u s e r s , i t d o e s n ’ t f o l l o w i m m e d i a t e l y f r o m t h i s t h a t t h e i n t e n t i o n a l i t y o f c o m p u t e r s d i f f e r s i n k i n d f r o m o u r s . i m i g h t c a t c h t h e m e a s l e s f r o m y o u , y e t w e b o t h h a v e t h e s a m e t y p e d i s e a s e ; i n t r i n s i c a n d d e r i v e d a r e n o t t w o d i f f e r e n t s t r a i n s o f m e a s l e s . E v e n i f t h e r e w e r e a n e s s e n t i a l d i f f e r e n c e i n i n t e n t i o n a l i t y b e t w e e n i n t r i n s i c a n d d e r i v e d , i t i s n o t c l e a r e i t h e r t h a t o u r i n t e n t i o n - a l i t y i s ( w h o l l y ? ) i n t r i n s i c , o r t h a t t h e a r t i f i c i a l i n t e n t i o n a l i t y o f c o m p u t e r s i s ( w h o l l y ? ) d e r i v e d . W e o u r s e l v e s m i g h t ( w h o l l y o r e n t i r e l y ) " c a t c h “ ( t h e m e a n i n g o f ) o u r r e p r e s e n t a t i o n a l s t a t e s . i t s e e m s n o t i m p l a u s i b l e t o t h i n k ( n o r f o r l o r n t o h o p e ) t h a t s o m e i n f o r m a t i o n b e a r i n g s t a t e s o f u s g e t i n v e s t e d w i t h s o m e m e a n i n g i n h o m e s a n d a t s c h o o l , b y p a r e n t s a n d t e a c h e r s ; p e r h a p s , e v e n i n a w a y n o t e s s e n t i a l l y u n l i k e t h e w a y w e ( t h e c o m m u n i t y ) i n v e s t t h e s t a t e s a n d o p e r a t i o n s o f c o m p u t e r s w i t h m e a n i n g ( t o t h e e x t e n t t h a t w e d o ) . O n t h e o t h e r h a n d , t h e r e p r e s e n t a t i o n a l s t a t e s o f c o m p u t e r s m i g h t h a v e s o m e i n t e n t i o n a l i t y n o t d e r i v e d f r o m u s ( i t s p r o g r a m m e r s , d e s i g n e r s , a n d u s e r s ) , w h i c h w o u l d b e i n t r i n s i c i f “ i n t r i n s i c “ m e a n s " n o t e x t e m a l l y d e r i v e d f r o m u s r e l e v a n t o b s e r v e r s “ : a n d t h e n a g a i n , a s t h e r e a r e m a c h i n e w r i t t e n p r o g r a m s , c o m p u t e r a c q u i r e d d a t a , a n d p r o g r a m s t h a t d e s i g n h a r d w a r e f o r p a r t i c u l a r a p p l i c a t i o n s , e t c , i t s e e m s t h i s “ u s " i n c l u d e s t h e m . S e c o n d l y , i t w o n ’ t d o t o s a y t h a t " m y p o c k e t c a l c u l a t o r a d d s a n d s u b t r a c t s , b u t d o e s n o t d i v i d e " ( S e a r l e 1 9 8 0 0 , p . 4 0 7 ) i s j u s t s h o r t h a n d f o r “ i a m a b l e t o u s e 2 5 4 m y c a l c u l a t o r f o r a d d i t i o n a n d s u b t r a c t i o n b u t n o t d i v i s i o n " ( S e a r l e 1 9 8 0 c , p . 4 0 7 ) i f t h i s i s s u p p o s e d t o m e a n t h a t I , n o t t h e c a l c u l a t o r , r e a l l y d o t h e c a l c u l a t i n g ; i f i t ’ s s u p p o s e d t o m e a n t h a t I c a l c u l a t e w i t h t h e c a l c u l a t o r , b u t t h e c a l c u l a t o r i t s e l f d o e s n ’ t c a l c u l a t e . I t c a n b e t r u e t h a t m y c a l c u l a t o r c a n a d d a n d s u b t r a c t i n d e p e n d e n t l y o f m y k n o w i n g h o w t o u s e i t t o d o s o ( e . g . , i f I l o s t t h e i n s t r u c t i o n s ) ; a n d t h e c a l c u l a t o r c a n g o o n c a l c u l a t i n g w h i l e I s l e e p o r e v e n i f I d i e i n t h e m i d s t o f i t s c a l c u l a t i o n s . I t w i l l n o t d o t o c o n f l a t e t h e w a y y o u u s e a c a l c u l a t o r t o c a l c u l a t e w i t h t h e w a y y o u u s e a p e n c i l a s t h i s s e c o n d w o u l d - b e s h o r t w a y w i t h t h e l i n e o f o b j e c t i o n t o A I b e i n g c o n s i d e r e d w o u l d d o . I c o u l d u s e m y p o c k e t c a l c u l a t o r i n s u c h a w a y t h a t I r e m a i n t h e s o l e c a l c u l a t o r - — e . g . , b y s c r a t c h i n g o u t s u m s i n t h e s a n d w i t h i t - b u t w h e n I u s e i t t o c a l c u l a t e i n t h e u s u a l w a y , w h e n I u s e i t a s a c a l c u l a t o r n o t a s a s t y l u s , I d o n ’ t j u s t c a l c u l a t e w i t h t h e c a l c u l a t o r i n t h i s n o n d e l e g a t i v e w a y . R a t h e r , t h e c a l c u l a t o r c a l c u l a t e s f o r m e : i t ’ s l e s s l i k e u s i n g a p e n c i l t o d o m y c a l c u l a t i n g t h a n u s i n g a n a c c o u n t a n t : l n e e d n ’ t m y s e l f k n o w h o w t o a d d ( o r w h a t e v e r ) , b u t o n l y h o w t o a s k . 5 . D e r i v e d l n t e n t i o n a l i t y a s N o r m a t i v e S e a r l e a d m o n i s h e s u s t o " T h i n k h a r d w h a t i t w o u l d t a k e t o e s t a b l i s h t h a t h u n k o f m e t a l o n t h e w a l l o v e r t h e r e h a d r e a l b e l i e f s w i t h d i r e c t i o n o f f i t , p r o p o s i t i o n a l c o n t e n t , a n d c o n d i t i o n s o f s a t i s f a c t i o n " ( S e a r l e 1 9 8 0 8 , p . 4 2 0 ) . I w i l l t r y . W h e t h e r o r n o t w e a r e c o m f o r t a b l e s a y i n g t h e t h e r m o s t a t p e r c e i v e s t h e e n g i n e t e m p e r a t u r e , i t s e e m s ( s t a t e s o f ) t h e t h e m i o s t a t r e p r e s e n t t h e e n g i n e 2 5 5 t e m p e r a t u r e - - m u c h a s “ E s r e g n e t ” r e p r e s e n t s i t t o b e r a i n i n g . M o r e o v e r , j u s t a s a s s e r t i o n s o f " E s r e g n e t " c a n m i s r e p r e s e n t t h e w e a t h e r ( i f y o u a f f i r m i t w h e n i t ’ s n o t r a i n i n g ) ; s o t o o c a n t h e t h e r m o s t a t m i s r e p r e s e n t t h e e n g i n e t e m p e r a t u r e ( w h e n i t ’ s m a l f u n c t i o n i n g ) . T h i s m e a n s t h a t t h e t h e r m o s t a t ’ s r e p r e s e n t a t i o n o f t h e e n g i n e t e m p e r a t u r e - s o m e p a r t i c u l a r s t a t e o f t h e t h e r m o s t a t ’ s m e a n i n g t h e e n g i n e i s t o o h o t - i s n o t j u s t a n a t u r a l s i g n o f t h e e n g i n e ’ s t e m p e r a t u r e h a v i n g t h e s o r t o f n a t u r a l m e a n i n g ( G r i c e ’ s m e a n i n g N ) ‘ w h i c h e n t a i l s t h e e x i s t e n c e o f w h a t i t r e p r e s e n t s ( a s t h u n d e r m e a n s l i g h t n i n g , a n d s m o k e m e a n s f i r e ) . R a t h e r , i t s h a r e s t h e d i s t i n g u i s h i n g c h a r a c t e r i s t i c o f b e i n g p o t e n t i a l l y m i s r e p r e s e n t a t i v e w i t h " c o n v e n - t i o n a l ” o r n o n - n a t u r a l m e a n i n g ( G r i c e ’ s m e a n i n g “ ) , w i t h b e l i e f s ( e . g . , t h a t R o n a l d R e a g a n i s P r e s i d e n t ) a n d s e n t e n c e s ( e . g . , " E s r e g n e t " ) . A c c o r d i n g t o G r i c e ( 1 9 5 7 , p . 3 7 7 ) x m e a n s N y i f x m e a n s t h a t y e n t a i l s y - - a s " T h e s m o k e f r o m t h e i r c h i m n e y m e a n s t h e r e ’ s a f i r e o n t h e i r h e a r t h " e n t a i l s ” T h e r e ’ s a f i r e o n t h e i r h e a r t h . " O n t h e o t h e r h a n d , x m e a n s M N y i f x m e a n s t h a t y d o e s n o t e n t a i l y - a s " E s r e g n e t ’ m e a n s i t ’ s r a i n i n g " d o e s n o t e n t a i l " I t ’ s r a i n i n g . ” 5 S i m i l a r l y - s w i t c h i n g f r o m c a r t h e r m o s t a t s t o r o o m t h e r m o s t a t s - " T h e c u r v a t u r e o f t h e b i m e t a l l i c e l e m e n t m e a n s t h e r o o m i s t o o h o t “ ( o n o n e r e a d i n g ) d o e s n o t e n t a i l “ T h e r o o m i s t o o h o t . " C a l l t h e k i n d o f i n t e n t i o n a l i t y ( c o r r e s p o n d i n g t o G r i c e ’ s n o n n a t u r a l m e a n i n g ) n o r m a t i v e i n t e n t i o n a l i t y . O b v i o u s l y t h e d e r i v e d i n t e n t i o n a l i t y o f s e n t e n c e s 4 . G r l c e 1 9 5 7 . 5 . G r i c e ’ s e x a m p l e - - ' T h a t r e m a r k , ' S m l t h c o u l d n ’ t g e t o n w i t h o u t h l s t r o u b l e a n d s t r i f e , ’ m e a n t S m i t h f o u n d h i s w i f e l n d l s p e n s a b l e ' ( 1 9 5 7 , p . 3 7 8 ) c a n b e t r u e e v e n I f I t ' s a l s o t r u e t h a t ” i n f a c t S m i t h d e s e r t e d h e r s e v e n y e a r s a g o . “ ( 1 9 5 7 , p . 3 7 8 ) - - p r o v i d e s a f u l l e r p a r a l l e l . ( L e s t i t b e t h o u g h t t h a t t h e d i f f e r e n c e b e t w e e n ' E s r e g n e t " s m e a n i n g I t ’ s r a i n i n g a n d t h e s m o k e f r o m t h e i r c h i m n e y ’ s m e a n i n g t h e r e ’ s f i r e o n t h e i r h e a r t h h i n g e d o n t h e f a c t t h a t m e a n i n g a t t r i b u t i o n I s t o a s i g n t o k e n I n t h e f i r s t c a s e a n d a s i g n t y p e I n t h e s e c o n d . ) 2 5 6 ( w h i c h c a n b e f a l s e l y a s s e r t e d ) , a n d d e v i c e s ( e v e n s o s i m p l e a s t h e r m o s t a t s ) , c a n b e n o r m a t i v e . ° l n S e a r i e ’ s t e r m s , i t m a y b e o b s e r v e d t h a t t h e t h e r m o s t a t ’ s r e p r e s e n t a t i o n o f t h e e n g i n e ( o r r o o m ) t e m p e r a t u r e , l i k e t h e b e l i e f t h a t R e a g a n i s P r e s i d e n t o r t h e a s s e r t i o n " E s r e g n e t " h a s a r e p r e s e n t a t i o n - t d w o r l d d i r e c t i o n o f f i t : n a t u r a l s i g n i f i c a t i o n s ( e . g . , o f f i r e b y s m o k e ) , o n t h e o t h e r h a n d , l a c k s a t i s f a c t i o n c o n d i t i o n s a n d d i r e c t i o n s o f f i t . A n d p e r h a p s t h i s i s a m o r e s a t i s f a c t o r y m a r k o f G r i c e ’ s d i s t i n c t i o n - - s i n c e m e n t a l s t a t e s a n d e v e n t s s u c h a s k n o w l e d g e a n d s e e i n g , w h i l e t h e y d o ( l i k e n a t u r a l s i g n i f i c a t i o n s ) e n t a i l t h a t w h a t ’ s k n o w n o r s e e n i s t h e c a s e , a l s o ( u n l i k e n a t u r a l s i g n s ) h a v e s a t i s f a c t i o n c o n d i t i o n s a n d d i r e c t i o n s o f f i t . I t ’ s j u s t t h a t ( a s c r i p t i o n s o f ) s e e i n g a n d k n o w i n g , u n l i k e b e l i e v i n g , " i m p l y t h a t t h e i n t e n t i o n a l p h e n o m e n o n i s s a t i s f i e d . “ ( S e a r l e 1 9 8 4 b , p . 4 ) N o t e n o - - c o n s i d e r i n g n o w a s i m p l e r o o m t h e r m o s t a t w i t h a m a n u a l s e t p o i n t a n d a b i m e t a l l i c s t r i p - - t h a t t h e r m o s t a t s ( a n d a f o r t i o r i m o r e s o p h i s t i c a t e d d e v i c e s l i k e c o m p u t e r s ) a r e c a p a b l e o f r e p r e s e n t a t i o n s w i t h w o r l d - t o - r e p r e s e n t a t i o n d i r e c t i o n s o f f i t a s w e l l a s r e p r e s e n t a t i o n - t o w o r l d d i r e c t i o n s o f f i t . I n t h e c a s e u n d e r c o n s i d e r a t i o n , t h e c u r v a t u r e o f t h e b i m e t a l l i c e l e m e n t r e p r e s e n t s t h e a c t u a l r o o m t e m p e r a t u r e ( w i t h a r e p r e s e n t a t i o n - t o - w o r l d d i r e c t i o n o f f i t ) , w h i l e t h e p o s i t i o n o f t h e s e t p o i n t r e p r e s e n t s t h e s o u g h t r o o m t e m p e r a t u r e ( w i t h a w o r l d - t o - r e p r e s e n t a - t i o n d i r e c t i o n o f f i t ) . I c o n c l u d e t h a t w h e t h e r o r n o t w e a r e w i l l i n g t o a t t r i b u t e b e l i e f s " w i t h t h e p o s s i b i l i t y o f b e i n g s t r o n g b e l i e f s o r w e a k b e l i e f s ; n e r v o u s , 6 . I c h o o s e t h e d e s i g n a t i o n " n o r m a t i v e “ o v e r “ n o n - n a t u r a l ” a s t e n d i n g l e s s t o p r e j u d g e t h e q u e s t i o n o f t h e p o s s i b i l i t y o f g i v i n g a n a t u r a l i s t i c a c c o u n t o f l i n g u i s t i c a n d m e n t a l i s t i c m e a n i n g . R i c h H a l l s u g g e s t s t h a t “ s e m a n t i c “ m i g h t b e a n a p t e r d e s i g n a t i o n ( p e r s o n a l c o m m u n i c a t i o n ) . 2 5 7 a n x i o u s , o r s e c u r e b e l i e f s ; d o g m a t i c , r a t i o n a l , o r s u p e r s t i t i o u s b e l i e f s " 7 t o t h e r m o s t a t s , w e n o n e t h e l e s s s e e m a b l e a n d w i l l i n g ( w h e n n o t w o r r i e d a b o u t s a v i n g o u r p h i l o s o p h i c a l t h e s e s ) t o a t t r i b u t e r e p r e s e n t a t i o n a l s t a t e s w i t h s a t i s f a c t i o n c o n d i t i o n s a n d b o t h w o r l d - t o - r e p r e s e n t a t i o n a n d r e p r e s e n t a t i o n - t o - w o r l d d i r e c t i o n s o f f i t t o t h e m . S i m i l a r l y w e a t t r i b u t e b o t h c o g n i t i v e i n t e n t i o n a l s t a t e s w i t h m i n d - t o - w o r l d d i r e c t i o n o f f i t , a n d c o n a t i v e i n t e n t i o n a l s t a t e s w i t h w o r l d - t o - m i n d d i r e c t i o n o f f i t , t o c o m p u t e r s . W h e n I s a y , " T h e c o m p u t e r d e t e c t s t h e p r i n t e r o n l i n e , " I a t t r i b u t e a c o g n i t i v e s t a t e w i t h m i n d t o - w o r l d d i r e c t i o n o f f i t , w i t h t h e p r o p o s i t i o n a l c o n t e n t t h a t t h e p r i n t e r i s o n l i n e , w h i c h i s s a t i s f i e d i f t h e p r i n t e r i s o n l i n e . W h e n I s a y " T h e c o m p u t e r t r i e d t o i n i t i a l i z e t h e p r i n t e r " ( w h e n I s e n t i t a p r i n t c o m m a n d b u t f o r g o t t o t u r n t h e p r i n t e r o n ) , I a t t r i b u t e a c o n a t i v e s t a t e w i t h w o r l d - t o - m i n d d i r e c t i o n o f f i t t o i t , w i t h t h e p r o p o s i t i o n a l c o n t e n t t h a t t h e c o m p u t e r i n i t i a l i z e d t h e p r i n t e r , w h i c h i s s a t i s f i e d i f t h e c o m p u t e r s u c c e e d s i n i n i t i a l i z i n g t h e p r i n t e r . W h e n I t h i n k h a r d a b o u t i t , i t s e e m s t h a t c o m p u t e r s a n d e v e n t h e r m o s t a t s h a v e n o r m a t i v e r e p r e s e n t a t i o n a l s t a t e s w i t h p r o p o s i t i o n a l c o n t e n t , d i r e c t i o n s o f fi t , a n d c o n d i t i o n s o f s a t i s f a c t i o n . 6 . D e r i v e d A r t i f i c i a l l n t e n t i o n a l i t y I f , " l n t e n t i o n a l i t y i s t h a t p r o p e r t y o f s t a t e s a n d e v e n t s b y w h i c h t h e y a r e d i r e c t e d a t o r a b o u t o b j e c t s a n d s t a t e s o f a f f a i r s " ( S e a r l e 1 9 8 3 , p . 1 ) , t h e n 7 . I f a l l o f t h i s I s r e q u i r e d f o r b e l i e f , t h e n t h e r m o s t a t s d o n ’ t h a v e b e l i e f s . B u t n o t e t h a t I f t h e p o s s i b i l i t y o f b e i n g d o g m a t i c a n d s u p e r s t i t i o u s i s n e c e s s a r y f o r r e p r e s e n t a t i o n s t o b e b e l i e f s , I t s e e m s t h a t I n f r a h u m a n a n i m a l s c a n ' t b e s a i d t o h a v e b e l i e f s e i t h e r . 2 5 8 c o m p u t e r s h a v e i n t e n t i o n a l i t y . I c o u n t o n t h e r e b e i n g s t a t e s o f ( o r e v e n t s i n ) t h e c o m p u t e r a t t h e M i c h i g a n S t a t e U n i v e r s i t y C r e d i t U n i o n w h e n i t a c c e s s e s d a t a s t r u c t u r e s t h a t r e p r e s e n t t h e b a l a n c e s o f f u n d s i n m y a c c o u n t s , e . g . , i n p r e p a r i n g m y m o n t h l y s t a t e m e n t t h a t a r e a b o u t t h e a m o u n t o f m o n e y i n m y a c c o u n t . P e o p l e c o u n t o n t h e r e b e i n g s t a t e s o f ( o r e v e n t s i n ) t h e c o m p u t e r a t t h e i r p l a c e s o f e m p l o y m e n t t h a t r e p r e s e n t t h e h o u r s t h e y ’ v e w o r k e d a n d t h e i r r a t e s o f p a y . D e e p T h o u g h t h a s a n d m a n i p u l a t e s d a t a s t r u c t u r e s t h a t r e p r e s e n t c h e s s p i e c e s a n d p o s i t i o n s w h e n i t c o n s i d e r s a l t e r n a t e c o n t i n u a t i o n s . A n d s o o n . A n d i f i t i s a d v a n c e d a s a f u r t h e r d i s t i n g u i s h i n g c h a r a c t e r i s t i c o f t h e a b o u t n e s s o r r e p r e s e n t a - t i o n r e l a t i o n t h a t t h e i n t e n d e d o r r e p r e s e n t e d r e l a t a n e e d n ’ t e v e n e x i s t - - i f i t i s n o t e d t h a t " I c a n h a v e t h e [ I n t e n t i o n a l ] s t a t e w i t h o u t t h e o b j e c t o r s t a t e o f a f f a i r s t h a t t h e I n t e n t i o n a l s t a t e i s d i r e c t e d a t e v e n e x i s t i n g a t a l l " - - i t i s a l s o n o t e w o r t h y t h a t t h e c o n t i n u a t i o n s D e e p T h o u g h t c o n s i d e r s d o n ’ t e x i s t ( a n d m o s t n e v e r w i l l ) ; t h e e v e n t u a l i t i e s t h a t g e t r e p r e s e n t e d w h e n a s p r e a d s h e e t i s u s e d ( t o p l a n i n v e s t m e n t s t r a t e g i e s , e . g . ) d o n ’ t y e t e x i s t ( a n d m o s t n e v e r w i l l ) ; e t c . C o m p u t e r s , l i k e u s , i t s e e m s , c a n r e p r e s e n t n o n e x i s t e n t a n d m i s r e p r e s e n t e x i s t e n t o b j e c t s a n d s t a t e s o f a f f a i r s . W e h a v e a l r e a d y s e e n t h e d i s t i n c t i o n S e a r l e a l l e g e s b e t w e e n t h e a c t u a l b u t d e r i v e d i n t e n t i o n a l i t y o f l i n g u i s t i c s i g n s a n d t h e m e r e l y m e t a p h o r i c a l " a s - i f " i n t e n t i o n a l i t y o f c o m p u t a t i o n a l s t r u c t u r e s a n d o p e r a t i o n s b r e a k s d o w n : w e a r e n o w s e e i n g w h y i t m u s t - - u n l e s s t h e m e a n i n g ( e . g . , h o u r s w o r k e d ) o f t h e d a t a t h e d a t a e n t r y t e c h n i c i a n e n t e r s w o n d r o u s l y d i s a p p e a r s i n v i r t u e o f b e i n g t y p e d i n t o t h e c o m p u t e r a n d w o n d r o u s l y r e a p p e a r s w h e n t h e c o m p u t e r p r i n t s o u t m y p a y c h e c k . 2 5 9 T h e g e n u i n e i s s u e h e r e s e e m s n o t w h e t h e r c o m p u t e r s h a v e i n t e n t i o n a l o r r e p r e s e n t a t i o n a l s t a t e s . I t ’ s a b o u t w h e t h e r t h e i n t e n t i o n a l s t a t e s c o m p u t e r s h a v e a r e i n t r i n s i c , a s S e a r l e c l a i m s o u r i n t e n t i o n a l m e n t a l s t a t e s a r e a n d t h e r e p r e s e n t a t i o n a l s t a t e s o f c o m p u t e r s a r e n o t . T h e r e i n , a c c o r d i n g t o S e a r l e , l i e s t h e e s s e n t i a l d i f f e r e n c e b e t w e e n u s a n d c o m p u t e r s . T h e r e a r e e v e n r e a s o n s i n t e r n a l t o S e a r i e ’ s t h e o r y f o r a b o l i s h i n g t h e d e r i v e d / a s - i f d i s t i n c t i o n a m o n g i n s t a n c e s o f " o b s e r v e r - r e l a t i v e " i n t e n t i o n a l i t y . B o t h a t t r i b u t i o n s o f " d e r i v e d " a n d a t t r i b u t i o n s o f " a s - i f " i n t e n t i o n a l i t y a r e c h a r a c t e r i z e d b y S e a r l e a s " s h o r t h a n d f o r a s t a t e m e n t d e s c r i b i n g s o m e m o r e c o m p l e x s e t o f e v e n t s a n d r e l a t i o n s g o i n g o n o u t s i d e t h e a g e n t s “ ( S e a r l e 1 9 8 4 b , p . 4 ) . I n p a r t i c u l a r , b o t h a r e s u p p o s e d t o b e s h o r t h a n d f o r s t a t e m e n t s d e s c r i b i n g h o w h u m a n b e i n g s u s e t h e m a r k s o r s o u n d s ( i n t h e c a s e o f t h e d e r i v e d i n t e n t i o n a l i t y o f s e n t e n c e s a n d o t h e r l i n g u i s t i c c o n s t r u c t i o n s ) o r t h e d e v i c e s ( i n t h e c a s e t h e " a s - i f " i n t e n t i o n a l i t y o f t h e r m o s t a t s , c o m p u t e r s , a n d t h e i r i l k ) f o r t h e i r o w n h u m a n p u r p o s e s ( S e a r l e 1 9 8 0 c , p . 4 0 7 ) . W h e n I s a y , " M y p o c k e t c a l c u l a t o r a d d s a n d s u b t r a c t s b u t d o e s n o t d i v i d e " a s w h e n I s a y " T h e e x p r e s s i o n ‘ i l p l e u t ’ i n F r e n c h m e a n s “ i t i s r a i n i n g ’ , " a c c o r d i n g t o S e a r l e , m y a s s e r t i o n s a r e “ r o u g h l y s p e a k i n g , s h o r t h a n d f o r s a y i n g s u c h t h i n g s a s t h a t b y c o n v e n t i o n p e o p l e w h o s p e a k F r e n c h u s e t h e s e n t e n c e ‘ i I p l e u t ’ t o m e a n “ i t i s r a i n i n g ’ a n d t h a t I a m a b l e t o u s e m y c a l c u l a t o r f o r a d d i t i o n a n d s u b t r a c t i o n b u t n o t d i v i s i o n " ( S e a r l e 1 9 8 0 c , p . 4 0 7 ) . U l t i m a t e l y , o n t h e a c c o u n t S e a r l e p r o p o s e s , " S u c h s t a t e m e n t s a r e i n p a r t s h o r t h a n d s t a t e m e n t s f o r t h e i n t r i n s i c m e n t a l p h e n o m e n a o f F r e n c h s p e a k e r s o r u s e r s o f p o c k e t c a l c u l a t o r s " ( S e a r l e 1 9 8 0 0 , p . 4 0 7 ) . J u s t a s S e a r l e w o u l d s a y t h a t s u c h m e a n i n g o r 2 6 0 i n t e n t i o n a l i t y a s s e n t e n c e s a n d o t h e r l i n g u i s t i c e x p r e s s i o n s h a v e i s " i n t h e m i n d s o f t h e o b s e r v e r s ( o r u s e r s ) , n o t i n t h e s u b j e c t o f t h e a s c r i p t i o n " ( S e a r l e 1 9 8 0 0 , p . 4 0 7 ) ; s o , a l s o , w i l l h e s a y t h a t " s u c h i n t e n t i o n a l i t y a s c o m p u t e r s a p p e a r t o h a v e ' i s s o l e l y i n t h e m i n d s o f t h o s e w h o p r o g r a m t h e m a n d t h o s e w h o u s e t h e m , t h o s e w h o s e n d i n t h e i n p u t a n d t h o s e w h o i n t e r p r e t t h e o u t p u t " ( S e a r l e 1 9 8 0 a , p . 4 2 2 ) . W h y n o t a l l o w c o m p u t e r s h a v e t h e i n t e n t i o n a l i t y t h e y m a n i f e s t l y s e e m t o h a v e , a n d a c k n o w l e d g e t h a t i t ’ s l a r g e l y i f n o t e n t i r e l y d e r i v e d f r o m u s , t h e i r d e s i g n e r s , b u i l d e r s , p r o g r a m m e r s a n d u s e r s ; j u s t a s S e a r l e a l l o w s t h a t E n g l i s h s e n t e n c e s o n p a g e s o f b o o k s a n d s p o k e n l a n g u a g e o n t h e a i r w a v e s , h a v e t h e m e a n i n g s t h a t w e , t h e i r a u t h o r s a n d u n d e r s t a n d e r s g i v e t h e m ? O f c o u r s e , w h i l e w e k n o w t h a t ( s o m e ) b o o k s c o n t a i n i n f o r m a t i o n w e a r e n o t a t a l l t e m p t e d t o s a y t h e y k n o w o r r e c a l l t h e i n f o r m a t i o n t h e y c o n t a i n - - b o o k s d o n ’ t d o a n y t h i n g . T h e y d o n ’ t d o a n y t h i n g t o , o r w i t h t h e r e p r e s e n t a t i o n s t h e y c o n t a i n . C o m p u t e r s , o n t h e o t h e r h a n d , d o . ‘ 3 7 . T w o A c c o u n t s o f O b j e c t i v e I n t r i n s i c a l i t y S e a r l e o f f e r s t w o d i f f e r e n t a c c o u n t s o f t h e o b j e c t i v e i n t r i n s i c a l i t y o f h u m a n ( a n d h i g h e r a n i m a t e ) i n t e n t i o n a l s t a t e s h e a l l e g e s a s t h e e s s e n t i a l d i f f e r e n c e b e t w e e n t h e r e a l i n t e n t i o n a l i t y o f h u m a n s a n d ( c e r t a i n h i g h e r ) a n i m a l s , a n d t h e 8 . R a p a p o r t ( 1 9 8 8 ; 1 9 9 3 ) s u g g e s t s a d i f f e r e n c e I n s o m e w a y s l i k e t h e o n e S e a r l e t r i e s t o d r a w b e t w e e n I n t r i n s i c a n d o b s e r v e r - r e l a t i v e l n t e n t i o n a l i t y h i n g l n g o n w h e t h e r a s u b j e c t d o e s a n y t h i n g w i t h t h e r e p r e s e n t a t i o n s l t h a r b o r s : b o o k s d o n ’ t , b u t r u n n i n g c o m p u t e r p r o g r a m s d o . I t s h o u l d n o t e d h e r e t h a t a m o n g t h e t h i n g s t h a t c o m p u t e r s n o t a l l t o o l n h u m a n l y d o i s “ g e n e r a t e “ a n d “ u n d e r s t a n d , “ a s c o m p u t a t i o n a l l i n g u i s t s p u t I t , t o k e n s o f n a t u r a l l a n g u a g e s e n t e n c e s : I t s e e m s c o m p u t e r s a r e a m o n g t h e a u t h o r s a n d u n d e r s t a n d e r s j u s t m e n t i o n e d . 2 6 1 c o u n t e r f e i t , " a s - i f " ( o r a s w e s h o u l d n o w s t y l e i t , " m e r e l y d e r i v a t i v e " ) i n t e n t i o n a l i t y o f c o m p u t e r s . A c c o r d i n g t o t h e f i r s t s o r t o f a c c o u n t , t o s a y t h a t K a r p o v h a s i n t r i n s i c i n t e n t i o n a l i t y b u t D e e p T h o u g h t d o e s n ’ t i s t o s a y t h a t w h e n K a r p o v c o n s i d e r s a l t e r n a t i v e c o n t i n u a t i o n s o f p l a y h i s r e p r e s e n t a t i o n a l s t a t e s a n d a c t i o n s ( s o m e s o r t o f b r a i n s t a t e s a n d p r o c e s s e s , p r e s u m a b l y ) r e p r e s e n t t h i n g s ( i . e . , c h e s s p i e c e s a n d p o s i t i o n s ) t o h i m , i n d e p e n d e n t l y o f t h e i r r e p r e s e n t i n g a n y t h i n g t o a n y o n e e l s e : w h e n D e e p T h o u g h t c o n s i d e r s a l t e r n a t e c o n t i n u a t i o n s o f p l a y , o n t h e o t h e r h a n d , D e e p T h o u g h t ’ s r e p r e s e n t a t i o n a l s t a t e s d o n ’ t r e p r e s e n t c h e s s p o s i t i o n s a n d p b c e s t o D e e p T h o u g h t a t a l l , b u t o n l y t o i t ' s h u m a n o b s e r v e r s , d e s i g n e r s , a n d u s e r s . O n t h i s a c c o u n t , S e a r l e c o n t r a s t s " i n t r i n s i c " t o " o b s e r v e r r e l a t i v e ” ( S e a r l e 1 9 8 0 b , p . 4 5 1 - 4 5 2 ; 1 9 9 0 9 , p . 6 3 9 ) . H e r e S e a r l e a l s o s a y s h e i s " n o t c o n t r a s t i n g [ " i n t r i n s i c " ] w i t h " r e l a t i o n a l " ; a n d h e m a i n t a i n s t h a t t h u s u n d e r s t o o d ( a s c o n t r a s t i n g w i t h " o b s e r v e r r e l a t i v e " n o t ' r e l a t i o n a l " ) " ‘ i n t r i n s i c ’ . . . i s n o t a t e c h n i c a l t e r m " ( S e a r l e 1 9 9 0 9 , p . 6 3 9 ) . " O n t h i s u s a g e , “ S e a r l e e x p l a i n s , t h e p a p e r I n f r o n t o f m e I s l n t r i n s l c a l l y i n k , b u t i t I s n o t l n t r i n s l c a l l y m e a n i n g f u l . M e a n i n g i s a s s i g n e d t o I t b y o u t s i d e u s e r s a n d o b s e r v e r s . ( S e a r l e 1 9 9 0 9 , p . 6 3 9 ) T o h a z a r d a n o t h e r , " n o n t e c h n i c a l , " e x a m p l e , o f a n o n s e m a n t i c o b s e r v e r - r e l a t i v e p r o p e r t y , t h e l i t t l e y e l l o w f l o w e r s o n t h e l a w n a r e i n t r i n s i c a l l y d a n d e l i o n s , b u t n o t i n t r i n s i c a l l y w e e d s . B e i n g a w e e d i s " i n t h e e y e o f t h e b e h o l d e r " ( S e a r l e 1 9 9 0 9 , p . 6 3 7 ) i n a w a y ( o r t o a d e g r e e ) t h a t b e i n g a d a n d e l i o n i s n o t . 9 9 . I t ’ s n o t c l e a r t h a t S e a r l e ’ s ' n o n t e c h n l c a l ' d i s t i n c t i o n h o l d s u p t o c l o s e c o n s i d e r a t i o n . I s u p p o s e t h e r e a r e m a n y p l a n t s I n t h e a v e r a g e f a r m e r ’ s f i e l d t h a t t h e f a r m e r h a s n e v e r e x p l i c i t l y h a d r e a s o n o r c o n s i d e r , m u c h l e s s t o d u b " a w e e d . " I t s e e m s t h e a c c o u n t o f o b s e r v e r r e l a t i v i t y h a s t o g o d i s p o s i t i o n a l ( a n d t e c h n i c a l ) - - w h e t h e r s o m e t h i n g ’ s a w e e d ( f o r t h e f a r m e r ) d e p e n d s n o t o n w h a t h e d o e s s a y o r t h i n k a b o u t I t a s w h a t h e w o u l d s a y o r t h i n k a b o u t i t i f h e t o o k e x p l i c i t n o t i c e o f I t . I f t h i s t a c k i s t a k e n , S e a r i e ' s a c c o u n t o f ' o b s e r v e r - r e l a t i v e " p r o p e r t i e s ( a n d 2 6 2 O n t h e o t h e r s o r t o f a c c o u n t o f i n t r i n s i c a l i t y w h i c h S e a r l e s o m e t i m e s g i v e s , a s w h e n h e s a y s ' T o s a y t h e y a r e i n t r i n s i c i s j u s t t o s a y t h a t t h e s t a t e s a n d e v e n t s r e a l l y e x i s t i n t h e a g e n t s " ( S e a r l e 1 9 8 4 , p . 4 ) , h o w e v e r , i t s e e m s t h a t " i n t r i n s i c " d o e s c o n t r a s t w i t h " r e l a t i o n a l " a n d d o e s b e a r r o u g h l y t h e t e c h n i c a l p h i I O S O p h i c a l s e n s e H a r m a n a r t i c u l a t e s . I n t h i s s e n s e , " A f e a t u r e o f a t h i n g i s i n t r i n s i c t o t h a t t h i n g i f t h e t h i n g h a s t h a t f e a t u r e b y v i r t u e o f t h e w a y t h e t h i n g i s i n i t s e l f a n d a p a r t f r o m i t s r e l a t i o n s t o o t h e r t h i n g s " ( H e r m a n 1 9 9 0 , p . 6 0 7 ) . S i m i l a r l y , w h e n S e a r l e o p p o s e s P u t n a m ’ s ( 1 9 7 5 ) d i c t u m t h a t " M e a n i n g [ a n d a s a c o n s e q u e n c e b e l i e f s , d e s i r e s , e t c . ] a i n ’ t i n t h e h e a d " w i t h h i s o w n a s s e r t i o n t h a t " I n t e n t i o n a l s t a t e s a r e e n t i r e l y c o n s t i t u t e d b y t h e i r I n t e n t i o n a l c o n t e n t a n d t h e i r p s y c h o l o g i c a l m o d e , b o t h o f w h i c h a r e i n t h e h e a d " ( S e a r l e 1 9 8 3 , p . 2 0 8 : m y e m p h a s i s ) , o n c e a g a i n " r e l a t i o n a l " s e e m s m e o p e r a t i v e c o n t r a s t , s i n c e P u t n a m ’ s a r g u m e n t i s d e s i g n e d t o s h o w t h a t m e a n i n g i s r e l a t i o n a l . N o t i c e t h a t b e i n g a d a n d e l i o n ( a s o p p o s e d t o b e i n g a w e e d ) s e e m s t o d e p e n d e n t i r e l y o n t h e i n t e r n a l s t m c t u r a l p r o p e r t i e s o f t h e p l a n t ; s o b e i n g a d a n d e l i o n s e e m s a n i n t r i n s i c p r o p e r t y i n t h i s s e c o n d ( n o n r e l a t i o n a l ) s e n s e a l s o . L i k e w i s e , I s u p p o s e f o r S e a r i e ’ s o w n e x a m p l e o f t h e t y p e b e i n g i n t r i n s i c a l l y i n k : b e i n g i n k d e p e n d s e n t i r e l y o n t h e i n t e r n a l , c h e m i c a l c o n t e n t o f t h e t y p e , a n d s o b e i n g i n k s e e m s i n t r i n s i c i n t h e n o n r e l a t i o n a l s e n s e a s w e l l . H o w d o w e r e c o n c i l e t h e s e a c c o u n t s ? h e n c e h i s c h a r a c t e r i z a t i o n o f i n t r i n s i c p r o p e r t i e s a s n o t o b s e r v e r - r e l a t i v e ) w i l l i n h e r i t t h e s o r t s o f p r o b l e m s h e u r g e s ( s e e e . g . , S e a r l e 1 9 8 0 0 ) a g a i n s t b e h a v i o r l s t l c d i s p o s i t i o n a l a n a l y s e s o f m e n t a l p r o p e r t i e s . I f t h i s t a c k I s n o t t a k e n - - I f S e a r l e i n s i s t s h e j u s t m e a n s “ i n t r i n s i c “ a n d “ o b s e r v e r r e l a t i v e “ I n t h e i r o r d i n a r y e v e r y d a y n o n t e c h n l c a l s e n s e s - - I t i s d i f f i c u l t t o s e e h o w t h i s d i s t i n c t i o n w i l l u n d e r w r i t e a s c i e n t i f i c t h e o r e t i c a l d i s t i n c t i o n b e t w e e n t h e i n t e n t i o n a l i t y o f h u m a n s a n d c o m p u t e r s . 2 6 3 O n e t h i n g t h a t m i g h t b e s a i d h e r e i s t h i s : w h i l e e v e r y t h i n g t h a t ’ s o b s e r v e r r e l a t i v e i s r e l a t i o n a l , n o t e v e r y t h i n g r e l a t i o n a l i s a l s o o b s e r v e r r e l a t i v e . B e i n g t a l l e r t h a n a v e r a g e o r b e i n g i n t h e h o u s e , f o r i n s t a n c e , a r e r e l a t i o n a l w i t h o u t b e i n g o b s e r v e r r e l a t i v e . T h u s w h e n S e a r l e m a i n t a i n s t h a t I n t e n t i o n a l c o n t e n t i s " i n t h e h e a d " o r " i n t h e a g e n t s " h e m a k e s a s t r o n g e r c l a i m t h a n w h e n h e c l a i m s t h a t t h e I n t e n t i o n a l c o n t e n t o f t h e r e p r e s e n t a t i o n a l m e n t a l s t a t e s o f h u m a n s a n d ( c e r t a i n h i g h e r ) a n i m a l s i s " n o t o b s e r v e r r e l a t i v e " : i t m i g h t n o t b e o b s e r v e r r e l a t i v e a n d y e t b e r e l a t i v e t o s o m e t h i n g e l s e ( e . g . , t o t h e a c t u a l r e f e r e n t s t o w h i c h i t s t a n d s i n c e r t a i n c a u s a l r e l a t i o n s ) . 1 0 R o u g h l y , f o r o u r p u r p o s e s , t o s a y t h a t i n t e n t i o n a l s t a t e s a r e “ i n t r i n s i c " i n t h e s t r o n g e r , n o n r e l a t i o n a l , s e n s e i s t o s a y t h e y ’ r e n e i t h e r o b s e r v e r - r e l a t i v e ( r e l a t i v e t o t h e u n d e r s t a n d i n g o r p r a c t i c e s o f o t h e r s p e a k e r s o r t h e l i n g u i s t i c c o m m u n i t y ) “ n o r r e l a t i v e t o t h e n o n h u m a n e n v i r o n m e n t ( i n p a r t i c u l a r , r e l a t i v e t o t h e a c t u a l n a t u r e o f t h e r e f e r e n t s ) . S e c o n d l y , i t s e e m s S e a r l e i s g o i n g t o n e e d t o e m p l o y " i n t r i n s i c " i n t h i s s t r o n g e r s e n s e ( w h i c h o p p o s e s i t t o " r e l a t i o n a l " a n d n o t j u s t " o b s e r v e r r e l a t i v e " ) t o m a i n t a i n h i s " m o n i s t i n t e r a c t i o n i s t " a c c o u n t o f i n t r i n s i c i n t e n t i o n a l m e n t a l p h e n o m e n a . A c c o r d i n g t o t h i s a c c o u n t s u c h m e n t a l p h e n o m e n a a s b e l i e f s a n d d e s i r e s a r e " c a u s e d b y t h e b e h a v i o u r o f c e r t a i n e l e m e n t s i n t h e b r a i n " a n d a l s o " r e a l i z e d i n t h e s t r u c t u r e m a d e o f t h e s e e l e m e n t s “ ( S e a r l e 1 9 8 4 a , p . 2 8 ) . A s i t i s S e a r i e ’ s p o s i t i v e a c c o u n t o f i n t e n t i o n a l i t y t h a t t h e d i s c u s s i o n i n t h i s c h a p t e r i s l e a d i n g u p t o , a n d a s t h a t p o s i t i v e a c c o u n t s e e m s 1 0 . A s w o u l d b e t h e c a s e I f P u t n a m w e r e r i g h t a b o u t t h e l n d e x l c a l d e p e n d e n c e b u t w r o n g a b o u t t h e s o c i a l d e p e n d e n c e o f m e a n i n g . i t . E . g . , r e l a t i v e t o w h a t P u t n a m ( 1 9 7 5 ) c a l l s t h e “ l i n g u i s t i c d i v i s i o n o f l a b o r " . 2 6 4 c o m m i t t e d t o t h i s s t r o n g e r u n d e r s t a n d i n g o f " i n t r i n s i c " ( a s n o n r e l a t i o n a l ) , i t s e e m s ( h i s r e p l y t o H a r m a n n o t w i t h s t a n d i n g ) w e n e e d t o h o l d S e a r l e t o t h i s s t r o n g e r a c c o u n t . " I n t r i n s i c " m e a n s " n o n r e l a t i o n a l . " T h e s c i e n t i f i c o r m e t h o d o l o g i c a l p u r p o r t o f t h i s t e c h n i c a l p h i l o s o p h i c a l n o t i o n o f i n t r i n s i c a l i t y i s a s s o c i a t e d w i t h m e c h a n i s m : t h e r e q u i r e m e n t o f i n t r i n s i c a l i t y s e e m s d e s i g n e d t o b e a k i n d o f m e c h a n i s t i c c o n s t r a i n t o n a n y a c c e p t a b l e a c c o u n t o f i n t e n t i o n a l i t y . A s a p p l i e d t o i n t e n t i o n a l m e n t a l f e a t u r e s t h e r e q u i r e m e n t i s t h a t t h e f e a t u r e s s h o u l d b e d e t e r m i n e d b y , o r s u p e r v e n e 1 2 o n , t h e i n t e r n a l s t a t e s o f t h e n e r v o u s s y s t e m . T h i s a s s u m p t i o n o f m e t h o d o l o g i c a l s o l i p s i s m ( c f . , P u t n a m 1 9 7 5 ) i s o n e b o t h S e a r l e a n d h i s f u n c t i o n a l i s t a n d c o g n i t i v i s t a d v e r s a r i e s ( s e e , e . g . , F o d o r 1 9 8 0 ) r e g a r d a s a r e q u i r e m e n t o n a n a c c e p t a b l e ( s c i e n t i f i c ) t h e o r y o f m e a n i n g o r ( m e n t a l o r l i n g u i s t i c ) r e p r e s e n t a t i o n : c o g n i t i v i s t s s u p p o s e t h a t i n t e n t i o n a l i t y o r m e a n i n g s u p e r v e n e s o n t h e c o m p u t a t i o n a l s t a t e s o f t h e b r a i n , a n d S e a r l e i n s i s t s t h a t i n t e n t i o n a l i t y o r m e a n i n g s u p e r v e n e s o n n o n c o m p u t a t i o n a l p r o p e r t i e s o r s t a t e s o f t h e n e r v o u s s y s t e m ( o n i t s s p e c i f i c c h e m i c a l p r o p e r t i e s S e a r l e s u g g e s t s ) i n s t e a d o r b e s i d e s . N o t e t h i s r e q u i r e m e n t i s n o t a s p e c i f i c a l l y m a t e r i a l i s t i c c o n s t r a i n t . I t ’ s p o s s i b l e t o h o l d t h a t i n t e n t i o n a l i t y s u p e r v e n e s o n t h e m e n t a l s t a t e s o f i n d i v i d u a l s a n d t h a t m e n t a l s t a t e s a r e i m m a t e r i a l a n d y e t b e a m e t h o d o l o g i c a l s o l i p s i s t , a s D e s c a r t e s w a s . C o n v e r s e l y , o n e c a n d e n y t h a t 1 2 . A n e f f e c t i s s a i d t o “ s u p e r v e n e ” o n a s y s t e m i f t h e i n t e r n a l s t a t e s o f t h e s y s t e m c a u s a l l y s u f f i c e , b y t h e m s e l v e s , t o p r o d u c e t h e e f f e c t ; l . e . , w h e n e v e r t h e s y s t e m ( o r a n y l i k e s y s t e m ) i s i n t h e s a m e ( t y p e ) s t a t e t h e s a m e ( t y p e ) e f f e c t w i l l b e p r o d u c e d . T o s h o w a n e f f e c t n o t t o b e s u p e r v e n i e n t o n t h e s t a t e s o f a n i s o l a t e d s y s t e m , c o n s e q u e n t l y , i t I s e n o u g h t o s h o w t h e e f f e c t c a n v a r y I n d e p e n d e n t l y o f t h e i n t e r n a l s t a t e s o f t h e s y s t e m i n t h e s e n s e t h a t t h e e f f e c t c a n c h a n g e w i t h o u t t h e i n t e r n a l s t a t e o f t h e s y s t e m c h a n g i n g , o r t h a t t w o l i k e s y s t e m s m i g h t b e i n I d e n t i c a l ( t y p e ) I n t e r n a l s t a t e s a n d y e t d i f f e r w i t h r e g a r d t o t h e e f f e c t o r f e a t u r e . 2 6 5 i n t e n t i o n a l i t y s u p e r v e n e s o n t h e i n t e r n a i p h y s i c a l o r m a t e r i a l s t a t e s o f i n d i v i d u a l s , a n d a t t h e s a m e t i m e ( m a t e r i a l i s t i c a l l y ) h o l d t h a t i t s u p e r v e n e s o n p h y s i c a l o r m a t e r i a l s t a t e s ( i n c l u d i n g s t a t e s e x t e r n a l t o t h e i n d i v i d u a l ) , a s P u t n a m d o e s . M e t h o d o l o g i c a l s o l i p s i s m ( M S ) e x p r e s s e s a m e c h a n i s t i c r e q u i r e m e n t n o t a m a t e r i a l i s t i c o n e ” : t o t h e i n t e m a l i s t p r o p o n e n t o f M S i t m a y s e e m t h a t e x t e r n a l i s t r e f u s a l s o f t h i s r e q u i r e m e n t ( e . g . , P u t n a m ’ s ) c o u n t e n a n c e a c t i o n a t a d i s t a n c e “ . Y e t d e s p i t e t h e e n v i a b l e r e c o r d o f m e c h a n i s m a s a r e s e a r c h c o m m i t m e n t i n b i o l o g y , m e t h o d o l o g i c a l s o l i p s i s t c o m m i t m e n t s , n o w a d a y s , s e e m v e r y q u e s t i o n a b l e i n s e m a n t i c s . 8 . P u t n a m A g a i n s t I n t r i n s i c l n t e n t i o n a l i t y H i l a r y P u t n a m a r g u e s , o n t h e b a s i s o f h i s f a m o u s T w i n E a r t h t h o u g h t e x p e r i m e n t a n d r e l a t e d e x a m p l e s t h a t m e a n i n g s " j u s t a i n ’ t i n t h e h e a d " ( P u t n a m 1 9 7 5 , p . 2 2 7 ) . H e a r g u e s t h u s i n e x p l i c i t o p p o s i t i o n t o w h a t h e d e s c r i b e s a s t h e " a s s u m p t i o n o f m e t h o d o l o g i c a l s o l i p s i s m " o f " t r a d i t i o n a l p h i l o s o p h e r s “ ( P u t n a m 1 9 7 5 , p . 2 2 0 ) . " T h i s a s s u m p t i o n " o f m e t h o d o l o g i c a l s o l i p s i s m , a s P u t n a m s t y l e s i t , " i s t h e a s s u m p t i o n t h a t n o p s y c h o l o g i c a l s t a t e , p r o p e r l y s o c a l l e d , p r e s u p p o s e s t h e e x i s t e n c e o f a n y i n d i v i d u a l o t h e r t h a n t h e s u b j e c t t o w h o m t h a t s t a t e i s a s c r i b e d “ ( P u t n a m 1 9 7 5 , p . 2 2 0 ) . I n t e r m s o f t h e p r e c e d i n g d i s c u s s i o n , m e t h o d o l o g i c a l s o l i p s i s m i s t h e a s s u m p t i o n t h a t p s y c h o l o g i c a l s t a t e s a r e 1 3 . P e r h a p s e v e n d u a l l s t i c v e r s i o n s o f t h e p r i n c i p l e a r e m e c h a n i s t i c I n s p i r i t . R y l e ( 1 9 4 9 , c h a p t . 1 ) p e r s u a s i v e l y s t y l e s C a r t e s i a n m i n d s n o t j u s t g h o s t s I n t h e m a c h i n e b u t g h o s t l y m e c h a n i s m s , a t I t w e r e , t h e m s e l v e s . 1 4 . I w a s m a d e a w a r e o f t h e i s s u e o f a c t i o n a t a d i s t a n c e h e r e b y H e r b H e n d r y . 2 6 6 n o n r e l a t i o n a l o r i n t r i n s i c ( i n t h e s t r o n g s e n s e ) ; a n a s s u m p t i o n , a s w e h a v e j u s t s e e n , t h a t S e a r l e s h a r e s . I t ’ s t o P u t n a m ’ s c o n t e n t i o n t h a t m e a n i n g s a n d c o n s e q u e n t l y m e a n i n g f u l o r i n t e n t i o n a l m e n t a l s t a t e s " a r e n ’ t i n t h e h e a d " ( P u t n a m 1 9 8 8 , p . 7 2 ) t h a t S e a r l e e x p l i c i t l y o p p o s e s h i s c l a i m t h a t " a l l i n t e n t i o n a l [ m e n t a l ] s t a t e s a r e e n t i r e l y c o n s t i t u t e d b y t h e i r I n t e n t i o n a l c o n t e n t a n d p s y c h o l o g i c a l m o d e b o t h o f w h i c h a r e i n t h e h e a " ( S e a r l e 1 9 8 3 , p . 2 0 8 ) . I f P u t n a m i s r i g h t , i t s e e m s , t h e r e i s n o h o p e f o r S e a r i e ’ s a t t e m p t t o d i s t i n g u i s h t h e r e p r e s e n t a t i o n a l s t a t e s o r f e a t s o f c o m p u t e r s f r o m t h o s e o f h u m a n s o n t h e b a s i s o f t h e o b j e c t i v e i n t r i n s i c a l i t y o f t h e l a t e r . I f P u t n a m i s r i g h t , o u r i n t e n t i o n a l s t a t e s a r e n ’ t i n t r i n s i c t o u s e i t h e r . M o r e o v e r , i f P u t n a m ’ s e x a m p l e s a n d s u p p o r t i n g a r g u m e n t s d o s h o w t h a t m e a n i n g s a r e n ’ t " i n t h e h e a d " ( i n t h e s e n s e o f b e i n g d e t e r m i n e d b y o r s u p e r v e n i n g o n w h a t i s i n t h e h e a d ) ; a n d i f b e i n g a n a t u r a l k i n d i s b e i n g a k i n d w h o s e i d e n t i t y c o n d i t i o n s a r e m i c r o s t r u c t u r a l " ; t h e n m i n d s , o r i n t e n t i o n a l m e n t a l s t a t e s , a r e n o t p l a u s i b l e c a n d i d a t e s f o r b e i n g n a t u r a l k i n d s . T h i s m a y u n d e r c u t a n y a t t e m p t t o p r o v i d e s c i e n t i f i c w a r r a n t f o r d i s m i s s i n g m e n t a l a t t r i b u t i o n s t o c o m p u t e r s , a n d n o t j u s t S e a r i e ’ s . H e r e i s t h e m o s t f a m o u s o f P u t n a m ’ s e x a m p l e s . I m a g i n e t h e r e i s a c h e m i c a l c o m p o u n d X Y Z , a c o l o r l e s s , t a s t e l e s s , t h i r s t q u e n c h i n g l i q u i d t h a t f a l l s f r o m t h e s k i e s , a n d f i l l s t h e l a k e s a n d o c e a n s o f T w i n E a r t h , a f a r a w a y p l a n e t i d e n t i c a l t o o u r E a r t h i n e v e r y r e s p e c t b u t o n e . T h e c o l o r l e s s , t a s t e l e s s , t h i r s t q u e n c h i n g l i q u i d 1 5 . S u c h t h a t t h i n g s o f t h e s a m e n a t u r a l k i n d h a v e “ t h e s a m e g e n e r a l h i d d e n s t r u c t u r e ( t h e s a m e ‘ e s s e n c e ’ s o t o s p e a k ) ‘ ( P u t n a m 1 9 7 5 , p . 2 3 5 ) : s o W h a t m a k e s w a t e r w a t e r i s h a v i n g t h e i n t e r n a l s t r u c t u r a l p r o p e r t i e s I n d i c a t e d b y I t s c h e m i c a l f o r m u l a ( b e i n g H 2 0 ) ; a n d w h a t m a k e s t i g e r s t i g e r s l s h a v i n g c e r t a i n I n t e r n a l s t r u c t u r a l p r o p e r t i e s ( i . e . , a n a t o m i c a l a n d g e n e t i c p r o p e r t i e s ) ; e t c . 2 6 7 t h a t f i l l s T w i n E a r t h ’ s r i v e r s , e t c . i s n o t H 2 0 b u t X Y Z ( t h i s d i f f e r e n t c h e m i c a l ) . I n p a r t i c u l a r , i m a g i n e t h a t l h a v e a t w i n o n T w i n E a r t h w h o s e b r a i n ( o r m i n d ) i s i n t h e s a m e s t a t e a s m i n e - - a n d w e b o t h s i n c e r e l y a f f i r m ( I i n E n g l i s h , h e i n T w i n E n g l i s h ) , " W a t e r i s w e t . " B u t w e h a v e d i f f e r e n t b e l i e f s : I b e l i e v e H 2 0 i s w e t , a n d h e b e l i e v e s X Y Z i s w e t . S o , b e l i e f s a r e n ’ t I n t h e h e a d . T h e m o r a l i s t h a t j u s t a s t h e n e e d t o a d d ( t h e s e m a n t i c e l e m e n t o f ) t r u t h t o b e l i e f f o r i t t o b e k n o w l e d g e i s f a t a l t o t h e i d e a t h a t k n o w l e d g e i s I n t h e h e a d , s o i s t h e n e e d t o a d d ( t h e s e m a n t i c e l e m e n t o f ) r e f e r e n c e t o w h a t e v e r i s i n t h e h e a d t o m a k e i t t h e b e l i e f i t i s - - w h e t h e r a b o u t X Y Z o r H 2 0 - - f a t a l t o t h e i d e a t h a t b e l i e f i s I n t h e h e a d . A n d s i n c e i t s g e n e r a l l y t r u e f o r a l l t h e p r o p o s i t i o n a l a t t i t u d e s o r i n t e n t i o n a l m e n t a l s t a t e s t h a t p a r t o f w h a t m a k e s t h e m w h a t t h e y a r e i s w h a t t h e y ’ r e a b o u t , i . e . , t h e i r r e f e r e n t s , t h i s p o i n t g e n e r a l i z e s t o a l l i n t e n t i o n a l m e n t a l s t a t e s : t h e y ’ r e n o t I n t h e h e a d . T h e y ’ r e n o t i n t h e h e a d i n t h e s a m e s e n s e t h a t k n o w l e d g e i s n ’ t i n t h e h e a d : w h a t i s I n t h e h e a d - - t h e n e u r o p h y s i o l o g i c a l p r o p e r t i e s o f t h e b e l i e v e r ( w a n t e r , h o p e r , e t c . ) - - d o n o t s u f f i c e t o d e t e r m i n e w h a t t h e b e l i e f i s a b o u t ( w h i c h m a k e s i t t h e b e l i e f i t i s ) , b e c a u s e f a c t s a b o u t t h i n g s b e s i d e s t h e p h y s i o l o g y o f b e l i e v e r s , ( e . g . , t h e i r e n v i r o n m e n t s o r e n v i r o n m e n t a l h i s t o r i e s ) - - w h e t h e r t h e r e ’ s H 2 0 o r X Y Z h e r e a b o u t s - - a r e n e c e s s a r y c o n d i t i o n s f o r t h e i r h a v i n g t h e b e l i e f s ( a b o u t H 2 0 o r a b o u t X Y Z ) t h a t t h e y h a v e . “ 3 1 6 . T h o u g h i n t h e c o n t e x t o f t h e p r e s e n t c r i t i q u e o f t h e n o t i o n t h a t ' m e n t a l s t a t e s a r e o b j e c t i v e l y I n t r i n s i c I o n l y p r e s s t h e p o i n t , i n t h e t e x t , t h a t i n d i v i d u a l s ’ s I n t e n t i o n a l p r o p e r t i e s f a i l t o s u p e r v e n e o n t h e i r p h y s i o l o g i c a l p r o p e r t i e s , n o t e t h a t t h e s a m e p o i n t c a n b e m a d e m u t a t i s m u t a n d i s ( a s P u t n a m 1 9 7 5 p o i n t s o u t ) c o n c e r n i n g t h e p h e n o m e n o l o g i c a l p r o p e r t i e s o f i n d i v i d u a l s a l s o . S e e C h a p t e r 6 , S e c t i o n 1 , b e l o w , f o r f u r t h e r d i s c u s s i o n . 2 6 8 P u t n a m s u m m a r i z e s t h e p r e c e d i n g a t t a c k o n m e t h o d o l o g i c a l s o l i p s i s m a s s h o w i n g t h a t m e a n i n g ( w h a t d e t e r m i n e s r e f e r e n c e o r e x t e n s i o n ) i s n o t w h o l l y d e t e r m i n e d b y w h a t ’ s i n t h e h e a d " b e c a u s e e x t e n s i o n i s , i n p a r t , d e t e r m i n e d i n d e x i c a l l y . " B y t h i s h e m e a n s , " T h e e x t e n s i o n o f o u r t e r m s d e p e n d s u p o n t h e a c t u a l n a t u r e o f t h e p a r t i c u l a r t h i n g s t h a t s e r v e a s p a r a d i g m s " ( P u t n a m 1 9 7 5 , p . 2 4 5 ) - o n E a r t h p a r a d i g m a t i c w a t e r ( w h a t i s r i g h t l y c a l l e d " w a t e r " i n E n g l i s h ) i s H 2 0 , a n d o n T w i n E a r t h p a r a d i g m a t i c w a t e r ( w h a t i s r i g h t l y c a l l e d " w a t e r " i n T w i n E n g l i s h ) i s X Y Z . I f t h i s i s c o r r e c t t h e n i n t e n t i o n a l m e n t a l s t a t e s a r e n o t i n t r i n s i c ( n o n r e l a t i o n a l ) : w h a t I b e l i e v e w h e n I b e l i e v e w a t e r i s w e t d e p e n d s o n e n v i r o n m e n t a l ( e x t r e m e a n o r e x t r a c r a n i a l ) f a c t s a b o u t t h e h i d d e n s t r u c t u r e o f w a t e r ; w h a t I w a n t w h e n I w a n t a c a t o n t h e m a t d e p e n d s o n t h e h i d d e n s t r u c t u r e o f c a t s ; e t c . I n a d d i t i o n t o s u c h e n v i r o n m e n t a l o r i n d e x i c a l d e t e r m i n a n t s , P u t n a m a l s o m a i n t a i n s t h a t " e x t e n s i o n i s , i n g e n e r a l , d e t e r m i n e d s o c i a l l y . " T h e a c t u a l n a t u r e o f t h e p a r a d i g m s " i s n o t , i n g e n e r a l , f u l l y k n o w n t o t h e s p e a k e r " ( o r t h e t h i n k e r ) b e c a u s e i t h a s n ’ t y e t b e e n d i s c o v e r e d ( a n d s o i s n o t k n o w n t o a n y s p e a k e r ) , o r i t m a y s i m p l y n o t b e k n o w n t o m e t h o u g h o t h e r s m a y k n o w i t f u l l w e l l . E v e n i f I m y s e l f " c a n n o t t e l l a n e l m f r o m a b e e c h t r e e , " s t i l l , " t h e e x t e n s i o n o f ‘ e l m ’ i n m y i d i o b c t i s t h e s a m e a s t h e e x t e n s i o n o f ‘ e l m ’ i n a n y o n e e l s e ’ s , v i z . t h e s e t o f a l l e l m t r e e s " ( P u t n a m 1 9 7 5 , p . 2 2 6 ) b e c a u s e t h e t e r m " i s s u b j e c t t o t h e d i v i s i o n o f l i n g u i s t i c l a b o r " ( P u t n a m 1 9 7 5 , p . 2 2 9 ) i n a c c o r d a n c e w i t h w h i c h " t h e a v e r a g e s p e a k e r w h o a c q u i r e s i t [ t h e m e a n i n g o f t h e t e r m ] d o e s n o t a c q u i r e a n y t h i n g t h a t f i x e s i t ’ s e x t e n s i o n " ( P u t n a m 1 9 7 5 , p . 2 2 9 ) . R a t h e r , " i t i s o n l y t h e s o c i o l i n g u i s t i c 2 6 9 s t a t e o f t h e c o l l e c t i v e l i n g u i s t i c b o d y t h a t f i x e s t h e e x t e n s i o n " ( P u t n a m 1 9 7 5 , p . 2 2 9 ) . I f P u t n a m i s a l s o r i g h t a b o u t t h i s s o c i a l d e t e r m i n a t i o n o f m e a n i n g , i t s e e m s t h a t i n t e n t i o n a l m e n t a l s t a t e s w i l l f a i l t o b e i n t r i n s i c e v e n i n t h e w e a k s e n s e o f n o t b e i n g o b s e r v e r r e l a t i v e i n s o f a r a s t h e i r c o n t e n t ( a t l e a s t i n s o f a r a s t h e y a r e l i n g u i s t i c a l l y m e d i a t e d ) w i l l d e p e n d o n t h e p s y c h o l o g i c a l s t a t e s o f o t h e r s b e s i d e s m y s e l f ( t h e s p e a k e r o r t h i n k e r ) . T h u s , t h e c o n t e n t o f m y t h o u g h t t h a t a i m s a r e d e c i d u o u s i s n o t w h o l l y d e t e r m i n e d b y m e o r w h a t ’ s i n m y h e a d , b u t i s p a r t l y d e t e r m i n e d b y o t h e r s ( e s p e c i a l l y b o t a n i s t s ) a n d w h a t ’ s i n t h e i r h e a d s . 9 . S e a r l e A g a i n s t P u t n a m C o n c e r n i n g “ O b s e r v e r - r e l a t i v i t y “ S e a r l e r e s p o n d s t o P u t n a m ’ s , a m o n g o t h e r e x t e r n a l i s t a t t a c k s , o n w h a t P u t n a m c a l l s t h e " a s s u m p t i o n o f m e t h o d o l o g i c a l s o l i p s i s m , " a n a s s u m p t i o n a t t h e h e a r t o f S e a r i e ’ s r e s e a r c h p r o g r a m . I t ’ s a p r o g r a m S e a r l e s t y l e s a k i n d o f ' " F r e g e a n ’ b i o l o g i c a l n a t u r a l i s m " ( S e a r l e 1 9 8 3 , p . 2 3 0 ) , a c c o r d i n g t o w h i c h m e a n i n g " i s s o m e m e n t a l s t a t e i n t h e h e a d o f t h e s p e fl e r - - t h e m e n t a l s t a t e o f g r a s p i n g a c o n c e p t o r s i m p l y h a v i n g a c e r t a i n I n t e n t i o n a l c o n t e n t " ( S e a r l e 1 9 8 3 , p . 1 9 8 ) . I t i s a r e s e a r c h p r o g r a m w h i c h S e a r l e h i m s e l f a d m i t s " F r e g e w o u l d h a v e f o u n d u t t e r l y f o r e i g n [ i n i t s b i o l o g i c a l n a t u r a l i s m j " ( S e a r l e 1 9 8 3 , p . 2 3 0 ) , a n d w h i c h h e a d m i t s t o b e o n e t h a t a t t h e t i m e o f h i s w r i t i n g ( 1 9 8 3 ) “ t h e m o s t i n f l u e n t i a l t h e o r i e s o f m e a n i n g a n d r e f e r e n c e r e j e c t [ e d ] " ( S e a r l e 1 9 8 3 , p . 1 9 8 ) ; o n e t h a t a t t h e t i m e o f t h i s w r i t i n g ( 1 9 9 3 ) t h e m o s t i n f l u e n t i a l t h e o r i e s o f m e a n i n g a n d r e f e r e n c e s t i l l r e j e c t . T h e s e " m o s t i n f l u e n t i a l t h e o r i e s o f m e a n i n g a n d r e f e r e n c e , " b y S e a r i e ’ s a c c o u n t : 2 7 0 s u g g e s t a p i c t u r e o f r e f e r e n c e a n d m e a n i n g I n w h i c h t h e s p e a k e r ’ s I n t e r n a l i n t e n t i o n a l c o n t e n t i s I n s u f f i c i e n t t o d e t e r m i n e w h a t h e i s r e f e r r i n g t o , e i t h e r i n h i s t h o u g h t s o r I n h i s u t t e r a n c e s . T h e y s h a r e t h e v i e w t h a t I n o r d e r t o a c c o u n t f o r t h e r e l a t i o n s b e t w e e n w o r d s a n d t h e w o r l d w e n e e d t o I n t r o d u c e ( f o r s o m e ? , f o r a l l ? c a s e s ) e x t e r n a l , c o n t e x t u a l , n o n c o n c e p t u a l , c a u s a l r e l a t i o n s b e t w e e n t h e u t t e r a n c e o f e x p r e s s i o n s a n d t h e f e a t u r e s o f t h e w o r l d t h a t t h e u t t e r a n c e i s a b o u t . ( S e a r l e 1 9 8 3 , p . 1 9 9 ) " I f t h e s e v i e w s a r e c o r r e c t , " S e a r l e a c k n o w l e d g e s - - i f " t h e v a r i o u s a r g u m e n t s a b o u t t h e c a u s a l t h e o r y o f r e f e r e n c e [ h a v e ] s h o w n t h a t t h e s e m e n t a l e n t i t i e s ‘ i n t h e h e a d ’ a r e i n s u f f i c i e n t t o s h o w h o w l a n g u a g e a n d m i n d r e f e r t o t h i n g s " ( S e a r l e 1 9 8 3 p . 1 4 ) " t h e a c c o u n t I h a v e g i v e n o f l n t e n t i o n a l i t y m u s t b e m i s t a k e n " ( S e a r l e 1 9 8 3 , p . 1 9 9 ) S e a r l e c h a r a c t e r i z e s " P u t n a m ’ s s t r a t e g y " a s f o l l o w s : t o t r y t o c o n s t r u c t i n t u i t i v e l y p l a u s i b l e c a s e s w h e r e t h e s a m e p s y c h o l o g i c a l s t a t e w i l l d e t e r m i n e d i f f e r e n t e x t e n s i o n s . I f t y p e - I d e n t i c a l p s y c h o l o g i c a l s t a t e s c a n d e t e r m i n e d i f f e r e n t e x t e n s i o n s , t h e n t h e r e m u s t b e m o r e t o t h e d e t e r m i n a t i o n o f e x t e n s i o n t h a n p s y c h o l o g i c a l s t a t e s , a n d t h e t r a d i t i o n a l [ i n t e m a l i s t ] v i e w I s , t h e r e f o r e , f a l s e . ( S e a r l e 1 9 8 3 , p . 2 0 0 ) T h e n , S e a r l e n o t e s , " P u t n a m o f f e r s t w o i n d e p e n d e n t a r g u m e n t s t o s h o w h o w t h e s a m e p s y c h o l o g i c a l s t a t e c a n d e t e r m i n e d i f f e r e n t e x t e n s i o n s " ( S e a r l e 1 9 8 3 , p . 2 0 1 ) . T h e f i r s t a r g u m e n t , o r l i n e o f a r g u m e n t i n v o k e s w h a t P u t n a m c a l l s " t h e l i n g u i s t i c d i v i s i o n o f l a b o r " a c c o r d i n g t o w h i c h s o m e m e m b e r s o f a n y l i n g u i s t i c c o m m u n i t y " h a v e m o r e e x p e r t i s e i n a p p l y i n g c e r t a i n t e r m s t h a n o t h e r s " ( S e a r l e 1 9 8 3 , p . 2 0 1 ) a n d w h a t d e t e r m i n e s t h e m e a n i n g a n d f i x e s t h e r e f e r e n c e o f w o r d s - - e v e n i n m y i d i o l e c t l - i s a s m u c h ( o r m o r e ) t h e i r e x p e r t i s e a s m i n e . T h u s , a c c o r d i n g t o S e a r i e ’ s e x p o s i t i o n o f P u t n a m ’ s e x a m p l e : i n s o f a r a s t h e r e I s a n y c o n c e p t a t t a c h i n g t o t h e w o r d s “ b e e c h “ a n d “ e l m “ f o r m e , t h e y a r e p r e t t y m u c h t h e s a m e c o n c e p t . I n b o t h c a s e s I h a v e t h e c o n c e p t o f a b i g d e c i d u o u s t r e e g r o w i n g I n t h e E a s t e r n p a r t o f t h e U n i t e d S t a t e s . T h e r e f o r e , 2 7 1 a c c o r d i n g t o P u t n a m , I n m y l d l o l e c t t h e c o n c e p t o r “ I n t e n s i o n ' I s t h e s a m e , b u t t h e e x t e n s i o n I s c l e a r l y d i f f e r e n t . “ B e e c h “ d e n o t e s b e e c h t r e e s a n d ” e l m “ d e n o t e s e l m t r e e s : s a m e p s y c h o l o g i c a l s t a t e , d i f f e r e n t e x t e n s i o n s . ( S e a r l e 1 9 8 3 , p . 2 0 1 ) S e a r i e ’ s fi r s t r e s p o n s e t o t h i s a r g u m e n t i s j u s t t o a f f i r m “ t h a t t h e t h e o r y t h a t m e a n i n g d e t e r m i n e s r e f e r e n c e c a n h a r d l y b e r e f u t e d b y c o n s i d e r i n g c a s e s o f s p e a k e r s w h o d o n ’ t e v e n k n o w t h e m e a n i n g o r k n o w i t o n l y i m p e r f e c t l y " ( S e a r l e 1 9 8 3 , p . 2 0 1 ) . T h i s r e s p o n s e i s p u z z l i n g o n i t s f a c e , a n d w h e n u n p u z z l e d , I t h i n k , q u i t e l a m e . S e a r i e ’ s r e s p o n s e i s p u z z l i n g f r o m t h e v e r y o u t s e t : P u t n a m ’ s l i n e i s n o t t o d e n y t h a t m e a n i n g d e t e r m i n e s r e f e r e n c e - - h e e x p l i c i t l y a c c e p t s t h i s ! I n f a c t h e u s e s i t a s a p r e m i s e i n a r g u i n g t h a t m e a n i n g s a r e n ' t i n t h e h e a d . P u t n a m ’ s a r g u m e n t i s t h a t m e a n i n g d e t e r m i n e s r e f e r e n c e , b u t w h a t ’ s i n t h e h e a d d o e s n ’ t d e t e r m i n e r e f e r e n c e , s o m e a n i n g s a r e n ’ t i n t h e h e a d . T h e n h a r d u p o n m i s s t a t i n g P u t n a m s ’ s v i e w s , S e a r l e s e e m s t o m i s s t a t e h i s o w n : h e s e e m s t o f o r s a k e h i s o w n t h e o r y t o r e s p o n d t o P u t n a m n o t a s a “ F r e g e a n “ b i o l o g i c a l n a t u r a l i s t s h o u l d , b u t a s a g e n u i n e P l a t o n i s t i c , a n t i p s y c h o l o g i s t i c ( h e n c e a n t i b i o l o g i s t i c ) F r e g e a n , n o t i n g , “ A s t r a d i t i o n a l l y c o n c e i v e d , a n i n t e n s i o n o r F r e g e a n S i n n i s a n a b s t r a c t e n t i t y w h i c h m a y b e m o r e o r l e s s i m p e r f e c t l y g r a s p e d b y i n d i v i d u a l s p e a k e r s " ( S e a r l e 1 9 8 3 , p . 2 0 1 ) . A n d n o w h i s c o m p l a i n t a g a i n s t P u t n a m ’ s " e l m " a n d " b e a c h “ e x a m p l e i s t h a t “ i t d o e s n o t s h o w t h a t i n t e n s i o n d o e s n o t d e t e r m i n e e x t e n s i o n t o s h o w t h a t s o m e s p e a k e r m i g h t n o t h a v e g r a s p e d t h e i n t e n t i o n , o r g r a s p e d i t o n l y i m p e r f e c t l y ; f o r s u c h a s p e a k e r h a s n ’ t g o t t h e r e l e v a n t e x t e n s i o n e i t h e r " ( S e a r l e 1 9 8 3 , p . 2 0 1 ) . B u t t h e w h o l e p o i n t o f t h e f a b l e i s t h a t P u t n a m , d e s p i t e n o t k n o w i n g t h e d i f f e r e n c e b e t w e e n a b e e c h a n d a n e l m h a s g o t t h e r e l e v a n t 2 7 2 e x t e n s i o n s - - b y " b e e c h " h e r e f e r s t o b e e c h e s ( t h e s a m e t r e e s t h e e x p e r t s w h o h a v e f u l l y " g r a s p e d t h e i n t e n s i o n “ c a l l " b e e c h e s " ) , a n d b y " e l m " h e r e f e r s t o e l m s ( t h e s a m e t r e e s t h e e x p e r t s c a l l " e l m s " ) . A n d s i n c e P u t n a m ’ s g o t t h e e x t e n s i o n - - s i n c e m e a n i n g o r s e n s e d e t e r m i n e s r e f e r e n c e ( f o r b o t h S e a r l e a n d P u t n a m ) - - i t ’ s e v i d e n t l y n o t t h e c a s e ( o r n e e d s t o b e s h o w n b y S e a r l e , i f h i s r e p l y i s t o b e e f f e c t i v e ) t h a t P u t n a m “ d o e s n o t k n o w t h e m e a n i n g o f t h e w o r d [ ‘ e l m ’ o r ‘ b e e c h ’ ] " ( S e a r l e 1 9 8 3 , p . 2 0 1 ) . I w i l l t r y t o u n p u z z l e t h i s . T h e t w o c u r i o u s f e a t u r e s o f S e a r i e ’ s r e s p o n s e - - 1 ) i t s m i s r e p r e s e n t a t i o n o f P u t n a m ’ s v i e w s a s o p p o s e d t o t h e i d e a t h a t r e f e r e n c e i s d e t e r m i n e d b y m e a n i n g ( i n t e n s i o n ) , w h e n w h a t P u t n a m a c t u a l l y o p p o s e s i s t h e v i e w t h a t r e f e r e n c e i s " d e t e r m i n e d b y a p s y c h o l o g i c a l s t a t e " ( P u t n a m 1 9 7 5 , p . 2 2 2 [ m y e m p h a s i s ] ) , a n d 2 ) i t s m i s r e p r e s e n t a t i o n o f S e a r i e ’ s o w n v i e w ( w h e r e i n i t d i f f e r s f r o m F r e g e ’ s ) - - s e e m r e l a t e d . I f w e u n d e r s t a n d P u t n a m a s a r g u i n g a g a i n s t t h e i d e a t h a t F r e g e a n s e n s e s ( a b s t r a c t e n t i t i e s , n o t p s y c h o l o g i c a l s t a t e s ) d e t e r m i n e r e f e r e n c e , t h e n P u t n a m ’ s a r g u m e n t i s i n d e e d s o f a r b e s i d e t h e p o i n t t h a t " a n y d e f e n d e r o f t h e t r a d i t i o n a l v i e w w o u l d n o t b e w o r r i e d b y t h i s a r g u m e n t " ( S e a r l e 1 9 8 3 , p . 2 0 1 ) . I n d e e d , s i n c e F r e g e a n s e n s e s a r e n ’ t i n t h e h e a d e i t h e r , i t w i l l n o t a r g u e a g a i n s t t h e c l a i m t h a t F r e g e a n s e n s e d e t e r m i n e s r e f e r e n c e t o s h o w t h a t w h a t ’ s i n t h e h e a d d o e s n ’ t s u f f i c e t o d e t e r m i n e r e f e r e n c e ; t h o u g h i t w i l l s t i l l a r g u e a g a i n s t t h e c l a i m t h a t t h e i n d i v i d u a l s p e a k e r ’ s m o r e o r l e s s i m p e r f e c t p s y c h o l o g i c a l g r a s p o f a F r e g e a n s e n s e d e t e r m i n e s r e f e r e n c e i n t h e i n d i v i d u a l s p e a k e r ’ s i d i o l e c t ( i f p s y c h o l o g i c a l g r a s p i s s u p p o s e d t o b e a n i n t e r n a l s t a t e o f t h e s p e a k e r ) . 2 7 3 N o w w e a r e i n a p o s i t i o n t o i l l u m i n a t e S e a r i e ’ s c u r i o u s c o n t e n t i o n t h a t a n o t h e r w a y o f p u t t i n g t h e p o i n t t h a t " T h e t h e s i s t h a t m e a n i n g d e t e r m i n e s r e f e r e n c e c a n h a r d l y b e r e f u t e d b y c o n s i d e r i n g c a s e s o f s p e a k e r s w h o d o n ’ t e v e n k n o w t h e m e a n i n g " ( S e a r l e 1 9 8 3 , p . 2 0 1 ) i s t o s a y " t h e n o t i o n s o f i n t e n s i o n a n d e x t e n s i o n a r e n o t d e f i n e d r e l a t i v e t o i d i o l e c t s " ( S e a r l e 1 9 8 3 , p . 2 0 1 ) . T h i s i s t r u e e n o u g h o f F r e g e a n S i n n a s t h e d e t e r m i n a n t o f p u b l i c e x t e n s i o n , b u t i t i s n o t t r u e a t a l l o f S e a r l e a n i n t e n s i o n s - - f o r S e a r i e ’ s w a y w i t h F r e g e i s , i n e f f e c t , t o e l i m i n a t e t h e a b s t r a c t s e n s e g r a s p e d w h i l e r e t a i n i n g t h e i n d i v i d u a l p s y c h o l o g i c a l s t a t e o r a c t o r w a y o f " g r a s p i n g " a s d e t e r m i n a t i v e o f e x t e n s i o n ( S e a r l e 1 9 8 3 , p . 1 9 7 i ) . P e r h a p s n o " d e f e n d e r o f t h e t r a d i t i o n a l [ F r e g e a n ] v i e w w o u l d b e w o r r i e d b y t h i s a r g u m e n t , " 1 7 b u t a d e f e n d e r o f S e a r i e ’ s " F r e g e a n " v i e w c e r t a i n l y s h o u l d b e w o r r i e d b y t h i s a r g u m e n t . O n S e a r i e ’ s v i e w t h e i n t e n s i o n s t h a t d e t e r m i n e e x t e n s i o n a r e t h e p s y c h o l o g i c a l s t a t e s o f i n d i v i d u a l s p e a k e r s ; a n d t h e y d e t e r m i n e e x t e n s i o n , i n t h e f i r s t i n s t a n c e , j u s t i n t h a t i n d i v i d u a l s p e a k e r ’ s i d i o l e c t . O t h e r s p e a k e r ’ s r e f e r e n c e s , i n t h e i r i d i o l e c t s , a r e l i k e w i s e , o n S e a r i e ’ s a c c o u n t , d e t e r m i n e d b y t h e i r i n d i v i d u a l p s y c h o l o g i c a l s t a t e s . T h u s o n S e a r i e ’ s a c c o u n t i n t e n s i o n a n d e x t e n s i o n a r e d e f i n e d , i n t h e f i r s t i n s t a n c e , " r e l a t i v e t o i d i o l e c t s " a n d t h e n d e r i v a t i v e l y ( i n s o f a r a s p s y c h o l o g i c a l s t a t e s o f v a r i o u s i n d i v i d u a l s p e a k e r s a r e t y p e i d e n t i c a l , a n d t h u s d e t e r m i n e i d e n t i c a l e x t e n s i o n s ) a r e d e f i n e d r e l a t i v e t o d i a l e c t s a n d l a n g u a g e s . 1 7 . A g a i n , I n s o f a r a s t h e y r e s t r i c t t h e i r d e f e n s e t o t h e d e t e r m i n a t i o n o f p u b l i c r e f e r e n c e b y a b s t r a c t F r e g e a n S i n n . 2 7 4 I r e a l l y d o n ’ t b e l i e v e a n y p r o p o n e n t o f t h e P u t n a m i a n a t t a c k o n a n y t h i n g l i k e t h e p r e c e d i n g S e a r l e a n p i c t u r e w o u l d b e w o r r i e d b y S e a r i e ’ s d e f e n s e o f a n a t t e n u a t e d “ v e r s i o n o f t h e t r a d i t i o n a l F r e g e a n v i e w a g a i n s t s u c h a t t a c k . S e a r l e a l s o a t t e m p t s a s e c o n d r e p l y t o t h e " b e e c h ’ / " e l m " c o u n t e r e x a m p l e ; b u t t h i s s e c o n d a r g u m e n t - - t h a t P u t n a m ’ s a s s u m p t i o n ( 1 ) t h a t h i s c o n c e p t a n s w e r i n g t o “ e l m " a n d h i s c o n c e p t a n s w e r i n g t o " b e e c h “ a r e i d e n t i c a l a n d y e t ( 2 ) t h e e x t e n s i o n o f “ e l m " i n h i s i d i o l e c t i s n o t i d e n t i c a l w i t h t h e e x t e n s i o n o f " b e a c h " i n h i s i d i o l e c t , i s i n c o h e r e n t - f a r e s n o b e t t e r t h a n t h e fi r s t . T h e i n c o h e r e n c e a l l e g e d i s t h a t P u t n a m o n l y k n o w s ( 2 ) t o b e t r u e b e c a u s e h e k n o w s ( 3 ) " t h a t e l m s a n d b e a c h e s a r e t w o d i f f e r e n t s p e c i e s o f t r e e s “ ; b u t 3 ) " s t a t e s c o n c e p t u a l k n o w l e d g e " i f a n y t h i n g d o e s ; s o P u t n a m ’ s c o n c e p t a n s w e r i n g t o " e l m " i s n o t i d e n t i c a l t o h i s c o n c e p t a n s w e r i n g t o " b e a c h " a f t e r a l l , w h i c h c o n t r a d i c t s h i s o r i g i n a l a s s u m p t i o n . T h i s f a i l s f o r t h r e e r e a s o n s . F i r s t , i t i s n o t c l e a r t h a t " i f s u c h k n o w l e d g e [ a s ( 3 ) s t a t e s ] i s n o t c o n c e p t u a l k n o w l e d g e , n o t h i n g i s “ ( S e a r l e 1 9 8 3 , p . 2 0 2 ) . I t ’ s n o t c o n c e p t u a l k n o w l e d g e b u t e m p i r i c a l k n o w l e d g e t h a t b e e c h e s a r e n o t e l m s a n d h e n c e t h a t “ b e e c h " a n d " e l m " a r e n o t c o d e s i g n a t i v e e x p r e s s i o n s - - u n l e s s m y k n o w l e d g e t h a t r e n a t e s a r e a l l c o r d a t e s ( w h i c h s e e m s l i k e n o n c o n c e p t u a l k n o w l e d g e , i f a n y t h i n g i s ) i s a l s o c o n c e p t u a l k n o w l e d g e . T h e o b j e c t i o n t o S e a r l e h e r e i s t h a t u n l e s s i n f o r m e d b y e m p i r i c a l k n o w l e d g e t h e p r i n c i p l e h e s e e m s t o i n v o k e i s g o i n g t o p r o d u c e w r o n g 1 8 . L e a v i n g o u t t h e i d e a t h e i n d i v i d u a l ’ s g r a s p o f t h e s e n s e d e t e r m i n e s r e f e r e n c e i n t h e i r i d i o l e c t . 2 7 5 c o n c e p t s . T h e r e s e e m s a s m u c h c o n c e p t u a l w a r r a n t a p r i o r i f o r s a y i n g f i l b e r t s a r e n o t h a z e l s a s f o r s a y i n g e l m s a r e n o t b e e c h e s ; b u t f i l b e r t s a r e h a z e l s ! S e c o n d , i f t h e c o n c e p t a n s w e r i n g t o " e l m " i n c l u d e s t h e k n o w l e d g e t h a t e l m s a r e n o t b e e c h e s i t s e e m s i t w i l l a l s o h a v e t o i n c l u d e t h e k n o w l e d g e t h a t e l m s a r e n o t o a k s , o r h a z e l s , e t c . ; i t w i l l h a v e t o e n u m e r a t e a l l t h e o t h e r d e c i d u o u s t r e e s t h a t e l m s a r e n o t , a n d t h i s w i l l n o t b e a t r a c t a b l e c o n c e p t w h o s e p s y c h o l o g i c a l d e p l o y m e n t m i g h t p l a u s i b l y b e t h o u g h t t o e x p l a i n h o w I d e t e r m i n e w h a t " e l m " r e f e r s t o . A n d t h i s n e e d f o r t h e c o n c e p t t o i n c l u d e a n e n u m e r a t i o n o f a l l t h e d e c i d u o u s t r e e s t h a t e l m s a r e n o t w i l l o n l y b e t h e t i p o f t h e u n w i e l d y I c e b e r g t h e c o n c e p t n o w b e c o m e s ; f o r i t w a s o n l y b e c a u s e t h e g e n u s " m c i d u o u s t r e e " e l i m i n a t e d s h i p s a n d s h o e s a n d s e a l i n g w a x a t o n e f e l l s w o o p t h a t o u r c o n c e p t o f a n e l m d i d n ’ t a l s o h a v e t o i n c l u d e n o t b e i n g a f r i g a t e a n d n o t b e i n g a p e n n y l o a f e r . B u t n o w t h e s a m e t r o u b l e i s g o i n g t o r e p e a t i t s e l f c o n c e r n i n g t h e c o n c e p t a n s w e r i n g t o " d e c i d u o u s " a n d " t r e e , “ i . e . , t h e c o n c e p t " t r e e " i s g o i n g t o h a v e t o i n c l u d e n o t b e i n g a l i c h e n o r a f u n g u s , e t c . T h i r d , e v e n i f t h e r e w e r e s o m e p r i n c i p l e d w a y o f s t o p p i n g t h e e n v i s a g e d c o n c e p t u a l e x c l u s i o n p r o c e s s s h o r t o f h a v i n g e v e r y c o n c e p t e x p l i c i t l y e x c l u d e e a c h o t h e r s p e c i e s o f e v e r y g e n e r a o c c u r r i n g i n i t s a n a l y s i s - - a l l o w i n g t h a t m y c o n c e p t a n s w e r i n g t o " e l m " n e e d o n l y e x p l i c i t l y e x c l u d e b e e c h e s , a n d m y c o n c e p t a n s w e r i n g t o " b e e c h " n e e d o n l y e x p l i c i t l y e x c l u d e e l m s - l o o k w h a t w e h a v e . M y c o n c e p t a n s w e r i n g t o “ e l m " w i l l n o w b e a b i g d e c i d u o u s t r e e g r o w i n g i n t h e E a s t e r n U . S . t h a t i s n ’ t a b e e c h , a n d m y c o n c e p t a n s w e r i n g t o b e e c h w i l l n o w b e a b i g d e c i d u o u s t r e e g r o w i n g i n t h e E a s t e r n U S . t h a t i s n ’ t a n e l m . 2 7 6 T h i s i s n o t g o i n g t o h e l p m e t o d i s t i n g u i s h e l m s f r o m b e e c h e s a n y b e t t e r t h a n b e f o r e ; n o r d o t h e s e d e fi n i t i o n s s e e m t o e m b o d y a d d i t i o n a l c o n c e p t u a l k n o w l e d g e b e y o n d t h a t i n c l u d e d i n t h e i n i t i a l c o n c e p t o f a b i g d e c i d u o u s t r e e g r o w i n g i n t h e E a s t e r n U . S . I t s e e m s t h e d i f f e r e n c e b e t w e e n t h e a u g m e n t e d d e f i n i t i o n s a n d t h e s e o r i g i n a l s ( i n m y i d i o l e c t ) w i l l o n l y b e n o t a t i o n a l a n d n o t a t a l l n o t i o n a l ; s o c o n t r a r y t o t h e i n c o h e r e n c e S e a r l e a l l e g e s a g a i n s t P u t n a m , P u t n a m ’ s a u g m e n t e d c o n c e p t s a n s w e r i n g t o " b e e c h " a n d " e l m " r e m a i n ( n o t i o n a l l y ) t h e s a m e a f t e r a l l . 1 0 . S e a r l e A g a i n s t P u t n a m o n C a u s a l I n d e x i c a l D e p e n d e n c e A s f o r P u t n a m ’ s s e c o n d , m o r e i n f l u e n t i a l , T w i n E a r t h e x a m p l e , t h e p r o b l e m t h a t i t p o s e s i s t h a t O s c a r a n d t w i n O s c a r ’ s t y p e i d e n t i c a l p h y s i o l o g i c a l s t a t e s d e t e r m i n e d i f f e r e n t e x t e n s i o n s o f " w a t e r . " W h e n O s c a r s a y s " w a t e r " o r t h i n k s a b o u t w h a t h e m e a n s b y " w a t e r , " h e m e a n s ( o r t h i n k s a b o u t ) H 2 0 : w h e n t w i n O s c a r s a y s " w a t e r " o r t h i n k s a b o u t w h a t h e m e a n s b y " w a t e r , " h e m e a n s ( o r t h i n k s a b o u t ) X Y Z . T h i s i s c o n t r a r y t o t h e a s s u m p t i o n o f m e t h o d o l o g i c a l s o l i p s i s m , w h i c h h o l d s t h a t m e a n i n g i s w h o l l y d e t e r m i n e d b y , o r s u p e r v e n i e n t o n , i n t e r n a l o r p s y c h o l o g i c a l s t a t e s o f t h e s p e a k e r o r t h i n k e r . S e a r l e r e s p o n d s a s f o l l o w s : O n t h e a c c o u n t o f l n t e n t i o n a l i t y p r e s e n t e d i n t h i s b o o k t h e a n s w e r t o t h a t p r o b l e m I s s i m p l e . T h o u g h t h e y h a v e t y p e - I d e n t i c a l v i s u a l e x p e r i e n c e s i n t h e s i t u a t i o n w h e r e “ w a t e r “ I s f o r e a c h l n d e x l c a l l y i d e n t i f i e d , t h e y d o n o t h a v e t y p e I d e n t i c a l I n t e n t i o n a l c o n t e n t s . O n t h e c o n t r a r y t h e i r I n t e n t i o n a l c o n t e n t s c a n b e d i f f e r e n t b e c a u s e e a c h I n t e n t i o n a l c o n t e n t l s c a u s a l l y s e l f r e f e r e n t i a l . . . . T h e i n d e x i c a l d e f i n i - t i o n s g i v e n b y J o n e s o n e a r t h o f “ w a t e r “ c a n b e a n a l y z e d a s f o l l o w s : “ w a t e r “ l s d e f i n e d l n d e x l c a l l y a s w h a t e v e r I s I d e n t i c a l i n s t r u c t u r e w i t h t h e s t u f f c a u s i n g t h i s v i s u a l e x p e r i e n c e , w h a t e v e r t h a t s t r u c t u r e I s . A n d t h e a n a l y s i s f o r t w i n J o n e s o n t w i n e a r t h i s : “ w a t e r " i s d e f i n e d i n d e x i c a l l y a s w h a t e v e r I s i d e n t i c a l i n s t r u c t u r e w i t h t h e s t u f f c a u s i n g t h i s v i s u a l e x p e r i e n c e , w h a t e v e r t h a t s t r u c t u r e I s . T h u s , I n e a c h 2 7 7 c a s e , w e h a v e t y p e - i d e n t i c a l e x p e r i e n c e s , t y p e - I d e n t i c a l u t t e r a n c e s , b u t I n f a c t I n e a c h c a s e s o m e t h i n g d i f f e r e n t i s m e a n t . T h a t i s , i n e a c h c a s e t h e c o n d i t i o n s o f s a t i s f a c t i o n e s t a b l i s h e d b y t h e m e n t a l c o n t e n t ( i n t h e h e a d ) l s d i f f e r e n t b e c a u s e o f t h e c a u s a l s e l f - r e f e r e n t i a l i t y o f p e r c e p t u a l e x p e r i e n c e s . ( S e a r l e 1 9 8 3 , p p . 2 0 7 - 2 0 8 ) W h i l e o n P u t n a m ’ s a c c o u n t , M y ’ o s t e n s i v e d e f i n i t i o n ’ o f ‘ w a t e r ’ h a s t h e f o l l o w i n g e m p i r i c a l p r e s u p p o s i t i o n : t h a t t h e b o d y o f l i q u i d I a m p o i n t i n g t o b e a r s a c e r t a i n s a m e n e s s r e l a t i o n ( s a y x i s t h e s a m e l i q u i d a s y , o r x i s t h e s a m e L a s y ) t o m o s t o f t h e s t u f f t h a t l a n d o t h e r m e m b e r s o f m y l i n g u i s t i c c o m m u n i t y h a v e o n o t h e r o c c a s i o n s c a l l e d ’ w a t e r ' . ( P u t n a m 1 9 7 5 , p . 2 2 5 ) O n S e a r i e ’ s a c c o u n t , P u t n a m ’ s o s t e n s i v e o r i n d e x i c a l d e f i n i t i o n ’ s r e f e r e n c e t o " m o s t o f t h e s t u f f t h a t I a n d o t h e r s o f m y l i n g u i s t i c c o m m u n i t y h a v e o n o t h e r o c c a s i o n s c a l l e d ‘ w a t e r ’ " i s r e p l a c e d b y “ t h e s t u f f c a u s i n g t h i s v i s u a l e x p e r i e n c e . " O n P u t n a m ’ s a c c o u n t t h e d i f f e r e n c e i n t h e e x t e n s i o n o f " w a t e r " a s O s c a r m e a n s i t ( r e f e r r i n g t o H 2 0 ) a n d a s t w i n O s c a r m e a n s I t ( r e f e r r i n g t o X Y Z ) i s d e t e r m i n e d b y d i f f e r e n c e s i n t h e i r c o m m u n i t i e s a n d e n v i r o n m e n t s . O n S e a r i e ’ s a c c o u n t t h e d i f f e r e n c e i s d e t e r m i n e d b y t h e n u m e r i c a l d i f f e r e n c e b e t w e e n J o n e s ’ s a n d t w i n J o n e s ’ s v i s u a l e x p e r i e n c e s . S e a r i e ’ s a c c o u n t d o e s h a v e t h e c o n s e q u e n c e t h a t " i n m a k i n g i n d e x i c a l d e f i n i t i o n s , d i f f e r e n t s p e a k e r s [ e . g . , J o n e s a n d t w i n J o n e s ] c a n m e a n s o m e t h i n g d i f f e r e n t [ a s J o n e s m e a n s H 2 0 a n d t w i n J o n e s X Y Z ] b e c a u s e t h e i r I n t e n t i o n a l c o n t e n t s a r e s e l f - r e f e r e n t i a l t o t h e t o k e n I n t e n t i o n a l e x p e r i e n c e s " ( S e a r l e 1 9 8 3 , p . 2 0 8 ) . B u t t h e r e i s a n u m e r i c a l d i f f e r e n c e b e t w e e n J o n e s ’ s a n d S m i t h ’ s t y p e i d e n t i c a l v i s u a l e x p e r i e n c e s o f w a t e r o n t h i s e a r t h t o o : t h e w o r r y t h a t a r i s e s - a n d S e a r l e a n t i c i p a t e s - i s t h a t h i s a c c o u n t w i l l “ h a v e t h e c o n s e q u e n c e t h a t d i f f e r e n t s p e a k e r s o n e a r t h m u s t m e a n s o m e t h i n g d i f f e r e n t b y “ w a t e r ” ( S e a r l e 1 9 8 3 , p . 2 0 8 ) . P e r h a p s S m i t h a n d J o n e s a r e h a v i n g t y p e i d e n t i c a l v i s u a l 2 7 8 e x p e r i e n c e s , b u t S m i t h i s v i e w i n g a g l a s s o f g i n a n d J o n e s a g l a s s o f w a t e r . S m i t h ’ s v i s u a l e x p e r i e n c e m i g h t e v e n b e a n h a l l u c i n a t i o n . S o i n J o n e s ’ s i d i o l e c t , " w a t e r " r e f e r s t o w a t e r i f w a t e r c a u s e s J o n e s ’ s i n d e x i c a l l y i d e n t i f i e d e x p e r i e n c e ; a n d i n S m i t h ’ s i d i o l e c t " w a t e r " r e f e r s t o g i n i f g i n c a u s e s S m i t h ’ s e x p e r i e n c e , o r t o t h i n a i r ( o r t h e L S D S m i t h t o o k ? ) i f S m i t h i s h a v i n g a n h a l l u c i n a t i o n . T h e d i f f e r e n c e b e t w e e n P u t n a m ’ s a n d S e a r i e ’ s a c c o u n t c a n b e b r o u g h t o u t b y n o t i n g t h a t o n P u t n a m ’ s a c c o u n t S m i t h h a s n o t s u c c e e d e d i n o s t e n s i v e l y d e f i n i n g " w a t e r " w h e n h e p o i n t s a t t h e g l a s s o f g i n b e c a u s e g i n d o e s n ’ t b e a r t h e s a m e L r e l a t i o n " t o m o s t o f t h e s t u f f t h a t I a n d o t h e r s p e a k e r s i n m y l i n g u i s t i c c o m m u n i t y h a v e c a l l e d ‘ w a t e r ’ " : t h e e m p i r i c a l p r e s u p p o s i t i o n i s n o t s a t i s f i e d . O n S e a r i e ’ s a c c o u n t , S m i t h m u s t s m e d i n o s t e n s i v e l y d e f i n i n g " w a t e r " w h e n h e p o i n t s a t t h e g l a s s o f g i n , o r e v e n i f h e p o i n t s a t t h i n a i r ( i f h e ’ s h a v i n g a n h a l l u c i n a t i o n ) b e c a u s e t h e e m p i r i c a l p r e s u p p o s i t i o n h a s d r o p p e d o u t o r ( e q u a l l y t r o u b l e s o m e l y ) b e c o m e c o m p l e t e l y s u b j e c t i v e - g i n o r t h i n a i r ( o r t h e L S D ? ) i s t h e c a u s e o f S m i t h ’ s v i s u a l e x p e r i e n c e . F u r t h e r m o r e , a S e a r l e a n i n d e x i c a l d e f i n i t i o n i s o n e t h a t n o o n e c a n g i v e t o a n y o n e e l s e - s i n c e n o o n e e l s e i s h a v i n g t h i s p a r t i c u l a r v i s u a l e x p e r i e n c e o f S m i t h ’ s , h o w i s a n y o n e e l s e s u p p o s e d t o g r a s p t h e i n d e x i c a l d e f i n i t i o n o f " w a t e r " a s w h a t e v e r b e a r s t h e r e l a t i o n s a m e L t o w h a t e v e r c a u s e s t h i s e x p e r i e n c e . S e a r i e ’ s a t t e m p t t o h e a d o f f t h i s l a s t d i f f i c u l t y i s , a g a i n - a s w e r e h i s a t t e m p t s t o a n s w e r t h e " b e e c h " / " e l m " c o u n t e r e x a m p l e - o d d o n i t s f a c e , a n d i n a d e q u a t e o n c l o s e c o n s i d e r a t i o n . S e a r i e ’ s f i r s t r e s p o n s e t o t h i s d i f f i c u l t y i s t o n o t e : 2 7 9 M o s t p e o p l e d o n o t g o a r o u n d b a p t i z l n g n a t u r a l k i n d s ; t h e y j u s t i n t e n d t o u s e t h e w o r d s t o m e a n a n d r e f e r t o w h a t e v e r t h e c o m m u n i t y a t l a r g e , I n c l u d i n g t h e e x - p e r t s , u s e t h e w o r d s t o m e a n a n d r e f e r t o . ( S e a r l e 1 9 8 3 , p . 2 0 8 ) T h i s r e s p o n s e - i f t h i s w e r e a l l t h e r e s p o n s e S e a r l e w e r e t o g i v e - j u s t s e e m s t o c o n c e d e P u t n a m ’ s a c c o u n t o f t h e r o l e o f t h e l i n g u i s t i c d i v i s i o n o f l a b o r a n d P u t n a m ’ s c o n c l u s i o n t h a t w h a t I m e a n i s n o t f u l l y d e t e r m i n e d b y w h a t ’ s i n m y h e a d , b u t d e p e n d s o n w h a t ’ s i n t h e h e a d o f o t h e r s p e a k e r s ( p a r t i c u l a r l y t h e e x p e r t s ) . I f t h i s r e s p o n s e i s s u p p o s e d t o b e p a r t o f a d e f e n s e a g a i n s t P u t n a m ’ s e x t e r n a l i s t c o n c l u s i o n s ( a n d n o t t h e s u r r e n d e r i t s e e m s ) t h e w e i g h t o f t h a t d e f e n s e m u s t r e s t o n S e a r i e ’ s d i s c u s s i o n o f t h e c a s e s " w h e n t h e r e a r e s u c h p u b l i c b a p t i s m s " ( S e a r l e 1 9 8 3 , p . 2 0 8 ) , i n w h i c h c a s e S e a r l e m a i n t a i n s , s u c h b a p t i s m s " w o u l d n o r m a l l y i n v o l v e o n t h e p a r t o f t h e p a r t i c i p a n t s s h a r e d v i s u a l a n d o t h e r e x p e r i e n c e s “ ( S e a r l e 1 9 8 3 , p . 2 0 8 ) . T h e t r o u b l e h e r e i s h o w t o c o n j u r e u p p u b l i c b a p t i s m s c o n f e r r i n g s h a r e d r e f e r e n c e o u t o f p r i v a t e b a p t i s m s w i t h i n o n e i n d i v i d u a l ’ s e x p e r i e n c e . W h a t S e a r l e c a l l s " s h a r e d v i s u a l a n d o t h e r e x p e r i e n c e s “ a r e s u p p o s e d t o d o t h i s . S e a r l e g i v e s t h e f o l l o w i n g e x a m p l e o f a “ s h a r e d v i s u a l e x p e r i e n c e " : S u p p o s e , f o r e x a m p l e , y o u a n d l a r e b o t h l o o k i n g a t t h e s a m e o b j e c t , e . g . , a p a i n t i n g , a n d d i s c u s s i n g I t . N o w , f r o m m y p o i n t o f v i e w , I a m n o t j u s t s e e i n g a p a i n t i n g , r a t h e r I a m s e e i n g i t a s p a r t o f o u r s e e i n g I t . A n d t h e s h a r e d a s p e c t o f t h e e x p e r i e n c e i n v o l v e s s o m e t h i n g m o r e t h a n j u s t t h a t I b e l i e v e t h a t y o u a n d I a r e s e e i n g t h e s a m e t h i n g ; b u t t h e s e e i n g I t s e l f m u s t m a k e r e f e r e n c e t o t h a t b e l i e f , s i n c e i f t h e b e l i e f I s f a l s e t h e n s o m e t h i n g I n t h e c o n t e n t o f m y e x p e r i e n c e l s u n s a t i s f i e d : I a m n o t s e e i n g w h a t I t o o k m y s e l f t o b e s e e i n g . ( S e a r l e 1 9 8 3 , p . 7 1 ) H o w i s t h e e x p e r i e n c e " s h a r e d " ? I h a v e m y v i s u a l e x p e r i e n c e o f t h e p a i n t i n g a n d y o u h a v e y o u r s ; a n d i n d e e d t h e r e a l s h a r e d n e s s o f t h e e x p e r i e n c e d o e s i n v o l v e s o m e t h i n g m o r e t h a n j u s t t h a t I b e l i e v e t h a t y o u a n d l a r e s e e i n g t h e s a m e t h i n g 2 8 0 - - i t i n v o l v e s t h e r e b e i n g a y o u , a n d y o u r s e e i n g , a n d t h e r e b e i n g a p a i n t i n g w e b o t h s e e . I t s e e m s S e a r i e ’ s a c c o u n t o f " i n d e x i c a l d e f i n i t i o n " m a k e s e s s e n t i a l a p p e a l t o b o t h t h e r e f e r e n t a n d o t h e r m e m b e r s o f t h e l i n g u i s t i c c o m m u n i t y - - t h e t w o t h i n g s h i s a c c o u n t w a s s u p p o s e d t o e n a b l e u s t o d o w i t h o u t . T h e c r u c i a l t h i n g h e r e - - w h a t ’ s s u p p o s e d t o c o n j u r e u p p u b l i c a g r e e m e n t o u t o f m y ( o u r ? ) p r i v a t e o s t e n s i o n i s t h a t " t h e c o n t e n t o f m y v i s u a l e x p e r i e n c e m a k e s r e f e r e n c e t o t h e c o n t e n t o f a b e l i e f a b o u t w h a t y o u a r e s e e i n g , " i . e . , t o t h e b e l i e f t h a t " h e r e i s a p a r t i c u l a r p a i n t i n g t h a t y o u a r e s e e i n g t h a t I a m s e e i n g t o o " ( S e a r l e 1 9 8 3 , p . 7 1 ) . W h a t ’ s c r u c i a l i s 1 ) t h a t y o u r e x i s t e n c e a n d t h e o b j e c t ’ s e x i s t e n c e a r e n o t e n t a i l e d b y t h e i r b e i n g m a d e r e f e r e n c e t o i n t h e c o n t e n t o f m y v i s u a l e x p e r i e n c e ( c o n s i s t e n t w i t h m e t h o d o l o g i c a l s o l i p s i s m ) , a n d 2 ) t h a t w h a t e v e r ’ s i n y o u r h e a d d e t e r m i n e s t h e r e f e r e n c e o f y o u r v i s u a l e x p e r i e n c e t o t h e v e r y s a m e o b j e c t t o w h i c h w h a t ’ s i n m y h e a d d e t e r m i n e s t h e r e f e r e n c e o f m y v i s u a l e x p e r i e n c e . T h e i n c o h e r e n c e o f S e a r i e ’ s a t t e m p t t o m e e t b o t h t h e s e d e m a n d s s i m u l t a n e o u s l y d o e s l i t t l e t o d i s p e l t h e t h o u g h t t h a t i t ’ s i m p o s s i b l e t o d o s o . A f t e r a d m i t t i n g , " I a m n o t s u r e h o w , o r e v e n i f , t h e v a r i o u s c o m p l e x i t i e s [ o f s h a r e d e x p e r i e n c e ] c a n b e r e p r e s e n t e d i n t h e n o t a t i o n w e h a v e b e e n u s i n g s o f a r , " S e a r l e o f f e r s t h e f o l l o w i n g " a n a l y s i s " o f o n e “ v e r y s i m p l e s o r t o f c a s e w h e r e t h e c o n t e n t o f m y v i s u a l e x p e r i e n c e m a k e s r e f e r e n c e t o t h e c o n t e n t o f a b e l i e f a b o u t w h a t y o u a r e s e e i n g “ ( S e a r l e 1 9 8 3 , p . 7 1 ) : A n e x a m p l e , s t a t e d i n o r d i n a r y E n g l i s h , w o u l d b e a c a s e i n w h i c h “ I b e l i e v e t h e r e I s a p a r t i c u l a r p a i n t i n g t h a t y o u a r e s e e i n g a n d I a m s e e i n g I t t o o “ . H e r e t h e “ i t “ w i t h i n t h e s c o p e o f t h e “ s e e “ I s w i t h i n t h e s c o p e o f t h e q u a n t i f i e r w h i c h i n t u r n I s w i t h i n t h e s c o p e o f t h e “ b e l i e v e , “ e v e n t h o u g h t h e “ s e e “ i s n o t w i t h i n t h e s c o p e o f t h e “ b e l i e v e “ . T h e s e n t e n c e d o e s n ’ t s a y t h a t I b e l i e v e I s e e I t , I t s a y s I s e e I t . ( S e a r l e 1 9 8 3 , p . 7 1 ) 2 8 1 " U s i n g s q u a r e b r a c k e t s f o r t h e s c o p e o f t h e I n t e n t i o n a l v e r b s a n d r o u n d b r a c k e t s f o r t h e q u a n t i f i e r s a n d a l l o w i n g t h e t w o t o c r o s s o v e r " ( 1 9 8 3 , p . 7 1 : m y e m p h a s i s ) S e a r l e g i v e s u s t h e f o l l o w i n g ( s i c ) : B e l [ ( E l x ) ( y o u a r e s e e i n g x ] & V i s e x p [ r p x a n d t h e f a c t t h a t ( p X i s c a u s i n g t h i s V i s e x p j ) ( S e a r l e 1 9 8 3 , p . 7 1 ) B e s i d e s t h e i n c o h e r e n c e o f " a l l o w i n g t h e t w o t o c r o s s o v e r , " t h e a n a l y s i s i s c o n t r a r y t o S e a r i e ’ s e x p r e s s e d v i e w t h a t " t h e c o n t e n t o f t h e v i s u a l e x p e r i e n c e [ t h a t t h e r e i s a y e l l o w s t a t i o n w a g o n t h e r e ] , l i k e t h e c o n t e n t o f t h e b e l i e f [ t h a t t h e r e i s a y e l l o w s t a t i o n w a g o n t h e r e ] , i s a l w a y s e q u i v a l e n t t o a w h o l e p r o p o s i t i o n ( S e a r l e 1 9 8 3 , p . 4 0 ) . T h e c o n j u n c t i v e c o n t e n t c l a u s e o f " V i s e x p " h e r e i s n o t a s e n t e n c e , s i n c e n e i t h e r o f t h e c o n j u n c t s i s a s e n t e n c e . N e i t h e r a s p e c t s ( o r p h r a s e s r e f e r r i n g t o a s p e c t s ) s u c h a s " e x ” s t a n d s f o r , n o r " t h e f a c t t h a t p h r a s e s a r e s e n t e n c e s . 1 9 P e r h a p s t h e s e c o n d d i f f i c u l t y , t h e n o n p r o p o s i t i o n a l c o n t e n t o f t h e " V i s _ e x p " c l a u s e i s d u e t o c a r e l e s s n e s s . P e r h a p s t h e c o n t e n t o f “ V i s _ e x p “ c a n b e m o r e c a r e f u l l y e x p r e s s e d a s a s e n t e n c e i f w e c a n r e w r i t e , e . g . , " V i s _ e x p ' [ t h e y e l l o w l e f t h a n d s i d e a s p e c t o f t h e s t a t i o n w a g o n & t h e f a c t t h a t t h e y e l l o w l e f t h a n d s i d e a s m c t i s c a u s i n g t h i s v i s u a l e x p e r i e n c e ] " a s " V i s _ e x p ' [ h e r e i s t h e y e l l o w l e f t h a n d s i d e o f t h e s t a t i o n w a g o n & t h i s y e l l o w l e f t h a n d s i d e o f t h e s t a t i o n w a g o n i s c a u s i n g m y v i s u a l e x p e r i e n c e ] . A n o b j e c t i o n t o t h i s ( a s a r e c o n s t r u c t i o n o f S e a r i e ’ s i n t e n d e d m e a n i n g ) w o u l d b e t h a t i t i d e n t i f i e s t h e a s p e c t w i t h t h e i n t e n t i o n a l o b j e c t , c o n t r a r y t o S e a r i e ’ s i n s i s t e n c e t h a t " t h e a s p e c t i s n o t i t s e l f t h e i n t e n t i o n a l ‘ 1 9 . T h i s s e c o n d l n f e l l c l t y o f S e a r i e ’ s a n a l y s i s w a s p o i n t e d o u t t o m e b y B a r b a r a A b b o t t . 2 8 2 o b j e c t " ; a n d i t s q u a r e s i l l w i t h t h e i d e a t h a t t h e f a m o u s d u c k - r a b b i t p i c t u r e h a s t w o d i f f e r e n t a s p e c t s , w i t h d i f f e r e n t c a u s a l p o w e r s ( t o m a k e u s s e e i t a s a d u c k o r a r a b b i t ) u n d e r i t s d i f f e r e n t a s p e c t s ! ( S e a r l e 1 9 8 3 , p . 5 2 ) . 2 0 B u t I w i l l p a s s o v e r t h i s . I t i s t h e i l l - f o r m e d n e s s o f S e a r i e ’ s a n a l y s i s t h a t m o s t m e r i t s c l o s e r a t t e n t i o n i n c o n n e c t i o n w i t h t h e p r o b l e m o f g e t t i n g p u b l i c m e a n i n g s o u t o f p r i v a t e v i s u a l e x p e r i e n c e s . I s u g g e s t t h e f o l l o w i n g a s w e l l - f o r m e d e x p r e s s i o n s o f w h a t S e a r l e i s t r y i n g t o s a y . A s s u m i n g a n a n a l y s i s " o x " a s h a v i n g s e n t e n c e s f o r i t s s u b s t i t u t i o n i n s t a n c e s , a s j u s t s u g g e s t e d , p e r h a p s S e a r l e i n t e n d s h i s a n a l y s i s t o m e a n B e l [ ( E l x ) ( y o u a r e s e e i n g x & x = y ) ] & V i s _ e x p ' [ r p y & I a m h a v i n g t h i s V i s _ e x p b e c a u s e ( p y l O r m a y b e h e i n t e n d s i t t o m e a n B e l [ ( E l x ) ( y o u a r e s e e i n g x ) ] & V i s _ e x p ' [ < p y 8 : I ’ m h a v i n g t h i s V i s _ e x p b e c a u s e g a y 8 : x = y ] O r - - s o l o n g a s S e a r i e ’ s a l l o w i n g u s t o v i s u a l l y e x p e r i e n c e c a u s a l r e l a t i o n s - - w h y n o t j u s t a l l o w t h a t l v i s u a l l y e x p e r i e n c e y o u r s e e i n g t o o , a n d r e n d e r i t : V i s _ e x p ' [ r p x & I ’ m h a v i n g t h i s V i s _ e x p b e c a u s e r p x & y o u a r e s e e i n g x ] 2 0 . I s u s p e c t S e a r i e ’ s n o t i o n o f a n a s p e c t I s a n I l l e g i t i m a t e m a i d o f w h a t i s l i t e r a l l y a n a s p e c t , L e . a s i d e ( o r t h e f r o n t o r t h e b a c k ) o r w h a t I s a p r o p e r t y ( e . g . , b e i n g y e l l o w ) o f t h e o b j e c t w i t h w h a t I s a p r o p e r t y o f t h e o b s e r v e r ( e . g . , o f h a v i n g a s i d e v i e w o r a f r o n t v i e w , o r a t t e n d i n g t o t h e c o l o r ) . I t a k e m i n o r l i b e r t i e s w i t h S e a r i e ' s n o t a t i o n ( e . g . a d d i n g t h e s u p e r s c r i p t “ i “ h e r e a n d b e l o w a n d r e p l a c i n g “ E ! “ w i t h " 3 " , b e l o w , w h i c h d o n o t , I t a k e i t , c h a n g e t h e " s e n s e o f t h e o r i g i n a l “ : t h e p r o b l e m h e r e I s t o r e f o r m u l a t e t h e o r i g i n a l s o a s t o h a v e s o m e s e n s e S e a r l e m i g h t p l a u s i b l y b e t h o u g h t t o h a v e I n t e n d e d . 2 8 3 I t r e a l l y d o e s n ’ t m a t t e r w h i c h o f t h e s e r e n d e r i n g s w e c h o o s e : p e r h a p s i t i s a c o r o l l a r y o f S e a r i e ’ s d o c t r i n e t h a t " I n t e n t i o n a l s t a t e s d o n o t n e a t l y i n d i v i d u a t e " " ’ 1 ( S e a r l e 1 9 8 3 , p . 2 1 ) t h a t t h e r e i s n o t h i n g t o c h o o s e b e t w e e n t h e m . T h e t r o u b l e i n e a c h o f t h e s e c a s e s - - w i t h r e g a r d t o S e a r i e ’ s p r o j e c t o f d e r i v i n g p u b l i c m e a n i n g s f r o m p r i v a t e e x p e r i e n c e s - - i s t h e s a m e . I n o r d e r t o g e t p u b l i c d e t e r m i n a t i o n o f r e f e r e n c e f r o m t h e c o n t e n t o f m y v i s u a l e x p e r i e n c e i t i s n o t e n o u g h t h a t I b e l i e v e t h a t y o u s e e w h a t I s e e , o r t h a t I v i s u a l l y e x p e r i e n c e t h a t y o u a r e s e e i n g . " B e l i e v e " u n l i k e " k n o w " i s n o t a f a c t i v e v e r b ( B e l ' [ p ] d o e s n o t e n t a i l p ) ; a n d t h e s a m e g o e s f o r " v i s u a l l y e x p e r i e n c e " a s o p p o s e d t o s e e . " J u s t a s m y b e l i e v i n g I u s e d t o s h a r e m y t o y s w i t h m y b r o t h e r ( u n l i k e m y k n o w i n g i t ) d o e s n ’ t e n t a i l t h a t I d i d s h a r e t h e m , n e i t h e r d o e s m y b e l i e f t h a t y o u a r e s e e i n g x a n d X : y ( w h e r e y i s w h a t I ’ m v i s u a l l y e x p e r i e n c i n g ) e n t a i l t h a t w e a r e s h a r i n g a v i s u a l e x p e r i e n c e . N e i t h e r d o e s m y v i s u a l e x p e r i e n c e ( u n l i t e m y s e e i n g ) t h a t y o u a r e s e e i n g t h i s x ( w h i c h I ’ m v i s u a l l y e x p e r i e n c i n g ) e n t a i l t h a t w e a r e s h a r i n g a v i s u a l e x p e r i e n c e . S o l o n g a s " y o u s e e x " a n d " x = y " a r e i n t h e s c o p e o f t h e n o n f a c t i v e " B e l " o r " V i s _ e x p " o p e r a t o r s , S e a r i e ’ s a n a l y s i s f a i l s t o e s t a b l i s h a n y " f a c t t h a t y o u a n d I a r e h a v i n g a s h a r e d v i s u a l e x p e r i e n c e " ( S e a r l e 1 9 8 3 , p . 7 1 ) a s r e q u i r e d f o r t h e i n d e x i c a l d e f i n i t i o n o f w a t e r a s “ w h a t e v e r i s i d e n t i c a l i n s t r u c t u r e w i t h t h e s t u f f c a u s i n g t h i s v i s u a l e x p e r i e n c e " ( S e a r l e 1 9 8 3 , p . 2 0 8 ) : i t f a i l s t o e s t a b l i s h a c o m m u n i c a b l e s e n s e t h a t p u b l i c l y d e t e r m i n e s e x t e n s i o n o f “ w a t e r " i n o u r d i a l e c t a n d n o t j u s t i n m y i d i o l e c t . S e a r i e ’ s c a r e l e s s u s e o f ( t h e f a c t i v e v e r b ) 2 1 . “ H o w m a n y b e l i e f s d o I h a v e e x a c t l y ? “ , S e a r l e n o t e s , i s a q u e s t i o n t o w h i c h “ T h e r e I s n o d e f i n i t e a n s w e r “ ( S e a r l e 1 9 8 3 , p . 2 1 ) . 2 8 4 " " s e e i n p l a c e o f ( t h e n o n f a c t i v e v e r b p h r a s e ) " v i s u a l l y e x p e r i e n c e " a s w h e n h e r e m a r k s t h a t " i n t h e a b o v e f o r m u l a t i o n I s e e i t u n d e r t h e a s p e c t r p , I a s s u m e y o u s e e t h e s a m e o b j e c t , b u t I d o n ’ t h a v e t o a s s u m e y o u s e e i t u n d e r o " ( S e a r l e 1 9 8 3 , p . 7 1 ) i s c a r e l e s s n e s s c o n c e r n i n g e x a c t l y t h e c r u c i a l p o i n t o f t h e o b j e c t ’ s o r y o u r e x p e r i e n c e ’ s a c t u a l e x i s t e n c e . T h e g r a m m a t i c a l i l l - f o r m e d n e s s o f S e a r i e ’ s w o u l d - b e a n a l y s i s , i t s e e m s t o m e , s i m i l a r l y o b s c u r e s t h i s c r u c i a l p o i n t . 1 1 . T h e R e l e v a n c e o f P u t n a m ’ s C r i t i q u e o f l n t e m a l i s m P e r h a p s o n e m i g h t t h i n k t o a n s w e r , o n S e a r i e ’ s b e h a l f , t h a t t h e s e c r i t i c i s m s c o n c e r n i n g t h e i n a b i l i t y o f a n y t h i n g l i k e S e a r i e ’ s p r o p o s e d i n d e x i c a l d e f i n i t i o n s t o d e t e r m i n e p u b l i c m e a n i n g s c a p a b l e o f f i x i n g e x t e n s i o n s i n s h a r e d d i a l e c t s a r e b e s i d e t h e p o i n t . O n e m i g h t t h i n k t h a t r e s t r i c t i o n t o p r i v a t e m e a n i n g s i n i d i o l e c t s i s n o t o b j e c t i o n a b l e w h e n i t c o m e s t o t h e m e a n i n g o f m e n t a l s t a t e s o f i n d i v i d u a l s . S i m i l a r l y , I s u p p o s e , o n e m i g h t o b j e c t t h a t P u t n a m ’ s a r g u m e n t t h a t l i n g u i s t i c m e a n i n g s a r e n ’ t i n t h e h e a d i s s i m p l y i r r e l e v a n t t o t h e i s s u e o f w h e t h e r p s y c h o l o g - i c a l m e a n i n g s ( i . e . , t h e c o n t e n t o f b e l i e f s , d e s i r e s , e t c . ) a r e i n t h e h e a d , a n d i t i s a f t e r a l l t h i s t h a t i s a t i s s u e w h e n w e a r e d i s c u s s i n g w h e t h e r t h e m e n t a l p r o p e r t i e s o r r e p r e s e n t a t i o n a l s t a t e s o f c o m p u t e r s a r e i n t r i n s i c l i k e o u r s . S u c h a s a n g u i n e r e s p o n s e t o t h e p r e c e d i n g c r i t i c i s m s s e e m s i l l a d v i s e d f o r t w o r e a s o n s . F i r s t , w h i l e i t s e e m s p r o b a b l e t h a t s o m e o f o u r i n t e n t i o n a l m e n t a l s t a t e s a n d p r o c e s s e s ( e . g . , t h i r s t ) a r e n o t l i n g u i s t i c a l l y m e d i a t e d , o t h e r m e n t a l s t a t e s a n d p r o c e s s e s ( e . g . , w o n d e r i n g w h e t h e r S e a r l e h a s p r o d u c e d a s o u n d a r g u m e n t a g a i n s t t h e t h e s i s o f a r t i f i c i a l i n t e l l i g e n c e ) p l a i n l y d o s e e m l a n g u a g e d e p e n d e n t a n d 2 8 5 l i n g u i s t i c a l l y m e d i a t e d . P e r h a p s w e d o n ’ t a l w a y s t h i n k b y m e n t a l l y t o k e n i n g n a t u r a l l a n g u a g e e x p r e s s i o n s ( p e r h a p s w e s o m e t i m e s t h i n k i n m e n t a l e s e , m e n t a l p i c t u r e s , o r w h a t h a v e y o u ) , b u t s u r e l y w e s o m e t i m e s t h i n k i n o u r n a t u r a l l a n g u a g e s . ” A n d w h e n w e d o , i f w e r e a l l y t h i n k ( d e s p i t e t h e n o n - i n t r i n s i c , c a u s a l l y a n d c o m m u n a l l y d e r i v e d m e a n i n g o f t h e s y m b o l s w e m a n i p u l a t e ) , i t b o d e s i l l f o r t h e a t t e m p t t o d e n y t h a t c o m p u t e r s r e a l l y t h i n k b e c a u s e o f t h e c a u s a l a n d c o m m u n a l s o u r c e s o f t h e m e a n i n g s o f t h e s y m b o l s t h e y m a n i p u l a t e - e s m c i a l l y i f t h e p l a c e o f c o m p u t e r s i n t h e c a u s a l n e x u s o f t h e l i n g u i s t i c c o m m u n i t y a n d i t s e n v i r o n m e n t i s e s s e n t i a l l y n o t u n l i k e o u r s . ” S u r e l y w h e n w e t h i n k d i s c u r s i v e l y i n E n g l i s h ( w h e t h e r o u t l o u d o r o n p a p e r o r s o t t o v o c e , i n p r i v a t e s o l i l o q u y ) , w e r e a l l y t h i n k . I s h o u l d t h i n k t h a t i f a n y t h i n g i s p a r a d i g m a t i c a l l y t h i n k i n g s u c h d i s c u r s i v e t h o u g h t i s a t l e a s t a s p a r a d i g m a t i c a s t h i r s t ( S e a r l e 1 9 8 9 a , p . 7 0 7 ) . W i t h s p e c i f i c r e f e r e n c e t o S e a r i e ’ s C h i n e s e r o o m e x a m p l e , s u p p o s e w e a c c e p t t h e f o l l o w i n g p r o p o s a l o f P u t n a m : W e s h a l l s p e a k o f s o m e o n e a s h a v i n g a c q u i r e d t h e w o r d ’ t l g e r ’ i f h e l s a b l e t o u s e i t I n s u c h a w a y t h a t ( 1 ) h i s u s e p a s s e s m u s t e r ( l . e . , p e o p l e d o n ’ t s a y o f h i m s u c h t h i n g s a s “ h e d o e s n ’ t k n o w w h a t a t i g e r I s ’ , " h e d o e s n ’ t k n o w t h e m e a n i n g o f t h e w o r d “ t l g e r ’ ” , e t c . ; a n d ( 2 ) h i s t o t a l w a y o f b e i n g s i t u a t e d i n t h e w o r l d a n d h i s l i n g u i s t i c c o m m u n i t y I s s u c h t h a t t h e s o c i a l l y d e t e r m i n e d e x t e n s i o n o f t h e w o r d ‘ t l g e r ’ I n h i s l d i o l e c t i s t h e s e t o f t i g e r s . ( P u t n a m 1 9 7 5 , p . 2 4 7 ) T h e n ( 1 ) i s t r u e e x h y p o t h e s i : a s d i r e c t e d a g a i n s t T u r i n g ’ s t e s t , S e a r i e ’ s e x a m p l e p r e s u m e s t h e w o u l d - b e u n d e r s t a n d e r - a c o m p u t e r o r t h e C h i n e s e r o o m r e s p o n d s 2 2 . E v e n p r o p o n e n t s o f p r o p r i e t a r y l a n g u a g e o f t h o u g h t h y p o t h e s e s m u s t a c k n o w l e d g e t h i s , a s A b b o t t p o i n t o u t ( A b b o t t 8 . H a u s e r 1 9 9 2 ) . 2 3 . I t s e e m s I n s o m e r e g a r d s c o m p u t e r s h a v e e v e n b e c o m e o u r l i n g u i s t i c c o m m u n i t y ’ s e x p e r t s - - e . g . , w i t h r e g a r d t o t h e e x t e n s i o n o f “ p r i m e n u m b e r g r e a t e r t h a n a b i l l i o n . “ 2 8 6 e x a c t l y a s i f i t u n d e r s t a n d s . T h e n ( 2 ) , c o n t r a r y t o S e a r l e , s e e m s v i r t u a l l y g u a r a n t e e d b y t h e f a c t t h a t t h e s y m b o l s c o m p u t e r s p r o c e s s d o , b y a n d l a r g e , d e r i v e t h e i r m e a n i n g s f r o m u s , t h e i r d e s i g n e r s , u s e r s a n d p r o g r a m m e r s . S e c o n d , i n l i e u o f t h e b i o l o g i c a l a c c o u n t o f o u r i n t r i n s i c i n t e n t i o n a l i t y S e a r l e b e l i e v e s m u s t b e f o r t h c o m i n g ( b u t d o e s n ’ t b r i n g f o r t h ) , i t s e e m s t h e m a i n s c i e n t i f i c r e a s o n f o r p o s i t i n g i n t r i n s i c i n t e n t i o n a l i t y , o n S e a r i e ’ s v i e w , i s t h e n e c e s s i t y o f p o s i t i n g s u c h i n o r d e r t o e x p l a i n t h e d e r i v e d i n t e n t i o n a l i t y o f p u b l i c r e p r e s e n t a t i o n s s u c h a s n a t u r a l l a n g u a g e e x p r e s s i o n s . I f t h e r e ’ s l i t t l e h o p e o f S e a r i e ’ s a c c o u n t p r o v i d i n g s u c h e x p l a n a t i o n o f t h e d e r i v e d i n t e n t i o n a l i t y o f p u b l i c l a n g u a g e , t h e n t h e r e i s l i t t l e s c i e n t i f i c p o i n t t o S e a r i e ’ s i n v o c a t i o n o f " i n t r i n s i c i n t e n t i o n a l i t y . " 1 2 . D i e h a r d l n t e m a l i s m T h e f o r e g o i n g d i s c u s s i o n s h o w s t h a t S e a r i e ’ s r e p l y t o P u t n a m f a i l s . I w i l l n o t a d d r e s s t h e q u e s t i o n o f t h e p o s s i b i l i t y o f s o m e s u c h a c c o u n t , c o n s i s t e n t w i t h m e t h o d o l o g i c a l s o l i p s i s t ( o r m e c h a n i s t ) s t r i c t u r e s , s u c c e e d i n g . " I b e l i e v e t h a t P u t n a m ’ s a r g u m e n t s h o w s n o s u c h i n t e m a l i s t a c c o u n t a s S e a r i e ’ s " b i o l o g i c a l n a t u r a l i s m " p r o p o s e s c a n s u c c e e d ; b u t I w i l l n o t r e s t m y c a s e o n j u s t t h i s g e n e r i c o b j e c t i o n . P u t n a m ’ s g e n e r a l a r g u m e n t s m a k e l i t t l e i m p r e s s i o n o n s o m e o n e u t t e r l y c o n v i n c e d ( a s m a n y b e s i d e s S e a r l e a r e ) t h a t i t h a s t o b e t h e c a s e t h a t " m e a n i n g s a r e p r e c i s e l y i n t h e h e a d " ( S e a r l e 1 9 8 3 , p . 2 0 0 ) b e c a u s e “ t h e r e i s n o w h e r e e l s e 2 4 . T h o u g h I b e l i e v e t h e m o s t f a v o r e d s t r a t a g e m o f d i e t h l n t e r n a l l s m - a k i n d o f c h a s t e n e d i n t e r n a l l s t s t r a t e g y , w h i c h o n l y p r e s u m e s t o e x p l a i n “ n a r r o w c o n t e n t “ ( t h e r e m a i n d e r t h a t a c t u a l l y I s I n t h e h e a d o n c e a l l t h e e x t e r n a l d e t e r m i n a n t s o f r e f e r e n c e a r e s u b t r a c t e d ) - - a m o u n t s t o c h a n g i n g t h e s u b j e c t . “ N a r r o w c o n t e n t “ s t r i k e s m e a s a n o x y m o r o n . 2 8 7 f o r t h e m t o b e " ( S e a r l e 1 9 8 3 , p . 2 0 0 ) . M a n y s t i l l s h a r e S e a r i e ’ s " b a s i c a s s u m p t i o n " t h a t T h e b r a i n i s a l l w e h a v e f o r t h e p u r p o s e o f r e p r e s e n t i n g t h e w o r l d t o o u r s e l v e s a n d e v e r y t h i n g w e c a n u s e m u s t b e i n s i d e t h e b r a i n . E a c h o f o u r b e l i e f s m u s t b e p o s s i b l e f o r a b e i n g w h o I s a b r a i n I n a v a t b e c a u s e e a c h o f u s i s p r e c i s e l y a b r a i n i n a v a t ; t h e v a t i s a s k u l l a n d t h e ’ m e s s a g e s ’ c o m i n g i n a r e c o m i n g i n b y w a y o f I m p a c t s o n t h e n e r v o u s s y s t e m . ( S e a r l e 1 9 8 3 , p . 2 3 0 ) I t h a s s e e m e d , a n d s t i l l s e e m s , t o m a n y b e s i d e s S e a r l e t h a t " t h e r e i s n o w h e r e e l s e f o r t h e m t o b e " i f m e a n i n g s a r e t o b e s c i e n t i f i c a l l y a c c o u n t a b l e ; t h a t t h e r e ’ s n o w h e r e e l s e f o r t h e m t o b e i f t h e r e i s t o b e a n y h o p e o f s q u a r i n g f o l k p s y c h o l o g i c a l e x p l a n a t i o n s o f a c t i o n s , i n v o k i n g i n t e n t i o n a l s t a t e s o f m i n d ( e . g . , b e l i e f s a n d d e s i r e s ) o f a g e n t s , w i t h e x p l a n a t i o n s o f b o d i l y m o v e m e n t s i n t e r m s o f n e u r o p h y s i o l o g i c a l c a u s a l c h a i n s g i v i n g r i s e t o t h e m . T h e t h i n k i n g i s t h a t s t a t e s a n d p r o c e s s e s f o l k p s y c h o l o g i c a l e x p l a n a t i o n s i n v o k e h a v e t o b e i n t r i n s i c t o u s , o r I n o u r n e r v o u s s y s t e m s , i f " t h e q u e s t i o n o f t h e r e l a t i o n o f m e n t a l s t a t e s t o b r a i n s t a t e s “ ( C h u r c h i a n d 1 9 8 8 , p . 6 1 ) o r t h e q u e s t i o n " o f h o w a n o l d t h e o r y ( f o l k p s y c h o l o g y ) i s g o i n g t o b e r e l a t e d t o a n e w t h e o r y ( m a t u r e d n e u r o s c i e n c e ) w h i c h t h r e a t e n s t o d i s p l a c e i t " ( C h u r c h i a n d 1 9 8 8 , p . 6 1 ) i s n o t g o i n g t o y i e l d t h e c o n c l u s i o n t h a t f o l k p s y c h o l o g i c a l e x p l a n a t i o n a n d a t t r i b u t i o n o f m e n t a l p r o p e r t i e s t h e r e i n “ i s s i m p l y t o o c o n f u s e d a n d i n a c c u r a t e t o w i n s u r v i v a l t h r o u g h i n t e r t h e o r e t i c r e d u c t i o n " ( C h u r c h i a n d 1 9 8 8 , p . 6 1 ) o r ( i f n o t b y r e d u c t i o n ) b y s u p e r v e n i e n c e . I f m e c h a n i c a l e x p l a n a t i o n d o e s r e q u i r e w h a t e v e r f e a t u r e s o f t h i n g s i t e x p l a i n s b e I n o r i n t r i n s i c t o t h e m e c h a n i s m t h a t h a s t h e f e a t u r e s t o b e e x p l a i n e d ; a n d i f m e c h a n i c a l e x p l a n a t i o n i s t h e o n l y s c i e n t i f i c g a m e i n t o w n ; t h e n a n y s c i e n t i f i c a l l y a d e q u a t e a c c o u n t o f i n t e n t i o n a l m e n t a l s t a t e s m u s t r e g a r d t h e m a s i n t r i n s i c t o t h e 2 8 8 t h i n g s ( e . g . , o r g a n i s m s o r t h e i r n e r v o u s s y s t e m s ) t h a t h a v e t h e m . T h u s b o t h c o g n i t i v i s t s s u c h a s F o d o r , a n d e l i m i n a t i v i s t s s u c h a s S t i c h ( 1 9 8 3 ) h a v e s u p p o s e d t h a t o n l y m e c h a n i s t i c a c c o u n t a b i l i t y c a n l e g i t i m a t e t h e e x p l a n a t o r y p o s i t s o f f o l k p s y c h o l o g y . F o d o r a r g u e s , i n e f f e c t , t h a t s i n c e t h e s e p o s i t s w o r k t h e y m u s t b e l e g i t i m a t e , a n d s i n c e t h e y ’ r e l e g i t i m a t e t h e y m u s t b e c a p a b l e o f m e c h a n i s t i c l e g i t i m a t i o n . S t i c h a r g u e s , i n e f f e c t , t h a t s i n c e t h e s e p o s i t s a r e i n c a p a b l e o f m e c h a n i s t i c l e g i t i m a t i o n ( b e c a u s e t h e y ’ r e n o t I n t h e o r g a n i s m o r m e c h a n i s m ) t h e y m u s t b e a t l e a s t s c i e n t i f i c a l l y ( a n d i f y o u a d d a g e n e r o u s m e a s u r e o f s c i e n t i s m t o t h i s l i n e o f t h o u g h t , a s S t i c h a n d C h u r c h i a n d d o , u t t e r l y ) i l l e g i t i m a t e . I b e l i e v e t h i s m e c h a n i s t i c c o u n t e r a t t a c k o n e x t e m a l i s m c a n b e r e s i s t e d o n s e v e r a l f r o n t s . I t c a n b e d o u b t e d w h e t h e r m e c h a n i c a l a c c o u n t a b i l i t y i s t h e s i n e q u a n o n o f s c i e n t i f i c a c c o u n t a b i l i t y ; a n d i t c a n b e d o u b t e d w h e t h e r i n t r i n s i c a l i t y i s a n e c e s s a r y c o n d i t i o n o f m e c h a n i s t i c a c c o u n t a b i l i t y : I n f a c t , I t ’ s q u i t e u n c l e a r w h e t h e r a n y t h i n g I s r e a l l y I n t r i n s i c t o a n o b j e c t . A s t o m a c h I s d e f i n e d b y I t s f u n c t i o n I n d i g e s t i n g f o o d ; s o , w h e t h e r a n o r g a n i s a s t o m a c h m a y d e p e n d i n p a r t o n c e r t a i n f u n c t i o n a l r e l a t i o n s t o e x t e r n a l o b j e c t s . T h e c o l o r o f a n o b j e c t m a y d e p e n d o n r e l a t i o n s t o p o t e n t i a l o b s e r v e r s a n d s o n o t b e a n I n t r i n s i c f e a t u r e o f t h e o b j e c t . W h e t h e r t h e m a s s o f a n o b j e c t d e p e n d s o n i t s r e l a t i o n s t o o t h e r o b j e c t s I s a d e e p q u e s t i o n o f p h y s i c s . ( H a r m a n 1 9 9 0 , p . 6 0 7 ) H o w e v e r , I d o n o t p l a n t o r e s i s t i t h e r e - l e t t h e i s s u e b e t w e e n i n t e r n a l i s m a n d e x t e m a l i s m r e m a i n i n d o u b t . B e s i d e s s u c h g e n e r i c o b j e c t i o n s t o i n t e r n a l i s m a s t h o s e ( s t e m m i n g f r o m P u t n a m ) j u s t c o n s i d e r e d , t h e r e a r e s p e c i f i c o b j e c t i o n s t o S e a r i e ’ s t h e o r y p r e c i s e l y a s a m e c h a n i s t i c , i n t e m a l i s t a c c o u n t . E v e n i f i t w e r e t h e c a s e , a s S e a r l e a n d o t h e r s b e l i e v e , t h a t s o m e i n t e m a l i s t a c c o u n t m u s t b e c o r r e c t ( o n p a i n , p e r h a p s , o f e i t h e r b e i n g d r i v e n t o e l i m i n a t i v i s m a b o u t m e m e n t a l o r 2 8 9 a l l o w i n g o u r a c c o u n t o f m e a n i n g t o i n v o l v e s o m e t h i n g l i k e c a u s a l a c t i o n a t a d i s t a n c e b y t h e r e f e r e n t o r t h e m e n t a l s t a t e s o f o t h e r m e m b e r s o f t h e l i n g u i s t i c c o m m u n i t y o n t h e c o n t e n t o f m e n t a l s t a t e s o f t h e s p e a k e r ) t h e r e a r e g o o d r e a s o n s f o r d i s p a r a g i n g t h e m e c h a n i s t i c s c i e n t i f i c p r o s p e c t s a n d c r e d e n t i a l s o f S e a r l e ' 3 a c c o u n t . O n c e a g a i n t h e a r g u m e n t t a k e s a n a d h o m i n e m t u r n . P r e s u m i n g t h a t m e a n i n g o r i n t e n t i o n a l i t y i s s c i e n t i f i c a l l y a c c o u n t a b l e , a n d t h a t t h e s c i e n t i f i c a c c o u n t m u s t s h o w h o w m e a n i n g o r c o n t e n t i s d e t e r m i n e d b y ( o r s u p e r v e n e s o n ) n e u r o p h y s i o l o g y , I w i l l c o n s i d e r t h e m e r i t s o f S e a r i e ’ s p r o p o s a l s f o r a n s w e r i n g " t h e p r o b l e m o f m e a n i n g i n i t s m o s t g e n e r a l f o r m " ( S e a r l e 1 9 8 3 , p . 2 7 ) , w h i c h h e c h a r a c t e r i z e s a s " t h e p r o b l e m o f h o w d o w e g e t f r o m t h e p h y s i c s t o t h e s e m a n t i c s " ( S e a r l e 1 9 8 3 , p . 2 7 ) . T h i s g e n e r a l p r o b l e m , a l o n g w i t h S e a r i e ’ s p r o g r a m o r p r o p o s a l f o r a d d r e s s i n g i t , s u b d i v i d e s I n t o t w o p a r t s . F i r s t , t o e x p l a i n t h e d e r i v e d m e a n i n g o r i n t e n t i o n a l i n o f c o n v e n t i o n a l s i g n s ( s u c h a s w r i t t e n o r s p o k e n s e n t e n c e s o f n a t u r a l l a n g u a g e s ) i n t e r m s o f t h e m e a n i n g o r i n t e n t i o n a l i t y o f t h e m e n t a l s t a t e s o f t h e h u m a n s p e a k e r s ( o r w r i t e r s ) a n d l i s t e n e r s ( o r r e a d e r s ) w h o p r o d u c e o r u n d e r s t a n d t h e m . T h i s d e r i v a t i o n p r o b l e m , a s S e a r l e p u t s i t , i s " H o w d o e s t h e m i n d i m p o s e i n t e n t i o n a l i t y o n e n t i t i e s t h a t a r e n o t i n t r i n s i c a l l y I n t e n t i o n a l , o n e n t i t i e s s u c h a s s o u n d s a n d m a r k s t h a t a r e , c o n s t r u e d i n o n e w a y , j u s t p h y s i c a l p h e n o m e n a i n t h e w o r l d l i k e a n y o t h e r ? " ( S e a r l e 1 9 8 3 , p . 2 7 ) . A s e c o n d p r o b l e m - t h e f o u n d a t i o n a l p r o b l e m - c o n c e r n s h o w w e g e t f r o m t h e p h y s i c s t o t h e i n t r i n s i c s e m a n t i c s o f i n t e n t i o n a l m e n t a l s t a t e s i n t h e f i r s t p l a c e s i n c e n e u r o n s a n d t h e i r s t a t e s n o l e s s t h a n m a r k s a n d s o u n d s " a r e , c o n s t r u e d i n 2 9 0 o n e w a y , j u s t p h y s i c a l p h e n o m e n a i n t h e w o r l d l i k e a n y o t h e r " a l s o . S e a r i e ’ s " ‘ F r e g e a n ’ b i o l o g i c a l n a t u r a l i s m " ( S e a r l e 1 9 8 3 , p . 2 3 0 ) i s i n a d e q u a t e b o t h i n i t s a t t e m p t e d G r i c e a n r e c o n s t r u c t i o n o f t h e " d e r i v e d " m e a n i n g o f c o n v e n t i o n a l s i g n s a n d i n i t s p r o p o s e d " m o n i s t i n t e r a c t i o n i s t " ( 1 9 8 0 b , p . 4 5 4 ) a c c o u n t o f t h e n e u r o p h y s i o l o g i c a l c a u s a t i o n o f t h e " i n t r i n s i c " i n t e n t i o n a l i t y o f m e n t a l s t a t e s . W h i l e I c a n n o t s h o w t h a t n o G r i c e a n s o l u t i o n t o t h e d e r i v a t i o n p r o b l e m i s p o s s i b l e , I b e l i e v e i t c a n b e s e e n i n s h o r t c o m p a s s t h a t S e a r l e ' 3 t r e a t m e n t o f t h e d e r i v a t i o n p r o b l e m f a i l s , a n d w h y a n y a t t e m p t t o d e r i v e l i n g u i s t i c m e a n i n g f r o m c o n s c i o u s n e s s - a s S e a r l e d o e s - - i s d o o m e d , b y P u t n a m i a n c o n s i d e r a t i o n s , f r o m t h e s t a r t . T h i s i s u n d e r t a k e n i n t h e n e x t a n d c o n c l u d i n g s e c t i o n o f t h e p r e s e n t c h a p t e r . D e m o n s t r a t i o n o f t h e i n a d e q u a c y o f S e a r i e ’ s a p p e a l t o c o n s c i o u s n e s s t o a t t e m p t t o s o l v e t h e f o u n d a t i o n a l p r o b l e m a n d , i n s o d o i n g , t o d i f f e r e n t i a t e g e n u i n e " i n t r i n s i c i n t e n t i o n a l i t y " f r o m c o u n t e r f e i t " a s - i f " i n t e n t i o n a l i t y e s s e n t i a l l y , i s u n d e r t a k e n i n t h e n e x t ( a n d c o n c l u d i n g ) c h a p t e r . 1 3 . T h e D e r i v a t i o n P r o b l e m A c c o r d i n g t o S e a r l e , " T h e m i n d i m p o s e s l n t e n t i o n a l i t y o n t h e p r o d u c t i o n o f s o u n d s , m a r k s , e t c , b y i m p o s i n g t h e c o n d i t i o n s o f s a t i s f a c t i o n o f t h e m e n t a l s t a t e " e x p r e s s e d b y a n d c o m p r i s i n g t h e s i n c e r i t y c o n d i t i o n o f t h e s p e e c h a c t " o n t h e p r o d u c t i o n o f t h e p h y s i c a l p h e n o m e n a " ( S e a r l e 1 9 8 3 , p . 1 6 4 ) . T h i s , o n i t s f i r s t f a c e , i s t h e p i c t u r e . T h e s e n t e n c e " T h e s u n i s s h i n i n g b r i g h t l y , " e . g . , u t t e r e d b y m e , e x p r e s s e s a b e l i e f ( t h a t t h e s u n i s s h i n i n g b r i g h t l y ) , w h i c h i s t h e s i n c e r i t y c o n d i t i o n o f t h e u t t e r a n c e . I f I d o n ’ t b e l i e v e t h a t t h e s u n i s s h i n i n g b r i g h t l y m y 2 9 1 u t t e r a n c e o f " T h e s u n i s s h i n i n g b r i g h t l y " i s i n s i n c e r e : o n o n e u n d e r s t a n d i n g o f t h e w o r d " m e a n , " i n s u c h a c a s e , I s a y i t w i t h o u t r e a l l y m e a n i n g i t . C r u d e l y p u t t h e i d e a i s t h a t m y w o r d s g e t t h e i r m e a n i n g s f r o m t h e m e n t a l s t a t e s t h e y e x p r e s s , w h i c h c o m p r i s e t h e i r s i n c e r i t y c o n d i t i o n s , b y a k i n d o f c o n t a g i o n . M y a s s e r t i o n , " T h e s u n i s s h i n i n g , " i s s u p p o s e d t o " c a t c h " i t s m e a n i n g , a s i t w e r e , f r o m m y b e l i e f t h a t t h e s u n i s s h i n i n g w h i c h h a s t h a t m e a n i n g i n t r i n s i c a l l y . H e r e , w e a t l e a s t h a v e a c a u s a l m o d e l o f h o w t h e " i m p o s i t i o n " o f m e a n i n g b y m i n d " o n e n t i t i e s s u c h a s s o u n d s a n d m a r k s t h a t a r e , c o n s t r u e d i n o n e w a y , j u s t p h y s i c a l p h e n o m e n a i n t h e w o r l d l i k e a n y o t h e r " ( S e a r l e 1 9 8 3 , p . 2 7 ) i s s u p p o s e d t o w o r k . T h e t r o u b l e w i t h t h i s c a u s a l m o d e l , h o w e v e r , i s n o t j u s t t h a t i t ’ s c r u d e , b u t t h a t i t j u s t d o e s n ’ t w o r k . I f m y s i n c e r e u t t e r a n c e o f " T h e s u n i s s h i n i n g " i s s u p p o s e d t o c a t c h i t s m e a n i n g f r o m t h e b e l i e f t h a t t h e s u n i s s h i n i n g ( w h i c h i t e x p r e s s e s ) , i f I s a y t h e w o r d s w i t h o u t b e l i e v i n g t h e m ( i . e . , b e l i e v i n g i t i s r a i n i n g ) t h e n t h e y o u g h t n o t t o m e a n w h a t t h e y d o ; I s h o u l d n o t b e a b l e t o u s e t h e s e w o r d s t o m i s b a d y o u a b o u t t h e s t a t e o f t h e w e a t h e r ( a s I c a n ) . O n t h i s a c c o u n t o n e c a n n o t t e l l a l i e ! S i n c e o n e c a n t e l l a l i e , o b v i o u s l y , t h e c r u d e c a u s a l a c c o u n t o f h o w " t h e m i n d i m p o s e s i n t e n t i o n a l i t y o n e n t i t i e s t h a t a r e n o t i n t r i n s i c a l l y I n t e n t i o n a l " i s o b v i o u s l y f l a w e d . S e a r i e ’ s a w a r e n e s s o f t h i s d i f f i c u l t y l e a d s t o a m o d i f i c a t i o n o f t h e c r u d e c a u s a l ( c o n t a g i o n ) a c c o u n t . T h e r e s u l t i n g a c c o u n t t h o u g h c l e a r l y l e s s c r u d e , i s n o t s o c l e a r l y c a u s a l . S e a r i e ’ s s o l u t i o n t o t h e m i s r e p r e s e n t a t i o n p r o b l e m - - t h e p r o b l e m o f h o w i t i s p o s s i b l e t o t e l l a l i e - - o n w h i c h t h e c r u d e c o n t a g i o n a c c o u n t f o u n d e r s i s t o d i s t i n g u i s h 2 9 2 a d o u b l e l e v e l o f l n t e n t i o n a l i t y i n t h e p e r f o r m a n c e o f t h e s p e e c h a c t . T h e r e i s f i r s t o f a l l t h e I n t e n t i o n a l s t a t e e x p r e s s e d , b u t t h e n s e c o n d l y t h e r e i s t h e I n t e n t i o n , i n t h e o r d i n a r y n o t t e c h n i c a l s e n s e o f t h a t w o r d , w i t h w h i c h t h e u t t e r a n c e l s m a d e . N o w I t I s t h i s s e c o n d I n t e n t i o n a l s t a t e , t h a t i s t h e i n t e n t i o n w i t h w h i c h t h e a c t I s p e r f o r m e d , t h a t b e s t o w s t h e l n t e n t i o n a l i t y o n t h e p h y s i c a l p h e n o m e n a . ( S e a r l e 1 9 8 3 , p . 2 7 ) A g a i n , T h e r e i s a d o u b l e l e v e l o f l n t e n t i o n a l i t y i n t h e p e r f o r m a n c e o f t h e s p e e c h a c t , a l e v e l o f t h e p s y c h o l o g i c a l s t a t e e x p r e s s e d i n t h e p e r f o r m a n c e o f t h e a c t a n d a l e v e l o f t h e I n t e n t i o n w i t h w h i c h t h e a c t i s p e r f o r m e d w h i c h m a k e s i t t h e a c t t h a t I t i s . L e t u s c a l l t h e s e r e s p e c t i v e l y t h e “ s i n c e r i t y c o n d i t i o n “ a n d t h e “ m e a n i n g c o n d i t i o n . “ ( S e a r l e 1 9 8 3 , p . 1 6 4 ) O n t h i s a c c o u n t , " e n t i t i e s w h i c h a r e n o t i n t r i n s i c a l l y I n t e n t i o n a l c a n b e m a d e I n t e n t i o n a l b y , s o t o s p e a k , i n t e n t i o n a l l y d e c r e e i n g t h e m t o b e s o " ( S e a r l e 1 9 8 3 , p . 1 7 5 ) . T h e r e a r e b o t h e x t e r n a l a n d i n t e r n a l p r o b l e m s w i t h t h i s c o m p l i c a t i o n ( i m p o s i n g a s e c o n d l e v e l o f l n t e n t i o n a l i t y ) o f t h e c r u d e c a u s a l ( c o n t a g i o n ) a c c o u n t . T h e e x t e r n a l p r o b l e m f i r s t : t h o u g h t h e s e c o n d l e v e l o f i n t e n t i o n a l i t y s o l v e s ( a t w h a t c o s t , i s t h e i n t e r n a l p r o b l e m ) t h e p r o b l e m o f h o w d e l i b e r a t e m i s r e p r e s e n t a t i o n i s p o s s i b l e - - I l i e b y i n t e n t i o n a l l y i m p o s i n g t h e c o n d i t i o n s o f s a t i s f a c t i o n o f a b e l i e f I d o n ’ t a c t u a l l y h a v e ( e . g . , t h a t t h e s u n i s s h i n i n g ) o n m y u t t e r a n c e ( e . g . , " T h e s u n i s s h i n i n g " ) , t h e r e r e m a i n s a p r o b l e m f o r s u c h a v i e w o f a c c o u n t i n g f o r i n a d v e r t e n t m i s r e p r e s e n t a t i o n . H o w i s t h i s p o s s i b l e ? S u p p o s e I u t t e r t h e w o r d s , ' “ i ' h e D e a n i s a g r e a t p h i l a n d e r e r , " w i t h t h e i n t e n t i o n o f i n f o r m i n g y o u o f t h e D e a n ’ s i n t e r e s t i n s t a m p c o l l e c t i n g . " 5 W h a t i m e a n t b y " g r e a t p h i l a n d e r e r " w a s " g r e a t p h i l a t e l i s t " - - b u t m y w o r d s m e a n t s o m e t h i n g e l s e ! I f s p e a k e r m e a n i n g i s s u p p o s e d t o d e t e r m i n e w o r d m e a n i n g t h i s s e e m s i m p o s s i b l e : 2 5 . I o w e t h i s e x a m p l e , I b e l i e v e , t o M i c h a e l M c K l n s e y . 2 9 3 w h e r e b e f o r e ( o n t h e c r u d e c a u s a l a c c o u n t ) I c a n n o t t e l l a l i e ; n o w ( o n t h e m o r e c o m p l i c a t e d " d o u b l e l e v e l " a c c o u n t ) , I c a n n o t u n i n t e n t i o n a l l y m i s s p e a k , a s i n t h e p r e c e d i n g e x a m p l e . B u t I c a n s o m i s s p e a k . S o m u c h t h e w o r s e f o r S e a r i e ’ s " d o u b l e l e v e l " a c c o u n t o r , i n d e e d , I s u s p e c t , f o r a n y G r i c e a n a t t e m p t t o m a k e s p e a k e r m e a n i n g d e t e r m i n e w o r d m e a n i n g . T h e p r e c e d i n g d i f f i c u l t y s e e m s f a t a l t o t h e G r i c e a n p r o g r a m . N o t e , h e r e , t h a t s i m p l y a u g m e n t i n g t h e a p p e a l t o s p e a k e r m e a n i n g w i t h a n a p p e a l t o h e a r e r m e a n i n g w o n ’ t g e t u s f a r . I c a n m i s r e p r e s e n t t h e D e a n a s b e i n g a s e x u a l a d v e n t u r e r d e s p i t e i n t e n d i n g t o r e p r e s e n t h i m a s b e i n g a s t a m p c o l l e c t o r a l l b y m y s e l f - e . g . , i f I w r i t e i t i n m y d i a r y . I t s e e m s t h a t t o a c c o u n t f o r t h e p o s s i b i l i t y o f s u c h m i s r e p r e s e n t a t i o n o n e h a s t o a p p e a l a t l e a s t t o w h a t E n g l i s h s p e a k e r s ( o t h e r t h a n m y s e l f , o r m y s e l f o n a l a t e r o c c a s i o n , e . g . , u p o n r e a d i n g t h e d i a r y e n t r y ) w o u l d u n d e r s t a n d b y t h e w o r d s , i . e . , b e y o n d s p e a k e r ’ s a n d h e a r e r ’ s o c c u r r e n t i n t e n t i o n s a n d o t h e r p s y c h o l o g i c a l s t a t e s ( o f m e a n i n g a n d u n d e r s t a n d i n g ) t o t h e i r d i s p o s i t i o n s . U n l e s s S e a r l e w e r e t o a c c e p t a d i s p o s i t i o n a l a n a l y s i s o f i n t e n d i n g - - w h i c h h e d o e s n o t - - s u c h a p p e a l t o d i s p o s i t i o n s i s c o n t r a r y t o S e a r i e ’ s a n a l y s i s ; n e i t h e r i s i t c l e a r s u c h d i s p o s i t i o n s w i l l b e r e q u i s i t e l y i n t e r n a l . W o r s e y e t - - b e y o n d t h i s n e e d t o a p p e a l t o h e a r e r a n d s p e a k e r d i s p o s i t i o n s - w e a r e a l s o a p t t o h a v e t o m a k e a p p e a l t o r u l e s o r c o n v e n t i o n s o f u s a g e w h i c h a r e c l e a r l y e x t e r n a l t o i n d i v i d u a l s p e a k e r s ’ s m i n d s o r b r a i n s . N o t a b l y , S e a r l e h i m s e l f , i n h i s e a r l i e r w o r k o n s p e e c h a c t s i s c o m p e l l e d , i n a t t e m p t i n g t o a c c o u n t f o r l i t e r a l m e a n i n g , t o r e s o r t t o j u s t s u c h a n i n v o c a t i o n o f c o n v e n t i o n o r r u l e s . H e w r i t e s , 2 9 4 I n o u r a n a l y s i s o f I l l o c u t i o n a r y a c t s [ a s s e r t i n g q u e s t i o n i n g , r e q u e s t i n g , e t c . ] w e m u s t c a p t u r e b o t h t h e I n t e n t i o n a l a n d t h e c o n v e n t i o n a l a s p e c t s a n d e s p e c i a l l y t h e r e l a t i o n s h i p b e t w e e n t h e m . I n t h e p e r f o r m a n c e o f a n i l l o c u t i o n a r y a c t t h e s p e a k e r i n t e n d s t o p r o d u c e a c e r t a i n e f f e c t b y m e a n s o f g e t t i n g t h e h e a r e r t o r e c o g n i z e h i s I n t e n t i o n t o p r o d u c e t h a t e f f e c t , a n d f u r t h e r m o r e , i f h e i s u s i n g w o r d s l i t e r a l l y , h e i n t e n d s t h i s r e c o g n i t i o n t o b e a c h i e v e d i n v i r t u e o f t h e f a c t t h a t t h e r u l e s f o r u s i n g t h e e x p r e s s i o n s h e u t t e r s a s s o c i a t e t h e e x p r e s s i o n w i t h t h e p r o d u c t i o n o f t h a t e f f e c t . ( S e a r l e 1 9 7 1 , p . 4 6 : m y e m p h a s i s ) N o t e t h a t i f t h i s a p p e a l t o r u l e s i s i n t e n d e d t o a c c o u n t f o r o n e ’ s r e a l l y " u s i n g w o r d s l i t e r a l l y " a n d n o t j u s t a n a c c o u n t o f s e e m i n g t o o n e s e l f t o b e u s i n g t h e m s o , t h e y m u s t b e r e a l s h a r e d o r e x t e r n a l c o n v e n t i o n s o f u s a g e . T h e c a s e o f i n a d v e r t e n t m i s r e p r e s e n t a t i o n m a k e s t h i s c l e a r . W h e n I s a y " T h e D e a n i s a g r e a t p h i l a n d e r e r " I i n t e n d y o u t o r e c o g n i z e t h a t t h e D e a n i s i n t e r e s t e d i n s t a m p s " i n v i r t u e o f t h e f a c t t h a t t h e r u l e s f o r u s i n g t h e e x p r e s s i o n s “ l u t t e r " a s s o c i a t e t h e e x p r e s s i o n w i t h t h e p r o d u c t i o n o f t h a t e f f e c t “ ; y e t t h e w o r d s I s a i d d o n ’ t l i t e r a l l y ( o r o t h e r w i s e ) c o n v e n t i o n a l l y m e a n t h a t . S i n c e m i s s p e a k i n g i n v o l v e s t h e d i v e r g e n c e o f m y p r i v a t e " c o n v e n t i o n " ( a s s o c i a t i n g " p h i l a n d e r i n g " w i t h s t a m p c o l l e c t i n g ) f r o m t h e s o c i a l l y e s t a b l i s h e d c o n v e n t i o n ( a s s o c i a t i n g " p h i l a n d e r i n g " w i t h s e x u a l a d v e n t u r i n g ) i t w o u l d s e e m - c o n t r a r y t o G r i c e a n l n t e m a l i s m - t h a t a n y a d e q u a t e a c c o u n t o f m i s s p e a k i n g w i l l h a v e t o a d v e r t t o p u b l i c e x t e r n a l i n t e r s u b j e c t i v e r u l e s t h e m s e l v e s , n o t j u s t m y p r i v a t e , i n t e r n a l , s u b j e c t i v e b e l i e f s a b o u t a n d i n t e n t i o n s c o n c e r n i n g s u c h r u l e s a s I m i g h t i m a g i n e . S o t o o , I t a k e i t , a n y a d e q u a t e a c c o u n t o f l i t e r a l m e a n i n g n e e d s t o a d v e r t t o a c t u a l 2 9 5 s h a r e d c o n v e n t i o n s t h e m s e l v e s , n o t t o i n d i v i d u a l s ’ s p r i v a t e i m p r e s s i o n s o f t h e r e b e i n g s u c h c o n v e n t i o n s . ” T h i s b r i n g s u s t o t h e i n t e r n a l p r o b l e m , o r p r o b l e m s , w i t h S e a r i e ’ s a c c o u n t . M u c h a s h i s n e e d t o a d v e r t t o r u l e s o r c o n v e n t i o n s u n d e r m i n e s t h e i n t e r n a l i s m o f t h e a c c o u n t , S e a r i e ’ s r e c o u r s e t o a s e c o n d l e v e l o f i n t e n t i o n a l i t y - - t h e m e a n i n g i n t e n t i o n - - u n d e r m i n e s t h e c a u s a l c h a r a c t e r o f t h e i n i t i a l ( " c o n t a g i o n " ) a c c o u n t . O n i t s f a c e , t h e i n t e r p o s i t i o n o f t h i s s e c o n d l e v e l o f i n t e n t i o n a l i t y s e e m s m e r e l y a c o m p l i c a t i o n o f t h e o r i g i n a l a c c o u n t : o n t h e " d o u b l e l e v e l " a c c o u n t , i t i s s t i l l t h e c o n d i t i o n s o f s a t i s f a c t i o n o f t h e s i n c e r i t y c o n d i t i o n - - i n t h e c a s e o f a s s e r t i o n , e . g . , o f t h e b e l i e f e x p r e s s e d - - t h a t g e t " b e s t o w e d " o r " c o n f e r r e d " o r " i m p o s e d " o n t h e u t t e r a n c e , s o m e h o w . O n i t ’ s f a c e t h e m e a n i n g i n t e n t i o n i s m e r e l y t h e i n t e r m e d i a r y b y m e a n s o f w h i c h t h e s e s a t i s f a c t i o n c o n d i t i o n s g e t c o m m u n i c a t e d . O h i t ’ s f a c e , t h e m e a n i n g i n t e n t i o n m e r e l y r e p r e s e n t s a c o m p l i c a t i o n o f t h e c h a i n o f t r a n s m i s s i o n h y p o t h e s i z e d b y t h e c r u d e c a u s a l a c c o u n t : m u c h a s m a l a r i a g e t s t r a n s m i t t e d f r o m o n e p e r s o n t o a n o t h e r i n d i r e c t l y v i a m o s q u i t o , s a t i s f a c t i o n c o n d i t i o n s g e t t r a n s m i t t e d f r o m b e l i e f s t o a s s e r t i o n s v i a m e a n i n g i n t e n t i o n s . B u t t h e r e ’ s s o m e t h i n g w r o n g w i t h t h i s p i c t u r e . M y c a t c h i n g a m a l a r i a l i n f e c t i o n f r o m y o u - - h o w e v e r i n d i r e c t l y , h o w e v e r c o n v o l u t e d t h e m e a n s o f t r a n s m i s s i o n - - e n t a i l s y o u r a c t u a l l y h a v i n g ( o r h a v i n g h a d ) t h e i n f e c t i o n : i n g e n e r a l , X c a n n o t c a u s e Y u n l e s s t h e r e i s X . B u t a b r i e f 2 6 . A s I n o u r e a r l i e r d i s c u s s i o n o f s h a r e d v i s u a l e x p e r i e n c e i t s e e m s h e r e t h e r u l e s m u s t r e a l l y b e p u b l i c l y s h a r e d - c o n t r a r y t o t h e w o u l d - b e I n t e r n a l i s m o f S e a r i e ’ s a c c o u n t - - n o t m e r e l y i n t e n d e d b y m e a s s h a r e d o r b e l i e v e d b y m e t o b e s h a r e d t o d o t h e e x p l a n a t o r y w o r k c a l l e d f o r . E c h o e s , h e r e , o f W i t t g e n s t e l n ’ s d i s c u s s i o n o f “ p r i v a t e l a n g u a g e “ ( W i t t g e n s t e i n 1 9 5 8 , § § 2 0 1 fi ) 2 9 6 l o o k a t S e a r i e ’ s " c o m p l i c a t i o n " o f t h e o r i g i n a l c r u d e c a u s a l ( c o n t a g i o n ) a c c o u n t s h o w s t h a t t h i s g e n e r a l p r i n c i p l e - - t h a t c a u s e s m u s t e x i s t - i s v i o l a t e d ! A c c o r d i n g t o t h e “ d o u b l e l e v e l " a c c o u n t , W h e n , f o r e x a m p l e , I m a k e t h e s t a t e m e n t t h a t i t I s r a i n i n g , I b o t h e x p r e s s t h e b e l i e f t h a t I t I s r a i n i n g a n d p e r f o r m a n i n t e n t i o n a l a c t o f s t a t i n g t h a t i t I s r a i n i n g . F u r t h e r m o r e , t h e c o n d i t i o n s o f s a t i s f a c t i o n o f t h e m e n t a l s t a t e e x p r e s s e d I n t h e p e r f o r m a n c e o f t h e s p e e c h a c t a r e i d e n t i c a l w i t h t h e c o n d i t i o n s o f s a t i s f a c t i o n o f t h e s p e e c h a c t I t s e l f . T h e f a c t t h a t t h e c o n d i t i o n s o f s a t i s f a c t i o n o f t h e e x p r e s s e d I n t e n t i o n a l s t a t e a n d t h e c o n d i t i o n s o f s a t i s f a c t i o n o f t h e s p e e c h a c t a r e i d e n t i c a l s u g g e s t s t h a t t h e k e y t o t h e p r o b l e m o f m e a n i n g i s t o s e e t h a t i n t h e p e r f o r m a n c e o f t h e s p e e c h a c t t h e m i n d i n t e n t i o n a l l y I m p o s e s t h e s a m e c o n d i t i o n s o f s a t i s f a c t i o n o n t h e p h y s i c a l e x p r e s s i o n o f t h e e x p r e s s e d m e n t a l s t a t e , a s t h e m e n t a l s t a t e h a s I t s e l f . T h e m i n d i m p o s e s l n t e n t i o n a l i t y o n t h e p r o d u c t i o n o f s o u n d s , m a r k s , e t c . , b y I m p o s i n g t h e c o n d i t i o n s o f s a t i s f a c t i o n o f t h e m e n t a l s t a t e [ e x p r e s s e d ] o n t h e p r o d u c t i o n o f t h e p h y s i c a l p h e n o m e n o n . ( S e a r l e 1 9 8 3 , p . 1 6 4 ) T h e t r o u b l e w i t h t h i s i s t h a t , w h e n t h e s p e e c h a c t i s i n s i n c e r e , w h e n I a s s e r t w h a t I d o n ’ t b e l i e v e , e . g . , " I i m p o s e l n t e n t i o n a l i t y o n m y u t t e r a n c e s b y i n t e n t i o n a l l y c o n f e r r i n g o n t h e m c o n d i t i o n s o f s a t i s f a c t i o n w h i c h a r e t h e c o n d i t i o n s o f s a t i s f a c t i o n o f c e r t a i n p s y c h o l o g i c a l s t a t e s " ( S e a r l e 1 9 8 3 , p . 2 8 ) t h a t i d o n ’ t h a v e . ( I n d e e d - - l e s t o n e o b j e c t t h a t t h e m o s q u i t o c a n t r a n s m i t t o m e a n i n f e c t i o n y o u o n c e h a d , w h e n y o u w e r e b i t t e n , b u t d o n o t p r e s e n t l y h a v e , a t t h e t i m e w h e n I ’ m b i t t e n - - a p s y c h o l o g i c a l s t a t e I m a y h a v e n e v e r h a d . I t i s n o t a n e c e s s a r y c o n d i t i o n o n m y b e i n g a b l e t o f a l s e l y a s s e r t P t h a t I e v e r b e l i e v e d P . ) " H e c u r s e d b e c a u s e h e w a s a n g r y . " H e r e w e m i g h t a l s o s a y , " H i s c u r s i n g e x p r e s s e d h i s a n g e r " : h e r e , i t s e e m s " e x p r e s s " c o n n o t e s c a u s a t i o n . I f h e w a s n o t r e a l l y a n g r y w e m i g h t s a y , k e e p i n g t h i s c a u s a l s e n s e o f " e x p r e s s " i n m i n d , " H e w a s f e i g n i n g a n g e r , n o t e x p r e s s i n g i t . “ B u t i f t h e r e i s a s e n s e i n w h i c h h i s c u r s e s s t i l l e x p r e s s ( h i s ? ) a n g e r w h e n h e ’ s n o t a n g r y b u t m e r e l y f e i g n i n g i t , t h e r e i s n o l o n g e r a n y c a u s a l f o r c e t o s u c h t a l k o f " e x p r e s s i o n " ; n o r i s t h e r e a n y c a u s a l f o r c e t o 2 9 7 S e a r i e ’ s t a l k o f " e x p r e s s i o n " i n h i s " d o u b l e l e v e l " t a k e o n t h e d e r i v a t i o n p r o b l e m . W e a r e t o l d " t h e i n t e n t i o n b e s t o w s l n t e n t i o n a l i t y o n t h e p h y s i c a l p h e n o m e n a , " " m i n d i m p o s e s l n t e n t i o n a l i t y o n e n t i t i e s t h a t a r e n o t i n t r i n s i c a l l y I n t e n t i o n a l b y c o n f e r r i n g t h e c o n d i t i o n s o f s a t i s f a c t i o n o f t h e e x p r e s s e d p s y c h o l o g i c a l s t a t e u p o n t h e e x t e r n a l p h y s i c a l e n t i t y " ( w h o 1 9 8 3 , p . 2 7 : m y e m p h a s i s ) . A g a i n , " E n t i t i e s w h i c h a r e n o t i n t r i n s i c a l l y i n t e n t i o n a l c a n b e m a d e I n t e n t i o n a l b y , s o t o s p e a k , i n t e n t i o n a l l y d e c r e e i n g t h e m t o b e s o " ( S e a r l e 1 9 8 3 , p . 1 7 5 : m y e m p h a s i s ) . S u c h t a l k o f " b e s t o w e l , " " c o n f e r r a l , " a n d " i n t e n t i o n a l i m p o s i t i o n " b y “ d e c r e e " i s m a g i c a l o n i t s f a c e a n d - - o n c e i t b e c o m e s c l e a r t h a t S e a r i e ’ s t a l k o f " e x p r e s s i o n " l a c k s a n y c a u s a l f o r c e , t h a t t h e " b e s t o w a l " i s n o t , a s i t m i g h t a p p e a r , a c a u s a l c o m m u n i c a t i o n o f s o m e t h i n g ( m e a n i n g o r c o n d i t i o n s o f s a t i s f a c t i o n ) f r o m o n e o c c u r r e n t p h e n o m e n o n ( a n o c c u r r e n t b e l i e f , s a y ) t o a n o t h e r ( t h e u t t e r a n c e o f a n a s s e r t i o n ) - - s e e m s m a g i c a l t o t h e c o r e . W h e t h e r a n y s o l u t i o n t o t h e d e r i v a t i o n p r o b l e m i s p o s s i b l e o n G r i c e a n p r i n c i p l e s i s d o u b t f u l ; c e r t a i n l y S e a r l e h a s n o t p r o v i d e d o n e . T h u s t h e s u g g e s t i o n t h a t t h e r e m u s t b e s u c h a t h i n g a s i n t r i n s i c l n t e n t i o n a l i t y , b e c a u s e t h e r e a r e c e r t a i n t h i n g s , e . g . , u t t e r a n c e s o f E n g l i s h s e n t e n c e s , t h a t c l e a r l y a r e I n t e n t i o n a l b u t a r e n o t i n t r i n s i c a l l y s o , a n d t h e r e ’ s n o o t h e r e x p l a n a t i o n f o r h o w t h e s e t h i n g s ( e . g . , t h e s e u t t e r a n c e s ) c o u l d c o m e t o b e I n t e n t i o n a l e x c e p t b y h a v i n g t h i s l n t e n t i o n a l i t y c o m m u n i c a t e d t o t h e m f r o m s o m e t h i n g e l s e ( p s y c h o l o g i c a l s t a t e s , p r e s u m a b l y ) t h a t a r e i n t r i n s i c a l l y i n t e n t i o n a l i n v o l v e s , i n t h e fi r s t p l a c e t h e f a l s e ( o r a t l e a s t u n p r o v e n ) s u p p o s i t i o n t h a t t h e r e i s a G r i c e a n , i n t e m a l i s t e p r n a t i o n . T h e r e i s n o n e s u c h e x t e n t a n d n o p r o s p e c t , t h a t I a m f a m i l i a r w i t h , o f s u c h e x p l a n a t i o n b e i n g f o r t h c o m i n g . I t i s 2 9 8 f o r g o o d r e a s o n t h a t " t h e m o s t i n f l u e n t i a l t h e o r i e s o f r e f e r e n c e a n d m e a n i n g r e j e c t a F r e g e a n o r i n t e m a l i s t a n a l y s i s " ( S e a r l e , 1 9 8 3 , p . 1 9 8 ) : " T r a d i t i o n a l [ i n t e m a l i s t ] s e m a n t i c t h e o r y l e a v e s o u t o n l y t w o c o n t r i b u t i o n s t o t h e d e t e r m i n a t i o n o f e x t e n s i o n - - t h e c o n t r i b u t i o n o f s o c i e t y a n d t h e c o n t r i b u t i o n o f t h e r e a l w o r l d ! " ( P u t n a m 1 9 7 5 , p . 2 4 5 ) . S e a r i e ’ s o w n a t t e m p t t o d i s p e n s e w i t h t h e c o n t r i b u t i o n o f s o c i e t y a n d t h e r e a l w o r l d i n h i s a t t e m p t e d s o l u t i o n t o t h e d e r i v a t i o n p r o b l e m d o e s n o t h i n g t o a l l a y - - r a t h e r , I t h i n k , t h e m a n i f e s t f a i l u r e o f S e a r i e ’ s a t t e m p t s t r o n g l y r e i n f o r c e s - - s u c h d o u b t s a b o u t t h e p r o s p e c t s o f t r a d i t i o n a l i n t e m a l i s t a n a l y s e s a n d p r e s u p p o s i t i o n s a s h a v e l e d t o t h e i r r e j e c t i o n b y “ t h e m o s t i n f l u e n t i a l t h e o r i e s o f r e f e r e n c e a n d m e a n i n g " n o w g o i n g . C h a p t e r S i x S U B J E C T I V E I N T R I N S I C A L I T Y : A S - I F D U A L I S M S u p p o s e e v e r y o n e h a d a b o x w i t h s o m e t h i n g I n i t : w e c a l l i t a “ b e e t l e “ . N o o n e c a n l o o k I n t o a n y o n e e l s e ' s b o x , a n d e v e r y o n e s a y s h e k n o w s w h a t a b e e t l e I s o n l y b y l o o k i n g a t h i s b e e t l e . - - H e r e I t w o u l d b e q u i t e p o s s i b l e f o r e v e r y o n e t o h a v e s o m e t h i n g d i f f e r e n t i n h i s b o x . O n e m i g h t e v e n I m a g i n e s u c h a t h i n g c o n s t a n t l y c h a n g i n g . T h e t h i n g i n t h e b o x h a s n o p l a c e i n t h e l a n g u a g e - g a m e a t a l l ; n o t e v e n a s a s o m e t h i n g ; f o r t h e b o x m i g h t e v e n b e e m p t y . - - N o , o n e c a n ‘ d l v l d e t h r o u g h ’ b y t h e t h i n g I n t h e b o x ; I t c a n c e l s o u t , w h a t e v e r I t i s . ( W i t t g e n s t e i n 1 9 5 8 , § 2 9 3 ) 1 . I n t r o d u c t i o n I n s c o u t i n g S e a r i e ’ s s u g g e s t i o n t h a t a n e s s e n t i a l d i f f e r e n c e b e t w e e n t h e t h o u g h t l i k e p e r f o r m a n c e s o f c o m p u t e r s a n d g e n u i n e b i o l o g i c a l t h o u g h t i s t o b e f o u n d i n t h e i n t r i n s i c i n t e n t i o n a l i t y o f b i o l o g i c a l t h o u g h t , I a m c o n s i d e r i n g a l t e r n a t e w a y s o f u n d e r s t a n d i n g " i n t r i n s i c , " c o r r e s p o n d i n g , r o u g h l y , t o " i n t h e h e a d “ ( o b j e c t i v e i n t r i n s i c a l i t y ) a n d " I n c o n s c i o u s n e s s ” ( s u b j e c t i v e i n t r i n s i c a l i t y ) . S e a r l e h o l d s t h a t g e n u i n e i n t e n t i o n a l s t a t e s o f o r g a n i s m s a r e d i s t i n g u i s h e d f r o m t h e m e r e l y a s - i f - i n t e n t i o n a l s t a t e s o f a r t i f a c t s b o t h b y b e i n g o b p c t i v e l y I n ( s u p e r v e n i e n t o n l o c a l p h y s i c a l p r o p e r t i e s o f ) t h e o r g a n i s m s t h a t h a v e t h e m a s t h e y a r e n ’ t o b j e c t i v e l y I n c o m p u t e r s t h a t o n l y s e e m t o h a v e t h e m a n d b y b e i n g s u b j e c t i v e l y I n ( s u p e r v e n i e n t o n p h e n o m e n o l o g i c a l p r o p e r t i e s o f ) t h e o r g a n i s m s l i k e o u r s e l v e s t h a t h a v e t h e m a s t h e y a r e n ’ t s u b j e c t i v e l y I n ( b e c a u s e t h e r e a r e n o 2 9 9 3 0 0 p h e n o m e n o l o g i c a l p r o p e r t i e s o f ) c o m p u t e r s t h a t o n l y s e e m t o h a v e t h e m . 1 H o w s l i g h t a r e t h e p r o s p e c t s o f a p p e a l t o o b j e c t i v e i n t r i n s i c a l i t y f o r p r o v i d i n g a s a l i e n t d i f f e r e n t i a w a r r a n t i n g s c i e n t i f i c c l a i m s o f a n e s s e n t i a l d i f f e r e n c e b e t w e e n a n i m a t e a n d a r t i f i c i a l l n t e n t i o n a l i t y w a s t h e t h e m e o f t h e p r e c e d i n g c h a p t e r . T h e c l a i m o f t h e p r e s e n t c h a p t e r i s t h a t t h e p r o s p e c t s f o r u n d e r w r i t i n g s u c h a n e s s e n t i a l d i f f e r e n t i a t i o n b y a p p e a l t o s u b j e c t i v e i n t r i n s i c a l i t y c a n b e n o b e t t e r , a n d a r e i n f a c t m u c h w o r s e . I n a r g u i n g a g a i n s t t h e c l a i m t h a t o b j e c t i v e i n t r i n s i c a l i t y m a r k s a n e s s e n t i a l d i f f e r e n c e b e t w e e n o u r i n t e n t i o n a l i t y a n d t h e a p p a r e n t i n t e n t i o n a l i t y o f c o m p u t e r s I n o t e d t h a t i n t h e e x a c t i n g s e n s e o f " i n " t h a t f i g u r e s i n t h i s d i s c u s s i o n i t s e e m s t h a t o u r i n t e n t i o n a l s t a t e s a r e n o m o r e I n u s t h a n t h e a p p a r e n t i n t e n t i o n a l s t a t e s o f c o m p u t e r s a r e I n t h e m . O n t h e o t h e r h a n d , i f s u c h " e x t e m a l i s m " a b o u t m e a n i n g a n d i n t e n t i o n a l m e n t a l s t a t e s c a n s u c c e s s f u l l y b e r e s i s t e d , i s t h e r e a n y r e a s o n t o s u p p o s e t h e m e n t a l p r o p e r t i e s w e n a i v e l y a t t r i b u t e t o c o m p u t e r s a r e n ’ t l i k e w i s e , d e s p i t e t h e i r s i m i l a r s e e m i n g s o c i a l a n d e n v i r o n m e n t a l d e p e n d e n c e , I n t h e m t o o ? I f w e a c c e p t S e a r i e ’ s c o n v i c t i o n t h a t i t m u s t b e t h e c a s e t h a t t h e m e a n i n g s o f o u r t h o u g h t s " a r e p r e c i s e l y i n t h e h e a d " b e c a u s e " t h e r e ’ s n o w h e r e e l s e f o r t h e m t o b e " ( S e a r l e 1 9 8 3 , p . 2 0 0 ) w h a t p r e c l u d e s o u r s a y i n g t h a t i t m u s t b e t h e c a s e t h a t t h e m e a n i n g s o f i n t e n t i o n a l s t a t e s a t t r i b u t e d t o c o m p u t e r s a r e p r e c i s e l y i n t h e i r c i r c u i t s b e c a u s e t h e r e ’ s n o w h e r e e l s e f o r t h e m t o b e ? I t s e e m s n o l e s s t r u e t h a t t h e i r c i r c u i t s a r e a l l t h e y h a v e f o r t h e p u r p o s e o f r e p r e s e n t i n g t h e w o r l d t o t h e m s e l v e s 1 . H e r e , a s I n C h a p t e r s 4 a n d 5 a b o v e , I a d o p t t h e d e v i c e o f u s i n g “ I n “ w i t h a c a p i t a l “ l “ t o s t r e s s t h e e x a c t i n g t e c h n i c a l s e n s e o f “ i n “ a t s t a k e . 3 0 1 t h a n i t s e e m s t r u e o f u s t h a t " t h e b r a i n i s a l l w e h a v e f o r r e p r e s e n t i n g t h e w o r l d t o o u r s e l v e s " ( S e a r l e 1 9 8 3 , p . 2 3 0 ) . ( R e a l l y , i t s e e m s t r u e o f n e i t h e r o f u s . T h e y h a v e , e . g . , d i s k e t t e s . W e h a v e , e . g . , p a p e r a n d p e n c i l . ) A t t h i s j u n c t u r e S e a r i e ’ s r e s p o n s e i s t h a t t h e d i f f e r e n c e b e t w e e n t h e m a n d u s i s t h a t c o m p u t e r s d o n ’ t r e p r e s e n t a n y t h i n g t o t h e m s e l v e s b y t h e s t a t e s o f t h e i r c i r c u i t s a t a l l : i f s t a t e s o f t h e i r c i r c u i t r y m e a n a n y t h i n g i t i s o n l y t o u s , t h e i r u s e r s a n d p r o g r a m m e r s ; t h e s y m b o l s a c o m p u t e r p r o c e s s e s " d o n ’ t h a v e a n y i n t e r p r e t a - t i o n s a s f a r a s t h e c o m p u t e r i s c o n c e r n e d " ( S e a r l e 1 9 8 0 a , p . 4 2 3 : m y e m p h a s i s ) . A s t h e c o m p l a i n t t h a t c o m p u t e r s l a c k i n t e n t i o n a l i t y b o i l e d d o w n t o t h e c o m p l a i n t t h a t t h e y l a c k i n t r i n s i c i n t e n t i o n a l i t y , n o w , t h e i n t r i n s i c a l i t y t h a t t h e r e p r e s e n t a t i o n a l s t a t e s o f c o m p u t e r s a r e s u p p o s e d t o l a c k b o i l s d o w n t o s u b j e c t i v e i n t r i n s i c a l i t y . T h e r e a s o n c o m p u t e r s d o n ’ t r e p r e s e n t a n y t h i n g t o t h e m s e l v e s b y t h e s y m b o l s t h e y t o k e n , S e a r l e t h i n k s , i s t h a t t h e r e a r e n ’ t a n y s e l v e s t h e r e f o r t h e r e p r e s e n t a t i o n t o b e t o . I n t h e c a s e o f r e a l , i n t r i n s i c , m e n t a l s t a t e s , a c c o r d i n g t o S e a r l e , " T h e r e i s a l w a y s a ‘ f i r s t p e r s o n , ’ a n ‘ I , ’ t h a t h a s t h e s e m e n t a l s t a t e s . " ( S e a r l e 1 9 9 2 , p . 2 0 ) . I n t h e c a s e o f c o m p u t e r s t h e r e i s n o " , " I n o . " f i r s t p e r s o n “ ; t h e r e ’ s “ n o b o d y h o m e " ( H a r n a d 1 9 9 1 , p . 5 2 ) . E r g o , i n t h e c a s e o f c o m p u t e r s , t h e r e a r e n o i n t r i n s i c m e n t a l s t a t e s , e x t e r n a l , t h i r d p e r s o n a p p e a r a n c e s t o t h e c o n t r a r y n o t w i t h s t a n d i n g . W h o , o r w h a t , e x a c t l y , i s t h i s " I " ? W h a t a r e w e t o u n d e r s t a n d b y t h e s u b j e c t i v e i n t r i n s i c a l i t y o r e s s e n t i a l s u b j e c t i v i t y o f t h e m e n t a l ? M u c h a s w e w e r e a b l e t o d i s t i n g u i s h t w o s o r t s o f i n t r i n s i c a l i t y a t i s s u e - - o b j e c t i v e a n d s u b j e c t i v e - s u b j e c t i v e i n t r i n s i c a l i t y i t s e l f s p l i t s ( l e s s c l e a n l y , p e r h a p s ) 3 0 2 i n t o t w o v a r i e t i e s I w i l l c a l l " a g e n t i a l " a n d " p h e n o m e n o l o g i c a l . " A g e n t i a l s u b j e c t i v i t y h a s t o d o w i t h u s ( u n l i k e c o m p u t e r s ) b e i n g a u t h o r s o f o u r o w n m e n t a l ( i n c l u d i n g o v e r t i n t e n t i o n a l ) a c t s . P h e n o m e n o l o g i c a l s u b j e c t i v i t y h a s t o d o w i t h m e n t a l p h e n o m e n a b e i n g i n c o n s c i o u s n e s s e s o r c o n s i s t i n g o f q u a l i a o r e x p e r i e n c e s ( b e i n g m a d e , s o t o s p e a k o f , o f t h e r i g h t " p h e n o m e n o l o g i c a l s t u f f " ) . T h e a g e n t i a l u n d e r s t a n d i n g o f s u b p c t i v e i n t r i n s i c a l i t y r e s o n a t e s w i t h S e a r i e ’ s G r i c e a n t h e o r y o f l i n g u i s t i c m e a n i n g o n w h i c h o u r u t t e r a n c e s a n d i n s c r i p t i o n s a r e i n v e s t e d w i t h m e a n i n g b y s p e a k e r s ’ s p s y c h o l o g i c a l a c t s o f m e a n i n g t h e m - - w h a t m a k e s " F i d o " m e a n F i d o f o r m e ( i n m y i d i o l e c t ) i s , f o r S e a r l e , m y i n t e n d i n g i t o r w i l l i n g i t t o m e a n F i d o . O n t h i s v i e w s e m a n t i c l n t e n t i o n a l i t y d e r i v e s f r o m v o l i t i o n a l i n t e n t i o n a l i t y ( i . e . f r o m a c t s o f w i l l o r g a r d e n v a r i e t y i n t e n d i n g s ) . 2 T h u s u n d e r s t o o d , c o m p u t e r s ’ s r e p u t e d l a c k o f s u b j e c t i v e l y i n t r i n s i c l n t e n t i o n a l i t y c o m e s t o t h i s : c o m p u t e r s ( u n l i k e u s ) d o n ' t t h e m s e l v e s i n t e n d a n y t h i n g b y t o k e n i n g t h e s y m b o l s t h e y d o . I n o u r c a s e w e o u r s e l v e s i n v e s t t h e s y m b o l s w e p r o c e s s w i t h m e a n i n g : t h e s e t o k e n i n g s o f o u r s a r e i n t r i n s i c a l l y m e a n i n g f u l t o u s o r f o r u s b e c a u s e w e o u r s e l v e s b e s t o w t h e i r m e a n i n g s o n t h e m . O n t h i s a g e n t i a l u n d e r s t a n d i n g o f s u b j e c t i v e i n t r i n s i c a l i t y o u r I n t e n t i o n a l m e n t a l s t a t e s a r e s u b j e c t i v e l y i n t r i n s i c ( a n d c o m p u t e r s ’ s " a s i f " I n t e n t i o n a l m e n t a l s t a t e s a r e n o t ) b e c a u s e w e c r e a t e t h e i r m e a n i n g s . T h e y a r e i n u s o r m o r e a p t l y , p e r h a p s , f r o m u s a s t h e i r o r i g i n a t i v e s o u r c e . A c c o r d i n g t o t h i s u n d e r s t a n d i n g , t o s a y t h a t w e ( o r o u r m e n t a l s t a t e s ) a r e i n t r i n s i c a l l y I n t e n t i o n a l m e a n s t h a t w e 2 . I w i l l u s e t h e c o n v e n t i o n ( f o l l o w i n g S e a r l e 1 9 8 3 ) o f d i s t i n g u i s h i n g l n t e n t i o n a l i t y ( w i t h a c a p i t a l " I “ ) I n t h e t e c h n i c a l s e n s e o f “ a b o u t n e s s “ f r o m g a r d e n v a r i e t y i n t e n t i o n s a n d I n t e n d i n g s ( s m a l l “ I “ ) w h e r e ( a s h e r e ) I t I s n e c e s s a r y t o t y p o g r a p h i c a l l y d i s t i n g u i s h t h e m . 3 0 3 o u r s e l v e s a r e t h e f i r s t - c a u s e s o f t h e i r m e a n i n g w h a t t h e y d o . T h e p h e n o m e n o l o - g i c a l u n d e r s t a n d i n g o f i n t r i n s i c i n t e n t i o n a l i t y , o n t h e o t h e r h a n d , r e s o n a t e s s o m e w h a t d i f f e r e n t l y - r e s o n a t e s r a t h e r w i t h w h a t s u b s t a n c e d u a l i s t s . s u c h a s D e s c a r t e s , p r o p e r t y d u a l i s t s s u c h a s N a g e l , a n d p h e n o m e n o l o g i s t s s u c h a s S a r t r e a n d H u s s e r l s a y a b o u t c o n s c i o u s n e s s . O n t h i s p h e n o m e n o l o g i c a l u n d e r s t a n d i n g o f " s u b j e c t i v e i n t r i n s i c a l i t y " t h e s u b j e c t i v e i n t r i n s i c a l i t y o f m y I n t e n t i o n a l m e n t a l s t a t e s c o n s i s t s o f t h e i r b e i n g c o n s c i o u s o r " i n " c o n s c i o u s - n e s s : w h a t d i s q u a l i f i e s t h e a p p a r e n t m e n t a l a b i l i t i e s o f c o m p u t e r s f r o m c o u n t i n g a s t r u e m e n t a l a b i l i t i e s ( a n d w h a t q u a l i f i e s o u r s a s s u c h ) i s t h a t c o m p u t e r s a r e n ’ t a w a r e o f t h e i r r e p r e s e n t a t i o n a l s t a t e s r e p r e s e n t i n g a n y t h i n g a n d w e a r e ; t h e y d o n ’ t c o n s c i o u s l y e x p e r i e n c e t h e m e a n i n g s o f t h e i r r e p r e s e n t a t i o n a l s t a t e s a s w e d o o u r s . T h e q u e s t i o n t h a t a r i s e s n o w i s w h e t h e r c o n s i d e r a t i o n s o f p h e n o m e n o l o g i c a l o r a g e n t i a l i n t r i n s i c a l i t y p r o v i d e s u f f i c i e n t w a r r a n t f o r d i s c o u n t i n g n a i v e a t t r i b u t i o n s o f m e n t a l p r o p e r t i e s t o c o m p u t e r s a s m e r e l y f i g u r a t i v e " a s i f " a t t r i b u t i o n s . H e r e c o n c l u s i o n s r e a c h e d i n C h a p t e r F o u r , a b o v e , c o n s t r a i n t h e s o r t o f w a r r a n t r e q u i r e d . T h e p r e d i c t i v e u t i l i t y a n d p r i m e f a c i e u n i v o c a l i t y o f s u c h n a i v e a t t r i b u - t i o n s m e a n s i t i s n o t o p e n t o S e a r l e t o s t y l e h i m s e l f t h e d e f e n d e r o r o r d i n a r y u s a g e a g a i n s t r e v i s i o n a r y c o g n i t i v e s c i e n t i f i c p r o p o s a l s t h a t w o u l d " a s s i m i l a t e e x i s t i n g m e n t a l p h e n o m e n a t o s o m e l a r g e r n a t u r a l k i n d " ( S e a r l e 1 9 8 0 b , p . 4 5 2 ) i n c l u d i n g , b e s i d e s o u r c o n s c i o u s c a l c u l a t i o n s a n d c o n s i d e r a t i o n s o f a l t e r n a t i v e s , t h e ( p r e s u m a b l y u n c o n s c i o u s ) c a l c u l a t i o n s p e r f o r m e d b y p o c k e t c a l c u l a t o r s , c o n s i d e r a t i o n s o f a l t e r n a t i v e s b y c h e s s p r o g r a m s , e t c . S i n c e w e a l r e a d y d o 3 0 4 a s s i m i l a t e t h e s e p h e n o m e n a u n a m b i g u o u s l y ( a s s t a n d a r d a m b i g u i t y t e s t s s h o w ) u n d e r e x i s t i n g m e n t a l c o n c e p t s t o i n d i s p u t a b l y g o o d p r e d i c t i v e e f f e c t , t h e r e m a i n i n g h o p e f o r d i s q u a l i f y i n g t h e c a l c u l a t i o n s o f p o c k e t c a l c u l a t o r s a n d c o n s i d e r a t i o n s o f a l t e r a t i v e c o n t i n u a t i o n s o f g a m e s b y c h e s s p r o g r a m s f r o m b e i n g b o n a f i d e c a s e s o f c a l c u l a t i o n a n d c o n s i d e r a t i o n w o u l d b e f o r c o g n i t i v e s c i e n t i f i c r e s e a r c h t o d i s c o v e r t h a t w h a t w e m i s t a k e n l y c a l l " c a l c u l a t i o n " a n d " c o n s i d e r i n g " i n c o m p u t e r s i s n ’ t r e a l l y o f t h e s a m e n a t u r e a s h u m a n c a l c u l a t i o n a n d c o n s i d e r i n g ; m u c h a s z o o l o g i c a l r e s e a r c h d i s c o v e r e d t h a t w h a l e s ( a p p e a r a n c e s t o t h e c o n t r a r y ) r e a l l y a r e n ’ t f i s h . S i n c e e v i d e n c e o f r a d i c a l f r e e d o m o r a g e n t i a l i n t r i n s i c a l i t y i s g e n e r a l l y s u p p o s e d b y l i b e r t a r i a n s ( o f . C a m p b e l l 1 9 5 7 ; N a g e l 1 9 8 7 ) t o b e p h e n o m e n o - l o g i c a l , a s S e a r l e a l s o s u p p o s e s a z T h e fi r s t t h i n g t o n o t i c e a b o u t o u r c o n c e p t i o n o f h u m a n f r e e d o m I s t h a t I t I s e s s e n t i a l l y t i e d t o c o n s c i o u s n e s s . W e o n l y a t t r i b u t e f r e e d o m t o c o n s c i o u s b e i n g s . I f , f o r e x a m p l e s o m e b o d y b u i l t a r o b o t w h i c h w e b e l i e v e d t o b e t o t a l l y u n c o n s c i o u s , w e w o u l d n e v e r f e e l a n y I n c l i n a t i o n t o c a l l i t f r e e . E v e n I f w e f o u n d I t s b e h a v i o r r a n d o m a n d u n p r e d i c t a b l e , w e w o u l d n o t s a y t h a t I t w a s a c t i n g f r e e l y I n t h e s e n s e t h a t w e t h i n k o f o u r s e l v e s a s a c t i n g f r e e l y . I f o n t h e o t h e r h a n d s o m e b o d y b u i l t a r o b o t t h a t w e b e c a m e c o n v i n c e d h a d c o n s c i o u s n e s s , I n t h e s a m e s e n s e t h a t w e d o , t h e n I t w o u l d a t l e a s t b e a n o p e n q u e s t i o n w h e t h e r o r n o t t h a t r o b o t h a d f r e e d o m o f t h e w i l l . ( S e a r l e 1 9 8 4 a , p . 9 4 ) . - - I f o c u s m y d i s c u s s i o n o n s u b j e c t i v e i n t r i n s i c a l i t y p h e n o m e n o l o g i c a l l y c o n s t r u e d . T h e i s s u e o f t h e s c i e n t i f i c u t i l i t y o f s u b j e c t i v e i n t r i n s i c a l i t y t h e n 3 . S e a r l e h a s m i s g i v i n g s a b o u t t h e e x i s t e n c e o f a g e n t i a l s u b j e c t i v e I n t r i n s i c a l i t y ( i . e . , o f r a d i c a l o r l i b e r t a r i a n f r e e d o m ) - “ O u r c o n c e p t i o n o f p h y s i c a l r e a l i t y , “ S e a r l e r e m a r k s , “ s i m p l y d o e s n o t a l l o w f o r r a d i c a l f r e e d o m “ t h o u g h n o t h i n g “ w i l l e v e r c o n v i n c e u s t h a t o u r b e h a v i o u r I s u n f r e e “ ( S e a r l e 1 9 8 4 a , p . 9 8 ) . 3 0 5 b e c o m e s a q u e s t i o n o f t h e s c i e n t i f i c i m p o r t o f c o n s c i o u s n e s s a n d t h e p e r s p i c u i t y o f w h a t S e a r l e ( 1 9 9 0 f ) c a l l s t h e " C o n n e c t i o n P r i n c i p l e " ( C P ) : ( C P ) A s c r l p t i o n o f a n u n c o n s c i o u s i n t e n t i o n a l p h e n o m e n o n t o a s y s t e m l m p l l e s t h a t t h e p h e n o m e n o n I s i n p r i n c i p l e a c c e s s i b l e t o c o n s c i o u s n e s s . ( S e a r l e 1 9 9 0 f , p . 5 8 6 ) . S i n c e t h e b r o a d e r t h e s i s o f o n t o l o g i c a l s u b j e c t i v i t y ( p h e n o m e n o l o g i c a l l y c o n s t r u e d ) i s , i n e f f e c t , t h a t " a s c r i p t i o n o f [ a n y ] i n t e n t i o n a l p h e n o m e n o n t o a s y s t e m i m p l i e s i t i s i n p r i n c i p l e a c c e s s i b l e t o c o n s c i o u s n e s s " o r h o l d s t h a t “ t h e o n l y o c c u r r e n t r e a l i t y o f t h e m e n t a l a s m e n t a l i s c o n s c i o u s n e s s " o r t h a t a l l m e n t a l p h e n o m e n a a r e e s s e n t i a l l y m o d i f i c a t i o n s o r m o d e s o r " m o d a l i t i e s " ( S e a r l e 1 9 9 2 , p . 1 6 8 ) o f c o n s c i o u s n e s s - a n d s i n c e c o n s c i o u s m e n t a l s t a t e s a r e u n c o n t r o - v e r s i a l l y c o n s c i o u s - C P i s o n t o l o g i c a l s u b j e c t i v i t y ’ s c o n t r o v e r s i a l p a r t . I f S e a r i e ’ s g r a n t o f e p i s t e m i c p r i v i l e g e s ( t o o v e r r i d e a l l e x t e r n a l , b e h a v i o r a l e v i d e n c e ) t o h o w i t s e e m s t o t h e a g e n t f r o m t h e " f i r s t p e r s o n p o i n t o f v i e w " i n h i s C h i n e s e r o o m e x p e r i m e n t " i n v i t e s u s t o r e g r e s s t o t h e C a r t e s i a n v a n t a g e p o i n t " ( D e n n e t t 1 9 8 7 b , p . 3 3 6 ) , C P i s a n e n g r a v e d i n v i t a t i o n . T h e r e i s n o d o u b t , a s I w i l l s h o w , t h a t t h i s p r i n c i p l e i s C a r t e s i a n : t h e o n l y d o u b t c o n c e r n s w h e t h e r S e a r i e ’ s e m b r a c e o f i t i s r e g r e s s i v e , i . e . , w h e t h e r S e a r i e ’ s a d o p t i o n o f t h e " C a r t e s i a n v a n t a g e p o i n t " s u f f e r s f r o m a n o m a l i e s t h i s “ v a n t a g e p o i n t " i s k n o w n t o b e h e i r t o o r w h e t h e r S e a r l e h a s m a n a g e d t o o v e r c o m e t h e s e a n o m a l i e s , a s h e c l a i m s . T h e m o s t t e l l i n g a n o m a l i e s b e s e t t i n g c o n s c i o u s n e s s - b a s e d p s y c h o l o g i c a l r e s e a r c h p r o g r a m s s u c h a s S e a r i e ’ s a n d D e s c a r t e s ’ s , I t a k e i t , a r e t h r e e . F i r s t , t h e p r o b l e m o f h o w c o n s c i o u s p h e n o m e n a ( m o d e s o f c o n s c i o u s n e s s ) a n d p h y s i c a l p h e n o m e n a ( m o d i f i c a t i o n s o f m a t t e r ) a r e r e l a t e d o r c a u s a l l y i n t e r a c t : t h e 3 0 6 m i n d - b o d y p r o b l e m . S e c o n d , t h e p r o b l e m o f h o w w e c a n k n o w a n y t h i n g o f t h e m e n t a l p r o p e r t i e s o f o t h e r s ( o r e v e n t h a t o t h e r s h a v e m e n t a l p r o p e r t i e s ) i f m o d e s o f c o n s c i o u s n e s s a r e w h a t m e n t a l p h e n o m e n a ( i n s t a n t i a t i o n s o f m e n t a l p r 0 p e r t i e s ) e s s e n t i a l l y a r e a n d n o o n e c a n d i r e c t l y e x p e r i e n c e a n y o n e e l s e ’ s c o n s c i o u s n e s s : t h e o t h e r m i n d s p r o b l e m . T h i r d , t h e p r o b l e m - i f m o d e s o f c o n s c i o u s n e s s a r e w h a t m e n t a l p h e n o m e n a e s s e n t i a l l y a r e , a n d e a c h o f u s h a s d i r e c t e p i s t e m i c a l l y p r i v i l e g e d i n t r o s p e c t i v e a c c e s s t o e v e r y m o d i f i c a t i o n o f o u r o w n c o n s c i o u s n e s s - - o f w h y p s y c h o l o g y i s n ’ t e a s y : t h e i n t r o s p e c t i o n p r o b l e m . W h y , i f D e s c a r t e s w a s r i g h t a b o u t t h e e s s e n t i a l l y c o n s c i o u s n a t u r e o f m i n d w a s h e n o t a l s o r i g h t ( a s t h e h i s t o r y o f p s y c h o l o g y s i n c e s e e m s t o c o n f i r m h e w a s n o t ) i n t h i n k i n g " I c a n a c h i e v e a n e a s i e r a n d m o r e e v i d e n t p e r c e p t i o n o f m y o w n m i n d t h a n o f a n y t h i n g e l s e " ( D e s c a r t e s 1 6 4 2 , p . 2 2 - 2 3 ) . S e a r l e ( 1 9 9 2 ) c l a i m s t o s o l v e a l l t h e s e p r o b l e m s . I f s o , S e a r i e ’ s " r e d i s c o v e r y “ o f c o n s c i o u s n e s s e n j o y s t h e b e n e f i t s o f d u a l i s m ( s u c h a s t h e y a r e ) w i t h o u t i t s c o s t s . I t s h o u l d b e n o t e d , o n e b e n e f i t S e a r i e ’ s C a r t e s i a n i d e n t i f i c a t i o n o f t h o u g h t w i t h c o n s c i o u s e x p e r i e n c e d o e s n o t h a v e ( d e s p i t e S e a r i e ’ s s e e m i n g a s s u r a n c e t h a t i t d o e s ) i s t h a t o f s o l v i n g t h e " s y m b o l g r o u n d i n g p r o b l e m " ( H a r n a d 1 9 9 0 ) , i . e . , t h e p r o b l e m o f l n t e n t i o n a l i t y , o f w h e r e m e a n i n g c o m e s f r o m , o r w h a t m a k e s r e f e r r i n g e x p r e s s i o n s r e f e r a s t h e y d o . A s S e a r i e ’ s C h i n e s e r o o m e x a m p l e c a n b e v i e w e d a s d r i v i n g h o m e t h e p o i n t t h a t s y n t a x d o e s n ’ t s u f f i c e f o r s e m a n t i c s , P u t n a m ’ s ( 1 9 7 5 ) T w i n E a r t h e x a m p l e s c a n b e v i e w e d a s d r i v i n g h o m e t h e p o i n t t h a t n e i t h e r n e u r o p h y s i o l o g y ( w h a t ’ s i n t h e h e a d ) n o r p h e n o m e n o l o g y ( w h a t ’ s i n c o n s c i o u s n e s s ) s u f f i c e e i t h e r . I m a g i n e m e a n d m y t w i n o n T w i n E a r t h t o b e i n 3 0 7 q u a l i t a t i v e l y i d e n t i c a l p h e n o m e n o l o g i c a l s t a t e s , h a v i n g q u a l i t a t i v e l y i d e n t i c a l c o n s c i o u s e x p e r i e n c e s o f w e t n e s s ( a m o n g o t h e r t h i n g s ) i n o u r b a t h s . I m a g i n e e a c h o f u s s a y i n g t o o u r s e l v e s o r t h i n k i n g t o o u r s e l v e s - - I i n E n g l i s h , h e i n T w i n E n g l i s h - - " W a t e r i s w e t . " D e s p i t e t h e q u a l i t a t i v e i d e n t i t y o f o u r c o n s c i o u s e x p e r i e n c e s , m y t h o u g h t i s a b o u t H 2 0 a n d m y t w i n ’ s t h o u g h t i s a b o u t X Y Z . P h e n o m e n o l o g y d o e s n o t s u f f i c e f o r s e m a n t i c s a n y m o r e t h a n n e u r o p h y s i o l o g y ( o r p r o g r a m m i n g ) s u f f i c e s l I n t e r m s o f o u r d i a l e c t i c a l s i t u a t i o n , s u b j e c t i v e i n t r i n s i c a l i t y ’ s h a v i n g T w i n E a r t h t r o u b l e s l i k e o b j e c t i v e i n t r i n s i c a l i t y m e a n s p r o s p e c t s f o r w a r r a n t i n g c l a i m s o f a n e s s e n t i a l d i f f e r e n c e b e t w e e n a n i m a t e a n d a r t i f i c i a l l n t e n t i o n a l i t y b y a p p e a l t o s u b j e c t i v e i n t r i n s i c a l i t y a r e a t l e a s t a s b a d a s t h e p r o s p e c t s f o r s u c h a s c i e n t i f i c d i f f e r e n t i a t i o n b y a p p e a l t o o b j e c t i v e i n t r i n s i c a l i t y . T h e r e s t o f t h i s c h a p t e r a r g u e s t h e p r o s p e c t s f o r s u b j e c t i v e i n t r i n s i c a l i t y i n t h e s e r e g a r d s a r e m u c h w o r s e . N o t o n l y d o e s S e a r i e ’ s m a n n e r o f a p p e a l t o c o n s c i o u s n e s s i n t h e s e c o n n e c t i o n s f a i l t o s o l v e D e s c a r t e s ’ s p r o b l e m s , i t e v e n m a n a g e s , i n s i g n i f i c a n t w a y s , t o a g g r a v a t e D e s c a r t e s ’ s p r o b l e m s . S e a r i e ’ s v i e w s w o u l d r e t u r n u s t o t h e C a r t e s i a n v a n t a g e p o i n t , y e t o f f e r n o h e l p a g a i n s t t h e b e s e t t i n g a n o m a l i e s o f C a r t e s i a n i s m : i n t e r a c t i o n p r o b l e m s , o t h e r m i n d s p r o b l e m s , a n d t h e i n t r o s p e c t i o n p r o b l e m . H e n c e , n o t h i n g a l o n g s u c h l i n e s a s S e a r l e p r o p o s e s h o l d s m u c h p r o m i s e o f u n d e r w r i t i n g a s c i e n t i f i c a l l y p e r s p i c u o u s d i s t i n c t i o n b e t w e e n i n t r i n s i c b i o l o g i c a l a n d d e r i v e d a r t i f a c t u a l i n t e n t i o n a l i t y t h a t w o u l d w a r r a n t d i s m i s s i n g o u r n a i v e a t t r i b u t i o n s o f i n t e n t i o n a l s t a t e s t o c o m p u t e r s a s f a l s e . 3 0 8 2 . A s — i f D u a l i s m S i n c e S e a r l e p r o t e s t s ( I t h i n k , t o o m u c h ) t h a t h e i s n o t a d u a l i s t a n d e x p l i c i t l y d e n i e s e m p l o y i n g a n y " C a r t e s i a n a p p a r a t u s " ( S e a r l e 1 9 9 2 , p . x i i ) o r " C a r t e s i a n p a r a p h e r n a l i a " ( S e a r l e 1 9 8 7 a , p . 1 4 6 ) , i t i s n e c e s s a r y t o d i s p u t e t h e s e d i s a v o w a l s . T h e p r e s e n t s e c t i o n a i m s t o s h o w S e a r l e d e p l o y s m o s t o f t h e C a r t e s i a n a p p a r a t u s h e o f f i c i a l l y d e p l o r e s . H e d e p l o y s e n o u g h C a r t e s i a n a p p a r a t u s , i n p a r t i c u l a r , t o o c c a s i o n t h e t r a d i t i o n a l C a r t e s i a n d i f f i c u l t i e s a b o u t m i n d - b o d y i n t e r a c - t i o n , a b o u t t h e k n o w a b i l i t y o f o t h e r m i n d s , a n d a b o u t i n t r o s p e c t i o n . S i n c e i t i s 1 f i t t i n g t h a t S e a r l e , w h o s o f a m o u s l y a d v o c a t e s t h e t h e s i s o f " a s - i f i n t e n t i o n a l i t y " s h o u l d o t h e r w i s e t a l k j u s t l i k e a d u a l i s t , e x c e p t f o r e x p l i c i t l y d i s a v o w i n g d u a l i s m , I g r a n t t h i s p r e t e n s e . L e t h i m b e a n a s - i f d u a l i s t . I t w i l l b e f i t t i n g , a l s o , t o b e g i n o u r s u r v e y o f t h e a s - i f d u a l l s t i c d o c t r i n e s S e a r l e e s p o u s e s w i t h t h e n o t i o n o f a s - i f i n t e n t i o n a l i t y i t s e l f . T h i s a p p a r a t u s t o o i s C a r t e s i a n . 2 . 1 A s - i f l n t e n t i o n a l i t y M u c h a s S e a r l e i s t r o u b l e d b y a n d c o n c e r n e d t o e x p l a i n a w a y t h e a p p a r e n t I n t e n t i o n a l m e n t a l s t a t e s a n d a b i l i t i e s o f m a c h i n e s , D e s c a r t e s w a s n o t o r i o u s l y t r o u b l e d a b o u t t h e a p p a r e n t m e n t a l s t a t e s a n d a b i l i t i e s o f n o n h u m a n a n i m a l s a n d c o n c e r n e d t o e x p l a i n t h e s e a w a y . T o e x p l a i n a w a y s u c h a p p e a r a n c e s o f a n i m a l i n t e l l i g e n c e a s t h e f o l l o w i n g - - A d o g , w h i c h y o u [ D e s c a r t e s ] w i l l n o t a l l o w t o p o s s e s s a m i n d l i k e y o u r s , c e r t a i n l y m a k e s a s i m i l a r s o r t o f j u d g e m e n t w h e n I t r e c o g n i z e s t h e m a s t e r w h o c a n e x i s t u n d e r a l l t h e s e f o r m s [ I n d i f f e r e n t p o s t u r e s , d i f f e r e n t l y d r e s s e d , e t c . ] , e v e n t h o u g h h e d o e s n o t k e e p t h e s a m e p r o p o r t i o n s o r a l w a y s a p p e a r u n d e r t h e s a m e f o r m . ( G a s s e n d l : D e s c a r t e s e t a l . 1 6 4 2 , p . 1 9 1 ) 3 0 9 Y o u [ D e s c a r t e s ] m a y s a y t h a t t h e s o u l h a s t h e p o w e r o f p r e v e n t i n g a m a n f r o m b o t h f l e e i n g a n d a d v a n c i n g . B u t t h e p r i n c i p l e o f c o g n i t i o n d o e s j u s t t h i s i n t h e c a s e o f a n a n i m a l : a d o g , d e s p i t e h i s f e a r o f t h r e a t s a n d b l o w s , m a y r u s h f o r w a r d t o g r a b a m o r s e l i t h a s s e e n - - a n d a m a n o f t e n d o e s j u s t t h e s a m e s o r t o f t h i n g ! ( G a s s e n d l : D e s c a r t e s e t a l . 1 6 4 2 , p . 1 8 8 ) F o r a t f i r s t i t s e e m s i n c r e d i b l e t h a t i t c a n c o m e a b o u t w i t h o u t t h e a s s i s t a n c e o f a n y s o u l , t h a t t h e l i g h t r e fl e c t e d f r o m t h e b o d y o f a w o l f I n t o t h e e y e s o f a s h e e p s h o u l d s p r e a d t h e a n i m a l s p i r i t s t h r o u g h o u t t h e n e r v e s I n t h e m a n n e r n e c e s s a r y t o p r e c i p i t a t e t h e s h e e p ’ s f l i g h t . ( A r n a u l d : D e s c a r t e s e t a l . , p . 1 4 4 ) - - D e s c a r t e s i n v o k e s a n o t i o n o f a s - i f i n t e n t i o n a l i t y o r ( a s D e s c a r t e s c a l l s i t ) " c o r p o r e a l i m a g i n a t i o n . " T h e c o r p o r e a l i m a g i n a t i o n c a n c h a n g e [ c o r p o r e a l i m a g e s ] I n v a r i o u s w a y s , f o r m t h e m I n t o n e w [ I m a g e s ] a n d b y d i s t r i b u t i n g t h e a n i m a l s p i r i t s t o t h e m u s c l e s , m a k e t h e p a r t s o f t h e b o d y m o v e I n a s m a n y d i f f e r e n t w a y s a s t h e p a r t s o f o u r b o d i e s c a n m o v e w i t h o u t b e i n g g u i d e d b y t h e w i l l , a n d I n a m a n n e r w h i c h i s j u s t a s a p p r o p r i a t e t o t h e o b j e c t s o f t h e s e n s e s a n d t h e I n t e r n a l p a s s i o n s . ( D e s c a r t e s 1 6 3 7 , p . 1 3 9 ) T h i s [ f u n c t i o n i n g o f t h e c o r p o r e a l I m a g i n a t i o n ] e n a b l e s u s t o u n d e r s t a n d h o w t h e m o v e m e n t s o f a l l t h e o t h e r a n i m a l s c o m e a b o u t , e v e n t h o u g h w e r e f u s e t o a l l o w t h e y h a v e a n y a w a r e n e s s o f t h i n g s , b u t m e r e l y g r a n t t h e m a p u r e l y c o r p o r e a l I m a g i n a t i o n . ( D e s c a r t e s 1 6 2 8 , p . 4 2 ) I p u l l t h e d o g ’ s t a i l a n d i t y e l p s . I t d o e s n ’ t e x p e r i e n c e a n y t h i n g , a c c o r d i n g t o D e s c a r t e s ; a f o r t i o r i i t d o e s n ’ t r e a l l y e x p e r i e n c e p a i n . I t j u s t a c t s l i k e i t . I t ’ s j u s t a c a s e , s o t o s p e a k , o f a s - i f p a i n . " B e s i d e s c a u s i n g o u r s o u l s t o h a v e v a r i o u s s e n s a t i o n s , " D e s c a r t e s h o l d s , " v a r i o u s m o v e m e n t s i n t h e b r a i n c a n a l s o a c t w i t h o u t t h e s o u l , c a u s i n g t h e s p i r i t s t o m a k e t h e i r w a y t o c e r t a i n m u s c l e s r a t h e r t h a n o t h e r s " ( D e s c a r t e s 1 6 4 9 , p . 3 3 3 ) . A l l t h e a c t i o n s a n d r e a c t i o n s o f i n f r a h u m a n a n i m a l s , a c c o r d i n g t o D e s c a r t e s , a r e o f t h i s m e m e m e c h a n i c a l " a s - i f " s o r t , w i t h o u t a c c o m p a n i m e n t o f c o n s c i o u s e x p e r i e n c e . S i m i l a r l y , S e a r l e m a i n t a i n s , I n t h e s e n s e [ I n v o l v i n g a w a r e n e s s o f t h i n g s ] I n w h i c h p e o p l e “ p r o c e s s I n f o r m a t i o n “ w h e n t h e y r e f l e c t , s a y , o n p r o b l e m s i n a r i t h m e t i c o r w h e n t h e y r e a d a n d a n s w e r 3 1 0 q u e s t i o n s a b o u t s t o r i e s , t h e p r o g r a m m e d c o m p u t e r d o e s n o t d o “ I n f o r m a t i o n p r o c e s s i n g . “ R a t h e r w h a t i t d o e s I s m a n i p u l a t e f o r m a l s y m b o l s . ( S e a r l e 1 9 8 0 a , p . 4 2 3 ) C o n s e q u e n t l y , " W e c o u l d h a v e i d e n t i c a l b e h a v i o r i n t w o d i f f e r e n t s y s t e m s , o n e o f w h i c h i s c o n s c i o u s a n d t h e o t h e r t o t a l l y u n c o n s c i o u s " ( S e a r l e 1 9 9 2 , p . 7 1 ) . E x c h a n g i n g " c o r p o r e a l i m a g e s " f o r " f o r m a l s y m b o l s " a n d v i c e v e r s a i n t h e p a s s a g e s f r o m D e s c a r t e s a n d S e a r l e a b o v e s c a r c e l y a l t e r s t h e s e n s e o f e i t h e r . T h e a p p a r a t u s o f " a s - i f i n t e n t i o n a l i t y " S e a r l e i n v o k e s - t h o u g h i n v o k e d t o d i s m i s s t h e a p p a r e n t m e n t a l a b i l i t i e s o f c o m p u t e r s r a t h e r t h a n t h o s e o f i n f r a h u m a n a n i m a l s - - s e e m s t h o r o u g h l y C a r t e s i a n . 2 . 2 O n t o l o g i c a l S u b p c t i v i t y : C o n n e c t i o n P r i n c i p l e a n d C a r t e s i a n E g o A c c o r d i n g t o S e a r l e , " o n c e y o u h a v e l o s t t h e d i s t i n c t i o n b e t w e e n a s y s t e m ' s r e a l l y h a v i n g m e n t a l s t a t e s a n d m e r e l y a c t i n g a s i f i t h a d m e n t a l s t a t e s , t h a n y o u l o s e s i g h t o f a n e s s e n t i a l f e a t u r e o f t h e m e n t a l , t h a t i t s o n t o l o g y i s e s s e n t i a l l y a f i r s t - p e r s o n o n t o l o g y " ( S e a r l e 1 9 9 2 , p . 1 7 ) . " A m o m e n t s r e f l e c t i o n o n o n e ’ s o w n s u b j e c t i v e s t a t e s , " S e a r l e t h i n k s , s u f f i c e s t o s h o w t h e f a l s i t y o f t h i s " b a s i c m e t a p h y s i c a l p r e s u p p o s i t i o n : R e a l i t y i s o b j e c t i v e " ( S e a r l e 1 9 9 2 , p . 1 6 ) . B y " o b j e c t i v e " S e a r l e m e a n s p u b l i c l y o b s e r v a b l e : t h e s u p p o s i t i o n S e a r l e d i s p u t e s i s “ t h a t i f s o m e t h i n g i s r e a l , i t m u s t b e e q u a l l y a c c e s s i b l e t o a l l c o m p e t e n t o b s e r v e r s “ ( S e a r l e 1 9 9 2 , p . 1 6 ) . S h a d e s o f t h e c o g i t o : r e f l e c t i o n o n m y o w n s u b j e c t i v e s t a t e s a p p r i s e s m e o f t h e r e m a r k a b l e f a c t t h a t t h e s e a r e k n o w n t o m e ( a n d m e o n l y ) I n a d i f f e r e n t w a y t h a n e x t e r n a l r e a l i t y a n d t h e m i n d s o f o t h e r s a r e k n o w n t o m e ( v i a t h e s e n s e s ) . T r a d i t i o n a l l y , t h i s k n o w l e d g e o f o n e ’ s m e n t a l ( s u b j e c t i v e , 3 1 1 c o n s c i o u s ) s t a t e s w a s s u p p o s e d t o b e m o r e d i r e c t ( a s S e a r l e a g r e e s ) a n d m o r e r e l i a b l e ( S e a r l e d e m u r s , p e r h a p s ) t h a n o u r k n o w l e d g e o f e x t e r n a l ( o b j e c t i v e , p h y s i c a l ) r e a l i t y . T h e d i r e c t n e s s i n q u e s t i o n c o m e s t o m y c o n s c i o u s e x p e r i e n c e s p r o v i d i n g t h e " e p i s t e m i c b a s e s " ( S e a r l e 1 9 9 2 , p . 1 2 2 ) f o r m y k n o w l e d g e o f e x t e r n a l r e a l i t y ( m y k n o w l e d g e o f t h e e x t e r n a l w o r l d b e i n g m e d i a t e d b y m y c o n s c i o u s e x p e r i e n c e s o r " i n n e r " m e n t a l r e p r e s e n t a t i o n s o f i t ) b u t m y a w a r e n e s s o f m y s u b j e c t i v e c o n s c i o u s e x p e r i e n c e s t h e m s e l v e s b e i n g i m m e d i a t e , h a v i n g n o e p i s t e m i c b a s e s b e s i d e s t h e e x p e r i e n c e s t h e m s e l v e s . J u s t a s D e s c a r t e s t a k e s t h e e p i s t e m i c d i f f e r e n c e b e t w e e n m y d i r e c t i n c o r r i g i b l e k n o w l e d g e o f m y o w n m i n d a n d m y i n d i r e c t c o r r i g i b l e k n o w l e d g e o f e x t e r n a l r e a l i t y t o m a r k a m e t a p h y s i c a l d i f f e r e n c e b e t w e e n t h e ( m e n t a l a n d p h y s i c a l ) f a c t s o r o b j e c t s k n o w n , S e a r l e i n s i s t s , " T h e s e n s e i n w h i c h I a m n o w u s i n g t h e w o r d ‘ s u b j e c t i v e ’ r e f e r s t o a n o n t o l o g i c a l c a t e g o r y , n o t t o a n e p i s t e m i c m o d e " ( S e a r l e 1 9 9 2 , p . 9 4 ) ; " t h e a c t u a l o n t o l o g y o f m e n t a l s t a t e s i s a f i r s t - p e r s o n o n t o l o g y " ( S e a r l e 1 9 9 2 , p . 1 6 ) ; " t h e m i n d c o n s i s t s o f q u a l i a , s o t o s p e a k , r i g h t d o w n t o t h e g r o u n d " ( S e a r l e 1 9 9 2 , p . 2 0 ) . B e s i d e s f o l l o w i n g D e s c a r t e s i n t a k i n g " s u b j e c t i v i t y " t o n a m e a s p e c i a l r e a l m ( o f p h e n o m e n a o r e v e n t s , I f n o t s u b s t a n c e s ) , S e a r l e a l s o f o l l o w s D e s c a r t e s i n h i s t w o - f o l d c h a r a c t e r i z a t i o n o f t h i s r e a l m . O n t h e o n e h a n d , h e c h a r a c t e r i z e s t h e s u b j e c t i v e i n t e r m s , s o t o s p e a k , o f i t s o w n e r o r c o n t a i n e r : " T h e r e i s a l w a y s a “ f i r s t p e r s o n ’ a n ‘ I ’ t h a t h a s t h e s e m e n t a l s t a t e s " ( S e a r l e 1 9 9 2 , p . 2 0 ) . " B e l i e f s , d e s i r e s , e t c . , a r e a l w a y s s o m e b o d y ' s b e l i e f s a n d d e s i r e s " ( S e a r l e 1 9 9 2 , p . 1 7 ) . A l t e r n a t e l y , S e a r l e c h a r a c t e r i z e s t h e s u b j e c t i v e r e a l m i n t e r m s , s o t o s p e a k , o f i t s c o n t e n t s : i t " c o n s i s t s o f q u a l i a " ( S e a r l e 1 9 9 2 , p . 2 0 ) , w h e r e a n i n d i v i d u a l q u a l e 3 1 2 ( e . g . , a p a r t i c u l a r v i s u a l e x p e r i e n c e ) " i s a c o n c r e t e c o n s c i o u s e v e n t " ( S e a r l e 1 9 9 2 , p . 2 2 5 ) . A c c o r d i n g t o t h i s s e c o n d c h a r a c t e r i z a t i o n " d e s i r e s a n d p a i n s " a n d t h e l i k e " a r e c o n s c i o u s e x p e r i e n c e s " ( S e a r l e 1 9 9 2 , p . 6 3 ) : t h e " o n l y o c c u r r e n t r e a l i t y o f t h e m e n t a l a s m e n t a l i s c o n s c i o u s n e s s " ( S e a r l e 1 9 9 2 , p . 1 8 7 ) w h i c h " c o m e s i n a v a r i e t y o f m o d a l i t i e s : p e r c e p t i o n , e m o t i o n , t h o u g h t , p a i n s , e t c . " ( S e a r l e 1 9 9 2 , p . 1 6 8 ) . P a r a l l e l i n g S e a r i e ’ s f i r s t c h a r a c t e r i z a t i o n o f t h e s u b j e c t i v e i n t e r m s o f i t ’ s f i r s t p e r s o n c o n t a i n m e n t , D e s c a r t e s w r i t e s , I s I t n o t o n e a n d t h e s a m e ‘ I ’ w h o I s n o w d o u b t i n g a l m o s t e v e r y t h i n g , w h o n o n e t h e l e s s u n d e r s t a n d s s o m e t h i n g s , w h o a f f i r m s t h a t t h i s o n e t h i n g [ “ I e x i s t “ ] l s t r u e , d e n i e s e v e r y t h i n g e l s e , d e s i r e s t o k n o w m o r e , I s u n w i l l i n g t o b e d e c e i v e d , i m a g i n e s m a n y t h i n g s e v e n l n v o l u n t a r l l y , i s a w a r e o f m a n y t h i n g s w h i c h a p p a r e n t l y c o m e f r o m t h e s e n s e s ? W h i c h o f t h e s e a c t i v i t i e s i s d i s t i n c t f r o m m y t h i n k i n g ? W h i c h o f t h e m c a n b e s a i d t o b e s e p a r a t e f r o m m y s e l f ? T h e f a c t t h a t i t I s I w h o a m d o u b t i n g a n d u n d e r s t a n d i n g a n d w i l l i n g I s s o e v i d e n t t h a t I s e e n o w a y o f m a k i n g i t a n y c l e a r e r . B u t i t I s a l s o t h e c a s e t h a t t h e ’ I ’ w h o i m a g i n e s i s t h e s a m e “ I ” . F o r e v e n I f , a s I h a v e s u p p o s e d , n o n e o f t h e o b j e c t s o f i m a g i n a t i o n a r e r e a l , t h e p o w e r o f i m a g i n a t i o n I s s o m e t h i n g w h i c h r e a l l y e x i s t s a n d i s p a r t o f m y t h i n k i n g . L a s t l y , I t I s a l s o t h e s a m e ‘ I ’ w h o h a s s e n s o r y p e r c e p t i o n s , o r i s a w a r e o f b o d i l y t h i n g s a s I t w e r e t h r o u g h t h e s e n s e s . ( D e s c a r t e s 1 6 4 2 , p . 1 9 ) P a r a l l e l l i n g S e a r i e ’ s q u a l i t a t i v e c o n t e n t c h a r a c t e r i z a t i o n o f s u b j e c t i v i t y , D e s c a r t e s h o l d s : A s t o t h e f a c t t h a t t h e r e c a n b e n o t h i n g I n t h e m i n d , I n s o f a r a s I t I s a t h i n k i n g t h i n g , o f w h i c h I t i s n o t a w a r e , t h i s s e e m s t o m e t o b e s e l f - e v i d e n t . F o r t h e r e I s n o t h i n g t h a t w e c a n u n d e r s t a n d t o b e i n t h e m i n d , r e g a r d e d i n t h i s w a y , t h a t I s n o t a t h o u g h t o r d e p e n d e n t o n a t h o u g h t . I f I t w e r e n o t a t h o u g h t o r d e p e n d e n t o n a t h o u g h t I t w o u l d n o t b e l o n g t o t h e m i n d q u a t h i n k i n g t h i n g ; a n d w e c a n n o t h a v e a n y t h o u g h t o f w h i c h w e a r e n o t a w a r e a t t h e v e r y m o m e n t w h e n I t i s I n u s . ( D e s c a r t e s e t a l . 1 6 4 2 , p . 1 7 1 ) A g a i n , a c c o r d i n g t o D e s c a r t e s , “ . . . t h e r e c a n b e n o t h i n g w i t h i n m e o f w h i c h I a m n o t i n s o m e w a y a w a r e " ( D e s c a r t e s e t a l . 1 6 4 2 , p . 7 7 ) . S e a r i e ’ s c h a r a c t e r i z a t i o n o f t h e m e n t a l a s e s s e n t i a l l y c o n s c i o u s , l i k e h i s c h a r a c t e r i z a t i o n o f t h e m e n t a l a s n e c e s s a r i l y p o s s e s s e d b y " a " f i r s t p e r s o n ’ a n 1 ’ , " i s t h o r o u g h l y C a r t e s i a n . 3 1 3 S e a r i e ’ s m a i n s u b s t a n t i v e a t t e m p t t o d i s t a n c e h i m s e l f f r o m D e s c a r t e s i n t h e s e c o n n e c t i o n s - - b y i n s i s t i n g , " C o n s c i o u s n e s s i s n o t a ‘ s t u f f ’ i t i s a f e a t u r e o r p r o p e r t y o f t h e b r a i n i n t h e s e n s e , f o r e x a m p l e , t h a t l i q u i d i t y i s a f e a t u r e o f w a t e r " ( S e a r l e 1 9 9 2 , p . 1 0 5 ) - s e e m s i n f e l i c i t o u s f o r t w o r e a s o n s . F i r s t , D e s c a r t e s d o e s n o t h o l d t h a t c o n s c i o u s n e s s i s a " s t u f f " e i t h e r : t h e o n t o l o g y o f t h o u g h t , f o r D e s c a r t e s , s e e m s e s s e n t i a l l y a n o n t o l o g y o f a c t s o r e v e n t s , n o t o f o b p c t s o r ( e c t o p l a s m i c ) s t u f f . A s e c o n d a n d r e l a t e d p o i n t i s t h a t i f S e a r l e m e a n s t o r e s i s t D e s c a r t e s ’ s r e i f i c a t i o n o f t h e " I " - - h i s i d e n t i f i c a t i o n o f t h e fi r s t p e r s o n h e i s w i t h a c o n s c i o u s n e s s - - h e d o e s s o a t h i s o w n t h e o r e t i c a l p e r i l . I d e n t i f i c a t i o n o f t h e t h i n k i n g s u b j e c t ( C a r t e s i a n e g o ) w i t h a p a r t i c u l a r f i e l d a n d s t r e a m o f c o n s c i o u s e x p e r i e n c e s , f o r D e s c a r t e s , r e c o n c i l e s t h e c o n t e n t a n d c o n t a i n e r c h a r a c t e r i z a t i o n s o f t h e m e n t a l : c o n t e n t s o f s t r e a m s o f c o n s c i o u s n e s s a r e t h e m s e l v e s c o n s c i o u s e v e n t s ( q u a l i a ) a n d c o n s c i o u s e v e n t s , f o r D e s c a r t e s , e x i s t o n l y a s p a r t s o r m o d e s o f s u c h c o n s c i o u s n e s s e s . I f S e a r l e t r i e s t o i d e n t i f y t h i s " I " o r " f i r s t p e r s o n " w i t h s o m e t h i n g m o r e c o r p o r e a l - w i t h a p a r t i c u l a r h u m a n o r g a n i s m o r m o r e n a r r o w l y w i t h a p a r t i c u l a r h u m a n o r g a n i s m ’ s b r a i n - t h e c o n t e n t a n d c o n t a i n e r c h a r a c t e r i z a - t i o n s o f t h e m e n t a l r e a l m c o m e t r o u b l e s o m e l y a p a r t . M a n y p h e n o m e n a o c c u r r i n g i n h u m a n b r a i n s a r e n o t c o n s c i o u s o r p o t e n t i a l l y c o n s c i o u s . 2 . 3 P r i v i l e g e d A c c e s s I h a v e a l r e a d y n o t e d t h a t S e a r i e ’ s C h i n e s e r o o m e x p e r i m e n t s e e m s t o d e p e n d o n g r a n t i n g t h e a p p e a r a n c e t o t h e p e r s o n i n t h e r o o m f r o m t h e i r f i r s t - p e r s o n p o i n t o f v i e w o f n o t u n d e r s t a n d i n g t h e p r i v i l e g e o f o v e r r i d i n g a l l b e h a v i o r a l e v i d e n c e 3 1 4 - - a l l a p p e a r a n c e s t o o t h e r s f r o m t h e i r t h i r d - p e r s o n p o i n t s o f v i e w - - o f u n d e r - s t a n d i n g . T h e f i r s t - p e r s o n o n t o l o g y o f t h e m e n t a l h a s , f o r S e a r l e a s f o r D e s c a r t e s , t h e e p i s t e m i c c o r o l l a r y " t h a t t h e f i r s t - p e r s o n p o i n t o f v i e w i s p r i m a r y " ( S e a r l e 1 9 9 2 , p . 2 0 ) . T h e s u b j e c t i v i t y o f t h e m e n t a l m e a n s t h a t w h i l e w e e a c h h a v e d i r e c t a c c e s s " ( S e a r l e 1 9 9 2 , p . 7 4 : m y e m p h a s i s ) t o o u r o w n m e n t a l p h e n o m e n a " b e c a u s e o f t h e i r i n t r i n s i c s u b j e c t i v i t y " w e o n l y " h a v e i n d i r e c t m e t h o d s o f g e t t i n g a t t h e s a m e e m p i r i c a l f a c t s " ( S e a r l e 1 9 9 2 , p . 7 3 ) i n o t h e r s : " e m p i r i c a l p h e n o m e n a t h a t a r e i n t r i n s i c a l l y s u b j e c t i v e [ a r e ] t h e r e f o r e i n a c c e s s i b l e t o d i r e c t t h i r d - p e r s o n t e s t s " ( S e a r l e 1 9 9 2 , p . 7 5 ) . W h a t t h e s u b j e c t i v i t y o f t h e m e n t a l m e a n s e p i s t e m i c a l l y , f o r S e a r l e , i s t h a t " j u s t a s I h a v e a s p e c i a l r e l a t i o n t o m y c o n s c i o u s s t a t e s , w h i c h i s n o t l i k e m y r e l a t i o n t o o t h e r p e o p l e ’ s c o n s c i o u s s t a t e s , s o t h e y i n t u r n h a v e a r e l a t i o n t o t h e i r c o n s c i o u s s t a t e s , w h i c h i s n o t l i k e m y r e l a t i o n t o t h e i r c o n s c i o u s s t a t e s " ( S e a r l e 1 9 9 2 , p . 9 4 - 9 5 ) . O b j e c t i v e e m p i r i c a l f a c t s a r e " e q u a l l y a c c e s s i b l e e p i s t e m i c a l l y t o a l l c o m p e t e n t o b s e r v e r s , " s u b j e c t i v e e m p i r i c a l f a c t s " a r e n o t e q u a l l y a c c e s s i b l e t o a l l c o m p e t e n t o b s e r v e r s " ( S e a r l e 1 9 9 2 , p . 7 2 ) . S t i l l , S e a r l e i n s i s t s , " T h i s i s n o t a n a r g u m e n t f o r ‘ p r i v i l e g e d a c c e s s ’ b e c a u s e t h e r e i s n o p r i v i l e g e a n d n o a c c e s s " ( S e a r l e 1 9 9 2 , p . 9 5 , n o t e 5 ) . H o w s o ? P r i v i l e g e d a c c e s s , t r a d i t i o n a l l y c o n c e i v e d , h a s t w o f o l d s : I t ’ s d i r e c t ( i m m e d i a t e a n d n o n i n f e r e n t i a l ) a n d i t ’ s i n c o r r i g i b l e ( i n c a p a b l e o f b e i n g o v e r r i d d e n ) . S e a r l e a t t e m p t s t o d i s t a n c e h i m s e l f f r o m b o t h t h e s e f a c e t s o f t h e t r a d i t i o n a l c o n c e p t i o n w i t h e q u i v o c a l s u c c e s s . W i t h r e g a r d t o t h e d i r e c t n e s s o f t h i n k e r s ’ s a c c e s s t o t h e i r o w n t h o u g h t s , S e a r l e a t t e m p t s t o d i s t a n c e h i s c o n c e p t i o n o f t h i s i m m e d i a c y o r d i r e c t n e s s f r o m t h e w a y , h e t h i n k s , i t w a s t r a d i t i o n a l l y m i s t a k e n l y c o n c e i v e d a s 3 1 5 a k i n d o f i n n e r p e r c e p t i o n , o r " i n t r o s p e c t i o n . " W i t h r e g a r d t o t h e i n c o r r i g i b i l i t y D e s c a r t e s a l l e g e s a n d t r a d i t i o n a c c e p t e d o n b e h a l f o f o u r a w a r e n e s s o f o u r o w n c o n s c i o u s m e n t a l s t a t e s , S e a r l e w r i t e s , " f r o m t h e f a c t o f s u b j e c t i v e o n t o l o g y i t d o e s n o t f o l l o w t h a t o n e c a n n o t b e m i s t a k e n a b o u t o n e ’ s o w n m e n t a l s t a t e s " ( S e a r l e 1 9 9 2 , p . 1 4 5 ) . H o w e v e r , i t i s n o t c l e a r w h y o n S e a r i e ’ s v i e w i t s h o u l d n o t f o l l o w f r o m t h e d i r e c t n e s s o f o u r a c c e s s t h a t o u r k n o w l e d g e o f o u r o w n m e n t a l s t a t e s i s i n c o r r i g i b l e , a s D e s c a r t e s t h o u g h t . N e i t h e r i s i t c l e a r w h e t h e r s o m e l e s s e r e p i s t e m i c p r i v i l e g e t h a n c o m p l e t e i n c o r r i g i b i l i t y - s a y t h e p r i v i l e g e o f o v e r r i d i n g a l l t h i r d - p e r s o n e v i d e n c e - - I s n o t p r i v i l e g e e n o u g h s t i l l t o g i v e r i s e t o t r a d i t i o n a l C a r t e s i a n a n o m a l i e s a b o u t k n o w l e d g e o f o t h e r m i n d s a n d t h e d i f f i c u l t y o f p s y c h o l o g y . D e s c a r t e s t h i n k s i t f o l l o w s f r o m t h e d i r e c t n e s s o f o n e ’ s a w a r e n e s s o f o n e ’ s o w n m e n t a l s t a t e t h a t s u c h a w a r e n e s s i s i n c o r r i g i b l e f o r t h e f o l l o w i n g r e a s o n s . E v e r y t h i n g e l s e o n e k n o w s - - a b o u t t h e e x t e r n a l w o r l d , m a t h e m a t i c a l o b j e c t s , a n d e v e n G o d - o n e k n o w s , a s i t w e r e , i n d i r e c t l y . K n o w l e d g e o f a l l m i n d e x t e r n a l t h i n g s , D e s c a r t e s r e a s o n s , i s m e d i a t e d b y t h e i r p h e n o m e n o l o g i c a l a p p e a r a n c e s t o m e o r m y m e n t a l r e p r e s e n t a t i o n s o f t h e m . B u t r e p r e s e n t a t i o n s c a n m i s r e p r e - s e n t a n d a p p e a r a n c e s c a n b e d e c e i v i n g . T h u s , m y k n o w l e d g e o f e x t e r n a l t h i n g s i s c o r r i g i b l e : a b o u t a l l t h e s e t h i n g s i t i s p o s s i b l e t h a t I ’ m m i s t a k e n ( c f . D e s c a r t e s 1 6 4 2 , M e d i a t i o n 1 ) . B u t i n t h e c a s e o f m y o w n m e n t a l s t a t e s t h e r e i s n o m e d i a t i n g r e p r e s e n t a t i o n , s o n o p o s s i b i l i t y o f m i s r e p r e s e n t a t i o n : h e n c e , " I c a n a c h i e v e a n e a s i e r a n d m o r e e v i d e n t p e r c e p t i o n o f m y o w n m i n d t h a n o f a n y t h i n g e l s e . " E v e n a n i n c o r r i g i b l e p e r c e p t i o n : j u s t a s " I a m , i e x i s t , i s n e c e s s a r i l y t r u e 3 1 6 w h e n e v e r i t i s c o n c e i v e d i n m y m i n d " - - s i n c e w h a t t h i s " I " i s i s a t h i n k i n g ( i . e . , b e l i e v i n g , d e s i r i n g , u n d e r s t a n d i n g , e t c . ) t h i n g - - s o a r e " I b e l i e v e p , " " I w a n t q , " " I u n d e r s t a n d r , " e t c . , n e c e s s a r i l y t r u e w h e n e v e r t h e y a r e c o n c e i v e d i n m y m i n d . S i n c e S e a r l e f o l l o w s D e s c a r t e s i n s u p p o s i n g c o n s c i o u s e x p e r i e n c e s a r e t h e " e p i s t e m i c b a s e s " o f e v e r y t h i n g e l s e w e k n o w , a n d l i k e w i s e a g r e e s t h a t " i n t h e c a s e o f c o n s c i o u s n e s s , i t s r e a l i t y i s t h e a p p e a r a n c e " ( S e a r l e 1 9 9 2 , p . 1 2 2 ) , h o w d o e s h e r e s i s t D e s c a r t e s ’ s c o n c l u s i o n t h a t o u r a w a r e n e s s o f o u r o w n m e n t a l s t a t e s i s i n c o r r i g i b l e ? H e s a y s , " i t d o e s n o t f o l l o w t h a t o n e c a n n o t b e m i s t a k e n a b o u t o n e ’ s m e n t a l s t a t e s . A l l t h a t f o l l o w s i s t h a t t h e s t a n d a r d m o d e l s o f m i s t a k e , m o d e l s b a s e d o n t h e a p p e a r a n c e - r e a l i t y d i s t i n c t i o n , d o n ’ t w o r k f o r t h e e x i s t e n c e a n d c h a r a c t e r i z a t i o n o f m e n t a l s t a t e s " ( S e a r l e 1 9 9 2 , p . 1 4 5 ) . C o n s i d e r a t i o n o f S e a r i e ’ s a l t e r n a t i v e m o d e l s o f m i s m k e - - b a s e d o n s e l f - d e c e p t i o n , m i s i n t e r p r e t a t i o n , a n d i n a t t e n t i o n - f i n d s t h e m w a n t i n g , t h o u g h ( s e e S e c t i o n 5 , b e l o w ) . B u t s u p p o s e S e a r l e c a n s u c c e s s f u l l y r e s i s t D e s c a r t e s ’ s c o n c l u s i o n - s u p p o s e h e c a n , d e s p i t e h i s a l l e g i a n c e t o t h e d i r e c t n e s s d o c t r i n e a n d d e n i a l o f a n y a p p e a r a n c e - r e a l i t y d i s t i n c t i o n w i t h r e g a r d t o o n e ’ s o w n m e n t a l s t a t e s , c o n s i s t e n t l y m a i n t a i n t h a t o n e ’ s k n o w l e d g e o f o n e ’ s o w n m e n t a l s t a t e s i s , n e v e r t h e l e s s , c o r r i g i b l e . H o w c o r r i g i b l e i s i t ? I f a p p e a r a n c e s f r o m t h e fi r s t - p e r s o n p o i n t o f v i e w o f n o t u n d e r s t a n d i n g a r e s u p p o s e d t o b e c a p a b l e o f o v e r r i d i n g a l l p u b l i c a p p e a r a n c e s o f u n d e r s t a n d i n g t o t h e c o n t r a r y i n t h e C h i n e s e r o o m e x p e r i m e n t , a s i t s e e m s , t h e a n s w e r w o u l d s e e m t o b e , " H a r d l y a t a l l . " O n t h e o t h e r h a n d S e a r l e r e c e n t l y a l l o w s , " t h a t i t o f t e n h a p p e n s t h a t s o m e o n e e l s e i s i n a b e t t e r p o s i t i o n t h a n w e a r e t o d e t e r m i n e w h e t h e r o r n o t w e a r e r e a l l y , f o r e x a m p l e , j e a l o u s , a n g r y , o r 3 1 7 f e e l i n g g e n e r o u s " ( S e a r l e 1 9 9 2 , p . 1 4 5 ) . I f h e a l l o w s t h i s , I s u b m i t t h a t i t m i g h t h a p p e n ( e . g . , i n C h i n e s e r o o m s ) t h a t s o m e o n e e l s e i s i n a b e t t e r p o s i t i o n t h a n o n e s e l f t o d e t e r m i n e w h e t h e r o r n o t o n e i s r e a l l y , f o r e x a m p l e , u n d e r s t a n d i n g C h i n e s e . E v e n i f S e a r l e c a n r e s i s t e x t r a p o l a t i o n o f t h i s d o w n g r a d i n g o f t h e p r i m a c y h e p r e v i o u s l y a c c o r d e d t h e f i r s t - p e r s o n p o i n t o f v i e w i n t h e c a s e o f u n d e r s t a n d i n g , h e u n d e r m i n e s h i s c l a i m t h a t " t h e s a m e [ C h i n e s e r o o m c o u n t e r e x a m p l e ] w o u l d a p p l y t o a n y T u r i n g m a c h i n e s i m u l a t i o n o f h u m a n m e n t a l p h e n o m e n a “ ( S e a r l e 1 9 8 0 a , p . 4 1 7 ) . O n S e a r i e ’ s r e c e n t l y e x p r e s s e d v i e w s t h e s a m e c o u n t e r e x a m p l e w o u l d n o t a p p l y t o T u r i n g m a c h i n e s i m u l a t i o n s o f j e a l o u s y , a n g e r , a n d g e n e r o s i t y , f o r e x a m p l e . C o n f r o n t e d w i t h t h e c h a l l e n g e t h a t h i s v i e w s i n t h e s e c o n n e c t i o n s a r e i n d i s t i n g u i s h a b l e f r o m D e s c a r t e s ’ s a n d , a s s u c h , t o o r e g r e s s i v e t o m e r i t s e r i o u s c o n s i d e r a t i o n , S e a r l e i n v o k e s w h a t I c a l l t h e " d e n y - t h e — n a m e m a n e u v e r . " T h a t i s , h e c l a i m s t h a t t h e r e i s n o s u c h t h i n g a s s u c h - a n d - s u c h e s o n t h e g r o u n d t h a t t h e c h a r a c t e r i s t i c e x p r e s s i o n s u s e d b y p h i l o s o p h e r s t o d e s i g n a t e s u c h - a n d — s u c h e s i m b e d a f a l s e p i c t u r e o r m i s l e a d i n g a n a l o g y . T h u s , h e m a i n t a i n s , t h e r e i s n o s u c h t h i n g a s i n t r o s p e c t i o n ( s o , o f c o u r s e , h e i s n o t a d v o c a t i n g a n y t h i n g l i k e i n t r o s p e c - t i o n i s m ) o n t h e g r o u n d s t h a t " t h e m o d e l o f s p e c t i n g i n t r o r e q u i r e s a d i s t i n c t i o n b e t w e e n t h e o b j e c t s p e c t e d a n d t h e s p e c t i n g o f i t , a n d w e c a n n o t m a k e t h i s d i s t i n c t i o n f o r c o n s c i o u s s t a t e s " ( S e a r l e 1 9 9 2 , p . 1 4 4 ) . H e m a i n t a i n s , t h e r e i s n o s u c h t h i n g a s p r i v i l e g e d a c c e s s ( s o , o f c o u r s e , h e i s n o t i n v o k i n g a n y s u c h d i s c r e d i t e d C a r t e s i a n a p p a r a t u s ) o n t h e g r o u n d s t h a t " t h e m e t a p h o r o f a p r i v a t e i n n e r s p a c e [ w h i c h I a c c e s s ] b r e a k s d o w n w h e n w e u n d e r s t a n d t h a t t h e r e i s n ’ t 3 1 8 a n y t h i n g l i k e a s p a c e i n t o w h i c h I c a n e n t e r , b e c a u s e I c a n n o t m a k e t h e n e c e s s a r y d i s t i n c t i o n s b e t w e e n t h e t h r e e e l e m e n t s o f m y s e l f , t h e a c t o f e n t e r i n g , a n d t h e s p a c e i n t o w h i c h I a m s u p p o s e d t o e n t e r " ( S e a r l e 1 9 9 2 , p . 9 8 ) . B u t d e n y - t h e - n a m e i s a m i s b e g o t t e n a r g u m e n t a t i v e m a n e u v e r . I t w o u l d b e m o s t h e a r t e n i n g t o e l i m i n a t i v i s t s i f o n e c o u l d a r g u e c o g e n t l y i n t h i s m a n n e r : o n e m i g h t a r g u e t h e r e ’ s n o s u c h t h i n g a s u n d e r s t a n d i n g b e c a u s e t h e r e ’ s n o t h i n g t o s t a n d u n d e r a n d n o t h i n g c a p a b l e o f s t a n d i n g t h e r e ( m i n d s o r b r a i n s d o n ’ t h a v e l e g s ) ; t h e r e ’ s n o s u c h t h i n g a s a p p r e h e n s i o n b e c a u s e t h e r e ’ s n o t h i n g i n m i n d s t o b e s e i z e d n o r c a p a b l e o f s e i z i n g i t ( m i n d s o r b r a i n s d o n ’ t h a v e h a n d s ) ; e t c . O n e m i g h t a l s o a r g u e t h a t t h e r e ’ s n o s u c h t h i n g a s p h e n o m e n o l o g i c a l i n t r i n s i c a l i t y b e c a u s e a p h e n o m e n o l o g i c a l s e l f i s n o t l i t e r a l l y a c o n t a i n e r i n w h i c h t h o u g h t s c o u l d l i t e r a l l y b e c o n t a i n e d . B u t o n e c a n ' t a r g u e s o u n d l y i n t h i s m a n n e r . S e a r l e h i m s e l f o b s e r v e s , " A n o t h e r r h e t o r i c a l d e v i c e f o r d i s g u i s i n g t h e i m p l a u s i b l e i s t o g i v e t h e c o m m o n s e n s e v i e w a n a m e a n d t h e n d e n y i t b y n a m e a n d n o t b y c o n t e n t " ( S e a r l e 1 9 9 2 , p . 4 ) . S e a r l e c a l l s t h i s t h e " ‘ g i v e — i t - a - n a m e ’ m a n e u v e r " ( S e a r l e 1 9 9 2 , p . 5 : m y e m p h a s i s ) . T h e d e n y - t h e - n a m e m a n e u v e r S e a r l e h i m s e l f u s e s i s j u s t a v a r i a n t o f t h i s : a r h e t o r i c a l d e v i c e f o r d i s g u i s i n g o n e ’ s c o m m i t m e n t t o p h i l o s o p h i c a l v i e w s f ' t h o u g h t l o n g a g o d i s c r e d i t e d " b y o b j e c t i n g t o t h e i r n a m e s w i t h o u t r e j e c t i n g t h e i r c o n t e n t . 2 . 4 S u m m a r y a n d P r o s p e c t u s W i t h t h e C a r t e s i a n p r o v e n a n c e o f s o m a n y c e n t r a l S e a r l e a n d o c t r i n e s n o t i n d o u b t , i t i s o b v i o u s t h a t S e a r i e ’ s " r e d i s c o v e r y o f t h e m i n d " i s a n a t t e m p t t o r e c l a i m 3 1 9 t h e C a r t e s i a n v a n t a g e p o i n t o r " f i r s t - p e r s o n p o i n t o f v i e w " f o r p s y c h o l o g y . T h e q u e s t i o n r e m a i n i n g i s w h e t h e r t h i s a t t e m p t i s r e g r e s s i v e o r w h e t h e r , o n t h e c o n t r a r y , S e a r i e ’ s r e d i s c o v e r y o v e r c o m e s t h e d i f f i c u l t i e s D e s c a r t e s ’ s o r i g i n a l d i s c o v e r y b e g o t ; d i f f i c u l t i e s w h i c h l e d , i n t h e e a r l i e r p a r t o f t h i s c e n t u r y t o w h o l e s a l e a n d p r e c i p i t o u s a b a n d o n m e n t b y p s y c h o l o g i s t s o f t h e " p o i n t o f v i e w " S e a r l e c l a i m s t o " r e d i s c o v e r . " D o S e a r i e ’ s p r o p o s a l s - h i s " s i m p l e s o l u t i o n " ( S e a r l e 1 9 9 2 , p . 1 ) t o t h e m i n d b o d y p r o b l e m ; h i s " s o l u t i o n t o t h e ‘ o t h e r m i n d s p r o b l e m ’ " ( S e a r l e 1 9 9 2 , p . 7 8 ) ; h i s a t t e m p t t o e x p l a i n h o w , d e s p i t e t h e " i n p r i n c i p l e " a c c e s s i - b i l i t y o f a l l m e n t a l s t a t e s t o c o n s c i o u s n e s s a n d t h e c i r c u m s t a n c e t h a t " t h e a p p e a r a n c e [ o f m e n t a l s t a t e s f r o m t h e f i r s t - p e r s o n p o i n t o f v i e w ] i s t h e i r r e a l i t y " ( S e a r l e 1 9 9 2 , p . 1 2 2 ) , s u c h a p p e a r a n c e s c a n b e d e c e i v i n g - - r e a l l y s o l v e a n y t h i n g ? I t h i n k S e a r i e ’ s e n d e a v o r s i n t h e s e c o n n e c t i o n s d o n o t s u c c e e d . T h e c h a r a c t e r i s t i c a n o m a l i e s o f d u a l i s m r e m a i n a s a n o m a l o u s a s e v e r o n S e a r i e ’ s a s - i f d u a l l s t i c v i e w s . 3 . T h e M i n d - B o d y P r o b l e m a n d S e a r i e ’ s “ S o l u t i o n " T h e m i n d - b o d y p r o b l e m , a s S e a r l e p u t s i t , c o n c e r n s w h e t h e r " w e w i l l b e l e f t w i t h a c l a s s o f e n t i t i e s [ o r p h e n o m e n a ] t h a t l i e s o u t s i d e t h e r e a l m o f s e r i o u s s c i e n c e a n d w i t h a n i m p o s s i b l e p r o b l e m o f r e l a t i n g t h e s e e n t i t i e s [ o r p h e n o m e n a ] t o t h e r e a l w o r l d o f p h y s i c a l o b j e c t s " : S e a r l e r e c o g n i z e s t h i s a s a s i g n a l " i n c o h e r - e n c e o f C a r t e s i a n d u a l i s m " ( S e a r l e 1 9 8 3 , p . 2 6 3 ) . I t i s m y c o n t e n t i o n t h a t S e a r i e ’ s 4 . T h i s w h o l e s e c t i o n - a t l e a s t , t h e f e l l c l t o u s p a r t s - - o w e s m u c h t o c o m m e n t s a n d s u g g e s t i o n s o f R i c h H a l l . 3 2 0 a t t e m p t e d " m o n i s t i n t e r a c t i o n i s " ( S e a r l e 1 9 8 0 b , p . 4 5 5 ) s o l u t i o n t o t h e m i n d b o d y p r o b l e m - - a s o l u t i o n h e n o w a d a y s t e r m s " b i o l o g i c a l n a t u r a l i s m " - - f a i l s . 5 E i t h e r " m o n i s t i n t e r a c t i o n " u n d e r w r i t e s r e d u c t i o n o f t h e m e n t a l t o t h e p h y s i c a l , i n w h i c h c a s e i t ’ s n o m o r e , o r l e s s , s u c c e s s f u l a t s o l v i n g t h e p r o b l e m t h a n c e n t r a l s t a t e i d e n t i t y t h e o r i e s ( e . g . , S m a r t 1 9 5 9 ; A r m s t r o n g 1 9 6 8 ) , w h i c h i s w h a t S e a r i e ’ s w o u l d b e o n t h i s u n d e r s t a n d i n g ; o r e l s e i t u n d e r w r i t e s a f u n c t i o n a l i s t s t y l e t o k e n - t o k e n q u a s i - r e d u c t i o n , i n w h i c h c a s e S e a r i e ’ s a c c o u n t i s n o m o r e , o r l e s s , s u c c e s s f u l a t s o l v i n g t h e m i n d - b o d y p r o b l e m t h a n s t a n d a r d f u n c t i o n a l i s t a c c o u n t s ( e . g . C u m m i n s 1 9 8 9 ; P y l y s h y n 1 9 8 4 ; F o d o r 1 9 7 4 ) w h i c h a v a i l t h e m s e l v e s o f s u c h t o k e n i d e n t i f i c a t i o n s ( w h i c h S e a r i e ’ s a c c o u n t w o u l d b e o n t h i s u n d e r s t a n d i n g ) ; o r e l s e i t u n d e r w r i t e s n e i t h e r r e d u c t i o n n o r q u a s i - r e d u c t i o n , i n w h i c h c a s e S e a r i e ’ s a c c o u n t i s n o m o r e s u c c e s s f u l a t s o l v i n g t h e m i n d - b o d y p r o b l e m t h a n D e s c a r t e s ’ s ( f r o m w h i c h S e a r i e ’ s a c c o u n t i s s c a r c e l y d i s t i n g u i s h a b l e o n t h i s a s - i f d u a l i s t i c i n t e r p r e t a t i o n ) . T h e v i e w S e a r l e a d v a n c e s “ t o w a r d ‘ s o l v i n g t h e m i n d - b o d y p r o b l e m ’ " ( S e a r l e 1 9 8 4 , p . 1 7 ) a n d t h e " p i c t u r e “ h e b e l i e v e s " w i l l e v e n t u a l l y l e a d t o a r e s o l u t i o n o f t h e d i l e m m a " ( S e a r l e 1 9 8 3 , p . 2 6 4 ) p o s e d b y " t h e c a u s a l e f f i c a c y o f t h e m e n t a l " ( S e a r l e 1 9 8 3 , p . 2 6 5 ) i s o n e " a c c o r d i n g t o w h i c h m e n t a l s t a t e s a r e b o t h c a u s e d b y t h e o p e r a t i o n s o f t h e b r a i n a n d r e a l i z e d i n t h e s t r u c t u r e o f t h e b r a i n ( a n d t h e r e s t o f t h e c e n t r a l n e r v o u s s y s t e m ) " ( S e a r l e 1 9 8 3 , p . 2 6 5 ) . T h i s a c c o u n t i s s u p p o s e d t o 5 . S e a r l e s a y s , “ t o d i s t i n g u i s h t h i s v i e w f r o m m a n y o t h e r s i n t h e fi e l d , I c a l l I t ' b I o l o g i c a l n a t u r a l l s m ’ “ ( S e a r l e 1 9 9 2 , p . 1 ) . S i n c e I b e l i e v e S e a r i e ’ s o r i g i n a l n a m e f o r t h i s v i e w t o b e m o r e a p t t h a n t h i s n e w o n e - - b o t h m o r e d e s c r i p t i v e a n d ( w i t h I t s w h i f f o f p a r a d o x ) m o r e s u g g e s t i v e - - I c o n t i n u e t o s p e a k o f “ m o n i s t I n t e r a c t i o n . “ 3 2 1 r e n d e r t h e m e n t a l - - i n p a r t i c u l a r t h e l i a b i l i t y o f m i n d s t o b e a f f e c t e d b y p h y s i c a l c a u s e s a n d t h e p o w e r o f t h e m i n d t o p r o d u c e o t h e r m e n t a l a n d p h y s i c a l e f f e c t s - - p h y s i c a l l y a n d e v e n m e c h a n i c a l l y e x p l i c a b l e w i t h o u t h a v i n g t h e c o n s e q u e n c e t h a t " i n t r i n s i c m e n t a l p h e n o m e n a " c a n b e " r e d u c e d t o s o m e t h i n g e l s e o r e l i m i n a t e d b y s o m e k i n d o f r e d e f i n i t i o n " ( S e a r l e 1 9 8 3 , p . 2 6 2 ) o r e v e n q u a s i - r e d u c e d b y t o k e n - t o k e n i d e n t i f i c a t i o n s . H o w i s t h i s s u p p o s e d t o w o r k , t h i s " a p p r o a c h t h a t d o e s n o t c o m m i t o n e t o t h e v i e w t h a t t h e r e i s s o m e c l a s s o f m e n t a l e n t i t i e s l y i n g o u t s i d e t h e p h y s i c a l w o r l d a l t o g e t h e r , a n d y e t d o e s n o t d e n y t h e r e a l e x i s t e n c e a n d c a u s a l e f f i c a c y o f t h e m e n t a l " ( S e a r l e 1 9 8 3 , p . 2 6 3 ) ? T o m a k e i t w o r k , S e a r l e f a c e s a n a p p a r e n t d i l e m m a : I f t h e s p e c i f i c a l l y m e n t a l a s p e c t s o f m e n t a l s t a t e s a n d e v e n t s f u n c t i o n c a u s a l l y t h e n t h e c a u s a l r e l a t i o n l s t o t a l l y m y s t e r i o u s a n d o c c u l t ; I f , o n t h e o t h e r h a n d , y o u e m p l o y t h e f a m i l i a r n o t i o n o f c a u s a t i o n a c c o r d i n g t o w h i c h t h e a s p e c t s o f e v e n t s w h i c h a r e c a u s a l l y r e l e v a n t a r e t h o s e d e s c r i b e d b y c a u s a l l a w s , a n d a c c o r d i n g t o w h i c h a l l c a u s a l l a w s a r e p h y s i c a l l a w s , t h e n t h e r e c a n ’ t b e a n y c a u s a l e f f i c a c y t o t h e m e n t a l a s p e c t s o f m e n t a l s t a t e s . A t m o s t t h e r e w o u l d b e a c l a s s o f p h y s i c a l e v e n t s w h i c h s a t i s f y s o m e m e n t a l d e s c r i p t i o n s , b u t t h o s e d e s c r i p t i o n s a r e n o t t h e d e s c r i p t i o n s u n d e r w h i c h t h e e v e n t s I n s t a n t l a t e c a u s a l l a w s , a n d t h e r e f o r e t h e y d o n o t p i c k o u t c a u s a l a s p e c t s o f t h e e v e n t s . E i t h e r y o u h a v e d u a l i s m a n d a n u n i n t e l l i g i b l e a c c o u n t o f c a u s a t i o n o r y o u h a v e a n l n t e l l l g l b l e a c c o u n t o f c a u s a t i o n a n d a b a n d o n t h e I d e a o f t h e c a u s a l e f f i c a c y o f t h e m e n t a l I n f a v o r o f s o m e v e r s i o n o f t h e i d e n t i t y t h e s i s w i t h a n a t t e n d a n t e p i p h e n o m e n a l l s m o f t h e m e n t a l a s p e c t s o f p s y c h o — p h y s i c a l e v e n t s . ( S e a r l e 1 9 8 3 , p . 2 M 2 6 5 ) Y e t , S e a r l e a l l e g e s , t h e r e i s r e a l l y n o g r e a t m y s t e r y a b o u t m i n d - b o d y i n t e r a c t i o n f o r t h e r e a r e m a n y " c o m p l e t e l y t r i v i a l a n d f a m i l i a r e x a m p l e s o f t h e s e s a m e s o r t s o f r e l a t i o n s " ( S e a r l e 1 9 8 3 , p . 2 6 5 ) . T h e m e n t a l , h e h o l d s , i s c a u s e d b y a n d r e a l i z e d i n t h e p h y s i c a l ( s p e c i f i c a l l y , i n t h e n e u r o p h y s i o l o g y o f t h e b r a i n ) j u s t a s " t h e l i q u i d p r o p e r t i e s o f w a t e r a r e c a u s e d b y t h e m o l e c u l a r b e h a v i o r [ o f t h e w a t e r 3 2 2 m o l e c u l e s ] " a n d l i k e w i s e " r e a l i z e d i n t h e c o l l e c t i o n o f m o l e c u l e s " ( S e a r l e 1 9 8 3 , p . 2 6 5 ) . T h e g e n e r a l p o i n t , S e a r l e c l a i m s , i s " t h a t t w o p h e n o m e n a c a n b e r e l a t e d b o t h b y c a u s a t i o n a n d r e a l i z a t i o n p r o v i d e d t h a t t h e y a r e s o a t d i f f e r e n t l e v e l s o f d e s c r i p t i o n " ( S e a r l e 1 9 8 3 , p . 2 6 6 ) . " N o t h i n g , " S e a r l e c l a i m s , " i s m o r e c o m m o n i n n a t u r e t h a n f o r s u r f a c e f e a t u r e s o f a p h e n o m e n o n t o b e b o t h c a u s e d b y a n d r e a l i z e d i n a m i c r o - s t r u c t u r e , a n d t h o s e a r e e x a c t l y t h e r e l a t i o n s h i p s t h a t a r e e x h i b i t e d b y t h e r e l a t i o n o f m i n d t o b r a i n " ( S e a r l e 1 9 8 4 , p . 2 2 - 2 3 ) . O n t h i s a c c o u n t m e n t a l p r o p e r t i e s a r e g l o b a l o r s u r f a c e p r o p e r t i e s ( m a c r o - p r o p e r t i e s ) o f b r a i n s o r n e r v o u s s y s t e m s j u s t a s l i q u i d i t y i s a g l o b a l p r o p e r t y o f c o l l e c t i o n s o f w a t e r m o l e c u l e s , e l a s t i c i t y a g l o b a l p r o p e r t y o f t h e c o l l e c t i o n s o f m o l e c u l e s i n fi r e s , t r a n s p a r e n c y a g l o b a l p r o p e r t y o f t h e c o l l e c t i o n o f m o l e c u l e s i n t h e w i n d o w g l a s s , e t c . ( S e a r l e 1 9 8 4 , p . 2 0 ) : " m e n t a l p h e n o m e n a a r e j u s t [ h i g h l e v e l ] f e a t u r e s o f t h e b r a i n ( a n d p e r h a p s t h e r e s t o f t h e c e n t r a l n e r v o u s s y s t e m ) " ( S e a r l e 1 9 8 4 , p . 1 9 ) . T h e s e e m i n g m y s t e r y o f t h e s u p p o s e d c a u s a l i n t e r a c t i o n o f m i n d a n d b r a i n o n l y s e e m s s o [ m y s t e r i o u s ] I f w e t h i n k o f t h e m e n t a l a n d t h e p h y s i c a l a s n a m i n g t w o o n t o l o g i c a l c a t e g o r i e s , t w o m u t u a l l y e x c l u s i v e c l a s s e s o f t h i n g s , m e n t a l t h i n g s a n d p h y s i c a l t h i n g s , a s I f w e l i v e d i n t w o w o r l d s , a m e n t a l w o r l d a n d a p h y s i c a l w o r l d . B u t i f w e t h i n k o f o u r s e l v e s a s l i v i n g I n o n e w o r l d w h i c h c o n t a i n s m e n t a l t h i n g s I n t h e s e n s e I n w h i c h I t c o n t a i n s l i q u i d t h i n g s a n d s o l i d t h i n g s , t h e n t h e r e a r e n o m e t a p h y s i c a l o b s t a c l e s t o a c a u s a l a c c o u n t o f s u c h t h i n g s . M y b e l i e f s a n d d e s i r e s , m y t h i r s t s a n d v i s u a l e x p e r i e n c e s , a r e r e a l c a u s a l f e a t u r e s o f m y b r a i n , a s m u c h a s t h e s o l i d i t y o f t h e t a b l e I w o r k a t a n d t h e l i q u i d i t y o f t h e w a t e r I d r i n k a r e c a u s a l f e a t u r e s o f t a b l e s a n d w a t e r . ( S e a r l e 1 9 8 3 , p . 2 7 1 ) S e a r i e ’ s " s o l u t i o n " t o t h e m i n d - b o d y i n t e r a c t i o n p r o b l e m i s t h a t " b e c a u s e m e n t a l s t a t e s a r e f e a t u r e s o f t h e b r a i n , t h e y h a v e t w o l e v e l s o f d e s c r i p t i o n - a h i g h e r l e v e l i n m e n t a l t e r m s , a n d a l o w e r l e v e l i n p h y s i o l o g i c a l t e r m s . T h e v e r y s a m e c a u s a l p o w e r s o f t h e s y s t e m c a n b e d e s c r i b e d a t e i t h e r l e v e l " ( S e a r l e 1 9 8 4 , p . 2 6 ) . 3 2 3 I t s e e m s t h e " s o l u t i o n " t o t h e m i n d - b r a i n i n t e r a c t i o n p r o b l e m b e i n g d e p i c t e d h e r e i s t h a t t h e r e i s o n l y o n e t h i n g , t h e b r a i n , d e s c r i b a b l e i n m e n t a l a n d p h y s i c a l t e r m s . G i v e n " t h e w i d e l y h e l d v i e w t h a t a n i d e a l c a u s a l a c c o u n t o f t h e w o r l d m u s t a l w a y s m a k e r e f e r e n c e t o ( s t r i c t ) c a u s a l l a w s a n d t h o s e l a w s m u s t a l w a y s b e s t a t e d i n p h y s i c a l t e r m s " ( S e a r l e 1 9 8 3 , p . 2 7 1 ) , h o w a r e w e t o a v o i d t h e c o n c l u s i o n t h a t t h e r e a l c a u s a l s t o r y i s j u s t t h e m i c r o s t r u c t u r a l o n e ? H o w a r e w e t o a v o i d t h e c o n c l u s i o n t h a t S e a r l e h a s c o m e t o " a b a n d o n t h e i d e a o f t h e c a u s a l e f f i c a c y o f t h e m e n t a l i n f a v o r o f s o m e v e r s i o n o f t h e i d e n t i t y t h e s i s w i t h a n a t t e n d a n t e p i p h e n o m - e n a l i s m o f t h e m e n t a l a s p e c t s o f p s y c h o - p h y s i c a l e v e n t s " ? ( S e a r l e 1 9 8 3 , p . 2 6 5 ) T h e " s o l u t i o n t o t h e m i n d - b o d y p r o b l e m " S e a r l e a d v o c a t e s , w h i l e i n g e n e r a l a g r e e m e n t w i t h p r o p o s a l s o f F o d o r ( 1 9 7 4 , 1 9 8 9 ) a n d o t h e r p r o p o n e n t s o f a u t o n o m o u s c a u s a l l e v e l s o f r e a l i t y l i m n e d b y a u t o n o m o u s s p e c i a l s c i e n c e s , d i f f e r s f r o m s t a n d a r d n o n r e d u c t i v i s t p r o p o s a l s i n o n e k e y p a r t i c u l a r . " T o k e n - t o k e n i d e n t i t i e s " o f h i g h e r w i t h l o w e r l e v e l p r o p e r t y i n s t a n t i a t i o n s ( p h e n o m e n a o r e v e n t s ) , f o r s t a n d a r d n o n r e d u c t i v i s m , t i e t h e v a r i o u s l e v e l s o f r e a l i t y t o g e t h e r ; y e t i n t h e c a s e o f c o n s c i o u s n e s s a n d i t ’ s n e u r o p h y s i o l o g i c a l b a s e s , S e a r l e r e f u s e s t o c o u n t e n a n c e “ o n t o l o g i c a l r e d u c t i o n " ( S e a r l e 1 9 9 2 , c h a p t . 5 ) v i a t o k e n i d e n t i t i e s . 3 . 1 R e a l i z a t i o n a n d L e v e l s o f C a u s a t i o n : A P i c t u r e T h e " p i c t u r e " S e a r l e b e l i e v e s " w i l l e v e n t u a l l y l e a d t o a r e s o l u t i o n o f t h e d i l e m m a " ( S e a r l e 1 9 8 3 , p . 2 6 4 ) p o s e d b y " t h e c a u s a l e f f i c a c y o f t h e m e n t a l , " i s a p i c t u r e “ a c c o r d i n g t o w h i c h m e n t a l s t a t e s a r e b o t h c a u s e d b y t h e o p e r a t i o n s o f t h e b r a i n a n d r e a l i z e d i n t h e s t r u c t u r e o f t h e b r a i n ( a n d t h e r e s t o f t h e c e n t r a l 3 2 4 n e r v o u s s y s t e m ) " ( S e a r l e 1 9 8 3 , p . 2 6 5 ) . T h i s p i c t u r e , S e a r l e m a i n t a i n s , " h a s b e e n a v a i l a b l e t o a n y e d u c a t e d p e r s o n s i n c e s e r i o u s w o r k b e g a n o n t h e b r a i n n e a r l y a c e n t u r y a g o " a n d p r o v i d e s t h e " f a m o u s m i n d - b o d y p r o b l e m " w i t h " a s i m p l e s o l u t i o n " ( S e a r l e 1 9 9 2 , p . 1 ) a l o n g t h e f o l l o w i n g l i n e s : C o n s c i o u s n e s s [ t h u s m i n d I n g e n e r a l ] I s a h i g h e r - l e v e l o r “ e m e r g e n t “ p r o p e r t y o f t h e b r a i n I n t h e u t t e r l y h a r m l e s s s e n s e o f “ h i g h e r - l e v e l “ o r “ e m e r g e n t “ i n w h i c h s o l i d i t y I s a h i g h e r l e v e l e m e r g e n t p r o p e r t y o f H 2 0 m o l e c u l e s w h e n t h e y a r e i n a l a t t i c e s t r u c t u r e ( i c e ) a n d l i q u i d i t y i s s i m i l a r l y a h i g h e r - l e v e l e m e r g e n t p r o p e r t y o f H 2 0 m o l e c u l e s w h e n t h e y a r e , r o u g h l y s p e a k i n g , r o l l i n g a r o u n d o n e a c h o t h e r ( w a t e r ) . ( S e a r l e 1 9 9 2 , p . 1 4 ) F l e s h e d o u t , t h i s i s t h e p i c t u r e ( o f . S e a r l e 1 9 8 3 , p p . 2 6 9 - 2 7 0 ) : F I G U R E 1 " 1 6 ‘ 3 t h R E A L I Z A T I G I 0 1 ’ B I - L E V E L I H J R O P H Y S I O W I C A L R E A L I Z A T I G I O F M E N T A L P R O P E R - P H Y S I C A L P R O P E R ‘ I I E a M E S S E S T I E S 8 : P R I I Z E S S E S B H “ H M “ s o l i d i c e — - — - — — — — — - + l i q u i d w a t e r i n t e n d i n g t o — — — — — — - + r a i s i n g c a u s e s r a i s e m y a r m c a u s e s m y a r m ( w h e n h e a t e d ) ( u n d e r m e n t a l c o n d i - t i o n s C “ ) r e a l i z e s r e a l i z e s r e a l i z e r e a l i z e ( m e a n k i n e t i c e n e r - ( u n d e r n e u r o p h y s i o l o - g y b e i n g i n c r e a s e d ) g i c a l c o n d i t i o n s C “ ) c a u s e s c a u s e l a t t i c e s t r u c t u r e — — — + 5 , 0 m o l e c u l e s u n k n o w n 4 a f f e r e n t n e r v e o f 8 , 0 m o l e c u l e s r o l l i n g a b o u t n e u r a l f i r i n g s , m u s c l e L L ' p r o c e s s e s f l e x i n g s , e t c . 8 B “ T h i s p i c t u r e c a n b e u s e d t o r e p r e s e n t r e d u c t i v i s t a n d s t a n d a r d n o n r e d u c t i v i s t p o s i t i o n s a s w e l l a s S e a r i e ’ s n o n s t a n d a r d n o n r e d u c t i v i s t p o s i t i o n d e p e n d i n g o n h o w t h e r e a l i z a t i o n r e l a t i o n i s c o n s t r u e d . A c c o r d i n g t o r e d u c t i o n i s t v i e w s ( t y p e - t y p e i d e n t i t y t h e o r i e s ) t h e r e a l i z a t i o n o f s o m e h i g h e r l e v e l p r o p e r t y H b y s o m e l o w e r l e v e l p r o p e r t y L i n v o l v e s t h e i d e n t i t y ( a t l e a s t c o e x t e n s i v e n e s s ) o f t h e p r o p e r t i e s : o n t h i s v i e w , e v e r y i n s t a n c e o f H m u s t a l s o b e a n i n s t a n c e o f o n e a n d t h e s a m e l o w e r l e v e l p r o p e r t y L . A c c o r d i n g t o s t a n d a r d n o n r e d u c t i v i s m , 3 2 5 a l t h o u g h u p p e r l e v e l m e n t a l p r o p e r t i e s ( e . g . , M ) a r e n o t r e d u c i b l e t o l o w e r l e v e l p h y s i c a l ( s p e c i f i c a l l y n e u r o p h y s i o l o g i c a l ) p r o p e r t i e s ( e . g . , B ) , t h e l o w e r l e v e l " i m p l e m e n t s " o r " r e a l i z e s " t h e u p p e r b y v i r t u e o f i d e n t i t i e s o b t a i n i n g b e t w e e n i n s t a n c e s ( t o k e n s ) o f m e n t a l p r o p e r fi e s a n d i n s t a n c e s ( t o k e n s ) o f n e u r o p h y s i o - l o g i c a l p r o p e r t i e s ; i d e n t i t i e s , i n e f f e c t ( o f . F o d o r 1 9 7 4 ) b e t w e e n i n d i v i d u a l m e n t a l a n d p h y s i c a l p h e n o m e n a o r e v e n t s . ( B e l o w I u s e l o w e r c a s e l e t t e r s t o d e n o t e s u c h i n d i v i d u a l p r o p e r t y t o k e n ( i n g ) s o r e v e n t s : l e t t i n g m b e a n i n d i v i d u a l t o k e n o f p r o p e r t y M , b a n i n d i v i d u a l t o k e n o f p r o p e r t y B , e t c . ) S e a r l e ( 1 9 9 2 ) , l i k e N a g e l ( 1 9 7 4 ; 1 9 8 6 ) a n d J a c k s o n ( 1 9 8 2 ) , d e n i e s s u c h t o k e n - t o k e n i d e n t i t i e s . Y e t S e a r l e , u n l i k e N a g e l a n d J a c k s o n , h o l d s t h e a b o v e p i c t u r e s t i l l p r o v i d e s a n o n d u a l i s t i c s o l u t i o n t o t h e m i n d b o d y p r o b l e m o n w h i c h t h e m i n d i s f u l l y r e a l a n d c a u s a l l y e f f i c a c i o u s s o l e l y o n t h e s t r e n g t h o f t h e c a u s a l r e a l i z a t i o n o f t h e m e n t a l b y t h e n e u r o p h y s i o l o g i c a l , w i t h o u t t h e t o k e n i d e n t i f i c a t i o n s . ° E v e r y o n e a g r e e s t h a t w h e r e t h e h i g h e r l e v e l p r o p e r t i e s a r e r e d u c i b l e t o l o w e r l e v e l p r o p e r t i e s t h e a b o v e p i c t u r e p e r s p i c u o u s l y a c c o u n t s f o r t h e c a u s a l s a l i e n c e o f t h e h i g h e r l e v e l . C a u s a l l a w s a n d e x p l a n a t i o n s c i t i n g r e d u c i b l e h i g h l e v e l f e a t u r e s o r t h i n g s c a n b e c o n s i d e r e d j u s t a s h o r t h a n d w a y o f t a l k i n g a b o u t c a u s a l r e g u l a r i t i e s a n d p r o c e s s e s t h a t r e a l l y e x i s t e n t i r e l y a t t h e l o w e r l e v e l . B u t e v e r y o n e ( a l m o s t ) a l s o a g r e e s t h a t m e n t a l p r o p e r t i e s a r e n o t r e d u c i b l e i n t h i s w a y t o 6 . I b e l i e v e t h e m o s t c o h e r e n t c o n s t r u a l o f S e a r l e i s a s a p r o p e r t y d u a l i s t ( c f . , C h u r c h i a n d 1 9 8 8 ) . H e o n c e s e e m e d w i l l i n g - - l i k e N a g e l ( 1 9 8 6 , 1 9 7 4 ) a n d J a c k s o n ( 1 9 8 2 ) t o w h o m h i s v i e w s s h o w a s t r i k i n g r e s e m b l a n c e - - t o s t y l e h i m s e l f s u c h , i n s i s t i n g , “ p r o p e r t y d u a l i s m l s c o m p a t e r w i t h c o m p l e t e p h y s i c a l l s m , p r o v i d e d t h a t w e r e c o g n i z e t h a t m e n t a l p r o p e r t i e s a r e j u s t o n e k i n d o f h i g h e r l e v e l p h y s i c a l p r o p e r t y a m o n g o t h e r s “ ( S e a r l e 1 9 8 4 b , p . 6 ) . M o r e r e c e n t l y , h o w e v e r . S e a r l e c o m p l a i n s “ I h a v e p e r s o n a l l y s p e a k i n g , b e e n a c c u s e d o f h o l d i n g s o m e c r a z y d o c t r i n e o f ‘ p r o p e r t y d u a l i s m ’ e v e n t h o u g h I h a v e n e v e r , I m p l l c l t l y o r e x p l i c i t l y , e n d o r s e d a n y [ s u c h ] v i e w s “ ( S e a r l e 1 9 9 2 , p . 1 3 ) . 3 2 6 l o w e r l e v e l ( n e u r o p h y s i o l o g i c a l ) p r o p e r t i e s . T w o q u e s t i o n s , t h e n , a r i s e . ( 1 ) D o e s t h e s t a n d a r d n o n r e d u c t i v i s t c o n s t r u a l o f t h i s p i c t u r e u n d e r w r i t e a s o l u t i o n t o t h e m i n d - b o d y p r o b l e m ? I f s o : ( 2 ) D o e s S e a r i e ’ s f u r t h e r w e a k e n i n g o f t h e r e a l i z a - t i o n r e l a t i o n f r o m t o k e n - t o k e n i d e n t i t y t o m e r e ( ? ) c a u s a t i o n p r e s e r v e t h i s s o l u t i o n ? 3 . 2 S t a n d a r d ( F u n c t i o n a l i s t ) N o n r e d u c t i v i s m J a e g w o n K i m ( 1 9 8 9 ) a r g u e s t h a t t h e s t a n d a r d n o n r e d u c t i v i s t c o n s t r u a l o f t h i s p i c t u r e i s m e t h o d o l o g i c a l l y v e x e d d u e t o i t s v i o l a t i o n o f a n i n d e p e n d e n t l y w a r r a n t e d " p r i n c i p l e o f e x p l a n a t o r y e x c l u s i o n " ( E E ) : " N o e v e n t c a n b e g i v e n m o r e t h a n o n e c o m p l e t e a n d i n d e p e n d e n t e x p l a n a t i o n " ( K i m 1 9 8 9 , p . 7 9 ) . K i m a r g u e s s u c h a m u l t i p l i c a t i o n o f e x p l a n a t i o n s " f o r o n e a n d t h e s a m e e v e n t E , i s a n i n h e r e n t l y u n s t a b l e s i t u a t i o n " ( K i m 1 9 8 9 , p . 8 5 ) : " I f s i m p l i c i t y a n d u n i t y o f t h e o r y i s o u r a i m w h e n w e s e e k e x p l a n a t i o n s , m u l t i p l e e x p l a n a t i o n s o f a s i n g l e p h e n o m e n o n a r e s e l f - d e f e a t i n g - u n l e s s , t h a t i s , w e a r e a b l e t o d e t e r m i n e t h a t t h e i r e x p l a n a t o r y p r e m i s e s a r e r e l a t e d t o o n e a n o t h e r i n a p p r o p r i a t e w a y s " ( K i m 1 9 8 9 , p . 9 3 ) . E v e r y o n e a g r e e s , a s a l r e a d y m e n t i o n e d , t h a t r e d u c t i o n i s a n a p p r o p r i a t e w a y f o r t h e e x p h n a t o r y p r e m i s e s t o b e r e l a t e d . I f H i s i d e n t i c a l w i t h L - - i f a u n i v e r s a l l y q u a n t i f i e d b i c o n d i t i o n a l " b r i d g e l a w " ( x ) ( H x o L x ) h o l d s w a r r a n t i n g c l a i m s o f " t y p e - t y p e " i d e n t i t y b e t w e e n H - n e s s a n d L - h o o d , s o t h a t b e i n g H ( e . g . , i c e ) j u s t i s b e i n g L ( a l a t t i c e s t r u c t u r e o f H 2 0 m o l e c u l e s ) - - t h e r e i s n o p r o b l e m : t h e " t w o e x p l a n a t i o n s d i f f e r o n l y i n t h e l i n g u i s t i c a p p a r a t u s u s e d i n r e f e r r i n g t o , o r p i c k i n g o u t , t h e c o n d i t i o n s a n d e v e n t s t h a t d o t h e e x p l a i n i n g ; t h e y a r e o n l y d e s c r i p t i v e v a r i a n t s o f o n e a n o t h e r “ a n d t h e r e i s " o n l y o n e e x p l a n a t i o n 3 2 7 h e r e , a n d n o t t w o " ( K i m 1 9 8 9 , p . 8 7 ) . B u t i t i s w i d e l y h e l d t h a t n o n r e d u c t i v e s u p e r v e n i e n c e - - w h e r e m u l t i p l e u n i v e r s a l l y q u a n t i f i e d c o n d i t i o n a l " r e a l i z a t i o n l a w s " ( x ) ( L ‘ x 4 H x ) , ( x ) ( s z _ . H x ) , e t c , h o l d , s o t h a t h a v i n g a n y o f t h e s e l o w e r l e v e l p r o p e r t i e s s u f f i c e s f o r H - n e s s b u t n o o n e a m o n g t h e m i s s p e c i f i c a l l y n e c e s s a r y f o r H - n e s s , s o t h a t H i s " m u l t i p l y r e a l i z e d " b y l o w e r l e v e l p r 0 p e r t i e s L ‘ , L " ’ , e t c . - - i s a l s o a n a p p r o p r i a t e i n t e r l e v e l r e l a t i o n . M e n t a l p r o p e r t i e s , m o s t e v e r y o n e a g r e e s , a r e m u l t i p l y r e a l i z a b l e . B u t m u l t i p l e r e a l i z a t i o n i s p r o b l e m a t i c g i v e n E E . T o s e e t h e p r o b l e m K i m a l l e g e s , c o n s i d e r t h e m u l t i p l y r e a l i z a b l e h i g h l e v e l p r o p e r t y o f r a i s i n g o n e ’ s a r m ( a n a c t i o n t y p e ) . O n t h e t w o - l e v e l p i c t u r e t h i s a c t i s s u b j e c t t o t w o d i f f e r e n t e x p l a n a t i o n s . A c c o r d i n g t o ( m e n t a l e x p l a n a t i o n ) E 1 I r a i s e m y a r m b e c a u s e I i n t e n d t o : m y a r m r a i s i n g i s e x p l a i n e d b y b e i n g s u b s u m e d u n d e r t h e " c o v e r i n g l a w s " ( x ) ( B x - > M x ) a n d ( x ) ( ( M x 8 . C " ‘ x ) _ . M ’ x ) . A c c o r d i n g t o ( p h y s i o l o g i c a l e x p l a n a t i o n ) E 2 I r a i s e m y a r m b e c a u s e I a m i n a c e r t a i n n e u r o l o g i - c a l c o n d i t i o n w h i c h c a u s e s p h y s i o l o g i c a l o c c u r r e n c e s ( e f f e r e n t n e r v e a c t i v a t i o n , m u s c l e f i e x i n g s , e t c . ) w h i c h r e a l i z e a r m r a i s i n g : m y a r m r a i s i n g i s e x p l a i n e d b y b e i n g s u b s u m e d u n d e r t h e c o v e r i n g l a w s ( x ) ( ( B x & C b x ) - » B ’ x ) a n d ( x ) ( B ’ x _ . M ’ x ) . S t a n d a r d n o n r e d u c t i v i s m c a n n o t a v o i d t h i s d i f f i c u l t y b y c i t i n g t o k e n - t o k e n I d e n t i t i e s b e t w e e n p a r t i c u l a r " t o k e n i n g s " ( m , m ' , b , b ' ) o f m e n t a l a n d n e u r o p h y s i o l o g i c a l t y p e s ( M , M ’ , B , 8 ’ ) s i n c e i t ’ s n o m o l o g i c a l c o n n e c t i o n s b e t w e e n p r o p e r t i e s t h a t a r e e x p r e s s e d i n t h e c o v e r i n g l a w s c i t e d i n e x p l a n a t i o n s l i k e E 1 a n d E Z : d i f f e r e n t p r o p e r t i e s , d i f f e r e n t l a w s ; d i f f e r e n t l a w s , d i f f e r e n t e x p l a n a t i o n s ; t o k e n i d e n t i t i e s n o t w i t h s t a n d i n g . I f K i m ( 1 9 8 9 ) i s r i g h t a b o u t t h i s b e i n g a n u n s t a b l e s i t u a t i o n ( c o n t r a r y , e . g . , t o F o d o r 1 9 7 4 , 1 9 8 9 ) , a s I b e l i e v e h e i s , s t a n d a r d ( f u n c t i o n a l i s t ) 3 2 8 n o n r e d u c t i v e m a t e r i a l i s m - - a s a w o u l d - b e s o l u t i o n t o t h e m i n d - b o d y p r o b l e m - - b u y s o n l y h a l f a l o a f . 3 . 3 S e a r i e ’ s N o n s t a n d a r d N o n r e d u c t i v i s t N o n s o l u t i o n W h a t t h e n o f S e a r l e ’ s n o n s t a n d a r d n o n r e d u c t i v i s t " s o l u t i o n " ? I n o p p o s i t i o n t o t h e s t a n d a r d n o n r e d u c t i v i s t t o k e n i d e n t i t y s o l u t i o n t o t h e m i n d - b o d y p r o b l e m , S e a r i e ’ s o w n b r a n d o f n o n r e d u c t i v e " m a t e r i a l i s m " d e n i e s t h a t m e n t a l p r o p e r t y i n s t a n t i a t i o n s a n d t h e n e u r o p h y s i o l o g i c a l p r o p e r t y i n s t a n t i a t i o n s t h a t " c a u s e a n d r e a l i z e " t h e m a r e e v e r o n e a n d t h e s a m e e v e n t s . R a t h e r t h a n i m p r o v i n g o n t h e s t a n d a r d f u n c t i o n a l i s t s o l u t i o n S e a r i e ’ s d e n i a l o f t o k e n I d e n t i t i e s r e n d e r s h i s " s o l u t i o n " t o t h e m i n d - b o d y p r o b l e m d o u b l y a c c u r s e d : n o t o n l y i s t h e r e e x p l a n a t o r y ( o r e p i s t e m o l o g i c a l ) o v e r d e t e r m i n a t i o n b u t c a u s a l - m e t a p h y s i c a l o v e r d e t e r m i - n a t i o n a l s o . T h e r e w i l l b e t w o d i s t i n c t c a u s a l c h a i n s o f e v e n t s p r o d u c i n g o n e a n d t h e s a m e o u t c o m e : b w i l l p r o d u c e m ' b o t h v i a c a u s a l c h a i n b e b ‘ e m ' a n d v i a c a u s a l c h a i n b e m — e m ' i n a d d i t i o n . F o r e v e r y a c t w e p e r f o r m t o b e o v e r d e t e r m i n e d b y t w o d i s t i n c t s u f f i c i e n t c a u s e s s e e m s i n c r e d i b l y u n e c o n o m i c a l a n d u n l i k e l y . M o r e o v e r , i f b ’ a n d m b o t h c a u s a l l y s u f f i c e f o r m ‘ a n d b e b ' a n d m e m ' a r e d i s t i n c t c a u s a l c h a i n s ( m e m ' a p r o c e s s i o n o f s u b j e c t i v e c o n s c i o u s e v e n t s a n d b e b ' a p r o c e s s i o n o f o b j e c t i v e n e u r o l o g i c a l e v e n t s ) , t h a n i f e i t h e r c h a i n w e r e b r o k e n , t h e e f f e c t m ’ s h o u l d s t i l l b e b r o u g h t a b o u t v i a t h e o t h e r . M o s t w o r r i s o m e - l y , i f n e x u s b e b ' w e r e b r o k e n ( b y s o m e v i o l a t i o n o f c o n d i t i o n s a m o n g C " ) , i t i s d i f f i c u l t t o s e e , o n S e a r i e ’ s a c c o u n t , w h y m s h o u l d n ’ t s t i l l s u f f i c e t o c a u s e m ' v i a m e m ' : m y i n t e n t i o n t o r a i s e m y a r m s h o u l d s t i l l b r i n g a b o u t t h e r a i s i n g o f m y 3 2 9 a r m , i n d e p e n d e n t l y o f t h e u s u a l p h y s i o l o g i c a l p r o c e s s e s o f a f f e r e n t n e r v o u s i m p u l s e s , m u s c l e f i e x i n g s , e t c , a s i f b y t e l e k i n e s i s ! T o b l o c k t h i s r e s u l t o n e m u s t e i t h e r a s s u m e a d h o c t h a t t h e p r o c e s s i o n s o f m e n t a l a n d p h y s i c a l e v e n t s , w h i l e d i s t i n c t , a l w a y s h a p p e n t o m a r c h s e r e n d i p i t o u s l y a l o n g t o g e t h e r ( s h a d e s o f p r e e s t a b l i s h e d h a r m o n y ) , o r e l s e d e n y t h e i n d e p e n d e n t c a u s a l s u f f i c i e n c y o f m f o r b r i n g i n g a b o u t m ' a f t e r a l l ( s h a d e s o f e p i p h e n o m e n a l l s m ) , o r e l s e a l l o w t h a t m c a u s e s m ' v i a " d o w n w a r d c a u s a t i o n " o f b ( s h a d e s o f t r a d i t i o n a l i n t e r a c t i o n i s m ) . I w i l l c o n s i d e r e a c h o f t h e s e a l t e r n a t i v e s i n t u r n . 3 . 3 1 A s - i f P a r a l l e l i s m : S h a d e s o f P r e e s t a b l i s h e d H a r m o n y C o n s i d e r t h e f i r s t a l t e r n a t i v e - - t h a t o n c e t h e m e n t a l g e t s " g i v e n o f f " b y t h e p h y s i c a l p r o c e s s e s o c c u r r i n g i n t h e b r a i n , m e n t a l a n d p h y s i c a l p r o c e s s e s a l w a y s j u s t h a p p e n , s e r e n d i p i t o u s l y , t o r u n i n t a n d e m i n a w a y r e m i n i s c e n t o f t r a d i t i o n a l d o c t r i n e s o f p s y c h o p h y s i c a l p a r a l l e l i s m a n d p r e e s t a b l i s h e d h a r m o n y . H e r e i s t h e p i c t u r e ( o f . B r o a d 1 9 2 5 , c h a p t . 3 ) : F I G U R E 2 u r - — + m 1 . . . m ” — - > m ’ b - — - r b 1 . . . b n — e b ’ P a r a l l e l i s m , o f c o u r s e i s n o t a s o l u t i o n t o t h e m i n d - b o d y p r o b l e m b u t a n o n s o l u t i o n ( p e r h a p s , a d i s s o l u t i o n ) o f i t . H o w d o m i n d s a n d b o d i e s i n t e r a c t ? H o w d o m e n t a l e v e n t s c a u s e p h y s i c a l e f f e c t s ? T h e p a r a l l e l i s t " a n s w e r " i s " T h e y d o n ’ t . " T h e r e ’ s n o p r o b l e m a b o u t h o w t h i s m i n d - b o d y i n t e r a c t i o n h a p p e n s , f o r t h e p a r a l l e l i s t , 3 3 0 b e c a u s e i t d o e s n ' t . O f c o u r s e , t h e o b j e c t i o n t o t h i s " s o l u t i o n " i s t h a t i t s e e m s t o o a d h o c - - w h y , p r a y t e l l , s h o u l d t h e s e s e q u e n c e s o f m e n t a l a n d p h y s i c a l e v e n t s j u s t h a p p e n t o m a r c h s e r e n d i p i t o u s l y a l o n g l i k e t h i s ? T h a t G o d s e t i t u p t h a t w a y - - p r e e s t a b l i s h e d h a r m o n y - - I t a k e i t , i s n o t a n a n s w e r S e a r l e m i g h t a d v a n c e . S e a r i e ’ s " s o l u t i o n , " i t s e e m s , n e e d s p r e e s t a b l i s h e d h a r m o n y w i t h o u t t h e H a r m o n i z - e r . I i m a g i n e S e a r l e m i g h t r e s i s t t h i s a c c u s a t i o n b y d e n y i n g t h a t t h e r e ’ s a n y t h i n g s e r e n d i p i t o u s a b o u t i t - - t h e o b j e c t i v e n e u r o l o g i c a l p r o c e s s i o n a n d s u b j e c t i v e p h e n o m e n o l o g i c a l p r o c e s s i o n d o n ’ t j u s t h a p p e n t o r u n i n p a r a l l e l t h e y h a v e t o b e c a u s e a t e a c h s t e p ( a t e v e r y i n t e r v e n i n g t i m e ) t h e b o t t o m l e v e l n e u r o p h y s i o l o g i - c a l e v e n t s a r e c a u s i n g t h e t o p l e v e l c o n s c i o u s e v e n t s . N o t h i n g s e r e n d i p i t o u s a b o u t i t a t a l l . T h i s w o n ’ t w o r k . H e r e ’ s w h y . T h e p i c t u r e , n o w , i s t h a t e a c h i n t e r v e n i n g n e u r o p h y s i o l o g i c a l e v e n t b e t w e e n D a n d b ‘ c a u s a l l y s u f f i c e s b o t h f o r i t s p h e n o m e n o l o g i c a l c o r r e l a t e a n d f o r t h e n e x t s u c c e e d i n g n e u r o p h y s i o l o g i c a l e v e n t , w h i c h s u f f i c e s f o r i t s p h e n o m e n o l o g i c a l c o r r e l a t e , e t c . S u p p o s e t h e r e a r e n p h e n o m e n o l o g i c a l l y d i s t i n c t e v e n t s m ’ m " i n t e r v e n i n g b e t w e e n m a n d m ’ e a c h c a u s e d a n d r e a l i z e d b y a n e u r o p h y s i o l o g i c a l e v e n t b ’ b " i n t e r v e n i n g b e t w e e n b a n d b ’ . L e t o u r p i c t u r e , t h e n , b e t h i s : 7 7 . I n o t e t w o c o m p l i c a t i o n s , h e r e . F i r s t , o n c e t h e s e c a u s a l r e a l i z a t i o n r e l a t i o n s a r e a d d e d , t h e p i c t u r e n o l o n g e r r e s e m b l e s p a r a l l e l i s m b u t r a t h e r b e c o m e s a k i n d o f e p i p h e n o m e n a l i s t / p a r a l - l e l i s t h y b r i d . ( A m o n s t r o s i t y , I n m y o p i n i o n . ) S e c o n d l y , I n o t e t h e c u r i o u s h y b r i d m e n t a l - p h y s i c a l c h a r a c t e r o f m ’ . T h o u g h a c t s b e l o n g t o t h e s a m e “ c o n c e p t u a l n e t w o r k " a s b e l i e f s , d e s i r e s , r e a s o n s , e t c . - - a c t s b e i n g t h e s o r t o f e x p l a n a n d a w e t h i n k c a l l f o r e x p l a n a t i o n I n s u c h m e n t a l i s t i c t e r m s - - o v e r t a c t s ( e . g . , a r m r a i s i n g s ) h a v e o b j e c t i v e e n t a i l m e n t s ( m y r a i s i n g m y a r m e n t a i l s m y a r m ’ s g o i n g u p ) . K i m ( 1 9 8 9 ) , f o l l o w i n g M a l c o l m ( 1 9 6 8 ) c o l l a p s e s t h e r i g h t h a n d c o l u m n o f t h e d i a g r a m s o t h e r e I s o n l y o n e e x p l a n a n d u m e v e n t b ’ / m ’ . S i n c e S e a r l e l s b o t h 3 3 1 F I G U R E 3 T T 1 . . . 1 1 1 1 — 4 1 1 ” , b — + b ‘ b " — — - r b ’ N o t i c e , f i r s t , t h a t a d d i n g t h e s e i n t e r v e n i n g e v e n t s d o e s n o t h i n g t o a s s u a g e , b u t r a t h e r a g g r a v a t e s , o v e r d e t e r m i n a t i o n t r o u b l e s h e r e . O n t h e o r i g i n a l p i c t u r e t h e r e w e r e t w o c a u s a l c h a i n s , b e m e m ’ a n d b e b ’ » m ’ l e a d i n g f r o m b t o m ’ , o n t h i s n e w p i c t u r e , n o w , t h e r e a r e 2 + n : i f n = 1 , b w i l l b r i n g a b o u t m v i a b e m e m ’ e m ' , b e b ’ e m ’ e m ’ , b e b ’ » b ' ~ + m ' ; e t c . A s f o r s e r e n d i p i t y , w h a t e v e r e l s e d i s t i n g u i s h e s t h e t y p e o f c a u s a t i o n ( r _ c a u s i n g ) i n v o l v e d i n r e a l i z a t i o n f r o m o r d i n a r y c a u s a t i o n ( o _ c a u s i n g ) , i t i s c l e a r f r o m t h e f i g u r e s a b o v e t h a t r _ c a u s e s a n d e f f e c t s a r e s i m u l t a n e o u s w h i l e o _ c a u s e s p r e c e d e t h e i r e f f e c t s . T h i s m a k e s r _ c a u s i n g u n c o n d i t i o n a l i n a w a y , i t s e e m s , t h a t o _ c a u s i n g i s n o t . S i n c e t h e r e i s a l w a y s s o m e i n t e r v a l b e t w e e n c a n d e , i t s e e m s s o m e t h i n g c o u l d h a v e i n t e r v e n e d a f t e r 0 t o p r e v e n t e t h o u g h e x h y p o t h e s i ( s i n c e c d i d o _ c a u s e e ) i n t h i s i n s t a n c e , n o t h i n g d i d ; i n t h e c a s e o f r _ c a u s i n g , h o w e v e r , t h e r e i s n o i n t e r v a l i n w h i c h a n y t h i n g c a n i n t e r v e n e . R e c u r r i n g t o o u r o r i g i n a l d i a g r a m ( F i g u r e 1 , a b o v e ) w e s e e a c o r r e s p o n d i n g d i f f e r e n c e i n t h e l a w s c o r r e s p o n d i n g t o t h e u p w a r d a r r o w s ( r e a l i z a t i o n l a w s ) a n d t h e c r o s s w i s e a r r o w s ( l a w s o f s u c c e s s i o n ) : t h e c o m m i t t e d t o t h e m e n t a l i t y o f a c t s - - “ t o s a y t h a t a m a n I s w a l k i n g t o t h e s t o r e o r e a t i n g a m e a l I s t o a t t r i b u t e t o h i m m e n t a l s t a t e s w h i c h a r e n o l e s s m e n t a l t h a n t o s a y t h a t h e w a n t s t o g e t t o t h e s t o r e o r h e b e l i e v e s t h a t t h e s t u f f o n h i s p l a t e i s f o o d " ( S e a r l e 1 9 7 9 b , p . 1 9 6 ) - - a n d m a i n t a i n s t h e o n t o l o g i c a l i r r e d u c i b i l i t y ( l . e . , t o k e n n o n i d e n t i t y ) o f m e n t a l a n d p h y s i c a l e v e n t s ( S e a r l e 1 9 9 2 , c h a p t . 5 ) I t s e e m s h e w o u l d r e s i s t s u c h c o l l a p s e . I f s u c h a c o l l a p s e i s a l l o w e d o n l y o n t h e r i g h t , h o w e v e r , t h e s a m e d i f f i c u l t i e s ( a b o u t o v e r d e r t e r m l n a t i o n , a s i f t e l e k i n e s l s , e t c . ) s t i l l a r i s e ( s e e K i m 1 9 8 9 ) . 3 3 2 r e a l i z a t i o n l a w s a r e u n c o n d i t i o n a l , t h e l a w s o f s u c c e s s i o n h a v e c o n d i t i o n s . N o w , w h a t w e a r e b e i n g a s k e d t o s u p p o s e b y t h e d e f e n s e o f S e a r l e w e a r e c o n s i d e r i n g i s t h i s : e v e r y v i o l a t i o n o f a n e u r o p h y s i o l o g i c a l c o n d i t i o n C ” m u s t c a u s e ( a n d r e a l i z e ? ) s o m e v i o l a t i o n o f a s o m e m e n t a l c o n d i t i o n 0 ' “ o r , t h i n k i n g i n t e r m s o f e v e n t c a u s a t i o n ( F i g u r e 2 ) , a n y i n t e r v e n i n g e v e n t t h a t m i g h t h a v e i n t e r r u p t e d t h e p r o c e s s i o n o f n e u r o p h y s i o l o g i c a l e v e n t s b » . . . ~ » b ' ( b u t d i d n ’ t ) w o u l d a l s o h a v e t o c a u s e ( a n d r e a l i z e ? ) s o m e i n t e r r u p t i o n o f t h e p h e n o m e n o l o g i c a l p r o c e s s i o n l e s t t h e b o d i l y m o v e m e n t ( e . g . , m y a r m r a i s i n g ) b e b r o u g h t a b o u t d e s p i t e t h e b r e a k i n t h e p h y s i o l o g i c a l p r o c e s s e s , a s i f b y t e l e k i n e s i s . T o g e t a s e n s e o f t h e s e r e n d i p i - t o u s n e s s o f w h a t i s b e i n g p r o p o s e d , c o n s i d e r t h e s o r t o f i n t e r r u p t i n g c o n d i t i o n s o r e v e n t s ( p e r t a i n i n g t o s u b j e c t i v e t r a i n s o f t h o u g h t ) w e w o u l d e x p e c t t o e n c o u n t e r a b o v e ( e . g . , d i s t r a c t i o n s , s e c o n d - t h o u g h t s , e t c . ) a n d t h e s o r t s o f i n t e r r u p t i n g c o n d i t i o n s o r e v e n t s ( p e r t a i n i n g t o o b j e c t i v e c h a i n s o f n e u r o p h y s i o l o g i c a l o c c u r r e n c e s ) w e w o u l d e x p e c t t o e n c o u n t e r b e l o w ( e . g . , e l e c t r i c a l f a i l u r e s , c h e m i c a l i m b a l a n c e s , e t c . ) . T h e o r i g i n a l l y s u p p o s e d c o r r e l a t i o n o f n e u r o p h y s i o l o g - i c a l w i t h p h e n o m e n o l o g i c a l o c c u r r e n c e s , t h o u g h s p e c u l a t i v e , w a s a t l e a s t c o n s t r a i n e d - t h e c o n s t a n t c o n j u n c t i o n w a s s p e c u l a t e d t o h o l d b e t w e e n s p e c i f i e d t y p e s o f e v e n t ( p h e n o m e n o l o g i c a l a n d n e u r o p h y s i o l o g i c a l ) . B u t t h e s o r t s o f t h i n g s t h a t m i g h t i n t e r v e n e - t h e c l a s s o f p o t e n t i a l i n t e r r u p t i n g c o n d i t i o n s - i s n o t s i m i l a r l y c o n s t r a i n e d . R e c a l l t h a t b o t h o f t h e c a u s a l l e v e l s d e p i c t e d i n o u r d i a g r a m - t h e n e u r o - p h y s i o l o g i c a l a n d t h e m e n t a l - - a r e r e l a t i v e l y h i g h l e v e l s a s c o m p a r e d , e . g . , t o t h e s u b a t o m i c l e v e l ( o f . O p p e n h e i m 8 r P u t n a m 1 9 5 8 ) : i t i s g e n e r a l l y a c k n o w l e d g e d 3 3 3 t h a t t h e h i g h e r t h e " l e v e l o f d e s c r i p t i o n " t h e m o r e e x c e p t i o n p r o n e t h e e m p i r i c a l l a w s ( c f . F o d o r 1 9 7 4 ) . O n l y a t t h e b o t t o m m i c r o - l e v e l d o c ' s ( c a u s e s ) c a u s e e ' s ( e f f e c t s ) a c c o r d i n g t o " s t r i c t d e t e r m i n i s t i c l a w s " ( D a v i d s o n 1 9 7 0 , p . 2 0 8 ) ; a t h i g h e r m a c r o - l e v e l s c ' 3 c a u s e e ' s c e t e r i s p a r i b u s . N o w t h e t h e s i s s a v i n g s u p p o s i t i o n w e a r e c o n s i d e r i n g i s n o t j u s t t h a t t h e t h e o r e t i c a l l y s p e c i f i e d p h e n o m e n o l o g i c a l a n d n e u r o p h y s i o l o g i c a l e v e n t s c o i n c i d e , n o r e v e n t h a t a l l t h e t h e o r e t i c a l l y s p e c i f i a b l e a u x i l i a r y c o n d i t i o n s ( C m s a n d C ‘ s ) d o , b u t t h a t a l l t h e t h e o r e t i c a l l y u n s p e c i f i e d o t h e r t h i n g s t h a t m i g h t ( o r m i g h t n o t ) b e e q u a l a l s o c o i n c i d e . T h e c r u c i a l c o i n c i d e n c e t h a t h a s t o b e a s s u m e d i s t h i s : o t h e r t h i n g s ( c e t e r i s p a r i b u s c o n d i t i o n s ) a r e n e v e r n o t e q u a l n e u r o p h y s i o l o g i c a l l y w i t h o u t o t h e r t h i n g s ( c e t e r i s p a r i b u s c o n d i t i o n s ) b e i n g n o t e q u a l p h e n o m e n o l o g i c a l l y . G i v e n t h e n o n s p e c i f i c i t y o f c e t e r i s p a r i b u s c o n d i t i o n s , i t i s d i f f i c u l t t o v i e w t h e s e h y p o t h e t i c a l c o r r e l a t i o n s ( o f u p p e r l e v e l a n d l o w e r l e v e l v i o l a t i o n s a n d f u l f i l l m e n t s o f s u c h c o n d i t i o n s ) a s a n y t h i n g b u t a d v e n t i t i o u s . W h e r e t h e h y p o t h e s i z e d c o i n c i d e n c e o f p h e n o m e n - o l o g y a n d n e u r o p h y s i o l o g y p r o p e r i s s p e c u l a t i o n , t h i s h y p o t h e s i z e d c o i n c i d e n c e o f o t h e r t h i n g s b e i n g e q u a l v i s a v i s p h e n o m e n o l o g y a n d v i s a v i s n e u r o p h y s i o l - o g y i s w i l d s p e c u l a t i o n . N o t o n l y i s t h e h y p o t h e s i s t h a t v i o l a t i o n s a n d f u l f i l l m e n t s o f c e t e r i s p a r i b u s c o n d i t i o n s " a b o v e " a n d “ b e l o w " c o i n c i d e i m p r o b a b l e , i n a n o t h e r c o n t e x t , S e a r l e h i m s e l f c i t e s e v i d e n c e t o t h e c o n t r a r y . T h e " f a m o u s c a s e d e s c r i b e d b y W i l l i a m J a m e s " ( S e a r l e 1 9 8 3 , p . 8 9 ) c o u n t e r i n s t a n c e s t h i s " p a r a l l e l i s m " h y p o t h e s i s . ’ T h e c a s e , a s S e a r l e d e s c r i b e s i t , i s t h i s : 8 . T h e c a s e I s d e s c r i b e d I n J a m e s 1 9 5 0 . P P . 4 8 9 f f . 3 3 4 a p a t i e n t w i t h a n a n e s t h e t i z e d a r m i s o r d e r e d t o r a i s e i t . T h e p a t i e n t ’ s e y e s a r e c l o s e d a n d u n k n o w n t o h i m h i s a r m i s h e l d t o p r e v e n t i t f r o m m o v i n g . W h e n h e o p e n s h i s e y e s h e i s s u r p r i s e d t o d i s c o v e r t h a t t h e r e w a s n o a r m m o v e m e n t . I n s u c h a c a s e h e h a s t h e e x p e r i e n c e o f a c t i n g a n d t h a t e x p e r i e n c e p l a i n l y h a s l n t e n t i o n a l i t y ; w e c a n s a y o f t h e p a t i e n t t h a t h i s e x p e r i e n c e i s o n e o f t r y i n g b u t f a i l i n g t o r a i s e h i s a r m . ( S e a r l e 1 9 8 3 , p . 8 9 ) B u t n o t i c e , t h e p a t i e n t ’ s e x p e r i e n c e w a s n o t o n e o f t r y i n g b u t f a i l i n g - - t h e f a i l u r e i s n o t s u b j e c t i v e , n o t , s o t o s p e a k , i n t h e s c o p e o f h i s e x p e r i e n c e , b u t o b j e c t i v e . T h e p a t i e n t ’ s s u b j e c t i v e e x p e r i e n c e i s o f t r y i n g a n d s u c c e e d i n g - - o r e l s e w h y , w h e n h e o p e n s h i s e y e s , w o u l d h e b e " s u r p r i s e d t o d i s c o v e r t h a t t h e r e w a s n o a r m m o v e m e n t “ - - b u t o b j e c t i v e l y h e f a i l s . T h i s c o u n t e r e x a m p l e t o t h e p a r a l l e l i s m h y p o t h e s i s , m o r e o v e r , i s o f t h e w o r s t s o r t : a v i o l a t i o n o f t h e n e u r o p h y s i o l o g i c a l c e t e r i s p a r i b u s c o n d i t i o n s w i t h o u t a p a r a l l e l v i o l a t i o n o f t h e p h e n o m e n o l o g i c a l o n e s , i . e . , t h e s o r t o f v i o l a t i o n t h a t s h o u l d l e a d u s t o e x p e c t t h e a r m r a i s i n g t o c o m e a b o u t i n d e p e n d e n t l y o f t h e u s u a l p h y s i o l o g i c a l m e c h a n i s m s , a s i f b y t e l e k i n e s i s . I f w e c a n s p e a k o f a f f e r e n t a n d e f f e r e n t e x p e r i e n c e s - - r o u g h l y , o f s e n s i n g s ( a f f e r e n t ) a n d w i l l i n g s a n d t r y i n g s ( e f f e r e n t ) - - i n t h i s c a s e t h e s t r e a m o f a f f e r e n t e x p e r i e n c e s ( t h e w i l l i n g a n d t r y i n g ) g e t s c o m p l e t e d ( a l l t h e w a y t o m ” ) b u t , c o n t r a r y t o t h e s u p p o s e d c a u s a l s u f f i c i e n c y o f t h e l a s t e x p e r i e n c e ( m " ) f o r a r m r a i s i n g ( m ’ ) , t h e p a t i e n t ’ s a r m d o e s n ’ t g o u p . 9 T h e r e w o u l d s e e m o n l y t w o w a y s t o s q u a r e S e a r i e ’ s p i c t u r e w i t h t h e s e f a c t s : ( 1 ) a c k n o w l e d g e t h a t t h e r e a l c a u s e s o f a r m r a i s i n g a r e n e u r o p h y s i o l o g i c a l a n d t h e p h e n o m e n o l o g i c a l c a u s i n g i s i l l u s o r y ( t h e e p i p h e n o m e n a l i s t " s o l u t i o n " ) ; 9 . i f o n e o b j e c t s t h a t h a v i n g o n e ’ s a r m h e l d d o w n w o u l d b e a v i o l a t i o n o f c e t e r i s p a r i b u s c o n d i t i o n s " a b o v e “ n o l e s s t h a n b e l o w - - t h i s m i g h t b e c o u n t e r e d b y m o d i f y i n g J a m e s ’ s s e t u p s o t h a t l m p e d i m e n t I s a c h i e v e d i n t e r n a l l y ( b y b l o c k i n g e f f e r e n t a s w e l l a s a f f e r e n t n e r v o u s I m p u l s e s , s a y ) . 3 3 5 o r ( 2 ) m a i n t a i n t h a t t h e s u p p o s e d o r e x p e r i e n c e d p h e n o m e n o l o g i c a l s t r e a m o f e x p e r i e n c e s d o e s c a u s e t h e a r r n ’ s r i s i n g , b u t c a u s e s i t v i a d o w n w a r d c a u s a t i o n o f m u s c l e f i e x i n g s , e t c . ( t h e a s - i f i n t e r a c t i o n i s t " s o l u t i o n " ) . 3 . 3 2 S h a d e s o f E p i p h e n o m e n a l i s m H e r e i s t h e e p i p h e n o m e n a l i s t p i c t u r e o n w h i c h m e n t a l e v e n t s a r e n e u r o p h y s i o - l o g i c a l l y c a u s e d , b u t h a v e n o f u r t h e r m e n t a l o r p h y s i c a l e f f e c t s : F I G U R E 4 T T 1 T “ T b — — - r b ’ b " — — r b ’ T h o u g h e p i p h e n o m e n a l l s m i s , p e r h a p s , t h e l e a s t c o s t l y o p t i o n f o r s o m e o n e , l i k e S e a r l e , w h o r e j e c t s t o k e n i d e n t i f i c a t i o n s o f m e n t a l a n d p h y s i c a l p h e n o m e n a ( o f . J a c k s o n 1 9 8 2 ) , e p i p h e n o m e n a l l s m i s g e n e r a l l y a c c o u n t e d a c o s t ( t o b e a v o i d e d i f p o s s i b l e ) ; i t i s , m o r e o v e r , a n o p t i o n S e a r l e r e j e c t s ( s e e , e . g . , S e a r l e 1 9 8 3 , p p . 2 6 4 - 2 6 5 ; S e a r l e 1 9 9 2 , p . 1 2 5 ) , a c o s t h e m a i n t a i n s h i s " s o l u t i o n " t o t h e m i n d - b o d y p r o b l e m a v o i d s . A s f o r t h e g e n e r a l a c k n o w l e d g e d c o s t l i n e s s o f t h e e p i p h e n o m e n a l i s t o p t i o n , s i n c e o n e " w o u l d p r e f e r t o k e e p b o t h [ o n e ’ s ] c o m m o n - s e n s e c o n c e p t i o n s a n d [ o n e ’ s ] s c i e n t i f i c b e l i e f s , " a n d s i n c e " o u r c o n c e p t i o n o f o u r s e l v e s a s a g e n t s i s f u n d a m e n t a l t o o u r [ c o m m o n s e n s e ] c o n c e p t i o n o f o u r s e l v e s " ( S e a r l e 1 9 8 4 , p . 8 6 ) o n e w o u l d p r e f e r n o t t o " a b a n d o n t h e i d e a o f t h e c a u s a l e f f i c a c y o f t h e m e n t a l " ( S e a r l e 1 9 8 3 , p . 2 6 5 ) a l t o g e t h e r . M o r e o v e r , b e s i d e s b e i n g a n t i t h e t i c a l t o c o m m o n s e n s e , K i m a c c o u n t s i t a f u r t h e r c o s t o f 3 3 6 e p i p h e n o m e n a l i s m t h a t i t v i o l a t e s a p l a u s i b l e p r i n c i p l e c u l l e d f r o m S a m u e l A l e x a n d e r ( A l e x a n d e r 1 9 2 7 ) t h a t K i m c a l l s " ‘ A l e x a n d e r ’ s d i c t u m : T o b e r e a l i s t o h a v e c a u s a l p o w e r s " ( K i m 1 9 9 2 b , p . 1 7 ) . I f e p i p h e n o m e n a l i s m m a n a g e s t o s a v e t h e p h e n o m e n a o f c o n s c i o u s n e s s a n d l n t e n t i o n a l i t y a t a l l , i t s a v e s t h e m f o r s u c h a c l o i s t e r e d c a u s a l l y q u a r a n t i n e d e x i s t e n c e a s t o m a k e o n e w o n d e r w h e t h e r e p i p h e n o m e n a l i s m c o n s t i t u t e s a p h e n o m e n o l o g i c a l o r " I n t e n t i o n a l R e a l i s m t h a t ’ s w o r t h h a v i n g " ( F o d o r 1 9 8 9 , p . 5 1 ) a t a l l . A l e x a n d e r ’ s d i c t u m m a i n t a i n s t h a t " a t l e a s t f o r s c i e n t i f i c p u r p o s e s " ( F o d o r 1 9 8 9 , p . 5 1 ) i t d o e s n o t . I n a d d i t i o n t o t h e s e g e n e r a l c o s t s , e p i p h e n o m e n a l i s m h a s s p e c i f i c c o s t s f o r S e a r l e . I n p a r t i c u l a r , h i s p l a n f o r t h e d e r i v a t i o n o f t h e d e r i v e d l n t e n t i o n a l i t y o f s i g n s f r o m t h e i n t r i n s i c l n t e n t i o n a l i t y o f s p e a k e r s ’ s m e a n i n g i n t e n t i o n s r e q u i r e s t h e s i g n s ( e . g . , u t t e r a n c e s a n d i n s c r i p t i o n s ) t o b e c a u s a l e x p r e s s i o n s o f t h e s e i n t e n t i o n s . G i v e n t h e p r e c e d i n g , i t w o u l d s e e m t o b e a s i g n a l v i r t u e o f S e a r i e ’ s " s o l u t i o n " i f h e i s r i g h t i n c l a i m i n g , " T h e p i c t u r e t h a t I h a v e b e e n s u g g e s t i n g a c c o r d i n g t o w h i c h m e n t a l s t a t e s a r e b o t h c a u s e d b y t h e o p e r a t i o n s o f t h e b r a i n a n d r e a l i z e d i n t h e o p e r a t i o n s o f t h e b r a i n " ( S e a r l e 1 9 8 3 , p . 2 6 5 ) s u c c e s s f u l l y a v o i d s e p i p h e n o m e n a l i s m w i t h i t s a t t e n d a n t c o s t s . I f t h e a n a l y s i s I a m p r o p o s i n g i n t h e p r e s e n t s e c t i o n i s s o u n d , a n d t h e c r i t i c i s m s ( i n s u b s e c t i o n 3 . 3 1 , a b o v e ) o f t h e f i r s t ( a s - i f p a r a l l e l i s t ) t a c k a r e w e l l t a k e n , t h i s m e a n s t h e o n l y c o n s t r u a l y e t o p e n t o s o m e o n e l i k e S e a r l e w h o w o u l d r e s i s t t o k e n i d e n t i f i c a t i o n s o f m e n t a l a n d p h y s i c a l p r o p e r t y i n s t a n t i a t i o n s o r p h e n o m e n a i s t h e o n e I c a l l " a s - i f i n t e r a c t i o n i s m . " T h e r e i s c o n s i d e r a b l e t e x t t o s u p p o r t t h e c o n t e n t i o n t h a t t h i s i s t h e o p t i o n S e a r l e , f o r t h e m o s t p a r t , d o e s a d o p t . 3 3 7 3 . 3 3 A s - i f I n t e r a c t i o n i s m T h e a s - i f i n t e r a c t i o n i s t c o n s t r u a l o f o u r b a s i c p i c t u r e ( F i g u r e 1 ) a n d o u r r e v i s e d o r e x t e n d e d e v e n t - c a u s a l p i c t u r e ( F i g u r e 2 ) , " a l l o w s f o r t o p - d o w n c a u s a t i o n ( o u r m i n d s , f o r e x a m p l e , a f f e c t o u r b o d i e s ) " ( S e a r l e 1 9 8 4 , p . 9 4 ) a n d t h e r e b y a l l o w s u s t o r e p l a c e t h e t w o p a r a l l e l s u b j e c t i v e m e n t a l a n d o b j e c t i v e n e u r o p h y s i o l o g i c a l c a u s a l c h a i n s o f t h e p a r a l l e l i s t p i c t u r e ( t h a t g i v e r i s e t o o v e r d e t e r m i n a t i o n t r o u b l e s ) w i t h a s i n g l e c a u s a l c h a i n h a v i n g b o t h o b j e c t i v e n e u r o p h y s i o l o g i c a l a n d s u b j e c t i v e m e n t a l l i n k s ( w i t h n o o v e r d e t e r m i n a t i o n t r o u b l e s ) . T h i s a l l o w a n c e a l s o , a s a l r e a d y i n d i c a t e d , a v o i d s t h e d i f f i c u l t y r a i s e d b y J a m e s ’ s e x p e r i m e n t - - t h a t t h e s u b j e c t ’ s s u b p c t i v e p r o c e s s i o n o f e x p e r i e n c e s a r e ( 1 ) e v i d e n t l y c o m p l e t e , a n d ( 2 ) s u p p o s e d l y s u f f i c i e n t t o c a u s e a r m r a i s i n g , y e t ( 3 ) f a i l t o c a u s e a r m r a i s i n g . T h e r e a s o n t h e s u b j e c t i v e p r o c e s s i o n o f p h e n o m e n o l o g i c a l s t a t e s f a i l s t o b r i n g a b o u t a r m r a i s i n g w h e n t h e a r m i s r e s t r a i n e d , w e c a n n o w s a y , i s t h a t t h e w a y i n w h i c h m e n t a l c a u s e s b r i n g a b o u t o v e r t p h y s i c a l e f f e c t s s u c h a s a r m r a i s i n g i s v i a d o w n w a r d c a u s a t i o n o f i n t e r m e d i a t e c o v e r t p h y s i c a l e f f e c t s w h i c h w o u l d p h y s i c a l l y c a u s e t h e o v e r t b e h a v i o r , e x c e p t t h a t i n t h e p r e s e n t c a s e , t h e r e i s a p h y s i c a l r e s t r a i n t - - " h i s a r m i s h e l d " - - b l o c k i n g t h e l a s t t r a n s i t i o n . M u c h S e a r l e s a y s s u g g e s t s t h i s a s - i f i n t e r a c t i o n i s t t a k e o n t h e p i c t u r e ( s ) a t i s s u e , f r o m h i s e a r l i e r c o n f e s s i o n t h a t " I s u p p o s e t h i s [ s o l u t i o n t o t h e m i n d - b o d y p r o b l e m ] i s ‘ i n t e r a c t i o n - i s m ’ a n d I g u e s s i t i s a l s o , i n s o m e s e n s e , ‘ m o n i s m ’ " ( S e a r l e 1 9 8 0 b , p . 4 5 6 ) , t o m o r e r e c e n t i n t e r a c t i o n i s t s o u n d i n g a s s e r t i o n s , l i k e t h e f o l l o w i n g : I n t h e n o r m a l c a s e . . . m e n t a l s t a t e s m e d i a t e t h e r e l a t i o n s h i p b e t w e e n I n p u t s t i m u l i a n d o u t p u t b e h a v i o r . ( S e a r l e 1 9 9 2 , p . 6 9 ) 3 3 8 C a u s a l l y , c o n s c i o u s n e s s s e r v e s t o m e d i a t e t h e c a u s a l r e l a t i o n s b e t w e e n i n p u t s t i m u l i a n d o u t p u t b e h a v i o r ; a n d f r o m t h e e v o l u t i o n a r y p o i n t o f v i e w , t h e c o n s c i o u s m i n d f u n c t i o n s c a u s a l l y t o c o n t r o l b e h a v i o r . ( S e a r l e 1 9 9 2 , p . 6 9 ) N o t s u r p r i s i n g l y , s u c h c o n S p i c u o u s l y i n t e r a c t i o n i s t s o u n d i n g t a l k o c c a s i o n s c o n s p i c u o u s i n t e r a c t i o n i s t s o r t s o f d i f f i c u l t i e s . O n e c r u c i a l q u e s t i o n - - i f w e a r e g o i n g t o f l e s h o u t a n i n t e r a c t i o n i s t v e r s i o n o f o u r p i c t u r e ( s ) - - i s h o w t h i s m e n t a l m e d i a t i o n i s s u p p o s e d t o t a k e p l a c e w i t h o u t v i o l a t i n g " t h e c a u s a l c l o s u r e o f t h e p h y s i c a l d o m a i n " ( K i m 1 9 9 2 b , p . 2 ) : i f s u b p c t i v e m e n t a l e v e n t s ( e . g . , i n t e n t i o n s ) c a u s e o b j e c t i v e p h y s i c a l e f f e c t s ( e . g . , a r m r a i s i n g s ) w i t h o u t b e i n g p a r t o f t h e o b j e c t i v e p h y s i c a l w o r l d i t w i l l b e t h e c a s e t h a t " ‘ t h e r e c a n b e n o c o m p l e t e t h e o r y o f p h y s i c a l p h e n o m e n a " s i n c e t h e r e w i l l b e " p h y s i c a l o c c u r r e n c e s t h a t c a n n o t b e e x p l a i n e d b y i n v o k i n g p h y s i c a l a n t e c e d e n t s a n d l a w s a l o n e " ( K i m 1 9 9 2 b , p . 1 ) . A l s o t h e r e i s d i f f i c u l t y i n s a y i n g " w h e n " i n t h e c a u s a l c h a i n t h i s m e n t a l m e d i a t i o n i s s u p p o s e d t o o c c u r . I n t h i s c o n n e c t i o n K i m n o t e s , " t h a t g i v e n t h e s i m u l t a n e i t y o f t h e i n s t a n c e s [ o f m a n d b ] i t i s n o t p o s s i b l e t o t h i n k o f t h e M - i n s t a n c e a s a t e m p o r a l l y i n t e r m e d i a t e l i n k i n t h e c a u s a l c h a i n [ f r o m b t o b ‘ ] " ( K i m 1 9 9 2 b , p . 2 3 : m y e m p h a s i s ) . P e r h a p s t h i s - - t h o u g h s u s p i c i o u s - d o e s n ’ t a b s o l u t e l y p r e c l u d e a n i n t e r a c t i o n i s t c o n s t r u a l o f o u r p i c t u r e i f w e c a n t h i n k o f t h e " r e a l i z a t i o n " s t e p s a s s o m e h o w i n t e r m e d i a t e w i t h o u t b e i n g t e m p o r a l l y s o . I f s o , t h e n d i f f e r e n t a n s w e r s t o o u r " w h e r e " q u e s t i o n d e t e r m i n e p i c t u r e s o f j u s t t w o b a s i c t y p e s d e p e n d i n g o n t h e m a n n e r o f m e d i a t i o n i n v o l v e d - w h e t h e r t h e m e n t a l m e d i a t i o n i s s u p p o s e d t o b e c o n t i n u o u s o r i n t e r m i t t e n t . H e r e a r e t h e p i c t u r e s : 3 3 9 F I G U R E 5 ( S a ) C O N T I N U O U S H E D I A T I O N ( 5 b ) I N T E R H I T I ' E N T H E D I A T I O N m m ' m m 1 m ’ \ i N \ . \ . \ \ - l J l \ l \ l b b ’ b b 1 b ’ S i n c e , i n i n t e r m i t t e n t m e d i a t i o n , e a c h o f t h e s e v e r a l m e n t a l l i n k s i n t h e c a u s a l c h a i n i s c o n t i n u o u s s o l o n g a s i t l a s t s , p r o b l e m s w i t h c o n t i n u o u s i n t e r a c t i o n g e t i n h e r i t e d b y t h e i n t e r m i t t e n t p i c t u r e a l s o . I b e g i n w i t h c o n t i n u o u s m e d i a t i o n . A c c o r d i n g t o t h e h y p o t h e s i s o f c o n t i n u o u s m e d i a t i o n t h e r e i s j u s t o n e c o n t i n u o u s s u b p c t i v e m e n t a l l i n k - - h o w e v e r l o n g - - i n t h e c a u s a l c h a i n b e t w e e n p h y s i c a l s t i m u l u s a n d o v e r t r e s p o n s e : t h e m e d i a t i o n i s c o n t i n u o u s l y s u b j e c t i v e a n d m e n t a l t h r o u g h o u t . I n t h e s p i r i t o f S e a r i e ’ s i n s i s t e n c e t h a t " t h e m i n d c o n s i s t s o f q u a l i a , s o t o s p e a k , r i g h t d o w n t o t h e g r o u n d " ( S e a r l e 1 9 9 2 , p . 2 0 ) w e h e r e d e p i c t m e n t a l c a u s a t i o n a s c o n s i s t i n g o f q u a l i a , s o t o s p e a k , f r o m s t a r t t o f i n i s h . T h i s d e p i c t i o n i s v e x e d . F i r s t , t h e g r o s s p i c t u r e j u s t l i m n e d s e e m s e m p i r i c a l l y d u b i o u s w i t h r e g a r d b o t h t o w h a t i t p u t s i n a n d w h a t i t l e a v e s o u t . I t p u t s i n a c o n t i n u o u s s t r e a m o f s u b p c t i v e e x p e r i e n c e s o r q u a l i a i n t e r v e n i n g b e t w e e n s t i m u l u s a n d r e s p o n s e w h e r e I t h a s b e e n f o r c e f u l l y a n d I t h i n k r i g h t l y o b s e r v e d ( s e e , e . g . , W i t t g e n s t e i n 1 9 5 8 ) t h a t e x p e r i e n c e r e v e a l s n o s u c h c o n t i n u o u s c h a i n o f q u a l i a o r e x p e r i e n c e s b e c a u s e c e r t a i n o f t h e m e n t a l l i n k s I n s u c h p u t a t i v e c h a i n s ( e s p e c i a l l y t h e l n t e n t i o n - a l o n e s , e . g . , r e c o g n i z i n g , i n t e n d i n g , e t c . ) c o n s p i c u o u s l y l a c k a n y s u b j e c t i v e e x p e r i e n t i a l “ f e e l " o r q u a l i t a t i v e e x p e r i e n t i a l c h a r a c t e r . W h a t i s l e f t o u t i s o b v i o u s 3 4 0 f r o m t h e p i c t u r e : l e f t o u t i s t h e w h o l e c h a i n o f n e u r o p h y s i o l o g i c a l p r o c e s s e s f r o m o p t i c n e r v o u s i m p u l s e s t o a c t i v i t y i n t h e v i s u a l c e n t e r o f t h e b r a i n , e t c . , w e k n o w m e d i a t e s t h e r e s p o n s e . H e r e y o u m i g h t t h i n k t o r e p l y , " W e l l y o u r p i c t u r e i s j u s t t o o c r u d e . I f y o u f i l l i n t h e m i s s i n g b o t t o m w i t h a l l t h e p h y s i o l o g i c a l l y m e d i a t i v e p r o c e s s e s w e k n o w o f y o u w o u l d g e t a d i f f e r e n t p i c t u r e . " B u t h o w i s t h i s " f i l l i n g i n " s u p p o s e d t o g o ? E i t h e r i t w i l l m e r e l y s h o r t e n t h e s u b j e c t i v e l i n k i n t h e c a u s a l c h a i n - a s w i t h D e s c a r t e s ’ s s t o r y a b o u t t h e p i n e a l g l a n d - - i n w h i c h c a s e i t ’ s s t i l l t h e s a m e p i c t u r e ( o n l y s h o r t e r ) ; o r e l s e i t w i l l i n s e r t s e v e r a l s u b j e c t i v e l i n k s a t i n t e r v a l s , i n w h i c h c a s e i t b e c o m e s o u r i n t e r m i t t e n t p i c t u r e ( F i g u r e 5 b ) . S u b j e c t i v e i y , p e r h a p s , t h i s i n t e r m i t t e n t p i c t u r e h a s s o m e e m p i r i c a l a d v a n t a g e s . I t s e e m s t o m e , a t t e n t i v e n e s s t o m y o w n e x p e r i e n c e s i n a c t i n g s e e m s t o r e v e a l , n o t a c o n t i n u o u s c h a i n e i t h e r o f q u a l i a o r c o n s c i o u s r a t i o c i n a t i o n s , b u t r a t h e r o c c a s i o n a l f l a s h e s o f q u a l i a a n d i n t e r l u d e s o f c o n s c i o u s r a t i o c i n a t i o n . O b j e c t i v e e m p i r i c a l a d v a n t a g e s , h o w e v e r , t h e i n t e r m i t t e n t p i c t u r e l a c k s . F o r t h e s a m e r e a s o n D e s c a r t e s ’ s s h o r t e n i n g o f t h e s u b j e c t i v e l i n k i s u n a v a i l i n g - i s n ’ t t h e r e a p h y s i c a l c a u s a l c h a i n f r o m i n p u t t o o u t p u t i n t h e p i n e a l g l a n d a l s o ? - - s o i s t h e i n t e r m i t t e n t p i c t u r e u n a v a i l i n g i n t h i s c o n n e c t i o n . D o n ’ t w e b e l i e v e ( j u s t i f i a b l y ) t h a t t h e r e a r e o b j e c t i v e p h y s i c a l c a u s a l l i n k s a t e a c h j u n c t u r e ( f r o m b t o b ’ , f r o m b ’ t o b ’ ) i n t h e i n t e r m i t t e n t p i c t u r e a l s o ? W e l l , s u p p o s e w e f i l l i n t h e l i n k s s o : 3 4 1 F I G U R E 6 b — - > b 1 — — + b ' M u c h t h a t S e a r l e s a y s s u g g e s t s t h i s p i c t u r e . F o r i n s t a n c e : S i n c e a l l o f t h e s u r f a c e f e a t u r e s o f t h e w o r l d a r e e n t i r e l y c a u s e d b y a n d r e a l i z e d I n s y s t e m s o f m i c r o - e l e m e n t s , t h e b e h a v i o u r o f t h e m i c r o - e l e m e n t s i s s u f f i c i e n t t o d e t e r m i n e e v e r y t h i n g t h a t h a p p e n s . S u c h a ‘ b o t t o m u p ’ p i c t u r e o f t h e w o r l d a l l o w s f o r t o p - d o w n c a u s a t i o n ( o u r m i n d s , f o r e x a m p l e , c a n a f f e c t o u r b o d i e s ) . B u t t o p - d o w n c a u s a t i o n o n l y w o r k s b e c a u s e t h e t o p l e v e l i s a l r e a d y c a u s e d b y a n d r e a l i z e d I n t h e b o t t o m l e v e l s . ( S e a r l e 1 9 8 4 a , p . 9 4 ) c a u s a l e m e r g e n c e , c a l l i t “ e m e r g e n t 1 , " h a s t o b e d i s t i n g u i s h e d f r o m a m u c h m o r e a d v e n t u r o u s c o n c e p t i o n , c a l l i t “ e m e r g e n t 2 . “ A f e a t u r e F i s e m e r g e n t 2 I f f F l s e m e r g e n t 1 a n d F h a s c a u s a l p o w e r s t h a t c a n n o t b e e x p l a i n e d b y t h e c a u s a l I n t e r a c t i o n s o f [ m l c r o e l e m e n t s ] a , b , c . . . I f c o n s c i o u s n e s s w e r e e m e r g e n t 2 , t h e n c o n s c i o u s n e s s c o u l d c a u s e t h i n g s t h a t c o u l d n o t b e e x p l a i n e d b y t h e c a u s a l b e h a v i o r o f t h e n e u r o n s . T h e n a i v e v i e w h e r e I s t h a t c o n s c i o u s n e s s g e t s s q u i r t e d o u t b y t h e b e h a v i o r o f t h e n e u r o n s I n t h e b r a i n , b u t o n c e I t h a s b e e n s q u i r t e d o u t , i t t h e n h a s a l i f e o f i t s o w n . ( S e a r l e 1 9 9 2 , p . 1 1 2 ) " I t s h o u l d b e o b v i o u s , " S e a r l e a d d s , " t h a t o n m y v i e w c o n s c i o u s n e s s I s e m e r g e n t 1 , b u t n o t e m e r g e n t 2 " ( S e a r l e 1 9 9 2 , p . 1 1 2 ) ; b u t i t i s n o t o b v i o u s , a s d i f f i c u l t i e s i n t r o d u c e d b y t h i s l a t e s t r e v i s i o n o f o u r p i c t u r e r e v e a l . N o t o n l y d o e s t h i s r e v i s i o n r e i n t r o d u c e o v e r d e t e r m i n a t i o n - - i f y o u r e s i s t t o k e n i d e n t i f i c a t i o n o f s u b j e c t i v e m e n t a l w i t h o b j e c t i v e n e u r o p h y s i o l o g i c a l e v e n t s i t i s a s i f t h e s u b j e c t i v e w e r e " s q u i r t e d o u t " t o t a k e o n a c a u s a l " l i f e o f i t s o w n " s u c h t h a t b ' b e s i d e s b e i n g c a u s e d b y b ’ i s g e t t i n g i n d e p e n d e n t l y c a u s e d b y m ’ - - o n c e s u b j e c t i v i t y h a s b e e n " s q u i r t e d o u t " t o t a k e o n t h i s i n d e p e n d e n t c a u s a l " l i f e o f i t s o w n " w e h a v e o u r a s - i i t e l e k i n e s i s p r o b l e m t o o . I f m ’ a n d b ’ a r e e a c h c a u s a l l y s u f f i c i e n t f o r b ' t h e n t h e c a u s a l a c t i o n o f o n e m i g h t b e i n t e r r u p t e d i n d e p e n d e n t l y o f t h e o t h e r . O n c e m ’ 3 4 2 g e t s " s q u i r t e d o u t " s o m e t h i n g m i g h t h a p p e n t o b r e a k j u s t t h e c a u s a l l i n k b ’ e b ' , i n w h i c h c a s e b ’ w i l l s t i l l b e c a u s e d v i a c a u s a l l i n k m ’ e b ’ , a s i f b y t e l e k i n e s i s . 3 . 3 4 C o n c l u s i o n : S t a n d a r d R e d u c t i v i s m a n d S e a r i e ’ s N o n s o l u t i o n I n t h e l i g h t o f t h e a l t e r n a t i v e s j u s t c a n v a s s e d - - a s - i f p a r a l l e l i s m , e p i p h e n o m e - n a l i s m , a n d a s - i f i n t e r a c t i o n i s m - - a l l o w i n g m = b , i d e n t i f y i n g m e n t a l a n d p h y s i c a l p r o p e r t y i n s t a n t i a t i o n s o r e v e n t s , a f t e r a l l , l o o k s m o s t a t t r a c t i v e . P a c e K i m ’ s c r i t i c i s m s , s t a n d a r d n o n r e d u c t i v i s m m a y ( a s a s o l u t i o n t o t h e m i n d b o d y p r o b l e m ) p u r c h a s e o n l y h a l f a l o a f ; b u t h a l f a l o a f i s b e t t e r t h a n n o n e . H e r e , i n S e a r i e ’ s o w n w o r d s , i s h o w t h e t o k e n i d e n t i t y s o l u t i o n m a k e s t h a t p u r c h a s e : ‘ ° c o r r e s p o n d i n g t o t h e d e s c r i p t i o n o f t h e c a u s a l r e l a t i o n s t h a t g o f r o m t h e t o p t o t h e b o t t o m , t h e r e i s a n o t h e r d e s c r i p t i o n o f t h e s a m e s e r i e s o f e v e n t s w h e r e t h e c a u s a l r e l a t i o n s b o u n c e e n t i r e l y a l o n g t h e b o t t o m , t h a t i s , t h e y a r e e n t i r e l y a m a t t e r o f n e u r o n s a n d n e u r o n f i r i n g s a t s y n a p s e s , e t c . ( S e a r l e 1 9 8 4 a , p . 9 3 ) S i n c e , a c c o r d i n g t o s t a n d a r d n o n r e d u c t i v i s m , t h e r e ’ s o n l y o n e p r o c e s s i o n o f e v e n t s , o n e c a u s a l c h a i n , w i t h t w o d e s c r i p t i o n s , t h i s s o l v e s t h e o v e r d e t e r m i n a t i o n a n d a s - i f t e l e k i n e s i s p r o b l e m s . S i n c e t o k e n m e n t a l e v e n t s ( b e l i e f s , d e s i r e s , e t c . ) r e a l l y a r e c a u s e s ( i n v i r t u e o f t h e i r p h y s i c a l p r o p e r t i e s : o f . D a v i d s o n 1 9 6 4 ) s t a n d a r d n o n r e d u c t i v i s m n e a t l y a v o i d s e p i p h e n o m e n a l i s m a s w e l l . T h e r e a s o n t h i s 1 0 . S e a r l e s e e m s t o w a f f l e i n h i s r e j e c t i o n o f t o k e n - i d e n t i t y . I n i t s o r i g i n a l c o n t e x t , t h e p a s s a g e h e r e q u o t e d s e e m s t o b e a d v o c a t i n g t o k e n i d e n t i t i e s b e t w e e n m e n t a l a n d p h y s i c a l e v e n t s : I f t h i s i s t h e l i n e h e t a k e s , t h e n h i s “ s o l u t i o n " i s n o t h i s b u t i s r a t h e r t h e s t a n d a r d n o n r e d u c t i v i s t o n e t y p i c a l l y i d e n t i f i e d w i t h f u n c t i o n a l i s m , w h i c h S e a r l e o s t e n s i v e l y o p p o s e s . O n t h e o t h e r h a n d , I f S e a r l e d o e s i n s i s t t h a t t h e r e a r e n o t j u s t “ t w o d e s c r i p t i o n s “ - - i . e . , i f h e i n s i s t s t h a t " s u b j e c t i v i t y r e f e r s t o a n o n t o l o g i c a l c a t e g o r y “ ( S e a r l e 1 9 9 2 , p . 9 4 ) a n d t h a t “ a p e r f e c t s c i e n c e o f t h e b r a i n w o u l d n o t l e a d t o a w o u l d s t i l l n o t l e a d t o a n o n t o l o g i c a l r e d u c t i o n o f c o n s c i o u s - n e s s i n t h e w a y t h a t o u r p r e s e n t s c i e n c e c a n r e d u c e h e a t , ‘ s o l i d i t y , c o l o r , a n d s o u n d “ ( S e a r l e 1 9 9 2 , p . 1 1 6 ) - - t h e n t h e p r o p o s a l i s d i s t i n c t i v e l y h i s , b u t i t ' s n o k i n d o f s o l u t i o n ( n o t e v e n a h a l f - s o l u t i o n ) t o t h e m i n d - b o d y p r o b l e m . 3 4 3 m a y s e e m o n l y a h a l f - s o l u t i o n t o t h e m i n d - b o d y p r o b l e m , i s t h a t o n t h i s p i c t u r e i t s e e m s ( t o m e a s t o K i m a s w i t h D a v i d s o n ’ s ( 1 9 7 0 ) " a n o m a l o u s m o n i s m " ) t h a t w e m u s t s a y t h e s e s u b j e c t i v e o r m e n t a l e v e n t s c a u s e t h e i r s u c c e s s o r e v e n t s s o l e l y I n v i r t u e o f t h e i r o b j e c t i v e n e u r o p h y s i o l o g i c a l p r o p e r t i e s a n d n o t a t a l l i n v i r t u e o f t h e i r s u b j e c t i v e p h e n o m e n o l o g i c a l o r I n t e n t i o n a l o n e s ; q u a p h y s i c a l , a s i t w e r e , a n d n o t q u a m e n t a l . T h i s i s l e s s , p e r h a p s , i n t h e w a y o f a s o l u t i o n t o t h e m i n d - b o d y p r o b l e m t h a n m a n y a d v o c a t e s o f s t a n d a r d n o n r e d u c t i v i s m h a d h o p e d f o r , a n d l e s s , i n f a c t , t h a n h a s b e e n c l a i m e d o n t h e t o k e n i d e n t i t y s o l u t i o n ’ s b e h a l f . I t i s c l a i m e d ( e . g . , b y F o d o r 1 9 7 4 ; F o d o r 1 9 8 9 ) t h a t t h e s t a n d a r d n o n r e d u c t i v i s t p i c t u r e v i n d ‘ i c a t e s c l a i m s t h a t t h e e x p l a n a t i o n s c o u c h e d i n t e r m s o f p s y c h o l o g i c a l a n d o t h e r h i g h e r l e v e l " s p e c i a l s c i e n t i f i c " d e s c r i p t i o n s c o n s t i t u t e a u t o n o m o u s l e v e l s o f c a u s a l e x p l a n a t i o n w h o s e h i g h e r l e v e l p r e d i c a t i o n s p i c k o u t o r c h a r a c t e r i z e a u t o n o m o u s c a u s a l l e v e l s o f r e a l i t y . I f K i m i s r i g h t , c o n s i d e r a t i o n s o f e x p l a n a t o r y e x c l u s i o n m i l i t a t e s t r o n g l y a g a i n s t s u c h a u t o n o m y c l a i m s a n d f a v o r t h e m o r e c o n s e r v a t i v e " a n o m a l o u s m o n i s t " c o n s t r u a l b r o a c h e d a b o v e . S e a r i e ’ s n o n s t a n d a r d n o n r e d u c t i v i s m n o t o n l y s h a r e s t h e s t a n d a r d n o n r e d u c t i v i s t ’ s t r o u b l e s a b o u t e x p l a n a t o r y e x c l u s i o n b u t , b y r e j e c t i n g t o k e n i d e n t i f i c a t i o n s o f m e n t a l w i t h n e u r o p h y s i o l o g i c a l e v e n t s , o c c a s i o n s m o r e g r i e v o u s t r o u b l e s ( o v e r d e t e r m i n a t i o n a n d a s - i i t e l e k i n e s i s ) ; o c c a s i o n s v i r t u a l l y a l l t h e i n c o h e r e n c e o f C a r t e s i a n d u a l i s m . S e a r i e ’ s n o n s t a n d a r d n o n r e d u c t i v i s m i s a n o n s o l u t i o n . 3 4 4 4 . T h e O t h e r M i n d s P r o b l e m B e s i d e s h i s l o n g s t a n d i n g c l a i m t o h a v e s o l v e d t h e m i n d - b o d y p r o b l e m S e a r l e m o r e r e c e n t l y c l a i m s a " s o l u t i o n t o t h e ‘ o t h e r m i n d s p r o b l e m ’ " ( S e a r l e 1 9 9 2 , p . 7 7 ) a l s o . T h o u g h h i s a t t e m p t t o a d d r e s s t h e o t h e r m i n d s p r o b l e m i s l o n g o v e r d u e ~ - a n d i s a v a s t I m p r o v e m e n t o v e r S e a r i e ’ s p r e v i o u s ( 1 9 8 0 a - 1 9 9 0 9 ) r h e t o r i c a l s t r a t a g e m o f f e i g n i n g a m n e s i a ( i . e . , o f s t o n e w a l l i n g , d e n y i n g t h e r e i s a n y s u c h p r o b l e m ) - - S e a r i e ’ s " s o l u t i o n " t o t h i s p r o b l e m , l i k e h i s " s o l u t i o n " t o t h e m i n d - b o d y p r o b l e m , f a i l s . S e a r i e ’ s p r o p o s e d " s o l u t i o n " i s n e i t h e r n e w ( b e i n g , e s s e n t i a l l y , a r e i t e r a t i o n o f t h e w e l l - k n o w n a r g u m e n t f r o m a n a l o g y ) n o r i m p r o v e d ( p r o v i d i n g n o r e s o u r c e s n o t a l r e a d y a v a i l a b l e t o D e s c a r t e s ) . I n d e e d , r a t h e r t h a n i m p r o v i n g o n D e s c a r t e s , S e a r l e r e g r e s s e s i n t h i s c o n n e c t i o n n o t o n l y t o C a r t e s i a n i s m , b u t b e y o n d i t , b y e m p l o y i n g s t r o n g e r a s - i f n e s s a p p a r a t u s t o e x c l u d e c o m p u t e r s f r o m t h e r a n k s o f t h i n k i n g t h i n g s t h a n D e s c a r t e s e m p l o y s t o e x c l u d e i n f r a h u m a n a n i m a l s . S e a r l e i s k e e n t o p o i n t o u t t h a t " e x c e p t w h e n d o i n g p h i l o s o p h y , t h e r e i s r e a l l y n o ‘ p r o b l e m ’ a b o u t o t h e r m i n d s " ( S e a r l e 1 9 9 2 , p . 7 7 ) . I n r e a l l i f e w e d o k n o w ( I t a k e i t ) , n o t o n l y t h a t o t h e r p e o p l e t h i n k ( o r h a v e m e n t a l p r o p e r t i e s ) b u t o f t e n e n o u g h , r o u g h l y , w h a t t h e y t h i n k ( w h a t m e n t a l p r o p e r t i e s t h e y h a v e ) . T h e o t h e r m i n d s p r o b l e m a r i s e s , a s S e a r l e n o t e s " w h e n d o i n g p h i l o s o p h y " ( S e a r l e 1 9 9 2 ) ; e s p e c i a l l y ( S e a r l e d o e s n ’ t n o t e ) w h e n d o i n g p h i l o s o p h y f r o m t h e C a r t e s i a n v a n t a g e p o i n t . I t a r i s e s f r o m t h e m e t a p h y s i c a l d o c t r i n e S e a r l e t e r m s " o n t o l o g i c a l s u b j e c t i v i t y " t h a t h o l d s m e n t a l i t y i s e s s e n t i a l l y c o n s c i o u s n e s s , i t ’ s " q u a l i a r i g h t d o w n 3 4 5 t o t h e g r o u n d " ( S e a r l e 1 9 9 2 , p . 2 0 ) w i t h i t s e p i s t e m i c c o r o l l a r y t h a t " t h e f i r s t - p e r s o n p o i n t o f v i e w i s p r i m a r y " ( S e a r l e 1 9 9 2 , p . 2 0 ) . W h e t h e r w e c a l l t h i s p r i m a c y " p r i v i l e g e d a c c e s s " o r n o t , t h e u p s h o t s e e m s t o b e t h a t " w h e n w e c h a r a c t e r i z e [ o t h e r ] p e o p l e b y m e n t a l p r e d i c a t e s w e a r e m a k i n g u n t e s t a b l e i n f e r e n c e s t o g h o s t l y p r o c e s s e s o c c u r r i n g i n s t r e a m s o f c o n s c i o u s n e s s w h i c h w e a r e d e b a r r e d f r o m v i s i t i n g " ( R y l e 1 9 4 9 , p . 5 1 ) . T h e p r o b l e m i s t h a t t h e s e " u n t e s t a b l e i n f e r e n c e s " s e e m i n s u f fi c i e n t l y w a r r a n t e d t o j u s t i f y t h e r o b u s t b e l i e f i n " o t h e r m i n d s " w e a c t u a l l y h a v e . T h e p r o b l e m ( f o r t h e C a r t e s i a n ) i s t h a t " w e d o n o t h a v e e q u a l a c c e s s t o [ t h e ] e m p i r i c a l f a c t s [ o f c o n s c i o u s n e s s ] b e c a u s e o f t h e i r i n t r i n s i c s u b j e c t i v i t y " ( S e a r l e 1 9 9 2 , p . 7 3 ) : t h e “ p h e n o m e n a [ b e i n g ] i n t r i n s i c a l l y s u b j e c t i v e [ a r e ] t h e r e f o r e i n a c c e s s i b l e t o d i r e c t t h i r d - p e r s o n t e s t s " ( S e a r l e 1 9 9 2 , p . 7 5 ) . T h e s o l u t i o n r e q u i r e d ( o f t h e C a r t e s i a n ) , t h e n , i s t o s h o w h o w " i n g e n e r a l w e h a v e i n d i r e c t m e t h o d s o f g e t t i n g a t t h e s a m e e m p i r i c a l f a " ( S e a r l e 1 9 9 2 , p . 7 3 ) ; " t o s h o w t h a t w e c a n h a v e i n d i r e c t m e a n s o f a n o b j e c t i v e , t h i r d - p e r s o n , e m p i r i c a l k i n d f o r g e t t i n g a t e m p i r i c a l p h e n o m e n a t h a t a r e i n t r i n s i c a l l y s u b j e c t i v e a n d t h e r e f o r e i n a c c e s s i b l e t o d i r e c t t h i r d . p e r s o n t e s t s " ( S e a r l e 1 9 9 2 , p . 7 5 ) . S e a r i e ’ s e s p e c i a l d i f f i c u l t y i n t h i s c o n n e c t i o n d e r i v e s f r o m h i s a l l e g i a n c e t o a n a s - i f n e s s t h e s i s - - " W e c o u l d h a v e i d e n t i c a l b e h a v i o r i n t w o d i f f e r e n t s y s t e m s , o n e o f w h i c h i s c o n s c i o u s a n d t h e o t h e r t o t a l l y u n c o n s c i o u s " ( S e a r l e 1 9 9 2 , p . 7 1 ) - - t h a t s e e m s t o p r e c l u d e o u r h a v i n g a n y i n d i r e c t m e a n s " o f a n o b j e c t i v e , t h i r d p e r s o n , e m p i r i c a l k i n d " f o r d i s t i n g u i s h i n g g e n u i n e f r o m t h e m e r e a s - i f m e n t a l i t y e i t h e r . 3 4 6 N o w , a s a w a y o u t o f t h e p r e c e d i n g d i f f i c u l t y , S e a r l e p r o p o s e s t h e f o l l o w i n g : I f y o u t h i n k f o r a m o m e n t a b o u t h o w w e k n o w t h a t d o g s a n d c a t s a r e c o n s c i o u s , a n d t h a t c o m p u t e r s a n d c a r s a r e n o t ( a n d , b y t h e w a y , t h e r e I s n o d o u b t t h a t y o u a n d I b o t h k n o w t h e s e t h i n g s ) , y o u w i l l s e e t h a t t h e b a s i s o f o u r c e r t a i n t y i s n o t “ b e h a v i o r , " b u t r a t h e r a c e r t a i n c a u s a l c o n c e p t i o n o f h o w t h e w o r l d w o r k s . O n e c a n s e e t h a t d o g s a n d c a t s a r e i n c e r t a i n I m p o r t a n t r e s p e c t s r e l e v a n t l y s i m i l a r t o u s . T h o s e a r e e y e s , t h i s I s s k i n , t h e s e a r e e a r s , e t c . T h e " b e h a v i o r " o n l y m a k e s s e n s e a s t h e e x p r e s s i o n o r m a n i f e s t a t i o n o f a n u n d e r l y i n g m e n t a l r e a l i t y , b e c a u s e w e c a n s e e t h e c a u s a l b a s i s o f t h e m e n t a l a n d t h e r e b y s e e t h e b e h a v i o r a s a m a n i f e s t a t i o n o f t h e m e n t a l . ( S e a r l e 1 9 9 2 . p . 2 2 ) W h e r e k n o w l e d g e o f o t h e r - m i n d s I s c o n c e r n e d , b e h a v i o r b y i t s e l f l s o f n o i n t e r e s t t o u s ; I t i s r a t h e r t h e c o m b i n a t i o n o f b e h a v i o r w i t h t h e k n o w l e d g e o f t h e c a u s a l u n d e r p i n n i n g s o f b e h a v i o r t h a t f o r m t h e b a s i s o f o u r k n o w l e d g e . ( S e a r l e 1 9 9 2 , p . 2 2 ) I t I s n ’ t j u s t b e c a u s e t h e d o g b e h a v e s i n a w a y t h a t I s a p p r o p r i a t e t o h a v i n g c o n s c i o u s m e n t a l s t a t e s b u t a l s o b e c a u s e I c a n s e e t h a t t h e c a u s a l b a s i s o f t h e b e h a v i o r I n t h e d o g ’ s p h y s i o l o g y i s r e l e v a n t l y l i k e m y o w n . I t I s n ’ t j u s t t h a t t h e d o g h a s a s t r u c t u r e l i k e m y o w n a n d t h a t h e h a s b e h a v i o r t h a t I s I n t e r p r e t a b l e I n w a y s a n a l o g o u s t o t h e w a y s t h a t I i n t e r p r e t m y o w n . B u t r a t h e r I t i s t h e c o m b i n a t i o n o f t h e s e t w o f a c t s t h a t I c a n s e e t h a t t h e b e h a v i o r I s a p p r o p r i a t e a n d t h a t I t h a s t h e a p p r o p r i a t e c a u s a t i o n I n t h e u n d e r l y i n g p h y s i o l o g y . ( S e a r l e 1 9 9 2 , p . 7 3 ) " T h e m e t h o d s " S e a r l e p r o p o s e s " r e s t , " h e a v o w s , " o n a r o u g h — a n d - r e a d y p r i n c i p l e t h a t w e u s e e l s e w h e r e i n s c i e n c e a n d i n d a i l y l i f e : s a m e c a u s e s - s a m e e f f e c t s , a n d s i m i l a r c a u s e s s i m i l a r e f f e c t s " ( S e a r l e 1 9 9 2 , p . 7 5 ) . " W e c a n r e a d i l y s e e i n t h e c a s e o f o t h e r h u m a n b e i n g s t h a t t h e c a u s a l b a s e s o f t h e i r e x p e r i e n c e s a r e v i r t u a l l y i d e n t i c a l w i t h t h e c a u s a l b a s e s o f o u r e x p e r i e n c e s “ ( S e a r l e 1 9 9 2 , p . 7 5 ) . W h y w o n ’ t t h i s a p p e a l t o " c a u s a l b a s e s " a n d " p h y s i o l o g y r e l e v a n t l y l i k e m y o w n " w o r k ? A T h e i d e a i s t h a t s i n c e I k n o w t h a t I h a v e m e n t a l s t a t e s ( f r o m m y o w n e x p e r i e n c e o f t h e m ) , a n d t h a t o t h e r h u m a n b e i n g s a r e l i k e m e i n r e l e v a n t r e s p e c t s ( e . g . , t h e y h a v e b r a i n s ) , I h a v e i n d u c t i v e w a r r a n t ( b y a n a l o g y w i t h m y o w n c a s e ) f o r b e l i e v i n g o t h e r h u m a n s h a v e m e n t a l s t a t e s t o o . T h i s a r g u m e n t f r o m a n a l o g y , 3 4 7 f a m i l i a r t o p h i l o s o p h e r s , i s a s t a n d a r d C a r t e s i a n r e p l y t o t h e o t h e r m i n d s p r o b l e m , s u b j e c t t o f a m i l i a r d i f f i c u l t i e s . “ l = o r s t a r t e r s , i t i n v o l v e s i n d u c t i v e e x t r a p o l a t i o n f r o m a s i n g l e c a s e ( m y o w n ) . I f s u c h a n a r g u m e n t p r o v i d e s a n y i n d u c t i v e w a r r a n t f o r m y b e l i e f t h a t o t h e r p e o p l e r e a l l y h a v e t h e m e n t a l p r o p e r t i e s t h e i r b e h a v i o r o r p h y s i o l o g y s e e m s t o b e s p e a k , i t m u s t b e a n e x c e e d i n g l y w e a k o n e : t o o w e a k a w a r r a n t , i t s e e m s , t o j u s t i f y t h e r o b u s t c o n f i d e n c e ( a n d j u s t i f i c a t i o n ) w e h a t e i n a t t r i b u t i n g m i n d s t o o t h e r s . S e a r l e c o n t e n d s , “ I t i s o n l y b e c a u s e o f t h e c o n n e c - t i o n b e t w e e n b e h a v i o r a n d t h e c a u s a l s t r u c t u r e o f o t h e r o r g a n i s m s t h a t b e h a v i o r i s a t a l l r e l e v a n t t o t h e d i s c o v e r y o f m e n t a l s t a t e s i n o t h e r s " ( S e a r l e 1 9 9 2 , p . 7 7 ) ; a n d t h e d i f f i c u l t y i s , i n t h e f i r s t p l a c e , h o w t h e i n d u c t i v e " c o n n e c t i o n “ o f m e n t a l s t a t e s t o b e h a v i o r a n d p h y s i o l o g y c o u l d b e e s t a b l i s h e d f o r o t h e r s g i v e n t h a t w e c a n n e v e r “ o b s e r v e " t h e c o n n e c t i o n ( a r e f o r e v e r b a r r e d f r o m e x p e r i e n c i n g t h e c o n s c i o u s n e s s s u p p o s e d l y c o r r e l a t e d w i t h t h e p h y s i o l o g y a n d b e h a v i o r ) i n o t h e r s . I n t h e s e c o n d p l a c e , a c c o r d i n g t o S e a r i e ' s p i c t u r e o f h o w " t h e a p p r o p r i - a t e c a u s a t i o n i n t h e u n d e r l y i n g p h y s i o l o g y " i s s u p p o s e d t o w o r k " t h e b e h a v i o u r o f t h e m i c r o - e l e m e n t s i s s u f f i c i e n t t o d e t e r m i n e e v e r y t h i n g t h a t h a p p e n s “ b e h a v i o r a l l y r e g a r d l e s s o f w h e t h e r a n y c o n s c i o u s n e s s i s b e i n g g i v e n o f f a t a l l . T h e b a s i c p r o p o s a l , h e r e , f o r p r o v i d i n g " i n d i r e c t m e a n s o f a n o b j e c t i v e , t h i r d - p e r s o n , e m p i r i c a l k i n d f o r g e t t i n g a t e m p i r i c a l p h e n o m e n a t h a t a r e i n t r i n s i c a l l y s u b j e c t i v e a n d t h e r e f o r e i n a c c e s s i b l e t o d i r e c t t h i r d - p e r s o n t e s t s " ( S e a r l e 1 9 9 2 , p . 7 5 ) ( b e l l s a n d w h i s t l e s a b o u t a n a l o g y w i t h o n e ’ s o w n c a s e a d d e d ) i s t o “ t r e a t “ h a v e a m i n d ’ 1 1 . R u s s e l l ( 1 9 4 8 , 4 8 2 - 4 8 6 ) p r o v i d e s e x p o s i t i o n a n d d e f e n d s t h e a n a l o g i c a l a r g u m e n t . C h u r c h i a n d ( 1 9 8 8 , p . 6 8 - 7 0 ) , F o d o r ( 1 9 6 8 , p . 1 3 1 ) a n d M a l c o l m ( 1 9 6 2 ) m a k e t e l l i n g , a n d p e r h a p s f a t a l , o b j e c t i o n s . 3 4 8 a s a n u n o b s e r v a b l e p r o p e r t y o r s t a t e o f o t h e r s [ a s t a t e ] w h o s e e x i s t e n c e w e i n f e r o n t h e b a s i s o f i n d i r e c t e v i d e n c e i n t h e s a m e w a y t h a t p h y s i c i s t s i n f e r t h e e x i s t e n c e o f t h e i r u n o b s e r v a b l e s , s u c h a s q u a r k s , g r a v i t o n s , s u p e r s t r i n g s o r t h e B i g B a n g " ( H a r n a d 1 9 9 1 , p . 4 6 ) . A n d t h e t r o u b l e i s t h a t u n l i k e t h e c a s e o f , s a y , s u p e r s t r i n g s , w i t h o u t w h o s e e x i s t e n c e a p a r t i c u l a r c o n t e m p o r a r y t h e o r y I n p h y s i c s s i m p l y w o u l d n o t w o r k ( i . e . , i t w o u l d n o t s u c c e e d i n p r e d i c t a n a n d e x p l a i n i n g t h e a v a i l a b l e e v i d e n c e ) . I n t h e c a s e o f t h e m i n d a l l p o s s i b l e e m p i r i c a l e v i d e n c e ( a n d a n y t h e o r y o f b r a i n f u n c t i o n t h a t e x p l a i n s i t [ m y e m p h a s i s j ) i s j u s t a s c o m p a t i b l e w i t h t h e a s s u m p t i o n t h a t a c a n d i d a t e i s m e r e l y b e h a v i n g e x a c t l y a s i f I t h a d a m i n d ( b u t d o e s n ’ t ) a s w i t h t h e a s s u m p t i o n t h a t a c a n d i d a t e r e a l l y h a s a m i n d . S o u n l e s s w e ’ r e p r e p a r e d t o b e d u a l i s t s ( i . e . , r e a d y t o b e l i e v e t h a t t h e r e a r e t w o k i n d s o f " s t u f f " i n t h e w o r l d - - p h y s i c a l a n d " m e n t a l " - - e a c h w i t h c a u s a l p o w e r s a n d l a w s o f i t s o w n [ A l c o c k ( 1 9 8 7 ) ] ) , " h a v i n g a m i n d " c a n ’ t d o a n y i n d e p e n d e n t t h e o r e t i c a l w o r k f o r u s [ o f F o d o r ( 1 9 8 0 ) ] i n t h e w a y t h a t p h y s i c s u n o b s e r v a b l e s d o . H e n c e c o n s c i o u s n e s s c a n b e a f f i r m e d o r d e n i e d o n t h e b a s i s o f p r e c i s e l y t h e s a m e e v i d e n c e [ H a r n a d ( 1 9 8 2 , 1 9 8 9 b ) ] . ( H a r n a d 1 9 9 1 , p . 4 6 ) T h e s o l i p s i s t i c p r e d i c a m e n t , o n c e i n d u c e d ( b y t a k i n g u p t h e C a r t e s i a n v a n t a g e p o i n t ) p e r t a i n s t o i n d i v i d u a l s , n o t s p e c i e s o r g e n e r a , p h y l a , o r k i n g d o m s . " A s f o r a n a l o g y a n d o t h e r " b u z z e r s a n d w h i s t l e s " ( e . g . , s t r e s s o n t h e n e e d f o r c o n v e r g e n c e o f p h y s i o l o g i c a l w i t h b e h a v i o r a l e v i d e n c e t o s u p p o r t t h e r e q u i s i t e i n d u c t i o n ) o f S e a r i e ’ s a c c o u n t , t o s e e t h a t t h e y a r e s u c h ( b u z z e r s a n d w h i s t l e s ) i t i s i n s t r u c t i v e t o c o m p a r e t h i s S e a r l e a n a p p a r a t u s w i t h a p p a r a t u s w h i c h , i f a c c e p t a b l e , t r u l y w o u l d a v a i l i n s u p p o r t i n g t h e r e q u i s i t e i n d u c t i o n ; w i t h D e s c a r t e s ' s a p p a r a t u s . A c c o r d i n g t o D e s c a r t e s , w h i l e t h e r e c a n b e a s - i f m e n t a l i t y ( g e n e r a l l y ) a n d a s - i f i n t e n t i o n a l i t y ( e . g . , p u r p o s i v e n e s s ) i n p a r t i c u l a r , t h e r e 1 2 . " W e c a n ’ t w r i t e s o l i p s i s m s p e c i e s - w i d e . W e c a n ’ t r e a l l y a r g u e t h a t w e h u m a n s h a v e a p e c u l i a r l y I n t i m a t e w a y o f k n o w i n g t h a t a l l o f u s t h i n k a n d f e e l , w h i l e r e q u i r i n g w i t h r e s p e c t t o p o s s i b l e e x t r a t e r r e s t r i a l s p e c i e s , o r [ c o m p u t e r s ] , o r c h i m p a n z e e s , e t a l . , s o m e a d d i t i o n a l a n d d i f f e r e n t ( a n d m a y b e c o n v e n i e n t l y i m p o s s i b l e ) f o r m o f d e m o n s t r a t i o n t h a t t h e y t h i n k a n d f e e l . " ( L e l b e r 1 9 8 5 , p . 6 0 - 6 1 ) 3 4 9 c a n n o t b e a s - i f p r o d u c t i v i t y o r c r e a t i v i t y ( e . g . , o f s p e e c h ) . B y i n s i s t i n g o n t h e c a u s a l n e c e s s i t y o f m e n t a l s t a t e s f o r l i n g u i s t i c p e r f o r m a n c e D e s c a r t e s i n s u r e s t h e i n d u c t i v e s u f f i c i e n c y o f l i n g u i s t i c p e r f o r m a n c e t o e v i d e n c e t h e s e m e n t a l s t a t e s . N o t i c e , n o w , t h a t a n a l o g y w i t h o n e ’ s o w n c a s e c a n ( a t b e s t ! ) o n l y e s t a b l i s h t h e c a u s a l s u f f i c i e n c y o f c o n s c i o u s e x p e r i e n c e s o r t h o u g h t s ( t h e r i g h t o n e s , o f c o u r s e ) f o r i n t e l l i g e n t s e e m i n g b e h a v i o r . S e a r l e i s e v e n o f f i c i a l l y c o m m i t t e d t o t h e t h o u g h t s o r e x p e r i e n c e s n o t b e i n g n e c e s s a r y f o r a n y i n t e l l i g e n t s e e m i n g b e h a v i o r y o u n a m e : t h e " b e h a v i o u r o f t h e m i c r o - e l e m e n t s i s s u f f i c i e n t t o d e t e r m i n e e v e r y t h i n g t h a t h a p p e n s " ( S e a r l e 1 9 8 4 a , p . 9 4 ) . S e a r i e ’ s p r o p o s a l s e e m s , t h e n , t o b e t h i s : t h a t I k n o w f r o m m y o w n c a s e t h a t c e r t a i n c o n s c i o u s e x p e r i e n c e s o r t h o u g h t s s u f f i c e f o r c e r t a i n i n t e l l i g e n t s e e m i n g b e h a v i o r ( a n s w e r i n g q u e s t i o n s a b o u t s t o r i e s , s a y ) i n m e ; I k n o w f r o m n e u r o p h y s i o l o g y t h a t n e u r o p h y s i o l o g i c a l p r o c e s s e s s u f f i c e f o r t h i s b e h a v i o r i n p e o p l e , g e n e r a l l y ; t h u s , I a m e n t i t l e d t o i n d u c t i v e l y i n f e r t h a t s i m i l a r n e u r o p h y s i o l o g i c a l p r o c e s s e s g i v e o f f s i m i l a r c o n s c i o u s e x p e r i e n c e s i n o t h e r s . N e u r o p h y s i o l o g y p e r h a p s w a r r a n t s t h e h y p o t h e s i s t h a t o t h e r p e o p l e a r e " r e l e v a n t l y s i m i l a r " t o m e w i t h r e g a r d t o t h e n e u r o p h y s i o l o g i c a l c a u s e s o f t h e i r b e h a v i o r , b u t w h a t w a r r a n t s t h e h y p o t h e s i s o f r e l e v a n t s i m i l a r i t y w i t h r e g a r d t o p r o d u c t i o n o f c o n s c i o u s e x p e r i e n c e s ? W e c a n , p e r h a p s r e a d i l y , s e e i n t h e c a s e o f o t h e r h u m a n b e i n g s t h a t t h e c a u s a l b a s e s o f t h e i r b e h a v i o r a r e v i r t u a l l y i d e n t i c a l w i t h t h e c a u s a l b a s e s o f o u r b e h a v i o r , b u t w h a t S e a r l e a v e r s - - " W e c a n r e a d i l y s e e i n t h e c a s e o f o t h e r h u m a n b e i n g s t h a t t h e c a u s a l b a s e s o f t h e i r e x p e r i e n c e s a r e v i r t u a l l y i d e n t i c a l w i t h t h e c a u s a l b a s e s o f o u r 3 5 0 e x p e r i e n c e s " ( S e a r l e 1 9 9 2 , p . 7 5 ) - - i s j u s t w h a t w e c a n ' t s e e ( b e c a u s e w e c a n ’ t s e e t h e e x p e r i e n c e s ) i n t h e c a s e o f o t h e r s . S e a r l e a d m i t s t h a t h i s " s o l u t i o n t o ‘ t h e o t h e r m i n d s p r o b l e m ’ g i v e s u s s u f f i c i e n t b u t n o t n e c e s s a r y c o n d i t i o n s f o r t h e c o r r e c t a s c r i p t i o n o f m e n t a l p h e n o m e n a t o o t h e r b e i n g s " ( S e a r l e 1 9 9 2 , p . 7 6 ) , t h o u g h h e a d d s , " I a m q u i t e c o n f i d e n t t h a t t h e t a b l e i n f r o n t o f m e , t h e c o m p u t e r I u s e d a i l y , t h e f o u n t a i n p e n I w r i t e w i t h , a n d t h e t a p e - r e c o r d e r I d i c t a t e i n t o a r e q u i t e u n c o n s c i o u s , [ a l t h o u g h ] i c a n n o t p r o v e t h e y a r e u n c o n s c i o u s ” ( S e a r l e 1 9 9 2 , p . 7 7 ) . N o w , i n t h e c a s e o f t h e t a b l e , f o u n t a i n p e n , a n d t a p e - r e c o r d e r , p e r h a p s , h e c a n b e s a i d t o h a v e e v i d e n c e ( l a c k o f i n t e l l i g e n t s e e m i n g b e h a v i o r ) a g a i n s t t h e h y p o t h e s i s o f c o n s c i o u s n e s s . B u t i n t h e c a s e o f t h e c o m p u t e r p r o d u c i n g a T u r i n g m a c h i n e " s i m u l a t i o n " o f s o m e i n t e l l i g e n t h u m a n p e r f o r m a n c e t h e r e i s n o b e h a v i o r a l e v i d e n c e d i s c o u n t e n a n c i n g t h e h y p o t h e s i s o f c o n s c i o u s n e s s . S e a r l e a l s o m a i n t a i n s b o t h t h a t i t i s l i k e l y t h e r e a r e " a g r e a t v a r i e t y o f f o r m s o f n e u r o p h y s i o l o - g i e s o f c o n s c i o u s n e s s ” ( S e a r l e 1 9 9 2 , p . 7 5 ) a n d t h a t t h e r e a r e v a r i e t i e s o f c o n s c i o u s e x p e r i e n c e u t t e r l y u n i m a g i n a b l e t o u s : B u t n o w s o m e r e c e n t r e s e a r c h t e l l s u s t h a t t h e r e a r e s o m e b i r d s t h a t n a v i g a t e b y d e t e c t i n g t h e e a r t h ’ s m a g n e t i c f i e l d . N o w , w h a t i s i t l i k e t o f e e l a s u r g e o f m a g n e t i s m ? I n t h i s c a s e , I d o n o t h a v e t h e f a i n t e s t i d e a w h a t i t f e e l s l i k e f o r a b i r d , o r f o r t h a t m a t t e r , f o r a h u m a n t o f e e l a s u r g e o f m a g n e t i s m f r o m t h e e a r t h ’ s m a g n e t i c f i e l d . ( S e a r l e 1 9 9 2 , p . 7 2 - 7 3 ) I n t h e l i g h t o f t h i s a c k n o w l e d g e m e n t o f t h e l i k e l i h o o d b o t h o f a l i e n p h y s i c a l b a s e s p r o d u c t i v e o f t h e s o r t s o f c o n s c i o u s e x p e r i e n c e s f a m i l i a r t o m e f r o m m y o w n c a s e a n d t h e l i k e l i h o o d o f t h e r e b e i n g r a d i c a l l y a l i e n s o r t s o f c o n s c i o u s e x p e r i e n c e s , h o w d o e s t h e d i f f e r e n c e b e t w e e n t h e c a r b o n - b a s e d n e u r o p h y s i o l o g i c a l c i r c u i t r y 3 5 1 ( e t c . ) o f b r a i n s a n d t h e s i l i c o n - b a s e d c i r c u i t r y o f c o m p u t e r s e v i d e n c e t h e u n c o n s c i o u s n e s s o f c o m p u t e r s ? I a m n o t s a y i n g c o m p u t e r s a r e c o n s c i o u s : I ’ m s a y i n g i f y o u h o l d t h a t b e i n g c o n s c i o u s i s n e c e s s a r y f o r h a v i n g i n t e n t i o n a l m e n t a l s t a t e s ( a s S e a r l e d o e s ) t h e n t h e p r i m a f a c i e b e h a v i o r a l e v i d e n c e o f i n t e n t i o n a l m e n t a l s t a t e s i n m a c h i n e s s h o u l d c o u n t , f o r y o u , a s e v i d e n c i n g t h e c o n s c i o u s - n e s s o f t h e s e m a c h i n e s ; d i f f e r e n t c a u s a l b a s e s n o t w i t h s t a n d i n g . N o r e a s o n i s g i v e n f o r t h i n k i n g t h a t t h i s d i f f e r e n c e - - b e t w e e n b e i n g a c a r b o n - b a s e d a n d a s i l i c o n - b a s e d s y s t e m - - i s c a u s a l l y s a l i e n t w i t h r e g a r d t o t h e p r o d u c t i o n a n d n o n p r o d u c t i o n o f c o n s c i o u s e x p e r i e n c e . S e a r l e s a y s , I t h i n k i t i s e m p i r i c a l l y a b s u r d t o s u p p o s e t h a t w e c o u l d d u p l i c a t e t h e c a u s a l p o w e r s o f n e u r o n s e n t i r e l y i n s i l i c o n . B u t t h a t i s a n e m p i r i c a l c l a i m o n m y p a r t . I t i s n o t s o m e t h i n g w e c o u l d e s t a b l i s h a p r i o r i . ( S e a r l e 1 9 9 2 , p . 6 6 ) B u t t h e t r o u b l e i s i t i s n o t s o m e t h i n g o n e c o u l d e s t a b l i s h a p o s t e r i o r i e i t h e r , o n S e a r i e ’ s v i e w s . O n S e a r i e ’ s v i e w s i t s e e m s " t h e o n l y w a y t o k n o w i s b y b e i n g t h e o t h e r b o d y " ( H a r n a d 1 9 9 1 , p . 4 3 a b s t r a c t ) , w h i c h o n e c a n n o t d o . I n t h e f i n a l a n a l y s i s S e a r i e ’ s c o n v i c t i o n t h a t c o m p u t e r s d o n ’ t h a v e t h e r i g h t s t u f f f o r c o n s c i o u s n e s s ( h e n c e , f o r i n t e n t i o n a l i t y ) i s b a s e d o n u n s u p p o r t e d b r u t e “ i n t u i t i o n . " S e a r l e a d m i t s , a s w e ’ v e s e e n , t h a t h i s " s o l u t i o n " t o t h e o t h e r m i n d s p r o b l e m i s o n l y a h a l f s o l u t i o n - - a s o l u t i o n , h e c l a i m s , t o t h e p r o b l e m o f h o w w e k n o w t h a t o t h e r h u m a n s a n d c e r t a i n n o n h u m a n a n i m a l s h a v e c o n s c i o u s n e s s a n d i n t e n t i o n a l m e n t a l s t a t e s , b u t n o t t o t h e p r o b l e m o f h o w w e k n o w ( i f w e d o ) t h a t o t h e r t h i n g s ( e . g . , c o m p u t e r s ) t h a t a c t a s i f t h e y d o d o n ’ t . W h a t S e a r l e f a i l s t o r e c o g n i z e i s t h a t t h i s l a c k o f w a r r a n t f o r j u d g m e n t s o f m i n d l e s s n e s s i n t h e n e g a t i v e c a s e u n d e r m i n e s t h e w a r r a n t h i s " s o l u t i o n " i s s u p p o s e d t o p r o v i d e f o r 3 5 2 j u d g m e n t s o f m i n d e d n e s s i n t h e p o s i t i v e c a s e s ( e . g . , o f d o g s a n d o t h e r p e o p l e ) . H o w d o I k n o w t h a t t h e r e s p e c t s i n w h i c h t h e v i r t u a l l y i d e n t i c a l c a u s a l b a s e s o f t h e i r i n t e l l i g e n t s e e m i n g b e h a v i o r d i f f e r f r o m m i n e a r e n ’ t p r e c i s e l y i n t h o s e r e s p e c t s w h i c h c a u s e t h e s i d e e f f e c t - - w h e t h e r i t i s a m e r e s i d e - e f f e c t a s f o r e p i p h e n o m e n a l i s m ( a s i n F i g u r e 4 ) o r a n o v e r d e t e r m i n i n g s i d e - e f f e c t ( a s i n F i g u r e 6 ) - - o f c o n s c i o u s n e s s ? A c c o r d i n g t o R u s s e l l , t h e a r g u m e n t f r o m a n a l o g y f o r o t h e r m i n d s r e q u i r e s t h e f o l l o w i n g p o s t u l a t e : I f , w h e n e v e r w e c a n o b s e r v e A a n d B a r e p r e s e n t o r a b s e n t [ e . g . , l n o n e ’ s o w n c a s e ] , w e f i n d t h a t e v e r y c a s e o f B [ e . g . , a n s w e r i n g q u e s t i o n s a b o u t s t o r i e s ] h a s a n A [ e . g . , a c o n s c i o u s e x p e r i e n c e o f u n d e r s t a n d i n g ] a s a c a u s a l a n t e c e d e n t , t h e n I t I s p r o b a b l e t h a t m o s t B ’ s h a v e A ’ s a s c a u s a l a n t e c e d e n t s , e v e n i n c a s e s w h e r e o b s e r v a t i o n d o e s n o t e n a b l e u s t o k n o w w h e t h e r A i s p r e s e n t o r n o t . ( R u s s e l l 1 9 4 8 , p . 4 8 6 ) I n t e r m s o f i t s a p p l i c a b i l i t y i n t h e a r g u m e n t f r o m a n a l o g y w i t h o n e ’ s o w n c a s e t o t h e e x i s t e n c e o f o t h e r m i n d s , t h i s p o s t u l a t e i s v e x e d ( 1 ) b e c a u s e o f t h e d u b i o u s - n e s s o f i t s e m p i r i c a l p r e s u p p o s i t i o n t h a t e v e r y c a s e o f a n s w e r i n g q u e s t i o n s a b o u t s t o r i e s ( e . g . ) i s a c c o m p a n i e d b y a d i s t i n c t i v e c o n s c i o u s e x p e r i e n c e o f u n d e r s t a n d - i n g i n m e a n d ( 2 ) b e c a u s e t h e a c c e p t a b i l i t y o f t h e p o s t u l a t e i t s e l f v a r i e s , r o u g h l y , i n p r o p o r t i o n t o t h e s i z e , v a r i e t y , a n d r e p r e s e n t a t i v e n e s s o f t h e s a m p l i n g o f c a s e s i n w h i c h w e c a n o b s e r v e t h e s u b j e c t i v e c o r r e l a t e s , w h i l e t h e s a m p l i n g h e r e ( c o m p r i s e d j u s t o f m y e x p e r i e n c e s ) s e e m s d e f i c i e n t i n a l l t h e s e r e s p e c t s . T h e a n a l o g i c a l " s o l u t i o n " t o t h e o t h e r m i n d s p r o b l e m i s s h a k y e n o u g h o n t h e s u p p o s i t i o n i m p l i c i t i n R u s s e l l ’ s p o s t u l a t e t h a t w e s o m e h o w h a v e e v i d e n c e f r o m o u r o w n c a s e t h a t t h e m e d i a t i n g c o n s c i o u s e x p e r i e n c e s a r e n e c e s s a r y f o r t h e 3 5 3 b e h a v i o r a l e f f e c t - - " w e f i n d t h a t e v e r y c a s e o f B h a s a n A a s a c a u s a l a n t e c e d e n t " - - i . e . , s h a k y e n o u g h o n t h e s t a n d a r d i n t e r a c t i o n i s t c o n s t r u a l o f t h e c a u s a l m e d i a t i o n ( a s i n F i g u r e 5 ) . I t c a n h a r d l y h e l p m a t t e r s h e r e t o a l l o w w i t h S e a r l e ( a s i n F i g u r e 6 ) t h a t i n e v e r y c a s e , i n c l u d i n g t h e o n l y c a s e i n w h i c h o n e c a n o b s e r v e b o t h t h e c o n s c i o u s e x p e r i e n c e s a n d t h e b e h a v i o r a l e f f e c t , " t h e b e h a v i o u r o f t h e m i c r o - e l e m e n t s " [ w o u l d b e ] s u f f i c i e n t t o d e t e r m i n e e v e r y t h i n g t h a t h a p p e n s " r e g a r d l e s s o f w h e t h e r i t p r o d u c e d t h e c o n s c i o u s e x p e r i e n c e s o r n o t . I n s o f a r a s S e a r i e ’ s a d d i t i o n s t o t h e a r g u m e n t f r o m a n a l o g y a r e m o r e t h a n " b u z z e r s a n d w h i s t l e s “ t h e y p r o v e d e t r i m e n t a l t o i t . 5 . l n t r o s p e c t i o n i s m R e v i s i t e d : W h y I s n ’ t P s y c h o l o g y E a s y ? A t t h e e n d o f h i s S e c o n d M e d i t a t i o n , D e s c a r t e s f a m o u s l y c o n c l u d e s , I k n o w p l a i n l y t h a t I c a n a c h i e v e a n e a s i e r a n d m o r e e v i d e n t p e r c e p t i o n o f m y o w n m i n d t h a n o f a n y t h i n g e l s e . ( D e s c a r t e s 1 6 4 2 , p . 2 2 - 2 3 ) T h e s u b s e q u e n t h i s t o r y o f p s y c h o l o g y b e l i e s t h i s c o n f i d e n t e x p e c t a t i o n . T h e n o t o r i o u s i n a b i l i t y o f l n t r o s p e c t i o n i s t s t o a g r e e e v e n a b o u t t h e d a t a i n t r o s m c t i v e l y r e v e a l e d - - " a s t o w h e t h e r a u d i t o r y s e n s a t i o n s h a v e t h e q u a l i t y o f ‘ e x t e n s i o n , ’ w h e t h e r i n t e n s i t y i s a n a t t r i b u t e t h a n c a n b e a p p l i e d t o c o l o r , w h e t h e r t h e r e i s a d i f f e r e n c e i n ‘ t e x t u r e ’ b e t w e e n i m a g e a n d s e n s a t i o n a n d u p o n h u n d r e d s o f o t h e r [ q u e s t i o n s ] o f l i k e c h a r a c t e r " ( W a t s o n 1 9 1 3 , p . 2 7 4 ) — - c o m e s e s p e c i a l l y t o m i n d , b u t t h e w h o l e h i s t o r y o f p s y c h o l o g y s u b s e q u e n t t o D e s c a r t e s ’ s o r i g i n a l " d i s c o v e r y o f t h e m i n d " i s s u s p i c i o u s i n t h i s r e g a r d . I f t h e d a t a o f p s y c h o l o g y a r e s o f a r s u p e r i o r t o t h e d a t a o f c h e m i s t r y a n d p h y s i c s a s D e s c a r t e s t h o u g h t , w h y h a s t h e 3 5 4 p r o g r e s s o f p s y c h o l o g y b e e n s o p i d d l i n g b y c o m p a r i s o n t o t h a t o f s c i e n c e s b a s e d o n d a t a t h a t i s s o m u c h m o r e " u n c e r t a i n " ? S e a r i e ’ s r e v i s i o n i s t h i s t o r i c a l c l a i m t h a t p s y c h o l o g y h a s b e e n h e l d b a c k b y i t s n e g l e c t o f c o n s c i o u s n e s s e v e r s i n c e D e s c a r t e s - - t h a t " t h e e x c l u s i o n o f c o n s c i o u s n e s s f r o m t h e n a t u r a l w o r l d i n t h e s e v e n t e e n t h c e n t u r y " b y D e s c a r t e s " m o r e t h a n a n y t h i n g e l s e , m o r e e v e n t h a n t h e s h e e r d i f f i c u l t y o f s t u d y i n g c o n s c i o u s n e s s w i t h o u r a v a i l a b l e s c i e n t i f i c t o o l s h a s k e p t u s f r o m a r r i v i n g a t a n u n d e r s t a n d i n g o f c o n s c i o u s n e s s " ( S e a r l e 1 9 9 2 , p . 9 3 ) - - i s , f r a n k l y , a m a z i n g ! I t i s s i m p l y n o t t r u e t h a t " s i n c e D e s c a r t e s w e h a v e , f o r t h e m o s t p a r t , t h o u g h t t h a t c o n s c i o u s n e s s . w a s n o t a n a p p r o p r i a t e s u b j e c t f o r a s e r i o u s s c i e n c e o r s c i e n t i f i c p h i l o s o p h y o f m i n d " ( S e a r l e 1 9 9 0 f , p . 5 8 5 ) . R a t h e r , f r o m D e s c a r t e s u n t i l , r o u g h l y , W a t s o n ’ s r a d i c a l d e c l a r a t i o n t h a t " t h e t i m e s e e m s t o h a v e c o m e w h e n p s y c h o l o g y m u s t d i s c a r d a l l r e f e r e n c e t o c o n s c i o u s n e s s ; w h e n i t n o l o n g e r n e e d s t o d e l u d e i t s e l f t h a t i t i s m a k i n g m e n t a l s t a t e s t h e o b j e c t o f o b s e r v a t i o n " ( W a t s o n 1 9 1 3 , p . 2 7 3 ) c o n s c i o u s n e s s w a s t h o u g h t , f o r t h e m o s t p a r t , t h e o n l y a p p r o p r i a t e s u b p c t f o r a s e r i o u s s c i e n c e o r s c i e n t i f i c p h i l o s o p h y o f m i n d l N o t o n l y d o e s d u a l i s m n o t b a r ( b u t r a t h e r m a n d a t e s ) s t u d y i n g c o n s c i o u s n e s s i n t r o s p e c t i v e l y , n e i t h e r d o e s d u a l i s m b a r t h e s e a r c h f o r n e u r o p h y s i o l o g i c a l c o r r e l a t e s ( f o r t h e p a r a l l e l i s t ) o r c a u s e s ( f o r t h e i n t e r a c t i o n i s t ) o f c o n s c i o u s n e s s . T h e m a i n b a r r i e r t o s u c h s t u d y n o w , a s a l w a y s , i s n o t t h e o r e t i c a l ( s t e m m i n g f r o m d u a l i s m ) ; n o r e v e n t e c h n i c a l ( s t e m m i n g f r o m t h e c r u d i t y o f o u t p r e s e n t s c i e n t i f i c t o o l s ) . T h e m a i n b a r r i e r n o w , a s i t a l w a y s h a s b e e n , i s t h e p r i v a c y a n d v a g a r y o r e i u s i v e n e s s o f t h e c o n s c i o u s e x p e r i e n t i a l " d a t a " t h e m s e l v e s . 3 5 5 S e a r l e , t o h i s c r e d i t , r e c o g n i z e s t h e r e i s e i u s i v e n e s s w h e r e , a c c o r d i n g t o D e s c a r t e s , a l l s h o u l d b e p e i l u c i d n e s s . S e a r l e w r i t e s , A c c o r d i n g t o t h e C a r t e s i a n t r a d i t i o n w e h a v e i m m e d i a t e a n d c e r t a i n k n o w l e d g e o f o u r o w n c o n s c i o u s s t a t e s , s o t h e j o b [ o f I n v e s t i g a t i n g c o n s c i o u s n e s s a n d d i s c o v e r i n g " t h e s t r u c t u r e o f c o n s c i o u s n e s s “ ( S e a r l e 1 9 9 2 , p . 1 2 7 ) ] o u g h t t o b e e a s y . B u t i t i s n o t . F o r e x a m p l e , I f i n d i t e a s y t o d e s c r i b e t h e o b j e c t s o n t h e t a b l e I n f r o n t o f m e , b u t h o w , s e p a r a t e l y a n d i n a d d i t i o n , w o u l d I d e s c r i b e m y c o n s c i o u s e x p e r i e n c e o f t h o s e o b j e c t s ? ( S e a r l e 1 9 9 2 , p . 1 2 7 ) S i n c e S e a r l e t o o ( l i k e D e s c a r t e s ) h o l d s t h a t w e h a v e i m m e d i a t e k n o w l e d g e b a s e d o n " d i r e c t a c c e s s " ( S e a r l e 1 9 9 2 , p . 7 4 ) t o o u r o w n c o n s c i o u s s t a t e s a n d c o n s e q u e n t l y " t h a t t h e s t a n d a r d m o d e l s o f m i s t a k e b a s e d o n t h e a p p e a r a n c e - r e a l i t y d i s t i n c t i o n d o n ’ t w o r k f o r t h e e x i s t e n c e o r c h a r a c t e r i z a t i o n o f c o n s c i o u s n e s s " ( S e a r l e 1 9 9 2 , p . 1 4 5 ) t h i s s t i l l l e a v e s h i m w i t h t h e q u e s t i o n , h o w i s I t p o s s i b l e t h a t w e c a n b e m i s t a k e n a b o u t o u r o w n m e n t a l s t a t e s ? W h a t , s o t o s p e a k , i s t h e f o r m o f t h e m i s t a k e w e m a k e , I f i t i s n o t t h e s a m e a s t h e a p p e a r - a n c e / r e a l i t y m i s t a k e s w e m a k e a b o u t t h e w o r l d a t l a r g e ? ( S e a r l e 1 9 9 2 , p . 1 4 7 ) S e a r l e a n s w e r s t h a t " t y p i c a l c a s e s w h e r e o n e g i v e s m i s d e s c r i p t i o n s o f o n e ’ s o w n m e n t a l p h e n o m e n a , " w h i c h p r o v i d e t h e r e q u i s i t e m o d e l s f o r u n d e r s t a n d i n g h o w s u c h m i s t a k e s a r e p o s s i b l e " a r e [ c a s e s o f ] s e l f - d e c e p t i o n , m i s i n t e r p r e t a t i o n , a n d i n a t t e n t i o n " ( S e a r l e 1 9 9 2 , p . 1 4 7 : m y e m p h a s e s ) . I w i l l n o t a t t e m p t t o a r g u e t h a t n o a l t e r n a t i v e ( t o t h e a p p e a r a n c e / r e a l i t y ) m o d e l o f m i s t a k e c o u l d b e a d e q u a t e t o e x p l a i n t h e d i f f i c u l t y o f p s y c h o l o g y o n S e a r l e a n o r C a r t e s i a n a s s u m p t i o n s . I w i l l , h o w e v e r , c i t e e x p e r i m e n t a l e v i d e n c e ( f r o m N i s b e t t & . W i l s o n 1 9 7 7 ) s h o w i n g t h a t t h e t h r e e m o d e l s o f e r r o r S e a r l e s p e c i f i c a l l y p r o p o s e s a r e i n f a c t i n a d e q u a t e t o a c c o u n t f o r w h a t i w i l l c a l l " i n t r o s p e c t i v e e r r o r . " I a l s o c i t e e v i d e n c e ( r e v i e w e d b y N i s b e t t & W i l s o n 1 9 7 7 ) s u g g e s t i n g , 3 5 6 c o n t r a r y t o G P , e i t h e r " t h a t w e h a v e n o d i r e c t a c c e s s t o h i g h e r o r d e r m e n t a l p r o c e s s e s s u c h a s t h o s e i n v o l v e d i n e v a l u a t i o n , j u d g m e n t , p r o b l e m s o l v i n g , a n d t h e i n i t i a t i o n o f b e h a v i o r " ( N i s b e t t & W i l s o n 1 9 7 7 , p . 2 3 1 - 2 3 2 : m y e m p h a s i s ) o r " t h a t t h e a c c u r a c y o f s u b j e c t i v e r e p o r t s i s s o p o o r a s t o s u g g e s t t h a t a n y i n t r o s p e c t i v e a c c e s s t h a t m a y e x i s t i s n o t s u f f i c i e n t t o p r o d u c e g e n e r a l l y c o r r e c t o r r e l i a b l e r e p o r t s " ( N i s b e t t & W i l s o n 1 9 7 7 , p . 2 3 3 ) . F i n a l l y I a r g u e t h a t S e a r i e ’ s C P i n e f f e c t m a n d a t e s i n t r o s p e c t i o n ( w h e t h e r o n e c a l l s i t " i n t r o s p e c t i o n " o r n o t ) a s t h e r e s e a r c h m e t h o d o f c h o i c e i n p s y c h o l o g y ; m a n d a t e s r e v i v a l o f a n i n t r o s p e c t i o n i s t r e s e a r c h p r o g r a m w h i c h , g i v e n t h e ( a t b e s t ) l i m i t e d a n d e m p i r i c a l l y v e x e d n a t u r e o f o u r d i r e c t i n t r o s p e c t i v e a c c e s s t o o u r o w n m e n t a l p r o c e s s e s , i s p r o b a b l y d e s e r v e d l y d e f u n c t . N i s b e t t a n d W i l s o n f o c u s i n i t i a l l y o n t w o s o c i a l p s y c h o l o g i c a l e x p e r i m e n t a l p a r a d i g m s - - d i s s o n a n c e r e s e a r c h a n d a t t r i b u t i o n s t u d i e s - - w h o s e r e s u l t s s e e m t o c h a l l e n g e t r a d i t i o n a l a s s u m p t i o n s a b o u t s u b j e c t s ’ s a c c e s s t o t h e i r o w n m e n t a l p r o c e s s e s . T h e c e n t r a l i d e a o f i n s u f f i c i e n t j u s t i f i c a t i o n o r d i s s o n a n c e r e s e a r c h i s t h a t b e h a v i o r t h a t I s l n t r i n s l c a l l y u n d e s i r a b l e w i l l , w h e n p e r f o r m e d f o r i n a d e q u a t e e x t r i n s i c r e a s o n s , b e s e e n a s m o r e a t t r a c t i v e t h a n w h e n p e r f o r m e d f o r a d e q u a t e e x t r i n s i c r e a s o n s . ( N i s b e t t & W i l s o n 1 9 7 7 , p . 2 3 3 ) T h e c e n t r a l I d e a o f a t t r i b u t i o n t h e o r y I s t h a t p e o p l e s t r i v e t o d i s c o v e r t h e c a u s e s o f a t t i t u d i n a l , e m o t i o n a l , a n d b e h a v i o r a l r e s p o n s e s ( t h e i r o w n a n d o t h e r s ) , a n d t h a t t h e r e s u l t i n g c a u s a l a t t r i b u t i o n s a r e a c h i e f d e t e r m i n a n t o f a h o s t o f a d d i t i o n a l a t t i t u d i n a l a n d b e h a v i o r a l e f f e c t s . ( N i s b e t t & W i l s o n 1 9 7 7 , p . 2 3 3 ) T h e t w o e x p e r i m e n t a l p a r a d i g m s , a s N i s b e t t a n d W i l s o n o b s e r v e " s h a r e a c o m m o n f o r m a l m o d e l " : 3 5 7 V e r b a l s t i m u l i i n t h e f o r m o f i n s t r u c t i o n s f r o m t h e e x p e r i m e n t e r , t o g e t h e r w i t h t h e s u b j e c t ’ s a p p r a i s a l o f t h e s t i m u l u s s i t u a t i o n , a r e t h e i n p u t s t o a f a i r l y c o m p l i c a t e d c o g n i t i v e p r o c e s s w h i c h r e s u l t s i n a c h a n g e d e v a l u a t i o n o f t h e r e l e v a n t s t i m u l i a n d a l t e r e d m o t i v a t i o n a l s t a t e . T h e s e m o t i v a t i o n a l c h a n g e s a r e r e f l e c t e d i n s u b s e q u e n t p h y s i o l o g i c a l a n d b e h a v i o r a l e v e n t s . T h u s : s t i m u l i 4 c o g n i t i v e p r o c e s s 4 e v a l u a t i v e a n d m o t i v a t i o n a l s t a t e c h a n g e - + b e h a v i o r c h a n g e . F o l l o w i n g t r a d i t i o n a l a s s u m p t i o n s a b o u t h i g h e r m e n t a l p r o c e s s e s s i t h a s b e e n t a c i t l y a s s u m e d b y i n v e s t i g a t o r s t h a t t h e c o g n i t i v e p r o c e s s e s i n q u e s t i o n a r e f o r t h e m o s t p a r t v e r b a l c o n s c i o u s o n e s . T h u s t h e s u b j e c t c o n s c i o u s l y d e c i d e s h o w h e f e e l s a b o u t a n o b j e c t , a n d t h i s e v a l u a t i o n d e t e r m i n e s h i s b e h a v i o r t o w a r d i t . A s s e v e r a l w r i t e r s ( B e m , 1 9 7 2 ; N i s b e t t & V a l i n s , 1 9 7 2 ; S t o r m s & N i s b e t t 1 9 7 0 ; W e l c k , 1 9 6 6 ) h a v e p o i n t e d o u t , t h e r e I s a s e r i o u s p r o b l e m w i t h t h i s I m p l i c i t a s s u m p t i o n : T y p i c a l l y b e h a v i o r a l a n d p h y s i o l o g i c a l d i f f e r e n c e s a r e o b t a i n e d i n t h e a b s e n c e o f v e r b a l l y r e p o r t e d d i f f e r e n c e s i n e v a l u a t i v e o r m o t i v e s t a t e s . ( N i s b e t t & W i l s o n 1 9 7 7 , p . 2 3 4 ) M o r e o v e r , w h e r e s u b j e c t s d o r e p o r t o n t h e i r c o g n i t i v e p r o c e s s e s i n s u c h e x p e r i m e n t a l s i t u a t i o n s . . . t h e e x p l a n a t i o n s t h a t s u b j e c t s o f f e r f o r t h e i r b e h a v i o r i n i n s u f f i c i e n t - j u s t i f i c a t i o n a n d a t t r i b u t i o n e x p e r i m e n t s a r e s o r e m o v e d f r o m t h e p r o c e s s e s t h a t I n v e s t i g a t o r s p r e s u m e t o h a v e o c c u r r e d a s t o g i v e g r o u n d s f o r c o n s i d e r a b l e d o u b t t h a t t h e r e i s d i r e c t a c c e s s t o t h e s e p r o c e s s e s . T h i s d o u b t w o u l d r e m a i n , i t s h o u l d b e n o t e d , e v e n i f I t w e r e e v e n t u a l l y t o b e s h o w n t h a t p r o c e s s e s o t h e r t h a n t h o s e p o s i t e d b y i n v e s t i g a t o r s w e r e r e s p o n s i b l e f o r t h e r e s u l t s o f t h e s e e x p e r i m e n t s . W h a t e v e r t h e i n f e r e n t i a l p r o c e s s , t h e e x p e r i m e n t a l m e t h o d m a k e s i t c l e a r t h a t s o m e t h i n g a b o u t t h e m a n i p u l a t e d s t i m u l i p r o d u c e s t h e d i f f e r e n t i a l r e s u l t s . Y e t s u b j e c t s d o n o t r e f e r t o t h e s e c r l t i c a l s t i m u l i I n a n y w a y i n t h e i r r e p o r t s o n t h e i r c o g n i t i v e p r o c e s s e s . ( N i s b e t t & W i l s o n 1 9 7 7 , p p . 2 3 8 - 2 3 9 : m y i t a l i c s ) I n o r d e r t o w a r r a n t t h e " s u b s t a n t i a l l e a p f r o m r e s e a r c h a n d a n e c d o t a l e x a m p l e s " s u c h a s t h o s e c i t e d i n t h e i r v o l u m i n o u s r e v i e w o f t h e i n s u f f i c i e n t j u s t i f i c a t i o n a n d a t t r i b u t i o n e x p e r i m e n t a l l i t e r a t u r e " t o b l a n k e t a s s e r t i o n s a b o u t h i g h e r o r d e r p r o c e s s e s “ ( N i s b e t t & W i l s o n 1 9 7 7 , p . 2 3 2 ) , N i s b e t t a n d W i l s o n u n d e r t o o k , i n a s e r i e s o f e x p e r i m e n t s o f t h e i r o w n , t o c o n t r o l f o r f e a t u r e s c o m m o n l y p r e s e n t i n i n s u f f i c i e n t - j u s t i f i c a t i o n a n d a t t r i b u t i o n e x p e r i m e n t a l s e t u p s w h i c h m i g h t b e d e e m e d r e s p o n s i b l e f o r t h e e x p e r i m e n t a l e f f e c t s r e p o r t e d . I n o r d e r t o r u l e o u t t h e h y p o t h e s i s t h a t t h e r e p o r t e d e f f e c t s w e r e a r t i f a c t s o f e x p e r i m e n t a l s i t u a t i o n s w h i c h i n t e r f e r e d o r i m p e d e d s u b j e c t s ’ s ( o t h e r w i s e r e l i a b l e ) d i r e c t i n t r o s p e c t i v e a c c e s s t o 3 5 8 t h e i r c o g n i t i v e p r o c e s s e s r a t h e r t h a n t o t h e n o n e x i s t e n c e o r g e n e r a l u n r e l i a b i l i t y o f s u c h a c c e s s , N i s b e t t a n d W i l s o n ’ s e x p e r i m e n t s w e r e " d e s i g n e d w i t h s e v e r a l c r i t e r i a i n m i n d " : 1 . T h e c o g n i t i v e p r o c e s s e s s t u d i e d w e r e o f a r o u t i n e s o r t t h a t o c c u r f r e q u e n t l y i n d a i l y l i f e . D e c e p t i o n w a s u s e d m i n i m a l l y , a n d i n o n l y a f e w o f t h e s t u d i e s . 2 . S t u d i e s w e r e d e s i g n e d t o s a m p l e a w i d e v a r i e t y o f b e h a v i o r a l d o m a i n s , i n c l u d i n g e v a l u a t i o n s , j u d g m e n t s , c h o i c e s , a n d p r e d i c t i o n s . 3 . C a r e w a s t a k e n t o e s t a b l i s h t h a t s u b j e c t s w e r e t h o r o u g h l y c o g n i z a n t o f t h e e x i s t e n c e o f b o t h t h e c r i t i c a l s t i m u l u s a n d t h e i r o w n r e s p o n s e s . 4 . W i t h t w o e x c e p t i o n s t h e c r i t i c a l s t i m u l i w e r e v e r b a l I n n a t u r e , t h u s r e d u c i n g t h e p o s s i b i l i t y t h a t s u b j e c t s c o u l d b e c o g n i z a n t o f t h e r o l e o f t h e c r i t i c a l s t i m u l u s b u t s i m p l y u n a b l e t o d e s c r i b e i t v e r b a l l y . 5 . M o s t o f t h e s t i m u l u s s i t u a t i o n s w e r e d e s i g n e d t o b e a s l i t t l e e g o - i n v o l v i n g a s p o s s i b l e s o t h a t s u b j e c t s w o u l d n o t b e m o t i v a t e d o n g r o u n d s o f s o c i a l d e s i r a b i l i t y o r s e l f - e s t e e m m a i n t e n a n c e t o a s s e r t o f d e n y t h e r o l e o f p a r t i c u l a r s t i m u l i i n i n f l u e n c i n g t h e i r r e s p o n s e s . ( N i s b e t t & W i l s o n , p . 2 4 2 ) N o t e t h a t c o n d i t i o n s 3 , 4 , a n d 5 c o n t r o l f o r S e a r i e ’ s t h r e e , p u t a t i v e e r r o r e x p l a i n i n g f a c t o r s : 3 c o n t r o l s f o r i n a t t e n t i o n , 4 c o n t r o l s f o r m i s d e s c r i p t i o n , a n d 5 c o n t r o l s f o r s e l f - d e c e i t . Y e t , N i s b e t t a n d W i l s o n r e p o r t , t h e s e " s t u d i e s i n d i c a t e t h a t s u c h i n t r o s p e c t i v e a c c e s s a s m a y e x i s t i s n o t s u f f i c i e n t t o p r o d u c e a c c u r a t e r e p o r t s a b o u t t h e r o l e o f c r i t i c a l s t i m u l i i n r e s p o n s e t o q u e s t i o n s a s k e d a f e w m i n u t e s o r s e c o n d s a f t e r t h e s t i m u l i h a v e b e e n p r o c e s s e d a n d a r e s p o n s e p r o d u c e d " ( N i s b e t t & W i l s o n 1 9 7 7 , p . 2 4 6 ) e v e n w h e n S e a r l e a n f a c t o r s a r e c o n t r o l l e d f o r . T h e s e r e s u l t s d i r e c t l y c o n t r a v e n e S e a r l e ’ s c o n t e n t i o n t h a t m i s t a k e s a b o u t o u r o w n m e n t a l s t a t e s c a n b e e x p l a i n e d e i t h e r l a r g e l y o r e n t i r e l y b y a p p e a l t o " s e l f - d e c e p t i o n , m i s i n t e r p r e t a t i o n a n d i n a t t e n t i o n " ( S e a r l e 1 9 9 2 , p . 1 4 5 ) . A d d i t i o n a l l y , N i s b e t t a n d W i l s o n ’ s r e s u l t s , t o g e t h e r w i t h o t h e r s t u d i e s t h e y c i t e , s e e m s t r o n g l y t o i n d i c a t e t h a t a c t u a l i g n o r a n c e o f o n e ’ s o w n m e n t a l s t a t e s i s m u c h m o r e p e r v a s i v e a n d t h o r o u g h g o i n g t h a n t r a d i t i o n a l v i e w s , s u c h a s S e a r i e ’ s , 3 5 9 s e e m t o a l l o w . I n a d d i t i o n t o t h e i n s u f f i c i e n t j u s t i f i c a t i o n a n d a t t r i b u t i o n e x p e r i - m e n t s , N i s b e t t a n d W i l s o n c i t e a t l e a s t f i v e o t h e r l l t e r a t u r e s b e a r i n g o n t h e q u e s t i o n o f t h e a b i l i t y o f s u b j e c t s t o r e p o r t a c c u r a t e l y a b o u t t h e e f f e c t s o f s t i m u l i o n c o m p l e x , i n f e r e n t i a l r e s p o n s - e s : ( a ) T h e l e a r n i n g - w i t h o u t - a w a r e n e s s l i t e r a t u r e , ( b ) t h e l i t e r a t u r e o n s u b j e c t a b i l i t y t o r e p o r t a c c u r a t e l y o n t h e w e i g h t s t h e y a s s i g n t o p a r t i c u l a r s t i m u l u s f a c t o r s i n c o m p l e x j u d g m e n t t a s k s ( r e v i e w e d b y S l o v i c & L i c h t e n s t e i n , 1 9 7 1 ) , ( c ) s o m e o f t h e l i t e r a t u r e o n s u b l i m i n a l p e r c e p t i o n , ( d ) t h e c l a s s i c M e i e r ( 1 9 3 1 ) w o r k o n s t i m u l i i n f l u e n c i n g p r o b l e m s o l v i n g , a n d ( e ) w o r k b y L a t a n é a n d D a r l e y ( 1 9 7 0 ) o n a w a r e n e s s o f t h e e f f e c t o f t h e p r e s e n c e o f o t h e r p e o p l e o n h e l p i n g b e h a v i o r . ( N i s b e t t & W i l s o n 1 9 7 7 , p . 2 3 9 ) T h e w e i g h t o f e v i d e n c e f r o m t h e s e v a r i o u s l i t e r a t u r e s , t o g e t h e r w i t h t h e e v i d e n c e f r o m t h e i r o w n e x p e r i m e n t s a n d f r o m i n s u f f i c i e n t j u s t i f i c a t i o n a n d a t t r i b u t i o n s t u d i e s i n i t i a l l y c i t e d , N i s b e t t a n d W i l s o n c l a i m , s u p p o r t s n o t o n l y t h e c o n t e n t i o n t h a t s u b j e c t s " a r e s o m e t i m e s ( a ) u n a w a r e o f t h e e x i s t e n c e o f a s t i m u l u s t h a t i m p o r t a n t l y [ a n d c o g n i t i v e l y ] i n f l u e n c e d a r e s p o n s e , ( b ) u n a w a r e o f t h e e x i s t e n c e o f t h e r e s p o n s e , a n d ( c ) u n a w a r e t h a t t h e s t i m u l u s h a s a f f e c t e d t h e r e s p o n s e " ( N i s b e t t & W i l s o n 1 9 7 7 , p . 2 3 1 : m y e m p h a s i s ) - i t s u p p o r t s t h e c l a i m t h a t w e a r e o f t e n i f n o t c h a r a c t e r i s t i c a l l y u n a w a r e o f t h e e n t i r e p a n o p l y o f " h i g h e r o r d e r m e n t a l p r o c e s s e s s u c h a s t h o s e i n v o l v e d i n e v a l u a t i o n , j u d g m e n t , p r o b l e m s o l v i n g , a n d t h e i n i t i a t i o n o f b e h a v i o r " ( N i s b e t t & W i l s o n 1 9 7 7 , p . 2 3 1 - 2 3 2 ) i n c l u d i n g n o t o n l y ( b u t p e r h a p s m o s t o b v i o u s l y ) " p e r c e p t u a l a n d m e m o r i a l p r o c e s s e s " b u t a l s o " c o g n i t i v e p r o c e s s e s u n d e r l y i n g c o m p l e x b e h a v i o r s s u c h a s j u d g m e n t , c h o i c e , i n f e r e n c e , a n d p r o b l e m s o l v i n g " ( N i s b e t t & W i l s o n , 1 9 7 7 , p . 2 3 2 ) . I n d e e d , s u c h " i n t r o s p e c t i v e e r r o r " e f f e c t s a r e s o p e r v a s i v e a n d r o b u s t ( r e l i a b l y o b t a i n e d a c r o s s a v a r i e t y o f e x p e r i m e n t a l d e s i g n s ) a s t o s u g g e s t , 3 6 0 W h e n r e p o r t i n g o n t h e e f f e c t s o f s t i m u l i p e o p l e m a y n o t i n t e r r o g a t e a m e m o r y o f t h e c o g n i t i v e p r o c e s s e s t h a t o p e r a t e d o n t h e s t i m u l i ; i n s t e a d , t h e y m a y b a s e t h e i r r e p o r t s o n i m p l i c i t , a p r i o r l , t h e o r i e s a b o u t t h e c a u s a l c o n n e c t i o n b e t w e e n s t i m u l u s a n d r e s p o n s e . S u b j e c t i v e r e p o r t s a b o u t h i g h e r m e n t a l p r o c e s s e s a r e s o m e t i m e s c o r r e c t , b u t e v e n t h e i n s t a n c e s o f c o r r e c t r e p o r t a r e n o t d u e t o d i r e c t i n t r o s p e c t i v e a w a r e n e s s . I n s t e a d , t h e y a r e d u e t o t h e i n c i d e n t a l l y c o r r e c t e m p l o y m e n t o f a p r i o r i c a u s a l t h e o r i e s . ( N i s b e t t & W i l s o n 1 9 7 7 , p . 2 3 3 ) T h i s s u g g e s t s t h a t " f i r s t - p e r s o n r e p o r t s a b o u t h i g h e r c o g n i t i v e p r o c e s s e s " a r e " n e i t h e r m o r e n o r l e s s a c c u r a t e , i n g e n e r a l , t h a n t h e p r e d i c t i o n s a b o u t s u c h p r o c e s s e s m a d e b y o b s e r v e r s " ( N i s b e t t & W i l s o n 1 9 7 7 , p . 2 4 9 ) ; a h y p o t h e s i s g e n e r a l l y c o n f i r m e d b y t h e c o n c u r r e n c e o f f i r s t p e r s o n r e p o r t s w i t h r e p o r t s o f o b s e r v e r s . " A s B e r n ( 1 9 6 7 ) p u t i t i f t h e r e p o r t s o f s u b j e c t s d o n o t d i f f e r f r o m t h e r e p o r t s o f o b s e r v e r s , t h e n i t i s u n n e c e s s a r y t o a s s u m e t h a t t h e f o r m e r a r e d r a w i n g o n ‘ a f o u n t o f p r i v i l e g e d k n o w l e d g e ’ ( p . 1 8 6 ) " ( N i s b e t t 8 1 W i l s o n p . 2 4 8 ) . I n t h i s c o n n e c t i o n N i s b e t t a n d B e l l o w s ( 1 9 7 6 ) f o u n d " t h a t s u b j e c t a n d o b s e r v e r r e p o r t s o f f a c t o r u t i l i z a t i o n [ i n m a k i n g j u d g m e n t s ] w e r e s o s t r o n g l y c o r r e l a t e d f o r e a c h o f t h e j u d g m e n t s t h a t i t s e e m s h i g h l y u n l i k e l y t h a t s u b j e c t s a n d o b s e r v e r s c o u l d p o s s i b l y h a v e a r r i v e d a t t h e s e r e p o r t s b y d i f f e r e n t m e a n s " ( N i s b e t t & W i l s o n 1 9 7 7 , p . 2 5 0 ) . N i s b e t t a n d W i l s o n c o n c l u d e , " S u c h s t r o n g c o r r e s p o n d e n c e b e t w e e n s u b j e c t a n d o b s e r v e r r e p o r t s s u g g e s t s t h a t b o t h g r o u p s p r o d u c e d t h e s e r e p o r t s v i a t h e s a m e r o u t e , n a m e l y b y a p p l y i n g o r g e n e r a t i n g s i m i l a r c a u s a l t h e o r i e s " ( N i s b e t t & W i l s o n , p . 2 5 1 ) . N i s b e t t a n d W i l s o n ’ s h y p o t h e s i s - - t h a t o n e ’ s f i r s t - p e r s o n b e l i e f s a b o u t o n e ’ s o w n " h i g h e r o r d e r c o g n i t i v e p r o c e s s e s " a r e b a s e d o n s i m i l a r a p p l i c a t i o n s o f " i m p l i c i t , a p r i o r i , t h e o r i e s a b o u t t h e c a u s a l c o n n e c t i o n b e t w e e n s t i m u l u s a n d r e s p o n s e " t o t h o s e o n e ’ s t h i r d - p e r s o n b e l i e f s a b o u t o t h e r ’ s h i g h e r o r d e r c o g n i t i v e 3 6 1 p r o c e s s e s a r e b a s e d o n - - t h o u g h i t e n j o y s c o n s i d e r a b l e p h i l 0 3 0 p h i c a l a c c e p t a n c e ( c f . C h u r c h i a n d 1 9 8 8 , p p . 7 3 - 7 5 ) i s s t i l l c o n t r o v e r s i a l . S e a r l e , f o r o n e , i n s i s t s , " w e d o n o t p o s t u l a t e b e l i e f s a n d d e s i r e s " i n o r d e r “ t o a c c o u n t f o r a n y t h i n g " ( S e a r l e 1 9 9 2 , p . 5 9 ) . R a t h e r , S e a r l e s a y s , " I t h i n k i t i s o b v i o u s t h a t b e l i e f s a n d d e s i r e s a r e e x p e r i e n c e d a s s u c h , a n d t h e y a r e c e r t a i n l y n o t ‘ p o s t u l a t e d ’ t o e x p l a i n b e h a v i o r , b e c a u s e t h e y a r e n o t p o s t u l a t e d a t a l l " ( S e a r l e 1 9 9 2 , p . 6 1 ) . A g a i n , " W e s i m p l y e x p e r i e n c e c o n s c i o u s b e l i e f s a n d d e s i r e s " ( S e a r l e 1 9 9 2 , p . 5 9 ) . N o w , g i v e n t h e e v i d e n c e a d d u c e d b y N i s b e t t a n d W i l s o n a n d t h e i n a d e q u a c y o f S e a r l e ’ s a t t e m p t t o a c c o u n t f o r s u c h f i n d i n g s c o n c e r n i n g t h e u n r e l i a b i l i t y o f o u r a c c e s s t o o u r o w n m e n t a l s t a t e s a n d p r o c e s s e s a s N i s b e t t a n d W i l s o n a d d u c e , i t i s c e r t a i n l y n o t o b v i o u s t h a t w e " s i m p l y e x p e r i e n c e " - - i . e . , d i r e c t l y e x p e r i e n c e a n d c o n s e q u e n t - l y ( e x c e p t f o r o c c a s i o n a l s e l f - d e c e i t f u l , m i s i n t e r p r s t i v e , o r i n a t t e n t i v e l a p s e s ) r e l i a b l y e x p e r i e n c e - - o u r o w n i n t e n t i o n a l m e n t a l s t a t e s ( e . g . , o f b e l i e f a n d d e s i r e ) a n d p r o c e s s e s ( e . g . , o f i n f e r e n c e ) . I t i s n o t e w o r t h y , h e r e , t h a t a c c o r d i n g t o G P " t h e n o t i o n o f a n u n c o n - s c i o u s m e n t a l s t a t e i m p l i e s a c c e s s i b i l i t y t o c o n s c i o u s n e s s " ( S e a r l e 1 9 9 2 , p . 1 5 2 ) ; h e n c e a l l m e n t a l s t a t e s , o n S e a r l e ’ s v i e w , a r e s i m p l y e x p e r i e n c - a b l e ; s o , i t i s d i f f i c u l t t o s e e w h y t h e m e t h o d o f c h o i c e f o r p s y c h o l o g y s h o u l d n o t s i m p l y b e t o b r i n g t h e u n c o n s c i o u s t o c o n s c i o u s n e s s b y r e m o v i n g ( w h e n n e c e s s a r y ) t h e i m p e d i m e n t s o f s e l f - d e c e i t , i n a t t e n t i o n , a n d m i s i n t e r p r e t a t i o n . B u t n o w , i t i s a l s o n o t e w o r t h y , t h a t t h e e x p r e s s i n t e n t o f t h e s o - c a l l e d " s p e c i a l m e t h o d j s ] o f i n v e s t i g a t i n g c o n s c i o u s n e s s " ( S e a r l e 1 9 9 2 , p . 9 7 ) t h a t i n t r o s p e c t i o n - i s t s e m p l o y e d - - t h a t S e a r l e o f f i c i a l l y d e p l o r e s - - w e r e t e c h n i q u e s d e s i g n e d t o 3 6 2 g u a r d o n e ’ s d i r e c t " s i m p l e e x p e r i e n c e " o f o n e ’ s o w n m e n t a l p h e n o m e n a a g a i n s t p r e c i s e l y t h e v a g a r i e s o f i n a t t e n t i o n , a n d t o g u a r d o n e ’ s s e l f - r e p o r t s ( b a s e d o n a t t e n t i v e s i m p l e e x p e r i e n c e ) a g a i n s t t h e v a g a r i e s o f m i s i n t e r p r e t a t i o n . I n d e e d , t h e r e s e e m s t o b e l i t t l e m o r e t o t h e " s p e c i a l m e t h o d o f i n v e s t i g a t i n g c o n s c i o u s n e s s , n a m e l y ‘ i n t r o s p e c t i o n ’ " ( S e a r l e 1 9 9 2 , p . 9 7 ) l n t r o s p e c t i o n i s t s p r o p o s e t h a n s i m p l y a t t e n t i v e l y e x p e r i e n c i n g - - j u s t t h e m e t h o d S e a r l e a n p r i n c i p l e s s e e m t o m a n d a t e . S e a r l e a l l o w s , " I n a n y c o n s c i o u s s t a t e , w e c a n s h i f t o u r a t t e n t i o n t o t h e s t a t e i t s e l f . I c a n f o c u s m y a t t e n t i o n , f o r e x a m p l e , n o t o n t h e s c e n e i n f r o n t o f m e , b u t o n t h e e x p e r i e n c e o f m y s e e i n g t h i s v e r y s c e n e " ( S e a r l e 1 9 9 2 , p . 1 4 3 ) . H e f u r t h e r m o r e i n s i s t s , " t h e p o s s i b i l i t y o f t h a t s h i f t o f a t t e n t i o n w a s p r e s e n t i n t h e s t a t e i t s e l f " ( S e a r l e 1 9 9 2 , p . 1 4 3 ) ; b u t t h a t s h i f t o f a t t e n t i o n , I s u b m i t , i s w h a t l n t r o s p e c t i o n i s t s m e a n t b y " i n t r o s p e c t i o n . " 1 3 I n d e e d , " i t i s n o t s u r p r i s i n g t h a t i n t r o s m c t i v e p s y c h o l o g y p r o v e d b a n k r u p t " ( S e a r l e 1 9 9 2 , p . 9 7 : m y e m p h a s i s ) . I t i s n o t s u r p r i s i n g f o r N i s b e t t a n d W i l s o n ’ 3 r e a s o n s : t h e n o t i o n o f b e i n g " s i m p l y e x p e r i e n c e d " o r " e x p e r i e n c e d a s s u c h " ( S e a r l e 1 9 9 2 , p . 6 3 ) f r o m t h e " f i r s t - p e r s o n p o i n t o f v i e w " ( S e a r l e 1 9 8 0 b , p . 4 5 1 ) i s s o e m p i r i c a l l y v e x e d a s t o i m p u g n a t l e a s t t h e r e l i a b i l i t y a n d e p i s t e m i c p r i m a c y , a n d p e r h a p s t h e v e r y e x i s t e n c e o f t h i s a l l e g e d m o d e o f p r i v a t e " s i m p l e " " d i r e c t e x p e r i e n t i a l " “ f i r s t - p e r s o n a c c e s s " ; v e x e d r e g a r d l e s s o f h o w a t t e n t i v e , n o t s e l f - d e c e i v e d , e t c . t h e d i r e c t e x p e r i e n c i n g i s 1 3 . T h e D i c t i o n a r y o f P h i / a s e p h y a n d P s y c h o l o g y , d e f i n e s ' l n t r o s p e c t i o n ' a s " A t t e n t i o n o n t h e p a r t o f a n i n d i v i d u a l t o h i s o w n m e n t a l s t a t e s a n d p r o c e s s e s , a s t h e y o c c u r , w i t h a v i e w o f k n o w i n g m o r e a b o u t t h e m " a d d i n g t h e o b s e r v a t i o n t h a t s o m e ' w fl t e r s s p e a k o f a n " i n n e r s e n s e ’ o r ‘ i n n e r p e r c e p t i o n " b u t t h i s " s u g g e s t e d a n a l o g y t o " o u t e r s e n s e ’ a n d ‘ o u t e r p e r c e p t i o n ’ i s m i s l e a d i n g . " ( B a l d w i n 1 9 6 0 , p . , 5 6 7 ) . 3 6 3 s u p p o s e d t o b e ; v e x e d r e g a r d l e s s o f w h e t h e r y o u f u r t h e r c o n s t r u e t h i s d i r e c t e x p e r i e n c i n g i n t h e m a n n e r o f S e a r i e ’ s s t r a w i n t r o s p e c t i o n i s t a s " a s p e c i a l c a p a c i t y , j u s t l i k e v i s i o n o n l y l e s s c o l o r f u l , t h a t w e h a v e t o s p e c t i n t r o " ( S e a r l e 1 9 9 2 , p . 1 4 4 ) o r n o t ; v e x e d r e g a r d l e s s o f w h e t h e r y o u r e f u s e , w i t h S e a r l e , t o c a l l i t " i n t r o s p e c t i o n " a n d g u a r d a g a i n s t c o n c e i v i n g i t a s i m b e d d i n g " a d i s t i n c t i o n b e t w e e n t h e o b j e c t s p e c t e d a n d t h e s p e c t i n g o f i t " ( S e a r l e 1 9 9 2 , p . 1 4 4 ) o r n o t . l n s i s t e n c e o n t h e e s s e n t i a l c o n n e c t i o n o f c o g n i t i o n w i t h c o n s c i o u s n e s s , r o o t e d i n t h e C a r t e s i a n " c o n c e p t o f m i n d o r s o u l a s d i s t i n c t f r o m b o d y " ( W a t s o n 1 9 2 4 , p . 3 ) w a s t h e g u i d i n g m e t h o d o l o g i c a l p r i n c i p l e o f t h e i n t r o s p e c t i o n i s t p s y c h o l o g y a g a i n s t w h i c h W a t s o n ( I t h i n k f r u i t f u l l y ) r e b e l l e d a n d t o w h i c h S e a r l e ( I t h i n k f u t i l e l y ) w o u l d r e t u r n u s . S e a r i e ’ s d o g m a t i c a s s u r a n c e t h a t " i t i s a l w a y s p o s s i b l e f o r a n a g e n t t o b r i n g h i s I n t e n t i o n a l s t a t e s t o c o n s c i o u s n e s s " ( S e a r l e 1 9 7 9 a , p . 9 2 ) , a n d h i s i n s i s t e n c e " a l w a y s o n t h e f i r s t p e r s o n p o i n t o f v i e w “ ( 1 9 8 0 b , p . 4 5 1 ) " s e e m t o m a n d a t e i n t r o s p e c t i o n a s t h e r e s e a r c h m e t h o d o f c h o i c e f o r p s y c h o l o g y : o n S e a r i e ’ s v i e w s " y o u a r e f o r c e d t o a c c e p t t h e f i r s t - p e r s o n p o i n t o f v i e w a s i n s o m e s e n s e e p i s t e m i c a l l y d i f f e r e n t f r o m t h e p o i n t o f v i e w o f t h e t h i r d p e r s o n o b s e r v e r " ( S e a r l e 1 9 8 7 a , p . 1 4 5 ) a n d s i n c e , e . g . , " p e r f o r m i n g s p e e c h a c t s - - a n d m e a n i n g t h i n g s b y u t t e r a n c e s - - g o e s o n a t a l e v e l o f f i r s t - p e r s o n i n t e n t i o n a l i t y " ( S e a r l e 1 9 8 7 a , p . 1 4 5 ) , a c c o r d i n g t o S e a r l e , i t s e e m s w e m u s t r e c o g n i z e , o n S e a r i e ’ s v i e w s , n o t o n l y t h e e p i s t e m o l o g i c a l d i f f e r e n c e o f t h e f i r s t - p e r s o n p o i n t o f v i e w , n o t o n l y i t s i n d i s p e n s a b i i i t y ( s u c h t h a t " i t i s a b s o l u t e l y e s s e n t i a l , a t s o m e p o i n t t o r e m i n d y o u r s e l f o f t h e f i r s t - p e r s o n c a s e " ( S e a r l e 1 9 8 7 a , p . 1 2 6 ) ) b u t i t s e p i s t e m o l o g i c a l p r i o r i t y a n d p r i v i l e g e . I f a n y t h i n g l i k e S e a r i e ’ s v i e w s w e r e t r u e , 3 6 4 i t s e e m s t h a t l n t r o s p e c t i o n i s m s h o u l d h a v e b e e n m o r e s u c c e s s f u l t h e f i r s t t i m e a r o u n d . T h e p r o v e n s t e r i l i t y o f t h e r e s e a r c h p r o g r a m t o w h i c h S e a r i e ’ s v i e w s w o u l d r e t u r n u s s p e a k a s l o u d l y a s a n y t h i n g , I t h i n k , a g a i n s t h i s o v e r a r c h i n g v i e w s a n d a g a i n s t t h e i r a p p l i c a t i o n t o a r g u e a g a i n s t a r t i f i c i a l i n t e l l i g e n c e a s i n t h e C h i n e s e r o o m e x p e r i m e n t . 6 . C o n c l u s i o n : T h e C h i n e s e R o o m R e v i s i t e d T h o u g h S e a r i e ’ s r e l i a n c e o n a s - i f d u a l i s t i c i d e n t i f i c a t i o n o f c o n s c i o u s n e s s w i t h t h o u g h t g e n e r a l l y ( i . e . , o n C P ) i n h i s C h i n e s e r o o m e x p e r i m e n t i s h a r d l y c o n c e a l e d - - t h o u g h i t i s a p o i n t o n w h i c h S e a r l e h i m s e l f f r e q u e n t l y a n d v e h e m e n t l y i n s i s t s - - i t h a s n o t , I t h i n k b e e n s u f f i c i e n t l y a p p r e c i a t e d . S u p p o s e , f o r a m o m e n t , t h a t w e g r a n t S e a r l e t h i s e s s e n t i a l c o n n e c t i o n i n t h e c a s e o f u n d e r s t a n d i n g : g r a n t t h a t u n d e r s t a n d i n g s o m e t h i n g e n t a i l s e i t h e r b e i n g a c t u a l l y c o n s c i o u s o f i t o r b e i n g p o t e n t i a l l y c o n s c i o u s n e s s o f i t . A l s o g r a n t t h a t n e i t h e r S e a r l e i n t h e r o o m n o r t h e r o o m - S e a r l e s y s t e m ( S I R ) i s c o n s c i o u s o f t h e m e a n i n g s o f a n y o f t h e C h i n e s e q u e s t i o n s a s k e d o r a n s w e r s g i v e n i n t h e C h i n e s e r o o m e x p e r i m e n t . I t f o l l o w s t h a t S e a r l e ( o r S I R ) d o e s n ’ t u n d e r s t a n d - - b u t h e ( o r i t ) s t i l l d o e s s o m e t h i n g . W h a t i s i t ? S e a r l e c a l l s i t " a s - i f u n d e r s t a n d i n g " : y o u m i g h t a l s o c a l l i t " b l i n d u n d e r s t a n d - i n g " o r ( t o h a v e a o n e w o r d d e s i g n a t i o n ) " b l u n d e r s t a n d i n g . " B i u n d e r s t a n d i n g i s t o g a r d e n v a r i e t y u n d e r s t a n d i n g m u c h a s b i i n d s i g h t ( s e e W e i s k r a n t z , 1 9 8 6 ) i s t o g a r d e n v a r i e t y s e e i n g : j u s t a s , i n t h e c a s e o f b i i n d s i g h t , y o u h a v e b e h a v i o r i n d i c a t i v e o f s e e i n g i n t h e a b s e n c e o f v i s u a l e x p e r i e n c e s ( o r a w a r e n e s s t h e r e o f , i f t h e s e a r e s e p a r a b l e ) o n t h e s u b j e c t ’ s p a r t , i n t h e c a s e o f a s - i f u n d e r s t a n d i n g 3 6 5 t h e r e ’ s b e h a v i o r i n d i c a t i v e o f u n d e r s t a n d i n g i n t h e a b s e n c e o f e x p e r i e n c e s o r a w a r e n e s s o f u n d e r s t a n d i n g o n t h e s u b j e c t ’ s p a r t . G r a n t t h a t t h e b l u n d e r s t a n d i n g i s n ’ t u n d e r s t a n d i n g a n d b l i n d s e e i n g i s n ’ t s e e i n g , y e t t h e f o l l o w i n g q u e s t i o n r e m a i n s : A r e b i i n d s i g h t a n d b l u n d e r s t a n d i n g i n t e n t i o n a l s t a t e s i n t h e i r o w n r i g h t s ? I t s e e m s s o l O n e b l i n d s e e s t h a t t h e c a t i s o n t h e m a t , b l i n d s e e s t h a t t h e m o u s e i s i n t h e h o u s e , e t c . : b i i n d s i g h t s e e m s a p r o p o s i t i o n a l a t t i t u d e , d i f f e r e n t c a s e s o f b l i n d s e e i n g b e i n g d i f f e r e n t i a t e d b y t h e i r p r o p o s i t i o n a l c o n t e n t . S I R b l u n d e r s t a n d s t h a t i t ’ s c u s t o m a r y t o t i p t h e s e r v e r i n a r e s t a u r a n t , b l u n d e r s t a n d s t h a t h a m b u r g e r s a r e f o o d , e t c . : b l u n d e r s t a n d i n g s e e m s a p r o p o s i t i o n a l a t t i t u d e , d i f f e r e n t c a s e s o f b l u n d e r s t a n d i n g b e i n g d i f f e r e n t i a t e d b y t h e i r p r o p o s i t i o n a l c o n t e n t . I n o t h e r w o r d s , i f t h e q u e s t i o n i n t h e C h i n e s e r o o m i s w h e t h e r c o m p u t e r s r u n n i n g S A M h a v e a n y I n t e n t i o n a l m e n t a l s t a t e s o r p r o p o s i t i o n a l a t t i t u d e s t h e a n s w e r n o w w o u l d s e e m t o b e , " Y e s , b l u n d e r s t a n d i n g . " N o w , w h i l e i t m a y b e p l a u s i b l e t o s a y t h a t o n e h a s d e f i n i t e i n t u i t i o n s a b o u t " u n d e r s t a n d i n g " w a r r a n t i n g ( p e r h a p s ) a c o n n e c t i o n p r i n c i p l e f o r u n d e r s t a n d i n g , i t i s n o t p l a u s i b l e t o s a y t h i s a b o u t " b l u n d e r s t a n d i n g . " N o o n e h a s i n t u i t i o n s a b o u t " b l u n d e r s t a n d i n g , " I t a k e i t : " b l u n d e r s t a n d i n g " i s n o t a w o r d i n c o m m o n p a r l a n c e b u t o n e I j u s t i n v e n t e d t o d e s c r i b e t h e s e u n u s u a l u n c o n s c i o u s - s e e m i n g u n d e r s t a n d i n g - l i k e d o i n g s h e r e ( o f S I R o r t h e c o m p u t e r r u n n i n g S A M ) . N e i t h e r , I s u b m i t , h a v e w e c l e a r i n t u i t i o n s a b o u t t h e s e d o i n g s t h e m s e l v e s ( a b o u t t h e a c t o r q u a l i t y o f b l u n d e r s t a n d i n g ) t h a t m i g h t d e c i d e w h e t h e r b l u n d e r s t a n d i n g h a s t o b e ( p o t e n t i a l l y ) c o n s c i o u s t o b e r e a l . W e l l i t r e a l l y i s b l u n d e r s t a n d i n g , c e r t a i n l y : l d u b b e d i t t h a t . B u t i s b l u n d e r s t a n d i n g r e a l l y I n t e n t i o n a l o r r e a l l y m e n t a l ? 3 6 6 I f y o u w i s h , w i t h S e a r l e , t o a n s w e r i n t h e n e g a t i v e - - s i n c e p r i m a f a c i e b l u n d e r s t a n d i n g i s I n t e n t i o n a l a n d t h u s , s e e m i n g l y , m e n t a l - - i t s e e m s y o u n e e d a r e a s o n , y o u n e e d s o m e t h e o r e t i c a l g r o u n d s f o r s a y i n g ( w i t h r e g a r d t o t h e l n t e n t i o n a l i t y o r m e n t a l i t y o f i t ) w h y t h e c a s e o f b l u n d e r s t a n d i n g i s n o t a s i t s e e m s . S e a r i e ’ s r e a s o n ? " O n l y a b e i n g t h a t c o u l d h a v e c o n s c i o u s i n t e n t i o n a l s t a t e s c o u l d h a v e i n t e n t i o n a l s t a t e s a t a l l , a n d e v e r y u n c o n s c i o u s i n t e n t i o n a l s t a t e i s a t l e a s t p o t e n t i a l l y c o n s c i o u s " ( S e a r l e 1 9 9 2 , p . 1 3 2 ) : C P ’ s a s - i f d u a l i s t i c i d e n t i f i c a t i o n o f c o n s c i o u s n e s s w i t h t h o u g h t . T h i s s e e m s w h a t ’ s n e e d e d ; b u t i t ’ s n o t w a r r a n t e d ! J u s t h o w u n w a r r a n t e d t h e a s - i f d u a l i s t i c C o n n e c t i o n P r i n c i p l e o n w h i c h S e a r i e ’ s c a s e u l t i m a t e l y s e e m s t o d e p e n d r e a l l y i s h a s b e e n t h e b u r d e n o f m y a r g u m e n t i n t h e p r e s e n t c h a p t e r . I h a v e s o u g h t t o s h o w h o w t h i s p r i n c i p l e l e a d s u s b a c k i n t o i n s o l u b l e C a r t e s i a n d i f f i c u l t i e s a b o u t t h e m i n d - b o d y i n t e r a c t i o n , k n o w l e d g e o f o t h e r m i n d s , a n d i n t r o s p e c t i o n ( o r w h y p s y c h o l o g y i s h a r d ) . T o t h e s e c o n s i d e r a t i o n s a l r e a d y d e v e l o p e d , I n o w a d d t w o m o r e o b j e c t i o n s t o C F n o t y e t c a n v a s s e d . F i r s t - - d e s p i t e t h e v a g a r y o f t h e " i n p r i n c i p l e " i n S e a r i e ’ s c l a i m t h a t " T h e a s c r i p t i o n o f a n u n c o n s c i o u s i n t e n t i o n a l p h e n o m e n o n t o a s y s t e m i m p l i e s t h a t t h e p h e n o m e n o n i s i n p r i n c i p l e a c c e s s i b l e t o c o n s c i o u s n e s s " ( S e a r l e 1 9 9 0 f , p . 5 8 6 ) o f w h i c h s e v e r a l c o m m e n t a t o r s ( e . g . , B l o c k 1 9 9 0 ; C h o m s k y 1 9 9 0 ) c o m p l a i n - - t h e r e s e e m s a c l e a r c o u n t e r e x a m p l e t o C F . F o r g e t t i n g s e e m s u n c o n t r o v e r s i a l l y I n t e n t i o n a l - - o n e f o r g e t s t h a t c a t w a s o n t h e m a t , t h a t t h e a s s i g n m e n t w a s d u e a t t h e b e g i n n i n g o f c l a s s , e t c - - y e t , i t s e e m s p l a u s i b l e t o s a y t h a t f o r g e t t i n g i s u n c o n s c i o u s i n p r i n c i p l e . O n e i s a w a r e o f h a v i n g f o r g o t t e n , b u t t o b e c o n s c i o u s l y f o r g e t t i n g w o u l d s e e m n o l o n g e r t o b e 3 6 7 f o r g e t t i n g : r a t h e r , i t w o u l d b e r e m e m b e r i n g ( o r r e f r e s h i n g o n e ’ s m e m o r y ) . S e c o n d , t h e r e i s a s u b s t a n t i a l b o d y o f e v i d e n c e c o n t r a r y t o a c o r o l l a r y - - c a l l i t t h e " l a t e n c y c o r o l l a r y " - - o f C P t h a t S e a r l e d e v e l o p s a s f o l l o w s : “ u n c o n s c i o u s m e n t a l p h e n o m e n a t o t h e e x t e n t t h a t t h e y a r e g e n u i n e l y i n t e n - t i o n a l m u s t i n s o m e s e n s e p r e s e r v e t h e i r a s p e c t u a l s h a p e e v e n w h e n u n c o n s c i o u s , b u t t h e o n l y s e n s e w e c a n g i v e t o t h e n o t i o n t h a t t h e y p r e s e r v e t h e i r a s p e c t u a l s h a p e w h e n c o n s c i o u s i s t h a t t h e y a r e p o s s i b l e c o n t e n t s o f c o n s c i o u s - n e s s . ( S e a r l e 1 9 9 2 , p . 1 5 9 - 1 6 0 ) ' T h e c o n c e p t o f u n c o n s c i o u s i n t e n t i o n a l i t y i s t h u s t h a t o f a l a t e n c y r e l a t i v e t o i t s m a n i f e s t a t i o n i n c o n s c i o u s n e s s ( S e a r l e 1 9 9 2 , p . 1 6 1 ) : t h e c o r o l l a r y i s t h a t " i f w e t h i n k o f t h e o n t o l o g y o f t h e u n c o n s c i o u s i n t h e w a y s u g g e s t e d - a s a n o c c u r r e n t n e u r o p h y s i o l o g y c a p a b l e o f c a u s i n g c o n s c i o u s s t a t e s a n d e v e n t s " t h e u n c o n s c i o u s p h e n o m e n o n d o e s n o t " h a v e a s p e c t u a l s h a p e r i g h t t h e r e a n d t h e n " ( S e a r l e 1 9 9 2 , p . 1 6 9 ) , w h i l e u n c o n s c i o u s , " f o r t h e o n l y o c c u r r e n t r e a l i t y o f t h a t s h a p e i s t h e s h a p e o f c o n s c i o u s t h o u g h t s " ( S e a r l e 1 9 9 2 , p . 1 7 1 ) . T h e t r o u b l e w i t h t h i s i s t h a t t h e r e a r e m a n y w e l l e s t a b l i s h e d p s y c h o l o g i c a l p h e n o m e n a o n l y s e e m a c c o u n t a b l e o n t h e h y p o t h e s i s t h a t u n c o n s c i o u s m e n t a l s t a t e s a n d p r o c e s s e s d o h a v e l n t e n t i o n a l i t y ( h e n c e " a s p e c t u a l s h a p e " ) r i g h t t h e r e a n d t h e n , f o r t h e y a r e s u b j e c t t o i n t e n t i o n a l ( s e m a n t i c a l l y m e d i a t e d ) e f f e c t s w h i l e u n c o n s c i o u s . I n a n e x p e r i m e n t c i t e d b y N i s b e t t a n d W i l s o n , f o r i n s t a n c e , I n o r d e r t o t e s t s u b j e c t a b i l i t y t o r e p o r t i n f l u e n c e s o n t h e i r a s s o c i a t i v e b e h a v i o r , w e h a d 8 1 m a l e I n t r o d u c t o r y p s y c h o l o g y s t u d e n t s m e m o r i z e a l i s t o f w o r d p a i r s . 1 4 . " A s p e c t s " o r " a s p e c t u a l s h a p e s " h e r e r e f e r , r o u g h l y , t o w h a t W i t t g e n s t e i n ( 1 9 5 8 , l l x i ) s p o k e o f i n c o n n e c t i o n w i t h s e e i n g - a s p h e n o m e n a : e . g . , s e e i n g t h i n g s a s a l i k e a n d s e e i n g a m b i g u o u s p i c t u r e s ( e . g . , N e c k e r c u b e s , d u c k - r a b b i t s ) a s o n e t h i n g o r t h e o t h e r . S e e i n g t h e d u c k - r a b b i t p i c t u r e ( W i t t g e n s t e i n 1 9 5 8 , l l x i ) a s a d u c k w o u l d ( I n t h e s e t e r m s ) b e s e e i n g i t s d u c k a s p e c t o r s e e i n g I t " u n d e r " I t s d u c k a s p e c t . T h e s e " a s p e c t s " a r e l i k e F r e g e ’ s ( 1 8 9 2 ) " m o d e s o f p r e s e n t a t i o n . " 3 6 8 S o m e o f t h e s e w o r d p a i r s w e r e i n t e n d e d t o g e n e r a t e a s s o c i a t i v e p r o c e s s e s t h a t w o u l d e l i c i t c e r t a i n t a r g e t w o r d s i n a w o r d a s s o c i a t i o n t e s t t o b e p e r f o r m e d a t a l a t e r p o i n t i n t h e e x p e r i m e n t . F o r e x a m p l e , s u b j e c t s m e m o r i z e d t h e w o r d p a i r " o c e a n - m o o n " w i t h t h e e x p e c t a t i o n t h a t w h e n t h e y w e r e l a t e r a s k e d t o n a m e a d e t e r g e n t t h e y w o u l d b e m o r e l i k e l y t o g i v e t h e t a r g e t " T i d e " t h a n w o u l d s u b j e c t s w h o h a d n o t p r e v i o u s l y b e e n e x p o s e d t o t h e w o r d p a i r s . ” ( N i s b e t t 8 : W i l s o n , p . 2 4 3 ) T h e s u c c e s s o f t h i s m a n i p u l a t i o n ( t h e e x p e c t a t i o n w a s c o n f i r m e d ) s h o w s t h e s e m a n t i c c h a r a c t e r o f t h e m e m o r y t r a c e a n d t h e a s s o c i a t i v e p r o c e s s e s r i g h t t h e n a n d t h e r e , w h i l e u n c o n s c i o u s . H o w e l s e b u t b y a s e m a n t i c a l a s s o c i a t i o n c o u l d t h i s c o r r e l a t i o n b e t w e e n t h e w o r d p a i r s a n d s u b s e q u e n t r e s p o n s e b e m e d i a t e d ? T h e a s s o c i a t i v e l i n k i s p r e c i s e l y v i a t h e m e a n i n g o f t h e e a r l i e r " o c e a n - m o o n " w o r d p a i r a n d t h e l a t e r " T i d e " r e s p o n s e . T h e r e a r e m a n y s u c h e x a m p l e s o f u n c o n s c i o u s m e c h a n i s m s - t h o s e i n v o l v e d i n s u b l i m i n a l a d v e r t i s i n g , a n d c l a s s i c F r e u d i a n m e c h a n i s m s , f o r i n s t a n c e - w h o s e o p e r a t i o n s s e e m i n c o n t r o v e r t i b l y s e m a n t i c a n d t h u s a t o d d s w i t h t h e " l a t e n c y " c o r o l l a r y o f C P . ( S i m i l a r p o i n t s a r e m a d e b y N e l k i n , f o r t h c o m i n g ) . T h e s e a r e v e r y s u b s t a n t i a l t h e o r e t i c a l c o s t s , p r o b a b l y b e y o n d b e a r i n g e v e n i f a s - i f d u a l i s t i c r e c o u r s e t o c o n s c i o u s n e s s h a d v e r y s u b s t a n t i a l t h e o r e t i c a l b e n e f i t s a l s o . P e r h a p s i f c o n s c i o u s n e s s e x p l a i n e d l n t e n t i o n a l i t y , a s c o m p u t a t i o n ( a l o n e ) a r g u a b l y c a n n o t , t h a t w o u l d b e b e n e f i t e n o u g h t o p r o v i d e a p o w e r f u l r e a s o n f o r a d o p t i n g C P d e s p i t e t h e s e c o s t s . S e a r i e ’ s c r i t i c i s m o f " S t r o n g A l " - o f t h e T u r i n g m a c h i n e f u n c t i o n a l i s t i d e n t i f i c a t i o n o f t h o u g h t w i t h c o m p u t a t i o n - - a f t e r a l l , i s t h a t p r o g r a m m i n g o r c o m p u t a t i o n ( p r o g r a m e x e c u t i o n ) c a n n o t e x p l a i n ( f a i l s t o d e t e r m i n e , o r d o e s n o t s u f f i c e f o r ) s e m a n t i c c o n t e n t ; b u t i t i s a r a t h e r w e l l e s t a b l i s h e d p o i n t t h a t c o n s c i o u s n e s s c a n n o t e x p l a i n ( f a i l s t o d e t e r m i n e , d o e s 3 6 9 n o t s u f f i c e f o r ) s e m a n t i c s e i t h e r . 1 5 T h o u g h S e a r l e i n s i s t s " a l l o f t h o s e g r e a t f e a t u r e s t h a t p h i l o s o p h e r s h a v e t h o u g h t o f a s s p e c i a l t o t h e m i n d a r e d e p e n d e n t o n c o n s c i o u s n e s s : i n t e n t i o n a l i t y , r a t i o n a l i t y , f r e e w i l l ( i f t h e r e i s s u c h a t h i n g ) , a n d m e n t a l c a u s a t i o n " ( S e a r l e 1 9 9 2 , p . 2 2 7 ) h e d o e s n ’ t s a y h o w o r w h y . R a t h e r , w i t h r e g a r d t o t h e p a r t i c u l a r f e a t u r e o f l n t e n t i o n a l i t y m o s t a t i s s u e ( t h o u g h t h e s a m e m i g h t e q u a l l y b e s a i d w i t h r e g a r d t o t h e o t h e r " g r e a t f e a t u r e s " j u s t n o t e d ) , S e a r l e a d m i t s , " T h e r e a l g a p i n m y a c c o u n t i s t h a t I d o n o t e x p l a i n t h e d e t a i l s o f t h e r e l a t i o n b e t w e e n i n t e n t i o n a l i t y a n d c o n s c i o u s n e s s " ( S e a r l e 1 9 9 1 c , p . 1 8 1 ) . G i v e n t h e s e v e r i t y o f t h e p r o b l e m s S e a r i e ’ s a p p e a l t o c o n s c i o u s n e s s a s " t h e e s s e n c e o f t h e m e n t a l " ( S e a r l e 1 9 9 1 b , p . 1 4 4 ) o c c a s i o n s a n d t h e p a u c i t y o f b e n e f i t s d e r i v i n g t h e r e f r o m , t h i s g a p i s n o t j u s t r e a l . I t ’ s f a t a l . F a t a l t o t h e o v e r a r c h i n g a s - i f d u a l i s t i c i d e n t i f i c a t i o n o f t h o u g h t w i t h c o n s c i o u s n e s s S e a r l e e m b o d i e s i n h i s C o n n e c t i o n P r i n c i p l e a n d , i n s o f a r a s t h e s a l i e n c e o f t h e C h i n e s e r o o m e x a m p l e d e p e n d s o n t h a t p r i n c i p l e , f a t a l t o S e a r i e ’ s v a u n t e d e x a m p l e . 1 5 . B e s i d e s P u t n a m ’ s 1 9 7 5 T w i n E a r t h a r g u m e n t s , a s e c o n d p e r s u a s i v e l i n e o f a r g u m e n t f o r t h i s I s d e v e l o p e d b y W i t t g e n s t e i n 1 9 5 8 , K r i p k e 1 9 8 2 , a n d B o g h o s s i a n 1 9 8 9 . M i l l i k a n 1 9 8 4 ( p p . 8 9 f ) p r o v i d e s y e t a t h i r d l i n e o f a r g u m e n t . B I B L I O G R A P H Y A b b o t t , B a r b a r a . 1 9 8 9 . N o n d e s c r i p t i o n a l i t y a n d N a t u r a l K i n d T e r m s . L i n g u i s t i c s a n d P h i l o s o p h y 1 2 : 2 6 9 - 2 9 1 . A b b o t t , B a r b a r a , a n d L a r r y H a u s e r . 1 9 9 2 . N a t u r a l l a n g u a g e a n d t h o u g h t . I n P r o c e e d i n g s o f t h e C o n f e r e n c e o n C o g n i t i o n a n d R e p r e s e n t a t i o n , e d . J . T . K e a r n s , W . J . R a p a p o r t , E . S e g a i , L . T a i m y . S U N Y B u f f a l o C e n t e r f o r C o g n i t i v e S c i e n c e T e c h n i c a l R e p o r t 9 2 - 1 2 . P r e s e n t e d a t t h e S U N Y B u f f a l o C e n t e r f o r C o g n i t i v e S c i e n c e C o n f e r e n c e o n C o g n i t i o n a n d R e p r e s e n t a t i o n , A p r i l 4 , 1 9 9 2 . A l c o c k , J . E . 1 9 8 7 . P a r a p s y c h o l o g y : S c i e n c e o f t h e a n o m a l o u s o r s e a r c h f o r t h e s o u l ? B e h a v i o r a l a n d B r a i n S c i e n c e s 1 0 : 5 5 3 - 6 4 3 . A l e x a n d e r , S a m u e l . 1 9 2 7 . S p a c e , t i m e , a n d d e i t y . 2 . L o n d o n : M a c M I l l a n . A n d e r s o n , D a v i d . 1 9 8 7 . I s t h e C h i n e s e r o o m t h e r e a l t h i n g ? P h i l o s o p h y 6 2 : 3 8 9 - 3 9 3 . A n s c o m b e , G . E . M . 1 9 6 3 . i n t e n t i o n . I t h a c a , N Y : C o r n e l l U n i v e r s i t y P r e s s . A r i s t o t l e . N i c h o m a c h e a n e t h i c s . I n B a s i c w o r k s o f A r i s t o t l e . E d . R i c h a r d M c K e o n . T r a n s . W . D . R o s s , 9 3 5 - 1 1 2 6 . N e w Y o r k : R a n d o m H o u s e . A r m s t r o n g , D . M . 1 9 6 8 . A m a t e r i a l i s t t h e o r y o f m i n d . L o n d o n : R o u t l e d g e & K e e g a n P a u l . A u g u s t a , A d a , C o u n t e s s o f L o v e l a c e . 1 8 4 2 . T r a n s l a t o r ’ s n o t e s t o L . F . M e n a b r e a ’ s ‘ S k e t c h o f t h e a n a l y t i c a l e n g i n e i n v e n t e d b y C h a r l e s B a b b a g e , E s q . ’ . I n F a s t e r t h a n t h o u g h t : A s y m p o s i u m o n d i g i t a l c o m p u t i n g m a c h i n e s , e d . B . V . B o w d e n , 3 6 2 - 4 0 8 . N e w Y o r k : P l t m a n P u b l i s h i n g C o . A u s t i n , J o h n L . 1 9 4 6 . O t h e r m i n d s . P r o c e e d i n g s o f t h e A r i s t o t e l i a n S o c i e t y S u p p l e m e n t X X : 1 4 8 - 1 8 7 . - - - - - - . 1 9 5 7 . A p l e a f o r e x c u s e s . l n C l a s s i c s o f a n a l y t i c p h i l o s o p h y , e d . R . A m m e r m a n , 3 7 9 - 3 9 8 . I n d i a n a p o l i s : H a c k e t t I n c . B a k e r , L y n n e R u d d e r . 1 9 8 7 . S a v i n g b e l i e f : a c r i t i q u e o f p h y s i c a i i s m . P r i n c e t o n , N J : P r i n c e t o n U n i v e r s i t y P r e s s . B a l d w i n , J . M . ( e d ) . 1 9 6 0 . D i c t i o n a r y o f p h i l o s o p h y a n d p s y c h o l o g y . V o l . I . E d . - - - - - - . G l o u c e s t e r , M A : P e t e r S m i t h . B a y l e , P i e r r e . 1 6 9 7 . R o r a r i u s . T r a n s . R i c h a r d H . P o p k i n . I n H i s t o r i c a l a n d c r i t i c a l d i c t i o n a r y , 2 1 3 - 2 5 4 . I n d i a n a p o l i s : H a c k e t t P u b l i s h i n g C o . 3 7 0 3 7 1 B e r n , D . J . 1 9 6 7 . S e l f - p e r c e p t i o n : A n a l t e r n a t i v e i n t e r p r e t a t i o n o f c o g n i t i v e d i s s o n a n c e p h e n o m e n a . P s y c h o l o g i c a l R e v i e w 7 4 : 1 8 3 - 2 0 0 . - - - - - - . 1 9 7 2 . S e l f - p e r c e p t i o n t h e o r y . I n A d v a n c e s i n e x p e r i m e n t a l s o c i a l p s y c h o l o g y , e d . L . B e r k o w i t z . N e w Y o r k : A c a d e m i c P r e s s . B l o c k , N e d . 1 9 7 8 . T r o u b l e s w i t h f u n c t i o n a l i s m . I n P e r c e p t i o n a n d c o g n i t i o n : M i n n e s o t a s t u d i e s i n t h e p h i l o s o p h y o f s c i e n c e , v o l . 9 , e d . W . S a v a g e . M i n n e a p o l i s : U n i v e r s i t y o f M i n n e s o t a P r e s s . - - - - - - . 1 9 9 0 . T h e c o m p u t e r m o d e l o f t h e m i n d . I n A n i n v i t a t i o n t o c o g n i t i v e s c i e n c e , v o l . 3 , e d . D O b e r s h o n a n d E . E . S m i t h , 2 4 7 - 2 8 9 . C a m b r i d g e , M A : M I T P r e s s . - - - - - - . 1 9 9 0 . C o n s c i o u s n e s s a n d a c c e s s i b i l i t y . B e h a v i o r a l a n d B r a i n S c i e n c e s 1 3 ( 4 ) : 5 9 6 - 5 9 8 . B o d e n , M a r g a r e t A . 1 9 8 8 . E s c a p i n g f r o m t h e C h i n e s e r o o m . I n T h e p h i l o s o p h y o f a r t i f i c i a l i n t e l l i g e n c e , e d . M a r g a r e t B o d e n , 8 9 - 1 0 4 . N e w Y o r k : O x f o r d U n i v e r s i t y P r e s s . O r i g i n a l l y a p p e a r e d a s C h a p t e r 8 o f B o d e n , C o m p u t e r m o d e l s o f t h e m i n d . C a m b r i d g e U n i v e r s i t y P r e s s : C a m b r i d g e ( 1 9 8 8 ) . - - - - - - . 1 9 9 0 . T h e p h i l o s o p h y o f a r t i f i c i a l i n t e l l i g e n c e . N e w Y o r k : O x f o r d U n i v e r s i t y P r e s s . B o g h o s s i a n , P a u l . 1 9 8 9 . R u l e f o l l o w i n g c o n s i d e r a t i o n s . M i n d 9 8 : 5 0 7 - 5 4 9 . B o o l o s , G e o r g e S . , a n d R i c h a r d C . J e f f r e y . 1 9 7 4 . C o m p u t a b i l i t y a n d l o g i c . N e w Y o r k : C a m b r i d g e U n i v e r s i t y P r e s s . B o w d e n , B . V . 1 9 5 3 . F a s t e r t h a n t h o u g h t : a s y m p o s i u m o n d i g i t a l c o m p u t i n g . E d . B . V . B o d e n . N e w Y o r k : P l t m a n P u b l i s h i n g C o . B r e n t a n o , F r a n z . 1 8 7 4 . P s y c h o l o g y f r o m t h e e m p i r i c a l s t a n d p o i n t . E d . L i n d a L . M c A l l s t e r . T r a n s . A n t o s C . R a n c u r e l l o , D . B . T e r r e l l a n d L i n d a L . M c A l l s t e r . N e w Y o r k : H u m a n i t i e s P r e s s . 1 9 7 3 t r a n s l a t i o n w i t h r e v i s i o n s o f 1 9 2 4 e d . o f P s y c h o l o g i e v o m e m p i r i s h e n s t a n d p u n k t . B r o a d , C h a r l i e D u n b a r . 1 9 2 5 . T h e m i n d a n d i t s p l a c e i n n a t u r e . L o n d o n : R o u t l e d g e 8 : K e g a n P a u l . B u n d y , A l a n , a n d S t e l l a n O h l s s o n . 1 9 8 7 . T h e n a t u r e o f A l p r i n c i p l e s . I n T h e f o u n d a t i o n s o f a r t i f i c i a l i n t e l l i g e n c e , e d . D e r e k P a r t r i d g e a n d Y o r i c k W i l k s , 1 3 5 - 1 5 4 . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . C a m , P h i l l i p . 1 9 9 0 . S e a r l e o n s t r o n g A l . A u s t r a l a s i a n J o u r n a l o f P h i l o s o p h y 6 8 ( 1 , ' M a r c h ) : 1 0 3 - 1 0 8 . C a m p b e l l , C . A . 1 9 5 7 . H a s t h e S e l f " F r e e W i l l " ? I n O n s e i f h o o d a n d G o d h o o d , 1 5 8 - 1 7 9 . L o n d o n : A l l e n 8 : U r w l n . C a r l e t o n , L a w r e n c e . 1 9 8 4 . P r o g r a m s , l a n g u a g e u n d e r s t a n d i n g , a n d S e a r l e . S y n t h e s e 5 9 : 2 1 9 - 2 3 0 . 3 7 2 C h a n d r a s e k a r a n , B . 1 9 9 0 . W h a t k i n d o f i n f o r m a t i o n p r o c e s s i n g i s I n t e l l i g e n c e . I n T h e f o u n d a t i o n s o f a r t i f i c i a l i n t e l l i g e n c e , e d . D e r e k P a r t r i d g e a n d Y o r i c k W i l k s , 1 4 - 4 6 . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . C h a o , Y . R . 1 9 5 9 . A m b i g u i t y i n C h i n e s e . I n S t u d i a s e r i a B e r n h a r d K a r l g r e n d e d i c a t e . C o p e n h a g e n . C h o m s k y , N o a m . 1 9 6 5 . M e t h o d o l o g i c a l p r e l i m i n a r i e s . I n A s p e c t s o f t h e t h e o r y o f s y n t a x , 3 - 6 3 . C a m b r i d g e , M A : M I T P r e s s . - - - - - - . 1 9 6 6 . L i n g u i s t i c s a n d D e s c a r t e s . I n H i s t o r i c a l f o u n d a t i o n s o f c o g n i t i v e s c i e n c e , 7 1 - 7 9 . D o r d r e c h t , H o l l a n d : K l u w e r . R e p r i n t e d f r o m C a r t e s i a n l i n g u i s t i c s : A c h a p t e r i n t h e h i s t o r y o f r a t i o n a l t h o u g h t ( H a r p e r & R o w e , P u b l i s h e r s , I n c . ) , p p . 3 - 1 3 . - - - - - - . 1 9 9 0 . A c c e s s i b i l i t y " i n p r i n c i p l e . " B e h a v i o r a l a n d B r a i n S c i e n c e s 1 3 ( 4 ) : 6 0 0 - 6 0 1 . C h u r c h , A l o n z o . 1 9 3 6 . A n u n s o l v a b l e p r o b l e m o f e l e m e n t a r y n u m b e r t h e o r y . A m e r i c a n J o u r n a l o f M a t h e m a t i c s 5 8 : 3 4 5 - 3 6 3 . C h u r c h i a n d , P a u l , a n d P a t r i c i a S m i t h C h u r c h i a n d . 1 9 9 0 . C o u l d a m a c h i n e t h i n k ? S c i e n t i f i c A m e r i c a n 2 6 2 ( 1 , J a n u a r y ) : 3 2 - 3 9 . C h u r c h i a n d , P a u l . 1 9 8 8 . M a t t e r a n d c o n s c i o u s n e s s . C a m b r i d g e : M I T P r e s s / B r a d f o r d B o o k s . C o l e , D a v i d . 1 9 8 4 . T h o u g h t a n d t h o u g h t e x p e r i m e n t s . P h i l o s o p h i c a l S t u d i e s 4 5 : 4 3 1 - 4 4 4 . - - - - - - . 1 9 9 1 b . A r t i f i c i a l m i n d s : C a m o n S e a r l e . A u s t r a l a s i a n J o u r n a l o f P h i l o s o p h y 6 9 ( 3 ) : 3 2 9 - 3 3 3 . - - - - - - . 1 9 9 1 b . A r t i f i c i a l I n t e l l i g e n c e a n d P e r s o n a l I d e n t i t y . S y n t h e s e 8 8 : 3 9 9 - 4 1 7 . C u m m i n s , R o b e r t . 1 9 8 9 . M e a n i n g a n d m e n t a l r e p r e s e n t a t i o n . C a m b r i d g e , M A : M I T / B r a d f o r d B o o k s . D a v i d s o n , D o n a l d . 1 9 6 4 . A c t i o n s , r e a s o n s , a n d c a u s e s . I n E s s a y s o n a c t i o n s a n d e v e n t s , 3 - 2 0 . O x f o r d : C l a r e n d o n P r e s s , 1 9 8 0 . - - - - - - . 1 9 6 7 . C a u s a l R e l a t i o n s . I n E s s a y s o n a c t i o n s a n d e v e n t s , 1 4 9 - 1 6 2 . O x f o r d : C l a r e n d o n P r e s s , 1 9 8 0 . - - - - - - . 1 9 6 9 . l n d i v i d u a t l o n o f E v e n t s . I n E s s a y s o n a c t i o n s a n d e v e n t s , 1 6 3 - 1 8 0 . O x f o r d : C l a r e n d o n P r e s s , 1 9 8 0 . - - - - - - . 1 9 7 0 . M e n t a l E v e n t s . I n E s s a y s o n a c t i o n s a n d e v e n t s , 2 0 7 - 2 2 7 . O x f o r d : C l a r e n d o n P r e s s , 1 9 8 0 . - - - - - - . 1 9 7 4 . P s y c h o l o g y a s p h i l o s o p h y . I n E s s a y s o n a c t i o n s a n d e v e n t s , 2 2 9 - 2 4 4 . O x f o r d : C l a r e n d o n P r e s s . D a v i s , M a r t i n . 1 9 6 5 . T h e u n d e c i d a b l e : B a s i c p a p e r s o n u n d e c l d a b l e p r o p o s i t i o n s , u n s o l v a b l e p r o b l e m s a n d c o m p u t a b l e f u n c t i o n s . N e w Y o r k : R a v e n P r e s s . 3 7 3 D e n n e t t , D a n i e l . 1 9 8 0 . T h e m i l k o f h u m a n i n t e n t i o n a l i t y . B e h a v i o r a l a n d B r a i n S c i e n c e s 3 : 4 2 9 - 4 3 0 . 1 9 8 1 . T r u e b e l i e v e r s . I n T h e i n t e n t i o n a l s t a n c e , 1 5 - 3 2 . C a m b r i d g e , M A : M I T P r e s s , B r a d f o r d B o o k s . . 1 9 8 7 a . E v o l u t i o n , e r r o r , a n d l n t e n t i o n a l i t y . I n T h e i n t e n t i o n a l s t a n c e , 2 8 8 - 3 2 1 . C a m b r i d g e : M I T P r e s s . 1 9 8 7 b . F a s t t h i n k i n g . I n T h e i n t e n t i o n a l s t a n c e , 3 2 3 - 3 3 7 . C a m b r i d g e : M I T P r e s s , B r a d f o r d B o o k s . 1 9 8 7 0 . T h e i n t e n t i o n a l s t a n c e . C a m b r i d g e , M A : M I T P r e s s . D e r r i d a , J a c q u e s . 1 9 7 7 a . S i g n a t u r e E v e n t C o n t e x t . T r a n s . S a m u e l W e b e r a n d J e f f r e y M e h l m a n . I n L i m i t e d I n c , 1 - 2 4 . E v a n s t o n , I L : N o r t h w e s t e r n U n i v e r s i t y P r e s s . 1 9 7 7 b . L i m i t e d I n c . a b 0 . . . . T r a n s . S a m u e l W e b e r . I n L i m i t e d i n c , 2 9 - 1 1 0 . E v a n s t o n , I L : N o r t h w e s t e r n U n i v e r s i t y P r e s s . D e s c a r t e s , R e n é . 1 6 2 8 . R u l e s f o r t h e d i r e c t i o n o f t h e m i n d . T r a n s . J o h n C o t t l n g h a m , R o b e r t S t o o t h o f f a n d D u g a l d M u r d o c h . I n T h e p h i l o s o p h i c a l w r i t i n g s o f D e s c a r t e s , V o l . I , 7 - 7 8 . N e w Y o r k : C a m b r i d g e U n i v e r s i t y P r e s s . 1 6 3 7 . D i s c o u r s e o n m e t h o d . T r a n s . J o h n C o t t l n g h a m , R o b e r t S t o o t h o f f a n d D u g a l d M u r d o c h . I n T h e p h i l o s o p h i c a l w r i t i n g s o f D e s c a r t e s , V o l . I , 1 0 9 - 1 5 1 . N e w Y o r k : C a m b r i d g e U n i v e r s i t y P r e s s . . 1 6 4 2 . M e d i t a t i o n s o n f i r s t p h i l o s o p h y . T r a n s . J o h n C o t t l n g h a m , R o b e r t S t o o t h o f f a n d D u g a l d M u r d o c h . I n T h e p h i l o s o p h i c a l w r i t i n g s o f D e s c a r t e s , V o l . I I , 1 - 6 2 . N e w Y o r k : C a m b r i d g e U n i v e r s i t y P r e s s . . 1 6 4 4 . P r i n c i p l e s o f p h i l o s o p h y . T r a n s . J o h n C o t t l n g h a m , R o b e r t S t o o t h o f f a n d D u g a l d M u r d o c h . I n T h e p h i l 0 3 0 p h i c a l w r i t i n g s o f D e s c a r t e s , V o l . I , 1 7 7 - 2 9 1 . N e w Y o r k : C a m b r i d g e U n i v e r s i t y P r e s s . . 1 6 4 6 . L e t t e r t o t h e M a r q u e s s o f N e w c a s t l e , 2 3 N o v e m b e r , 1 6 4 6 . T r a n s . A n t h o n y K e n n e y . I n D e s c a r t e s ’ P h i l o s o p h i c a l l e t t e r s , 2 0 5 - 2 0 8 . O x f o r d : C l a r e n d o n P r e s s . . 1 6 4 7 a . P r e f a c e t o t h e F r e n c h E d i t i o n . P r i n c i p l e s o f p h i l o s o p h y . T r a n s . J o h n C o t t l n g h a m , R o b e r t S t o o t h o f f a n d D u g a l d M u r d o c h . I n T h e p h i l o s o p h i c a l w r i t i n g s o f D e s c a r t e s , V o l . I , 1 7 3 - 1 7 6 . N e w Y o r k : C a m b r i d g e U n i v e r s i t y P r e s s . . 1 6 4 7 b . L e t t e r t o H e n r y M o r e . T r a n s . L . C o h e n R o s e n f i e l d . A n n a l s o f S c i e n c e 1 ( 1 , 1 9 3 6 ) . . 1 6 4 9 . T h e p h i l o s o p h i c a l w r i t i n g s o f D e s c a r t e s , V o l . I I I , L e t t e r t o M o r e , 5 F e b r u a r y 1 6 4 9 . T r a n s . J o h n C o t t l n g h a m , R o b e r t S t o o t h o f f a n d D u g a l d M u r d o c h , 3 6 0 - 3 6 7 . N e w Y o r k : C a m b r i d g e U n i v e r s i t y P r e s s . D e s c a r t e s , R e n é , J o h a n n e s C a t e r u s , M a r i n M e r s e n n e , T h o m a s H o b b e s , A n t o i n e A r n a u l d , P i e r r e G a s s e n d i , a n d P i e r r e B o u r d i n . 1 6 4 2 . O b j e c t i o n s a n d r e p l i e s . T r a n s . J o h n C o t t l n g h a m , R o b e r t S t o o t h o f f a n d D u g a l d M u r d o c h . I n T h e p h i l o s o p h i c a l w r i t i n g s o f D e s c a r t e s , V o l . I I , 6 6 - 3 8 3 . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . 3 7 4 D e v i t t , M i c h a e l . 1 9 9 0 . M e a n i n g s j u s t a i n ’ t i n t h e h e a d . I n M e a n i n g a n d m e t h o d : E s s a y s i n h o n o r o f H i l a r y P u t n a m , e d . G e o r g e B o o l o s , 7 9 - 1 0 4 . N e w Y o r k : C a m b r i d g e U n i v e r s i t y P r e s s . D o y l e . J o n . 1 9 8 8 . B i g p r o b l e m s f o r a r t i f i c i a l i n t e l l i g e n c e . A l M a g a z i n e 2 0 : 1 9 - 2 2 . D r e t s k e , F r e d . 1 9 8 5 . M a c h i n e s a n d t h e m e n t a l . P r o c e e d i n g s a n d A d d r e s s e s o f t h e A m e r i c a n P h i l o s o p h i c a l A s s o c i a t i o n 5 9 ( 3 , N o v e m b e r ) : 2 3 - 3 3 . D r e y f u s , H . , a n d S . D r e y f u s . 1 9 8 6 . M i n d o v e r m a c h i n e . N e w Y o r k : F r e e P r e s s / M a c m i l l a n I n c . D r e y f u s , H u b e r t . 1 9 7 9 . W h a t c o m p u t e r s c a n ’ t d o . N e w Y o r k : H a r p e r C o l o p h o n . F i s h e r , J o h n A . 1 9 8 8 . T h e w r o n g s t u f f : C h i n e s e r o o m s a n d t h e n a t u r e o f u n d e r s t a n d i n g . P h i l o s o p h i c a l i n v e s t i g a t i o n s 1 1 ( 4 ) : 2 7 9 - 2 9 9 . F o d o r , J e r r y A . , a n d E r n e s t L e p o r e . 1 9 9 2 . H o l i s m : a s h o p p e r ’ s g u i d e . C a m b r i d g e , M A : B a s i l B l a c k w e l l . F o d o r , J e r r y A . 1 9 7 4 . S p e c i a l s c i e n c e s , o r t h e d i s u n i t y o f s c i e n c e a s a w o r k i n g h y p o t h e s i s . S y n t h e s e 2 8 : 9 7 - 1 1 5 . - - - - - - . 1 9 7 5 . T h e l a n g u a g e o f t h o u g h t . N e w Y o r k : T h o m a s Y . C r o w e l l . - - - - - - . 1 9 8 0 . M e t h o d o l o g i c a l s o l i p s i s m c o n s i d e r e d a s a r e s e a r c h s t r a t e g y i n c o g n i t i v e p s y c h o l o g y . B e h a v i o r a l a n d B r a i n S c i e n c e s 3 2 6 3 - 1 0 9 . - - - - - - . 1 9 8 6 a . B a n i s h D i s C o n t e n t . I n M i n d a n d c o g n i t i o n , e d . W . G . L y c a n , 4 2 0 - 4 3 8 . O x f o r d : B a s i l B l a c k w e l l . F i r s t a p p e a r e d i n L a n g u a g e , M i n d a n d L o g i c e d i t e d b y J . B u t t e r f l e l d , C a m b r i d g e U n i v e r s i t y P r e s s . 1 9 8 6 . - - - - - - . 1 9 8 6 b . I n d i v i d u a l i s m a n d s u p e r v e n i e n c e . I n P s y c h o s e m a n t i c s , 2 7 - 5 4 . C a m b r i d g e , M A : M I T P r e s s , 1 9 8 7 . O r i g i n a l l y a p p e a r e d I n t h e P r o c e e d i n g s o f t h e A r i s t o t e l i a n S o c i e t y f o r 1 9 8 6 . - - - - - - . 1 9 8 7 . P s y c h o s e m a n t i c s . C a m b r i d g e , M A : M I T P r e s s . - - - - - - . 1 9 8 9 . M a k i n g m i n d m a t t e r m o r e . I n A t h e o r y o f c o n t e n t a n d o t h e r e s s a y s , 1 3 7 - 1 5 9 . C a m b r i d g e , M A : M I T P r e s s , 1 9 9 0 . O r i g i n a l l y a p p e a r e d i n P h i l o s o p h i c a l T o p i c s 1 7 : 5 9 - 7 9 . - - - - - . 1 9 9 0 . A t h e o r y o f c o n t e n t a n d o t h e r e s s a y s . C a m b r i d g e , M A : M I T P r e s s . F r e g e , G o t t l o b . 1 8 9 2 . O n s e n s e a n d r e f e r e n c e . T r a n s . M a x B l a c k . I n T r a n s l a t i o n s f r o m t h e p h i l o s o p h i c a l w r i t i n g s o f G o t t l o b F r e g e , e d . P e t e r G e a c h a n d M a x B l a c k . O x f o r d : B a s i l B l a c k w e l l . d e e l , K u r t . 1 9 3 4 . O n u n d e c i d a b l e p r o p o s i t i o n s o f f o r m a l m a t h e m a t i c a l s y s t e m s . I n T h e u n d e c i d a b l e , e d . M a r t i n D a v i s , 3 9 - 7 4 . H e w l e t t , N Y : R a v e n P r e s s . G o e l , V l n o d . 1 9 9 1 . N o t a t i o n a l l t y a n d t h e I n f o r m a t i o n p r o c e s s i n g m i n d . M i n d s a n d M a c h i n e s 1 ( 2 ) : 1 2 9 - 1 6 6 . 3 7 5 G o o d m a n , N e l s o n , a n d W . V . Q u i n e . 1 9 4 7 . S t e p s t o w a r d a c o n s t r u c t i v e n o m i n a l i s m . I n P r o b l e m s a n d p r o j e c t s , N e l s o n G o o d m a n , 1 7 3 - 1 9 8 . O r i g i n a l l y p u b l i s h e d i n J o u r n a l o f S y m b o l i c L o g i c 1 2 : 1 0 5 - 1 2 2 . G r e g o r y , R i c h a r d . 1 9 8 7 . I n d e f e n s e o f a r t i f i c i a l i n t e l l i g e n c e - - a r e p l y t o J o h n S e a r l e . I n M i n d w a v e s , e d . C o l i n B l a k e m o r e a n d S u s a n G r e e n f i e l d , 2 3 5 - 2 4 4 . O x f o r d : B a s i l B l a c k w e l l . G r i c e , H . P . 1 9 5 7 . M e a n i n g . P h i l o s o p h i c a l R e v i e w L X V I : 3 7 7 - 3 8 8 . G u n d e r s o n , K e i t h . 1 9 7 1 . M e n t a l i t y a n d m a c h i n e s . N e w Y o r k : A n c h o r B o o k s . - - - - - - . 1 9 9 0 . C o n s c i o u s n e s s a n d i n t e n t i o n a l i t y : r o b o t s w i t h a n d w i t h o u t t h e r i g h t s t u f f . I n P r o p o s i t i o n a l a t t i t u d e s : t h e r o l e o f c o n t e n t i n l o g i c , l a n g u a g e , a n d m i n d , e d . A . C . A n d e r s o n a n d J . O w e n s , 2 8 5 - 3 2 4 . S t a n f o r d , C A : C L S I P u b l i c a t i o n s . H a n n a , J o s e p h . 1 9 6 8 . A n e x p l i c a t i o n o f ‘ e x p l i c a t l o n ’ . P h i l o s o p h y o f S c i e n c e 3 1 ( 1 , M a r c h ) : 2 8 - 4 4 . H a n n a , P a t r i c i a . 1 9 8 5 . C a u s a l p o w e r s a n d c o g n i t i o n . M i n d 9 4 : 5 3 - 6 3 . H a r m a n , G i l b e r t . 1 9 9 0 . l n t e n t i o n a l i t y : S o m e d i s t i n c t i o n s . B e h a v i o r a l a n d B r a i n S c i e n c e s 1 3 : 6 0 7 - 6 0 8 . H a r n a d , S t e v e n . 1 9 8 2 . C o n s c i o u s n e s s : A n a f t e r t h o u g h t . C o g n i t i o n a n d B r a i n T h e o r y 5 : 2 9 - 4 7 . - - - - - - . 1 9 8 9 a . M i n d s , m a c h i n e s a n d S e a r l e . J o u r n a l o f E x p e r i m e n t a l a n d T h e o r e t i c a l A r t i f i c i a l i n t e l l i g e n c e 1 ( 1 ) : 5 - 2 5 . - - - - - - . 1 9 8 9 b . E d i t o r i a l c o m m e n t a r y o n L i b e t . B e h a v i o r a l a n d B r a i n S c i e n c e s 1 2 : 1 8 3 . - - - - - - . 1 9 9 0 . T h e s y m b o l g r o u n d i n g p r o b l e m . P h y s i c a D 4 2 : 3 3 5 - 3 4 6 . N o r t h H o l l a n d . - - - - - - . 1 9 9 1 . O t h e r b o d i e s , o t h e r m i n d s : a m a c h i n e i n c a r n a t i o n o f a n o l d p h i l o s o p h i c a l p r o b l e m . M i n d s a n d M a c h i n e s 1 : 5 - 2 5 . H a u s e r , L a r r y . 1 9 9 2 . A c t , a i m , a n d u n s c i e n t i f i c e x p l a n a t i o n . P h i l o s o p h i c a l i n v e s t i g a t i o n s 1 5 ( 1 0 , O c t o b e r 1 9 9 2 ) : 3 1 3 - 3 2 3 . - - - - - - . 1 9 9 3 a . W h y I s n ’ t m y p o c k e t c a l c u l a t o r a t h i n k i n g t h i n g ? M i n d s a n d M a c h i n e s 3 ( 1 , F e b r u a r y 1 9 9 3 ) : 3 - 1 0 . - - - - - - . 1 9 9 3 b . T h e s e n s e o f " t h i n k i n g . " M i n d s a n d M a c h i n e s 3 ( 1 , F e b r u a r y 1 9 9 3 ) : 1 2 - 2 1 . - - - - - - . 1 9 9 3 c . T h o u g h t , C o m p u t a t i o n , a n d I n t r i n s i c a l i t y . K a l a m a z o o , M I : M i c h i g a n A c a d e m y o f A r t s a n d S c i e n c e s , P h i l o s o p h y S e c t i o n , M a r c h 5 . H a y e s . P . J . 1 9 8 2 . I n t r o d u c t i o n . I n P r o c e e d i n g s o f t h e C o g n i t i v e C u r r i c u l a C o n f e r e n c e , v o l . 2 , e d . P . J . H a y e s a n d M . M . L u c a s . R o c h e s t e r , N Y : U n i v e r s i t y o f R o c h e s t e r . H a y e s , P a t r i c k , S t e v e n H a r n a d , D o n a l d P e r i l s , a n d N e d . B l o c k . 1 9 9 2 . V i r t u a l s y m p o s i u m o n v i r t u a l m i n d . M i n d s a n d M a c h i n e s 2 ( 3 ) : 2 1 7 - 2 3 8 . 3 7 6 H e m p e l , C a r l . 1 9 4 9 . T h e l o g i c a l a n a l y s i s o f p s y c h o l o g y . I n R e a d i n g s i n p h i l o s o p h i c a l a n a l y s i s , e d . H . F e i g e l a n d W . S e l l a r s . N e w Y o r k : A p p l e t o n C e n t u r y C r o f t s . H o d g e s , A n d r e w . 1 9 8 3 . A l a n T u r i n g : T h e e n i g m a . N e w Y o r k : S i m o n & S c h u s t e r / T o u c h s t o n e . H u m b e r s t o n e , I . L . 1 9 7 2 . A n o t e o n “ i n s t e a d o f ’ . I n Y o r k p a p e r s i n l i n g u i s t i c s , v o l . 2 , 1 3 7 - 1 4 2 . H u s s e r l E d m u n d . 1 9 1 3 . L o g i c a l i n v e s t i g a t i o n s . T r a n s . J . N . F i n d l e y . N e w Y o r k : H u m a n i t i e s P r e s s . 1 9 7 0 t r a n s l a t i o n o f t h e s e c o n d e d i t i o n o f L o g i s c h e u n t e r s u c h u n g e n . J a c k s o n , F r a n k . 1 9 8 2 . E p i p h e n o m e n a l q u a l i a . P h i l o s o p h i c a l Q u a r t e r l y 3 2 : 1 2 7 - 1 3 6 . J a c q u e t t e , D a l e . 1 9 8 9 . A d v e n t u r e s i n t h e C h i n e s e r o o m . P h i l o s o p h y a n d P h e n o m e n o l o g i c a l R e s e a r c h X L I X ( 4 , J u n e ) : 6 0 6 - 6 2 3 . J a m e s , W i l l i a m . 1 9 5 0 . P r i n c i p l e s o f p s y c h o l o g y . N e w Y o r k : D o v e r P u b l i c a t i o n s . J o h n s o n - L a i r d , P h i l i p N . 1 9 8 8 . T h e c o m p u t e r a n d t h e m i n d . C a m b r i d g e , M A : H a r v a r d U n i v e r s i t y P r e s s . K i m , J a e g w o n . 1 9 7 3 . C a u s a t i o n , n o m i c s u b s u m p t i o n , a n d t h e c o n c e p t o f e v e n t . J o u r n a l o f P h i l o s o p h y 7 0 : 2 1 7 - 2 3 6 . - - - - - - . 1 9 7 3 . C a u s a t i o n , n o m i c s u b s u m p t i o n , a n d t h e c o n c e p t o f a n e v e n t . J o u r n a l o f P h i l o s o p h y L X X ( 8 , A p r i l 2 6 ) : 2 1 7 - 2 2 6 . - - - - - - . 1 9 7 6 . E v e n t s a s p r o p e r t y e x e m p l i f i c a t i o n s . I n A c t i o n t h e o r y , e d . M y l e s B r a n d a n d D o u g l a s W a l t o n . D o r d r e c h t : R e i d e l . - - - - - - . 1 9 8 4 a . S e l f - u n d e r s t a n d i n g a n d r a t i o n a l i z i n g e x p l a n a t i o n s . P h i l o s o p h i a N a t u r a i i s 2 1 ( 1 9 8 4 ) : 3 0 9 - 3 2 0 . - - - - - - . 1 9 8 4 b . P s y c h o p h y s i c a l l a w s . I n A c t i o n s a n d e v e n t s : P e r s p e c t i v e s o n t h e p h i l o s o - p h y o f D o n a l d D a v i d s o n , e d . E r n e s t L e p o r e a n d B r i a n M c L a u g h l i n , 3 6 9 - 3 8 6 . O x f o r d : B a s i l B l a c k w e l l . - - - - - - . 1 9 8 8 . E x p l a n a t o r y r e a l i s m , c a u s a l r e a l i s m , a n d e x p l a n a t o r y e x c l u s i o n . I n M i d w e s t s t u d i e s i n p h i l o s o p h y , 2 2 5 - 2 4 0 . - - - - - - . 1 9 8 9 . M e c h a n i s m , p u r p o s e , a n d e x p l a n a t o r y e x c l u s i o n . I n P h i l o s o p h i c a l p e r s p e c t i v e s , 3 : P h i l o s o p h y o f m i n d a n d a c t i o n t h e o r y , 7 7 - 1 0 8 . 1 9 8 9 . - - - - - - . 1 9 9 2 a . M u l t i p l e r e a l i z a t i o n a n d t h e m e t a p h y s i c s o f r e d u c t i o n . P h i l o s o p h y a n d P h e n o m e n o l o g i c a l R e s e a r c h L l I ( 1 , M a r c h 1 9 9 2 ) : 1 - 2 6 . - - - - - - . 1 9 9 2 b . T h e n o n r e d u c t i v i s t ’ s t r o u b l e s w i t h m e n t a l c a u s a t i o n . I n M e n t a l c a u s a t i o n , e d . J o h n H e l l a n d A l f r e d M e l e . O x f o r d : O x f o r d U n i v e r s i t y P r e s s . K l e e n e , S t e p h e n C . 1 9 3 6 . G e n e r a l r e c u r s i v e f u n c t i o n s o f n a t u r a l n u m b e r s . M a t h A n n u a l 1 1 2 : 7 2 7 - 7 4 2 . 3 7 7 K r i p k e , S a u l A . 1 9 7 1 . N a m i n g a n d n e c e s s i t y . I n S e m a n t i c s o f n a t u r a l l a n g u a g e , e d . D . D a v i d s o n a n d G . H a r m o n , 2 5 3 - 3 5 5 . D o r d r e c h t , N e t h e r l a n d s : R e i d e l . - - - - - - . 1 9 8 2 . W i t t g e n s t e i n o n r u l e s a n d p r i v a t e l a n g u a g e . C a m b r i d g e , M A : H a r v a r d U n i v e r s i t y P r e s s . K r o n f e l d , A m i c h a i . 1 9 9 0 . R e f e r e n c e a n d c o m p u t a t i o n . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . K u h n , T h o m a s S . 1 9 7 0 . T h e s t r u c t u r e o f s c i e n t i f i c r e v o l u t i o n s . 2 n d e d i t i o n . C h i c a g o : U n i v e r s i t y o f C h i c a g o P r e s s . L a k o f f , G e o r g e P . 1 9 7 0 b . A n o t e o n v a g u e n e s s a n d a m b i g u i t y . L i n g u i s t i c i n q u i r y I ( 3 ) : 3 5 7 - 3 5 9 . L a t a n é , B . , a n d J . M . D a r l e y . 1 9 7 0 . T h e u n r e s p o n s i v e b y s t a n d e r : W h y d o e s n ’ t h e h e l p ? N e w Y o r k : A p p l e t o n - C e n t u r y - C r o f t s . L e i b e r , J u s t i n . 1 9 8 5 . C a n a n i m a l s a n d m a c h i n e s b e p e r s o n s ? : A d i a l o g u e . I n d i a n a p o l i s : H a c k e t t P u b l i s h i n g C o . - - - - - - . 1 9 9 1 . i n v i t a t i o n t o c o g n i t i v e s c i e n c e . C a m b r i d g e , M A : B a s i l B l a c k w e l l . L e w i s , D a v i d . 1 9 8 6 . O n t h e p l u r a l i t y o f w o r l d s . N e w Y o r k : B a s i l B l a c k w e l l . L y c a n , W i l l i a m . 1 9 9 2 . A n e w a r g u m e n t f o r t h e r e p r e s e n t a t i o n a l t h e o r y o f m i n d . P a p e r p r e s e n t e d a t t h e D e p a r t m e n t o f P h i l o s o p h y ’ s C o n f e r e n c e o n B e l i e f a n d B e l i e f A t t r i b u t i o n , U n i v e r s i t y o f R o c h e s t e r . R o c h e s t e r , N Y , M a y 1 9 9 1 . F o r t h c o m i n g I n M i n d a n d L a n g u a g e . L y o n s , W i l l i a m . 1 9 8 5 . O n S e a r i e ’ s " s o l u t i o n " t o t h e m i n d - b o d y p r o b l e m . P h i l o s o p h i c a l S t u d i e s 4 8 : 2 9 1 - 2 9 4 . - - - - - - . 1 9 8 6 . T h e D i s a p p e a r a n c e o f i n t r o s p e c t i o n . C a m b r i d g e , M A : M I T P r e s s . M a c Q u e e n , K e n n e t h G . 1 9 9 0 . N o t a t r i v i a l c o n s e q u e n c e . B e h a v i o r a l a n d B r a i n S c i e n c e s 1 3 : 1 9 3 - 1 9 4 . M a e l r , N . R . F . 1 9 3 1 . R e a s o n i n g I n h u m a n s : I I . T h e s o l u t i o n o f a p r o b l e m a n d i t s a p p e a r a n c e I n c o n s c i o u s n e s s . J o u r n a l o f C o m p a r a t i v e P s y c h o l o g y 1 2 : 1 8 1 - 1 9 4 . M a l c o l m , N o r m a n . 1 9 5 8 . K n o w l e d g e o f o t h e r m i n d s . J o u r n a l o f P h i l o s o p h y L V . R e p r i n t e d i n T h e P h i l o s o p h y o f m i n d , e d . V . C . C h a p p e l l ( E n g l e w o o d C l i f f s , N J : P r e n t i c e H a l l , 1 9 6 2 ) . - - - - - - . 1 9 6 8 . T h e c o n c e i v a b l l l t y o f m e c h a n i s m . P h I I O S O p h i c a i R e v i e w 7 7 : 4 5 - 7 2 . R e p r i n t e d i n G a r y W a t s o n ( e d . ) , F r e e w i l l ( O x f o r d : O x f o r d U n i v e r s i t y P r e s s , 1 9 8 2 ) . M a l o n e y , C h r i s t o p h e r . 1 9 8 7 . T h e r i g h t s t u f f . S y n t h e s e 7 0 : 3 4 9 - 3 7 2 . . M a r r , D a v i d . 1 9 7 7 . A r t i f i c i a l i n t e l l i g e n c e : a p e r s o n a l v i e w . I n T h e f o u n d a t i o n s o f a r t i f i c i a l i n t e l l i g e n c e : a s o u r c e b o o k , e d . D e r e k P a r t r i d g e a n d Y o r i c k W i l k s , 9 7 - 1 0 7 . N e w Y o r k : C a m b r i d g e U n i v e r s i t y P r e s s . F i r s t p u b l i s h e d I n A r t i f i c i a l I n t e l l i g e n c e , V o l . 9 ( 1 9 7 7 ) , p p . 3 7 - 4 8 . 3 7 8 M c C a r t h y , J o h n . 1 9 8 0 . B e l i e f s , m a c h i n e s , a n d t h e o r i e s . B e h a v i o r a l a n d B r a i n S c i e n c e s 3 : 4 3 5 . M c K e o n . R i c h a r d ( e d . ) . 1 9 4 1 . B a s i c w o r k s o f A r i s t o t l e . E d . - - - - - - . N e w Y o r k : R a n d o m H o u s e . M i l l i k a n , R u t h . 1 9 8 4 . L a n g u a g e , t h o u g h t a n d o t h e r b i o l o g i c a l c a t e g o r i e s . C a m b r i d g e , M A : M I T P r e s s . M o r g a n , J . L . 1 9 7 2 . S y n t a c t i c f o r m a n d c o n v e r s a t i o n a l i m p o r t - - s o m e i n t e r a c t i o n s . I n P a p e r s f r o m t h e U n i v e r s i t y o f W i s c o n s i n - M i l w a u k e e L i n g u i s t i c s G r o u p F i r s t A n n u a l S y m p o s i u m o n L i m i t i n g t h e D o m a i n o f L i n g u i s t i c s , e d . D . C o h e n , 3 7 - 5 3 . M i l w a u k e e : U n i v e r s i t y o f W i s c o n s i n - M i l w a u k e e L i n g u i s t i c s G r o u p . N a g e l , T h o m a s . 1 9 7 4 . W h a t I s I t l i k e t o b e a b a t ? P h i l o s o p h i c a l R e v i e w 8 3 : 4 3 5 - 4 5 0 . - - - - - - . 1 9 8 6 . T h e v i e w f r o m n o w h e r e . O x f o r d : O x f o r d U n i v e r s i t y P r e s s . - - - - - - . 1 9 8 7 . F r e e w i l l . I n W h a t d o e s i t a l l m e a n ? , 4 7 - 5 8 . N e w Y o r k : O x f o r d U n i v e r s i t y P r e s s . N e l k i n , N o r t o n . W h a t i s c o n s c i o u s n e s s ? F o r t h c o m i n g i n P h i l o s o p h y o f S c i e n c e . N e w e l l , A l l e n , a n d S i m o n H . A . 1 9 6 3 . G P S , a p r o g r a m t h a t s i m u l a t e s h u m a n t h o u g h t . I n C o m p u t e r s a n d t h o u g h t , e d . E d w a r d A . F e l g e n b a u m a n d J u l i a n F e l d m a n , 2 7 9 - 2 9 3 . N e w Y o r k : M c G r a w - H i l l , 1 9 6 3 . N e w e l l , A l l e n . 1 9 7 9 . P h y s i c a l s y m b o l s y s t e m s . L e c t u r e a t t h e L a J o l l a C o n f e r e n c e o n C o g n i t i v e S c i e n c e . N i s b e t t , R . E . , a n d N . B e l l o w s . 1 9 7 6 . A c c u r a c y a n d i n a c c u r a c y I n v e r b a l r e p o r t s a b o u t i n f l u e n c e s o n e v a l u a t i o n s . U n p u b l i s h e d m a n u s c r i p t . U n i v e r s i t y o f M i c h i g a n . C i t e d I n N i s b e t t & W i l s o n 1 9 7 7 . N i s b e t t , R . E . , a n d S . V a l l n s . 1 9 7 2 . P e r c e i v i n g t h e c a u s e s o f o n e s o w n b e h a v i o r . N e w Y o r k : G e n e r a l L e a r n i n g P r e s s . N i s b e t t , R i c h a r d E . , a n d T i m o t h y D e C a m p W i l s o n . 1 9 7 7 . T e l l i n g m o r e t h a n w e c a n k n o w : v e r b a l r e p o r t s o n m e n t a l p r o c e s s e s . P s y c h o l o g i c a l R e v i e w 8 4 ( 3 , m a y ) : 2 3 1 - 2 5 9 . O p p e n h e i m , P a u l , a n d H i l a r y P u t n a m . 1 9 5 8 . U n i t y o f s c i e n c e a s a w o r k i n g h y p o t h e s i s . I n M i n n e s o t a s t u d i e s i n t h e p h i l o s o p h y o f s c i e n c e , e d . H e r b e r t F e i g l , M i c h a e l S c r i v e n a n d G r o v e r M a x w e l l . M i n n e a p o l i s : U n i v e r s i t y o f M i n n e s o t a P r e s s . P a r t r i d g e , D e r e k , a n d Y o r i c k W i l k s . 1 9 9 0 a . D o e s A I h a v e a m e t h o d o l o g y t h a t i s d i f f e r e n t f r o m s o f t w a r e e n g i n e e r i n g ? I n T h e f o u n d a t i o n s o f a r t i f i c i a l i n t e l l i g e n c e , e d . - - - - - - , 3 6 3 - 3 7 2 . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . - - - - - - . 1 9 9 0 b . T h e f o u n d a t i o n s o f a r t i f i c i a l i n t e l l i g e n c e . E d . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . P e n r o s e , R o g e r . 1 9 8 9 . T h e e m p e r o r ’ s n e w m i n d . O x f o r d : O x f o r d U n i v e r s i t y P r e s s . P u c e t t l , R o l a n d . 1 9 8 0 . T h e c h e s s r o o m : f u r t h e r d e m y t h o l o g i z i n g o f s t r o n g A I . B e h a v i o r a l a n d B r a i n S c i e n c e s 3 : 4 4 1 - 4 4 2 . 3 7 9 P u t n a m , H i l a r y . 1 9 6 0 . M i n d s a n d m a c h i n e s . I n M i n d , l a n g u a g e a n d r e a l i t y : C o l l e c t e d p a p e r s , v o l . 2 , 3 6 2 - 3 8 4 . N e w Y o r k : C a m b r i d g e U n i v e r s i t y P r e s s . - - - - - - . 1 9 6 7 . T h e n a t u r e o f m e n t a l s t a t e s . I n M i n d , l a n g u a g e a n d r e a l i t y : C o l l e c t e d p a p e r s , v o l . 2 , 4 2 9 - 4 4 0 . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . - - - - - - . 1 9 7 5 . T h e m e a n i n g o f ‘ m e a n i n g ’ . I n L a n g u a g e , m i n d , a n d k n o w l e d g e : M i n n e s o t a s t u d i e s i n t h e p h i l o s o p h y o f s c i e n c e , v o l . 7 , e d . K e i t h G u n d e r s o n . M i n n e a p o l i s : U n i v e r s i t y o f M i n n e s o t a P r e s s . - - - - - . 1 9 8 8 . R e p r e s e n t a t i o n a n d r e a l i t y . C a m b r i d g e , M A : M I T P r e s s . P y l y s h y n , Z e n o n . 1 9 8 4 . C o m p u t a t i o n a n d c o g n i t i o n : T o w a r d a f o u n d a t i o n f o r c o g n i t i v e s c i e n c e . C a m b r i d g e , M A : M I T P r e s s . Q u i n e , W i l l a r d O . 1 9 6 0 . W o r d a n d o b j e c t . C a m b r i d g e , M A : M I T P r e s s . 1 9 7 5 . M i n d a n d v e r b a l d i s p o s i t i o n s . I n M i n d a n d l a n g u a g e , e d . S a m u e l G u t t e n p l a n , 8 3 - 9 5 . O x f o r d : C l a r e n d o n P r e s s . R a p a p o r t , W i l l i a m J . 1 9 8 6 . S e a r i e ’ s e x p e r i m e n t s w i t h t h o u g h t . P h i l o s o p h y o f S c i e n c e 5 3 : 2 7 1 - 2 7 9 . - - - - - - . 1 9 8 8 . S y n t a c t i c s e m a n t i c s : f o u n d a t i o n s o f c o m p u t a t i o n a l n a t u r a l l a n g u a g e u n d e r s t a n d i n g . I n A s p e c t s o f a r t i f i c i a l i n t e l l i g e n c e , e d . J a m e s H . F e t z e r , 8 1 - 1 3 1 . D o r d r e c h t , N e t h e r l a n d s : K l u w e r . - - - - - - . 1 9 9 3 . B e c a u s e m e r e c a l c u l a t i n g I s n ’ t t h i n k i n g : R e p l y t o H a u s e r . M i n d s a n d M a c h i n e s 3 ( 1 , F e b r u a r y 1 9 9 3 ) . R e y , G e o r g e s . 1 9 8 6 . S e a r i e ’ s ’ C h l n e s e r o o m ’ . P h i l o s o p h i c a l S t u d i e s 5 0 : 1 6 9 - 1 8 5 . R u s s e l l , B e r t r a n d . 1 9 1 2 . P r i n c i p l e s o f p h i l o s o p h y . I n d i a n a p o l i s : H a c k e t t P u b l i s h i n g C o . - - - - - - . 1 9 4 8 . H u m a n k n o w l e d g e : i t s s c o p e a n d l i m i t s . N e w Y o r k : S i m o n & S c h u s t e r . R y l e , G i l b e r t . 1 9 4 9 . T h e c o n c e p t o f m i n d . L o n d o n : H u t c h i n s o n & C o m p a n y . S a v l t t , S t e v e n F . 1 9 8 2 . S e a r i e ’ s d e m o n a n d t h e b r a i n s i m u l a t o r . B e h a v i o r a l a n d b r a i n s c i e n c e s 5 ( 2 ) : 3 4 2 - 3 4 3 . S c h a n k , R o g e r C . , a n d R o b e r t P . A b e l s o n . 1 9 7 7 . S c r i p t s , p l a n s , g o a l s , a n d u n d e r s t a n d i n g . H i l l s d a l e , N J : L a w r e n c e E r l b a u m P r e s s . S c h a n k , R o g e r C . 1 9 7 7 . N a t u r a l l a n g u a g e , p h i l o s o p h y , a n d a r t i f i c i a l i n t e l l i g e n c e . I n P h i l o - S O p h i c a l p e r s p e c t i v e s i n a r t i f i c i a l i n t e l l i g e n c e , 1 9 6 - 2 2 4 . B r i g h t o n , S u s s e x : H a r v e s t e r P r e s s . S c h i l f e r , S t e p h e n R . 1 9 8 7 . R e m n a n t s o f m e a n i n g . C a m b r i d g e , M A : M I T P r e s s . S e a r l e , J o h n R . , a n d D a n i e l D e n n e t t . 1 9 8 2 . T h e m y t h o f t h e c o m p u t e r . N e w Y o r k R e v i e w o f B o o k s 5 7 ( 2 4 / J u l y ) : 5 6 - 5 7 . n n n n n n O 3 8 0 1 9 9 0 . " T h e e m p e r o r ’ s n e w m i n d " : A n e x c h a n g e . N e w Y o r k R e v i e w o f B o o k s X X X V I I ( 1 0 , J u n e ) : 5 8 - 6 0 . S e a r l e , J o h n R . 1 9 7 1 a . S p e e c h a c t s . N e w Y o r k : C a m b r i d g e U n i v e r s i t y P r e s s . 1 9 7 1 b . W h a t I s a s p e e c h a c t ? I n T h e p h i l o s o p h y o f l a n g u a g e , e d . J o h n S e a r l e . O x f o r d : O x f o r d U n i v e r s i t y P r e s s . 1 9 7 5 a . S p e e c h a c t s a n d r e c e n t l i n g u i s t i c s . I n E x p r e s s i o n a n d m e a n i n g , 1 6 2 - 1 7 9 . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . 1 9 7 5 b . I n d i r e c t s p e e c h a c t s . I n E x p r e s s i o n a n d m e a n i n g , 3 0 - 5 7 . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . . 1 9 7 5 c . A t a x o n o m y o f i l l o c u t i o n a r y a c t s . I n E x p r e s s i o n a n d m e a n i n g , 1 - 2 9 . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . . 1 9 7 7 . R e i t e r a t l n g t h e d i f f e r e n c e s : A r e p l y t o D e r r i d a . G l y p h 2 2 1 9 8 - 2 0 8 . J o h n H o p k i n s . . 1 9 7 8 . L i t e r a l m e a n i n g . I n E x p r e s s i o n a n d m e a n i n g , 1 1 7 - 1 3 6 . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . . 1 9 7 9 a . W h a t I s a n I n t e n t i o n a l s t a t e ? M i n d L X X X V I I l z 7 4 - 9 2 . . 1 9 7 9 b . l n t e n t i o n a l i t y a n d t h e u s e o f l a n g u a g e . I n M e a n i n g a n d u s e , e d . A . M a r g a l l t , 1 8 1 - 1 9 7 . D o r d r e c h t , N e t h e r l a n d s : D . R e i d e l P u b l i s h i n g C o . . 1 9 7 9 0 . T h e i n t e n t i o n a l i t y o f I n t e n t i o n a n d a c t i o n . i n q u i r y 2 2 : 2 5 3 - 2 8 0 . . 1 9 7 9 d . M e t a p h o r . I n E x p r e s s i o n a n d m e a n i n g , 7 6 - 1 1 6 . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . . 1 9 7 9 s . R e f e r e n t i a l a n d a t t r i b u t i v e . I n E x p r e s s i o n a n d m e a n i n g , 1 3 7 - 1 6 1 . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . . 1 9 7 9 f . E x p r e s s i o n a n d m e a n i n g . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . . 1 9 8 0 a . M i n d s , b r a i n s , a n d p r o g r a m s . B e h a v i o r a l a n d B r a i n S c i e n c e s 3 2 4 1 7 - 4 2 4 . . 1 9 8 0 b . I n t r i n s i c i n t e n t i o n a l i t y . B e h a v i o r a l a n d B r a i n S c i e n c e s 3 : 4 5 0 - 4 5 6 . . 1 9 8 0 0 . A n a l y t i c p h i l o s o p h y a n d m e n t a l p h e n o m e n a . I n M i d w e s t s t u d i e s i n p h i l o s o p h y , v o l . 5 , 4 0 5 - 4 2 3 . M i n n e a p o l i s : U n i v e r s i t y o f M i n n e s o t a P r e s s . . 1 9 8 0 d . T h e b a c k g r o u n d o f m e a n i n g . I n S p e e c h a c t t h e o r y a n d p r a g m a t i c s , e d . J . R . S e a r l e , F . K l e f e r a n d M . B i e r w i s c h , 2 2 1 - 2 3 2 . D o r d r e c h t , N e t h e r l a n d s : D . R e i d e l P u b l i s h i n g C o . . 1 9 8 2 . T h e C h i n e s e r o o m r e v i s i t e d . B e h a v i o r a l a n d B r a i n S c i e n c e s 5 ( 2 ) : 3 4 5 - 3 4 8 . . 1 9 8 3 . l n t e n t i o n a l i t y : a n e s s a y i n t h e p h i l o s o p h y o f m i n d . N e w Y o r k : C a m b r i d g e U n i v e r s i t y P r e s s . 3 8 1 1 9 8 4 a . M i n d s , b r a i n s , a n d s c i e n c e . C a m b r i d g e : H a r v a r d U n i v e r s i t y P r e s s . 1 9 8 4 b . l n t e n t i o n a l i t y a n d i t s p l a c e i n n a t u r e . S y n t h e s e 6 1 : 3 - 1 6 . 1 9 8 5 . P a t t e r n s , s y m b o l s a n d u n d e r s t a n d i n g . B e h a v i o r a l a n d B r a i n S c i e n c e s 8 ( 4 ) : 7 4 2 - 7 4 3 . . 1 9 8 6 . M e a n i n g , c o m m u n i c a t i o n a n d r e p r e s e n t a t i o n . I n P h i l o s o p h i c a l g r o u n d s o f r a t i o n a l i t y , e d . R . G r a n d y a n d x x , 2 0 9 - 2 2 6 . 1 9 8 7 a . l n d e t e r m l n a c y . e m p i r i c i s m , a n d t h e f i r s t p e r s o n . J o u r n a l o f P h i l o s o p h y L X X X I V ( 3 , M a r c h ) : 1 2 3 - 1 4 6 . . 1 9 8 7 b . M i n d s a n d b r a i n s w i t h o u t p r o g r a m s . I n M i n d w a v e s , e d . C o l i n B l a k e m o r e a n d S u s a n G r e e n f i e l d , 2 0 9 - 2 3 3 . O x f o r d : B a s i l B l a c k w e l l . 1 9 8 9 a . R e p l y t o J a c q u e t t e . P h i l o s o p h y a n d P h e n o m e n o l o g i c a l R e s e a r c h X L I X ( 4 ) : 7 0 1 - 7 0 8 . . 1 9 8 9 b . C o n s c i o u s n e s s , u n c o n s c i o u s n e s s , a n d i n t e n t i o n a l i t y . P h i l o s o p h i c a l T o p i c s X V I I ( 1 , s p r i n g ) : 1 9 3 - 2 0 9 . . 1 9 8 9 0 . H o w p e r f o r m a t i v e s w o r k . L i n g u i s t i c s a n d P h i l o s o p h y 1 2 : 5 3 5 - 5 5 8 . . 1 9 9 0 a . I s t h e b r a i n ‘ s m i n d a c o m p u t e r p r o g r a m ? S c i e n t i f i c A m e r i c a n 2 6 2 ( 1 ) : 2 6 - 3 1 . . 1 9 9 0 b . C o n s c i o u s n e s s , u n c o n s c i o u s n e s s a n d l n t e n t i o n a l i t y . I n P r o p o s i t i o n a l a t t i t u d e s : t h e r o l e o f c o n t e n t i n l o g i c , l a n g u a g e , a n d m i n d , e d . A n d e r s o n A . a n d J . O w e n s , 2 6 9 - 2 8 4 . S t a n f o r d . C A : C e n t e r f o r t h e S t u d y o f L a n g u a g e a n d I n f o r m a t i o n . . 1 9 9 0 0 . I s t h e b r a i n a d i g i t a l c o m p u t e r ? P r o c e e d i n g s o f t h e A m e r i c a n P h i l o s o p h i c a l A s s o c i a t i o n 6 4 ( 3 ) : 2 1 - 3 8 . . 1 9 9 0 d . F o r w a r d t o A m i c h a l K r o n f e l d ’ s R e f e r e n c e a n d c o m p u t a t i o n . I n R e f e r e n c e a n d c o m p u t a t i o n , b y A m i c h a l K r o n f e l d , x i i - x v i i l . C a m b r i d g e : C a m b r i d g e U n i v e r s i t y P r e s s . . 1 9 9 0 e . T h e c a u s a l p o w e r s o f t h e b r a i n . B e h a v i o r a l a n d B r a i n S c i e n c e s 1 3 : 1 6 4 . . 1 9 9 0 f . C o n s c i o u s n e s s , e x p l a n a t o r y I n v e r s i o n , a n d c o g n i t i v e s c i e n c e . B e h a v i o r a l a n d B r a i n S c i e n c e s 1 3 : 5 8 5 - 5 9 6 . . 1 9 9 0 g . W h o I s c o m p u t i n g w i t h t h e b r a i n ? B e h a v i o r a l a n d B r a i n S c i e n c e s 1 3 : 6 3 2 - 6 4 0 . . 1 9 9 1 a . M e a n i n g , i n t e n t i o n a l i t y a n d s p e e c h a c t s . I n J o h n S e a r l e a n d h i s c r i t i c s , e d . E r n e s t L e p o r e a n d R o b e r t V a n G u l l c k , 8 1 - 1 0 2 . C a m b r i d g e , M A : B a s i l B l a c k w e l l . . 1 9 9 1 b . T h e m i n d - b o d y p r o b l e m . I n J o h n S e a r l e a n d h i s c r i t i c s , e d . E r n e s t L e p o r e a n d R o b e r t V a n G u l l c k , 1 4 1 - 1 4 7 . C a m b r i d g e , M A : B a s i l B l a c k w e l l . . 1 9 9 1 0 . P e r c e p t i o n a n d t h e s a t i s f a c t i o n s o f i n t e n t i o n a l i t y . I n J o h n S e a r l e a n d h i s c r i t i c s , e d . E r n e s t L e p o r e a n d R o b e r t V a n G u l i c k , 1 8 1 - 1 9 2 . C a m b r i d g e , M A : B a s i l B l a c k w e l l . 3 8 2 - - - - - - . 1 9 9 1 d . R e f e r e n c e a n d i n t e n t i o n a l i t y . I n J o h n S e a r l e a n d h i s c r i t i c s , e d . E r n e s t L e p o r e a n d R o b e r t V a n G u l i c k , 2 2 7 - 2 4 1 . C a m b r i d g e , M A : B a s i l B l a c k w e l l . - - - - - - . 1 9 9 1 s . T h e b a c k g r o u n d o f i n t e n t i o n a l i t y a n d a c t i o n . I n J o h n S e a r l e a n d h i s c r i t i c s , e d . E r n e s t L e p o r e a n d R o b e r t V a n G u l i c k , 2 8 9 - 2 9 9 . C a m b r i d g e , M A : B a s i l B l a c k w e l l . - - - - - - . 1 9 9 1 f . E x p l a n a t i o n i n t h e s o c i a l s c i e n c e s . I n J o h n S e a r l e a n d h i s c r i t i c s , e d . E r n e s t L e p o r e a n d R o b e r t V a n G u l l c k , 3 3 5 - 3 4 2 . C a m b r i d g e , M A : B a s i l B l a c k w e l l . - - - - - - . 1 9 9 2 . T h e r e d i s c o v e r y o f t h e m i n d . C a m b r i d g e , M A : M I T P r e s s . S e a r l e , J . , M c C a r t h y J . , H . D r e y f u s , M . M i n s k y , a n d S . P a p e r t . 1 9 8 4 . H a s a r t i f i c i a l i n t e l l i g e n c e r e s e a r c h I l l u m i n a t e d h u m a n t h i n k i n g ? A n n a l s o f t h e N e w Y o r k C i t y A c a d e m y o f A r t s a n d S c i e n c e s 4 2 6 : 1 3 8 - 1 6 0 . S e a r l e , J . R . , K . O . A p e l , W . P . A l s t o n , e t a l . 1 9 9 1 . J o h n S e a r l e a n d h i s c r i t i c s . E d . E r n e s t L e p o r e a n d R o b e r t V a n G u l l c k . C a m b r i d g e , M A : B a s i l B l a c k w e l l . S h a r v y , R i c h a r d . 1 9 8 5 . I t a i n ’ t t h e m e a t i t ’ s t h e m o t i o n . i n q u i r y 2 6 : 1 2 5 - 1 3 4 . S h o p e n , T . 1 9 7 3 . E l l i p s i s a s g r a m m a t i c a l i n d e t e r m i n a c y . F o u n d a t i o n s o f L a n g u a g e 1 0 ( 1 ) : 6 5 - 7 7 . S l o v l c , P . , a n d S . L i c h t e n s t e i n . 1 9 7 1 . C o m p a r i s o n o f B a y e s i a n a n d r e g r e s s i o n a p p r o a c h e s t o t h e s t u d y o f i n f o r m a t i o n p r o c e s s i n g i n j u d g m e n t . O r g a n i z a t i o n a l B e h a v i o r a n d H u m a n P e r f o r m a n c e 6 : 6 4 9 - 7 4 4 . S m a r t J . J . C . 1 9 5 8 . S e n s a t i o n s a n d b r a i n p r o c e s s e s . P h i l o s o p h i c a l R e v i e w 6 8 : 1 4 1 - 1 5 6 . S t i c h , S t e v a n . 1 9 8 3 . F r o m f o l k p s y c h o l o g y t o c o g n i t i v e s c i e n c e : t h e c a s e a g a i n s t b e l i e f . C a m b r i d g e , M A : M I T P r e s s . S t l l l i n g s , N e i l A . , M a r k H . F e i n s t e i n , J a y L . G a r f i e l d , e t a l . 1 9 8 7 . C o g n i t i v e s c i e n c e : A n i n t r o d u c t i o n . C a m b r i d g e , M A : M I T P r e s s . S t i p p . D a v i d . 1 9 9 1 . D o e s t h a t c o m p u t e r h a v e s o m e t h i n g o n i t s m i n d ? W a l l S t r e e t J o u r n a l , T u e s d a y , M a r c h 1 9 , A 2 0 . S t o r m s , M . D . , a n d R . E . N i s b e t t . 1 9 7 0 . I n s o m n i a a n d t h e a t t r i b u t i o n p r o c e s s . J o u r n a l o f P e r s o n a l i t y a n d S o c i a l P s y c h o l o g y 2 : 3 1 9 - 3 2 8 . T a n e n b a u m , A n d r e w S . 1 9 7 6 . S t r u c t u r e d c o m p u t e r o r g a n i z a t i o n . E n g l e w o o d C l i f f , N J : P r e n t i c e - H a l l . T r a k h t e n b r o t , B o r i s . 1 9 6 3 . A l g o r i t h m s a n d a u t o m a t i c c o m p u t i n g m a c h i n e s . T r a n s . J . K r i s t i a n , J . D . M c C a w I e y a n d S . A . S c h m l t t . B o s t o n : D . C . H e a t h a n d C o . T u r i n g , A l a n M . 1 9 3 6 - 7 . O n c o m p u t a b l e n u m b e r s w i t h a n a p p l i c a t i o n t o t h e E n t s h e i d u n g s p r o - b l e m . I n T h e u n d e c i d a b l e , e d . M a r t i n D a v i s , 1 1 6 - 1 5 4 . N e w Y o r k : R a v e n P r e s s , 1 9 6 5 . O r i g i n a l l y p u b l i s h e d i n P r o c e e d i n g s o f t h e L o n d o n M a t h e m a t i c a l S o c i e t y , s e r . 2 , v o l . 4 2 ( 1 9 3 6 - 7 ) , p p . 2 3 0 - 2 6 5 ; c o r r e c t i o n s I b i d , v o l . 4 3 ( 1 9 3 7 ) , p p . 5 4 4 - 5 4 6 . - - - - - - . 1 9 5 0 . C o m p u t i n g m a c h i n e r y a n d i n t e l l i g e n c e . M i n d L I X : 4 3 3 - 4 6 0 . 3 8 3 - - - - - - . 1 9 6 9 . I n t e l l i g e n t m a c h i n e r y . M a c h i n e i n t e l l i g e n c e 5 ( 1 9 6 9 ) : 3 - 2 3 . e d . B . M e l t z e r a n d D . M i c h i e . W a t s o n , J o h n B . 1 9 1 3 . P s y c h o l o g y a s t h e b e h a v i o r i s t v i e w s i t . I n B a s i c w r i t i n g s i n t h e h i s t o r y o f p s y c h o l o g y , e d . R . I . W a t s o n S r . , 2 7 2 - 2 8 1 . N e w Y o r k : O x f o r d U n i v e r s i t y P r e s s , 1 9 7 9 . O r i g i n a l l y p u b l i s h e d i n P s y c h o l o g i c a l R e v i e w , v o l . 2 0 , p p . 1 5 8 - 1 7 7 . W a t s o n . J o h n B . 1 9 2 4 . B e h a v i o r i s m . N e w Y o r k : N o r t o n a n d C o m p a n y , 1 9 7 0 . W e l c k , K . E . 1 9 6 6 . T a s k a c c e p t a n c e d i l e m m a s : A s i t e f o r r e s e a r c h o n c o g n i t i o n . I n C o g n i t i v e c o n s i s t e n c y . e d . S . F e l d m a n . N e w Y o r k : A c a d e m i c P r e s s . W e i n b e r g . G e r a l d M . 1 9 6 7 . C o m p u t i n g m a c h i n e s . I n E n c y c l o p e d i a o f p h i l o s o p h y , e d . P a u l E d w a r d s , 1 6 8 - 1 7 3 . N e w Y o r k : M a c M I l l a n . W e i n r e i c h , U . 1 9 6 6 . E x p l o r a t i o n s I n s e m a n t i c t h e o r y . I n C u r r e n t t r e n d s i n l i n g u i s t i c s , v o l . 3 . e d . T . A . S e b e o k . 3 9 5 - 4 7 7 . W e i s k r a n t z , L . 1 9 8 6 . B i l n d s i g h t : A c a s e s t u d y a n d i m p l i c a t i o n s . O x f o r d : C l a r e n d o n . W e i s s , T h o m a s . 1 9 9 0 . C l o s i n g t h e C h i n e s e r o o m . R a t i o ( N e w S e r i e s ) I I I ( 2 ) : 1 6 5 - 1 8 1 . W e i z e n b a u m . J o s e p h . 1 9 6 5 . E l i z a - - a c o m p u t e r p r o g r a m f o r t h e s t u d y o f n a t u r a l l a n g u a g e c o m m u n i c a t i o n b e t w e e n m a n a n d m a c h i n e . C o m m u n i c a t i o n s o f t h e A s s o c i a t i o n f o r C o m p u t i n g M a c h i n e r y 9 : 3 6 - 4 5 . - - - - - - . 1 9 7 6 . C o m p u t e r p o w e r a n d h u m a n r e a s o n . S a n F r a n c i s c o : W . H . F r e e m a n . W e y d t , H . 1 9 7 3 . O n G . L a k o f f , ‘ l n s t r u m e n t a l a d v e r b s a n d t h e c o n c e p t o f d e e p s t r u c t u r e ’ . F o u n d a t i o n s o f L a n g u a g e 1 0 ( 4 ) : 5 6 9 - 5 7 8 . W i l k s , Y o r i c k . 1 9 8 2 . S e a r i e ’ s s t r a w m a n . B e h a v i o r a l a n d B r a i n S c i e n c e s 5 ( 2 ) : 3 4 4 - 3 4 5 . W i n o g r a d , T e r r y . 1 9 7 3 . A p r o c e d u r a l m o d e l o f l a n g u a g e u n d e r s t a n d i n g . I n C o m p u t e r m o d e l s o f t h o u g h t a n d l a n g u a g e , e d . R . S c h a n k a n d K . C o l b y . S a n F r a n c i s c o : W . H . F r e e m a n . W i t t g e n s t e i n , L u d w i g . 1 9 5 8 . P h i l o s o p h i c a l i n v e s t i g a t i o n s . T r a n s . G . E . M . A n s c o m b e . O x f o r d : B a s i l B l a c k w e l l . Z w i c k y , A r n o l d M . , a n d J e r r o l d M . S a d o c k . 1 9 7 5 . A m b i g u i t y t e s t s a n d h o w t o f a i l t h e m . I n S y n t a x a n d s e m a n t i c s . e d . J o h n K i m b a l l , 1 - 3 6 . N e w Y o r k : A c a d e m i c P r e s s .