CLP(BN): Constraint Logic Programming with Bayes Net Constraints

CLP(BN): Constraint Logic Programming with Bayes Net

Constraints

Rodrigo Cunha Cin-UFPE

11/08/2003 Rodrigo Cunha – Cin / UFPE 2

Roteiro

Introdução Contexto BN (Bayesian Networks) PRM (Probabilistic Relational Models) CLP(BN) Exemplo de CLP(BN) Avaliação (Evaluation) Aula Prática Referências Bibliográficas


O que é CLP(BN)?

Extensão de Prolog que considera probabilidades bayesianas sobre termos lógicos como restrições na maneira de CLP.

Restrições de natureza diferente de CLP(FD), CLP(R):

epistemológica no lugar de ontológica não sobre domínio modelado mas sobre crenças do

agente sobre domínio Segue esquema geral CLP:

máquina de inferência inter-laça unificação de termos lógicos com resolução de restrições

resolvedor de restrições implementa algoritmos herdados de redes bayesianas (marginalização, simulação estocástica, ..)


Contexto

{0,1} {0 ,1/2 ,1} [0..1]

Lógica Proposicion

al

BD Relacional

PRM

BD Dedutivo

Prolog CLP(BN)

Lógica 1ª Ordem

Epistemológico

On

toló

gic

o

Redes Bayesianas

Variáveis Universalmente Quantificadas

Recursão

Símbolo de Funções

Negação Explícita e Disjunção


CLP(BN)

CLP(BN): Estritamente mais expressivo que Probabilistic

Relational Model (PRM) Autoriza recursão

PRM: redes bayesianas da 1a ordem arcos com CPT não ligam mais proposições, mas

tabelas relacionais cujos elementos são descritos em jargão orientado a objetos

resultado da instanciação de PRM via unificação de variáveis: rede Bayesiana


Revisão de PRM

Constantes, nomeando objetos de classes Ex: ProfSmith pertence a classe Professor, Jones

pertence a classe Estudante, Bloggs pertence a classe Estudante

Funções Simples: classes -> imagem finita Ex: Inteligencia(Jones) = {alta, baixa},

Famoso(ProfSmith) = {true, false} Funções Complexas: de classes em classes

Ex: Orientador(Jones) = ProfSmith Informação probabilística: especificar pais para as

funções simples x, x Estudante Parents(Sucesso(x)) =

{Inteligencia(x), Famoso(Orientador(x))} x, x Estudante P(Sucesso(x) = true|

Inteligencia(x) = alta, Famoso(Orientador(x)) = true) = 0.95


Revisão de PRM

Professor

Student

Fame

Funding

Inteligence

Success

Advisor

Fame(ProfSmith)

Funding(ProfSmith)

Intelligence(Bloggs)

Success(Bloggs)

Intelligence(Jones)

Success(Jones)


Jargões relacionais e OO

Tradução (E-R para UML):

Databases Relational Logic

Table Class

Tuple Object

Standard Field Descriptive Attribute

Foreign Key Field Reference Slot


H

B A

Restrição (parte probabilística)

Conjunção de literaisCabeça da cláusula.

Cláusula:

Programa CLP(BN)


C / B

Estrutura Ontológica Lógica

Restrição Epistemológica Probabilística

reg_grade (K, Grade) :- reg_course (K,C), reg_student (K,S), course_diff (C,D), student_intell (S,I).

D I

Grade

Programa CLP(BN)


CPT de uma cláusula: equivalente a uma redes bayesianas, onde cada nó é uma variável aleatória

D I

Grade

Variável

Influência causal direta

Programa CLP(BN)


Exemplo: CLP(BN) x PRM

Student

Intelligence

Ranking

Course

Rating

Difficulty

Professor

Popularity

Teaching-Ability

Registration

Grade

Satisfaction

M

M

M M

1

1

AVG

AVG


Key Popularity Ability

SueDavid

hl

hl

Key Professor

Rating

Difficulty

cs1cs2

SueDavid

hh

hl

Key Intelligence

Rank

SamTerry

mh

mh

Key Course

Student

Satis-faction

Grade

r1r2r3

cs1cs2cs1

SamSamTerry

hlh

acb

Professor Course

StudentRegistration

Expressar BD de PRM como fatos CLP(BN)


Representar PRM com CLP(BN)

Como converter BD relacional em programa lógico?

2 opções: Um predicado para cada tabela relacional

usual, BD dedutivas Um predicado binário para cada campo não

chave CLP(BN)

Para cada campo do BD: regra lógica que representa os seus pais, e a distribuição de probabilidade condicional.


Key Popularity

SueDavid

hl

Key Professor

cs1cs2

SueDavid

Key Rank

SamTerry

mh

Key Grade

r1r2r3

acb

Professor

Course

Student

Registration


Key Ability

SueDavid

hl

Key Intelligence

SamTerry

mh

Key Course

r1r2r3

cs1cs2cs1

Key

Student

r1r2r3

SamSamTerry

Key

Satis-faction

r1r2r3

hlh

Key Rating

cs1cs2

hh

Key Difficulty

cs1cs2

hl


prof_pop(sue,h). prof_abil(sue,h).prof_pop(david,l). prof_abil(david,l).

course_prof(cs1,sue). course_rate(cs1,h). course_diff(cs1,h). course_prof(cs2,david). course_rate(cs2,h). course_diff(cs2,l).

student_intell(sam,m). student_rank(sam,m). student_intell(terry,h). student_rank(terry,h).

reg_course(r1,cs1). reg_student(r1,sam). reg_sat(r1,h).reg_course(r2,cs2). reg_student(r2,sam). reg_sat(r2,l).reg_course(r3,cs1). reg_student(r3,terry). reg_sat(r3,h).

reg_grade(r1,a).reg_grade(r2,c).reg_grade(r3,b).



Expressar CPT de PRM como regras CLP(BN)

O Corpo de cada regra CLP(BN) é construído em três estágios:

Estágio Relacional

Estágio de Agregação

Estágio CPT


Estágio Relacional

Regras com variáveis compartilhadas representam uma seqüência de chave estrangeira

Cada passo gera um termo do tipo: ri(X,Y), onde: X representa a chave primária de R Y representa o i-ésimo campo da relação R.



Student

Intelligence

Ranking

Course

Rating

Difficulty

Professor

Popularity

Teaching-Ability

Registration

Grade

Satisfaction

M

M

M M

1

1

AVG

AVG

reg(Key, Student)reg(Key,Course)course(Key,Professor)


Key Popularity Ability

SueDavid

hl

hl

Key Professor Rating Difficulty

cs1cs2

SueDavid

hh

hl

Key Intelligence Rank

SamTerry

lh

mh

Key Course Student

Satis-faction

Grade

r1r2r3

cs1cs2cs1

SamSamTerry

hlh

acb

Professor Course

StudentRegistration

Exemplo:

reg(Key, Student)reg(Key,Course)course(Key,Professor)


Estágio de Agregação

Este estágio é para variáveis que tem múltiplas ligações.

Podemos ter todas as ligações de Rating através do predicado built-in findall.

Por exemplo:

course_rating (K, Rating) :-findall (Sats, (reg_course(R,K) , (reg_sat(R,Stats))),

avg(Sats, AvS).


Estágio CPT


Estágio CPT

reg_grade(K, Grade) :

reg_course(K,C), reg_student(K,S), course_diff (C,D), student_intell (S,I).

{Grade = grade(K) with p(

[a,b,c],[ 0.5, 0.1, 0.8, 0.3

0.4, 0.5, 0.1, 0.6,

0.1, 0.4, 0.1, 0.1] , [D,I])}.

Neste caso D e I só podem assumir dois valores.


Professor Clauses

prof_pop (K, P):- prof_abil (K,A), P = { pop(K) with p([h,m,l] , ( [0.9, 0.2,

0.1, 0.6, 0.0, 0.2, [A])

prof_abil (K, A) :- {A = abil(K) with p( [h,l],

[ 0.7,0.3] }. A

P

A



Student

Intelligence

Ranking

Course

Rating

Difficulty

Professor

Popularity

Teaching-Ability

Registration

Grade

Satisfaction

M

M

M M

1

1

AVG

AVG


Registration Clauses

reg_grade(K, Grade) : reg_course(K,C),

reg_student(K,S), course_diff (C,D), student_intell (S,I),

{Grade = grade(K) with p(

[a,b,c],[ 0.5, 0.1, 0.8, 0.3 0.4, 0.5,

0.1, 0.6, 0.1, 0.4, 0.1,

0.1] , [D,I])}.

D I

Grade


Course Clauses

course_rating (K, Rating) :- findall (Sats, (reg_course(R,K) , (reg_sat(R,S))),

Rating = { rating(K) with p([h,l] , ( [0.9, 0.2, 0.1, 0.8] , avg(Sats, AvS))AvS

Rating


Avaliação (Evaluation) Uma consulta em CLP(BN)

uma consulta Prolog, conjunção de literais positivos.

Uma ou mais provas construídas através de resolução cada passo de resolução termos de

diferentes cláusulas devem ser unificados. Construir uma grande rede bayesiana

todos as pequenas redes de bayes que foram unificadas durante a fase de resolução.

reg_grade (K, Grade):- reg_course (K,C), reg_student (K,S), course_diff (C,D), student_intell (S,I).

D I

Grade

reg_sat (K, S):-

reg_course (K,C),

course_prof (C,P),prof_abil (P,A),reg_grade (K,Grade’).

A Grade’

S

reg_sat (K, S):-

reg_course (K,C),

course_prof (C,P),prof_abil (P,A), reg_course (K,C),

reg_student (K,S), course_diff (C,D), student_intell (S,I).

A

S

D I

Grade


Avaliação(Evaluation):Variable Elimination em Prolog

AuthorInstitution

PaperRatingAuthorRating

JournalRating

PaperCited

PR JR AI AR

ARAIJRPR

ARAIJRPR

AIARAIJRAIPRJRPRPC

JRAIAIARJRAIPRPRPC

ARAIJRPRPCPC

)|P()P(),|P()P()|P(

)P()P()|P(),|P()|P(

),,,,P()P(

,,,

,,,


Consultas

X = david,A = [ 0.8 , 0.2 ] => [ h , l ] ? ;

?- professor_ability(X,A).

X = sue,A = [ 0.7 , 0.3 ] => [ h , l ] ? ;

?- professor_popularity (X , P ) , professor_ability ( X , h ).

X = sue,P = [ 0.9 , 0.1 , 0.0] => [ h , m , l ] ? ?- professor_popularity (david , P ) , professor_ability

( david , h ).P = [ 0.9 , 0.1 , 0.0] => [ h , m , l ] ?


Consultas ?- course_rating ( cs1 , R ).

R = [ 0.6 , 0.4 ] => [ h , l ] ?

?- course_rating ( cs1 , R ), course_professor ( cs1 , P ),

professor_ability (P , h ).P = sue,R = [ 0.7 , 0.3] => [ h , l ] ? ;


Restrições Probabilísticas Apenas restrições de variáveis discretas,

CLP(BN) através de restrições contínuas.(Trabalho Atual).

Distribuições de Probabilidade Contínuas: Distribuição Normal Distribuição Qui-Quadrado Distribuição T-Student Distribuição F


Pergunta?

Dado que temos um PRM, qual a utilidade de usar a representação CLP(BN)?

Incorporar probabilidade na lógica de primeira ordem.

Ajudar a entender melhor o relacionamento entre PRMs e probabilistic logic.

CLP(BN) pode aprender usando ILP Recursão Símbolo de Funções.

CLP(BN)

em

Yap Prolog

Aula de Laboratório


Yap é um sistema desenvolvimento cuja linguagem é Prolog

É multi-plataforma Código-fonte aberto e em desenvolvimento Contém diversas extensões prolog como

por exemplo: DEC-10 Prolog, Quintus Prolog e C-Prolog.

Autores: Vítor Santos Costa,Luís Damas,Rogério Reis e Ruben Azevedo (Universidade do Porto).

Site: http://www.ncc.up.pt/~vsc/Yap/

Yap


Possui alguns pacotes:

CHR package CLP(Q,R) package Logtalk Object-Oriented system Pillow WEB library CLP(BN)

Quando compilar o Yap digitarconfigure --enable-coroutining --enable-depth-limit

Yap


Executar Conectar-se via ssh a buique.cin.ufpe.br Mudar para o diretório onde estão os

arquivos .yap Executar Yap no prompt Unix.

yap

Carregar Arquivo File_name. Digitar [FILE_NAME_1, ...,FILE_NAME_N]. para

carregar N arquivos no ambiente Yap; ou consult(FILE_NAME).

ou reconsult(FILE_NAME).

Yap


CLP(BN) no Yap

CLP(BN) é um pacote da mais nova versão do YAP.

Código-fonte aberto e em desenvolvimento

Autores: Vítor Santos Costa, David Page e James Cussens.

Site: www.cos.ufrj.br/~vitor/Yap/clpbn/


Se tudo estiver certo ... Baixar e descompactar clpbn.tar.gz no

diretório $PATH/x/CLPBN Baixar e descompactar o exemplo

school.tar.gz e vai ficar com $PATH/x/school_example

faça cd para $PATH/x/school_example agora chame o yap > yap use_module('../CLPBN/clpbn'). ['school.yap'].

CLP(BN) no Yap


professor_key(X).X = p0 ?yes ?- professor_ability(X,A).X = p0,A=[0.5,0.4,0.1]=>[h,m,l] ? ;X = p1,A=[0.8,0.15,0.05]=>[h,m,l] ? ;X = p2,A=[0.2,0.6,0.2]=>[h,m,l] ? ;X = p3,A=[0.6,0.3,0.1]=>[h,m,l] ? ;

CLP(BN) no Yap


?- professor_popularity(X,A).X = p0,A=[0.53,0.3,0.17]=>[h,m,l] ? ;X = p1,A=[0.75,0.175,0.075]=>[h,m,l] ? ;X = p2,A=[0.3,0.4,0.3]=>[h,m,l] ? ;X = p3,A=[0.6,0.25,0.15]=>[h,m,l] ? ;no

CLP(BN) no Yap


CLP(BN) no YAP

?- professor_popularity(X,A), professor_ability(X,h).X = p0,A=[0.9,0.1,0.0]=>[h,m,l] ? ;X = p1,A=[0.9,0.1,0.0]=>[h,m,l] ? ;X = p2,A=[0.9,0.1,0.0]=>[h,m,l] ? ;X = p3,A=[0.9,0.1,0.0]=>[h,m,l] ? ;


CLP(BN) no YAP

?- professor_ability(X,A), professor_popularity(X,h).X = p0,A=[0.849056603773585,0.150943396226415,0.0]=>[h,m,

l] ? ;X = p1,A=[0.96,0.04,0.0]=>[h,m,l] ? ;X = p2,A=[0.6,0.4,0.0]=>[h,m,l] ? ;X = p3,A=[0.9,0.1,0.0]=>[h,m,l] ? ;no


CLP(BN) no YAP

?- course_rating(c0,X).X=[0.595526873437529,0.352055580547983,0.05241754

60144877]=>[h,m,l] ?yes ?- course_rating(c0,X),course_professor(c0,P),

professor_ability(P,h).P = p0,X=[0.873,0.125,0.002]=>[h,m,l] ?yes


Referência Bibliográfica

Friedman, N., Getoor, L., Koller, D., and Pfeffer, A. (1999) Learning Probabilistic Relational Models. In Relational Data Mining, Dzeroski and Lavrac, Editors, Springer-Verlag, 2001.

Costa, V., Page, D., Cussens, J. (2001) LCLP(BN): Constraint Logic Programming for Probabilistic Knowledgr.

http://dags.stanford.edu/PRMs/ http://www.cs.berkeley.edu/~pasula/fopl/ Muitos e-mails para Costa [email protected]

Documents

CLP(BN): Constraint Logic Programming with Bayes Net Constraints