39
Recomendação de Conteúdo Baseada em Interações Multimodais ORIENTADOR: PROFESSOR DR. MARCELO G. MANZATO ARTHUR FORTES DA COSTA

Recomendação Baseada em Múltiplas Interações

Embed Size (px)

Citation preview

Page 1: Recomendação Baseada em Múltiplas Interações

Recomendação de Conteúdo Baseada em Interações Multimodais

ORIENTADOR: PROFESSOR DR. MARCELO G. MANZATO

ARTHUR FORTES DA COSTA

Page 2: Recomendação Baseada em Múltiplas Interações

Sumário

• Introdução

• Referencial Teórico

• Proposta

• Experimentos e Resultados

• Considerações Finais

• Contribuições

• Trabalhos Futuros

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP

Page 3: Recomendação Baseada em Múltiplas Interações

Introdução

• A informação está disponível de maneira rápida, barata e disseminada

• Sistemas de Recomendação oferecem recomendações personalizadas baseada no perfil do usuário

• Os mecanismos de recomendação tradicionais utilizam:• Interações Implícitas

• Interações Explícitas

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 3

Page 4: Recomendação Baseada em Múltiplas Interações

Introdução

Motivação: problemas e tendências relacionadas com as interações dos usuários

• Tendência da Web de permitir múltiplas interações dos usuários

• Os trabalhos presentes na literatura se restringem a um número limitado de interações• Exemplo: SVD ++ (Notas e histórico de visualização)

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 4

Page 5: Recomendação Baseada em Múltiplas Interações

Introdução

Objetivo: desenvolvimento de um framework de recomendação baseado em interações multimodais

• Fornecer recomendações mais precisas

• Combinar diversos tipos de interações (pré processadas)

• Manter a escalabilidade do sistema

Figura 1. Interações de usuários

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 5

Page 6: Recomendação Baseada em Múltiplas Interações

Referencial TeóricoInterações Multimodais

* Teve diversas extensões, como o gSVD++, proposto por Manzato (2013).

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 6

Autor(es) Ano Trabalho

Koren 2009 SVD++ (Notas e Histórico de visualização) *

Rendle et al. 2012 Factorization Machines – FM (Combina informações de usuários e itens)

Domingues et al. 2013 SR para o Last.fm (Histórico de visualização e etiquetas)

Page 7: Recomendação Baseada em Múltiplas Interações

Referencial TeóricoCombinação (Ensemble)

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 7

Autor(es) Ano Trabalho

Jahrer et. al. 2010 Conjunto de técnicas de ensemble aplicadas à SR

Bar et al. 2013 Combinação de ranques (aprendizagem linear)

Petar el al. 2014 Combinação de ranques gerados por diversosrecomendadores

Page 8: Recomendação Baseada em Múltiplas Interações

Referencial TeóricoRecomendadores Unimodais

•Utilizam um único ou um simples conjunto de tipos de interação para gerar recomendação:• Predição de Notas

• Recomendação de itens

• Recomendadores Unimodais utilizados no framework:• BPR MF (Bayesian Personalized Ranking) > Recomendação de itens

• SVD ++ (Singular Value Decomposition) > Predição de Notas

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 8

Page 9: Recomendação Baseada em Múltiplas Interações

Referencial Teórico• BPR MF

• Consiste em fornecer classificação personalizada de itens para um usuário

• Apenas com interação implícita

• Considera itens positivos e negativos

Figura 2. Representação do algoritmo BPR MF.

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 9

Page 10: Recomendação Baseada em Múltiplas Interações

Referencial Teórico• Aprendizado no BPR

Algoritmo 1. Algoritmo de aprendizado do BPR.

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 10

Page 11: Recomendação Baseada em Múltiplas Interações

Referencial Teórico• SVD ++

• Utiliza tanto interação explícita, quanto a interação implícita do usuário

• Considera notas atribuídas por usuários e simula histórico de visualização

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 11

Onde N(u) é o conjunto de interações implícitas

Page 12: Recomendação Baseada em Múltiplas Interações

Proposta

• Desenvolvimento de um framework capaz de gerar recomendações com base nas interações multimodais do usuário (Explícitas e Implícitas)

• Composto por 4 técnicas de combinação:• Baseadas em Heurísticas (Etiquetas e Médias)

• Baseada em Aprendizado

• Baseada em Grupos

• Módulos de validação e avaliação:• Protocolo All-but-one

• Prec@N e MAP@N

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 12

Page 13: Recomendação Baseada em Múltiplas Interações

Proposta

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 13

Figura 3. Representação do Framework.

Exemplo de saída :

Usuário Item Score1 5 3.3242

Re

com

en

dad

ores

Page 14: Recomendação Baseada em Múltiplas Interações

Proposta

• Técnica Baseada em Etiquetas

• Pondera quantidade de vezes que o item é retornado no ranques

• Atribui maior peso à interação do ranque de etiquetas

• Etiquetas demanda um maior esforço por parte do usuário

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 14

Page 15: Recomendação Baseada em Múltiplas Interações

Proposta

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 15

Figura 4. Ilustração da execução da técnica baseada em etiquetas.

• Técnica Baseada em Etiquetas

Page 16: Recomendação Baseada em Múltiplas Interações

Proposta

• Técnica Baseada em Médias

• Combina os resultados dependente da media de escores de cada interação

• Generalização para qualquer tipo de interação

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 16

Page 17: Recomendação Baseada em Múltiplas Interações

Proposta

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 17

Algoritmo 2. Algoritmo da técnica baseada em médias.

Page 18: Recomendação Baseada em Múltiplas Interações

Proposta

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 18

Algoritmo 2. Algoritmo da técnica baseada em médias.

Page 19: Recomendação Baseada em Múltiplas Interações

Proposta

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 19

Algoritmo 2. Algoritmo da técnica baseada em médias.

Page 20: Recomendação Baseada em Múltiplas Interações

Proposta• Técnica Baseada em Aprendizado

• Técnica na qual os parâmetros são aprendidos com base no comportamento de cada usuário

• Extensão do algoritmo de aprendizado do BPR

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 20

Page 21: Recomendação Baseada em Múltiplas Interações

Proposta• Técnica Baseada em Aprendizado

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 21

Figura 5. Representação da Técnica Baseada em Aprendizado.

Re

com

en

dad

ores

Page 22: Recomendação Baseada em Múltiplas Interações

Proposta

• Técnica Baseada em Grupos

• Etapa de pré-processamento para combinar usuários em grupos de acordo com suas similaridades

• Recomendação feita somente com os itens avaliados por cada grupo

• Utiliza técnicas de agrupamento de dados e cálculos de distâncias

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 22

Page 23: Recomendação Baseada em Múltiplas Interações

Proposta• Técnica Baseada em Grupos

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 23

Figura 6. Representação da Técnica Baseada em Grupos.

Page 24: Recomendação Baseada em Múltiplas Interações

Experimentos e Resultados• Realização de dois estudos em duas bases diferentes• Aplicação em em bases de dados real

• Verificar eficácia do framework

• Métricas de Avaliação: Map@N e Prec@N• Com validação cruzada em 10 folds

• Protocolo All-but-one

• Biblioteca de recomendação: MyMediaLite 3.10

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 24

Page 25: Recomendação Baseada em Múltiplas Interações

Experimentos e Resultados

• Estudo 1: HetRec Last FM 2k

92.834 interações no histórico/ 186.479 etiquetas atribuídas/ 1.892 usuários/ 17.632 artistas

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 25

Figura 7. Representação da base considerando todas as interações.

Page 26: Recomendação Baseada em Múltiplas Interações

Experimentos and ResultadosFigura 8. Gráfico MAP@N Para o Estudo 1.

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 26

Page 27: Recomendação Baseada em Múltiplas Interações

Experimentos and ResultadosFigura 9. Gráfico Prec@NPara o Estudo 1.

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 27

Page 28: Recomendação Baseada em Múltiplas Interações

Experimentos e Resultados

• Estudo 2: HetRec Movielens 2k

800.000 interações de notas/ 10.000 etiquetas atribuídas/ 2.113 usuários/ 10.197 filmes

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 28

Figura 10. Representação da base considerando todas as interações.

Page 29: Recomendação Baseada em Múltiplas Interações

Experimentos and ResultadosFigura 11. Gráfico MAP@N Para o Estudo 2.

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 29

Page 30: Recomendação Baseada em Múltiplas Interações

Experimentos and ResultadosFigura 12. Gráfico Prec@NPara o Estudo 2.

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 30

Page 31: Recomendação Baseada em Múltiplas Interações

Considerações Finais

• Melhores resultados que os baselines

• Framework extensível e aplicavél em diversos domínios

• Resultados com valores baixos devido ao uso do Protocolo All-but-one

31RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP

Page 32: Recomendação Baseada em Múltiplas Interações

Contribuições• Um framework de recomendação baseado em interações multimodais• Módulo de divisão de base

• Módulo de recomendação (4 técnicas)

• Módulo de validação e avaliação

• Integração mais rápida de novos usuários na comunidade

• Avanço no estado da arte de sistemas de recomendação

• Publicação dos resultados em conferências

32RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP

Page 33: Recomendação Baseada em Múltiplas Interações

Contribuições• Fortes, C. A.; Manzato, Marcelo G; Domingues, Marcos A.; Rezende, Solange O. Improving Personalized Ranking in Recommender Systems with Multimodal Interactions. Web Intelligence (WI) and Intelligent Agent Technologies (IAT), 2014 IEEE/WIC/ACM International Joint Conferences on, v. 1, p. 198-204, 2014. Qualis A2

• Fortes, C. A.; Manzato, Marcelo G. Multimodal Interactions in Recommender Systems: AnEnsembling Approach. In: Brazilian Conference on Intelligent Systems, 2014, São Carlos, São Paulo. Brazilian Conference on Intelligent Systems (BRACIS 14). Los Alamitos: IEEE, 2014. QualisB1

• Fortes, C. A.; Manzato, Marcelo G. Ensemble Learning in Recommender Systems: CombiningMultiple User Interactions for Ranking Personalization. In: XX Simpósio Brasileiro de Sistemas Multimídia e Web (Webmedia), 2014, João Pessoa - PB. Anais do XX Simpósio Brasileiro de Sistemas Multimídia e Web. New York: ACM, 2014. Qualis B3

33RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP

Page 34: Recomendação Baseada em Múltiplas Interações

Trabalhos Futuros• Artigo: Group-based Collaborative Filtering with Multiple Users' Interactions

• Integração das abordagens baseada em grupos e em aprendizagem, afim de considerar todos os tipos de interações individualmente

• Desenvolver e aprimorar técnicas utilizando abordagens de agrupamento de dados

• Uso de informações de contexto dos itens para gerar recomendações ainda mais precisas

• Desenvolver novas métricas de avaliação para SR utilizando a semântica dos dados

34RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP

Page 35: Recomendação Baseada em Múltiplas Interações

Recomendação de Conteúdo Baseada em Interações Multimodais

ORIENTADOR: PROFESSOR DR. MARCELO G. MANZATO

ARTHUR FORTES DA COSTA

Page 36: Recomendação Baseada em Múltiplas Interações

Referências Adomavicius; G., Mobasher, B.; Ricci, F.; Tuzhilin, A. Context-aware recommender

systems. AI Magazine, p. 67 - 80, 2011.

Ricci, F.; Rokach, L.; Shapira, B. Introduction to recommender systems handbook. In:

Recommender Systems Handbook, p. 1--35, 2011.

Fortes, A.; Manzato, M. Ensemble learning in recommender systems: Combining multiple

user interactions for ranking personalization. XX Simposio Brasileiro de Sistemas

Multimdia e Web - Webmedia 2014, p. 47-54, 2014a.

36RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP

Page 37: Recomendação Baseada em Múltiplas Interações

Apêndice ADesvio padrão Estudo 1

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 37

Page 38: Recomendação Baseada em Múltiplas Interações

Apêndice BDesvio padrão Estudo 2

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 38

Page 39: Recomendação Baseada em Múltiplas Interações

Apêndice CLinks

SlideShare: http://pt.slideshare.net/fortesarthur

Github: https://github.com/ArthurFortes

RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 39