Embed Size (px)
Citation preview
Statistical analysis of gene expression data
Alex SánchezUnitat d'Estadística i Bioinformàtica (VHIR)
Statistics Department (UB)
Outline
• Basic principles of experimental design• The microarray data analysis process
Basic principles of Experimental Design
Research
• Researcher’s first goal: understand a process, (to understand, control, modify, reproduce … it)
• To reach this goal researchers perform studies.• Experiments are a central part of many studies.
What characterizes an experiment?
1. The treatments to be used
2. The experimental units to be used
3. The way that treatments levels are assigned to experimental units (or visa-versa): The Experimental Design
4. The responses that are measured
How can we obtain a good experimental design?
• Try to apply some good, general, relatively overlapping rules1. Rely on an Experimental Design checklist2. Follow a good Experimental Design Process3. Rely on basic principles of Experimental Design
Randomization, replication, local control
• But also• Plan design and analysis at the same time• Involve your favourite statistician from the beginning
(or before)
What characterizes a good experimental design?
• It avoids systematic error – systematic error leads to bias when estimating differences in responses between (i.e., comparing) treatments
• It allows for precise estimation – achieves a relatively small random error,
• It has broad validity • the experimental units are a sample of the
population study• The conclusions obtained on the sample can be
extrapolated to the population.
To obtain a good experimental design (1) Plan the experiments (Checklist)
1. Define the objectives of the experiment2. Identify all potential sources of variation3. Select an appropriate Experimental Design. 4. Specify the experimental process5. Conduct a pilot study6. Specify the hypothesized model7. Outline the analyses to be conducted 8. Estimate the required sample size using results
from the pilot study9. Review your decisions in Steps 1 – 8 and make
necessary revisions
To obtain a good experimental design (2): Follow the experimental design process
To obtain a good experimental design (3)Follow Experimental Design Principles
The basic principles of Experimental Design
• Good experimental designs share common traits.
• Apart of wishful thinking there is general agreement that relying on experimental design principles yields good (if not best) experimental designs.
• These are• Randomization• Replication• Blocking or Local control
1. Randomization
• Randomly assigning samples to groups to eliminate unspecific disturbances– Randomly assign individuals to treatments.– Randomize order in which experiments are performed.
• Randomization required to – Ensure validity of statistical procedures.– Ensure that no preferential allocation of treatment to
experimental units is made• E.g: Assign strongest treatment to patients in worse health state
– Ensure that the efects of confounding variables are minimized
• Eg: Assign tretament to patients older than controls
Randomization software
• Saying “randomly assign…” is sometimes easier to say than to do, especially in complex designs.
• Some tools may help– R, of course– Research Randomizer
http://www.randomizer.org/– Interactive Statistical Calculation pages
http://statpages.org/ (look por “Experimental design”)
2. Replication
• There is general agreement about the need to apply each treatment independently to several experimental units.• Helps to establish reproducibility of results.
• Protects against eventual abnormal/unusual results.
• Provides a way to estimate the error variance in the absence of systematic differences among experimental units. (This is important because treatment differences are judged against this variance estimate.)
• Provides the capacity to increase the precision for estimates of treatment means.
• By itself, does not guarantee valid estimates of experimental error or treatment differences.
Replication precision and power
• The number of replications r is directly related to the precision of the experiment
1/var(mean) = r/ σ2 (*)
• An efficient design has greater power to detect differences between treatment effects.
• From (*) it follows that– the greater r– the smaller σ2
the greater the power attained by a design.
How many replications?
• Formulae for computing sample size given:– effect size, – significance level (P Error type I)– power (1-P error type II)
can be derived for most common analyses.
• While the derivation is rough, the application – is straightforward, especially if using calculators– attention must be paid to application conditions.
Sample size calculators
• R: package power– http://www.statmethods.net/stats/power.html
• Statistical calculators– http://hedwig.mgh.harvard.edu/sample_size/size.html
– http://www.stat.uiowa.edu/~rlenth/Power/
• Interactive Statistical Calculation pages http://statpages.org(look for “Power and Sample Size”)
Biological vs Technical Replicates
@ Nature reviews & G. Churchill (2002)
2Bσ
2Aσ
2eσ
3. Blocking
• Assume we wish to perform an experiment to compare two treatments.
• The samples or their processing may not be homogeneous: There are blocks • Subjects: Male/Female• Arrays produced in two lots (February, March)
• If there are systematic differences between blocks the effects of interest (e.g. tretament) may be confounded• Observed differences are attributable to treatment effect or
to confounding factors?• Local control or blocking is the way to minimize the
effect of existing (unavoidable?) blocks.
Local Control
• Group EUs so that the variability of units within the groups is less than that among all units prior to grouping – Differences among treatments are not confused with
differences among experimental units. – EE is reduced by the variability associated with
environmental differences among groups of units.– Effects of nuisance factors which contribute
systematic variation to the differences among EUs can be eliminated.
– Analysis is more sensitive.
Confounding block with treatment effects
Awful design Balanced designSample Treatment Sex Batch Sample Treatment Sex Batch
1 A Male 1 1 A Male 12 A Male 1 2 A Female 23 A Male 1 3 A Male 24 A Male 1 4 A Female 15 B Female 2 5 B Male 16 B Female 2 6 B Female 27 B Female 2 7 B Male 28 B Female 2 8 B Female 1
• Two alternative designs to investigate treatment effects– Left: Treatment effects confounded with Sex and Batch effect– Right: Treatments are balanced between blocks
• Influence of blocks is automatically compensated• Statistical analysis may separate block from treatment efefect
Allocating samples to treatments
• A key point in any experiment is the way that experimental units are allocated to treatments– It must be chosen so that random variability is as
small as possible
– It must be chosen so that the best local control is achieved.
– It implicitly defines the analysis model, so it must be chosen so that the analysis can be performed and validity conditions hold.
In summary
• Good experimental design is essential to perform good experiments.
• Experimental design means planning ahead– Should be done before the experiment starts– Should consider all the steps: from sampling
to data analysis.
To consult the statistician after an experiment is finished is often merely to ask him to conduct a post mortem examination. He can perhaps say what the experiment died of.
Father of modern Mathematical Statistics and Developer of Experimental Design and ANOVA
Sir Ronald A. Fisher
And Fisher said…
Introduction to microarray data analysis
Esquema de la presentación
Introducción y objetivosAnálisis de datos de microarrays
Tipos de datos y Tipos de estudios. Herramientas. El proceso de análisis. Ejemplos
Críticas, consensos, consejos y “estado del arte” Críticas a los microarrays Consensos y consejos (“dos and don’ts”) MAQC-I, MAQC-II
De los microarrays al diagnóstico ¿Porque está siempre por llegar?
Para aprender más …
http://www.ub.es/stat/docencia/bioinformatica/microarrays/ADM/
Tipos de estudios
(1): Class comparison
(2): Class discovery
(3): Class prediction
Y muchos más …
Time Course Perfiles de expresión a lo largo del tiempo
Pathway Analysis-(Systems Biology) Reconstrucción de redes metabólicas a
partir de datos de expressión
Whole Genome, CGH, Alternative Splicing
Estudios con datos de distintos tipos Fusión o Integración de datos
Herramientas para el análisis
Programas de análisis de datos
Multitud de herramientas Gratuítas / Comerciales [R, BRB, MeV, dChip…] / [Partek, GeneSpring, Ingenuity] Descargables / En-linea [R, BRB, MeV…] / [Babelomics,…] Aísladas / Parte de “suites” o de sitios [BRB, dChip] / [MeV (TM4), OntoTools]
Review: Tools for managing and analyzing microarray data http://bib.oxfordjournals.org/content/13/1/46.abstra
ct?keytype=ref&ijkey=g74sTv2xGt5kOpU
El proceso de análisis
Análisis de un experimento con microarrays
(1) Imágenes(Datos crudos)
(2) C. de calidad(bajo nivel)
(3) Preprocesado
(4) Exploración de la Matriz de Expresión
(5) Análisis
(6) Significación Biológica
(0) Diseño experimental
• Variabilidad– Sistemática
• Calibrar/Normalizar
– Aleatoria• Diseño Experimental• Inferencia
• Decidir acerca de– Réplicas, – Lotes (“Batch effect”)– Pools …
Awful design :-( Balanced design :-)Sample Treatment Sex Batch Sample Treatment Sex
1 A Male 1 1 A Male2 A Male 1 2 A Female3 A Male 1 3 A Male4 A Male 1 4 A Female5 B Female 2 5 B Male6 B Female 2 6 B Female7 B Female 2 7 B Male8 B Female 2 8 B Female
(1) Obtención de la imagen
•Entra: Microarrays•Salen:
– Imágenes (1/chip) – Ficheros de imagen
• Información para cada sonda individual
•Datos para el análisis de bajo nivel– Control de calidad– Preprocesado– Sumarización
…
…
1.cel, 1.chp 2.cel, 2.chp
(2) Control de calidad de bajo nivel
• Entra: – Imágenes (.CEL, ...)
• Proceso– Diagnósticos y
Control de calidad– Análisis basado en
modelos (PLM)
• Salen:– Gráficos– Estadísticos de
control de calidad
…
1.cel, 1.chp 2.cel, 2.chp
(3) Preprocesado
• Entra:– Fichero de Imágenes
(datos del escaner)
• Proceso– Eliminación de ruido
– Normalización
– Sumarización
– Filtrado
• Sale:– Matriz de expresión
…
1.cel, 1.chp 2.cel, 2.chp
C01-001.CEL C02-001.CEL C03-001.CEL1415670_at 8.954387 9.088924 8.8338631415671_at 10.700876 10.639307 10.6109531415672_at 10.377266 10.510106 10.4617011415673_at 7.320335 7.252635 7.1123131415674_a_at 8.381129 8.332256 8.3937181415675_at 8.120937 8.082713 8.0515141415676_a_at 10.322229 10.287371 10.2828121415677_at 9.038344 8.979641 8.905711
(4) Exploración
• Entra– Matriz de expresión
• Proceso– PCA, Cluster, MDS– Representaciones en
2D/3D– Agrupaciones
• Sale– Detectado efectos
batch– Verificación calidad
C01-001.CEL C02-001.CEL C03-001.CEL1415670_at 8.954387 9.088924 8.8338631415671_at 10.700876 10.639307 10.6109531415672_at 10.377266 10.510106 10.4617011415673_at 7.320335 7.252635 7.1123131415674_a_at 8.381129 8.332256 8.3937181415675_at 8.120937 8.082713 8.0515141415676_a_at 10.322229 10.287371 10.2828121415677_at 9.038344 8.979641 8.905711
(5) Análisis estadístico (i):Selección de genes diferencialmente expresados
•Entra:– Matriz expresión– Modelo de
análisis
•Proceso– t-tests, ANOVA
• Ajustes de p-valores
• Sale– Listas de genes
• Fold change, p.values
– Gráficos– Perfiles de expresión
C01-001.CEL C02-001.CEL C03-001.CEL1415670_at 8.954387 9.088924 8.8338631415671_at 10.700876 10.639307 10.6109531415672_at 10.377266 10.510106 10.4617011415673_at 7.320335 7.252635 7.1123131415674_a_at 8.381129 8.332256 8.3937181415675_at 8.120937 8.082713 8.0515141415676_a_at 10.322229 10.287371 10.2828121415677_at 9.038344 8.979641 8.905711
ProbeSet gene ID logFC t P.Value adj.P.Val B1450826_a_at Saa3 1450826_a_at 4,911 63,544 6,21E-14 2,80E-10 22,2441457644_s_at Cxcl1 1457644_s_at 4,286 53,015 3,52E-13 7,69E-10 20,7911415904_at Lpl 1415904_at -4,132 -50,455 5,66E-13 7,69E-10 20,3731449450_at Ptges 1449450_at 5,164 49,483 6,82E-13 7,69E-10 20,2071419209_at Cxcl1 1419209_at 5,037 47,175 1,08E-12 9,71E-10 19,7941416576_at Socs3 1416576_at 3,372 42,107 3,19E-12 2,08E-09 18,7841450330_at Il10 1450330_at 4,519 42,056 3,23E-12 2,08E-09 18,7731455899_x_at Socs3 1455899_x_at 3,648 40,821 4,29E-12 2,12E-09 18,5021419681_a_at Prok2 1419681_a_at 3,709 40,645 4,48E-12 2,12E-09 18,4631436555_at Slc7a2 1436555_at 3,724 40,081 5,12E-12 2,12E-09 18,335
(5) Análisis estadístico (ii):Construcción & validación de un predictor
• Entra:– Matriz expresión
• Proceso– Selección variables– Ajuste modelo– Validación
• Sale– Modelos predictivos– Medidas de fiabilidad
/reproducibilidad
(6) Significación biologica
• Entra– Listas de genes
• Proceso– GEA, GSEA, …
• Sale:– Clases GO /
Grupos de GenesPathwaysespecialmente representados
ProbeSet gene ID logFC1450826_a_at Saa3 1450826_a_at 4,9111457644_s_at Cxcl1 1457644_s_at 4,2861415904_at Lpl 1415904_at -4,1321449450_at Ptges 1449450_at 5,1641419209_at Cxcl1 1419209_at 5,0371416576_at Socs3 1416576_at 3,3721450330_at Il10 1450330_at 4,5191455899_x_at Socs3 1455899_x_at 3,6481419681_a_at Prok2 1419681_a_at 3,7091436555_at Slc7a2 1436555_at 3,724
Ejemplo de análisis de datos
Comparación de perfiles de expresión entre tumores BRCA1/BRCA2 y
Construcción de un predictor que permita distinguir entre ambos.
Fuente del ejemplo
Gene Expression Profiles in Hereditary Breast Cancer
•Hedenfalk, I, et. al., NEJM, Vol. 344, No. 8, pp 539-548.
Objetivo: Encontrar un predictor basado en perfiles de expresión para diferenciar tumores asociados a BRCA1 y BRCA2
Esquema del análisis
• Diseño experimental y datos para el análisis
• Preprocesado• Exploración • Selección de genes• Construcción de varios predictores y
selección del más apropiado
Diseño experimental
• RNA extraido de– 7 pacientess. BRCA1– 8 pacients BRCA2– 7 con cancer “esporádico”
• 6512 sondas– 5361 genes
• 3226 retenidos para el análisis
• Diseño de referencia– Cada muestra comparada
contra linea celular no tumorgénica (MCF-104)
Patient Array PID
BRCA1 v BRCA2 v Sporadic
s1321 20 Sporadic
s1996 1 BRCA1
s1822 5 BRCA1
s1714 3 BRCA1
s1224 7 BRCA1
s1252 2 BRCA1
s1510 4 BRCA1
s1900 10 BRCA2
s1787 9 BRCA2
s1721 8 BRCA2
s1486 22 BRCA2
s1572 16 Sporadic
s1324 17 Sporadic
s1649 15 Sporadic
s1320 18 Sporadic
s1542 19 Sporadic
s1281 21 Sporadic
s1905 6 BRCA1
s1816 13 BRCA2
s1616 14 BRCA2
s1063 11 BRCA2
s1936 12 BRCA2
Datos: log ratios
Preprocesado: Filtrado y Normalización
Exploración (1)
Exploración (2)
Análisis (1). Selección de genes (class comparison)
• BRCA1 vs noBRCA1• Usamos un t-test y
un cutoff de 0.0001 – es decir declaramos
diferencialmenete expresados los genes cuyo p-valor sea inferior a 0.0001
• No hacemos ajustes– Mínimo FC– Multiple testing
Resultados (1): Lista de genes
Order FDR Fold-change Unique id Description Clone1 1.66e-05 0.0198 2.24 HV34H7 ESTs 2478182 2.17e-05 0.0198 2.03 UG5G3 minichromosome maintenance deficient (S. cerevisiae) 7 460193 2.3e-05 0.0198 0.31 HV17G6 keratin 8 8977814 3.37e-05 0.0198 1.89 HV18E8 SELENOPHOSPHATE SYNTHETASE ; Human selenium donor protein 8407025 3.63e-05 0.0198 2.21 HV32C7 ESTs 3078436 4.32e-05 0.0198 1.57 UG1F1 very low density lipoprotein receptor 260827 4.5e-05 0.0198 1.67 HV24F5 chromobox homolog 3 (Drosophila HP1 gamma) 5668878 4.92e-05 0.0198 2.02 LO3F1 butyrate response factor 1 (EGF-response factor 1) 3666479 9.43e-05 0.0338 1.85 HV9E3 "tumor protein p53-binding protein, 2" 212198
Parametric p-value
Análisis (2):Construcción de un predictor
• Construímos predictores por 6 métodos distintos.
• Genes candidatos por class-comparison.
• Elegimos el que presente menor tasa de error de predicción (estimada por leave one out)
Resultados (2i)
Array id Class label
Compound Diagonal Linear 1-Nearest 3-Nearest Nearest Support BayesianCovariate Discriminant Neighbor Neighbors Centroid Vector CompoundPredictor Analysis Machines Covariate
PredictorCorrect? Correct? Correct? Correct? Correct? Correct? Correct?
s1224 BRCA1 YES YES YES YES YES YES YESs1252 BRCA1 YES YES NO NO YES YES YESs1510 BRCA1 NO YES NO NO NO NO NOs1714 BRCA1 NO YES NO NO NO NO NOs1822 BRCA1 YES YES YES YES YES YES YESs1905 BRCA1 YES YES YES YES YES YES YESs1996 BRCA1 YES YES NO YES YES YES NAs1063 notBRCA1 YES YES YES YES YES YES YESs1281 notBRCA1 YES YES YES YES YES YES NAs1320 notBRCA1 NO YES YES YES YES YES YESs1321 notBRCA1 NO NO NO NO NO NO NOs1324 notBRCA1 YES YES YES YES YES YES YESs1486 notBRCA1 YES YES YES YES YES YES YESs1542 notBRCA1 YES YES YES YES YES YES YESs1572 notBRCA1 YES YES YES YES YES YES YESs1616 notBRCA1 YES YES YES YES YES YES YESs1649 notBRCA1 YES YES YES YES YES YES YESs1721 notBRCA1 YES YES YES YES YES YES YESs1787 notBRCA1 YES YES YES YES YES YES YESs1816 notBRCA1 YES YES YES YES YES YES YESs1900 notBRCA1 YES YES YES YES YES YES YESs1936 notBRCA1 YES YES YES YES YES YES YES
82% 95% 77% 82% 86% 86% 85%
Resultados (2ii)
Performance of the Diagonal Linear Discriminant Analysis Classifier:
Class Sensitivity Specificity PPV NPVBRCA1 1 0.933 0.875 1notBRCA1 0.933 1 1 0.875
Final classifier: coeficients and criteria
That is, ∑iwi xi > threshold.The threshold for the Diagonal Linear Discriminant predictor is 91.124
1 2 3 …. 51 52Genes HK1A11 HV10D8 HV11A6 …. HV28G8 HV2B1Coeficients 2,57 3,31 2,79 …. 3,01 5,52
A sample is classified to the class BRCA1 if the sum is greater than the threshold
Resumiendo…
El análisis de microarrays puede visualizarse como un proceso.
Es importante conocer Los métodos apropiados para cada problrma, los parámetros, el significado, las limitaciones de
cada paso.
Una aplicación adecuada del proceso proporciona información relevante como... una lista de genes diferencialmente expresados
(biomarcadores). un modelo con capacidad de predecir (firma)
Limitaciones del método
Críticas, consejos, consensos y “estado del arte”
Limitaciones de los microarrays
An array of problems?
• Poca reproducibilidad entre estudios– Poca coincidencia entre las listas de genes– No reproducción de las predicciones en
nuevos conjuntos de test
• Falta de estándares• Falta de consenso en los métodos• El paso a la clínica siempre por llegar
• Mediados de la década: ¿Promesa o realidad?
Que no estamos tan mal...
Algunos consensos (Allison 2006)
• Diseño– Biological replication is essential – There is strength in numbers: power & sample size – Pooling biological samples can be useful
• Seleccion de genes diferencialmente expresados– Using FC alone as a differential expression test is not valid – 'Shrinkage' is a good thing – FDR is a good alternative to conventional multiple-testing approaches
• Clasificación y Predicción– Unsupervised classification is overused – Unsupervised classification should be validated using
resampling-– Supervised-classification requires independent cross-
validation
No todos los estudios se hacen bien...
• Dupuy & Simon estudian 90 publicaciones. – Análisis detallado de los métodos usados en 42.
• Ecuentran algunos errores comunes– Objetivos pobremente definidos.– No hay control de la multiplicidad
104 genes 104 tests P(Falso+) muy alta– Ni se informa bien de la fiabilidad de un predictor.– No se utiliza un conjunto de test independiente.– Se abusa por doquier del análisis de clusters.
Aunque es posible hacerlo bien si...
• Se procura... (do’s)– Definir bien objetivos.– Combinar el p-valor y
el FC al seleccionar genes.
– Usar la FDR para el control de multiplicidad.
– Validar un predictor con un conjunto de prueba independiente.
– Contar con un estadístico
• Se evita... (don’t)– Basar la selección tan
sólo en “Fold Change”– Usar p-valores de 0.05– Usar métodos de cluster
si lo que se deseara es clasificar muestras.
– Violar el principio básico de la validación (no debe usarse el cjto de prueba antes de la validación).
... Hasta 40 “do’s” y “don’ts” en la tabla 3 de Dupuy y Simon (JNCI 99 (2): 147-157).
Resumiendo
• Los microarrays tienen algunas limitaciones –razonables e intrínsecas-
• Un adecuado uso de los métodos de análisis puede generar información útil, fiable y reproducible.
• Aún así el paso de la clínica al diagnóstico es más lento de lo que se esperaba.
¿Por qué?
De la investigación básica a los diagnóstico basados en microarrays
¿Para cuando?
La idea está clara...
Pero hay muy pocos kits de diagnóstico...
Algunas de las dificultades
• Se precisan estudios muy grandes para establecer la potencia de un (kit) diagnóstico y validarlo en una cohorte independiente y suficientemente amplio.
• Hacen falta estandarizaciones y sistemas de control de calidad validados según criterios de laboratorios clínicos.
• Los tests de perfiles de expresión han de cumplir las normas de la Agencia Médica Europea y/o la FDA.
• Para justificar su desarrollo hay que hacer estudios de coste efectividad que sugieran una clara mejora en el tratamiento al paciente y retorno de inversión y beneficios en el medio/largo plazo.
Estado de los diagnósticos basados en microarrays
Lleno: , Vacío:
Resumiendo
• Se espera que la creciente calidad y tamaño de los estudios genere nuevos perfiles de expresión transportables al diagnóstico.
• Aspectos como estandarización y automatización (robótica) para minimizar la intervención humana están cada vez mejor.
• Otros como la regulación por parte de las agencias y las políticas de reembolso a los inversores y los laboratorios deben de irse resolviendo.
• No es improbable un futuro en el que el “lab-on-a-chip” forme parte de las herramientas de los clínicos.
