1 Procesamiento Audiovisual 1 Tema 2. Procesamiento global de imágenes. PROCESAMIENTO AUDIOVISUAL Programa de teoría 1. Adquisición y representación de imágenes. 2. Procesamiento global de imágenes. 3. Filtros y transformaciones locales. 4. Transformaciones geométricas. 5. Espacios de color y el dominio frecuencial. 6. Análisis de imágenes. 7. Vídeo y sonido digital. (c) Ginés García Mateos, http://dis.um.es/profesores/ginesgm Dept. de Informática y Sistemas, Universidad de Murcia

2 Procesamiento Audiovisual 2 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas.. 2.2. Operaciones elementales con píxeles. 2.3. Transformaciones del histograma. 2.4. Combinación de imágenes.. 2.5. Transformaciones de color. A.2. Procesamiento global en OpenCV..

3 Procesamiento Audiovisual 3 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas. Pregunta: ¿Cuál es la base teórica del procesamiento de imágenes? ¿Qué operaciones aplicar? Recordatorio: ¡una imagen digital no es más que una matriz, o array bidimensional, de números!  Podemos aplicar las mismas operaciones que sobre cualquier número: sumar, restar, multiplicar, dividir, aplicar and, or, máximo, mínimo, integrales, derivadas... 9067687578 9287737882 63102897698 458310980130 396992115154

4 Procesamiento Audiovisual 4 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas. Principales tipos de procesamientos de imágenes: –Operaciones de procesamiento global: cada píxel es tratado de forma independiente, ya sea con una o con varias imágenes. –Filtros y convoluciones: se considera la vecindad local de los píxeles. –Transformaciones geométri- cas: se modifica el tamaño y forma de las matrices. –Transformaciones lineales: Fourier, wavelets, etc.

5 Procesamiento Audiovisual 5 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas. Operaciones de procesamiento global: –Aritméticas: sumar, restar, multiplicar, máximo, etc. Unarias: una sola imagen y un valor constante. Binarias: con dos imágenes. –Booleanas: and, or, not, etc. Unarias: una sola imagen y una constante. Binarias: con dos imágenes. –Otras transformaciones generales: Transformaciones de histograma. Transformaciones de color. Binarización, etc. Cada operación tendrá un significado, utilidad y aplicaciones específicos. ++

6 Procesamiento Audiovisual 6 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas. Supongamos una imagen de entrada A y una imagen resultado R. Una operación global (píxel a píxel) se puede expresar como una función: R(x,y):= f(A(x,y)) Ejemplo. Invertir. R(x,y):= 255 – A(x,y) Imagen A Imagen R El valor del píxel resultante es función de (y sólo de) el píxel correspondiente de entrada.

7 Procesamiento Audiovisual 7 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas. R(x,y):= f(A(x,y)),  (x,y) Comparar con: –Filtros y convoluciones: el valor de un píxel depende de la vecindad local de ese píxel: R(x,y):= f(A(x-k,y-k),..., A(x,y),..., A(x+k,y+k)) –Transformaciones geométricas: el valor de un píxel depende de píxeles situados en otras posiciones: R(x,y):= A(f 1 (x,y), f 2 (x,y)) –Transformaciones lineales: el valor de un píxel puede depender de todos los píxeles de la imagen: R(x,y):= f(A, x, y)

8 Procesamiento Audiovisual 8 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas. Para comprender el significado de muchas transforma- ciones y saber cuál conviene aplicar se usan histogramas. ¿Qué es un histograma?  Repasar estadística... Un histograma representa gráficamente una distribución de frecuencias. Histograma de una imagen: representa las frecuencias de los diferentes valores de gris en la imagen. 0255127 Frecuencia (número de píxeles) Nivel de gris

9 Procesamiento Audiovisual 9 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas. Algoritmo. Cálculo de un histograma. Entrada. A: imagen de ancho x alto Salida. Histograma: array [0,...,255] de entero Algoritmo: Histograma[]:= 0 para y:= 0,..., alto-1 hacer para x:= 0,..., ancho-1 hacer Histograma[A(x,y)]:= Histograma[A(x,y)]+1

10 Procesamiento Audiovisual 10 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas. Los histogramas son una herramienta importante en análisis de imágenes: ¿es buena la calidad de una imagen?, ¿sobra luz?, ¿falta contraste? Ayudan a decidir cuál es el procesamiento más adecuado para mejorar la calidad de una imagen... –Tanto cualitativamente (qué operación aplicar), –Como cuantitativamente (en qué cantidad). En principio, una buena imagen debe producir un histograma más o menos uniforme y repartido en todo el rango de valores. 0255127 Nivel de gris Frecuencia

11 Procesamiento Audiovisual 11 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas. Ejemplo 1. La imagen es muy oscura. Falta luz. 0255127 Frecuencia Ejemplo 2. La imagen es muy clara. Sobra brillo. 0255127 Frecuencia

12 Procesamiento Audiovisual 12 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas. Ejemplo 3. La imagen tiene poco contraste. 0255127 Frecuencia Ejemplo 4. Hay mucho contraste, pocos medios tonos. 0255127 Frecuencia

13 Procesamiento Audiovisual 13 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas. Histogramas de color. En imágenes multicanal podemos obtener un histograma de cada canal por separado. Canal RojoCanal VerdeCanal Azul 0255127 0255127 0255127

14 Procesamiento Audiovisual 14 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas. O, también, podemos calcular histogramas conjuntos, en 2 ó 3 dimensiones. Canales R y GCanales G y BCanales R y B Estos histogramas aportan información sobre los rangos de colores más frecuentes en la imagen. En teoría, el histograma es de 256x256 celdas (bins). Pero, para obtener buenos resultados, mejor usar un número reducido de celdas. Por ejemplo 64x64 ó 32x32.

15 Procesamiento Audiovisual 15 Tema 2. Procesamiento global de imágenes. 2.1. Tipos de operaciones. Histogramas. Uso de histogramas para mejorar la calidad de las imágenes. Ejemplo. El histograma indica tonos muy oscuros. Solución. Aplicar un operador que “estire” el histograma.

16 Procesamiento Audiovisual 16 Tema 2. Procesamiento global de imágenes. 2.2. Operaciones elementales con píxeles. A: imagen de entrada. R: imagen resultante (del mismo tamaño que A). Operaciones unarias: Sumar una constante: R(x, y):= A(x, y) + a Restar una constante: R(x, y):= A(x, y) - a Multiplicar por una constante: R(x, y):= b·A(x, y) Dividir por una constante: R(x, y):= A(x, y)/b Transformación lineal genérica: R(x, y):= bA(x, y)+a Transformación de gama: R(x, y):= A(x, y) c Cualquier función N→N: R(x, y):= f(A(x,y))

17 Procesamiento Audiovisual 17 Tema 2. Procesamiento global de imágenes. 2.2. Operaciones elementales con píxeles. Sumar una constante: R(x, y):= A(x, y) + a Significado: incrementar el brillo de la imagen en la cantidad indicada en a. El histograma se desplaza a la derecha en a píxeles. a +

18 Procesamiento Audiovisual 18 Tema 2. Procesamiento global de imágenes. 2.2. Operaciones elementales con píxeles. Ojo: la suma puede ser mayor que 255... La operación debería comprobar el overflow: si A(x, y) + a > 255 entonces R(x, y):= 255 sino R(x, y):= A(x, y) + a Esto se debe hacer también en las demás operaciones, comprobando si el valor es 255. Coloquialmente, un píxel “por encima” de 255 o por debajo de 0 se dice que está saturado. La saturación supone una pérdida de información. Ejemplo de imagen muy saturada

19 Procesamiento Audiovisual 19 Tema 2. Procesamiento global de imágenes. 2.2. Operaciones elementales con píxeles. En imágenes en color, la suma se realiza sobre los tres canales (R, G y B) y con el mismo valor. R(x, y).R:= A(x, y).R + a R(x, y).G:= A(x, y).G + a R(x, y).B:= A(x, y).B + a ¿Qué ocurre si se suma un valor distinto a cada canal?

20 Procesamiento Audiovisual 20 Tema 2. Procesamiento global de imágenes. 2.2. Operaciones elementales con píxeles. Restar una constante: R(x, y):= A(x, y) - a Significado: decrementar el brillo de la imagen en la cantidad indicada en a. El histograma se desplaza a la izquierda en a píxeles. a

21 Procesamiento Audiovisual 21 Tema 2. Procesamiento global de imágenes. 2.2. Operaciones elementales con píxeles. Multiplicar por una constante: R(x, y):= b·A(x, y) Significado: aumentar la intensidad de la imagen en b. El histograma se “estira” hacia la derecha.

22 Procesamiento Audiovisual 22 Tema 2. Procesamiento global de imágenes. 2.2. Operaciones elementales con píxeles. Tanto en la suma como en la multiplicación, se aumenta el nivel de gris de los píxeles, pero de forma distinta. –En la suma, el parámetro a (entero) indica el número de niveles de gris a aumentar: de -255 a 255. –En el producto, el parámetro b (real) indica el factor a multiplicar. b=1 → Ningún cambio b=2 → Se duplica el valor de gris. Los píx. >127 se saturan. b=0,5 → Se “encoge” a la mitad el histograma. Suma Multiplicación 0 + a 0*b

23 Procesamiento Audiovisual 23 Tema 2. Procesamiento global de imágenes. 2.2. Operaciones elementales con píxeles. Dividir por una constante: R(x, y):= A(x, y) / b = Multiplicar por 1/b... ¡obviamente! El histograma se “encoge”.

24 Procesamiento Audiovisual 24 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. Las transformaciones elementales se pueden ver como funciones f: N → N. Interpretación: para cada valor de gris de entrada hay un valor de salida. 025512864192 0 255 128 64 192 Valor de entrada Valor de salida f: curva tonal Se puede usar cualquier función f. La transformación hace que se modifique el histograma. +

25 Procesamiento Audiovisual 25 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. 025512864192 025512864192 Identidad: f(v):= v 025512864192 025512864192 Suma: f(v):= v + a 0 255 12864192 025512864192 Resta: f(v):= v - a a a 025512864192 025512864192 Multiplicar 2: f(v):=2v 025512864192 025512864192 Dividir 2: f(v):= v/2 0 255 12864192 025512864192 Por 3: f(v):= 3v

26 Procesamiento Audiovisual 26 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. En general, podemos definir una transformación lineal genérica de la forma: f(v):= b·v + a 025512864192 025512864192 Ej. Inversa: f(v):= 255 - v Pero la transformación también puede ser no lineal: cuadrática, polinomial, exponencial, logarítmica, escalonada, etc. ¿Cómo decidir cuál es la transformación más adecuada?  Usar el histograma.

27 Procesamiento Audiovisual 27 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. Normalmente, interesa “estirar” el histograma, para conseguir que aparezca todo el rango de valores. Idea: definir una transformación lineal tal que el histograma resultante vaya de 0 a 255. Ajuste lineal o estiramiento (stretch) del histograma: –Buscar el valor mínimo del histograma: m –Buscar el valor máximo: M –f(v):= (v-m)*255/(M-m) m M Nota: Esto es una simple regla de 3 +

28 Procesamiento Audiovisual 28 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. 025512864192 025512864192 Ejemplo. m= 86, M= 214 R(x,y):= (A(x,y)-86)*1,99 A R Histograma de A Histograma de R Ojo: no necesaria- mente “el máximo” Para imágenes en color, se aplica la misma función a los tres canales (R,G,B)

29 Procesamiento Audiovisual 29 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. Cuidado: un simple píxel con valor muy alto o muy bajo puede hacer que el ajuste del histograma sea muy malo. Por ejemplo, si hay un píxel con valor 0 y otro con 255, la transformación sería la identidad (la imagen no cambia). Solución: en lugar de mínimo y máximo, ajustar usando dos percentiles del histograma (p. ej. 10%-90%, ó 5%-95%). Histograma de A 5%

30 Procesamiento Audiovisual 30 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. Más ejemplos de estiramiento lineal del histograma.

31 Procesamiento Audiovisual 31 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. La transformación de histograma puede tomar cualquier forma (no necesariamente lineal). Ejemplos. 025512864192 0255 128 64192 Valor de entrada Valor de salida Resultado: oscurecer los medios tonos. Parábola: c 1 v 2 + c 2 v + c 3 025512864192 Valor de entrada Resultado: aclarar los medios tonos. Raíz: c 1 v 0.5 + c 2 025512864192 025512864192 Valor de entrada Resultado: aclarar tonos oscuros y oscurecer los claros. Dos trozos de curva (parábola y raíz) 025512864192

32 Procesamiento Audiovisual 32 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. Elevar a 2, elevar a 1/2,... Se define la transformación de gama como: f(v):= 255·(v/255) 1/GAMA Gama 1Gama 2Gama 4Gama 0,75Gama 0,5 025512864192 0 255 12864 192 +

33 Procesamiento Audiovisual 33 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. La diferencia entre diferentes dispositivos (televisores, cámaras, escáneres) se modela con una transformación de gama. Si el comportamiento del dispositivo fuera perfectamente lineal, Gama = 1. Blanco Negro ¿Dónde está el 50% de gris? ¿Es la escala lineal? ¿Dónde estaría si tomáramos una foto?

34 Procesamiento Audiovisual 34 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. Otra transformación habitual es la ecualización del histograma (del latín aequalis = igual). Ecualización del histograma: es una transformación definida de forma que el histograma resultante se reparte uniformemente en todo el rango de grises. 0255 127 0255 127 025512864192 0 255 128 64 192 ¿? En este caso se usa una función escalonada: f: array [0..255] de byte +

35 Procesamiento Audiovisual 35 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. ¿Cómo definir f para conseguir la ecualización? Idea: suponer que a la salida hay 5 niveles de gris. 0255 127 025512864192 04213 20% para todo píxel (x,y) de R hacer R(x,y):= f[A(x,y)] 04213

36 Procesamiento Audiovisual 36 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. Algoritmo. Cálculo de la función de ecualización del histograma. Entrada. Histograma: array [0,...,255] de entero np: entero (número total de píxeles = m x *m y ) Salida. f: array [0,...,255] de byte Algoritmo: f[0]:= 0 acumulado:= Histograma[0] para i:= 1,..., 254 hacer f[i]:= acumulado*255/np acumulado:= acumulado + Histograma[i] finpara f[255]:= 255 La función de ecualización es la integral del histograma, escalada por el factor 255/np.

37 Procesamiento Audiovisual 37 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. Imagen de entrada (A)Imagen ecualizada (R) Histograma de A Histograma de R Función f +

38 Procesamiento Audiovisual 38 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. Ejemplos. Ecualización del histograma. Cuidado, en algunos casos los resultados pueden ser artificiosos. Cada canal (R,G,B) es ecualizado por separado

39 Procesamiento Audiovisual 39 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. Umbralización de imágenes. En algunas aplicaciones puede ser interesante convertir la imagen en binaria, o recortar cierto rango de valores. Las funciones tienen las siguientes formas: 025512864192 0 255 12864192 Valor de entrada Valor de salida Umbralizar la imagen con valor cte. 025512864192 0 255 12864192 Valor de entrada Cortar un rango y mantener el resto 025512864192 0 255 12864192 Valor de entrada Seleccionar un rango Umbral Umbral inferior Umbral superior +

40 Procesamiento Audiovisual 40 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. Las funciones serán del estilo: f(v):= si v > umbral1 entonces g(v) sino h(v) Transformación de binarización (saturar a 0 ó 255). f(v):= si v < umbral entonces 0 sino 255 Ejemplo 1. La binarización se suele aplicar en OCR. Imagen de entrada (256 grises) Umbral = 160Umbral = 215

41 Procesamiento Audiovisual 41 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. Imagen de entradaUmbralizar, u = 42Umbralizar, u = 180 Cortar rango (192, 255) La separación del objeto del fondo se llama segmentación. La umbralización se puede usar para segmentar...... aunque por sí sola no suele funcionar muy bien. Ejemplo 2. Segmentación de objetos.

42 Procesamiento Audiovisual 42 Tema 2. Procesamiento global de imágenes. 2.3. Transformaciones del histograma. Conclusiones: Una transformación elemental se puede ver desde distintas perspectivas: –Como una función unidimensional: f: N → N –Como una curva tonal. –Como una modificación del histograma. La característica fundamental es que cada píxel se trata independientemente de los demás. Los histogramas son útiles para encontrar la transformación adecuada. En imágenes RGB, aplicamos la misma operación a los 3 canales para que se mantenga el color.

43 Procesamiento Audiovisual 43 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Combinación de imágenes: utilizar dos o más imágenes de entrada para producir una imagen de salida. Entrada: imágenes A y B. Salida: imagen R. R(x, y):= f(A(x,y), B(x,y)) Posibles operaciones de combinación: –Booleanas: and, or, xor, not –Aritméticas: suma, resta, producto/división, media –Relacionales: máximo, mínimo El valor del píxel resultante es función de los píxeles de A y B en la misma posición En principio, todas las imágenes deben ser del mismo tamaño

44 Procesamiento Audiovisual 44 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Operadores booleanos: –R(x, y):= A(x,y) AND B(x,y) –R(x, y):= A(x,y) OR B(x,y) –R(x, y):= A(x,y) XOR B(x,y) –R(x, y):= NOT A(x,y) AND B(x,y) –R(x, y):= A(x,y) OR NOT B(x,y) –... Estos operadores tienen sentido cuando al menos una de las imágenes es binaria. –Negro (0) = FALSE –Blanco (1 ó 255) = TRUE

45 Procesamiento Audiovisual 45 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Ejemplos. Operadores booleanos. Imagen de entrada A Imagen de entrada B A AND BA OR BA XOR B

46 Procesamiento Audiovisual 46 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. En imágenes no binarias no tienen mucho sentido... ¿Cómo se interpretan? Las operaciones binarias aparecen en análisis de imágenes, y también para trabajar con máscaras y recortes de objetos. A Gris AND B Gris A RGB AND B RGB +

47 Procesamiento Audiovisual 47 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Imágenes de entrada. ABC ¿Cómo conseguir el montaje de la página anterior? R:= (B AND NOT C) OR (A AND C)

48 Procesamiento Audiovisual 48 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. 1.T1:= B AND NOT C BNOT C T1 2.T2:= A AND C 3.R:= T1 OR T2 AC T2 T1T2 R

49 Procesamiento Audiovisual 49 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. La imagen binaria (C) se suele denominar máscara. La máscara permite segmentar el objeto de interés. C Cuestiones: ¿Cómo crear la máscara de forma automática? La zona del pelo no se mezcla bien con el fondo. ¿Cómo evitar este problema? R ¿¡!?

50 Procesamiento Audiovisual 50 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Operaciones aritméticas: –R(x, y):= A(x, y) + B(x, y) –R(x, y):= A(x, y) - B(x, y) –R(x, y):= (A(x, y) + B(x, y))/2 –R(x, y):= a·A(x, y) + (1-a)·B(x, y) –R(x, y):= A(x, y)·B(x, y)·c Se usan en generación y análisis de imágenes. Cuidado con los problemas de saturación. En imágenes binarias son equivalentes (en su mayoría) a los operadores booleanos.

51 Procesamiento Audiovisual 51 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Sumar dos imágenes: R(x, y):= A(x, y) + B(x, y) Significado: mezclar las dos imágenes. Ojo: [0..255] + [0..255] = [0..510] B A R

52 Procesamiento Audiovisual 52 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Para evitar la saturación se puede usar la media. Media de 2 imágenes: R(x, y):= (A(x,y)+B(x,y))/2 Significado: las imágenes son semitransparentes (al 50%). B A R

53 Procesamiento Audiovisual 53 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. De forma similar, se puede definir la media ponderada. Media ponderada: R(x,y):= a·A(x,y) + (1-a)·B(x,y) La media ponderada se puede usar para crear una transición suave entre imágenes (o vídeos). a = 0,25a = 0,5a = 0,75

54 Procesamiento Audiovisual 54 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. La media de imágenes se puede usar para acumular imágenes de un vídeo. Ejemplo 1. Combinar imágenes con mucho ruido de una escena, para obtener una mezcla con menos ruido. Imágenes capturadas de TV Imagen acumulada

55 Procesamiento Audiovisual 55 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Ejemplo 2. Crear un modelo de fondo de una escena, acumulando varias imágenes. Idea: si además de la media en cada píxel calculamos también la varianza, podríamos tener un modelo gaussiano del fondo (N(μ,σ)). Imágenes de Quickcam Modelo de fondo

56 Procesamiento Audiovisual 56 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Restar dos imágenes: R(x, y):= A(x, y) - B(x, y) Significado: obtener diferencia entre imágenes. B A A-B [0..255] - [0..255] = [-255..255]  La mitad de los píxeles se saturan a 0 B-A

57 Procesamiento Audiovisual 57 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Restar dos imágenes, manteniendo el rango de salida: R(x, y):= (A(x, y) - B(x, y))/2 + 128 B A (A-B)* (B-A)*

58 Procesamiento Audiovisual 58 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Muchas veces lo que interesa es conocer la diferencia entre las imágenes.  Solución: tomar valor absoluto de la resta. Diferencia: R(x, y):= abs(A(x, y) - B(x, y)) Píxel negro: las dos imágenes son iguales en ese píxel. Cuando más clara es una zona, más se diferencian las imágenes. B A R ¿? Son muy distintas...

59 Procesamiento Audiovisual 59 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Aplicaciones de la diferencia: encontrar variaciones entre imágenes que, en principio, deberían ser parecidas. Ejemplo 1. Analizar la pérdida de información al comprimir una imagen. Por ejemplo, con JPEG. Dif. x16

60 Procesamiento Audiovisual 60 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Ejemplo 2. Segmentación del fondo de una escena. Tenemos un fondo (imagen media) y una nueva imagen. x2 Modelo de fondo Frame 1 Frame 2 Idea: esto se puede usar para crear la máscara... ¿Cómo?

61 Procesamiento Audiovisual 61 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Proceso. 1.Obtener el modelo de fondo M. 2.Para cada imagen A del vídeo. 3.Calcular la diferencia: D = abs(M-A). 4.Umbralizar la imagen con un valor adecuado. U = umbralizar(D, x). 5.Sea F el nuevo fondo. 6.R:= (F AND NOT U) OR (A AND U) M A D U F R ¿Cómo arreglar eso?

62 Procesamiento Audiovisual 62 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Ejemplo 3. Detección de movimiento en vídeo. Dada una secuencia de vídeo, queremos saber si se ha producido alguna modificación, y en qué zonas de la imagen (“encuentra las 7 diferencias”). Frame 1Frame 2Diferencia x2 ¿Qué objetos se han movido y en qué dirección?

63 Procesamiento Audiovisual 63 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Producto imágenes: R(x, y):= A(x, y)·B(x, y)/255 B A A·B Necesario escalar el resultado (dividir por 255). Efecto de mezcla, similar a la suma, pero conceptualmente más próximo a un AND...

64 Procesamiento Audiovisual 64 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. División imágenes: R(x, y):= 255·A(x, y)/B(x, y) B A A/B También es necesario escalar el resultado (multiplicar por 255). ¿Cuál es interpretación del resultado?

65 Procesamiento Audiovisual 65 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Ejemplo 1. Realizar una transformación de intensidad distinta para cada píxel. A B1B1 B2B2 A*B 1 A*B 2

66 Procesamiento Audiovisual 66 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Estos mismos tipos de imágenes se pueden usar para hacer sumas, restas, divisiones, etc. Ejemplo. R(x, y):= A(x, y)·B(x, y)/128 –Si B(x, y) = 128 el píxel de A no cambia. –Si B(x, y) < 128 el píxel se oscurece. –Si B(x, y) > 128 el píxel se aclara. El producto es también la base en la idea de máscara o selección difusa. Idea: una imagen se compone de distintos elementos o capas, que tienen definido cierto nivel de transparencia.

67 Procesamiento Audiovisual 67 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Ejemplo 2. Mezcla y combinación de imágenes. Queremos combinar dos imágenes, por ejemplo, para poner una etiqueta descriptiva en una foto. Una imagen binaria sirve de máscara: 0 = fondo, 1 = etiqueta. A B M Resultado: R:= (A AND NOT M) OR (B AND M) No me convence... mejor un reborde suave (difuminado) R

68 Procesamiento Audiovisual 68 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Solución. Usar una máscara “suave”, una imagen en gris: 0 = transparente, 255 = opaco. Combinar: sumas y productos. M Resultado: R:= A·(255-N)/255 + B·N/255 N Producto de imágenes

69 Procesamiento Audiovisual 69 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Indicaciones sobre el ejemplo 2. –La “mascara suave” es la idea del canal alfa. –RGB  RGBA, donde el canal A indica el grado de opacidad de un píxel (0= transparente, 255= opaco). –Uso: definimos imágenes, con sus canales alfa, y las componemos poniendo unas sobre otras. –La composición de imágenes con canal alfa es básicamente una media ponderada como hemos visto. –En el modo binario, muchas herramientas incorporan las ideas de máscara, selección, región de interés (cuando es rectangular) o canal de interés (en multicanal). –No necesitamos trabajar con operaciones booleanas, aunque implícitamente es lo que hay subyacente.

70 Procesamiento Audiovisual 70 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Otras operaciones no lineales Mínimo de 2 imágenes. R(x, y):= min(A(x, y), B(x, y)) Máximo de 2 imágenes. R(x, y):= max(A(x, y), B(x, y)) A A B B R R

71 Procesamiento Audiovisual 71 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Ejemplo. Una alternativa para crear modelos de fondo es usar máximos y mínimos. En lugar de tener media y varianza, tenemos máximo y mínimo del fondo en cada píxel. Dada una imagen nueva, para cada píxel, comprobar si su valor está entre el máximo y el mínimo. Si lo está: fondo; si no lo está: objeto. Fondo mínimoFondo máximo

72 Procesamiento Audiovisual 72 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Con esto tenemos otra forma de hacer la segmentación de los objetos. Modelo de fondoFrame 1Frame 2 La máscara ya está binarizada

73 Procesamiento Audiovisual 73 Tema 2. Procesamiento global de imágenes. 2.4. Combinación de imágenes. Conclusiones: Operaciones de combinación: a partir de dos o más imágenes obtener una nueva imagen. La operación a aplicar depende de lo que queramos conseguir. Operaciones booleanas: útiles para trabajar con máscaras de objetos. Operaciones aritméticas: útiles en vídeo, modelos acumulados, detección de movimiento, transparencias difusas, etc. En general, cualquier tipo de operación es posible, ya sean lineales o no lineales.

74 Procesamiento Audiovisual 74 Tema 2. Procesamiento global de imágenes. 2.5. Transformaciones de color. En los puntos anteriores la transformación era la misma para todos los canales (R, G y B). Si es distinta, hablamos de transformación de color: R(x, y).R:= f 1 (A(x,y).R, A(x,y).G, A(x,y).B) R(x, y).G:= f 2 (A(x,y).R, A(x,y).G, A(x,y).B) R(x, y).B:= f 3 (A(x,y).R, A(x,y).G, A(x,y).B) Posibilidades: –Aplicar las mismas transformaciones que antes (suma, producto, ajuste de histograma, etc.), pero con distintos parámetros para cada canal. –Transformaciones basadas en modelos de color. Cambiar el modelo de color (RGB, HSV, HLS, XYZ, YUV, etc.) y aplicar la función en ese modelo.

75 Procesamiento Audiovisual 75 Tema 2. Procesamiento global de imágenes. 2.5. Transformaciones de color. Conversión color  escala de grises Conversión sencilla: R(x, y):= (A(x,y).R + A(x,y).G + A(x,y).B)/3 Conversión precisa: R(x, y):= 0.21A(x,y).R + 0.72A(x,y).G + 0.07A(x,y).B Imagen de entrada Grises (media) Grises (precisa) Pero, ¿de dónde salen esos pesos?

77 Procesamiento Audiovisual 77 Tema 2. Procesamiento global de imágenes. 2.5. Transformaciones de color. Ejemplo. Transformación a sepia. ¿Cómo conseguir que el punto intermedio sea un valor cualquiera (distinto de 128)? Imagen de entrada Escala de sepias Escala de grises Escala de (30,255,0) Escala de (0,255,255)

78 Procesamiento Audiovisual 78 Tema 2. Procesamiento global de imágenes. 2.5. Transformaciones de color. Transformación de color falso Es una transformación de la misma familia, cuyo objetivo es hacer más visibles las pequeñas variaciones del nivel de gris. Se define una paleta de salida adecuada y una transformación de cada valor de gris en la paleta. A R=255  00  255 G=  255255  00 B=00  255255 

79 Procesamiento Audiovisual 79 Tema 2. Procesamiento global de imágenes. 2.5. Transformaciones de color. Ejemplo. Transformación de color falso. Las transformaciones de este tipo son comunes en imágenes médicas y de satélite. En estas aplicaciones, la profundidad del canal puede ser fácilmente mayor que 1 byte. Al usar sólo 256 grises se pierde información. Imagen de entrada Imagen con color falso

80 Procesamiento Audiovisual 80 Tema 2. Procesamiento global de imágenes. 2.5. Transformaciones de color. Transformaciones de agregar color (colorear) Idea: usar las operaciones de suma, resta y producto, pero con una constante distinta por cada canal. R.R:= vr+A.R; R.G:= vg+A.G; R.B:= vb+A.B R.R:= fr·A.R; R.G:= fg·A.G; R.B:= fb·A.B (vr, vg, vb) y (fr, fg, fb) indican el tono de color que se da a la imagen. Imagen de entradaSumar (-20, 8, 60)

81 Procesamiento Audiovisual 81 Tema 2. Procesamiento global de imágenes. 2.5. Transformaciones de color. Transformaciones de agregar color (colorear) Imagen de entrada Multipl. (1.4, 1.15, 1) Multipl. (1.4, 0.9, 0.9)Sumar (-10, 40, -10)

82 Procesamiento Audiovisual 82 Tema 2. Procesamiento global de imágenes. 2.5. Transformaciones de color. Estas transformaciones están relacionadas con el balance de blancos. Las salidas de los fotodetectores de cada canal (R,G,B) deberían ser acordes a la apreciación subjetiva del color por parte del humano. Esto implica multiplicar cada canal por un factor adecuado. Cuestión: ¿qué imagen tiene los colores más realistas? Ejemplos: –Priorizar rojos (medio): fr= 1.2, fg= 0.9, fb= 0.9 –Priorizar verdes (mucho): fr= 0.8, fg= 1.6, fb= 0.8 –Priorizar amarillos (poco): fr= 1.1, fg= 1.1, fb= 0.8

83 Procesamiento Audiovisual 83 Tema 2. Procesamiento global de imágenes. 2.5. Transformaciones de color. También es posible mezclar y cambiar los canales, con transformaciones como las siguientes. Imagen de entrada R.R= A.G R.G= A.B R.B= A.R R.R= A.B R.G= A.R R.B= A.G R.R= (A.R+A.B)/2 R.G= (A.G+A.R)/2 R.B= (A.G+A.B)/2

84 Procesamiento Audiovisual 84 Tema 2. Procesamiento global de imágenes. 2.5. Transformaciones de color. Finalmente, recordar que las operaciones de ajuste y ecualización del histograma se pueden aplicar conjuntamente (usando el histograma de gris) o por separado (usando el histograma de cada canal). La diferencia es que mientras el primero mantiene los colores (cambia la intensidad) el segundo no los mantiene. Imagen de entrada Ajuste conjunto Ajuste separado Los colores parecen poco realistas

85 Procesamiento Audiovisual 85 Tema 2. Procesamiento global de imágenes. 2.5. Transformaciones de color. Conclusiones: Las transformaciones globales se pueden realizar igual en todos los canales o con valores distintos. En el primer caso, habrá un cambio en la intensidad. En el segundo, puede haber también un cambio de color. Balance de blancos: compensar los canales para obtener los colores más realistas posibles. Veremos más cuestiones relacionadas con el color cuando estudiemos espacios de color.

86 Procesamiento Audiovisual 86 Tema 2. Procesamiento global de imágenes. 2. Procesamiento global de imágenes. Conclusiones: Procesamiento global: el valor de un píxel de salida depende del píxel (o píxeles) correspondientes de la imagen de entrada. Operaciones aritméticas, lógicas, etc. Distintas aplicaciones: mejora del histograma, reducción de ruido, composición de imágenes, ajuste del color, etc. Normalmente no aparecen solas, sino combinadas con otros tipos de operaciones.

87 Procesamiento Audiovisual 87 Tema 2. Procesamiento global de imágenes. Anexo A.2. Procesamiento global en OpenCV. Operaciones unarias Operaciones binarias Operaciones con histogramas Ejercicios

88 Procesamiento Audiovisual 88 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Operaciones de procesamiento global: Tipos: unarias, binarias, histogramas. void cvUnaria (const CvArr* A,..., CvArr* B,...) void cvBinaria (const CvArr* A, const CvArr* B,.., CvArr* C,...) Las funciones reciben una (unarias) o dos (binarias) imágenes de entrada, y producen una de salida. Todas ellas deben estar creadas, también la imagen de salida. La mayoría de las funciones admite modo inplace: una imagen de entrada se puede usar también para guardar el resultado. Muchas de las operaciones trabajan con ROI, COI y mask  No operan sobre toda la imagen sino sólo sobre una parte concreta (rectángulo, canal o máscara de interés). Recordar: un CvArr puede ser un IplImage

89 Procesamiento Audiovisual 89 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Es importante observar las restricciones impuestas sobre las imágenes admitidas en cada función. En otro caso ocurrirá un error (se produce una excepción). Normalmente: –Todas las imágenes deben ser del mismo tipo: profundidad y número de canales. –Todas las imágenes deben tener el mismo tamaño. Si se utilizan ROI, el tamaño del ROI debe ser el mismo en todas. –Algunas funciones requieren imágenes con 1 solo canal. –Opcionalmente, algunas admiten el uso de una máscara (mask), que será otra imagen, de 8 bits y con un 1 canal. Un valor 0 significa que el píxel no se procesa, y ≠ 0 sí se procesa. –Ver la documentación para cada función.

90 Procesamiento Audiovisual 90 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Operaciones unarias: –cvSet, cvSetZero, cvCopy, cvAddS, cvSubS, cvSubRS, cvAbsDiffS, cvAbs, cvScale, cvConvert, cvConvertScale, cvConvertScaleAbs, cvAndS, cvOrS, cvXorS, cvNot, cvCmpS, cvThreshold, cvAdaptiveThreshold, cvMaxS, cvMinS, cvPow, cvLog Operaciones binarias: –cvAdd, cvAddWeighted, cvSub, cvAbsDiff, cvMul, cvDiv, cvAnd, cvOr, cvXor, cvCmp, cvMax, cvMin Operaciones con histogramas: –cvCreateHist, cvReleaseHist, cvCalcHist, cvQueryHistValue, cvGetHistValue, cvNormalizeHist, cvGetMinMaxHistValue, cvEqualizeHist, cvLUT

91 Procesamiento Audiovisual 91 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Inicializar una imagen con un valor constante: void cvSet (CvArr* A, CvScalar S, const CvArr* mask=0)  si mask(x,y)≠0 entonces A(x,y):= S Ejemplo. Inicializar a verde: cvSet(img, cvScalar(0,255,0)); Inicializar una imagen con un valor 0: void cvSetZero (CvArr* A) / void cvZero (CvArr* A)  A(x,y):= 0 Copiar una imagen en otra: void cvCopy (const CvArr* A, CvArr* B, const CvArr* mask =0)  si mask(x,y)≠0 entonces B(x,y):= A(x,y) Ejemplo. Copiar un trozo de la imagen img en la imagen img2: cvSetImageROI(img, cvRect(50,50, 100, 100)); img2= cvCreateImage(cvSize(100, 100), img->depth, img->nChannels); cvCopy(img, img2); cvResetImageROI(img);

92 Procesamiento Audiovisual 92 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Sumar a una imagen un valor constante: void cvAddS (const CvArr* A, CvScalar S, CvArr* C, const CvArr* mask=0)  si mask(x,y)≠0 entonces C(x,y):= A(x,y) + S Ejemplo. Sumar un poco de azul: cvAddS(img, cvScalar(40,0,0), img2); Aumentar el brillo (inplace): cvAddS(img, cvScalarAll(50), img); Restar a una imagen un valor constante: void cvSubS (const CvArr* A, CvScalar S, CvArr* C, const CvArr* mask=0)  si mask(x,y)≠0 entonces C(x,y):= A(x,y) – S Ejemplo. Disminuir el brillo: cvSubS(img, cvScalarAll(50), img); Restar a un valor constante una imagen : void cvSubRS (const CvArr* A, CvScalar S, CvArr* C, const CvArr* mask=0)  si mask(x,y)≠0 entonces C(x,y):= S – A(x,y) Ejemplo. Invertir una imagen (en color o B/N). cvSubRS(img, cvScalarAll(255), img);

93 Procesamiento Audiovisual 93 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Valor absoluto de diferencia entre una imagen y un valor constante: void cvAbsDiffS (const CvArr* A, CvArr* C, CvScalar S)  C(x,y):= |A(x,y) – S| Ejemplo. cvAbsDiffS(img, img2, cvScalar(40,128,150)); Valor absoluto de una imagen: void cvAbs (const CvArr* A, CvArr* C)  C(x,y):= |A(x,y)| Tiene sentido cuando la profundidad son números con signo Producto/división de una imagen por una constante: void cvScale (const CvArr* A, CvArr* B, double scale=1, double shift=0)  B(x,y):= A(x,y) * scale + shift (igual para todos los canales) Se puede hacer cualquier transformación lineal. La función permite hacer conversiones entre imágenes con distintos valores de profundidad (de 8 bits a 16, o a reales de 32 bits, etc). Tiene sinónimos, como cvConvertScale. Ver también cvConvertScaleAbs. Ejemplo. Ajuste del contraste: cvConvertScale(img, img2, 1.6, -50);

94 Procesamiento Audiovisual 94 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Ajuste lineal del histograma (y otros métodos de normalización): void cvNormalize(const CvArr* A, CvArr* C, double a, double b, CV_MINMAX)  hace que los píxeles de C vayan entre a y b. A y C deben ser de 1 canal Y lógico entre una imagen y un valor constante (a nivel de bits): void cvAndS (const CvArr* A, CvScalar S, CvArr* C, const CvArr* mask=0)  si mask(x,y)≠0 entonces C(x,y):= A(x,y) AND S O lógico entre una imagen y un valor constante (a nivel de bits): void cvOrS (const CvArr* A, CvScalar S, CvArr* C, const CvArr* mask=0)  si mask(x,y)≠0 entonces C(x,y):= A(x,y) OR S O exclusivo entre una imagen y un valor constante (a nivel de bits): void cvXorS (const CvArr* A, CvScalar S, CvArr* C, const CvArr* mask=0)  si mask(x,y)≠0 entonces C(x,y):= A(x,y) XOR S Negación lógica de una imagen (a nivel de bits): void cvNot (const CvArr* A, CvArr* C)  C(x,y):= NOT A(x,y) Ejemplo. Vale para invertir una imagen: cvNot(img, img); Pero, ¿para qué valen las otras operaciones booleanas con constantes?

95 Procesamiento Audiovisual 95 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Comparación entre una imagen y un valor constante: void cvCmpS (const CvArr* A, double S, CvArr* C, int cmp_op)  C(x,y):= A(x,y) op S, con op  {“=”, “>”, “ =”, “ threshold entonces maxValue sino 0 La umbralización se hace con un valor constante. Para un método más avanzado ver cvAdaptiveThreshold. El umbral se calcula para cada píxel, usando una vecindad local (adaptativo).

96 Procesamiento Audiovisual 96 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Máximo entre una imagen y un valor constante: void cvMaxS (const CvArr* A, double scalar, CvArr* C) (está mal en la ayuda)  C(x,y):= max {A(x,y), S} Las imágenes deben ser de un solo canal. Mínimo entre una imagen y un valor constante: void cvMinS (const CvArr* A, double scalar, CvArr* C) (está mal en la ayuda)  C(x,y):= min {A(x,y), S} Las imágenes deben ser de un solo canal. Potencia, exponencial y logaritmo de los píxeles de una imagen: void cvPow (const CvArr* A, CvArr* C, double p)  C(x,y):= A(x,y) p void cvExp (const CvArr* A, CvArr* C)  C(x,y):= e A(x,y) void cvLog (const CvArr* A, CvArr* C)  C(x,y):= log e |A(x,y)| Para evitar saturación y pérdida de información, es conveniente transformar las profundidad a reales de 32 o 64 bits. Ejemplo. Transformación de gamma: cvConvertScale(img, imr, 1./255, 0); // imr es de profundidad 32F cvPow(imr, imr, gamma); cvConvertScale(imr, img, 255., 0);

97 Procesamiento Audiovisual 97 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Operaciones Binarias Sumar dos imágenes: void cvAdd (const CvArr* A, const CvArr* B, CvArr* C, const CvArr* mask=0)  si mask(x,y)≠0 entonces C(x,y):= A(x,y) + B(x,y) Las imágenes deben tener el mismo tamaño (o ROI) y el mismo tipo. Ojo: recordar los problemas de saturación. Por ejemplo, para obtener la media de dos imágenes, im1, im2: cvScale(im1, im1, 0.5, 0); cvScale(im2, im2, 0.5, 0); // ¿Qué pasa si hacemos primero la suma cvAdd(im1, im2, imr, 0); // y luego la división por 2? Suma ponderada de dos imágenes: void cvAddWeighted(CvArr* A, double a, CvArr* B, double b, double g, CvArr* C)  C(x,y):= a·A(x,y) + b·B(x,y) + g Las mismas restricciones que antes. Es mucho más adecuada para calcular la media de dos imágenes: cvAddWeighted(im1, 0.5, im2, 0.5, 0, imr);

98 Procesamiento Audiovisual 98 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Restar dos imágenes: void cvSub (const CvArr* A, const CvArr* B, CvArr* C, const CvArr* mask=0)  si mask(x,y)≠0 entonces C(x,y):= A(x,y) - B(x,y) Las imágenes deben tener el mismo tamaño (o ROI) y el mismo tipo. Igual que antes, tener cuidado con los problemas de saturación. Esta operación tiene más sentido cuando se usan tipos con signo (16S, 16F, 32F). Diferencia absoluta entre dos imágenes: void cvAbsDiff (const CvArr* A, const CvArr* B, CvArr* C)  C(x,y):= |A(x,y) - B(x,y)| Más adecuada cuando tenemos imágenes sin signo y solo queremos medir diferencias absolutas entre píxeles.

99 Procesamiento Audiovisual 99 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Multiplicar dos imágenes: void cvMul (const CvArr* A, const CvArr* B, CvArr* C, double scale=1)  C(x,y):= A(x,y)*B(x,y)*scale El valor scale permite evitar problemas de saturación. Ejemplo: multiplicar dos imágenes de 8 bits: cvMul(im1, im2, imr, 1./255); Dividir dos imágenes: void cvDiv (const CvArr* A, const CvArr* B, CvArr* C, double scale=1)  C(x,y):= scale*A(x,y)/B(x,y) A puede ser nulo, en cuyo caso se supone que todos los píxeles son 1. Igual que antes, tener cuidado con los problemas de saturación. Es más adecuado usar enteros con signo. Ejemplo: cvDiv(im1, im2, imr, 255.0);

100 Procesamiento Audiovisual 100 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Y lógico, a nivel de bits, entre dos imágenes: void cvAnd (const CvArr* A, const CvArr* B, CvArr* C, const CvArr* mask=0)  si mask(x,y)≠0 entonces C(x,y):= A(x,y) AND B(x,y) También funciona con números reales, pero ¿para qué puede valer? Para que tenga sentido, al menos alguna de las dos imágenes debería ser binaria (0/255). O lógico, a nivel de bits, entre dos imágenes: void cvOr (const CvArr* A, const CvArr* B, CvArr* C, const CvArr* mask=0)  si mask(x,y)≠0 entonces C(x,y):= A(x,y) OR B(x,y) O exclusivo, a nivel de bits, entre dos imágenes: void cvXor (const CvArr* A, const CvArr* B, CvArr* C, const CvArr* mask=0)  si mask(x,y)≠0 entonces C(x,y):= A(x,y) XOR B(x,y)

101 Procesamiento Audiovisual 101 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Comparación de dos imágenes: void cvCmp (const CvArr* A, const CvArr* B, CvArr* C, int cmp_op)  C(x,y):= A(x,y) op B(x,y), con op  {“=”, “>”, “ =”, “

102 Procesamiento Audiovisual 102 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Observar el estilo de programación usando estas funciones. Por ejemplo, queremos implementar la operación: R(x,y):= A(x,y)·(255-N(x,y))/255 + B(x,y)·N(x,y)/255 void Combina (const CvArr* A, const CvArr* B, const CvArr* N, CvArr* R); Implementación 1. cvMul(B, N, B, 1./255); cvNot(N, N); cvMul(A, N, A, 1./255); cvAdd(A, B, R); Implementación 2. #define CM(a,b,n) (a*(255-n)+b*n)/255.0 CvScalar pA, pB, pN, pR; for (int y=0; y height; y++) for (int x= 0; x width; x++) { pA= cvGet2D(A, y, x); pB= cvGet2D(B, y, x); pN= cvGet2D(N, y, x); pR.val[0]= CM(pA.val[0],pB.val[0],pN.val[0]); pR.val[1]= CM(pA.val[1],pB.val[1],pN.val[1]); pR.val[2]= CM(pA.val[2],pB.val[2],pN.val[2]); cvSet2D(R, y, x, pR); } Esto es más sencillo y eficiente, porque las opera- ciones están optimizadas Esto es menos eficiente (~5 veces más lento) y menos recomendable Aunque no del todo correcto, modifica sus parámetros de entrada A, B y N...

103 Procesamiento Audiovisual 103 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Operaciones con histogramas En OpenCV se define el tipo CvHistogram y las operaciones para manejarlo: cvCreateHist, cvReleaseHist, cvCalcHist, cvQueryHistValue, cvGetHistValue, cvNormalizeHist, cvThreshHist, cvGetMinMaxHistValue. Tenemos también una operación de ecualización del histograma: cvEqualizeHist. Otra cuestión relacionada son las tablas de transformación (look-up table, o LUT), para realizar una transformación de curva tonal arbitraria.

104 Procesamiento Audiovisual 104 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Propiedades de un histograma: –Número de dimensiones. Normalmente tendremos 1 dimensión (escala de grises), 2 dimensiones (histogramas conjuntos de dos canales) o como mucho 3. –Para cada dimensión, número de celdas (bins). Normalmente será una potencia de 2, como 256, 64, 32... –Rango de valores correspondientes a cada celda, en el caso de haber menos celdas que valores (normalmt. será uniforme). Ejemplos. Bin 0 (0-63) Bin 1 (64-127) Bin 2 (128-191) Bin 3 (192-255) Bin 0 (0-127) Bin 1 (128-255) Bin 0 (0-85) Bin 1 (86-170) Bin 2 (171-255) Histograma de 1 dimensión y 4 celdas Histograma de 2 dimensiones

105 Procesamiento Audiovisual 105 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Crear un histograma: CvHistogram* cvCreateHist (int dims, int* sizes, int type, float** ranges=0, int uniform=1) –dims: número de dimensiones del histograma. –sizes: número de celdas en cada dimensión. –type: tipo, usar siempre CV_HIST_ARRAY. –uniform: poner a 1 para que el rango de valores en cada celda sea uniforme. –ranges: rango asociado a cada celda de cada dimensión. Para histogramas uniformes, es un array de pares (r min, r max ) y las celdas se reparten uniformemente este rango. Si la imagen es de 8 bits y el rango es (0,..., 255), se puede poner simplemente ranges=NULL. Ejemplo. Crear un histograma con 1 dimensión y 256 celdas: CvHistogram* hist1; int celdas= 256; hist= cvCreateHist(1, &celdas, CV_HIST_ARRAY);

106 Procesamiento Audiovisual 106 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Ejemplo. Crear un histograma con 2 dimensiones y 32 celdas en cada dimensión: CvHistogram* hist2; int celdas[2]= {32, 32}; hist2= cvCreateHist(2, celdas, CV_HIST_ARRAY); Liberar la memoria ocupada por un histograma: void cvReleaseHist (CvHistogram** hist) Calcular el histograma de una imagen: void cvCalcHist (IplImage** img, CvHistogram* hist, int acumulate=0, const CvArr* mask=0) –img: array de imágenes de 1 canal. Deben haber tantas como número de dimensiones del histograma. –acumulate: si se pone a TRUE, no borra el contenido anterior de las celdas. Esto permite obtener histogramas acumulados de varias imágenes. –mask: máscara sobre la que se calculará el histograma.

107 Procesamiento Audiovisual 107 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Esta forma tan particular de calcular el histograma, hace que sea necesario separar los canales de una imagen. Ejemplo 1. Calcular el histograma unidimensional del nivel de gris: IplImage *gris= cvCreateImage(cvGetSize(img), 8, 1); // Ver abajo cvCvtColor(img, gris, CV_RGB2GRAY); cvCalcHist(&gris, hist1, 0); Ejemplo 2. Calcular el histograma bidimensional de los canales R y G: IplImage *planos[3]; planos[0]= cvCreateImage(cvGetSize(img), 8, 1); planos[1]= cvCreateImage(cvGetSize(img), 8, 1); planos[2]= cvCreateImage(cvGetSize(img), 8, 1); cvSplit(src, planos+0, planos+1, planos+2, 0); cvCalcHist(planos, hist2, 0);

108 Procesamiento Audiovisual 108 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Una vez calculado... consultar las celdas del histograma: float cvQueryHistValue_1D (CvHistogram*hist, int idx0) –Para el caso de histogramas unidimensionales. –Realmente no es una función sino un macro. float cvQueryHistValue_2D (CvHistogram*hist, int idx0, int idx1) –Para el caso de histogramas bidimensionales. –De forma similar para histogramas 3D y ND. Obtener un puntero a una celda del histograma: float * cvGetHistValue_1D (CvHistogram*hist, int idx0) –Para el caso de histogramas unidimensionales. –Devuelve un puntero. Esta función será útil si lo que queremos es poder modificar a mano el valor de las celdas. float * cvGetHistValue_2D (CvHistogram*hist, int idx0, int idx1) –Para el caso de histogramas bidimensionales. –De forma similar para histogramas 3D y ND.

109 Procesamiento Audiovisual 109 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Existen otras operaciones interesantes de consulta y manipulación de histogramas. Normalizar un histograma: void cvNormalizeHist (CvHistogram* hist, double factor) –Hace que la suma de todas las celdas del histograma sea factor. –Puede ser interesante para visualizar o comparar histogramas. Obtener máximo y mínimo de un histograma: void cvGetMinMaxHistValue (const CvHistogram* hist, float* minVal, float* maxVal, int* minIdx =0, int* maxIdx =0) –Dado el histograma, calcula el mínimo (minVal), el máximo (maxVal), el índice de la celda mínima (minIdx) y máxima (maxIdx). –Interesante, p.ej., para escalar todas las celdas entre 0 y 1. Ecualizar el histograma de una imagen: void cvEqualizeHist (const CvArr* src, CvArr* dst) –Ojo: la imagen debe ser de 1 solo canal y 8U. No se puede usar para hacer una ecualización conjunta de RGB.

110 Procesamiento Audiovisual 110 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Las tablas de transformación (look-up table, LUT) son tablas que definen funciones discretas de la forma: f: [0...255] → R Esto nos permite construir cualquier curva tonal arbitraria. En OpenCV, una LUT es una matriz de tipo CvMat: CvMat* lut= cvCreateMat(1, 256, CV_8UC3); –1 fila y 256 columnas. Tantos canales como la salida (C1, C3). –La profundidad puede cambiar (8S, 16U, 32F,...) Aplicar una transformación de tabla LUT: CvMat* cvLUT (const CvArr* A, CvArr* B, const CvArr* lut) B(x,y):= lut(A(x,y)) –La imagen A puede tener 1 o varios canales. B y lut deben tener el mismo número y la misma profundidad. –La profundidad de entrada, A, debe ser 8 bits (con o sin signo), y la de salida (en B y en lut) puede ser cualquiera.

111 Procesamiento Audiovisual 111 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Ejemplo 1. Aplicar una ecualización conjunta del histograma a una imagen img (existente) usando CvHist y LUT: IplImage *gris= cvCreateImage(cvGetSize(img), img->depth, 1); cvCvtColor(img, gris, CV_RGB2GRAY); int celdas= 256; CvHistogram* hist1= cvCreateHist(1, &celdas, CV_HIST_ARRAY); cvCalcHist(&gris, hist1); cvNormalizeHist(hist1, 256.0); CvMat *lut= cvCreateMat(1, 256, CV_8UC3); float acum= 0.0; for (int i= 0; i

112 Procesamiento Audiovisual 112 Tema 2. Procesamiento global de imágenes. A.2. Procesamiento global en OpenCV. Ejemplo 2. Media ponderada entre dos imágenes. En un proyecto nuevo, crear un botón y añadir el siguiente código. int peso= 50; IplImage *ent1, *ent2, *sal; void on_trackbar(int nada) { cvAddWeighted(ent1, peso/100.0, ent2, 1.0-peso/100.0, 0, sal); cvShowImage("Imagen", sal); } void MainWindow::on_pushButton_clicked(){ ent1= cvLoadImage("encolor1.bmp", 1); IplImage *tmp= cvLoadImage("encolor2.bmp", 1); if (!ent1 || !tmp) return; ent2= cvCloneImage(ent1); cvResize(tmp, ent2); cvReleaseImage(&tmp); sal= cvCloneImage(ent1); cvNamedWindow("Imagen", 0); cvCreateTrackbar("Peso", "Imagen", &peso, 100, on_trackbar); on_trackbar(50); cvWaitKey(0); cvReleaseImage(&ent1); cvReleaseImage(&ent2); cvReleaseImage(&sal); cvDestroyWindow("Imagen"); } Fuera del slot del botón Dentro del slot del botón