Robot Vision 2012

Experimentos realizados para la 4º edición de la competencia 'Robot Vision Challenge - ImageCLEF'.

Robot Vision 2012 Web Site

Gacetilla de Prensa

Un equipo representante del Centro de Investigación en Informática para la Ingeniería de la UTN FRC ha resultado ganador de la cuarta edición del "Robot Vision Challenge", la cual se realizó entre marzo y junio del 2012.

El "Robot Vision Challenge" es una Competencia Internacional de Visión Robótica, abierta al público en general, en la cual participan distintas Universidades y empresas del mundo dedicadas al desarrollo de algoritmos de Visión por Computadora. La edición 2012 fue organizada por el Instituto de Investigación IDIAP de Suiza y la Universidad de Castilla-La Mancha de España en el marco de la Conferencia CLEF 2012 a desarrollarse en Roma, Italia.

La competencia consistió en la realización de un programa de computadora capaz de clasificar las habitaciones de un edificio de oficinas recorrido por un robot, basándose en las imágenes adquiridas con una cámara y un sensor de profundidad montados sobre el mismo.

En esta edición de la competencia hubo 2 tareas, en las cuales se debía responder (basándose en imágenes) a la pregunta: ¿en que habitación se encuentra el robot?. En la primera tarea las imágenes a clasificar estaban desordenadas temporalmente, en cambio en la segunda estaban ordenadas, lo cual significa que si en la imagen actual el robot se encuentra en la habitación "oficina" es muy probable que en la siguiente imagen el robot se encuentra en la misma habitación ("oficina").

El equipo bautizado "CIII UTN FRC", integrado por el Doctor Jorge Sánchez y Ingeniero Javier Redolfi resultó ganador en ambas tareas, logrando una diferencia de 254 puntos en la tarea 1 y de 5 puntos en la tarea 2 con respecto al segundo equipo.

Para más información, visitar la página http://www.imageclef.org/2012/robot en donde se puede encontrar una descripción detallada de la competencia y la tabla completa de resultados de la misma.

Datasets

El dataset está compuesto por 3 conjuntos de entrenamiento, denominados training[1,2,3], los cuales cuentan con 2667, 2532 y 1913 imágenes rgb y de profundidad respectivamente. La media de estos 3 conjuntos es 2371, este sería el máximo score a lograr en promedio cuando testeamos sobre los 3 conjuntos.

Las imágenes corresponden a las habitaciones

Comparación de los set

Imágenes de ejemplo

• En training1 el recorrido del robot es contrario al caso de training[23].
• Las imágenes de training3 son tomadas de noche

Training1

Training2

Training3

Repositorio con los scripts para replicar los experimentos

hg clone https://proyectos.ciii.frc.utn.edu.ar/hg/robot_vision_2012

25 abril 2012

Experimento 1

Configuración

• Descriptores: SIFT sobre grilla regular (DSIFT de vlfeat), patchs 32x32, paso=8, L2-norm., D=128, 5 escalas, factor=0.707
• PCA: subespacio aprendido sobre training1+training2+training3, D=80

• GMM: aprendido sobre training1+training2+training3, para N = 8, 16 y 32

• IFV: gradientes resp. medias y varianzas, alpha=0.5, pnorm=2.0

• SGD: hinge loss, 20, 50 y 100 iteraciones, lambda = 1e-2, 1e-3 y 1e-4, training sobre training1 y testeando sobre training2. La clasificación se realizo con argmax.

Resultados

||1e-2|| 872 || 984 || 928 |||| 886 || 990 || 930 |||| 890 || 992 || 940 ||

experimento_1_25_abril_2012.txt

26 abril 2012

Experimento 1

Configuración

• Igual que el experimento anterior, pero se agrego 64 gaussianas.

• SGD: hinge loss, 20 iteraciones, lambda = 1e-4, training sobre training1 o training2 y testeando siempre sobre training3. La clasificación se realizo con argmax y con thr=-0.1.

Resultados

experimento_1_train1_val3_argmax_26_abril_2012.txt experimento_1_train1_val3_-0.1_26_abril_2012.txt experimento_1_train2_val3_argmax_26_abril_2012.txt experimento_1_train2_val3_-0.1_26_abril_2012.txt

3 mayo 2012

Experimento 1

Se realiza una prueba con distintos valores de DSIFT_STEP (8 y 16) y aumento el conjunto de entrenamiento haciendo un flip left-right de las imágenes antes de calcular DSIFT. Flip=0, indica sin aumentar el conjunto; Flip=1 indica aumentando el conjunto de entrenamiento con las imágenes flipeadas. Al final de este experimento se muestra la configuración que resulta más apropiada.

Configuración

• SGD LBD=1e-4, 20 iteraciones

• Using argmax for classification

Resultados

Flip=0

• DSIFT step=8

• DSIFT step=16

Flip=1

• DSIFT step=8

• DSIFT step=16

results_3_de_mayo_2012.tar.gz

• Configuración: 256 Gaussianas, DSIFT step=8, flip=1

4 mayo 2012

Experimento 1

Se prueba oscureciendo las imágenes de entrenamiento del clasificador. El oscurecimiento se realiza multiplicando las intensidades de los pixeles de las imágenes por un factor menor a 1. Se probo con factores de 0.33 y 0.5. En este experimento no se actualizó el modelo .gmm con los nuevos descriptores con flip y oscurecidos.

Configuración

• SGD LBD=1e-4, 20 iteraciones, 256 Gaussianas, DSIFT step=8, flip=1

• Using argmax for classification

Resultados

5 mayo 2012

Experimento 1

Se prueba oscureciendo las imágenes de entrenamiento del clasificador. El oscurecimiento se realiza multiplicando las intensidades de los pixeles de las imágenes por un factor menor a 1. Se probo con factores de 0.33 y 0.5. En este experimento si se actualizó el modelo .gmm con los nuevos descriptores generados con flip y con oscurecimiento.

Configuración

• SGD LBD=1e-4, 20 iteraciones, 256 Gaussianas, DSIFT step=8, flip=1

• Using argmax for classification

Resultados

7 mayo 2012

Experimento 1

Se prueba utilizando feature augmentation. En este experimento si se actualizó el modelo .gmm con los descriptores generados con flip de las imágenes. Con aug=1 o aug=0 se indica el uso o no de feature augmentation respectivamente.

Configuración

• SGD LBD=1e-4, 20 iteraciones, 64 Gaussianas, DSIFT step=8, flip=[0,1]

• Using argmax for classification

Resultados

• Comparación usando en ambos casos imágenes de entrenamiento originales y flipeadas, pero en el primer caso entrenando el modelo .gmm solo en las imágenes originales (gmm_flip=0) y en el segundo caso utilizando las imágenes originales y las flipeadas (gmm_flip=1). No se usó feature augmentation.

8 mayo 2012

Experimento 1

Se prueba utilizando feature augmentation. En este experimento si se actualizó el modelo .gmm con los descriptores generados con flip de las imágenes. Con aug=1 o aug=0 se indica el uso o no de feature augmentation respectivamente.

Configuración

• SGD LBD=1e-4, 20 iteraciones, 128 Gaussianas, DSIFT step=8, flip=[0,1]

• Using argmax for classification

Resultados

9 mayo 2012

Experimento 1

Se prueba utilizando pirámides espaciales. Las configuraciones usadas son "sp1x1,lsf=0,gsf=0" (spyr=0), "sp1x1,sp1x3,lsf=0,gsf=0" (spyr=1) y "sp1x1,sp1x3,lsf=0.33,gsf=0.33" (spyr=2).

Configuración

• SGD LBD=1e-4, 20 iteraciones, 64 Gaussianas, DSIFT step=8, flip=[0,1]

• Using argmax for classification

Resultados

11 mayo 2012

Experimento 1

Se prueba utilizando opponent SIFT. El software utilizado para calcular los descriptores es colorDescriptor. Estos cálculos se realizaron sobre la notebook de jaarac, por eso pueden variar con los que se calcularon antes.

Configuración

• Descriptor: OPP_SIFT, step=16, sampling_scale=1.6
• SGD LBD=1e-4; 20 iteraciones; 16, 32 y 64 Gaussianas; flip=0

• Using argmax for classification

Resultados

Experimento 2

Se evaluó el detector de transiciones y distintas formas de realizar la clasificación. Con el detector de transiciones no se obtuvieron mejoras, así que los datos no fueron subidos.

Configuración

• Los resultados mostrados son promedios sobre los scores obtenidos para las 3 configuraciones de conjuntos posibles para valores de 64, 128 y 256 gaussianas.
• Descriptor: DSIFT, step=8
• SGD LBD=1e-4; 20 iteraciones; Gaussianas; flip=0

Resultados

• Aplicando un umbral a la diferencia entre el mayor y el segundo mayor score para decidir si clasificamos o no. La clasificación posterior se realizó con argmax. Solamente se muestran umbrales hasta 0.9, porque para umbrales menores los scores son muy bajos. El umbral 0.0 sería el baseline, o sea siempre clasificamos.

• Utilizando un umbral sobre el mayor score de clasificación, para decidir cuando clasificar. Luego se elige la clase del mayor score.

• Utilizando un umbral sobre abs(max_score)/(max_score - secondmax_score) para decidir cuando clasificar.

18 mayo 2012

Experimento 1

Se prueba utilizando el detector de transiciones, pero se generan nuevos conjuntos de entrenamiento a partir de los originales (feature_packer, feature_sampler).

Configuración

• Descriptor: DSIFT, step=8, ;SGD LBD=1e-4, 20 iteraciones; 64, 128 y 256 Gaussianas; flip=0
• Entrenando cls (lbd=1e-4) y td (lbd=1e-2,1e-3,1e-4) sobre training1 y training2. Entrenando cls+td (lbd=1e-2,1e-3,1e-4) sobre los nuevos conjuntos training1 y training2 generados con probabilidad P de sacar un descriptor de la imagen original. Se usaron probabilidades P = 0.3, 0.5, 0.66, 0.75 . El detector de transiciones se uso con thr = 0.7, 0.8, 0.9 .

• Using argmax for classification

Resultados

Resultados para las condiciones que resultaron más favorables, esto es:

• cls_sgd_lbd = 1e-4
• td_sgd_lbd = 1e-2
• cls+td_sgd_lbd = 1e-2
• P = 0.75
• thr = 0.8

Resultados para otras condiciones:

• cls_sgd_lbd = 1e-4
• td_sgd_lbd = 1e-4
• cls+td_sgd_lbd = 1e-4
• P = 0.75
• thr = 0.8

En el siguiente archivo están todos los resultados. Los archivos *_with_td.txt contienen los resultados usando TD y los otros archivos el baseline. Hay un archivo para cada configuración de conjuntos de training y test. Las datos están organizados de la siguiente forma:

results_18_mayo_2012.tar.gz

29 mayo 2012

Experimento 1

Se realizan nuevamente los experimentos porque hubo errores con las etiquetas entregadas por los organizadores. También se muestran los resultados usando SIFT sobre las imágenes de profundidad.

Configuración

• Descriptor RGB: DSIFT, step=8, image_presc=1, dsift_fs=0.707, dsift_ns=5
• Descriptor Depth: DSIFT, step=8, image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 64, 128 y 256 Gaussianas; flip=0

• Using argmax for classification

Resultados

30 mayo 2012

Experimento 1

Resultados usando SIFT sobre las imágenes de profundidad usando image_presc=0.5 e image_presc=1.0.

Configuración

• Descriptor Depth: DSIFT, step=8, image_presc=[0.5, 1.0], dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 64, 128, 256 y 512 Gaussianas; flip=0

• Using argmax for classification

Resultados

Experimento 2

Late fusion sobre RGB y Depth. Comparación usando image_presc=[0.5,1.0]

Configuración

• Descriptor RGB: DSIFT, step=8, image_presc=1, dsift_fs=0.707, dsift_ns=5
• Descriptor Depth: DSIFT, step=8, image_presc=[0.5,1.0], dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 64, 128 y 256 Gaussianas; flip=0

• Using argmax for classification

• Late fusion: w=0.5

Resultados

31 mayo 2012

Experimento 1

Resultados usando SIFT sobre las imágenes de profundidad usando step=4 y step=8.

Configuración

• Descriptor Depth: DSIFT, step=[4,8], image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 256 Gaussianas; flip=0

• Using argmax for classification

Resultados

Experimento 2

Late fusion sobre RGB y Depth. Comparación usando step=[4,8] para las imágenes de profundidad.

Configuración

• Descriptor RGB: DSIFT, step=8, image_presc=1, dsift_fs=0.707, dsift_ns=5
• Descriptor Depth: DSIFT, step=[4,8], image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 256 Gaussianas; flip=0

• Using argmax for classification

• Late fusion: w=0.5

Resultados

1 junio 2012

Experimento 1

Late fusion sobre RGB y Depth ambos con flip=1.

Configuración

• Descriptor RGB: DSIFT, step=8, image_presc=1, dsift_fs=0.707, dsift_ns=5
• Descriptor Depth: DSIFT, step=4, image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 256, 512 y 1024 Gaussianas; flip=1
• Late fusion: w=0.5

Resultados usando argmax

Resultados usando un thr y no argmax

• Se utilizó un thresold para decidir si se clasifica o no. Se muestra con argmax para comparar.

4 junio 2012

Experimento 1

Comparación DSIFT sobre imágenes RGB usando step=[4,8] y image_presc=[0.5,1.0] con flip=1.

Configuración

• Descriptor RGB: DSIFT, step=[4,8], image_presc=[0.5,1.0], dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 256, 512 y 1024 Gaussianas; flip=1

• Using argmax for classification

Resultados usando argmax

Experimento 2

Late fusion sobre RGB y Depth ambos con flip=1.

Configuración

• Descriptor RGB: DSIFT, step=4, image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• Descriptor Depth: DSIFT, step=4, image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 256, 512 y 1024 Gaussianas; flip=1
• Late fusion: w=0.5

Resultados usando argmax

Resultados usando un thr y no argmax

• Se utilizó un thresold para decidir si se clasifica o no. Se muestra con argmax para comparar.

13 junio 2012

Experimento 1

Resultados para la tarea 2. Se proponen cuatro variantes todas ellas basadas en la segmentación temporal de las secuencias de imágenes utilizando el producto punto entre vectores de fisher. El producto punto entre vectores de fisher es una buena medida de similitud entre imágenes. El procedimiento para segmentar fue: se agarra el primer vector y se empieza a calcular el producto punto de este primer vector con los vectores siguientes en la secuencia temporal, cuando ese producto supera un threshold se obtiene un segmento. Luego se elige nuevamente como primer vector el siguiente de la secuencia y se realiza nuevamente el procedimiento descripto anteriormente.

Para calcular los segmentos se utilizaron los vectores de fisher obtenidos de las imágenes de RGB debido a que con estas se obtenían en promedio segmentos más largos en comparación con los obtenidos usando los ifv de imágenes de profundidad.

Configuración

• Descriptor RGB: DSIFT, step=4, image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• Descriptor Depth: DSIFT, step=4, image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 1024 Gaussianas; flip=1
• Late fusion: w=0.5
• Se prueban 4 configuraciones, MV (mayor votación), MS (mayor score), MC (mayor confidencialidad) y MST (mayor score y threshold).
  • MV: calculamos la moda del segmento, luego asignamos esa clase a todo el segmento
  • MS: buscamos el score máximo de todo el segmento para cualquier clase y luego asignamos la clase de ese score a toda la secuencia
  • MC: buscamos la clase con más confidencialidad en todo el segmento y luego asignamos esa clase a toda la secuencia
  • MST: buscamos el score máximo de todo el segmento para cualquier clase y pero luego asignamos la clase de ese score a toda la secuencia solo en caso de que ese score esté por encima de un threshold
  • La confidencialidad se calculo como la diferencia entre el score más grande y el segundo score más grande.

Resultados

Experimento 2

Igual que en experimento 1, pero usando los vectores de fisher calculados sobre las imágenes de depth para realizar la segmentación.

Resultados

Experimento 3

Igual que en experimento 1 y 2, pero usando el promedio del producto punto de los vectores de fisher calculados sobre las imágenes de rgb y depth para realizar la segmentación.

Resultados

Versión final

Task 2 #1: MCT, classification threshold=-0.4, segmentation (on DEPTH) threshold=0.1
Task 2 #2: MVT, classification threshold=-0.4, segmentation (on DEPTH) threshold=0.1

2 julio 2012

Tiempos de Cálculo

Offline

• PCA
• GMM
  • RGB
    • NGAUSS = 1024
    • Num. muestras = 1000076
    • Tiempo total = 1 hora 9 min 41 seg
  • Depth
    • NGAUSS = 1024
    • Num. muestras = 1000076
    • Tiempo total = 1 hora 53 min 49 seg
• Entrenamiento del clasificador
  • Realizado sobre los conjuntos training[123]
  • Num. muestras = 14224
  • Tiempo total rgb = 39 min 11 seg
  • Tiempo total depth = 48 min 47 seg

Online

• DSIFT + Proyección PCA
  • Test 1
    • Num. muestras = 2445
    • Tiempo total rgb = 9 min 7 seg
    • Tiempo promedio rgb = 224 mseg
    • Tiempo total depth = 9 min 48 seg
    • Tiempo promedio depth = 241 mseg
  • Test 2
    • Num. muestras = 4023
    • Tiempo total rgb = 16 min 2 seg
    • Tiempo promedio rgb = 239 mseg
    • Tiempo total depth = 16 min 29 seg
    • Tiempo promedio depth = 246 mseg
• Vectores de Fisher
  • Test 1
    • Número de muestras = 2445
    • Tiempo total rgb = 22 min 48 seg
    • Tiempo promedio rgb = 560 mseg
    • Tiempo total depth = 23 min 21 seg
    • Tiempo promedio depth = 573 mseg
  • Test 2
    • Número de muestras = 4023
    • Tiempo total rgb = 37 min 20 seg
    • Tiempo promedio rgb = 557 mseg
    • Tiempo total depth = 39 min 38 seg
    • Tiempo promedio depth = 591 mseg
• Clasificación
  • Test 1
    • Número de muestras = 2445
    • Tiempo total rgb = 9 seg
    • Tiempo promedio rgb = 3.68 mseg
    • Tiempo total depth = 21 seg
    • Tiempo promedio depth = 8.59 mseg
  • Test 2
    • Número de muestras = 4023
    • Tiempo total rgb = 11 seg
    • Tiempo promedio rgb = 2.73 mseg
    • Tiempo total depth = 11 seg
    • Tiempo promedio depth = 2.73 mseg