Robot Vision 2012

Experimentos realizados para la 4º edición de la competencia 'Robot Vision Challenge - ImageCLEF'.

Robot Vision 2012 Web Site

Tareas

• experimentos con pirámides espaciales

• usar el detector de transiciones con NGAUSS=64, 128 y 256
• buscar implementaciones y evaluar descriptores RGBD
• ver algunos descriptores de colores

Cosas que vamos a tener que probar

• Aumentar los conjuntos de datos con la versión espejada de las imágenes

• Algún pre-procesamiento para estabilizar el "motion blur" y el "flickering"
  • Debluring:

    • http://www.di.ens.fr/willow/research/deblurring/ (código en matlab)

    • http://grail.cs.washington.edu/projects/mdf_deblurring/

  • Flickering: se puede probar trabajar en aglún espacio de color que sea robusto frente a cambios afines en la iluminación
• Descriptores de colores

  • J. van de Weijer, C. Schmid, J. Verbeek, D. Larlus, Learning Color Names for Real-World Applications, IEEE TIP, 2009.

    http://lear.inrialpes.fr/people/vandeweijer/color_names.html

  • K. van de Sande, T. Gevers and C. Snoek, Evaluating Color Descriptors for Object and Scene Recognition, IEEE TPAMI, 2010

    http://koen.me/research/colordescriptors

Datasets

El dataset está compuesto por 3 conjuntos de entrenamiento, denominados training[1,2,3], los cuales cuentan con 2667, 2532 y 1913 imágenes rgb y de profundidad respectivamente. La media de estos 3 conjuntos es 2371, este sería el máximo score a lograr en promedio cuando testeamos sobre los 3 conjuntos.

Las imágenes corresponden a las habitaciones

Comparación de los set

Imágenes de ejemplo

• En training1 el recorrido del robot es contrario al caso de training[23].
• Las imágenes de training3 son tomadas de noche

Training1

Training2

Training3

Repositorio con los scripts para replicar los experimentos

hg clone https://proyectos.ciii.frc.utn.edu.ar/hg/robot_vision_2012

Estructura de directorios

• RobotVision2012/DS_..._DSIFT_.../

  • trainingX/
    

    trainingX.log
    

    trainingX_lr/
    

    trainingX_lr.log
    

    _PCA_/
    

    • subspace.dat
      

      subspace.log
      

      80D/
      

      • trainingX/
        

        trainingX.log
        

        trainingX_lr/
        

        trainingX_lr.log
        

        _GMM_/
        

        • u64.gmm
          

          u64/
          

          • IFV.../
            

            • trainingX/
              

              trainingX.log
              

              trainingX_lr/
              

              trainingX_lr.log
              

              _SGD_tr12_te3_/
              

              • hinge_20_1e-4/
                

                • Corridor.lin
                  

                hinge_20_1e-4.training3
                

                hinge_20_1e-4.log
                

25 abril 2012

Experimento 1

Configuración

• Descriptores: SIFT sobre grilla regular (DSIFT de vlfeat), patchs 32x32, paso=8, L2-norm., D=128, 5 escalas, factor=0.707
• PCA: subespacio aprendido sobre training1+training2+training3, D=80

• GMM: aprendido sobre training1+training2+training3, para N = 8, 16 y 32

• IFV: gradientes resp. medias y varianzas, alpha=0.5, pnorm=2.0

• SGD: hinge loss, 20, 50 y 100 iteraciones, lambda = 1e-2, 1e-3 y 1e-4, training sobre training1 y testeando sobre training2. La clasificación se realizo con argmax.

Resultados

||1e-2|| 872 || 984 || 928 |||| 886 || 990 || 930 |||| 890 || 992 || 940 ||

experimento_1_25_abril_2012.txt

26 abril 2012

Experimento 1

Configuración

• Igual que el experimento anterior, pero se agrego 64 gaussianas.

• SGD: hinge loss, 20 iteraciones, lambda = 1e-4, training sobre training1 o training2 y testeando siempre sobre training3. La clasificación se realizo con argmax y con thr=-0.1.

Resultados

experimento_1_train1_val3_argmax_26_abril_2012.txt experimento_1_train1_val3_-0.1_26_abril_2012.txt experimento_1_train2_val3_argmax_26_abril_2012.txt experimento_1_train2_val3_-0.1_26_abril_2012.txt

3 mayo 2012

Experimento 1

Se realiza una prueba con distintos valores de DSIFT_STEP (8 y 16) y aumento el conjunto de entrenamiento haciendo un flip left-right de las imágenes antes de calcular DSIFT. Flip=0, indica sin aumentar el conjunto; Flip=1 indica aumentando el conjunto de entrenamiento con las imágenes flipeadas. Al final de este experimento se muestra la configuración que resulta más apropiada.

Configuración

• SGD LBD=1e-4, 20 iteraciones

• Using argmax for classification

Resultados

Flip=0

• DSIFT step=8

• DSIFT step=16

Flip=1

• DSIFT step=8

• DSIFT step=16

results_3_de_mayo_2012.tar.gz

• Configuración: 256 Gaussianas, DSIFT step=8, flip=1

4 mayo 2012

Experimento 1

Se prueba oscureciendo las imágenes de entrenamiento del clasificador. El oscurecimiento se realiza multiplicando las intensidades de los pixeles de las imágenes por un factor menor a 1. Se probo con factores de 0.33 y 0.5. En este experimento no se actualizó el modelo .gmm con los nuevos descriptores con flip y oscurecidos.

Configuración

• SGD LBD=1e-4, 20 iteraciones, 256 Gaussianas, DSIFT step=8, flip=1

• Using argmax for classification

Resultados

5 mayo 2012

Experimento 1

Se prueba oscureciendo las imágenes de entrenamiento del clasificador. El oscurecimiento se realiza multiplicando las intensidades de los pixeles de las imágenes por un factor menor a 1. Se probo con factores de 0.33 y 0.5. En este experimento si se actualizó el modelo .gmm con los nuevos descriptores generados con flip y con oscurecimiento.

Configuración

• SGD LBD=1e-4, 20 iteraciones, 256 Gaussianas, DSIFT step=8, flip=1

• Using argmax for classification

Resultados

7 mayo 2012

Experimento 1

Se prueba utilizando feature augmentation. En este experimento si se actualizó el modelo .gmm con los descriptores generados con flip de las imágenes. Con aug=1 o aug=0 se indica el uso o no de feature augmentation respectivamente.

Configuración

• SGD LBD=1e-4, 20 iteraciones, 64 Gaussianas, DSIFT step=8, flip=[0,1]

• Using argmax for classification

Resultados

• Comparación usando en ambos casos imágenes de entrenamiento originales y flipeadas, pero en el primer caso entrenando el modelo .gmm solo en las imágenes originales (gmm_flip=0) y en el segundo caso utilizando las imágenes originales y las flipeadas (gmm_flip=1). No se usó feature augmentation.

8 mayo 2012

Experimento 1

Se prueba utilizando feature augmentation. En este experimento si se actualizó el modelo .gmm con los descriptores generados con flip de las imágenes. Con aug=1 o aug=0 se indica el uso o no de feature augmentation respectivamente.

Configuración

• SGD LBD=1e-4, 20 iteraciones, 128 Gaussianas, DSIFT step=8, flip=[0,1]

• Using argmax for classification

Resultados

9 mayo 2012

Experimento 1

Se prueba utilizando pirámides espaciales. Las configuraciones usadas son "sp1x1,lsf=0,gsf=0" (spyr=0), "sp1x1,sp1x3,lsf=0,gsf=0" (spyr=1) y "sp1x1,sp1x3,lsf=0.33,gsf=0.33" (spyr=2).

Configuración

• SGD LBD=1e-4, 20 iteraciones, 64 Gaussianas, DSIFT step=8, flip=[0,1]

• Using argmax for classification

Resultados

11 mayo 2012

Experimento 1

Se prueba utilizando opponent SIFT. El software utilizado para calcular los descriptores es colorDescriptor. Estos cálculos se realizaron sobre la notebook de jaarac, por eso pueden variar con los que se calcularon antes.

Configuración

• Descriptor: OPP_SIFT, step=16, sampling_scale=1.6
• SGD LBD=1e-4; 20 iteraciones; 16, 32 y 64 Gaussianas; flip=0

• Using argmax for classification

Resultados

Experimento 2

Se evaluó el detector de transiciones y distintas formas de realizar la clasificación. Con el detector de transiciones no se obtuvieron mejoras, así que los datos no fueron subidos.

Configuración

• Los resultados mostrados son promedios sobre los scores obtenidos para las 3 configuraciones de conjuntos posibles para valores de 64, 128 y 256 gaussianas.
• Descriptor: DSIFT, step=8
• SGD LBD=1e-4; 20 iteraciones; Gaussianas; flip=0

Resultados

• Aplicando un umbral a la diferencia entre el mayor y el segundo mayor score para decidir si clasificamos o no. La clasificación posterior se realizó con argmax. Solamente se muestran umbrales hasta 0.9, porque para umbrales menores los scores son muy bajos. El umbral 0.0 sería el baseline, o sea siempre clasificamos.

• Utilizando un umbral sobre el mayor score de clasificación, para decidir cuando clasificar. Luego se elige la clase del mayor score.

• Utilizando un umbral sobre abs(max_score)/(max_score - secondmax_score) para decidir cuando clasificar.

18 mayo 2012

Experimento 1

Se prueba utilizando el detector de transiciones, pero se generan nuevos conjuntos de entrenamiento a partir de los originales (feature_packer, feature_sampler).

Configuración

• Descriptor: DSIFT, step=8, ;SGD LBD=1e-4, 20 iteraciones; 64, 128 y 256 Gaussianas; flip=0
• Entrenando cls (lbd=1e-4) y td (lbd=1e-2,1e-3,1e-4) sobre training1 y training2. Entrenando cls+td (lbd=1e-2,1e-3,1e-4) sobre los nuevos conjuntos training1 y training2 generados con probabilidad P de sacar un descriptor de la imagen original. Se usaron probabilidades P = 0.3, 0.5, 0.66, 0.75 . El detector de transiciones se uso con thr = 0.7, 0.8, 0.9 .

• Using argmax for classification

Resultados

Resultados para las condiciones que resultaron más favorables, esto es:

• cls_sgd_lbd = 1e-4
• td_sgd_lbd = 1e-2
• cls+td_sgd_lbd = 1e-2
• P = 0.75
• thr = 0.8

Resultados para otras condiciones:

• cls_sgd_lbd = 1e-4
• td_sgd_lbd = 1e-4
• cls+td_sgd_lbd = 1e-4
• P = 0.75
• thr = 0.8

En el siguiente archivo están todos los resultados. Los archivos *_with_td.txt contienen los resultados usando TD y los otros archivos el baseline. Hay un archivo para cada configuración de conjuntos de training y test. Las datos están organizados de la siguiente forma:

results_18_mayo_2012.tar.gz

29 mayo 2012

Experimento 1

Se realizan nuevamente los experimentos porque hubo errores con las etiquetas entregadas por los organizadores. También se muestran los resultados usando SIFT sobre las imágenes de profundidad.

Configuración

• Descriptor RGB: DSIFT, step=8, image_presc=1, dsift_fs=0.707, dsift_ns=5
• Descriptor Depth: DSIFT, step=8, image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 64, 128 y 256 Gaussianas; flip=0

• Using argmax for classification

Resultados

30 mayo 2012

Experimento 1

Resultados usando SIFT sobre las imágenes de profundidad usando image_presc=0.5 e image_presc=1.0.

Configuración

• Descriptor Depth: DSIFT, step=8, image_presc=[0.5, 1.0], dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 64, 128, 256 y 512 Gaussianas; flip=0

• Using argmax for classification

Resultados

Experimento 2

Late fusion sobre RGB y Depth. Comparación usando image_presc=[0.5,1.0]

Configuración

• Descriptor RGB: DSIFT, step=8, image_presc=1, dsift_fs=0.707, dsift_ns=5
• Descriptor Depth: DSIFT, step=8, image_presc=[0.5,1.0], dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 64, 128 y 256 Gaussianas; flip=0

• Using argmax for classification

• Late fusion: w=0.5

Resultados

31 mayo 2012

Experimento 1

Resultados usando SIFT sobre las imágenes de profundidad usando step=4 y step=8.

Configuración

• Descriptor Depth: DSIFT, step=[4,8], image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 256 Gaussianas; flip=0

• Using argmax for classification

Resultados

Experimento 2

Late fusion sobre RGB y Depth. Comparación usando step=[4,8] para las imágenes de profundidad.

Configuración

• Descriptor RGB: DSIFT, step=8, image_presc=1, dsift_fs=0.707, dsift_ns=5
• Descriptor Depth: DSIFT, step=[4,8], image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 256 Gaussianas; flip=0

• Using argmax for classification

• Late fusion: w=0.5

Resultados

1 junio 2012

Experimento 1

Late fusion sobre RGB y Depth ambos con flip=1.

Configuración

• Descriptor RGB: DSIFT, step=8, image_presc=1, dsift_fs=0.707, dsift_ns=5
• Descriptor Depth: DSIFT, step=4, image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 256, 512 y 1024 Gaussianas; flip=1
• Late fusion: w=0.5

Resultados usando argmax

Resultados usando un thr y no argmax

• Se utilizó un thresold para decidir si se clasifica o no. Se muestra con argmax para comparar.

4 junio 2012

Experimento 1

Comparación DSIFT sobre imágenes RGB usando step=[4,8] y image_presc=[0.5,1.0] con flip=1.

Configuración

• Descriptor RGB: DSIFT, step=[4,8], image_presc=[0.5,1.0], dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 256, 512 y 1024 Gaussianas; flip=1

• Using argmax for classification

Resultados usando argmax

Experimento 2

Late fusion sobre RGB y Depth ambos con flip=1.

Configuración

• Descriptor RGB: DSIFT, step=4, image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• Descriptor Depth: DSIFT, step=4, image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 256, 512 y 1024 Gaussianas; flip=1
• Late fusion: w=0.5

Resultados usando argmax

Resultados usando un thr y no argmax

• Se utilizó un thresold para decidir si se clasifica o no. Se muestra con argmax para comparar.

13 junio 2012

Experimento 1

Resultados para la tarea 2. Se proponen cuatro variantes todas ellas basadas en la segmentación temporal de las secuencias de imágenes utilizando el producto punto entre vectores de fisher. El producto punto entre vectores de fisher es una buena medida de similitud entre imágenes. El procedimiento para segmentar fue: se agarra el primer vector y se empieza a calcular el producto punto de este primer vector con los vectores siguientes en la secuencia temporal, cuando ese producto supera un threshold se obtiene un segmento. Luego se elige nuevamente como primer vector el siguiente de la secuencia y se realiza nuevamente el procedimiento descripto anteriormente.

Para calcular los segmentos se utilizaron los vectores de fisher obtenidos de las imágenes de RGB debido a que con estas se obtenían en promedio segmentos más largos en comparación con los obtenidos usando los ifv de imágenes de profundidad.

Configuración

• Descriptor RGB: DSIFT, step=4, image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• Descriptor Depth: DSIFT, step=4, image_presc=0.5, dsift_fs=0.707, dsift_ns=5
• SGD LBD=1e-4, 20 iteraciones; 1024 Gaussianas; flip=1
• Late fusion: w=0.5
• Se prueban 4 configuraciones, MV (mayor votación), MS (mayor score), MC (mayor confidencialidad) y MST (mayor score y threshold).
  • MV: calculamos la moda del segmento, luego asignamos esa clase a todo el segmento
  • MS: buscamos el score máximo de todo el segmento para cualquier clase y luego asignamos la clase de ese score a toda la secuencia
  • MC: buscamos la clase con más confidencialidad en todo el segmento y luego asignamos esa clase a toda la secuencia
  • MST: buscamos el score máximo de todo el segmento para cualquier clase y pero luego asignamos la clase de ese score a toda la secuencia solo en caso de que ese score esté por encima de un threshold
  • La confidencialidad se calculo como la diferencia entre el score más grande y el segundo score más grande.

Resultados

Experimento 2

Igual que en experimento 1, pero usando los vectores de fisher calculados sobre las imágenes de depth para realizar la segmentación.

Resultados