Evaluation - Task 2 - Social-TV corpus 1948 aspects in qrel, 1947 aspects in run. Accuracy: 0.627 Confusion matrix Actual Pred # Afición-N Afición-N 14 Afición-N Afición-P 10 Afición-N Afición-NEU 10 Afición-NEU Afición-NEU 10 Afición-NEU Afición-N 7 Afición-NEU Afición-P 7 Afición-P Afición-P 23 Afición-P Afición-NEU 7 Afición-P Afición-N 7 Arbitro-N Arbitro-NEU 3 Arbitro-NEU Arbitro-NEU 3 Arbitro-P Arbitro-P 1 Arbitro-P Arbitro-NEU 1 Arbitro-P Arbitro-N 1 Autoridades-N Autoridades-N 2 Autoridades-N Autoridades-NEU 2 Autoridades-N Autoridades-P 2 Autoridades-NEU Autoridades-P 4 Autoridades-NEU Autoridades-NEU 3 Autoridades-NEU Autoridades-N 2 Autoridades-P Autoridades-NEU 1 Entrenador-N Entrenador-N 41 Entrenador-N Entrenador-NEU 2 Entrenador-N Entrenador-P 1 Entrenador-NEU Entrenador-N 8 Entrenador-NEU Entrenador-NEU 4 Entrenador-NEU Entrenador-P 1 Entrenador-P Entrenador-NEU 7 Entrenador-P Entrenador-N 8 Entrenador-P Entrenador-P 2 Equipo-Atlético_de_Madrid-P Equipo-Atlético_de_Madrid-P 1 Equipo-Barcelona-N Equipo-Barcelona-N 68 Equipo-Barcelona-N Equipo-Barcelona-NEU 43 Equipo-Barcelona-N Equipo-Barcelona-P 11 Equipo-Barcelona-N ? 1 Equipo-Barcelona-NEU Equipo-Barcelona-N 50 Equipo-Barcelona-NEU Equipo-Barcelona-NEU 49 Equipo-Barcelona-NEU Equipo-Barcelona-P 5 Equipo-Barcelona-P Equipo-Barcelona-NEU 12 Equipo-Barcelona-P Equipo-Barcelona-P 15 Equipo-Barcelona-P Equipo-Barcelona-N 19 Equipo-NEU Equipo-N 3 Equipo-NEU Equipo-P 6 Equipo-NEU Equipo-NEU 4 Equipo-P Equipo-P 4 Equipo-P Equipo-NEU 1 Equipo-P Equipo-N 1 Equipo-Real_Madrid-N Equipo-Real_Madrid-N 2 Equipo-Real_Madrid-N Equipo-Real_Madrid-NEU 3 Equipo-Real_Madrid-N Equipo-Real_Madrid-P 3 Equipo-Real_Madrid-NEU Equipo-Real_Madrid-P 62 Equipo-Real_Madrid-NEU Equipo-Real_Madrid-NEU 13 Equipo-Real_Madrid-P Equipo-Real_Madrid-P 263 Equipo-Real_Madrid-P Equipo-Real_Madrid-NEU 47 Equipo-Real_Madrid-P Equipo-Real_Madrid-N 6 Jugador-Alexis_Sánchez-N Jugador-Alexis_Sánchez-NEU 1 Jugador-Alexis_Sánchez-NEU Jugador-Alexis_Sánchez-NEU 2 Jugador-Alexis_Sánchez-NEU Jugador-Alexis_Sánchez-N 1 Jugador-Alexis_Sánchez-P Jugador-Alexis_Sánchez-N 1 Jugador-Alvaro_Arbeloa-NEU Jugador-Alvaro_Arbeloa-N 1 Jugador-Alvaro_Arbeloa-P Jugador-Alvaro_Arbeloa-N 1 Jugador-Alvaro_Arbeloa-P Jugador-Alvaro_Arbeloa-NEU 1 Jugador-Andrés_Iniesta-NEU Jugador-Andrés_Iniesta-N 1 Jugador-Andrés_Iniesta-P Jugador-Andrés_Iniesta-P 2 Jugador-Andrés_Iniesta-P Jugador-Andrés_Iniesta-N 1 Jugador-Angel_Di_María-NEU Jugador-Angel_Di_María-NEU 4 Jugador-Angel_Di_María-NEU Jugador-Angel_Di_María-P 2 Jugador-Angel_Di_María-NEU Jugador-Angel_Di_María-N 1 Jugador-Angel_Di_María-P Jugador-Angel_Di_María-P 15 Jugador-Angel_Di_María-P Jugador-Angel_Di_María-NEU 2 Jugador-Asier_Ilarramendi-NEU Jugador-Asier_Ilarramendi-NEU 1 Jugador-Asier_Ilarramendi-NEU Jugador-Asier_Ilarramendi-P 1 Jugador-Asier_Ilarramendi-P Jugador-Asier_Ilarramendi-P 1 Jugador-Carles_Puyol-N Jugador-Carles_Puyol-N 1 Jugador-Carles_Puyol-N Jugador-Carles_Puyol-NEU 1 Jugador-Carles_Puyol-NEU Jugador-Carles_Puyol-P 1 Jugador-Carles_Puyol-P Jugador-Carles_Puyol-P 2 Jugador-Carles_Puyol-P Jugador-Carles_Puyol-N 2 Jugador-Cesc_Fábregas-N Jugador-Cesc_Fábregas-N 4 Jugador-Cesc_Fábregas-NEU Jugador-Cesc_Fábregas-N 1 Jugador-Cesc_Fábregas-NEU Jugador-Cesc_Fábregas-NEU 1 Jugador-Cristiano_Ronaldo-N Jugador-Cristiano_Ronaldo-NEU 9 Jugador-Cristiano_Ronaldo-N Jugador-Cristiano_Ronaldo-P 2 Jugador-Cristiano_Ronaldo-NEU Jugador-Cristiano_Ronaldo-NEU 47 Jugador-Cristiano_Ronaldo-NEU Jugador-Cristiano_Ronaldo-N 3 Jugador-Cristiano_Ronaldo-P Jugador-Cristiano_Ronaldo-P 6 Jugador-Cristiano_Ronaldo-P Jugador-Cristiano_Ronaldo-NEU 3 Jugador-Dani_Alves-N Jugador-Dani_Alves-N 18 Jugador-Dani_Alves-N Jugador-Dani_Alves-NEU 2 Jugador-Dani_Alves-N Jugador-Dani_Alves-P 3 Jugador-Dani_Alves-NEU Jugador-Dani_Alves-N 3 Jugador-Dani_Alves-P Jugador-Dani_Alves-N 1 Jugador-Dani_Carvajal-N Jugador-Dani_Carvajal-P 1 Jugador-Dani_Carvajal-P Jugador-Dani_Carvajal-P 2 Jugador-Fábio_Coentrão-N Jugador-Fábio_Coentrão-P 1 Jugador-Fábio_Coentrão-NEU Jugador-Fábio_Coentrão-N 1 Jugador-Gareth_Bale-N Jugador-Gareth_Bale-P 4 Jugador-Gareth_Bale-NEU Jugador-Gareth_Bale-N 2 Jugador-Gareth_Bale-NEU Jugador-Gareth_Bale-P 21 Jugador-Gareth_Bale-NEU Jugador-Gareth_Bale-NEU 2 Jugador-Gareth_Bale-P Jugador-Gareth_Bale-P 122 Jugador-Gareth_Bale-P Jugador-Gareth_Bale-NEU 9 Jugador-Iker_Casillas-N Jugador-Iker_Casillas-P 3 Jugador-Iker_Casillas-N Jugador-Iker_Casillas-NEU 1 Jugador-Iker_Casillas-NEU Jugador-Iker_Casillas-P 2 Jugador-Iker_Casillas-NEU Jugador-Iker_Casillas-NEU 2 Jugador-Iker_Casillas-P Jugador-Iker_Casillas-P 16 Jugador-Iker_Casillas-P Jugador-Iker_Casillas-NEU 4 Jugador-Isco-NEU Jugador-Isco-NEU 1 Jugador-Isco-NEU Jugador-Isco-P 3 Jugador-Isco-NEU Jugador-Isco-N 1 Jugador-Isco-P Jugador-Isco-P 10 Jugador-Isco-P Jugador-Isco-NEU 2 Jugador-Javier_Mascherano-N Jugador-Javier_Mascherano-N 1 Jugador-Javier_Mascherano-NEU Jugador-Javier_Mascherano-N 2 Jugador-Javier_Mascherano-P Jugador-Javier_Mascherano-N 1 Jugador-Jesé_Rodríguez-NEU Jugador-Jesé_Rodríguez-P 1 Jugador-Jesé_Rodríguez-NEU Jugador-Jesé_Rodríguez-NEU 1 Jugador-Jesé_Rodríguez-P Jugador-Jesé_Rodríguez-P 2 Jugador-José_Manuel_Pinto-N Jugador-José_Manuel_Pinto-N 15 Jugador-José_Manuel_Pinto-N Jugador-José_Manuel_Pinto-P 1 Jugador-José_Manuel_Pinto-NEU Jugador-José_Manuel_Pinto-N 5 Jugador-José_Manuel_Pinto-P Jugador-José_Manuel_Pinto-N 2 Jugador-José_Manuel_Pinto-P Jugador-José_Manuel_Pinto-P 2 Jugador-Karim_Benzema-NEU Jugador-Karim_Benzema-P 2 Jugador-Karim_Benzema-NEU Jugador-Karim_Benzema-NEU 1 Jugador-Karim_Benzema-P Jugador-Karim_Benzema-P 4 Jugador-Lionel_Messi-N Jugador-Lionel_Messi-N 82 Jugador-Lionel_Messi-N Jugador-Lionel_Messi-P 3 Jugador-Lionel_Messi-NEU Jugador-Lionel_Messi-N 23 Jugador-Lionel_Messi-NEU Jugador-Lionel_Messi-NEU 1 Jugador-Lionel_Messi-P Jugador-Lionel_Messi-N 12 Jugador-Luka_Modric-NEU Jugador-Luka_Modric-NEU 1 Jugador-Luka_Modric-P Jugador-Luka_Modric-P 2 Jugador-Marc_Bartra-N Jugador-Marc_Bartra-N 6 Jugador-Marc_Bartra-N Jugador-Marc_Bartra-NEU 1 Jugador-Marc_Bartra-N Jugador-Marc_Bartra-P 1 Jugador-Marc_Bartra-NEU Jugador-Marc_Bartra-N 4 Jugador-Marc_Bartra-NEU Jugador-Marc_Bartra-NEU 1 Jugador-Marc_Bartra-P Jugador-Marc_Bartra-P 7 Jugador-Marc_Bartra-P Jugador-Marc_Bartra-N 3 Jugador-Marc_Bartra-P Jugador-Marc_Bartra-NEU 1 Jugador-N Jugador-P 3 Jugador-N Jugador-N 8 Jugador-NEU Jugador-P 6 Jugador-NEU Jugador-NEU 6 Jugador-NEU Jugador-N 1 Jugador-Neymar_Jr.-N Jugador-Neymar_Jr.-N 22 Jugador-Neymar_Jr.-N Jugador-Neymar_Jr.-NEU 5 Jugador-Neymar_Jr.-NEU Jugador-Neymar_Jr.-N 12 Jugador-Neymar_Jr.-NEU Jugador-Neymar_Jr.-NEU 3 Jugador-Neymar_Jr.-P Jugador-Neymar_Jr.-N 5 Jugador-Neymar_Jr.-P Jugador-Neymar_Jr.-P 1 Jugador-Neymar_Jr.-P Jugador-Neymar_Jr.-NEU 1 Jugador-P Jugador-NEU 3 Jugador-P Jugador-P 12 Jugador-P Jugador-N 2 Jugador-Pedro_Rodríguez-N Jugador-Pedro_Rodríguez-NEU 1 Jugador-Pedro_Rodríguez-NEU Jugador-Pedro_Rodríguez-NEU 1 Jugador-Pedro_Rodríguez-P Jugador-Pedro_Rodríguez-NEU 1 Jugador-Pepe-N Jugador-Pepe-P 2 Jugador-Pepe-N Jugador-Pepe-N 1 Jugador-Pepe-NEU Jugador-Pepe-NEU 1 Jugador-Pepe-P Jugador-Pepe-P 3 Jugador-Sergio_Busquets-N Jugador-Sergio_Busquets-P 1 Jugador-Sergio_Ramos-N Jugador-Sergio_Ramos-NEU 20 Jugador-Sergio_Ramos-N Jugador-Sergio_Ramos-N 38 Jugador-Sergio_Ramos-N Jugador-Sergio_Ramos-P 4 Jugador-Sergio_Ramos-NEU Jugador-Sergio_Ramos-N 13 Jugador-Sergio_Ramos-NEU Jugador-Sergio_Ramos-P 5 Jugador-Sergio_Ramos-NEU Jugador-Sergio_Ramos-NEU 4 Jugador-Sergio_Ramos-P Jugador-Sergio_Ramos-N 10 Jugador-Sergio_Ramos-P Jugador-Sergio_Ramos-P 21 Jugador-Sergio_Ramos-P Jugador-Sergio_Ramos-NEU 3 Jugador-Xabi_Alonso-P Jugador-Xabi_Alonso-P 1 Jugador-Xavi_Hernández-N Jugador-Xavi_Hernández-NEU 2 Jugador-Xavi_Hernández-N Jugador-Xavi_Hernández-N 1 Jugador-Xavi_Hernández-NEU Jugador-Xavi_Hernández-NEU 2 Jugador-Xavi_Hernández-NEU Jugador-Xavi_Hernández-N 1 Jugador-Xavi_Hernández-P Jugador-Xavi_Hernández-NEU 1 Jugador-Xavi_Hernández-P Jugador-Xavi_Hernández-P 1 Jugador-Xavi_Hernández-P Jugador-Xavi_Hernández-N 1 Partido-N Partido-N 21 Partido-N Partido-P 6 Partido-N Partido-NEU 16 Partido-NEU Partido-NEU 88 Partido-NEU Partido-P 36 Partido-NEU Partido-N 6 Partido-P Partido-P 64 Partido-P Partido-NEU 23 Partido-P Partido-N 6 Retransmisión-N Retransmisión-NEU 1 Retransmisión-N Retransmisión-P 3 Retransmisión-N Retransmisión-N 1 Retransmisión-NEU Retransmisión-NEU 15 Category evaluation Cat P R F1 Afición-N 0.500 0.412 0.452 Afición-NEU 0.370 0.417 0.392 Afición-P 0.575 0.622 0.597 Arbitro-N 0.000 0.000 0.000 Arbitro-NEU 0.429 1.000 0.600 Arbitro-P 1.000 0.333 0.500 Autoridades-N 0.500 0.333 0.400 Autoridades-NEU 0.500 0.333 0.400 Autoridades-P 0.000 0.000 0.000 Entrenador-N 0.719 0.932 0.812 Entrenador-NEU 0.308 0.308 0.308 Entrenador-P 0.500 0.118 0.190 Equipo-Atlético_de_Madrid-P 1.000 1.000 1.000 Equipo-Barcelona-N 0.496 0.553 0.523 Equipo-Barcelona-NEU 0.471 0.471 0.471 Equipo-Barcelona-P 0.484 0.326 0.390 Equipo-NEU 0.800 0.308 0.444 Equipo-P 0.400 0.667 0.500 Equipo-Real_Madrid-N 0.250 0.250 0.250 Equipo-Real_Madrid-NEU 0.206 0.173 0.188 Equipo-Real_Madrid-P 0.802 0.832 0.817 Jugador-Alexis_Sánchez-N 0.000 0.000 0.000 Jugador-Alexis_Sánchez-NEU 0.667 0.667 0.667 Jugador-Alexis_Sánchez-P 0.000 0.000 0.000 Jugador-Alvaro_Arbeloa-NEU 0.000 0.000 0.000 Jugador-Alvaro_Arbeloa-P 0.000 0.000 0.000 Jugador-Andrés_Iniesta-NEU 0.000 0.000 0.000 Jugador-Andrés_Iniesta-P 1.000 0.667 0.800 Jugador-Angel_Di_María-NEU 0.667 0.571 0.615 Jugador-Angel_Di_María-P 0.882 0.882 0.882 Jugador-Asier_Ilarramendi-NEU 1.000 0.500 0.667 Jugador-Asier_Ilarramendi-P 0.500 1.000 0.667 Jugador-Carles_Puyol-N 0.333 0.500 0.400 Jugador-Carles_Puyol-NEU 0.000 0.000 0.000 Jugador-Carles_Puyol-P 0.667 0.500 0.571 Jugador-Cesc_Fábregas-N 0.800 1.000 0.889 Jugador-Cesc_Fábregas-NEU 1.000 0.500 0.667 Jugador-Cristiano_Ronaldo-N 0.000 0.000 0.000 Jugador-Cristiano_Ronaldo-NEU 0.797 0.940 0.862 Jugador-Cristiano_Ronaldo-P 0.750 0.667 0.706 Jugador-Dani_Alves-N 0.818 0.783 0.800 Jugador-Dani_Alves-NEU 0.000 0.000 0.000 Jugador-Dani_Alves-P 0.000 0.000 0.000 Jugador-Dani_Carvajal-N 0.000 0.000 0.000 Jugador-Dani_Carvajal-P 0.667 1.000 0.800 Jugador-Fábio_Coentrão-N 0.000 0.000 0.000 Jugador-Fábio_Coentrão-NEU 0.000 0.000 0.000 Jugador-Gareth_Bale-N 0.000 0.000 0.000 Jugador-Gareth_Bale-NEU 0.182 0.080 0.111 Jugador-Gareth_Bale-P 0.830 0.931 0.878 Jugador-Iker_Casillas-N 0.000 0.000 0.000 Jugador-Iker_Casillas-NEU 0.286 0.500 0.364 Jugador-Iker_Casillas-P 0.762 0.800 0.780 Jugador-Isco-NEU 0.333 0.200 0.250 Jugador-Isco-P 0.769 0.833 0.800 Jugador-Javier_Mascherano-N 0.250 1.000 0.400 Jugador-Javier_Mascherano-NEU 0.000 0.000 0.000 Jugador-Javier_Mascherano-P 0.000 0.000 0.000 Jugador-Jesé_Rodríguez-NEU 1.000 0.500 0.667 Jugador-Jesé_Rodríguez-P 0.667 1.000 0.800 Jugador-José_Manuel_Pinto-N 0.682 0.938 0.789 Jugador-José_Manuel_Pinto-NEU 0.000 0.000 0.000 Jugador-José_Manuel_Pinto-P 0.667 0.500 0.571 Jugador-Karim_Benzema-NEU 1.000 0.333 0.500 Jugador-Karim_Benzema-P 0.667 1.000 0.800 Jugador-Lionel_Messi-N 0.701 0.965 0.812 Jugador-Lionel_Messi-NEU 1.000 0.042 0.080 Jugador-Lionel_Messi-P 0.000 0.000 0.000 Jugador-Luka_Modric-NEU 1.000 1.000 1.000 Jugador-Luka_Modric-P 1.000 1.000 1.000 Jugador-Marc_Bartra-N 0.462 0.750 0.571 Jugador-Marc_Bartra-NEU 0.333 0.200 0.250 Jugador-Marc_Bartra-P 0.875 0.636 0.737 Jugador-N 0.727 0.727 0.727 Jugador-NEU 0.667 0.462 0.545 Jugador-Neymar_Jr.-N 0.564 0.815 0.667 Jugador-Neymar_Jr.-NEU 0.333 0.200 0.250 Jugador-Neymar_Jr.-P 1.000 0.143 0.250 Jugador-P 0.571 0.706 0.632 Jugador-Pedro_Rodríguez-N 0.000 0.000 0.000 Jugador-Pedro_Rodríguez-NEU 0.333 1.000 0.500 Jugador-Pedro_Rodríguez-P 0.000 0.000 0.000 Jugador-Pepe-N 1.000 0.333 0.500 Jugador-Pepe-NEU 1.000 1.000 1.000 Jugador-Pepe-P 0.600 1.000 0.750 Jugador-Sergio_Busquets-N 0.000 0.000 0.000 Jugador-Sergio_Ramos-N 0.623 0.613 0.618 Jugador-Sergio_Ramos-NEU 0.148 0.182 0.163 Jugador-Sergio_Ramos-P 0.700 0.618 0.656 Jugador-Xabi_Alonso-P 1.000 1.000 1.000 Jugador-Xavi_Hernández-N 0.333 0.333 0.333 Jugador-Xavi_Hernández-NEU 0.400 0.667 0.500 Jugador-Xavi_Hernández-P 1.000 0.333 0.500 Partido-N 0.636 0.488 0.553 Partido-NEU 0.693 0.677 0.685 Partido-P 0.604 0.688 0.643 Retransmisión-N 1.000 0.200 0.333 Retransmisión-NEU 0.938 1.000 0.968 Macroaveraged Precision: 0.502 Macroaveraged Recall: 0.469 Macroaveraged F1: 0.485