Para las comunidades que históricamente han sido marginadas, las promesas de la digitalización pueden convertirse en una herramienta de mayor discriminación y de un trato desigual. El reconocimiento facial en particular tiene una historia siniestra y oscura que se relaciona con la persecución de las comunidades gitanas.
En abril de 2021, EDRi y la campaña Reclaim Your Face (RYF) organizaron un seminario web sobre “Reconocimiento facial, resistencia y derechos de las personas gitanas y sinti”. El propósito de este evento fue explorar, junto con activistas/ investigadores/as de derechos de las personas gitanas y sinti que también son expertos/as en datos y digitalización, la intersección de los derechos del Pueblo Gitano con el aumento del reconocimiento facial y de otras formas de vigilancia biométrica masiva en toda Europa.
La frase del día fue “cambio de paradigma”; Benjamin Ignac (un investigador y activista gitano de Croacia, que vive y trabaja en Berlín) y Roxanna-Lorraine Witt (una mujer sinti que anteriormente trabajó para el Consejo Alemán de Personas Sinti y Gitanas hasta el año pasado y fue fundadora de Save Space e.V.) aportaron al público un interesante análisis de cómo los desarrollos tecnológicos están transformando cada aspecto de nuestras vidas, y por qué esto es importante tanto para las personas gitanas como para las no gitanas.
Desde los sistemas de justicia penal hasta la formulación de políticas, instaron a todas las personas que se preocupan por la igualdad y la justicia a informarse sobre los riesgos que tienen las tecnologías de automatización e inteligencia artificial a la hora de incorporar y perpetuar aún más los sesgos sistémicos; de la necesidad de abordar las brechas de alfabetización digital; por qué deberíamos empoderar a las personas gitanas para que asuman roles técnicos y de liderazgo en materias STEM y en la política; y la necesidad de construir coaliciones radicales a través de líneas interseccionales que nos ayuden a criticar los aspectos discriminatorios del reconocimiento facial y a cambiar el paradigma para abordar la exclusión digital en sus diversas formas interconectadas.
Los derechos gitanos son derechos digitales
Los derechos de las personas gitanas y sinti son importantes para la comunidad de derechos digitales porque, si bien hay muchas personas expertas dentro de las comunidades gitanas que trabajan en temas de datos y digitalización, otras personas que trabajan en el campo de los derechos digitales a menudo tienen poca o ninguna conciencia de este importante trabajo. Y como señala Benjamin, la digitalización puede plantear un desafío adicional para las personas gitanas que durante mucho tiempo han sufrido prejuicios y marginación. Añade que si no abordamos pronto esta brecha como una prioridad política, el Pueblo Gitano quedará excluido:
“Las personas gitanas y sinti no solo están social y económicamente excluidas en Europa; también están excluidas digitalmente. La pandemia ha exacerbado esto. La UE está pasando por alto el hecho de que la mayoría de las personas gitanas... todavía están mal conectadas a Internet, tenemos un acceso reducido a las tecnologías digitales, niveles más bajos de alfabetización digital… Todavía me sorprende que los gitanos y gitanas estén desconectados digitalmente de estas nuevas amenazas tecnológicas, cómo estas personas no son parte del
debate a nivel europeo, a nivel nacional, a nivel de las ONG. La falta de inversión en este enfoque digital en los derechos gitanos y sinti nos mantendrá excluidos, en cierto modo. En la carrera del crecimiento y del desarrollo, nos quedaremos atrás si estamos fuera del circuito”.
Roxy agrega que esta falta de comprensión de las tecnologías digitales y lo que pueden significar para nuestras sociedades no solo afecta a las personas gitanas, sino también a los grupos que las representan, así como a los responsables políticos:
“Cuando hablamos de alfabetización digital, no se trata solo de la persona gitana media, sino también de las grandes organizaciones que nos representan a nivel internacional… políticos/as de alto nivel. Es una enorme vergüenza admitir que no tienes ni idea de esto, pero no se trata solo de las personas gitanas, sino también de las payas... Cómo acceder a las personas menos privilegiadas de nuestras comunidades… así como a políticos/as de alto perfil en la política internacional que no están realmente involucrados en temas tan importantes, y cómo aportarles una alfabetización digital”.
El reconocimiento facial y el legado de la opresión histórica
En la primera parte del seminario web, examinamos cómo el reconocimiento facial reproduce y otorga una falsa legitimidad a las técnicas que provienen de la eugenesia, a veces denominada “ciencia racial” nazi. Como explica Roxy:
“La premisa de la tecnología de reconocimiento facial y la recopilación de datos biométricos es que puedes vincular ciertos rasgos faciales […] a una identidad. Pero la identidad es una construcción social, una construcción política, social, económica, que no está ligada exclusivamente a los rasgos faciales. No puedes vincular esto a las matemáticas de tu rostro o de tus genes.
Debo mencionar la historia de la recopilación de datos biométricos […] Siempre ha estado relacionada con la discriminación e incluso con el asesinato masivo de personas gitanas. Cuando pensamos en la historia de la recopilación de datos biométricos, tenemos que volver al Holocausto. […] Los primeros experimentos humanos se realizaron con personas gitanas y sinti en Auschwitz. ¿Cómo fueron identificadas estas personas? Consideraron que ciertas personas eran gitanas y luego midieron sus rostros con reglas. Y luego, de repente, las personas fueron llevadas a campos de concentración […] [como parte de] una ideología y un régimen que tiene como objetivo borrar completamente a las personas gitanas de la tierra. […] El uso de cierta tecnología [como el reconocimiento facial] se basa en premisas que son, y lamento decirlo, una basura”.
Los usos de la vigilancia biométrica masiva en la actualidad, como el reconocimiento facial en espacios públicos, están reproduciendo estos mismos supuestos y prejuicios. Los grupos marginados y minorizados se utilizan repetidamente como “campos de prueba” para las nuevas tecnologías. Benjamin continuó explicando cómo este tipo de suposiciones falsas sobre la identidad está vinculada a problemas más amplios de discriminación y persecución, y además se basa en los datos personales de las personas:
“Odio tener que vivir en un mundo en el que siento que debo ocultar mi identidad gitana porque esta misma identidad puede usarse en mi contra […] Que los gobiernos usen esta identidad o datos sobre las personas gitanas de esa manera es totalmente inaceptable. Deberíamos estar orgullosos/as de nuestra identidad […] [Pero] tenemos muchos ejemplos de que, en las manos equivocadas, los datos sobre las personas gitanas se utilizarán en nuestra contra”.
También vinculó esta recopilación masiva de datos faciales y corporales de las personas a problemas estructurales de la vigilancia del gobierno, influidos por la filosofía del “panóptico”:
“Los gobiernos europeos tienen una especie de fetichismo por la vigilancia. En Alemania, la policía identificó retrospectivamente imágenes de las protestas del G20 para identificar a los/las manifestantes. ¿Por qué tenemos la libertad de ir a una protesta si esto puede ser utilizado en nuestra contra? El control es más fácil si vigila a las personas y ellas saben que están siendo vigiladas.
Lo aterrador es que la infraestructura ya está aquí... ya se está utilizando... en muchos casos, ni siquiera sabemos que esto está sucediendo”.
Esto está conduciendo a una tormenta perfecta de policía con sesgo racial y de sistemas de justicia racistas; un informe reciente ha mostrado el alcance de la discriminación contra las personas gitanas en los sistemas de justicia penal europeos.
¿De la seguridad de quién estamos hablando?
Otro tema clave expuesto en este seminario web fue el hecho de que, si bien el discurso sobre la necesidad del reconocimiento facial público a menudo se centra en la “seguridad” y la “protección”, este marco asume las estructuras de desigualdad existentes, en las que se asigna menos valor a ciertas vidas, tienen menos importancia, no merecen seguridad, e incluso se presentan como una amenaza para la seguridad de otras personas.
Todo, desde la tecnología de reconocimiento facial hasta los algoritmos de búsqueda, está codificado para vincular las identidades gitanas con la criminalidad, lo que demuestra que la proliferación de tecnologías biométricas de vigilancia masiva no tiene en cuenta la seguridad de las personas gitanas. De hecho, puede potenciar el racismo estructural y otras formas de discriminación contra los grupos marginados. Roxy lo explica así:
“El argumento para la recopilación de datos, para esa vigilancia… es la seguridad. ¿De la seguridad de quién estamos hablando? No es la seguridad de las personas gitanas… No somos los delincuentes en esta historia.
[Estas prácticas están] basadas en las premisas de los programadores y su definición de seguridad… Por eso la perspectiva interseccional es tan importante, [de lo contrario] siempre se basará en la seguridad de las personas blancas… Necesitamos comenzar a denunciar y desmantelar las ideologías que subyacen a la tecnología… Todo el sistema está hecho para la gente blanca y para la seguridad de la gente blanca… Tenemos que cambiar el paradigma de quién es criminal y quién no”.
Esto nos permitió reflexionar sobre algunas cuestiones estructurales realmente profundas: ¿cómo es un mundo sin prejuicios? ¿Es posible? ¿Qué significa que no haya sesgos, y cómo logarlo? Tanto Benjamin como Roxy aprovecharon esta oportunidad para señalar cómo los problemas de vigilancia biométrica masiva se articulan con otras desigualdades estructurales: Ben, por ejemplo, ha investigado los problemas relacionados con la calificación algorítmica de riesgo y la decisión de las sentencias de prisión. Y Roxy señaló lo inhumano de usar la tecnología de reconocimiento facial en las fronteras para negar el tránsito seguro a las personas que huyen de amenazas contra sus vidas, y esto puede incluir a las personas gitanas si los algoritmos de reconocimiento facial los marcan como “criminales”.
También sabemos que la vigilancia biométrica masiva se utiliza repetidamente para identificar y perseguir delitos menores (multas de estacionamiento, basura, vagabundos), y no para delitos graves de Estado y de cuello blanco (delitos financieros, genocidio, guerra). Si señalamos esto, es posible que podamos comenzar a cambiar la mirada discriminatoria que se ha codificado mediante el uso de la tecnología de reconocimiento facial.
El futuro
A través de esta conversación pudimos identificar muchas amenazas y riesgos que plantea la tecnología de reconocimiento facial. La discusión sobre discriminación y desigualdad también nos permitió ver los puntos en los que podríamos impulsar un cambio positivo. Benjamin señala que una forma de hacer esto podría ser denunciar el uso de algoritmos con fines de justicia penal y otros usos dañinos (como también ha defendido EDRi):
“Hay mucha tensión en el sistema legal en Europa... lo que hace que la justicia no siempre sea rápida. Con el auge tecnológico que estamos viviendo, este cambio de paradigma va a hacer que las cosas vayan más lentas. [El sistema de justicia penal] no está preparado para ocuparse de los casos que le llegan. Las ONG gitanas y la sociedad civil están igualmente desconectadas de la toma de decisiones, lo que nos convierte en cierto modo en presas
fáciles de esta situación. Solo estamos esperando a que sucedan las cosas, y esto es un grave problema. El racismo tecnológico, la discriminación tecnológica es una importante barrera para el ejercicio de los derechos de las personas gitanas”.
Roxy señala además las oportunidades que ofrece adoptar un enfoque interseccional, del que puede aprender la comunidad de derechos digitales:
“Las personas gitanas pueden ser negras, pueden ser LGBTIQ, pueden ser mujeres, pueden ser niños/as, pueden ser muchas cosas. Hay una amplia gama de comunidades vinculadas a este tema cuando hablamos de los derechos de las personas gitanas y el entorno digital”.
“Entonces, ¿de quién es la responsabilidad de incluir a las comunidades gitanas? Es responsabilidad de aquellos que tienen más privilegios. Por ello, los/las expertos/as en tecnología, las empresas de tecnología, tal vez junto a las empresas privadas, tal vez junto a quienes elaboran las políticas, deben empoderar a las comunidades gitanas para que tengan voz en esto y en todo lo que eso significa: renunciar a los recursos, o compartir recursos con ellos y ellas, compartir privilegios, compartir recursos de alfabetización digital, apoyar a esas comunidades y a los legisladores en su emancipación digital y quitarles la vergüenza. … [Es ridículo que] Elon Musk esté tratando de llegar a Marte mientras otras personas dicen ‘¡apenas sé cómo usar mi iPhone!’”.
Entonces, ¿por qué alguien que se preocupa por la igualdad y la justicia debería preocuparse por el aumento del reconocimiento facial y la vigilancia biométrica masiva? Benjamin hace una comparación con la crisis climática, que los humanos conocen desde hace 100 años; solo recientemente comenzaron a actuar de forma masiva, pero deberían haberlo hecho mucho antes:
“Ahora es el momento de proteger a nuestras comunidades, de construir nuestro sistema de justicia, de contribuir a la legislación. Todos y todas necesitamos tener una voz para decidir en qué dirección queremos que vaya la tecnología: ¿centrada en la eficiencia, o centrada en el ser humano, con los derechos fundamentales como piedra angular?”.
Benjamin y Roxy concluyeron que hay muchos pasos concretos que podemos dar para lograr esto. Desde garantizar que las personas gitanas ocupen puestos políticos y roles de liderazgo, hasta aumentar la alfabetización digital y eliminar la vergüenza de aquellas personas que actualmente se sienten abandonadas. Desde más investigación para comprender realmente las brechas existentes, hasta la financiación, la formación de coaliciones, la educación y el empoderamiento de las ONG gitanas. Al comprender mejor los problemas que enfrentan las comunidades gitanas, todos/as tendremos más recursos para luchar por los derechos digitales.2
Traducción de Javier Sáez del Álamo
Ella Jakubowska
Experta de EDRi en consultoría de políticas1.
Twitter: @ellajakubowska1
1 EDRi -European Digital Rights- es la mayor red europea de defensa de los derechos y libertades en línea. La red EDRi es un colectivo de más de 47 ONG, así como de personas expertas, defensoras de derechos y académicas que trabajan para defender y promover los derechos digitales en Europa y a nivel mundial.
2 Para más información, puede consultar otros recursos sobre los derechos de las personas gitanas y la vigilancia biométrica masiva, incluido el podcast “Salón de té romaní”, el primer video Reclaim Your Face en lengua romaní, en nuestro blog “Derechos de las personas gitanas y vigilancia biométrica masiva”.