Agencias / InsurgentePress, Ciudad de México.- Un policía no puede usar la tecnología de reconocimiento facial con una persona detenida en San Francisco (EEUU). Pero un arrendador sí puede aplicarla con un inquilino y lo mismo pasa con una escuela y sus alumnos.
Estamos inmersos en una era en la que cámaras colocadas en cualquier esquina pueden reconocer automáticamente a los transeúntes, les guste o no. Pero la pregunta de quién puede usar la tecnología y para qué, no queda del todo clara. En EE. UU., el rechazo hacia el reconocimiento facial se ha dirigido principalmente a la policía. El año pasado, algunas ciudades del país prohibieron a sus cuerpos de seguridad hacer uso de ella porque los algoritmos no son precisos para personas de color y mujeres.
Pero las empresas privadas y los caseros no están obligados a seguir esas restricciones no existen. Así que el reconocimiento facial se está incorporando a cada vez más edificios de apartamentos, hoteles, etcétera. Los defensores de la privacidad temen que una vigilancia constante provoque discriminación y perjudique la libertad de expresión. Según una encuesta reciente realizada por Pew Research, los ciudadanos de EE. UU. prefieren que el reconocimiento facial sea usado por la policía en lugar de por empresas privadas.
Several groups of Americans express relatively low levels of trust in law enforcement agencies to use facial recognition responsibly – most notably black adults, younger people and those who identify as Democrats. https://t.co/77ZZxgdNcH pic.twitter.com/KmrNhJ94eE
— Pew Research Center (@pewresearch) October 3, 2019
Los que esperan una rápida prohibición, ya sea para la policía o la industria privada, probablemente se llevarán una decepción, según la experta en políticas sobre inteligencia artificial (IA) y profesora del Centro Berkman Klein de la Universidad de Harvard (EE. UU.) Mutale Nkonde. “No se impulsará nada que pueda socavar los negocios o la innovación”, apunta. En teoría, las prohibiciones en las ciudades que hasta ahora se han dirigido a la policía podrían ampliarse a entidades privadas, pero pasará mucho tiempo antes de que se produzcan prohibiciones más generalistas.
Mientras tanto, cada vez más gente está luchando para que se reduzca la vigilancia privada. A continuación, presentamos tres de las principales estrategias de esta lucha que, algún día, podrían cambiar drásticamente la forma en la que se utiliza el reconocimiento facial en nuestras vidas.
Facial recognition isn't convenient, it is unsafe. Stop the invasive surveillance @AmericanAir. End your biometric boarding program now. #GetOuttaMyFace https://t.co/LwFrXWZADi
— FreeScholar (@mickymetts) October 18, 2019
1. Presión corporativa
La primera estrategia se conoce como “presión corporativa de la vieja escuela”, explica el subdirector del grupo de derechos digitales Fight for the Future, Evan Greer. Su organización ha creado una página web que enumera las aerolíneas que utilizan el reconocimiento facial y anima a los viajeros a elegir otras opciones. Más recientemente, Fight for the Future lanzó una campaña de presión para que las salas de conciertos y festivales no usen esta tecnología, en parte inspirada por la declaración de Ticketmaster de que podría reemplazar las entradas con la identificación facial. Músicos como la cantante y compositora Amanda Palmer, el rapero Atmosphere y el guitarrista Tom Morello del grupo Rage Against the Machine han apoyado esta iniciativa.
Grandes festivales de música como Governors Ball, Austin City Limits, Bonnaroo y Pitchfork han prometido no usar la vigilancia facial. Greer detalla: “Valoramos estos compromisos. No debemos esperar a que una industria use ampliamente la tecnología y la aplique en su modelo de negocio”.
Worried you forgot your ticket for the concert? Soon, you won’t need it — if all it takes is your face to get in. #facerecognition #technology https://t.co/dMuhDna1Nr pic.twitter.com/xRZplJXLnN
— PrivateTunnel (@PrivateTunnel) September 13, 2018
2. Derechos civiles
Otro modelo es el que se basa en las prohibiciones policiales a nivel local. La ciudad de Portland (EE. UU.), está considerando dos ordenanzas separadas, una que prohibiría a los policías usar la tecnología y otra que aplicaría a las empresas privadas. La prohibición privada no afectaría, por ejemplo, el uso de FaceID de Apple o el uso del reconocimiento facial de Facebook en su función de etiquetado de imágenes. A los representantes políticos les preocupa más la posibilidad de que las tiendas y otros establecimientos requieran reconocimiento facial para entrar. Esto es algo que la tienda local de alimentación Jacksons empezó a hacer de manera limitada hace más de un año. El ayuntamiento debatirá de nuevo la propuesta en noviembre.
"If implemented as currently envisioned by some commissioners, the ban would set a new national precedent and make Portland the first major city to limit the use of the software by the private sector." https://t.co/2LOsDBXq87
— Ryan Haas (@ryanjhaas) September 18, 2019
El uso del reconocimiento facial por parte de los arrendadores se ha convertido rápidamente en un tema candente. Según el reciente informe de Pew, solo el 36 % de los estadounidenses está de acuerdo con exigir un reconocimiento facial para poder entrar en sus hogares. El problema es aún mayor en viviendas públicas o de bajos ingresos. Esta tecnología no solo es invasiva, según los residentes, sino que es discriminatoria, porque muchos inquilinos son personas de color. En Nueva York (EE. UU.), los residentes de un edificio de bajos ingresos han estado luchando contra el plan de su arrendador de sustituir las llaves de acceso con un sistema de reconocimiento facial. Su inquilino Icemae Downes plantea lo siguiente: “Dado que [el propietario] tiene otros 11 edificios con una composición diferente, ¿por qué eligió justo nuestro edificio para probar este sistema?”.
‘…the move reflects the spreading pressures of gentrification further into the east of Brooklyn, and a desire to attract white, higher-income residents in the buildings, whose tenants are mostly black’ https://t.co/rW1nkEh1Gw
— Tim Maughan (@timmaughan) May 30, 2019
Las leyes existentes también se podrían actualizar para abordar el reconocimiento facial, explica el estudiante de derecho e investigador de políticas tecnológicas de la Universidad de Washington (EE. UU.) Jevan Hutson. Ya hay leyes que evitan la discriminación en lugares públicos como restaurantes, hoteles, escuelas, hospitales, parques, centros de convenciones, etcétera. Dado el historial de la tecnología de ser incapaz de dar un trato justo a todas las personas, Hutson considera que es posible crear un argumento legal de que el reconocimiento facial viola los derechos civiles. Si se aprobara, la ley evitaría el despliegue de la tecnología en espacios públicos.
Cada día sale a la luz más información sobre las limitaciones de algunos sistemas IA, reconocimiento de rostro sigue siendo objeto de estudio y demuestra varias formas de discriminacion: https://t.co/SIXquSD9L5
— Ética IA (@eticaIA) July 23, 2019
3. Derechos del consumidor
Otra vía está en las leyes de derechos del consumidor. Muchas compañías afirman que su tecnología puede detectar emociones, pero los estudios han demostrado que sus métodos son profundamente defectuosos. Es posible argumentar, entonces, que estos algoritmos violan las leyes contra prácticas injustas o engañosas. Tal movimiento obligaría a los grupos de presión a respetar los derechos civiles.
Let's jump into the future of concerts- facial recognition ticketing. @blink_identity's technology would allow music patrons to "just walk into the show" after strolling past a camera that could identify them in "half a second". Thoughts? https://t.co/BvN4hSuacs Image by @CNN pic.twitter.com/K4mVWx5v20
— Cambridge Audio USA (@WeAreCAUSA) May 10, 2018
En la práctica, no es cierto que haya diferencias entre el uso público y privado del reconocimiento facial. Normalizar uno de ellos normaliza al otro, opina el filósofo del Instituto de Tecnología de Rochester Evan Selinger. Según él, si la gente se acostumbra a usar el sistema de reconocimiento facial de Facebook, “resulta mucho más difícil decir que las fuerzas del orden público, que velan por nuestro bien, deberían tener menos libertad que nosotros mismos”. Cuando el reconocimiento facial se da por sentado, “el sector privado tiene acceso a una información que puede compartir con la policía”.
In a world of click-through contracts with huge tech firms — and tech the long-term impact of which isn't always clear — what does it mean to "consent" to a new tool?
Here's @evanselinger with an excellent review of Nancy Kim's new book on consent:https://t.co/zvjZhBYzPM
— Clive Thompson (@pomeranian99) October 14, 2019
Ese sector privado es poderoso y querrá opinar sobre la regulación. El CEO de Amazon, Jeff Bezos, afirmó recientemente que la compañía está creando su propio borrador de pautas de reconocimiento facial que compartirá con los legisladores. A principios de este año, Microsoft apoyó un proyecto de ley de privacidad que habría impuesto algunas restricciones a la identificación facial. Pero el proyecto de ley también incluía que estaba bien usar el reconocimiento facial crear perfiles siempre y cuando alguien revisara los resultados. El proyecto fracasó después de que seis grupos de privacidad criticarn que era demasiado deficiente.
Ahora sí que por fin podremos entrar todos por la cara. Según este artículo Ticketmaster en un futuro no muy lejano podría reemplazar las entradas con un sistema de reconocimiento facial https://t.co/salITi9aL7 pic.twitter.com/yXbFHZIT8f
— Alta Fidelidad (@alta_fidelidad) May 8, 2018
Esa es parte de la razón por la cual los activistas como Greer insisten en que hace falta una estrategia múltiple con enfoques jurídicos y económicos. La experta concluye:
“Necesitamos todo lo mencionado. Los miembros de la sociedad deberían responsabilizar a las empresas. Los legisladores deberían abordar esta cuestión. Ya sabemos que no podemos confiar en que las industrias se regulen a sí mismas“.