fbpx

El reconocimiento facial necesita de la ÉTICA

Reconocimiento facial

El reconocimiento facial necesita de la ÉTICA

Se estima que para el año 2023 la industria del reconocimiento facial estará valorada en más de 10.000 millones de dólares, con un ritmo de desarrollo anual compuesto del 16,8%. El uso del reconocimiento facial tiene mucho que aportar en diferentes territorios. Por ejemplo, ayudando a las organizaciones a combatir la tergiversación de los compradores. Sobre todo esta tecnología ayuda a lograr una consistencia administrativa única.

Inicialmente el reconocimiento facial era más ciencia ficción que real, necesitaba precisión y adaptabilidad; eso actualmente ya no es cierto. Las organizaciones más grandes del mundo han obtenido, actualizado e implementado innovación con reconocimiento facial. Actualmente se ha convertido en un elemento clave de numerosas organizaciones de vanguardia. El reconocimiento facial ha hecho algunos progresos asombrosos desde su inicio en la década de 1960. Actualmente nos encontramos en la época idónea para apostar en ella.

Las tasas de precision de reconocimiento facial siguen aumentando cada año. Actualmente ha mejorado drásticamente la exactitud y la ejecución. La innovación en el reconocimiento facial continúa impulsando la utilización de técnicas de aprendizaje profundo o comúnmente conocido como deep learning para mantener una mayor precisión.

El problema con el reconocimiento facial

A fines del 2018, es posible que te hayas dado cuenta de la tormenta de medios agresiva a la que Amazon se ha sometido por la venta de su producto de reconocimiento facial ‘Rekognition‘ a las fuerzas del orden público, supuestamente para su uso en la vigilancia civil. Esta noticia hizo que el mundo apreciara abruptamente que la verificación facial no es solo una característica de seguridad de iPhone, sino una herramienta seria que puede aprovecharse en múltiples campos.

Resultado de imagen para rekognition

A pesar de su historia relativamente larga, el reconocimiento facial sigue siendo una tecnología emergente, con sus desafíos ahora bien documentados, en particular, la identificación errónea de personas con piel más oscura. La Unión Americana de Libertades Civiles ha advertido que las agencias de aplicación de la ley, en lugar de las regulaciones federales, podrían desplegar el reconocimiento facial para el perfil racial. Muchos detractores de la tecnología están vindicando sus preocupaciones.

Colectivamente, las críticas a los proveedores de la tecnología representan un punto de inflexión importante para toda la industria. Con algunos que eligen defender con vehemencia la tecnología, otros se están adaptando al panorama en evolución al reafirmar su compromiso de salvaguardar contra el posible uso indebido en temas de privacidad de la información.

¿El reconocimiento facial es algo inevitable?

Microsoft, habiéndose encontrado bajo escrutinio por supuestamente vender su versión de software de reconocimiento facial como parte de proyectos lucrativos del gobierno, recurrió a una sofisticada campaña de relaciones públicas para corregir su imagen pública, incluso pidiendo a los gobiernos que comiencen a regular.

Mientras tanto, su lista de nuevos principios , publicada a fines de 2018, propuso una guía para combatir las preocupaciones que podría implicar el uso indebido del reconocimiento facial, desde justicia y transparencia hasta responsabilidad y consentimiento.

“Creemos que es importante para los gobiernos en 2019 comenzar a adoptar leyes para regular esta tecnología. El genio del reconocimiento facial, por así decirlo, acaba de salir de la botella. A menos que actuemos, corremos el riesgo de despertar dentro de cinco años para descubrir que los servicios de reconocimiento facial se han extendido de manera que exacerban los problemas sociales. Para entonces, estos desafíos serán mucho más difíciles de reprimir . ” —Brad Smith, Presidente, Microsoft.

Si bien este es sin duda un paso positivo en la conversación ética, es justo decir que el ‘genio’ ya no está en la botella, y lo ha estado durante muchos años. Incluso con la influencia significativa de Microsoft en todos los asuntos tecnológicos, no podemos confiar en una compañía para cambiar la marea.

Un mundo vulnerable

Juan Pablo Moreno – CEO

Como innovadores e inventores de nuevas tecnologías, tenemos que mirar hacia el futuro; no solo imaginando su potencial para ayudar a la sociedad, sino más importante aún evitar lo potencialmente perjudicial.

Los primeros pioneros de la tecnología de reconocimiento facial ciertamente no tenían la intención de enseñar a las computadoras cómo reconocer mejor las caras con el único propósito de la vigilancia patrocinada por el estado; sin embargo, ¿se tomaron el tiempo para evaluar el impacto que la tecnología podría tener en el futuro? ¿Podrían haberlo sabido?

“El progreso científico y tecnológico podría cambiar las capacidades o incentivos de las personas de manera que desestabilizaría la civilización”. Profesor Nick Bostrom, Instituto del Futuro de la Humanidad, Universidad de Oxford.

El fascinante artículo de Nick Bostrom apareció en 2018 titulado ” La hipótesis del mundo vulnerable ” (PDF). En él, el destacado filósofo e investigador postula que a lo largo de la historia humana, el progreso tecnológico ha hecho del mundo un lugar mejor.

Por otro lado, Bostrom presenta cómo, cuando no se controla los avances tecnológicos se vuelve más fácil que nunca dañar la civilización, y a gran escala.

Si bien este es un ejemplo extremo, nos recuerda que la ignorancia ya no es una estrategia comercial viable, ni para el vendedor ni para el comprador. Comprender y resolver los prejuicios, la discriminación, la privacidad y las libertades civiles ahora debe ser una prioridad para los proveedores de tecnología de reconocimiento facial, así como para los compradores. Nosotros como ARX estamos totalmente comprometidos en el uso de prácticas éticas en torno a nuestras operaciones con reconocimiento facial.

Más allá de los principios bien redactados, como industria debemos asociarnos y construir relaciones con los reguladores y los grupos que abogan por los ciudadanos. Por ahora, es nuestra responsabilidad equilibrar las consideraciones morales y políticas para que podamos ofrecer una versión segura, responsable, equitativa y ética del reconocimiento facial.

ARX – Líderes y pioneros…. pero sobre todo Responsables

ARX es un software as a service el cual se conecta a través de la Red IP de tus cámaras y procede a generar analítica automatizada. Los datos recolectados por nuestro Software de reconocimiento facial son EXTREMADAMENTE sensibles y privados. Poseemos data como : tráfico de personas, Nombres, Recurrencia, emociones, Comportamientos y más. Desde que empezamos a desarrollar soluciones en el area de verificación facial para Ecuador, nos dimos cuenta los potenciales peligros a los que nos enfrentaríamos.

¿Como protegemos la data?

Frank Vargas – Dir. Seguridad tecnológica – ARX

 Manejamos un cifrado de alto nivel y todos los datos son accesibles bajo un proceso de tokenización. El sistema de reconocimiento facial ARX está alojado en Amazon Web Services (AWS) y Google Cloud Platform (GCP). ARX posee un cifrado SSL de 2048 bits para todos los datos en tránsito y cifrado AES-128 XTS en reposo para las plantillas faciales de los clientes y AES-256 para todas las copias de seguridad y almacenamiento de imágenes. Todas las transacciones que envía a nuestra API se realizan a través de una clave generada por el usuario. 

Además, no utilizamos ninguna información de identificación personal, y los datos de plantillas faciales que creamos no se pueden aplicar ingeniería inversa. La clasificación de su imagen en la API solo tiene sentido para el cliente. Esto significa que puede usar identificadores anónimos o simbólicos en lugar de datos personales, como números de empleados. Para mayor transparencia y seguridad, siempre recomendamos a nuestros clientes que usen sus propios servidores locales donde procedemos a instalar el servicio de manera que le brinda el máximo control sobre sus datos y redes.

Share this post

Leave a Reply

Your email address will not be published. Required fields are marked *


en_USEnglish
en_USEnglish