Visión computacional: beneficios y riesgos

Lic. Krista Monroy  |  País: Estados Unidos Mexicanos

Experto del CEABAD

En los últimos años, el término visión computacional ha estado presente en las discusiones sobre la gobernanza de la Inteligencia Artificial (IA), en la creación de normativas y regulaciones para la implementación en industrias, y en un gran número de innovaciones tecnológicas, como los refrigeradores que te avisan cuando los alimentos están a punto de caducar.

La visión computacional de acuerdo a IBM es un campo de la IA que permite que las computadoras y los sistemas obtengan información significativa de imágenes digitales, videos y otras entradas visuales, y tomen acciones o hagan recomendaciones basadas en esa información. Para que esta se lleve a cabo necesita una serie de elementos como cámaras, datos, algoritmos y redes las cuales favorecen a su entrenamiento lo que permiten analizar miles de imágenes y/o procesos por minuto.

Este campo de la IA ofrece diferentes aplicaciones, como el reconocimiento de objetos, la segmentación de imágenes, el reconocimiento facial, la detección de movimiento, el seguimiento y la clasificación de imágenes, lo cual favorece la toma de decisiones.

Algunas de las técnicas más utilizadas en la visión computacional, empleando el aprendizaje profundo (Deep Learning), encontramos:

• Las redes neuronales convolucionales (CNN): Es una de las técnicas que facilitan la identificación de objetos en imágenes. Esto se lleva a cabo debido a que las computadoras interpretan las imágenes digitales en matrices numéricas de pixeles, esto se debe a que en cada pixel almacena información las cuales estas se almacenan en diferentes canales las cuales dependen de la propia imagen. Gracias a su arquitectura, las CNN pueden realizar tareas como la detección de objetos, la segmentación, la identificación de patrones e incluso la predicción de riesgos que van desde la detección de objetos, segmentación, identificar patrones e incluso predecir riesgos. Entre las principales limitantes en el uso de las CNN es que requieren gran cantidad de datos, suele ser elevado los costos de los equipos, pueden sufrir perturbaciones que pueden afectar la calidad de los datos obtenidos.
• Few-Shot Learning (FSL): A diferencia de las CNN, que requieren grandes conjuntos de datos, el FSL ayuda en esta limitante y con ello crea mayores capacidades en los sistemas de visión computacional, el cual consiste en entrenar modelos los cuales tiene limitada cantidad de datos. Otra de las mejoras que brinda es el ahorro en los costos de los recursos computacionales.

• Redes Generativas Adversarias (GANs): Estas redes se caracterizan por su capacidad para generar datos realistas, en especial imágenes, lo que favorece al entrenamiento de modelos.

En este sentido, podemos ver que los datos son el elemento más valioso de los sistemas de IA, por lo cual se debe tener una afectación a los derechos fundamentales debido al análisis de grandes volúmenes de datos que pueden contener datos personales sensibles, entre las principales preocupaciones se encuentran:

• Privacidad
• Protección de datos
• Discriminación la cual puede ser por género y por raza
• Desigualdad en servicios
• Libertad
• Control social
• Desinformación
• Desconexión
• Uso indebido de datos
• Afectaciones a la seguridad
• Manipulación de la información e imágenes

Debido a que los sistemas con reconocimiento facial pueden utilizarse para el monitoreo de las personas sin que estas tengan su consentimiento afectando sus derechos, lo que puede ocasionar el uso indebido de los datos e incluso vulneraciones de seguridad y pérdida de su información personal para usos indebidos o no autorizados, otro de los aspectos cruciales que se debe contemplar son los sesgos con los cuales pueden estar entrenados los algoritmos afectando la toma de decisiones y con ello perjudicando a diversos grupos tanto étnicos, de género o incluso demográfico.

Además, la visión computacional puede representar un desafío para la libertad de expresión, que es fundamental de acuerdo con el artículo 19 de la Declaración Universal de los Derechos Humanos. La libertad de expresión es crucial para el desarrollo de la democracia, el crecimiento personal, la autonomía y la innovación. Por lo tanto, es esencial que el uso de sistemas de visión computacional esté acompañado de transparencia, responsabilidad y rendición de cuentas en la toma de decisiones, así como del desarrollo de regulaciones que consideren tanto la innovación como la ética y la protección de los datos personales y derechos fundamentales.

La visión computacional no solo se aplica en la industria de la seguridad, sino también está presente en campos como la salud, por ejemplo, Google Health utiliza la visión artificial para evaluar el riesgo de enfermedades cardiovasculares, el diagnóstico del cáncer de mama, y enfermedades externas del ojo. En la agricultura, empresas como John Deere utiliza la IA para detectar plagas y evaluar el estado de los cultivos. En la logística y el transporte para el monitoreo y la gestión del tráfico, en el sector financiero para validación de documentos, en la manufactura para inspeccionar la cadena de valor y con ello detectar posibles fallas, en el sector retail para la gestión de pagos y su automatización, identificación de patrones de consumo, esto tan solo son unos de los beneficios que se tienen en su uso y conforme se den mayores campos de innovación su uso crecerá por lo cual es fundamental a la par de lo ya mencionado la creación de estándares y protocolos para la visión artificial, dado que estos son una parte medular para el aseguramiento de la interoperabilidad, eficiencia de los sistemas, calidad, favorecen a los costos, reducen el tiempo de la implementación, brindan confianza, y la protección en la seguridad.

Sin duda el uso de la visión computacional transformará la industria y los procesos industriales y mejorará la calidad de vida de las personas, es por ello que esta siempre debe considerar los derechos fundamentales y la ética en su desarrollo y uso. Una de las peculiaridades que sin duda las tecnologías emergentes traen y sobre todo la IA es la cooperación lo que garantizará la transparencia, la responsabilidad y la rendición de cuentas con ello se promoverá el aseguramiento  del bienestar social y hacer el uso de la IA equitativa, inclusiva y sostenible.

[1]Economista. Maestrante de Inteligencia Artificial Aplicada. Experta en prospectiva, espectro y telecomunicaciones de América Latina y el Caribe, CEABAD