Gobernanza anticipatoria de las tecnologías de Big Data. Una propuesta preliminar para su implementación en la Ciudad de Buenos Aires

Anticipatory Governance of Big Data Technologies. A Preliminary Proposal for its Implementation in the City of Buenos Aires

PABLO MATÍAS HERRERA

JAVIER GARCÍA FRONTI

Universidad de Buenos Aires, Argentina

Resumen

El término “Big Data” describe un fenómeno vinculado con el desarrollo tecnológico que posibilita procesar grandes cantidades y diversos tipos de datos mediante algoritmos. Los Estados y las organizaciones gubernamentales utilizan tecnologías de Big Data para procesar información que permita un mayor nivel de especificación de la población y del territorio. En este trabajo se expone el caso del “Sistema Integral de Seguridad Pública de la Ciudad Autónoma de Buenos Aires” y se analizan algunos de los problemas de privacidad que implica la recopilación de información por esta tecnología. La hipótesis es que el Estado realiza una gobernanza a través de datos sin tener en cuenta la responsabilidad que implica el tratamiento de los mismos. Partiendo del reconocimiento de la utilidad que le supone al Gobierno disponer de este tipo de tecnologías, el objetivo de este trabajo es realizar una propuesta preliminar para implementar una gobernanza anticipatoria de las tecnologías de Big Data en la Ciudad de Buenos Aires.

Palabras clave: tecnologías de Big Data; videovigilancia; Ciudad de Buenos Aires; gobernanza anticipatoria.

Abstract

The term “Big Data” describes a phenomenon associated with a technological development that allows large quantities and different types of data to be processed using algorithms. States and government organizations use Big Data technologies to process information, enabling a higher level of population and territory specification. This paper presents the case of the “Integral Public Security System for the Autonomous City of Buenos Aires” and analyzes some of the privacy issues arising from data collection using this technology. The hypothesis is that the State executes governance via data without taking into account the responsibility involved when handling such data. Acknowledging that this type of technology is useful to the Government, the aim of this paper is to present a preliminary proposal to implement the anticipatory governance of Big Data technologies in the City of Buenos Aires.

Keywords: Big Data technologies; video surveillance; City of Buenos Aires; anticipatory governance.

Las tecnologías de Big Data, como todo fenómeno socio-técnico, se están desarrollando en un entorno incierto que conlleva promesas y riesgos. Por el lado de las promesas, las tecnologías de Big Data son vistas como poderosas herramientas para abordar diversos problemas. Por el lado de los riesgos, estas son vistas como una amenaza a la privacidad de los individuos. Lo cierto es que las tecnologías de Big Data se presentan hoy como una tecnología emergente que posibilita procesar grandes cantidades y diversos tipos de datos¹ que son utilizados por las organizaciones con diferentes propósitos.

Los Estados y las organizaciones gubernamentales siempre han extraído y recopilado información de los habitantes y del territorio. Estos datos, adjetivados como “personales” y “territoriales”, respectivamente, proveen información sobre cuerpos, hábitos, preferencias, relaciones sociales y geografía. Con la aparición de las tecnologías de Big Data los organismos gubernamentales pueden recoger nueva información (datos alternativos) que permite un mayor nivel de especificación de la población y del territorio. El problema que surge de la utilización de información personal y territorial por parte del Estado está vinculado con la privacidad, ya que muchos de estos datos son a menudo recopilados, accedidos y explotados fuera del contexto para el cual fueron aportados y sin el conocimiento ni el consentimiento de quien los aporta.

En este trabajo se expone el caso de una iniciativa del Gobierno de la Ciudad de Buenos Aires que involucra la utilización de tecnologías de Big Data. La iniciativa, denominada “Sistema Integral de Seguridad Pública de la Ciudad Autónoma de Buenos Aires”, consiste en la utilización de cámaras en la Ciudad de Buenos Aires para monitorear a la población. Ante los problemas de privacidad que implica la información recopilada por esta tecnología, la hipótesis de este trabajo es que el Gobierno de la Ciudad de Buenos Aires realiza una gobernanza a través de datos sin tener en cuenta la responsabilidad que implica el tratamiento de los mismos.² Partiendo del reconocimiento de la utilidad que le supone al Gobierno disponer de tecnologías de Big Data para llevar adelante sus políticas, el objetivo de este trabajo es realizar una propuesta preliminar para la implementación de una gobernanza anticipatoria de estas tecnologías en la Ciudad de Buenos Aires.

Para lograr este objetivo, en primer lugar se definen las tecnologías de Big Data y su utilización en diferentes tipos de organizaciones. A continuación se caracteriza la utilización de las tecnologías de Big Data que realiza el Gobierno de la Ciudad de Buenos Aires y se exponen la iniciativa del “Sistema Integral de Seguridad Pública” y los problemas de privacidad que surgen a partir de la utilización de cámaras en la vía pública. Finalmente, partiendo del concepto de gobernanza anticipatoria en tanto capacidad para gobernar las tecnologías emergentes, se presenta el concepto de gobernanza anticipatoria de tecnologías de Big Data y se realiza una propuesta preliminar para su implementación en la Ciudad de Buenos Aires. Este concepto se presenta como un facilitador para que el Gobierno de la Ciudad de Buenos Aires realice una gobernanza responsable a través de la utilización de tecnologías de Big Data.

La utilización de tecnologías de Big Data por parte del Estado

El término “Big Data” es utilizado para describir un fenómeno vinculado con el desarrollo tecnológico que posibilita procesar grandes cantidades y diversos tipos de datos mediante algoritmos.³ Los algoritmos, por su parte, son las inscripciones que se hacen sobre la tecnología. Tomando como referencia una definición proveniente del campo de la computación, se refieren a un conjunto de instrucciones que especifican una secuencia de operaciones para resolver un determinado problema (Knuth, 1973). Para este fin, los algoritmos procesan y arrojan nueva información representada mediante datos con diferentes adjetivaciones. En este sentido, los datos procesados son entendidos simplemente como información y conforman la célula del cuerpo que representan las tecnologías de Big Data.

Las organizaciones hacen uso de las tecnologías de Big Data para extraer el máximo valor de los datos mediante su procesamiento. Dependiendo del tipo de organización, este valor tiene diferentes significados. En el caso de organizaciones mercantiles, ya sean de carácter público o privado, las tecnologías de Big Data se presentan como una oportunidad de negocios que permite procesar grandes volúmenes de datos en forma automatizada, facilitando la toma de decisiones en tiempo real para aumentar el valor económico de la organización (Schmarzo, 2013). En el caso del Estado, las organizaciones gubernamentales utilizan tecnologías de Big Data para obtener un conocimiento más específico de la población y del territorio y, a partir de esta nueva información, ejercer la soberanía a través de acciones que aumenten el valor aportado a la sociedad (Bryson, Crosby y Bloomberg, 2015; Mergel, Rethemeyer e Isett, 2016).

A lo largo de la historia, los Estados, a través de las organizaciones gubernamentales, han extraído y recopilado información de los habitantes y del territorio. Estos datos, adjetivados como “personales” y “territoriales”, proveen información sobre cuerpos, hábitos, preferencias, relaciones sociales y geografía. Con la aparición de las tecnologías de Big Data los organismos gubernamentales pueden recoger nueva información que se complementa con, e interpela a, la información recogida tradicionalmente. A la información recopilada tradicionalmente y a la información posibilitada por la aparición de nuevas tecnologías se las reconoce como datos tradicionales y datos alternativos respectivamente.

El problema que surge de la utilización de información personal y territorial por parte del Estado está vinculado con la privacidad, ya que muchos de estos datos son a menudo recopilados, accedidos y explotados fuera del contexto para el cual fueron aportados y sin el conocimiento ni el consentimiento de quien aporta los datos (Steinmann, Matei y Collmann, 2016). Con el fin de resguardar a los ciudadanos, ya desde hace varios años, la mayoría de las democracias modernas han previsto en sus constituciones el derecho a la protección de datos personales. Sin embargo, la aparición de nuevas tecnologías, la capacidad de recolectar datos alternativos y el potencial factor de riesgo que presenta cualquier banco de datos que procese información personal (Defensoría del Pueblo, 2016) plantean la necesidad de una revisión constante de las legislaciones vigentes. En Argentina, el derecho a la protección de datos personales se encuentra presente en la Constitución Nacional y legislado mediante la Ley 25.326 de Protección de los Datos Personales y, en la Ciudad de Buenos Aires, se encuentra presente en la Constitución de la Ciudad de Buenos Aires y legislado mediante la Ley 1.845 de Protección de Datos. Estos casos conforman legislaciones con definiciones tan amplias que permiten su adaptación ante la aparición de las tecnologías de Big Data.

En el próximo apartado se analiza la utilización de tecnologías de Big Data que realiza el Gobierno de la Ciudad de Buenos Aires. Se expone la iniciativa del “Sistema Integral de Seguridad Pública” y, más allá de su aprobación legislativa, se cuestionan los problemas de privacidad que surgen a partir de la utilización de cámaras en la vía pública.

Tecnologías de Big Data en la Ciudad de Buenos Aires

En la actualidad, el Gobierno de la Ciudad de Buenos Aires implementa la utilización de tecnologías de Big Data con el objetivo de mejorar la eficiencia en la toma de decisiones a través de la predicción de tendencias (forecasting y nowcasting)⁴. Esta forma de ejercer el gobierno se define como gobernanza estocástica, entendida como la gobernanza de las poblaciones y del territorio por medio de representaciones estadísticas basadas en la utilización de grandes volúmenes de datos (Sanders y Sheptycki, 2017). En este contexto, las tecnologías de Big Data se presentan como un recurso necesario para la implementación de una gobernanza que permita monitorear, medir y manipular el comportamiento de las personas.⁵

Detrás de esta manera de ejercer el Gobierno se encuentran dos supuestos. El primero es que Big Data es un fenómeno que involucra cantidades tan masivas de datos que su procesamiento queda fuera de la capacidad de la mente humana y solo es manipulable computacionalmente mediante algoritmos. El segundo se encuentra en la idea de que los datos son evidencia y que la tecnología y los algoritmos utilizados para procesar esos datos son moralmente neutros. Esto permite que las organizaciones gubernamentales justifiquen la recopilación y evaluación de los datos como un servicio al bien común de la sociedad.

Una de las tecnologías de Big Data que facilita la implementación de una gobernanza estocástica son las cámaras de seguridad. Agrupadas en un sistema de videovigilancia, las cámaras son una herramienta utilizada por los Estados para aumentar la seguridad de las ciudades a través del reconocimiento de la actividad humana. Estos sistemas ayudan a reconocer a los humanos (por su cara, por su forma de caminar, etc.) y describir sus acciones y actividades a partir de la información adquirida. Basadas en el supuesto de que la capacidad humana de monitorear múltiples videos de vigilancia es limitada, las organizaciones gubernamentales han desarrollado e incorporado técnicas automatizadas de visión para detectar patrones que, articulados por algoritmos, se constituyen en un sistema automático de videovigilancia humana (Nguyen, Feng y Liu, 2016). Esta es una tarea técnicamente desafiante en la cual los Estados están promoviendo el uso de estas nuevas tecnologías para lograr una mayor eficiencia en el ejercicio de su soberanía.

En la Ciudad de Buenos Aires se encuentran en funcionamiento más de 10.000 cámaras distribuidas entre el transporte público (subterráneo y colectivo) y la vía pública. Estas cámaras conforman el “Sistema Integral de Seguridad Pública” de la Policía de la Ciudad, un proyecto que registra los movimientos de los habitantes y que tiene por objetivo apoyar a las fuerzas de seguridad a través de la predicción. A partir del procesamiento de datos de los habitantes en forma automática por algoritmos de reconocimiento facial, se propone dar seguridad a la población con la menor intervención humana posible.

El discurso del Gobierno, reproducido por muchos medios de comunicación masiva, presenta cómo un sospechoso de violación, prófugo desde el año 2017 “se paseaba por la Ciudad como si nada. El jueves bajó a tomar el subte en la estación Plaza de Mayo y las cámaras con reconocimiento facial lo identificaron y quedó detenido” (Clarín, 2019). Según el Jefe de Gobierno de la Ciudad de Buenos Aires, en la primera mañana de funcionamiento del reconocimiento automático fueron detenidas 7 personas. Esto se logró, según el mencionado mandatario, porque la Ciudad está usando tecnología punta, utilizada también en otros lugares del mundo (Crónica, 2019). Por su parte, el responsable de seguridad de la Ciudad señaló que “sumamos estas cámaras de última tecnología con programas de reconocimiento facial que permitirán detectar a aquellos delincuentes o acosadores que tienen antecedentes judiciales o han sido detenidos por la Policía de la Ciudad” (Infobae, 2019). Según el mandatario, el reconocimiento facial compara las imágenes obtenidas con la base de datos del CONARC (Consulta Nacional de Rebeldías y Capturas), que depende del Registro Nacional de Reincidencia. Los funcionarios aseguran que “el software solo trabaja con las imágenes de las personas que cuentan con una orden de captura judicial y no con el resto de la población” (Clarín, 2019), confirmando también que será considerado ilegal el seguimiento de personas que no estén bajo pedido de captura (La Nación, 2017).

Como se mencionó en el primer apartado, la existencia de un marco legislativo es importante para la regulación del tratamiento de los datos. La flexibilidad de la legislación vigente referente a la protección de datos en la Ciudad de Buenos Aires (Ley 1.845) permitió aprobar una legislación específica sobre videovigilancia. La ley Nº5688/16 de la Legislatura de la Ciudad Autónoma de Buenos Aires, denominada “Sistema Integral de Seguridad Pública de la Ciudad Autónoma de Buenos Aires”, mediante el artículo 475 “regula la utilización por parte del Poder Ejecutivo de los sistemas de video vigilancia destinados a grabar imágenes en lugares públicos (…) estableciendo específicamente el posterior tratamiento de tales imágenes y el régimen de garantías de los derechos fundamentales y libertades públicas de los ciudadanos que habrá de respetarse ineludiblemente en las sucesivas fases de grabación y uso de las imágenes”. Asimismo, el artículo 484 establece que los datos deben ser destruidos a los sesenta días de su captura, salvo que sean parte de una investigación policial en curso o de un procedimiento policial.

De este modo, legislación mediante, el Gobierno anticipa argumentos que defienden su propuesta de gobernanza asegurando que se comparan las imágenes solamente con una base de datos acotada de prófugos. Sin embargo, la promoción del uso intensivo de nuevas tecnologías para una eficiente gestión y la propuesta de construir un sistema de información estadística confiable, reuniendo datos personales y mapas de ocurrencia de hechos delictivos,⁶ consolidan el argumento de que en la Ciudad de Buenos Aires se ejerce una gobernanza estocástica. Esta adjetivación sobre la gobernanza que asume que los datos y los algoritmos son objetivos omite el hecho de que la decisión sobre qué datos se recopilan y cómo se procesan se basa —intencional o inconscientemente— en las preferencias e intereses, en este caso de quienes gobiernan.

En este sentido, la problemática de las preocupaciones acerca de la privacidad de los ciudadanos cobra especial relevancia ante la utilización de las tecnologías de Big Data por parte del Gobierno de la Ciudad de Buenos Aires. Más allá de la regulación y la legislación, dentro de este trabajo se hace énfasis en la importancia de abordar la problemática de la privacidad desde la responsabilidad de cada uno de los actores que intervienen en el desarrollo de las tecnologías de Big Data. Desde esta perspectiva se requiere, en primer lugar, reconocer que los datos surgen de una relación co-constitutiva entre los humanos y las tecnologías de Big Data (Kitchin, 2014; Ruppert, Isin y Bigo, 2017) y, en segundo lugar, considerar la asignación de responsabilidades dentro de este proceso de co-constitución. Si no se tiene en cuenta esta dimensión axiológica se corre el riesgo de caer en un dualismo simplista frente a la utilización de las tecnologías de Big Data por parte de las organizaciones gubernamentales, por un lado, aceptando el uso de estas nuevas tecnologías sin ningún tipo de cuestionamiento, por el otro, negando de manera rotunda su utilización por parte del Estado.

Dentro de este trabajo, si bien se reconoce la utilidad que representan las tecnologías de Big Data para que el Estado lleve adelante las políticas públicas de una manera eficaz, se propone abordar cuestiones de gobernanza sobre estas tecnologías para que su desarrollo se realice de manera responsable. Para ello, en el siguiente apartado, partiendo de la descripción del concepto de gobernanza anticipatoria como una capacidad para gobernar las tecnologías emergentes, se presenta el concepto de gobernanza anticipatoria de tecnologías de Big Data y se realiza una propuesta preliminar para su implementación en la Ciudad de Buenos Aires.

Gobernanza anticipatoria de las tecnologías de Big Data

Dada la problemática planteada en cuanto a la privacidad de las personas que surge a partir de la utilización de tecnologías de Big Data por las organizaciones gubernamentales, y reconociendo la utilidad que le representa al Estado disponer de este tipo de tecnologías, es necesario abordar su desarrollo desde la responsabilidad. En este último apartado las tecnologías de Big Data no se entenderán como un insumo para realizar la gobernanza de la población y el territorio, sino que pasarán a ser el objeto mismo de la gobernanza. Para ello, se toma como referencia el corpus teórico de innovación (e investigación) responsable (von Schomberg, 2013; Stilgoe y Guston, 2016) que permite indagar acerca de las formas de desarrollar la tecnología en forma responsable. Dentro de este corpus teórico, el concepto de gobernanza anticipatoria se entiende como la capacidad para gobernar las tecnologías emergentes en etapas tempranas de su desarrollo (Guston, 2014). La palabra “anticipación”, en este contexto, no es sinónimo de expectativa ni predicción, sino más bien implica la toma de posición en tiempo y espacio, ahora y en este lugar.

A través del fomento de capacidades vinculadas con la prospectiva, el compromiso y la integración,⁷ la gobernanza anticipatoria alienta a todos los actores sociales a reflexionar sobre sus roles en la tecnología emergente entendiendo la reflexión como el (re)conocimiento de la propia posición y responsabilidad en tanto participante dentro del proceso que implica el desarrollo de una tecnología. Este tipo de gobernanza, además, asume que es necesario llevar los asuntos de interés al debate público a través de motivaciones sustantivas⁸ y que la forma de la disposición hacia el futuro que toma el Gobierno queda establecida por la legitimidad de los gobernantes.

La gobernanza anticipatoria de las tecnologías de Big Data que aquí defendemos (adaptando las ideas anteriores) se sustenta en tres ideas. (i) La primera es que las tecnologías de Big Data son de utilidad para hacer que las políticas de los Estados sean más eficaces. En este sentido, se aceptan tanto la forma de la disposición hacia el futuro que toma el Gobierno como la gobernanza de población y territorio mediante el uso de grandes volúmenes de datos (gobernanza estocástica). (ii) La segunda es que los datos no son evidencia, sino que son co-constituídos en una relación entre los humanos y las tecnologías de Big Data. En este sentido, se opone al supuesto implícito de la gobernanza estocástica acerca de que los datos son hechos, y considera que estos datos emergen de la relación que se co-constituye entre humanos y tecnologías de Big Data. (iii) La tercera idea, resultado de la no oposición a la utilización de las tecnologías de Big Data y la oposición a asumir que los datos son evidencia, es que el conocimiento de la propia posición que cada actor social ocupa en la relación co-constitutiva entre humanos y tecnologías de Big Data como participante (reflexión) es el punto de partida para analizar la asignación de responsabilidades en el desarrollo de estas tecnologías. Esa relación co-constitutiva se materializa en los mecanismos relacionales de procesamiento de datos, mecanismos que, al permitir comprender cómo se co-constituyen los datos, se presentan como una cuestión de interés y, en ese sentido, es necesario llevarlos a un debate público (Latour, 2005; Lupton, 2018).

A partir de estas tres ideas la gobernanza anticipatoria de datos se define aquí como una capacidad para gobernar las tecnologías de Big Data a través de la comprensión de los mecanismos relacionales de procesamiento de datos.⁹ El objetivo es fomentar el dialogo, el intercambio de ideas y la reflexión (conocimiento de cada actor de su posición en tanto participante y de sus responsabilidades) en las cuestiones referentes al tratamiento de los datos. El cumplimiento de este objetivo permite que los debates acerca de la gobernanza a través de las tecnologías de Big Data trasciendan las posiciones dualistas mencionadas en el apartado anterior y se posicionen ahora en el cuestionamiento acerca del tratamiento de los datos.

Habiendo presentado el concepto de gobernanza anticipatoria de tecnologías de Big Data, a continuación se realiza una propuesta preliminar para su implementación a partir de la creación de espacios que permitan considerar las perspectivas de todos los actores involucrados en el desarrollo de estas tecnologías en la Ciudad de Buenos Aires y así comenzar a evidenciar los mecanismos relacionales de procesamiento de datos.

La propuesta se fundamenta en características propias de las tecnologías de Big Data. Cuando se habla de tecnologías de Big Data, los científicos se encuentran representados por los científicos de datos. Estos actores son aquellos que entienden, porque lo han aprendido o adquirido, el procedimiento mediante el cual se procesan los datos. Ellos son quienes tienen la capacidad de realizar las inscripciones sobre las tecnologías, inscripciones representadas por los algoritmos. Los científicos de datos, a diferencia de los científicos tradicionales, no pertenecen a una rama de la ciencia en particular, sino que se encuentran más bien diseminados en diferentes campos. Esta diseminación vinculada a una apertura de espectro disciplinar, característica de las tecnologías de Big Data, también se extiende al lugar en el cual adquieren conocimientos y se desempeñan los científicos de datos. Mientras que para los científicos tradicionales este lugar está representado por los laboratorios, para los científicos de datos está representado por las aulas en las que adquieren conocimientos y por cualquier espacio físico en el que desplieguen sus conocimientos de programación (oficinas, centros de investigación, hogares, etc.).

Estos dos tipos de apertura (de campo disciplinar y de espacio de adquisición/desempeño del conocimiento) permiten repensar la idea de los laboratorios como sitios de negociación para discutir asuntos relacionados con el desarrollo de una tecnología puntual (Latour, 1999). En el caso de los laboratorios tradicionales existe la necesidad de apertura para hacer públicos los debates vinculados con el desarrollo científico. En el caso de las tecnologías de Big Data esta apertura de espacios es natural, lo que facilita la consideración de las perspectivas de todos los actores involucrados en el desarrollo de estas tecnologías en un proceso de interacción constante.

Teniendo en cuenta estas características de apertura de las tecnologías de Big Data, la propuesta preliminar consiste en llevar el debate acerca de los tratamientos de los datos a dos niveles. En primer lugar, y de forma inmediata, se propone establecer como objetivo la comprensión de los mecanismos relacionales de procesamiento de datos en las organizaciones educativas de todos los niveles. En este lugar, desde el aprendizaje, es posible realizar un proceso abierto de reflexión que permita que cada uno tenga conocimiento de la posición que ocupa como participante y de las responsabilidades que tiene dentro del desarrollo de las tecnologías de Big Data. En segundo lugar, teniendo en cuenta que se encuentran vigentes diversas iniciativas de tecnologías de Big Data impulsadas por el Gobierno de la Ciudad de Buenos Aires (el sistema de videovigilancia es solo un ejemplo) y que desde la Defensoría del Pueblo de la Ciudad de Buenos Aires ¹⁰ se están realizando debates acerca de su utilización (Defensoría del Pueblo, 2018), se propone a esta organización como lugar para instalar debates y proponer leyes y regulaciones a partir de la comprensión de los mecanismos relacionales de procesamiento de datos.

Es necesario remarcar la importancia de esta propuesta en términos de responsabilidad ya que en un país como Argentina se transforma en prioritario establecer mecanismos para el diálogo intercultural y crear políticas de contención para la aceptabilidad de las tecnologías (Vasen, 2017). También es fundamental comprender que los debates no deberían centrarse en cómo utilizar las tecnologías de Big Data para realizar una mejor gobernanza, sino más bien en cómo desarrollar estas tecnologías para que su utilización (el tratamiento de los datos) sea responsable. En este sentido, la gobernanza anticipatoria de tecnologías de Big Data se presenta como un concepto a desarrollar e implementar para que la gobernanza que realiza el Gobierno de la Ciudad de Buenos Aires a través de la utilización de tecnologías de Big Data se realice en forma responsable.

Conclusiones

Dentro de este trabajo se presentó el fenómeno de Big Data como una tecnología emergente que posibilita procesar grandes cantidades y diversos tipos de datos mediante algoritmos. A modo de ejemplo se presentó el “Sistema Integral de Seguridad Pública”, una iniciativa del Gobierno de la Ciudad de Buenos Aires que implementa tecnología de Big Data. Reconociendo la utilidad del Gobierno de contar con este tipo de tecnologías para llevar adelante sus políticas, el objetivo de este trabajo consistió en realizar una propuesta preliminar para implementar una gobernanza anticipatoria de Big Data en la Ciudad de Buenos Aires.

El concepto de gobernanza anticipatoria se tomó como punto de partida para analizar en términos de responsabilidad el desarrollo de las tecnologías de Big Data. La gobernanza anticipatoria de las tecnologías de Big Data, definida aquí como una capacidad para gobernar estas tecnologías mediante la apertura de debates públicos que permitan comprender los mecanismos relacionales de procesamiento de datos, representa las siguientes ideas:

(i) Las tecnologías de Big Data son útiles para hacer que las políticas sean más eficaces.

(ii) Los datos no son evidencia (cuestiones de hecho) sino que son co-constituídos en una relación entre humanos y tecnologías de Big Data (cuestiones de interés).

(iii) La relación co-constitutiva entre humanos y tecnologías de Big Data se materializa en los mecanismos relacionales de procesamiento de datos.

Como aporte del trabajo, se realizó una propuesta preliminar para la implementación de una gobernanza anticipatoria de datos en la Ciudad de Buenos Aires. La propuesta se fundamentó en los tipos de apertura (de campo disciplinar y de espacio de adquisición/desempeño del conocimiento) que presentan las tecnologías de Big Data y consistió en llevar el debate de los tratamientos de los datos a dos niveles. Un primer nivel está dado por las organizaciones educativas donde es posible realizar un proceso abierto de reflexión a través del aprendizaje que permita que cada uno tenga conocimiento de la posición que ocupa como participante y de las responsabilidades que tiene dentro del desarrollo de las tecnologías de Big Data. Un segundo nivel está dado por la Defensoría del Pueblo de la Ciudad de Buenos Aires donde, dadas sus capacidades y las discusiones que lleva en la actualidad, es posible iniciar debates acerca del desarrollo de las tecnologías de Big Data en términos de responsabilidad.

Es fundamental comprender que los debates no deberían centrarse en cómo utilizar las tecnologías de Big Data para realizar una mejor gobernanza sino, más bien, en cómo desarrollar estas tecnologías para que su utilización (el tratamiento de los datos) sea responsable. En este sentido, los mecanismos relacionales de datos presentan un punto de partida para develar la posición que cada actor ocupa en el desarrollo de las tecnologías de Big Data. Ese (re)conocimiento permite reflexionar y abre la posibilidad de realizar una gobernanza responsable. A partir del análisis de diferentes iniciativas del Gobierno, como trabajo a futuro se plantea dar una mayor especificación del concepto de gobernanza anticipatoria de tecnologías de Big Data para que se contemple su inclusión en las agendas de políticas científicas.

Referencias

Anderson, C. (23 de junio de 2008). The End of Theory: The Data Deluge Makes the Scientific Method Obsolete. Wired. Recuperado de http://archive.wired.com/science/discoveries/magazine/16-07/pb_theory

Barben, D., Fisher, E., Selin, C. y Guston, D. H. (2008). Anticipatory Governance of Nanotechnology: Foresight, Engagement, and Integration. En E. J. Hackett, O. Amsterdamska, M. Lynch y J. Wajcman (Eds.), The Handbook of Science and Technology Studies. Third Edition (pp. 979–1000). Cambridge, MA y Londres: The MIT Press.

boyd, d. y Crawford, K. (2012). Critical questions for big data. Provocations for a cultural, technological, and scholarly phenomenon. Information, Communication & Society, 15(5), 662–679. doi:10.1080/1369118X.2012.678878

Bryson, J. M., Crosby, B. C. y Bloomberg, L. (2015). Public Value and Public Administration. Washington DC: Georgetown University Press.

Clarín (27 de abril de 2019). Detuvieron a un violador en el subte a través del sistema de reconocimiento facial. Diario Clarín. Recuperado de https://www.clarin.com/policiales/detuvieron-violador-subte-traves-sistema-reconocimiento-facial_0_LmN3jo6Rp.html

Crawford, K., Gray, M. L. y Miltner, K. (2014). Critiquing Big Data: Politics, Ethics, Epistemology. International Journal of Communication, 8(10), 1663–1672. Recuperado de https://ijoc.org/index.php/ijoc/article/viewFile/2167/1164

Crónica (25 de abril de 2019). El sistema de reconocimiento facial debutó con siete detenidos. Crónica. Recuperado de https://www.cronica.com.ar/policiales/El-sistema-de-reconocimiento-facial-debuto-con-siete-detenidos-20190426-0024.html

Defensoría del Pueblo (2016). Guía sobre Protección de Datos Personales para Funcionarios de la Ciudad de Buenos Aires. Buenos Aires: Defensoría del Pueblo.

Defensoría del Pueblo (2018). El Gobierno no puede utilizar más los datos personales de las bases de la ANSES y el INSSJP. Defensoría del Pueblo. Recuperado de http://www.defensoria.org.ar/noticias/el-gobierno-no-puede-utilizar-mas-los-datos-personales-de-las-bases-de-la-anses-y-el-inssjp/

Fiorino, D. J. (1990). Citizen Participation and Environmental Risk: A Survey of Institutional Mechanisms. Science, Technology, & Human Values, 15(2), 226–243. doi:10.1177/016224399001500204

Graham, M. (9 de marzo de 2012). Big data and the end of theory? The Guardian. Recuperado de http://www.theguardian.com/news/datablog/2012/mar/09/big-data-theory

Guston, D. H. (2014). Understanding ‘anticipatory governance’. Social Studies of Science, 44(2), 218–242. doi:10.1177/0306312713508669

Infobae (15 de enero de 2019). La Policía de la Ciudad comenzará a utilizar pistolas Taser en el subte a partir de marzo. Infobae. Recuperado de https://www.infobae.com/sociedad/2019/01/15/subtes-implementaran-un-sistema-de-reconocimiento-facial-para-combatir-a-los-arrebatadores/

Kitchin, R. (2014). The real-time city? Big data and smart urbanism. GeoJournal, 79(1), 1–14. doi:10.1007/s10708-013-9516-8

Knuth, D. E. (1973). The Art of Computer Programming. Reading, MA: Addison-Wesley.

La Nación (20 de septiembre de 2017). El gobierno porteño buscará en Twitter a posibles evasores impositivos. La Nación. Recuperado de https://www.lanacion.com.ar/2064816-el-gobierno-porteno-buscara-en-twitter-a-posibles-evasores-impositivos

Latour, B. (1999). Give Me a Laboratory and I Will Raise the World (1983, abridged 1998). En M. Biagioli (Ed.), The Science Studies Reader (pp. 258–275). Nueva York: Routledge.

Latour, B. (2005). From Realpolitik to Dingpolitik. Making Things Public: Atmospheres of Democracy. Cambridge, MA: The MIT Press.

Lupton, D. (2018). How do data come to matter? Living and becoming with personal data. Big Data & Society, 5(2), 1–11. doi:10.1177/2053951718786314

Mergel, I., Rethemeyer, R. K. e Isett, K. (2016). Big Data in Public Affairs. Public Administration Review, 76(6), 928–937. doi:10.1111/puar.12625

Nguyen, C., Feng, W. y Liu, F. (2016). Hotspot: Making computer vision more effective for human video surveillance. Information Visualization, 15(4), 273–285. doi:10.1177/1473871616630015

Parlamento Europeo y Consejo de la Unión Europea (2016). Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos). En Diario Oficial de la Unión Europea, 4.5.2016, L 119/1 (pp. 1–88). Bruselas.

Ruppert, E., Isin, E. y Bigo, D. (2017). Data politics. Big Data & Society, 4(2), 1–7. doi:10.1177/2053951717717749

Sanders, C. B. y Sheptycki, J. (2017). Policing, crime and ‘big data’; towards a critique of the moral economy of stochastic governance. Crime, Law and Social Change, 68(1-2), 1–15. doi:10.1007/s10611-016-9678-7

Schmarzo, B. (2013). Big Data: Understanding How Data Powers Big Business. Indianápolis: Wiley.

Sosa Escudero, W. (2019). Big Data. Breve manual para conocer la ciencia de datos que ya invadió nuestras vidas. Buenos Aires: Siglo XXI.

Steinmann, M., Matei, S. A. y Collmann, J. (2016). A Theoretical Framework for Ethical Reflection in Big Data Research. En J. Collmann y S. A. Matei (Eds.), Ethical Reasoning in Big Data: An Exploratory Analysis (pp. 11–27). Cham: Springer.

Stilgoe, J. y Guston, D. H. (2016). Responsible Research and Innovation. En U. Felt, R. Fouché, C. A. Miller y L. Smith-Doerr (Eds.), The Handbook of Science and Technology Studies. Fourth Edition (pp. 853–880). Cambridge, MA y Londres: The MIT Press.

Vasen, F. (2017). Responsible Innovation in Developing Countries: An Enlarged Agenda. En L. Asveld, R. van Dam-Mieras, T. Swierstra, S. Lavrijssen, K. Linse y J. van den Hoven (Eds.), Responsible Innovation 3. An European Agenda? (pp. 93–109). Cham: Springer.

von Schomberg, R. (2013). A Vision of Responsible Research and Innovation. En R. Owen, J. Bessant y M. Heintz (Eds.), Responsible Innovation: Managing the Responsible Emergence of Science and Innovation in Society (pp. 51–74). Chichester: Wiley.

Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for the Future at the New Frontier of Power. Londres: Profile Books.

Notas

¹ El procesamiento de datos será entendido como cualquier operación o conjunto de operaciones que se realice sobre los datos. Ejemplos de estas operaciones son la recolección, el almacenamiento, el análisis y la comercialización de los datos, entre otros.

² En este trabajo el tratamiento de los datos y el procesamiento de los datos serán tomados como sinónimos.

³ En otras definiciones se vincula el fenómeno de Big Data con un artefacto mitológico que se basa en la creencia generalizada de que los grandes conjuntos de datos ofrecen una forma superior de inteligencia y conocimiento que puede generar ideas que anteriormente eran imposibles, ideas con el aura de verdad, objetividad y precisión (boyd y Crawford, 2012; Crawford, Gray y Miltner, 2014).

⁴ La distinción entre forecasting y nowcasting se basa fundamentalmente en un análisis epistemológico del Big Data. Por un lado, vinculados a una idea instrumentalista de Big Data, están quienes argumentan que si bien la mayor cantidad de datos contribuye a la predicción estadística, el diseño de los modelos, la teoría, es fundamental (Sosa Escudero, 2019). Por otro, vinculados a una idea determinista de Big Data, están quienes argumentan que ya no son necesarias las muestras representativas porque se conoce la población entera. Detrás de esta idea, la teoría deja de importar y las predicciones se pueden hacer en tiempo real (Anderson, 2008; Graham, 2012).

⁵ En las posiciones más extremas se plantea que existe un capitalísmo de vigilancia donde los datos recogidos son comercializados (Zuboff, 2019).

⁶ Propuestas incluídas en los principios rectores presentes en el artículo 477 de la ley Nº5688/16 de la Legislatura de la Ciudad Autónoma de Buenos Aires.

⁷ La prospectiva está vinculada con un enfoque metodológicamente pluralista de futuros plausibles que brinda una visión más diversa y normativa en comparación con otros métodos que buscan identificar un futuro más probable (forecasting). El compromiso representa la idea del intercambio sustancial de ideas entre el público en general y aquellos que tradicionalmente establecen la agenda de investigación científica. La integración refiere a la creación de oportunidades para el intercambio de ideas y la creación de capacidad reflexiva (Barben, Fisher, Selin y Guston, 2008).

⁸ Este tipo de motivaciones posibilita la toma de decisiones en coproducción con la ciudadanía, de manera tal que incluya la diversidad de conocimientos y valores de la sociedad. En contraposición, motivaciones no sustantivas son aquellas que responden a un proceso de participación ciudadana que ayude a cumplir determinados objetivos políticos preacordados (instrumentales) o aquellas que buscan únicamente convalidar el carácter democrático del proceso como un valor en sí mismo (motivaciones normativas) (Fiorino, 1990).

⁹ Para comprender mejor a qué se refiere el concepto de gobernanza anticipatoria de tecnologías de Big Data, se explicita un contraejemplo. El 27 de abril de 2016 el Parlamento Europeo publicó el Reglamento General de Protección de Datos (RGPD) (Parlamento Europeo y Consejo de la Unión Europea, 2016) con el objetivo de proteger los datos personales independientemente de la tecnología utilizada para su tratamiento. Dentro del RGPD se detallan conceptos vinculados al tratamiento de los datos (“desde el diseño” y “por defecto”) y se establece la responsabilidad de quien trate los datos. En este sentido, el RGPD refiere a la gobernanza de datos contribuyendo con la identificación y la regulación de los riesgos de privacidad. Sin embargo, el RGPD no contribuye a la gobernanza anticipatoria de tecnologías de Big Data, ya que no permite la generación de capacidades para abrir el debate en cuanto a la relación co-constitutiva entre humanos, tecnologías y datos.

¹⁰ Organización de control autónomo e independiente que representa a la ciudadanía y no recibe instrucciones de ninguna autoridad. Esta organización tiene la capacidad de proponer leyes ante la Legislatura de la Ciudad, presentarse en los tribunales en representación de los ciudadanos e iniciar investigaciones sobre asuntos de interés.

Acerca de los autores

Pablo Matías Herrera (pabloherrera@economicas.uba.ar) es doctor por la Universidad de Buenos Aires en el Área Ciencias Económicas. Profesor adjunto regular del Grupo de Asignaturas Matemáticas en la Facultad de Ciencias Económicas de la Universidad de Buenos Aires. Coordinador académico de la Maestría en Gestión de la Innovación y de la Especialización en Métodos Cuantitativos para la Gestión y Análisis de Datos en Organizaciones (FCE-UBA) (ORCID 0000-0002-5961-2090).

Javier García Fronti (javier.garciafronti@economicas.uba.ar) es doctor por la Universidad de Buenos Aires (Administración), máster en Financial Mathematics (Business School, University of Warwick, Reino Unido) y doctor en Filosofía de la Ciencia (Universidad del País Vasco UPV/EHU). Profesor titular regular de “Matemática para Economistas” y profesor titular regular del grupo actuarial de la Facultad de Ciencias Económicas de la Universidad de Buenos Aires. Director del CIMBAGE (IADCOM.UBA) (ORCID 0000-0002-0378-5179).

Recibido: 30/04/2019

Aceptado: 29/07/2019

Cómo citar este artículo

Herrera, P. M. y García Fronti, J. (2020). Gobernanza anticipatoria de las tecnologías de Big Data. Una propuesta preliminar para su implementación en la Ciudad de Buenos Aires. Caleidoscopio - Revista Semestral de Ciencias Sociales y Humanidades, 24(43). doi:10.33064/43crscsh1986

Esta obra está bajo una
Licencia Creative Commons Atribución-NoComercial-CompartirIgual 4.0 Internacional
Usted es libre de compartir o adaptar el material en cualquier medio o formato bajo las condiciones siguientes: (a) debe reconocer adecuadamente la autoría, proporcionar un enlace a la licencia e indicar si se han realizado cambios; (b) no puede utilizar el material para una finalidad comercial y (c) si remezcla, transforma o crea a partir del material, deberá difundir sus contribuciones bajo la misma licencia que el original.
Resumen de la licencia https://creativecommons.org/licenses/by-nc-sa/4.0/deed.es_ES
Texto completo de la licencia https://creativecommons.org/licenses/by-nc-sa/4.0/legalcode