La creación de la UIAAS ha generado polémica por su falta de debate previo y una política clara de implementación tecnológica. Tomás Pomar, presidente de O.D.I.A, analiza las deficiencias de la Resolución N° 710/2024 para Multiviral
Por: Tomas Pomar
El pasado 29 de julio, el Ministerio de Seguridad de la Nación creó la UIAAS (Unidad de Inteligencia Artificial Aplicada a la Seguridad) mediante la Resolución N° 710/2024. Inmediatamente, surgieron voces de alarma ante esta medida. Es importante destacar el carácter transversal de las críticas dirigidas a este sistema. Esto al tomar en consideración que gran parte de las mismas han tenido origen en organizaciones técnicas con especialización en temáticas tan variadas como la defensa de los derechos humanos, la prevención de la violencia institucional e, incluso, la investigación en Derecho informático. Sin embargo, más allá de la singularidad de las múltiples perspectivas aportadas, el debate ha tenido lo que, en palabras de las abuelas, podríamos llamar “gusto a poco”. Y es que, ante un avance tecnológico de las características de la IA, la reducción del debate a un ejercicio de “avance” y “resistencia” amenaza con transformar la cuestión en un juego de suma cero en el que la construcción de una visión superadora se torna imposible.
En este contexto, la creación de la UIAAS debería verse no como un problema aislado, sino como un síntoma de la falta de una política pública clara para la implementación de tecnologías emergentes en la gestión pública. El desafío aquí presentado no resulta algo sencillo. Al márgen de la falsa dicotomía entre una tecnología que todo lo promete resolver y la defensa de una institucionalidad que pareciera perder su encanto con el tiempo, el territorio de este debate se encuentra minado por otros puntos álgidos. Además, las posiciones en torno a estas cuestiones constituyen una manifestación más de nuestra crisis de representación. Así, se advierte que, más allá de la falta de una política estatal, los partidos políticos también carecen de un programa. Más aún, son los propios dirigentes políticos los que, ante la ausencia de una posición previa, se ven empujados a configurar cada una de estas “nuevas polémicas tecnológicas” como si se trataran de episodios inconexos entre sí. Esta ausencia de una mirada política de la tecnología que permita ponderar los puntos en común entre tecnologías como la IA, el reconocimiento facial, el ciberpatrullaje o el uso de troyanos obliga a pensar la relación del Estado con cada uno de estos dispositivos de un modo insular. Esta pretendida ahistoricidad “des-ideologizante” de la cuestión es una de las grandes causas que dificultan mejorar nuestro debate público en torno a la cuestión informática. En el fondo, sacando alguna rara excepción, todos aquellos que somos señalados de “resistencia a la innovación” entendemos el destino de nuestra pelea. No se trata pues de pretender evitar la “innovación” del Estado sino más bien de evitar esto suceda de un modo acrítico que, bajo la fe en la técnica, omite considerar las prácticas sociales sobre las que estos dispositivos se inscriben.
La Resolución N° 710/2024 del Ministerio de Seguridad.
Un aspecto crucial de la Resolución que generó polémica es la falta de un debate previo entre el Ministerio y las organizaciones intermedias de la sociedad. Este hecho es particularmente alarmante, dado el gran número de instituciones y profesionales dedicados a la tecnología de inteligencia artificial. La ausencia de este diálogo se hace evidente al analizar los fundamentos de la medida.
En sus primeros argumentos de la Resolución 710/2024, el ministerio afirma que “el avance de la tecnología, en particular de la Inteligencia Artificial, representa uno de los cambios socio-tecnológicos más relevantes para la población en general.Que países como Estados Unidos de América, China, Reino Unido, Israel, Francia, Singapur, India, entre otros, son pioneros en la utilización de la Inteligencia Artificial en sus áreas de gobierno y Fuerzas de Seguridad”. Más allá de esta invocación, la Resolución en momento alguno específica a que experiencias comparadas se refiere. Peor aún, en ningún momento las autoridades del Ministerio intentan siquiera explicar en qué modo las experiencias de países con modelos de seguridad tan disímiles como China, Singapur, India o Reino único serían comparables entre sí y, menos aún, en qué modo aquellas experiencias serían aplicables a nuestro país y su sistema instucional. Asimismo, vale señalar que plantear la implementación de estos sistemas como una experiencia homogénea y carente de desafíos es algo, cuanto menos, errado. Eso al menos en cuanto a Estados Unidos y Reino Unido donde la implementación de IA en las ha visto avances y retrocesos debido a los problemas de transparencia y dañosidad de estas herramientas.
Más adelante la Resolución también da cuenta de un llamativo “todologismo” tecnológico cuando en sus considerandos expresa que, “los mencionados países utilizan la Inteligencia Artificial en Análisis de Video y Reconocimiento Facial, Predicción de Crímenes, Ciberseguridad, Análisis de Datos, Drones y Robótica, Comunicación y Coordinación, Asistentes Virtuales y Automatización, Análisis de Redes Sociales y Detección de Fraude y Anomalías”. Este argumento es alarmante. La agrupación de tecnologías tan disímiles dentro de una misma categoría da cuenta en gran medida de la ausencia de criterios estrictos de trabajo al momento de definir la política pública a establecer. Esta falta de criterio transforma estas medidas en simples gestos simbólicos, sin una verdadera sustancia. Y es que ¿de qué modo podría el público especializado creer en la variedad de una medida para la que toda tecnología supone un mismo fenómeno?
Además, es necesario destacar el alto grado de dogmatismo esgrimido por la medida en cuanto a los resultados de la medida a adoptar. En su texto, al justificar en qué modo la incorporación de estos sistemas podría mejorar el desempeño de las Fuerzas de Seguridad, la Resolución sólo se limita a afirmar que, “su utilización puede mejorar significativamente la eficacia y eficiencia de las distintas áreas del MINISTERIO DE SEGURIDAD y las Fuerzas Policiales y de Seguridad Federales, ayudándoles a responder más rápido y con mayor precisión a las amenazas y situaciones de emergencia”. Este punto sirve como botón de muestra para entender uno de los mayores problemas del Estado nacional al diseñar soluciones informáticas. En el texto de la Resolución lejos de poder apreciarse algún estudio, evaluación o requerimiento técnico específico que justifique la medida sólo se aprecia una invocación en las posibilidades de mejora que estos sistemas suponen. Este tipo de medidas, propias de una visión tecnosolucionista que se representa a la tecnología como una cuestión autojustificable obtura en gran medida la posibilidad de arribar a resultados adecuados. Esto toda vez que la ausencia de criterios sólidos para la evaluación y, más aún, determinación de resultados de estos actos de gestión impiden que se establezca un sentido claro en la política adoptada.
Finalmente, más allá de la implementación, la resolución presenta dos déficits críticos. Decimos esto con respecto a, en primer término, la falta absoluta de parámetros para la contratación pública de este tipo de sistemas. Esta situación adquiere mayor peso al tomar en cuenta que sin directiva alguna en la materia quedará librado enteramente a la Unidad de Compras el establecimiento de las modalidades de contratación pública con las empresas proveedoras. Más aún, no se advierte, tampoco, directiva alguna con respecto al modo en que las empresas que provean los servicios de IA deban administrar las bases de datos puestas a su disposición. En segundo lugar, la resolución de creación de la UIAAS no establece reglas con respecto al uso de estas herramientas por parte del personal a cargo. Si bien, en cuanto al ciberpatrullaje, rigen las limitaciones establecidas por la Resolución 428/2024 del pasado mes de mayo, el uso de herramientas de IA mencionadas queda sin limitación o reglamento alguno destinado a limitar la actuación de los usuarios. Estas dos falencias de la Resolución ministerial sirven al igual que las observaciones sobre los fundamentos para dimensionar el errático modo en que estas herramientas son incorporadas a nuestra gestión pública. El desafío de estos sistemas, en definitiva, no es técnico sino político