“PALANTIR ES COMO UNA CAJA NEGRA”: LA ADVERTENCIA DE AMNISTÍA Amnistía Internacional presentó un informe que advierte sobre la expansión de tecnologías de vigilancia durante el gobierno de Javier Milei. Matt Mahmoudi, investigador y asesor de la organización en inteligencia artificial y derechos humanos, señaló riesgos para la privacidad y la libertad de expresión. La vigilancia masiva “Las tecnologías digitales permiten capturar información y focalizar personas a una escala que antes no existía. Los gobiernos recurren al reconocimiento facial o al predictive policing [vigilancia predictiva], que dependen de extraer información de redes sociales, registros públicos y otras bases sin consentimiento”. “El simple hecho de participar de la vida pública puede exponerte a vigilancia impulsada por IA. Lo que cambió es esta sospecha por defecto, donde los ciudadanos pasan a ser potenciales amenazas bajo argumentos de seguridad nacional”. El tecnosolucionismo “Los LLM son, en cierto sentido, la ‘droga de entrada’: una vez que aceptás que la IA puede solucionarlo todo, empezás a usarla para vigilancia o para intentar determinar preventivamente quién puede cometer un delito”. “Los gobiernos venden el tecnosolucionismo, pero la tecnología puede terminar funcionando como una distracción. Las preguntas deberían ser qué hace un gobierno con la economía, la salud o la educación. Cuando responde incrementando la vigilancia sobre la disidencia y las protestas, eso también puede ser una señal de fragilidad del Estado”. Los límites democráticos “Si decimos que la única manera de garantizar seguridad es utilizar tecnología para determinar quién podría delinquir, todos nos volvemos sospechosos y se erosiona la presunción de inocencia”. “Para Amnistía, el reconocimiento facial utilizado para vigilancia masiva es incompatible con el derecho internacional de los derechos humanos y el predictive policing erosiona la presunción de inocencia. Hay líneas rojas que no deberían cruzarse”. Sobre Palantir “Deberíamos preocuparnos por todas esas empresas, especialmente cuando no demuestran procesos adecuados de debida diligencia en derechos humanos”. “Palantir muestra muy poca consideración respecto de cómo sus productos pueden contribuir a violaciones de derechos”. “Palantir es como una caja negra. A veces responde para negar las acusaciones y otras directamente no responde”. Palantir en Argentina “Sabemos por información pública que existieron reuniones. Pero hay otro dato muy importante: el Gobierno argentino contrató Clearview AI, una compañía sancionada en distintos países por cuestiones vinculadas con datos y privacidad. Si un Gobierno está dispuesto a trabajar con Clearview, eso indica muy poca consideración por el derecho a la privacidad”. “Nuestra investigación encuentra tendencias hacia el tecnoautoritarismo en Argentina: consolidación de esfuerzos de vigilancia, aumento de la adquisición de herramientas y acercamientos con actores tecnológicos problemáticos. Hay muy pocas protecciones vigentes capaces de impedir que este tipo de contratos avancen”. (+) en Clarín: clar.in/45CpVoH Foto: Matt Mahmoudi, investigador y asesor de Amnistía Internacional, de visita en Buenos Aires para presentar el informe que analiza la situación actual de la vigilancia en Argentina.