La pol\u00e9mica unidad de Inteligencia Artificial alarma a los especialistas<\/p>\n
El gobierno anunci\u00f3 que patrullar\u00e1 redes sociales abiertas y la internet profunda para investigar delitos, pero tambi\u00e9n anticiparlos. Los expertos adelantan que ser\u00e1 una mega excursi\u00f3n de pesca contraria al estado de derecho y a la Constituci\u00f3n Nacional.<\/p>\n
La idea de que vivimos adentro de un \u201cgran hermano\u201d ya queda corta para describir el plan que la ministra Patricia Bullrich piensa implementar con la creaci\u00f3n de una Unidad de Inteligencia Artificial aplicada a la Seguridad (UIAAS). Una resoluci\u00f3n publicada este lunes anuncia que patrullar\u00e1 \u201credes sociales abiertas, aplicaciones y sitios de internet, as\u00ed como la llamada \u2018internet profunda\u2019 o \u2018dark web\u201d con la finalidad \u2013se\u00f1ala\u2013 de \u201cinvestigar delitos, identificar a sus autores\u201d, pero tambi\u00e9n anticipar \u201csituaciones de riesgo grave para la seguridad\u201d, \u201cdetectar actividades sospechosas\u201d incluso con c\u00e1maras y drones en tiempo real, y \u201ccrear perfiles de sospechosos o identificar v\u00ednculos entre diferentes casos\u201d.<\/p>\n
Aunque nadie puede ser investigado sin una orden judicial, varios especialistas alertan que est\u00e1 todo dado para una mega excursi\u00f3n de pesca contraria a la Constituci\u00f3n Nacional, que pone en riesgo la libertad de todas las personas, su privacidad, su libre expresi\u00f3n y circulaci\u00f3n entre otros tantos derechos.<\/p>\n
La publicaci\u00f3n de esta nueva disposici\u00f3n coincide con dos hechos recientes. Uno es la creaci\u00f3n de la Secretar\u00eda de Inteligencia de Estado (SIDE) y la aprobaci\u00f3n de una partida de 100.000 millones de pesos para gastos reservados, que representar\u00e1n m\u00e1s del 70 por ciento de su presupuesto, y que incluye entre sus \u00e1reas pilares una Agencia de Ciberseguridad. El otro, del mes de mayo, es la publicaci\u00f3n de un protocolo espec\u00edfico que habilit\u00f3 el ciberpatrullaje en redes y sitios web de acceso p\u00fablico, tambi\u00e9n con la justificaci\u00f3n de la persecuci\u00f3n del delito.<\/p>\n
\u201cLo que se crea es una Unidad de Inteligencia, no artificial, ilegal. Es la maximizaci\u00f3n de una excursi\u00f3n de pesca\u201d, advierte Beatriz Busaniche, presidenta de la Fundaci\u00f3n V\u00eda Libre. \u201cDe la resoluci\u00f3n surge que se pueden realizar perfiles de sospechosos de delitos a partir de las m\u00faltiples interacciones que realizamos en l\u00ednea. Esto est\u00e1 en tensi\u00f3n con el estado de derecho y el debido proceso judicial que indica que nadie puede ser investigado por fuera de una investigaci\u00f3n judicial en curso, se requiere una orden judicial y todas las garant\u00edas\u201d, explica a P\u00e1gina\/12 la especialista en derechos y tecnolog\u00edas digitales. \u201cLa idea puede sonar prometedora cuando uno desconoce el funcionamiento. Pero son sistemas estad\u00edsticos que infieren resultados a partir de grandes vol\u00famenes de informaci\u00f3n \u2013detalla Busaniche\u2013. Esos procesos son opacos y es muy dif\u00edcil explicar por qu\u00e9 raz\u00f3n un sistema dispone que alguien est\u00e9 en determinado lugar. La opacidad del sistema es incompatible con cualquier investigaci\u00f3n criminal. Los peligros son tantos que no hay manera de saber si el sistema no te puso en una base de datos de potenciales criminales por tus opiniones en l\u00ednea o porque hiciste un chiste, que la IA no identifica, o porque publicaste una foto jugando con una pistola de paintball\u201d.<\/p>\n
La exministra de Seguridad, Sabina Frederic, se\u00f1ala que la resoluci\u00f3n 720\/2024 ampl\u00eda \u201caquella sobre ciberpatrullaje\u201d y marca \u201cuna coincidencia reciente\u201d. \u201cHay un golpe de efecto ya que en los \u00faltimos d\u00edas todos los usuarios de whatsapp vieron aparecer en su aplicaci\u00f3n una Inteligencia Artificial (IA), nadie sabe c\u00f3mo sacarla ni qu\u00e9 capacidad tiene de rastrear sus propios datos. No se conocen los l\u00edmites de la IA y se convierte en una amenaza\u201d. Ella es partidaria de su uso en seguridad \u201csin violar las normas de protecci\u00f3n de datos personales para cruzar informaci\u00f3n disponibles de hechos delictivos, personas condenadas, an\u00e1lisis de causas judiciales cerradas\u201d. El problema, agrega, es que la resoluci\u00f3n deja pocas cosas en claro. \u201c\u00bfQu\u00e9 aparatos van a usar? \u00bfSobre qu\u00e9 datos? \u00bfC\u00f3mo se van a guardar esos datos? Amerita un pedido de acceso a la informaci\u00f3n\u201d, dice. Si llegaran a utilizar, ilustra, un sistema conocido como Pegasus \u201cser\u00eda muy peligroso\u201d. \u201cEs considerado el spyware o software esp\u00eda m\u00e1s sofisticado del mundo. Es un programa de vigilancia de dispositivos m\u00f3viles dise\u00f1ado para infiltrase sin ser detectado en tel\u00e9fonos con sistemas operativos iOS y Android\u201c.<\/p>\n
Puntos pol\u00e9micos y claves de un control social ilegal<\/strong> La UIAAS, anuncia la publicaci\u00f3n en el Bolet\u00edn Oficial, estar\u00e1 integrada por las fuerzas policiales y de seguridad federales (Polic\u00eda Federal, Gendarmer\u00eda, Prefectura y Polic\u00eda de Seguridad Aeroportuaria). Entre estas \u00faltimas el gobierno incluye tambi\u00e9n al Servicio Penitenciario Federal (SPF). El coordinador ser\u00e1 el Director de Ciberdelito y Asuntos Cibern\u00e9ticos, Santiago Gonz\u00e1lez Bellengeri. Se inspira en la experiencia, seg\u00fan el texto, de \u201cEstados Unidos, China, Reino Unido, Israel, Francia, Singapur, India, entre otros\u201d.<\/p>\n Las claves de su futura acci\u00f3n est\u00e1n en las funciones establecidas en el art\u00edculo 4. <\/strong> * \u201cIdentificar y comparar im\u00e1genes en soporte f\u00edsico o virtual\u201d. Los expertos\/as dicen que esto podr\u00eda estar re\u00f1ido con el derecho a la privacidad y la protecci\u00f3n de datos personales, ya que no se pueden usar im\u00e1genes de las personas sin causa.<\/p>\n *\u201dAnalizar im\u00e1genes de c\u00e1maras de seguridad en tiempo real a fin de detectar actividades sospechosas o identificar personas buscadas utilizando reconocimiento facial\u201d. Un dato que la resoluci\u00f3n no contempla: en la Ciudad de Buenos Aires el sistema de identificaci\u00f3n biom\u00e9trica de pr\u00f3fugos est\u00e1 frenado por un fallo judicial, a partir de un amparo que cuestion\u00f3 su uso poco transparente, la filtraci\u00f3n de datos en forma masiva e incluso el criterio de construcci\u00f3n de perfiles supuestamente sospechosos discriminatorios por rasgos, lugar de residencia, entre otros. Busaniche cuenta que en Boston y San Francisco est\u00e1 prohibido el reconocimiento facial en el espacio p\u00fablico.<\/p>\n * \u201cUtilizar algoritmos de aprendizaje autom\u00e1tico a fin de analizar datos hist\u00f3ricos de cr\u00edmenes y de ese modo predecir futuros delitos y ayudar a prevenirlos\u201d. En la red social X, el investigador del Conicet Mart\u00edn Becerra se\u00f1al\u00f3 sobre ese punto que \u201ces algo en lo que expl\u00edcitamente el uso de Inteligencia Artifiical ha fallado y que, por tanto, hay que evitar\u201d. \u201cEl \u00f3rgano gubernamental creado para patrullar las redes sociales aplicaciones y sitios de Internet\u201d \u201ccontradice varios art\u00edculos de la Constituci\u00f3n Nacional\u201d, dijo.<\/p>\n *\u201dIdentificar patrones inusuales en las redes inform\u00e1ticas y detectar amenazas cibern\u00e9ticas antes de que se produzcan ataques. Esto incluye la identificaci\u00f3n de malware, phishing y otras formas de ciberataque\u201d.<\/p>\n *\u201dProcesar grandes vol\u00famenes de datos de diversas fuentes para extraer informaci\u00f3n \u00fatil y crear perfiles de sospechosos o identificar v\u00ednculos entre diferentes casos\u201d. Busaniche advierte que el \u201cprofiling o perfilamento de personas es uno de los campos de m\u00e1s alto riesgo de las IAs porque no hay manera certera de saber en base a qu\u00e9 se construye un perfil determinado. Evaluar el riesgo de que un individuo cometa un delito est\u00e1 expresamente prohibido en las normas de IA de la Uni\u00f3n Europea, se considera una implementaci\u00f3n de IA de riesgo inaceptable, un ataque directo a la libertad de expresi\u00f3n, la violaci\u00f3n del estado de derecho ya que se va a hacer perfilamiento de las personas por su opini\u00f3n y preferencias en redes sociales\u201d.<\/p>\n *\u201dPatrullar mediante drones \u00e1reas extensas, proporcionar vigilancia a\u00e9rea y responder a emergencias\u201d. As\u00ed dicho, pareciera que puede haber seguimientos indiscriminados.<\/p>\n *\u201dRealizaci\u00f3n de tareas peligrosas, como la desactivaci\u00f3n de explosivos\u201d con \u201crobots\u201d.<\/p>\n *\u201dMejorar la comunicaci\u00f3n y coordinaci\u00f3n entre diferentes fuerzas policiales y de seguridad\u201d para compartir la \u201cinformaci\u00f3n cr\u00edtica\u201d en forma \u201cr\u00e1pida y eficiente\u201d. Es decir: es factible que datos privados, que el gobierno mete en su bolsa de sospechosos o cuestiones a investigar\u201d circulen f\u00e1cilmente.<\/p>\n *\u201cAnalizar actividades en redes sociales para detectar amenazas potenciales, identificar movimientos de grupos delictivos o prever disturbios\u201d. Todos los especialistas ven en este punto una nueva amenaza a la protesta social, ya castigada por el gobierno de Javier Milei y las pol\u00edticas del ministerio de seguridad a traves de sus protocolos: tanto contra la protesta como los que habilitan a agentes de seguridad a usar armas de fuego.<\/p>\n *\u201dDetectar transacciones financieras sospechosas o comportamientos an\u00f3malos que podr\u00edan indicar actividades ilegales\u201d. No est\u00e1 claro c\u00f3mo se aplicar\u00e1 este punto sin violar, por ejemplo, el secreto bancario. El \u00f3rgano que concentra esa actividad es la Unidad de Informaci\u00f3n Financiera.<\/p>\n M\u00e1s miradas<\/strong> \u201cTodo lo que se plantea es contrario al debido proceso, la intimidad de las personas, no pide autorizaci\u00f3n judicial para intervenir en las posibles comunicaciones de abogados con sus clientes, o periodistas y fuentes\u201d, alerta Rodrigo Iglesias, especialista en derecho inform\u00e1tico. \u201cLas redes sociales \u2013sigue\u2013 no son fuentes abiertas para hacer inteligencia. Se habla de aplicaciones as\u00ed que estamos ante la posibilidad de que puedan leer los correos electr\u00f3nicos, no sabemos d\u00f3nde se van a guardar o bajo que situaciones, as\u00ed mismo los diferentes programas de mensajer\u00eda (Telegram, Signal, Facebook, WhatsApp, instagram) adem\u00e1s la potencial interceptaci\u00f3n a ciudadanos comunes y corrientes sin saber sobre la finalidad de la investigaci\u00f3n o el motivo que la funda\u201d.<\/p>\n P\u00e1gina\/12.<\/p>\n","protected":false},"excerpt":{"rendered":" La pol\u00e9mica unidad de Inteligencia Artificial alarma a los especialistas El gobierno anunci\u00f3 que patrullar\u00e1 redes sociales abiertas y la internet profunda para investigar delitos, pero tambi\u00e9n anticiparlos. Los expertos adelantan que ser\u00e1 una mega excursi\u00f3n de pesca contraria al estado de derecho y a la Constituci\u00f3n Nacional. La idea de que vivimos adentro de […]<\/p>\n","protected":false},"author":3,"featured_media":22312,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-22311","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-politica"],"yoast_head":"\n
\nComo tantas resoluciones y decretos del gobierno esta dice que est\u00e1 inspirada en \u201cla preservaci\u00f3n de la libertad, la vida y el patrimonio de los habitantes, sus derechos y garant\u00edas\u201d y todo en un contexto de \u201cvigencia de las instituciones del sistema democr\u00e1tico\u201d. En el caso del Ministerio de Seguridad, se refiere a sus competencias en \u201cseguridad interior\u201d. Cuando la analizan expertos ven rasgos alejados de la libertad y los derechos constitucionales.<\/p>\n
\n* \u201cPatrullar las redes sociales abiertas, aplicaciones y sitios de Internet, as\u00ed como la llamada \u2018internet profunda\u2019 o \u2018Dark-Web’\u201d. Dice que es para investigar delitos e identificar autores, no aclara si es en investigaciones judiciales en curso. Tambi\u00e9n apunta a detectar, agrega, \u201csituaciones de riesgo grave para la seguridad\u201d.<\/p>\n
\n\u201cNi en la resoluci\u00f3n anterior sobre ciberpatrullaje ni la nueva ofrecen claridad sobre los supuestos en los que podr\u00eda desarrollarse la actividad, qu\u00e9 pautas, con qu\u00e9 sistemas automatizados, bajo qu\u00e9 controles, c\u00f3mo cumplir\u00edan la ley de protecci\u00f3n de datos personales\u201d, dice Victoria Darraoidou, Coordinadora de Seguridad Democr\u00e1tica del Centro de Estudios Legales y Sociales. \u201cNosotros \u2013agreg\u00f3\u2013 hab\u00edamos hecho un pedido de informaci\u00f3n al Ministerio de Seguridad en conjunto con otro grupo de organizaciones y el Ministerio de Seguridad todav\u00eda no respondi\u00f3. Ahora no explican c\u00f3mo van a utilizar la inteligencia Artificial, con qu\u00e9 controles, cu\u00e1les son las tareas de prevenci\u00f3n, de qu\u00e9 se tratan, si los casos en los que se van a usar son casos que est\u00e1n bajo investigaci\u00f3n judicial o no. No est\u00e1 claro cu\u00e1les son las coordenadas que le van a indicar a la IA y en ese sentido cu\u00e1les son las hip\u00f3tesis criminales en concreto sobre las que tendr\u00eda que intervenir la IA, cu\u00e1les son los sistemas de protecci\u00f3n de la informaci\u00f3n y c\u00f3mo se van a evitar las posibles filtraciones de datos que podr\u00edan incurrir con el uso de estas tecnolog\u00edas\u201d.<\/p>\n