El Ministerio de Gobierno de la Provincia de Buenos Aires, a través de la Subsecretaría de Gobierno Digital y la Dirección Provincial de Innovación Digital, creó una referencia para que el uso de las soluciones de inteligencia artificial generativa (GenIA) en su territorio y en la administración pública responda a ciertos criterios éticos.
Se trata de un área de gobierno que avanza en un profundo proceso de transformación digital para el que hace cuatro años se invirtieron 55 millones de dólares del erario público para robustecer su infraestructura de telecomunicaciones y construir un data center propio. Y esta noticia abona la misma estrategia: incorporar herramientas para modernizar y digitalizar la gestión pública, no sin atender a cuestiones fundamentales a través de lineamientos específicos.
La guía, titulada “Directrices de uso de Inteligencia Artificial Generativa en la Administración Pública”, “tiene como propósito convertirse en una guía de uso y pautas mínimas a tener en cuenta, por los distintos organismos de la Administración Pública bonaerense, que quieran servirse de un sistema de inteligencia artificial generativa”. Allí ofrece consideraciones básicas que se ciernen alrededor del respeto fundamental de los derechos de las personas.
“Esta iniciativa busca garantizar la protección de derechos humanos, fomentar la innovación, asegurar la soberanía digital y mantener altos estándares de seguridad en la gestión digital del Estado”, caracterizó Sandra Dagostino, subsecretaría de Gobierno Digital en un post en Linkedin, y explicó en exclusivo a TeleSemana.com que se trata de una iniciativa autónoma de la provincia y, cree, única en su tipo en el territorio nacional.
Los puntos clave
En ella se establecen ocho puntos clave, vinculados a requerir la aprobación del superior jerárquico antes de utilizar la IA generativa; garantizar su uso ético y profesional (basados en valores de responsabilidad y confidencialidad); abogar por una IA transparente, comprensible y con documentación que la fundamente. Además, se pondera la importancia de la confidencialidad y la protección de datos y establece que la información sensible debe anonimizarse antes de ser procesada. Prohíbe también utilizar información que comprometa la seguridad del Estado. Y prevé que los resultados generados deban ser revisados, que la herramienta debe ser utilizada con supervisión humana, y que los usuarios deben estar en permanente actualización sobre las mejores prácticas y las limitaciones de la IA.
La normativa, a la que TeleSemana.com pudo tener acceso, también advierte que estas indicaciones “no tienen carácter taxativo, son enunciativas. Sin embargo, y hecha la anterior aclaración, existe un marco normativo de fondo que es indelegable y obligatorio en todo el territorio nacional y provincial”. En este sentido, precisa que su finalidad “es la de preservar la confidencialidad, privacidad e integridad de la información, así como el cumplimiento de las normativas aplicables y las prácticas de seguridad informática”.
También establece prohibiciones. “Esta expresamente prohibido cualquier actividad que implique un comportamiento ofensivo, ilegal, que vulnere la legislación vigente, el orden público, la moral, las buenas costumbres o atente contra la Provincia de Buenos Aires y/o terceros”. Establece, asimismo, que las herramientas de IA generativa “no pueden ser utilizadas sin intervención y revisión humana, en el proceso de toma de decisiones para la adjudicación de beneficios, acreditación, verificación o acciones relacionadas con investigaciones, aplicación civil o que puedan afectar negativamente un derecho de la ciudadanía”.
Y agrega que “el usuario se compromete expresamente a evitar realizar cualquier tipo de acción que pueda dañar a sistemas, equipos o servicios accesibles directa o indirectamente pertenecientes al Estado Provincial a través del servicio de IAGen optada”, a la par que prohíbe “el uso personal, la generación de contenido inadecuado, la manipulación de datos y el acceso no autorizado”.
Con todo, se trata de una directriz fundamentada en la apuesta por el uso responsable, es decir, que considere la mitigación de riesgos como parámetro rector de los grandes modelos de lenguaje de IA generativa. Se apoya en la convicción de que el uso y posterior toma de decisión siempre es humana y nunca delegada, además de propugnar por la educación y alfabetización constante en materia de uso tecnológico de los funcionarios de gobierno.
La guía en contexto
El debate sobre la regulación de la IA atraviesa horas inciertas en la Argentina, como tantos otros temas en el país. Aunque durante el último semestre de 2024, se había inaugurado un ciclo de sesiones legislativas y consultivas al respecto en el Congreso para profundizar y debatir los 17 proyectos en danza, y hasta se había anunciado la apuesta oficial de desregulación, nada sucedió…. en lo que a este tema concierne.
A nivel regional, los criterios de implementación y uso se fueron estableciendo mediante regulaciones país. Es el caso de Chile, que está en proceso de revisión de su normativa; de Colombia, que acaba de publicar su política nacional, al igual que Brasil. Son miradas que están en sintonía con la regulación europea, que sería plausible de flexibilizarse, y sobre la que se tendieron acuerdos regionales, pero en donde también hay iniciativas para lograr soberanía algorítmica latinoamericana.
Debe estar conectado para enviar un comentario.