La Provincia de Buenos Aires dio un paso histórico en regulación tecnológica al aprobar la Resolución 9/2025 de la Subsecretaría de Gobierno Digital, que fija por primera vez un marco obligatorio para regular el desarrollo, la implementación y el uso de sistemas de inteligencia artificial (IA) dentro de la administración pública bonaerense. 

Estas reglas apuntan a equilibrar la innovación con la protección de los derechos fundamentales de la ciudadanía, para asegurar que la adopción de IA por parte del Estado sea razonable y confiable en todo momento.

• Te puede interesar: Inteligencia artificial y trabajo: hacia una nueva era de reconversión

Inteligencia artificial: cómo surgió el marco regulatorio de Buenos Aires 

El nuevo régimen normativo bonaerense se apoya en estándares internacionales ampliamente reconocidos, como los principios de Asilomar, las recomendaciones de la OCDE y la UNESCO, además de inspiración en la normativa europea vigente.

La resolución incorpora una serie de principios rectores que establecen un norte ético para la IA estatal: entre ellos se destacan la neutralidad tecnológica, la centralidad de la persona humana, el respeto por los derechos humanos, la inclusión, la sostenibilidad ambiental, la privacidad y la autodeterminación informativa, junto con la trazabilidad, responsabilidad demostrada y transparencia.

Macarena Gorgal, ingeniera, investigadora y una de las voces emergentes en gobernanza digital, se especializa en políticas públicas y tecnologías digitales. Meses atrás, ella elaboró una propuesta integral para la regulación de la IA en Argentina. El documento, titulado “Propuesta de Regulación y Gobernanza Integral de la Inteligencia Artificial”, circuló entre los equipos técnicos que luego participaron en la elaboración de la resolución oficial, inspirada en el documento. 

“La inteligencia artificial no es neutral. Produce impacto real en organismos públicos, en derechos ciudadanos y en la vida cotidiana, y regularla requiere técnica, evidencia y responsabilidad política”, señala Gorgal. Además, agrega que su objetivo es ordenar la discusión y ofrecer un marco sólido, claro y aplicable. 

Las claves de la nueva ley provincial de regulación de IA

Su propuesta, presentada a los equipos técnicos del Gobierno de la Provincia de Buenos Aires, incluye principios de transparencia, explicabilidad, autodeterminación informativa, criterios de riesgo, auditorías, trazabilidad, advertencias al ciudadano y estándares específicos para tecnologías biométricas. 

Uno de los aspectos más potentes de esta regulación es la clasificación de riesgo que establece para los sistemas de IA. En ese sentido, la provincia define cuatro niveles según el impacto potencial en derechos o seguridad. En primer lugar, los sistemas de “riesgo inaceptable” quedan directamente prohibidos: serían aquellos que manipulan comportamientos subliminalmente, explotan vulnerabilidades sociales o crean perfiles de “scoring social”.

• Te puede interesar: La primera actriz generada con inteligencia artificial revoluciona Hollywood

En segundo lugar, están los sistemas de “alto riesgo”, que requieren evaluaciones de impacto muy estrictas. Incluirían, por ejemplo, tecnologías de identificación biométrica, sistemas vinculados a la gestión de infraestructura crítica, la justicia o procesos laborales. 

Luego hay una categoría de “riesgo limitado”, como chatbots genéricos que no usan datos sensibles, en la que solo se exige advertir a las personas cuando interactúan con IA automatizada. Finalmente, la categoría de “riesgo nulo” comprende sistemas con impacto casi despreciable en derechos o seguridad, que requieren una regulación mucho más ligera.

Para asegurar que todo este marco no quede solo en el papel, la resolución exige que los organismos públicos bonaerenses realicen evaluaciones preliminares de riesgo antes de poner en marcha cualquier sistema de IA. También deben implementar mecanismos sólidos de gobernanza de datos, es decir, reglas para manejar los datos con los que se entrenan los sistemas, supervisar posibles sesgos y garantizar la trazabilidad de las decisiones algorítmicas. 

Además, los organismos están obligados a advertir a la ciudadanía cuando una IA esté siendo usada (por ejemplo, un chatbot automatizado), y deben inscribir todos sus desarrollos en un Registro Provincial de Inteligencia Artificial, cuyo control estará a cargo de la Dirección Provincial de Innovación Digital, designada como autoridad de aplicación. 

Inteligencia artificial en Argentina: otro tipo de normativas

Entre las propuestas futuras para todo el país se destacan una ley nacional de IA, mecanismos federales de coordinación, auditorías independientes y programas de formación para organismos públicos.

En efecto, para el ámbito nacional, el debate sobre regulación de inteligencia artificial avanza hoy por dos grandes líneas que se apoyan en investigaciones recientes sobre gobernanza algorítmica y modernización del Estado. 

“La primera es la propuesta de una Ley Nacional de Inteligencia Artificial, pensada como una norma marco que establezca principios generales, categorías de riesgo, obligaciones mínimas y criterios de transparencia”, explicó Macarena Gorgal, una de las impulsoras de las normativas y regulación de la IA.

• Te puede interesar: Character.AI limita el acceso a menores tras una tragedia y crece la presión por regular la inteligencia artificial

Según la investigadora, el objetivo es alinearla con los estándares internacionales, como los de la OCDE, la UNESCO o el AI Act europeo, pero adaptándola a la institucionalidad argentina y al enfoque de derechos que vienen desarrollando trabajos académicos de espacios como FLACSO.

“Por otro lado, también está la idea de la creación de un Sistema Federal de Gobernanza Algorítmica, un mecanismo de coordinación entre la nación, provincias y municipios para unificar criterios, registros de sistemas, estándares técnicos y procedimientos de supervisión”, destacó la especialista en inteligencia artificial.

Esta propuesta surge como respuesta al diagnóstico que se repite en todos los estudios: “Sin articulación intergubernamental y sin una capacidad estatal estable, es imposible gestionar tecnologías tan sensibles”.