|
Getting your Trinity Audio player ready...
|
A través del Decreto N.º 2726, el gobierno provincial aprobó un marco normativo que regula la adopción de tecnologías de inteligencia artificial generativa, como ChatGPT o Gemini, por parte de la administración pública.
Mediante el Decreto N.º 2726, el gobierno de la provincia de Santa Fe decidió avanzar con el “Protocolo para la Adopción y Uso de Tecnologías de Inteligencia Artificial Generativa” por parte de todos los agentes de la administración pública. La norma busca establecer un “marco de actuación” ante el “avance exponencial” de tecnologías como “ChatGPT” y “Gemini”.
El objetivo es aprovechar el potencial de estas herramientas para “optimizar y eficientizar las tareas administrativas”, pero dejando claro un principio fundamental: la IA debe ser una “herramienta de apoyo, no de reemplazo de la voluntad administrativa legítima”.
El protocolo es de aplicación obligatoria para todo el personal de la administración pública centralizada y descentralizada.
La normativa se centra en la “Supervisión Humana Significativa y Competente”. El decreto establece que cualquier producción generada por un sistema de IA tendrá siempre el carácter de “insumo o propuesta preliminar no vinculante”.
Será el agente público quien, con su “juicio profesional”, deberá validar, corregir o anular el resultado. La responsabilidad final por la decisión o el acto administrativo “recae de forma exclusiva e indelegable” en dicho agente.
Restricción estricta sobre datos personales
Uno de los límites más claros del protocolo es el manejo de la información. El texto “prohíbe terminantemente” introducir en “Herramientas No Institucionales” (versiones públicas o gratuitas de IAG) cualquier “dato personal, información sensible, clasificada, confidencial o que no sea de dominio público”.
Antes de interactuar con estas herramientas, el agente tiene la “obligación ineludible” de aplicar técnicas de anonimización.
Capacitación obligatoria y sanciones
Para garantizar el cumplimiento, el decreto establece la “participación y aprobación obligatoria” de programas de capacitación sobre el uso ético y responsable de la IA para todos los agentes que utilicen estas herramientas.
Asimismo, la norma advierte que el incumplimiento de los deberes y la transgresión de las prohibiciones “dará lugar a la aplicación de las sanciones disciplinarias que correspondan” , sin perjuicio de eventuales responsabilidades civiles o penales.
Puntos clave del protocolo de uso de IA
El Anexo del decreto detalla los principios y obligaciones para los empleados públicos como “usuarios finales” de la IA. Los puntos más importantes son:
Propiedad Intelectual: Los contenidos generados por un agente en ejercicio de sus funciones usando IAG “corresponderá originariamente al Estado Provincial”.
Supervisión Humana Obligatoria: Todo resultado generado por una IAG se considera una “propuesta preliminar no vinculante”. Es indispensable la “supervisión humana significativa y competente”. La validación final depende siempre del “juicio profesional” del agente.
Responsabilidad Total del Agente: La “responsabilidad final” por cualquier decisión o acto administrativo recae “de forma exclusiva e indelegable” en el agente público que utiliza la herramienta. Los agentes son “individualmente responsables” por el uso que hacen de la IAG.
Prohibición de usar Datos Sensibles: Queda “terminantemente prohibido” introducir en herramientas de IAG públicas o no institucionales (como versiones gratuitas) cualquier “dato personal, información sensible, clasificada, confidencial o que no sea de dominio público”.
Anonimización Obligatoria: Antes de usar una herramienta no institucional, el agente tiene la “obligación ineludible” de aplicar “técnicas de anonimización” sobre la información.
Deber de Transparencia: Los agentes deberán incluir una “mención clara y notoria” sobre el uso de IAG cuando esta haya sido “sustancial” para crear informes, dictámenes jurídicos o resoluciones que impacten en los derechos de los ciudadanos. No es necesario informarlo para usos menores como correcciones ortográficas.
Mitigación de Sesgos: El empleado público tiene un rol “activo e indelegable” en evitar la discriminación, debiendo formular consultas “neutrales” y “detectar y corregir” resultados que reproduzcan estereotipos.
