Són les dues menys quart d’un dijous. A la taula d’un tècnic d’urbanisme o de contractació s’acumulen trenta expedients pendents, una sol·licitud d’informe urgent d’alcaldia i un plec de condicions de cent vint pàgines que s’havia d’haver revisat ahir. En eixe escenari de saturació crònica, la temptació és immediata i comprensible: obrir una pestanya al navegador privat, entrar en un model d’intel·ligència artificial comercial i apegar el text perquè faça un resum o redacte una proposta en trenta segons.
Això ja està passant en molts consistoris. No per mala fe, sinó per pura desesperació operativa. És el que en seguretat informàtica s’anomena Shadow IT: l’ús informal d’eines externes sense supervisió institucional.
Ara bé, què passa quan en eixe text que s’ha enviat al núvol hi ha noms i cognoms de veïns, números de compte corrent, dades d’informes de servicis socials o valoracions patrimonials subjectes a secret professional? La resposta posa els pèls de punta a qualsevol secretari, interventor o delegat de protecció de dades: la corporació local queda exposada de cop a una infracció flagrant del RGPD, a una fallida de seguretat sota l’Esquema Nacional de Seguretat (ENS) i a una possible responsabilitat patrimonial i disciplinària.
Davant d’aquesta realitat, prohibir la tecnologia per decret és una il·lusió que només fomenta el seu ús clandestí. La vertadera tasca de la direcció pública i dels equips jurídics no és frenar la modernització, sinó posar-li regles clares i innegociables: sobirania tecnològica i control humà obligatori.
El deure de secret no s’acaba quan s’obri el navegador
El secretari i els tècnics municipals tenen encomanada per llei la custòdia i la confidencialitat de la informació pública i ciutadana. Quan un funcionari bolca un expedient en servidors d’intel·ligència artificial oberts i gratuïts, eixes dades viatgen fora de l’espai jurídic europeu i, en la majoria de casos, passen a formar part del banc d’entrenament futur d’eixes companyies tecnològiques.
No estem parlant d’un dubte teòric o menor; parlem de:
- Cesió il·lícita de dades personals (PII): Expedients que incorporen dades especialment protegides segons l’article 9 del RGPD (salut, menors, vulnerabilitat econòmica) queden allotjats en servidors de tercers sense acord d’encàrrec de tractament ni garanties d’anonimització.
- Pèrdua de traçabilitat: L’ajuntament no pot auditar qui ha tingut accés a eixe document, on s’ha guardat ni si s’ha esborrat realment.
- Incompliment de l’ENS: Les administracions públiques estan obligades a garantir la continuïtat, la confidencialitat i la integritat dels seus servicis digitals, un marc que cap eina gratuïta d’ús domèstic complix.
Si un ajuntament vol que els seus equips aprofiten la capacitat analítica de la IA per a agilitzar la burocràcia, l’única via legalment admissible és l’anomenada IA Sobirana: models de processament que s’executen en infraestructura pròpia i tancada dins de la Unió Europea, sense connexió amb proveïdors que reutilitzen les dades, i amb mecanismes previs que eliminen metadades i dades personals abans de qualsevol operació.
La màquina suggerix, la potestat pública resol: el principi Human-in-the-Loop
Hi ha un límit que cap algoritme pot creuar mai en el dret administratiu: la potestat pública és indelegable. Un model de llenguatge no pot signar un decret d’alcaldia, no pot resoldre una al·legació tributària ni pot dictaminar sobre una llicència d’obres.
La responsabilitat jurídica de cada acte administratiu recau de manera exclusiva en qui té la signatura delegada o la condició de funcionari públic. Per això, el disseny de la tecnologia al servei del govern local ha d’articular-se al voltant del principi Human-in-the-Loop (supervisió humana necessària en el cicle de decisió):
- La IA com a analista previ: El model pot comparar clàusules d’un plec, localitzar decrets anteriors sobre un mateix assumpte o sintetitzar un expedient feixuc per a facilitar la lectura ràpida.
- El personal públic com a filtre i autoritat: La proposta de la màquina és només un esborrany de treball. El tècnic o la secretària és qui valida el contingut, rectifica els criteris legals, aplica la discrecionalitat tècnica i, finalment, valida i signa el document.
Sense esta garantia de doble clau, la intel·ligència artificial no és un avanç: és una amenaça per a la seguretat jurídica de l’entitat local i una porta oberta a la nul·litat de ple dret dels actes administratius per falta de motivació o per delegació impròpia.
La resposta d’ONode: Seguretat per al responsable, agilitat per a l’equip
En ONode treballem colze a colze amb equips tècnics i jurídics municipals. Coneixem perfectament la pressió dels terminis i, alhora, la por legítima a cometre una irregularitat documental o procedimental.
Per este motiu, les nostres eines no són adaptacions d’eines genèriques d’ofimàtica, sinó un entorn concebut des del dret públic:
- Arquitectura sobirana i aïllada: Tots els servidors estan radicats a la Unió Europea, amb entorns estancs per a cada ajuntament (multitenant separat) i alineats amb les exigències de seguretat de l’ENS i el nou Reglament Europeu d’IA. Les dades del teu municipi mai s’utilitzen per a entrenar xarxes externes.
- Anonimització intel·ligent prèvia: Sistemes que identifiquen i oculten automàticament DNI, dades bancàries, adreces particulars o signatures abans que qualsevol expedient puga ser processat o publicat, distingint a més entre càrrecs públics i ciutadania ordinària.
- Control humà integrat de manera nativa: Cada resum, classificació o esborrany generat requereix una acció conscient de validació per part del tramitador. Res ix a la llum ni s’incorpora a un expedient sense que un empleat públic l’haja revisat i aprovat.
La modernització de l’administració local no consistix a posar pantalles noves sobre problemes vells, ni tampoc en deixar que el personal faça servir eines clandestines per pura desesperació de temps. Consistix a oferir als equips públics tecnologia avançada que resolga el volum de treball mecànic, blindant al mateix temps el deure de secret, la tranquil·litat del funcionari i la legitimitat de cada acte administratiu.
