Agents d'IA en producció: controls mínims abans de connectar-los a l'empresa
Els agents d'IA poden executar accions. Abans de connectar-los al CRM, correu o ERP, una pime necessita permisos, logs i revisió humana.
NVIDIA ha presentat Open Agent Safety Platform, una plataforma oberta pensada per donar més control als agents d'IA des de les proves fins al desplegament. La notícia és tècnica, sí, però el missatge és molt pràctic per a qualsevol empresa: els agents ja no són només xats que responen. Són sistemes que poden actuar, connectar-se a eines, consultar dades i executar passos.
Quan una IA només escriu un text, el risc és relativament fàcil d'acotar. Quan una IA pot tocar el CRM, el correu, l'ERP, carpetes internes o aplicacions de tercers, el problema canvia de categoria. Ja no n'hi ha prou amb confiar que el model “ho farà bé”. Cal posar controls al voltant de l'agent.
NVIDIA parla de límits d'execució, traçabilitat, polítiques d'accés, monitoratge continu i capacitat d'aïllar agents que surten del comportament esperat. Són conceptes que poden sonar llunyans per a una pime, però la idea de fons és exactament la mateixa que aplicaries amb una persona nova a l'equip: no li dones accés a tot el primer dia.
Font: NVIDIA Newsroom sobre Open Agent Safety Platform.
El risc no és que l'agent sigui “dolent”
Quan parlem de seguretat en agents d'IA, és fàcil imaginar escenaris espectaculars. Però el risc habitual és més avorrit i més real: una instrucció ambigua, una dada mal interpretada, una integració massa oberta o un procés sense revisió humana.
Per exemple, un agent comercial pot preparar respostes a clients. Fantàstic. Però pot enviar-les directament? Pot aplicar descomptes? Pot crear oportunitats al CRM? Pot modificar dades fiscals? Pot adjuntar documents interns? Pot respondre fora d'horari? Cada “sí” afegeix productivitat, però també responsabilitat.
Per això és important separar dues coses: la capacitat de l'agent i el permís real que té dins l'empresa. Que tècnicament pugui fer una acció no vol dir que hagi de poder fer-la en producció.
El que una pime pot copiar d'aquesta notícia
No cal tenir la infraestructura de NVIDIA per aprendre'n la lliçó. Una pime pot començar amb controls molt més senzills, però ben pensats.
El primer és treballar amb permisos mínims. Si l'agent només ha de classificar correus entrants, no necessita accés a tot el correu històric ni capacitat d'enviar respostes. Si ha de preparar informes, pot treballar amb una carpeta concreta i no amb tot el Drive. Si ha de consultar dades del CRM, pot començar en mode lectura.
El segon és tenir registre d'activitat. Cal saber què ha llegit, què ha proposat, què ha canviat i qui ho ha aprovat. Sense logs, un agent és una caixa negra. Amb logs, és un procés auditable.
El tercer és separar proves i producció. Els agents s'han de provar amb casos reals, però en un entorn on equivocar-se no tingui impacte sobre clients, factures, comandes o dades sensibles. Sembla bàsic, però moltes empreses salten aquesta fase perquè “només és una prova”.
Controls mínims abans de posar un agent a treballar
Abans de connectar un agent d'IA a eines internes, val la pena tenir una checklist simple:
- Objectiu concret: quin procés fa i quin procés no fa.
- Dades limitades: només les necessàries per a aquella tasca.
- Accions separades: llegir, proposar, escriure i enviar no són el mateix permís.
- Revisió humana: obligatòria per a accions amb impacte en clients, diners, dades personals o decisions laborals.
- Logs visibles: registre de consultes, decisions i execucions.
- Botó de parada: algú ha de poder desactivar l'agent ràpidament.
- Revisió periòdica: els permisos s'han de revisar quan canvia el procés o l'eina.
Aquesta llista no frena l'automatització. La fa més seriosa. De fet, les empreses que comencen amb controls acostumen a avançar millor, perquè poden ampliar l'ús de la IA sense haver de desfer invents mal muntats.
La governança també és productivitat
Sovint es presenta la governança com una capa burocràtica. En realitat, ben feta, és el que permet que la IA passi de pilot simpàtic a eina de treball real. Si l'equip sap què pot fer l'agent, què no pot fer i com es revisa el resultat, el fa servir amb més confiança.
Això és especialment important en pimes, on una automatització mal configurada pot afectar vendes, administració, atenció al client o operacions sense que hi hagi grans departaments per absorbir l'error.
La conclusió és clara: els agents d'IA seran cada vegada més útils, però no haurien d'entrar a l'empresa amb accés il·limitat. Primer, una tasca concreta. Després, permisos petits. Després, logs. Després, aprovació humana on calgui. I només quan el procés funciona, més autonomia.
Si vols identificar quins agents tindrien sentit a la teva empresa i com desplegar-los sense perdre control, podem revisar-ho en una primera consultoria gratuïta i aterrar un pilot segur.