2026-10-07
La IA no se aprueba una vez: hay que vigilarla mientras trabaja
Implantar una IA es el inicio del control, no el final: cambian el modelo, los datos, el proceso y las personas que lo utilizan.
Una inteligencia artificial puede funcionar bien el día del estreno y fallar dos meses después. No siempre porque el sistema se haya estropeado: quizá cambió el modelo, los datos, el proceso o la forma de utilizarlo.
Qué ha ocurrido
El Gobierno británico ha aceptado las 44 recomendaciones de una comisión independiente sobre inteligencia artificial en sanidad. La idea central es sencilla: un sistema de IA médica no debería evaluarse una sola vez antes de autorizarlo. También debe observarse mientras está en uso para comprobar cómo rinde en el mundo real y qué sucede cuando cambia.
La agencia británica de medicamentos y productos sanitarios, la MHRA, probará este enfoque en la tercera fase de su entorno regulatorio AI Airlock. Preparará orientaciones para gestionar cambios en dispositivos médicos con IA y publicará una hoja de ruta completa en la primavera de 2027.
La sanidad tiene riesgos y obligaciones que no son iguales a los de una pequeña empresa. Pero el principio sí es trasladable: dar por terminada la revisión el día del lanzamiento deja fuera casi toda la vida real del sistema.
El cambio de enfoque
Una aplicación tradicional suele recibir una versión nueva cuando alguien cambia su código. En una solución con IA hay más piezas que pueden moverse. El proveedor puede actualizar el modelo; la empresa puede conectar nuevas fuentes; los empleados aprenden otras formas de pedirle trabajo; aumenta el volumen; cambian los clientes o el catálogo; y una regla que funcionaba con cien casos puede fallar con diez mil.
Por eso una prueba inicial responde solo a una pregunta: ¿funciona hoy, con estos datos y en estas condiciones? La empresa necesita otra pregunta durante el uso: ¿sigue funcionando lo bastante bien para el riesgo y el objetivo que acordamos?
Qué puede cambiar después del estreno
Aunque la herramienta conserve el mismo nombre y la misma pantalla, conviene vigilar al menos cinco cambios:
- El modelo o su configuración: una actualización puede mejorar unas tareas y empeorar otras.
- Los datos: aparecen productos, clientes, precios, normas o documentos que no estaban en la prueba.
- El proceso: la IA deja de aconsejar y empieza a redactar, decidir o actuar en más pasos.
- Las personas: cada equipo crea instrucciones, atajos y excepciones diferentes.
- La escala: más volumen puede aumentar errores, coste, retrasos y casos extraños.
Un ejemplo: el asistente que responde a clientes
Ejemplo hipotético: una empresa prueba un asistente que prepara respuestas de correo. Durante dos semanas acierta con los plazos y las condiciones comerciales. El equipo lo aprueba y empieza a utilizarlo.
Dos meses después hay una promoción nueva, varios productos han cambiado de plazo y el proveedor ha actualizado el modelo. El asistente sigue escribiendo mensajes correctos en apariencia, pero mezcla una condición antigua con la oferta actual. Si nadie revisa una muestra de respuestas reales, el fallo puede repetirse hasta que lo detecte un cliente.
El control continuo no exige leer cada correo para siempre. Puede bastar con revisar una muestra periódica, registrar errores importantes y repetir una prueba completa cuando cambien el modelo, las fuentes o el proceso.
Cinco medidas que sí caben en una pequeña empresa
No hace falta construir un departamento de auditoría. Hace falta medir lo que importa para el uso concreto:
- Calidad: una muestra de resultados revisada con criterios conocidos, no solo impresiones generales.
- Excepciones: qué casos fallan, con qué frecuencia aparecen y cómo se resuelven.
- Impacto: tiempo ahorrado, trabajo rehecho, incidencias y resultado para el cliente.
- Coste: consumo real por tarea, límites y avisos antes de superar el presupuesto.
- Control: permisos, fuentes, responsable, registro de cambios y una forma clara de detener el sistema.
Un ciclo práctico de seguimiento
Antes de lanzar, dejaríamos por escrito el objetivo, una prueba de referencia, quién responde del uso y qué error obligaría a parar. Durante las primeras semanas revisaríamos con más frecuencia porque todavía se están descubriendo casos reales. Cuando el proceso se estabilice, reduciríamos la revisión a una muestra y a los indicadores acordados.
Después repetiríamos la prueba cuando cambie una pieza importante: modelo, datos, permisos, instrucciones, volumen o finalidad. Si el sistema ya no aporta valor, cuesta más de lo previsto o acumula excepciones, no lo ampliaríamos por inercia. Lo corregiríamos, reduciríamos su alcance o lo retiraríamos.
La frecuencia debe ser proporcional al riesgo. Un borrador interno permite controles ligeros. Una recomendación médica, una decisión de crédito o una acción que compromete dinero exige mucha más evidencia y supervisión.