2026-09-19

¿Quién evalúa la IA? Cinco señales de una revisión independiente

Una evaluación externa puede aportar confianza, pero la etiqueta «independiente» no basta. Importan quién paga, qué acceso recibe el evaluador y si puede publicar conclusiones incómodas.

Anthropic y Accenture han anunciado una forma poco habitual de revisar sistemas avanzados de inteligencia artificial: evaluadores externos que trabajan dentro del laboratorio y reciben un acceso parecido al de sus empleados. La idea puede mejorar lo que se consigue comprobar. También abre una pregunta útil para cualquier empresa: ¿qué condiciones deben cumplirse para que una evaluación sea realmente independiente y no solo parezca independiente?

Qué ha ocurrido

Anthropic y Accenture anunciaron el 18 de septiembre una colaboración para evaluar modelos avanzados de IA desde dentro de Anthropic. Faculty, la empresa especializada en IA que pertenece a Accenture, dirigirá un equipo que probará los modelos, buscará fallos y revisará sus medidas de seguridad. Cada compañía espera invertir al menos 1.000 millones de dólares durante los próximos cinco años.

Anthropic llama a este sistema «evaluación integrada». Significa que el equipo externo no se limita a probar un producto terminado desde fuera: puede observar cómo se entrena, qué decisiones se toman y cómo se responde a los incidentes. La propia Anthropic reconoce que todavía no existen normas comunes sobre el acceso, la publicación de resultados o la financiación de este tipo de trabajo. También dice que pagará directamente el trabajo de Accenture y que quiere colaborar con otros evaluadores.

Más acceso ayuda, pero no garantiza independencia

Un evaluador con acceso real puede ver problemas que quedarían ocultos en una demostración preparada. Esa es la principal ventaja de trabajar dentro. El riesgo aparece cuando quien revisa depende económicamente de la empresa revisada, mantiene otros negocios importantes con ella o no puede contar lo que encuentra.

Eso no demuestra que esta colaboración vaya a producir un informe condicionado. Sí explica por qué más de cien especialistas publicaron ese mismo día unas condiciones mínimas para estas evaluaciones: control propio sobre las conclusiones, transparencia sobre el método y los conflictos de interés, protección frente a represalias, acceso suficiente y libertad para comunicar resultados negativos. Son una propuesta pública, no una norma ya aprobada.

Cinco preguntas para comprobar una evaluación

Estas preguntas sirven tanto para un modelo avanzado como para una herramienta de IA que una empresa quiere contratar:

¿Quién paga la evaluación y qué otros negocios mantiene el evaluador con el proveedor?
¿Qué acceso tuvo: una demostración, una versión limitada o los sistemas y decisiones relevantes?
¿Quién eligió las pruebas y quién conserva el control final sobre las conclusiones?
¿Puede publicar fallos, desacuerdos y resultados incómodos sin perder financiación ni recibir represalias?
¿Participaron varios evaluadores y se explican con claridad el alcance, la fecha y lo que quedó fuera?

Un ejemplo para una pequeña empresa

Imagina una empresa que valora una herramienta para resumir reuniones y preparar propuestas comerciales. El proveedor afirma que su IA ha sido revisada de forma independiente. Antes de darle acceso a documentos reales, la empresa pide el informe o un resumen público, comprueba qué versión fue evaluada y busca si se probaron la privacidad, los errores y el uso de datos, no solo la velocidad de respuesta.

Después realiza una prueba propia con datos ficticios y casos problemáticos: una reunión incompleta, una cifra contradictoria y una condición comercial que no debe simplificarse. La evaluación externa ayuda a seleccionar mejor, pero no sustituye la prueba del proceso concreto ni la revisión humana. Este ejemplo es una forma de trabajo propuesta; no es un resultado medido de la colaboración anunciada.

Qué haríamos ahora

Para cada herramienta importante, guardaríamos una ficha breve con la versión evaluada, el nombre del evaluador, la fecha, el alcance y los límites publicados. Si solo existe una frase de marketing y no hay información verificable, la trataríamos como una afirmación del proveedor, no como una garantía.

Empezaríamos con una tarea reversible, datos de prueba y permisos mínimos. Mediríamos calidad, errores, correcciones y tiempo de supervisión. Ampliaríamos el uso únicamente cuando la evidencia externa y la prueba propia apunten en la misma dirección. Si no se puede saber qué se evaluó o los resultados no pueden publicarse, mantendríamos el uso limitado.

Lo que todavía no sabemos

Las dos empresas han descrito la estructura general, la inversión prevista y el tipo de acceso. Aún están trabajando en muchos detalles y no han publicado resultados de esta nueva colaboración. Tampoco existe un estándar común que permita comparar todas las evaluaciones integradas.

Por eso no conviene presentar el anuncio como una garantía de seguridad ni descartarlo por adelantado. El avance real se verá cuando conozcamos el método, los conflictos declarados, los hallazgos y la libertad efectiva para hacerlos públicos.