Ciencia 10 min lectura

Transparencia algorítmica en HR Tech: por qué tu motor de scoring debería ser auditable

La mayoría de tools de assessment son cajas negras. Por qué eso es una mala práctica, qué exige la regulación (EU AI Act, NYC AEDT) y cómo se ve un motor de scoring auditable y configurable.

Fran Troiano

Fran Troiano

CEO & Co-founder

Compartir:
Transparencia algorítmica en HR Tech: por qué tu motor de scoring debería ser auditable
Transparencia AI Ethics Regulación Scoring Algoritmos

Te van a vender un score, y no te van a explicar de dónde sale.

Esa es, casi sin excepciones, la experiencia de comprar un assessment psicométrico hoy. Te entregan un PDF con un número, un radar chart y tres bullets de “recomendaciones”. Pedís entender la fórmula y te responden con marketing-speak: “nuestro algoritmo propietario está validado con más de X millones de datos”. Pedís ajustar los pesos para tu rol específico y te responden que “el modelo está calibrado científicamente”, que es la forma elegante de decir que no se puede.

Esto no es un detalle técnico. Es una mala práctica científica y, cada vez más, un problema legal.


La regulación ya llegó

Dos piezas regulatorias que cualquier comprador de HR Tech debería conocer en 2026:

EU AI Act (Regulation 2024/1689)

Vigente desde agosto 2024, con cronograma escalonado de aplicación. Clasifica explícitamente los sistemas de IA usados para selección de personal y evaluación de candidatos como sistemas de alto riesgo (Annex III). Las obligaciones para “high-risk AI systems” incluyen:

  • Documentación técnica detallada del sistema (Art. 11).
  • Transparencia y provisión de información a usuarios (Art. 13).
  • Supervisión humana significativa (Art. 14).
  • Mecanismos de logging para trazabilidad (Art. 12).
  • Gestión de riesgos a lo largo del ciclo de vida (Art. 9).

Multas: hasta 35 millones de euros o 7% de la facturación global anual.

NYC Local Law 144 (Automated Employment Decision Tools)

En vigor desde julio 2023. Cualquier empresa que use AEDTs (Automated Employment Decision Tools) en candidatos residentes en NYC debe:

  • Realizar un bias audit independiente anual.
  • Publicar los resultados del audit.
  • Notificar a los candidatos que se está usando un AEDT.

Esto no es debate teórico. Es ley.

Otras jurisdicciones avanzan en la misma dirección: Illinois (Artificial Intelligence Video Interview Act, 2020), Colorado SB 21-169 (insurance, 2021, pero set un precedente regulatorio), California (varios proyectos en 2024-2025).

Pregunta práctica: si tu proveedor de assessment no puede entregarte la documentación técnica del Art. 11 del EU AI Act o un bias audit anual, ¿cómo cumplís?


Qué significa “auditable” en concreto

Auditable no significa open source. Significa que vos, como empresa cliente, podés inspeccionar, ajustar y registrar lo que el sistema hace. Cinco capacidades mínimas:

CapacidadPregunta que respondePor qué importa
Pesos visibles¿Cuánto pesa cada dimensión en el score final?Sin esto, no podés justificar una decisión
Pesos ajustables¿Puedo cambiar los pesos para mi rol específico?Un rol comercial no se evalúa con los mismos pesos que un rol técnico
Fórmula transparente¿Cómo se combinan los inputs en el output?Necesario para cumplir Art. 13 del EU AI Act
Versionado¿Cuándo cambió el algoritmo y qué cambió?Bias audits requieren historia, no foto
Logging de decisiones¿Por qué este candidato sacó este score?Trazabilidad (Art. 12) y defensa ante reclamos

Si tu proveedor no marca las cinco, no es auditable. Es una caja negra con buena UI.


Cómo se ve esto en Talen.to

Voy a ser concreto con lo que tenemos hoy, no con lo que planeamos tener:

Pesos OCEAN ajustables por empresa

En /settings/psychometric/ocean cada empresa define cuánto pesa cada dimensión (Apertura, Responsabilidad, Extraversión, Amabilidad, Estabilidad Emocional, Estructura & Ritmo) para sus roles. No te imponemos un default genérico — te damos uno y lo editás.

Valores configurables y versionados

Cada empresa define sus propios valores con pesos y MIN_FIT por valor (típicamente 75-85%). Los valores tienen versionado: si tu empresa redefine “perseverancia” en 2027, queda registro y los assessments viejos siguen vinculados a la definición vigente al momento.

Fórmula de scoring documentada y versionada

FitCalculator combina oceanFit y valoresFit en overallFit, con un campo ScoringVersion (v1 con pesos iguales, v2 con pesos ponderados). Cuando upgradeás de v1 a v2 queda registro, los assessments viejos no se recalculan retroactivamente sin tu acción explícita.

Prompts de IA editables

Los prompts que generan los AI reports están en /companies/[id]/settings/psychometric/prompts. Si no te gusta cómo redacta la narrativa la IA, lo editás. Si tu compliance interno requiere lenguaje específico (ej: “evitar referencias a edad, género, origen”), lo agregás al prompt y queda versionado.

Calibración con tus propios datos

Endpoints /calibration/assessments y /calibration/recalculate-all permiten correlacionar performance real con scores y ajustar el motor. A los 12 meses tu motor está calibrado contra tu empresa, con tus datos y tu definición de éxito.

Cultural factors auditables

El motor de scoring ajusta los OCEAN por país. Los factores están documentados, son editables, y los ajustes quedan registrados. No es “el algoritmo se ajusta solo” — es un ajuste explícito, configurable y auditable.


La objeción típica: “pero entonces cualquiera lo manipula”

La escucho seguido: “si los pesos son ajustables, las empresas van a tunear el sistema para que apruebe a sus favoritos”.

Dos respuestas:

1. La auditabilidad es justamente la defensa contra eso. Si los pesos están escondidos, no podés detectar manipulación. Si están versionados y logueados, sí. La transparencia no habilita el sesgo — lo hace visible.

2. La alternativa es peor. Un sistema cerrado oculta el sesgo del proveedor en vez del sesgo del cliente. Hay una larga lista de papers documentando sesgos sistemáticos en assessments propietarios (ver Raghavan et al., 2020, “Mitigating Bias in Algorithmic Hiring”, FAT* Conference). La caja negra no es neutra — es opaca.


La objeción del producto: “pero entonces es muy complicado”

También la escucho: “nuestros clientes no quieren tunear pesos, quieren que funcione”.

Cierto. Por eso Talen.to tiene defaults razonables para cada combinación de industria + tamaño + tipo de rol. La mayoría de empresas nunca toca un peso y el sistema funciona bien. Pero cuando una empresa madura quiere ajustar, puede. Y cuando llega un audit, hay qué mostrar.

Esa es la diferencia entre “configurabilidad opcional” y “configurabilidad imposible”. Talen.to es lo primero. La mayoría del mercado es lo segundo.


Lo que esto implica para tu proceso de compra

Si estás evaluando un assessment o una plataforma de hiring en 2026, agregá estas preguntas a tu RFP:

  • ¿Puedo ver y ajustar los pesos del scoring por rol/empresa?
  • ¿Los prompts de IA son editables y versionados?
  • ¿Hay logging de decisiones individuales (por qué cada candidato sacó cada score)?
  • ¿Pueden entregarme un bias audit (ej: formato NYC AEDT)?
  • ¿Tienen la documentación técnica que exige el Art. 11 del EU AI Act?
  • ¿Puedo recalibrar el motor con mis propios datos de performance?

Si la respuesta a tres o más es “no” o “está en roadmap”, es una caja negra. Considerá el riesgo regulatorio y operativo antes de firmar.


Cierre

La transparencia algorítmica no es un nice-to-have de 2030. Es una obligación legal de 2024-2025 y una práctica científica básica desde siempre. Si tu motor de scoring no es auditable, no estás haciendo science-based hiring — estás haciendo astrología con radar charts.

Si querés ver cómo se ve un motor auditable en la práctica, agendá demo o creá una cuenta en app.talen.to/sign-up y entrá directo a settings/psychometric. Está todo ahí, sin marketing.

Y si querés el panorama completo de qué hace la plataforma, Lo que Talen.to hace y que probablemente no sabías. Sobre por qué los assessments genéricos fallan: Adaptado a tu cultura.

— Fran

Sigue explorando

Sobre el autor

Fran Troiano

Fran Troiano

CEO & Founder

Fundador de Talen.to. Obsesionado con resolver el hiring en la era de IA. Ex-dev que aprendió que la cultura > código.

Perfiles OCEAN+ relacionados

Descubri que dimensiones de personalidad buscar en cada rol.

Artículos Relacionados

Talen.to

¿Listo para mejorar tu hiring?

Comienza a evaluar culture fit con ciencia. Miles de empresas ya confían en Talen.to.