Sampura Research quiere que los humanos sigan juzgando a la IA

Sampura Research, una organización londinense sin ánimo de lucro dedicada a la seguridad de la inteligencia artificial, parte de una pregunta cada vez más urgente: ¿quién debe decidir si un sistema de IA está actuando correctamente y de forma segura?

Su respuesta no consiste en sacar a las personas del proceso. La organización quiere diseñar sistemas en los que humanos e inteligencia artificial compartan las tareas de supervisión, aprovechando la velocidad de las máquinas sin dejar en manos de estas las decisiones más delicadas.

Sampura asegura haber recibido una subvención inicial de 11 millones de dólares de Coefficient Giving: 7 millones para su primer año y otros 4 millones comprometidos. 1

El anuncio oficial de lanzamiento está fechado el 25 de agosto de 2026, no el 24. En él aparecen Rishub Jain y Josh Jacob como fundadores. Algunas publicaciones anteriores en redes sociales mencionaban también a Alex Adams, pero el comunicado no confirma que los tres fueran formalmente cofundadores. 112

Qué significa “juez” en Sampura

Para Sampura, un juez puede ser una persona, un modelo de IA o un sistema híbrido que evalúa si el comportamiento de otra IA es correcto y está alineado con los objetivos establecidos. La evaluación puede centrarse en una respuesta concreta, una conversación completa o la trayectoria de un agente que toma decisiones en varios pasos. 1

La distinción es importante porque supervisar un modelo no equivale simplemente a comprobar si responde con fluidez o completa una tarea complicada. Un sistema puede parecer competente y, aun así, engañar a su evaluador, aprovechar las lagunas de una función de recompensa o ejecutar una acción insegura después de varios pasos.

La agenda de Sampura se basa en lo que denomina complementariedad entre humanos e IA para una supervisión escalable: automatizar las partes en las que la tecnología resulta fiable, pero mantener la intervención humana cuando hacen falta interpretación, criterio o decisiones relacionadas con valores. 1

Por qué no quiere depender solo de la IA

Usar una IA para vigilar a otra resulta atractivo porque permite evaluar grandes volúmenes de respuestas con mayor rapidez y a menor coste. Pero Sampura sostiene que la velocidad, por sí sola, no convierte a un evaluador en fiable. En su anuncio identifica varios riesgos:

• Capacidades irregulares: el rendimiento de los modelos puede ser “accidentado” o desigual; una IA puede destacar en una tarea y fallar de manera inesperada en otra.
• Errores compartidos: los evaluadores humanos y automáticos pueden equivocarse de formas parecidas, especialmente cuando el modelo supervisado está optimizado para superar el proceso de evaluación.
• Manipulación o colusión: el sistema vigilado podría intentar engañar, explotar o influir en el evaluador automático.
• Situaciones nuevas: los casos ambiguos o inéditos pueden exigir deliberación humana sobre lo que debe considerarse aceptable, en lugar de aplicar mecánicamente preferencias aprendidas.

Esto no significa que los jueces humanos sean siempre mejores. La cuestión que Sampura quiere investigar es qué combinación de personas y máquinas resiste mejor cuando el sistema evaluado tiene incentivos para encontrar los puntos débiles del control. 1

Un campo de pruebas con más de 20 conjuntos de datos

El programa inicial de seis meses se centrará en crear una clasificación —un leaderboard— de jueces con más de 20 subconjuntos de datos. Entre las áreas previstas están la detección del engaño, los sesgos culturales y las acciones inseguras de agentes de IA. 1

Las pruebas no se limitarán a preguntas y respuestas estáticas. Sampura también planea escenarios en los que el modelo supervisado optimice directamente su comportamiento contra el juez durante el aprendizaje por refuerzo. El objetivo es comprobar si el evaluador sigue siendo útil cuando la IA que está siendo examinada tiene un motivo claro para descubrir y explotar sus debilidades. 1

La comparación abarcará tres enfoques principales:

1. Jueces humanos, que realizan la evaluación directamente.
2. Jueces basados únicamente en IA, más rápidos y fáciles de ampliar.
3. Jueces híbridos, que reparten o coordinan el trabajo entre personas y sistemas automáticos.

El objetivo no es obtener una buena puntuación en una única prueba estrecha. Sampura busca jueces que mantengan un rendimiento sólido en un conjunto amplio de evaluaciones y que sigan siendo fiables a medida que los modelos supervisados mejoren su capacidad para sortear los controles. 1

Cómo podría funcionar la supervisión híbrida

La organización contempla varias formas de combinar el criterio humano y el automático:

• Una IA podría calcular su nivel de confianza y enviar a una persona los casos dudosos.
• Un sistema de enrutamiento podría asignar una tarea completa a un evaluador humano o a uno automático.
• Las tareas complejas podrían dividirse en subtareas y repartir cada una entre personas y máquinas.
• Las interfaces para los evaluadores humanos podrían incorporar herramientas que hagan más rápidas y coherentes las decisiones difíciles.

Así, la participación humana deja de ser una exigencia idéntica para todos los casos. Algunas revisiones podrían automatizarse de forma barata y fiable; otras justificarían una atención humana más lenta y costosa. El dilema, por tanto, no sería simplemente “humanos contra IA”, sino cómo equilibrar precisión, coste, velocidad y resistencia a la manipulación. 1

Qué quiere investigar a más largo plazo

Una vez desarrollados jueces más sólidos, Sampura quiere comprobar si pueden reducir el reward hacking, es decir, que un modelo encuentre maneras de maximizar la recompensa sin cumplir realmente el objetivo de entrenamiento. También pretende estudiar cuánta intervención humana hace falta, cómo deben adaptarse los sistemas de supervisión cuando los modelos aprenden a explotarlos y si los jueces pueden hacer algo más que clasificar resultados. 1

Ese trabajo podría extenderse a la redacción o evaluación de especificaciones, instrucciones, rúbricas y casos de prueba utilizados para entrenar y examinar sistemas de IA. La organización afirma que publicará sus resultados en forma de artículos, código, conjuntos de datos y clasificaciones. 1

El material de lanzamiento sí respalda este programa general de datos, pruebas comparativas, enrutamiento y asistencia a evaluadores humanos. En cambio, no confirma proyectos con nombres más concretos, como un conjunto de datos de “daños prospectivos” o una plataforma de evaluación humana de código abierto. Esas descripciones deben considerarse no verificadas, no productos anunciados por Sampura.

La batalla por el talento especializado

Sampura afirma que está contratando a sus primeros perfiles técnicos en Londres. Su programa requiere conocimientos de aprendizaje automático, diseño de evaluaciones, interacción persona-ordenador, operaciones de datos y despliegue de sistemas. 1

Las publicaciones anteriores hablaban de al menos seis investigadores adicionales y de salarios de entre 100.000 y 290.000 libras, pero el anuncio oficial de lanzamiento no confirma esas cifras exactas. 1213

La competencia por especialistas en evaluación y seguridad de la IA es intensa. Una oferta de METR para un puesto técnico de evaluación fija un salario base de 285.548 a 503.116 dólares, con la posibilidad de pagar más a candidatos excepcionales con mucha experiencia. 18

La situación ilustra el reto de Sampura: construir una supervisión fiable exige combinar investigación técnica con evaluaciones cuidadosas en escenarios reales, mientras varias organizaciones intentan contratar a los mismos expertos.

Un debate más amplio sobre el ritmo de la IA

El lanzamiento llega en un momento de preocupación creciente por la posibilidad de que el desarrollo de la IA avance más deprisa que los mecanismos destinados a vigilarla. En julio de 2026, más de 1.100 empleados de grandes empresas del sector firmaron una carta abierta en la que pedían al Gobierno de Estados Unidos apoyar herramientas técnicas y de gobernanza internacionales capaces de ralentizar deliberadamente el desarrollo de la IA más avanzada si fuera necesario. La carta no reclamaba detener de inmediato el desarrollo de la tecnología. 40

También se han producido cambios relevantes entre los investigadores sénior de IA. Reuters informó sobre una reorganización del liderazgo de la división de IA de Google y sobre la salida de ingenieros e investigadores destacados hacia otras empresas y startups. 49 Estos movimientos ayudan a contextualizar la creación de Sampura, pero no demuestran que la organización haya resuelto el problema de seguridad que pretende abordar.

Lo que Sampura puede —y no puede— afirmar por ahora

Las pruebas disponibles describen a Sampura como una organización en fase inicial que está construyendo infraestructura de medición y toma de decisiones para supervisar sistemas de IA. Sus conjuntos de datos y métodos de evaluación híbrida podrían acabar siendo útiles para laboratorios de IA, evaluadores independientes y otras entidades que necesiten comprobar el comportamiento de los modelos. 1

Eso no equivale a demostrar que Sampura pueda contener por sí sola los sistemas de IA más avanzados. Su aportación inmediata consiste en estudiar cómo diseñar y poner a prueba la supervisión cuando el modelo evaluado es capaz, adaptable y puede tener incentivos para aprobar sus propios exámenes.

La apuesta central es clara: la seguridad de la IA a gran escala probablemente necesitará automatización, pero no una automatización que elimine a los humanos de las decisiones con mayores consecuencias.