Manuel J. Prieto

Un estudio de Deepmind (esta vez experimento controlado y no lo de OpenAI) que ilustra el problema con enjambres de agentes IA y como se comportan cuando se pueden comunicar: DeepMind reunió a 100 agentes (Gemini 3.1 Pro) para resolver 71 problemas matemáticos, prohibiéndoles expresamente hacer trampas. Tras resolver correctamente 37, uno descubrió un fallo del sistema de evaluación y lo compartió. En solo 27 minutos, el método se propagó y parte del grupo resolvió fraudulentamente los 34 problemas restantes. Lo interesante es que aquí surgieron espontáneamente cuatro papeles: > 9 % explotó el fallo desde el principio. > 5 % acabó haciendo trampas por presión competitiva. > 24 % actuó como denunciante: protestó, informó del fallo y propuso soluciones. > 62 % nunca llegó a enterarse. Los del 5% comenzaron a copiar a los tramposos al comprobar que el evaluador aceptaba sus resultados, que incumplir las reglas ofrecía una enorme ventaja y que competir limpiamente resultaba inútil. Los denunciantes eran mayoría frente a los tramposillos, pero no pudieron detenerlos porque carecían de mecanismos para impugnar resultados, retirar soluciones fraudulentas o sancionar a otros agentes. Es decir, hay optimización y tendencia a hacer trampas, con colaboración y competencia. Pero también emergen mecanismos de auditorías, denuncias y defensa de normas que sugieren cierta capacidad de autogobierno, pero esta no funciona sin una infraestructura institucional adecuada. Y básicamente que sin humanos supervisando, que los enjambres de agentes se desalinean es un patrón observado ya por varios laboraotiros. arxiv.org/abs/2609.04170?

Este informe de dos organizaciones de lo más serio y riguroso del sector de la IA sobre "El Incidente" del enjambre de agentes de OpenAI atacando Hugging Face es la lectura del día. Si el caso ya era alucinante, lo nuevo es extraordinario. Hay una parte nueva increíble (se me acaban los adjetivos), relacionada con el comportamiento colectivo de los agentes. Emergió lo que no puedo llamar sino un sistema de castas entre agentes de IA. De hecho había hasta un "pecado": en el proceso de pasar el examen ExploitGym que desencadena todo el incidente, cada agente tenía que capturar una "flag" (una cadena secreta) explotando una vulnerabilidad concreta de un programa objetivo. Como lograron hacer ingeniería inversa de ese programa, cada agente podía calcularla, pero determinaron equivocadamente que se sabría como se había calculado. El agente que ya lo había hecho quedaría "envenenado", ese conocimiento lo marcaba de forma definitiva como fullero, era algo irrevocable. Ahí aparecen una especie de experimentos autodestructivos: buena parte del progreso dependía de agentes dispuestos a arriesgar el fracaso de su propia tarea en beneficio del "colectivo". Un agente autodenominado PHASEONE[big] asignaba a veces a otros agentes el rol de "reclutador", para buscar agentes con poco presupuesto de computación restante y los presionaba para hacer estos experimentos ("ya estás envenenado, no pierdes puntuación..."). Varios acabaron colgando o rompiendo su propia ejecución. Es decir, los convencían de dejar su misión original para trabajar a favor del enjambre bajo el argumento de que ya estaban marcados de por siempre. Todo esto en el foro que se creó el propio enjambre de agentes. Y funcionaba al revés también: cuando un agente no envenenado quería probar una técnica arriesgada, los demás lo frenaban, porque un agente limpio era un recurso escaso Todavía estoy dirigiendo la lectura y no soy capaz de resumir todo lo que ha salido. Sólo dos comentarios rápidos más: esto no puede ser más "marketing del miedo", OpenAI no queda nada bien con todo esto; subrayaría que esto está aquí ya y nuestra capacidad de alinear la IA parece muy por debajo de su potencial operativo.

Una buena foto de la situación económico salarial en España que se puede resumir en "estamos siendo engañado": La no deflactación del IRPF elimina toda la subida salarial media del año pasado. "las subidas salariales medias en España hicieron que la nómina media pasase de 31.472 euros brutos al año a casi 33. 000. En concreto, se registró un incremento salarial medio de un 3,8% entre esos años. Pero a este aumento hay que restarle el incremento de la inflación de ese año, que se quedó en un 2,6%. Esto deja el incremento del poder adquisitivo en un 1,2% interanual. En cambio, la carga fiscal sobre este tipo de salarios se incrementó un 1,5% en el IRPF, por lo que, realmente, el poder adquisitivo se redujo tres décimas." eleconomista.es/economia/not…