SoyDavidBernal

🚨ÚLTIMA HORA: OpenAI publicó un artículo que demuestra que ChatGPT SIEMPRE se inventará cosas. No es un fallo temporal ni falta de datos. Es un problema matematico estructural. Incluso con potencia ilimitada y datos perfectos, los modelos de IA seguiran afirmando falsedades con total seguridad. El deterioro por modelo es notable: • El modelo o1 alucina el 16% de las veces. • El modelo o3 sube al 33%. • El nuevo o4-mini llega al 48%. Casi la mitad de sus respuestas son inventadas. La razon es que estos sistemas funcionan por probabilidad. Al no estar seguros, no se detienen: adivinan. Ademas, los sistemas de evaluacion actuales castigan la honestidad. Decir "no lo sé" otorga la misma puntuacion que dar una respuesta falsa: cero. La IA ha aprendido que la estrategia optima es fingir seguridad absoluta siempre. OpenAI sabe como mitigarlo, pero la solucion mataria el producto. Si el sistema admitiera su incertidumbre, dejaria de responder al 30% de las preguntas de los usuarios. Comercialmente, la honestidad es un suicidio. Institutos como DeepMind y la Universidad de Tsinghua han llegado a la misma conclusion de forma independiente. Tres de los laboratorios mas importantes del mundo coinciden: las alucinaciones son permanentes. La proxima vez que recibas una respuesta de la IA, recuerda que podria ser simplemente una conjetura estadistica muy bien presentada. Tenlo en cuenta.