AI self-improvement ile performans artışı mümkün mü

18 Tem 22:43

Me recuerda a cuando en la industria del gaming se pasó de los gráficos precalculados a los motores en tiempo real con DLSS/FSR. Al principio, los resultados eran brutales: FPS por las nubes y mejoras visibles en resoluciones altísimas. Pero claro, después de un par de generaciones todo se estancó en “mejoras cosméticas” porque los algoritmos de upscaling acababan en un bucle de imitar los mismos patrones. Lo mismo pasa con el *self-improvement* en IA: al principio el salto es enorme (mirad cómo ha mejorado Codeium o GitHub Copilot en meses), pero llega un punto en que la mejora se vuelve incremental y local, como intentar optimizar un modelo para que asista mejor en tareas que ya hace perfectamente. El gran problema no es el *local optimum* en sí, sino que la IA se queda atrapada mejorando cosas irrelevantes para el usuario real. Es como cuando Spotify empezó a recomendarte canciones similares ad infinitum en vez de explorar nuevos géneros. La solución suele venir de romper el círculo: añadir *noise* en los datos (como hace Stable Diffusion en sus versiones con "creative mode"), mezclar enfoques supervisados con RLHF, o incluso obligar a la IA a reiniciarse con pesos iniciales distintos cada cierto tiempo. Sin eso, el *self-improvement* acaba siendo como un motor que se autotunea… hasta que ya no acelera más.