FocusLM Investigación
Notas basadas en la investigación sobre la memoria de la IA, las ventanas de contexto y cómo construir una IA que realmente conoce tu mundo.
Cifrar la memoria de la IA: por qué una clave por proyecto supera a una por base de datos
Una IA que recuerda tu vida guarda material que no entregarías a un desconocido. Ciframos cada archivo de memoria y cada mensaje de chat con una clave que pertenece solo a ese proyecto, y la investigación explica por qué las alternativas obvias filtran.
LeerMás contexto no siempre es mejor: qué ocurre más allá de los 64k tokens
Un amplio estudio con más de 20 modelos descubrió que amontonar más texto recuperado en el prompt a menudo deja de ayudar —y en muchos modelos empieza a perjudicar— mucho antes de que la ventana esté llena. Más grande no es lo mismo que mejor.
Leer¿Y si un LLM gestionara la memoria como un sistema operativo?
La ventana de contexto es pequeña y fija. MemGPT toma prestada una idea de hace 40 años de los sistemas operativos —una jerarquía de memoria con paginación— para que un modelo trabaje con mucha más información de la que cabe en la ventana.
LeerRAG frente a contexto largo: ¿cuál deberías usar realmente?
Cuando un modelo puede leer un millón de tokens, ¿queda obsoleta la recuperación? Un estudio de Google DeepMind dice que no: el contexto largo gana en calidad cuando puedes permitírtelo, la recuperación gana en coste y un enrutador sencillo consigue casi lo mejor de ambos.
LeerPerdidos en el medio: por qué las ventanas de contexto largo fallan en silencio
Los LLM aprovechan mucho mejor el inicio y el final de un contexto largo que el medio: un efecto en forma de U que persiste incluso en modelos diseñados para contexto largo. Esto es lo que muestra la investigación y lo que significa.
Leer