Ingeniería de IA
Nemotron 3.5 Retriever: buscar antes de responder
NVIDIA amplía Nemotron Retriever con modelos para extraer documentos, buscar entre texto e imágenes y reordenar resultados antes de que un agente responda.
La página correcta importa antes de redactar
Un asistente puede escribir una explicación impecable usando el manual equivocado. Nemotron 3.5 Retriever, la ampliación que NVIDIA presentó el 21 de octubre, trabaja en ese paso anterior: extraer documentos, buscar información entre texto e imágenes y elegir qué resultados llegan al agente.
La familia reúne Parse, Embed y Rerank. Sus pesos ya están publicados en Hugging Face. Las fichas de Embed y Rerank sitúan su lanzamiento el 20 de octubre; la de Parse, el 17. El anuncio los presenta juntos, pero cumplen trabajos distintos.
Buscar y reordenar son dos operaciones
Embed convierte páginas y consultas en vectores, representaciones numéricas que permiten buscar por semejanza. Admite documentos con texto, imágenes o ambos, mientras que la consulta se hace con texto. Hay variantes denominadas 1B y 8B. Esto permite encontrar información que está dentro de una tabla o un gráfico, además de los párrafos.
Rerank recibe la pregunta y los documentos candidatos. Los compara con más detalle y devuelve una puntuación de relevancia para reordenarlos. Esa puntuación no demuestra que un dato sea verdadero. Tampoco puede rescatar una página que la búsqueda inicial dejó fuera.
Tres documentos sobre el mismo aparato
Imagina una biblioteca de manuales de aspiradoras. Alguien pregunta cómo limpiar el filtro del modelo N2. La búsqueda devuelve el manual del N1, una ficha comercial del N2 y el manual correcto. Todos hablan de filtros, pero solo uno contiene los pasos que necesita esa persona.
El reordenamiento buscaría colocar esa página por delante. Después, el modelo podría explicar los pasos y enlazar el manual. Guardaría también la referencia del aparato y su versión para comprobar el resultado. Si solo llega la ficha comercial y no explica la limpieza, faltará información aunque sea el primer resultado.
Parse cubre otra necesidad. Convierte imágenes de documentos en texto con bloques, posiciones y orden de lectura. Sus herramientas permiten tratar tablas y gráficos como contenido estructurado. Puede preparar material para el índice; Embed también admite imágenes de páginas directamente, así que la extracción de texto no es un requisito para toda búsqueda visual.
Más relevancia también tiene un coste
Reordenar añade otra inferencia, aunque una selección mejor puede evitar búsquedas repetidas o contexto que sobra. NVIDIA comunica mejoras en sus evaluaciones al combinar Embed y Rerank. Son resultados del fabricante, no una garantía de ahorro en cualquier aplicación.
Para la biblioteca del ejemplo compararía búsqueda sola y búsqueda con reordenamiento. Mediría si llega el manual correcto y cuánto tarda el recorrido completo. Los pesos están bajo OpenMDW 1.1; las fichas incluyen las condiciones y el entorno de ejecución. Descargar un modelo no resuelve por sí solo su despliegue ni el coste de servirlo.