Demostración Nueva: P&R con tus documentos en PDF 🎬

Preguntando y respondiendo

Hoy, me gustaría compartir un video de demostración que hice mostrando cómo Q, ChatGPT para Slack, puede ayudar a referenciar documentos PDF para los productos y operaciones de tu empresa, utilizando como ejemplo el último manual de GPU de NVIDIA.

Desafíos en segundo plano

Imagina los diversos manuales y documentos que utiliza tu empresa: para productos, servicios o incluso procesos internos.

A menudo, estos materiales esenciales permanecen subutilizados. Los empleados pueden tener problemas para localizarlos o encontrarlos demasiado complejos para navegar. En consecuencia, algunas personas con un conocimiento extenso se convierten en el recurso predeterminado para preguntas, ralentizando su productividad y el flujo de trabajo general.

O considera equipos remotos y nuevos contratos que podrían dudar en pedir ayuda, lo que resulta en que ellos investiguen demasiado o no investiguen en absolo. De nuevo, la productividad sufre. Pero al aprovechar Q, ChatGPT para Slack, para responder a estas preguntas con tus manuales en PDF, podríamos ser capaces de ayudar a abordar estos problemas.

Paso a paso: así es cómo funciona

Nuestra demostración reciente mostró cómo 'Q, ChatGPT para Slack' puede ayudar a aliviar estos problemas, accediendo directamente al contenido de tus manuales en PDF para responder consultas.

¡Profundicemos paso a paso! 🚀

Paso 1: Sube el PDF

Puedes subir un PDF simplemente enviándolo en una pestaña de mensaje directo con Q. El tiempo que lleva procesar el PDF dependerá de su tamaño, pero para nuestro manual de GPU de NVIDIA de 160 páginas como ejemplo, fue casi instantáneo. Además, puedes subir dos o más PDFs al mismo tiempo.

Paso 2: Activar tu Plugin

Ve a la pestaña Inicio, donde encontrarás una sección para plugins. Aquí, puedes seleccionar los plugins que deseas usar. Para nuestro propósito hoy, activa la "Búsqueda en Documentos Pre-Cargados". Esto permitirá que Q busque en tus documentos cargados como PDFs, URLs e incluso repositorios de GitHub. Hoy, nos centraremos en los PDFs.

¡Ahora estás listo para empezar a hacer preguntas!

Paso 3: Comienza a hacer preguntas y obtener respuestas

En la demostración, hice las siguientes preguntas:

Pregunta 1: "¿Conoces la NVIDIA GeForce RTX 4090?"

¿La respuesta de ChatGPT? Por supuesto, no pudo proporcionar una respuesta.

Las preguntas y respuestas sobre los productos o las operaciones de tu empresa muy probablemente no serán respondidas en principio. Además, los documentos disponibles en la web pero publicados después de septiembre de 2021 tampoco están cubiertos.

Para esta demostración, no tuvimos más remedio que usar PDFs publicados en la web, así que subimos los últimos manuales de las GPUs de NVIDIA lanzadas después de septiembre de 2021. Luego los alimentamos a Q, ¡y voilà! Q respondió con detalles como qué accesorios vienen con la GPU e incluso proporcionó el nombre del archivo y el número de página para referencia.

Pregunta 2: "¿Se requiere algo?"

De nuevo, Q pudo proporcionar una respuesta, como el tipo de ranura de la placa base requerida y la necesidad de usar el adaptador incluido. Sin embargo, hubo algunos detalles perdidos como la calificación de potencia y los requerimientos del sistema operativo. Pero esto podría deberse a la naturaleza vaga de la pregunta. Esto abre oportunidades para la mejora y los hacks en las capacidades de búsqueda de PDF.

Pregunta 3: "¿Cómo lo instalo?"

Mientras que Q proporcionó un proceso de instalación detallado, se perdió algunos detalles específicos mencionados en el manual. El punto aquí no es la perfección sino un paso significativo hacia el objetivo.

Conclusiones clave: Cómo hacer que esto funcione para ti

Aunque aún no hemos llegado a una etapa donde la IA pueda responder perfectamente a todas las consultas basadas en manuales, definitivamente está progresando en esa dirección. Y hay dos áreas clave en las que tú, como usuario, puedes influir en el rendimiento de la IA: la forma en que haces las preguntas y la calidad del documento PDF que estás utilizando.

Refina la forma en que haces preguntas

Deberías comenzar con una pregunta corta, amplia o vaga, ya que es más fácil para ti. Pero si no estás obteniendo las respuestas que deseas, puede ser útil probar lo siguiente:

• Reformula tus preguntas
• Sé específico sobre lo que quieres saber
• Reemplaza los pronombres con sustantivos específicos
• Asegúrate de que tus frases tengan un sujeto, predicado y objeto claros
• O incluso cambia el hilo de la conversación en Slack

El último punto, en particular, es más sencillo. Q utiliza todo el hilo de la conversación para realizar búsquedas de similitud vectorial en PDFs que se dividen en partes más pequeñas. Por lo tanto, al cambiar los hilos, puedes refrescar la búsqueda.

En cuanto a los otros tres puntos, también son técnicas básicas importantes que son útiles al hablar con la IA en primer lugar.

Refina la calidad de tus documentos PDF

En términos de calidad del documento, si no te importa volver a crear los PDFs, puede valer la pena probar lo siguiente:

• Elimina los saltos de línea innecesarios
• Etiqueta secciones importantes de manera explícita
• E incluye el nombre del capítulo en cada página

El actual OpenAI GPT-3.5 y GPT-4 tienen un límite en el número de tokens, lo que limita la cantidad de texto que la IA puede leer o escribir de una vez. Por lo tanto, en el caso de textos largos, como un manual en PDF, se dividen en fragmentos lo suficientemente pequeños como para ser referenciados. Dado que el principal separador de esa división son los saltos de línea en PDF, es efectivo excluir los saltos de línea innecesarios.

También es efectivo declarar claramente que las notas son notas; lo que es ilegible para la IA es cualquier cosa que se enfatice mediante efectos visuales como texto rojo, texto en negrita, bordes rojos, etc., y esa información se pierde para la IA. Hablando estrictamente, el contenido de un archivo PDF se almacena en formato binario, no como texto, y esa información visual se pierde cuando se lee.

Además, para las secciones que atraviesan varias páginas, es mejor tener una cadena para esa sección en cada página, ya que el PDF, aunque visualmente legible para los humanos, está lleno de saltos de línea innecesarios para la IA, y las secciones no son tan claras como en markdown, por ejemplo.

Resumen

Si todo esto suena emocionante, te animo a que pruebes Q.

Además, si usas Slack Connect para invitar a info@suchica.com, también puedes chatear con nuestro equipo de atención al cliente en Slack. Slack Connect es completamente gratuito para mensajes directos. Algunos de nuestros clientes ya están utilizando este servicio en lugar del correo electrónico.

Como cualquier herramienta nueva, puede haber algunos desafíos iniciales y curvas de aprendizaje, pero una vez que te acostumbras, verás cómo Q puede revolucionar la forma en que trabajas. No más búsqueda de información en documentos largos y complejos: simplemente pregunta a Q y obtendrás tu respuesta. Es así de sencillo.

Si hay una instancia en la que Q no pudo responder con éxito a las preguntas sobre tus documentos PDF, por favor avísanos. Si puedes proporcionarnos el PDF y la pregunta en cuestión, podemos examinarla y mejorarla con mayor detalle!