Nova Demonstração: P&R com seus documentos PDF 🎬

Questionando e Respondendo

Hoje, gostaria de compartilhar um vídeo de demonstração que fiz mostrando como o Q, ChatGPT para Slack, pode ajudar a referenciar documentos PDF para os produtos e operações de sua empresa, usando o manual mais recente da GPU NVIDIA como exemplo.

Desafios em segundo plano

Imagine os vários manuais e documentos que sua empresa utiliza - para produtos, serviços ou até mesmo processos internos.

Muitas vezes, esses materiais essenciais permanecem subutilizados. Os funcionários podem ter dificuldade em localizá-los ou achá-los muito complexos para navegar. Consequentemente, alguns indivíduos com conhecimento extenso tornam-se o padrão para perguntas, diminuindo sua produtividade e o fluxo de trabalho geral.

Ou considere equipes remotas e novas contratações que podem hesitar em pedir ajuda, resultando em uma superpesquisa ou nenhuma pesquisa. Novamente, a produtividade sofre. Mas, ao usar o Q, ChatGPT para Slack, para responder a essas perguntas com seus manuais PDF, talvez possamos ajudar a resolver esses problemas.

Passo a Passo: Como Funciona

Nossa recente demonstração mostrou como 'Q, ChatGPT para Slack' pode ajudar a aliviar esses problemas, acessando diretamente o conteúdo de seus manuais PDF para responder às perguntas.

Vamos mergulhar passo a passo! 🚀

Passo 1: Faça o upload do PDF

Você pode fazer upload de um PDF simplesmente enviando-o em uma aba de mensagem direta com o Q. O tempo que leva para processar o PDF dependerá do seu tamanho, mas para o nosso manual da GPU NVIDIA de 160 páginas como exemplo, foi quase instantâneo. Além disso, você pode fazer upload de dois ou mais PDFs ao mesmo tempo.

Passo 2: Ative Seu Plugin

Vá para a guia Início, onde você encontrará uma seção para plugins. Aqui, você pode selecionar os plugins que deseja usar. Para nosso propósito hoje, ligue o "Pre-Uploaded Document Search". Isso permitirá que Q pesquise em seus documentos enviados, como PDFs, URLs e até repositórios do GitHub. Hoje, nos concentraremos nos PDFs.

Agora, você está pronto para começar a fazer perguntas!

Passo 3: Comece a Perguntar e Responder

Na demonstração, fiz as seguintes perguntas:

Pergunta 1: "Você conhece o NVIDIA GeForce RTX 4090?"

A resposta do ChatGPT? Claro que não foi capaz de fornecer uma resposta.

Perguntas sobre os produtos ou operações da sua empresa provavelmente não serão respondidas em princípio. Além disso, os documentos disponíveis na web, mas publicados após setembro de 2021, também não são abrangidos.

Para esta demonstração, não tivemos escolha a não ser usar PDFs publicados na web, então carregamos os manuais mais recentes para as GPUs NVIDIA lançadas após setembro de 2021. Em seguida, nós os alimentamos para Q, e voilà! Q respondeu com detalhes como quais acessórios acompanham a GPU e até forneceu o nome do arquivo e o número da página para referência.

Pergunta 2: "Existe algo necessário?"

Novamente, Q foi capaz de fornecer uma resposta, como o tipo de slot de placa-mãe necessário e a necessidade de usar o adaptador incluído. No entanto, alguns detalhes foram perdidos, como a classificação de potência e os requisitos do sistema operacional. Mas isso pode ser devido à natureza vaga da pergunta. Isso abre oportunidades para melhorias e hacks nas capacidades de pesquisa em PDF.

Pergunta 3: "Como eu instalo?"

Enquanto Q forneceu um processo de instalação detalhado, ele perdeu alguns detalhes específicos mencionados no manual. O ponto aqui não é a perfeição, mas um passo significativo em direção ao objetivo.

Principais Conclusões: Como Fazer Isso Funcionar Para Você

Embora ainda não estejamos em um estágio onde a IA pode responder perfeitamente a todas as consultas baseadas em manuais, definitivamente está progredindo nessa direção. E há duas áreas-chave onde você, como usuário, pode influenciar o desempenho da IA: a maneira como você faz perguntas e a qualidade do documento PDF que você está usando.

Refine a maneira como você faz perguntas

Você deve começar com uma pergunta curta, ampla ou vaga, pois é mais fácil para você. Mas se você não está obtendo as respostas que deseja, pode valer a pena tentar o seguinte:

• Reformule suas perguntas
• Seja específico sobre o que você quer saber.
• Substitua pronomes por substantivos específicos
• Certifique-se de que suas frases têm um sujeito, predicado e objeto claros
• Ou até mesmo mude o tópico da conversa no Slack

O último ponto, em particular, é mais direto. Q usa todo o tópico de conversa para realizar pesquisas de similaridade vetorial em PDFs que são divididos em partes menores. Portanto, ao mudar os tópicos, você pode atualizar a pesquisa.

Quanto aos outros três pontos, eles também são técnicas básicas importantes que são úteis ao falar com a IA em primeiro lugar.

Refine a qualidade dos seus documentos PDF

Em termos de qualidade do documento, se você não se importa em recriar os PDFs, pode valer a pena tentar o seguinte:

• Remova quebras de linha desnecessárias
• Rotule seções importantes explicitamente
• E inclua o nome do capítulo em cada página

O atual OpenAI GPT-3.5 e GPT-4 têm um limite no número de tokens, que limita a quantidade de texto que a IA pode ler ou escrever de uma vez. Portanto, no caso de um texto longo, como um manual em PDF, ele é dividido em partes pequenas o suficiente para serem referenciadas. Como o principal separador dessa divisão são as quebras de linha em PDF, é eficaz excluir quebras de linha desnecessárias.

Também é eficaz afirmar claramente que as notas são notas; o que é ilegível para a IA é qualquer coisa que seja enfatizada por efeitos visuais, como texto vermelho, texto em negrito, bordas vermelhas, etc., e essas informações são perdidas para a IA. Falando estritamente, o conteúdo de um arquivo PDF é armazenado em um formato binário, não como texto, e tais informações visuais são perdidas quando ele é lido.

Além disso, para seções que atravessam páginas, é melhor ter uma string para aquela seção em cada página, já que o PDF, embora visualmente legível para os humanos, está cheio de quebras de linha desnecessárias para a IA, e as seções não são tão claras quanto o markdown, por exemplo.

Conclusão

Se tudo isso parece empolgante, eu encorajo você a experimentar o Q.

Além disso, se você usar o Slack Connect para convidar info@suchica.com, você também pode conversar com a nossa equipe de suporte ao cliente no Slack. O Slack Connect é completamente gratuito para mensagens diretas. Alguns de nossos clientes já estão usando este serviço em vez do email.

Como acontece com qualquer nova ferramenta, pode haver alguns desafios iniciais e curvas de aprendizado, mas uma vez que você se acostume, verá como o Q pode revolucionar a maneira como você trabalha. Não mais buscar informações em documentos longos e complexos - simplesmente pergunte ao Q, e você obterá sua resposta. É tão simples assim.

Se houver uma instância onde Q não conseguiu responder com sucesso a perguntas sobre seus documentos PDF, por favor, nos avise. Se você puder nos fornecer o PDF e a questão em questão, podemos examiná-lo e melhorá-lo em maior detalhe!