새로운 데모: PDF 문서로 질문과 답변을 해봅시다 🎬

질문과 답변

오늘은 'Q, ChatGPT for Slack'가 회사의 제품 및 운영에 관한 PDF 문서를 참조하여 어떻게 도움이 될 수 있는지 보여주는 데모 비디오를 공유하고자 합니다. 여기서는 NVIDIA의 최신 GPU 매뉴얼을 예로 들어 보여드리겠습니다.

배경에 있는 문제점들

당신의 회사에서 사용하는 다양한 매뉴얼과 문서를 상상해보십시오 - 제품, 서비스, 또는 심지어 내부 프로세스에 대한 것들이요.

자주 이런 중요한 자료들이 활용되지 않습니다. 직원들이 그것들을 찾는 데 어려움을 겪거나, 너무 복잡해서 찾아보기가 어려울 수 있습니다. 결과적으로, 광범위한 지식을 가진 몇몇 사람들이 기본적으로 질문에 답하는 사람이 되어 그들의 생산성과 전체적인 워크플로우가 느려집니다.

또는 원격 팀이나 새로운 사람들이 도움을 청하는 것을 망설여서 과도하게 조사를 하거나 전혀 조사를 하지 않는 상황을 고려해보십시오. 다시 한 번, 생산성이 손해를 입습니다. 그러나 'Q, ChatGPT for Slack'를 활용하여 이러한 질문들에 PDF 매뉴얼로 답변을 하게 함으로써 이러한 문제들을 해결할 수 있을지도 모릅니다.

단계별로: 이것이 어떻게 작동하는지 보여드립니다

최근의 데모에서는 'Q, ChatGPT for Slack'가 질문에 답하기 위해 PDF 매뉴얼의 내용에 직접 접근하여 이러한 문제를 어떻게 해결할 수 있는지 보여주었습니다.

하나씩 살펴보도록 합시다! 🚀

단계 1: PDF 업로드하기

당신은 Q에게 직접 메시지 탭에 PDF를 보내는 것으로 PDF를 업로드할 수 있습니다. PDF를 처리하는 데 걸리는 시간은 크기에 따라 다르지만, 160페이지에 달하는 NVIDIA GPU 매뉴얼을 예로 들자면, 거의 즉시 처리되었습니다. 또한, 동시에 두 개 이상의 PDF를 업로드할 수도 있습니다.

단계 2: 플러그인 활성화하기

홈 탭으로 이동하면 플러그인에 대한 섹션이 있습니다. 여기에서 사용하고 싶은 플러그인을 선택할 수 있습니다. 오늘 우리의 목적을 위해 "사전 업로드된 문서 검색"을 켜십시오. 이 기능을 활성화하면 Q가 업로드한 문서들, 예를 들면 PDF, URL, 심지어 GitHub 저장소를 통해 검색을 할 수 있습니다. 오늘은 PDF에 초점을 맞추겠습니다.

이제, 질문을 시작할 준비가 모두 되었습니다!

단계 3: 질문하고 답변하기 시작하기

데모에서는 다음과 같은 질문들을 했습니다:

질문 1: "NVIDIA GeForce RTX 4090에 대해 알고 있나요?"

ChatGPT의 답변은? 물론, 답을 제공하지 못했습니다.

당신의 회사의 제품이나 운영에 관한 Q&A는 원칙적으로 답변하지 않을 가능성이 높습니다. 또한, 웹에 공개되어 있지만 2021년 9월 이후에 출판된 문서도 포함되지 않습니다.

이 데모를 위해 우리는 웹에 게시된 PDF를 사용할 수밖에 없었으므로, 2021년 9월 이후에 출시된 NVIDIA의 GPU에 대한 최신 매뉴얼을 업로드하였습니다. 그리고 그것을 Q에게 전달하자, 와라! Q는 GPU와 함께 제공되는 액세서리 등의 세부 사항을 제공하며, 심지어 참조를 위해 파일 이름과 페이지 번호도 제공하였습니다.

질문 2: "필요한 것이 있나요?"

다시, Q는 필요한 마더보드 슬롯의 유형과 포함된 어댑터를 사용해야 한다는 등의 응답을 할 수 있었습니다. 그러나 파워 등급과 OS 요구사항 등의 몇 가지 세부 사항은 놓쳤습니다. 그러나 이것은 질문의 모호한 성격 때문일 수 있습니다. 이것은 PDF 검색 기능의 개선과 해킹에 대한 기회를 열어놓습니다.

질문 3: "어떻게 설치하나요?"

Q는 상세한 설치 과정을 제공했지만, 매뉴얼에서 언급된 몇 가지 특정 사항을 놓쳤습니다. 여기서 중요한 점은 완벽함이 아니라 목표에 대한 중요한 한 걸음이다.

핵심 요약: 이것을 어떻게 당신을 위해 작동하게 만들 수 있을까요?

우리가 아직 모든 매뉴얼 기반의 질문에 완벽하게 답변할 수 있는 단계는 아니지만, 그 방향으로 나아가고 있습니다. 사용자로서 AI 성능에 영향을 미칠 수 있는 두 가지 핵심 영역이 있습니다: 질문하는 방식과 사용하는 PDF 문서의 품질입니다.

질문하는 방식을 개선하세요

짧고 광범위하거나 애매한 질문으로 시작하면 더 쉽습니다. 하지만 원하는 답을 얻지 못한다면, 다음을 시도해 볼 가치가 있습니다:

• 질문을 다시 표현해 보세요.
• 알고 싶은 내용을 구체적으로 지시하세요.
• 대명사를 구체적인 명사로 대체하세요.
• 문장에 명확한 주어, 동사, 목적어가 있도록 하세요.
• 또는 Slack에서 대화 스레드를 바꾸세요.

특히 마지막 포인트는 더욱 단순합니다. Q는 전체 대화 스레드를 사용하여 PDF를 작은 부분으로 분할하고 벡터 유사성 검색을 수행합니다. 따라서 스레드를 전환함으로써 검색을 새로고침할 수 있습니다.

다른 세 가지 요점도 AI와 대화할 때 유용한 기본 기술입니다.

PDF 문서의 품질을 개선하세요

문서 품질과 관련하여, PDF를 재작성하는 데 문제가 없다면 다음을 시도해 볼 만한 가치가 있습니다:

• 불필요한 줄 바꿈을 제거하세요.
• 중요한 섹션을 명확하게 표시하세요.
• 각 페이지에 장 이름을 포함하세요.

현재의 OpenAI GPT-3.5와 GPT-4는 토큰 수에 제한이 있어, AI가 한 번에 읽거나 쓸 수 있는 텍스트의 양을 제한합니다. 따라서 PDF 매뉴얼과 같은 긴 텍스트의 경우 충분히 참조할 수 있는 크기로 분할됩니다. 그 분할의 주요 구분자는 PDF의 줄 바꿈이므로 불필요한 줄 바꿈을 제외하는 것이 효과적입니다.

주석이 주석임을 명확하게 표시하는 것도 효과적입니다; AI에게 읽을 수 없는 것은 빨간색 텍스트, 굵은 텍스트, 빨간색 테두리 등의 시각적 효과로 강조된 어떤 것이든 그 정보는 AI에게 손실됩니다. 엄밀히 말하면, PDF 파일의 내용은 텍스트가 아니라 이진 형식으로 저장되며, 그런 시각적 정보는 읽힐 때 손실됩니다.

또한, 페이지를 넘나드는 섹션에 대해서는, PDF가 사람에게는 시각적으로 읽을 수 있지만 AI에게는 불필요한 줄 바꿈이 많고, 섹션이 마크다운 등과 같이 명확하지 않기 때문에, 각 페이지에 해당 섹션에 대한 문자열이 있는 것이 좋습니다.

마무리하며

이 모든 것이 흥미롭게 들린다면, Q를 시도해 보는 것을 권장합니다.

또한, Slack Connect를 사용하여 info@suchica.com을 초대하면, Slack에서 우리 고객 지원 팀과 대화할 수도 있습니다. Slack Connect는 직접 메시지에 대해 완전히 무료입니다. 우리의 몇몇 고객들은 이미 이 서비스를 이메일 대신 사용하고 있습니다.

어떤 새로운 도구라도 처음에는 몇 가지 도전과 학습 곡선이 있을 수 있지만, 일단 감을 잡으면 Q가 작업 방식을 어떻게 혁신할 수 있는지 보게 될 것입니다. 긴, 복잡한 문서에서 정보를 찾아 다니는 일은 없습니다 - 그냥 Q에게 물어보면 답을 얻을 수 있습니다. 그것은 그런 정도로 간단합니다.

Q가 PDF 문서에 관한 질문을 성공적으로 답변하지 못한 경우가 있다면, 알려주세요. PDF와 질문을 제공할 수 있다면, 우리는 그것을 더 자세히 검토하고 개선할 수 있습니다!