오늘날 우리의 세상에는 엄청난 양의 텍스트가 있고, 우리 모두가 원하는 모든 것을 읽을 충분한 시간이 없습니다. 그래서 LLM의 가장 흥미로운 응용 중 하나로 텍스트를 요약하는 것을 사용하는 것을 보았습니다. 이것은 여러 팀이 여러 소프트웨어 어플리케이션에 구현하고 있는 것을 볼 수 있습니다.
이는 chatGPT 웹 인터페이스에서 수행할 수 있습니다. 이 기능을 자주 사용하여 기사를 요약하고 이전보다 훨씬 더 많은 기사의 내용을 읽을 수 있습니다. 또 이 작업을 좀 더 프로그래밍적으로 수행하고자 한다면, 이 강좌에서 어떻게 하는지 볼 수 있을 것입니다.
우선, 코드를 뜯어보며 어떻게 텍스트를 요약하는데 이를 사용할 수 있는지 살펴보겠습니다. 시작 코드는 이전에 보았던 것과 동일하게 OpenAI를 import하고, API 키를 로드하고, get completion 도우미 함수를 사용하는 것입니다.
요약 작업의 실행 예로 사용할 것은 제품 리뷰입니다. 여기서는 어떤 팬더 인형을 딸의 생일 선물로 사줬고, 딸이 이를 매우 좋아하며 어디든지 가지고 다니는 내용이 포함되어 있습니다. 이처럼 리뷰의 양이 방대한 전자상거래 웹사이트를 운영하고 있다면, 장황한 리뷰들을 요약하는 도구가 있다면 더 많은 리뷰들을 빠르게 훑어볼 수 있게 되고, 그렇게 함으로써 고객들이 어떤 생각을 가지고 있는지 더 잘 이해할 수 있을 것입니다.
요약을 생성하는 프롬프트를 설정할 수 있으며, 30단어 이내로 요약하라고 지시할 수 있습니다. 그 결과로 나온 요약문은 “딸이 사랑하는 부드럽고 귀여운 팬더 인형, 가격에 비해 약간 작지만, 조기 도착했음”이라는 내용이 되었습니다. 이는 나쁘지 않은 요약이며, 이전 비디오에서 본 것처럼 문자 수나 문장 수를 조절하여 요약문의 길이를 조절할 수 있습니다.
요약을 생성할 때 특정 목적을 두고 있다면, 예를 들어 배송 부서에게 피드백을 주고자 한다면, 프롬프트를 그에 따라 수정하여 그룹에 더 적합한 요약을 생성할 수 있습니다. 예를 들어, “배송과 제품의 배송에 관련된 어떤 부분에 주목하라”라는 부분을 추가하면, 요약문이 제품이 예상보다 하루 일찍 도착했다는 사실에 초점을 맞추게 됩니다.
다른 예로, 배송 부서에게 피드백을 주려는 것이 아니라 가격 설정 부서에게 피드백을 주려 한다고 해봅시다. 가격 설정 부서는 제품의 가격을 결정하고 있으므로, 가격과 지각된 가치와 관련된 어떤 측면에 주목하라는 지시를 추가하면, “가격이 사이즈에 비해 높을 수도 있다”는 다른 요약을 생성하게 됩니다.
이렇게 배송 부서나 가격 설정 부서를 위한 요약을 생성했을 때, 해당 부서와 관련된 정보에 조금 더 초점을 맞추게 됩니다. 이처럼, 제품의 고객 경험을 담당하는 제품 부서나 전자상거래 사이트에 흥미로울 수 있는 다른 요소를 생성하도록 요청해 보십시오.
하지만 이러한 요약들에는 배송과 관련된 정보를 생성했지만, 다른 정보도 포함되어 있었고, 이 정보가 유용할 수도 있고 아닐 수도 있습니다. 따라서 어떻게 요약하고 싶은지에 따라, 정보를 추출하도록 요청할 수도 있습니다. 예를 들어, “배송 부서에게 피드백을 주기 위해 관련 정보를 추출하도록” 요청하면, 제품이 예상보다 하루 일찍 도착했다는 내용만 출력되며, 다른 정보는 출력되지 않습니다.
마지막으로, 여러 리뷰를 요약하여 읽기 쉽게 만드는 방법을 구체적으로 예를 들어 설명하였습니다. 이는 전자상거래 사이트에서 큰 유용성을 가질 수 있습니다. 몇 가지 긴 리뷰들을 살펴보면, 이들을 효과적으로 요약하는 방법을 보여주었습니다. 요약을 생성할 때, 특정 부서의 피드백을 위한 정보에 초점을 맞추는 것도 가능하다는 것을 설명하였습니다.
또한, 이러한 요약 기능을 사용하여 리뷰의 대량의 텍스트를 빠르게 처리하고 짧은 요약으로 변환하여 사용자나 다른 사람이 더 빠르게 리뷰를 검토할 수 있게 해주는 대시보드를 만드는 방법에 대해 논의하였습니다. 이렇게 하면 사용자가 원할 경우 원래의 더 긴 리뷰로 들어가 볼 수 있게 해주어, 고객이 무엇을 생각하고 있는지를 효율적으로 이해하는데 도움이 될 수 있습니다.
이 모든 것은 대용량 언어 모델을 이용한 텍스트 요약의 가능성을 보여줍니다. 많은 텍스트가 있는 어떤 애플리케이션이든 이러한 프롬프트를 사용하여 텍스트를 요약하고 사람들이 텍스트의 내용을 빠르게 파악할 수 있게 도와줄 수 있습니다. 이후의 비디오에서는 텍스트를 사용하여 추론을 하는 대용량 언어 모델의 또 다른 능력에 대해 살펴보겠습니다. 예를 들어, 제품 리뷰가 긍정적인지 부정적인지를 빠르게 파악하려면 어떻게 해야 할까요? 다음 비디오에서 이에 대해 알아보겠습니다.
