LLM 출력 파싱: 함수 호출 vs. LangChain

LLM 기반 애플리케이션의 출력을 통제하기 위한 방법에는 여러 가지가 있습니다. OpenAI의 Function Calling 기능은 출력을 일관되게 제공하는 반면, LangChain은 다양한 LLM과 출력 형식을 지원하며 유연성이 특징입니다. 선택은 사용하는 모델, 출력 형식, 그리고 특정 문제의 요구사항에 따라 달라질 수 있습니다.

Read More

[논문]GPT-4와 CoD 프롬프트: 자동 요약에서의 밀도와 선호도

“Chain of Density (CoD)” 프롬프트는 자동 텍스트 요약을 향상시키기 위한 방법론입니다. 이 프롬프트는 GPT-4와 같은 큰 언어 모델을 사용하여 요약의 ‘밀도’를 조절합니다. 초기에는 간단한 요약을 생성하고, 이후에 중요한 정보를 점차 추가합니다. 연구 결과에 따르면, CoD 프롬프트를 사용한 요약은 인간 평가자에게 더 선호되며, 인간이 작성한 요약에 가까운 밀도를 가집니다. 이 방법은 요약이 적절한 수준의 정보를 제공하도록 도와줍니다.

Read More