[논문]ReAct 프롬프팅: LLMs로부터 고품질 결과를 얻기 위한 프롬프팅 방법

ReAct Prompting: How We Prompt for High-Quality Results from LLMs | Chatbots & Summarization ReAct Prompting 프롬프트 엔지니어링은 대규모 언어 모델(LLMs)로부터의 결과의 품질과 정확성을 향상시키는 방법을 찾는 것에 관한 것입니다. 최근 몇 개월 동안, 생각의 연쇄(chain-of-thought) 프롬프팅과 같은 발전은 프롬프트 엔지니어가 그들의 결과의 품질을 향상시키는 데 도움을 주었습니다. 이 글에서는 우리의 목표 상태 출력에 도달하는…

Read More

RAG에 대해 알기 전에는 LLM 앱을 만들지 마세요.

RAG는 LLMs를 보강하고 그들의 고유한 제한 사항 중 일부를 극복하기 위한 상대적으로 저렴하고 간단한 방법입니다. 그러나 실제로 RAG를 활용한 모델들은 정확하게 평가하기 어려울 수 있습니다. UI와 UX에 많은 주의를 기울여 사용자들에게 충분한 문맥을 제공하여 RAG를 활용한 모델이 그들에게 합리적인 답변을 제공하는지 판별할 수 있도록 해야 합니다.

Read More

로컬 문서를 사용한 개인 QA 애플리케이션 생성하기 – Llama-2 사용

LlamaIndex를 사용하여 로컬 문서에 대한 개인 QA 애플리케이션을 구축할 수 있습니다. 이 시스템은 문서를 인덱싱하여 사용자의 질문에 실시간으로 응답하며, 모든 데이터는 사용자의 기기에서 개인적으로 처리되어 보안이 강화됩니다. 그러나 이 방식의 한계는 정확도와 데이터 공유의 어려움이며, 더 큰 모델과 최적화를 통해 성능을 향상시킬 수 있습니다.

Read More

Gartner 전문가들이 기업을 위한 주요 생성형 AI 질문에 답합니다.

제너레이티브 AI를 시작하려면 적절한 교육, 도구, 그리고 프로젝트 목표 설정이 필요합니다. 제너레이티브 AI의 비용과 위험은 사용 사례와 규모에 따라 다르며, 그 사용에 대한 규제 및 윤리적 고려사항도 있습니다. Gartner의 예측에 따르면, 제너레이티브 AI의 활용은 다가오는 몇 년 동안 기업에 큰 영향을 미칠 것입니다.

Read More

전구 이후의 가장 큰 변화? 생성 AI가 AI 채택을 촉진시키는 세 가지 방법

생성 AI는 기술의 접근성을 높이고, AI 프레임워크와 가이드라인을 제공하여 안전하고 효과적인 사용을 도모합니다. 그러나 이 기술의 발전에 따라, 비판적 사고와 창의성이 약화될 위험이 있으므로, 인간의 판단력과 함께 사용하는 것이 중요합니다. 이 기술은 기업의 디지털 변혁 여정을 지원하며, 직원들이 디지털 우선 순위를 더욱 적극적으로 받아들이게 합니다.

Read More

신용 조합 PenFed의 AI 혁신: 고객 경험의 새로운 차원

Pentagon Credit Union (PenFed)는 고객과의 상호작용을 혁신하기 위해 생성 AI를 활용하고자 합니다.
PenFed는 내부 지원을 위해 AI 챗봇을 성공적으로 활용한 후, 이를 회원 서비스에 적용하며 디지털 채널과 데이터를 융합하려고 합니다.
코파일럿 접근법을 통해, PenFed는 AI를 안전하게 내부 직원 지원에 도입한 후 회원 서비스로 확장할 계획입니다.

Read More

LLM 출력 파싱: 함수 호출 vs. LangChain

LLM 기반 애플리케이션의 출력을 통제하기 위한 방법에는 여러 가지가 있습니다. OpenAI의 Function Calling 기능은 출력을 일관되게 제공하는 반면, LangChain은 다양한 LLM과 출력 형식을 지원하며 유연성이 특징입니다. 선택은 사용하는 모델, 출력 형식, 그리고 특정 문제의 요구사항에 따라 달라질 수 있습니다.

Read More

파인튜닝과 의미론적 검색의 선택

파인튜닝과 의미론적 검색은 자연어 처리에서의 서로 다른 접근법을 제시한다. 파인튜닝은 특정 작업을 위한 모델의 성능 개선에 초점을 맞추는 반면, 의미론적 검색은 문서의 의미를 벡터 형태로 임베딩하여 빠르고 정확한 정보 검색을 가능하게 한다. 각 방법은 특정한 상황과 목표에 따라 그 장점을 최대화할 수 있다.

Read More

전문가 참여형 생성 AI: 창의성의 새로운 시대

A New Era of Creativity: Expert-in-the-loop Generative AI at Stitch Fix 최근 몇 년 동안 생성 AI는 주목받고 인기를 얻고 있습니다. deep learning algorithms의 발전과 이전에 상상조차 할 수 없었던 양의 데이터로 훈련되면서, 생성 AI는 이미 많은 실제 사용 사례에 기여하고 있습니다. DALL-E 2와 Midjourney와 같은 시스템으로 현실같은 이미지를 만들어내는 것부터 ChatGPT로 인간 같은 반응을…

Read More