Fine-tuning LLMs

Fine-tuning LLMs Tasks to finetune Before Fine-tuning (base or pretrained model) Fine-turning 지도 학습 과정은 지시 프롬프트(instruction prompts)를 사용하여 언어 모델(LLM)을 미세 조정하는 것을 포함합니다. 지도 학습(supervised learning)은 머신 러닝의 한 분야로, 모델이 레이블이 지정된 데이터 세트에서 학습하는 방법입니다. 이러한 과정에서 모델은 입력 데이터와 해당 레이블 사이의 관계를 학습하려고 시도합니다. “언어 모델(LLM)”은 텍스트 데이터를 처리하고…

Read More

고급 AI 프롬프트 작성 프레임워크를 사용하여 결과 향상시키기

Advanced AI prompt writing framework’s to improve your results 고급 엔지니어링 프레임워크를 사용하여 AI 프롬프트의 출력을 제어하는 것은 프롬프트 작성에 어려움을 겪고 있거나 프롬프트를 더욱 세밀하게 조정하고 싶을 때 매우 유용할 수 있습니다. 이 가이드는 Guidance와 같은 이러한 프레임워크를 어떻게 사용할 수 있는지에 대한 개요를 제공합니다. 최초로 Microsoft에 의해 소개된 Guidance는 사용자가 특정 출력을 생성하기…

Read More

Spring AI는 OpenAI와 Azure OpenAI와의 통합을 제공합니다

Spring AI Provides Integration with OpenAI and Azure OpenAI Spring AI 프로젝트는 SpringOne 컨퍼런스 동안 소개되었으며, Spring의 일반적인 개념을 사용하여 AI 애플리케이션을 생성할 수 있게 해줍니다. 현재 이 프로젝트는 Azure OpenAI와 OpenAI를 AI 백엔드로 통합하고 있습니다. 콘텐츠 생성, 코드 생성, 의미론적 검색, 요약과 같은 사용 사례가 프로젝트에 의해 지원됩니다. 역사적으로, Python은 C와 C++와 같은 언어로 작성된…

Read More

LMQL, Python의 상위 집합인 방법으로 개발자가 LLM을 사용하는 데 어떻게 도움을 주는가

How LMQL, a Superset of Python, Helps Developers Use LLMs 이 블로그는 대규모 언어 모델(Large Language Models, LLMs)과의 상호작용에 있어 자연어의 한계에 대해 논의하고 있습니다. ETH Zürich의 박사과정 학생인 루카 부어러-켈너(Luca Beurer-Kellner)에 따르면, 자연어는 본질적으로 비공식적이고 덜 정확하다는 단점이 있습니다. 이 문제를 해결하기 위해 부어러-켈너와 그의 동료들은 Language Model Query Language (LMQL)이라는 새로운 프로그래밍 언어를…

Read More

ChatGPT 프롬프트를 더 잘 작성하여 최상의 생성 AI 결과 얻는 방법

How to write better ChatGPT prompts for the best generative AI results 최상의 결과를 얻기 위해 효과적인 챗봇 프롬프트를 작성하는 것은 한 종류의 예술입니다. 여러분의 프롬프트 작성 능력을 향상시키는 방법은 다음과 같습니다. GIGO. 이는 1957년에 미국 육군의 윌리엄 멜린이 신문 기자에게 컴퓨터는 입력된 데이터에 따라 한계를 가진다고 설명했을 때부터 사용된 약어입니다. “Garbage In, Garbage Out”…

Read More

ChainForge: LLM Evaluation Tool

ChainForge는 프롬프트 엔지니어링, LLM 평가 및 실험을 위한 오픈소스 시각 프로그래밍 환경입니다. ChainForge를 사용하면 코딩이 거의 필요하지 않거나 전혀 필요하지 않은 상태에서 프롬프트와 텍스트 생성 모델의 견고성을 평가할 수 있습니다. 기능은 다음과 같습니다: UI 개요 이 페이지는 ChainForge의 사용자 인터페이스를 설명하며 툴바의 모든 버튼을 포함합니다. 아래에는 인터페이스의 스크린샷이 있습니다. 이 인터페이스는 사용자가 잘못되었다고 알려주면 채팅…

Read More

[논문]대규모 언어 모델에서의 추론을 유도하는 사고의 연쇄(Chain-of-Thought) 프롬프팅

체인 오브 써트 프롬프팅은 복잡한 문제를 중간 단계로 분해하고 각 단계를 해결함으로써 문제의 최종 답변을 도출하는 사람의 생각 과정을 모방하는 기법이다. 이 연구에서는, 체인 오브 써트 프롬프팅이 언어 모델의 연산 능력을 향상시키며, 모델이 제공하는 답변의 행동을 해석하는 창을 제공한다는 것을 보여준다. 특히, 큰 언어 모델에서는 체인 오브 써트 프롬프팅이 성능을 크게 향상시키며, 일부 벤치마크에서는 최신 기술을 초월하는 성과를 달성한다.

Read More

생각의 뼈대(Skeleton-of-Thought): 새로운 프롬프트 엔지니어링 기법 탐색

생각의 뼈대(Skeleton-of-Thought, SoT)는 대화형 AI 응용 프로그램에서 질문에 대한 응답을 속도 높게 생성하기 위한 새로운 프롬프트 엔지니어링 방식입니다. SoT는 먼저 대답의 뼈대나 개요를 생성한 다음, 이 개요에 따라 자세한 내용을 병렬적으로 확장합니다. 이 방법은 특히 복잡하고 다양한 질문에 대한 응답을 구성할 때 시간을 절약할 수 있으며, 여러 테스트 케이스에서 효과적이라는 것이 연구에서 밝혀졌습니다.

Read More