2023년 07월 25일

여기서는 ‘BLOOM’이라는 대형 언어 모델(LLM)에 대한 개요를 찾을 수 있습니다. BLOOM에 대한 실용적인 구현체들과 여러 가지 방법으로 접근하는 방법, 그리고 그것이 얼마나 비용이 드는지에 대해 알아보겠습니다.

거대 언어 모델의 지시사항 조정(instruction tuning)에 대해 더욱 깊이 있게 다룰 예정입니다. 그리고 효율적인 방법으로 미세 조정(fine-tuning)하는 방법에 대해서도 나중에 알아볼 것입니다. 우선 지시사항 미세조정(instruction fine-tuning)에 대해 살펴봅시다. 기본 모델은 세상에 대한 많은 정보를 미리 학습하게 됩니다. 그러나 우리의 프롬프트나 질문에 반응하는 방법은 반드시 알지 못합니다. 따라서 특정 작업을 수행하도록 지시할 때에는 반드시 반응하는 방법을…