How to Pick the Right A.I. Model for Your Business
“생성 A.I. 제품 전쟁”이 공식적으로 시작되었습니다.
OpenAI가 2023년 3월에 ChatGPT를 위한 API를 공개적으로 출시한 이후, 사업가들은 창조적 A.I.를 자신들의 업무에 통합하는 방법을 탐구하고 있습니다. 그러나 많은 사람들이 ChatGPT의 단점을 발견했습니다. 특히, 이것이 어떤 데이터로 훈련되었는지, 어떻게 결정을 내리는지에 대한 투명성이 부족하다는 점, 그리고 잘못된 정보를 사실로 제시하는 경향이 있다는 것입니다. 이 현상은 ‘환영’이라고 알려져 있습니다. 또한 ChatGPT는 맞춤 설정 옵션이 부족하며, 아마도 가장 중요한 것은 API 사용자들이 OpenAI에게 모든 질의와 응답을 처리하고 생성하기 위한 비용을 지불해야 한다는 것입니다. 고급 모델은 저력한 제품보다 훨씬 높은 가격을 가지고 있습니다. 그리고 가격은 질의와 응답의 길이에 따라 결정됩니다. 이러한 가격 모델은 일반 사용자에게는 괜찮을 수 있지만 대규모로 사용될 때는 비용이 많이 듭니다.
지난달, 소셜 미디어 거인 Meta는 가장 고급 언어 모델인 Llama 2를 공개했습니다. API를 판매하는 대신, Meta는 이 모델을 “오픈 소스”로 공개하겠다고 발표했습니다. 보통 이것은 Llama 2가 누구에게나 상업적으로 무료로 사용될 수 있다는 것을 의미할 것입니다. 그러나 많은 사람들이 세부 내용을 읽은 후 Meta의 주장을 의심하기 시작했습니다. 이 모델의 커뮤니티 라이선스 계약에는 이 기술을 기반으로 한 제품이나 서비스가 월 7억 명 이상의 사용자에게 도달하면 Meta에게 수수료를 지불해야 한다는 조항이 포함되어 있습니다.
그럼에도 불구하고, Llama 2는 OpenAI의 언어 모델 제품군, 특히 현재 시장에 나와있는 가장 고급 모델인 GPT-4와 비교해 몇 가지 명확한 장점을 가지고 있습니다. 여기 어떻게 비즈니스에 적합한 LLM을 결정할 수 있는지에 대한 안내가 있습니다.
Which model is right for me?
택할 모델이 어떤 것이냐는 여러 요인에 따라 달라집니다. A.I. 기반의 컨택 센터 기업 Agents Only의 대표인 Tyler Ashby에 따르면 A.I. 모델을 선택할 때 고려해야 할 세 가지 주요 요인이 있습니다. “시기, 예산, 회사로서 얼마나 모험을 좋아하는지에 달려있습니다. 빠른 솔루션이 필요한 경우, OpenAI는 사용하기 쉽고 설정하기도 쉬워 장점이 있습니다.”
OpenAI는 기술을 쉽고 빠르게 설정할 수 있게 만들었고, 이는 상자에서 제품을 꺼내 사용하고자 하는 모험을 좋아하지 않는 사용자들에게 좋은 선택일 수 있습니다. 그러나 이런 장점은 단점이 될 수도 있습니다. 예를 들어, GPT-4는 Llama 2처럼 회사의 데이터에 훈련하여 맞춤형 솔루션(또는 미세 조정)을 만들 수 없습니다. 그러나 OpenAI는 미세 조정이 가능한 덜 발전된 모델들을 제공하고 있으며, 올해 안에 그런 종류의 최고 모델을 추가할 계획입니다.
반면, Llama 2는 적어도 기술적인 측면에서 오픈 소스이므로 프로그래머가 소스 코드로 할 수 있는 제한은 없으며, OpenAI의 모델로는 할 수 없는 수많은 작업을 사용자 지정 데이터로 수정할 수 있습니다. 예를 들어, 회사의 모든 데이터와 문서로 모델을 미세 조정한 다음 고객의 인구 통계 정보부터 판매 예측에 이르기까지 어떤 것이든 보고서를 생성하도록 요청할 수 있습니다.
이 미세 조정 과정은 시간이 더 걸릴 수 있지만, 잠재적인 수익은 큽니다. “두 모델을 회사의 인턴으로 생각해보십시오.”라고 Searce의 SVP인 Patrick Bangert는 말합니다. “ChatGPT 인턴은 아주 빠르고 똑똑할 수 있지만, 회사가 어떻게 운영되는지에 대해 특별히 알고 있는 것은 아닙니다. Llama 인턴은 배우는 데 조금 더 시간이 걸릴 수 있지만, 회사 특정 작업을 더 잘 처리할 수 있습니다.”
그리고 비용 문제도 있습니다. OpenAI의 쿼리당 요금제를 원하지 않는 작은 회사들, 그리고 Meta의 월 7억 명의 사용자 한도에 도달할 계획이 없는 회사들에게 Ashby는 Llama 2를 좋은 선택으로 권장합니다.
결론적으로, 생성 A.I.의 세계에 빠르게 진입하려는 기업들에게는 OpenAI의 API가 적합할 수 있습니다. 무료이면서도 강력한 도구 세트로 더 맞춤화된 애플리케이션을 구축하려는 기업들에게는 Llama 2가 더 우위에 있을 수 있습니다.
Llama 2는 Meta의 웹사이트뿐만 아니라 GitHub 및 Hugging Face와 같은 저장소 웹사이트에서도 접근할 수 있습니다. 여기서 LLM의 데모 버전과 채팅하여 비즈니스 요구 사항에 맞는 모델을 결정할 수 있습니다.
*비즈니스에 적합한 LLM(Language Model)을 결정하는 방법은 여러 요소에 따라 달라집니다. 다음은 고려해야 할 주요 사항들입니다:
- 비용: 비즈니스 규모와 예산에 따라 선택할 수 있는 모델이 다를 수 있습니다. 작은 규모의 스타트업은 초기 비용을 최소화하기 원할 것이며, 대기업은 높은 품질의 결과물을 원할 수 있습니다.
- 성능 및 정확도: LLM의 훈련 데이터와 알고리즘은 성능에 큰 영향을 미칩니다. 특정 업계나 주제에 대한 지식이 필요한 경우, 해당 분야의 데이터로 훈련된 모델을 선택하는 것이 좋습니다.
- 맞춤 설정: 일부 모델은 사용자의 요구 사항에 따라 맞춤 설정이 가능합니다. 비즈니스의 특정 요구사항이나 특성에 맞게 모델을 튜닝할 수 있는지 확인하세요.
- 투명성 및 윤리적 고려: 어떤 모델은 훈련 데이터와 결정 방식에 대해 더 투명할 수 있습니다. 또한, 윤리적인 문제나 편향성을 최소화하기 위한 방법으로 훈련된 모델을 선호할 수도 있습니다.
- 라이선스 및 사용 약관: 모델의 사용 약관은 비즈니스 전략과 연관될 수 있습니다. 예를 들어, 사용자 수가 특정 기준을 초과하면 추가 비용이 발생할 수 있는지 확인하세요.
- 지원 및 커뮤니티: LLM을 효과적으로 사용하려면 지원이나 커뮤니티에서의 도움이 필요할 수 있습니다. 어떤 모델은 강력한 개발자 커뮤니티와 함께 제공될 수 있으므로, 문제 해결이나 새로운 기능 구현에 도움을 받을 수 있습니다.
- 확장성: 비즈니스의 성장에 따라 LLM의 요구 사항도 변할 수 있습니다. 선택한 모델이 미래의 확장성을 지원하는지 확인하세요.
최종 결정을 내리기 전에, 여러 LLM을 테스트해 보고 자신의 비즈니스 요구 사항과 가장 잘 맞는 것을 선택하는 것이 좋습니다.
