생성 검색 엔진의 장점
생성 검색 엔진은 LLM 기술을 기반으로 사용자의 질문에 정확하고 깊이 있는 답변을 생성합니다. 이는 기존의 웹페이지 목록 반환 방식과 대조적이며, 사용자에게 효율적인 검색 경험을 제공합니다. LLM 기반의 검색은 정보 검색의 새로운 패러다임을 제시합니다.
Read More
2023년을 위한 벡터 데이터베이스 선택: 비교 및 안내
세맨틱 검색(Semantic search)과 검색 증강 생성(Retrieval-augmented generation, RAG)이 온라인 상호 작용을 재정의하는 시대에, 이런 발전의 기반이 되는 핵심 구성요소인 벡터 데이터베이스는 종종 간과됩니다. 대규모 언어 모델, RAG 또는 세맨틱 검색을 활용하는 어떤 플랫폼을 찾고 계신다면 이 글이 도움이 될 것입니다.
Generative AI with Large Language Models
Generative AI & LLMs 이번 강의에서는 큰 틀을 설정해 보려고 합니다. 대규모 언어 모델(LLM), LLM의 사용 사례, 모델이 어떻게 작동하는지, 프롬프트 엔지니어링, 창의적인 텍스트 출력을 만드는 방법, 그리고 생성 AI 프로젝트의 생명주기를 개요화하는 것에 대해 이야기할 것입니다. 이 강의에 관심이 있다면, 아마도 이미 생성 AI 도구를 시도해 보았거나, 시도해 보고 싶다는 것을 의미할 것입니다. 챗봇이든…
AI 법률 이해의 발전: LLMs의 세법 해석 능력 평가
인공지능 분야에서의 발전은 급속하게 진행되고 있으며, 이 중 큰 부분을 차지하는 것이 대규모 언어 모델(LLMs)입니다. 최신 LLMs는 도구를 사용하고, 계획을 세우며, 표준화된 평가를 통과할 수 있습니다. 그러나 이러한 기능에도 불구하고, LLMs는 연구자들에게도 미스터리한 상자와 같습니다. 최근 연구에서는 LLMs의 법률 분석 능력, 특히 세법에 대한 이해력을 평가하는 것에 중점을 두었습니다. 연구 결과는 각 모델 출시를 통해 향상된 LLMs의 법률 이해 능력이 개발되는 증거를 발견했습니다.
OpenAI GPT-3.5 Turbo와 GPT-4 비용 및 출력 결과 비교
영어에 비해 다른 언어에서는 AI 이용료가 최대 15배 더 비싸다 OpenAI 비용 페이지 (2023년 9월 3일) 한글의 토큰 수 계산 오픈AI의 언어 모델에는 여러 모델이 있으며, 각각 다른 능력과 가격 포인트를 가지고 있습니다. 가격은 1,000 토큰당입니다. 토큰을 단어의 조각으로 생각할 수 있으며, 1,000 토큰은 대략 750단어입니다. 이 문단은 35 토큰입니다. (*영어기준) 오픈AI의 토큰나이저를 사용하여 다음…
ChatGPT Plus 사용자가 사용할 수 있는 15가지 인기 플러그인
ChatGPT Plus 사용자들을 위한 인기있는 플러그인 15개에 대해 소개합니다. 현재 ChatGPT Plus에는 교육, 연구, 요리, 엔터테인먼트 등 다양한 분야에서 일상 업무를 돕는 200개 이상의 플러그인이 있습니다. 이 플러그인들은 ChatGPT Plus 사용자들만 이용할 수 있습니다. *12 Plugins that Make GPT-4 Complete *15 Popular Plugins Available to ChatGPT Plus Users
Spring AI는 OpenAI와 Azure OpenAI와의 통합을 제공합니다
Spring AI Provides Integration with OpenAI and Azure OpenAI Spring AI 프로젝트는 SpringOne 컨퍼런스 동안 소개되었으며, Spring의 일반적인 개념을 사용하여 AI 애플리케이션을 생성할 수 있게 해줍니다. 현재 이 프로젝트는 Azure OpenAI와 OpenAI를 AI 백엔드로 통합하고 있습니다. 콘텐츠 생성, 코드 생성, 의미론적 검색, 요약과 같은 사용 사례가 프로젝트에 의해 지원됩니다. 역사적으로, Python은 C와 C++와 같은 언어로 작성된…
OpenAI Developer Day Keynote: 어시스턴트 API 베타
어시스턴트 API는 여러분의 애플리케이션 내에서 AI 어시스턴트를 구축할 수 있게 해줍니다. 어시스턴트는 지시사항을 가지고 있으며, 모델, 도구, 지식을 활용하여 사용자의 질문에 답변할 수 있습니다. 현재 어시스턴트 API는 세 가지 유형의 도구를 지원합니다:
위키피디아 웹 스크래핑: LLM 에이전트와 도구를 활용한 효율적인 정보 추출
LLM 에이전트, 도구, 함수 호출을 활용하여 위키피디아에서 노래 메타데이터를 추출하는 방법을 단계별로 살펴보았습니다. LangChain 프레임워크를 통해 GPT 3.5 Turbo 모델과 위키피디아 API를 연결하고, 사용자 정의 프롬프트와 출력 파서를 정의하여 원하는 정보를 구조화된 형식으로 추출할 수 있었습니다. 이 접근 방식은 유연성과 확장성이 높아 다양한 데이터 소스와 추출 태스크에 적용할 수 있는 강력한 도구이지만, LLM의 한계와 비용 등의 고려 사항도 존재합니다.
LLM 출력 파싱: 함수 호출 vs. LangChain
LLM 기반 애플리케이션의 출력을 통제하기 위한 방법에는 여러 가지가 있습니다. OpenAI의 Function Calling 기능은 출력을 일관되게 제공하는 반면, LangChain은 다양한 LLM과 출력 형식을 지원하며 유연성이 특징입니다. 선택은 사용하는 모델, 출력 형식, 그리고 특정 문제의 요구사항에 따라 달라질 수 있습니다.