Generative AI3 RAG 구현을 위한 효과적인 툴: 랭체인(LangChain) 랭체인(LangChain)은 노출하여 대규모 언어 모델과 애플리케이션의 통합을 간소화하는 SDK이다. 대규모 언어 모델의 부상과 함께 중요성이 커지고 있다. 대규모 언어 모델에 대한 최신 트렌드를 쫓는 소프트웨어 개발자라면 연일 쏟아지는 소식이 당황스러울 수 있다. 새로운 오픈소스 모델의 출시나 상용 모델 제공업체의 중요한 새 기능 발표가 매일 등장하는 상황과 비슷하다고 할 수 있다.어느덧 LLM은 최신 소프트웨어 스택의 한 요소로 빠르게 부상했다. 그러나 오픈AI와 같은 공급업체가 제공하는 모델 API를 사용하든, 오픈소스 모델을 앱에 포함하든 LLM 기반 애플리케이션을 구축하려면 단순히 프롬프트를 보내고 응답을 기다리는 것 이상의 작업이 필요하다. 매개변수 조정부터 프롬프트 보강, 응답 조정에 이르기.. 2024. 6. 20. 생성형 AI의 기술 트렌드 1. 빠른 기술 확산의 속도: 비즈니스 전략의 중요성 확대 대형언어모델은 대량의 데이터를 대규모 모델로 학습하기 때문에 학습과 파인튜닝(특정 업무를 수행하기 위해 관련 데이터를 추가 학습하는 과정), 추론(학습된 모델을 사용하는 과정)에 많은 시간과 비용이 든다. 그래서 챗GPT 같은 모델을 구축하기도 어렵고 이를 기반으로 다양한 서비스를 하려고 하면 서버 부족 등 한계가 있었다. 그러나 최근 빅테크와 스타트업을 중심으로 다수의 대형언어모델이 개발되고 있다. 유사한 데이터셋과 아키텍처를 사용하는 이들 모델들은 정확도 측면에서 ‘GPT 4’만큼은 아니지만 상용화 가능한 수준이고 안전성, 속도 등에서는 더 뛰어난 측면도 있다. 마이크로소프트 등 클라우드 업체들도 다양한 모델을 지원해 사용자들이 원하는 모델을.. 2024. 4. 13. LLM을 품은 클라우드와 AGI 트렌드 2022년 11월 말 출시된 오픈AI의 챗GPT가 세상을 떠들썩하게 하고 있다. 모든 IT 주제들을 블랙홀 마냥 빨아들일 정도다. 역사상 단기간 내 수억 명의 사용자를 가입자로 확보할 만큼 시장의 호응이 뜨겁기도 하고, 챗GPT를 가능하게 해준 GPT-3.5와 챗GPT API를 외부 서비스 사업자들이 사용할 수 있도록 제공함으로써 다양한 Generative AI가 나올 수 있는 물꼬를 터주었기 때문이기도 하다. 게다가 GPT-4로 LLM이 업그레이드되면서 더 나은 성능과 기능으로 업그레이드가 이루어진 것도 챗GPT를 주목받게 한 이유다. 그렇게 챗GPT가 나비 효과처럼 다양한 산업 영역에 확산될 수 있었던 가장 큰 이유는 Microsoft가 Azure Cloud를 통해 GPT-3.5와 챗GPT API를 .. 2023. 12. 22. 이전 1 다음
