Cloud Run에서 LangServe와 함께 LangChain 배포하기!
LangChain은 LLM 모델을 사용하는 앱을 빌드하기 쉽게 해주는 프레임워크입니다. LangChain에서 최근 LangServe를 도입했는데, LangChain 프로젝트를 REST API로 배포하는 것을 제공합니다. LangServe는 Cloud Run과 Replit에 대한 배포를 모두 지원합니다.LangChain 등장 배경Google Bard와 같이 Gen AI 챗봇은 LLM을 기반으로 합니다. 간단히 Prompt를 작성하면 코드도 작성하고 텍스트도 바꾸고 추천도 해주고 논리 문제도 해결합니다. 이런 서비스를 구축하려면 Pipeline(Chain)을 구축이 필요합니다. 이 때 필요한 것이 LangChain입니다.LangChain으로 Chain 구축간단하게 LangChain을 이용해 VertexAI ..
Dev Type
2023. 12. 8. 11:02
