AI/LLM 4

[LangGraph] LangGraph 란 무엇인가?

LangGraph란?정의LangGraph는 LangChain 위에 구축된 "상태 기반 유한 상태 머신(혹은 그래프) 프레임워크"로, LLM(대형 언어 모델) 중심의 워크플로우를 쉽게 구성하고 실행할 수 있게 해주는 도구다.간단히 말하면:복잡한 LLM 기반 로직을 “노드(Node)”와 “엣지(Edge)”로 연결된 그래프 형태로 설계하고 실행할 수 있게 해준다.LangGraph 의 탄생 배경 RAG 라는 강력한 기능을 갖게 된 우리는 한 번쯤 다음의 갈등을 마주한다LLM 이 생성한 답변이 Hallucination이 아닐까?RAG 를 적용하여 받은 답변이 문서에는 없는 "사전지식" 으로 답변한 건 아닐까?"문서 검색에서 원하는 내용이 없을 경우" -> 인터넷 혹은 논문 에서 부족한 정보를 검색하여 지식을 보강..

AI/LLM 2025.03.19

[LLM] LangChain 의 유용한 기능들

StreamingLangChain의 Streaming 기능은 대형 언어 모델(LLM)이 생성하는 응답을 한 번에 모두 출력하는 것이 아니라, 부분적으로 실시간 출력하는 기능을 의미합니다.즉, 사용자가 기다리지 않고, 모델이 생성하는 즉시 응답을 스트리밍(흐름) 방식으로 받아볼 수 있도록 합니다from langchain_openai import ChatOpenAIchat = ChatOpenAI(model_name="gpt-4o-mini")#chat.invoke("고양이에 대한 시를 써줘.") # 평소에 완성된 대답을 받던 함수 (invoke)for chunk in chat.stream("고양이에 대한 시를 써줘.") : print(chunk.content, end="", flush=True) 더보기imp..

AI/LLM 2025.02.28

[LLM] RAG

RAG 란?RAG 은 정보 검색과 생성 모델을 결합하여, 더 정확하고 풍부한 답변을 제공하는 AI 모델의 접근 방식입니다.이 방식은 정보 검색(retrieval)과 텍스트 생성(generation)을 결합하여,사용자가 질문할 때 모델이 외부의 문서나 데이터베이스에서 필요한 정보를 검색하고,그 정보를 바탕으로 자연스러운 텍스트를 생성하는 방식입니다. RAG 는 주로 기존의 생성형 모델들이 가지는 정보의 제한성을 해결하기 위해 만들어졌습니다.GPT같은 모델은 훈련 데이터에 포함된 정보만을 기반으로 답변을 생성하기 때문에그 이후에 발생한 정보나 훈련에 포함되지 않은 특정 세부 정보에 대해서는 잘못된 답변을 할 수 있습니다.RAG 동작방식문서 로딩문서로는 JSON, 이미지, 텍스트, CSV, PDF 등 다양한 ..

AI/LLM 2025.02.27

[LLM] LangChain (prompttemplate 과 LCEL)

LangChain 이란?랭체인(LangChain)은 대형 언어 모델(LLM)을 더 효과적으로 활용할 수 있도록 도와주는 프레임워크 이다단순히 LLM에 프롬프트를 입력하고 답변을 받는 방식에서 벗어나, 데이터 검색, 메모리 저장, API 연동, 체인(Chain) 구성 등을 가능하게 해 준다.랭체인의 기본요소프롬프트LLM랭체인의 기본은 LLM 에 프롬프트를 넣어주는 것이다써보면서 익히는게 빠르니 바로해보자 먼저 라이브러리 설치와 환경설정부터 한다pip install langchain-openaiimport osimport getpassos.environ["OPENAI_API_KEY"] = getpass.getpass("OpenAI API Key:")from langchain_openai import Chat..

AI/LLM 2025.02.19