검색 증강 생성(RAG) - PDF RAG 학습 앱 (2)

이전 시간에 배운 RAG 기본 개념을 이용해 PDF RAG 분석 애플리케이션을 만들어보자. 이번엔 gradio 프레임워크를 이용해서 Python에서만 구성해볼 것이다. 먼저 gradio로 화면단만 구성한다. 사용된 코드는 아래와 같다.import gradio as gr# 화면 구성with gr.Blocks() as app: gr.Markdown("# PDF RAG 학습 앱") with gr.Tabs(): with gr.Tab("1단계 - PDF & Chunk 확인"): # 파일 업로드 컴포넌트 pdf_input = gr.File(label="PDF 업로드", file_types=[".pdf"]) btn1 = gr.Butto..

검색 증강 생성(RAG) - 개념 (1)

1. RAG 올라마(Ollama)에서 임베딩 개념을 이야기하면서 RAG 개념이 시작되었다. 임베딩 모델을 통해 어떤 input을 고차원의 숫자 리스트로 바꾸어줬고, 이 임베딩된 숫자를 통해 RAG라는 것을 할 수 있다고 공부했었다. 여기서 RAG는 Retrieval Augmented Generation의 약자로써, 검색 증강 생성을 의미한다. 생성형 AI가 임베딩한 외부 문서를 검색한 뒤 그 내용을 기반으로 답변한다. 1) 문서 처리 : DocumentLoader 대표적으로, PyPDFLoader, JSONLoader, TextLoader, WebBaseLoader 등이 있다. 1. PyPDFLoaderfrom langchain_community.document_loaders import PyPDFLoa..

랭체인(LangChain) - 심화 내용 (3)

1. RunnableSequence 파이프라인 문법에서 자세히 보면, RunnableSequence라고 하는 것을 내부적으로 생성한다. 그 중에는 다음과 같은 종류가 있다.RunnablePassthrough : 입력을 통과시켜 다른 키와 병합RunnableLambda : 체인을 파이썬 함수와 연동RunnableParallel : 여러 체인을 동시에 실행하고 결과를 dict 구조로 병합.assign() : 체인 중간에 새 키를 추가하는 메소드1) RunnableLambda chain은 RunnableSequence를 생성하기 때문에 일반 파이썬 함수는 바로 연결 불가하다. 이럴 때 일반 함수를 감싸는 용도로 사용한다.from langchain_core.runnables import RunnableLambd..

랭체인(LangChain) - 요리 전문가 챗봇 실습 (2)

다음 조건으로 요리 전문가 챗봇 앱을 제작해보자.일단 UI 먼저 구성해보자. 다음과 같이 구성한다. src/app/food/page.tsximport ChatBotDiv from "@/components/food/ChatBotDiv";export default function FoodPage() { return ( )} src/app/components/food/ChatBotDiv.tsx"use client";import { useEffect, useState } from "react";import { useRouter } from "next/navigation";import { IoArrowF..

1. 랭체인 (LangChain)LLM 기반 애플리케이션 개발을 위해서 사용하는 JS/Python 기반 프레임워크Prompt - LLM - OutputParser 흐름을 체인으로 연결하는 파이프라인 도구RAG, Agent, Memory, Tools 등 복잡한 패턴을 표준화된 인터페이스로 제공Ollama, OpenAI, HuggingFace, Watsonx 등 LLM 백엔드를 동일한 코드로 교체 1) 구성요소langchain-core : 프롬프트, 템플릿, 아웃풋 파서 등 랭체인의 기본적인 추상화와 인터페이스 제공LCEL : 여러 단계를 거쳐 처리되는 작업 흐름(체인)을 코드 몇줄로 간단하고 직관적으로 만드는 문법LangGraph : 복잡한 워크플로우와 에이전트 시스템을 구축하는 그래프 기반 프레임워크La..

1. 로컬 LLM (Local LLM) 현재 상용화된 LLM인 ChatGPT, Claude, Gemini 등은 우리가 돈을 지불하고 사용을 해야 하는데 우리는 허깅 페이스 플랫폼에서 오픈 소스로 제공해주는 무료 모델을 사용했었다. 이제 이 무료 모델들을 로컬에서 쓰고 싶다는 생각에서 유래했다. 앞에서 이야기 했던 LLM 아키텍처를 살펴보자. 1) 트랜스포머 핵심 아키텍쳐 2) LLM 추론 파이프라인 대부분의 현업의 상용화된 LLM은 이런 과정을 거친다.입력 텍스트는 컴퓨터가 이해할 수 있게 토큰 단위로 나누는 토크나이저(토큰화) 단계를 거친다.토큰화된 리스트를 차원을 늘려 임베딩 과정을 거친다 (벡터화)임베딩 과정까지는 글자를 나누는 것이 의미있게 가져오는 과정은 아니다.앞 뒤 문맥(Context) 참..