CHUUUU__ CHUUUU__

Lang Graph란 무엇인가?Lang Graph는 복잡한 언어 모델 기반 워크플로우를 구축하고 실행하는 데 사용되는 프레임워크입니다. LangChain의 확장형으로, AI 기반 응용 프로그램에서 흐름을 시각적으로 설계하고 관리할 수 있도록 돕습니다.1. Lang Graph의 개념Lang Graph는 노드(Node)와 엣지(Edge)로 구성된 그래프 형태의 구조를 사용하여 언어 모델을 실행하는 워크플로우를 구축하는 방식입니다. 이를 통해 사용자는 복잡한 AI 프로세스를 손쉽게 관리하고 조작할 수 있습니다.노드(Node): 각 단계(예: 데이터 처리, 모델 실행, 후처리)를 담당하는 구성 요소엣지(Edge): 노드 간의 관계 및 데이터 흐름을 연결하는 요소이러한 구조를 활용하면 대규모 AI 모델을 효율적으..

LangGraph의 상태 관리 메커니즘이전 포스트에서 LangGraph의 기본 개념과 특징에 대해 살펴보았습니다. 이번에는 LangGraph의 핵심 기능인 상태 관리 메커니즘과 대화형 에이전트 구축 방법에 대해 더 깊이 있게 알아보겠습니다.1. 상태 관리의 중요성LLM 애플리케이션에서 상태 관리는 매우 중요합니다. 특히 다음과 같은 이유로 복잡한 시스템에서는 효율적인 상태 관리가 필수적입니다:컨텍스트 유지: 대화형 AI가 이전 대화 내용을 기억해야 함중간 계산 결과 저장: 워크플로우 중간에 생성된 데이터를 후속 단계에서 활용롤백 및 복구: 오류 발생 시 이전 상태로 되돌릴 수 있는 기능병렬 처리: 여러 작업을 동시에 실행하면서 일관된 상태 유지2. LangGraph의 상태 모델LangGraph는 불변(I..

딥러닝에서 가중치란 무엇인가요?딥러닝을 공부하다 보면 "가중치(Weight)"라는 용어를 자주 접하게 됩니다. 가중치는 인공신경망에서 중요한 역할을 하며, 모델의 성능을 결정하는 핵심 요소 중 하나입니다. 이번 글에서는 가중치가 무엇이며, 어떤 역할을 하는지 초보자도 이해할 수 있도록 쉽게 설명하겠습니다.1. 인공신경망의 기본 구조딥러닝의 기반이 되는 인공신경망(Artificial Neural Network, ANN)은 인간의 뇌에서 영감을 받아 만들어졌습니다. 신경망은 여러 개의 뉴런(Neuron)으로 구성되며, 각 뉴런은 입력 값을 받아 연산을 수행한 후 출력 값을 다음 뉴런으로 전달합니다.신경망은 보통 다음과 같은 구조로 이루어집니다:입력층(Input Layer): 데이터를 입력받는 층은닉층(Hid..

Cost Function과 Activation Function은 무엇인가요?딥러닝과 머신러닝을 공부하다 보면 Cost Function(비용 함수)과 Activation Function(활성화 함수)이라는 개념을 자주 접하게 됩니다. 이 두 가지 개념은 신경망 모델이 학습하고 예측하는 과정에서 중요한 역할을 합니다. 이번 글에서는 Cost Function과 Activation Function이 무엇인지, 각각의 역할과 종류에 대해 쉽게 설명해 보겠습니다.1. Cost Function(비용 함수)란?(1) Cost Function의 정의Cost Function(비용 함수)은 모델의 예측 값과 실제 값 간의 차이를 수치화한 함수입니다. 즉, 모델이 얼마나 잘 예측하는지를 평가하는 기준이 됩니다.모델이 학습하는..

코딩테스트의 새로운 패러다임: AI 활용 능력을 측정하는 시대 이 글은 지극히 제 개인적인 생각입니다 소프트웨어 개발자를 채용하는 과정에서 코딩테스트는 오랫동안 핵심적인 평가 도구로 사용되어 왔습니다. 알고리즘 지식, 문제 해결 능력, 그리고 프로그래밍 언어에 대한 숙련도를 측정하는 전통적인 코딩테스트는 지금까지 개발자의 기술적 역량을 판단하는 데 중요한 역할을 해왔습니다. 그러나 인공지능 기술이 급속도로 발전하면서 소프트웨어 개발의 패러다임이 크게 변화하고 있습니다. 이제는 코딩테스트도 이러한 변화에 맞춰 새롭게 진화해야 할 시점이 왔습니다.전통적인 코딩테스트는 주로 개인의 암기력과 알고리즘 풀이 능력에 초점을 맞추어 왔습니다. 이러한 접근 방식은 실무와의 괴리, 협업 능력 간과, 도구 활용 능력 무시..

1. vLLM이란?vLLM은 대규모 언어 모델(LLM)의 추론 및 서빙을 효율적으로 수행하기 위한 오픈 소스 라이브러리입니다. PagedAttention 기법을 활용하여 메모리 사용을 최적화하며, 기존 🤗 Transformers 대비 최대 24배 빠른 추론 속도를 제공합니다.이 글에서는 vLLM을 활용한 모델 로드, API 서버 배포, 그리고 LoRA 기반의 Fine-tuning 방법까지 자세히 설명하겠습니다.2. vLLM 설치 방법vLLM은 pip을 통해 간단하게 설치할 수 있습니다.pip install vllmvLLM은 PyTorch 및 Transformers 라이브러리와 호환되므로, 해당 라이브러리들이 설치되어 있어야 합니다. 필요 시 아래 명령어로 추가 패키지를 설치하세요.pip install ..

1. Llama 3.3이란?Llama 3.3은 Meta(구 페이스북)에서 개발한 최신 대규모 언어 모델(LLM)입니다. 오픈 소스로 공개되어 누구나 사용할 수 있으며, 비용 효율성이 높아 다양한 AI 활용 분야에서 인기를 끌고 있습니다. 특히, GPT-4와 같은 유료 모델에 비해 무료로 사용 가능하다는 점이 큰 장점입니다.이 글에서는 Llama 3.3을 로컬 환경에서 실행하는 방법과 활용법, 그리고 Fine-tuning(미세 조정)하는 방법까지 자세히 소개해드리겠습니다.2. Llama 3.3 설치 방법Llama 3.3을 로컬 환경에서 사용하려면 Ollama라는 도구를 이용하면 쉽고 간편하게 실행할 수 있습니다. 아래는 운영체제별 Ollama 설치 방법입니다.macOS 설치 방법Ollama 공식 사이트에서..

누적 분포 함수(CDF)와 확률 밀도 함수(PDF) 개념 정리 1. 확률 밀도 함수(Probability Density Function, PDF) 확률 밀도 함수(PDF)는 연속 확률 변수의 특정 값 근처에서 확률이 어떻게 분포하는지 나타내는 함수입니다. (1) 정의 확률 변수 X가 연속적인 경우, **확률 밀도 함수 f(x)**는 다음 성질을 만족합니다. 1. 함수의 모든 값이 0 이상$$ f(x) \geq 0, \quad \forall x$$  2. 전체 확률의 합이 1$$\int_{-\infty}^{\infty} f(x) \,dx = 1$$  3. 특정 구간에서 확률 계산 가능확률 변수 X가 구간 a \leq X \leq b에 존재할 확률은 다음과 같이 계산됩니다.$$P(a \leq X \leq b..