2025/03/05 15

[LLM] AI Agent의 계획(Planning)과 LLM의 한계

1. AI 에이전트의 자동화된 계획 및 실행 과정📌 AI 에이전트는 복잡한 작업을 수행할 때 3단계 프로세스를 따름:✅ 1️⃣ 계획 생성 (Plan Generation)AI가 문제를 해결하기 위한 실행 가능한 계획(Plan)을 생성일반적으로 작은 하위 작업(Task Decomposition)으로 나눠서 처리✅ 2️⃣ 계획 검토 및 오류 수정 (Reflection & Error Correction)생성된 계획을 평가하고 비효율적인 경우 새로운 계획을 다시 생성✅ 3️⃣ 실행 (Execution)검토된 계획을 기반으로 실제 실행 (예: API 호출, SQL 실행, 코드 실행 등)✅ 4️⃣ 실행 결과 검토 및 수정 (Reflection & Error Correction)실행 후 결과를 검토하여 목표 달성이 ..

[LLM] AI Agent의 계획(Planning)과 실행(Execution) 분리 전략

1. AI 에이전트의 계획(Planning) 개요📌 복잡한 작업을 수행하는 AI 에이전트는 먼저 "계획(Plan)"을 세운 후 실행해야 한다.AI가 적절한 방법을 선택하지 않으면, 비효율적인 방식으로 문제를 해결하려 할 가능성 증가따라서, "무엇을 할 것인가?"(Planning)와 "어떻게 실행할 것인가?"(Execution)는 분리하는 것이 이상적✅ 계획을 잘못 세우면 실행 과정이 비효율적이 될 수 있음예제: "1조 달러 이상 투자금을 유치한 회사를 찾아라"❌ 비효율적인 방법:모든 기업을 검색한 후 "수익 없음" 필터를 적용 → 검색 범위가 너무 넓어짐✅ 효율적인 방법:1조 달러 이상을 유치한 기업만 검색한 후, 수익이 없는 기업을 필터링 → 검색 범위를 축소하여 빠른 결과 도출📌 결론:AI가 계획..

[LLM] AI Agent의 기능 확장: 멀티모달 처리, 코드 해석, 쓰기 액션(Write Actions) 및 보안 고려

1. AI 에이전트의 기능 확장 (Capability Expansion for AI Agents)📌 AI 모델은 특정 기능(예: 계산, 번역, 코드 실행)에 약할 수 있다.✅ 해결책: 외부 도구를 활용하여 기능을 확장하는 방식💡 예제: 기본적인 AI의 한계 해결하기수학 계산이 약한 AI → 계산기 API(Wolfram Alpha) 연동번역 기능 부족 → 다국어 번역 API 연결코드 실행 불가능 → 코드 인터프리터(Code Interpreter) 도구 추가🔥 도구를 추가하면 AI의 활용성이 급격히 증가! 🚀2. AI의 멀티모달 처리(Multimodal AI Processing)📌 기존 AI 모델은 텍스트만 처리 가능하지만, 멀티모달 기능을 추가하면 더 강력한 AI가 된다!🔹 텍스트 전용 AI를 ..

[LLM] AI Agent의 도구(Tools)와 기능 확장(Knowledge Augmentation & Capability Extension)

1. AI 에이전트의 작업 수행 과정📌 AI 에이전트는 복잡한 작업을 수행하며, 여러 단계의 의사결정을 거친다.예제: "향후 3개월 동안의 매출을 예측하라"라는 요청을 처리하는 AI 에이전트의 단계1️⃣ 필요한 정보 확인기존 데이터만으로 예측이 부족하다고 판단과거 마케팅 캠페인 데이터도 필요하다고 결정2️⃣ SQL 쿼리 생성 (Query Generation)과거 마케팅 데이터를 검색하는 SQL 쿼리를 작성3️⃣ SQL 쿼리 실행 (Query Execution)생성된 쿼리를 실행하여 데이터를 가져옴4️⃣ 결과 분석 및 예측 생성가져온 데이터를 바탕으로 매출 예측 수행5️⃣ 작업 완료 여부 판단필요한 모든 정보를 확보했는지 검토✅ 결론:에이전트는 단순한 질문-응답 시스템이 아니라, 복잡한 문제 해결을 위한..

[LLM] AI 에이전트(Agents): RAG를 넘어 자율적인 AI 시스템으로

1. AI 에이전트 개요 (Agent Overview)📌 에이전트(Agent)란?"환경을 인식하고 그에 따라 행동할 수 있는 시스템" (Russell & Norvig, 1995)✅ AI 에이전트의 핵심 개념환경(Environment) → 에이전트가 상호작용하는 공간 (예: 인터넷, 파일 시스템, 데이터베이스 등)행동(Actions) → 에이전트가 수행할 수 있는 작업 (예: 검색, SQL 실행, 데이터 분석)📌 예제: 다양한 유형의 AI 에이전트에이전트 유형환경수행 가능한 작업게임 에이전트게임 세계 (Minecraft, Go, Dota)게임 내에서 자동 행동웹 스크래핑 에이전트인터넷웹에서 정보 수집요리 로봇주방요리 수행자율주행 에이전트도로 시스템차량 운전RAG 에이전트검색 엔진, 데이터베이스정보 검색..

[LLM] RAG의 확장: 구조화된 데이터(Tabular Data)와 에이전트(Agents)

1. 구조화된 데이터(Tabular Data) 기반 RAG📌 일반적인 RAG 시스템은 비정형 데이터(텍스트, 이미지)를 활용하지만, 많은 비즈니스 애플리케이션은 정형 데이터(테이블, 데이터베이스)를 필요로 한다!💡 문제점:일반적인 RAG 시스템은 주로 문서, 이미지 등의 비정형 데이터를 검색하지만 이커머스, 금융, 헬스케어 등의 분야에서는 구조화된 데이터(테이블, SQL 데이터베이스)가 핵심 정보원✅ 해결책: RAG + SQL 기반 검색(Text-to-SQL)자연어 질문을 SQL 쿼리로 변환하여 데이터베이스에서 정량적 정보를 검색검색된 데이터를 바탕으로 AI가 답변을 생성2. 예제: 이커머스 데이터베이스에서 판매량 검색📌 데이터 예시 (Table 6-3: Kitty Vogue의 판매 데이터)이커머스..

[LLM] RAG의 확장: 문서 기반 검색을 넘어 멀티모달 RAG로

1. RAG 시스템의 컨텍스트 확장 (Contextual Augmentation in RAG)📌 컨텍스트 보강(Context Augmentation)이란?"검색된 문서의 청크에 짧은 컨텍스트를 추가하여 검색 정확도를 향상시키는 기법"💡 문제점:검색된 문서의 일부 청크(Chunk)만 보면 문맥을 이해하기 어려울 수 있음AI 모델이 올바른 정보를 제공하려면, 검색된 청크가 전체 문서에서 어떤 역할을 하는지 알 필요가 있음📌 해결 방법:각 청크에 짧은 문맥(Context)을 추가하여 검색 엔진이 더 정확한 결과를 반환할 수 있도록 함Anthropic의 접근 방식각 청크 앞에 해당 청크의 의미를 설명하는 컨텍스트 요약을 추가이 보강된 청크를 검색 시스템이 인덱싱✅ 결과:검색된 문서가 더 유의미한 결과를 제..

[LLM] 검색 최적화를 위한 쿼리 리라이팅(Query Rewriting)과 맥락 검색(Contextual Retrieval)

1. 쿼리 리라이팅(Query Rewriting): 더 정확한 검색을 위한 검색어 변환📌 쿼리 리라이팅이란?"사용자의 검색어를 보다 명확하고 효과적인 형태로 변환하여 검색 정확도를 높이는 기법"💡 이유: 검색어 모호하면 검색 품질이 떨어진다!사용자가 입력한 검색어가 불완전하거나 애매한 경우, 검색 시스템이 정확한 결과를 제공하기 어려움검색어를 적절하게 변환하면 검색 품질이 크게 향상됨🔹 예제: 모호한 검색어 해결하기📝 사용자가 입력한 검색어:"John Doe가 우리 가게에서 마지막으로 물건을 산 게 언제야?"✅ AI 응답:"John이 2030년 1월 3일에 모자를 샀어요."📝 추가 질문:"그럼 Emily Doe는?"🚨 문제점:"그럼 Emily Doe는?"이라는 질문만으로는 AI가 사용자의 의도..

카테고리 없음 2025.03.05

[LLM] 검색 최적화(Retrieval Optimization): 검색 성능을 향상시키는 전략

1. 검색 최적화 개요검색 시스템의 성능을 높이기 위해 적용할 수 있는 다양한 최적화 전략이 있습니다.이 블로그에서는 다음 네 가지 핵심 전략을 다룹니다.📌 🔹 검색 최적화 전략 4가지1️⃣ 청킹 전략(Chunking Strategy) → 문서를 적절한 크기로 분할하여 검색 성능을 최적화2️⃣ 재정렬(Reranking) → 검색된 문서의 순위를 다시 조정하여 더 정확한 검색 결과 제공3️⃣ 쿼리 리라이팅(Query Rewriting) → 검색어를 보다 효과적으로 변환하여 검색 품질 향상4️⃣ 맥락 검색(Contextual Retrieval) → 검색 시스템이 더 풍부한 문맥을 반영하도록 개선2. 청킹 전략(Chunking Strategy)📌 청킹(Chunking)이란?긴 문서를 작은 단위(청크, c..

[LLM] 검색 알고리즘 최적화 및 하이브리드 검색(Hybrid Search)

1. 검색 시스템에서의 인덱싱과 쿼리 성능의 트레이드오프검색 시스템을 설계할 때, 인덱싱 속도(Indexing Speed)와 쿼리 속도(Query Speed)의 균형을 맞추는 것이 중요합니다.인덱스를 자세하게 만들수록 검색 정확도가 향상되지만, 인덱싱 속도가 느려지고 저장 공간이 많이 필요간단한 인덱스를 사용하면 빠르게 검색할 수 있지만, 정확도가 낮아질 가능성 증가📌 예제: 고객 데이터 검색 시스템고객의 이름과 이메일만 저장하면 검색은 빠르지만, 원하는 고객을 정확히 찾기 어려울 수 있음고객의 이름, 이메일, 전화번호, 관심사까지 저장하면 검색 정확도가 높아지지만, 인덱싱 속도와 저장 공간이 증가📌 대표적인 인덱싱 기법✅ HNSW (Hierarchical Navigable Small World) →..