Haru's 개발 블로그

1. AI 에이전트의 자동화된 계획 및 실행 과정AI 에이전트는 복잡한 작업을 수행할 때 4단계 프로세스를 따름:1. 계획 생성 (Plan Generation)AI가 문제를 해결하기 위한 실행 가능한 계획(Plan)을 생성일반적으로 작은 하위 작업(Task Decomposition)으로 나눠서 처리2. 계획 검토 및 오류 수정 (Reflection & Error Correction)생성된 계획을 평가하고 비효율적인 경우 새로운 계획을 다시 생성3. 실행 (Execution)검토된 계획을 기반으로 실제 실행 (예: API 호출, SQL 실행, 코드 실행 등)4. 실행 결과 검토 및 수정 (Reflection & Error Correction)실행 후 결과를 검토하여 목표 달성이 되었는지 확인목표 달성이 안..

1. AI 에이전트의 기능 확장 (Capability Expansion for AI Agents)AI 모델은 특정 기능(예: 계산, 번역, 코드 실행)에 약할 수 있다.해결책: 외부 도구를 활용하여 기능을 확장하는 방식예제: 기본적인 AI의 한계 해결하기수학 계산이 약한 AI → 계산기 API(Wolfram Alpha) 연동번역 기능 부족 → 다국어 번역 API 연결코드 실행 불가능 → 코드 인터프리터(Code Interpreter) 도구 추가2. AI의 멀티모달 처리(Multimodal AI Processing)기존 AI 모델은 텍스트만 처리 가능하지만, 멀티모달 기능을 추가하면 더 강력한 AI가 된다!텍스트 전용 AI를 멀티모달 AI로 확장하는 방법텍스트 + 이미지AI가 텍스트뿐만 아니라, 이미지도 ..

1. 서론: AI 모델의 한계를 극복하는 방법현대의 AI 모델은 사용자의 명령을 따르는 데 뛰어난 능력을 가지고 있지만, 이 능력은 동시에 보안 공격에 취약하게 만들 수도 있습니다. 악의적인 사용자가 모델을 조작하여 원하지 않는 출력을 유도하는 사례가 발생할 수 있기 때문입니다. 이에 따라 보안이 중요한 환경에서는 AI의 도입이 쉽지 않으며, 철저한 보안 대책이 필요합니다.하지만 AI가 단순히 명령을 따르는 것만으로는 충분하지 않습니다. 특정 작업을 수행하려면, 명령뿐만 아니라 적절한 정보(컨텍스트)도 함께 제공되어야 합니다. 예를 들어, 사람이 정보를 모른 채로 질문에 답해야 할 경우, 틀린 답변을 할 가능성이 높습니다. 마찬가지로 AI 모델도 필요한 정보를 제공받지 못하면 환각(hallucinatio..