보안 강화를 위한 프롬프트 엔지니어링 (Defensive Prompt Engineering)📌 AI 애플리케이션이 공개되면, 악의적인 사용자가 이를 악용할 수도 있습니다.✅ 프롬프트 해킹(prompt attacks)을 방어하는 것이 중요합니다.1️⃣ 프롬프트 추출 공격 (Prompt Extraction)공격자가 애플리케이션의 프롬프트(특히 시스템 프롬프트)를 추출하여 분석하는 공격 기법이를 통해 애플리케이션을 복제하거나 악용할 수 있음2️⃣ 감옥 탈출 및 프롬프트 주입 (Jailbreaking & Prompt Injection)모델이 원래 수행해서는 안 되는 악의적인 행동을 하도록 유도하는 공격예를 들어, 프롬프트 주입(prompt injection) 을 사용하여 제한된 정보를 모델이 공개하도록 만들 ..