[STCON 2024] OWASP Top 10 for LLMs 및 대응 방안
·
기타
STCON 2024 DAY 210월 25일에 STCON 2024 컨퍼런스의 DAY 2를 들으러 갔다왔다.그 중, AWS 신은수 수석님의 OWASP Top 10 for LLM 및 대응 방안에 대한 발표가 인상깊어 한 번 정리를 해보려 한다.  🐝 OWASP Top 10 for LLMsOWASP Top 10 for LLMs는 대규모 언어 모델(LLM) 애플리케이션에서 발생할 수 있는 주요 보안 취약점을 정리한 목록이다. OWASP Top 10 for LLM Applications V E R S I O N 1 . 1  1️⃣ LLM01: 프롬프트 삽입(Prompt Injection)교묘한 입력을 통해 LLM을 조작해 예기치 않은 행동을 유도하는 공격이다.LLM은 Nondeterministic(답변이 항상 일..