AI 레드팀

강좌 개요

이 강좌는 roadmap.sh의 AI 레드팀(AI Red Teaming) 로드맵을 따라 거대 언어 모델(Large Language Model; LLM)을 포함한 AI 시스템의 취약점을 공격자의 시각에서 찾아내고 방어하는 방법을 다룹니다. 레드팀(Red Team)이 왜 필요한지와 윤리적 기준을 먼저 정리하고, 프롬프트 해킹(Prompt Hacking)과 모델 취약점(Model Vulnerabilities) 같은 AI 고유 위협, 코드 인젝션·불안전한 역직렬화 같은 시스템 계층 위협을 살펴본 뒤, 블랙박스·화이트박스 테스트 방법론과 자

선수 지식

• ai-agent

레슨 구성

• 01. 강좌 개요 (1장. 강좌 소개)
• 02. 레드팀의 목적과 윤리적 기준 (2장. 레드팀의 목적과 윤리적 기준)
• 03. 프롬프트 해킹 (2장. 레드팀의 목적과 윤리적 기준)
• 04. 모델 취약점 (3장. 모델 취약점)
• 05. 시스템 계층 보안 (3장. 모델 취약점)
• 06. 테스트 방법론과 도구 (4장. 테스트 방법론과 도구)
• 07. 실제 적용과 전문성 개발 (4장. 테스트 방법론과 도구)

실습 안내

• 본 강좌의 실습 코드는 브라우저 및 로컬 런타임에서 직접 수정하고 실행할 수 있습니다.