간달프 (프롬프트 보안 게임)
'간달프'라는 챗봇에게 말을 걸어 숨겨진 비밀번호를 알아내는 게임입니다. 단계를 하나 넘길 때마다 간달프의 방어가 강해져서, 같은 방법으로는 다음 단계를 통과할 수 없습니다. AI가 어떤 말에 넘어가고 어떻게 막아내는지를 직접 겪어보면서 AI 안전의 기본 개념을 익힐 수 있습니다.
이렇게 해보세요
레벨 1 화면 아래의 입력창에 질문을 적어 보내면 간달프가 답합니다. 답에서 알아낸 비밀번호를 입력해 맞히면 다음 레벨로 넘어가며, 전체 8단계입니다. 화면과 입력이 영어로만 제공되고, 입력한 대화는 운영사가 연구 목적으로 수집하므로 개인정보는 넣지 마세요.