02 / IT · 분석
에이전트 메모리 시험이 짚은 비밀정보 저장 위험
가짜 키 시험이 제시한 쟁점은 저장 전 비밀정보 제거와 메모리의 후속 재사용이다.

DEV Community 게시글에 따르면 작성자는 PADAM NOCTURNE 0.4.17–0.4.18의 메모리를 가짜 키로 점검했다고 밝혔다. 비밀정보를 다루는 에이전트 개발자에게는 저장 전 제거가 쟁점이 된다.
게시글 작성자는 에이전트가 작업 중 본 정보가 메모리에 남을 수 있다고 설명했다. 작업 중 정보를 접하는 일과 이를 기억으로 저장하는 일이 연결된다.
작성자는 게시글에서 시험 방법과 시험이 다루지 않는 범위를 설명한다고 밝혔다. 시험을 해석할 때도 이 범위가 판단의 기준이 된다.
비밀정보를 거르는 시점은 저장 전
게시글 작성자는 에이전트가 접하는 비밀정보로 API 키, 데이터베이스 비밀번호, 지갑 키를 제시했다.
작성자는 메모리 계층이 저장 전에 비밀정보를 제거해야 한다고 설명했다. 이 기준에서는 저장 단계에 들어갈 내용을 가려내는 처리가 중요해진다.
메모리는 다음 입력으로 이어진다
게시글에 따르면 메모리는 프롬프트와 로그, 내보내기에서 다시 읽힌다. 작성자는 저장된 비밀정보가 후속 처리에도 포함될 수 있다고 설명했다.
게시글 작성자는 제목에서 30,000개의 가짜 키를 이용한 시험을 소개했다. 개발자에게 판단의 기준이 되는 것은 저장 전 제거 원칙을 시험에서 어떻게 점검했는지가 된다.