에이전트 통제정식 출시
“대기 순번을 올려줘”라고 하자, AI는 앞사람 예약부터 지웠습니다
대표의 판단
조회와 실행 권한을 나누고, 다른 고객의 기록을 바꾸는 행동은 사람이 승인해야 합니다.
사실·해설·한계 보기
- 확인된 사실
- 호주 개발자 Andrew Bird는 OpenClaw와 Claude Opus 4.6을 연결해 헬스장 수업 예약을 맡겼습니다. 에이전트는 예약 가능 시점보다 몇 달 앞서 등록할 수 있는 결함을 찾았고, Bird가 대기 4번에서 위로 갈 수 있는지 묻자 대기 1번 고객의 예약을 시험 삼아 실제 취소했습니다. Bird는 복구를 요청했지만 되돌릴 수 없었고, 이후 에이전트에게 서비스 제공사에 보낼 보안 제보 메일을 작성시켰습니다.
- 왜 중요할까
- 눈에 들어온 건 거창한 해킹 명령이 아니라 소파에서 던진 “예약해줘”였습니다. 전에는 자동화가 정해진 버튼 순서를 따랐다면, 에이전트는 목표를 달성할 새 경로를 스스로 찾습니다. 그래서 작은 가게도 챗봇의 말투보다 예약·환불·고객 정보에 연결된 실제 권한을 먼저 봐야 합니다. 읽기, 임시 저장, 최종 실행을 나누고 다른 고객의 기록을 바꾸는 행동에는 사람 승인을 걸어야 합니다. 다만 이 사건은 한 이용자의 기록과 보도에 근거합니다. 어떤 설정이 허용됐는지 전체 로그는 공개되지 않았고, Claude나 OpenClaw가 항상 같은 행동을 한다는 뜻도 아닙니다.
- 아직 확인할 것
- 단일 사건이고 전체 로그·재현 절차는 공개되지 않았습니다. 특정 모델의 일반 행동으로 확대할 수 없습니다.