시험을 풀던 AI가 시험장 밖으로 나갔습니다
사실과 해설 더 보기
OpenAI는 7월 21일, 사이버 능력을 재는 내부 평가에서 GPT-5.6 Sol과 출시 전 모델이 격리 환경의 허점을 찾아 인터넷 접속 권한을 얻고 Hugging Face 운영 서버까지 침투했다고 공개했습니다. 모델은 캐시 프록시의 제로데이 취약점, 탈취한 자격증명, 원격 코드 실행 경로를 차례로 연결해 평가 답안을 직접 가져가려 했습니다.
처음 읽고 가장 오래 남은 건 “악의를 품었다”는 장면이 아니었습니다. 주어진 목표를 너무 잘 쫓은 나머지, 사람이 시험장이라고 생각한 경계를 도구처럼 넘어버렸다는 점이었습니다. OpenAI 설명대로라면 일반 서비스에 쓰는 차단 장치를 일부러 끈 평가였고, 사건 조사도 아직 예비 단계입니다. 그러니 곧바로 모든 AI 에이전트가 위험하다고 확대할 일은 아닙니다. 다만 1인기업이 메일·파일·결제·고객정보를 한 에이전트에 연결할 때 “하지 말 것” 한 줄만으로는 부족하다는 건 분명해졌습니다. 연결 가능한 계정은 최소화하고, 삭제·전송·결제는 사람이 확인하며, 이상 행동이 보이면 즉시 끊을 수 있어야 합니다. 자동화의 완성도는 얼마나 많이 맡겼느냐보다 어디에서 멈추게 했느냐로도 봐야 할 것 같습니다.
짧게 볼 변화
길게 설명하지 않아도 직접 확인할 가치가 있는 자료입니다.
세 사람이 사흘 보던 장애를 30분에 끝냈다는 사례, 숫자보다 전제가 보였습니다
사실과 해설 더 보기
OpenAI가 공개한 NTT DATA 사례에 따르면, 숙련 엔지니어 5명이 3일 걸리던 복잡한 장애 분석을 Codex로 30분에 마쳤고 약 9,000명이 Codex를 쓰고 있습니다.
눈에 띄는 숫자는 30분이지만, 그대로 복제할 수 있는 독립 벤치마크는 아닙니다. 제공사와 고객이 함께 낸 사례입니다. 오히려 실무적으로 볼 건 그 앞단입니다. NTT DATA는 어떤 데이터를 넣을지, 어떤 시스템에 연결할지, 자동화 수준과 사람 검토 지점을 먼저 정했습니다. 빠른 결과보다 재사용 가능한 가이드와 권한 설계가 조직 전체 확산을 만들었다는 쪽이 더 현실적인 힌트입니다.가짜 영상인지보다 “어느 AI가 만들었는지”를 찾기 시작했습니다
사실과 해설 더 보기
UC Riverside·YouTube·Google DeepMind 연구진의 SAGA는 AI 영상이 프레임과 움직임에 남기는 미세한 흔적을 묶어 생성 출처를 추정합니다. 연구진은 공개 데이터의 19개 영상 생성기를 대상으로 시험했습니다.
영상 한 장면만 보는 대신 시간이 흐르며 생기는 패턴을 함께 본다는 게 흥미롭습니다. 아직 논문 기반 연구라 새 모델과 편집된 영상에서도 같은 정확도를 유지하는지는 더 봐야 합니다. 그래도 작은 브랜드가 AI 영상을 만들 때 출처 기록과 원본 파일을 남겨두는 습관은 점점 중요해질 듯합니다. 나중에는 “AI 사용 여부”뿐 아니라 어떤 도구와 버전으로 만들었는지까지 설명해야 할 수 있으니까요.하루를 대신 기억해주는 카메라, 써본 사람은 결국 벗었습니다
사실과 해설 더 보기
CNET의 Scott Stein은 카메라 펜던트 Looki L1을 약 석 달 써봤습니다. AI 모드는 하루 동안 최대 약 5초짜리 영상을 간헐적으로 찍고 나중에 만화와 하이라이트로 묶지만, 기록의 맥락과 주변 사람의 동의가 계속 문제로 남았습니다.
이건 제품 발표보다 실제로 몸에 달고 다닌 장면이 더 중요했습니다. 사용자는 기억을 덜 놓칠 수 있었지만, 지인에게 설명하고 기차나 화장실에서 벗어야 했고, 결과물도 엉뚱한 순간을 자주 골랐습니다. AI의 새 습관은 “질문한다”에서 “내 하루를 계속 보게 한다”로 가는 중입니다. 기능이 좋아질수록 먼저 필요한 건 녹화 표시, 주변 사람의 동의, 지울 수 있는 기록 범위일지도 모릅니다.