Leaking YouTube creators' private videos
Hacker News · 2026-07-04 · 보안·프라이버시/AI 취약점
작성자는 YouTube Studio의 AI 도우미 'Ask Studio'가 댓글을 읽어 요약하는 과정에서 악의적 프롬프트 인젝션이 가능함을 실험으로 증명했다. 공격자는 평범한 댓글을 남겼다가 나중에 편집해 모델이 출력에 그 내용을 'YouTube로부터의 중요 공지'처럼 표시하도록 유도할 수 있으며, Studio의 제안된 프롬프트나 인터페이스가 클릭되는 순간 모든 댓글을 AI에 전달하기 때문에 크리에이터가 별도의 의심 없이 악성 페이로드를 보게 된다고 설명한다. 글쓴이는 단순한 사회공학과는 다른 문제로 규정하는데, 핵심은 공격자가 크리에이터의 신뢰 대상(구글의 제품 자체)을 악용해 AI 출력을 통해 공격자 문구를 합법적 분석 결과로 위장하게 만든다는 점이다. 더욱 문제적인 부분은 인증된 도구로서 Ask Studio가 채널의 동영상(비공개 동영상 포함)을 볼 수 있다는 사실을 악용해, 출력에 삽입한 링크가 클릭될 때 비공개 동영상 제목 같은 민감한 메타데이터를 URL 인자로 탈취할 수 있었다는 점이다. 글쓴이는 YouTube 측(본문에는 'Goggle'로 표기됨)이 이를 '필요한 사회공학'으로 분류해 보안 버그로 보지 않았다고 전하며, 근본적 해결책으로 댓글 내용을 신뢰하지 않고 모델 입력에서 역할(role) 경계를 명확히 설정해 사용자 생성 콘텐츠가 시스템 수준 지시로 해석되지 않도록 해야 한다고 제안한다. 이 사례는 AI가 사용자 생성 콘텐츠를 그대로 처리할 때 발생하는 신뢰 모델의 취약성을 잘 보여주며, 크리에이터와 플랫폼 양쪽에서 설계상 방어 조치가 필요함을 시사한다.