AI가 쏟아낸 '가짜 취약점 신고'에 구글 오픈소스 버그바운티 중단

구글이 AI로 만든 엉터리 보안 취약점 신고가 급증하자 오픈소스 소프트웨어 버그바운티 프로그램의 핵심 부문을 중단했다. 버그바운티는 외부 보안 연구자가 소프트웨어의 보안 허점을 찾아 알려주면 기업이 포상금을 주는 제도다.

5일 업계에 따르면 구글은 '오픈소스 소프트웨어 취약점 보상 프로그램(OSS VRP)'의 제품 취약점 신고 접수를 이달 1일부터 중단했다. 구글은 같은 날 공식 X(옛 트위터) 계정과 버그 신고 사이트 '버그 헌터스'를 통해 이를 공지했다. 

자동화 도구로 제출된 신고가 크게 늘었고 그 대부분이 유효하지 않은 내용이라는 게 구글의 설명이다. 구글은 프로그램을 재정비해 2027년 1분기에 후속 계획을 내놓겠다고 밝혔다.

OSS VRP는 구글이 2022년 8월 도입한 프로그램이다. 오픈소스는 소프트웨어의 설계도에 해당하는 소스코드를 누구나 보고 고쳐 쓸 수 있도록 공개한 소프트웨어를 말한다. 

대상에는 프로그래밍 언어 '고(Go)', 웹 개발 도구 '앵귤러', 빌드 도구 '바젤', 데이터 전송 형식 '프로토콜 버퍼', 운영체제 '퓨시아' 등 구글이 관리하는 프로젝트가 포함된다. 이들 프로젝트가 의존하는 외부 핵심 코드와 깃허브 자동화 설정, 접근 권한 규칙 같은 저장소 관리 상태도 신고 대상이다. 

도입 당시 포상금은 건당 100달러에서 3만1337달러였다. 구글은 프로젝트 중요도에 따라 최상위 'OT0'부터 'OT3'까지 네 등급으로 나눠 보상액을 달리 책정해왔다. 현재 규정 페이지 보상표에는 제품 취약점 항목의 금액이 모두 빠져 있다.

이번에 중단된 것은 '제품 취약점' 부문이다. 소프트웨어 코드 자체의 결함이나 논리 오류, 설계상 허점을 찾아 신고하는 영역이다. 공급망 취약점 신고는 계속 받는다. 공급망 취약점은 소프트웨어를 만들고 배포하는 과정에 쓰이는 외부 부품이나 배포 경로에 숨은 허점을 뜻한다. 

1일 이전에 접수된 신고도 정상 처리된다. 일부 구글 클라우드 관련 저장소의 취약점은 클라우드 VRP로 신고할 수 있다. 오픈소스 보안을 개선하는 수정 코드를 직접 만들어 제출하면 최대 1만5000달러를 주는 '패치 보상 프로그램'도 그대로 운영된다.

미국 IT 매체 탐스하드웨어에 따르면 구글 엔지니어와 오픈소스 관리자들은 수천 건에 달하는 저품질 신고에 시달려왔다. 상당수는 버그를 찾았다고 주장했지만 실제로는 존재하지 않거나 악용이 불가능한 내용이었다. AI가 사실이 아닌 내용을 그럴듯하게 지어내는 '환각' 현상이 신고서에 그대로 담긴 것이다. 

관리자들은 실제 위험한 취약점을 고치는 대신 엉터리 신고를 하나하나 검증하는 데 시간을 써야 했다. 취약점 찾기는 숙련된 전문가가 오랜 시간 매달려야 하는 작업이었다. 대규모언어모델(LLM)과 자동화 스크립트가 확산하면서 신고에 드는 비용과 노력이 사실상 사라졌다.

구글은 2010년 첫 버그바운티를 시작한 이후 누적 8160만달러 이상을 지급했다. 지난해에는 700명 이상의 연구자에게 역대 최대인 1710만달러를 줬다. 2024년 1200만달러보다 40% 늘어난 규모다.

AI 신고 폭증으로 포상 제도를 접는 사례는 다른 곳에서도 나왔다. 데이터 전송 도구 '컬(curl)'의 관리자는 올해 1월 AI가 만든 저품질 신고가 쏟아지자 버그바운티 플랫폼 해커원에서 운영하던 포상 프로그램을 종료했다. 해커원이 오픈소스 생태계를 위해 운영하는 '인터넷 버그바운티'도 3월 27일부터 신규 접수를 멈췄다. 

인텔은 9월 중순 건당 최대 10만달러를 주던 버그바운티의 금전 보상을 없애고 포상금 없는 신고 창구로 바꿨다. 인텔은 이유를 밝히지 않았다.

리눅스 커널 관리자들도 AI 신고에 시달리고 있다. 리눅스 커널에 등록되는 보안 취약점 번호(CVE)는 버전 하나당 2000건에 육박해 과거 약 500건의 네 배 수준으로 불어났다. CVE는 공개된 보안 취약점마다 붙이는 국제 식별 번호다. 

리눅스 창시자 리누스 토르발스는 AI가 만든 중복 신고 탓에 커널 보안 메일링 리스트를 사실상 관리할 수 없게 됐다고 밝혔다.

한편 마이크로소프트는 5월 AI 도구로 발견되는 취약점이 빠르게 늘어 보안 대응 부담이 커질 수 있다고 경고했다. 마이크로소프트는 지난달 정기 보안 업데이트에서 역대 최다인 966개 취약점을 수정했다.