AI 코딩 너무 잘 써서 탈났다…우버 "직원 1인당 월 1500달러까지만"

차량 호출 업체 우버가 직원들의 AI 코딩 도구 사용에 월별 한도를 걸었다. 한 해 쓸 AI 예산을 단 4개월 만에 모두 써버린 데 따른 조치다.

블룸버그 보도에 따르면 우버는 직원 1인당 매달 1500달러까지만 AI 코딩 도구를 쓰도록 상한을 정했다. 이 한도는 앤트로픽의 '클로드 코드'나 '커서' 같은 도구마다 따로 적용된다. 한 도구에서 1500달러를 썼다고 해서 다른 도구의 한도가 줄지는 않는다는 의미다. 

직원들은 사내 대시보드에서 자신의 사용량을 확인할 수 있고 필요하면 승인을 받아 한도를 넘길 수도 있다. 우버 측은 회사 전반에서 AI 활용을 책임 있게 장려하기 위한 방식이라고 설명했다.

AI 코딩 도구는 개발자가 명령을 내리면 코드를 스스로 작성하고 수정하는 프로그램이다. 비용은 '토큰' 단위로 매겨진다. 토큰은 AI가 글이나 코드를 처리할 때 쪼개는 최소 단위로 영어 기준 한 단어가 대략 토큰 한 개 남짓이다. 많이 처리할수록 요금이 올라가는 구조여서 복잡한 작업을 시킬수록 비용이 빠르게 불어난다.

우버의 곤경은 지난 4월 드러났다. 프라빈 네팔리 나가 우버 최고기술책임자(CTO)는 IT 전문매체 디인포메이션을 통해 회사가 올해 책정한 AI 예산을 4개월 만에 소진해 "원점에서 다시 검토하고 있다"고 밝혔다. 

우버는 지난해 12월 엔지니어들에게 클로드 코드를 열어줬는데 사용량이 2월 들어 두 배로 뛰었고 4월에는 연간 예산을 다 먹어치웠다. 회사가 직원들에게 AI를 "최대한 많이" 쓰라고 독려하고 사내 순위표를 만들어 사용량을 경쟁시킨 결과였다. 현재 우버 엔지니어의 95%가 매달 AI 도구를 쓰고 회사 코드의 약 10%는 AI가 작성한다.

문제는 돈을 쓴 만큼 성과가 따라오는지 불분명하다는 점이다. 앤드루 맥도널드 우버 최고운영책임자(COO)는 최근 한 팟캐스트에서 클로드 코드 사용이 늘어난 것과 소비자에게 실제로 도움이 되는 새 기능이 나오는 것 사이에 직접적인 연결고리가 아직 보이지 않는다고 말했다. 

사용량 지표 하나를 두고 "이제 우리가 쓸모 있는 기능을 25% 더 만들고 있다"고 단정하기는 어렵다는 것이다.

비슷한 고민은 업계 전반으로 번지고 있다. 마이크로소프트는 윈도와 오피스, 팀스 등을 담당하는 부서에서 6월 30일까지 클로드 코드 사용을 중단하고 자사 도구인 '깃허브 코파일럿 CLI'로 옮기라고 지시했다. 

6월 30일은 마이크로소프트의 회계연도 마지막 날이다. 앤트로픽은 경쟁사이기도 해서 자사 엔지니어가 경쟁사 도구에 돈을 쓰는 구조를 두기 어려웠다는 분석이 나온다.

코딩 도구 요금제도 바뀌고 있다. 깃허브 코파일럿은 6월 1일부터 정해진 금액만 내면 무제한으로 쓰던 방식을 버리고 토큰 사용량만큼 돈을 매기는 방식으로 전환했다. 일부 개발자는 월 29달러였던 요금이 750달러까지 뛸 것이라는 추정을 내놓으며 거세게 반발했다.

투자 대비 성과를 묻는 보고서도 나왔다. 컨설팅 업체 베인앤드컴퍼니가 매출 1억 달러 이상 기업 951곳을 조사한 결과 비용 절감 효과를 측정한 기업 가운데 가장 많은 40%가 10% 이하의 절감에 그쳤다. 

그런데도 이들 기업의 상당수는 아직 실현되지 않은 절감 효과를 근거로 다음 AI 투자를 집행하고 있었다. 베인은 이를 두고 "기술은 작동했지만 가치는 도착하지 않았다"고 평가했다. 우버가 사용 한도를 내건 날 회사 주가는 2.9% 떨어진 71.62달러로 마감했다. 올해 들어 12% 빠진 수준이다.