외주 개발을 기간을 1/90, 비용을 1/15 낮출 수 있다면

내가 방글라데시에서 사업을 결정하게 된건 몇 년전 개발자 몸값이 폭등한다는 뉴스가 떠돌때였다. 그때 내가 갖고 있던 가설은 이랬다. 앞으로 한국의 인구 감소는 더욱 극심해질 것이고, 2023년 출산율 0.6의 영향이 구인 시장에 미치는 20년후에는 앞으로 기업들이 개발자를 찾기가 더 어렵겠구나 라는 생각이 들었다. 그때를 대비해 대규모 개발팀을 보유한 회사를 미리 만들어두면, 매력적인 회사가 되겠구나 라는 생각이 들었다.

하필 방글라데시 였나?

기존 IT 아웃소싱 사업의 발전과정을 보니, 흥미로운 패턴을 두개 발견했다. 한 나라에서 IT아웃소싱 산업이 발달하면, 그 나라 개발자 몸값이 올라가 다른 더 싼 국가로 이동한다는 것. 방직산업의 발달 후 몇년 있다가 IT아웃소싱 산업이 발달한다는 것이 었다. 예시를 들자면 중국, 인도(?), 베트남 등이 그렇다. 곰곰히 생각해보니 방직산업과 IT 아웃 소싱 산업은 노동집약적이다는 점에서 비슷한데, 인구가 많고, 실업률이 높고, 젊은층 인구 비율이 높은 곳에서는 방직산업과 IT 아웃소싱 산업이 발전하기 좋은 토대로 작용했다. 중국 인도에서 발달한 IT 아웃소싱업이 베트남업으로 이동하는걸 보면서, 언젠간 베트남도 비싸서 다른 나라로 이동할텐데, 그 나라가 어딜까를 맞추는 게임이 중요해 보였다. 그래서 나는 1) 인구가 많고, 2) 실업률이 높고, 3) 젊은층 인구가 많으면서, 4) 방직산업이 발달한(전세계 2위) 인 방글라데시에서 소프트웨어 에이전시 사업을 하기로 했다. 모티브로 삼은 기업은 1990년에 방글라데시로 넘어간 영원무역이라는 회사였다.

빠르게 성장한 회사 & 부작용

회사는 빠르게 성장했다. 다만 부작용이 있었다. 직접 에이전시 회사를 운영해보니 여러 한계를 이해하게 되었다. 1) 회사의 규모가 커질 수록 퀄리티가 낮아진다. 2) 회사의 규모가 커질 수록 한 사람의 예측 불허 행동이 엄청난 리스크를 주게 된다. 3) 보이지 않는 비용이 증가한다. 아직 회사에 시스템이 잡혀있지 않다보니, 일정 임계점을 넘어가자 예측하지 못한 상황들이 생겨났다. 몇 달동안 허우적거리고 있던 와중에 클로드 코드를 만났다. 우리 업계가 사라질 거라는 예감에 등골이 서늘해졌고 동시에 기회가 보였다. 전통적인 소프트웨어 에이전시를 접기로 했다. (껍데기는 전통적인 에이전시라 할지라도, 내부는 갈아꼈다)

대체될 바에는 대체하자

내가 궁극적으로 지향하는 AI 네이티브 소프트웨어 에이전시의 최종 목표는 원샷 소프트웨어 공장이다. 우버, 당근마켓, 숨고 만들어줘 라고 했을 때 한 방에 우버, 당근마켓, 숨고가 나와야 한다. 공장이기 때문에 품질은 균일해야 하며, 버그가 하나도 없어야 한다. 하지만 LLM은 확률 기반이기 때문에, 공장처럼 작동하기가 어렵다. 이 업계에서 잘 한다는 lovable에게 헬스장의 PT예약앱을 만들어줘 라고 돌려보면, 여전히 버그가 많다. 지난 1월 부터 원샷 소프트웨어 공장 파이프라인을 만드는데 대부분의 시간을 썼다.

V1 ~ V147 (총 실험 시간 — 13,600 시간)

초기에는 엉망이었다. 디자인도 구리고, 요청된 feature를 LLM이 임의로 삭제하는 경우도 허다하고, 중간에 파이프라인이 뻗는 일도 너무 많았다. 매 런마다 새로운 가설을 넣고 테스트 해가며 조금씩 개선해 나갔다. 한번의 run이 초반에는 12시간씩 걸렸는데, 사소한 에러때문에 파이프라인이 멈춰있으면 허탈하기 그지 없었다. 그래도 우직하게 실험을 이어 나갔다 - 그 중 가장 효과적이었던 전략은 Scaffolding, Hard/Soft Gate 방법이었다. 5월말, v130을 넘어가면서 조금 쓸만하게 나왔다. 최종 테스팅 단계에서 처음으로 80% 이상 점수를 받았다. 실제 수주된 프로젝트에서 첫 활용을 했고 3개월 걸리던 프로젝트를 2주정도에 끝냈다. (그마저도 각종 커뮤니케이션, 계정 준비 등이었고 실제 코드/디자인 개발에는 이틀정도 파이프라인이 돌아갔다.) 하지만 80%를 넘어가자 개선 속도가 더뎌졌다. 실험을 더 하려면 토큰이 정말 많이 들기 때문에, Xiaomi MiMo 프로그램에 회사 전원이 지원해, 토큰을 총 동원했다. V140이 넘어가면서, 런을 parallel로 두개씩 돌리기 시작했다. 두개의 PRD를 같은 파이프라인에 넣고 돌려보기도 하고, 같은 PRD를 다양한 모델로 돌려보기도 했다.

AI시대의 개발자는 더이상 엔지니어가 아니라 과학자 같다는 생각도 든다. 끊임 없이 가설을 수립하고 변인을 통제해 실험을 하고 결과에서 교훈을 얻는다.

우리 처럼 작은 소상공인도 여기까지 왔는데, 분명 세상 어딘가에는 원샷 소프트웨어 factory를 소유하고 운영중인 업체가 분명히 있을 것 같다. 세상의 모든 소프트웨어가 티셔츠 처럼 하루 이틀만에 만들어진다면 이 업계는 어떻게 될까

글로벌 진출 전문 개발 에이전시 | Potential(포텐셜)