Ramp가 업무 확장을 위해 AI 운영 체제를 구축한 방법

Ben Levik은 직장에서 AI를 활용하는 데 있어 최악의 전략이 무엇인지 깨달았습니다. 그것은 바로 AI가 더 쉬워지기를 기다리는 것입니다.

현재 Ramp에서 운영 및 AI 프로덕트 팀을 이끌고 있는 Ben은 지난 1년간 회사 전체를 위한 이른바 ‘AI 운영 체제’를 구축해 왔습니다. 그의 미션은 대담하지만 단순합니다. 세계에서 가장 생산적인 회사를 만드는 것입니다.

이러한 깨달음은 다양한 팀들이 AI 도입에 어떻게 반응하는지를 지켜보는 과정에서 나왔습니다. 그가 'Notion으로 만들기' 세션에서 공유했듯이, 대부분은 예측 가능한 패턴에 머뭅니다. 그저 기다리거나, 도구가 모든 것을 해결해 주길 기대하거나, 혹은 자신이 대체될까 걱정하는 식이죠.

Ramp는 다른 길을 선택했습니다.

현재 사람들이 AI를 바라보는 방식에는 네 가지 유형이 있습니다.

두머(Doomer)는 AI가 결국 일자리를 빼앗을 것이라 믿으며, 그렇다면 굳이 시도해 볼 이유가 없다고 생각합니다. 반면, 주머(Zoomer)는 몇 달 안에 버튼 하나로 모든 걸 해결해 줄 도구가 등장하길 기대하죠. 부머(Boomer)는 보다 신중한 낙관론을 보이며, 누군가 AI를 ‘올바르게’ 사용하는 방법을 정리해 줄 때까지 1~2년쯤 기다릴 계획입니다.

그리고 빌더(Builder)가 있습니다. 이들은 지금 업무가 근본적으로 변하고 있음을 이해하고, 자신의 업무를 새롭게 구성할 기회를 발견하는 사람들입니다.

진정한 영향력을 만들어내는 것은 바로 빌더입니다. 이들은 주도권을 잡고 완벽한 AI 도구를 기다리지 않습니다. 지금 당장 배우고, 연습하고, 반복하며 자신들에게 가장 효과적인 방식을 구축해 나갑니다.

빌더가 되기 위한 Ramp의 방식은 프롬프트, 지식, 워크플로라는 세 단계로 나뉩니다. 각 단계는 이전 단계를 기반으로 하며, ‘AI에게 무엇을 하게 할 것인가?’에서 ‘이를 어떻게 자동화할 것인가?’로 이어집니다.

수년간 우리는 Google에 몇 단어만 입력해도 결과를 얻을 수 있다는 데 익숙해져 왔습니다. 스크롤하고 클릭하다 보면 결국 필요한 정보를 찾게 되죠. Ben은 이런 방식을 ‘모호함의 전염병(epidemic of vagueness)’이라고 부릅니다. 이는 몇 개의 두루뭉술한 단어를 검색창에 던져 넣고 답을 기대하는 태도를 말합니다. 하지만 AI는 정반대를 요구합니다. 제대로 활용하려면 정확성, 맥락, 그리고 충분한 세부 정보가 필요합니다.

Ramp는 직원들에게 AI 도구에 대한 폭넓은 접근 권한을 제공하고, 프롬프트 작성을 일상적인 습관으로 만들었습니다. 현재 약 1,200명의 직원 중 90%가 매월 Notion AI를 사용하고 있습니다. 하지만 접근성만으로는 충분하지 않습니다. 진짜 핵심은 AI를 활용해 AI를 더 잘 쓰는 방법을 배우는 데 있습니다.

작동 방식은 간단합니다. 먼저 다소 모호한 프롬프트로 시작하되, 바로 실행하지는 마세요. 대신 AI에게 더 나은 결과를 내기 위해 필요한 질문을 먼저 해 달라고 요청합니다. 그 질문에 답한 뒤, 앞서 답한 내용을 바탕으로 AI가 프롬프트를 다시 작성하게 하세요. 원하는 결과가 나올 때까지 이 과정을 반복합니다.

Ben에 따르면 이 단순한 패턴은 사람들이 AI와 상호작용하는 방식을 완전히 바꿔놓았습니다. 평범한 결과에 좌절하는 대신, 매번의 상호작용을 통해 AI는 물론 스스로도 더 정확해지도록 훈련하게 된다는 것입니다.

요즘 대부분의 팀은 비슷한 문제를 겪고 있습니다. 지식이 너무 많은 도구에 흩어져 있다는 점입니다. Slack 대화는 여기, Google Drive 문서는 저기, GitHub 토론은 또 전혀 다른 곳에 분산되어 있죠. 이 모든 정보는 여러 팀이 제각각 관리하다 보니, 늘 최신 상태를 유지하지도 못합니다. 이런 상황에서 AI를 얹는다면 AI는 오래된 정보를 자신 있게 전달하게 될 뿐입니다.

Ben은 이 문제를 해결하기 위해 Notion을 단일 정보 출처로 삼아 지식을 통합하고, 이를 나머지 도구 스택과 연결했습니다. 하지만 이를 조직 전반으로 확장할 수 있었던 것은 지식을 정확하고 최신 상태로 유지하는 피드백 루프를 구축했기 때문이었습니다.

현재 Ramp의 팀들은 이 지식 시스템을 사용하면서 누락되었거나 잘못된 내용을 직접 표시합니다. AI가 수정안을 제안하고, 사람은 이를 검토해 승인하는 방식입니다. 누군가 Notion AI에 정책에 대해 질문했는데 답변이 오래된 내용이라는 걸 알게 되었다고 가정해 보겠습니다. 해당 내용을 피드백 데이터베이스에 표시하면, 커스텀 에이전트가 수정 초안을 작성합니다. 이후 지식 관리자가 이를 검토하고 게시합니다. 이 모든 과정은 몇 분 안에 완료되며, 예전처럼 2주 동안 티켓 대기열에 묶여 있을 필요가 없습니다.

좋은 프롬프트를 작성하는 것만으로는 충분하지 않습니다. Slack 대화, Salesforce 데이터, 여러 시스템의 정보를 연결하는 작업 등 필요한 입력을 확보하는 일에는 그동안 상당한 기술적 지원이 필요했습니다. 하지만 이제 AI 에이전트와 커넥터를 활용하면, 최소한의 엔지니어링 지원만 받거나 전혀 도움 없이도 워크플로를 확장할 수 있습니다.

Ramp의 접근 방식은 단순합니다. 정보가 들어가면 AI가 처리하고, 결과는 유용하게 활용됩니다. 프로덕트 팀은 매주 5개 출처의 정보를 자동으로 요약한 프로젝트 업데이트를 받아 Slack에 공유합니다. 영업 팀은 워크플로를 활용해 잠재 고객을 심층 조사하고, 검토 후 발송할 이메일 초안을 자동으로 준비합니다.

이를 통해 Ramp 팀의 업무 방식은 확장 가능한 수준으로 변화했습니다. 이제 워크플로의 많은 부분이 다른 작업과 병행될 수 있기 때문입니다. 이들은 2025년 상반기에 270개의 기능을 출시했는데, 이는 2024년 한 해 전체보다 많은 규모입니다. 이제 업무 속도를 늦추는 병목은 실행이 아니라, 다음으로 어떤 작업을 자동화할지 결정하는 과정입니다.

핵심은 간단합니다. 프롬프트를 정밀하게 작성하고 지식 시스템을 개선하세요. 그런 다음 모든 것을 확장 가능하게 만드는 워크플로를 구축하면 됩니다.

하지만 진정한 포인트는 타이밍입니다. AI가 더 쉬워지길 기다릴 수 없습니다. 도구는 저절로 간단해지지 않으며, 기다리는 것은 곧 뒤처지는 것을 의미합니다. 지금 연습하고, 실패하고, 반복하며 역량을 쌓는 팀들이 AI가 계속 발전함에 따라 우위를 점하게 될 것입니다.

도구는 준비되었습니다. 그렇다면, 어떻게 미래를 만들어 가실 건가요?

시작할 준비가 되셨나요? 웨비나를 시청하고 지식을 중앙에서 관리하며 AI를 활용해 확장하는 방법을 확인해 보세요.