요청·승인·복구 기록으로 인공지능 제작 통제하기

자연어 요청이 실제 서비스로 넘어오기 시작했다

국내에서는 비개발자가 말로 원하는 기능을 설명하면 인공지능이 기획안과 화면 초안을 만드는 사례가 나왔다. 그릿지가 공개한 엠바스 AiApp 사례에서는 대화형 인공지능인 Claude가 자연어 요구사항을 정리하고 화면과 기능의 초안을 만들었다.

그릿지는 기획부터 초기 구현까지 걸리는 기간이 약 80% 줄고, 개발자 한 명이 일주일에 약 10시간을 아꼈다고 밝혔다. 누적 프로젝트·앱은 약 100건, 기업 도입은 약 50곳이라고 했지만 공급사가 공개한 체감 수치이므로 다른 조직에도 그대로 적용된다고 보기는 어렵다.

마이크로소프트도 Power Apps에서 자연어로 업무용 앱 설계를 시작할 수 있게 한다. 동시에 공식 운영 지침에서는 요구사항, 변경, 시험, 배포, 되돌리기를 함께 관리하고 누가 무엇을 수정했는지 기록하라고 안내한다. 빨리 만드는 기능과 안전하게 운영하는 절차를 따로 보지 않는다는 뜻이다.

대한상공회의소와 산업연구원이 국내 기업 500곳을 조사했을 때 인공지능이 필요하다는 응답은 78.4%였지만 실제 활용 중이라는 응답은 30.6%였다. 기업 다섯 곳 중 네 곳은 필요성을 느끼지만, 실제로 쓰는 곳은 세 곳 중 한 곳에도 못 미치는 크기다.

이 간격은 제작 기능이 부족해서만 생기지 않는다. 요구사항은 메신저에 있고, 인공지능이 바꾼 결과는 제작 도구에 있으며, 시험 결과는 사진과 문서에 흩어져 있어 누가 무엇을 승인했는지 이어지지 않는 문제가 더 크다.

일이 끊기는 자리를 먼저 붙여야 한다

직원 열두 명인 창호 시공업체 사장이 현장 하자 접수 서비스를 직접 만든다고 해 보자. 고객이 사진을 올리면 사무실이 담당 기사를 정하고, 기사가 처리 사진을 남기며, 사장이 완료 여부를 확인하는 서비스다.

사장은 현장 직원의 요청을 카카오톡으로 받고 메모장에 기능을 적은 뒤, 그 문장을 인공지능 제작 도구에 붙여 넣는다. 바뀐 화면을 휴대전화에서 확인하고 오류가 나면 화면을 캡처해 다시 대화창에 올린다. 수정 요청, 실제 변경, 확인 결과가 서로 다른 도구로 갈라지는 지점이다.

며칠 뒤 “사진을 여러 장 올리게 해 달라”는 요청이 들어오면 더 큰 문제가 생긴다. 인공지능은 사진 기능뿐 아니라 완료 버튼의 위치나 고객에게 가는 알림까지 함께 바꿀 수 있지만, 사장은 코드를 읽을 수 없어 변경 범위를 알기 어렵다.

이때 필요한 것은 코드를 설명하는 문서가 아니라 변경 한 건을 처음부터 끝까지 잇는 기록이다. 요청 원문, 인공지능이 이해한 내용, 이번에 바꿀 한 가지, 완료로 판단할 조건, 승인자, 공개 시각, 되돌릴 판본을 한 장에 놓는다.

바꾸면 안 되는 규칙은 수정 요청과 분리해 항상 보여 줘야 한다. 예를 들어 “기사는 다른 기사의 고객 주소를 볼 수 없다”, “완료 처리는 사장만 취소할 수 있다”, “고객 사진은 공개 화면에 나오지 않는다”처럼 서비스가 지켜야 할 선을 적는다. 새 기능이 이 규칙을 건드리면 제작보다 승인을 먼저 받게 한다.

수정은 한 번에 하나씩 맡기고 끝났다는 기준을 행동으로 적는다. “사진 기능 개선” 대신 “아이폰과 안드로이드폰에서 사진 세 장을 올리고, 한 장을 지운 뒤 접수를 완료할 수 있다”라고 쓰면 사장이 직접 눌러 확인할 수 있다.

오류 기록에는 “안 된다” 대신 사용한 기기, 누른 순서, 기대한 결과, 실제 결과, 화면 사진을 남긴다. 시험에 실패하면 마지막 정상 판본으로 되돌리고, 데이터까지 바뀌었는지는 별도로 확인한다. 화면을 되돌리는 일과 사라진 고객 정보를 복구하는 일은 서로 다르기 때문이다.

그래도 사람 손에 남는 일은 있다. 어떤 요청을 먼저 만들지, 고객정보를 어디까지 받을지, 오류를 감수하고 공개할지를 인공지능이 대신 책임질 수는 없다. 비개발자가 가져야 할 통제력은 코드를 읽는 능력이 아니라 승인과 중단의 기준을 정하는 능력이다.

해외에서는 제작 속도보다 통제 범위를 넓히고 있다

미국의 GenAIPI 창업자 Jon Cheney는 코딩 경험 없이 Replit으로 웹사이트와 관리자 도구, 제품 초안을 만들었다. Replit은 계정 구독과 인공지능 작업 사용량으로 돈을 받으며, 작업 중 상태를 저장해 이전 판본으로 되돌리는 기능을 제공한다.

Replit의 고객 사례에 따르면 그는 외주 견적 약 1억 4천만원 대신 주말 동안 약 54만원 미만을 써서 초기 제품을 만들고, 출시 닷새 안에 약 2천만원 규모의 첫 계약을 얻었다. 공급사와 고객이 공개한 수치라 별도 확인이 필요하지만, 작은 제작과 빠른 판매 확인이 가능해졌다는 점은 분명하다. 다만 저장된 판본은 복구 수단일 뿐, 누가 변경을 승인했는지까지 증명하지는 않는다.

미국의 구독형 상거래 기업 AppDirect에서는 비개발자인 마케팅 직원들이 Lovable을 이용해 내부 앱을 만들었다. Lovable은 조직 계정과 인공지능 사용량을 구독으로 판매하며, 프로젝트 권한과 변경 판본, 되돌리기 기능을 제공한다.

Lovable이 공개한 사례에서 마케팅팀은 11개 프로젝트를 만들고 그중 4개를 실제 업무에 공개했다. 회사 전체에서는 80개가 넘는 앱이 개발 중이라고 밝혔다.

영국 내무부는 Power Apps를 처음부터 전 직원에게 열지 않고 약 250명이 참여하는 제한된 시험으로 시작했다. 마이크로소프트는 사용자 계정과 조직용 운영 기능을 판매하며, 내무부는 거버넌스·교육·지원 채널을 파일럿에서 검증했다.

공식 고객 사례에 따르면 이후 제작 참여자는 1,500명 이상으로 늘었고, 업무 담당자 1,421명이 696개 해결책을 등록했다. 해당 회계연도 첫 두 달에 절약한 시간은 5,875시간이다. 약 250명의 통제된 파일럿에서 거버넌스·교육·지원 채널을 검증한 뒤 적용 범위를 넓힌 순서가 핵심이다.

여기서 만들 수 있는 네 가지

1. 인공지능 제작 요청서

• 무엇을 하는 서비스인지: 메신저나 회의 메모를 넣으면 원래 요청, 바꿀 기능, 바꾸면 안 되는 규칙, 완료 조건으로 나눠 주는 서비스다.
• 누가 쓰는지: 예약·결제 기능이 있는 학원 관리 서비스를 인공지능으로 만들려는 학원 원장이 쓴다.
• 왜 지금인지: 자연어로 제작하는 속도는 빨라졌지만 요청 원문과 인공지능의 해석을 나란히 보관하는 도구는 따로 필요하다.
• 첫 화면에 무엇을 놓을지: 왼쪽에는 원문 입력칸을, 오른쪽에는 네 가지 항목과 “이 내용으로 제작 요청 보내기” 버튼을 놓는다.

2. 변경 승인함

• 무엇을 하는 서비스인지: 수정 전후 화면과 영향을 받는 기능을 보여 주고 승인, 보류, 반려 중 하나를 고르게 한다.
• 누가 쓰는지: 다섯 개 지점의 예약 앱을 외주 제작자와 인공지능 도구로 함께 관리하는 미용실 운영자가 쓴다.
• 왜 지금인지: 인공지능은 한 문장으로 여러 부분을 바꿀 수 있어 제작 요청과 실제 변경 사이를 확인하는 문이 필요하다.
• 첫 화면에 무엇을 놓을지: 오늘 승인할 변경 목록과 수정 전후 화면, 고객정보·결제·권한 영향 표시를 한곳에 놓는다.

3. 직접 눌러 보는 시험 진행표

• 무엇을 하는 서비스인지: 비개발자가 화면의 안내를 따라 로그인, 등록, 수정, 결제 취소 같은 작업을 시험하고 결과 사진을 남기게 한다.
• 누가 쓰는지: 주문 접수 서비스를 직접 만든 동네 반찬가게 사장과 함께 일하는 직원 두 명이 쓴다.
• 왜 지금인지: 화면이 열리는 것과 실제 주문이 끝까지 처리되는 것은 다르므로 사용자가 직접 확인한 증거가 필요하다.
• 첫 화면에 무엇을 놓을지: “신규 주문 한 건 완료하기” 같은 시험 항목과 통과·실패 버튼, 화면 사진 첨부칸을 놓는다.

4. 오류 재현 봉투

• 무엇을 하는 서비스인지: 사용자의 오류 제보를 받은 뒤 기기, 발생 순서, 화면 사진, 서비스 판본을 한 묶음으로 정리한다.
• 누가 쓰는지: 현장 기사들이 휴대전화로 쓰는 점검 앱을 인공지능으로 만든 소규모 설비업체 관리자가 쓴다.
• 왜 지금인지: “저장 안 됨”이라는 제보만 인공지능에 전달하면 엉뚱한 기능까지 수정할 수 있기 때문이다.
• 첫 화면에 무엇을 놓을지: 오류가 난 화면을 먼저 고르게 하고 “무엇을 눌렀나”, “무엇을 기대했나”, “실제로 무엇이 나왔나”를 차례로 묻는다.

오늘 확인해 볼 것

최근 인공지능에게 맡긴 수정 한 건을 골라 요청 원문, 바꾸면 안 되는 규칙, 직접 확인한 결과, 되돌릴 판본을 30분 안에 찾아 한 장에 적어 보자. 세 곳 이상의 대화창과 문서를 뒤져야 하거나 네 항목 중 하나라도 찾지 못한다면, 제작 기능보다 변경 기록을 잇는 도구를 먼저 만들어 볼 만하다.