전문가가 꼽은 ‘AI 구독료 낭비’의 실체

“직원 90%가 AI를 1단 기어로만 쓴다. 그저 무례한 이메일을 조금 더 공손하게 써달라고 시키는 수준에 머무르고 있다.”

오픈 머신(Open Machine) 최고경영자(CEO) 앨리 K. 밀러(Allie K. Miller)는 최근 샌프란시스코에서 열린 포춘 브레인스톰 AI(Fortune Brainstorm AI) 콘퍼런스에서 이런 주장을 폈다. 그는 IBM과 AWS 등에서 쌓은 경험을 근거로 “AI와 상호작용하는 방식에는 4단계가 있다”고 설명했다. 목표에 따라 AI는 ‘마이크로태스커(microtasker)’, ‘동반자(companion)’, ‘대리인(delegate)’, ‘팀메이트(teammate)’가 될 수 있다는 이야기다.

밀러는 “대부분 사용자는 첫 단계에서 벗어나지 못한다”고 봤다. AI를 ‘마이크로태스커’로만 쓰면서, 사실상 ‘고급 검색엔진’처럼 단순 질의에 답을 받아보는 수준에 머무른다는 것이다.

그가 겨냥한 핵심은 대다수 직원이 대규모언어모델(LLM)을 너무 기초적으로 다룬다는 점이다. 기존 소프트웨어(소프트웨어 1.0)는 입력이 정확해야 출력도 정확했다. 하지만 AI는 추론하고 적응한다. 그 차이를 놓치면 챗GPT(ChatGPT)나 제미나이(Gemini) 같은 구독료를 사실상 낭비하게 된다. 그는 말했다.

“직원의 90%가 이 모드에 갇혀 있습니다. 많은 직원이 스스로 AI 슈퍼 유저라고 생각하지만, 실제로 하는 일은 무례한 이메일을 조금 더 공손하게 써달라고 부탁하는 정도입니다.”

이 ‘초기 사용’이 기업의 진짜 생산성 향상을 가로막고 있다고도 했다. “사람들이 이 모드에 묶여 있으면, 연간 구독료는 가치가 사라진다”는 발언은 조직이 AI 투자 예산과 활용 방식부터 다시 짜야 한다는 주문에 가깝다.

밀러의 문제의식은 데이터로도 뒷받침된다고 한다. 소프트웨어 기업 코너스톤 온디맨드(Cornerstone OnDemand)가 11월 내놓은 연구에 따르면, 미국 기업 현장에는 ‘그림자 AI 경제(shadow AI economy)’가 갈수록 커지고 있다. 직원 80%가 업무에서 AI를 쓰고 있지만, 절반도 채 안 되는 인원이 제대로 된 AI 교육을 받았다는 내용이다.

밀러는 기업용 AI의 ‘실제 가치’를 열려면 3가지 상위 단계로 올라가야 한다고 말했다. ‘동반자’, ‘대리인’, 그리고 가장 중요한 진화로 ‘AI를 팀메이트로 쓰는 방식’이다.

‘팀메이트’ 모드에서 AI는 질문에 답만 하는 도구가 아니다. 회의에 들어와 질문을 처리하고, 필요하면 행동까지 실행하는 협업 파트너가 된다. 밀러는 “오픈AI(OpenAI) 엔지니어들은 소프트웨어 엔지니어링 에이전트 코덱스(Codex)를 슬랙(Slack)에 붙여 사실상 동료처럼 쓰고 있다”고도 덧붙였다.

‘대리인’이 받은편지함 정리처럼 40분짜리 일을 대신 처리한다면, ‘팀메이트’는 인프라 자체를 바꾸는 단계다. 이때 AI는 거래형 도구가 아니라 ‘상시 존재하는(ambient)’ 시스템이 된다. 개인이 아니라 팀과 조직을 끌어올리는 방향으로 작동한다는 것이다.

밀러는 가까운 미래에 흐름이 뒤집힐 수 있다고 내다봤다. “우리가 AI에 프롬프트를 넣는 시대가 끝나고, AI가 우리에게 먼저 말을 거는 시대가 온다. AI가 시스템 안에 들어가 팀 전체를 돕기 때문이다.”

그는 AI 기업이 아니더라도 이런 방식으로 기술을 붙이면, 직원들이 매일 처리하는 업무의 ‘바탕’이 된다며 “상식 퀴즈용 호기심거리가 아니라 생산성 엔진이 된다”고 강조했다. “팀메이트 모드의 핵심 차이는, AI가 개인이 아니라 시스템과 집단을 끌어올린다는 점”이라고도 했다.

이메일 다듬기 수준에서 자율 시스템으로 넘어가려면 ‘최소 실행 가능한 자율성(MVA, Minimum Viable Autonomy)’이 필요하다고 그는 제안했다. ‘최소 기능 제품(MVP, Minimum Viable Product)’ 개념을 비튼 표현이다. 리더가 AI를 “완벽한 18쪽짜리 프롬프트가 필요한 챗봇”으로 대하지 말고, 목표를 향해 움직이는 소프트웨어로 다뤄야 한다는 취지다.

“우리는 더 이상 단계별로 완벽한 지시를 주지 않습니다. 목표와 경계, 규칙을 주고, AI 시스템이 목표에서 거꾸로 일을 풀도록 할 것입니다.” 그는 이렇게 설명했다.

안전하게 운영하려면 ‘에이전트 프로토콜(agent protocols)’도 필요하다고 했다. 업무를 3가지로 나누는 방식이다. ‘항상 수행(always do)’, ‘먼저 물어보기(please ask first)’, ‘절대 하지 않기(never do)’. 그는 에이전트에 적용할 ‘리스크 포트폴리오’도 제시했다. 저위험 업무 70%, 부서 간 복합 업무 20%, 조직 구조를 바꾸는 전략 업무 10%로 배분하라는 것이다.

그는 발표 말미에 “앞으로 몇 달 안에 AI는 8시간 이상 끊김 없이 자율적으로 일할 수 있게 될 것”이라고 전망했다. 비용이 떨어지면 기업은 ‘단일 질의’에서 벗어나, 시장 출시마다 수십만 번의 시뮬레이션을 돌리는 쪽으로 갈 것이라고도 했다.

다만 이런 변화는 ‘레거시 마인드’ 리더십에 경고가 될 수 있다고 했다. 이제 중요한 제품 요구사항은 “AI가 좋은가 나쁜가”를 평가하는 능력 그 자체라는 것이다. 밀러는 “AI는 단순한 도구가 아니다”라며 “계속 도구로만 대하는 조직은 앞으로 10년 동안 ‘무슨 일이 벌어진 거지’ 하고 되물을 것”이라고 말했다.

/  Marco Quiroz-Gutierrez & 김다린 기자 quill@fortunekorea.co.kr

• 미래에셋–JW 메리어트, 여수 경도에 호남권 첫 글로벌 5성 호텔 개발
• “배관공이 변호사보다 보수 높아질 것”…AI가 불러올 ‘新아메리칸드림’
• 우버 공동창업자 “초지능 AGI가 등장하기 전까지는 인간 노동자가 매우 가치 있을 것”
• 제롬 파월 “데이터센터가 인플레이션을 밀어 올리고 있다”
• “언제 끝날지 모른다” 여행업계 덮친 팬데믹 데자뷔