어느 날 아침, 잠에서 깨어 스마트폰을 켭니다.
밤사이 세상을 바꿀 새로운 인공지능(AI) 서비스가 등장했다는 소식이 눈에 들어옵니다. 이름도 생소한 스타트업이 하룻밤 만에 수천억 원의 투자를 받았다는 이야기도 함께 들려옵니다.
챗GPT가 쓴 시를 감상하고, 미드저니가 그린 그림에 감탄하며 우리는 AI가 만든 새로운 시대를 실감합니다.
하지만 감탄과 동시에 마음 한구석에선 작은 불안감이 고개를 듭니다. 성공한 AI 기업의 기사 뒤에 그림자처럼 따라붙는 낯선 단어들. 파이썬, 클라우드, 쿠버네티스… 마치 나와는 다른 세상의 언어처럼 느껴집니다.
화려한 마법처럼 보이는 AI 서비스 뒤편, 그 복잡한 기계실에서는 대체 무슨 일이 벌어지고 있는 걸까요?
이 글은 바로 그 기계실로 들어가는 아주 특별한 안내서입니다. 공학용 계산기나 두꺼운 전공 서적은 필요 없습니다. 그저 작은 호기심만 챙겨오시면 됩니다.
우리는 복잡한 설계도 대신, 알기 쉬운 비유와 이야기로 성공한 AI 스타트업의 ‘주방’을 함께 엿볼 것입니다. 그들이 어떤 재료를 고르고, 어떤 레시피로 세상을 놀라게 할 요리를 만드는지 차근차근 따라가다 보면, 어느새 기술에 대한 막연한 두려움은 세상을 이해하는 즐거운 도구로 바뀌어 있을 겁니다.
AI 회사는 대체 무엇으로 만들어지나요?
성공한 AI 스타트업을 멋진 레스토랑에 비유해볼까요? 우리가 보는 것은 화려한 인테리어와 맛있는 음식이지만, 그 뒤에는 보이지 않는 주방과 체계적인 시스템이 있습니다. AI 회사도 마찬가지입니다.
이 보이지 않는 시스템의 조합을 ‘기술 스택’이라고 부릅니다.
어려운 말이 아닙니다. 그냥 ‘기술 도구 모음’ 정도로 생각하면 쉽습니다. 훌륭한 요리사가 최고의 요리를 위해 잘 벼린 칼, 깨끗한 도마, 강력한 화구, 신선한 재료 보관 창고를 갖추는 것과 똑같습니다. AI 회사도 각자의 목표에 맞는 최고의 도구들을 신중하게 선택하고 조합합니다.
이 기술 도구 모음은 크게 네 가지 층으로 나눌 수 있습니다.
첫째는 모든 것이 지어지는 단단한 ‘땅’입니다. 바로 클라우드 컴퓨팅이죠. 예전에는 회사를 차리려면 직접 건물을 짓고 전기를 끌어와야 했지만, 이제는 잘 닦인 땅을 빌려 쓰는 시대입니다. 이 땅 위에서 모든 일이 벌어집니다.
둘째는 레스토랑의 심장인 ‘주방’입니다. AI 모델을 만들고 학습시키는 곳이죠. 여기서는 AI라는 똑똑한 아기를 가르칠 언어(프로그래밍 언어)와 교재(프레임워크)를 선택합니다.
셋째는 신선한 재료를 보관하고 관리하는 ‘창고와 물류 시스템’입니다. AI에게 데이터는 바로 재료입니다. 이 데이터를 어디에, 어떻게 보관하고, 주방까지 얼마나 빠르고 정확하게 배달할지가 요리의 맛을 결정합니다.
마지막 넷째는 손님을 맞이하는 ‘레스토랑 홀’입니다. 우리가 직접 사용하는 앱이나 웹사이트 화면이죠. AI가 아무리 똑똑해도, 손님들이 편안하고 즐겁게 사용할 수 없다면 아무 소용이 없습니다.
이처럼 AI 스타트업은 단순히 코딩만 잘하는 회사가 아닙니다. 최고의 땅을 고르고, 가장 효율적인 주방을 설계하며, 신선한 재료를 관리하고, 손님에게 최고의 경험을 선사하는 종합 예술가와 같습니다. 이제 각 층을 더 자세히 들여다볼까요?
AI의 뇌는 어떤 언어를 사용할까요?
AI라는 똑똑한 아기에게 세상을 가르치려면, 먼저 아기와 소통할 언어를 정해야 합니다. 세상에는 수많은 프로그래밍 언어가 있지만, 오늘날 AI 개발자들은 약속이라도 한 듯 하나의 언어를 중심으로 모여들고 있습니다. 바로 ‘파이썬’입니다.
파이썬이 AI의 공용어가 된 이유는 아주 간단합니다. 배우고 사용하기가 쉽기 때문입니다. 문법이 간결해서 마치 영어 문장을 읽는 것처럼 느껴질 정도죠. 복잡한 규칙 대신 핵심 아이디어에 집중할 수 있게 도와주기 때문에, 연구자들은 AI 모델을 만드는 순수한 즐거움에 더 몰입할 수 있습니다.
하지만 파이썬의 진짜 힘은 혼자만의 능력이 아닌 ‘풍부한 생태계’에 있습니다. 파이썬 주변에는 세상을 바꾸는 아이디어를 가진 수많은 조력자가 모여 있습니다. 이 조력자들이 만들어 놓은 멋진 도구들이 바로 ‘라이브러리’와 ‘프레임워크’입니다.
요리에 비유해볼까요? 파이썬은 기본적인 요리 기술입니다. 그런데 누군가 세상의 모든 양념 배합법을 정리한 ‘양념 백과사전’을 만들어 공유하고, 또 다른 누군가는 어떤 요리든 뚝딱 만들 수 있는 ‘만능 요리 키트’를 만들어 제공하는 겁니다.
AI 세계에서 가장 유명한 ‘만능 요리 키트’가 바로 구글이 만든 텐서플로우(TensorFlow)와 메타(구 페이스북)가 만든 파이토치(PyTorch)입니다.
텐서플로우는 마치 정교하게 짜인 레시피 북과 같습니다. 순서대로 차근차근 따라 하면 누구든 완성도 높은 요리를 만들 수 있도록 돕습니다. 안정적이고, 대규모 생산에 최적화되어 있어 이미 검증된 AI 모델을 실제 서비스에 적용할 때 많이 사용됩니다.
반면 파이토치는 레고 블록 상자와 비슷합니다. 정해진 순서 없이 연구자가 원하는 대로 자유롭게 붙였다 뗐다 하며 새로운 구조를 실험해볼 수 있습니다. 이런 유연성 덕분에 새로운 아이디어를 빠르게 시도해보려는 학계와 연구소에서 특히 큰 사랑을 받습니다.
최근 기술 트렌드는 파이토치 쪽으로 기울고 있습니다. 직관적이고 유연한 방식이 복잡하고 창의적인 아이디어를 구현하는 데 더 유리하기 때문이죠. 많은 스타트업이 초기에는 파이토치로 빠르게 모델을 개발하고, 이후 서비스가 커지면 텐서플로우의 안정성을 빌리는 전략을 취하기도 합니다.
결국 어떤 도구를 선택하느냐는 ‘어떤 요리를 만들고 싶은가’에 달려있습니다. 중요한 것은 파이썬이라는 쉽고 강력한 언어 덕분에, 더 많은 사람이 AI라는 새로운 요리에 도전할 수 있게 되었다는 사실입니다.
그 많던 데이터는 다 어디에 보관하나요?
AI에게 데이터는 밥과 같습니다. 얼마나 좋은 데이터를, 얼마나 많이 먹느냐에 따라 AI의 지능이 결정됩니다. 성공하는 AI 스타트업은 이 소중한 ‘밥’을 안전하고 효율적으로 보관하는 창고, 즉 데이터베이스를 구축하는 데 엄청난 공을 들입니다.
데이터 창고는 크게 두 종류로 나눌 수 있습니다. 잘 정돈된 ‘도서관’과 무엇이든 보관할 수 있는 ‘거대한 만물 창고’입니다.
먼저 ‘도서관’ 방식은 관계형 데이터베이스라고 불립니다. 도서관에 가면 책들이 청구기호에 따라 가지런히 정리되어 있죠? 이처럼 이름, 주소, 주문 내역처럼 규격이 정해진 데이터를 표 형식으로 깔끔하게 저장하는 방식입니다. 정해진 규칙에 따라 데이터를 넣고 꺼내기 때문에 안정성이 매우 높습니다.
우리가 흔히 아는 사용자 회원 정보나 쇼핑몰의 상품 목록 같은 데이터는 대부분 PostgreSQL이나 MySQL 같은 도서관 방식의 데이터베이스에 보관됩니다. 스타트업들은 특히 오픈소스이면서도 강력한 성능을 자랑하는 PostgreSQL을 선호하는 경향이 있습니다.
반면 ‘만물 창고’ 방식은 비관계형 데이터베이스라고 합니다. 여기에는 정해진 형식이나 규칙이 없습니다. 사진, 동영상, 소셜 미디어 게시글, 센서 데이터 등 형태가 제각각인 데이터들을 일단 창고에 넣고, 필요할 때마다 꺼내 씁니다. 변화무쌍하고 방대한 양의 데이터를 빠르게 처리해야 하는 현대 서비스에 아주 적합합니다.
예를 들어, 수많은 사람이 실시간으로 올리는 트윗이나 인스타그램 게시물은 정해진 표에 담기가 어렵습니다. 이럴 때 MongoDB나 DynamoDB 같은 만물 창고 방식의 데이터베이스가 진가를 발휘합니다. 특히 AI 스타트업은 이미지나 텍스트 같은 비정형 데이터를 많이 다루기 때문에 NoSQL 데이터베이스를 적극적으로 활용합니다.
최근에는 단순히 데이터를 보관하는 것을 넘어, 보관된 데이터를 ‘분석’하기 위한 특별한 창고도 등장했습니다. 바로 데이터 웨어하우스와 데이터 레이크입니다.
데이터 웨어하우스(예: Snowflake, Google BigQuery)는 분석에 최적화된 거대한 도서관입니다. 전 세계 모든 지점의 판매 데이터를 모아 ‘어떤 상품이 어떤 날씨에 잘 팔리는지’ 같은 깊이 있는 통찰력을 얻기 위해 사용됩니다.
데이터 레이크는 말 그대로 ‘데이터 호수’입니다. 정제되지 않은 날것의 데이터를 일단 모두 호수에 쏟아부어 놓습니다. 당장 어떻게 쓸지는 모르지만, 미래에 귀중한 자원이 될 수 있는 모든 데이터를 일단 저장해두는 개념입니다. AI 모델을 학습시킬 때는 이 호수에서 필요한 데이터를 길어와 사용하곤 합니다.
성공하는 스타트업은 이 모든 창고의 특징을 이해합니다. 그리고 데이터의 성격에 따라 도서관과 만물 창고, 분석용 특수 창고를 지혜롭게 조합하여 사용합니다. 데이터라는 재료를 얼마나 잘 관리하느냐가 결국 AI의 경쟁력을 좌우하기 때문입니다.
데이터는 어떻게 AI의 식탁까지 배달되나요?
최고급 식재료 창고가 있어도, 주방까지 재료를 신선하고 빠르게 옮겨주지 못하면 소용이 없습니다. 데이터도 마찬가지입니다. 사용자의 클릭 한 번, 스마트폰 센서가 감지한 정보 하나하나가 AI 모델이라는 주방의 요리사에게 안전하게 전달되어야 합니다.
이 과정을 ‘데이터 파이프라인’이라고 부릅니다.
데이터 파이프라인은 거대한 도시의 상수도관이나 물류 시스템과 비슷합니다. 도시 곳곳에서 발생한 데이터를 수원지에서 끌어와 정수 처리하고, 각 가정(AI 모델)까지 끊김 없이 공급하는 역할을 합니다.
이 파이프라인의 중심에는 ‘실시간 컨베이어 벨트’ 같은 기술이 있습니다. 바로 아파치 카프카입니다. 카프카는 전 세계에서 동시다발적으로 쏟아지는 데이터를 마치 공항의 수하물 컨베이어 벨트처럼, 순서대로 그리고 유실 없이 차곡차곡 목적지로 전달합니다. 유튜브의 시청 기록, 쇼핑몰의 실시간 주문 내역처럼 쉴 새 없이 발생하는 데이터 처리에 필수적입니다.
컨베이어 벨트로 데이터가 들어오면, 이제 이 재료들을 요리하기 좋게 다듬어야 합니다. 껍질을 벗기고, 씻고, 알맞은 크기로 자르는 ‘데이터 전처리’ 과정이죠. 이 작업은 매우 중요하면서도 고된 일입니다.
이 복잡한 데이터 요리 과정을 지휘하는 ‘총주방장’ 역할의 도구가 있습니다. 바로 에어플로우입니다. 에어플로우는 ‘A 재료 손질이 끝나면 B 소스를 만들고, B 소스가 완성되면 C 요리를 시작하라’와 같이 복잡한 작업의 순서와 일정을 관리하고 자동화해줍니다. 개발자가 매일 밤새워 수동으로 하던 일을 똑똑한 로봇 지휘자에게 맡기는 셈입니다.
데이터를 처리하는 방식에도 두 가지 큰 흐름이 있습니다. 바로 ETL과 ELT입니다.
ETL은 전통적인 방식입니다. 재료를 창고(데이터 웨어하우스)에 넣기 전에 주방에서 미리 깨끗하게 손질해서 보관하는 방식입니다. 깔끔하고 정돈되어 있지만, 손질 방법이 바뀌면 처음부터 다시 해야 하는 번거로움이 있습니다.
반면 ELT는 요즘 떠오르는 방식입니다. 일단 날것 그대로의 재료를 창고에 전부 넣고, 요리할 때마다 필요한 만큼 꺼내서 용도에 맞게 손질하는 방식입니다. 클라우드 기술 덕분에 거대한 창고를 저렴하게 이용할 수 있게 되면서, 원본 데이터를 그대로 보존하고 유연하게 분석할 수 있는 ELT가 각광받고 있습니다.
결국 성공하는 AI 스타트업은 단순히 데이터를 모으는 데 그치지 않습니다. 카프카 같은 튼튼한 컨베이어 벨트를 설치하고, 에어플로우라는 유능한 총주방장을 고용해, 복잡한 데이터의 흐름을 완벽하게 통제하고 자동화합니다. 잘 구축된 데이터 파이프라인은 보이지 않는 곳에서 AI의 심장을 뛰게 하는 혈관과도 같습니다.
AI가 사는 보이지 않는 집, 클라우드는 무엇인가요?
AI 모델을 학습시키려면 어마어마한 계산 능력이 필요합니다. 수십억 개의 데이터를 처리하려면 강력한 컴퓨터 수천 대가 며칠 밤낮으로 돌아가야 합니다.
과거 스타트업들은 이 컴퓨터들을 직접 사서 회사 한편에 ‘서버실’이라는 공간을 만들어야 했습니다. 이는 엄청난 초기 비용과 관리 부담을 의미했습니다.
하지만 이제는 아무도 그렇게 하지 않습니다. 바로 ‘클라우드’라는 보이지 않는 거대한 컴퓨터 집을 빌려 쓰기 때문입니다. 클라우드는 인터넷에 접속하기만 하면 언제 어디서든 컴퓨터 자원(계산 능력, 저장 공간 등)을 필요한 만큼 빌려 쓰고, 사용한 만큼만 비용을 내는 서비스입니다.
집을 구하는 것에 비유하면 이해하기 쉽습니다.
첫째, ‘땅만 빌리는’ 방식이 있습니다. 이를 서비스형 인프라(IaaS)라고 합니다. 아마존 웹 서비스(AWS)의 EC2가 대표적입니다. 클라우드 회사가 땅(서버)을 제공하면, 그 위에 집(운영체제)을 짓고 가구(소프트웨어)를 들이는 모든 것을 직접 해야 합니다. 자유도가 높지만 상당한 전문 지식이 필요합니다.
둘째, ‘미리 지어진 집을 빌리는’ 방식도 있습니다. 이는 서비스형 플랫폼(PaaS)입니다. 헤로쿠나 AWS 엘라스틱 빈스토크 같은 서비스가 해당합니다. 이미 집이 다 지어져 있으니, 우리는 인테리어를 하고 가구를 들이는 일(코드 개발)에만 집중하면 됩니다. 개발 속도가 매우 빨라 초기 스타트업에게 인기가 많습니다.
셋째, ‘가구까지 완비된 호텔 방을 빌리는’ 방식도 있습니다. 서비스형 소프트웨어(SaaS)입니다. 우리가 매일 사용하는 구글 독스나 네이버 클라우드가 바로 이것입니다. 우리는 아무것도 준비할 필요 없이 그냥 몸만 들어가서 서비스를 이용하면 됩니다.
AI 스타트업에게 클라우드는 가뭄의 단비와도 같습니다. 특히 아래 세 개의 회사가 클라우드 시장을 이끌고 있습니다.
아마존 웹 서비스(AWS)는 시장의 절대 강자입니다. 마치 거대한 온라인 백화점처럼, 세상에 필요한 거의 모든 IT 서비스를 제공합니다. 오랜 기간 시장을 지배해 온 만큼 안정성과 서비스의 다양성 면에서 최고로 꼽힙니다.
구글 클라우드 플랫폼(GCP)은 구글이 가장 잘하는 분야, 즉 데이터 분석과 AI 분야에 특화된 강점을 보입니다. AI 모델 학습에 필요한 구글의 자체 개발 반도체(TPU)를 저렴하게 이용할 수 있어 많은 AI 기업들이 선택합니다.
마이크로소프트 애저(Azure)는 전통적인 대기업 시장에서 강세를 보입니다. 기존에 마이크로소프트의 제품을 많이 사용하던 기업들이 자연스럽게 애저를 선택하는 경우가 많습니다. 최근에는 챗GPT 개발사인 OpenAI와의 독점 파트너십을 통해 AI 시장에서 무서운 속도로 영향력을 키우고 있습니다.
클라우드 덕분에 이제 아이디어와 실력만 있다면, 누구든 거대 기업과 동일한 출발선에서 경쟁할 수 있는 시대가 열렸습니다. 성공하는 스타트업들은 이 보이지 않는 집을 가장 효율적으로 활용하는 건축가들입니다.
우리가 만나는 AI의 얼굴은 어떻게 만들어질까요?
아무리 뛰어난 AI 두뇌를 개발했더라도, 사용자가 그 똑똑함을 제대로 경험할 수 없다면 아무 소용이 없습니다. 우리가 스마트폰 앱을 터치하고 웹사이트에서 버튼을 누르는 그 순간, AI와 처음 만나는 ‘얼굴’이 바로 사용자 인터페이스(UI)입니다.
이 얼굴을 얼마나 친절하고 아름답게 만드느냐에 따라 서비스의 성패가 갈리기도 합니다.
AI 서비스의 얼굴을 만드는 개발 분야를 ‘프론트엔드’라고 합니다. 레스토랑으로 치면, 손님을 맞이하고 주문을 받으며 편안한 식사 경험을 제공하는 홀의 인테리어와 서비스 직원의 역할을 하는 셈입니다.
현대 프론트엔드 개발은 ‘레고 블록 조립’과 비슷합니다. 예전에는 웹사이트 하나를 만들려면 벽돌부터 하나하나 구워서 집을 지어야 했습니다. 하지만 이제는 미리 만들어진 다양한 모양의 레고 블록(컴포넌트)을 가져와 조립하기만 하면 근사한 집을 빠르고 튼튼하게 지을 수 있습니다.
이 레고 블록 역할을 하는 도구(프레임워크) 중에서 가장 인기가 많은 것은 메타(구 페이스북)가 만든 리액트입니다.
리액트는 전 세계에서 가장 널리 쓰이는 프론트엔드 라이브러리입니다. 마치 가장 기본적인 네모, 세모 모양의 레고 블록만 제공하는 것과 같습니다. 자유도가 매우 높아서 개발자가 원하는 어떤 모양의 구조물이든 만들 수 있습니다. 거대한 커뮤니티와 풍부한 관련 자료 덕분에 대부분의 스타트업이 첫 번째 선택지로 고려합니다.
리액트의 강력한 경쟁자로는 뷰가 있습니다. 뷰는 리액트보다 조금 더 친절합니다. 기본적인 블록뿐만 아니라, 자동차 바퀴나 창문 같은 특수 블록까지 함께 제공하는 ‘레고 시티’ 시리즈 세트와 같습니다. 정해진 설명서를 따라가면 초보자도 쉽게 멋진 결과물을 만들 수 있어, 배우기 쉽고 개발 속도가 빠르다는 장점이 있습니다.
최근에는 스벨트라는 새로운 강자도 주목받고 있습니다. 스벨트는 앞선 두 도구보다 훨씬 가볍고 빠릅니다. 레고 블록을 조립해서 집을 만드는 게 아니라, 설계도만 그려주면 알아서 최적화된 집을 ‘프린트’해주는 3D 프린터에 가깝습니다. 아직 생태계가 작지만, 그 혁신적인 방식 때문에 많은 개발자의 기대를 한 몸에 받고 있습니다.
성공하는 AI 스타트업은 단순히 기능이 작동하는 것을 넘어, 사용자가 AI와 편안하게 대화하고 즐겁게 상호작용하는 ‘경험(UX)’을 설계하는 데 집중합니다. 복잡한 기술을 숨기고, 마치 사람과 대화하는 듯한 직관적인 얼굴을 만드는 것. 이것이 바로 보이지 않는 AI를 우리 곁으로 데려오는 프론트엔드 개발의 진정한 마법입니다.
수백 명의 요리사가 한 주방에서 일하려면 어떤 규칙이 필요할까요?
스타트업이 성장하면서 개발자 수도 수십, 수백 명으로 늘어납니다. 마치 작은 동네 식당이 수백 명의 요리사가 일하는 거대한 호텔 주방으로 변하는 것과 같습니다.
이때부터 새로운 문제가 발생합니다. A 요리사가 만든 소스가 B 요리사의 파스타와 어울리지 않거나, C 요리사가 주방 동선을 바꾸는 바람에 전체 요리 속도가 느려지는 혼란이 생깁니다.
이런 혼란을 막고, 수백 명의 개발자가 마치 한 몸처럼 빠르고 효율적으로 움직이게 만드는 문화와 기술을 ‘데브옵스’라고 부릅니다.
데브옵스는 개발과 운영의 합성어입니다. 요리를 만드는 셰프(개발팀)와 완성된 요리를 손님에게 안전하게 전달하고 관리하는 홀 매니저(운영팀) 사이의 벽을 허무는 것입니다. 서로 긴밀하게 소통하고 협력하여 ‘더 빨리, 더 안정적으로’ 서비스를 개선해 나가는 철학입니다.
이 데브옵스 철학을 구현하는 핵심 기술 중 하나가 바로 CI/CD입니다.
CI/CD는 지속적 통합과 지속적 배포를 의미합니다. 말이 어렵지만, ‘새로운 레시피가 나올 때마다 자동으로 테스트하고 손님에게 선보이는 시스템’이라고 생각하면 쉽습니다.
요리사가 새로운 소스를 개발하면, 로봇이 즉시 그 소스의 맛과 안전성을 테스트합니다. 테스트를 통과하면, 아주 적은 수의 손님에게 먼저 맛보게 합니다. 반응이 좋으면 점차 모든 손님에게 확대 적용하고, 만약 문제가 생기면 즉시 이전 버전의 소스로 되돌립니다. 이 모든 과정이 사람의 손을 거치지 않고 자동으로 이뤄집니다.
이런 자동화 시스템의 바탕에는 ‘도커’라는 혁신적인 기술이 있습니다. 도커는 ‘표준화된 도시락 통’에 비유할 수 있습니다.
개발자마다 사용하는 컴퓨터 환경(운영체제, 설치된 프로그램 등)이 조금씩 다릅니다. 이 때문에 “제 컴퓨터에서는 잘 됐는데, 왜 서버에서는 안 되죠?”라는 문제가 끊임없이 발생했습니다. 이는 마치 요리사마다 사용하는 조리도구와 불의 세기가 달라 음식 맛이 제각각인 것과 같습니다.
도커는 애플리케이션(요리)을 그에 필요한 모든 환경(조리도구, 양념 등)과 함께 하나의 ‘컨테이너’라는 도시락 통에 담아버립니다. 이 도시락 통은 어떤 컴퓨터에서 열어도 항상 똑같은 맛과 환경을 보장합니다. 더 이상 “내 컴퓨터에선 잘 됐는데…”라는 변명은 통하지 않게 된 것입니다.
하지만 수백, 수천 개의 도시락 통(도커 컨테이너)을 관리하는 것은 또 다른 문제입니다. 이때 등장하는 것이 바로 ‘쿠버네티스’입니다. 쿠버네티스는 거대한 선박의 항해사와 같습니다. 수천 개의 컨테이너를 실은 배 위에서, 어떤 컨테이너를 어디에 배치하고, 문제가 생긴 컨테이너는 어떻게 처리할지 등을 총괄 지휘합니다.
구글이 개발하여 오픈소스로 공개한 쿠버네티스는 이제 대규모 서비스를 운영하는 표준 기술로 자리 잡았습니다. 데브옵스, CI/CD, 도커, 쿠버네티스. 이 네 가지 요소는 빠르게 성장하는 AI 스타트업이 혼돈에 빠지지 않고, 거대한 규모의 서비스를 안정적으로 운영하게 해주는 보이지 않는 질서이자 강력한 무기입니다.
요즘 AI는 어떻게 그렇게 사람처럼 말할 수 있나요?
몇 년 전까지만 해도 AI는 정해진 질문에 정해진 답변만 하는 ‘앵무새’ 같았습니다. 하지만 챗GPT의 등장은 모든 것을 바꿔놓았습니다. 이제 AI는 시를 쓰고, 농담을 하며, 심지어 우리의 감정을 위로하기도 합니다.
어떻게 이런 마법 같은 일이 가능해졌을까요? 그 비밀은 바로 ‘거대 언어 모델(LLM)’과 ‘트랜스포머(Transformer)’라는 구조에 있습니다.
예전의 AI가 단어 하나의 뜻을 ‘사전’에서 외우는 방식으로 언어를 배웠다면, 요즘 AI는 이 세상에 존재하는 거의 모든 책과 글을 읽고 단어와 단어 사이의 ‘관계’와 ‘문맥’을 학습합니다.
예를 들어 ‘은행’이라는 단어를 배울 때, 예전 AI는 ‘돈을 저축하는 곳’이라는 하나의 뜻만 외웠습니다. 하지만 LLM은 수많은 글을 읽으며 ‘강가에 있는 은행나무’라는 문장과 ‘은행에 가서 대출을 받았다’는 문장을 모두 접합니다. 이를 통해 ‘은행’이라는 단어가 문맥에 따라 전혀 다른 의미로 쓰인다는 것을 스스로 깨닫게 됩니다.
이러한 문맥 파악을 가능하게 한 혁신적인 기술이 바로 2017년 구글이 발표한 ‘트랜스포머’라는 AI 모델 구조입니다. 트랜스포머 이전의 모델들은 문장을 순서대로 하나씩 읽으며 단어를 처리했습니다. 마치 외국어 문장을 앞에서부터 차례로 해석하는 것과 같았죠. 이 방식은 문장이 길어지면 앞부분의 내용을 쉽게 잊어버리는 한계가 있었습니다.
하지만 트랜스포머는 ‘어텐션’이라는 메커니즘을 통해 문장 전체를 한 번에 보고, 각 단어들이 서로에게 얼마나 중요한 영향을 미치는지 파악합니다. ‘그가 강둑에 앉아 은행을 바라보았다’라는 문장에서 ‘강둑’이라는 단어 덕분에 ‘은행’이 ‘나무’일 확률이 높다는 것을 한 번에 알아차리는 것입니다.
이 트랜스포머 구조의 등장으로 AI의 언어 능력은 비약적으로 발전했고, 챗GPT를 만든 OpenAI를 비롯한 수많은 기업이 이를 기반으로 자신들만의 거대 언어 모델을 만들고 있습니다.
하지만 모든 스타트업이 수천억 원을 들여 직접 LLM을 만들 수는 없습니다. 그래서 최근에는 두 가지 흐름이 대세가 되고 있습니다.
첫째는 OpenAI의 GPT-4 같은 초거대 모델을 빌려 쓰는 것입니다. 이를 API 방식이라고 하는데, 잘 만들어진 AI 두뇌를 월 사용료를 내고 빌려서 우리 서비스에 필요한 부분에 접목하는 것입니다. 가장 빠르고 쉽게 최고 수준의 AI를 활용할 수 있는 방법입니다.
둘째는 ‘허깅페이스(Hugging Face)’ 같은 AI 모델 공유 플랫폼을 활용하는 것입니다. 허깅페이스는 전 세계 개발자들이 자신이 만든 AI 모델을 올려두고 공유하는 ‘AI 모델계의 깃허브(GitHub)’입니다. 이곳에서 이미 잘 만들어진 수많은 오픈소스 모델을 무료로 가져와 우리 회사의 데이터에 맞게 조금 더 학습시켜(미세조정, Fine-tuning) 사용하는 방식입니다.
이처럼 사람처럼 말하는 AI의 등장은 기술의 패러다임을 바꾸고 있습니다. 이제는 ‘얼마나 똑똑한 AI를 만드느냐’의 경쟁을 넘어, ‘이미 존재하는 똑똑한 AI를 얼마나 창의적으로 활용하느냐’의 시대로 넘어가고 있습니다.
모든 재료를 최고급으로만 써야 최고의 요리가 나올까요?
지금까지 성공한 AI 스타트업이 사용하는 화려한 기술들을 살펴보았습니다. 마치 미슐랭 스타 레스토랑의 주방을 엿본 것 같죠. 하지만 여기서 한 가지 중요한 질문을 던져야 합니다.
성공하려면 반드시 이 모든 최고급 도구들을 사용해야만 할까요?
정답은 ‘아니오’입니다. 오히려 많은 경우, ‘가장 좋은 기술’이 아니라 ‘우리 상황에 가장 적합한 기술’을 선택하는 지혜가 스타트업의 운명을 결정합니다.
이제 막 창업한 2명의 개발자가 있는 스타트업을 상상해봅시다. 이들이 처음부터 수백만 명의 사용자를 감당할 수 있는 복잡한 쿠버네티스 시스템을 구축하는 것이 과연 현명할까요? 아마 아닐 겁니다. 차라리 헤로쿠 같은 간단한 플랫폼을 이용해 아이디어를 빠르게 제품으로 만들어 시장의 반응을 살피는 것이 훨씬 중요합니다.
이는 ‘모놀리식 아키텍처’와 ‘마이크로서비스 아키텍처’의 선택 문제와도 연결됩니다.
모놀리식은 하나의 거대한 건물 안에 모든 기능(회원가입, 상품 검색, 결제 등)이 다 들어있는 구조입니다. 건물을 짓기는 비교적 간단하고, 기능들이 한곳에 모여 있어 초기에 개발하기가 빠릅니다. 작은 식당이 주방과 홀을 한 공간에 두는 것과 같습니다. 대부분의 스타트업은 이 방식으로 시작합니다.
하지만 서비스가 커지고 사용자가 늘어나면 문제가 생깁니다. 건물 한쪽 벽에 금이 갔을 뿐인데, 건물 전체를 폐쇄하고 수리해야 하는 상황이 발생합니다. 작은 기능 하나를 수정하는 데도 전체 서비스를 중단해야 할 수 있습니다.
이때 고려하는 것이 마이크로서비스입니다. 각 기능을 독립된 작은 가게(서비스)로 쪼개는 방식입니다. 회원가입 가게, 상품 검색 가게, 결제 가게가 각자 독립적으로 운영됩니다. 결제 가게에 문제가 생겨도 다른 가게들은 정상적으로 영업할 수 있습니다. 상품 검색 손님이 많아지면 상품 검색 가게만 여러 개로 늘리는 등 확장성도 뛰어납니다.
하지만 이 방식은 가게들 사이의 통신 방법, 데이터 관리 등 신경 써야 할 것이 훨씬 많아지고 구조가 복잡해집니다. 작은 푸드트럭 여러 대를 관리하는 것이 하나의 거대한 레스토랑을 관리하는 것보다 더 복잡할 수 있는 것과 같습니다.
성공하는 스타트업은 기술 그 자체에 매몰되지 않습니다. 그들은 지금 우리의 비즈니스 단계가 어디인지, 우리가 해결하려는 핵심 문제가 무엇인지, 그리고 우리가 가진 자원(시간, 돈, 사람)이 얼마인지를 냉철하게 판단합니다. 그리고 그에 맞는 가장 합리적인 기술 도구를 선택합니다. 때로는 가장 단순한 기술이 가장 위대한 혁신을 낳기도 합니다.
이제, 당신의 차례입니다
우리는 오늘 AI라는 거대한 기술의 바다를 함께 항해했습니다. AI의 뇌가 사용하는 언어부터 데이터라는 음식이 보관되는 창고, AI가 사는 보이지 않는 집까지. 복잡한 기계실의 문을 열고 그 안을 찬찬히 들여다보았습니다. 어떠셨나요? 생각보다 무섭거나 어렵지 않았기를 바랍니다.
사실 오늘 우리가 나눈 이야기 속 기술 이름 하나하나를 모두 기억할 필요는 없습니다. 기술은 계속해서 변하고, 오늘의 최고 기술은 내일이면 낡은 것이 될지도 모릅니다.
정말 중요한 것은 그 기술들이 ‘왜’ 만들어졌고, ‘어떤 문제’를 해결하기 위해 노력하는지를 이해하는 마음입니다.
AI 기술은 더 이상 소수의 천재 개발자들만이 소유하는 비밀스러운 마법이 아닙니다. 그것은 우리의 삶을 더 나은 방향으로 이끌기 위해 만들어진 수많은 사람들의 고민과 노력의 결과물이며, 이제 우리 모두의 손에 쥐어진 새로운 ‘도구’입니다.
두려워하기보다 질문하고, 외면하기보다 한번 사용해보세요. 새로 나온 AI 그림 서비스를 이용해 나만의 작품을 만들어보고, AI 챗봇에게 오늘 하루의 고민을 털어놓아 보세요.
그 작은 호기심과 용기가 기술에 대한 막연한 불안감을 당신의 삶을 풍요롭게 만드는 즐거운 탐험으로 바꾸어 줄 것입니다.
토론
댓글