우리만의 길을 만드는 사람들, AI엔지니어링팀

정답이 없는 영역에서 우리만의 길을 만드는 사람들, AI엔지니어링팀

원티드랩 AI 엔지니어링팀은 연구하고 개발한 멋진 모델들이 실제 서비스 현장에서 안정적으로 숨 쉴 수 있도록 잇는 가교 역할을 하고 있습니다.

단순히 이론적인 모델링에 그치지 않고, AI 인프라 관리부터 실시간 추천 파이프라인 구축, 그리고 LLM 에이전트의 효율적인 운영까지 담당하는데요.

AI가 원티드 서비스 곳곳에 자연스럽게 녹아들어 유저들에게 최고의 경험을 선사할 수 있도록, '실제로 돌아가는 시스템'을 만드는 데 진심인 AI엔지니어링팀의 일하는 방식들을 담아봤습니다.

Q. 안녕하세요! 간단하게 자기 소개 부탁드려요.

형준: 안녕하세요! 원티드 서비스가 더 똑똑하게 돌아갈 수 있도록 AI 인프라를 든든하게 관리하고, 사용자에게 딱 맞는 정보를 전달하는 추천 파이프라인을 담당하고 있는 박형준입니다. 반갑습니다!

우징: 저는 AI엔지니어링팀에서 데이터 엔지니어로 일하고 있는 석우징입니다. 서비스 운영이나 데이터 분석에 꼭 필요한 데이터들을 수집하고, 쓰기 좋게 가공하는 전반적인 작업들을 책임지고 있어요.

창희: 안녕하세요, 원티드 서비스의 AI 에이전트 서버 개발을 맡고 있는 이창희입니다. 원티드에 합류한 지 벌써 8개월이나 되었는데, 몰입해서 일하다 보니 시간이 정말 빠르게 지나간 것 같네요!

세영: 안녕하세요! 머신러닝 엔지니어 장세영입니다. 저는 단순히 모델을 설계하는 것에서 나아가, 그 모델이 실제 서비스에서 문제없이 작동하도록 만드는 과정에 집중하고 있어요. 인프라부터 서빙, 운영 자동화까지 전반적으로 다루면서, 무엇보다 '실제로 돌아가는 시스템'을 구축하는 것을 가장 중요하게 생각하며 일하고 있습니다.

Q. AI엔지니어링팀은 어떤 팀인가요?

창희: 한마디로 정의하자면, 원티드의 다양한 AI 서비스들이 세상에 무사히 나오고 안정적으로 운영될 수 있도록 돕는 팀이에요. AI 기술팀에서 멋진 모델과 에이전트를 개발해 주시면, 저희는 그걸 실제 서비스 형태로 배포하고 안정적으로 돌아가게 만드는 역할을 하죠.

세영: 창희님 말씀처럼 저희는 '실제 서비스'가 잘 작동하게 만드는 데 진심인 팀이에요. 단순히 모델의 성능이 좋은 것을 넘어, 장애 없이 운영되는지, 비용 효율적인지, 그리고 사용자가 늘어나도 문제없는 확장성을 갖췄는지 같은 현실적인 고민을 해결해서 시스템을 완성합니다.

형준: 최근에는 LLM 시대를 맞아 저희의 역할이 더 넓어졌어요. 예전에는 데이터 제공과 모델 서빙, 모니터링이 주 업무였다면, 이제는 LLM 에이전트를 효율적으로 운영할 수 있는 기반 시스템까지 구축하고 있거든요. 특히 일반 소프트웨어 엔지니어분들도 모델을 쉽게 가져다 쓸 수 있도록 간편한 API를 제공해서, 원티드 서비스 곳곳에 AI가 자연스럽게 녹아들 수 있게 돕고 있습니다.

우징: 기술적인 도전도 즐겁지만, 저는 우리 팀의 친절하고 유쾌한 분위기를 꼭 자랑하고 싶어요. 기술적인 고민이나 어떤 사소한 이야기라도 서로 부담 없이 웃으며 소통하는 분위기거든요. 덕분에 매일 아침 출근하는 발걸음이 정말 가볍고 즐거워요. 정말 좋은 팀워크를 가진 팀이라고 자부합니다!

Q. 일반적인 '소프트웨어 엔지니어링'과 'AI 엔지니어링'의 가장 큰 차이점이 무엇이라고 생각하시나요?

우징: 가장 큰 차이는 역시 결과가 정해져 있는가의 문제인 것 같아요. 일반적인 소프트웨어는 1을 넣으면 반드시 2가 나온다는 명확한 규칙이 있잖아요? 하지만 AI는 달라요. 똑같은 질문을 해도 상황에 따라 답이 달라질 수 있거든요. 이런 불확실성을 기본 전제로 두고 시스템을 설계해야 한다는 점이 엔지니어로서 가장 고민되는 지점이자 차별점이라고 생각합니다.

세영: 맞아요. 그래서 단순히 코드와 결과가 같다는 공식이 성립하지 않죠. AI 엔지니어링은 코드뿐만 아니라 데이터의 품질, 심지어 GPU 같은 하드웨어 특성까지 다 고려해야 하거든요. 모델 하나가 바뀌면 시스템 전체의 성격이 확 바뀌기도 해서, 전통적인 백엔드 개발보다 훨씬 더 다양한 변수들을 유연하게 다뤄야 하는 설계 능력이 필요합니다.

창희: 현실적인 운영 측면에서도 차이가 커요. AI 에이전트는 일반적인 API 서버보다 작업 시간이 훨씬 길고 무겁거든요. 그래서 갑자기 사용자가 몰렸을 때 어떻게 효율적으로 처리할지, 혹은 에이전트가 예상치 못한 엉뚱한 답을 내놓았을 때 어떻게 서비스 안정성을 유지할지 같은 엔지니어링적 장치를 만드는 게 정말 중요합니다.

형준: 마지막으로 지속적인 관리를 빼놓을 수 없겠네요. 일반 소프트웨어는 한 번 잘 만들어두면 기능이 변하지 않지만, AI는 세상의 데이터가 변함에 따라 결과물도 조금씩 달라질 수 있어요. 그래서 모델을 배포하고 끝내는 게 아니라, 기대하는 성능이 계속 유지되는지 끊임없이 모니터링하고 리소스를 투입해야 한다는 점이 큰 차이점입니다.

Q. AI 모델을 실제 서비스 API로 배포할 때 가장 신경 쓰는 부분은 무엇인가요?

세영: 저는 성능보다 안정성과 예측 가능성을 최우선으로 생각해요. 아무리 모델의 결과가 훌륭해도 서비스가 불안정하면 안 되니까요. 사용자가 불편을 느끼지 않도록 낮은 레이턴시(지연 시간)를 유지하고, 항상 문제없이 동작하는 시스템을 만드는 데 가장 집중하고 있습니다.

창희: 맞아요. 저희가 만든 API가 원티드 서비스 전반에서 쓰이다 보니, 여기서 장애가 나면 연쇄적으로 문제가 생길 수 있거든요. 그래서 배포 전까지 최대한 꼼꼼하게 테스트해서 오류가 생기지 않도록 하는 걸 가장 중요하게 생각합니다. 서비스의 안정성이 곧 팀의 신뢰도라고 믿거든요.

형준: 기술적으로는 속도와 비용 사이의 적정선을 찾는 게 큰 숙제예요. AI는 일반적인 소프트웨어보다 연산 속도가 느리고 비용도 많이 드는 편이거든요. 그래서 목표한 성능을 내면서도 비용 효율적인 시스템을 구축하기 위해 어떤 구조로 설계할지 치열하게 고민하고 있습니다.

우징: 저는 현재 직접 배포 업무를 맡고 있지는 않지만, 동료분들이 안정적인 서비스 운영을 위해 얼마나 고민하시는지 옆에서 늘 지켜보고 있어요. 특히 실제 서비스 환경에서 발생할 수 있는 변수들을 세밀하게 챙기는 모습에서 배울 점이 정말 많습니다.

Q.대규모 데이터를 안정적으로 처리하기 위해 우리 팀이 선택한 기술 스택과 그 이유는 무엇인가요?

우징: 저희는 무조건 새롭거나 독특한 기술을 고집하기보다, 검증된 표준 기술을 활용해 안정성을 높이는 데 집중하고 있어요. 데이터 파이프라인에는 Airflow를, 실시간 스트리밍 전송에는 Kafka와 Kafka Connect를 주로 사용하죠. 이렇게 정리된 데이터는 BigQuery라는 데이터 레이크에 적재하고 있습니다. 워낙 널리 쓰이는 스택들이라 참고할 자료도 많고, 팀원들과 효율적으로 협업하고 빠르게 문제를 해결할 수 있다는 게 큰 장점이에요.

세영: 맞아요. 인프라 측면에서는 Kubernetes(k8s)나 ECS 같은 컨테이너 기반 서비스를 활용해서 유연한 확장성을 확보하고 있어요. 특히 AI 모델 운영에 필수적인 GPU 워크로드에 맞춘 서빙 구조를 갖춰두었는데요. 서비스 트래픽이나 모델 수가 급격히 늘어나더라도 기존 구조를 바꾸지 않고 대응하기 위해서예요. 처음부터 확장 가능하게 설계하는 것이 결국 장기적인 운영 비용을 낮추는 가장 좋은 방법이라고 생각합니다.

형준: 추천 파이프라인처럼 속도가 생명인 영역은 조금 더 특화된 조합을 사용합니다. 유저가 이력서를 수정했을 때 구직 흐름이 끊기지 않도록, 배치 프로세스 대신 Kafka와 Temporal 조합을 선택했어요. Kafka가 대량의 데이터를 스트리밍 방식으로 안정적으로 전달해 주면, Temporal이 시스템 리소스를 극한으로 끌어올려 파이프라인을 아주 빠르게 수행해 줍니다. 덕분에 유저에게 실시간에 가까운 속도로 추천 데이터를 제공할 수 있죠.

Q. 모델을 만드는 데이터 사이언티스트(DS) 분들과는 보통 어떤 방식으로 소통하고 협업하시나요?

우징: 모델 연구에 집중하시는 분들은 아무래도 이론적인 부분에 깊이가 있으신데, 간혹 실제 서비스에 적용할 때 필요한 엔지니어링적인 제약 사항들을 놓치시는 경우도 있어요. 그럴 때 저희가 그 부분을 상기시켜 드리고 원활하게 배포될 수 있도록 서포트하죠. 특별한 기술보다는 상대방이 무엇을 구현하고 싶어 하는지를 정확히 이해하려고 많이 듣는 편이에요. 결국 고민 끝에 어떻게든 실현해 내는 것이 저희 엔지니어링팀의 역할이니까요.

세영: 저는 굉장히 직접적으로 소통하는 편이에요. 메신저나 대화는 물론이고, 코드를 직접 주고받으며 협업하기도 하죠. 사실 일반적인 소프트웨어 개발 협업과 크게 다르지 않아요. 프로젝트의 목표를 위해 수시로 의견을 나누고, 서로의 전문성을 존중하면서 가장 효율적인 답을 함께 찾아가고 있습니다.

Q. 하나의 기술이 실제 서비스에 반영되기까지, 팀 내에서 거치는 과정을 알려주세요!

세영: 저희는 의사결정 과정이 생각보다 심플해요. 딱 세 가지만 확인하거든요. '이게 진짜 필요한가? 운영 가능한가? 비용 문제는 없나?' 이 질문들을 통과하면 우선 작게 배포해서 테스트해 보고, 문제가 없으면 전체로 확장하는 방식을 택하고 있습니다.

우징: 팀원들이 각자 관리하는 영역이 다르다 보니, 새로운 기술을 도입할 때 담당자 본인의 소신과 결정을 가장 중요하게 생각해요. 사전에 팀원들과 충분히 논의는 하지만, 결국 담당자가 가장 큰 결정 주체가 되죠. 그래서 다들 더 책임감을 느끼고 깊이 있게 리서치하며 준비하게 되는 것 같아요.

창희: 기술 선택에 있어서 굉장히 자유롭고 열려 있는 분위기예요. 예전에 제가 관심 있는 기술을 프로젝트에 도입해보고 싶다고 말한 적이 있는데, 개발에 문제가 없고 사후 처리를 같이 고민할 동료만 있다면 얼마든지 써봐도 좋다는 피드백을 받았거든요. 본인이 의지만 있다면 새로운 기술을 마음껏 펼쳐볼 수 있습니다.

형준: 기술적인 사이클로 보면, 모델이 개발된 후 서비스 영역과 논의해 가장 효율적인 방식(API 또는 배치)으로 구현하는 것부터가 시작이에요. 사실 진짜 본업은 배포 이후부터라고 생각하는데요. 데이터는 계속 변하기 때문에, 지표를 지속적으로 모니터링하면서 성능이 떨어지면 재학습이나 로직 개선을 통해 끊임없이 시스템을 다듬어 나가는 과정을 거칩니다.

Q. 개발 과정에서 팀원 간의 기술적 의견 차이가 생기면 어떻게 조율하시나요?

우징: 저희 팀은 각자 맡은 전문 영역이 굉장히 뚜렷해요. 그래서 어떤 사안에 대해 의견 차이가 생기면, 해당 업무를 가장 잘 아는 담당자의 의견을 먼저 듣고 존중하는 방향으로 조율하죠. 사실 담당자 본인의 소신과 판단이 가장 중요하다고 믿기 때문에, 의견 차이가 큰 갈등으로 번지는 일은 거의 없어요. 서로의 전문성을 깊이 신뢰하고 있거든요.

창희: 보통 한 사람이 프로젝트를 주도적으로 이끌어가기 때문에, 본인이 직접 기술적인 트레이드오프(장단점)를 꼼꼼히 따져보고 결정하는 편이에요. 하지만 혼자서만 결정하는 건 아니고요! 기술적인 고민이 깊어질 때는 옆에 있는 동료들과 편하게 대화를 나눠요. 동료들의 피드백을 들으면서 가장 합리적인 선택이 무엇일지 함께 고민하다 보면 자연스럽게 최선의 답이 나오더라고요.

세영: 의견 차이를 조율하는 가장 명확한 기준은 데이터와 실험 결과라고 생각해요. 주관적인 느낌보다는 실제 데이터나 리스크를 바탕으로 무엇이 서비스에 가장 도움이 될지 현실적으로 판단하죠. 결국 우리 팀의 목표는 가장 '최적의 판단'을 내리는 것이기 때문에, 객관적인 지표를 두고 논의하면 아주 깔끔하게 결론이 납니다.

Q. 우리 팀이 다른 회사의 AI 엔지니어링 팀과 차별화되는 점은 무엇이라고 생각하시나요?

세영: 저희 팀은 정말 실용적이에요. 소위 말하는 '일당백'을 해내는 분들이 모여서 각자 자기 몫을 확실히 해내고 있죠. 처음부터 너무 복잡하고 과한 구조를 만들기보다는, 일단 빠르게 실행하고 실제 운영하면서 효율적으로 개선해 나가는 방식을 선호해요. 이론에만 매몰되지 않고 현실적인 최적의 답을 찾아가는 속도가 우리 팀의 가장 큰 무기라고 생각합니다.

우징: 저는 우리 팀의 느슨한 관계성 속에서 나오는 자율성을 꼽고 싶어요. 서로의 전문성을 깊이 신뢰하기 때문에 각자 맡은 영역을 간섭 없이 스스로 책임지고 진행하거든요. 누군가 시켜서 하는 일이 아니라 자신이 주도권을 갖고 업무를 이끌어갈 수 있는 환경이라는 점이 다른 곳과는 확실히 차별화되는 매력인 것 같아요.

형준: 사실 AI 엔지니어링이라는 분야 자체가 생긴 지 얼마 되지 않았고, 저도 우리 팀에서 워낙 몰입해서 일하고 있다 보니 다른 곳과 하나하나 비교하기는 조금 조심스럽기도 해요. 하지만 확실한 건, 저희는 새로운 기술적 흐름을 어떻게 하면 원티드 서비스에 가장 잘 녹여낼 수 있을지 우리만의 방식으로 치열하게 고민하며 독보적인 길을 만들어가고 있다는 점입니다.

Q. 이 팀에 합류하려면, 어떤 사람이 가장 잘 맞을까요?

형준: AI 엔지니어링은 아직 정형화된 답이 없는 분야예요. 그래서 수많은 시행착오를 거치며 우리만의 정답을 찾아가야 하죠. 어느 정도 실무 경험을 갖추고 있으면서도, 새로운 시도를 두려워하지 않는 모험심 강한 분이라면 저희 팀과 정말 즐겁게 일하실 수 있을 거예요.

우징: 저희는 모든 팀원이 하나의 제품에만 매달리는 구조가 아니라, 각자 자기 영역을 책임지고 이끌어가거든요. 그래서 누가 시키는 일을 하기보다, 본인 스스로 할 일을 찾고 문제를 해결하는 주도적인 분이 오셨으면 좋겠어요. 우리 팀에서는 그런 능력이 무엇보다 중요하거든요.

창희: 현실적으로는 컨텍스트 스위칭에 능숙한 분이 잘 맞을 것 같아요. 한 사람이 여러 프로젝트를 동시에 챙겨야 할 때가 많거든요. 갑자기 여러 업무가 몰려와도 당황하지 않고, 유연하게 우선순위를 조절하며 업무를 관리할 수 있는 분이라면 팀에 큰 힘이 될 거예요!

세영: 단순히 주어진 태스크를 수행하는 데 그치지 않고, 무엇이 문제인지 스스로 정의하고 해결할 수 있는 분을 기다리고 있어요. 저희 팀은 본인이 주도적으로 목소리를 내고 실행하는 걸 굉장히 선호하거든요. 그런 능동적인 에너지를 가진 동료라면 언제든 환영입니다!

Q. 마지막 질문입니다! 원티드랩에서 AI엔지니어링팀을 한 단어로 표현한다면?

형준: 우리 팀은 원티드랩의 신경계라고 생각해요. AI기술팀이 똑똑한 '뇌'를 만드는 역할을 한다면, 저희는 그 뇌가 원티드라는 '몸체'와 잘 연결되어 실제로 움직일 수 있도록 신호를 전달하고 가동하는 역할을 하거든요. 서비스와 AI를 잇는 핵심적인 통로인 셈이죠.

우징: 저는 미원이라고 표현하고 싶어요! (웃음) 이유는 명확합니다. 맛집에 미원이 빠지면 손님이 줄어드는 것처럼, 우리 팀이 없으면 원티드 서비스의 감칠맛과 완성도가 떨어질 수밖에 없거든요. 서비스의 매력을 완성하는 필수 요소라는 자부심을 담아봤습니다.

창희: 우리 팀은 오케스트라 같아요. 팀원 모두가 각자 다른 기술과 영역을 맡고 있지만, 결국 '원티드 AI 서비스의 안정적인 운영'이라는 하나의 목표를 향해 완벽한 하모니를 만들어내고 있거든요. 각자의 개성이 모여 하나의 멋진 서비스를 완성해가는 과정이 참 닮았습니다.

세영: 저희는 현실주의자들입니다. 이론적인 화려함에 그치지 않고, 결과적으로 '실제로 돌아가는 시스템'을 만들어내는 게 저희의 본질이니까요. 언제나 가장 현실적이고 확실한 해결책을 통해 서비스에 기여하는 팀이라는 점을 강조하고 싶습니다.

AI엔지니어링팀은 정답이 없는 불확실한 기술적 환경 속에서 데이터와 시스템을 끊임없이 다듬어 가장 현실적이고 안정적인 답을 찾아내는 일입니다.

단순히 멋진 모델을 만드는 것을 넘어, 그 모델이 장애 없이 유저를 만나고 비용과 효율의 적정선을 지키며 서비스의 '맛'을 살리는 것. 이처럼 기술이라는 뇌를 서비스라는 몸체와 연결해 살아 움직이는 가치로 변환하는 '신경계의 역할'이 바로 원티드랩에 AI 엔지니어링이 있는 이유입니다.

원티드랩의 AI엔지니어링팀에 대한 궁금증이 많이 풀리셨을까요? 상상을 현실로 구현하며 원티드 서비스의 가능성을 열어가는 AI 엔지니어링팀에게 앞으로도 많은 관심 부탁드립니다.