인프런, AI Engineering 챌린지 역자 라이브 세미나 후기

세미나 중 마무리 페이지

1. 번역 작업에 대한 이야기

“어떤 분야를 제대로 공부하고 싶다면, 책 번역을 목표로 삼는 것도 하나의 학습 전략이 될 수 있다”

스터디를 마무리하는 세미나는 역자님(변성윤, 카일스쿨)의 AI 엔지니어링 책 번역 경험에 대한 이야기로 시작했다.
역자님은 기존에 MLOps와 전통적인 머신러닝 시스템 설계를 해오던 분이었고, LLM을 오래 파고들던 사람은 아니었다고 했다. 오히려 LLM이 너무 빠르게 발전하고 있어서 언제 본격적으로 들어가야 할지 고민하던 시기였다고 덧붙였다.

 

그 과정에서 “차라리 번역을 하면서 공부해보자”는 선택을 해보는 것도 좋은 공부법이 된다고 했는데, 나에겐 정말 멋진 이야기다.

나도.. 나도 번역하면서 공부할래요 ㅠㅜ

 

번역은, 처음 보는 사람도 이해할 수 있게 표현하려면 어떻게 해야 할지 계속 고민해야 했고, 원서 정오표까지 확인하며 문장을 여러 번 고쳤다고 했다. 스스로 이해가 되지 않으면 다시 읽고, 또 고치고, 다시 읽는 과정의 반복이었다고 한다.

그리고 그 기준치는 별도로 있다기 보다, '나의 마음에 드는 정도'가 기준이었다고. (저두요!! 저도 늘 기준이 저의 마음!! .. 팬이 되었나?)

 

번역 행위가 개인의 공부를 넘어 사회적 공헌이자 책임이 따르는 일이라는 점도 인상 깊었다. 단순히 ‘AI가 번역을 잘해주지 않느냐’는 질문에 대해, 큰 맥락을 이해하고 용어를 일관되게 쓰는 일은 여전히 사람의 몫이라는 설명이 설득력 있게 다가왔다.

 

2. AI 엔지니어링 아키텍처는 ‘모델’보다 ‘구조’

일주일 정도를 목표로 최소 구현을 해보는 것이 좋다

 

두 번째로는 AI 엔지니어링 아키텍처의 핵심에 대한 이야기가 진행됐다.
가장 기본적인 구조는 LLM API의 쿼리–응답 흐름이라는 점을 짚으며, AI 엔지니어링의 핵심을 중심으로 설명해주셨다. 덕분에 전반적으로 복습이 되면서도, 현실적인 활용 방안을 고민해볼 수 있었다.

 

컨텍스트 구성, 데이터 수집(DB·웹), 입력·출력 가드레일, 캐싱, 그리고 로그·트레이스·메트릭·평가로 이어지는 관측 가능성까지. 슬라이드에 나온 아키텍처 그림을 보며, AI 서비스를 만든다는 것이 단순히 모델을 호출하는 일이 아니라 하나의 시스템을 설계하는 일이라는 점을 돌아보며 LLM 아키텍처를 설계하는 일의 중요성에 대해서도 생각해볼 수 있었는데, 이 과정에서 책을 추천받을 수 있었다.

https://product.kyobobook.co.kr/detail/S000218641537

소프트웨어 아키텍처 The Basics | 마크 리처즈 - 교보문고

 

처음부터 완벽한 시스템을 만들기보다, 트래픽이 늘어나면 앞단(프론트)을 개선하면 된다는 실현중심적 접근 방식이 인상 깊었다.

또 하나 기억에 남는 부분은 모델의 사고 방식에 대한 설명이었다.

https://product.kyobobook.co.kr/detail/S000000597589

생각에 관한 생각 | 대니얼 카너먼 - 교보문고

대니얼 카너먼의 시스템 1·시스템 2 사고를 AI 모델의 추론 방식에 빗대어 설명했는데, 최근의 추론 모델들이 점점 ‘생각에 대한 생각’을 하도록 설계되고 있다는 점이 흥미로웠다. 단순 대화나 요약에는 빠른 직관이 유리하지만, 복잡한 추론에서는 한계가 있다는 설명이 명확하게 와닿았다.

- 시스템 1 사고: 직관적, 빠른 사고 (대화/요약에 적합) - 복잡한 수학/다단계 추론에는 오류

- 시스템 2 사고: 고도화된 추론 능력(요즘 에이전트 대부분 적용됨)

 

3. ‘어느 정도의 AI가 필요한가’를 먼저 묻기

지금 이 문제에 AI가 정말 필요한가?

얼마나 틀려도 되는지, 인간 개입은 어느 시점에 들어와야 하는지, 기존 제품에 AI가 얼마나 추가적인 가치를 주는지 등을 먼저 정의해야 한다고 했다. AI를 쓰기 위한 AI가 아니라, 기존 문제를 더 잘 풀기 위한 도구로 AI를 써야 한다는 관점이 인상 깊었다.

 

또 하나 공감했던 부분은 모델은 계속 바뀌지만, 시스템은 남는다는 말이었다. 특정 모델에 집착하기보다, 상황에 따라 모델을 라우팅하고 교체할 수 있는 구조를 만드는 것이 더 중요하다는 설명이 현실적으로 다가왔다.

 

4. 꾸준히 사용하며 기술 도구 경향 익히기

후반부에서는 실제로 AI를 활용한 제품 개발 사례가 소개되었다. 역자님의 실제 프로젝트인 영어 일기 피드백 서비스를 예시로, Firebase Studio와 BigQuery, Next.js를 활용해 빠르게 배포하고, 사용하면서 개선해 나가는 과정이 공유됐다.

PR 리뷰를 AI가 자동으로 달고, 그 리뷰를 다시 AI와 함께 검토하며 결정하는 흐름을 봤는데, 내가 본 선배들보다 훨씬 선진에 있다는 느낌을 받았다... 그러니까... 식견이 이렇게 중요한 것인가...?

 

“AI가 작성한 코드 ≠ 내 역량”이라는 말도 기억에 남았다. 바로 답을 받아 쓰는 대신, 스스로 구현해보고 왜 이렇게 바뀌는지 묻는 방식으로 학습해야 한다는 조언은 AI 세상에서 연구를 이어가려는 나에게도 큰 도움이 되는 조언으로 다가왔다.

 

5. 이번 세미나를 통해 얻은 인사이트

이번 스터디를 통해 AI 엔지니어링을 바라보는 관점이 좀 더 긍정적으로 변했다. 사실 경제가 쇠퇴하고 있고, 취업률도 줄어들고 있고, 대기업 중심의 기술 발전이 나에게는 많이 막막했는데 역자분이 한국분이기도 하시고 실제 현업과 트렌드를 민감하게 활용하시는 만큼, 다시 내가 걸어갈 길을 긍정하게 됐다.

 

그리고 책을 다 읽고 나서, LLM 교과서의 기능을 하는 이 책에 실린 논문들을 시간 날 때, 특히 서베이 페이퍼를 기준으로 정독해보는 것도 많은 도움이 될것이라고 말씀해주셨다.

그리고 또 도움이 되는 사이트 두 개를 받았다.

https://cme295.stanford.edu/

-> 이 사이트는 LLM 엔지니어링과 관련해 깊이있는 지식을 쌓는 목적이라면 유용할 것이라고 말씀해주셨다.

 

https://www.anthropic.com/learn

AI Learning Resources & Guides from Anthropic

-. 이건 전반적으로, 클로드 코드 등을 활용하는 데에 기술을 익히는 데 도움이 돼서, 매일 업데이트가 있으면 아침에 보는 식으로 공부해가고 있다고 하셨다.

 

참여하길 잘했어! 나레기! 이런 기회 있으면 또 해야겠어!

 

질의응답 정리

그리고 나는 몇몇 질문을 드렸는데, (나는 세미나 맨 앞줄에 앉아서 발표자랑 아이컨택하며 질의응답 갖는 시간이 진짜 제일 좋다.)

이를 정리하자면 아래와 같다.

질문1) 최신 기술 트렌드를 어떻게 따라잡는지

첫 번째로 던진 질문은, 단순한 링크드인 탐색이나 Google I/O, Nature 구독만으로는 기술 바다에서 중요한 흐름을 구분하기 어렵다는 고민이었다. “요즘 어떤 방식으로 최신 기술 트렌드를 추적하고 계신지”가 궁금했다.

 

RSS Feed를 활용해 웹페이지의 특정 자료가 올라오면 바로 받을 수 있는 구조를 만들어두고, 개인 슬랙이나 슬랙 채널에 RSS를 구독해두고 매일 확인한다고 했다. 모든 내용을 당장 깊게 파기 보다는, 키워드나 단어 정도만 메모해두고, 시간이 날 때 다시 돌아와 공부하는 방식으로 진행하고 있다고 하셨다.

 

그런데 모든 작업을 AI로 자동화해놓으신게... feels like AWS...

질문2. 번역 작업에 요구되는 최소 스펙에 대해

두 번째 질문은 번역 작업에 대한 것이었다. 번역을 하기 위해 반드시 갖춰야 할 최소한의 스펙이나 기준이 있는지 여쭸다.

(왜냐면 나도 나도 나도 누군가의 책에 이름 석 자 올리고 싶단 말입니다! 쩔자나!)

 

번역 작업은 샘플 페이지 번역 → 검토 → 코멘트를 받는 과정으로 시작된다고 한다. 이후 작업이 결정되면 본격적으로 데드라인에 맞춰서 작업이 진행된다고 한다. 이때 작업을 대하는 태도에 대해서 처음부터 이상적인 번역을 목표로 삼기보다는,
"내가 기대하는 수준을 한편으로는 완벽주의적으로 채워가며" 진행하면 도움이 됐다고 하셨다.

 

일단, 롤모델에 완벽주의자도 추가해야겠다. 왜냐면.. (Jon Me 멋있으니까..)

질문3. 꾸준한 추진력이 어떻게 가능한지에 대해

마지막으로 던진 질문은 개인적으로 가장 궁금했던 부분이었다. 다양한 AI 기술을 경험하고, 개발과 자기계발을 꾸준히 이어갈 수 있는 추진력이 어디에서 나오는지에 대한 질문이었다.

 

역자님은 오해라고... 갓생을 산다는 오해를 많이 받지만 전혀 그렇지 않다고 하셨다... 하지만 말씀해주신 내용은 갓생이었는걸요!

목표를 많이 세우지 않는다고 했다. 회사 일 외에는 항상 1~2가지 정도만 병행하고, 중요한 것 하나를 1~2달 정도 집중한 뒤 계속할지 말지를 결정한다고 하신다. 그리고, 아무래도 계약 관계나 데드라인이 생기면 자연스럽게 몰입하게 된다고 했다.

 

아침에 일어나 물을 마시고, 간단한 식사를 한 뒤 캘린더에 “오늘 무엇을 할지”를 대략적으로 적어보고 체크해나간다고 했다.
Rize 같은 시간 관리 도구를 활용해 집중 시간을 확인하고, 불필요하게 낭비된 시간을 줄이는 방식으로 자기 관리를 한다는 점도 현실적으로 느껴졌다.

 

굳이 개발과 직접적으로 관련된 일이 아니어도 다양한 경험을 도전해볼 것

나에게 핵심적으로 다가온 메시지는 '다양한 경험'이었다.

그리고 'AI'에 의존하지 않는, 혹은 인간 본질적인 '생각'과 창의력을 연습하는 일.

 

그러기 위해선, 내가 정말 좋아하는 분야를 위해 AI를 어떻게 활용할 수 있을지 고민하고, 이를 해소하기 위해 공부하는 일일 것 같다.

 

멋진 선배이자 어른을 만나, 유익한 인사이트들을 얻게된 세미나였다.