2025년 상반기 회고

blu3fishez

2025-08-27 3139 words 7 minutes

Contents

정말. 많은 일들이 있었다. 2025년 상반기 한학기 짧은 시간과 방학 2달 총 6달동안 많은 것들을 해낸 것 같았지만, 동시에 아쉬운 것들도 많았다.

2025년 상반기 목표 체크리스트

알고리즘 스터디
- 경북대학교 알고리즘 동아리 고리 에 들어가서 다양한 사람들과 네트워크 할 수 있었다.
오픽 IH 이상 따기
미국 가보기
- 학교에서 미국 샌디에이고에 3주 AI 프로그램을 체험할 수 있었다.
- ML, LLM 지식 등 백엔드 개발 지식 뿐만 아니라 나중에 AI 기능들을 접목할 때 어떻게 할 수 있을지 배울 수 있었다.
자취 생활 잘 해내기
- 첫 자취 생활이라 우여곡절이 많았다.
- 자취를 해서 혼자 생활하다보니 우울한 적도 많았다.
- 늦은 나이에 처음 겪는 생활과 사회의 쓴맛을 많이 보았다..
- 그래도 미리 느끼고 큰 문제는 없었어서 다행이라고 생각한다.
방학동안 자격증 따기
- sqld 자격증을 땄다. (일단 시험을 쳤고, 결과는 나중에 … ^^)
- 그리고 미국 가면서 GCP ML Engineer Certificate 자격증도 땄다!
학점 4점대 방어하기
- 이번 학기 평균 학점은 4/4.3 으로 총 평점 4.04/4.3 으로 방어에 성공..!
도메인 정해서 공부하기
- 백엔드 개발자로 바꾸었는데, 생각보다 잘 되지 않았음
학교 선배님들과 네트워킹하기
- 적극적으로 참여해서 많은 좋은 분들과 네트워킹을 했다.
해달 해커톤 결과물 적극 활용하기
- 생각보다 결과물이 좋지 않았어서 어떻게 활용할지 고민해보기로 했다.

QI AI 프로그램

이번에 무려 UC San Diego의 하위 연구기관 Qualcomm Institute 연구소에서 진행하는 AI Entrepreneurship 프로그램에 참여할 수 있었다.

실제로 UCSD 구성원 자격까지 받았다!

3주 동안 여행하면서 많은 걸 느꼈고, 백엔드 개발자로써 AI를 어떻게 다루어야할지, 실제로 AI 프로젝트를 진행할 때 어떤게 가능한지 아닌지, 그리고 어떤 자세로 임해야하는지 많이 배울 수 있었다.

위 사진은 이 프로그램을 주관하신 박사님께서 일반적으로 어떻게 모델을 학습하는지에 관해 설명하는 부분이다. (문제가 되면 연락을 주면 내리겠습니다.)

이 부분은 k-fold cross validation 에 관한 설명이다. 이런 식으로 3주라는 짧은 기간 동안 많은 것을 배워갈 수 있어서 뜻깊었다.

특히, 모델 평가 지표에 대해서 조예가 깊어졌는데, Accuracy 만 보면 안되며 Recall 등을 같이 확인해주어야하는 등 실제 박사님들과 석사님들의 견해를 옆에서 들을 수 있어서 좋았다!

리더십 타입

다른 경영학 박사님들도 오셔서 스타트업에 관한 아이디어, 리더십 유형에 관한 강의도 들었는데 도움이 많이 되었다.

그중 내가 인상 깊게 받은건 리더의 4가지 유형이었다.

나는 SUPPORTING 타입이었는데, 팀원을 옆에서 서포팅해주는 리더 역할이라고 나왔었다. 실제로 내 성격과 맞아서 재밌었던 기억이 난다.

그리고 나는 같이 프로그램을 들으러 간 사람들 중에서 열심히하여 GCP ML Engineer 자격증도 취득할 수 있었는데, 이 과정에서 Google Cloud Platform 에 대해서도 조금 공부하면서 인프라에 대한 지식도 조금 공부하게 되었다.

인프라를 공부하는 이유

QI 프로그램에서 3주짜리 간단한 프로젝트로 나는 백엔드 인프라 부분을 맡았고, GCP를 통해 gemini api를 연동해보는 일을 했었다.

이 과정에서 나는 한가지 결론에 도달했었는데, 결국 인프라의 중요성을 느꼈던 점이다.

여태까지 나는 엥, 인프라를 왜 써? 홈서버를 쓰지 하며, 홈서버를 애용해오고 있었다.

그러다보니 흔히 얘기하는 인프라 서비스(AWS, GCP, Azure 등..) 를 사용하는걸 이해하지 못했다. 왜냐하면 다 똑같은 리눅스니까. 리눅스만 잘하면 내가 시스템을 구축하면 끝이 아닐까? 했었다.

그런데, 프로젝트를 하고 GCP 와 같은 인프라를 겪어보며, 대용량 처리를 위해 우리가 사용하는 인프라는 필수라고 생각하게 되었다.

LLM 응답을 기다리는 동안 `block` 되던 문제

GCP의 다양한 LLM 을 활용하는 프로젝트 또한 진행했었다.

왜냐하면, 이번에 GCP 자격증을 공부하면서 Cloud Run 에 대해서 조금 공부하게 되었는데, 애플리케이션 인스턴스를 자유자재로 조절할 수 있는 장점을 한번 생각해보게 되었다.

미국에 간 3주 동안 짧은 기간 동안 단순히 LLM을 활용하여 냉장고 사진을 분석하여 결과를 내놓는 프로젝트를 진행했었다. 정말 간단했다.

그도 그럴게 FastAPI 를 이용해서 빠르게 Model Garden 의 Gemini 를 호출하는 부분을 빠르게(Agile하게..ㅋㅋ) 구현했기 때문이다.

하지만 내가 FastAPI를 처음 사용해보기도 하면서 문제가 생겼었다.

일단 LLM 자체를 Pro 모델을 사용하면서 확장성에 대한 부분을 간과한게 있었는데, LLM 응답 속도 자체가 정말 느리다! 다들 사용해보아서 알겠지만, Gemini 2.5 pro 의 경우 추론 과정이 포함되기 때문에 속도가 많이 느릴 수 밖에 없다.

거진 30초가 걸리는데, 문제는 이 30초 동안 다른 계정이 접속하여 또 다른LLM 요청을 보내기 까지 API 서버가 멈춘다는 것이다! 웹서버 자체는 내가 자체적으로 Debian 환경에 NGINX 를 올려서 문제가 없었는데, WAS를 Cloud Run이 아닌 그냥 자체적인 인스턴스에 올려서 생긴 문제였다.

이렇게 생기게 된 문제로 인해 나는 지연이 생길만큼 복잡한 문제처리를 어떻게 할지 알아보다가 요즘 많이 거론되는 대용량이 이런 거 아닐까? 하고 생각해보게 됐다.

대용량에 대한 이해

일단 적어도, 요즘 많이 거론되는 대용량에 대한 이해 정도는 필요하지 않을까! 싶어서 한번 아래 영상을 찾아보았다.

위 영상에서처럼, 대용량에 대한 정의를 일단 나는 JSCode 님의 영상에서 처럼, 대규모 트래픽이 무엇인가? 부터 정의하는게 맞다고 본다.

여기에 더해, 내가 아까 말한 LLM 응답 같이, 사용자가 생각하기에 느려질 수 있다고 생각하는 모든 것들이 나는 대용량이 될 수 있다고 생각한다.

왜냐하면, 오래 처리되기 때문이다. 이렇게 오래 처리되는 동안 유저는 절대로 기다려주지 않는다. 그렇기 때문에, 새로운 문제해결 방법을 모색해야하는 것이고, 그 과정에서 나는 인프라가 제공하는 스케일링 기능들에 관심이 갔다.

내가 정의한 말에 따르면, 이러한 대용량 트래픽/파일/작업 에 있어서, 락(LLM 응답을 기다리는 동안 다른 요청을 처리하지 못하는 현상 또한 락으로 볼 수 있을 것이다.) 동시성/ 성능 등의 이슈들이 생길 수 있었다.

그래서 적어도 어떤 인프라 제품들이 있는지 알고, 활용할 줄은 알아야하는 결론에 다다른 것이다.

추후 해야할 행동

도메인 정하기

이번 1학기에 네이버 백엔드로 합격하신 선배님의 강의를 두번 듣고 개인적으로 인사도 드리며 말씀을 많이 나누었다.

그중 기억에 남는게 도메인을 하나 정해서 T자형 으로 한쪽으로 쭉 파는 형태가 좋다고 말씀하셨는데 사실 이게 올해 상반기 동안은 잘 지켜지지 않았던 것 같다.

그래서 부스트캠프에서 했었던 그룹프로젝트를 다시 리팩토링 해보려고 한다. 도메인에 대한 공부와 작업이 부족했다는 작년 멘토님들의 조언을 이제서야(….) 제대로 지켜보려고 하는게 살짝 부끄럽지만, 그래도 어쩌겠나, 다시 해야하지 않겠나!!!

그리고 나아가 NodeJS가 처리하는 이런 비동기 서버에 관해 자바에서는 어떻게 해결하는지도 공부정도만 해두려고 한다.

이 부분은 정말로 최근에 흥미를 두고 있는 부분인데, 내가 NodeJS의 쓰레드풀 구조로 인한 비동기처리의 성능 개선 이야기를 좋아하는데, 자바에서는 이런 비동기에 대한 개념이 많이 거론되지 않았던 걸로 안다. 그렇기에 많이 흥미가 가는 주제이고 JVM이 어떤 기능을 제공하는지까지 깊게 알아보고 싶었다.

기초 공부

대용량에 대한 정의에 관해 생각해보다가 어느 친구를 만나서 인턴근무를 하던 이야기를 들었는데, 그 친구가 사실 무언가 대단한 기술 스택을 안다기 보다는 학교 수업을 열심히 듣고 시험을 열심히 보던 친구에 불과했다.

하지만 그 친구가 인턴 때 생기던 여러 문제를 척척해결했던 이야기를 듣고, 결국 달라지지 않는 본질인 CS 에 대해

완전 기초적인 부분으로 돌아가서 다시 공부하면서 취준을 해보려고 한다! 기초, 기초 하지만 내가 정말로 완벽하게 이해하고 있는 걸까.. 한번 점검해보아야한다고 생각했다.

요약

QI AI 프로그램을 가면서 미국에서의 개발문화(정확히는 AI 연구 쪽, 그리고 완전히는 아니지만, AI와 살짝 연관성 있는 스타트업 쪽), 미국 자체의 문화, AI 가 현실적으로 어떤게 가능한지, 그리고 AI 를 사용한 프로젝트는 언제 AI를 사용해야하는지를 깨닫게 되었다.
느린 LLM에 대응하기 위한 전략을 구상하다가 대용량에 대해 생각해보았고, 이것을 바탕으로 인프라에 대해서도 조금 관심을 가져보려고 한다.
부스트캠프에서 제대로 공부하지 못했던 부분들에 대한 부분을 리팩토링하면서 Project based learning 을 해보려고 한다.
CS 기초에 대해 다시 공부해보려고 한다.