[PyCon Korea 2025] Python과 함께하는 AI 플랫폼: ML Infra 기반부터 대규모 Inference Pipeline 구축까지-박준성 변규현

카테고리: 인공지능

발표소개:
2024년 서비스 성장과 함께 머신러닝 학습 파이프라인 수는 폭발적으로 늘어났어요. 하지만 인원은 제한적이었고, 이를 효율적으로 운영하기 위해 Python 기반의 ML 인프라 환경을 구축하고 고도화했어요. Kubeflow + TFX, Protobuf 기반 설정, GCP Vertex AI Pipelines, 모니터링/알림 시스템, 그리고 내부 SDK 설계 과정을 통해 안정적이고 재사용 가능한 파이프라인 환경을 만든 사례를 공유합니다.

또한, 대규모 임베딩 기반 추론 파이프라인을 Apache Beam + Dataflow로 구현하며 GPU 리소스 최적화, 네트워크 병목 해결, 파이프라인 통합을 통한 비용 절감 등 실전 팁을 소개해요. 이 세션을 통해 대규모 ML 인프라 운영 경험, Python을 활용한 확장 가능한 파이프라인 설계 방법, 그리고 서비스 성장에 따른 AI 플랫폼 운영 전략을 배울 수 있을 거예요.

----
변규현

박준성
Software Enginner at Karrot (aka 당근)

발표 자료 링크: https://s3.ap-northeast-2.amazonaws.com/pyconkr-backend-prod-public/public/%EB%B3%80%EA%B7%9C%ED%98%84%2C_%EB%B0%95%EC%A4%80%EC%84%B1_-_AI_Platform_with_Python.pdf