MOREH

[직무 소개]

• ​LLM ​Platform ​Engineer는 다양한 ​GPU/NPU가 혼재된 이종 데이터센터에서 ​LLM을 ​서비스하기 위한 ​분산 추론 프레임워크(gateway, ​smart router, ​auto ​scaler 등)를 ​개발하고 ​성능 ​측정, 모니터링 등을 ​수행합니다.

[주요 ​업무]

• 분산 추론 ​프레임워크를 ​구성하는 ​애플리케이션 개발(smart router, ​auto-scaler/tuner 등)
• OpenTelemetry를 ​활용한 ​개발 및 ​모니터링 시스템 ​구축
• 소프트웨어 ​품질 유지를 위한 ​unit, e2e ​테스트 작성 및 자동화(CI)

[자격 요건]

• 컴퓨터공학 혹은 관련 전공 학부 졸업, 혹은 이와 동등한 경력이 있으신 분
• 2년 이상의 Kubernetes 기반 서비스 개발 및 운영 경험
• Kubernetes operator 개발 또는 on-premise Kubernetes DevOps에 능숙하신 분
• Go, Python 등 하나 이상의 프로그래밍 언어에 능숙하신 분
• 공개와 공유를 원칙으로 적극적으로 소통하는 능력을 보유하신 분
• 팀워크를 중시하고, 긍정적인 태도로 동료들과 적극적으로 협력할 수 있으신 분

[우대사항]

• OpenTelemetry를 활용한 개발 및 운영 경험
• 오픈소스 프로젝트 기여 경험
• vLLM, SGLang, llm-d, Dynamo 등 LLM 서빙 프레임워크 사용 경험 및 구조에 대한 지식
• 주도적으로 문제를 정의하고 해결 방안을 도출할 수 있는 능력

[복지 제도]

• 복지포인트 연간 200만 원
• 입사 시 장비지원금 지원
• 유연출근제&재택근무
• 연 1회 종합건강검진 (본인 및 직계가족 1인)
• 생일 반차 휴가
• 장기근속 휴가
• 사내 동호회 지원 (보드게임, 클라이밍 등)
• 오피스 간식 제공 (과자, 음료수 등)
• 연말 오피스 클로징 (매년 12/28-12/31 유급휴가 제공)
• 중소기업 청년 소득세 감면 (연간 최대 200만 원)

[채용 절차]

• 서류 전형 -> 1차 면접 -> 최종 면접 -> 처우 협의 -> 최종 합격
• 포지션에 따라 전형이 변경 또는 추가될 수 있는 점 참고 부탁드립니다.