Software Engineer - Model Serving

업스테이지는 AI 기술로 해결할 수 있는 비즈니스 문제들을 풀어갑니다. "Making AI Beneficial"이라는 미션 아래, 누구나 AI 기술의 혜택을 누릴 수 있도록 '적용이 쉬운 AI 솔루션'을 개발하고 있습니다. 세계 최고 수준의 AI 모델을 다양한 분야에서 손쉽게 활용할 수 있는 API 시리즈를 출시하여 기업 고객들의 비즈니스 성공에 기여하고 있습니다. 또한, LLM 기술을 비즈니스 환경에 맞게 최적화하여 기업들의 업무 효율과 생산성을 높일 수 있는 Private LLM 서비스를 제공하는 등 AI가 세상에 이롭게 사용될 수 있도록 노력하고 있습니다.

LLM 기술과 더불어 Document Parse와 Information Extraction 등의 제품을 통해 문서 처리 분야에서 혁신을 이루고 있으며, 자체 LLM 및 Chat AI 기술을 비즈니스 환경에 맞게 최적화하여 기업들의 업무 효율과 생산성을 높일 수 있는 AI Space를 개발하는 등 업무 환경의 미래를 위한 인텔리전스를 만들어 갑니다.

모델 서빙팀은 업스테이지의 Solar LLM 과 Document AI 모델들을 서빙하기 위한 제품 개발을 담당 합니다. 온프레미스와 클라우드, SaaS 인프라에서 동작하는 모델 서빙 코드를 작성하며 빠르고 효율적인 서빙을 위한 각종 최적화 기술들을 연구하고 시도 합니다. 또한 각 국의 모델 서빙 파트너와 협업하여 업스테이지의 모델 들이 안정적인 환경에서 서빙될 수 있는 서빙 제품을 설계하고 구현 합니다. 이를 통해 글로벌 고객을 위한 멀티 리전 서빙 환경에서의 프론티어 수준의 모델 서빙 운영 환경을 구축합니다. 

주요 업무

• 업스테이지의 Solar LLM 과 Document AI 의 API Layer 개발

• 모델 양자화 및 최적화를 통한 모델 서빙 효율 극대화

• 각종 서빙 시스템 벤치마크 및 파트너 협업을 통한 모델 서빙 환경 구축

• 모델 및 시스템의 보안 이슈 해소. 모니터링 및 대시보드 개발

• 내부 운영 도구 개발 및 내부 시스템 운영 효율화

• 이 외 업스테이지 제품 및 기술 개발과 관련된 활동

근무형태

• 정규직

모집절차

• 서류 전형

• 알고리즘 코딩 테스트

• 기술 인터뷰

• 컬처 인터뷰

• 최종 인터뷰

• 최종 결과 발표

*절차는 상황에 따라 조정될 수 있습니다.

*최종 인터뷰 후, 레퍼런스 체크 절차가 진행될 수 있습니다.

근무환경

• Anywhere On Earth But Together! ‘어디서든’ 함께 일할 수 있습니다.

• 원격 근무에 필요한 장비를 500만원 예산 내에 자유롭게 선택하실 수 있습니다.

• 근무를 위한 카페 이용 시 음료 비용, 스터디룸 혹은 공유오피스 이용 비용 등을 지원해드립니다.

• 업무 관련 소프트웨어, 도서, 자료, 교육 및 어학 수강비 등 성장에 필요한 비용을 지원해드립니다.

• 건강을 위한 운동비, 직장 단체보험 및 종합건강검진을 지원해드립니다.

관련 콘텐츠

AI 회사에서 소프트웨어 엔지니어는 무슨 일을 하나요?

필수사항

• LLM 또는 Document AI 관련 AI 모델 서빙 시스템 개발 경험 및 관련 기술에 대한 깊은 이해

• 하나 이상의 프로그래밍 언어에 대한 높은 수준의 이해 (예: Golang, Python, Typescript, Java, C/C++ 등)

• AWS, Azure 등 클라우드 서비스를 이용한 제품 개발 경험

• 다양한 형태의 데이터베이스를 이용한 개발 경험 (예: RDBMS 또는 각종 NoSQL 시스템) 

• 한국어 및 영어 능통자

우대사항

• LLM 모델 양자화 또는 최적화 개발 경험

• 멀티 리전에서의 글로벌 서비스 운영 경험

• 온프레미스 환경에서 구동 되는 제품 개발 경험

• B2B 환경에서 외부 파트너 또는 고객과 협업 경험

• HiPPA, GDPR, CCPA 등 보안 컴플라이언스 관련 업무 경험

—

*관련 문의사항은 joinstage@upstage.ai로 문의 부탁드립니다.
*CV를 포함한 모든 제출 자료는 PDF 형식으로 업로드 해주시기 바랍니다.
*지원자의 민감 정보(연봉 정보, 주민번호 등) 및 고유식별번호는 이력서에 기재하지 않도록 유의해주시기를 바랍니다.