팀 소개
Product Engineering 팀은 고객이 직접 사용하는 Portal과 공개 API, 그리고 그 위에서 동작하는 AI 기능을 개발합니다. GPU 서버와 AI 게이트웨이(OpenGate)를 자사에서 운영하고 있어 모델 서빙에 필요한 인프라를 팀 내부에서 확보할 수 있으며, 인프라 팀과 직접 협의해 설계 결정을 짧은 주기로 진행합니다.
역할 소개
시연 환경에서 한 번 동작하는 것과 실제 사용 환경에서 꾸준히 동작하는 것은 다른 문제입니다. 이 역할은 그 격차를 좁힙니다. 입력에 따라 품질이 급격히 떨어지는 응답, 정답이 정의되지 않은 생성 결과의 측정, 예측하기 어려운 형태로 실패하는 에이전트를 실제로 다루게 됩니다. 어떤 모델과 검색 전략, 아키텍처를 채택할지 근거를 갖고 결정하고 그 효과를 지표로 증명합니다. 연차보다 담당 영역에 대한 책임 범위를 기준으로 평가합니다.
주요 업무
- LLM·RAG·멀티모달 기술을 조합해 고객이 매일 쓰는 AI 기능 설계 및 개발
- 여러 툴을 상황에 맞게 조합하는 에이전트 설계와 구조화된 산출물 생성 구현
- 생성 품질 평가(eval) 체계 설계, 응답 정확도·일관성·환각을 지표로 정량화
- 가드레일·폴백·검증 로직으로 에이전트 신뢰성 확보, 회귀 자동 방지 파이프라인 구축
- 지연 시간과 토큰 비용 최적화, 품질·비용 균형점 탐색
- 응답 품질·지연·비용·가용성 관측 체계 구축과 SLO 정의
자격 요건
- LLM, RAG 또는 에이전트 기반 기능을 직접 설계하고 개발해 보신 분
- 기존 모델과 도구를 조합해 실사용 제품 또는 기능으로 완성해 보신 분
- 모델·검색 전략·프롬프트 구조 선택을 근거를 갖고 결정하고 효과를 검증해 보신 분
- Python 또는 TypeScript로 서비스를 설계하실 수 있고, API·비동기·스트리밍 처리에 대한 이해를 갖추신 분
- 품질 저하와 장애의 원인을 데이터로 규명하고 구조적으로 개선하실 수 있는 분
우대 사항
- LLM 응답 품질 평가 체계를 직접 설계하거나 LLMOps 도구(LangSmith, Langfuse 등)로 실험을 운영해 보신 분
- RAG 정확도 개선, 파인튜닝, 에이전트 신뢰성 확보 등의 과제를 다뤄 보신 분
- 대규모 트래픽 환경에서 지연 시간과 토큰 비용을 최적화해 보신 분
- Docker, Kubernetes 및 CI/CD 파이프라인을 구축·운영해 보신 분
- GPU 서버 또는 자체 추론 인프라에서 모델을 서빙해 보신 분
지원 방법
이력서와 함께 담당했던 업무의 범위와 그 결과를 확인할 수 있는 내용을 보내 주시면 검토에 도움이 됩니다. 문서 형식에는 제약이 없습니다.
메일 앱이 열리지 않는 경우 주소를 복사해 사용하시는 메일에서 보내 주세요. 제목에는 지원 포지션을 적어 주세요. 접수 후 영업일 3일 내 회신합니다.