Tuyển dụng MLOps Engineer tại Trivita AI, phụ trách hạ tầng AI, triển khai LLM, tối ưu GPU và xây dựng pipeline MLOps.
Mô tả công việc
- Triển khai và vận hành các hệ thống phục vụ LLM (vLLM, TGI, Triton), tối ưu inference bằng các kỹ thuật như PagedAttention, quantization
- Xây dựng và quản lý hạ tầng GPU, triển khai cấu hình NVIDIA MIG để tối ưu tài nguyên
- Thiết kế và phát triển pipeline CI/CD cho machine learning, bao gồm testing, deployment và versioning model
- Xây dựng hệ thống monitoring cho GPU, latency, throughput và model drift
- Thiết kế cơ chế auto-scaling cho workload AI trên Kubernetes
- Phối hợp với Backend Developer và AI Researcher để tích hợp model vào hệ thống sản phẩm
Yêu cầu kỹ thuật
- Thành thạo Docker và Kubernetes (bao gồm GPU operator và scheduling)
- Hiểu rõ kiến trúc GPU NVIDIA và có kinh nghiệm với MIG
- Thành thạo Python và shell scripting
- Có kinh nghiệm với framework ML như PyTorch hoặc TensorFlow
- Kinh nghiệm với các công cụ MLOps (Kubeflow, MLflow, Weights & Biases)
- Có kinh nghiệm với cloud (AWS, GCP)
- Có kiến thức backend (Java hoặc Go) là lợi thế
Yêu cầu kinh nghiệm
- Tối thiểu 3 năm kinh nghiệm trong MLOps, DevOps hoặc SRE
- Có kinh nghiệm vận hành hệ thống AI/ML production
- Tốt nghiệp ngành Khoa học máy tính, Công nghệ thông tin hoặc liên quan
Quyền lợi
- Làm việc với hệ thống AI và hạ tầng GPU hiện đại
- Tham gia bảo hiểm xã hội trên full lương
- Được trang bị MacBook và tài nguyên GPU
- Môi trường làm việc hiện đại
- Có các tiện ích như hồ bơi, phòng gym, bàn bóng bàn
Thông tin liên hệ
- Địa điểm: Số 01, đường số 104, khu phố 3, phường Bình Trưng, Thành phố Hồ Chí Minh
- Điện thoại: 0909797699
- Email: hr@trivita.ai
