DEVOPS INŽENIERIS/-E

Misija:

Ieviest uzlabotus mākslīgā intelekta (ML) un mašīnmācīšanās (MM) risinājumus, pielāgojot lielos valodas modeļus. Un veidot klientiem paredzētus demonstrācijas piemērus, kas uzskatāmi parādīs mūsu tehnoloģiju jaudu.

Tavi pienākumi:

• Eksperimentēt un veidot: Sistemātiski testēt LLM/RAG programmatūras kopumu uz Comino serveriem un darba stacijām; veikt caurlaides spējas, latentuma, enerģijas patēriņa, termālo parametru mērījumus un izveidot pārbaudītus MI komplektus (aparatūra + iepriekš konfigurēta programmatūra).

• Veidot un uzturēt produkcijas pakalpojumus uz šīs aparatūras (inferences API, vektoru datubāžu back-end, CI/CD).

• Automatizēt ML/MM darbplūsmas (MLflow, BentoML, KServe); nodrošināt pilna cikla testēšanu ar Docker, K8s, GitHub Actions.

• Veikt modeļu apmācību, pielāgošanu, secinājumu izdarīšanu, kvantizāciju un vektoru RAG darbplūsmas.

• Pārvaldīt infrastruktūru: Terraform, K8s, Helm, Istio; GPU/CPU automātisko mērogošanu, izmaksu un izmaiņu monitoringu.

• Tevi aizrauj mākslīgas intelekts un ir vēlme attīstīties šajā jomā.

• DevOps/MLOps pieredze, tostarp vismaz 1 gada pieredze ar MM produkcijas vidēs.

• Praktiska pieredze ar modeļu apmācību vai pielāgošanu.

• Spēja rakstīt kodu un veidot infrastruktūru ar ML asistentu palīdzību (Copilot, GPT-4o u.c.).

• Pieredze lokālo LLM modeļu izvietošanā un ML pakalpojumu izstrādē.

• Prasme strādāt ar GPU klasteru orķestrēšanu, konteinerizāciju un Linux sistēmām.

• Ļoti labas prasmes darbā ar Docker, Terraform, Helm, Prometheus/Grafana.

• Personīgie projekti, kas saistīti ar secinājumu izdarīšanu/kvantizāciju.

• Kā priekšrocību novērtēsim pieredzi ar jaunākajiem GPU (H100, MI300).