大模型開發(fā)工程師-實習
適用專業(yè)
計算機
適用年級
高年級
截止時間
2023-06-30
工作地區(qū)
北京
公司介紹
崗位職責
協助負責大模型的部署和監(jiān)控,包括實現高效推理和減少資源消耗,保證服務的穩(wěn)定性,對接各種應用落地 。
崗位要求
1、熟悉常用的深度學習框架tensorflow、pytorch等;
2、熟悉tensorRT、Triton等主流模型服務框架;
3、有分布式環(huán)境中部署和管理模型的經驗;
4、有模型推理加速、提升服務吞吐量的相關經驗。
投遞方式