Pinned Loading

1. NetEase-Media/grps NetEase-Media/grps Public

   【深度学习模型部署框架】支持tf/torch/trt/trtllm/vllm以及更多nn框架，支持dynamic batching、streaming模式，支持python/c++双语言，可限制，可拓展，高性能。帮助用户快速地将模型部署到线上，并通过http/rpc接口方式提供服务。

   C++ 169 13

2. NetEase-Media/grps_trtllm NetEase-Media/grps_trtllm Public

   【grps接入trtllm】通过GPRS+TensorRT-LLM+Tokenizers.cpp实现纯C++版高性能OpenAI LLM服务，支持chat和function call模式，支持ai agent，支持分布式多卡推理，支持多模态，支持gradio聊天界面。

   C++ 99 3

3. ai-painter-wx-miniprogram ai-painter-wx-miniprogram Public

   tensorflow跑在微信小程序上，实现AI识别简笔画，AI绘画。

   JavaScript 34 13

4. machine_learn machine_learn Public

   机器学习与深度学习

   Python 11 3

5. k8s-yaml k8s-yaml Public

   常见kubernetes资源yaml模板

   8 9

6. my_trt_plugin my_trt_plugin Public

   实现自己的tensorrt算子

   C++ 4 1