人工智能 第4页
本栏目（分类）主要分享各种AI智能体、AI辅助工具，所有源码来自github、gitee和网友供稿，如有侵权请直接联系 26769156@qq.com
排序
大模型训练神器 DeepSpeed 一个深度学习优化库，它使分布式训练和推理变得简单、高效和有效
📦 项目开源地址：DeepSpeed ⭐ Stars: 35k+ 🛠️ Python / C++ / CUDA 💡 项目定位：微软开源的深度学习优化库，包含 ZeRO 内存优化技术，大幅降低千亿参数大模型分布式训练与微调门槛。 1. 项...
前天
全球78k+ Stars的计算机视觉基石：OpenCV 全球顶级的计算机视觉与图像处理基础库
📦 项目开源地址：OpenCV ⭐ Stars: 78k+ 🛠️ C++ / Python 💡 项目定位：全球顶级的计算机视觉与图像处理基础库，涵盖传统视觉算法、计算摄影学及深度学习推理模块。 1. 项目基本信息 OpenCV ...
前天
基于 C++ / Python 的高性能推理加速引擎 TensorRT 架构深度剖析与全栈实战
📦 项目开源地址：TensorRT ⭐ Stars: 10k+ 🛠️ C++ / Python 💡 项目定位：NVIDIA 官方深度学习推理 SDK，提供硬件级算力融合、量化及极限吞吐加速。 1. 项目基本信息 - 项目名称：TensorRT -...
前天
fastai 架构深度解析：基于 PyTorch 的高级深度学习库实战指南
📦 项目开源地址：fastai 📸 项目原厂架构与界面演示Layered API ⭐ Stars: 25k+ 🛠️ Python 💡 项目定位：基于 PyTorch 的高级深度学习库，简化了训练 SOTA 模型的代码复杂度，极具教学与快速...
前天
高性能 LLM 推理引擎 llama.cpp 支持 CPU/GPU 高效量化推理，开创了消费级设备运行大模型的风潮。
📦 项目开源地址：llama.cpp ⭐ Stars: 75k+ 🛠️ C / C++ 💡 项目定位：纯 C/C++ 实现的 LLM 推理引擎，支持 CPU/GPU 高效量化推理，开创了消费级设备运行大模型的风潮。 1. 项目基本信息 - 项...
前天
ncnn 深度解析：腾讯端侧 AI 推理引擎的架构设计与实战指南
📦 项目开源地址：ncnn 📸 项目原厂架构与界面演示ncnnTencent/ncnn 架构展示图Tencent/ncnn 架构展示图 ⭐ Stars: 19k+ 🛠️ C++ 💡 项目定位：腾讯开源的高性能神经网络前向计算框架，专为手...
前天
vllm：加州大学伯克利分校等机构联合开发的开源项目，专注于解决大模型推理过程中的性能瓶颈问题
📦 项目开源地址：vllm ⭐ Stars: 32k+ 🛠️ Python / C++ / CUDA 💡 项目定位：拥有 PagedAttention 核心的高性能大模型推理与服务引擎，吞吐量相比传统 HuggingFace 提升数倍。 1. 项目基本信...
前天
基于 Python / PyTorch 的现代化目标检测框架 mmdetection 架构深度剖析与全栈实战指南
📦 项目开源地址：mmdetection 📸 项目原厂架构与界面演示open-mmlab/mmdetection 架构展示图open-mmlab/mmdetection 架构展示图open-mmlab/mmdetection 架构展示图 ⭐ Stars: 27k+ 🛠️ Python...
前天
现代化开源系统 transformers 用于文本、视觉、音频和多模态模型的最先进的机器学习模型的模型定义框架
📦 项目开源地址：transformers ⭐ Stars: 138k+ 🛠️ Python / PyTorch / JAX 💡 项目定位：Hugging Face 推出的 NLP 与大模型基础设施库，提供数万个预训练 SOTA 模型的极简加载与微调接口。 ...
前天
