騰訊開源ncnn, 一個為手機端極致優化的高性能神經網絡前向計算框架

簡介

ncnn 是一個為手機端極致優化的高性能神經網絡前向計算框架。ncnn 從設計之初深刻考慮手機端的部署和使用。無第三方依賴，跨平臺，手機端 cpu 的速度快于目前所有已知的開源框架。基于 ncnn，開發者能夠將深度學習算法輕松移植到手機端高效執行，開發出人工智能 APP，將 AI 帶到你的指尖。ncnn 目前已在騰訊多款應用中使用，如 QQ，Qzone，微信，天天P圖等。

功能概述

• 支持卷積神經網絡，支持多輸入和多分支結構，可計算部分分支
• 無任何第三方庫依賴，不依賴 BLAS/NNPACK 等計算框架
• 純 C++ 實現，跨平臺，支持 android ios 等
• ARM NEON 匯編級良心優化，計算速度極快
• 精細的內存管理和數據結構設計，內存占用極低
• 支持多核并行計算加速，ARM big.LITTLE cpu 調度優化
• 整體庫體積小于 500K，并可輕松精簡到小于 300K
• 可擴展的模型設計，支持 8bit 量化和半精度浮點存儲，可導入 caffe 模型
• 支持直接內存零拷貝引用加載網絡模型
• 可注冊自定義層實現并擴展
• 恩，很強就是了，不怕被塞卷 QvQ

項目首頁