Tech on xgDebug的博客 https://xgdebug.com/zh/posts/tech/ Recent content in Tech on xgDebug的博客 xgDebug的博客 https://xgdebug.com/images/avatar.png https://xgdebug.com/images/avatar.png Hugo zh-cn Sun, 30 Nov 2025 01:39:49 +0000 OpenWrt双路由DHCPv6-PD前缀委派配置教程 https://xgdebug.com/zh/posts/tech/openwrt/openwrt-dual-router-dhcpv6-pd-prefix-delegation-tutorial/ Fri, 07 Nov 2025 11:40:50 +0000 https://xgdebug.com/zh/posts/tech/openwrt/openwrt-dual-router-dhcpv6-pd-prefix-delegation-tutorial/ 详解如何通过DHCPv6-PD在OpenWrt路由器级联环境下获取并分配IPv6公网前缀，包括WAN/LAN接口、RA/DHCPv6服务、防火墙与验证排错。 核心方案：配置OpenWRT_B通过DHCPv6-PD获取子前缀

核心关键是要给对应的接口分配一个合适的前缀长度，并确保DHCPv6和RA服务正确启用。,最小也要63,才能给下一级路由器分配64位子网

第一步：配置OpenWRT_B的WAN口（连接OpenWRT_A）

进入OpenWRT_B管理界面 → 网络 → 接口

  1. 编辑WAN接口（物理接口对应连接OpenWRT_A的网口）
  2. 协议：选择 “DHCPv6客户端” （如果原来是静态或禁用）
  3. 切换到"高级设置"标签页：
    • “请求IPv6前缀” ：勾选 ✓
    • “请求的IPv6前缀长度” ：选择 “自动” 或手动填写 60
  4. 切换到"物理设置"标签页：确认接口绑定正确（如eth0.2或lan口）
  5. 保存

第二步：配置OpenWRT_B的LAN口（连接你的电脑）

仍在网络 → 接口 → 编辑LAN接口

  1. 切换到"常规设置"标签页：

    • IPv6分配长度：选择 63 （关键！）

  2. 切换到"IPv6设置"标签页：

    • “IPv6 assignment hint” ：填写一个子网ID（如 1 或 2，避免与OpenWRT_A的LAN冲突）
    • “IPv6后缀” ：可留空或设置为 ::1
    • RA服务：选择 “服务器模式”
    • DHCPv6服务：选择 “服务器模式”
    • NDP代理：选择 “已禁用”
    • RA管理：选择 “已启用”
    • Always announce default router：勾选 ✓

  3. 保存并应用

第三步：检查DHCPv6服务器配置

进入 服务 → DHCP/DNS

  1. 切换到"高级设置"标签页：
    • 确保 “禁止解析IPv6 DNS记录” 未勾选
  2. 切换到"IPv6 RA设置"标签页：
    • RA Flags：勾选 managed 和 other
  3. 保存并应用

第四步：调整防火墙（关键）

进入 网络 → 防火墙

  1. 编辑"wan"区域：

    • 转发：选择 “接受” 或确保有规则允许转发到lan区域
    • 涵盖的网络：确认包含 wan 和 wan6

  2. 编辑"lan"区域：

    • 转发：选择 “接受”
    • 涵盖的网络：确认包含 lan

  3. 保存并应用

验证与排错

在OpenWRT_B上执行以下命令：

# 检查是否成功获取PD
ifstatus wan6

# 查看LAN口IPv6地址
ifconfig br-lan | grep inet6

# 查看路由表
ip -6 route

# 查看DHCPv6服务器状态
logread | grep dhcp6

成功标志：

  • ifstatus wan6 应显示获取的IPv6-PD（如 240e:39c:2bae:7001::/60）
  • LAN口应有公网IPv6地址（如 240e:39c:2bae:7001::1/64）
  • 路由表中有 240e:39c:2bae:7000::/56 的默认路由指向pppoe-wan

在电脑上验证：

# Windows
ipconfig /all | findstr IPv6

# Linux/macOS
ifconfig | grep inet6

# 测试连通性
ping -6 ipv6.google.com

常见问题与解决

问题 原因 解决方案
OpenWRT_B获取不到PD OpenWRT_A未正确分配PD前缀 在OpenWRT_A的WAN6接口高级设置中，将"IPv6前缀长度"改为60或56
电脑获取不到地址 RA/DHCPv6服务未启用或防火墙阻拦 检查LAN口的IPv6设置为"服务器模式"，并确认防火墙允许转发
能获取地址但无法上网 缺少默认路由或DNS 确保RA设置中"Always announce default router"已勾选，并检查DNS配置
IPv6地址冲突 子网ID与OpenWRT_A冲突 修改OpenWRT_B LAN的"IPv6 assignment hint"为其他值（1,2,3…）

推荐配置总结

OpenWRT_A（确保）：

  • WAN6接口 → 高级设置 → IPv6前缀长度：60 或 56
  • DHCP/DNS → 高级设置 → 勾选"动态DHCP"和"RA"

OpenWRT_B（关键）：

  • WAN接口：DHCPv6客户端 + 请求IPv6前缀
  • LAN接口：IPv6分配长度64 + RA/DHCPv6服务器模式
  • 防火墙：允许wan到lan的IPv6转发

配置完成后，重启OpenWRT_B的WAN接口或整个路由器，等待1-2分钟让DHCPv6完成前缀协商，你的电脑应该就能获取到公网IPv6地址了。

]]> OpenWRT配置IPV6中继 https://xgdebug.com/zh/posts/tech/openwrt/openwrt-ipv6-relay-configuration/ Sun, 26 Oct 2025 14:03:45 +0000 https://xgdebug.com/zh/posts/tech/openwrt/openwrt-ipv6-relay-configuration/ 为了跟进时代，本文介绍了如何在OpenWRT上配置二级路由的IPV6中继模式，使内网设备也能获取IPV6地址。 为了跟进一下时代，尝尝IPV6的鲜，我打算给我的二级内网搞出IPV6来

因为我是家网络有两级，一级是主路由，他可以获取到由运营商分配的IPV6和IPV6-PD，并且可以给接入他的设备分配一个公网IPV6；还有一级时我书房的，他只能自己获取到一个公网IPV6，给接入设备的却只有一个内网的IPV6

打开二级路由 OpenWRT设置–>接口–>WAN6–>DHCP服务器–>IPV6设置

把路由通告服务、DHCPv6 服务、NDP 代理全部设置为中继模式，并且勾上选项主

Designated master 打勾

Set this interface as master for RA and DHCPv6 relaying as well as NDP proxying.
RA-Service relay mode

Configures the operation mode of the RA service on this interface.
DHCPv6-Service relay mode

Configures the operation mode of the DHCPv6 service on this interface.
NDP-Proxy relay mode

然后打开OpenWRT设置–>接口–>LAN->DHCP服务器–>IPV6设置

把路由通告服务、DHCPv6 服务、NDP 代理全部设置为中继模式，注意此时不勾 Designated master

最后全部保存并应用，然后再次测试IPV6，发现IPV6已经可以正常获取到了

最终 uci

root@OpenWRT-MY:~# uci show dhcp.lan
dhcp.lan=dhcp
dhcp.lan.interface='lan'
dhcp.lan.start='100'
dhcp.lan.limit='150'
dhcp.lan.leasetime='12h'
dhcp.lan.dhcpv4='server'
dhcp.lan.ra='relay'
dhcp.lan.dhcpv6='relay'
dhcp.lan.ndp='relay'
root@OpenWRT-MY:~# uci show dhcp.wan6
dhcp.wan6=dhcp
dhcp.wan6.interface='wan6'
dhcp.wan6.ignore='1'
dhcp.wan6.master='1'
dhcp.wan6.ra='relay'
dhcp.wan6.dhcpv6='relay'
dhcp.wan6.ndp='relay'
]]> 人性弱点中的开发者机会 https://xgdebug.com/zh/posts/tech/app/developer-opportunities-in-human-weaknesses/ Sat, 12 Jul 2025 08:41:37 +0000 https://xgdebug.com/zh/posts/tech/app/developer-opportunities-in-human-weaknesses/ 本文探讨了个人开发者应遵循的核心原则，并深入解析了驱动人类消费行为的10条人性密码，揭示其背后的商业逻辑。 个人开发者的黄金法则：
  • 切入点要小 (Niche Down): 不要试图做一个平台，而是做一个“插件”、“工具”或“解决方案”。
  • 自动化和SaaS优先: 追求可订阅的、能自动运行的软件即服务（SaaS），实现“睡后收入”。
  • 轻资产运营: 远离需要重度运营、客服和实体库存的模式。
  • AI赋能: 在2025年的今天，AI是你作为个人开发者最强大的“杠杆”，能让你一个人完成过去一个团队的工作。

10条人性密码

1. 男人好色的钱

  • 人性密码： 繁衍本能、对吸引力的追求、社会地位的彰显。
  • 商业逻辑： 这不仅限于情色产业，更广泛地体现在社交APP、高端汽车、名牌手表、健身和时尚领域。所有能增强男性魅力和地位象征的商品，都利用了这一原始驱动力。

2. 女人爱美的钱

  • 人性密码： 追求社会认同、提升自我价值、对抗衰老焦虑。
  • 商业逻辑： 从护肤美妆、医美整形到时装珠宝，这是一个永不枯竭的市场。它深度绑定了女性的心理满足感，通过制造“更美”的承诺，创造出无限的消费需求。

3. 穷人暴富的钱

  • 人性密码： 对改变命运的极致渴望、对“捷径”的幻想、侥幸心理。
  • 商业逻辑： 彩票、赌博、高风险金融衍生品、部分传销模式……它们贩卖的不是商品，而是“一夜暴富”的梦想。这种梦想的诱惑力之大，足以让最理性的人也为之动容。

4. 富人怕死的钱

  • 人性密码： 对生命和健康的终极恐惧，以及对现有财富和地位的守护。
  • 商业逻辑： 当财富达到一定量级，生命便成为最宝贵的资产。这催生了天价的医疗服务、生命延续技术、高端保健品和全方位的安保服务。这是一个客户价格不敏感的“无限预算”市场。

5. 孩子教育的钱

  • 人性密码： 父母之爱、阶层跨越的焦虑、未来的不确定性。
  • 商业逻辑： “不能让孩子输在起跑线上”这句话，撬动了万亿市场。从学区房、私立学校到各类辅导班和兴趣班，父母愿意为子女的未来付出一切。这是一种混杂着爱与焦虑的、几乎无法拒绝的消费。

6. 老人健康的钱

  • 人性密码： 对生活质量的渴求、对衰老和病痛的恐惧、对生存时间的延长。
  • 商业逻辑： 随着全球老龄化，这个市场的潜力日益凸显。保健品、医疗器械、特效药、养老服务……一切能缓解病痛、提升晚年生活质量的产品，都拥有着庞大且刚性的需求。

7. 懒人想省事的钱 (The Currency of Convenience)

  • 人性密码： 追求舒适、规避复杂、用金钱换取时间。
  • 商业逻辑： 外卖平台、网约车、预制菜、各种上门服务……现代商业的巨大成功，很大程度上建立在“让用户更懒”之上。通过提供极致的便利，商家可以收取不菲的溢价，并让消费者形成依赖。

8. 体面人想被认同的钱 (The Currency of Status and Virtue)

  • 人性密码： 渴望被尊重、被认同，通过消费来彰显身份、品味和道德立场。
  • 商业逻辑： 这分为两个层面。一是通过奢侈品、豪宅名车来展示“我很富有”；二是通过购买环保产品、支持良心品牌来展示“我很善良”。无论是物质的炫耀还是道德的优越感，人们都愿意为其支付高昂的“身份税”。

9. 无聊人想娱乐的钱 (The Currency of Escapism)

  • 人性密码： 对抗平凡、寻求刺激、填补精神空虚。
  • 商业逻辑： 游戏、短视频、直播打赏、偶像经济……这些行业精通于设计令人上瘾的“心流”体验和即时反馈机制。它们创造了一个可以逃避现实的虚拟世界，让用户心甘情愿地投入时间和金钱。

10. 普通人想安心的钱 (The Currency of Security)

  • 人性密码： 在充满不确定性的世界里，寻找稳定和可控的感觉。
  • 商业逻辑： 从保险、理财产品，到网络安全、数据储存、家庭安防，所有贩卖“安全感”的生意都大行其道。商家通过适度放大潜在风险，再提供所谓的“解决方案”，精准地满足了人们对确定性的渴望。
]]> 超调试器 https://xgdebug.com/zh/posts/tech/debug/hyperdbg/ Thu, 30 Jan 2025 10:31:52 +0800 https://xgdebug.com/zh/posts/tech/debug/hyperdbg/ <h2 id="设置环境">设置环境</h2> <p>.debug remote namedpipe \.\pipe\HyperDbgPipe</p> <p>.debug prepare serial 115200 com1</p> <p>.sympath SRV<em>c:\Symbols</em><a href="https://msdl.microsoft.com/download/symbols">https://msdl.microsoft.com/download/symbols</a></p> <p>.sym download .sym reload</p> <p>.process list</p> <p>.thread list process 0000000015e2b000</p> <h2 id="切换进程">切换进程</h2> <p>.process list .process pid 1394 g</p> <p>当调试器停止时，使用 <code>.process</code> 来检查进程</p> 设置环境

.debug remote namedpipe \.\pipe\HyperDbgPipe

.debug prepare serial 115200 com1

.sympath SRVc:\Symbolshttps://msdl.microsoft.com/download/symbols

.sym download .sym reload

.process list

.thread list process 0000000015e2b000

切换进程

.process list .process pid 1394 g

当调试器停止时，使用 .process 来检查进程

]]> 怎么推广APP呢？ https://xgdebug.com/zh/posts/tech/app/how-to-promote-app/ Tue, 19 Nov 2024 14:58:38 +0800 https://xgdebug.com/zh/posts/tech/app/how-to-promote-app/ <p>这是个比较难搞的问题，目前想到的都有。</p> <ul> <li>youtube教程下面回帖</li> <li>blog教程回帖</li> <li>搜索所有相关内容回帖</li> <li>上x发帖</li> </ul> 这是个比较难搞的问题，目前想到的都有。

  • youtube教程下面回帖
  • blog教程回帖
  • 搜索所有相关内容回帖
  • 上x发帖
]]> Hugo移动端项目分析 https://xgdebug.com/zh/posts/tech/app/hugo-mobile-project-analysis/ Sat, 09 Nov 2024 13:05:38 +0800 https://xgdebug.com/zh/posts/tech/app/hugo-mobile-project-analysis/ <h2 id="痛点">痛点</h2> <p>Hugo 是一款很好用的静态网站生成框架,很多人用它来写 Blog,并且部署在 github pages 上，但是这个方案只能在电脑上使用，每次要写文章都需要打开电脑。 我强烈的需要一个时刻都能记录自己思考的方案,在思绪飞扬时打开手机就能马上把它记录下来。所以也就需要一款能在手机上操作的 APP。</p> 痛点

Hugo 是一款很好用的静态网站生成框架,很多人用它来写 Blog,并且部署在 github pages 上，但是这个方案只能在电脑上使用，每次要写文章都需要打开电脑。 我强烈的需要一个时刻都能记录自己思考的方案,在思绪飞扬时打开手机就能马上把它记录下来。所以也就需要一款能在手机上操作的 APP。

市场调查

在动手之前先进行项目评估调查，看用户付费意愿。 Fake it till you make it .

实现方法

  1. 移动端带上 git 与 openssl 直接本地操作
  2. 服务器 git clone 仓库，使用 hugo 解析，提供 API 调用。包括目录，分类，Tags 等

又犯了相同的错误

没有做任何市场调查，直接开始开发原型，虽然进展很快，但是我知道这其实是一种偷懒。开发对我来说是最简单的事。这次有一点不一样，那就是我有实际的需求，所以至少让我先用上吧，我自己都不会用的产品是不会有人用的。

2024-10-26

  • 编辑与新建文章搞定了
  • 优化了一下文章加载太慢的问题，主要是先把控件画出来然后再填内容
  • 目前还差提交与推送到服务器

2024-10-27

  • 尝试了一下android编译，当然只成功了dart部分
  • 搞定了向服务器提交
  • 最后调通了Linux平台下插件交互

2024-11-08

  • 感觉可以发布第一个版本了，勉强还不错吧
  • 后续我觉得还可以加入仓库分析头图加载
  • 下面需要思考一下如何去宣传了

2024-11-09

  • 计划只显示.md 但是好像无效

  • 考虑显示图片

  • 上午已经搞定了，上边的两个问题。

  • 新bug：分析之后必须重启程序才会有效

  • 应该把添加标签放在现有标签的下方

  • 完成的第一个版本

  • 目前还还差一个landing page

  • 接下来需要购买一个域名，为产品本身价做一个Blog

2024-11-11

今天发现了一个很大的坑，就是键盘会遮挡输入框下面的工具栏，这个时候需要在最外层包裹一SingleChildscrollView。然后就会在键盘弹出的时候自动把输入框顶上去了。

  • 图标被弄丢了

2024-11-12

  • 今天晚上了好多好多的细节，魔鬼都在细节里
  • 明天可以把预览的字体搞大一点，我觉得现在预览的字体太小了。
  • 同步状态也搞出问题来了，明天需要检查一下。主要是同步的时候进度条没有按预想的显示

2024-11-12

  • 今天弄好了多语言
  • 考虑把URL主题修改小一点
  • 同步时改变setting的loading状态

2024-11-13

如果正在同步的时候，那么点击仓库应该直接进入设置的同步页面，而不是进入目录浏览模式。

2024-11-22

  • 我觉得需要一个最近编辑功能。这样我可以以最快的速度打开最近修改过的文件。
  • 还需要一个全文搜索，不过我不知道用什么技术栈比较好
]]> 使用 Deploy Key自动部署hugo博客到github https://xgdebug.com/zh/posts/tech/linux/deploy-hugo-blog-with-deploy-key/ Sun, 29 Sep 2024 10:08:49 +0800 https://xgdebug.com/zh/posts/tech/linux/deploy-hugo-blog-with-deploy-key/ <h2 id="1生成-ssh-密钥">1：生成 SSH 密钥</h2> <p>在本地终端生成一个新的 SSH 密钥对：</p> <div class="highlight"><pre tabindex="0" class="chroma"><code class="language-bash" data-lang="bash"><span class="line"><span class="cl">ssh-keygen -t rsa -b <span class="m">4096</span> -C <span class="s2">&#34;your_email@example.com&#34;</span> </span></span></code></pre></div><p>执行后，它会要求你指定文件名，按回车即可使用默认路径（~/.ssh/id_rsa），然后你会得到两个文件：</p> 1：生成 SSH 密钥

在本地终端生成一个新的 SSH 密钥对：

ssh-keygen -t rsa -b 4096 -C "your_email@example.com"

执行后，它会要求你指定文件名，按回车即可使用默认路径（~/.ssh/id_rsa），然后你会得到两个文件：

id_rsa（私钥） id_rsa.pub（公钥）

2：在 GitHub Pages 仓库中添加 Deploy Key

打开你的 GitHub Pages 仓库 xgDebug/xgdebug.github.io。 进入 Settings -> Deploy keys。 点击 Add deploy key。 title = 取个描述性标题（如 “Hugo Blog Deployment Key”）。 Key: 将上一步生成的公钥 id_rsa.pub 的内容复制粘贴进去。 勾选 Allow write access，因为需要写权限。 点击 Add key。

3：将私钥添加到 GitHub Secrets

在你的 Hugo 仓库 xgDebug/xgDebug_blog 中，进入 Settings -> Secrets -> Actions。 点击 New repository secret，创建新的密钥： Name: DEPLOY_KEY Value: 将生成的私钥 id_rsa 的内容粘贴进去。

4：更新 GitHub Actions 配置

在 .github/workflows/gh-pages.yml 中使用 DEPLOY_KEY 进行身份验证：

name: Deploy Hugo Site to GitHub Pages

on:
push:
branches: - master

jobs:
deploy:
runs-on: ubuntu-latest
steps: - name: Checkout repository
uses: actions/checkout@v3

    - name: Set up Hugo
      uses: peaceiris/actions-hugo@v2
      with:
        hugo-version: 'latest'

    - name: Install Hugo themes
      run: git submodule update --init --recursive

    - name: Build Hugo site
      run: hugo --minify

    - name: Deploy to GitHub Pages
      uses: peaceiris/actions-gh-pages@v3
      with:
        deploy_key: ${{ secrets.DEPLOY_KEY }}
        publish_dir: ./public
        external_repository: xgDebug/xgdebug.github.io
        publish_branch: gh-pages
]]> 使用ncnn布署pytorch模型到Android手机 https://xgdebug.com/zh/posts/tech/ai/deploy-pytorch-model-to-android-with-ncnn/ Sat, 28 Sep 2024 05:08:49 +0000 https://xgdebug.com/zh/posts/tech/ai/deploy-pytorch-model-to-android-with-ncnn/ 本文档介绍了如何使用 NCNN 部署 PyTorch 模型到 Android 手机，包括编译 NCNN、训练 YOLO、转换模型以及在不同平台上构建 NCNN 的详细步骤，涵盖了 Linux、Windows、macOS、ARM、Hisilicon、Android、iOS 和 WebAssembly 等多种平台。 使用 ncnn 布署 pytorch 模型到 Android 手机
  1. 编译 NCNN 时要打开显卡支持 vulkan 是针对 gpu 的 -DNCNN_VULKAN=ON
  2. MobileNetV3

編譯成 MT 時要打開 CMAKE 0091 特性

cmake_minimum_required(VERSION 3.20.0)
cmake_policy(SET CMP0091 NEW)
set(CMAKE_MSVC_RUNTIME_LIBRARY "MultiThreaded$<$<CONFIG:Debug>:Debug>")
project("client-project")

训练 YOLO

\Envs\torch\Scripts\activate.ps1
python train.py --batch 6 --workers 2 --imgsz 960 --epochs 300 --data "\Core\yaml\data.yaml" --cfg "\Core\yaml\cfg.yaml" --weights \Core\weights\best.pt --device 0

转换模型

from torch import nn
import torch.utils.model_zoo as model_zoo
import torch.onnx
from libs import define
from libs.net import Net
from libs.dataset import ImageDataset
import os

test_data = ImageDataset(define.testPath,False)
test_loader = torch.utils.data.DataLoader( test_data, batch_size=1, shuffle=True)

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model = Net(out_dim=19).to(device)
model.load_state_dict(torch.load( "./widget/last.pt" ))
model.eval()

def saveOnnx():
    for data, target in test_loader:
        data, target = data.to(device), target.to(device)
        label = target.long()
        y = model(data)
        # Export the model
        torch.onnx.export(model,                   # model being run
                        data,                      # model input (or a tuple for multiple inputs)
                        "./widget/best.onnx",            # where to save the model (can be a file or file-like object)
                        export_params=True,        # store the trained parameter weights inside the model file
                        opset_version=10,          # the ONNX version to export the model to
                        do_constant_folding=True,  # whether to execute constant folding for optimization
                        input_names = ['input'],   # the model's input names
                        output_names = ['output'],  # the model's output names
                        dynamic_axes={'input' : {0 : 'batch_size'},    # variable lenght axes
                                        'output' : {0 : 'batch_size'}})

        traced_script_module = torch.jit.trace(model, data)
        return

saveOnnx()
# 转换
os.system("python -m onnxsim ./widget/best.onnx ./widgetbest-sim.onnx")
os.system("./bin/onnx2ncnn.exe ./widget/best-sim.onnx ./widget/best.param ./widget/best.bin")
os.system("./bin/ncnnoptimize.exe ./widget/best.param ./widget/best.bin ./widget/best-opt.param ./widget/best-opt.bin 65536")

python .\export.py --weights weights/best.pt --img 960 --batch 1 --train
python -m onnxsim best.onnx best-sim.onnx
.\onnx2ncnn.exe best-sim.onnx best.param best.bin
ncnnoptimize best.param best.bin best-opt.param best-opt.bin 65536

Git clone ncnn repo with submodule

$ git clone https://github.com/Tencent/ncnn.git
$ cd ncnn
$ git submodule update --init

Build for Linux

Install required build dependencies:

  • git
  • g++
  • cmake
  • protocol buffer (protobuf) headers files and protobuf compiler
  • vulkan header files and loader library
  • glslang
  • (optional) opencv # For building examples

Generally if you have Intel, AMD or Nvidia GPU from last 10 years, Vulkan can be easily used.

On some systems there are no Vulkan drivers easily available at the moment (October 2020), so you might need to disable use of Vulkan on them. This applies to Raspberry Pi 3 (but there is experimental open source Vulkan driver in the works, which is not ready yet). Nvidia Tegra series devices (like Nvidia Jetson) should support Vulkan. Ensure you have most recent software installed for best expirience.

On Debian, Ubuntu or Raspberry Pi OS, you can install all required dependencies using:

sudo apt install build-essential git cmake libprotobuf-dev protobuf-compiler libvulkan-dev vulkan-utils libopencv-dev

To use Vulkan backend install Vulkan header files, a vulkan driver loader, GLSL to SPIR-V compiler and vulkaninfo tool. Preferably from your distribution repositories. Alternatively download and install full Vulkan SDK (about 200MB in size; it contains all header files, documentation and prebuilt loader, as well some extra tools and source code of everything) from https://vulkan.lunarg.com/sdk/home

wget https://sdk.lunarg.com/sdk/download/1.2.189.0/linux/vulkansdk-linux-x86_64-1.2.189.0.tar.gz?Human=true -O vulkansdk-linux-x86_64-1.2.189.0.tar.gz
tar -xf vulkansdk-linux-x86_64-1.2.189.0.tar.gz
export VULKAN_SDK=$(pwd)/1.2.189.0/x86_64

To use Vulkan after building ncnn later, you will also need to have Vulkan driver for your GPU. For AMD and Intel GPUs these can be found in Mesa graphics driver, which usually is installed by default on all distros (i.e. sudo apt install mesa-vulkan-drivers on Debian/Ubuntu). For Nvidia GPUs the proprietary Nvidia driver must be downloaded and installed (some distros will allow easier installation in some way). After installing Vulkan driver, confirm Vulkan libraries and driver are working, by using vulkaninfo or vulkaninfo | grep deviceType, it should list GPU device type. If there are more than one GPU installed (including the case of integrated GPU and discrete GPU, commonly found in laptops), you might need to note the order of devices to use later on.

Nvidia Jetson devices the Vulkan support should be present in Nvidia provided SDK (Jetpack) or prebuild OS images.

Raspberry Pi Vulkan drivers do exists, but are not mature. You are free to experiment at your own discretion, and report results and performance.

cd ncnn
mkdir -p build
cd build
cmake -DCMAKE_BUILD_TYPE=Release -DNCNN_VULKAN=ON -DNCNN_SYSTEM_GLSLANG=ON -DNCNN_BUILD_EXAMPLES=ON ..
make -j$(nproc)

You can add -GNinja to cmake above to use Ninja build system (invoke build using ninja or cmake --build .).

For Nvidia Jetson devices, add -DCMAKE_TOOLCHAIN_FILE=../toolchains/jetson.toolchain.cmake to cmake.

For Rasberry Pi 3, add -DCMAKE_TOOLCHAIN_FILE=../toolchains/pi3.toolchain.cmake -DPI3=ON to cmake. You can also consider disabling Vulkan support as the Vulkan drivers for Rasberry Pi are still not mature, but it doesn’t hurt to build the support in, but not use it.

Verify build by running some examples:

cd ../examples
../build/examples/squeezenet ../images/256-ncnn.png
[0 AMD RADV FIJI (LLVM 10.0.1)]  queueC=1[4]  queueG=0[1]  queueT=0[1]
[0 AMD RADV FIJI (LLVM 10.0.1)]  bugsbn1=0  buglbia=0  bugcopc=0  bugihfa=0
[0 AMD RADV FIJI (LLVM 10.0.1)]  fp16p=1  fp16s=1  fp16a=0  int8s=1  int8a=1
532 = 0.163452
920 = 0.093140
716 = 0.061584

You can also run benchmarks (the 4th argument is a GPU device index to use, refer to vulkaninfo, if you have more than one GPU):

cd ../benchmark
../build/benchmark/benchncnn 10 $(nproc) 0 0
[0 AMD RADV FIJI (LLVM 10.0.1)]  queueC=1[4]  queueG=0[1]  queueT=0[1]
[0 AMD RADV FIJI (LLVM 10.0.1)]  bugsbn1=0  buglbia=0  bugcopc=0  bugihfa=0
[0 AMD RADV FIJI (LLVM 10.0.1)]  fp16p=1  fp16s=1  fp16a=0  int8s=1  int8a=1
num_threads = 4
powersave = 0
gpu_device = 0
cooling_down = 1
          squeezenet  min =    4.68  max =    4.99  avg =    4.85
     squeezenet_int8  min =   38.52  max =   66.90  avg =   48.52
...

To run benchmarks on a CPU, set the 5th argument to -1.

Build for Windows x64 using Visual Studio Community 2017

Download and Install Visual Studio Community 2017 from https://visualstudio.microsoft.com/vs/community/

Start the command prompt: Start → Programs → Visual Studio 2017 → Visual Studio Tools → x64 Native Tools Command Prompt for VS 2017

Download protobuf-3.4.0 from https://github.com/google/protobuf/archive/v3.4.0.zip

Build protobuf library:

cd <protobuf-root-dir>
mkdir build
cd build
cmake -G"NMake Makefiles" -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=%cd%/install -Dprotobuf_BUILD_TESTS=OFF -Dprotobuf_MSVC_STATIC_RUNTIME=OFF ../cmake
nmake
nmake install

(optional) Download and install Vulkan SDK from https://vulkan.lunarg.com/sdk/home

Build ncnn library (replace protobuf-root-dir with a proper path):

cd <ncnn-root-dir>
mkdir -p build
cd build
cmake -G"NMake Makefiles" -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=%cd%/install -DProtobuf_INCLUDE_DIR=<protobuf-root-dir>/build/install/include -DProtobuf_LIBRARIES=<protobuf-root-dir>/build/install/lib/libprotobuf.lib -DProtobuf_PROTOC_EXECUTABLE=<protobuf-root-dir>/build/install/bin/protoc.exe -DNCNN_VULKAN=ON ..
nmake
nmake install

Note: To speed up compilation process on multi core machines, configuring cmake to use jom or ninja using -G flag is recommended.

Build for macOS

First install Xcode or Xcode Command Line Tools according to your needs.

Then install protobuf and libomp via homebrew

brew install protobuf libomp

Download and install Vulkan SDK from https://vulkan.lunarg.com/sdk/home

wget https://sdk.lunarg.com/sdk/download/1.2.189.0/mac/vulkansdk-macos-1.2.189.0.dmg?Human=true -O vulkansdk-macos-1.2.189.0.dmg
hdiutil attach vulkansdk-macos-1.2.189.0.dmg
sudo /Volumes/vulkansdk-macos-1.2.189.0/InstallVulkan.app/Contents/MacOS/InstallVulkan --root `pwd`/vulkansdk-macos-1.2.189.0 --accept-licenses --default-answer --confirm-command install
hdiutil detach /Volumes/vulkansdk-macos-1.2.189.0

# setup env
export VULKAN_SDK=`pwd`/vulkansdk-macos-1.2.189.0/macOS

cd <ncnn-root-dir>
mkdir -p build
cd build

cmake -DCMAKE_OSX_ARCHITECTURES="x86_64;arm64" \
    -DVulkan_INCLUDE_DIR=`pwd`/../vulkansdk-macos-1.2.189.0/MoltenVK/include \
    -DVulkan_LIBRARY=`pwd`/../vulkansdk-macos-1.2.189.0/MoltenVK/dylib/macOS/libMoltenVK.dylib \
    -DNCNN_VULKAN=ON -DNCNN_BUILD_EXAMPLES=ON ..

cmake --build . -j 4
cmake --build . --target install

Note: If you encounter libomp related errors during installation, you can also check our GitHub Actions at here to install and use openmp.

Build for ARM Cortex-A family with cross-compiling

Download ARM toolchain from https://developer.arm.com/open-source/gnu-toolchain/gnu-a/downloads

export PATH="<your-toolchain-compiler-path>:${PATH}"

Alternatively install a cross-compiler provided by the distribution (i.e. on Debian / Ubuntu, you can do sudo apt install g++-arm-linux-gnueabi g++-arm-linux-gnueabihf g++-aarch64-linux-gnu).

Depending on your needs build one or more of the below targets.

AArch32 target with soft float (arm-linux-gnueabi)

cd <ncnn-root-dir>
mkdir -p build-arm-linux-gnueabi
cd build-arm-linux-gnueabi
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/arm-linux-gnueabi.toolchain.cmake ..
make -j$(nproc)

AArch32 target with hard float (arm-linux-gnueabihf)

cd <ncnn-root-dir>
mkdir -p build-arm-linux-gnueabihf
cd build-arm-linux-gnueabihf
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/arm-linux-gnueabihf.toolchain.cmake ..
make -j$(nproc)

AArch64 GNU/Linux target (aarch64-linux-gnu)

cd <ncnn-root-dir>
mkdir -p build-aarch64-linux-gnu
cd build-aarch64-linux-gnu
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/aarch64-linux-gnu.toolchain.cmake ..
make -j$(nproc)

Build for Hisilicon platform with cross-compiling

Download and install Hisilicon SDK. The toolchain should be in /opt/hisi-linux/x86-arm

cd <ncnn-root-dir>
mkdir -p build
cd build

# Choose one cmake toolchain file depends on your target platform
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/hisiv300.toolchain.cmake ..
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/hisiv500.toolchain.cmake ..
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/himix100.toolchain.cmake ..
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/himix200.toolchain.cmake ..

make -j$(nproc)
make install

Build for Android

You can use the pre-build ncnn-android-lib.zip from https://github.com/Tencent/ncnn/releases

Download Android NDK from http://developer.android.com/ndk/downloads/index.html and install it, for example:

unzip android-ndk-r21d-linux-x86_64.zip
export ANDROID_NDK=<your-ndk-root-path>

(optional) remove the hardcoded debug flag in Android NDK android-ndk issue

# open $ANDROID_NDK/build/cmake/android.toolchain.cmake
# delete "-g" line
list(APPEND ANDROID_COMPILER_FLAGS
  -g
  -DANDROID

Build armv7 library

cd <ncnn-root-dir>
mkdir -p build-android-armv7
cd build-android-armv7

cmake -DCMAKE_TOOLCHAIN_FILE="$ANDROID_NDK/build/cmake/android.toolchain.cmake" \
    -DANDROID_ABI="armeabi-v7a" -DANDROID_ARM_NEON=ON \
    -DANDROID_PLATFORM=android-14 ..

# If you want to enable Vulkan, platform api version >= android-24 is needed
cmake -DCMAKE_TOOLCHAIN_FILE="$ANDROID_NDK/build/cmake/android.toolchain.cmake" \
  -DANDROID_ABI="armeabi-v7a" -DANDROID_ARM_NEON=ON \
  -DANDROID_PLATFORM=android-24 -DNCNN_VULKAN=ON ..

make -j$(nproc)
make install

Pick build-android-armv7/install folder for further JNI usage.

Build aarch64 library:

cd <ncnn-root-dir>
mkdir -p build-android-aarch64
cd build-android-aarch64

cmake -DCMAKE_TOOLCHAIN_FILE="$ANDROID_NDK/build/cmake/android.toolchain.cmake"\
  -DANDROID_ABI="arm64-v8a" \
  -DANDROID_PLATFORM=android-21 ..

# If you want to enable Vulkan, platform api version >= android-24 is needed
cmake -DCMAKE_TOOLCHAIN_FILE="$ANDROID_NDK/build/cmake/android.toolchain.cmake" \
  -DANDROID_ABI="arm64-v8a" \
  -DANDROID_PLATFORM=android-24 -DNCNN_VULKAN=ON ..

make -j$(nproc)
make install

Pick build-android-aarch64/install folder for further JNI usage.

Build for iOS on macOS with xcode

You can use the pre-build ncnn.framework glslang.framework and openmp.framework from https://github.com/Tencent/ncnn/releases

Install xcode

You can replace -DENABLE_BITCODE=0 to -DENABLE_BITCODE=1 in the following cmake arguments if you want to build bitcode enabled libraries.

Download and install openmp for multithreading inference feature on iPhoneOS

wget https://github.com/llvm/llvm-project/releases/download/llvmorg-11.0.0/openmp-11.0.0.src.tar.xz
tar -xf openmp-11.0.0.src.tar.xz
cd openmp-11.0.0.src

# apply some compilation fix
sed -i'' -e '/.size __kmp_unnamed_critical_addr/d' runtime/src/z_Linux_asm.S
sed -i'' -e 's/__kmp_unnamed_critical_addr/___kmp_unnamed_critical_addr/g' runtime/src/z_Linux_asm.S

mkdir -p build-ios
cd build-ios

cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/ios.toolchain.cmake -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=install \
    -DIOS_PLATFORM=OS -DENABLE_BITCODE=0 -DENABLE_ARC=0 -DENABLE_VISIBILITY=0 -DIOS_ARCH="armv7;arm64;arm64e" \
    -DPERL_EXECUTABLE=/usr/local/bin/perl \
    -DLIBOMP_ENABLE_SHARED=OFF -DLIBOMP_OMPT_SUPPORT=OFF -DLIBOMP_USE_HWLOC=OFF ..

cmake --build . -j 4
cmake --build . --target install

# copy openmp library and header files to xcode toolchain sysroot
sudo cp install/include/* /Applications/Xcode.app/Contents/Developer/Platforms/iPhoneOS.platform/Developer/SDKs/iPhoneOS.sdk/usr/include
sudo cp install/lib/libomp.a /Applications/Xcode.app/Contents/Developer/Platforms/iPhoneOS.platform/Developer/SDKs/iPhoneOS.sdk/usr/lib

Download and install openmp for multithreading inference feature on iPhoneSimulator

wget https://github.com/llvm/llvm-project/releases/download/llvmorg-11.0.0/openmp-11.0.0.src.tar.xz
tar -xf openmp-11.0.0.src.tar.xz
cd openmp-11.0.0.src

# apply some compilation fix
sed -i'' -e '/.size __kmp_unnamed_critical_addr/d' runtime/src/z_Linux_asm.S
sed -i'' -e 's/__kmp_unnamed_critical_addr/___kmp_unnamed_critical_addr/g' runtime/src/z_Linux_asm.S

mkdir -p build-ios-sim
cd build-ios-sim

cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/ios.toolchain.cmake -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=install \
    -DIOS_PLATFORM=SIMULATOR -DENABLE_BITCODE=0 -DENABLE_ARC=0 -DENABLE_VISIBILITY=0 -DIOS_ARCH="i386;x86_64" \
    -DPERL_EXECUTABLE=/usr/local/bin/perl \
    -DLIBOMP_ENABLE_SHARED=OFF -DLIBOMP_OMPT_SUPPORT=OFF -DLIBOMP_USE_HWLOC=OFF ..

cmake --build . -j 4
cmake --build . --target install

# copy openmp library and header files to xcode toolchain sysroot
sudo cp install/include/* /Applications/Xcode.app/Contents/Developer/Platforms/iPhoneSimulator.platform/Developer/SDKs/iPhoneSimulator.sdk/usr/include
sudo cp install/lib/libomp.a /Applications/Xcode.app/Contents/Developer/Platforms/iPhoneSimulator.platform/Developer/SDKs/iPhoneSimulator.sdk/usr/lib

Package openmp framework:

cd <openmp-root-dir>

mkdir -p openmp.framework/Versions/A/Headers
mkdir -p openmp.framework/Versions/A/Resources
ln -s A openmp.framework/Versions/Current
ln -s Versions/Current/Headers openmp.framework/Headers
ln -s Versions/Current/Resources openmp.framework/Resources
ln -s Versions/Current/openmp openmp.framework/openmp
lipo -create build-ios/install/lib/libomp.a build-ios-sim/install/lib/libomp.a -o openmp.framework/Versions/A/openmp
cp -r build-ios/install/include/* openmp.framework/Versions/A/Headers/
sed -e 's/__NAME__/openmp/g' -e 's/__IDENTIFIER__/org.llvm.openmp/g' -e 's/__VERSION__/11.0/g' Info.plist > openmp.framework/Versions/A/Resources/Info.plist

Download and install Vulkan SDK from https://vulkan.lunarg.com/sdk/home

wget https://sdk.lunarg.com/sdk/download/1.2.189.0/mac/vulkansdk-macos-1.2.189.0.dmg?Human=true -O vulkansdk-macos-1.2.189.0.dmg
hdiutil attach vulkansdk-macos-1.2.189.0.dmg
sudo /Volumes/vulkansdk-macos-1.2.189.0/InstallVulkan.app/Contents/MacOS/InstallVulkan --root `pwd`/vulkansdk-macos-1.2.189.0 --accept-licenses --default-answer --confirm-command install
hdiutil detach /Volumes/vulkansdk-macos-1.2.189.0

# setup env
export VULKAN_SDK=`pwd`/vulkansdk-macos-1.2.189.0/macOS

Build library for iPhoneOS:

cd <ncnn-root-dir>
mkdir -p build-ios
cd build-ios

cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/ios.toolchain.cmake -DIOS_PLATFORM=OS -DIOS_ARCH="armv7;arm64;arm64e" \
    -DENABLE_BITCODE=0 -DENABLE_ARC=0 -DENABLE_VISIBILITY=0 \
    -DOpenMP_C_FLAGS="-Xclang -fopenmp" -DOpenMP_CXX_FLAGS="-Xclang -fopenmp" \
    -DOpenMP_C_LIB_NAMES="libomp" -DOpenMP_CXX_LIB_NAMES="libomp" \
    -DOpenMP_libomp_LIBRARY="/Applications/Xcode.app/Contents/Developer/Platforms/iPhoneOS.platform/Developer/SDKs/iPhoneOS.sdk/usr/lib/libomp.a" \
    -DNCNN_BUILD_BENCHMARK=OFF ..

# vulkan is only available on arm64 devices
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/ios.toolchain.cmake -DIOS_PLATFORM=OS64 -DIOS_ARCH="arm64;arm64e" \
    -DENABLE_BITCODE=0 -DENABLE_ARC=0 -DENABLE_VISIBILITY=0 \
    -DOpenMP_C_FLAGS="-Xclang -fopenmp" -DOpenMP_CXX_FLAGS="-Xclang -fopenmp" \
    -DOpenMP_C_LIB_NAMES="libomp" -DOpenMP_CXX_LIB_NAMES="libomp" \
    -DOpenMP_libomp_LIBRARY="/Applications/Xcode.app/Contents/Developer/Platforms/iPhoneOS.platform/Developer/SDKs/iPhoneOS.sdk/usr/lib/libomp.a" \
    -DVulkan_INCLUDE_DIR=`pwd`/../vulkansdk-macos-1.2.189.0/MoltenVK/include \
    -DVulkan_LIBRARY=`pwd`/../vulkansdk-macos-1.2.189.0/MoltenVK/dylib/iOS/libMoltenVK.dylib \
    -DNCNN_VULKAN=ON -DNCNN_BUILD_BENCHMARK=OFF ..

cmake --build . -j 4
cmake --build . --target install

Build library for iPhoneSimulator:

cd <ncnn-root-dir>
mkdir -p build-ios-sim
cd build-ios-sim

cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/ios.toolchain.cmake -DIOS_PLATFORM=SIMULATOR -DIOS_ARCH="i386;x86_64" \
    -DENABLE_BITCODE=0 -DENABLE_ARC=0 -DENABLE_VISIBILITY=0 \
    -DOpenMP_C_FLAGS="-Xclang -fopenmp" -DOpenMP_CXX_FLAGS="-Xclang -fopenmp" \
    -DOpenMP_C_LIB_NAMES="libomp" -DOpenMP_CXX_LIB_NAMES="libomp" \
    -DOpenMP_libomp_LIBRARY="/Applications/Xcode.app/Contents/Developer/Platforms/iPhoneSimulator.platform/Developer/SDKs/iPhoneSimulator.sdk/usr/lib/libomp.a" \
    -DNCNN_BUILD_BENCHMARK=OFF ..

cmake --build . -j 4
cmake --build . --target install

Package glslang framework:

cd <ncnn-root-dir>

mkdir -p glslang.framework/Versions/A/Headers
mkdir -p glslang.framework/Versions/A/Resources
ln -s A glslang.framework/Versions/Current
ln -s Versions/Current/Headers glslang.framework/Headers
ln -s Versions/Current/Resources glslang.framework/Resources
ln -s Versions/Current/glslang glslang.framework/glslang
libtool -static build-ios/install/lib/libglslang.a build-ios/install/lib/libSPIRV.a build-ios/install/lib/libOGLCompiler.a build-ios/install/lib/libOSDependent.a -o build-ios/install/lib/libglslang_combined.a
libtool -static build-ios-sim/install/lib/libglslang.a build-ios-sim/install/lib/libSPIRV.a build-ios-sim/install/lib/libOGLCompiler.a build-ios-sim/install/lib/libOSDependent.a -o build-ios-sim/install/lib/libglslang_combined.a
lipo -create build-ios/install/lib/libglslang_combined.a build-ios-sim/install/lib/libglslang_combined.a -o glslang.framework/Versions/A/glslang
cp -r build/install/include/glslang glslang.framework/Versions/A/Headers/
sed -e 's/__NAME__/glslang/g' -e 's/__IDENTIFIER__/org.khronos.glslang/g' -e 's/__VERSION__/1.0/g' Info.plist > glslang.framework/Versions/A/Resources/Info.plist

Package ncnn framework:

cd <ncnn-root-dir>

mkdir -p ncnn.framework/Versions/A/Headers
mkdir -p ncnn.framework/Versions/A/Resources
ln -s A ncnn.framework/Versions/Current
ln -s Versions/Current/Headers ncnn.framework/Headers
ln -s Versions/Current/Resources ncnn.framework/Resources
ln -s Versions/Current/ncnn ncnn.framework/ncnn
lipo -create build-ios/install/lib/libncnn.a build-ios-sim/install/lib/libncnn.a -o ncnn.framework/Versions/A/ncnn
cp -r build-ios/install/include/* ncnn.framework/Versions/A/Headers/
sed -e 's/__NAME__/ncnn/g' -e 's/__IDENTIFIER__/com.tencent.ncnn/g' -e 's/__VERSION__/1.0/g' Info.plist > ncnn.framework/Versions/A/Resources/Info.plist

Pick ncnn.framework glslang.framework and openmp.framework folder for app development.

Build for WebAssembly

Install Emscripten

git clone https://github.com/emscripten-core/emsdk.git
cd emsdk
./emsdk install 2.0.8
./emsdk activate 2.0.8

source emsdk/emsdk_env.sh

Build without any extension for general compatibility:

mkdir -p build
cd build
cmake -DCMAKE_TOOLCHAIN_FILE=../emsdk/upstream/emscripten/cmake/Modules/Platform/Emscripten.cmake \
    -DNCNN_THREADS=OFF -DNCNN_OPENMP=OFF -DNCNN_SIMPLEOMP=OFF -DNCNN_RUNTIME_CPU=OFF -DNCNN_SSE2=OFF -DNCNN_AVX2=OFF -DNCNN_AVX=OFF \
    -DNCNN_BUILD_TOOLS=OFF -DNCNN_BUILD_EXAMPLES=OFF -DNCNN_BUILD_BENCHMARK=OFF ..
cmake --build . -j 4
cmake --build . --target install

Build with WASM SIMD extension:

mkdir -p build-simd
cd build-simd
cmake -DCMAKE_TOOLCHAIN_FILE=../emsdk/upstream/emscripten/cmake/Modules/Platform/Emscripten.cmake \
    -DNCNN_THREADS=OFF -DNCNN_OPENMP=OFF -DNCNN_SIMPLEOMP=OFF -DNCNN_RUNTIME_CPU=OFF -DNCNN_SSE2=ON -DNCNN_AVX2=OFF -DNCNN_AVX=OFF \
    -DNCNN_BUILD_TOOLS=OFF -DNCNN_BUILD_EXAMPLES=OFF -DNCNN_BUILD_BENCHMARK=OFF ..
cmake --build . -j 4
cmake --build . --target install

Build with WASM Thread extension:

mkdir -p build-threads
cd build-threads
cmake -DCMAKE_TOOLCHAIN_FILE=../emsdk/upstream/emscripten/cmake/Modules/Platform/Emscripten.cmake \
    -DNCNN_THREADS=ON -DNCNN_OPENMP=ON -DNCNN_SIMPLEOMP=ON -DNCNN_RUNTIME_CPU=OFF -DNCNN_SSE2=OFF -DNCNN_AVX2=OFF -DNCNN_AVX=OFF \
    -DNCNN_BUILD_TOOLS=OFF -DNCNN_BUILD_EXAMPLES=OFF -DNCNN_BUILD_BENCHMARK=OFF ..
cmake --build . -j 4
cmake --build . --target install

Build with WASM SIMD and Thread extension:

mkdir -p build-simd-threads
cd build-simd-threads
cmake -DCMAKE_TOOLCHAIN_FILE=../emsdk/upstream/emscripten/cmake/Modules/Platform/Emscripten.cmake \
    -DNCNN_THREADS=ON -DNCNN_OPENMP=ON -DNCNN_SIMPLEOMP=ON -DNCNN_RUNTIME_CPU=OFF -DNCNN_SSE2=ON -DNCNN_AVX2=OFF -DNCNN_AVX=OFF \
    -DNCNN_BUILD_TOOLS=OFF -DNCNN_BUILD_EXAMPLES=OFF -DNCNN_BUILD_BENCHMARK=OFF ..
cmake --build . -j 4
cmake --build . --target install

Pick build-XYZ/install folder for further usage.

Build for AllWinner D1

Download c906 toolchain package from https://occ.t-head.cn/community/download?id=3913221581316624384

tar -xf riscv64-linux-x86_64-20210512.tar.gz
export RISCV_ROOT_PATH=/home/nihui/osd/riscv64-linux-x86_64-20210512

Build ncnn with riscv-v vector and simpleocv enabled:

mkdir -p build-c906
cd build-c906
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/c906.toolchain.cmake \
    -DCMAKE_BUILD_TYPE=relwithdebinfo -DNCNN_OPENMP=OFF -DNCNN_THREADS=OFF -DNCNN_RUNTIME_CPU=OFF -DNCNN_RVV=ON \
    -DNCNN_SIMPLEOCV=ON -DNCNN_BUILD_EXAMPLES=ON ..
cmake --build . -j 4
cmake --build . --target install

Pick build-c906/install folder for further usage.

You can upload binary inside build-c906/examples folder and run on D1 board for testing.

Build for Loongson 2K1000

For gcc version < 8.5, you need to fix msa.h header for workaround msa fmadd bug.

Open /usr/lib/gcc/mips64el-linux-gnuabi64/8/include/msa.h, find __msa_fmadd_w and apply changes as the following

// #define __msa_fmadd_w __builtin_msa_fmadd_w
#define __msa_fmadd_w(a, b, c) __builtin_msa_fmadd_w(c, b, a)

Build ncnn with mips msa and simpleocv enabled:

mkdir -p build
cd build
cmake -DNCNN_DISABLE_RTTI=ON -DNCNN_DISABLE_EXCEPTION=ON -DNCNN_RUNTIME_CPU=OFF -DNCNN_MSA=ON -DNCNN_MMI=ON -DNCNN_SIMPLEOCV=ON ..
cmake --build . -j 2
cmake --build . --target install

Pick build/install folder for further usage.

You can run binary inside build/examples folder for testing.

Build for Termux on Android

Install app Termux on your phone,and install Ubuntu in Termux.

If you want use ssh, just install openssh in Termux

pkg install proot-distro
proot-distro install ubuntu

or you can see what system can be installed using proot-distro list

while you install ubuntu successfully, using proot-distro login ubuntu to login Ubuntu.

Then make ncnn,no need to install any other dependencies.

git clone https://github.com/Tencent/ncnn.git
cd ncnn
git submodule update --init
mkdir -p build
cd build
cmake -DCMAKE_BUILD_TYPE=Release -DNCNN_BUILD_EXAMPLES=ON -DNCNN_PLATFORM_API=OFF -DNCNN_SIMPLEOCV=ON ..
make -j$(nproc)

Then you can run a test

on my Pixel 3 XL using Qualcomm 845,cant load 256-ncnn.png

cd ../examples
../build/examples/squeezenet ../images/128-ncnn.png
]]> 在Android 11 上使用 LLDV 调试原生程序 https://xgdebug.com/zh/posts/tech/debug/using-lldv-to-debug-native-android-11/ Sat, 28 Sep 2024 04:32:12 +0000 https://xgdebug.com/zh/posts/tech/debug/using-lldv-to-debug-native-android-11/ 本文详细介绍了如何通过 ADB 和 LLDB 在手机端和电脑端搭建调试环境，并提供了从启动调试服务到附加进程、设置断点等完整操作步骤。 手机端

PUSH 调试服务器到手机

adb push lldb-server /data/local/tmp
chmod 755 /data/local/tmp/lldb-server

启动调试器服务

/data/local/tmp/lldb-server platform --listen "*:8888" --server

电脑端

端口转发

adb forward tcp:8888 tcp:8888

启动 LLDB

.\lldb.exe

查看支持平台

platform list

选 ANDROID 平台

platform select remote-android

连接到手机 手机序列号: 9643e0ec0604 要换成当前调试的手机,使用 adb devices 查看序列号

platform connect connect://9643e0ec0604:8888

查看当前正在运行的进程

platform process list

附加上去

attach 9053

下断点

b send

跑起来

c

查看线程列表

thread list

查看调用栈

bt
]]> Arch安装stable-diffusion-webui中遇到的一些坑 https://xgdebug.com/zh/posts/tech/linux/arch-sd-webui-pitfalls/ Tue, 12 Sep 2023 15:21:53 +0000 https://xgdebug.com/zh/posts/tech/linux/arch-sd-webui-pitfalls/ <p>1. 不要使用清华的源，要用阿里的，因为清华的源不全<br> 2. 要使用 python launch.py 来安装一些 git 库<br> 3. 要安装 requirements_versions.txt 带版本的 pip 库<br> 4. 可以使用 python webui.py &ndash;port=7860 &ndash;server=0.0.0.0 &ndash;medvram 节省显存</p> 1. 不要使用清华的源，要用阿里的，因为清华的源不全
2. 要使用 python launch.py 来安装一些 git 库
3. 要安装 requirements_versions.txt 带版本的 pip 库
4. 可以使用 python webui.py –port=7860 –server=0.0.0.0 –medvram 节省显存

]]> 用 ncnn 部署 PyTorch 模型到 Android 手机 https://xgdebug.com/zh/posts/tech/ai/use-ncnn-deploy-pytorch-model-android/ Fri, 11 Aug 2023 01:18:11 +0000 https://xgdebug.com/zh/posts/tech/ai/use-ncnn-deploy-pytorch-model-android/ <h2 id="使用-ncnn-将-pytorch-模型部署到安卓手机">使用 ncnn 将 pytorch 模型部署到安卓手机</h2> <ol> <li>在编译 NCNN 时开启图形卡支持。Vulkan 用于 GPU，设置 <code>-DNCNN_VULKAN=ON</code>。</li> <li>MobileNetV3</li> </ol> <h2 id="在编译到-mt-时开启-cmake-0091-特性">在编译到 MT 时开启 CMAKE 0091 特性</h2> <div class="highlight"><pre tabindex="0" class="chroma"><code class="language-bash" data-lang="bash"><span class="line"><span class="cl">cmake_minimum_required<span class="o">(</span>VERSION 3.20.0<span class="o">)</span> </span></span><span class="line"><span class="cl">cmake_policy<span class="o">(</span>SET CMP0091 NEW<span class="o">)</span> </span></span><span class="line"><span class="cl">set<span class="o">(</span>CMAKE_MSVC_RUNTIME_LIBRARY <span class="s2">&#34;MultiThreaded</span>$<span class="s2">&lt;</span>$<span class="s2">&lt;CONFIG:Debug&gt;:Debug&gt;&#34;</span><span class="o">)</span> </span></span><span class="line"><span class="cl">project<span class="o">(</span><span class="s2">&#34;client-project&#34;</span><span class="o">)</span> </span></span></code></pre></div><h3 id="训练-yolo">训练 YOLO</h3> <div class="highlight"><pre tabindex="0" class="chroma"><code class="language-bash" data-lang="bash"><span class="line"><span class="cl"><span class="se">\E</span>nvs<span class="se">\t</span>orch<span class="se">\S</span>cripts<span class="se">\a</span>ctivate.ps1 </span></span><span class="line"><span class="cl">python train.py --batch <span class="m">6</span> --workers <span class="m">2</span> --imgsz <span class="m">960</span> --epochs <span class="m">300</span> --data <span class="s2">&#34;\Core\yaml\data.yaml&#34;</span> --cfg <span class="s2">&#34;\Core\yaml\cfg.yaml&#34;</span> --weights <span class="se">\ </span>Core<span class="se">\w</span>eights<span class="se">\b</span>est.pt --device <span class="m">0</span> </span></span></code></pre></div><h4 id="模型转换">模型转换</h4> <div class="highlight"><pre tabindex="0" class="chroma"><code class="language-bash" data-lang="bash"><span class="line"><span class="cl">from torch import nn </span></span><span class="line"><span class="cl">import torch.utils.model_zoo as model_zoo </span></span><span class="line"><span class="cl">import torch.onnx </span></span><span class="line"><span class="cl">from libs import define </span></span><span class="line"><span class="cl">from libs.net import Net </span></span><span class="line"><span class="cl">from libs.dataset import ImageDataset </span></span><span class="line"><span class="cl">import os </span></span><span class="line"><span class="cl"> </span></span><span class="line"><span class="cl"><span class="nv">test_data</span> <span class="o">=</span> ImageDataset<span class="o">(</span>define.testPath,False<span class="o">)</span> </span></span><span class="line"><span class="cl"><span class="nv">test_loader</span> <span class="o">=</span> torch.utils.data.DataLoader<span class="o">(</span> test_data, <span class="nv">batch_size</span><span class="o">=</span>1, <span class="nv">shuffle</span><span class="o">=</span>True<span class="o">)</span> </span></span><span class="line"><span class="cl"> </span></span><span class="line"><span class="cl"><span class="nv">device</span> <span class="o">=</span> torch.device<span class="o">(</span><span class="s2">&#34;cuda&#34;</span> <span class="k">if</span> torch.cuda.is_available<span class="o">()</span> <span class="k">else</span> <span class="s2">&#34;cpu&#34;</span><span class="o">)</span> </span></span><span class="line"><span class="cl"><span class="nv">model</span> <span class="o">=</span> Net<span class="o">(</span><span class="nv">out_dim</span><span class="o">=</span>19<span class="o">)</span>.to<span class="o">(</span>device<span class="o">)</span> </span></span><span class="line"><span class="cl">model.load_state_dict<span class="o">(</span>torch.load<span class="o">(</span> <span class="s2">&#34;./widget/last.pt&#34;</span> <span class="o">))</span> </span></span><span class="line"><span class="cl">model.eval<span class="o">()</span> </span></span><span class="line"><span class="cl"> </span></span><span class="line"><span class="cl">def saveOnnx<span class="o">()</span>: </span></span><span class="line"><span class="cl"> <span class="k">for</span> data, target in test_loader: </span></span><span class="line"><span class="cl"> data, <span class="nv">target</span> <span class="o">=</span> data.to<span class="o">(</span>device<span class="o">)</span>, target.to<span class="o">(</span>device<span class="o">)</span> </span></span><span class="line"><span class="cl"> <span class="nv">label</span> <span class="o">=</span> target.long<span class="o">()</span> </span></span><span class="line"><span class="cl"> <span class="nv">y</span> <span class="o">=</span> model<span class="o">(</span>data<span class="o">)</span> </span></span><span class="line"><span class="cl"> <span class="c1"># 导出模型</span> </span></span><span class="line"><span class="cl"> torch.onnx.export<span class="o">(</span>model, <span class="c1"># 正在运行的模型</span> </span></span><span class="line"><span class="cl"> data, <span class="c1"># 模型输入（或多个输入的元组）</span> </span></span><span class="line"><span class="cl"> <span class="s2">&#34;./widget/best.onnx&#34;</span>, <span class="c1"># 保存模型的位置（可以是文件或文件对象）</span> </span></span><span class="line"><span class="cl"> <span class="nv">export_params</span><span class="o">=</span>True, <span class="c1"># 将训练好的参数权重存储在模型文件中</span> </span></span><span class="line"><span class="cl"> <span class="nv">opset_version</span><span class="o">=</span>10, <span class="c1"># 导出模型的 ONNX 版本</span> </span></span><span class="line"><span class="cl"> <span class="nv">do_constant_folding</span><span class="o">=</span>True, <span class="c1"># 是否执行常量折叠以进行优化</span> </span></span><span class="line"><span class="cl"> <span class="nv">input_names</span> <span class="o">=</span> <span class="o">[</span><span class="s1">&#39;input&#39;</span><span class="o">]</span>, <span class="c1"># 模型的输入名称</span> </span></span><span class="line"><span class="cl"> <span class="nv">output_names</span> <span class="o">=</span> <span class="o">[</span><span class="s1">&#39;output&#39;</span><span class="o">]</span>, <span class="c1"># 模型的输出名称</span> </span></span><span class="line"><span class="cl"> <span class="nv">dynamic_axes</span><span class="o">={</span><span class="s1">&#39;input&#39;</span>: <span class="o">{</span>0:<span class="s1">&#39;batch_size&#39;</span><span class="o">}</span>, <span class="c1"># 可变长度轴</span> </span></span><span class="line"><span class="cl"> <span class="s1">&#39;output&#39;</span>: <span class="o">{</span>0:<span class="s1">&#39;batch_size&#39;</span><span class="o">}})</span> </span></span><span class="line"><span class="cl"> </span></span><span class="line"><span class="cl"> <span class="nv">traced_script_module</span> <span class="o">=</span> torch.jit.trace<span class="o">(</span>model, data<span class="o">)</span> </span></span><span class="line"><span class="cl"> <span class="k">return</span> </span></span><span class="line"><span class="cl"> </span></span><span class="line"><span class="cl">saveOnnx<span class="o">()</span> </span></span><span class="line"><span class="cl"><span class="c1"># 转换</span> </span></span><span class="line"><span class="cl">os.system<span class="o">(</span><span class="s2">&#34;python -m onnxsim ./widget/best.onnx ./widgetbest-sim.onnx&#34;</span><span class="o">)</span> </span></span><span class="line"><span class="cl">os.system<span class="o">(</span><span class="s2">&#34;./bin/onnx2ncnn.exe ./widget/best-sim.onnx ./widget/best.param ./widget/best.bin&#34;</span><span class="o">)</span> </span></span><span class="line"><span class="cl">os.system<span class="o">(</span><span class="s2">&#34;./bin/ncnnoptimize.exe ./widget/best.param ./widget/best.bin ./widget/best-opt.param ./widget/best-opt.bin 65536&#34;</span><span class="o">)</span> </span></span><span class="line"><span class="cl"> </span></span><span class="line"><span class="cl">python .<span class="se">\e</span>xport.py --weights weights/best.pt --img <span class="m">960</span> --batch <span class="m">1</span> --train </span></span><span class="line"><span class="cl">python -m onnxsim best.onnx best-sim.onnx </span></span><span class="line"><span class="cl">.<span class="se">\o</span>nnx2ncnn.exe best-sim.onnx best.param best.bin </span></span><span class="line"><span class="cl">ncnnoptimize best.param best.bin best-opt.param best-opt.bin <span class="m">65536</span> </span></span></code></pre></div><h3 id="git-克隆-ncnn-仓库及子模块">Git 克隆 ncnn 仓库及子模块</h3> <pre tabindex="0"><code>$ git clone https://github.com/Tencent/ncnn.git $ cd ncnn $ git submodule update --init </code></pre><ul> <li><a href="https://xgdebug.com/zh/posts/tech/ai/use-ncnn-deploy-pytorch-model-android/#build-for-linux">为 Linux 构建</a></li> <li><a href="https://xgdebug.com/zh/posts/tech/ai/use-ncnn-deploy-pytorch-model-android/#build-for-windows-x64-using-visual-studio-community-2017">使用 VS2017 为 Windows x64 构建</a></li> <li><a href="https://xgdebug.com/zh/posts/tech/ai/use-ncnn-deploy-pytorch-model-android/#build-for-macos">为 macOS 构建</a></li> <li><a href="https://xgdebug.com/zh/posts/tech/ai/use-ncnn-deploy-pytorch-model-android/#build-for-arm-cortex-a-family-with-cross-compiling">使用交叉编译为 ARM Cortex-A 系列构建</a></li> <li><a href="https://xgdebug.com/zh/posts/tech/ai/use-ncnn-deploy-pytorch-model-android/#build-for-hisilicon-platform-with-cross-compiling">使用交叉编译为 Hisilicon 平台构建</a></li> <li><a href="https://xgdebug.com/zh/posts/tech/ai/use-ncnn-deploy-pytorch-model-android/#build-for-android">为 Android 构建</a></li> <li><a href="https://xgdebug.com/zh/posts/tech/ai/use-ncnn-deploy-pytorch-model-android/#build-for-ios-on-macos-with-xcode">在 macOS 上使用 xcode 为 iOS 构建</a></li> <li><a href="https://xgdebug.com/zh/posts/tech/ai/use-ncnn-deploy-pytorch-model-android/#build-for-webassembly">为 WebAssembly 构建</a></li> <li><a href="https://xgdebug.com/zh/posts/tech/ai/use-ncnn-deploy-pytorch-model-android/#build-for-allwinner-d1">为 AllWinner D1 构建</a></li> <li><a href="https://xgdebug.com/zh/posts/tech/ai/use-ncnn-deploy-pytorch-model-android/#build-for-loongson-2k1000">为 Loongson 2K1000 构建</a></li> <li><a href="https://xgdebug.com/zh/posts/tech/ai/use-ncnn-deploy-pytorch-model-android/#build-for-termux-on-android">为 Android 上的 Termux 构建</a></li> </ul> <hr> <h3 id="为-linux-构建">为 Linux 构建</h3> <p>安装所需的构建依赖项：</p> 使用 ncnn 将 pytorch 模型部署到安卓手机
  1. 在编译 NCNN 时开启图形卡支持。Vulkan 用于 GPU，设置 -DNCNN_VULKAN=ON。
  2. MobileNetV3

在编译到 MT 时开启 CMAKE 0091 特性

cmake_minimum_required(VERSION 3.20.0)
cmake_policy(SET CMP0091 NEW)
set(CMAKE_MSVC_RUNTIME_LIBRARY "MultiThreaded$<$<CONFIG:Debug>:Debug>")
project("client-project")

训练 YOLO

\Envs\torch\Scripts\activate.ps1
python train.py --batch 6 --workers 2 --imgsz 960 --epochs 300 --data "\Core\yaml\data.yaml" --cfg "\Core\yaml\cfg.yaml" --weights \ Core\weights\best.pt --device 0

模型转换

from torch import nn
import torch.utils.model_zoo as model_zoo
import torch.onnx
from libs import define
from libs.net import Net
from libs.dataset import ImageDataset
import os

test_data = ImageDataset(define.testPath,False)
test_loader = torch.utils.data.DataLoader( test_data, batch_size=1, shuffle=True)

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model = Net(out_dim=19).to(device)
model.load_state_dict(torch.load( "./widget/last.pt" ))
model.eval()

def saveOnnx():
    for data, target in test_loader:
        data, target = data.to(device), target.to(device)
        label = target.long()
        y = model(data)
        # 导出模型
        torch.onnx.export(model, # 正在运行的模型
                        data, # 模型输入（或多个输入的元组）
                        "./widget/best.onnx", # 保存模型的位置（可以是文件或文件对象）
                        export_params=True, # 将训练好的参数权重存储在模型文件中
                        opset_version=10, # 导出模型的 ONNX 版本
                        do_constant_folding=True, # 是否执行常量折叠以进行优化
                        input_names = ['input'], # 模型的输入名称
                        output_names = ['output'], # 模型的输出名称
                        dynamic_axes={'input': {0:'batch_size'}, # 可变长度轴
                                        'output': {0:'batch_size'}})

        traced_script_module = torch.jit.trace(model, data)
        return

saveOnnx()
# 转换
os.system("python -m onnxsim ./widget/best.onnx ./widgetbest-sim.onnx")
os.system("./bin/onnx2ncnn.exe ./widget/best-sim.onnx ./widget/best.param ./widget/best.bin")
os.system("./bin/ncnnoptimize.exe ./widget/best.param ./widget/best.bin ./widget/best-opt.param ./widget/best-opt.bin 65536")

python .\export.py --weights weights/best.pt --img 960 --batch 1 --train
python -m onnxsim best.onnx best-sim.onnx
.\onnx2ncnn.exe best-sim.onnx best.param best.bin
ncnnoptimize best.param best.bin best-opt.param best-opt.bin 65536

Git 克隆 ncnn 仓库及子模块

$ git clone https://github.com/Tencent/ncnn.git
$ cd ncnn
$ git submodule update --init

为 Linux 构建

安装所需的构建依赖项：

  • git
  • g++
  • cmake
  • protocol buffer (protobuf) 头文件和 protobuf 编译器
  • vulkan 头文件和加载器库
  • glslang
  • (可选) opencv # 用于构建示例

一般来说，如果你拥有过去 10 年的 Intel、AMD 或 Nvidia GPU，Vulkan 就可以轻松使用。

在某些系统上，目前（2020 年 10 月）可能没有易于获得的 Vulkan 驱动，因此你可能需要禁用 Vulkan 的使用。这适用于 Raspberry Pi 3（但正在开发中有一个实验性的开源 Vulkan 驱动，尚未准备好）。Nvidia Tegra 系列设备（如 Nvidia Jetson）应该支持 Vulkan。确保安装了最新的软件以获得最佳体验。

在 Debian、Ubuntu 或 Raspberry Pi OS 上，你可以使用以下命令安装所有必需的依赖项：

sudo apt install build-essential git cmake libprotobuf-dev protobuf-compiler libvulkan-dev vulkan-utils libopencv-dev

要使用 Vulkan 后端，你需要安装 Vulkan 头文件、一个 Vulkan 驱动加载器、GLSL 到 SPIR-V 编译器和 vulkaninfo 工具。最好从你的发行版仓库中获取。或者，从 https://vulkan.lunarg.com/sdk/home 下载并安装完整的 Vulkan SDK（大小约为 200MB；它包含所有头文件、文档和预构建加载器，以及一些额外的工具和所有内容的源代码）。

wget https://sdk.lunarg.com/sdk/download/1.2.189.0/linux/vulkansdk-linux-x86_64-1.2.189.0.tar.gz?Human=true -O vulkansdk-linux-x86_64-1.2.189.0.tar.gz
tar -xf vulkansdk-linux-x86_64-1.2.189.0.tar.gz
export VULKAN_SDK=$(pwd)/1.2.189.0/x86_64

在稍后构建 ncnn 时使用 Vulkan，你还需要为你的 GPU 拥有 Vulkan 驱动。对于 AMD 和 Intel GPU，这些可以在 Mesa 图形驱动中找到，通常在所有发行版中默认安装（例如，在 Debian/Ubuntu 上使用 sudo apt install mesa-vulkan-drivers）。对于 Nvidia GPU，必须下载并安装专有 Nvidia 驱动（某些发行版会以更简单的方式允许安装）。安装 Vulkan 驱动后，使用 vulkaninfo 或 vulkaninfo | grep deviceType 确认 Vulkan 库和驱动是否正常工作，它应该列出 GPU 设备类型。如果安装了多个 GPU（包括集成 GPU 和独立 GPU 的情况，常见于笔记本电脑），你可能需要记下设备的顺序以便稍后使用。

Nvidia Jetson 设备中的 Vulkan 支持应包含在 Nvidia 提供的 SDK (Jetpack) 或预构建的操作系统镜像中。

Raspberry Pi 的 Vulkan 驱动是存在的，但尚未成熟。你可以根据自己的判断进行实验，并报告结果和性能。

cd ncnn
mkdir -p build
cd build
cmake -DCMAKE_BUILD_TYPE=Release -DNCNN_VULKAN=ON -DNCNN_SYSTEM_GLSLANG=ON -DNCNN_BUILD_EXAMPLES=ON ..
make -j$(nproc)

你可以向上面的 cmake 添加 -GNinja 来使用 Ninja 构建系统（使用 ninja 或 cmake --build . 调用构建）。

对于 Nvidia Jetson 设备，向 cmake 添加 -DCMAKE_TOOLCHAIN_FILE=../toolchains/jetson.toolchain.cmake。

对于 Rasberry Pi 3，向 cmake 添加 -DCMAKE_TOOLCHAIN_FILE=../toolchains/pi3.toolchain.cmake -DPI3=ON。你也可以考虑禁用 Vulkan 支持，因为 Raspberry Pi 的 Vulkan 驱动仍不成熟，但启用支持并未使用它也不会有坏处。

通过运行一些示例来验证构建：

cd ../examples
../build/examples/squeezenet ../images/256-ncnn.png
[0 AMD RADV FIJI (LLVM 10.0.1)] queueC=1[4] queueG=0[1] queueT=0[1]
[0 AMD RADV FIJI (LLVM 10.0.1)] bugsbn1=0 buglbia=0 bugcopc=0 bugihfa=0
[0 AMD RADV FIJI (LLVM 10.0.1)] fp16p=1 fp16s=1 fp16a=0 int8s=1 int8a=1
532 = 0.163452
920 = 0.093140
716 = 0.061584

你也可以运行基准测试（第 4 个参数是使用的 GPU 设备索引，参考 vulkaninfo，如果你有多个 GPU）：

cd ../benchmark
../build/benchmark/benchncnn 10 $(nproc) 0 0
[0 AMD RADV FIJI (LLVM 10.0.1)] queueC=1[4] queueG=0[1] queueT=0[1]
[0 AMD RADV FIJI (LLVM 10.0.1)] bugsbn1=0 buglbia=0 bugcopc=0 bugihfa=0
[0 AMD RADV FIJI (LLVM 10.0.1)] fp16p=1 fp16s=1 fp16a=0 int8s=1 int8a=1
num_threads = 4
powersave = 0
gpu_device = 0
cooling_down = 1
squeezenet min = 4.68 max = 4.99 avg = 4.85
squeezenet_int8 min = 38.52 max = 66.90 avg = 48.52

要在 CPU 上运行基准测试，将第 5 个参数设置为 -1。

使用 Visual Studio Community 2017 为 Windows x64 构建

从 https://visualstudio.microsoft.com/vs/community/ 下载并安装 Visual Studio Community 2017。

启动命令提示符：Start → Programs → Visual Studio 2017 → Visual Studio Tools → x64 Native Tools Command Prompt for VS 2017

从 https://github.com/google/protobuf/archive/v3.4.0.zip 下载 protobuf-3.4.0。

构建 protobuf 库：

cd <protobuf-root-dir>
mkdir build
cd build
cmake -G"NMake Makefiles" -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=%cd%/install -Dprotobuf_BUILD_TESTS=OFF -Dprotobuf_MSVC_STATIC_RUNTIME=OFF ../cmake
nmake
nmake install

(可选) 从 https://vulkan.lunarg.com/sdk/home 下载并安装 Vulkan SDK。

构建 ncnn 库（将 protobuf-root-dir 替换为正确的路径）：

cd <ncnn-root-dir>
mkdir -p build
cd build
cmake -G"NMake Makefiles" -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=%cd%/install -DProtobuf_INCLUDE_DIR=<protobuf-root-dir>/build/install/include -DProtobuf_LIBRARIES=<protobuf-root-dir>/build/install/lib/libprotobuf.lib -DProtobuf_PROTOC_EXECUTABLE=<protobuf-root-dir>/build/install/bin/protoc.exe -DNCNN_VULKAN=ON ..
nmake
nmake install

注意：为了加快多核机器上的编译过程，推荐使用 -G 标志配置 cmake 来使用 jom 或 ninja。

为 macOS 构建

首先根据你的需求安装 Xcode 或 Xcode 命令行工具。

然后通过 homebrew 安装 protobuf 和 libomp。

brew install protobuf libomp

从 https://vulkan.lunarg.com/sdk/home 下载并安装 Vulkan SDK。

wget https://sdk.lunarg.com/sdk/download/1.2.189.0/mac/vulkansdk-macos-1.2.189.0.dmg?Human=true -O vulkansdk-macos-1.2.189.0.dmg
hdiutil attach vulkansdk-macos-1.2.189.0.dmg
sudo /Volumes/vulkansdk-macos-1.2.189.0/InstallVulkan.app/Contents/MacOS/InstallVulkan --root `pwd`/vulkansdk-macos-1.2.189.0 --accept-licenses --default-answer --confirm-command install
hdiutil detach /Volumes/vulkansdk-macos-1.2.189.0

# 设置环境变量

export VULKAN_SDK=`pwd`/vulkansdk-macos-1.2.189.0/macOS

cd <ncnn-root-dir>
mkdir -p build
cd build

cmake -DCMAKE_OSX_ARCHITECTURES="x86_64;arm64" \
 -DVulkan_INCLUDE_DIR=`pwd`/../vulkansdk-macos-1.2.189.0/MoltenVK/include \
 -DVulkan_LIBRARY=`pwd`/../vulkansdk-macos-1.2.189.0/MoltenVK/dylib/macOS/libMoltenVK.dylib \
 -DNCNN_VULKAN=ON -DNCNN_BUILD_EXAMPLES=ON ..

cmake --build . -j 4
cmake --build . --target install

注意：如果在安装过程中遇到与 libomp 相关的错误，你也可以查看我们的 GitHub Actions 此处 来安装和使用 openmp。

使用交叉编译为 ARM Cortex-A 系列构建

从 https://developer.arm.com/open-source/gnu-toolchain/gnu-a/downloads 下载 ARM 工具链。

export PATH="<your-toolchain-compiler-path>:${PATH}"

或者安装发行版提供的交叉编译器（例如，在 Debian / Ubuntu 上，你可以执行 sudo apt install g++-arm-linux-gnueabi g++-arm-linux-gnueabihf g++-aarch64-linux-gnu）。

根据你的需求，构建以下一个或多个目标。

AArch32 软浮点目标 (arm-linux-gnueabi)

cd <ncnn-root-dir>
mkdir -p build-arm-linux-gnueabi
cd build-arm-linux-gnueabi
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/arm-linux-gnueabi.toolchain.cmake ..
make -j$(nproc)

AArch32 硬浮点目标 (arm-linux-gnueabihf)

cd <ncnn-root-dir>
mkdir -p build-arm-linux-gnueabihf
cd build-arm-linux-gnueabihf
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/arm-linux-gnueabihf.toolchain.cmake ..
make -j$(nproc)

AArch64 GNU/Linux 目标 (aarch64-linux-gnu)

cd <ncnn-root-dir>
mkdir -p build-aarch64-linux-gnu
cd build-aarch64-linux-gnu
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/aarch64-linux-gnu.toolchain.cmake ..
make -j$(nproc)

使用交叉编译为 Hisilicon 平台构建

下载并安装 Hisilicon SDK。工具链应位于 /opt/hisi-linux/x86-arm。

cd <ncnn-root-dir>
mkdir -p build
cd build

# 选择一个 cmake 工具链文件，取决于你的目标平台

cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/hisiv300.toolchain.cmake ..
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/hisiv500.toolchain.cmake ..
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/himix100.toolchain.cmake ..
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/himix200.toolchain.cmake ..

make -j$(nproc)
make install

为 Android 构建

你可以使用来自 https://github.com/Tencent/ncnn/releases 的预构建 ncnn-android-lib.zip。

从 http://developer.android.com/ndk/downloads/index.html 下载 Android NDK 并安装它，例如：

unzip android-ndk-r21d-linux-x86_64.zip
export ANDROID_NDK=<your-ndk-root-path>

(可选) 移除 Android NDK 中的硬编码调试标志 android-ndk issue。

# 打开 $ANDROID_NDK/build/cmake/android.toolchain.cmake

# 删除 "-g" 行

list(APPEND ANDROID_COMPILER_FLAGS
-g
-DANDROID

构建 armv7 库

cd <ncnn-root-dir>
mkdir -p build-android-armv7
cd build-android-armv7

cmake -DCMAKE_TOOLCHAIN_FILE="$ANDROID_NDK/build/cmake/android.toolchain.cmake" \
 -DANDROID_ABI="armeabi-v7a" -DANDROID_ARM_NEON=ON \
 -DANDROID_PLATFORM=android-14 ..

# 如果你想启用 Vulkan，则需要平台 API 版本 >= android-24

cmake -DCMAKE_TOOLCHAIN_FILE="$ANDROID_NDK/build/cmake/android.toolchain.cmake" \
 -DANDROID_ABI="armeabi-v7a" -DANDROID_ARM_NEON=ON \
 -DANDROID_PLATFORM=android-24 -DNCNN_VULKAN=ON ..

make -j$(nproc)
make install

选择 build-android-armv7/install 文件夹用于进一步的 JNI 使用。

构建 aarch64 库：

cd <ncnn-root-dir>
mkdir -p build-android-aarch64
cd build-android-aarch64

cmake -DCMAKE_TOOLCHAIN_FILE="$ANDROID_NDK/build/cmake/android.toolchain.cmake"\
 -DANDROID_ABI="arm64-v8a" \
 -DANDROID_PLATFORM=android-21 ..

# 如果你想启用 Vulkan，则需要平台 API 版本 >= android-24

cmake -DCMAKE_TOOLCHAIN_FILE="$ANDROID_NDK/build/cmake/android.toolchain.cmake" \
 -DANDROID_ABI="arm64-v8a" \
 -DANDROID_PLATFORM=android-24 -DNCNN_VULKAN=ON ..

make -j$(nproc)
make install

选择 build-android-aarch64/install 文件夹用于进一步的 JNI 使用。

在 macOS 上使用 xcode 为 iOS 构建

你可以使用来自 https://github.com/Tencent/ncnn/releases 的预构建 ncnn.framework、glslang.framework 和 openmp.framework。

安装 xcode

如果你想构建启用 bitcode 的库，可以将以下 cmake 参数中的 -DENABLE_BITCODE=0 替换为 -DENABLE_BITCODE=1。

下载并安装 openmp 以启用 iPhoneOS 上的多线程推理功能

wget https://github.com/llvm/llvm-project/releases/download/llvmorg-11.0.0/openmp-11.0.0.src.tar.xz
tar -xf openmp-11.0.0.src.tar.xz
cd openmp-11.0.0.src

# 应用一些编译修复

sed -i'' -e '/.size **kmp_unnamed_critical_addr/d' runtime/src/z_Linux_asm.S
sed -i'' -e 's/**kmp_unnamed_critical_addr/\_\_\_kmp_unnamed_critical_addr/g' runtime/src/z_Linux_asm.S

mkdir -p build-ios
cd build-ios

cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/ios.toolchain.cmake -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=install \
 -DIOS_PLATFORM=OS -DENABLE_BITCODE=0 -DENABLE_ARC=0 -DENABLE_VISIBILITY=0 -DIOS_ARCH="armv7;arm64;arm64e" \
 -DPERL_EXECUTABLE=/usr/local/bin/perl \
 -DLIBOMP_ENABLE_SHARED=OFF -DLIBOMP_OMPT_SUPPORT=OFF -DLIBOMP_USE_HWLOC=OFF ..

cmake --build . -j 4
cmake --build . --target install

# 将 openmp 库和头文件复制到 xcode 工具链 sysroot

sudo cp install/include/\* /Applications/Xcode.app/Contents/Developer/Platforms/iPhoneOS.platform/Developer/SDKs/iPhoneOS.sdk/usr/include
sudo cp install/lib/libomp.a /Applications/Xcode.app/Contents/Developer/Platforms/iPhoneOS.platform/Developer/SDKs/iPhoneOS.sdk/usr/lib

下载并安装 openmp 以启用 iPhoneSimulator 上的多线程推理功能

wget https://github.com/llvm/llvm-project/releases/download/llvmorg-11.0.0/openmp-11.0.0.src.tar.xz
tar -xf openmp-11.0.0.src.tar.xz
cd openmp-11.0.0.src

# 应用一些编译修复

sed -i'' -e '/.size **kmp_unnamed_critical_addr/d' runtime/src/z_Linux_asm.S
sed -i'' -e 's/**kmp_unnamed_critical_addr/\_\_\_kmp_unnamed_critical_addr/g' runtime/src/z_Linux_asm.S

mkdir -p build-ios-sim
cd build-ios-sim

cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/ios.toolchain.cmake -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=install \
 -DIOS_PLATFORM=SIMULATOR -DENABLE_BITCODE=0 -DENABLE_ARC=0 -DENABLE_VISIBILITY=0 -DIOS_ARCH="i386;x86_64" \
 -DPERL_EXECUTABLE=/usr/local/bin/perl \
 -DLIBOMP_ENABLE_SHARED=OFF -DLIBOMP_OMPT_SUPPORT=OFF -DLIBOMP_USE_HWLOC=OFF ..

cmake --build . -j 4
cmake --build . --target install

# 将 openmp 库和头文件复制到 xcode 工具链 sysroot

sudo cp install/include/\* /Applications/Xcode.app/Contents/Developer/Platforms/iPhoneSimulator.platform/Developer/SDKs/iPhoneSimulator.sdk/usr/include
sudo cp install/lib/libomp.a /Applications/Xcode.app/Contents/Developer/Platforms/iPhoneSimulator.platform/Developer/SDKs/iPhoneSimulator.sdk/usr/lib

打包 openmp 框架：

cd <openmp-root-dir>

mkdir -p openmp.framework/Versions/A/Headers
mkdir -p openmp.framework/Versions/A/Resources
ln -s A openmp.framework/Versions/Current
ln -s Versions/Current/Headers openmp.framework/Headers
ln -s Versions/Current/Resources openmp.framework/Resources
ln -s Versions/Current/openmp openmp.framework/openmp
lipo -create build-ios/install/lib/libomp.a build-ios-sim/install/lib/libomp.a -o openmp.framework/Versions/A/openmp
cp -r build-ios/install/include/\* openmp.framework/Versions/A/Headers/
sed -e 's/**NAME**/openmp/g' -e 's/**IDENTIFIER**/org.llvm.openmp/g' -e 's/**VERSION**/11.0/g' Info.plist > openmp.framework/Versions/A/Resources/Info.plist

下载并安装 Vulkan SDK。

wget https://sdk.lunarg.com/sdk/download/1.2.189.0/mac/vulkansdk-macos-1.2.189.0.dmg?Human=true -O vulkansdk-macos-1.2.189.0.dmg
hdiutil attach vulkansdk-macos-1.2.189.0.dmg
sudo /Volumes/vulkansdk-macos-1.2.189.0/InstallVulkan.app/Contents/MacOS/InstallVulkan --root `pwd`/vulkansdk-macos-1.2.189.0 --accept-licenses --default-answer --confirm-command install
hdiutil detach /Volumes/vulkansdk-macos-1.2.189.0

# 设置环境变量

export VULKAN_SDK=`pwd`/vulkansdk-macos-1.2.189.0/macOS

为 iPhoneOS 构建库：

cd <ncnn-root-dir>
mkdir -p build-ios
cd build-ios

cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/ios.toolchain.cmake -DIOS_PLATFORM=OS -DIOS_ARCH="armv7;arm64;arm64e" \
 -DENABLE_BITCODE=0 -DENABLE_ARC=0 -DENABLE_VISIBILITY=0 \
 -DOpenMP_C_FLAGS="-Xclang -fopenmp" -DOpenMP_CXX_FLAGS="-Xclang -fopenmp" \
 -DOpenMP_C_LIB_NAMES="libomp" -DOpenMP_CXX_LIB_NAMES="libomp" \
 -DOpenMP_libomp_LIBRARY="/Applications/Xcode.app/Contents/Developer/Platforms/iPhoneOS.platform/Developer/SDKs/iPhoneOS.sdk/usr/lib/libomp.a" \
 -DNCNN_BUILD_BENCHMARK=OFF ..

# Vulkan 仅在 arm64 设备上可用

cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/ios.toolchain.cmake -DIOS_PLATFORM=OS64 -DIOS_ARCH="arm64;arm64e" \
 -DENABLE_BITCODE=0 -DENABLE_ARC=0 -DENABLE_VISIBILITY=0 \
 -DOpenMP_C_FLAGS="-Xclang -fopenmp" -DOpenMP_CXX_FLAGS="-Xclang -fopenmp" \
 -DOpenMP_C_LIB_NAMES="libomp" -DOpenMP_CXX_LIB_NAMES="libomp" \
 -DOpenMP_libomp_LIBRARY="/Applications/Xcode.app/Contents/Developer/Platforms/iPhoneOS.platform/Developer/SDKs/iPhoneOS.sdk/usr/lib/libomp.a" \
 -DVulkan_INCLUDE_DIR=`pwd`/../vulkansdk-macos-1.2.189.0/MoltenVK/include \
 -DVulkan_LIBRARY=`pwd`/../vulkansdk-macos-1.2.189.0/MoltenVK/dylib/iOS/libMoltenVK.dylib \
 -DNCNN_VULKAN=ON -DNCNN_BUILD_BENCHMARK=OFF ..

cmake --build . -j 4
cmake --build . --target install

为 iPhoneSimulator 构建库：

cd <ncnn-root-dir>
mkdir -p build-ios-sim
cd build-ios-sim

cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/ios.toolchain.cmake -DIOS_PLATFORM=SIMULATOR -DIOS_ARCH="i386;x86_64" \
 -DENABLE_BITCODE=0 -DENABLE_ARC=0 -DENABLE_VISIBILITY=0 \
 -DOpenMP_C_FLAGS="-Xclang -fopenmp" -DOpenMP_CXX_FLAGS="-Xclang -fopenmp" \
 -DOpenMP_C_LIB_NAMES="libomp" -DOpenMP_CXX_LIB_NAMES="libomp" \
 -DOpenMP_libomp_LIBRARY="/Applications/Xcode.app/Contents/Developer/Platforms/iPhoneSimulator.platform/Developer/SDKs/iPhoneSimulator.sdk/usr/lib/libomp.a" \
 -DNCNN_BUILD_BENCHMARK=OFF ..

cmake --build . -j 4
cmake --build . --target install

打包 glslang 框架：

cd <ncnn-root-dir>

mkdir -p glslang.framework/Versions/A/Headers
mkdir -p glslang.framework/Versions/A/Resources
ln -s A glslang.framework/Versions/Current
ln -s Versions/Current/Headers glslang.framework/Headers
ln -s Versions/Current/Resources glslang.framework/Resources
ln -s Versions/Current/glslang glslang.framework/glslang
libtool -static build-ios/install/lib/libglslang.a build-ios/install/lib/libSPIRV.a build-ios/install/lib/libOGLCompiler.a build-ios/install/lib/libOSDependent.a -o build-ios/install/lib/libglslang_combined.a
libtool -static build-ios-sim/install/lib/libglslang.a build-ios-sim/install/lib/libSPIRV.a build-ios-sim/install/lib/libOGLCompiler.a build-ios-sim/install/lib/libOSDependent.a -o build-ios-sim/install/lib/libglslang_combined.a
lipo -create build-ios/install/lib/libglslang_combined.a build-ios-sim/install/lib/libglslang_combined.a -o glslang.framework/Versions/A/glslang
cp -r build/install/include/glslang glslang.framework/Versions/A/Headers/
sed -e 's/**NAME**/glslang/g' -e 's/**IDENTIFIER**/org.khronos.glslang/g' -e 's/**VERSION**/1.0/g' Info.plist > glslang.framework/Versions/A/Resources/Info.plist

打包 ncnn 框架：

cd <ncnn-root-dir>

mkdir -p ncnn.framework/Versions/A/Headers
mkdir -p ncnn.framework/Versions/A/Resources
ln -s A ncnn.framework/Versions/Current
ln -s Versions/Current/Headers ncnn.framework/Headers
ln -s Versions/Current/Resources ncnn.framework/Resources
ln -s Versions/Current/ncnn ncnn.framework/ncnn
lipo -create build-ios/install/lib/libncnn.a build-ios-sim/install/lib/libncnn.a -o ncnn.framework/Versions/A/ncnn
cp -r build-ios/install/include/\* ncnn.framework/Versions/A/Headers/
sed -e 's/**NAME**/ncnn/g' -e 's/**IDENTIFIER**/com.tencent.ncnn/g' -e 's/**VERSION**/1.0/g' Info.plist > ncnn.framework/Versions/A/Resources/Info.plist

选择 ncnn.framework、glslang.framework 和 openmp.framework 文件夹进行应用开发。

为 WebAssembly 构建

安装 Emscripten

git clone https://github.com/emscripten-core/emsdk.git
cd emsdk
./emsdk install 2.0.8
./emsdk activate 2.0.8

source emsdk/emsdk_env.sh

不带任何扩展名构建以实现通用兼容性：

mkdir -p build
cd build
cmake -DCMAKE_TOOLCHAIN_FILE=../emsdk/upstream/emscripten/cmake/Modules/Platform/Emscripten.cmake \
 -DNCNN_THREADS=OFF -DNCNN_OPENMP=OFF -DNCNN_SIMPLEOMP=OFF -DNCNN_RUNTIME_CPU=OFF -DNCNN_SSE2=OFF -DNCNN_AVX2=OFF -DNCNN_AVX=OFF \
 -DNCNN_BUILD_TOOLS=OFF -DNCNN_BUILD_EXAMPLES=OFF -DNCNN_BUILD_BENCHMARK=OFF ..
cmake --build . -j 4
cmake --build . --target install

带 WASM SIMD 扩展构建：

mkdir -p build-simd
cd build-simd
cmake -DCMAKE_TOOLCHAIN_FILE=../emsdk/upstream/emscripten/cmake/Modules/Platform/Emscripten.cmake \
 -DNCNN_THREADS=OFF -DNCNN_OPENMP=OFF -DNCNN_SIMPLEOMP=OFF -DNCNN_RUNTIME_CPU=OFF -DNCNN_SSE2=ON -DNCNN_AVX2=OFF -DNCNN_AVX=OFF \
 -DNCNN_BUILD_TOOLS=OFF -DNCNN_BUILD_EXAMPLES=OFF -DNCNN_BUILD_BENCHMARK=OFF ..
cmake --build . -j 4
cmake --build . --target install

带 WASM Thread 扩展构建：

mkdir -p build-threads
cd build-threads
cmake -DCMAKE_TOOLCHAIN_FILE=../emsdk/upstream/emscripten/cmake/Modules/Platform/Emscripten.cmake \
 -DNCNN_THREADS=ON -DNCNN_OPENMP=ON -DNCNN_SIMPLEOMP=ON -DNCNN_RUNTIME_CPU=OFF -DNCNN_SSE2=OFF -DNCNN_AVX2=OFF -DNCNN_AVX=OFF \
 -DNCNN_BUILD_TOOLS=OFF -DNCNN_BUILD_EXAMPLES=OFF -DNCNN_BUILD_BENCHMARK=OFF ..
cmake --build . -j 4
cmake --build . --target install

带 WASM SIMD 和 Thread 扩展构建：

mkdir -p build-simd-threads
cd build-simd-threads
cmake -DCMAKE_TOOLCHAIN_FILE=../emsdk/upstream/emscripten/cmake/Modules/Platform/Emscripten.cmake \
 -DNCNN_THREADS=ON -DNCNN_OPENMP=ON -DNCNN_SIMPLEOMP=ON -DNCNN_RUNTIME_CPU=OFF -DNCNN_SSE2=ON -DNCNN_AVX2=OFF -DNCNN_AVX=OFF \
 -DNCNN_BUILD_TOOLS=OFF -DNCNN_BUILD_EXAMPLES=OFF -DNCNN_BUILD_BENCHMARK=OFF ..
cmake --build . -j 4
cmake --build . --target install

选择 build-XYZ/install 文件夹用于进一步使用。

为 AllWinner D1 构建

从 https://occ.t-head.cn/community/download?id=3913221581316624384 下载 c906 工具链包。

tar -xf riscv64-linux-x86_64-20210512.tar.gz
export RISCV_ROOT_PATH=/home/nihui/osd/riscv64-linux-x86_64-20210512

启用 riscv-v 向量和 simpleocv 的 ncnn 构建：

mkdir -p build-c906
cd build-c906
cmake -DCMAKE_TOOLCHAIN_FILE=../toolchains/c906.toolchain.cmake \
 -DCMAKE_BUILD_TYPE=relwithdebinfo -DNCNN_OPENMP=OFF -DNCNN_THREADS=OFF -DNCNN_RUNTIME_CPU=OFF -DNCNN_RVV=ON \
 -DNCNN_SIMPLEOCV=ON -DNCNN_BUILD_EXAMPLES=ON ..
cmake --build . -j 4
cmake --build . --target install

选择 build-c906/install 文件夹用于进一步使用。

你可以将二进制文件上传到 build-c906/examples 文件夹并在 D1 板上运行进行测试。

为 Loongson 2K1000 构建

对于 gcc 版本 <= 8.5，你需要修复 msa.h 头文件以解决 msa fmadd 错误。

打开 /usr/lib/gcc/mips64el-linux-gnuabi64/8/include/msa.h，找到 __msa_fmadd_w 并应用以下更改：

// #define **msa_fmadd_w **builtin_msa_fmadd_w
#define **msa_fmadd_w(a, b, c) **builtin_msa_fmadd_w(c, b, a)

启用 mips msa 和 simpleocv 的 ncnn 构建：

mkdir -p build
cd build
cmake -DNCNN_DISABLE_RTTI=ON -DNCNN_DISABLE_EXCEPTION=ON -DNCNN_RUNTIME_CPU=OFF -DNCNN_MSA=ON -DNCNN_MMI=ON -DNCNN_SIMPLEOCV=ON ..
cmake --build . -j 2
cmake --build . --target install

选择 build/install 文件夹用于进一步使用。

你可以运行 build/examples 文件夹中的二进制文件进行测试。

为 Android 上的 Termux 构建

在手机上安装 Termux 应用，并在 Termux 中安装 Ubuntu。

如果你想使用 ssh，只需在 Termux 中安装 openssh。

pkg install proot-distro
proot-distro install ubuntu

或者你可以使用 proot-distro list 查看可以安装的系统。

在成功安装 Ubuntu 后，使用 proot-distro login ubuntu 登录 Ubuntu。

然后构建 ncnn，无需安装任何其他依赖项。

git clone https://github.com/Tencent/ncnn.git
cd ncnn
git submodule update --init
mkdir -p build
cd build
cmake -DCMAKE_BUILD_TYPE=Release -DNCNN_BUILD_EXAMPLES=ON -DNCNN_PLATFORM_API=OFF -DNCNN_SIMPLEOCV=ON ..
make -j$(nproc)

然后你可以运行测试：

在我的 Pixel 3 XL 上使用 Qualcomm 845，无法加载 256-ncnn.png

cd ../examples
../build/examples/squeezenet ../images/128-ncnn.png
]]> 在 Android 11 上用 LLDV 调试原生应用 https://xgdebug.com/zh/posts/tech/debug/debugging-native-apps-with-lldb-on-android-11/ Fri, 11 Aug 2023 01:14:06 +0000 https://xgdebug.com/zh/posts/tech/debug/debugging-native-apps-with-lldb-on-android-11/ <h2 id="mobile">Mobile</h2> <h2 id="将-push-调试服务器推送到手机">将 PUSH 调试服务器推送到手机</h2> <pre tabindex="0"><code>adb push lldb-server /data/local/tmp chmod 755 /data/local/tmp/lldb-server </code></pre><h2 id="启动调试器服务">启动调试器服务</h2> <pre tabindex="0"><code>/data/local/tmp/lldb-server platform --listen &#34;*:8888&#34; --server </code></pre><p>+++</p> <h2 id="电脑端">电脑端</h2> <h2 id="端口转发">端口转发</h2> <pre tabindex="0"><code>adb forward tcp:8888 tcp:8888 </code></pre><h2 id="启动-lldb">启动 LLDB</h2> <pre tabindex="0"><code>. \lldb.exe </code></pre><h2 id="查看支持的平台">查看支持的平台</h2> <pre tabindex="0"><code>platform list </code></pre><h2 id="选择-android-平台">选择 ANDROID 平台</h2> <pre tabindex="0"><code>platform select remote-android </code></pre><h2 id="连接到手机">连接到手机</h2> <p>手机序列号: <strong>9643e0ec0604</strong> 要更改为当前调试的手机，请使用 <code>adb devices</code> 检查序列号</p> Mobile

将 PUSH 调试服务器推送到手机

adb push lldb-server /data/local/tmp
chmod 755 /data/local/tmp/lldb-server

启动调试器服务

/data/local/tmp/lldb-server platform --listen "*:8888" --server

+++

电脑端

端口转发

adb forward tcp:8888 tcp:8888

启动 LLDB

. \lldb.exe

查看支持的平台

platform list

选择 ANDROID 平台

platform select remote-android

连接到手机

手机序列号: 9643e0ec0604 要更改为当前调试的手机，请使用 adb devices 检查序列号

platform connect connect://9643e0ec0604:8888

查看当前运行的进程

platform process list

附加到

attach 9053

断点

b send

运行 (继续执行)

c

查看线程列表

thread list

查看调用堆栈

bt
]]> 一个现代化APP的开发通常会涉及以下几个步骤和工具 https://xgdebug.com/zh/posts/tech/app/modern-app-development-steps-tools/ Sun, 16 Jul 2023 01:14:02 +0000 https://xgdebug.com/zh/posts/tech/app/modern-app-development-steps-tools/ <h2 id="需求分析">需求分析</h2> <p>分析目标用户的需求,确定 APP 要实现的核心功能和特色。这需要进行用户研究、竞品分析等。<br> 信息架构和交互设计 根据需求和用户研究,设计 APP 的信息架构,确定界面流程和交互逻辑。常用的设计工具有 Axure、Sketch 等。</p> 需求分析

分析目标用户的需求,确定 APP 要实现的核心功能和特色。这需要进行用户研究、竞品分析等。
信息架构和交互设计 根据需求和用户研究,设计 APP 的信息架构,确定界面流程和交互逻辑。常用的设计工具有 Axure、Sketch 等。

视觉设计

进行 APP 的视觉设计,包括界面样式、图标、颜色、字体等。常用工具有 Photoshop、Illustrator 等。

前端开发

使用前端开发框架开发 APP 界面,比如 React Native、Flutter 等。需要对 JavaScript、Dart 等语言熟练。

后端开发

开发 APP 后端业务逻辑,提供接口和数据支持。使用 PHP、Java、Python 等服务器语言,以及 MySQL、MongoDB 等数据库。

测试

在开发过程中进行功能测试、界面测试、性能测试、安全测试等,确保 APP 质量。使用工具如 Appium、JMeter 等。

发布和运维

将 APP 发布到 App Store 和 Google Play,并进行持续监控和后期优化升级。使用平台如 Firebase。

所以现代 APP 开发需要多学科协作,也需要掌握各种专业工具,才能开发出用户喜欢的产品。这个过程需要设计、开发和测试人员通力合作。

]]> 一个现代的APP是如何诞生的？ https://xgdebug.com/zh/posts/tech/app/how-a-modern-app-is-born/ Fri, 14 Jul 2023 05:07:13 +0000 https://xgdebug.com/zh/posts/tech/app/how-a-modern-app-is-born/ <p>一个现代的 APP 是如何诞生的？</p> <p>从创意到产品上线运营所的所有步骤与工作岗位和他们需要用到的工具：</p> <ol> <li><strong>创意</strong></li> </ol> <ul> <li>产品经理：负责制定产品的目标、功能和用户体验。</li> <li>设计师：负责设计产品的界面和交互。</li> <li>开发人员：负责开发产品的代码。</li> </ul> <ol start="2"> <li><strong>开发</strong></li> </ol> <ul> <li>开发人员：负责开发产品的代码。</li> <li>测试人员：负责测试产品的功能和性能。</li> <li>质量保证工程师：负责确保产品达到质量标准。</li> </ul> <ol start="3"> <li><strong>上线</strong></li> </ol> <ul> <li>产品经理：负责制定产品上线的策略。</li> <li>运营人员：负责产品上线后的运营工作，包括推广、营销、客服等。</li> </ul> <ol start="4"> <li><strong>运营</strong></li> </ol> <ul> <li>运营人员：负责产品上线后的运营工作，包括推广、营销、客服等。</li> <li>数据分析师：负责分析产品的用户数据，并根据数据做出改进。</li> </ul> <p>以下是一些常用的工具：</p> 一个现代的 APP 是如何诞生的？

从创意到产品上线运营所的所有步骤与工作岗位和他们需要用到的工具：

  1. 创意
  • 产品经理：负责制定产品的目标、功能和用户体验。
  • 设计师：负责设计产品的界面和交互。
  • 开发人员：负责开发产品的代码。
  1. 开发
  • 开发人员：负责开发产品的代码。
  • 测试人员：负责测试产品的功能和性能。
  • 质量保证工程师：负责确保产品达到质量标准。
  1. 上线
  • 产品经理：负责制定产品上线的策略。
  • 运营人员：负责产品上线后的运营工作，包括推广、营销、客服等。
  1. 运营
  • 运营人员：负责产品上线后的运营工作，包括推广、营销、客服等。
  • 数据分析师：负责分析产品的用户数据，并根据数据做出改进。

以下是一些常用的工具：

  • 产品管理工具：Jira、Asana、Trello
  • 设计工具：Sketch、Figma、Adobe XD
  • 开发工具：Xcode、Android Studio、Visual Studio
  • 测试工具：JUnit、Selenium、Xcode UI Testing
  • 质量保证工具：SonarQube、Codeship、Travis CI
  • 营销工具：Google Ads、Facebook Ads、Twitter Ads
  • 客服工具：Zendesk、Intercom、HubSpot

注意：以上只是一个概述，具体的步骤和工作岗位可能会有所不同，具体情况要根据产品的不同而定。

]]>