[VoteNet]解决报错“subprocess.CalledProcessError: Command ‘[‘ninja‘, ‘-v‘]‘ returned nonzero exit state”的方法

项目场景:

尝试运行votenet baseline
服务器环境:
NVIDIA RTX3090
Pytorch 1.8.1
CUDA11.1


问题描述

在run demo的时候尝试对pointnet2的一众cpp文件进行编译,运行python setup.py install时出现报错,报错信息为‘ubprocess.CalledProcessError: Command ‘[‘ninja‘, ‘-v‘]‘ returned nonzero exit state 1’


原因分析:

pytorch版本和源代码所使用的pytorch版本不一致


解决方案:

这里搜罗了网上许多解决方案大致可以分为三种:
1.对pytorch版本降级到1.5以下(懒得改,以免无法兼容其余网络并且无法支持cuda11.0+)
2.将ninja -v 变成ninja –version(看了网上的评论,这种做法是把编译命令进行了更改,不是解决ninja -v报错的方法,而且改变底层逻辑代码也是不被推荐的)
3.添加CUDA环境变量(亲测无效)

我自己的方法是查看了两位csdn朋友的blog后结合成功的。
Step1
将/votenet/pointnet2/setup.py下的这段代码:

cmdclass={'build_ext': BuildExtension}

更改为:

cmdclass={'build_ext': BuildExtension.with_options(use_ninja=False)}

该步骤是为了pytorch禁用ninja。

Step 2
将/votenet/pointnet2/_ext_src/include下的/votenet/pointnet2/_ext_src/include/utils.h中AT_CHECK更改为TORCH_CHECK
同时将/votenet/pointnet2/_ext_src/src下的ball_query.cpp、group_points.cpp、interpolate.cpp、sampling.cpp文件中的AT_CHECK更改为TORCH_CHECK

重新运行python setup.py install

问题解决,顺利编译
Po 两位朋友链接万分感谢!

错误解决:subprocess.CalledProcessError: Command ‘[‘ninja‘, ‘-v‘]‘ returned non-zero exit status 1
出现错误“subprocess.CalledProcessError: Command ‘[‘ninja‘, ‘-v‘]‘ returned non-zero exit status 1”解决方法

物联沃分享整理
物联沃-IOTWORD物联网 » [VoteNet]解决报错“subprocess.CalledProcessError: Command ‘[‘ninja‘, ‘-v‘]‘ returned nonzero exit state”的方法

发表评论