search

ShaoqingRen / faster_rcnn

Faster R-CNN
Other
2.68k stars 1.22k forks source link

Failed when running 'faster_rcnn_build.m' #199

Open EveWYT opened 5 years ago

EveWYT commented 5 years ago

I have installed CUDA6.5, and I run on MATLAB R2018a. But it says that Error in nvmex (line 49) eval(mexCommandLine);

Error in faster_rcnn_build (line 23) nvmex('functions/nms/nms_gpu_mex.cu', 'bin');

After installing CUDA, I have checked the system paths like 'CUDA_PATH', they are correctly generated. So, I would like to know how to solve the problem?

faster_rcnn_build Compiling nms_gpu_mex nvcc --compile -ccbin "C:\Program Files (x86)\Microsoft Visual Studio 12.0\VC\bin\x86_amd64" -o nms_gpu_mex.o --machine 64 -I"C:\Program Files\MATLAB\R2018a/extern/include " -I"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v6.5\include" -I"C:\ProgramData\NVIDIA Corporation\CUDA Samples\v6.5\common\inc" "functions/nms/nms_gpu_mex.cu" c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(853) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(1820) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(2700) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(3633) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(4541) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(5447) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(6341) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(7191) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions.h : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions.h(783) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions.h(1659) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\sm_13_double_functions.h : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(853) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(1820) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(2700) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(3633) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(4541) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(5447) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(6341) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(7191) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(853) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(1820) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(2700) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(3633) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(4541) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(5447) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(6341) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(7191) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions_decls.h : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions_decls.h(948) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions_decls.h(1984) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions_decls.h(2932) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions_decls.h(3882) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions_decls.h(4853) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions_decls.h(5899) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions_decls.h(6842) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions_decls.h(7786) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions_decls.h(8712) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions_decls.h(9705) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions_decls.h(10766) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions.h : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions.h(783) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions.h(1659) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\sm_13_double_functions.h : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(853) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(1820) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(2700) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(3633) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(4541) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(5447) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(6341) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(7191) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions.h : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions.h(783) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\device_functions.h(1659) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\sm_13_double_functions.h : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(853) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(1820) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(2700) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(3633) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(4541) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(5447) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(6341) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 c:\program files\nvidia gpu computing toolkit\cuda\v6.5\include\math_functions.h(7191) : warning C4819: 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失 nms_gpu_mex.cu mex -outdir bin nms_gpu_mex.o -L"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v6.5\lib\x64" -lcudart Building with 'MinGW64 Compiler (C)'. Error using mex Warning: corrupt .drectve at end of def file nms_gpu_mex.o:(.text$mn+0x632): undefined reference to __security_check_cookie' nms_gpu_mex.o:(.text$mn+0x41): undefined reference to?_Xbad_alloc@std@@YAXXZ' nms_gpu_mex.o:(.xdata+0x14): undefined reference to __GSHandlerCheck' nms_gpu_mex.o:(.xdata[$unwind$?_Copy@?$basic_string@DU?$char_traits@D@std@@V?$allocator@D@2@@std@@QEAAX_K0@Z]+0x8): undefined reference toCxxFrameHandler3' nms_gpu_mex.o:(.xdata[$unwind$?catch$1@?0??_Copy@?$basic_string@DU?$char_traits@D@std@@V?$allocator@D@2@@std@@QEAAX_K0@Z@4HA]+0x8): undefined reference to `CxxFrameHandler3' nms_gpu_mex.o:(.xdata[$unwind$?catch$0@?0??_Copy@?$basic_string@DU?$char_traits@D@std@@V?$allocator@D@2@@std@@QEAAX_K0@Z@4HA]+0x8): undefined reference to __CxxFrameHandler3' nms_gpu_mex.o:(.xdata[$unwind$??0?$vector@_KV?$allocator@_K@std@@@std@@QEAA@_K@Z]+0x8): undefined reference to__CxxFrameHandler3' nms_gpu_mex.o:(.xdata[$unwind$?catch$0@?0???0?$vector@_KV?$allocator@_K@std@@@std@@QEAA@_K@Z@4HA]+0x8): undefined reference to __CxxFrameHandler3' nms_gpu_mex.o:(.xdata[$unwind$?_Reallocate@?$vector@HV?$allocator@H@std@@@std@@IEAAX_K@Z]+0x8): more undefined references to__CxxFrameHandler3' follow nms_gpu_mex.o:(.data$r+0x0): undefined reference to `??_7type_info@@6B@' collect2.exe: error: ld returned 1 exit status

Error in nvmex (line 49) eval(mexCommandLine);

Error in faster_rcnn_build (line 23) nvmex('functions/nms/nms_gpu_mex.cu', 'bin');

Ly666622 commented 4 years ago

同样的问题，修改了mex命令，还是会出现这个问题，求大神指导