search

codeproject / CodeProject.AI-Server

CodeProject.AI Server is a self contained service that software developers can include in, and distribute with, their applications in order to augment their apps with the power of AI.
https://codeproject.github.io/codeproject.ai
Other
730 stars 159 forks source link

CPAI on Jetson Nano doesn't have GPU support? #122

Open Jensilein opened 4 months ago

Jensilein commented 4 months ago

Area of Concern

Describe the bug Hi, has anybody managed to run CPAI on Jetson Nano with GPU support? I sucessfully have built CPAI using Visual Studio Code on my Jetson Nano but the only detection module that seems to work is "Object Detection (YOLOv5 .NET)" but with CPU only. Any idea or hint on how to get CPAI with GPU support running on the Jetson Nano? Have added some logs below. Maybe that helps to identzify the root cause.

Expected behavior A clear and concise description of what you expected to happen.

Screenshots If applicable, add screenshots to help explain your problem.

Your System (please complete the following information):

Additional context Visual Code Studio Log:

------------------------------------------------------------------------------
Sie können den/die Microsoft Visual Studio .NET/C/C++-Debugger (vsdbg) nur mit
Visual Studio Code, Visual Studio oder Visual Studio für Mac verwenden, um Ihre
Anwendungen zu entwickeln und zu testen.
------------------------------------------------------------------------------
Verwenden von Starteinstellungen über "/tmp/CodeProject.AI-Server/src/server/Properties/launchSettings.json" [Profil "CodeProject.AI Server (Debug)"]...
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Private.CoreLib.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/tmp/CodeProject.AI-Server/src/server/bin/Debug/net7.0/CodeProject.AI.Server.dll" wurde geladen. Symbole wurden geladen.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Runtime.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Logging.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Collections.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/tmp/CodeProject.AI-Server/src/server/bin/Debug/net7.0/CodeProject.AI.SDK.dll" wurde geladen. Symbole wurden geladen.
Einzelschritt: Nichtbenutzercode "CodeProject.AI.Server.Program.<Main>" wird übersprungen.
Einzelschritt: Nichtbenutzercode "CodeProject.AI.Server.Program.Main" wird übersprungen.
Einzelschritt: Nichtbenutzercode "CodeProject.AI.Server.Program.<Main>d__11..ctor" wird übersprungen.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Threading.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Hosting.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Console.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Configuration.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.ComponentModel.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.DependencyInjection.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Configuration.UserSecrets.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Mvc.Core.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/tmp/CodeProject.AI-Server/src/server/bin/Debug/net7.0/Hardware.Info.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/netstandard.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Text.RegularExpressions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Linq.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Runtime.InteropServices.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Memory.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Diagnostics.Process.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.ComponentModel.Primitives.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/Microsoft.Win32.Primitives.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.IO.Pipes.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Net.Sockets.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Net.Primitives.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Threading.ThreadPool.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Threading.Thread.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Collections.Concurrent.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Diagnostics.Tracing.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
Ausnahme ausgelöst: "System.ComponentModel.Win32Exception" in System.Diagnostics.Process.dll
Error in GetProcessInfoAsync: An error occurred trying to start process 'go' with working directory '/tmp/CodeProject.AI-Server/src/server'. No such file or directory
Ausnahme ausgelöst: "System.ComponentModel.Win32Exception" in System.Diagnostics.Process.dll
Error in GetProcessInfoAsync: An error occurred trying to start process 'node' with working directory '/tmp/CodeProject.AI-Server/src/server'. No such file or directory
Ausnahme ausgelöst: "System.ComponentModel.Win32Exception" in System.Diagnostics.Process.dll
Error in GetProcessInfoAsync: An error occurred trying to start process 'rustc' with working directory '/tmp/CodeProject.AI-Server/src/server'. No such file or directory
"/tmp/CodeProject.AI-Server/src/server/bin/Debug/net7.0/System.Diagnostics.PerformanceCounter.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Hosting.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/tmp/CodeProject.AI-Server/src/server/bin/Debug/net7.0/Microsoft.Extensions.Hosting.WindowsServices.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/tmp/CodeProject.AI-Server/src/server/bin/Debug/net7.0/Microsoft.Extensions.Hosting.Systemd.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Hosting.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.DependencyInjection.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Hosting.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Configuration.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Configuration.EnvironmentVariables.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Primitives.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Server.Kestrel.Core.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Server.Kestrel.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Server.Kestrel.Transport.Quic.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Net.Quic.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Server.IIS.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Server.IISIntegration.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Logging.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.FileProviders.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.FileProviders.Physical.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Diagnostics.DiagnosticSource.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Configuration.FileExtensions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Configuration.Binder.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Configuration.Json.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Text.Json.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.FileProviders.Composite.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Text.Encodings.Web.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Text.Encoding.Extensions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Runtime.Intrinsics.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Numerics.Vectors.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Configuration.CommandLine.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Private.Uri.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Reflection.Emit.Lightweight.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Reflection.Primitives.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Reflection.Emit.ILGeneration.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.ComponentModel.TypeConverter.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.ObjectModel.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Options.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Logging.Configuration.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Options.ConfigurationExtensions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Logging.Console.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Logging.Debug.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Logging.EventSource.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Http.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Features.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Http.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Connections.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Server.Kestrel.Transport.Sockets.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Hosting.Server.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.HostFiltering.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.HttpOverrides.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Routing.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Routing.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.ObjectPool.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Cors.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Mvc.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/tmp/CodeProject.AI-Server/src/server/bin/Debug/net7.0/Swashbuckle.AspNetCore.SwaggerGen.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Runtime.Loader.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Mvc.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Mvc.ApiExplorer.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Authentication.Core.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Authentication.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Security.Claims.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Authorization.Policy.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Authorization.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Mvc.Cors.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Mvc.DataAnnotations.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/tmp/CodeProject.AI-Server/src/server/bin/Debug/net7.0/Swashbuckle.AspNetCore.Swagger.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/tmp/CodeProject.AI-Server/src/server/bin/Debug/net7.0/Microsoft.OpenApi.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.Localization.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Mvc.Razor.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Http.Extensions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
Debug Settings file: /tmp/CodeProject.AI-Server/src/server/bin/Debug/net7.0/installmodules.json exists: False
Infor ** System:           Jetson
Infor ** Operating System: Linux (Ubuntu 20.04)
Infor ** CPUs:             ARMv8 Processor rev 1 (v8l)
Infor **                   1 CPU. (Arm64)
Infor ** GPU (Primary):    NVIDIA Jetson (3 MiB) (NVIDIA), CUDA: 10.2.300 (up to: 10.2.300), Compute: 5.3, cuDNN: 8.2.1
Infor ** System RAM:       4 GiB
Infor ** Platform:         Jetson
Infor ** BuildConfig:      Debug
Infor ** Execution Env:    VSCode (SSH)
Infor ** Runtime Env:      Development
Infor ** Runtimes installed:
Infor **   .NET runtime:     7.0.20
Infor **   .NET SDK:         7.0.410
Infor **   Default Python:   3.8.10
Infor **   Go:               Not found
Infor **   NodeJS:           Not found
Infor **   Rust:             Not found
Infor ** App DataDir:      /etc/codeproject/ai
Infor Video adapter info:
Infor *** STARTING CODEPROJECT.AI SERVER
Infor RUNTIMES_PATH             = /tmp/CodeProject.AI-Server/src/runtimes
Infor PREINSTALLED_MODULES_PATH = /tmp/CodeProject.AI-Server/src/preinstalled-modules
Infor DEMO_MODULES_PATH         = /tmp/CodeProject.AI-Server/src/demos/modules
Infor EXTERNAL_MODULES_PATH     =
Infor MODULES_PATH              = /tmp/CodeProject.AI-Server/src/modules
Infor PYTHON_PATH               = /bin/linux/%PYTHON_NAME%/venv/bin/python3
Infor Data Dir                  = /etc/codeproject/ai
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Threading.Channels.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Net.Http.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Net.Security.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Security.Cryptography.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Net.NameResolution.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Net.NetworkInformation.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
Infor ** Starting mesh broadcasting
Infor ** Starting mesh broadcast monitoring
Infor ** Starting known mesh server pinging
Infor ** Server version:   2.6.5
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Linq.Expressions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
Server is listening on port 32168
Server is also listening on legacy port 5000
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/Microsoft.CSharp.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/System.IO.Pipelines.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
Trace ModuleRunner Start
Trace Starting Background AI Modules
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.StaticFiles.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.HttpsPolicy.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"Anonymously Hosted DynamicMethods Assembly" wurde geladen.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Diagnostics.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/tmp/CodeProject.AI-Server/src/server/bin/Debug/net7.0/Swashbuckle.AspNetCore.SwaggerUI.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Net.Http.Headers.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Http.Features.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Runtime.Numerics.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.ComponentModel.Annotations.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Metadata.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.FileProviders.Embedded.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.Diagnostics.Abstractions.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Collections.NonGeneric.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
Warni Overriding address(es) 'http://localhost:32168'. Binding to endpoints defined via IConfiguration and/or UseKestrel() instead.
Trace Running module using: /tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/bin/linux/python38/venv/bin/python3
Debug
Debug Attempting to start ObjectDetectionYOLOv5-3.1 with /tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/bin/linux/python38/venv/bin/python3 "/tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/detect_adapter.py"
Trace Starting /tmp...Ov5-3.1/bin/linux/python38/venv/bin/python3 "/tmp...jectDetectionYOLOv5-3.1/detect_adapter.py"
Infor
Infor ** Module 'Object Detection (YOLOv5 3.1)' 1.9.2 (ID: ObjectDetectionYOLOv5-3.1)
Infor ** Valid:            True
Infor ** Module Path:      &lt;root&gt;/src/modules/ObjectDetectionYOLOv5-3.1
Infor ** Module Location:  Internal
Infor ** AutoStart:        True
Infor ** Queue:            objectdetection_queue
Infor ** Runtime:          python3.8
Infor ** Runtime Location: Local
Infor ** FilePath:         detect_adapter.py
Infor ** Start pause:      1 sec
Infor ** Parallelism:      0
Infor ** LogVerbosity:
Infor ** Platforms:        all,!macos-arm64
Infor ** GPU Libraries:    installed if available
Infor ** GPU:              use if supported
Infor ** Accelerator:
Infor ** Half Precision:   enable
Infor ** Environment Variables
Infor ** APPDIR               = &lt;root&gt;/src/modules/ObjectDetectionYOLOv5-3.1
Infor ** DATA_DIR             = /etc/codeproject/ai
Infor ** LD_PRELOAD           = /usr/lib/aarch64-linux-gnu/libgomp.so.1
Infor ** MODE                 = MEDIUM
Infor ** MODELS_DIR           = &lt;root&gt;/src/modules/ObjectDetectionYOLOv5-3.1/assets
Infor ** MODEL_SIZE           = Small
Infor ** OMP_NUM_THREADS      = 1
Infor ** OPENBLAS_CORETYPE    = ARMV8
Infor ** OPENBLAS_NUM_THREADS = 1
Infor ** PROFILE              = desktop_gpu
Infor ** TEMP_PATH            = &lt;root&gt;/src/modules/ObjectDetectionYOLOv5-3.1/tempstore
Infor ** USE_CUDA             = True
Infor ** YOLOv5_VERBOSE       = false
Infor
Infor Started Object Detection (YOLOv5 3.1) module
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Net.WebSockets.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Xml.XPath.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Private.Xml.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Xml.ReaderWriter.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.Extensions.FileSystemGlobbing.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.AspNetCore.App/7.0.20/Microsoft.AspNetCore.WebUtilities.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
"/opt/dotnet/shared/Microsoft.NETCore.App/7.0.20/System.Formats.Asn1.dll" wurde geladen. Das Laden von Symbolen wurde übersprungen. Das Modul ist optimiert, und die Debugoption "Nur eigenen Code" ist aktiviert.
Debug Current Version is 2.6.5
Infor Server: This is the latest version
Error detect_adapter.py: /tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/bin/linux/python38/venv/lib/python3.8/site-packages/scipy/__init__.py:143: UserWarning: A NumPy version >=1.19.5 and <1.27.0 is required for this version of SciPy (detected version 1.19.4)
Error detect_adapter.py:   warnings.warn(f"A NumPy version >={np_minversion} and <{np_maxversion}"
Error detect_adapter.py: Traceback (most recent call last):
Error detect_adapter.py:   File "/tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/detect_adapter.py", line 23, in <module>
Error detect_adapter.py:     from process import YOLODetector, init_detect
Error detect_adapter.py:   File "/tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/process.py", line 14, in <module>
Error detect_adapter.py:     from models.experimental import attempt_load
Error detect_adapter.py:   File "/tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/models/experimental.py", line 6, in <module>
Error detect_adapter.py:     from models.common import Conv, DWConv
Error detect_adapter.py:   File "/tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/models/common.py", line 6, in <module>
Error detect_adapter.py:     from utils.general import non_max_suppression
Error detect_adapter.py:   File "/tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/utils/general.py", line 25, in <module>
Error detect_adapter.py:     from utils.torch_utils import init_torch_seeds, is_parallel
Error detect_adapter.py:   File "/tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/utils/torch_utils.py", line 11, in <module>
Error detect_adapter.py:     import torchvision
Error detect_adapter.py: ModuleNotFoundError: No module named 'torchvision'
Infor ** Module ObjectDetectionYOLOv5-3.1 has shutdown
Infor detect_adapter.py: has exited

CPAI Log:

12:46:36:System:           Jetson
12:46:36:Operating System: Linux (Ubuntu 20.04)
12:46:36:CPUs:             ARMv8 Processor rev 1 (v8l)
12:46:36:                  1 CPU. (Arm64)
12:46:36:GPU (Primary):    NVIDIA Jetson (3 MiB) (NVIDIA), CUDA: 10.2.300 (up to: 10.2.300), Compute: 5.3, cuDNN: 8.2.1
12:46:36:System RAM:       4 GiB
12:46:36:Platform:         Jetson
12:46:36:BuildConfig:      Debug
12:46:36:Execution Env:    VSCode (SSH)
12:46:36:Runtime Env:      Development
12:46:36:Runtimes installed:
12:46:36:  .NET runtime:     7.0.20
12:46:36:  .NET SDK:         7.0.410
12:46:36:  Default Python:   3.8.10
12:46:36:  Go:               Not found
12:46:36:  NodeJS:           Not found
12:46:36:  Rust:             Not found
12:46:36:App DataDir:      /etc/codeproject/ai
12:46:36:Video adapter info:
12:46:36:STARTING CODEPROJECT.AI SERVER
12:46:36:RUNTIMES_PATH             = /tmp/CodeProject.AI-Server/src/runtimes
12:46:36:PREINSTALLED_MODULES_PATH = /tmp/CodeProject.AI-Server/src/preinstalled-modules
12:46:36:DEMO_MODULES_PATH         = /tmp/CodeProject.AI-Server/src/demos/modules
12:46:36:EXTERNAL_MODULES_PATH     = 
12:46:36:MODULES_PATH              = /tmp/CodeProject.AI-Server/src/modules
12:46:36:PYTHON_PATH               = /bin/linux/%PYTHON_NAME%/venv/bin/python3
12:46:36:Data Dir                  = /etc/codeproject/ai
12:46:45:Starting mesh broadcasting
12:46:45:Starting mesh broadcast monitoring
12:46:45:Starting known mesh server pinging
12:46:45:Server version:   2.6.5
12:46:49:Overriding address(es) 'http://localhost:32168'. Binding to endpoints defined via IConfiguration and/or UseKestrel() instead.
12:46:49:
12:46:49:Module 'Object Detection (YOLOv5 3.1)' 1.9.2 (ID: ObjectDetectionYOLOv5-3.1)
12:46:49:Valid:            True
12:46:49:Module Path:      <root>/src/modules/ObjectDetectionYOLOv5-3.1
12:46:49:Module Location:  Internal
12:46:49:AutoStart:        True
12:46:49:Queue:            objectdetection_queue
12:46:49:Runtime:          python3.8
12:46:49:Runtime Location: Local
12:46:49:FilePath:         detect_adapter.py
12:46:49:Start pause:      1 sec
12:46:49:Parallelism:      0
12:46:49:LogVerbosity:
12:46:49:Platforms:        all,!macos-arm64
12:46:49:GPU Libraries:    installed if available
12:46:49:GPU:              use if supported
12:46:49:Accelerator:
12:46:49:Half Precision:   enable
12:46:49:Environment Variables
12:46:49:APPDIR               = <root>/src/modules/ObjectDetectionYOLOv5-3.1
12:46:49:DATA_DIR             = /etc/codeproject/ai
12:46:49:LD_PRELOAD           = /usr/lib/aarch64-linux-gnu/libgomp.so.1
12:46:49:MODE                 = MEDIUM
12:46:49:MODELS_DIR           = <root>/src/modules/ObjectDetectionYOLOv5-3.1/assets
12:46:49:MODEL_SIZE           = Small
12:46:49:OMP_NUM_THREADS      = 1
12:46:49:OPENBLAS_CORETYPE    = ARMV8
12:46:49:OPENBLAS_NUM_THREADS = 1
12:46:49:PROFILE              = desktop_gpu
12:46:49:TEMP_PATH            = <root>/src/modules/ObjectDetectionYOLOv5-3.1/tempstore
12:46:49:USE_CUDA             = True
12:46:49:YOLOv5_VERBOSE       = false
12:46:49:
12:46:49:Started Object Detection (YOLOv5 3.1) module
12:46:54:Server: This is the latest version
12:47:03:detect_adapter.py: /tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/bin/linux/python38/venv/lib/python3.8/site-packages/scipy/__init__.py:143: UserWarning: A NumPy version >=1.19.5 and <1.27.0 is required for this version of SciPy (detected version 1.19.4)
12:47:03:detect_adapter.py:   warnings.warn(f"A NumPy version >={np_minversion} and <{np_maxversion}"
12:47:03:detect_adapter.py: Traceback (most recent call last):
12:47:03:detect_adapter.py:   File "/tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/detect_adapter.py", line 23, in 
12:47:03:detect_adapter.py:     from process import YOLODetector, init_detect
12:47:03:detect_adapter.py:   File "/tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/process.py", line 14, in 
12:47:03:detect_adapter.py:     from models.experimental import attempt_load
12:47:03:detect_adapter.py:   File "/tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/models/experimental.py", line 6, in 
12:47:03:detect_adapter.py:     from models.common import Conv, DWConv
12:47:03:detect_adapter.py:   File "/tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/models/common.py", line 6, in 
12:47:03:detect_adapter.py:     from utils.general import non_max_suppression
12:47:03:detect_adapter.py:   File "/tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/utils/general.py", line 25, in 
12:47:03:detect_adapter.py:     from utils.torch_utils import init_torch_seeds, is_parallel
12:47:03:detect_adapter.py:   File "/tmp/CodeProject.AI-Server/src/modules/ObjectDetectionYOLOv5-3.1/utils/torch_utils.py", line 11, in 
12:47:03:detect_adapter.py:     import torchvision
12:47:03:detect_adapter.py: ModuleNotFoundError: No module named 'torchvision'
12:47:04:Module ObjectDetectionYOLOv5-3.1 has shutdown
12:47:04:detect_adapter.py: has exited
doodieb15 commented 2 months ago

I got it to work on the Jetson Nano 4GB

Following steps:

1) Start with a fresh install of Ubuntu 20.04 from Q Engineering: https://github.com/Qengineering/Jetson-Nano-Ubuntu-20-image 2) Install Codeproject AI 2.6.5 (https://www.codeproject.com/ai/docs/install/install_on_jetson.html) 3) in the venv for YOLO 5.3.1 install PyTorch 1.13 for GPU https://qengineering.eu/install-pytorch-on-jetson-nano.html nd Torchvision 0.14.0 from the same tutorial 4) Start YOLO5.3.1 and it should run on GPU

Have not gotten any other module to run on GPU