PhDLeToanThang commented 12 hours ago

Các câu hỏi thường gặp về Install, Uninstall, lưu ý cần khởi tạo biến môi trường trước khi chạy AI/ML/DL:

How to uninstall some of models in ollama 2/3/3.1/3.2?

    cmd /admin: cd c:\Python311>
                ollama list
            NAME                                   ID              SIZE      MODIFIED                                               monotykamary/medichat-llama3:latest    917fc98ce3d1    4.9 GB    8 weeks ago                                            medllama2:latest                       a53737ec0c72    3.8 GB    8 weeks ago                                            codellama:latest                       8fdf8f752f6e    3.8 GB    2 months ago                                           codegemma:latest                       0c96700aaada    5.0 GB    2 months ago                                           llama3.1:latest                        91ab477bec9d    4.7 GB    2 months ago                                           phi3:3.8b                              4f2222927938    2.2 GB    3 months ago                                           mistral:latest                         f974a74358d6    4.1 GB    3 months ago                                           llama2:latest                          78e26419b446    3.8 GB    5 months ago                                           gemma:2b                               b50d6c999e59    1.7 GB    6 months ago                                           llama3:latest                          a6990ed6be41    4.7 GB    6 months ago                   
    Windows cmd /admin: ollama rm monotykamary/medichat-llama3:latest 
                ollama rm medllama2:latest
                ollama rm codellama:latest
                ollama rm phi3:3.8b
                ollama rm codegemma:latest
                ollama rm mistral:latest
                ollama rm llama2:latest
                ollama rm gemma:2b
                ollama rm llama3:latest
                ollama rm llama3.1:latest

Check folders:

C:\Users\thang\.ollama\models\blobs
        C:\  size 140GB Free/930 used -> size: 160GB Free/930.

Check c:\Python311\workspaces>

open-webui server

        --> http://localhost:8080/ not result found models.

Linux terminal:

 sudo rm -r models

How to install some of models in ollama 3.1 in python venv and 3.1?

    cmd /admin: cd c:\Python311>workspaces
                py -m venv open-webui
                open-webui\Scripts\activate  --> C:\Python311\workspaces\open-webui

                ollama list --> empty
                NAME                 ID              SIZE      MODIFIED

                ollama serve --> Start the Ollama app
                ollama pull llama3.1

How to uninstall Jupyter notebook in ollama 3.1 with python 3.11?

    cmd /admin: cd c:\Python311>workspaces
                                    pip uninstall notebook -y

Found existing installation: notebook 7.2.2
Uninstalling notebook-7.2.2:
  Would remove:
    c:\python310\etc\jupyter\jupyter_server_config.d\notebook.json
    c:\python310\lib\site-packages\notebook-7.2.2.dist-info\*
    c:\python310\lib\site-packages\notebook\*
    c:\python310\scripts\jupyter-notebook.exe
    c:\python310\share\applications\jupyter-notebook.desktop
    c:\python310\share\icons\hicolor\scalable\apps\notebook.svg
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\application-extension\menus.json
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\application-extension\package.json.orig
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\application-extension\pages.json
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\application-extension\shell.json
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\application-extension\title.json
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\application-extension\top.json
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\application-extension\zen.json
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\documentsearch-extension\package.json.orig
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\help-extension\open.json
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\help-extension\package.json.orig
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\notebook-extension\checkpoints.json
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\notebook-extension\edit-notebook-metadata.json
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\notebook-extension\kernel-logo.json
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\notebook-extension\package.json.orig
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\notebook-extension\scroll-output.json
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\tree-extension\file-actions.json
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\tree-extension\package.json.orig
    c:\python310\share\jupyter\lab\schemas\@jupyter-notebook\tree-extension\widget.json
    c:\python310\share\jupyter\labextensions\@jupyter-notebook\lab-extension\package.json
    c:\python310\share\jupyter\labextensions\@jupyter-notebook\lab-extension\schemas\@jupyter-notebook\lab-extension\interface-switcher.json
    c:\python310\share\jupyter\labextensions\@jupyter-notebook\lab-extension\schemas\@jupyter-notebook\lab-extension\launch-tree.json
    c:\python310\share\jupyter\labextensions\@jupyter-notebook\lab-extension\schemas\@jupyter-notebook\lab-extension\package.json.orig
    c:\python310\share\jupyter\labextensions\@jupyter-notebook\lab-extension\static\42.33f638f0a4239bed9676.js
    c:\python310\share\jupyter\labextensions\@jupyter-notebook\lab-extension\static\568.3dd58d88e32a98358776.js
    c:\python310\share\jupyter\labextensions\@jupyter-notebook\lab-extension\static\928.bf5955f09ff1e05edfbb.js
    c:\python310\share\jupyter\labextensions\@jupyter-notebook\lab-extension\static\93.eae3497dd223d842d198.js
    c:\python310\share\jupyter\labextensions\@jupyter-notebook\lab-extension\static\remoteentry.04dfa589925e7e7c6a3d.js
    c:\python310\share\jupyter\labextensions\@jupyter-notebook\lab-extension\static\style.js
    c:\python310\share\jupyter\labextensions\@jupyter-notebook\lab-extension\static\third-party-licenses.json
Proceed (Y/n)? Y
    Successfully uninstalled notebook-7.2.2

pip uninstall jupyterlab -y  --> Successfully uninstalled jupyterlab-4.2.5                          
pip3 uninstall jupyter -y
pip3 uninstall jupyter_core -y
pip3 uninstall jupyter-client -y
pip3 uninstall jupyter-console -y
pip3 uninstall jupyterlab_pygments -y
pip3 uninstall notebook -y
pip3 uninstall qtconsole -y
pip3 uninstall nbconvert -y
pip3 uninstall nbformat -y
pip3 uninstall argon2-cffi -y
pip3 uninstall argon2-cffi-bindings -y
pip3 uninstall async-generator -y
pip3 uninstall attrs -y
pip3 uninstall backcall -y
pip3 uninstall bleach -y
pip3 uninstall cffi -y
pip3 uninstall dataclasses -y
pip3 uninstall decorator -y
pip3 uninstall defusedxml -y
pip3 uninstall entrypoints -y
pip3 uninstall importlib-metadata -y
pip3 uninstall ipykernel -y
pip3 uninstall ipython -y
pip3 uninstall ipython-genutils -y
pip3 uninstall ipywidgets -y
pip3 uninstall jedi -y
pip3 uninstall Jinja2 -y
pip3 uninstall jsonschema -y
pip3 uninstall jupyter -y
pip3 uninstall jupyter-client -y
pip3 uninstall jupyter-console -y
pip3 uninstall jupyter-core -y
pip3 uninstall jupyterlab-pygments -y
pip3 uninstall jupyterlab-widgets -y
pip3 uninstall MarkupSafe -y
pip3 uninstall mistune -y
pip3 uninstall nbclient -y
pip3 uninstall nbconvert -y
pip3 uninstall nbformat -y
pip3 uninstall nest-asyncio -y
pip3 uninstall notebook -y
pip3 uninstall packaging -y
pip3 uninstall pandocfilters -y
pip3 uninstall parso -y
pip3 uninstall pexpect -y
pip3 uninstall pickleshare -y
pip3 uninstall prometheus-client -y
pip3 uninstall prompt-toolkit -y
pip3 uninstall ptyprocess -y
pip3 uninstall pycparser -y
pip3 uninstall Pygments -y
pip3 uninstall pyparsing -y
pip3 uninstall pyrsistent -y
pip3 uninstall python-dateutil -y
pip3 uninstall pyzmq -y
pip3 uninstall qtconsole -y
pip3 uninstall QtPy -y
pip3 uninstall Send2Trash -y
pip3 uninstall six -y
pip3 uninstall terminado -y
pip3 uninstall testpath -y
pip3 uninstall tornado -y
pip3 uninstall traitlets -y
pip3 uninstall typing-extensions -y
pip3 uninstall wcwidth -y
pip3 uninstall webencodings -y
pip3 uninstall widgetsnbextension -y
pip3 uninstall zipp -y

How to install Jupyter notebook in ollama 3.1 with python 3.11 ?

ref: https://developer.ibm.com/tutorials/awb-accessing-llms-jupyter-notebook-ollama/

    cmd /admin: cd c:\Python311>workspaces
                py -m venv open-webui
                open-webui\Scripts\activate

--> C:\Python311\workspaces\open-webui

(open-webui) c:\Python311\workspaces>   
        pip install jupyterlab

--> [notice] A new release of pip is available: 24.0 -> 24.3.1 [notice] To update, run: python.exe -m pip install --upgrade pip --> Successfully installed pip-24.3.1

pip install jupyter notebook

--> Installing collected packages: widgetsnbextension, jupyterlab-widgets, ipywidgets, jupyter-console, jupyterlab, notebook, jupyter Attempting uninstall: jupyterlab Found existing installation: jupyterlab 4.3.0 Uninstalling jupyterlab-4.3.0: Successfully uninstalled jupyterlab-4.3.0 Successfully installed ipywidgets-8.1.5 jupyter-1.1.1 jupyter-console-6.6.3 jupyterlab-4.2.5 jupyterlab-widgets-3.0.13 notebook-7.2.2 widgetsnbextension-4.0.13

cd c:\python311\workspaces
jupyter notebook

How to use jupyter notebook call models ollama 3.1 in python 3.11?

ref: https://emmakodes.medium.com/how-to-run-llama-3-1-locally-in-python-using-ollama-langchain-331c9984a4b5

Outline:

Install Ollama

https://github.com/ollama/ollama
Linux-based PC: curl -fsSL https://ollama.com/install.sh | sh

Pull model

ollama pull llama3.1
ollama pull llama3.1:70b

Serve model
```
ollama serve
```
Create a new folder, open it with a code editor
Create and activate Virtual environment On Windows:
```
py -m venv open-webui
open-webui\Scripts\activate
```
Install langchain-ollama
```
pip install -U langchain-ollama
```

Run Ollama with model in Python

from langchain_ollama import OllamaLLM
llm = OllamaLLM(model="llama3.1")
response = llm.invoke("The first man on the moon was ...")
print(response)

Conclusion: You can view the Ollama documentation for more commands

PhDLeToanThang commented 11 hours ago

1. Lỗi khi cài trong python jupyter notebook:

!pip install -U langchain-ollama

Error:

jupyter-server 2.14.2 requires argon2-cffi>=21.1, which is not installed.
jupyter-server 2.14.2 requires jinja2>=3.0.3, which is not installed.
jupyter-server 2.14.2 requires jupyter-client>=7.4.4, which is not installed.
jupyter-server 2.14.2 requires jupyter-core!=5.0.*,>=4.12, which is not installed.
jupyter-server 2.14.2 requires nbconvert>=6.4.4, which is not installed.
jupyter-server 2.14.2 requires nbformat>=5.3.0, which is not installed.
jupyter-server 2.14.2 requires prometheus-client>=0.9, which is not installed.
jupyter-server 2.14.2 requires pyzmq>=24, which is not installed.
jupyter-server 2.14.2 requires send2trash>=1.8.2, which is not installed.
jupyter-server 2.14.2 requires terminado>=0.8.3, which is not installed.
jupyter-server 2.14.2 requires tornado>=6.2.0, which is not installed.
jupyter-server 2.14.2 requires traitlets>=5.6.0, which is not installed.
jupyterlab-server 2.27.3 requires jinja2>=3.0.3, which is not installed.
jupyterlab-server 2.27.3 requires jsonschema>=4.18.0, which is not installed.
pygwalker 0.4.9.4 requires ipython, which is not installed.
pygwalker 0.4.9.4 requires ipywidgets, which is not installed.
pygwalker 0.4.9.4 requires jinja2, which is not installed.
rich 13.9.3 requires pygments<3.0.0,>=2.13.0, which is not installed.
tensorboard 2.18.0 requires six>1.9, which is not installed.
tensorflow-intel 2.18.0 requires six>=1.12.0, which is not installed.
torch 2.1.2 requires jinja2, which is not installed.

--> sẽ phải sửa lại lệnh cài : cmd /admin:

 pip install langchain-ollama

hoặc trong python notebook:

 !pip install langchain-ollama

2. Lỗi viết các thủ tục hàm sai cấu trúc:

Ví dụ 1: Tôi dùng hàm : !pip install langchain-ollama trong python jupyter notebook !ollama list tham số: model_id = "llama3.1:latest" khi chạy đến thủ tục: from langchain_ollama.llms import OllamaLLM model = OllamaLLM(model=model_id) thì bị báo lỗi: Cell In[27], line 2 model = OllamaLLM(model=model_id) ^

IndentationError: unexpected indent

Lỗi IndentationError: unexpected indent cho thấy rằng có một vấn đề với cách thụt lề (indentation) trong đoạn mã của bạn. Python rất nhạy cảm với thụt lề, vì vậy bất kỳ thụt lề không nhất quán nào cũng có thể gây ra lỗi.

Để khắc phục vấn đề này, hãy kiểm tra lại thụt lề của dòng mã bạn đã viết. Dưới đây là một ví dụ về cách bạn có thể viết mã mà không gặp lỗi thụt lề:

# Giả định rằng bạn đã import mô-đun cần thiết
from langchain_ollama.llms import OllamaLLM

# Đặt model_id
model_id = "llama3.1:latest"

# Tạo đối tượng OllamaLLM
model = OllamaLLM(model=model_id)

Một số lưu ý:

Kiểm tra thụt lề: Đảm bảo rằng tất cả các dòng đều được thụt lề một cách đồng nhất. Sử dụng 4 khoảng trắng cho mỗi cấp thụt lề là một quy tắc tốt.
Không sử dụng tab và khoảng trắng cùng một lúc: Chỉ sử dụng hoặc tab hoặc khoảng trắng để thụt lề trong một file, không nên trộn lẫn chúng.
Xóa khoảng trắng không cần thiết: Đảm bảo không có khoảng trắng không cần thiết trước hoặc sau các dòng mã.

PhDLeToanThang commented 3 minutes ago

Ví dụ 2: Sau khi chỉnh sửa lề viết hàm

from langchain_ollama.llms import OllamaLLM
model = OllamaLLM(model=model_id)

tôi chạy thủ tục và bị lỗi sau:

ModuleNotFoundError Traceback (most recent call last)
Cell In[28], line 1

----> 
1 from langchain_ollama.llms import OllamaLLM
2 model = OllamaLLM(model=model_id)

ModuleNotFoundError: No module named 'langchain_ollama'

Lỗi ModuleNotFoundError: No module named 'langchain_ollama' cho thấy rằng Python không thể tìm thấy mô-đun langchain_ollama. Điều này có thể xảy ra vì một số lý do:

1. Mô-đun chưa được cài đặt đúng cách

Đảm bảo rằng bạn đã cài đặt mô-đun langchain-ollama thành công. Bạn có thể chạy lại lệnh cài đặt trong Jupyter Notebook:

!pip install langchain-ollama

2. Kiểm tra môi trường ảo

Nếu bạn đang sử dụng môi trường ảo (virtual environment), hãy chắc chắn rằng môi trường đó đã được kích hoạt trước khi cài đặt mô-đun và chạy mã. Bạn có thể kiểm tra bằng cách in ra đường dẫn Python:

import sys
print(sys.executable)

3. Khởi động lại Jupyter Notebook

Sau khi cài đặt mô-đun, đôi khi bạn cần khởi động lại kernel của Jupyter Notebook để nó nhận diện các mô-đun mới được cài đặt. Bạn có thể làm điều này bằng cách vào menu "Kernel" -> "Restart Kernel".

4. Kiểm tra tên mô-đun

Đảm bảo rằng tên mô-đun bạn đang cố gắng sử dụng là chính xác. Có thể tên mô-đun đã có sự thay đổi hoặc có một lỗi chính tả khi nhập.

5. Kiểm tra cài đặt pip

Bạn có thể kiểm tra xem mô-đun có được cài đặt hay không bằng cách chạy lệnh sau:

!pip show langchain-ollama

--> Phải so sánh với Sample.jpynb code source mới phát hiện ra Tác giả đã viết sai code

from langchain_ollama.llm[s] import OllamaLLM

dòng code trên viết sai tên thủ tục của models, phỉa bỏ chữ [s], sửa thành: from langchain_ollama.llm import OllamaLLM

PhDLeToanThang / ai-ml-dl