AI/ML đang dùng là LLaMA 3.0 tôi muốn nâng lên 3.1 trong laptop(non GPU) python 3.11 thì như thế nào?

[PhDLeToanThang]

Bươc 4. Tải mã OLLAMA

• Mở trình duyệt web và truy cập vào trang chủ của OLLAMA: https://ollama.io/
• Click vào nút "Tải mã" (Download) để tải mã OLLAMA.
• Chọn định dạng tệp (ví dụ: .msi) và tên tệp.
• Tải mã hoàn tất, click vào nút "Lưu trữ" (Save) để lưu trữ tệp.

Bước 5: Cài đặt OLLAMA

• Mở File Explorer và tìm đến vị trí tải mã OLLAMA.
• Click vào nút "Cài đặt" (Install) để cài đặt OLLAMA.
• Chọn ngôn ngữ cài đặt và đọc các thông tin về quyền lợi và nghĩa vụ.
• Nhấn "Next" để tiếp tục cài đặt.

[PhDLeToanThang]

In terminal does python 3.11: ollama run llama3.1

ref: https://github.com/ollama/ollama

In python 3.11: import ollama response = ollama.chat(model='llama3.1', messages=[ { 'role': 'user', 'content': 'Why is the sky blue?', }, ]) print(response['message']['content'])

ref: https://pypi.org/project/ollama/

[PhDLeToanThang]

Cách nâng version ollaMA 3.1 đơn giản bằng lệnh của python3.11

cd c:\python311 c:\python311\ollama pull llama3.1

Cập nhật sử dụng ollaMA3.1 từ Opeb-webUI:

http://localhost:8080/workspace/models