chenshuais / chenshuais.github.io

0 stars 0 forks source link

Android 手机运行 Ollama #78

Open IAn2018cs opened 4 months ago

IAn2018cs commented 4 months ago

在你的安卓设备上通过 Termux 和 Ollama 释放大型语言模型的力量在这篇博客文章中,我们将探讨如何使用强大的终端模拟器 Termux 在安卓设备上安装和运行 Ollama 语言模型。本教程是为那些希望直接在他们的移动设备上利用大型语言模型的能力而无需桌面环境的用户设计的。

1. 安装 Termux

下载并安装:https://f-droid.org/repo/com.termux_117.apk

2. 更新软件包

打开 Termux ,输入以下命令:

pkg update
pkg upgrade

3. 安装 Proot-Distro

Proot-Distro 可以在 Termux 内运行不同的 Linux 版本,比如 Ubuntu、Debian 等

pkg install proot-distro

4. 下载 Debian 系统

pd install debian

5. 登录到 Debian 系统上

pd login debian

6. 更新 Debian 系统内的软件包

apt update
apt upgrade

7. 安装 Ollama

curl -fsSL https://ollama.com/install.sh | sh

8. 运行 Ollama 服务

ollama serve

9. 开启一个新的 Termux 会话

回到手机桌面,长按 Termux 图标,选择 New session

10. 在新的会话终端里下载并运行 phi3 模型

先登录进 Debian

pd login debian

然后再运行 ollama 命令

ollama run phi3

11. 体验模型效果

模型有 2.4 G,等模型下载完毕后,就可以测试模型的效果了。

Gmeek-html<img src="https://blog-image.ian2018.cn/images/aaa7cdf952582cecf9e952839ca2931ac181f07d.png">

12. 也可以下载其他模型

https://ollama.com/library

Gmeek-html<img src="https://blog-image.ian2018.cn/images/12dc8bc847db26ccd831af9c8b6977a4321d413f.png">

比如下载并运行 Gemma

ollama run gemma
ydeyfxx commented 2 months ago

按顺序的话, 在第十步出现了问题 。在新打开的界面 输入命令无法运行 $ ollama run phi3 No command ollama found, did you mean: Command clamd in package clamav Command gleam in package gleam Command lame in package lame Command olvm in package ol Command olivia in package olivia from the x11-repo repository Command allcm in package texlive-bin Command lzma in package xz-utils

ydeyfxx commented 2 months ago

在这个步骤前的新打开页面中 似乎要重新打开 pd login debian

ydeyfxx commented 2 months ago

Screenshot_2024-08-29-23-35-11-96_84d3000e3f4017145260f7618db1d683.jpg

IAn2018cs commented 2 months ago

在这个步骤前的新打开页面中 似乎要重新打开 pd login debian

是的,要先进入 Debian