521xueweihan / HelloGitHub

:octocat: 分享 GitHub 上有趣、入门级的开源项目。Share interesting, entry-level open source projects on GitHub.
https://hellogithub.com
86.66k stars 9.46k forks source link

FlaxKV:Python高性能磁盘字典,简单易用 #2674

Open phymathics opened 5 months ago

phymathics commented 5 months ago

推荐项目

- 类别:Python - 项目标题:FlaxKV:Python高性能磁盘字典,简单易用

db = FlaxKV('test_db') db['a dict'] = {'a': 1, 'b': [1, 2, 3]} db['numpy array'] = np.random.randn(100, 100) db['df'] = pd.DataFrame({'a': [1, 2, 3], 'b': [4, 5, 6]})

print(db['numpy array']) print(db['df'])



- Benchmark 截图
![img](https://github.com/KenyonY/flaxkv/raw/main/.github/img/benchmark.png)

### 适用场景

- **键-值型结构**:
  适用于保存简单的键值结构数据
- **高频写入**:
  适合需要高频插入/更新数据的场景
- **机器学习**:
  适用于保存机器学习中的各种嵌入向量、图像、文本和其它键-值结构的大型数据集。
521xueweihan commented 4 months ago

@phymathics 建议给出使用场景,方便用户了解

phymathics commented 4 months ago

@phymathics 建议给出使用场景,方便用户了解

已更新适用场景

Hu-Wentao commented 2 weeks ago

https://github.com/521xueweihan/HelloGitHub/issues/2758 要不要联动一波, 刚写了一个GUI工具