-
Hello,
I am currently working on a project that involves the application of the KAdaptation technique, as detailed in the paper "Parameter-efficient Model Adaptation for Vision Transformers" , to v…
-
[Paper](https://arxiv.org/abs/2104.14294)
[Code](https://github.com/facebookresearch/dino)
Authors:
Mathilde Caron, Hugo Touvron, etc.
FBAI.
![](https://raw.githubusercontent.com/fac…
XFeiF updated
2 years ago
-
- https://arxiv.org/abs/2106.12620
- 2021
自己注意に基づくモデルであるトランスフォーマーは、近年、コンピュータビジョンの分野で主要なバックボーンとなりつつあります。
しかし、様々なビジョンタスクにおいてトランスフォーマーは目覚ましい成功を収めているにもかかわらず、トランスフォーマーは重い計算と集中的なメモリコストに悩まされている。
この問題を…
e4exp updated
2 years ago
-
- https://arxiv.org/abs/2107.02192
- 2021
トランスフォーマーは、言語領域と視覚領域の両方で成功を収めている。
しかし、長い文書や高解像度の画像のような長いシーケンスに拡張するには、自己保持機構が入力シーケンスの長さに対して二次的な時間とメモリの複雑さを持つため、法外なコストがかかります。
本論文では、言語タスクと視覚タスクの両方において、長いシ…
e4exp updated
3 years ago
-
### Links
- Paper : https://arxiv.org/abs/2106.09785
- Github : https://github.com/microsoft/esvit
- Openreview : https://openreview.net/forum?id=fVu3o-YUGQK
### 한 줄 요약
- Microsoft에서 나온, Swin t…
-
Does ctranslate2 to have plans to support the recently released small, medium, and vision. I've tried running them with transformers (on Windows) and can't get past a Triton and compiler not found ki…
-
## 🚀 Feature
Addition of Swin, SwinV2 to the swav self-supervised models
### Motivation and Pitch
Swin, SwinV2 vision transformers are currently one of the top-performing models on multiple c…
-
### Describe the bug
I am getting issue running below code using ipex-llm:
```
(llm_vision) spandey2@IMU-NEX-ADLP-voice-SUT:~/LLM_Computer_Vision$ cat /etc/os-release
PRETTY_NAME="Ubuntu 22.04.4 L…
-
llava multimodel would be huge to be supported for aws neuron chips
https://huggingface.co/llava-hf/llava-v1.6-mistral-7b-hf
This in particular is trending
I'm not sure if this is the correct…
-
```
[2024-03-20 16:15:45,873] [INFO] [real_accelerator.py:110:get_accelerator] Setting ds_accelerator to cuda (auto detect)
config.json: 100%|████████████████████████████████████████████████████████…