search

ML-TANGO / TANGO

public repo for TANGO (Target Aware No-code neural network Generation and Operation framework)
Other
67 stars 20 forks source link

LLM 적용을 위한 방안 #196

Closed HyunwooCho closed 3 days ago

HyunwooCho commented 1 month ago
  1. [task == 'chat'] autonn 시작시 dash board는 port 8101 화면으로 전환 (tangochat 화면으로서, 신규 생성 예정)
  2. [autonn completed] 로그 화면으로 전환 요청(이유: tangochat 화면은 완료 즉시 연결이 끊어짐)
  3. [autonn running] 동작 중 다시 버튼 클릭, "동작 중입니다. 중지할까요? (계속) / (중지)", (중지) 선택 시 stop 신호 송출

  4. [models] LLM은 datasets만큼 models의 관리가 중요, /shared/models/의 별도 디렉토리 추가 및 관리

    • datasets와 비슷하게 models도 디렉토리로 구분 (아래는 예시)
    • /shared/models/mistralai/Mistral-7B-v0.1/model.pth
    • /shared/models/meta/Llama-3.1-8B/model.pth
    • /shared/models/microsoft/Phi-3.5-vision-instruct/model.pth
    • /shared/models/google/gemma-2-2b/model.pth

(참고) 현재 작업 중인 TangoChat 화면 프로토타입(port 8101)

image

HyunwooCho commented 1 month ago
  1. (부가 설명)
    • 현재는 AutoNN이 완료되어도 Train 화면(로그 시각화 화면)이 dash board에 남아 있습니다.
    • 이는 큰 문제는 아니지만, AutoNN이 완료된 상태인지 파악하기가 조금 어렵습니다.
    • 그 이후 단계인 CodeGen을 시작하면 화면이 검은색 바탕의 로그 화면으로 바뀝니다.
    • 요청 사항은 AutoNN이 끝났을 때 검은색 바탕의 로그 화면으로 바뀌면 좋겠다는 것입니다.
    • 이유는 새롭게 작업 중인 TangoChat 화면은 완료되면 곧 connection error를 띄우는 관계로 마치 error가 발생한 것처럼 보여서 보기 좋지 않기 때문입니다.

[추가 요구사항]

  1. 현재 프로젝트를 생성할 때 description 란을 비워두면 진행이 되지 않습니다. 이는 필수적인 기입란이 아니므로 빈칸으로 남겨 두어도 NEXT로 진행되었으면 좋겠습니다.
  2. 현재 프로젝트를 생성할 때, project name/description -> dataset -> target -> configuration 순서입니다. 이를 project name -> configuration -> target -> dataset으로 바꾸었으면 좋겠습니다.
    • configuration에서 task를 설정하게 되는데, task == 'chat'이면 dataset의 선택이 (아직은) 필요가 없습니다.
    • task == 'chat'이면 dataset을 아무 것도 선택하지 않을 수 있는 옵션을 넣어 주세요