TODAM-tw / todam-ticket-system

The frontend with gradio and combined with the API endpoints for the ticket system.
Apache License 2.0
0 stars 0 forks source link

[Bug] 送至 Ticket System 後會導致其他 Segment ID 無法透過模型 Summerize #9

Open 1chooo opened 2 months ago

1chooo commented 2 months ago

昨天有成功送出一個 Segment ID 至 Ticket System,不過當送出之後會導致其他的 Segment 無法 Summerized(拿得到 Chat History 也能成功拿到 Segment ID),會拿不到回傳的 200,目前剩下的 Segment ID 有

['70c95da4b9ff421cbec171ccfcc9b4dc', '5c68c91d110e40c7947ef056562c1f74', '86968af088ae408f957cd5f57f33cdd5', '3585db7f11954dab99fce3fedda8e205']

受影響的:

'70c95da4b9ff421cbec171ccfcc9b4dc'

'3585db7f11954dab99fce3fedda8e205'

原因

不明,已試過將原有的 Chat History 用 Postman 的測試方法仍然失敗!

頻率

目前試一次到 Ticket System 一次失敗 (1/1)

Screenshots

Screenshot 2024-05-14 at 9 32 47 AM
sh1un commented 2 months ago

Hi @1chooo 請問這邊是指這支 API List Segment Messages (Raw Data): GET /messages?segment_id={segment_id} 不會回傳 200 OK 嗎?

因我目前測試該 API 的結果都正常,如下:

1chooo commented 2 months ago

是這支 API 會需要呼叫模型的時候,上述的 API 是拿得到 200

Screenshot 2024-05-14 at 10 12 01 AM
import requests

url = "https://todam-aml-workspace-dev.eastus2.inference.ml.azure.com/score"

payload = "{\r\n    \"input\": {\r\n        \"question\": \"TAM: start recording\\nTAM: start recording\\nTAM: start recording\\nTAM: end recording\\nTAM: TAM這是一則來自TAM的訊息\\nClient: Client這是一則來自客戶的訊息\\nClient: Client這是一則來自客戶的訊息\\nTAM: end recording\\nTAM: end recording\\nTAM: TAM這是一則來自TAM的訊息\"\r\n    }\r\n}"
headers = {
  'azureml-model-deployment': 'todam-aml-workspace-dev-0503-v1'
}

response = requests.request("POST", url, headers=headers, data=payload)    # 這邊的 response 得不到 200

print(response.text)