Secure KServe InferenceService API

[dvquy13]

Need help adding security layer to the MLServer Inference Service e.g. HTTPS and OAuth2

[quan-dang]

• Cái này thì thường KServe sẽ không được expose ra bên ngoài sếp ạ, mà sẽ do một con API Gateway (ví dụ NGINX) đứng trước nó đảm nhiệm phần mã hóa đường truyền (dùng TLS/SSL cert), và cũng đảm nhận luôn phần authentication sếp ạ.
• Trong trường hợp KServe không được expose, mà service nội cụm gọi nó, thì có thể dùng Istio để phần quyền, sếp nghiên cứu thử Istio AuthorizationPolicy.