Open decadance-dance opened 10 months ago
BTW, even if I try to transfer content from Dockerfile to YAML I am still getting the error like:
RuntimeError: Docker error: The command '/bin/sh -c pip install --default-timeout=60 --no-cache-dir -r .zenml_user_requirements' returned a
non-zero code: 1.
YAML:
settings:
docker:
# dockerfile: Dockerfile
# build_context_root: envs/try_on
parent_image: python:3.10-alpine3.18
requirements:
- polars
Logs:
Initiating a new run for the pipeline: simple_ml_pipeline.
Reusing registered pipeline version: (version: 2).
Building Docker image(s) for pipeline simple_ml_pipeline.
Building Docker image zenml:simple_ml_pipeline-orchestrator.
- Including user-defined requirements: polars
Step 1/8 : FROM python:3.10-alpine3.18
Step 2/8 : WORKDIR /app
Step 3/8 : COPY .zenml_user_requirements .
Step 4/8 : RUN pip install --default-timeout=60 --no-cache-dir -r .zenml_user_requirements
โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ Traceback (most recent call last) โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ
โ /home/kllis/font_recognition_mlops/pipelines/try_on.py:33 in <module> โ
โ โ
โ 30 โ
โ 31 if __name__ == "__main__": โ
โ 32 โ simple_ml_pipeline = simple_ml_pipeline.with_options(config_path='configs/try_on.yam โ
โ โฑ 33 โ simple_ml_pipeline() โ
โ 34 โ # You can now use the `run` object to see steps, outputs, etc. โ
โ 35 โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/new/pipelines/pipeline.py:151 โ
โ 0 in __call__ โ
โ โ
โ 1507 โ โ โ return self.entrypoint(*args, **kwargs) โ
โ 1508 โ โ โ
โ 1509 โ โ self.prepare(*args, **kwargs) โ
โ โฑ 1510 โ โ return self._run(**self._run_args) โ
โ 1511 โ โ
โ 1512 โ def _call_entrypoint(self, *args: Any, **kwargs: Any) -> None: โ
โ 1513 โ โ """Calls the pipeline entrypoint function with the given arguments. โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/new/pipelines/pipeline.py:698 โ
โ in _run โ
โ โ
โ 695 โ โ โ โ deployment=deployment, local_repo_context=local_repo_context โ
โ 696 โ โ โ ) โ
โ 697 โ โ โ โ
โ โฑ 698 โ โ โ build_model = build_utils.reuse_or_create_pipeline_build( โ
โ 699 โ โ โ โ deployment=deployment, โ
โ 700 โ โ โ โ pipeline_id=pipeline_id, โ
โ 701 โ โ โ โ allow_build_reuse=not prevent_build_reuse, โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/new/pipelines/build_utils.py: โ
โ 94 in reuse_or_create_pipeline_build โ
โ โ
โ 91 โ โ โ โ ) โ
โ 92 โ โ โ โ return existing_build โ
โ 93 โ โ โ
โ โฑ 94 โ โ return create_pipeline_build( โ
โ 95 โ โ โ deployment=deployment, โ
โ 96 โ โ โ pipeline_id=pipeline_id, โ
โ 97 โ โ โ code_repository=code_repository, โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/new/pipelines/build_utils.py: โ
โ 257 in create_pipeline_build โ
โ โ
โ 254 โ โ โ โ image_name_or_digest, โ
โ 255 โ โ โ โ dockerfile, โ
โ 256 โ โ โ โ requirements, โ
โ โฑ 257 โ โ โ ) = docker_image_builder.build_docker_image( โ
โ 258 โ โ โ โ docker_settings=build_config.settings, โ
โ 259 โ โ โ โ tag=tag, โ
โ 260 โ โ โ โ stack=stack, โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/utils/pipeline_docker_image_b โ
โ uilder.py:303 in build_docker_image โ
โ โ
โ 300 โ โ โ โ โ โ destination=destination, source=source โ
โ 301 โ โ โ โ โ ) โ
โ 302 โ โ โ โ
โ โฑ 303 โ โ โ image_name_or_digest = image_builder.build( โ
โ 304 โ โ โ โ image_name=target_image_name, โ
โ 305 โ โ โ โ build_context=build_context, โ
โ 306 โ โ โ โ docker_build_options=build_options, โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/image_builders/local_image_bu โ
โ ilder.py:121 in build โ
โ โ
โ 118 โ โ โ โ tag=image_name, โ
โ 119 โ โ โ โ **(docker_build_options or {}), โ
โ 120 โ โ โ ) โ
โ โฑ 121 โ โ docker_utils._process_stream(output_stream) โ
โ 122 โ โ โ
โ 123 โ โ if container_registry: โ
โ 124 โ โ โ return container_registry.push_image(image_name) โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/utils/docker_utils.py:357 in โ
โ _process_stream โ
โ โ
โ 354 โ โ โ try: โ
โ 355 โ โ โ โ line_json = json.loads(line) โ
โ 356 โ โ โ โ if "error" in line_json: โ
โ โฑ 357 โ โ โ โ โ raise RuntimeError(f"Docker error: {line_json['error']}.") โ
โ 358 โ โ โ โ elif "stream" in line_json: โ
โ 359 โ โ โ โ โ text = line_json["stream"].strip() โ
โ 360 โ โ โ โ โ if "ERROR" in text: โ
โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ
Might be a whole number of errors. Can you try running with having the env variable ZENML_LOGGING_VERBOSITY=DEBUG
set? And then you can see the real error
@htahir1, sure. My logs with ZENML_LOGGING_VERBOSITY=DEBUG. But I haven't found the error reason.
2024-01-21 20:26:37,358 - zenml.image_builders.build_context - INFO - No .dockerignore found, including all files inside build context. (build_context.py:195)
2024-01-21 20:26:37,359 - docker.api.build - DEBUG - Looking for auth config (build.py:296)
2024-01-21 20:26:37,359 - docker.api.build - DEBUG - No auth config in memory - loading from filesystem (build.py:301)
2024-01-21 20:26:37,359 - docker.utils.config - DEBUG - Trying paths: ['/home/kllis/.docker/config.json', '/home/kllis/.dockercfg'] (config.py:21)
2024-01-21 20:26:37,359 - docker.utils.config - DEBUG - No config file found (config.py:28)
2024-01-21 20:26:37,359 - docker.api.build - DEBUG - Sending auth config () (build.py:316)
2024-01-21 20:26:37,365 - zenml.zen_stores.rest_zen_store - DEBUG - Sending GET request to /current-user... (rest_zen_store.py:3444)
2024-01-21 20:26:37,380 - zenml.zen_stores.rest_zen_store - DEBUG - Sending GET request to /info... (rest_zen_store.py:3444)
2024-01-21 20:26:37,900 - zenml.analytics.request - DEBUG - data uploaded successfully (request.py:59)
2024-01-21 20:26:37,901 - zenml.analytics.context - DEBUG - Sending analytics: User: b9298ae9-a19a-4f96-88f0-423dd282ed0d, Event: Pipeline run, Metadata: {'event_success': False, 'event_error_type': 'APIError', 'os': 'linux', 'linux_distro': 'ubuntu', 'linux_distro_like': 'debian', 'linux_distro_version': '22.04', 'environment': <EnvironmentType.WSL: 'wsl'>, 'python_version': '3.10.13', 'version': '0.54.1', 'client_id': '623c517e-e34b-47b9-9f42-268a2cbcfbc2', 'user_id': 'b9298ae9-a19a-4f96-88f0-423dd282ed0d', 'server_id': '2c0f6083-1226-49a9-b54e-a531ef2143c6', 'deployment_type': 'other', 'database_type': 'mysql'} (context.py:266)
โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ Traceback (most recent call last) โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/docker/api/client.py:268 in โ
โ _raise_for_status โ
โ โ
โ 265 โ def _raise_for_status(self, response): โ
โ 266 โ โ """Raises stored :class:`APIError`, if one occurred.""" โ
โ 267 โ โ try: โ
โ โฑ 268 โ โ โ response.raise_for_status() โ
โ 269 โ โ except requests.exceptions.HTTPError as e: โ
โ 270 โ โ โ raise create_api_error_from_http_exception(e) from e โ
โ 271 โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ response = <Response [400]> โ โ
โ โ self = <docker.api.client.APIClient object at 0x7f1237b31780> โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/requests/models.py:1021 in โ
โ raise_for_status โ
โ โ
โ 1018 โ โ โ ) โ
โ 1019 โ โ โ
โ 1020 โ โ if http_error_msg: โ
โ โฑ 1021 โ โ โ raise HTTPError(http_error_msg, response=self) โ
โ 1022 โ โ
โ 1023 โ def close(self): โ
โ 1024 โ โ """Releases the connection back to the pool. Once this method has been โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ http_error_msg = '400 Client Error: Bad Request for url: โ โ
โ โ http+docker://localhost/v1.43/build?t=zen'+111 โ โ
โ โ reason = 'Bad Request' โ โ
โ โ self = <Response [400]> โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ
HTTPError: 400 Client Error: Bad Request for url:
http+docker://localhost/v1.43/build?t=zenml%3Asimple_ml_pipeline-orchestrator-intermediate-build&q=False&nocache=False&rm=False&forcerm=False&
pull=False
The above exception was the direct cause of the following exception:
โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ Traceback (most recent call last) โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ
โ /home/kllis/font_recognition_mlops/pipelines/try_on.py:33 in <module> โ
โ โ
โ 30 โ
โ 31 if __name__ == "__main__": โ
โ 32 โ simple_ml_pipeline = simple_ml_pipeline.with_options(config_path='configs/try_on.yam โ
โ โฑ 33 โ simple_ml_pipeline() โ
โ 34 โ # You can now use the `run` object to see steps, outputs, etc. โ
โ 35 โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ load_data = <__main__.load_data object at 0x7f12638dc430> โ โ
โ โ pipeline = <function pipeline at 0x7f1268229510> โ โ
โ โ simple_ml_pipeline = <zenml.new.pipelines.pipeline.Pipeline object at 0x7f1290fdf6d0> โ โ
โ โ step = <function step at 0x7f1263ab6cb0> โ โ
โ โ train_model = <__main__.train_model object at 0x7f12638dc6d0> โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/new/pipelines/pipeline.py:151 โ
โ 0 in __call__ โ
โ โ
โ 1507 โ โ โ return self.entrypoint(*args, **kwargs) โ
โ 1508 โ โ โ
โ 1509 โ โ self.prepare(*args, **kwargs) โ
โ โฑ 1510 โ โ return self._run(**self._run_args) โ
โ 1511 โ โ
โ 1512 โ def _call_entrypoint(self, *args: Any, **kwargs: Any) -> None: โ
โ 1513 โ โ """Calls the pipeline entrypoint function with the given arguments. โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ args = () โ โ
โ โ kwargs = {} โ โ
โ โ self = <zenml.new.pipelines.pipeline.Pipeline object at 0x7f1290fdf6d0> โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/new/pipelines/pipeline.py:698 โ
โ in _run โ
โ โ
โ 695 โ โ โ โ deployment=deployment, local_repo_context=local_repo_context โ
โ 696 โ โ โ ) โ
โ 697 โ โ โ โ
โ โฑ 698 โ โ โ build_model = build_utils.reuse_or_create_pipeline_build( โ
โ 699 โ โ โ โ deployment=deployment, โ
โ 700 โ โ โ โ pipeline_id=pipeline_id, โ
โ 701 โ โ โ โ allow_build_reuse=not prevent_build_reuse, โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ analytics_handler = <zenml.analytics.utils.track_handler object at โ โ
โ โ 0x7f12638dc2e0> โ โ
โ โ build = None โ โ
โ โ code_repository = None โ โ
โ โ config_path = 'configs/try_on.yaml' โ โ
โ โ deployment = PipelineDeploymentBase( โ โ
โ โ โ run_name_template='simple_ml_pipeline-{date}-{time}', โ โ
โ โ โ pipeline_configuration=PipelineConfiguration( โ โ
โ โ โ โ enable_cache=None, โ โ
โ โ โ โ enable_artifact_metadata=None, โ โ
โ โ โ โ enable_artifact_visualization=None, โ โ
โ โ โ โ enable_step_logs=None, โ โ
โ โ โ โ settings={ โ โ
โ โ โ โ โ 'docker': BaseSettings( โ โ
โ โ โ โ โ โ build_context_root='envs/try_on', โ โ
โ โ โ โ โ โ dockerfile='Dockerfile' โ โ
โ โ โ โ โ ), โ โ
โ โ โ โ โ 'orchestrator.local_docker': BaseSettings() โ โ
โ โ โ โ }, โ โ
โ โ โ โ extra={}, โ โ
โ โ โ โ failure_hook_source=None, โ โ
โ โ โ โ success_hook_source=None, โ โ
โ โ โ โ model_version=None, โ โ
โ โ โ โ parameters=None, โ โ
โ โ โ โ name='simple_ml_pipeline' โ โ
โ โ โ ), โ โ
โ โ โ step_configurations={ โ โ
โ โ โ โ 'load_data': Step( โ โ
โ โ โ โ โ spec=StepSpec( โ โ
โ โ โ โ โ โ source=Source( โ โ
โ โ โ โ โ โ โ module='pipelines.try_on', โ โ
โ โ โ โ โ โ โ attribute='load_data', โ โ
โ โ โ โ โ โ โ type=<SourceType.USER: 'user'> โ โ
โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ upstream_steps=[], โ โ
โ โ โ โ โ โ inputs={}, โ โ
โ โ โ โ โ โ pipeline_parameter_name='load_data' โ โ
โ โ โ โ โ ), โ โ
โ โ โ โ โ config=StepConfiguration( โ โ
โ โ โ โ โ โ name='load_data', โ โ
โ โ โ โ โ โ enable_cache=None, โ โ
โ โ โ โ โ โ enable_artifact_metadata=None, โ โ
โ โ โ โ โ โ enable_artifact_visualization=None, โ โ
โ โ โ โ โ โ enable_step_logs=None, โ โ
โ โ โ โ โ โ step_operator=None, โ โ
โ โ โ โ โ โ experiment_tracker=None, โ โ
โ โ โ โ โ โ parameters={}, โ โ
โ โ โ โ โ โ settings={ โ โ
โ โ โ โ โ โ โ 'docker': BaseSettings( โ โ
โ โ โ โ โ โ โ โ build_context_root='envs/try_on', โ โ
โ โ โ โ โ โ โ โ dockerfile='Dockerfile' โ โ
โ โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ โ 'orchestrator.local_docker': โ โ
โ โ BaseSettings() โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ extra={}, โ โ
โ โ โ โ โ โ failure_hook_source=None, โ โ
โ โ โ โ โ โ success_hook_source=None, โ โ
โ โ โ โ โ โ model_version=None, โ โ
โ โ โ โ โ โ outputs={ โ โ
โ โ โ โ โ โ โ 'output': ArtifactConfiguration( โ โ
โ โ โ โ โ โ โ โ materializer_source=( โ โ
โ โ โ โ โ โ โ โ โ Source( โ โ
โ โ โ โ โ โ โ โ โ โ โ โ
โ โ module='zenml.materializers.built_in_materializer', โ โ
โ โ โ โ โ โ โ โ โ โ โ โ
โ โ attribute='BuiltInContainerMaterializer', โ โ
โ โ โ โ โ โ โ โ โ โ type=<SourceType.INTERNAL: โ โ
โ โ 'internal'> โ โ
โ โ โ โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ โ โ default_materializer_source=None โ โ
โ โ โ โ โ โ โ ) โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ caching_parameters={ โ โ
โ โ โ โ โ โ โ 'step_source': โ โ
โ โ '3f999ebc88db7733bd242394e943db7666a4e73dc9ba14794eb7c200a3โฆ โ โ
โ โ โ โ โ โ โ 'output_materializer_source': โ โ
โ โ 'e83a5a4d2f71ed14784c595d98715eab' โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ external_input_artifacts={} โ โ
โ โ โ โ โ ) โ โ
โ โ โ โ ), โ โ
โ โ โ โ 'train_model': Step( โ โ
โ โ โ โ โ spec=StepSpec( โ โ
โ โ โ โ โ โ source=Source( โ โ
โ โ โ โ โ โ โ module='pipelines.try_on', โ โ
โ โ โ โ โ โ โ attribute='train_model', โ โ
โ โ โ โ โ โ โ type=<SourceType.USER: 'user'> โ โ
โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ upstream_steps=['load_data'], โ โ
โ โ โ โ โ โ inputs={ โ โ
โ โ โ โ โ โ โ 'data': InputSpec( โ โ
โ โ โ โ โ โ โ โ step_name='load_data', โ โ
โ โ โ โ โ โ โ โ output_name='output' โ โ
โ โ โ โ โ โ โ ) โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ pipeline_parameter_name='train_model' โ โ
โ โ โ โ โ ), โ โ
โ โ โ โ โ config=StepConfiguration( โ โ
โ โ โ โ โ โ name='train_model', โ โ
โ โ โ โ โ โ enable_cache=None, โ โ
โ โ โ โ โ โ enable_artifact_metadata=None, โ โ
โ โ โ โ โ โ enable_artifact_visualization=None, โ โ
โ โ โ โ โ โ enable_step_logs=None, โ โ
โ โ โ โ โ โ step_operator=None, โ โ
โ โ โ โ โ โ experiment_tracker=None, โ โ
โ โ โ โ โ โ parameters={}, โ โ
โ โ โ โ โ โ settings={ โ โ
โ โ โ โ โ โ โ 'docker': BaseSettings( โ โ
โ โ โ โ โ โ โ โ build_context_root='envs/try_on', โ โ
โ โ โ โ โ โ โ โ dockerfile='Dockerfile' โ โ
โ โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ โ 'orchestrator.local_docker': โ โ
โ โ BaseSettings() โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ extra={}, โ โ
โ โ โ โ โ โ failure_hook_source=None, โ โ
โ โ โ โ โ โ success_hook_source=None, โ โ
โ โ โ โ โ โ model_version=None, โ โ
โ โ โ โ โ โ outputs={}, โ โ
โ โ โ โ โ โ caching_parameters={ โ โ
โ โ โ โ โ โ โ 'step_source': โ โ
โ โ 'fa7c03d48725402cebda45811dc7d7ec5ccdbb47b6f402cf3da1e47c5fโฆ โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ external_input_artifacts={} โ โ
โ โ โ โ โ ) โ โ
โ โ โ โ ) โ โ
โ โ โ }, โ โ
โ โ โ client_environment={ โ โ
โ โ โ โ 'environment': 'wsl', โ โ
โ โ โ โ 'os': 'linux', โ โ
โ โ โ โ 'linux_distro': 'ubuntu', โ โ
โ โ โ โ 'linux_distro_like': 'debian', โ โ
โ โ โ โ 'linux_distro_version': '22.04', โ โ
โ โ โ โ 'python_version': '3.10.13' โ โ
โ โ โ }, โ โ
โ โ โ client_version='0.54.1', โ โ
โ โ โ server_version='0.54.1' โ โ
โ โ ) โ โ
โ โ enable_artifact_metadata = None โ โ
โ โ enable_artifact_visualization = None โ โ
โ โ enable_cache = None โ โ
โ โ enable_step_logs = None โ โ
โ โ extra = None โ โ
โ โ local_repo_context = None โ โ
โ โ pipeline_id = UUID('38273f4f-cf7f-41a0-98d9-e77265ca6bbd') โ โ
โ โ pipeline_spec = PipelineSpec( โ โ
โ โ โ version='0.4', โ โ
โ โ โ source=Source( โ โ
โ โ โ โ module='pipelines.try_on', โ โ
โ โ โ โ attribute='simple_ml_pipeline', โ โ
โ โ โ โ type=<SourceType.USER: 'user'> โ โ
โ โ โ ), โ โ
โ โ โ parameters={}, โ โ
โ โ โ steps=[ โ โ
โ โ โ โ StepSpec( โ โ
โ โ โ โ โ source=Source( โ โ
โ โ โ โ โ โ module='pipelines.try_on', โ โ
โ โ โ โ โ โ attribute='load_data', โ โ
โ โ โ โ โ โ type=<SourceType.USER: 'user'> โ โ
โ โ โ โ โ ), โ โ
โ โ โ โ โ upstream_steps=[], โ โ
โ โ โ โ โ inputs={}, โ โ
โ โ โ โ โ pipeline_parameter_name='load_data' โ โ
โ โ โ โ ), โ โ
โ โ โ โ StepSpec( โ โ
โ โ โ โ โ source=Source( โ โ
โ โ โ โ โ โ module='pipelines.try_on', โ โ
โ โ โ โ โ โ attribute='train_model', โ โ
โ โ โ โ โ โ type=<SourceType.USER: 'user'> โ โ
โ โ โ โ โ ), โ โ
โ โ โ โ โ upstream_steps=['load_data'], โ โ
โ โ โ โ โ inputs={ โ โ
โ โ โ โ โ โ 'data': InputSpec( โ โ
โ โ โ โ โ โ โ step_name='load_data', โ โ
โ โ โ โ โ โ โ output_name='output' โ โ
โ โ โ โ โ โ ) โ โ
โ โ โ โ โ }, โ โ
โ โ โ โ โ pipeline_parameter_name='train_model' โ โ
โ โ โ โ ) โ โ
โ โ โ ] โ โ
โ โ ) โ โ
โ โ prevent_build_reuse = False โ โ
โ โ register_pipeline = True โ โ
โ โ run_name = None โ โ
โ โ schedule = None โ โ
โ โ schedule_id = None โ โ
โ โ self = <zenml.new.pipelines.pipeline.Pipeline object at โ โ
โ โ 0x7f1290fdf6d0> โ โ
โ โ settings = None โ โ
โ โ skip_pipeline_registration = False โ โ
โ โ stack = <zenml.stack.stack.Stack object at 0x7f1237e63400> โ โ
โ โ step_configurations = None โ โ
โ โ unlisted = False โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/new/pipelines/build_utils.py: โ
โ 94 in reuse_or_create_pipeline_build โ
โ โ
โ 91 โ โ โ โ ) โ
โ 92 โ โ โ โ return existing_build โ
โ 93 โ โ โ
โ โฑ 94 โ โ return create_pipeline_build( โ
โ 95 โ โ โ deployment=deployment, โ
โ 96 โ โ โ pipeline_id=pipeline_id, โ
โ 97 โ โ โ code_repository=code_repository, โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ allow_build_reuse = True โ โ
โ โ build = None โ โ
โ โ code_repository = None โ โ
โ โ deployment = PipelineDeploymentBase( โ โ
โ โ โ run_name_template='simple_ml_pipeline-{date}-{time}', โ โ
โ โ โ pipeline_configuration=PipelineConfiguration( โ โ
โ โ โ โ enable_cache=None, โ โ
โ โ โ โ enable_artifact_metadata=None, โ โ
โ โ โ โ enable_artifact_visualization=None, โ โ
โ โ โ โ enable_step_logs=None, โ โ
โ โ โ โ settings={ โ โ
โ โ โ โ โ 'docker': BaseSettings( โ โ
โ โ โ โ โ โ build_context_root='envs/try_on', โ โ
โ โ โ โ โ โ dockerfile='Dockerfile' โ โ
โ โ โ โ โ ), โ โ
โ โ โ โ โ 'orchestrator.local_docker': BaseSettings() โ โ
โ โ โ โ }, โ โ
โ โ โ โ extra={}, โ โ
โ โ โ โ failure_hook_source=None, โ โ
โ โ โ โ success_hook_source=None, โ โ
โ โ โ โ model_version=None, โ โ
โ โ โ โ parameters=None, โ โ
โ โ โ โ name='simple_ml_pipeline' โ โ
โ โ โ ), โ โ
โ โ โ step_configurations={ โ โ
โ โ โ โ 'load_data': Step( โ โ
โ โ โ โ โ spec=StepSpec( โ โ
โ โ โ โ โ โ source=Source( โ โ
โ โ โ โ โ โ โ module='pipelines.try_on', โ โ
โ โ โ โ โ โ โ attribute='load_data', โ โ
โ โ โ โ โ โ โ type=<SourceType.USER: 'user'> โ โ
โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ upstream_steps=[], โ โ
โ โ โ โ โ โ inputs={}, โ โ
โ โ โ โ โ โ pipeline_parameter_name='load_data' โ โ
โ โ โ โ โ ), โ โ
โ โ โ โ โ config=StepConfiguration( โ โ
โ โ โ โ โ โ name='load_data', โ โ
โ โ โ โ โ โ enable_cache=None, โ โ
โ โ โ โ โ โ enable_artifact_metadata=None, โ โ
โ โ โ โ โ โ enable_artifact_visualization=None, โ โ
โ โ โ โ โ โ enable_step_logs=None, โ โ
โ โ โ โ โ โ step_operator=None, โ โ
โ โ โ โ โ โ experiment_tracker=None, โ โ
โ โ โ โ โ โ parameters={}, โ โ
โ โ โ โ โ โ settings={ โ โ
โ โ โ โ โ โ โ 'docker': BaseSettings( โ โ
โ โ โ โ โ โ โ โ build_context_root='envs/try_on', โ โ
โ โ โ โ โ โ โ โ dockerfile='Dockerfile' โ โ
โ โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ โ 'orchestrator.local_docker': BaseSettings() โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ extra={}, โ โ
โ โ โ โ โ โ failure_hook_source=None, โ โ
โ โ โ โ โ โ success_hook_source=None, โ โ
โ โ โ โ โ โ model_version=None, โ โ
โ โ โ โ โ โ outputs={ โ โ
โ โ โ โ โ โ โ 'output': ArtifactConfiguration( โ โ
โ โ โ โ โ โ โ โ materializer_source=( โ โ
โ โ โ โ โ โ โ โ โ Source( โ โ
โ โ โ โ โ โ โ โ โ โ โ โ
โ โ module='zenml.materializers.built_in_materializer', โ โ
โ โ โ โ โ โ โ โ โ โ โ โ
โ โ attribute='BuiltInContainerMaterializer', โ โ
โ โ โ โ โ โ โ โ โ โ type=<SourceType.INTERNAL: 'internal'> โ โ
โ โ โ โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ โ โ default_materializer_source=None โ โ
โ โ โ โ โ โ โ ) โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ caching_parameters={ โ โ
โ โ โ โ โ โ โ 'step_source': โ โ
โ โ '3f999ebc88db7733bd242394e943db7666a4e73dc9ba14794eb7c200a3bc82d1', โ โ
โ โ โ โ โ โ โ 'output_materializer_source': โ โ
โ โ 'e83a5a4d2f71ed14784c595d98715eab' โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ external_input_artifacts={} โ โ
โ โ โ โ โ ) โ โ
โ โ โ โ ), โ โ
โ โ โ โ 'train_model': Step( โ โ
โ โ โ โ โ spec=StepSpec( โ โ
โ โ โ โ โ โ source=Source( โ โ
โ โ โ โ โ โ โ module='pipelines.try_on', โ โ
โ โ โ โ โ โ โ attribute='train_model', โ โ
โ โ โ โ โ โ โ type=<SourceType.USER: 'user'> โ โ
โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ upstream_steps=['load_data'], โ โ
โ โ โ โ โ โ inputs={ โ โ
โ โ โ โ โ โ โ 'data': InputSpec( โ โ
โ โ โ โ โ โ โ โ step_name='load_data', โ โ
โ โ โ โ โ โ โ โ output_name='output' โ โ
โ โ โ โ โ โ โ ) โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ pipeline_parameter_name='train_model' โ โ
โ โ โ โ โ ), โ โ
โ โ โ โ โ config=StepConfiguration( โ โ
โ โ โ โ โ โ name='train_model', โ โ
โ โ โ โ โ โ enable_cache=None, โ โ
โ โ โ โ โ โ enable_artifact_metadata=None, โ โ
โ โ โ โ โ โ enable_artifact_visualization=None, โ โ
โ โ โ โ โ โ enable_step_logs=None, โ โ
โ โ โ โ โ โ step_operator=None, โ โ
โ โ โ โ โ โ experiment_tracker=None, โ โ
โ โ โ โ โ โ parameters={}, โ โ
โ โ โ โ โ โ settings={ โ โ
โ โ โ โ โ โ โ 'docker': BaseSettings( โ โ
โ โ โ โ โ โ โ โ build_context_root='envs/try_on', โ โ
โ โ โ โ โ โ โ โ dockerfile='Dockerfile' โ โ
โ โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ โ 'orchestrator.local_docker': BaseSettings() โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ extra={}, โ โ
โ โ โ โ โ โ failure_hook_source=None, โ โ
โ โ โ โ โ โ success_hook_source=None, โ โ
โ โ โ โ โ โ model_version=None, โ โ
โ โ โ โ โ โ outputs={}, โ โ
โ โ โ โ โ โ caching_parameters={ โ โ
โ โ โ โ โ โ โ 'step_source': โ โ
โ โ 'fa7c03d48725402cebda45811dc7d7ec5ccdbb47b6f402cf3da1e47c5f02cc8f' โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ external_input_artifacts={} โ โ
โ โ โ โ โ ) โ โ
โ โ โ โ ) โ โ
โ โ โ }, โ โ
โ โ โ client_environment={ โ โ
โ โ โ โ 'environment': 'wsl', โ โ
โ โ โ โ 'os': 'linux', โ โ
โ โ โ โ 'linux_distro': 'ubuntu', โ โ
โ โ โ โ 'linux_distro_like': 'debian', โ โ
โ โ โ โ 'linux_distro_version': '22.04', โ โ
โ โ โ โ 'python_version': '3.10.13' โ โ
โ โ โ }, โ โ
โ โ โ client_version='0.54.1', โ โ
โ โ โ server_version='0.54.1' โ โ
โ โ ) โ โ
โ โ pipeline_id = UUID('38273f4f-cf7f-41a0-98d9-e77265ca6bbd') โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/new/pipelines/build_utils.py: โ
โ 257 in create_pipeline_build โ
โ โ
โ 254 โ โ โ โ image_name_or_digest, โ
โ 255 โ โ โ โ dockerfile, โ
โ 256 โ โ โ โ requirements, โ
โ โฑ 257 โ โ โ ) = docker_image_builder.build_docker_image( โ
โ 258 โ โ โ โ docker_settings=build_config.settings, โ
โ 259 โ โ โ โ tag=tag, โ
โ 260 โ โ โ โ stack=stack, โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ build_config = BuildConfiguration( โ โ
โ โ โ key='orchestrator', โ โ
โ โ โ settings=DockerSettings( โ โ
โ โ โ โ parent_image=None, โ โ
โ โ โ โ dockerfile='Dockerfile', โ โ
โ โ โ โ build_context_root='envs/try_on', โ โ
โ โ โ โ build_options={}, โ โ
โ โ โ โ skip_build=False, โ โ
โ โ โ โ target_repository='zenml', โ โ
โ โ โ โ replicate_local_python_environment=None, โ โ
โ โ โ โ requirements=None, โ โ
โ โ โ โ required_integrations=[], โ โ
โ โ โ โ required_hub_plugins=[], โ โ
โ โ โ โ install_stack_requirements=True, โ โ
โ โ โ โ apt_packages=[], โ โ
โ โ โ โ environment={}, โ โ
โ โ โ โ dockerignore=None, โ โ
โ โ โ โ copy_files=True, โ โ
โ โ โ โ copy_global_config=True, โ โ
โ โ โ โ user=None, โ โ
โ โ โ โ source_files=<SourceFileMode.DOWNLOAD_OR_INCLUDE: โ โ
โ โ 'download_or_include'> โ โ
โ โ โ ), โ โ
โ โ โ step_name=None, โ โ
โ โ โ entrypoint=None, โ โ
โ โ โ extra_files={} โ โ
โ โ ) โ โ
โ โ checksum = 'ec3e09f3b0e3bc6399ccec2b5731bfd4' โ โ
โ โ checksums = {} โ โ
โ โ client = <zenml.client.Client object at 0x7f1239fefe50> โ โ
โ โ code_repository = None โ โ
โ โ combined_key = 'orchestrator' โ โ
โ โ deployment = PipelineDeploymentBase( โ โ
โ โ โ run_name_template='simple_ml_pipeline-{date}-{time}', โ โ
โ โ โ pipeline_configuration=PipelineConfiguration( โ โ
โ โ โ โ enable_cache=None, โ โ
โ โ โ โ enable_artifact_metadata=None, โ โ
โ โ โ โ enable_artifact_visualization=None, โ โ
โ โ โ โ enable_step_logs=None, โ โ
โ โ โ โ settings={ โ โ
โ โ โ โ โ 'docker': BaseSettings( โ โ
โ โ โ โ โ โ build_context_root='envs/try_on', โ โ
โ โ โ โ โ โ dockerfile='Dockerfile' โ โ
โ โ โ โ โ ), โ โ
โ โ โ โ โ 'orchestrator.local_docker': BaseSettings() โ โ
โ โ โ โ }, โ โ
โ โ โ โ extra={}, โ โ
โ โ โ โ failure_hook_source=None, โ โ
โ โ โ โ success_hook_source=None, โ โ
โ โ โ โ model_version=None, โ โ
โ โ โ โ parameters=None, โ โ
โ โ โ โ name='simple_ml_pipeline' โ โ
โ โ โ ), โ โ
โ โ โ step_configurations={ โ โ
โ โ โ โ 'load_data': Step( โ โ
โ โ โ โ โ spec=StepSpec( โ โ
โ โ โ โ โ โ source=Source( โ โ
โ โ โ โ โ โ โ module='pipelines.try_on', โ โ
โ โ โ โ โ โ โ attribute='load_data', โ โ
โ โ โ โ โ โ โ type=<SourceType.USER: 'user'> โ โ
โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ upstream_steps=[], โ โ
โ โ โ โ โ โ inputs={}, โ โ
โ โ โ โ โ โ pipeline_parameter_name='load_data' โ โ
โ โ โ โ โ ), โ โ
โ โ โ โ โ config=StepConfiguration( โ โ
โ โ โ โ โ โ name='load_data', โ โ
โ โ โ โ โ โ enable_cache=None, โ โ
โ โ โ โ โ โ enable_artifact_metadata=None, โ โ
โ โ โ โ โ โ enable_artifact_visualization=None, โ โ
โ โ โ โ โ โ enable_step_logs=None, โ โ
โ โ โ โ โ โ step_operator=None, โ โ
โ โ โ โ โ โ experiment_tracker=None, โ โ
โ โ โ โ โ โ parameters={}, โ โ
โ โ โ โ โ โ settings={ โ โ
โ โ โ โ โ โ โ 'docker': BaseSettings( โ โ
โ โ โ โ โ โ โ โ build_context_root='envs/try_on', โ โ
โ โ โ โ โ โ โ โ dockerfile='Dockerfile' โ โ
โ โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ โ 'orchestrator.local_docker': BaseSettings() โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ extra={}, โ โ
โ โ โ โ โ โ failure_hook_source=None, โ โ
โ โ โ โ โ โ success_hook_source=None, โ โ
โ โ โ โ โ โ model_version=None, โ โ
โ โ โ โ โ โ outputs={ โ โ
โ โ โ โ โ โ โ 'output': ArtifactConfiguration( โ โ
โ โ โ โ โ โ โ โ materializer_source=( โ โ
โ โ โ โ โ โ โ โ โ Source( โ โ
โ โ โ โ โ โ โ โ โ โ โ โ
โ โ module='zenml.materializers.built_in_materializer', โ โ
โ โ โ โ โ โ โ โ โ โ โ โ
โ โ attribute='BuiltInContainerMaterializer', โ โ
โ โ โ โ โ โ โ โ โ โ type=<SourceType.INTERNAL: โ โ
โ โ 'internal'> โ โ
โ โ โ โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ โ โ default_materializer_source=None โ โ
โ โ โ โ โ โ โ ) โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ caching_parameters={ โ โ
โ โ โ โ โ โ โ 'step_source': โ โ
โ โ '3f999ebc88db7733bd242394e943db7666a4e73dc9ba14794eb7c200a3bc82d1', โ โ
โ โ โ โ โ โ โ 'output_materializer_source': โ โ
โ โ 'e83a5a4d2f71ed14784c595d98715eab' โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ external_input_artifacts={} โ โ
โ โ โ โ โ ) โ โ
โ โ โ โ ), โ โ
โ โ โ โ 'train_model': Step( โ โ
โ โ โ โ โ spec=StepSpec( โ โ
โ โ โ โ โ โ source=Source( โ โ
โ โ โ โ โ โ โ module='pipelines.try_on', โ โ
โ โ โ โ โ โ โ attribute='train_model', โ โ
โ โ โ โ โ โ โ type=<SourceType.USER: 'user'> โ โ
โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ upstream_steps=['load_data'], โ โ
โ โ โ โ โ โ inputs={ โ โ
โ โ โ โ โ โ โ 'data': InputSpec( โ โ
โ โ โ โ โ โ โ โ step_name='load_data', โ โ
โ โ โ โ โ โ โ โ output_name='output' โ โ
โ โ โ โ โ โ โ ) โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ pipeline_parameter_name='train_model' โ โ
โ โ โ โ โ ), โ โ
โ โ โ โ โ config=StepConfiguration( โ โ
โ โ โ โ โ โ name='train_model', โ โ
โ โ โ โ โ โ enable_cache=None, โ โ
โ โ โ โ โ โ enable_artifact_metadata=None, โ โ
โ โ โ โ โ โ enable_artifact_visualization=None, โ โ
โ โ โ โ โ โ enable_step_logs=None, โ โ
โ โ โ โ โ โ step_operator=None, โ โ
โ โ โ โ โ โ experiment_tracker=None, โ โ
โ โ โ โ โ โ parameters={}, โ โ
โ โ โ โ โ โ settings={ โ โ
โ โ โ โ โ โ โ 'docker': BaseSettings( โ โ
โ โ โ โ โ โ โ โ build_context_root='envs/try_on', โ โ
โ โ โ โ โ โ โ โ dockerfile='Dockerfile' โ โ
โ โ โ โ โ โ โ ), โ โ
โ โ โ โ โ โ โ 'orchestrator.local_docker': BaseSettings() โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ extra={}, โ โ
โ โ โ โ โ โ failure_hook_source=None, โ โ
โ โ โ โ โ โ success_hook_source=None, โ โ
โ โ โ โ โ โ model_version=None, โ โ
โ โ โ โ โ โ outputs={}, โ โ
โ โ โ โ โ โ caching_parameters={ โ โ
โ โ โ โ โ โ โ 'step_source': โ โ
โ โ 'fa7c03d48725402cebda45811dc7d7ec5ccdbb47b6f402cf3da1e47c5f02cc8f' โ โ
โ โ โ โ โ โ }, โ โ
โ โ โ โ โ โ external_input_artifacts={} โ โ
โ โ โ โ โ ) โ โ
โ โ โ โ ) โ โ
โ โ โ }, โ โ
โ โ โ client_environment={ โ โ
โ โ โ โ 'environment': 'wsl', โ โ
โ โ โ โ 'os': 'linux', โ โ
โ โ โ โ 'linux_distro': 'ubuntu', โ โ
โ โ โ โ 'linux_distro_like': 'debian', โ โ
โ โ โ โ 'linux_distro_version': '22.04', โ โ
โ โ โ โ 'python_version': '3.10.13' โ โ
โ โ โ }, โ โ
โ โ โ client_version='0.54.1', โ โ
โ โ โ server_version='0.54.1' โ โ
โ โ ) โ โ
โ โ docker_image_builder = <zenml.utils.pipeline_docker_image_builder.PipelineDockerImageBuilder โ โ
โ โ object at 0x7f1239fefd60> โ โ
โ โ download_files = False โ โ
โ โ images = {} โ โ
โ โ include_files = True โ โ
โ โ pipeline_id = UUID('38273f4f-cf7f-41a0-98d9-e77265ca6bbd') โ โ
โ โ required_builds = [ โ โ
โ โ โ BuildConfiguration( โ โ
โ โ โ โ key='orchestrator', โ โ
โ โ โ โ settings=DockerSettings( โ โ
โ โ โ โ โ parent_image=None, โ โ
โ โ โ โ โ dockerfile='Dockerfile', โ โ
โ โ โ โ โ build_context_root='envs/try_on', โ โ
โ โ โ โ โ build_options={}, โ โ
โ โ โ โ โ skip_build=False, โ โ
โ โ โ โ โ target_repository='zenml', โ โ
โ โ โ โ โ replicate_local_python_environment=None, โ โ
โ โ โ โ โ requirements=None, โ โ
โ โ โ โ โ required_integrations=[], โ โ
โ โ โ โ โ required_hub_plugins=[], โ โ
โ โ โ โ โ install_stack_requirements=True, โ โ
โ โ โ โ โ apt_packages=[], โ โ
โ โ โ โ โ environment={}, โ โ
โ โ โ โ โ dockerignore=None, โ โ
โ โ โ โ โ copy_files=True, โ โ
โ โ โ โ โ copy_global_config=True, โ โ
โ โ โ โ โ user=None, โ โ
โ โ โ โ โ source_files=<SourceFileMode.DOWNLOAD_OR_INCLUDE: โ โ
โ โ 'download_or_include'> โ โ
โ โ โ โ ), โ โ
โ โ โ โ step_name=None, โ โ
โ โ โ โ entrypoint=None, โ โ
โ โ โ โ extra_files={} โ โ
โ โ โ ) โ โ
โ โ ] โ โ
โ โ stack = <zenml.stack.stack.Stack object at 0x7f1237e63400> โ โ
โ โ tag = 'simple_ml_pipeline-orchestrator' โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/utils/pipeline_docker_image_b โ
โ uilder.py:200 in build_docker_image โ
โ โ
โ 197 โ โ โ โ source=docker_settings.dockerfile, destination="Dockerfile" โ
โ 198 โ โ โ ) โ
โ 199 โ โ โ logger.info("Building Docker image `%s`.", user_image_name) โ
โ โฑ 200 โ โ โ image_name_or_digest = image_builder.build( โ
โ 201 โ โ โ โ image_name=user_image_name, โ
โ 202 โ โ โ โ build_context=build_context, โ
โ 203 โ โ โ โ docker_build_options=docker_settings.build_options, โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ build_context = <zenml.image_builders.build_context.BuildContext object at โ โ
โ โ 0x7f1239feff40> โ โ
โ โ build_context_class = <class 'zenml.image_builders.build_context.BuildContext'> โ โ
โ โ code_repository = None โ โ
โ โ container_registry = None โ โ
โ โ docker_settings = DockerSettings( โ โ
โ โ โ parent_image=None, โ โ
โ โ โ dockerfile='Dockerfile', โ โ
โ โ โ build_context_root='envs/try_on', โ โ
โ โ โ build_options={}, โ โ
โ โ โ skip_build=False, โ โ
โ โ โ target_repository='zenml', โ โ
โ โ โ replicate_local_python_environment=None, โ โ
โ โ โ requirements=None, โ โ
โ โ โ required_integrations=[], โ โ
โ โ โ required_hub_plugins=[], โ โ
โ โ โ install_stack_requirements=True, โ โ
โ โ โ apt_packages=[], โ โ
โ โ โ environment={}, โ โ
โ โ โ dockerignore=None, โ โ
โ โ โ copy_files=True, โ โ
โ โ โ copy_global_config=True, โ โ
โ โ โ user=None, โ โ
โ โ โ source_files=<SourceFileMode.DOWNLOAD_OR_INCLUDE: โ โ
โ โ 'download_or_include'> โ โ
โ โ ) โ โ
โ โ dockerfile = None โ โ
โ โ download_files = False โ โ
โ โ entrypoint = None โ โ
โ โ extra_files = {} โ โ
โ โ image_builder = LocalImageBuilder(type=image_builder, flavor=local, ) โ โ
โ โ include_files = True โ โ
โ โ parent_image = 'zenml:simple_ml_pipeline-orchestrator-intermediate-build' โ โ
โ โ push = False โ โ
โ โ requirements = None โ โ
โ โ requires_zenml_build = True โ โ
โ โ self = <zenml.utils.pipeline_docker_image_builder.PipelineDockerImageBuilder โ โ
โ โ object at 0x7f1239fefd60> โ โ
โ โ stack = <zenml.stack.stack.Stack object at 0x7f1237e63400> โ โ
โ โ tag = 'simple_ml_pipeline-orchestrator' โ โ
โ โ target_image_name = 'zenml:simple_ml_pipeline-orchestrator' โ โ
โ โ user_image_name = 'zenml:simple_ml_pipeline-orchestrator-intermediate-build' โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/image_builders/local_image_bu โ
โ ilder.py:121 in build โ
โ โ
โ 118 โ โ โ โ tag=image_name, โ
โ 119 โ โ โ โ **(docker_build_options or {}), โ
โ 120 โ โ โ ) โ
โ โฑ 121 โ โ docker_utils._process_stream(output_stream) โ
โ 122 โ โ โ
โ 123 โ โ if container_registry: โ
โ 124 โ โ โ return container_registry.push_image(image_name) โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ build_context = <zenml.image_builders.build_context.BuildContext object at โ โ
โ โ 0x7f1239feff40> โ โ
โ โ container_registry = None โ โ
โ โ docker_build_options = {} โ โ
โ โ docker_client = <docker.client.DockerClient object at 0x7f123bac8d00> โ โ
โ โ f = <_io.BufferedRandom name=6> โ โ
โ โ image_name = 'zenml:simple_ml_pipeline-orchestrator-intermediate-build' โ โ
โ โ output_stream = <generator object APIClient._stream_helper at 0x7f1237576650> โ โ
โ โ self = LocalImageBuilder(type=image_builder, flavor=local, ) โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/zenml/utils/docker_utils.py:350 in โ
โ _process_stream โ
โ โ
โ 347 โ """ โ
โ 348 โ auxiliary_info = [] โ
โ 349 โ โ
โ โฑ 350 โ for element in stream: โ
โ 351 โ โ lines = element.decode("utf-8").strip().split("\n") โ
โ 352 โ โ โ
โ 353 โ โ for line in lines: โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ auxiliary_info = [] โ โ
โ โ stream = <generator object APIClient._stream_helper at 0x7f1237576650> โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/docker/api/client.py:358 in โ
โ _stream_helper โ
โ โ
โ 355 โ โ else: โ
โ 356 โ โ โ # Response isn't chunked, meaning we probably โ
โ 357 โ โ โ # encountered an error immediately โ
โ โฑ 358 โ โ โ yield self._result(response, json=decode) โ
โ 359 โ โ
โ 360 โ def _multiplexed_buffer_helper(self, response): โ
โ 361 โ โ """A generator of multiplexed data blocks read from a buffered โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ decode = False โ โ
โ โ response = <Response [400]> โ โ
โ โ self = <docker.api.client.APIClient object at 0x7f1237b31780> โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/docker/api/client.py:274 in _result โ
โ โ
โ 271 โ โ
โ 272 โ def _result(self, response, json=False, binary=False): โ
โ 273 โ โ assert not (json and binary) โ
โ โฑ 274 โ โ self._raise_for_status(response) โ
โ 275 โ โ โ
โ 276 โ โ if json: โ
โ 277 โ โ โ return response.json() โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ binary = False โ โ
โ โ json = False โ โ
โ โ response = <Response [400]> โ โ
โ โ self = <docker.api.client.APIClient object at 0x7f1237b31780> โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/docker/api/client.py:270 in โ
โ _raise_for_status โ
โ โ
โ 267 โ โ try: โ
โ 268 โ โ โ response.raise_for_status() โ
โ 269 โ โ except requests.exceptions.HTTPError as e: โ
โ โฑ 270 โ โ โ raise create_api_error_from_http_exception(e) from e โ
โ 271 โ โ
โ 272 โ def _result(self, response, json=False, binary=False): โ
โ 273 โ โ assert not (json and binary) โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ response = <Response [400]> โ โ
โ โ self = <docker.api.client.APIClient object at 0x7f1237b31780> โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โ โ
โ /home/kllis/miniconda3/envs/zml/lib/python3.10/site-packages/docker/errors.py:39 in โ
โ create_api_error_from_http_exception โ
โ โ
โ 36 โ โ โ cls = ImageNotFound โ
โ 37 โ โ else: โ
โ 38 โ โ โ cls = NotFound โ
โ โฑ 39 โ raise cls(e, response=response, explanation=explanation) from e โ
โ 40 โ
โ 41 โ
โ 42 class APIError(requests.exceptions.HTTPError, DockerException): โ
โ โ
โ โญโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ locals โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฎ โ
โ โ cls = <class 'docker.errors.APIError'> โ โ
โ โ e = HTTPError('400 Client Error: Bad Request for url: โ โ
โ โ http+docker://localhost/v1.43/build?t=zenml%3Asimple_ml_pipeline-orchestratorโฆ โ โ
โ โ explanation = 'dockerfile parse error on line 1: unknown instruction: Dockerfile' โ โ
โ โ response = <Response [400]> โ โ
โ โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ โ
โฐโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโฏ
APIError: 400 Client Error for
http+docker://localhost/v1.43/build?t=zenml%3Asimple_ml_pipeline-orchestrator-intermediate-build&q=False&nocache=False&rm=False&forcerm=False&
pull=False: Bad Request ("dockerfile parse error on line 1: unknown instruction: Dockerfile")
settings:
docker:
dockerfile: Dockerfile
build_context_root: envs/try_on
Do you actually have a file called Dockerfile
in your working directory from which you run your pipeline? It seems to me like that file doesn't exist, and in that case we treat the string passed here as the contents of the Dockerfile. Which means it might try to build a Docker image with the following instructions (which is not a valid Dockerfile and therefore fails)
Dockerfile
As for the issue when not specifying a Dockerfile: The debug logs would also be helpful in this case, but I suspect that this is unrelated to ZenML and a failure due to some conflict/timeout in the pip install
Do you actually have a file called
Dockerfile
in your working directory from which you run your pipeline?
Hi, @schustmi, yes I do. I've double-checked it.
@decadance-dance Maybe you need to do zenml init
at the root of your repo where your Dockerfile is, and make sure you execute the pipeline from there?
@decadance-dance Did that work?
Contact Details [Optional]
No response
System Information
ZENML_LOCAL_VERSION: 0.54.1 ZENML_SERVER_VERSION: 0.54.1 ZENML_SERVER_DATABASE: mysql ZENML_SERVER_DEPLOYMENT_TYPE: other ZENML_CONFIG_DIR: /home/kllis/.config/zenml ZENML_LOCAL_STORE_DIR: /home/kllis/.config/zenml/local_stores ZENML_SERVER_URL: http://localhost:8080 ZENML_ACTIVE_REPOSITORY_ROOT: /home/kllis/font_recognition_mlops PYTHON_VERSION: 3.10.13 ENVIRONMENT: wsl SYSTEM_INFO: {'os': 'linux', 'linux_distro': 'ubuntu', 'linux_distro_like': 'debian', 'linux_distro_version': '22.04'} ACTIVE_WORKSPACE: default ACTIVE_STACK: 123 ACTIVE_USER: admin TELEMETRY_STATUS: enabled ANALYTICS_CLIENT_ID: 623c517e-e34b-47b9-9f42-268a2cbcfbc2 ANALYTICS_USER_ID: b9298ae9-a19a-4f96-88f0-423dd282ed0d ANALYTICS_SERVER_ID: 2c0f6083-1226-49a9-b54e-a531ef2143c6 INTEGRATIONS: ['aws', 'evidently', 'kaniko', 'kubeflow', 'kubernetes', 'mlflow', 'pillow', 'scipy', 'seldon', 'sklearn', 'slack'] PACKAGES: {'brotli': '1.1.0', 'deprecated': '1.2.14', 'gitpython': '3.1.41', 'jinja2': '3.1.3', 'mako': '1.3.0', 'markdown': '3.5.2', 'markupsafe': '2.1.3', 'pyjwt': '2.7.0', 'pymysql': '1.0.3', 'pyyaml': '6.0.1', 'sqlalchemy': '1.4.41', 'sqlalchemy-utils': '0.38.3', 'absl-py': '1.4.0', 'aiofiles': '23.2.1', 'aiohttp': '3.9.1', 'aiokafka': '0.10.0', 'aiosignal': '1.3.1', 'alembic': '1.8.1', 'anyio': '4.2.0', 'argparse': '1.4.0', 'arrow': '1.3.0', 'asttokens': '2.4.1', 'async-timeout': '4.0.3', 'attrs': '22.2.0', 'aws-profile-manager': '0.7.3', 'azure-common': '1.1.28', 'azure-core': '1.29.7', 'azure-mgmt-core': '1.4.0', 'azure-mgmt-resource': '23.0.1', 'bcrypt': '4.0.1', 'blinker': '1.7.0', 'boto3': '1.34.22', 'botocore': '1.34.22', 'cachetools': '5.3.2', 'certifi': '2023.11.17', 'cffi': '1.16.0', 'charset-normalizer': '3.3.2', 'click': '8.1.3', 'click-params': '0.3.0', 'cloudpickle': '2.2.1', 'colorama': '0.4.6', 'comm': '0.2.1', 'configparser': '6.0.0', 'contextlib2': '21.6.0', 'contourpy': '1.2.0', 'copier': '8.1.0', 'cryptography': '41.0.7', 'cycler': '0.12.1', 'databricks-cli': '0.18.0', 'decorator': '5.1.1', 'dill': '0.3.7', 'distro': '1.9.0', 'docker': '6.1.3', 'docstring-parser': '0.15', 'dunamai': '1.19.0', 'entrypoints': '0.4', 'evidently': '0.3.3', 'exceptiongroup': '1.2.0', 'executing': '2.0.1', 'fastapi': '0.89.1', 'fastapi-utils': '0.2.1', 'fire': '0.5.0', 'flask': '3.0.1', 'fonttools': '4.47.2', 'frozenlist': '1.4.1', 'funcy': '2.0', 'gevent': '23.9.1', 'geventhttpclient': '2.0.2', 'gitdb': '4.0.11', 'google-api-core': '2.15.0', 'google-api-python-client': '1.12.11', 'google-auth': '2.26.2', 'google-auth-httplib2': '0.2.0', 'google-cloud-core': '2.4.1', 'google-cloud-storage': '2.14.0', 'google-crc32c': '1.5.0', 'google-pasta': '0.2.0', 'google-resumable-media': '2.7.0', 'googleapis-common-protos': '1.62.0', 'greenlet': '3.0.3', 'grpcio': '1.60.0', 'gunicorn': '21.2.0', 'h11': '0.14.0', 'httplib2': '0.19.1', 'httptools': '0.6.1', 'idna': '3.6', 'importlib-metadata': '4.13.0', 'importlib-resources': '6.1.1', 'ipinfo': '5.0.0', 'ipython': '8.18.0', 'ipywidgets': '8.1.1', 'isodate': '0.6.1', 'itsdangerous': '2.1.2', 'jedi': '0.19.1', 'jinja2-ansible-filters': '1.3.2', 'jinja2-time': '0.2.0', 'jmespath': '1.0.1', 'joblib': '1.3.2', 'jsonschema': '4.21.0', 'jsonschema-specifications': '2023.12.1', 'jupyterlab-widgets': '3.0.9', 'kfp': '1.8.22', 'kfp-pipeline-spec': '0.1.16', 'kfp-server-api': '1.8.5', 'kiwisolver': '1.4.5', 'kubernetes': '25.3.0', 'llvmlite': '0.41.1', 'markdown-it-py': '3.0.0', 'matplotlib': '3.8.2', 'matplotlib-inline': '0.1.6', 'mdurl': '0.1.2', 'mlflow': '2.9.2', 'mlserver': '1.3.5', 'mlserver-mlflow': '1.3.5', 'multidict': '6.0.4', 'multiprocess': '0.70.15', 'nltk': '3.8.1', 'numba': '0.58.1', 'numpy': '1.26.3', 'oauthlib': '3.2.2', 'orjson': '3.8.14', 'packaging': '23.2', 'pandas': '2.1.4', 'parso': '0.8.3', 'passlib': '1.7.4', 'pathos': '0.3.1', 'pathspec': '0.12.1', 'patsy': '0.5.6', 'pexpect': '4.9.0', 'pillow': '10.2.0', 'pip': '23.3.1', 'plotly': '5.18.0', 'plumbum': '1.8.2', 'pox': '0.3.3', 'ppft': '1.7.6.7', 'prometheus-client': '0.19.0', 'prompt-toolkit': '3.0.36', 'protobuf': '3.20.3', 'protobuf3-to-dict': '0.1.5', 'psutil': '5.9.7', 'ptyprocess': '0.7.0', 'pure-eval': '0.2.2', 'py-grpc-prometheus': '0.7.0', 'pyarrow': '14.0.2', 'pyasn1': '0.5.1', 'pyasn1-modules': '0.3.0', 'pycparser': '2.21', 'pydantic': '1.10.14', 'pygments': '2.17.2', 'pynndescent': '0.5.11', 'pyparsing': '2.4.7', 'python-dateutil': '2.8.2', 'python-dotenv': '1.0.0', 'python-multipart': '0.0.6', 'python-rapidjson': '1.14', 'pytz': '2023.3.post1', 'pyyaml-include': '1.3.2', 'querystring-parser': '1.2.4', 'questionary': '2.0.1', 'referencing': '0.32.1', 'regex': '2023.12.25', 'requests': '2.31.0', 'requests-oauthlib': '1.3.1', 'requests-toolbelt': '0.10.1', 'rich': '13.7.0', 'rpds-py': '0.17.1', 'rsa': '4.9', 'ruff': '0.1.7', 's3transfer': '0.10.0', 'sagemaker': '2.117.0', 'schema': '0.7.5', 'scikit-learn': '1.4.0', 'scipy': '1.11.4', 'setuptools': '68.2.2', 'six': '1.16.0', 'slack-sdk': '3.26.2', 'smdebug-rulesconfig': '1.0.1', 'smmap': '5.0.1', 'sniffio': '1.3.0', 'sqlalchemy2-stubs': '0.0.2a38', 'sqlmodel': '0.0.8', 'sqlparse': '0.4.4', 'stack-data': '0.6.3', 'starlette': '0.22.0', 'starlette-exporter': '0.17.1', 'statsmodels': '0.14.1', 'strip-hints': '0.1.10', 'tabulate': '0.9.0', 'tenacity': '8.2.3', 'termcolor': '2.4.0', 'threadpoolctl': '3.2.0', 'tqdm': '4.66.1', 'traitlets': '5.14.1', 'tritonclient': '2.41.1', 'typer': '0.9.0', 'types-python-dateutil': '2.8.19.20240106', 'typing-extensions': '4.9.0', 'tzdata': '2023.4', 'umap-learn': '0.5.5', 'uritemplate': '3.0.1', 'urllib3': '1.26.18', 'uvicorn': '0.26.0', 'uvloop': '0.19.0', 'validators': '0.18.2', 'watchfiles': '0.21.0', 'wcwidth': '0.2.13', 'websocket-client': '1.7.0', 'websockets': '12.0', 'werkzeug': '3.0.1', 'wheel': '0.41.2', 'widgetsnbextension': '4.0.9', 'wrapt': '1.16.0', 'yarl': '1.9.4', 'zenml': '0.54.1', 'zipp': '3.17.0', 'zope.event': '5.0', 'zope.interface': '6.1'}
CURRENT STACK
Name: 123 ID: 981e04f7-211d-49b9-9190-88872854c5c7 User: admin / b9298ae9-a19a-4f96-88f0-423dd282ed0d Workspace: default / d5402bc8-e31a-4104-b2f8-3ddf1a9e179d
ORCHESTRATOR: docker
Name: docker ID: f2ae61b1-86a4-421e-b22b-ac6be7063e05 Type: orchestrator Flavor: local_docker Configuration: {'run_args': {}} User: admin / b9298ae9-a19a-4f96-88f0-423dd282ed0d Workspace: default / d5402bc8-e31a-4104-b2f8-3ddf1a9e179d
ARTIFACT_STORE: default
Name: default ID: 87f1bffd-5117-43b6-ad69-c1565083a075 Type: artifact_store Flavor: local Configuration: {'path': ''} Workspace: default / d5402bc8-e31a-4104-b2f8-3ddf1a9e179d
IMAGE_BUILDER: docker-builder
Name: docker-builder ID: 2cb96498-ab0c-47a1-9d50-d6874e2c4257 Type: image_builder Flavor: local Configuration: {} User: admin / b9298ae9-a19a-4f96-88f0-423dd282ed0d Workspace: default / d5402bc8-e31a-4104-b2f8-3ddf1a9e179d
What happened?
I am building the simple pipeline with the docker locally. When I am running my pipeline I get this error:
APIError: 400 Client Error for http+docker://localhost/v1.43/build?t=zenml%3Asimple_ml_pipeline-orchestrator-intermediate-build&q=False&nocache=False&rm=False&forcerm=False& pull=False: Bad Request ("dockerfile parse error on line 1: unknown instruction: Dockerfile")
Reproduction steps
python pipelines/try_on.py
Relevant log output
Code of Conduct