search

buildtesters / buildtest

HPC System and Software Testing Framework
https://buildtest.rtfd.io
MIT License
68 stars 20 forks source link

[Bug]: UnicodeEncodeError when uploading to CDASH #951

Closed shahzebsiddiqui closed 2 years ago

shahzebsiddiqui commented 2 years ago

Bug Description

This is an issue with testing the spider command see https://github.com/buildtesters/buildtest-cori/blob/devel/buildspecs/modules/spider_check.yml. The spider command is creating output in report file that is has some unicodes which require us to to process this correctly when reading from output file.

This can be reproduced on Perlmutter. See pipeline https://software.nersc.gov/NERSC/buildtest-cori/-/jobs/123151

Version

devel

Relevant log output

$ buildtest cdash upload perlmutter-e4s_tests
Reading configuration file:  /global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/config.yml
Reading report file:  /global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/buildtest/var/report.json
╭─────────────────────────────── Traceback (most recent call last) ────────────────────────────────╮
│                                                                                                  │
│ /global/homes/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/buildtest/bin/buildtest:16 in    │
│ <module>                                                                                         │
│                                                                                                  │
│   13                                                                                             │
│   14 import buildtest.main                                                                       │
│   15                                                                                             │
│ ❱ 16 buildtest.main.main()                                                                       │
│   17                                                                                             │
│                                                                                                  │
│ ╭─────────────────────────────────────────── locals ───────────────────────────────────────────╮ │
│ │ __annotations__ = {}                                                                         │ │
│ │    __builtins__ = <module 'builtins' (built-in)>                                             │ │
│ │      __cached__ = None                                                                       │ │
│ │         __doc__ = None                                                                       │ │
│ │        __file__ = '/global/homes/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/buildtes… │ │
│ │      __loader__ = <_frozen_importlib_external.SourceFileLoader object at 0x7f3c62f92fd0>     │ │
│ │        __name__ = '__main__'                                                                 │ │
│ │     __package__ = None                                                                       │ │
│ │        __spec__ = None                                                                       │ │
│ │       buildtest = <module 'buildtest' from                                                   │ │
│ │                   '/global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/buildtest/b… │ │
│ │  buildtest_file = '/global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/buildtest/b… │ │
│ │              os = <module 'os' from                                                          │ │
│ │                   '/global/homes/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/.conda/l… │ │
│ │          prefix = '/global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/buildtest'   │ │
│ │             sys = <module 'sys' (built-in)>                                                  │ │
│ ╰──────────────────────────────────────────────────────────────────────────────────────────────╯ │
│ /global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/buildtest/buildtest/main.py:180 in  │
│ main                                                                                             │
│                                                                                                  │
│   177 │                                                                                          │
│   178 │   # running buildtest cdash                                                              │
│   179 │   elif args.subcommands == "cdash":                                                      │
│ ❱ 180 │   │   cdash_cmd(args, default_configuration=configuration)                               │
│   181 │                                                                                          │
│   182 │   elif args.subcommands in ["help", "h"]:                                                │
│   183 │   │   buildtest_help(command=args.command)                                               │
│                                                                                                  │
│ ╭─────────────────────────────────────────── locals ───────────────────────────────────────────╮ │
│ │               args = Namespace(buildname='perlmutter-e4s_tests', cdash='upload',             │ │
│ │                      configfile=None, debug=False, no_color=False, report=None, site=None,   │ │
│ │                      subcommands='cdash')                                                    │ │
│ │        config_file = '/global/homes/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/confi… │ │
│ │      configuration = <buildtest.config.SiteConfiguration object at 0x7f3c5ded3d30>           │ │
│ │             logger = <Logger buildtest (DEBUG)>                                              │ │
│ │           no_color = False                                                                   │ │
│ │             parser = ArgumentParser(prog='buildtest', usage='%(prog)s [options] [COMMANDS]', │ │
│ │                      description='buildtest is a HPC testing framework for building and      │ │
│ │                      running tests.', formatter_class=<class                                 │ │
│ │                      'argparse.RawDescriptionHelpFormatter'>, conflict_handler='error',      │ │
│ │                      add_help=True)                                                          │ │
│ │             system = <buildtest.system.BuildTestSystem object at 0x7f3c5ded3220>             │ │
│ │ validate_executors = True                                                                    │ │
│ ╰──────────────────────────────────────────────────────────────────────────────────────────────╯ │
│                                                                                                  │
│ /global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/buildtest/buildtest/cli/cdash.py:83 │
│ in cdash_cmd                                                                                     │
│                                                                                                  │
│    80 │                                                                                          │
│    81 │   if args.cdash == "upload":                                                             │
│    82 │   │                                                                                      │
│ ❱  83 │   │   upload_test_cdash(                                                                 │
│    84 │   │   │   build_name=args.buildname,                                                     │
│    85 │   │   │   configuration=configuration,                                                   │
│    86 │   │   │   site=args.site,                                                                │
│                                                                                                  │
│ ╭─────────────────────────────────────────── locals ───────────────────────────────────────────╮ │
│ │                  args = Namespace(buildname='perlmutter-e4s_tests', cdash='upload',          │ │
│ │                         configfile=None, debug=False, no_color=False, report=None,           │ │
│ │                         site=None, subcommands='cdash')                                      │ │
│ │          cdash_config = {                                                                    │ │
│ │                         │   'url': 'https://my.cdash.org',                                   │ │
│ │                         │   'project': 'buildtest-cori',                                     │ │
│ │                         │   'site': 'perlmutter'                                             │ │
│ │                         }                                                                    │ │
│ │         configuration = <buildtest.config.SiteConfiguration object at 0x7f3c5ded3d30>        │ │
│ │ default_configuration = <buildtest.config.SiteConfiguration object at 0x7f3c5ded3d30>        │ │
│ │          open_browser = True                                                                 │ │
│ ╰──────────────────────────────────────────────────────────────────────────────────────────────╯ │
│                                                                                                  │
│ /global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/buildtest/buildtest/cli/cdash.py:33 │
│ 7 in upload_test_cdash                                                                           │
│                                                                                                  │
│   334 │   │   output_measurement = ET.SubElement(results_element, "Measurement")                 │
│   335 │   │                                                                                      │
│   336 │   │   base64_zlib_output = base64.b64encode(                                             │
│ ❱ 337 │   │   │   zlib.compress(bytes("".join(test["output"]), "ascii"))                         │
│   338 │   │   ).decode("ascii")                                                                  │
│   339 │   │   ET.SubElement(                                                                     │
│   340 │   │   │   output_measurement, "Value", encoding="base64", compression="gzip"             │
│                                                                                                  │
│ ╭─────────────────────────────────────────── locals ───────────────────────────────────────────╮ │
│ │     abspath_report_file = '/global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/bui… │ │
│ │      base64_zlib_output = 'eJwDAAAAAAE='                                                     │ │
│ │           build_endtime = datetime.datetime(2021, 12, 11, 8, 21, 7)                          │ │
│ │              build_name = 'perlmutter-e4s_tests'                                             │ │
│ │    build_script_content = <Element 'NamedMeasurement' at 0x7f3c5de1fae0>                     │ │
│ │             build_stamp = '20211211-0821-Experimental'                                       │ │
│ │         build_starttime = datetime.datetime(2021, 12, 11, 8, 21, 3)                          │ │
│ │               buildspec = '/global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/bui… │ │
│ │       buildspec_content = <Element 'NamedMeasurement' at 0x7f3c5de1f810>                     │ │
│ │          buildtest_data = {                                                                  │ │
│ │                           │                                                                  │ │
│ │                           '/global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/bui… │ │
│ │                           {                                                                  │ │
│ │                           │   │   'ml_load_unload_same_command': [                           │ │
│ │                           │   │   │   {                                                      │ │
│ │                           │   │   │   │   'id': '25cef453',                                  │ │
│ │                           │   │   │   │   'full_id': '25cef453-dbb0-44b5-bdf4-634a03c07c42', │ │
│ │                           │   │   │   │   'description': 'load and unload modules with ml in │ │
│ │                           same command',                                                     │ │
│ │                           │   │   │   │   'schemafile': 'script-v1.0.schema.json',           │ │
│ │                           │   │   │   │   'executor': 'perlmutter.local.bash',               │ │
│ │                           │   │   │   │   'compiler': None,                                  │ │
│ │                           │   │   │   │   'hostname': 'login37',                             │ │
│ │                           │   │   │   │   'user': 'e4s',                                     │ │
│ │                           │   │   │   │   'testroot':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   'testpath':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   ... +20                                            │ │
│ │                           │   │   │   }                                                      │ │
│ │                           │   │   ],                                                         │ │
│ │                           │   │   'test_ml_command': [                                       │ │
│ │                           │   │   │   {                                                      │ │
│ │                           │   │   │   │   'id': '2eeb0cf7',                                  │ │
│ │                           │   │   │   │   'full_id': '2eeb0cf7-b9b4-4faa-99bd-c3913b97f2d1', │ │
│ │                           │   │   │   │   'description': 'Mimic ml command for some of the   │ │
│ │                           module commands',                                                  │ │
│ │                           │   │   │   │   'schemafile': 'script-v1.0.schema.json',           │ │
│ │                           │   │   │   │   'executor': 'perlmutter.local.bash',               │ │
│ │                           │   │   │   │   'compiler': None,                                  │ │
│ │                           │   │   │   │   'hostname': 'login37',                             │ │
│ │                           │   │   │   │   'user': 'e4s',                                     │ │
│ │                           │   │   │   │   'testroot':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   'testpath':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   ... +20                                            │ │
│ │                           │   │   │   }                                                      │ │
│ │                           │   │   ]                                                          │ │
│ │                           │   },                                                             │ │
│ │                           │                                                                  │ │
│ │                           '/global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/bui… │ │
│ │                           {                                                                  │ │
│ │                           │   │   'lmod_cmd': [                                              │ │
│ │                           │   │   │   {                                                      │ │
│ │                           │   │   │   │   'id': 'e0743a5e',                                  │ │
│ │                           │   │   │   │   'full_id': 'e0743a5e-d140-47de-a49e-c6ed15c2dc37', │ │
│ │                           │   │   │   │   'description': 'check for $LMOD_CMD variable',     │ │
│ │                           │   │   │   │   'schemafile': 'script-v1.0.schema.json',           │ │
│ │                           │   │   │   │   'executor': 'perlmutter.local.bash',               │ │
│ │                           │   │   │   │   'compiler': None,                                  │ │
│ │                           │   │   │   │   'hostname': 'login37',                             │ │
│ │                           │   │   │   │   'user': 'e4s',                                     │ │
│ │                           │   │   │   │   'testroot':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   'testpath':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   ... +20                                            │ │
│ │                           │   │   │   }                                                      │ │
│ │                           │   │   ],                                                         │ │
│ │                           │   │   'module_collection_list': [                                │ │
│ │                           │   │   │   {                                                      │ │
│ │                           │   │   │   │   'id': '305f940a',                                  │ │
│ │                           │   │   │   │   'full_id': '305f940a-b799-4cf7-bde6-e8d643f57ca4', │ │
│ │                           │   │   │   │   'description': 'show module collection list',      │ │
│ │                           │   │   │   │   'schemafile': 'script-v1.0.schema.json',           │ │
│ │                           │   │   │   │   'executor': 'perlmutter.local.bash',               │ │
│ │                           │   │   │   │   'compiler': None,                                  │ │
│ │                           │   │   │   │   'hostname': 'login37',                             │ │
│ │                           │   │   │   │   'user': 'e4s',                                     │ │
│ │                           │   │   │   │   'testroot':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   'testpath':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   ... +20                                            │ │
│ │                           │   │   │   }                                                      │ │
│ │                           │   │   ],                                                         │ │
│ │                           │   │   'show_prgenv_collections': [                               │ │
│ │                           │   │   │   {                                                      │ │
│ │                           │   │   │   │   'id': '42be7a03',                                  │ │
│ │                           │   │   │   │   'full_id': '42be7a03-a297-45a9-b307-4e92cac1ba1a', │ │
│ │                           │   │   │   │   'description': 'show module collection name        │ │
│ │                           PrgEnv-[aocc|cray|gnu]',                                           │ │
│ │                           │   │   │   │   'schemafile': 'script-v1.0.schema.json',           │ │
│ │                           │   │   │   │   'executor': 'perlmutter.local.bash',               │ │
│ │                           │   │   │   │   'compiler': None,                                  │ │
│ │                           │   │   │   │   'hostname': 'login37',                             │ │
│ │                           │   │   │   │   'user': 'e4s',                                     │ │
│ │                           │   │   │   │   'testroot':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   'testpath':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   ... +20                                            │ │
│ │                           │   │   │   }                                                      │ │
│ │                           │   │   ],                                                         │ │
│ │                           │   │   'module_and_ml_check': [                                   │ │
│ │                           │   │   │   {                                                      │ │
│ │                           │   │   │   │   'id': '4f093135',                                  │ │
│ │                           │   │   │   │   'full_id': '4f093135-1447-43da-b673-2b7347b572e3', │ │
│ │                           │   │   │   │   'description': 'test module and ml command',       │ │
│ │                           │   │   │   │   'schemafile': 'script-v1.0.schema.json',           │ │
│ │                           │   │   │   │   'executor': 'perlmutter.local.bash',               │ │
│ │                           │   │   │   │   'compiler': None,                                  │ │
│ │                           │   │   │   │   'hostname': 'login37',                             │ │
│ │                           │   │   │   │   'user': 'e4s',                                     │ │
│ │                           │   │   │   │   'testroot':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   'testpath':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   ... +20                                            │ │
│ │                           │   │   │   }                                                      │ │
│ │                           │   │   ],                                                         │ │
│ │                           │   │   'restore_prgenv_collections': [                            │ │
│ │                           │   │   │   {                                                      │ │
│ │                           │   │   │   │   'id': '3e3ae8b6',                                  │ │
│ │                           │   │   │   │   'full_id': '3e3ae8b6-9221-4938-a2a3-422ca62cca7f', │ │
│ │                           │   │   │   │   'description': 'restore module collections         │ │
│ │                           PrgEnv-[cray|gnu|aocc]',                                           │ │
│ │                           │   │   │   │   'schemafile': 'script-v1.0.schema.json',           │ │
│ │                           │   │   │   │   'executor': 'perlmutter.local.bash',               │ │
│ │                           │   │   │   │   'compiler': None,                                  │ │
│ │                           │   │   │   │   'hostname': 'login37',                             │ │
│ │                           │   │   │   │   'user': 'e4s',                                     │ │
│ │                           │   │   │   │   'testroot':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   'testpath':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   ... +20                                            │ │
│ │                           │   │   │   }                                                      │ │
│ │                           │   │   ],                                                         │ │
│ │                           │   │   'purge_restore': [                                         │ │
│ │                           │   │   │   {                                                      │ │
│ │                           │   │   │   │   'id': 'de13cf08',                                  │ │
│ │                           │   │   │   │   'full_id': 'de13cf08-a013-4d7e-9548-a02109394226', │ │
│ │                           │   │   │   │   'description': 'test module purge and restore.',   │ │
│ │                           │   │   │   │   'schemafile': 'script-v1.0.schema.json',           │ │
│ │                           │   │   │   │   'executor': 'perlmutter.local.bash',               │ │
│ │                           │   │   │   │   'compiler': None,                                  │ │
│ │                           │   │   │   │   'hostname': 'login37',                             │ │
│ │                           │   │   │   │   'user': 'e4s',                                     │ │
│ │                           │   │   │   │   'testroot':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   'testpath':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   ... +20                                            │ │
│ │                           │   │   │   }                                                      │ │
│ │                           │   │   ]                                                          │ │
│ │                           │   },                                                             │ │
│ │                           │                                                                  │ │
│ │                           '/global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/bui… │ │
│ │                           {                                                                  │ │
│ │                           │   │   'spider_check': [                                          │ │
│ │                           │   │   │   {                                                      │ │
│ │                           │   │   │   │   'id': '4d00ac96',                                  │ │
│ │                           │   │   │   │   'full_id': '4d00ac96-39fe-42d2-8747-beec5547ae63', │ │
│ │                           │   │   │   │   'description': 'Check $LMOD_DIR/spider utility',   │ │
│ │                           │   │   │   │   'schemafile': 'script-v1.0.schema.json',           │ │
│ │                           │   │   │   │   'executor': 'perlmutter.local.bash',               │ │
│ │                           │   │   │   │   'compiler': None,                                  │ │
│ │                           │   │   │   │   'hostname': 'login37',                             │ │
│ │                           │   │   │   │   'user': 'e4s',                                     │ │
│ │                           │   │   │   │   'testroot':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   'testpath':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   ... +20                                            │ │
│ │                           │   │   │   }                                                      │ │
│ │                           │   │   ]                                                          │ │
│ │                           │   },                                                             │ │
│ │                           │                                                                  │ │
│ │                           '/global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cori/bui… │ │
│ │                           {                                                                  │ │
│ │                           │   │   'auto_swap_same_modules': [                                │ │
│ │                           │   │   │   {                                                      │ │
│ │                           │   │   │   │   'id': '0ef37642',                                  │ │
│ │                           │   │   │   │   'full_id': '0ef37642-9f9b-4198-90ad-1b44d91785b7', │ │
│ │                           │   │   │   │   'description': 'Check if Lmod will autoswap same   │ │
│ │                           modules',                                                          │ │
│ │                           │   │   │   │   'schemafile': 'script-v1.0.schema.json',           │ │
│ │                           │   │   │   │   'executor': 'perlmutter.local.bash',               │ │
│ │                           │   │   │   │   'compiler': None,                                  │ │
│ │                           │   │   │   │   'hostname': 'login37',                             │ │
│ │                           │   │   │   │   'user': 'e4s',                                     │ │
│ │                           │   │   │   │   'testroot':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   'testpath':                                        │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   │   │   ... +20                                            │ │
│ │                           │   │   │   }                                                      │ │
│ │                           │   │   ]                                                          │ │
│ │                           │   }                                                              │ │
│ │                           }                                                                  │ │
│ │               cdash_url = 'https://my.cdash.org'                                             │ │
│ │           configuration = <buildtest.config.SiteConfiguration object at 0x7f3c5ded3d30>      │ │
│ │                 endtime = '2021/12/11 08:21:07'                                              │ │
│ │           error_content = <Element 'NamedMeasurement' at 0x7f3c5de1f860>                     │ │
│ │                   field = 'schemafile'                                                       │ │
│ │                filename = 'Test.xml'                                                         │ │
│ │          gitlab_job_url = 'https://software.nersc.gov/NERSC/buildtest-cori/-/jobs/123151'    │ │
│ │ gitlab_link_measurement = <Element 'NamedMeasurement' at 0x7f3c5de1b810>                     │ │
│ │   input_datetime_format = '%Y/%m/%d %H:%M:%S'                                                │ │
│ │                     job = <Element 'NamedMeasurement' at 0x7f3c5de1b540>                     │ │
│ │               json_file = <_io.TextIOWrapper                                                 │ │
│ │                           name='/global/u1/e/e4s/cron/builds/CzdSP4Xs/0/NERSC/buildtest-cor… │ │
│ │                           mode='r' encoding='UTF-8'>                                         │ │
│ │          labels_element = <Element 'Labels' at 0x7f3c5de1b950>                               │ │
│ │             measurement = <Element 'NamedMeasurement' at 0x7f3c5de1f6d0>                     │ │
│ │                 metrics = <Element 'NamedMeasurement' at 0x7f3c5de1b680>                     │ │
│ │  output_datetime_format = '%Y%m%d-%H%M'                                                      │ │
│ │      output_measurement = <Element 'Measurement' at 0x7f3c5de1f9a0>                          │ │
│ │            project_name = 'buildtest-cori'                                                   │ │
│ │                       r = <Response [200]>                                                   │ │
│ │             report_file = None                                                               │ │
│ │         results_element = <Element 'Results' at 0x7f3c5de1b9f0>                              │ │
│ │  returncode_measurement = <Element 'NamedMeasurement' at 0x7f3c5de1bd10>                     │ │
│ │     runtime_measurement = <Element 'NamedMeasurement' at 0x7f3c5de1bbd0>                     │ │
│ │                    site = None                                                               │ │
│ │            site_element = <Element 'Site' at 0x7f3c5de51f40>                                 │ │
│ │               site_name = 'perlmutter'                                                       │ │
│ │               starttime = '2021/12/11 08:21:04'                                              │ │
│ │                   state = 'FAIL'                                                             │ │
│ │                     tag = 'module'                                                           │ │
│ │                    test = {                                                                  │ │
│ │                           │   'name': 'spider_check/4d00ac96',                               │ │
│ │                           │   'status': 'passed',                                            │ │
│ │                           │   'description': 'Check $LMOD_DIR/spider utility',               │ │
│ │                           │   'command': 'bash --norc --noprofile -eo pipefail               │ │
│ │                           spider_check_build.sh',                                            │ │
│ │                           │   'testpath':                                                    │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   'test_content': '#!/bin/bash \n# Content of run                │ │
│ │                           section\n$LMOD_DIR/spider --version\n$LMOD_DIR/spide'+118,         │ │
│ │                           │   'output': '{\n  "nvidia-mixed": {\n                            │ │
│ │                           "/opt/cray/pe/lmod/modulefiles/mix_compilers/nvidia-mi'+335565,    │ │
│ │                           │   'runtime': '1.587844',                                         │ │
│ │                           │   'returncode': '0',                                             │ │
│ │                           │   'full_id': '4d00ac96-39fe-42d2-8747-beec5547ae63',             │ │
│ │                           │   ... +19                                                        │ │
│ │                           }                                                                  │ │
│ │            test_content = <Element 'NamedMeasurement' at 0x7f3c5de1f9f0>                     │ │
│ │               test_data = {                                                                  │ │
│ │                           │   'id': '0ef37642',                                              │ │
│ │                           │   'full_id': '0ef37642-9f9b-4198-90ad-1b44d91785b7',             │ │
│ │                           │   'description': 'Check if Lmod will autoswap same modules',     │ │
│ │                           │   'schemafile': 'script-v1.0.schema.json',                       │ │
│ │                           │   'executor': 'perlmutter.local.bash',                           │ │
│ │                           │   'compiler': None,                                              │ │
│ │                           │   'hostname': 'login37',                                         │ │
│ │                           │   'user': 'e4s',                                                 │ │
│ │                           │   'testroot':                                                    │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   'testpath':                                                    │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   ... +20                                                        │ │
│ │                           }                                                                  │ │
│ │            test_element = <Element 'Test' at 0x7f3c5de1b2c0>                                 │ │
│ │   test_endtime_datetime = datetime.datetime(2021, 12, 11, 8, 21, 7)                          │ │
│ │               test_name = 'auto_swap_same_modules'                                           │ │
│ │ test_starttime_datetime = datetime.datetime(2021, 12, 11, 8, 21, 4)                          │ │
│ │      testid_measurement = <Element 'NamedMeasurement' at 0x7f3c5de1bb80>                     │ │
│ │         testing_element = <Element 'Testing' at 0x7f3c5de51db0>                              │ │
│ │                   tests = [                                                                  │ │
│ │                           │   {                                                              │ │
│ │                           │   │   'name': 'ml_load_unload_same_command/25cef453',            │ │
│ │                           │   │   'status': 'failed',                                        │ │
│ │                           │   │   'description': 'load and unload modules with ml in same    │ │
│ │                           command',                                                          │ │
│ │                           │   │   'command': 'bash --norc --noprofile -eo pipefail           │ │
│ │                           ml_load_unload_same_command_build.sh',                             │ │
│ │                           │   │   'testpath':                                                │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   'test_content': '#!/bin/bash -e\n# Content of run          │ │
│ │                           section\nml gcc\nml\nml -gcc intel\nml\n',                         │ │
│ │                           │   │   'output': '',                                              │ │
│ │                           │   │   'runtime': '0.409894',                                     │ │
│ │                           │   │   'returncode': '1',                                         │ │
│ │                           │   │   'full_id': '25cef453-dbb0-44b5-bdf4-634a03c07c42',         │ │
│ │                           │   │   ... +19                                                    │ │
│ │                           │   },                                                             │ │
│ │                           │   {                                                              │ │
│ │                           │   │   'name': 'test_ml_command/2eeb0cf7',                        │ │
│ │                           │   │   'status': 'passed',                                        │ │
│ │                           │   │   'description': 'Mimic ml command for some of the module    │ │
│ │                           commands',                                                         │ │
│ │                           │   │   'command': 'bash --norc --noprofile -eo pipefail           │ │
│ │                           test_ml_command_build.sh',                                         │ │
│ │                           │   │   'testpath':                                                │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   'test_content': '#!/bin/bash -e\n# Content of run          │ │
│ │                           section\nmodule -t list\nml -t\nmodule -t av gcc\nml'+51,          │ │
│ │                           │   │   'output': '',                                              │ │
│ │                           │   │   'runtime': '1.344577',                                     │ │
│ │                           │   │   'returncode': '0',                                         │ │
│ │                           │   │   'full_id': '2eeb0cf7-b9b4-4faa-99bd-c3913b97f2d1',         │ │
│ │                           │   │   ... +19                                                    │ │
│ │                           │   },                                                             │ │
│ │                           │   {                                                              │ │
│ │                           │   │   'name': 'lmod_cmd/e0743a5e',                               │ │
│ │                           │   │   'status': 'passed',                                        │ │
│ │                           │   │   'description': 'check for $LMOD_CMD variable',             │ │
│ │                           │   │   'command': 'bash --norc --noprofile -eo pipefail           │ │
│ │                           lmod_cmd_build.sh',                                                │ │
│ │                           │   │   'testpath':                                                │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   'test_content': '#!/bin/bash -e\n# Content of run          │ │
│ │                           section\necho $LMD_CMD\n$LMOD_CMD --version\n',                    │ │
│ │                           │   │   'output': '',                                              │ │
│ │                           │   │   'runtime': '0.056144',                                     │ │
│ │                           │   │   'returncode': '0',                                         │ │
│ │                           │   │   'full_id': 'e0743a5e-d140-47de-a49e-c6ed15c2dc37',         │ │
│ │                           │   │   ... +19                                                    │ │
│ │                           │   },                                                             │ │
│ │                           │   {                                                              │ │
│ │                           │   │   'name': 'module_collection_list/305f940a',                 │ │
│ │                           │   │   'status': 'passed',                                        │ │
│ │                           │   │   'description': 'show module collection list',              │ │
│ │                           │   │   'command': 'bash --norc --noprofile -eo pipefail           │ │
│ │                           module_collection_list_build.sh',                                  │ │
│ │                           │   │   'testpath':                                                │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   'test_content': '#!/bin/bash -e\n# Content of run          │ │
│ │                           section\nmodule -t savelist',                                      │ │
│ │                           │   │   'output': '',                                              │ │
│ │                           │   │   'runtime': '0.124759',                                     │ │
│ │                           │   │   'returncode': '0',                                         │ │
│ │                           │   │   'full_id': '305f940a-b799-4cf7-bde6-e8d643f57ca4',         │ │
│ │                           │   │   ... +19                                                    │ │
│ │                           │   },                                                             │ │
│ │                           │   {                                                              │ │
│ │                           │   │   'name': 'show_prgenv_collections/42be7a03',                │ │
│ │                           │   │   'status': 'failed',                                        │ │
│ │                           │   │   'description': 'show module collection name                │ │
│ │                           PrgEnv-[aocc|cray|gnu]',                                           │ │
│ │                           │   │   'command': 'bash --norc --noprofile -eo pipefail           │ │
│ │                           show_prgenv_collections_build.sh',                                 │ │
│ │                           │   │   'testpath':                                                │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   'test_content': '#!/bin/bash -e\n# Content of run          │ │
│ │                           section\nmodule describe PrgEnv-aocc\nmodule descr'+43,            │ │
│ │                           │   │   'output': '',                                              │ │
│ │                           │   │   'runtime': '0.119609',                                     │ │
│ │                           │   │   'returncode': '1',                                         │ │
│ │                           │   │   'full_id': '42be7a03-a297-45a9-b307-4e92cac1ba1a',         │ │
│ │                           │   │   ... +19                                                    │ │
│ │                           │   },                                                             │ │
│ │                           │   {                                                              │ │
│ │                           │   │   'name': 'module_and_ml_check/4f093135',                    │ │
│ │                           │   │   'status': 'passed',                                        │ │
│ │                           │   │   'description': 'test module and ml command',               │ │
│ │                           │   │   'command': 'bash --norc --noprofile -eo pipefail           │ │
│ │                           module_and_ml_check_build.sh',                                     │ │
│ │                           │   │   'testpath':                                                │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   'test_content': '#!/bin/bash -e\n# Content of run          │ │
│ │                           section\ntype module\ntype ml\nmodule --version\nml '+10,          │ │
│ │                           │   │   'output': 'module is a function\nmodule () \n{ \n    eval  │ │
│ │                           $($LMOD_CMD bash "$@") && eval $(${L'+92,                          │ │
│ │                           │   │   'runtime': '0.112023',                                     │ │
│ │                           │   │   'returncode': '0',                                         │ │
│ │                           │   │   'full_id': '4f093135-1447-43da-b673-2b7347b572e3',         │ │
│ │                           │   │   ... +19                                                    │ │
│ │                           │   },                                                             │ │
│ │                           │   {                                                              │ │
│ │                           │   │   'name': 'restore_prgenv_collections/3e3ae8b6',             │ │
│ │                           │   │   'status': 'failed',                                        │ │
│ │                           │   │   'description': 'restore module collections                 │ │
│ │                           PrgEnv-[cray|gnu|aocc]',                                           │ │
│ │                           │   │   'command': 'bash --norc --noprofile -eo pipefail           │ │
│ │                           restore_prgenv_collections_build.sh',                              │ │
│ │                           │   │   'testpath':                                                │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   'test_content': '#!/bin/bash -e\n# Content of run          │ │
│ │                           section\nmodule restore PrgEnv-cray\nmodule list\nm'+76,           │ │
│ │                           │   │   'output': '',                                              │ │
│ │                           │   │   'runtime': '0.09172',                                      │ │
│ │                           │   │   'returncode': '1',                                         │ │
│ │                           │   │   'full_id': '3e3ae8b6-9221-4938-a2a3-422ca62cca7f',         │ │
│ │                           │   │   ... +19                                                    │ │
│ │                           │   },                                                             │ │
│ │                           │   {                                                              │ │
│ │                           │   │   'name': 'purge_restore/de13cf08',                          │ │
│ │                           │   │   'status': 'failed',                                        │ │
│ │                           │   │   'description': 'test module purge and restore.',           │ │
│ │                           │   │   'command': 'bash --norc --noprofile -eo pipefail           │ │
│ │                           purge_restore_build.sh',                                           │ │
│ │                           │   │   'testpath':                                                │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   'test_content': '#!/bin/bash -e\n# Content of run          │ │
│ │                           section\nmodule purge\nmodule restore\n',                          │ │
│ │                           │   │   'output': '',                                              │ │
│ │                           │   │   'runtime': '0.093286',                                     │ │
│ │                           │   │   'returncode': '1',                                         │ │
│ │                           │   │   'full_id': 'de13cf08-a013-4d7e-9548-a02109394226',         │ │
│ │                           │   │   ... +19                                                    │ │
│ │                           │   },                                                             │ │
│ │                           │   {                                                              │ │
│ │                           │   │   'name': 'spider_check/4d00ac96',                           │ │
│ │                           │   │   'status': 'passed',                                        │ │
│ │                           │   │   'description': 'Check $LMOD_DIR/spider utility',           │ │
│ │                           │   │   'command': 'bash --norc --noprofile -eo pipefail           │ │
│ │                           spider_check_build.sh',                                            │ │
│ │                           │   │   'testpath':                                                │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   'test_content': '#!/bin/bash \n# Content of run            │ │
│ │                           section\n$LMOD_DIR/spider --version\n$LMOD_DIR/spide'+118,         │ │
│ │                           │   │   'output': '{\n  "nvidia-mixed": {\n                        │ │
│ │                           "/opt/cray/pe/lmod/modulefiles/mix_compilers/nvidia-mi'+335565,    │ │
│ │                           │   │   'runtime': '1.587844',                                     │ │
│ │                           │   │   'returncode': '0',                                         │ │
│ │                           │   │   'full_id': '4d00ac96-39fe-42d2-8747-beec5547ae63',         │ │
│ │                           │   │   ... +19                                                    │ │
│ │                           │   },                                                             │ │
│ │                           │   {                                                              │ │
│ │                           │   │   'name': 'auto_swap_same_modules/0ef37642',                 │ │
│ │                           │   │   'status': 'failed',                                        │ │
│ │                           │   │   'description': 'Check if Lmod will autoswap same modules', │ │
│ │                           │   │   'command': 'bash --norc --noprofile -eo pipefail           │ │
│ │                           auto_swap_same_modules_build.sh',                                  │ │
│ │                           │   │   'testpath':                                                │ │
│ │                           '/global/cfs/cdirs/m3503/buildtest/runs/perlmutter/2021-12-11/per… │ │
│ │                           │   │   'test_content': '#!/bin/bash \n# Content of run            │ │
│ │                           section\nml purge\nml gcc/10.2.0\nml gcc/8.1.0\nml gcc'+7,         │ │
│ │                           │   │   'output': '',                                              │ │
│ │                           │   │   'runtime': '2.762135',                                     │ │
│ │                           │   │   'returncode': '1',                                         │ │
│ │                           │   │   'full_id': '0ef37642-9f9b-4198-90ad-1b44d91785b7',         │ │
│ │                           │   │   ... +19                                                    │ │
│ │                           │   }                                                              │ │
│ │                           ]                                                                  │ │
│ │              upload_url = 'https://my.cdash.org/submit.php?project=buildtest-cori'           │ │
│ ╰──────────────────────────────────────────────────────────────────────────────────────────────╯ │
╰──────────────────────────────────────────────────────────────────────────────────────────────────╯
UnicodeEncodeError: 'ascii' codec can't encode character '\xa9' in position 134049: ordinal not in range(128)
Running after_script
00:00
Running after script...
$ conda env remove -p $CI_PROJECT_DIR/.conda  -y
bash: line 104: conda: command not found
ERROR: Job failed: exit status 1

Post question in Slack

Is there an existing issue

stale[bot] commented 2 years ago

This issue has been automatically marked as stale because it has not had recent activity. It will be closed if no further activity occurs. Thank you for your contributions.