Treg oppdatering av infotavle

[josteinaj]

Jeg satte for noen dager opp plotteren til å logge tidsbruk til loggen:

2018-09-21 17:07:00,851 dashboard: 3.1s, pipelines: 6.5s, persons: 32.8s, labels: 40.5s
2018-09-21 18:06:00,508 dashboard: 1.9s, pipelines: 16.6s, persons: 17.4s, labels: 59.2s
2018-09-21 18:15:00,863 dashboard: 3.1s, pipelines: 27.9s, persons: 16.3s, labels: 30.5s
2018-09-21 18:50:00,744 dashboard: 4.3s, pipelines: 28.0s, persons: 18.4s, labels: 31.5s
2018-09-21 19:40:00,793 dashboard: 33.4s, pipelines: 11.3s, persons: 28.0s, labels: 47.4s
2018-09-21 20:41:00,578 dashboard: 4.1s, pipelines: 28.0s, persons: 17.4s, labels: 31.9s
2018-09-21 20:56:00,476 dashboard: 1.7s, pipelines: 27.7s, persons: 14.5s, labels: 31.7s
2018-09-21 21:36:00,516 dashboard: 20.8s, pipelines: 34.5s, persons: 16.3s, labels: 33.1s
2018-09-22 00:44:00,681 dashboard: 28.6s, pipelines: 44.1s, persons: 44.5s, labels: 43.6s
2018-09-22 01:15:00,649 dashboard: 31.1s, pipelines: 45.5s, persons: 89.4s, labels: 45.0s
2018-09-22 06:02:00,734 dashboard: 3.7s, pipelines: 36.6s, persons: 48.1s, labels: 49.0s
2018-09-22 12:35:00,648 dashboard: 30.2s, pipelines: 44.3s, persons: 48.7s, labels: 46.7s
2018-09-22 16:44:00,572 dashboard: 27.3s, pipelines: 42.1s, persons: 46.4s, labels: 47.3s
2018-09-22 16:53:00,584 dashboard: 32.2s, pipelines: 47.5s, persons: 53.3s, labels: 50.4s
2018-09-22 18:52:00,989 dashboard: 33.5s, pipelines: 49.7s, persons: 52.9s, labels: 48.9s
2018-09-22 19:32:00,057 dashboard: 4.1s, pipelines: 38.7s, persons: 20.4s, labels: 40.5s
2018-09-22 22:09:00,753 dashboard: 25.1s, pipelines: 43.2s, persons: 18.8s, labels: 37.5s
2018-09-22 22:28:00,028 dashboard: 29.8s, pipelines: 44.0s, persons: 48.3s, labels: 46.3s
2018-09-22 22:53:00,922 dashboard: 28.2s, pipelines: 45.5s, persons: 49.4s, labels: 50.0s
2018-09-23 00:32:00,877 dashboard: 26.5s, pipelines: 45.3s, persons: 49.7s, labels: 46.5s
2018-09-23 01:26:00,759 dashboard: 28.2s, pipelines: 42.5s, persons: 20.2s, labels: 42.4s
2018-09-23 01:48:00,278 dashboard: 29.8s, pipelines: 50.3s, persons: 80.0s, labels: 49.9s
2018-09-23 08:33:00,898 dashboard: 33.0s, pipelines: 48.0s, persons: 87.1s, labels: 42.1s
2018-09-23 09:41:00,138 dashboard: 29.6s, pipelines: 46.1s, persons: 50.5s, labels: 46.9s
2018-09-23 10:05:00,903 dashboard: 29.0s, pipelines: 44.2s, persons: 19.8s, labels: 49.3s
2018-09-23 10:30:00,303 dashboard: 26.4s, pipelines: 43.2s, persons: 18.8s, labels: 40.0s
2018-09-23 12:25:00,476 dashboard: 30.0s, pipelines: 44.5s, persons: 20.5s, labels: 44.3s
2018-09-23 12:48:00,436 dashboard: 25.2s, pipelines: 44.6s, persons: 56.9s, labels: 49.1s
2018-09-23 15:57:00,979 dashboard: 25.3s, pipelines: 42.3s, persons: 19.5s, labels: 41.2s
2018-09-23 16:58:00,225 dashboard: 34.9s, pipelines: 49.2s, persons: 91.6s, labels: 86.7s
2018-09-23 18:10:00,565 dashboard: 37.8s, pipelines: 46.1s, persons: 50.4s, labels: 54.6s
2018-09-23 21:52:00,846 dashboard: 31.4s, pipelines: 47.2s, persons: 91.8s, labels: 47.0s
2018-09-23 23:25:00,398 dashboard: 23.8s, pipelines: 44.6s, persons: 19.3s, labels: 43.3s
2018-09-24 05:32:00,675 dashboard: 27.9s, pipelines: 40.1s, persons: 18.1s, labels: 39.0s
2018-09-24 14:27:00,165 dashboard: 19.0s, pipelines: 12.1s, persons: 23.0s, labels: 43.6s
2018-09-24 15:58:00,764 dashboard: 21.9s, pipelines: 37.9s, persons: 43.8s, labels: 37.3s
2018-09-24 16:16:00,318 dashboard: 30.8s, pipelines: 43.1s, persons: 60.2s, labels: 83.6s
2018-09-24 21:47:00,836 dashboard: 30.0s, pipelines: 48.3s, persons: 60.2s, labels: 22.7s
2018-09-24 22:26:00,775 dashboard: 17.6s, pipelines: 43.6s, persons: 51.8s, labels: 35.4s
2018-09-24 23:24:00,566 dashboard: 2.5s, pipelines: 27.4s, persons: 19.4s, labels: 44.3s
2018-09-24 23:46:00,209 dashboard: 2.4s, pipelines: 24.6s, persons: 17.5s, labels: 33.4s
2018-09-25 00:41:00,183 dashboard: 1.5s, pipelines: 41.2s, persons: 93.0s, labels: 52.7s
2018-09-25 00:44:00,756 dashboard: 21.2s, pipelines: 52.1s, persons: 73.5s, labels: 32.7s
2018-09-25 03:00:00,156 dashboard: 40.4s, pipelines: 41.9s, persons: 18.9s, labels: 39.7s
2018-09-25 03:19:00,079 dashboard: 30.6s, pipelines: 49.8s, persons: 73.9s, labels: 52.1s
2018-09-25 03:22:00,992 dashboard: 34.9s, pipelines: 32.3s, persons: 28.5s, labels: 8.6s
2018-09-25 03:36:00,443 dashboard: 26.4s, pipelines: 39.2s, persons: 38.6s, labels: 34.4s
2018-09-25 05:15:00,331 dashboard: 14.8s, pipelines: 36.4s, persons: 43.3s, labels: 38.0s
2018-09-25 05:55:00,677 dashboard: 34.2s, pipelines: 71.4s, persons: 38.1s, labels: 14.7s
2018-09-25 07:01:00,562 dashboard: 39.5s, pipelines: 58.7s, persons: 104.2s, labels: 107.7s
2018-09-25 11:00:00,207 dashboard: 29.1s, pipelines: 30.6s, persons: 41.7s, labels: 44.9s

I følge denne loggen så tar det mellom 1min 15s og 5min 10s mellom hver gang infotavlen oppdateres. I snitt oppdateres infotavlen hver 2min 30s.

Dette er for dårlig. Jeg lurer på om vi kanskje skal:

• droppe enkelt-pipelines
• droppe enkelt-personer
• vurdere å redusere antall etiketter

Aller først kanskje det er verdt å se om det er noen flaskehalser i plottingen og om det kan optimaliseres.

[espso]

Enig at det er litt tregt. egentlig burde vi vel se på multiprocessing for å øke ytelsen generelt, men det er ingen enkel oppgave. Så lenge det ikke er noen som bruker de andre dashboardene kan vi vel fjerne de, og evt. legge til på nytt senere?

[josteinaj]

Det gikk en del tid på å telle antall bøker i mappene. Jeg har nå flyttet det til en egen tråd: 1f3738eb3317099fc898339efd05eda661f847ae

Når systemet starter nå så tar det omtrent 5 sekunder mellom hver gang bildet oppdaterer seg. I følge loggen så tar selve hoved-infotavla 2,3s, men så kommer jo de andre bildene i tillegg. Vi får se hvordan det ser ut når det er mange bøker som behandles samtidig.

[josteinaj]

Det hjalp nok en del å telle antall bøker i en separat tråd. Nå som det skjer en del i systemet så ser det ut til å ta omtrent 25 sekunder mellom hver oppdatering.

Sjekket loggen igjen nå for å se hva som tar tid og det er et par ting som skiller seg ut:

Denne tar 3 minutter:

INFO [graph plotter ] Getting host from URL: smb://128.39.251.15/share

Denne tar også 3 minutter:

[graph plotter ] An error occured while trying to extract the title of the book

Altså Filesystem.get_host_from_url og Pipeline.current_book_name. Jeg skal se om disse kan mellomlagres sånn at det ikke tar så lang tid å oppdatere de hver gang.

[josteinaj]

path/host-tilordninger mellomlagres nå: 8e7b33f7fd2e9df0fdaf174a5cfca046e8706e45

bok-metadata og boknavn mellomlagres nå: 89139074d080c49f032a945cd39d3d4fac56d5e2

Starter systemet på nytt snart...

[josteinaj]

Tror vi kan si denne er løst inntil videre.

[josteinaj]

Jeg åpner denne igjen. Infotavla er ikke oppdatert på tre kvarter nå. Produksjonssystemet bruker 182% av én prosessor (hvordan enn det går an), så multiprocessing er trolig det som må til her.

[josteinaj]

Tidspunkt for sist oppdatering av grafen er inkludert fra og med 4b51b9cdb062bc2aeb5257a14e043c1852e33576.

[josteinaj]

@GauteR kan du sjekke i produksjonsgruppa om det er behov for infotavla i det hele tatt?