StatistikStadtZuerich / ld-data

RDF Cube Pipeline for Statistik Stadt Zürich
BSD 3-Clause "New" or "Revised" License
0 stars 2 forks source link

Daten auf prod #111

Closed ktk closed 6 years ago

ktk commented 6 years ago

Hallo @MauroBaster und @sszscm , wir haben am Mittwoch gesagt das wir am Montag nochmals Prod aktualisieren wollen. Sind auf dem Prod-WebDAV die aktuellen Daten drauf? Falls ja würde ich sonst die Daten auf Prod mal ersetzen.

MauroBaster commented 6 years ago

@ktk Ich arbeite datan.

ktk commented 6 years ago

@MauroBaster wie sieh es aus da? Ich würde gerne noch vor dem Wikidata Event am Samstag Prod auf dem aktuellsten Stand haben /cc @grandgrue

grandgrue commented 6 years ago

Mauro ist heute krank, er wird das Mail wohl nicht sehen. Ich gucke ob ich jemanden finde, der den Load machen kann. Hier schon mal das XLSX mit der neuen Spalte WikidataURI als Preview. HDB_Listen_HDB_grm_Raum.xlsx

ktk commented 6 years ago

@grandgrue ok danke. Die Wikidata URIs sind schon in den Listen drin, ich warte gerade auf den Abschluss des neuen Builds, dann wird es auf Integ sein :)

MauroBaster commented 6 years ago

Hallo Zusammen Soeben Daten auf PROD und INT exportiert.

ktk commented 6 years ago

@MauroBaster danke Mauro! Ich komme viel weiter, allerdings hat es immer noch linefeeds (nur 0A in hex, kein CRLF dieses mal. Zeile:

Zeile 1277789: ,,2019-07-01,2018-06-29,1950-12-31,,,ZXXXX1950R30000FERHEL2000XXX0000XXX0000XXX0000XXX0000,ZXXXX1950,XX,XX,1950,Tag;Tag;Monat;Quartal;Trimester;Semester;Jahr,,R30000,FER,FERHEL2000XXX0000XXX0000XXX0000XXX0000,24,Fertilität von Ausländerinnen (Lebendgeborene je 1000 Frauen im Alter von 15 bis 49 Jahren),Fertilitätsrate,Kennzahl (nicht aggregierbar),Die Fertilität oder auch Fruchtbarkeit ist die Fähigkeit schwanger zu werden und Kinder zu gebären. Quelle: Eurostat

und auf Zeile 1277790:

Hier wird mit Fertilität die Anzahl Lebendgeborene je 1000 Frauen im Alter zwischen 15 bis 49 Jahre bezeichnet.,Lebendgeborene je 1000 Frauen im Alter zwischen 15 bis 49 Jahren,Geborene/1000 Frauen,#/1000 Frauen,geborenepro1000frauen,HEL,HEL2000,Heimatland,Ausland,2000,Alle Nationen/Staatsangehörigen ausser der Schweiz.,,Herkunft,,,XXX,XXX0000,,,,,,,,,XXX,XXX0000,,,,,,,,,XXX,XXX0000,,,,,,,,,XXX,XXX0000,,,,,,,,,Stadt Zürich,Gemeinde,Kanton,10120000001,KantonZH,,http://www.wikidata.org/entity/Q72,BEV033,Fertilität,,,BEV,Geburten,,,,1,,,,,,,,,,GHEL0000,,definitiv,0,intern,nein,NEU,74D6E025C0A4C63035B1479965F47E1D,ZXXXX1950R30000FERHEL2000XXX0000XXX0000XXX0000XXX0000 0,3,

MauroBaster commented 6 years ago

Hoi Adrian

Weisst du was das für ein Zeichen ist?

Von: Adrian Gschwend [mailto:notifications@github.com] Gesendet: Montag, 2. Juli 2018 09:30 An: statistikstadtzuerich/ld-data ld-data@noreply.github.com Cc: Baster Mauro (SSZ) Mauro.Baster@zuerich.ch; Mention mention@noreply.github.com Betreff: Re: [statistikstadtzuerich/ld-data] Daten auf prod (#111)

@MauroBasterhttps://github.com/MauroBaster danke Mauro! Ich komme viel weiter, allerdings hat es immer noch linefeeds (nur 0A in hex, kein CRLF dieses mal. Zeile:

Zeile 1277789: ,,2019-07-01,2018-06-29,1950-12-31,,,ZXXXX1950R30000FERHEL2000XXX0000XXX0000XXX0000XXX0000,ZXXXX1950,XX,XX,1950,Tag;Tag;Monat;Quartal;Trimester;Semester;Jahr,,R30000,FER,FERHEL2000XXX0000XXX0000XXX0000XXX0000,24,Fertilität von Ausländerinnen (Lebendgeborene je 1000 Frauen im Alter von 15 bis 49 Jahren),Fertilitätsrate,Kennzahl (nicht aggregierbar),Die Fertilität oder auch Fruchtbarkeit ist die Fähigkeit schwanger zu werden und Kinder zu gebären. Quelle: Eurostat

und auf Zeile 1277790:

Hier wird mit Fertilität die Anzahl Lebendgeborene je 1000 Frauen im Alter zwischen 15 bis 49 Jahre bezeichnet.,Lebendgeborene je 1000 Frauen im Alter zwischen 15 bis 49 Jahren,Geborene/1000 Frauen,#/1000 Frauen,geborenepro1000frauen,HEL,HEL2000,Heimatland,Ausland,2000,Alle Nationen/Staatsangehörigen ausser der Schweiz.,,Herkunft,,,XXX,XXX0000,,,,,,,,,XXX,XXX0000,,,,,,,,,XXX,XXX0000,,,,,,,,,XXX,XXX0000,,,,,,,,,Stadt Zürich,Gemeinde,Kanton,10120000001,KantonZH,,http://www.wikidata.org/entity/Q72,BEV033,Fertilität,,,BEV,Geburten,,,,1,,,,,,,,,,GHEL0000,,definitiv,0,intern,nein,NEU,74D6E025C0A4C63035B1479965F47E1D,ZXXXX1950R30000FERHEL2000XXX0000XXX0000XXX0000XXX0000 0,3,

— You are receiving this because you were mentioned. Reply to this email directly, view it on GitHubhttps://github.com/statistikstadtzuerich/ld-data/issues/111#issuecomment-401696460, or mute the threadhttps://github.com/notifications/unsubscribe-auth/AfjJ_ElTdfzkG20yxsAGZW0aLzv0i4shks5uCcv8gaJpZM4T9YFv.

ktk commented 6 years ago

@MauroBaster ja ist Newline, in Unix Edition. Oft auch einfach LF (Linefeed) oder \n. Das Problem was Du gelöst hast war CRLF, was von Windows meistens macht.

https://en.wikipedia.org/wiki/Newline

MauroBaster commented 6 years ago

@ktk Ich versuche es nochmals über den Export zu lösen. Habe eine Funktion gefunden, die helfen sollte. Melde mich morgen wieder.

MauroBaster commented 6 years ago

@ktk Kannst du es nochmals laufen lassen? Daten sind auf INT

ktk commented 6 years ago

@MauroBaster ich glaube dieses mal lief alles gut, danke! Dauert aber bis heute Abend das es online ist.

MauroBaster commented 6 years ago

@ktk kannst du bitte die Daten nochmals laden? Ich musste in den Listen etwas korrigieren und @grandgrue benötigt die korrigierten Daten. Danke und Gruss

MatthiasGuenter commented 6 years ago

@ktk Gibt es hier noch was zu tun?

ktk commented 6 years ago

@grandgrue ist gemacht. Das Datenset war neu zu gross für den verwendeten Ladevorgang in LINDAS, musste den entsprechend anpassen. Nun haben wir eine Variante wie wir die neue Grösse zuverlässig in LINDAS laden können.

grandgrue commented 6 years ago

Super, herzlichen Dank! Nun funktionieren all unsere Showcases auch auf Prod.

ktk commented 6 years ago

@grandgrue noch als Warnung, wenn wir auf HTTPS wechseln müssen alle Queries angepasst werden. Aber ich finde wir machen das trotz allem besser jetzt, sonst geht danach wenn die Leute wirklich rumspielen nix mehr, einverstanden?

grandgrue commented 6 years ago

Oh, das war mir nicht bewusst. Aber wenn wir den Wechsel jetzt vollziehen ist das eigentlich kein Problem. Nach dem Going-Live und der Veröffentlichung der Showcases wäre es wirklich blöd.

MatthiasGuenter commented 6 years ago

@grandgrue Ich hatte sowieso vor, alle Beispiel nach der Migration nach neu zu testen. Dann schicke ich Sie dir einfach. Diejenigen, die von Zazuko online gemacht werden, sind dann schon abgestimmt.