holderdeord / hdo-site

Parliamentary monitoring website for Norway
https://data.holderdeord.no/
BSD 3-Clause "New" or "Revised" License
42 stars 16 forks source link

Publish promise database #116

Closed ingridod closed 12 years ago

ingridod commented 12 years ago

Get final copy of promise data base and publish it

drees123 commented 12 years ago

Endelig base (ca 5000 løfter) ligger nå på Dropbox - og klar for opplasting: Innhold og metode \ Løftekoding \ Kodede programmer

Et fantastisk stykke arbeid som er lagt ned! :)

Et par kommentarer før importen:

jarib commented 12 years ago

Jeg lager et Fusion Table av dette, som deretter bør bli ny master.

jarib commented 12 years ago

Jeg kan opprette kolonne for dato, fjerne linjeskift og legge til punktum.

Vi vil altså ha en dato og ikke en periode (2009-2013)?

jarib commented 12 years ago

Løftet med tekst «For å sikre en bedre integrering vil Høyre gi bedre oppfølging av psykisk syke asylsøkere, både i søknadsperioden og ved bosetting» sitt Side-felt inneholder flere sider («60,65»).

Er flere sider for samme løfte noe vi trenger å støtte? Dette er det eneste løftet som har det.

jarib commented 12 years ago

9 løfter mangler parti, men det fremgår av løfteteksten, så jeg fikset det. 4 løfter mangler kategorier. De har jeg ikke rørt, men det kan fikses lett ved å filtrere i tabellen på Emner = ''

jarib commented 12 years ago

Etter et par mystiske opplevelser med Fusion Tables beholder vi Excel-arket som master foreløpig. Videre arbeid med importen utsettes også til tirsdag/onsdag når Soria Moria er på plass, siden det vil dukke opp nye behov da (f.eks. flere parti per løfte).

KristoferRees commented 12 years ago

... og jeg fikser de feilene vi har oppdaget allerede imorgen. Tenker også kanskje en siste gjennomlesning, siden jeg nå har sjansen. Soria Moria er ferdig på tirsdag.

jarib commented 12 years ago

Har lagt til «Id» og «Dato»-kolonner i master-arket i Dropbox.

Her er det jeg finner av feil - rader med feil verdier, kategorier, tomme kategorier, eller duplikater (dvs at løftet finnes allerede med samme løftetekst for samme parti):

37: invalid categories ["TRYGD"]
133: invalid categories ["BARNEHAGE"]
142: invalid categories ["ARBIEDSLIV"]
181: invalid categories ["NÆRING"]
409: invalid categories ["INNVANDRING"]
507: unexpected value "" for general
523: invalid categories ["EU/EFTA"]
580: unexpected value nil for page
581: invalid categories ["GRUNNSKOLER"]
669: no categories
767: party missing
769: party missing
780: invalid categories ["OLJEUTVIKLING"]
793: invalid categories ["PRISER OG KONKURRANSE"]
921: unexpected value "" for general
957: invalid categories ["RUSMILDER"]
1037: unexpected value "5+" for page
1060: invalid categories ["TELEKOMMUNIKASJON"]
1065: invalid categories ["DISTRIKTPOLITIKK"]
1073: invalid categories ["HELSEVESEN STATSFORVALTNING"]
1115: unexpected value "60, 65" for page
1143: invalid categories ["EU/EFTA", "POLAROMÅRDER"]
1269: party missing
1276: party missing
1310: duplicate of 1258
1474: invalid categories ["VIDEREGÅENDE SKOLE"]
1557: invalid categories ["YTVIKLINGSHJELP"]
1573: invalid categories ["SKATT"]
1578: invalid categories ["SKATT"]
1622: invalid categories ["SKATT"]
1673: invalid categories ["KOMMUENR"]
1727: invalid categories ["GRUNNSKOLEN"]
1728: invalid categories ["GRUNNSKOLEN", "VIDEREGÅENDE SKOLE"]
1734: invalid categories ["VIDEREGÅENDE SKOLE"]
1735: invalid categories ["VIDEREGÅENDE SKOLE"]
1736: invalid categories ["VIDEREGÅENDE SKOLE"]
1737: invalid categories ["HELSETJENESTE", "VIDEREGÅENDE SKOLE"]
1741: invalid categories ["GRUNNSKOLEN"]
1743: invalid categories ["VIDEREGÅENDE SKOLE"]
1744: invalid categories ["VIDEREGÅENDE SKOLE"]
1745: invalid categories ["VIDEREGÅENDE SKOLE"]
1746: invalid categories ["GRUNNSKOLEN"]
1753: invalid categories ["HØYSKOLER"]
1754: invalid categories ["HØYSKOLER"]
1755: invalid categories ["HØYSKOLER"]
1760: invalid categories ["HØYSKOLER"]
1762: invalid categories ["NORDOMRÅDENE"]
1763: invalid categories ["HØYSKOLER"]
1764: invalid categories ["HØYSKOLER"]
1775: invalid categories ["HØYSKOLER"]
1788: duplicate of 1689
1806: duplicate of 1693
1812: party missing
1817: invalid categories ["MILJØ"]
1837: invalid categories ["DISTRIKTPOLITIKK"]
1845: invalid categories ["INTERNASJONALE AVTALER"]
1915: invalid categories ["MASSEMEDIA"]
1962: invalid categories ["TELEKOMMUNIKASJON"]
2017: invalid categories ["EU"]
2033: invalid categories ["DISTRIKTPOLITIKK"]
2035: invalid categories ["DISTRIKTPOLITIKK"]
2040: invalid categories ["NÆRINGSLIV NÆRINGSUTVIKLING"]
2097: party missing
2112: invalid categories ["REISELIVSNÆRINGEN"]
2121: invalid categories ["VASSDRAGSREGLERING"]
2128: duplicate of 2059
2137: duplicate of 2062
2206: party missing
2223: unexpected value "56/57" for page
2237: party missing
2264: invalid categories ["INNVANDERER"]
2295: invalid categories ["INNVANDRING"]
2352: unexpected value "74 og 75" for page
2356: invalid categories ["BARNE- OG UNGDOMSARBEID"]
2392: invalid categories ["KUTURVERN"]
2403: duplicate of 2354
2417: duplicate of 2333
2587: invalid categories ["GRUNNSKOLER"]
2589: invalid categories ["GRUNNSKOLER"]
2632: invalid categories ["BOLIGASAKER"]
2646: unexpected value "11 og 12" for page
2653: no categories
2661: invalid categories ["MILØVERN"]
2663: invalid categories ["PETROLEUMSSEKTOR"]
2688: invalid categories ["BOLGISAKER"]
2732: invalid categories ["BOLIGVESEN"]
2745: invalid categories ["VIDEREGÅENDE SKOLER"]
2762: invalid categories ["DISTRIKSPOLITIKK"]
2763: invalid categories ["DISTRIKSPOLITIKK"]
2765: invalid categories ["DISTRIKSPOLITIKK"]
2766: invalid categories ["DISTRIKSPOLITIKK"]
2767: invalid categories ["VALG/DISTRIKTSPOLITIKK"]
2770: invalid categories ["DISTRIKSPOLITIKK"]
2771: invalid categories ["SKATT"]
2772: invalid categories ["SKATT"]
2773: invalid categories ["SKATT"]
2774: invalid categories ["SKATT"]
2775: invalid categories ["SKATT"]
2776: invalid categories ["SKATT"]
2777: invalid categories ["SKATT"]
2778: invalid categories ["SKATT"]
2779: invalid categories ["SKATT"]
2780: invalid categories ["SKATT"]
2781: invalid categories ["SKATT"]
2791: invalid categories ["FORURENSNING."]
2793: invalid categories ["SKATT"]
2865: unexpected value "30-31" for page
2872: unexpected value "31-32" for page
2893: invalid categories ["VIDEREGÅENDE SKOLER"]
2935: invalid categories ["GRUNSKOLE"]
2938: invalid categories ["VIDEREGÅENDE SKOLER"]
2939: invalid categories ["VIDEREGÅENDE SKOLER"]
2940: invalid categories ["VIDEREGÅENDE SKOLER"]
2941: invalid categories ["VIDEREGÅENDE SKOLER"]
2942: invalid categories ["VIDEREGÅENDE SKOLER"]
2943: invalid categories ["VIDEREGÅENDE SKOLER"]
2944: invalid categories ["VIDEREGÅENDE SKOLER"]
2945: invalid categories ["VIDEREGÅENDE SKOLER"]
2946: invalid categories ["VIDEREGÅENDE SKOLER"]
2947: invalid categories ["VIDEREGÅENDE SKOLER"]
2948: invalid categories ["VIDEREGÅENDE SKOLER"]
2949: invalid categories ["VIDEREGÅENDE SKOLER"]
2950: invalid categories ["VIDEREGÅENDE SKOLER"]
2951: invalid categories ["VIDEREGÅENDE SKOLER", "BEDRIFTER"]
2952: invalid categories ["VIDEREGÅENDE SKOLER"]
2953: invalid categories ["VIDEREGÅENDE SKOLER"]
2954: invalid categories ["VIDEREGÅENDE SKOLER"]
2955: invalid categories ["VIDEREGÅENDE SKOLER"]
2956: invalid categories ["VIDEREGÅENDE SKOLER"]
2957: invalid categories ["VIDEREGÅENDE SKOLER"]
2958: invalid categories ["VIDEREGÅENDE SKOLER"]
2959: invalid categories ["VIDEREGÅENDE SKOLER"]
2960: invalid categories ["VIDEREGÅENDE SKOLER"]
3053: duplicate of 2897
3063: duplicate of 3062
3081: unexpected value "" for general
3084: invalid categories ["SKOLE"]
3097: invalid categories ["HELSINSTITUSJONER"]
3108: invalid categories ["ARBEIDSVILKÅR"]
3128: invalid categories ["HELSEVESEN RUSMIDLER"]
3135: invalid categories ["HELESEVESEN"]
3138: invalid categories ["SKOLE"]
3153: invalid categories ["SYKDOM", "RUSMIDLER."]
3168: invalid categories ["SYKDOM"]
3177: invalid categories ["PERSONERN"]
3183: invalid categories ["SYKDOM"]
3184: invalid categories ["SYKDOM"]
3185: invalid categories ["FUNKSJONSHEMMDE"]
3186: invalid categories ["TRYDGDER"]
3242: unknown party: SP
3270: invalid categories ["SKOLE"]
3271: invalid categories ["SKOLE"]
3319: no categories
3346: invalid categories ["SKOLE"]
3390: invalid categories ["SKOLE"]
3396: invalid categories ["SKOLE"]
3422: invalid categories ["SOSIALVESEEN"]
3488: invalid categories ["FERJER"]
3490: invalid categories ["FERJER"]
3491: invalid categories ["FERJER"]
3492: invalid categories ["FERJER"]
3549: invalid categories ["SKATT"]
3573: invalid categories ["FYLKESKOMMUNER"]
3586: invalid categories ["SKATT"]
3587: invalid categories ["SKATT"]
3589: invalid categories ["SKATT"]
3590: invalid categories ["SKATT"]
3591: invalid categories ["SKATT"]
3613: invalid categories ["JORDRUK"]
3659: invalid categories ["NATURFVERN"]
3723: invalid categories ["FYLKESKOMMUNER"]
3727: invalid categories ["FYLKESKOMMUNER"]
3818: duplicate of 2792
3851: invalid categories ["VIDERGÅENDE SKOLER"]
3860: invalid categories ["MILJLØVERN"]
3918: invalid categories ["SKATT"]
3936: invalid categories ["NORDISK SAMMARBEID"]
3962: invalid categories ["FORURENSING"]
3968: invalid categories ["ELEKTRISTET"]
4074: invalid categories ["STATENS PERSONALPOLTITIKK"]
4189: no categories
4207: invalid categories ["FAMILE"]
4215: invalid categories ["MESSEMEDIER"]
4236: unexpected value "" for general
4240: invalid categories ["MENNESKERTTIGHETER"]
4242: unexpected value nil for page
4372: invalid categories ["STATSEIENDOM"]
4373: invalid categories ["STATSEIENDOM"]
4383: invalid categories ["STATOIL"]
4713: unexpected value nil for page
4785: invalid categories ["TRYDGER"]
4815: invalid categories ["SYKDOM"]
4816: invalid categories ["SYKDOM"]
4871: unexpected value "¨" for general
4908: invalid categories ["VIDEREGÅENDESKOLE"]
4909: invalid categories ["VIDEREGÅENDE SKOLE"]
4910: invalid categories ["VIDEREGÅENDESKOLE"]
4911: party missing
4912: invalid categories ["VIDEREGÅENDESKOLE"]
4913: invalid categories ["VIDEREGÅENDESKOLE"]
4914: invalid categories ["VIDEREGÅENDESKOLE"]
4920: invalid categories ["UNIVERSITET"]
4945: invalid categories ["TELEKOMMUNIKASJON"]
4964: invalid categories ["JERNBANE"]
4965: invalid categories ["JERNBANE"]
4966: invalid categories ["JERNBANE"]
4967: invalid categories ["JERNBANE"]
4968: invalid categories ["JERNBANE"]
4973: invalid categories ["SJØTRANSPORT"]
4974: invalid categories ["SJØTRANSPORT"]
4975: invalid categories ["SJØTRANSPORT"]
4976: invalid categories ["SJØTRANSPORT"]
4977: invalid categories ["SJØTRANSPORT"]
5018: invalid categories ["BISTAND"]
drees123 commented 12 years ago

Ganske relatert: Når man går inn på løftesiden nå, er det tomt i midten. Kan vi legge inn en eller annen default-tekst som forklarer folk hva de skal gjøre, feks "Velg kategori og parti for å se hva partiene har lovet" eller noe slikt?

Ka dåkk tru @jarib @katfa @KristoferRees ?

jonathanronen commented 12 years ago

Jeg tror man må ha en svær pil til venstre og en tekst som sier Velg Kategori!

2012/8/13 Daniel Rees notifications@github.com

Ganske relatert: Når man går inn på løftesiden nå, er det tomt i midten. Kan vi legge inn en eller annen default-tekst som forklarer folk hva de skal gjøre, feks "Velg kategori og parti for å se hva partiene har lovet" eller noe slikt?

Ka dåkk tru @jarib https://github.com/jarib @katfahttps://github.com/katfa @KristoferRees https://github.com/KristoferRees ?

— Reply to this email directly or view it on GitHubhttps://github.com/holderdeord/hdo-site/issues/116#issuecomment-7687877.

Jonathan Ronen +47 99373640

jarib commented 12 years ago

Pil er nå på plass :)

jarib commented 12 years ago

Bra jobba med løfterydding @KristoferRees. Bare noen få igjen nå:

4713: unexpected value nil for page
1962: duplicate of 1895
2264: invalid categories ["INNVANDERE"]
2952: invalid categories ["VIDEREGÅ̊ENDE SKOLER"]
3097: duplicate of 3786
3108: invalid categories ["ARBEIDSVILKÅ̊R"]
4908: invalid categories ["VIDEREGÅENDE SKOLE"]
4909: invalid categories ["VIDEREGÅENDE SKOLE"]
4910: invalid categories ["VIDEREGÅENDE SKOLE"]
4911: invalid categories ["VIDEREGÅENDE SKOLE"]
4912: invalid categories ["VIDEREGÅENDE SKOLE"]
4913: invalid categories ["VIDEREGÅENDE SKOLE"]
4914: invalid categories ["VIDEREGÅENDE SKOLE"]
KristoferRees commented 12 years ago

oooooog DER var alle løftene lagt inn, og de siste løftene ryddet. Lot ID og datofeltet stå åpent på soria-moria.

can i get a hells yeah!

jarib commented 12 years ago

Hell yeah! :yum: :heart: :yellow_heart: :green_heart: :sparkles: :exclamation: :+1: :clap: :dancers: :smiley_cat: :bangbang:

drees123 commented 12 years ago

Dritbra, rett og slett!

GitHub Logo

drees123 commented 12 years ago

På løftesiden: Kan vi også legge inn en link helt øverst til "Hvordan vi koder løfter"-saken som Kit har skrevet?

jarib commented 12 years ago

@drees123

2012-08-15 16:36:36 ERROR promise 5063: invalid categories ["LANDRBRUK"]
2012-08-15 16:36:37 ERROR promise 5098: no categories
2012-08-15 16:36:38 ERROR promise 5127: invalid categories ["MILJØVERN OLJE"]
2012-08-15 16:36:38 ERROR promise 5134: no categories
2012-08-15 16:36:38 ERROR promise 5157: invalid categories ["POLITI OG PÅTELMYNDIGHET"]
2012-08-15 16:36:38 ERROR promise 5158: invalid categories ["POLITI OG PÅTELMYNDIGHET"]
2012-08-15 16:36:39 ERROR promise 5160: invalid categories ["POLITI OG PÅTELMYNDIGHET"]
2012-08-15 16:36:39 ERROR promise 5161: invalid categories ["POLITI OG PÅTELMYNDIGHET"]
2012-08-15 16:36:39 ERROR promise 5162: invalid categories ["POLITI OG PÅTELMYNDIGHET"]
2012-08-15 16:36:39 ERROR promise 5165: invalid categories ["POLITI OG PÅTELMYNDIGHET"]
2012-08-15 16:36:39 ERROR promise 5166: invalid categories ["POLITI OG PÅTELMYNDIGHET"]
2012-08-15 16:36:39 ERROR promise 5169: invalid categories ["POLITI OG PÅTELMYNDIGHET"]
2012-08-15 16:36:39 ERROR promise 5178: invalid categories ["POLITI OG PÅTALEMYNDIGHETER"]
2012-08-15 16:36:41 ERROR promise 5283: invalid categories ["IDUSTRI"]
2012-08-15 16:36:43 ERROR promise 5322: no categories
2012-08-15 16:36:43 ERROR promise 5326: invalid categories ["VEGRTAFIKK"]
2012-08-15 16:36:43 ERROR promise 5345: invalid categories ["DISTRIKTPOLITIKK"]
2012-08-15 16:36:45 ERROR promise 5439: invalid categories ["FOLKEHELSEN"]
drees123 commented 12 years ago

Taken care of!

jarib commented 12 years ago

Dette er fikset. Ser ut som vi har et lite ytelsesproblem på løftesiden (#183), men vi lar side-cachingen håndtere det foreløpig.