Aleph-Alpha / aleph-alpha-client

MIT License
88 stars 21 forks source link

Getting a 503 Error when using model: luminous-nextgen-66b-global-step140000-adapter-control-v1 #171

Closed capgeminichristianerling closed 5 months ago

capgeminichristianerling commented 5 months ago

Issue: We are getting the response from the server when we do a CompletionRequest, using the model: luminous-nextgen-66b-global-step140000-adapter-control-v1

Response: (503, '{"error":"Sorry we had to reject your request because we could not guarantee to finish it in a reasonable timeframe. This specific model is very busy at this moment. Try again later or use another model.","code":"QUEUE_FULL"}')

Using the Prompt:

Wie viel beträgt der Durchmesser der Leitung und welches Prüfverfahren wird benötigt?

### Input:
Antragsabschnitt:
['dens über der Leitung ist bei der geplanten Mindestabdeckung von 1,20 m groß genug, um \nzu ermöglichen, dass bei zukünftigen Leitungskreuzungen auch die neu hinzukommenden \n(Wasser-) Leitungen noch im frostfreien Bereich verlegt werden können.', 'vor, was bei dem Leitungsdurchmesser DN 1200 einer Rohrlänge von ca. 5.300 m ent -\nspricht. \nDas für diese einmalige Druckprüfung erforderliche Wasser wird den Gewässern Alz, Alzka -', '150 m bis 50 m geltenden Maßnahmen – folgende weitere Maßnahmen: \n- Erhöhter Prüfumfang der Schweißnähte (Durchstrahlungs- und Ultraschallprüfung). \n- Tieferlegung der Leitung mit 1,5 m Überdeckung.', 'deckung von 1,50 m ist sachlich nicht begründet.  \nEventuelle Schäden der Rohre sind im Rahmen einer Dichtheitsprüfung vor Inbetriebnahme \nzu lokalisieren und zu beheben.']

Antworte basierend auf diesen Gestztestext:
Gesetz über die Elektrizitäts- und Gasversorgung (Energiewirtschaftsgesetz - EnWG)
§ 43 Erfordernis der Planfeststellung
(1) Die Errichtung und der Betrieb sowie die Änderung von folgenden Anlagen bedürfen der Planfeststellung durch die nach Landesrecht zuständige Behörde:
1.
Hochspannungsfreileitungen mit einer Nennspannung von 110 Kilovolt oder mehr, ausgenommen
a)
Bahnstromfernleitungen und
b)
Hochspannungsfreileitungen mit einer Gesamtlänge von bis zu 200 Metern, die nicht in einem Natura 2000-Gebiet nach § 7 Absatz 1 Nummer 8 des Bundesnaturschutzgesetzes liegen,
2.
Hochspannungsleitungen, die zur Netzanbindung von Windenergieanlagen auf See im Sinne des § 3 Nummer 49 des Erneuerbare-Energien-Gesetzes im Küstenmeer als Seekabel und landeinwärts als Freileitung oder Erdkabel bis zu dem technisch und wirtschaftlich günstigsten Verknüpfungspunkt des nächsten Übertragungs- oder Verteilernetzes verlegt werden sollen, mit Ausnahme von Nebeneinrichtungen zu Offshore-Anbindungsleitungen,
3.
grenzüberschreitende Gleichstrom-Hochspannungsleitungen, die nicht unter Nummer 2 fallen und die im Küstenmeer als Seekabel verlegt werden sollen, sowie deren Fortführung landeinwärts als Freileitung oder Erdkabel bis zu dem technisch und wirtschaftlich günstigsten Verknüpfungspunkt des nächsten Übertragungs- oder Verteilernetzes,
4.
Hochspannungsleitungen nach § 2 Absatz 5 und 6 des Bundesbedarfsplangesetzes,
5.
Gasversorgungsleitungen mit einem Durchmesser von mehr als 300 Millimetern und
6.
Anbindungsleitungen von LNG-Anlagen an das Fernleitungsnetz mit einem Durchmesser von mehr als 300 Millimetern.
Leitungen nach § 2 Absatz 1 des Netzausbaubeschleunigungsgesetzes Übertragungsnetz bleiben unberührt. Die Errichtung, der Betrieb oder die Änderung eines Provisoriums selbst stellen keine Errichtung, keinen Betrieb und keine Änderung einer Hochspannungsfreileitung im energiewirtschaftlichen Sinne dar. Der Betreiber zeigt der zuständigen Immissionsschutzbehörde die Einhaltung der Vorgaben nach den §§ 3 und 3a der Verordnung über elektromagnetische Felder, in der jeweils geltenden Fassung, mindestens zwei Wochen vor der Errichtung, der Inbetriebnahme oder einer Änderung mit geeigneten Unterlagen an.
(2) Auf Antrag des Trägers des Vorhabens können durch Planfeststellung durch die nach Landesrecht zuständige Behörde zugelassen werden:
1.
die für den Betrieb von Energieleitungen notwendigen Anlagen, insbesondere Konverterstationen, Phasenschieber, Verdichterstationen, Umspannanlagen und Netzverknüpfungspunkte, die auch in das Planfeststellungsverfahren für die Energieleitung integriert werden können, einschließlich Nebeneinrichtungen zu Offshore-Anbindungsleitungen; dabei ist eine nachträgliche Integration in die Entscheidung zur Planfeststellung durch Planergänzungsverfahren möglich, solange die Entscheidung zur Planfeststellung gilt,
2.
die Errichtung und der Betrieb sowie die Änderung eines Erdkabels für Hochspannungsleitungen mit einer Nennspannung von 110 Kilovolt im Küstenbereich von Nord- und Ostsee, die in einem 20 Kilometer breiten Korridor, der längs der Küstenlinie landeinwärts verläuft, verlegt werden sollen; Küstenlinie ist die in der Seegrenzkarte Nummer 2920 „Deutsche Nordseeküste und angrenzende Gewässer“, Ausgabe 1994, XII, und in der Seegrenzkarte Nummer 2921 „Deutsche Ostseeküste und angrenzende Gewässer“, Ausgabe 1994, XII, des Bundesamtes für Seeschifffahrt und Hydrographie jeweils im Maßstab 1 : 375 000 dargestellte Küstenlinie,*
3.
die Errichtung und der Betrieb sowie die Änderung eines Erdkabels mit einer Nennspannung von 110 Kilovolt oder mehr zur Anbindung von Kraftwerken oder Pumpspeicherkraftwerken an das Elektrizitätsversorgungsnetz,
4.
die Errichtung und der Betrieb sowie die Änderung eines sonstigen Erdkabels für Hochspannungsleitungen mit einer Nennspannung von 110 Kilovolt oder weniger, ausgenommen Bahnstromfernleitungen,
5.
die Errichtung und der Betrieb sowie die Änderung einer Freileitung mit einer Nennspannung von unter 110 Kilovolt, einer Hochspannungsfreileitung mit einer Nennspannung von 110 Kilovolt oder mehr und einer Gesamtlänge von bis zu 200 Metern, die nicht in einem Natura 2000-Gebiet liegt, oder einer Bahnstromfernleitung, sofern diese Leitungen mit einer Leitung nach Absatz 1 Satz 1 Nummer 1, 2 oder 3 auf einem Mehrfachgestänge geführt werden und in das Planfeststellungsverfahren für diese Leitung integriert werden; Gleiches gilt für Erdkabel mit einer Nennspannung von unter 110 Kilovolt, sofern diese im räumlichen und zeitlichen Zusammenhang mit der Baumaßnahme eines Erdkabels nach Absatz 1 Satz 1 Nummer 2 bis 4 oder nach den Nummern 2 bis 4 mit verlegt werden,
6.
Leerrohre, die im räumlichen und zeitlichen Zusammenhang mit der Baumaßnahme eines Erdkabels nach Absatz 1 Satz 1 Nummer 2 bis 4 oder nach den Nummern 2 bis 4 mit verlegt werden,
7.
die Errichtung und der Betrieb sowie die Änderung von Energiekopplungsanlagen,
8.
die Errichtung und der Betrieb sowie die Änderung von Großspeicheranlagen mit einer Nennleistung ab 50 Megawatt, soweit sie nicht § 126 des Bundesberggesetzes unterfallen,
9.
die Errichtung und der Betrieb von Anlagen nach § 2 Absatz 1 Nummer 1 des LNG-Beschleunigungsgesetzes einschließlich erforderlicher Nebenanlagen und technischer und baulicher Nebeneinrichtungen, dabei kann auch eine Verbindung mit einem nach Absatz 1 Satz 1 Nummer 6 durchzuführenden Planfeststellungsverfahren erfolgen und
10.
die Errichtung und der Betrieb sowie die Änderung von Provisorien, die auch in das Planfeststellungsverfahren für die Energieleitungen integriert werden können; dabei ist eine nachträgliche Integration in die Entscheidung zur Planfeststellung durch Planergänzungsverfahren möglich, solange die Entscheidung zur Planfeststellung gilt.
Satz 1 ist für Erdkabel auch bei Abschnittsbildung anzuwenden, wenn die Erdverkabelung in unmittelbarem Zusammenhang mit dem beantragten Abschnitt einer Freileitung steht.
(3) Bei der Planfeststellung sind die von dem Vorhaben berührten öffentlichen und privaten Belange im Rahmen der Abwägung zu berücksichtigen. Soweit bei einem Vorhaben im Sinne des Absatzes 1 Satz 1 Nummer 1 bis 4 eine Änderung oder Erweiterung einer Leitung im Sinne von § 3 Nummer 1 des Netzausbaubeschleunigungsgesetzes Übertragungsnetz, ein Ersatzneubau im Sinne des § 3 Nummer 4 des Netzausbaubeschleunigungsgesetzes Übertragungsnetz oder ein Parallelneubau im Sinne des § 3 Nummer 5 des Netzausbaubeschleunigungsgesetzes Übertragungsnetz beantragt wird, ist eine Prüfung in Frage kommender Alternativen für den beabsichtigten Verlauf der Trasse auf den Raum in und unmittelbar neben der Bestandstrasse beschränkt. Eine Prüfung außerhalb dieses Raumes ist nur aus zwingenden Gründen durchzuführen. Sie ist insbesondere dann erforderlich, wenn das Vorhaben einzeln oder im Zusammenwirken mit der Hochspannungsleitung der Bestandstrasse
1.
nach § 34 Absatz 2 des Bundesnaturschutzgesetzes unzulässig wäre oder
2.
gegen die Verbote des § 44 Absatz 1 auch in Verbindung mit Absatz 5 des Bundesnaturschutzgesetzes verstoßen würde.
Ziele der Raumordnung, die den Abstand von Hochspannungsleitungen zu Gebäuden oder überbaubaren Grundstücksflächen regeln, sind keine zwingenden Gründe im Sinne von Satz 3. Die Sätze 2 bis 5 sind bei Offshore-Anbindungsleitungen nur für den landseitigen Teil anzuwenden.
(3a) Die Errichtung und der Betrieb sowie die Änderung von Hochspannungsleitungen nach Absatz 1 Satz 1 Nummer 1 bis 4 einschließlich der für den Betrieb notwendigen Anlagen liegen im überragenden öffentlichen Interesse und dienen der öffentlichen Sicherheit. Bis die Stromversorgung im Bundesgebiet nahezu treibhausgasneutral ist, soll der beschleunigte Ausbau der Hochspannungsleitungen nach Absatz 1 Satz 1 Nummer 1 bis 4 und der für den Betrieb notwendigen Anlagen als vorrangiger Belang in die jeweils durchzuführende Schutzgüterabwägung eingebracht werden. Satz 2 ist nicht gegenüber Belangen der Landes- und Bündnisverteidigung anzuwenden.
(3b) Die nach Landesrecht zuständige Behörde ist zu einer detaillierten Prüfung von Alternativen nur verpflichtet, wenn es sich um Ausführungsvarianten handelt, die sich nach den in dem jeweiligen Stadium des Planungsprozesses angestellten Sachverhaltsermittlungen auf Grund einer überschlägigen Prüfung der insoweit abwägungsrelevanten Belange nach Absatz 3 Satz 1 und Absatz 3a als eindeutig vorzugswürdig erweisen könnten. Der Plan enthält auch Erläuterungen zur Auswahlentscheidung des Vorhabenträgers einschließlich einer Darstellung der hierzu ernsthaft in Betracht gezogenen Alternativen.
(3c) Bei der Planfeststellung von Vorhaben nach Absatz 1 Satz 1 Nummer 1 bis 4 sind bei der Abwägung nach Absatz 3 insbesondere folgende Belange mit besonderem Gewicht zu berücksichtigen:
1.
eine möglichst frühzeitige Inbetriebnahme des Vorhabens,
2.
ein möglichst geradliniger Verlauf zwischen dem Anfangs- und dem Endpunkt des Vorhabens,
3.
eine möglichst wirtschaftliche Errichtung und ein möglichst wirtschaftlicher Betrieb des Vorhabens.
Satz 1 Nummer 2 ist nicht anzuwenden, soweit eine Bündelung mit anderer linearer Infrastruktur beantragt wird, insbesondere in den Fällen des Absatzes 3 Satz 2. Absatz 3a Satz 2 bleibt unberührt.
(4) Für das Planfeststellungsverfahren sind die §§ 72 bis 78 des Verwaltungsverfahrensgesetzes nach Maßgabe dieses Gesetzes anzuwenden.
(5) Die Maßgaben sind entsprechend anzuwenden, soweit das Verfahren landesrechtlich durch ein Verwaltungsverfahrensgesetz geregelt ist.
________
### Response:
pacman82 commented 5 months ago

In high load scenarios (e.g. our GPUs are busy and there is a bit of a queue build up) we prefer to error out with a busy, rather than let the user wait for a long time (long time meaning roughly 1~2min). This is because in some use-cases the answer might be no longer meaningful to the user after waiting so long.

You can ignore the error and retry immediately if the answer would still be meaningful after the wait.

We'll try to avoid this scenario in the future, more by adding capacity, improving inference speed and smarter resource allocation. There is little do we can do in terms of this client.

pacman82 commented 5 months ago

ping @ahartel

ping @wolfgangihloff

ahartel commented 5 months ago

Hi @capgeminichristianerling, thanks for the ticket. Due to a bug that was introduced yesterday we had some outages in the available of the model that you mentioned. The bug caused a lower throughput of that model which then led to the queues in our system filling up and you getting that error. Operations should normalize over the course of today. For future inquiries of this kind, please feel free to reach out to support@aleph-alpha.com