search

isaqb-org / curriculum-swarc4ai

Curriculum of the iSAQB® Advanced Module SWARC4AI
2 stars 1 forks source link

Lernziel 2-14 Beispiele für die Safety-Problematik ergänzen #13

Open mattes3 opened 4 hours ago

mattes3 commented 4 hours ago

In Lernziel 2-14 steht:

Kennen die Grundproblematik und die verschiedenen Facetten von AI-Safety.

Ich finde das etwas zu allgemein. Ein paar Beispiele für diese Problematik könnten helfen (z.B. generative AI darf keinen Plan für die Durchführung eines Verbrechens liefern, Bildgenerierung darf keine verstörenden Bilder liefern, etc.)

Es wäre auch gut, ein paar Beispiele für die verschiedenen Bedeutungen des Wortes Safety im AI-Kontext zu haben. Safety für wen? Den Benutzer? Den Entwickler? Den Betreiber? Die Gesellschaft?

mahboubagharbi commented 4 hours ago

Das sollten aus meiner Sicht die Anbieter ausarbeiten.

mattes3 commented 4 hours ago

Das ist mir zu ungenau. Wenn schon keine Beispiele, dann sollte wenigstens da stehen, was Safety im AI-Kontext heißen soll.

mahboubagharbi commented 3 hours ago

Ich sehe das weiterhin Aufgabe des Anbieters.