Keine KI-Systeme für sozialrechtliche Angelegenheiten

Die Bezirksverordnetenversammlung möge beschließen:

Die BVV ersucht das Bezirksamt darauf einzuwirken, dass KI-Systeme beim Jobcenter und dem Sozialamt nicht eingesetzt werden.

Begründung

Mit KI (Künstliche Intelligenz) ist derzeit zwar schon vieles möglich, um Abläufe zu verkürzen, jedoch gerade im sozialrechtlichen Bereich ist ihre Anwendung heikel und fehleranfällig. KI ist nicht in der Lage Bescheide von Jobcentern oder Sozialämtern inhaltlich zu prüfen. 

Sie basiert im Wesentlichen auf Wahrscheinlichkeitsberechnungen und ist nicht fähig Sachverhalte eigenständig zu erfassen. Die Situation von Leistungsbeziehenden muss einer menschlichen Prüfung unterliegen und darf nicht pauschal mit einer KI bearbeitet werden.

Der Antrag als Vorgang in der Bezirksverordnetenversammlung findet sich unter diesem Link: 1968/XXI - Antrag - Keine KI-Systeme für sozialrechtliche Angelegenheiten