Darf ich in der Beratungsstelle KI für Fallnotizen nutzen?
Ja, wenn Ihre Stelle den KI-Dienst als Dienstleister eingebunden und zur Verschwiegenheit verpflichtet hat (§ 203 Abs. 3 Satz 2 und Abs. 4 StGB) und mit ihm einen Auftragsverarbeitungsvertrag geschlossen hat. Ein privates Konto bei ChatGPT von OpenAI oder Claude von Anthropic genügt nicht, und Namen wegzulassen ersetzt das nicht, weil die Fallschilderung die Ratsuchenden meist erkennbar lässt.
So geht es mit Gosign: Vertrag, Modelle und Preise
Warum § 203 StGB für Sie gilt
§ 203 Abs. 1 StGB nennt unter Nr. 4 Ehe-, Familien-, Erziehungs- oder Jugendberater und Berater für Suchtfragen in einer Beratungsstelle, die von einer Behörde oder einer Körperschaft, Anstalt oder Stiftung des öffentlichen Rechts anerkannt ist, und unter Nr. 5 Mitglieder und Beauftragte einer anerkannten Beratungsstelle nach den §§ 3 und 8 Abs. 1 des Schwangerschaftskonfliktgesetzes. Ein Zeugnisverweigerungsrecht aus der Beratungsarbeit haben Mitglieder und Beauftragte einer anerkannten Beratungsstelle nach den §§ 3 und 8 Abs. 1 des Schwangerschaftskonfliktgesetzes (§ 53 Abs. 1 Satz 1 Nr. 3a StPO) und Beraterinnen und Berater für Fragen der Betäubungsmittelabhängigkeit in einer Beratungsstelle, die eine Behörde oder eine Körperschaft, Anstalt oder Stiftung des öffentlichen Rechts anerkannt oder bei sich eingerichtet hat (Nr. 3b); die Alkohol- und Glücksspielberatung erfasst Nr. 3b nicht, die Erziehungs- und Eheberatung nennt § 53 StPO nicht. Damit der KI-Dienst als mitwirkende Person nach § 53a StPO in Betracht kommt, binden Sie ihn in einem Vertragsverhältnis ein. Sind Sie zugleich staatlich anerkannte Sozialarbeiterin, Berufspsychologin oder Psychotherapeutin, gilt auch die Nummer Ihres Berufs. Ein Berufsrecht, das wie bei Anwälten und Steuerberatern regelt, wie Sie einen Dienstleister einbeziehen, gibt es für Beratungsstellen nicht: Die Befugnis dazu steht in § 203 Abs. 3 Satz 2 StGB, und sie reicht so weit, wie das Offenbaren für die Inanspruchnahme des Dienstes erforderlich ist.
Die Bedingungen
- Geben Sie dem KI-Dienst nur die Angaben, die er für die Aufgabe braucht, etwa für eine Verlaufsnotiz, nicht die ganze Akte: Weiter reicht die Befugnis nicht, einem mitwirkenden Dienstleister fremde Geheimnisse zu offenbaren. Beraten Sie in der Schwangerschaftskonfliktberatung, darf die Aufzeichnung über jedes Beratungsgespräch keine Rückschlüsse auf die Identität der Schwangeren und der zum Gespräch hinzugezogenen weiteren Personen ermöglichen, und daran ändert ein KI-Werkzeug nichts. Möchte eine ratsuchende Person anonym bleiben, wie es ihr in jeder Schwangerschaftsberatung zusteht und in der Konfliktberatung auch gegenüber der beratenden Person, gehören Angaben, die sie erkennbar machen, in kein Werkzeug. (§ 203 Abs. 3 StGB, § 10 Abs. 2 SchKG, § 2 Abs. 1 SchKG, § 6 Abs. 2 SchKG)
- Sorgen Sie dafür, dass Ihre Stelle den Anbieter vor den ersten Fallnotizen zur Verschwiegenheit verpflichtet und der Anbieter seine Unterauftragnehmer dazu verpflichtet; eine Form schreibt § 203 StGB nicht vor, die Textform dient als Nachweis. (§ 203 Abs. 4 StGB)
- Ihre Stelle schließt mit dem Anbieter einen Auftragsverarbeitungsvertrag; für Angaben zu Gesundheit, Sexualleben oder religiöser Überzeugung braucht sie eine Rechtsgrundlage nach Art. 9 Abs. 2 DSGVO und prüft vor dem Einsatz, ob eine Datenschutz-Folgenabschätzung nötig ist. (Art. 28 Abs. 3 DSGVO, Art. 9 Abs. 2 DSGVO, Art. 35 Abs. 1 DSGVO)
- Nehmen Sie ein Beratungsgespräch nur auf, wenn alle Anwesenden vorher in die Aufnahme und ihre Transkription durch den Dienst eingewilligt haben: Wer das nichtöffentlich gesprochene Wort unbefugt aufnimmt oder die Aufnahme einem Dritten zugänglich macht, macht sich strafbar. (§ 201 Abs. 1 StGB)
- Haben Ihnen das Jugendamt, das Jobcenter oder ein anderer Leistungsträger Sozialdaten übermittelt, nutzen Sie sie auch im KI-Werkzeug nur zu dem Zweck, zu dem sie übermittelt wurden, und halten sie so geheim wie der Leistungsträger selbst; darauf weist Ihre Stelle Sie spätestens bei der Übermittlung hin. (§ 78 Abs. 1 SGB X, § 78 Abs. 2 SGB X)
- Erbringt Ihre Stelle in freier Trägerschaft Leistungen der Jugendhilfe, etwa Erziehungsberatung, beachten Sie die Datenschutzklauseln der Vereinbarung mit dem Jugendamt: Der öffentliche Träger muss sicherstellen, dass der Datenschutz bei Ihnen in entsprechender Weise gewährleistet ist; § 80 SGB X bindet freie Träger nicht unmittelbar. (§ 61 Abs. 3 SGB VIII)
- Ist Ihre Beratungsstelle Teil des Jugendamts oder einer anderen Stelle nach § 35 SGB I, gilt für Sozialdaten im Auftrag zusätzlich § 80 SGB X: Anzeige an die Rechts- oder Fachaufsichtsbehörde vor der Auftragserteilung, Verarbeitung im Inland, in der EU, in einem gleichgestellten Staat oder mit Angemessenheitsbeschluss, und einen privaten Anbieter nur in den Fällen von Absatz 3. (§ 80 Abs. 1 SGB X, § 35 Abs. 1 SGB I)
- Prüfen und verantworten Sie jeden Entwurf selbst, etwa den Sozialbericht für einen Reha-Antrag: Prognose und Empfehlung trifft die Fachkraft, und Ihre Stelle ergreift Maßnahmen, etwa Schulungen, damit das Team KI-Kompetenz aufbaut. (Art. 4 KI-VO)
Was Aufsichten und Verbände sagen
- Bundeskonferenz für Erziehungsberatung, Erziehungs-, Familien- und Jugendberatung im Internet, Bericht 2023 der bke-Onlineberatung, Stand Mai 2024: Künstliche Intelligenz kann in der psychosozialen Beratung zwar ergänzend, darf aber niemals ersetzend eingesetzt werden; Maschinen oder Algorithmen dürfen dort lediglich Hilfsmittel sein.
- Diakonie Württemberg, Evangelischer Fachverband Kinder, Jugend und Familie, Orientierungspapier „Künstliche Intelligenz (KI) in der Kinder- und Jugendhilfe“, Stand Januar 2026: In seiner Vorlage für eine KI-Leitlinie hält das Papier fest, dass sensible oder personenbezogene Daten nicht in KI-Systeme eingegeben werden dürfen, sofern kein Auftragsverarbeitungsvertrag besteht.
- Katholisches Datenschutzzentrum Dortmund, Jahresbericht 2025 des Diözesandatenschutzbeauftragten, Stand Oktober 2026: Die Entscheidung für den Einsatz einer KI ersetzt weder die Festlegung eines konkreten Verarbeitungszwecks noch eine datenschutzrechtliche Rechtsgrundlage.
- Datenschutzkonferenz, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0, Stand 06.05.2024: Um die Eingabe personenbezogener Daten zu vermeiden, reicht es nach der Konferenz regelmäßig nicht, Namen und Anschriften zu entfernen, weil sich der Personenbezug aus dem Zusammenhang herstellen lassen kann.
- Eine Position der Fachverbände der Ehe- und Lebensberatung, der Suchthilfe oder der Schwangerschaftsberatung zur Arbeit von Fachkräften mit KI haben wir nicht gefunden (Recherchestand 15.11.2026).
Wofür Sie KI dabei einsetzen
- Verlaufsnotizen und Akteneinträge aus Stichworten formulieren, die die Fachkraft prüft.
- Berichte an Jugendamt oder Kostenträger und den Sozialbericht für einen Reha-Antrag entwerfen.
- Elternbriefe und Infomaterial in einfacher Sprache und in mehreren Sprachen schreiben.
- Den Jahresbericht und die Statistik aus anonymisierten Fallzahlen zusammenstellen.
- Antworten in der Onlineberatung vorbereiten, die die Fachkraft prüft und selbst abschickt.
So geht es mit Gosign
Ihre Stelle nutzt über Gosign Claude von Anthropic und Gemini von Google über Google Cloud am EU-Endpunkt und offene Modelle, die Gosign selbst betreibt; das gilt für anerkannte Beratungsstellen freier Träger, für kirchliche Träger auf Anfrage, nicht für Behörden und Kommunen.
Full Zero Retention: Google Cloud speichert keine Inhalte, auch nicht zur Missbrauchsüberwachung, und Anthropic erhält sie nicht.
§ 203 unterschrieben: Google hat uns gegenüber eine Verschwiegenheitsvereinbarung nach § 203 StGB unterzeichnet; den § 203-Vertrag schließt Ihr Träger mit uns.
Bei den offenen Modellen, die Gosign selbst betreibt, ist die Kette bis zum Rechenzentrum gezeichnet.
Mit der § 203-Zusatzvereinbarung verpflichtet sich Gosign Ihrem Träger gegenüber zur Geheimhaltung; sie dient dazu, dass Sie nach § 203 Abs. 4 Satz 2 Nr. 1 StGB für die Verpflichtung Ihres Dienstleisters sorgen.
Hat Ihr Träger mehrere Stellen, führen wir jede Stelle getrennt: Im veryAI-Chatinterface gibt es je Stelle eine eigene Instanz zum Festpreis ihrer Variante, im privacyRouter eigene Schlüssel. Den Vertrag schließt Ihr Träger; die Stellen stehen in einer Anlage zum Vertrag.
Einen eigenen Vertrag mit Google führen Sie nicht. Uns liegt die schriftliche Bestätigung von Google vor, dass für das Konto, über das Ihre Daten laufen, auch für die Missbrauchsüberwachung nichts gespeichert wird, für Claude von Anthropic und Gemini von Google. Vorab lesen, ohne Formular: für den privacyRouter die § 203-Zusatzvereinbarung (Anlage 3 des Rahmenwerks, PDF) und den Auftragsverarbeitungsvertrag (Anlage 2 des Rahmenwerks, PDF), für das veryAI-Chatinterface die § 203-Zusatzvereinbarung (203er-Vertragskit, PDF) und den AVV-Baustein (203er-Vertragskit, PDF), dazu aus dem Kit das Muster der Einwilligung (PDF). Die Liste unserer Unterauftragnehmer sehen Sie vor der Unterschrift im Gespräch.
Nur Ihre E-Mail-Adresse ist Pflicht.
Behörden und Kommunen bietet Gosign heute keinen Standardweg an, denn sie vergeben solche Leistungen nach dem Vergaberecht, und ein C5-Testat hat Gosign nicht.
- Schutzstufe 5: Auch für die Missbrauchsüberwachung speichert der Anbieter nichts, kein Beschäftigter des Anbieters sichtet Inhalte. Ein US-Anbieter ist beteiligt: Der CLOUD Act gilt, herauszugeben ist fast nichts, höchstens Metadaten.
- Schutzstufe 5+: Alles aus 5, von uns betrieben, ohne US-Konzern: Der CLOUD Act greift hier nicht. Nur offene Modelle. Die Modelle der Stufe 5 laufen hier nicht.
- veryAI-Chatinterface: ab 349 € im Monat je Stelle, Token separat zum Listenpreis. Der fertige KI-Chat für alle Beschäftigten, im Erscheinungsbild Ihrer Stelle, ohne IT-Projekt.
- privacyRouter: 99 € je Schlüssel und Monat, dazu die Token zum Listenpreis ohne Aufschlag. Claude von Anthropic, Gemini von Google und offene Modelle über eine Schnittstelle für Ihre Software, mit einem § 203-Vertrag, den Gosign zeichnet.
Was zusammenkommt: Die Grundgebühr des privacyRouters zahlen Sie für die Schlüssel Ihrer eigenen Software und Ihrer Agenten. Beim veryAI-Chatinterface stecken die Schlüssel im Festpreis Ihrer Variante, eine Gebühr je Schlüssel kommt nicht dazu; bei Claude für Berufsgeheimnisträger steckt der Schlüssel jeder Person in den 99 €, eine zweite Gebühr für den Router kommt nicht dazu. Die Token zahlen Sie in jedem Produkt zum Listenpreis ohne Aufschlag. Alle Preise netto zuzüglich Umsatzsteuer.
Der Testmonat kostet die Grundgebühr oder den Preis Ihrer Variante und ist im ersten Monat kündbar; danach läuft der Vertrag zwölf Monate.
Zum Weitergeben: Vertrauliche Daten, KI und § 203 StGB: 203-Readiness-Report für Berufsgeheimnisträger (PDF)
Gosign stellt Zugang zu KI-Modellen anderer Hersteller bereit.
Zugang für meine Stelle anfragenOffene Rechtsfragen
- Wie streng die Erforderlichkeit beim KI-Einsatz zu lesen ist, ist gerichtlich nicht abschließend geklärt.
- Ob die Anerkennung einer Beratungsstelle durch eine Kirche als Körperschaft des öffentlichen Rechts für § 203 Abs. 1 Nr. 4 StGB genügt, ist offen.
- Ob Daten, die eine Drogenberatungsstelle bei einem eingebundenen KI-Dienstleister speichert, nach § 97 StPO vor der Beschlagnahme geschützt sind, ist offen.
- Ob eine Übersetzung im laufenden Gespräch durch einen KI-Dienst einer hinzugezogenen Fachkraft nach § 6 Abs. 3 SchKG gleichsteht oder ein Offenbaren gegenüber einer mitwirkenden Person ist, ist offen.