KI-Tools in der Jugendarbeit: So nutzt du sie rechtskonform

Generative Künstliche Intelligenz ist auch in diesem Jahr eines der Trendthemen im Bereich Digitalisierung und Technologie. Bestimmt haben KI-Tools wie ChatGPT & Co. auch in deinen Arbeitsalltag Einzug gehalten – du hast sie vielleicht schon einmal ausprobiert oder bist inzwischen sogar zur Power-Nutzer:in avanciert?

Im Bereich Marketing und Social Media bietet KI zahlreiche Erleichterungen: über die Erstellung von Inhalten, das Zusammenfassen von Texten oder Protokollen bis zur Kommunikation mit jungen Menschen. Doch wie bei jeder neuen Technologie birgt auch der Einsatz von KI verschiedene rechtliche Herausforderungen. Diese reichen von grundlegenden Fragen hinsichtlich der Zulässigkeit des KI-Einsatzes bis hin zu urheberrechtlichen Bedenken bezüglich von KI erstellten Bildern.

Im nachfolgenden Artikel klären wir wesentliche rechtliche Fragen im Zusammenhang mit KI, insbesondere anhand gängiger Anwendungsbeispiele wie der Erstellung von Texten oder Bildern.

Das Ziel dieses Artikels: Dir Klarheit und mehr rechtliche Sicherheit bei der Auswahl und beim täglichen Gebrauch von KI-Tools zu verschaffen.

Einsatz von KI-Tools im Arbeitsumfeld

Als Arbeitnehmer:in ist es wichtig, vor der Verwendung von KI-Tools in deinem Beruf die Zustimmung deines Arbeitgebers einzuholen.

• Dies liegt daran, dass du laut deinem Arbeitsvertrag verpflichtet bist, deine Aufgaben persönlich zu erledigen. Hierbei ist genau zu schauen, welche Art von Aufgaben du von der KI vollständig erfüllen lässt, sie also gänzlich auslagerst. Bisher erleben wir vor allem den Einsatz von KI-Tools als Inspirationsquelle oder unterstützendes Werkzeug für mehr Effizienz.
• Außerdem kann der Einsatz von KI bestimmte datenschutzrechtliche Anforderungen mit sich bringen, die sowohl für deinen Schutz als auch für die Einhaltung der Vorschriften deines Arbeitgebers relevant sind.

Erstellung von KI-Content

• Die Verwendung von KI-Tools zur Erstellung von Texten, Überschriften für Blogs, Beiträgen in sozialen Medien, Konzepten, Grafiken oder Musik ist grundsätzlich gestattet.
• Allerdings genießen nur von Menschen erstellte Inhalte Urheberrechtsschutz.
• Daher ist es wichtig, bei der Gestaltung von Logos, Flyern oder Webseiten, sei es durch dich selbst oder durch Beauftragung eine:r Designer:in, zu klären, ob KI-Tools verwendet werden. Dies stellt sicher, dass du oder deine Organisation urheberrechtlichen Schutz für die erstellten Werke beanspruchen könnt, um sie vor unberechtigter Nutzung durch Dritte zu schützen.

Urheberrecht bei KI-Werken

KI-Systeme imitieren keine fremden Werke direkt, sondern analysieren und speichern Muster, wie Farbkombinationen, Formen, Kontexte, Musiknoten und Milliarden andere Datenpunkte, die sie aus vorhandenen Werken extrahieren. Diese gesammelten Muster dienen als Basis für die von dir mit KI-Tools erstellten Inhalte.

• Das Risiko, mit KI-generierten Werken unbeabsichtigt Urheberrechtsverletzungen zu begehen, ist relativ gering. Du kannst die von der KI erzeugten Texte und Bilder mittels Rückwärtssuche auf Einzigartigkeit prüfen. Ein gewisses Risiko besteht jedoch, wenn du KI-Inhalte aus kostenlosen oder lizenzfreien Stock-Datenbanken verwendest, da nicht immer klar ist, ob diese Inhalte tatsächlich frei von Urheberrechten sind. Bei kostenpflichtigen Stock-Inhalten sichert dir hingegen eine Lizenz die rechtmäßige Nutzung zu, wodurch das Risiko entfällt.
• KI-Technologie kann auch dazu verwendet werden, bestehende Bilder, Texte oder Webseiten so zu verändern, dass das Endprodukt kein Urheberrechtsverstoß mehr ist. Diese Praxis der sogenannten „Urheberrechtswäsche“ ist generell erlaubt. Die EU gestattet das Training von KI mit fremden, urheberrechtlich geschützten Werken, außer die Rechteinhaber verbieten dies ausdrücklich, wie es manchmal bei Stock-Anbietern der Fall ist.

Verletzung von Markenrechten durch KI-Ergebnisse

Das Markenrecht schützt Namen, Logos, Symbole und andere Erkennungsmerkmale, die ein Unternehmen oder ein Produkt kennzeichnen. Der Schutz zielt darauf ab, Verwechslungen bei den Konsumenten zu vermeiden und den Ruf der Marke zu sichern. Eine Verletzung liegt dann vor, wenn eine Marke ohne Zustimmung des Markeninhabers in einer Weise verwendet wird, die Verwirrung stiftet oder das Markenimage beeinträchtigt.

• Wenn du Produktnamen, Kampagnennamen oder Logos mittels KI-Tools erstellst, solltest du vor deren Einsatz recherchieren, ob diese nicht als Marken registriert sind. Ob sich hinter dem von deinem KI-Tool erzeugten Namen eine eingetragene und damit geschützte Marke befindet kannst du hier recherchieren.

Nutzung von Personenabbildungen in KI-Werken

In vielen Ländern, insbesondere in Europa (z.B. gemäß der DSGVO und dem Kunsturhebergesetz in Deutschland), genießt jede Person das sogenannte Recht am eigenen Bild. Das bedeutet, dass Bilder von Personen nur mit deren Einwilligung veröffentlicht oder verwendet werden dürfen. Dieses Recht umfasst sowohl Fotografien als auch Darstellungen, die erkennbar das Bild einer Person wiedergeben.

• Abbildungen von fiktiven Menschen, die mittels KI erstellt wurden, fallen in der Regel nicht unter den Urheberrechtsschutz.
• Jedoch besteht die Möglichkeit, dass sich eine reale Person in einer solchen Darstellung wiedererkennt und aufgrund einer Verletzung der Datenschutz-Grundverordnung (DSGVO) und des Rechts am eigenen Bild Schadensersatzansprüche geltend macht.
• Daher ist es ratsam KI-generierte Abbildungen in Bereichen einzusetzen, wo im Falle eines Schadensersatzanspruchs die finanziellen Auswirkungen begrenzt wären, wie beispielsweise in sozialen Medien. Eine Alternative bieten kostenpflichtige KI-Stockbilder, die mit einer Nutzungslizenz versehen sind.

Einsatz von virtuellen Influencer:innen

Die Verwendung von virtuellen Influencer:innen ist grundsätzlich gestattet. 

• Es ist jedoch wichtig, darauf zu achten, dass sie keine Ähnlichkeit mit realen Personen aufweisen, um Abmahnrisiken zu vermeiden.
• Außerdem ist es ratsam, solche virtuellen Influencer deutlich zu kennzeichnen, um der Gefahr einer abmahnfähigen Irreführung vorzubeugen.
• Beachte dabei auch die rechtlichen Entwicklungen: Eine gesetzliche Kennzeichnungspflicht für Deepfakes ist vorgesehen, die mit dem EU AI Act im Jahr 2025 in Kraft treten soll.

Haftung für KI-Fehler

Die Haftung für Fehler, die durch Künstliche Intelligenz verursacht werden, sind ein komplexes rechtliches Thema, welches von verschiedenen Faktoren abhängt, einschließlich der Art des Fehlers, der spezifischen Nutzung der KI und der bestehenden rechtlichen Rahmenbedingungen. Und es besteht die Möglichkeit, dass KI-Tools unzutreffende Ergebnisse liefern.

• Sollten dadurch Schäden entstehen, beispielsweise finanzielle Verluste eines Fördermittelgebers, der sich auf eine fehlerhafte Datenauswertung durch die KI verlässt, liegt die Haftung für diese Fehler bei dir oder deinem Arbeitgeber.
• Die Hersteller von KI-Software schließen in der Regel in ihren Allgemeinen Geschäftsbedingungen (AGB) jede Haftung für Fehler, die durch die KI entstehen, aus. Daher kannst du in solchen Fällen keine Kostenerstattung vonseiten der Anbieter erwarten.

KI und Datenschutz

Eine KI kann für Aufgaben wie das Beantworten von E-Mails, Überprüfen von Verträgen oder das Verfassen von Protokollen genutzt werden. Dabei besteht jedoch die Möglichkeit, dass personenbezogene Daten wie Namen oder E-Mail-Adressen sowie Geschäftsgeheimnisse, etwa Vertragsdetails, verarbeitet werden. Bei der Nutzung externer KI-Dienstleister könnte dies einen Verstoß gegen Datenschutzbestimmungen und den Schutz von Geschäftsgeheimnissen darstellen.

• Der Einsatz von KI-Tools sollte daher nicht ohne vorangehende rechtliche Überprüfung geschehen.
• Zusätzlich ist es erforderlich, die Vorgaben der DSGVO, des KDG und des DSG-EKD einzuhalten, insbesondere bezüglich der Dokumentation der Verarbeitungsprozesse und der Information der Betroffenen in der Datenschutzerklärung.

Diese KI-Tools werden von Anbietern mit Sitz in der EU angeboten

Wenn du oder deine Datenschutzabteilung darauf bestehen, nur mit KI-Tools zu arbeiten, deren Anbieter ihren Sitz in der EU haben, können wir dir folgende Tools empfehlen:

• DeepL – Vor allem stark bei der Übersetzung fremdsprachiger Texte. Hat aber auch einen KI-Schreibassistenten integriert. Anbieter sitzt in Deutschland.
• neuroflash – Unterstützt dich bei der Ideenfindung und Erstellung von Texten und Inhalten für Social Media, deine Webseite oder den Newsletter eurer Einrichtung. Anbieter sitzt in Deutschland.
• Daily Storytelling – Fokussiert auf die Texterstellung. Bietet einen sehr einfachen Einstieg dank einer aufgeräumten Benutzeroberfläche. Ausserdem bekommst du jeden Tag inspirierende Texte per Newsletter, die du weiterverarbeiten kannst. Anbieter sitzt in Deutschland
• Mistral – Hier kannst du nicht nur deren KI-Assistenten nutzen, sondern auch die zugrundeliegenden Sprachmodelle auf Open-Source-Basis verwenden, selbst trainieren und eigenständig betreiben. Ist vor allem für Nutzer mit speziellen Anwendungsfällen geeignet. Anbieter sitzt in Frankreich.
• Nomic GPT4All - Ein lokales Sprachmodell, das ohne Internetverbindung auf handelsüblicher Hardware läuft und die Privatsphäre schützt. Deine Daten beiben auf deinem Gerät und müssen nicht über das Internet gesendet werden, was die Sicherheit und Vertraulichkeit der Daten gewährleistet.
• Noahworks KI-Creator – Der KI-Assistent für die Jugendarbeit. Wir haben für dich eine Sammlung verschiedener Promptvorlagen gebaut, die sich auf deine Anwendungsfälle beziehen – sei es die Verwaltung deiner Jugendbildungsstätte oder das Schreiben von Fördermittelanträgen für das nächste Sommerferienprojekt. Wir nutzen die API von OpenAI, übertragen jedoch nur die Daten an ChatGPT, die du in unserer Promptmaske eingibst. Unser KI-Creator wird auf Servern in Deutschland betrieben.

Bevor ihr auf die Tools stürzt, sprecht trotzdem vorab mit eurem Datenschutz und/oder der IT-Abteilung.

Europäische Rechtslage: Auch die EU greift regulatorisch ein

Am 9. Dezember 2023 einigten sich die Unterhändler des EU-Parlaments und der Kommission in Brüssel auf einen Kompromiss für die geplante EU-Verordnung für Systeme Künstlicher Intelligenz – auch EU AI Act genannt.

Die Einigung lässt sich wie folgt zusammenfassen:

1. Einigung auf KI-Regeln: Die EU hat eine umfassende Verordnung für Künstliche Intelligenz beschlossen, die den Einsatz biometrischer Überwachung und automatisierter Gesichtserkennung, insbesondere im Bereich der Strafverfolgung, reguliert.

2. Regulierung großer KI-Modelle: Es wurden spezifische Anforderungen für große KI-Modelle wie GPT und LaMDA festgelegt - einschließlich Transparenz, Risikobewertung und Maßnahmen zur Minderung möglicher Gefahren. Die großen KI-Unternehmen, die hinter den Modellen stehen (bspw. OpenAI mit ChatGPT (GPT-4) und DALL·E 3), müssen mögliche Risiken für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit unter Einbeziehung unabhängiger Experten prüfen und gegebenenfalls abmildern.

3. Risikobasierter Ansatz und Verbot gefährlicher Praktiken: Die Verordnung folgt einem risikobasierten Ansatz, verbietet gefährliche KI-Anwendungen wie Social Scoring und Emotionserkennung am Arbeitsplatz und setzt strenge Kriterien für den Markteintritt hochriskanter KI-Systeme fest.

Kennzeichnungspflicht für Deepfakes

„Deepfakes“ sind KI-generierte oder manipulierte Inhalte in Bild, Ton oder Video, die täuschend echt wirken. Laut Gesetz musst du die Nutzung solcher Inhalte immer offenlegen. Dabei gilt:

1. Kennzeichnungspflicht für Deepfakes
   • Inhalte wie KI-generierte oder manipulierte Bilder, Videos oder Audios müssen als „KI-Erzeugnis“ gekennzeichnet werden (z. B. durch Wasserzeichen).
   • Die Absicht, jemanden zu täuschen, spielt keine Rolle. Auch zu Marketingzwecken genutzte Deepfakes müssen gekennzeichnet werden.
   • Verstöße können ab 02. August 2026 mit Bußgeldern von bis zu 3,5 % des Umsatzes geahndet werden.
2. Strafrechtliche Kennzeichnungspflicht
   • Wenn ein Deepfake geeignet ist, eine Person in der Öffentlichkeit zu schädigen, kann dies als Verleumdung geahndet werden (§ 188 StGB).
   • Insbesondere bei Abbildungen von Prominenten solltest du stets eine klare Kennzeichnung vornehmen.
3. Kennzeichnung von KI-Diensten und synthetischen Inhalten
   • Wenn du KI-Dienste wie Apps anbietest, die Texte oder Bilder erzeugen, müssen diese Inhalte z. B. in den Metadaten als KI-Erzeugnisse gekennzeichnet werden (§ 50 Abs. 2 KI-VO).
   • Diese Pflicht gilt ab dem 02. August 2026.
4. Kennzeichnung von KI-generierten Nachrichtentexten
   • Medien müssen KI-generierte oder manipulierte Texte zur öffentlichen Information kennzeichnen.
   • Eine Ausnahme gilt, wenn die Inhalte nachweislich von Menschen geprüft wurden (§ 50 Abs. 5 KI-VO).
5. Kennzeichnungspflichten sozialer Plattformen
   • Plattformen wie Instagram fordern oft strengere Kennzeichnungen von KI-Inhalten, die sie teilweise über Metadaten eigenständig umsetzen.
6. Kennzeichnung virtueller Influencer
   • Virtuelle Influencer, die Produkte bewerben, müssen sowohl als Werbung als auch als KI-Erzeugnisse erkennbar sein, da nur Menschen Produkte tatsächlich testen können.
7. Kodizes und Branchenregelwerke
   • Verbände oder Zusammenschlüsse (z. B. der Deutsche Presserat) können eigene Richtlinien für die Kennzeichnung von KI-Inhalten aufstellen, deren Nichteinhaltung zu Sanktionen führen kann.
8. Kennzeichnung von KI-Personenabbildungen
   • Wenn eine KI zufällig eine real existierende Person nachbildet, schützt eine deutliche Kennzeichnung vor rechtlichen Problemen wie Persönlichkeitsrechtsverletzungen.
9. Zusammenfassung und Praxistipp
   • Schon vor Inkrafttreten der gesetzlichen Regelungen im August 2026 solltest du KI-Inhalte freiwillig kennzeichnen, um Verbrauchertäuschung, rechtliche Risiken und mögliche Strafbarkeit zu vermeiden.
   • Plattformen und Netzwerke könnten bald flächendeckend eigene Kennzeichnungspflichten umsetzen.

Welche Auswirkungen der EU AI Act auf deine Arbeit mit KI-Tools hat.

Anbieter großer KI-Basismodelle müssen zukünftig eine Zusammenfassung der von ihnen verwendeten Trainingsdaten öffentlich machen. Dadurch kann im besten Fall mehr Klarheit darüber entstehen, ob und in welcher Form KI-Modelle einen "Bias" haben, also vorurteilsbehaftet trainiert wurden.

Weiterhin dürfen KI-Systeme, die als hochriskant eingestuft werden, nur dann auf dem EU-Markt eingeführt werden, wenn sie bestimmte obligatorische Anforderungen erfüllen. Dies könnte beispielsweise für KI-gestützte Suchmaschinen, wie ChatGPT oder Google Bard relevant sein. Es soll sichergestellt werden, dass du als Nutzer:in in die Lage versetzt wirst, solche Verfahren nachzuvollziehen und zu steuern. Hochrisiko-KI-Systeme müssen zudem mit einer Dokumentation und einer Art Gebrauchsanleitung ausgestattet sein.

Die beiden genannten Maßnahmen können dir also die Möglichkeit geben, besser nachvollziehen zu können, ob du mit einem bestimmen KI-Tool arbeiten möchtest oder nicht, weil es beispielsweise deine oder die ethisch-moralischen Prinzipien deiner Organisation verletzen könnte.

Fazit

Der Einsatz von KI-Tools findet nicht im rechtsfreien Raum statt – und das ist gut so. Viele rechtliche Rahmenbedingungen sind momentan noch in der Entstehung (siehe EU AI Act), was bei technologischen Innovationen nicht ungewöhnlich ist. Dennoch ist beim Einsatz von KI auch jetzt bereits geltendes Recht anzuwenden: Datenschutz, Persönlichkeitsrechte, Urheberrecht und auch das Arbeitsrecht sind zu beachten, wenn du den Einsatz von KI-Tools im beruflichen Kontext planst.

Unsicherheit oder gar Scheu beim Einsatz von KI-Tools finden wir nichtsdestotrotz unangebracht, denn eins ist klar: KI wird unser Leben in Zukunft immer stärker beeinflussen, sodass du gut beraten bist, dich zumindest grundlegend damit auseinanderzusetzen.

Mit unseren Hinweisen und der Checkliste kannst du dir Routinen bauen, die dir Sicherheit beim Verwenden von KI-Tools bieten.

Wenn du mehr über den effizienten und praktischen Einsatz von ChatGPT in der kirchlichen Jugendarbeit erfahren möchtest, empfehlen wir dir unser Webinar abzurufen oder einfach mal das persönliche Gespräch mit uns zu suchen und in den persönlichen Erfahrungsaustausch zu treten.

Wir wünschen dir viel Freude und Erfolg mit dieser Arbeitshilfe.