Logo Universit?t Bremen, zurück zur Startseite

Suche

Platzhalter: Sternchen (*)
Digitale Transformation

GenKI@UHB

Ziel

Die Universit?t Bremen m?chte die M?glichkeiten generativer KI nutzen, um Forschung, Studium und Lehre sowie Verwaltung zu unterstützen. Generative KI-Modelle durchdringen alle Lebens- und Arbeitsbereiche, aber ihre Nutzung birgt auch Risiken, wie die rechtswidrige Verarbeitung personenbezogener Daten und Verletzungen des Urheberrechts.

Ziel ist der Aufbau von KI-Kompetenz und die Erprobung dieser Technologie. Dazu schaffen wir einen datenschutzkonformen Zugang für alle Mitarbeitenden.

Eine Handreichung und Checkliste zur Nutzung von Chat-AI in der Academic Cloud der GWDG an der Universit?t Bremen finden Sie unten oder als pdf hier: 

Handreichung genKI

Checkliste genKI

Projektinformationen

 

Projektteam

genKI@uni-bremen.de

Christina Gloerfeld (stellv. CDO)
Martina Salm (ZMML)
Franziska Richter (Ref. 13)

 

F?rderung

GenKI@UHB wird aus Digitalisierungsmitteln des Landes gef?rdert.

 

Projektlaufzeit

01 Juli 2024 - 31. Dezember 2025

Projektumsetzung

Die Umsetzung erfolgt  über das akademische Serviceportal des Landes Niedersachsen (Academic Cloud) der GWDG (Gesellschaft für wissenschaftliche Datenverarbeitung mbH). Der Zugang über das Serviceportal erm?glicht einen datenschutzkonformen Zugriff sowie die Erprobung verschiedener LLMs (Large Language Modelle) - unter anderem verschiedene ChatGPT-Modelle

Hier geht es zu den ChatAI-Diensten in der Academic Cloud: academiccloud.de/de/services/chatai/

W?hrend des Projektes werden mit einer Fokusgruppe, bestehend aus Mitarbeitenden aller Bereiche, Bedarfe und Anforderungen der Nutzenden erhoben sowie begleitende Ma?nahmen erprobt. Melden Sie sich gerne, wenn Sie Interesse an einer Teilnahme haben: GenKI@uni-bremen.de

 

Begleitung und Unterstützung

Um einen kompetenten Umgang mit generativer KI zu f?rdern, werden Ma?nahmen wie Aufkl?rung und Schulung mit Informationsmaterial, Tutorials und Videos, Workshopangebote und einen kontinuierlichen Support umgesetzt. Das Angebot richtet sich an alle Mitarbeitenden der Universit?t und wird gemeinsam vom Referat 13, dem ZMML, dem Team CDO sowie der Personalentwicklung begleitet. Alle Ma?nahmen bauen auf den Grundlagenschulungen im Bereich Datenschutz und Informationssicherheit auf sowie auf den bisherigen Angeboten zum Thema.

Einen verbindlichen Rahmen für den Einsatz und die Nutzung generativer KI m?chten wir mit einer neuen Leitlinie zur Nutzung generativer KI an der Universit?t schaffen, die zwischen der Hochschulleitung, der Rechtsstelle, dem Personalrat und dem Team CDO abgestimmt wurde:

 

 

Kurse und 澳门皇冠_皇冠足球比分-劲爆体育

Zum Thema Einsatz und Nutzung generativer KI in Studium und Lehre, aber auch in Forschung und Verwaltung finden Sie verschiedenen Informations -und Bildungsangebote. Diese reichen von der Formulierung konkreter Prompts über rechtliche Fragen bis zur Darstellung von Anwendungsszenarien.

Melden Sie sich gerne, wenn Ihnen ein bestimmtes Thema fehlt.

Handreichung zur Nutzung von Chat-AI in der Academic Cloud der GWDG an der Universit?t Bremen

Verabschiedet vom Rektorat am 12.08.2025

Die Universit?t Bremen bietet ab sofort einen sicheren Zugang zu generativen KI-Diensten (GenKI) über die Academic Cloud der GWDG. Nach einem einj?hrigen Testlauf steht dieser Dienst nun universit?tsweit für alle Angeh?rigen zur Verfügung. Um sicherzustellen, dass Sie diese Ressourcen bestm?glich nutzen k?nnen, wurde nachfolgende Handreichung erstellt, welche die wichtigsten Informationen und Richtlinien für die Nutzung der GenKI-Dienste enth?lt. Bitte lesen Sie diese sorgf?ltig durch, sie bildet die Voraussetzungen für die gestattete Nutzung der Dienste.

 

 

Die Universit?t Bremen erm?glicht über die Academic Cloud der GWDG (Gesellschaft für wissenschaftliche Datenverarbeitung mbH), einer gemeinsamen Einrichtung der Georg-August-Universit?t G?ttingen und der Max-Planck-Gesellschaft (www.gwdg.de), einen datenschutzkonformen Zugang zu verschiedenen Modellen generativer KI (genKI). Diese genKI-Services hei?en ChatAI. Die Nutzung ist freiwillig. Der Zugriff (Login) erfolgt mit den Anmeldedaten des Accounts der Universit?t Bremen über ein Webinterface (?f?derierte Anmeldung“). https://academiccloud.de/services/chatai/

Darüber k?nnen verschiedene OpenSource Modelle, die selbst gehostet sind (intern), und auch kommerzielle Modelle (extern gehostet), wie ChatGPT von OpenAI, genutzt werden.

Die Vorteile sind:

  • Die GWDG verarbeitet alle Daten gem?? der DSGVO
  • Es wurde ein Vertrag zum Schutz der Nutzer:innendaten mit der GWDG abgeschlossen. Für die Anmeldung werden von der GWDG nur die Daten zur Prüfung der Authentifizierung und Autorisierung verarbeitet – dies ist vertraglich abgesichert
  • Auch bei extern gehosteten Tools ist keine Weitergabe von personenbezogenen Daten der Nutzer:innen von der GWDG an die externen Dienstleister  erforderlich (Hinweis: Inhalte der Eingaben (Prompts) müssen aber ungefiltert weitergegeben werden)
  • Die eingegebenen Daten werden nicht zum Training der KI-Modelle genutzt
  • Die Eingaben werden nicht auf den Servern der GWDG gespeichert, sondern nur lokal im genutzten Browser. Beim externen Modell (ChatGPT) beh?lt sich Microsoft aber vor die Daten bis zu 30 Tage zu speichern, um Missbrauch vorzubeugen.

Die sichere Bereitstellung der KI-basierten Systeme durch die Universit?t Bremen über die GWDG entbindet nicht von der eigenen Verantwortung für die Eingabe von Inhalten, die kritische ?berprüfung von Ergebnissen und ihrer Verwendung.

Die Nutzung externer generativer KI-basierter Systeme (au?erhalb von Chat-AI der GWDG) wird nicht empfohlen, eine Ausnahme k?nnen Forschungsprojekte bilden. Die Freie Hansestadt Bremen bereitet derzeit die Einführung eines verwaltungs-spezifischen KI-basierten Systems vor (LLMoin), das auch den Verwaltungsmitarbeiter:innen der Universit?t Bremen zur Verfügung gestellt werden soll.

Diese Handreichung wird laufend aktualisiert, um den sich ver?ndernden technischen, rechtlichen und ethischen Anforderungen Rechnung zu tragen.

Reflektierter Einsatz

Nutzen Sie generative KI stets überlegt: Was sind ihre Ziele und welche Ergebnisse erwarten Sie? Kennen Sie die Funktionsweise, die St?rken und Schw?chen des genutzten Modells?  Wissen Sie was Sie eingeben und wie Sie Ausgaben nutzen dürfen?

Prüfen und verifizieren Sie die Ausgaben immer mit Prim?r- und Fachquellen oder Rücksprache mit Expert:innen.

Kritisches Hinterfragen

Geben Sie keine Texte oder Ergebnisse ungeprüft weiter, übernehmen Sie Verantwortung für die Weiterverwendung und bewerten Sie die Ausgabe sorgf?ltig. Sind die Informationen plausibel, richtig und ethisch vertretbar? Liegen m?glicherweise Verzerrungen und Diskriminierungen vor?

Datenschutz

Geben Sie keine personenbezogenen Daten in die genKI-Systeme ein (Ausnahme: vorliegende Rechtsgrundlage oder Einwilligung). Prüfen Sie, ob Ausgaben personenbezogene Daten beinhalten, die nicht weitergegeben werden dürfen.

Informationssicherheit

Geben sie keine vertraulichen Daten in KI-Systeme ein. Beachten Sie die Klassifizierung und Sensibilit?t Ihrer Informationen.

Urheberrecht

Achten Sie darauf, keine urheberrechtlich geschützten Inhalte einzugeben oder zu ver?ffentlichen. Prüfen Sie die Ausgaben, ob Verletzungen des Urheberrechts vorliegen und wer Rechte an KI-generierten Inhalten hat. Im Zweifelsfalle ver?ffentlichen sie keine KI-generierten Inhalte.

Ethische Aspekte

Hinterfragen Sie Ergebnisse auf m?gliche Verzerrungen oder Fehldarstellungen; Kennzeichnen Sie Inhalte, die mit KI generiert wurden und dokumentieren Sie ggfs. den Einsatz nachvollziehbar.

Verbotene Anwendungsf?lle

Generative KI darf nicht eingesetzt werden zur Erstellung von Profilen, zur automatisierten Benotung, Erstellung von Gutachten, Plagiaten oder irreführender/intransparenter Informationen

Nutzen Sie zur Unterstützung diese Checkliste zum rechtskonformen Umgang mit generativen KI-Diensten  

Checkliste genKI

Generative Künstliche Intelligenz (KI) 

KI-Anwendungen, die auf Basis trainierter Daten aus einer Eingabe (Prompt) automatisch Inhalte wie Texte, Bilder, T?ne, Videos oder Programmcode erzeugen.

Large Language Models (LLMs)

Textgenerierende Systeme (z. B. ChatGPT, Llama, Gemini, Claude), die mit gro?en Datenmengen trainiert werden. Sie verstehen Inhalte nicht inhaltlich, sondern berechnen die statistisch wahrscheinlichste n?chste Zeichen- oder Wortfolge. Fehlerhafte, erfundene oder inhaltlich falsche Ausgaben (?Halluzinationen“) sind m?glich.

Halluzinationen

Die KI gibt überzeugend formulierte, aber inhaltlich falsche Informationen aus. Inhalt und Argumentation wirken stimmig, sind jedoch vom KI-System frei erfunden.

Bias / Verzerrungen

Vorurteile oder Fehldarstellungen in den Trainingsdaten oder Modellen k?nnen sich auf die Ausgaben der KI übertragen und zu Diskriminierung (z. B. Ungleichbehandlung von Personengruppen) führen.

Checkliste zum Umgang mit Generativen KI-Diensten

Bei der Nutzung von generativen KI-Diensten wie dem Angebot ChatAI der GWDG (das unter anderem ChatGPT enth?lt) entstehen unweigerlich rechtliche Frage?stellungen. Dabei ist wichtig zu bedenken, dass für eine Vielzahl rechtlicher Herausforderungen beim Umgang mit KI-Diensten noch keine umfassenden Rechtskl?rungen existieren.

Dieses Dokument gibt einen ?berblick rechtlicher Anforderungen. Es stellt keine Rechtsberatung dar und ersetzt nicht die Einholung eines Rechtsrates im Einzel?fall. Alle Angaben erfolgen nach sorgf?ltiger Prüfung, jedoch ohne Gew?hr für die Richtigkeit, Vollst?ndigkeit und Aktualit?t.

Für pers?nliche Beratung stehen Ihnen die Mitarbeiterinnen und Mitarbeiter der zust?ndigen Fachabteilungen zur Verfügung:

  • Unterstützung bei allgemeinen rechtlichen Fragen oder Unsicherheiten finden Sie in der Rechtsabteilung, im Referat 13 und im ZMML.
  • Für Fragen des Datenschutzes kontaktieren Sie gerne die/den Datenschutzbe?auftragte/n der Hochschule.
 

 

 
  • Ich habe die Nutzungsbedingungen des KI-Diensts sorgf?ltig gelesen und für meine Nutzung beachtet.
 
 
  • Ich nutze den KI-Dienst über die f?derierte Anmeldung der Academic Cloud, die von der GDWG für Hochschulen bereitgestellt wird. Dadurch ist eine sichere Authentifizierung und verschlüsselte Datenübertragung gew?hrleistet.
 
 
  • Ich habe geprüft, ob ich urheberrechtlich geschütztes Material als Input für den KI-Dienst verwenden m?chte. Dies gilt z.B. für die Eingabe von Abbildungen, Text?kopien und Prüfungsleistungen.
 
 
  • Wenn ja, habe ich dessen rechtm??ige Verwendung abgesichert, z.B. durch Einholen der Zustimmung der Urheber:in, und dies schriftlich dokumentiert.
 
 
  • Als Input habe ich keinepersonenbezogenen Daten Dritter gem. Art. 4 Abs. 1 DS-GVO verwendet (Ausnahme: Ich habe eine Rechtsgrundlage für die Verarbeitung der personenbezogenen Daten in dem KI-Dienst wie bspw. eine Einwilligung der betroffenen Person in die Verarbeitung ihrer Daten in dem KI-Dienst).
    Hierzu z?hlen bspw. Klarnamen, eine personalisierte E-Mail-Adresse, eine vollst?n?dige postalische Anschrift oder Foto- oder Videoaufnahmen, auf denen Personen erkennbar sind.
 
 
  • Als Input habe ich keinebesonders sensiblen personenbezogenen Daten Dritter gem. Art. 9 Abs. 1 DS-GVO verwendet (Ausnahme: Ich habe eine Rechtsgrundlage für die Verarbeitung der besonders sensiblen personenbezogenen Daten in dem KI-Dienst wie bspw. eine Einwilligung der betroffenen Person in die Verarbeitung ihrer Daten in dem KI-Dienst).
    Hierzu z?hlen personenbezogene Angaben zur ethnischen Herkunft, politische Meinun?gen, religi?se oder weltanschauliche ?berzeugungen oder die Gewerkschaftszugeh?rigkeit sowie die Verarbeitung von genetischen oder biometrischen Daten zur eindeutigen Identifizierung einer natürlichen Person, Gesundheitsdaten oder Daten zum Sexualleben oder der sexuellen Orientierung einer natürlichen Person.
 
 
  • Wenn bei meiner Arbeit mit dem KI-Dienst personenbezogene Daten Dritter vorkommen, habe ich sie vor der Verwendung als Input anonymisiert, damit kein Rückschluss auf die Person m?glich ist oder ich habe eine Rechtsgrundlage für die Verarbeitung der personenbezogenen Daten in dem KI-Dienst (z.B. eine Einwilligung der betroffenen Person in die Verarbeitung ihrer Daten in dem KI-Dienst).
 
 
  • Wenn KI-Dienste meine Entscheidungen oder Bewertungen zu einer natürlichen Person unterstützen, habe ich nachvollziehbar dokumentiert, dass die Entscheidung prim?r auf einer menschlichen Urteilsfindung beruht und dass es sich damit nicht um eine automatisierte Entscheidung im Einzelfall gem. Art. 22 Abs. 2 DS-GVO handelt.
 
 
  • Ich habe bei der Verfassung des Inputs geltende vertragliche Vereinbarungen, gesetzliche Bestimmungen und Hochschul-interne Richtlinien nach bestem Wissen und Gewissen eingehalten. Insbesondere sind dies Vereinbarungen zur Vertraulichkeit, der Wahrung von Dienstgeheimnissen oder gesetzliche Vorgaben.
 
 
  • Ich habe keine Materialien aus vertraulichen Quellen als Input verwendet.
 
 
  • Ich nehme auf Basis der Antworten des KI-Dienstes keine automatisierten Entscheidungen zu einer natürlichen Person gem?? Art. 22 Abs. 1 DS-GVO vor, die gegenüber der betroffenen Person rechtliche Wirkung entfalten oder sie in ?hnlicher Weise erheblich beeintr?chtigen, etwa im Fall von arbeits- und personalrechtlichen Entscheidungen. Dazu habe ich sichergestellt, dass die Letztentscheidungskompetenz bei einer natürlichen Person liegt, z.B. bei mir selbst.
 
 
  • Wenn ich den Output des KI-Dienstes verbreiten oder ver?ffentlichen m?chte, habe ich diesen auf urheberrechtlich geschützte Inhalte geprüft, die z.B. entstehen k?nnen, wenn die KI zuf?llige ?hnlichkeiten zu bestehenden Werken produziert. Dafür habe ich die rechtlichen Empfehlungen für die Nutzung von KI in der Lehre meiner Hochschule beachtet.
 
 
  • Wenn ich den Output des KI-Diensts verbreiten oder ver?ffentlichen m?chte, habe ich ihn nach wissenschaftlichen Grunds?tzen geprüft, u.a. auf fachliche Richtigkeit. Dazu habe ich die Verfahren und Leitlinien zur Sicherung guter wissenschaftlicher Praxis meiner Hochschule beachtet.
 
 
  • Sie kopieren urheberrechtlich geschützte Werke wie z.B. Fotografien oder Zeitungsartikel als Input in einen KI-Dienst ein. Diese Verwendung ist nicht zul?ssig, solange keine Zustimmung der Rechteinhaber vorliegt.
 
 
  • Sie verwenden ohne Rechtsgrundlage wie bspw. eine Einwilligung der betroffenen Person personenbezogene oder besonders sensible personenbezogene Daten Dritter als Teil eines Inputs (wie z.B. Klarnamen, eine personalisierte E-Mail-Adresse, eine vollst?ndige postalische Anschrift, Foto- oder Videoaufnahmen auf denen natürliche Personen erkennbar sind oder personenbezogene Angaben zur ethnischen Herkunft oder mit biometrischen oder medizinischen Daten o. ?.). Diese Verwendung ist nicht zul?ssig. Personenbezogene Daten sind zu anonymisieren (= die Zuordnungsm?glichkeit der Daten zu der betroffenen Person ist zu entfernen).
 
 
  • Sie kopieren Bewerbungsunterlagen, pers?nliche Anschreiben, Lebensl?ufe oder andere sensible Unterlagen dritter Personen in nicht-anonymisierter Form als Teil eines Inputs in den KI-Dienst ein. Diese Verwendung ist nicht zul?ssig.
 
 
  • Sie kopieren nicht-?ffentliche Schriftstücke wie z.B. Angebotsabgaben, Selbstauskünfte oder Gesch?ftsberichte als Input in einen KI-Dienst ein. Diese Verwendung ist ohne Zustimmung der Betroffenen nicht zul?ssig.
 
 
  • Sie kopieren ohne datenschutzrechtliche Rechtsgrundlage Prüfungsleistungen von Studierenden oder Auszubildenden wie z.B. schriftliche Klausurl?sungen oder Zeichnungen als Input in einen KI-Dienst ein, um Sie bei der Korrektur zu unterstützen. Diese Verwendung ist nicht zul?ssig.
 
 
  • Sie verwenden vertrauliche Materialien wie Gremienprotokolle aus geschlossenen Sitzungen, nicht-?ffentliche Forschungsergebnisse oder Verschlusssachen als Teil eines Inputs. Diese Verwendung ist nicht zul?ssig.
 
 
  • Sie führen eine automatische Bewertung von Unterlagen mithilfe von KI-Diensten durch, die beeintr?chtigende Wirkungen für die betroffenen Personen entfaltet und bei der Sie das Ergebnis aus dem KI-Dienst ohne umfassende menschliche Bewertung übernehmen. Diese Verwendung ist nicht zul?ssig.
 
Aktualisiert von: Mirjana Etteldorf
RSS
Seite drucken