KI in der Lehre: Rechtliche Empfehlungen

Rechtskonforme Verwendung von Quellen: Stellen Sie sicher, dass Sie die entsprechenden Rechte oder Lizenzen zur Nutzung des betreffenden Inhalts haben, bevor sie diesen als Input in den KI-Dienst eingeben.

Einhaltung von Nutzungsbedingungen: Stellen Sie sicher, dass Sie die Nutzungsbedingungen des Anbieters des jeweiligen KI-Dienstes verstehen und einhalten. Bei GPT sind dies insbesondere die Nutzungsbedingungen für den Dienst.

Beachtung der Grunds?tze guter Wissenschaftlicher Praxis: Bevor Sie Inhalte, die von einem generativen KI-Dienst erstellt wurden, ver?ffentlichen oder in gro?em Umfang verwenden, stellen Sie sicher, dass Sie die Grunds?tze guter Wissenschaftlicher Praxis der Hochschule beachtet haben.

Das Gesetz über Urheberrecht (UrhG) gilt,

• Output eines KI-Dienstes muss ein Werk sein,
• Werke sind im Sinne des § 2 Abs. 2 UrhG pers?nliche geistige Sch?pfungen
• Entstehen durch menschliches Schaffen - KI-Dienste sind keine Menschen
• deutsche Urheberrecht greift für durch KI-Dienste generierte Outputs zun?chst nicht.

ACHTUNG! Sorgfalt bei

• Eingabe von urheberrechtlich geschütztem Material (Prompts)
• Direkte Kopien bestehender Werke
• Zuf?lligen ?hnlichkeiten
• Urheberschaft durch die Nutzenden selbst

• Prüfungsleistungen müssen grunds?tzlich selbst?ndig und ohne unzul?ssige fremde Hilfe erbracht werden
• eigenst?ndige Leistung ist wesentliches Merkmal einer Prüfungsleistung

• Schriftliche Prüfungsleistungen ohne Aufsicht bedürfen der Eigenst?ndigkeitserkl?rung
• ?berwachte Klausurleistungen
• Mündliche Prüfungen

• unter Aufsicht in den R?umen der Hochschule sehr gut kontrollierbar
• Prüfungsdurchführung und T?uschungskontrolle
• bei Prüfungen ohne Aufsicht ist eine T?uschungskontrolle schwierig bis hin zu unm?glich.

• Technische Systeme zur automatisierten Erkennung KI-generierter Texte werden als ?KI-Detektoren“ bezeichnet.
• Nach aktuellem Stand der Forschung existieren aktuell keine hinreichend zuverl?ssigen technischen Werkzeuge zur Erkennung KI-generierter Texte
• empirische Untersuchung zur Leistungsf?higkeit von KI-Detektoren: Weber-Wulff et al. 2023 ?Testing of detection tools for AI-generated text“ https://doi.org/10.1007/s40979-023-00146-z

• Derzeit fehlen sowohl Sachverhalte als auch geltende Rechtsprechung 
• Generell: unzul?ssiger Einsatz von KI-Diensten ist ein T?uschungsversuch
• Wenn nicht beobachtet, dann T?uschungsverdacht
• Eine Kombination 澳门皇冠_皇冠足球比分-劲爆体育erer Aspekte kann den T?uschungsverdacht untermauern

Für das Führen des Nachweises einer T?uschungshandlung wird auf den Prozess T?uschungsversuch verwiesen.

M?gliche Verdachtsmomente:

• Nicht-existente Quellenangaben oder erfundene Zitate.
• Klare Bezüge in der Arbeit, die einen KI-Dienst als Ersteller ausweisen und offensichtlich per copy-paste in die Arbeit aufgenommen wurden.
• Stilbrüche, Stilwechsel oder erhebliche Unterschiede bei der sprachlichen oder inhaltlichen Qualit?t innerhalb einer Arbeit.
• Erhebliche Unterschiede bei der sprachlichen oder inhaltlichen Qualit?t im Vergleich zu anderen Arbeiten derselben Studierenden.
• Ungew?hnlich umfangreiche Textproduktion innerhalb kurzer Zeit.

• Aktuell gibt es keine einheitlichen Vorgaben dazu, wie die Nutzung von KI-Diensten als zul?ssige Hilfsmittel in Prüfungen konkret zu kennzeichnen ist
• Prüfende k?nnen, wie bei anderen Hilfsmitteln auch, hierzu Vorgaben machen
• Für schriftliche Prüfungen mit Ausnahme von Klausuren unter Aufsicht ist zus?tzlich eine Eidesstattliche Versicherung abzugeben.

• Die prüfungsrechtliche Bewertung von KI-Diensten für den Entwurf von Prüfungsfragen oder -aufgaben h?ngt ma?geblich von der Rolle der menschlichen Prüfenden und dem Beitrag der KI-Dienste ab
• Verantwortung für die inhaltliche, fachliche und prüfungsdidaktische Gestaltung von Prüfungsaufgaben liegt bei Prüfenden und kann nicht an KI-Dienste übertragen werden.
• KI-Dienste gelten nach aktueller Einsch?tzung nicht als ?Augenpaar“ oder ?Prüfer“
• ?Zwei-Prüfer-Prinzip“ zur Erstellung von Multiple Choice-Aufgaben wird durch das Hinzuziehen eines KI-Dienstes nicht erfüllt.

Derzeit ist die Korrektur von Prüfungen mithilfe von KI-Diensten nur mit Einschr?nkungen zul?ssig, da Rechtsvorschriften auf 澳门皇冠_皇冠足球比分-劲爆体育eren Gebieten tangiert sind.

• Klausuraufgaben im offenen Format (z.B. Texte) - L?sungen der Studierenden sind Werke (§ 2 Abs. 2 UrhG)
• Verwendung der L?sung als Input für einen KI-Dienst ist eine Vervielf?ltigung (§ 16 UrhG), der die betroffene Person zustimmen muss
• aktuell nicht Teil der prüfungsrechtlichen Bestimmungen = nicht zul?ssig.
• Ausnahme: vorübergehende oder flüchtige Vervielf?ltigung, die als wesentlicher Teil eines technischen Verfahrens geschehen muss, um eine ?bertragung eines Werkes oder sonstigen Schutzgegenstands überhaupt zu erm?glichen (§ 44a DSGVO). Wird also die hochgeladene Prüfungsl?sung anschlie?end wieder gel?scht, ist eine solche Verwendung rechtskonform. Die L?schung kann bei extern bereitgestellten KI-Diensten regelm??ig nicht gew?hrleistet werden. Im Gegenteil behalten sich viele Anbieter solcher Dienste vor, hochgeladene Daten für ein sp?teres Training weiterzuverwenden.

• Personenbezogene Daten bei der KI-unterstützten Korrektur dürfen nicht Teil des Prompts sein, unbedingt anonymisieren (Verletzung von Pers?nlichkeitsrechten)

• Eine auf ausschlie?lich automatisierter Verarbeitung beruhende Entscheidung ist unzul?ssig, wenn sie gegenüber der betroffenen Person rechtliche Wirkung entfaltet oder sie in ?hnlicher Weise erheblich beeintr?chtigt (Art. 22 Abs. 1 DSGVO)
• Die Letztentscheidungskompetenz muss bei den Prüfenden als natürliche Personen liegen.
• Auch die ?bertragung einer Vorkorrektur an einen KI-Dienst ist kritisch zu bewerten.
• Ein KI-Dienst ersetzt zudem nicht das in vielen Prüfungsordnungen an Hochschulen referenzierte ?Zwei-Prüfer-Prinzip“ bei der Bewertung von Prüfungsleistungen.

• Das Hochladen von Personenfotos, Videos, Audioaufzeichnungen oder die Eingabe von Informationen über Personen, ist ohne Einwilligung der betroffenen Personen unzul?ssig.
• Keine personenbezogenen Daten (Art. 4 Abs. 1 und Art. 9 DS-GVO)

Erl?uterungen: Was sind ?Personenbezogene Daten“?

Alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen (Art. 4 Nr. 1 DSGVO). Unterfall: ?Besondere Kategorien personenbezogener Daten“(Art. 9 Abs. 1 DSGVO): besonders sensible Angaben, d.h. z.B. Angaben aus denen die ethnische Herkunft oder politische Meinungen hervorgehen sowie genetische Daten, Gesundheitsdaten etc.

?Personenbezogene Daten“ sind alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen (Art. 4 Nr. 1 DSGVO).

Was hei?t in diesem Zusammenhang identifizierbar? => Verfügen Dritte über eine Zuordnungsm?glichkeit der Daten zu der betroffenen Person?

Das ist immer gegeben bei Klardaten wie:

• Klarname
• Personalisierter E-Mail-Adresse
• Vollst?ndige postalische Anschrift
• Foto- oder Videoaufnahmen

Aber auch Personenbezug bei Informationen mit anderen Daten m?glich:

=> Wenn bei einer Gesamtbetrachtung durch die Informationen eine Person so konkret umschrieben wird, dass Dritten eine Identifizierung der Person m?glich ist.

• Die Hochschule hat bei der Bereitstellung des KI-Dienstes streng auf den Datenschutz ihrer Angeh?rigen im Rahmen der Nutzung geachtet.
• Eine Minimierung der bei Registrierung und Login übertragenen personenbezogenen Daten ist angestrebt. Die konkret übertragenen personenbezogenen Daten sind der Datenschutzerkl?rung für den Dienst zu entnehmen.

• Im Verlaufe einer Prüfung mit KI-Diensten als zugelassene Hilfsmittel übertragen Studierende notwendigerweise Daten an den Dienst, z.B. Prompts, Aktivit?tsdaten, ggf. auch personenbezogene Daten, für die eine datenschutzkonforme Verarbeitung zu gew?hrleisten ist. Die ?bertragung ist für die Studierenden verbindlich und kann durch diese nicht vermieden werden. Es gelten deshalb besondere Schutzbedingungen für den rechtskonformen Einsatz.
• Aus diesem Grund stellt die Hochschule generative KI-Dienste bereit, die von den Mitgliedern der Hochschule genutzt werden k?nnen. Eine genaue Aufstellung der übertragenen Daten liefert etwa die Datenschutzerkl?rung für den Dienst.

• Sollen für den Prüfungskontext externe KI-Dienste eingesetzt oder beschafft werden, erfordert dies eine Datenschutzkl?rung mit besonderer Beachtung
  • Transparenzgebot, der Zweckbindung und der Datenminimierung nach Art. 5 DSGVO
  • eine Datenschutzfolgeabsch?tzung
  • weitere Rechtskl?rungen, u.a. Vorliegen einer Auftragsdatenverarbeitung, Transparenz der Betroffeneninformation u. Speicher- und L?schfristen.
  • Kontakt zu Rechtsstelle und Projekt GenKI Universit?t Bremen (genkiprotect me ?!uni-bremenprotect me ?!.de) sinnvoll