KI-basierte Systeme für Lehre und Studium

Technische Systeme, die auf Verfahren der ?Künstlichen Intelligenz“ (KI) basieren, sind in der Lage, menschen?hnliche Intelligenz zu imitieren, um komplexe Aufgaben zu l?sen. Sie sind so konzipiert, dass sie mit einem unterschiedlichen Grad an Autonomie arbeiten. Generative KI wie ChatGPT ist eine spezifische Untergruppe, die darauf abzielt, eigenst?ndig neue Inhalte zu erstellen, indem sie Muster und Strukturen aus vorhandenen Daten lernt und Ergebnisse wie Texte, Bilder oder Musik generiert.

Wir sehen die Entwicklungen KI-basierter Systeme als eine Chance, alle Bereiche der Universit?t (Lehre und Studium, Forschung und Transfer und Verwaltung) voranzubringen. Wir verstehen sie als Werkzeuge, die in einem rechtlich abgesicherten Rahmen genutzt werden k?nnen, um Prozesse zu verbessern. Dies wollen wir aktiv mitgestalten. Obwohl KI-basierten Systemen gro?e Potenziale zugeschrieben werden, müssen wir sorgf?ltig abw?gen, ob und wie sie eingesetzt werden sollen, wie ethische, datenschutzrechtliche, sicherheitstechnische, ?kologische oder soziale Risiken erkannt und verhindert werden k?nnen und wie geeignete Strategien zur effektiven, effizienten und transparenten Nutzung gefunden werden k?nnen. Alle Einsatzszenarien müssen daher offengelegt und Verabredungen darüber getroffen werden, wie wir damit umgehen. Dabei sind die rechtlichen Rahmenbedingungen, etwa durch die Datenschutz-Grundverordnung (DSGVO), dem EU AI Act sowie zum Urheberrecht, zu berücksichtigen.

NEWS - 02.04.2024

Auf der Seite Formulare des ZPA wurden neue Dokumente - erg?nzt um Erkl?rungen zur Nutzung von KI - ver?ffentlicht:

Schriftliche Arbeiten - Eigenst?ndigskeitserkl?rung und Einverst?ndniserkl?rung zur ?berprüfung mit Plagiatssoftware
Urheberrechtliche Erkl?rung, Erkl?rung zur Ver?ffentlichung von BA-/MA-Arbeiten, Erkl?rung zur elektronischen ?berprüfung auf Plagiate
Beispielhafte Dokumentation der Nutzung von KI in der Lehre

Themenseite KI in Studium und Lehre mit zahlreichen Beispielen auf e-teaching.org

In einem ersten Schritt geben wir universit?tsweite Empfehlungen für die Nutzung von KI-basierten Systemen in Lehre und Studium, um einen verl?sslichen und transparenten Rahmen für Lehrende und Studierende herzustellen, der die rechtlichen Anforderungen berücksichtigt. Die Universit?t Bremen sieht die Chancen und M?glichkeiten und stellt sich auch den Risiken. Die Studierenden sollen in der Lehre eine kritisch-reflektierende Umgangsweise erlernen und eine Haltung entwickeln, die die Potentiale für das Studium und die Berufswelt integriert. An der Universit?t Bremen findet kompetenzorientierte Lehre in vielf?ltigen Lehr-Lernszenarien statt. Wird hierfür mit KI-basierten Systemen gearbeitet, so ist eine Aufkl?rung der Studierenden über Funktionen, Grenzen und Risiken der Instrumente notwendig, um Potentiale und Probleme sichtbar zu machen und die Einhaltung der datenschutzrechtlichen Vorgaben zu garantieren. Ungleichheiten in Bezug auf Vorwissen und Bereitschaft zur Nutzung müssen mit Blick auf die Lernziele beachtet, abgewogen und sinnvoll gehandhabt werden. Hierzu geh?rt auch eine fachlich-methodische Reflexion und die Anwendung der Grunds?tze guter wissenschaftlicher Praxis auf die Nutzung von KI-basierten Systemen beim Lehren und Lernen. Diese Kompetenz im kritisch-reflektierten Umgang mit KI-basierten Systemen wird in allen F?chern und Studieng?ngen ein Querschnittsthema werden.

Herausforderungen in Studium und Lehre lassen sich aktuell vor allem für das Prüfen identifizieren. Dabei geht es um die Nutzung KI-basierter Systeme im Kontext von Prüfungsleistungen sowohl in der Hand von Studierenden (bspw. automatisch generierte Texte, Bilder oder Musik) als auch von Lehrenden (bspw. automatisierte Bewertung von Hausarbeiten). Gleichzeitig entstehen zus?tzliche Chancen für Lehr- und Lernszenarien, beispielsweise

lernendenorientiert die Individualisierung von Lernmaterial, automatisiertes Feedback, Erleichterung der Zusammenarbeit der Lernenden sowie
lehrendenorientiert die Automatisierung von Aufgaben, Fortschrittsanalysen, Unterstützung bei der Veranstaltungsplanung sowie Assistenz bei Forschungsprozessen.

Die Konkretisierung und Ausgestaltung, der optionale Einsatz oder auch der Nicht-Einsatz in der Lehre liegt in der Zust?ndigkeit der Fachbereiche, Studieng?nge und der Lehrenden.

Die Allgemeinen Teile der Bachelor- und Masterprüfungsordnungen, vor allem §8 und §9 AT, beinhalten Regelungen, nach denen bei schriftlichen Arbeiten die Eigenst?ndigkeitserkl?rung abzugeben sind. Darin wird der Umgang mit Hilfsmitteln bei der Verfassung schriftlicher Arbeiten geregelt, der auch für die Nutzung KI-basierter Instrumente anzuwenden ist. Erg?nzend gelten gem?? § 7 DigiPrüfO entsprechende Regelungen für digitale Prüfungen.

KI-basierte Systeme und weitere Instrumente k?nnen als Hilfsmittel zugelassen werden, eine Verpflichtung zur Nutzung kann es aber nicht geben. Allerdings sind Regeln von den Lehrenden und Prüfenden festzulegen und zu kommunizieren. Dies gilt insbesondere, da die Studierenden immer die Verantwortung für ihre Arbeitsergebnisse haben und im Fall der Nutzung von KI-basierten Systemen deutlich gemacht werden muss, worin genau die Leistung der Studierenden und worin die Leistung der KI-basierten Systeme besteht. Die Aufgabe, Umfang und Art der Nutzung von KI-basierten Systemen zu erkl?ren und die ?bernahme der Verantwortung für die Ergebnisse liegt bei den Erstellenden.

Der Nachweis der Nutzung und die Dokumentation inkl. der Form der ?Quellenangaben“ sind festzulegen. Eine rechtm??ige Bewertung setzt voraus, dass die Lehrenden wissen, was die/der zu Prüfende geleistet hat. Damit die Eigenleistung bemessen werden kann, muss im Quellennachweis nachvollziehbar sein, was Eigenleistung und was die Leistung der KI-basierten Systeme ist. Hier müssen Lehrende genau kommunizieren, welche Nachweise erforderlich sind. Die Lehrenden k?nnen beispielsweise einfordern, dass die verwendeten Prompts und/oder Promptverl?ufe eingereicht werden oder dass die Nutzung der KI-basierten Systeme transparent dokumentiert wird.

Es wird empfohlen, dass sich Lehrende, Studieng?nge bzw. Fachbereiche für ihre Studieng?nge auf ein grunds?tzliches Vorgehen verst?ndigen. Zu beachten ist insbesondere:

Die Qualit?t von Studien- und Prüfungsleistungen, in denen die Ergebnisse KI-basierter Instrumente Verwendung finden, liegt in der Verantwortung der Studierenden.
Die Grunds?tze guter wissenschaftlicher Praxis gelten immer, hier ist besonders die Forderung nach Transparenz zu beachten.
Die Fragen des Urheberrechtes sind rechtlich nicht abschlie?end gekl?rt, hier sind immer die aktuellen Regelungen zu beachten. Wenn die Daten, auf denen KI-basierte Systeme basieren, Arbeiten enthalten, die plagiiert wurden, k?nnten die von dem Instrument erzeugten Antworten ebenfalls als Plagiate angesehen werden. Wer einen solchen Text nach §§ 16 und 19 UrhG vervielf?ltigt oder ver?ffentlicht, begeht eine Urheberrechtsverletzung. In der Prüfungsleistung w?re die dann fehlende Angabe der Quelle ein Plagiat und somit nach § 18 AT zu behandeln.

Im Umgang mit personenbezogenen Daten Dritter im Zusammenhang mit KI-basierten Systemen ist die Wahrung des Datenschutzrechts, insbesondere der DSGVO sowie des Bremischen Ausführungsgesetzes zur EU-Datenschutz-Grundverordnung (BremDSGVOAG) sicherzustellen. Dies betrifft sowohl den Upload von Informationen in KI-basierte Instrumente als auch die durch diese erzeugten Inhalte.

Bei Verdachtsf?llen bzgl. T?uschungsversuchen bzw. bei Verst??en gegen gute wissenschaftliche Praxis ist das übliche prüfungsrechtliche Verfahren nach § 18 AT (T?uschungsversuch) durchzuführen. Auch hier sind allgemein die unerlaubten Hilfsmittel formuliert, was auch die KI umfassen würde.

Rules for Tools C. Spannagel Version 2.2 Oktober 2023

Leitfaden ?Aus KI zitieren? Umgang mit auf Künstlicher Intelligenz basierenden Tools der Universit?t Basel

Salden, P., Leschke, J. (Hrsg.): Didaktische und rechtliche Perspektiven auf KI- gestütztes Schreiben in der Hochschulbildung, 2023,

Gimpel, H., Hall, K. et al.: Whitepaper: ?Unlocking the Power of Generative AI Models and Systems like GPT-4 and ChatGPT for Higher Education - A Guide for Students and Lecturers“. University of Hohenheim, March 20, 2023

Virtuellen Kompetenzzentrum "Schreiben lehren und lernen mit KI - Tools und Techniken für Bildung und Wissenschaft

Kommentierte Linksammlung des Hochschulforum Digitalisierung:

https://hochschulforumdigitalisierung.de/de/blog/Hochschullehre-KI-gestuetztes-Schreiben

Eine Arbeitsgruppe zu KI in der Lehre arbeitet zusammen an der weiteren Erschlie?ung des Themas für die Universit?t.
Im n?chsten Schritt sollen die Grunds?tze/Empfehlungen auch auf die anderen Bereiche der Universit?t Forschung und Transfer sowie Verwaltung ausgeweitet werden.
Zus?tzlich zu den themen- und zielgruppenspezifischen Diskussionen wird eine übergreifende Arbeitsgruppe die KI-Themen zusammenführen.

Bei Interesse an der Mitarbeit wenden Sie sich gern an die unten genannten Kontakte.

Elements of AI

AI4All

KI-Campus: Sprachassistenzen als Chance für die Hochschullehre

Foundations of Artificial Intelligence I

Promptlabor KI Campus und HFD - kostenloser Moodlekurs

Das Zemtrum für Multimedia in der Lehre unterstützt beim Einsatz von KI in der Lehre. Weiterer Informationen finden Sie auf den Webseiten.