Leitlinien zum Umgang mit KI
Der Einsatz von KI als Wissenstool an der UR
Der Einsatz von Künstlicher Intelligenz (KI) als Wissenstool in Forschung, Lehre und Hochschulmanagement bietet zahlreiche Vorteile, bringt jedoch auch gro?e Herausforderungen mit sich. So erm?glicht die KI bspw. den Studierenden und Lehrenden einen schnellen und personalisierten Zugang zu Wissen, unterstützt die Analyse komplexer Daten und f?rdert innovative Lehrmethoden. Forschende k?nnen z. B. mithilfe von maschinellem Lernen Muster in riesigen Datenmengen erkennen und statistische Modelle erstellen. Zudem kann die KI viele Routineaufgaben automatisieren und somit mehr Raum für kreative und kritische Denkprozesse schaffen. Doch in der Regel ist es unklar, wie die KI zu den Ergebnissen kommt, ob sie dabei nicht auch Rechte des Urhebers oder den Datenschutz verletzt oder m?glicherweise wegen unvollst?ndiger Daten zu fehlerhaften Entscheidungen bzw. Ergebnissen, sog. ?Halluzinationen“ kommt. Mit einem unbedarften Einsatz der KI sind folglich auch gro?e Risiken verbunden und es besteht generell die Notwendigkeit einer kritischen Reflexion der KI-generierten Inhalte.
Generelle Hilfestellungen und Regelungen
Erste Hilfestellungen k?nnen für verschiedene Anliegen in den folgenden Dokumenten gefunden werden:
- Prüfungsregeln im Hinblick auf den Einsatz von KI an der Fakult?t für Physik
- Datenschutzregelungen des Datenschutzbüros der UR
- Hilfestellungen des ZHW
- GRIPS-Kurs ?Toolbox für digitale Lehre“
- Leitfaden zu Generativer Künstlicher Intelligenz
Hilfreiche Tools zur Nutzung der KI
Praxisorientierte, nützliche KI-Werkzeuge für verschiedene Anwendungsszenarien.
| Einsatzgebiet | Beschreibung | Notwendige Vorkenntnisse |
| Hochschullehre | Ein Katalog erprobter Prompts aus Anwendungskontexten im Bereich der Hochschullehre | Keine |
Europ?ische KI-Verordnung
Die EU hat mit dem ?AI-Act“ (dt. ?KI-Verordnung“ (KI-VO)) einen einheitlichen Rahmen für den Einsatz von KI in der Europ?ischen Union verabschiedet. Das Ziel der Verordnung ist die Sicherstellung der sicheren, ethischen und verantwortungsvollen Nutzung von KI in allen Bereichen. Die Verordnung verfolgt einen risikobasierten Ansatz, welcher auf der Einstufung der KI-Systeme in vier Risikoklassen aufbaut. Im Bildungsbereich stuft die KI-VO bspw. die Nutzung von KI-Systemen, die bestimmungsgem?? für die Bewertung von Lernergebnissen oder zur ?berwachung und Erkennung von verbotenen Verhalten in Prüfungen eingesetzt werden, als Anwendungen mit hohem Risiko ein (siehe Anhang III Nr. 4 der KI-VO).
Zudem besteht nach Art. 50 KI-VO die Pflicht, auf den Einsatz der KI hinzuweisen, wenn (1) die Person mit einer KI interagiert, (2) von der KI generierte Inhalte pr?sentiert oder (3) von der KI Emotionen erfasst oder biometrische Daten kategorisiert werden. 百利宫_百利宫娱乐平台￥官网e sogenannten Transparenzpflichten treten aber erst zum 02.08.2026 in Kraft.
Relevanz der KI-VO für die UR
Die KI-VO hat somit hohe Relevanz für die UR, und zwar in zweierlei Hinsicht:
- Einerseits stellt die UR ihren Mitgliedern, z. B. mit dem Microsoft Copilot als Tool, das ChatGPT nutzt und damit?zur Formulierung von Texten oder zum Zusammenfassen von Texten verwendet werden kann, oder DeepL als ?bersetzungshilfe im Rahmen des TYPO3-Systems, KI-Systeme zur Anwendung bereit und ist im Sinne der Verordnung Betreiber von KI-Systemen (Art. 3 KI-VO).
- Andererseits entwickeln Mitglieder der UR im Rahmen von Forschungsarbeiten oder der Lehre m?glicherweise eigenst?ndig KI-Systeme, die mitunter auch bestehende KI-Systeme (wie z. B. ChatGPT) nutzen. Wenn diese Eigenentwicklungen produktiv genutzt werden bspw., um im Rahmen einer wirtschaftlichen Kooperation einen KI-basierten Chatbot zu implementieren oder Studierende in Lerngruppen einzuteilen, dann tritt die UR als Anbieter von KI-Systemen im Sinne der Verordnung (Art. 3 KI-VO) auf.
Pflichten und Verbote aus der KI-VO
Die EU-Verordnung trat mit Bekanntgabe am 1. August 2024 in Kraft und erlangt phasenweise Gültigkeit. Sechs Monate nach dem Inkrafttreten der KI-VO zum 02. Februar 2025 beginnen erste Verbote und Regelungen zu gelten.
Zum gegenw?rtigen Zeitpunkt müssen die Mitglieder der UR
- sich Kompetenzen in der Anwendung und im Umgang mit KI-Systemen aneignen, wenn sie KI-Systeme (potenziell) nutzen.
- sicherstellen, dass keine KI-Systeme zum produktiven Einsatz kommen, welche verbotene Praktiken beinhalten. Dabei ist es unerheblich, ob es sich um ein nur innerhalb der Universit?t betriebenes KI-System (siehe erstes Beispiel der verbotenen Praktiken) handelt oder ob es ein KI-System ist, welches ?ffentlich verfügbar und nutzbar ist.
Mit der phasenweisen Inkraftsetzung der KI-VO kommen künftig weitere Pflichten auf die Mitglieder der UR zu. Informationen dazu werden auf dieser Seite ver?ffentlicht. Ebenso wird demn?chst auch ein Regelkatalog für die Einführung neuer KI-Systeme zur Verfügung gestellt.
Sanktionen bei Missachtung
Konsequenzen ergeben sich bei Missachtung der Regelungen. Konkret,
- wenn der Schulungspflicht nicht nachgekommen wird und durch den Einsatz eines KI-Systems durch eine nicht-kompetente Person der UR ein Schaden entsteht,
- wenn Systeme mit verbotenen KI-Praktiken im produktiven Betrieb verwendet werden und mit Realweltdaten arbeiten.
Die Missachtung der Anforderung der Schulungspflicht oder der Verbote ist insbesondere im Schadensfall problematisch, da dieser in der Praxis auch h?ufig Ausl?ser für Bu?gelder ist. Jedoch ist ein Schaden nicht zwingende Voraussetzung. Auch Verst??e gegen die Verhaltenspflichten k?nnen eine Sanktion nach der KI-VO ausl?sen.
Abschlie?end ist darauf hinzuweisen, dass die KI-VO in Erg?nzung zu bereits bestehenden Regelungen wie insbesondere der DSGVO zum Schutz der personenbezogenen Daten tritt. Verletzungen dieser Regelungen beim Einsatz eines KI-Systems k?nnen ebenfalls zu Sanktionen führen.
Schulungsangebote
Die KI-VO sieht vor, dass alle, die mit KI arbeiten oder sie in ihrem Berufsumfeld nutzen wollen über fundierte Kenntnisse verfügen müssen. 百利宫_百利宫娱乐平台￥官网 betrifft sowohl die Grundlagen der KI als auch deren spezifische Anwendung in verschiedenen Bereichen. Dabei geht es nicht nur darum, KI effektiv einzusetzen, sondern auch um das Erkennen und Minimieren von Risiken, wie Diskriminierung, Datenschutzverletzungen oder ungewollte Abh?ngigkeiten von KI-Systemen.
Deshalb stehen im Folgenden speziell ausgew?hlte Schulungsangebote zur Verfügung. 百利宫_百利宫娱乐平台￥官网e sind so strukturiert, dass – je nach Wissensstand und Interessensgebiet – passende Module ausgew?hlt werden k?nnen:
KI-Grundkompetenz
Für alle, die sich mit den grundlegenden Prinzipien von KI vertraut machen m?chten.
| Umfang | Kursinhalte | Vorkenntnisse |
| 85 min |
| Keine |
| 8 Wochen à 5h |
| Keine |
| Launchpad to AI - An Introduction to Applications, Risks, and Opportunities | ||
| 2 Wochen à 2h |
| Academic English (C1 CEFR) ? ? ? ? |
| 14 Wochen à 3 h |
| Keine |
| 4h |
| Keine |