Bielefelder IT-Servicezentrum
BIKI – Bielefelder KI Portal
Eine Anwendung für Chats mit großen Sprachmodellen
Das KI-Portal "BIKI" wurde entwickelt, um den Nutzer*innen der Universität Bielefeld eine anbieterunabhängige Lösung zur Nutzung von Künstlicher Intelligenz basierend auf einem Large Language Model zu schaffen.
Ein Large Language Model (LLM) ist ein KI-Modell, das auf großen Textdatensätzen trainiert wird, um menschenähnliche Sprache zu verstehen und zu erzeugen. Es basiert auf tiefen neuronalen Netzen und kann Aufgaben wie Textgenerierung, Übersetzung, Beantwortung von Fragen und vieles mehr ausführen. LLMs verwenden komplexe Mustererkennung, um kontextabhängige und kohärente Antworten zu liefern.
Derzeit werden ChatGPT von OpenAI und die anstehenden Sprachmodelle der Gesellschaft für wissenschaftliche Datenverarbeitung Göttingen (GWDG) in BIKI angeboten:
Llama 3.1 (8B),
Llama 3.1 (70B),
Qwen2.5 (72B),
Mistral Large,
Codestral 22B.
Die in den Sprachmodellen der GWDG eingegebenen Daten werden ausschließlich auf Servern in Deutschland verarbeitet.
Die Sprachmodelle stammen von verschiedenen Herstellern, aber auch wenn ein Sprachmodell ursprünglich z.B. von Meta (Facebook) entwickelt wurde, findet bei der Nutzung in BIKI über die GWDG kein Datentransfer zu diesen Herstellern statt.
Das Angebot soll in Zukunft weiter ausgebaut werden.
Die wichtigsten Aspekte des Datenschutzes und der Informationssicherheit:
- Die Lösung ist nur für Eingaben / Daten mit normalem Schutzbedarf geeignet.
- Bei der Nutzung werden nur die Kommunikationsdaten pseudonymisiert, so dass keine Rückschlüsse auf die nutzenden Personen möglich sind. Alle Inhaltsdaten, d.h. die Eingaben der Nutzenden, werden 1:1 auf die Server von OpenAI übertragen und dort für 30 Tage gespeichert.
- Ein Training der LLM durch eingegebene Inhaltsdaten findet nicht statt.
Leistungsumfang
Risiken und Chancen von Künstlicher Intelligenz (KI)
Technische Schutzmaßnahmen durch BIKI
Die wichtigsten technischen Maßnahmen zum Schutz der Informationen sind
- Pseudonymisierung (Datenschutz)
Das BIKI-Webinterface ermöglicht eine Pseudonymisierung der Kommunikationsdaten (z.B. Benutzername, IP-Adresse). Die LLM-Anbieter haben durch BIKI keine Möglichkeit, Inhaltsdaten aufgrund der Kommunikation oder Authentifizierung zuzuordnen.
- Persistenz von Chatverläufen (Informationssicherheit)
Ein wesentliches Merkmal von LLMs ist die Möglichkeit verschiedene, parallele Konversationen zu führen und zu einem späteren Zeitpunkt auf diese zurückzugreifen und sie fortzusetzen. Der Rückgriff auf die Historie eines einzelnen Chats ist allein schon deshalb notwendig, um dem Sprachmodell ein Chat-Memory und damit ein 'Kurzzeitgedächtnis' zur Verfügung zu stellen, auf dessen Basis es seine Antworten mit Bezug auf frühere Teile der Konversation geben kann.
BIKI ermöglicht diese Eigenschaft durch die lokale Speicherung der Kommunikationshistorie trotz Pseudonymisierung.
- Zweckbindung (Datenschutz)
Die Universität schließt Verträge mit externen KI-Anbietern, die sicherstellen, dass die von Ihnen zur Verfügung gestellten Daten nicht für das Training des LLM des Herstellers verwendet werden.
Hinweis zu Risiken und Schutzmaßnahmen bei der Nutzung von Large Language Models (LLMs)
Die Verwendung von Large Language Models (LLMs) bietet viele Vorteile, birgt aber auch Risiken, die gemäß der KI-Verordnung (EU AI Act) berücksichtigt werden müssen:
- Unzulässige Risiken: Bestimmte Anwendungen von LLMs wie soziale Bewertungssysteme oder Systeme, die Menschen manipulieren, sind verboten. Setzen Sie LLMs stets verantwortungsvoll und im Einklang mit ethischen Standards ein.
- Anforderungen an die Transparenz: Wenn LLMs in Anwendungen eingesetzt werden, die mit Menschen interagieren (z. B. Chatbots), müssen die Nutzerinnen und Nutzer darüber informiert werden, dass sie mit einer KI kommunizieren.
Schutzmaßnahmen:
- Datenqualität und -sicherheit: In KI-Systemen dürfen grundsätzlich keine vertraulichen, personenbezogenen oder sensiblen dienstlichen Daten verarbeitet werden.
Der Einsatz von KI muss im Einklang mit der Leitlinien und Verfahrensordnung zur Sicherung guter wissenschaftlicher Praxisan der Universität Bielefeld vom 9. Februar 2023 und dem EU-Gesetz zur künstlichen Intelligenz erfolgen.
Die Hochschulleitung der Universität Bielefeld beschäftigt sich derzeit intensiv mit dem Einsatz von KI in den Geschäftsprozessen (Forschung, Studium und Lehre, Verwaltung) und erarbeitet gemeinsam mit den Fakultäten und den Personalräten entsprechende Dienstvereinbarungen.
Voraussetzungen und Status
Zielgruppe
- Studierende ab dem 1.10: Probebetrieb
- Alle Lehrenden: Probebetrieb
- Verwaltungsmitarbeitende: Selektiver Probebetrieb
Hintergrund des Probebetriebs
Es ist sinnvoll, dass viele Fachbereiche einer Universität den Einsatz von Künstlicher Intelligenz (KI) in ihren Geschäftsprozessen prüfen und nicht nur die IT-Abteilung, da jeder Fachbereich einzigartige Anforderungen und Herausforderungen hat, die spezifische KI-Lösungen erfordern.
Eine ganzheitliche Betrachtung ermöglicht die Entwicklung maßgeschneiderter Lösungen, die den spezifischen Bedürfnissen jedes Fachbereichs gerecht werden und die Effizienz und Qualität der Ergebnisse verbessern.
Darüber hinaus fördert die Einbindung aller Disziplinen in den Prozess der KI-Integration den interdisziplinären Austausch, der zu innovativen Ansätzen und neuen Forschungsideen führt.
Dies stellt sicher, dass die KI-Strategie der Universität nachhaltig, zukunftsorientiert und auf die spezifischen ethischen, rechtlichen und sozialen Aspekte der verschiedenen Disziplinen abgestimmt ist.
Wer als Verwaltungsmitarbeiter*in am Probebetrieb teilnehmen möchte und mit den Nutzungsbedingungen einverstanden ist, wendet sich bitte an den Service Desk des BITS. Bitte dabei beschreiben, wie viele Personen BIKI zu welchem Zweck nutzen werden.
Nutzungsbedingungen
Die Nutzung von BIKI unterliegt den Richtlinien der BITS-Benutzungsordnung. Es ist wichtig, dass alle Benutzer*innen diese Richtlinien sorgfältig lesen und einhalten, um eine ordnungsgemäße und verantwortungsvolle Nutzung sicherzustellen.
Support
Service Desk
Mo.–Fr. 08:00–16:00 Uhr
Tel.: 0521 106-6000
E-Mail: servicedesk@uni-bielefeld.de
