Die Fraunhofer-Gesellschaft hat gemeinsam mit Microsoft einen internen KI-Chatbot namens FhGenie eingeführt, der ähnlich wie ChatGPT von OpenAI funktioniert. Dieser innovative Dienst ermöglicht es den Mitarbeitenden, Texte sicher zu bearbeiten, zu verändern oder zu generieren, und er entspricht den Datenschutzbestimmungen der DSGVO. Die Einführung von FhGenie erfolgte in Übereinstimmung mit den Empfehlungen der Taskforce „Chatbot“ des Fraunhofer-Verbunds IUK-Technologie.
Die Bedeutung von generativen KI-Systemen wie ChatGPT ist seit ihrer Veröffentlichung offensichtlich. Die erwarteten wirtschaftlichen und gesellschaftlichen Auswirkungen sind enorm. Daher ist es für große Forschungsorganisationen entscheidend, einen schnellen und sicheren Zugang zu diesen Systemen zu haben, um Erkenntnisse aus erster Hand zu gewinnen, technologische Entwicklungen voranzutreiben und Innovationskraft zu erhalten. Die Fraunhofer-Gesellschaft hat nun den KI-Chatbot FhGenie für ihre Mitarbeitenden freigeschaltet. Dieser basiert auf dem Azure OpenAI Service von Microsoft und ermöglicht die Nutzung der neuesten generativen KI-Technologien von OpenAI, darunter GPT-3.5, GPT-4, Codex, ChatGPT und DALL-E 2 aus der Microsoft Azure Cloud.
Prof. Ingo Weber, Direktor Digitalisierung und IuK-Infrastruktur der Fraunhofer-Gesellschaft, zeigt sich erfreut über die Entwicklung eines maßgeschneiderten KI-Chatsystems für die Organisation. Er betont die Notwendigkeit, Chat-basierte KI für die Arbeit und Forschung zu nutzen, während Datenschutz, Vertraulichkeit und Informationssicherheit gewahrt werden. FhGenie bietet Mitarbeitenden aus verschiedenen Bereichen die Möglichkeit, Erfahrungen zu sammeln und das Potenzial generativer KI-Systeme zu erkunden.
FhGenie, das auf dem OpenAI-Sprachmodell GPT-3.5-turbo basiert, wird in Zukunft auf das leistungsstärkere GPT-4.0 erweitert, das auch Bilder verarbeiten kann. Der Dienst ist über eine Web-Applikation mit einem Framework auf Basis von Python und Node.js zugänglich und erfordert eine SSO-Authentifizierung per Smartcard. Die Datensicherheit wird durch die Konfiguration in einer europäischen Azure-Subscription der Fraunhofer-Gesellschaft gewährleistet.
Die Anfragen an den Azure OpenAI Service von Microsoft erfolgen über eine API-Prompt-Schnittstelle, die Befehle an das KI-System weiterleitet. Die Nutzer erhalten Ergebnisse über die Auto-Vervollständigungsfunktion. Alle eingegebenen Daten bleiben bei der Fraunhofer-Gesellschaft und werden nicht für das Training der KI verwendet. Es findet keine inhaltliche Kontrolle oder Speicherung der eingegebenen Inhalte statt, außer einer Überprüfung auf missbräuchliche Nutzung durch ein automatisiertes Filterprogramm.
Die DSGVO-konforme Anwendung des Azure OpenAI Service kann mit Zustimmung des Betriebsrats Fraunhofer-weit genutzt werden, wobei die Zugangsberechtigungen dezentral von den IT-Verantwortlichen der einzelnen Fraunhofer-Institute und -Einrichtungen vergeben werden. Die hohe Anzahl der registrierten Nutzer zeigt die Bereitschaft der Fraunhofer-Belegschaft, dieses neue Angebot zu nutzen.
Die Anwendungsmöglichkeiten von FhGenie sind vielfältig und werden sich in Zukunft weiterentwickeln. Der KI-Chatbot unterstützt nicht nur bei der Texterstellung und -verbesserung, sondern kann auch bei der Entwicklung von Software, Prototypen und Datenanalyse-Scripts hilfreich sein. Es besteht auch Potenzial für die Weiterentwicklung des internen Wissensmanagements. Jeder Nutzer kann den Dienst individuell nutzen, solange personenbezogene Daten aus rechtlichen Gründen nicht verarbeitet werden.
Die Freischaltung von FhGenie ist Teil eines größeren Engagements der Fraunhofer-Gesellschaft in der Erforschung und Anwendung von generativer KI und Foundation Models. Die Organisation beteiligt sich an Initiativen wie OpenGPT-X zur Entwicklung großer europäischer KI-Sprachmodelle. Dieser Schritt ist die erste Stufe in einem Prozess, der den Zugang, die Anpassung und die Weiterentwicklung von großen KI-Modellen umfasst, wobei weitere Hersteller als Kooperationspartner gewonnen werden sollen.
Dieser Beitrag beruht auf einer Pressemitteilung der Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V., veröffentlicht am 30.8.2023