Ostbayerische Technische Hochschule Amberg-Weiden

Seit der Veröffentlichung von Chat GPT im November 2022 ist die Welt fasziniert von Künstlicher Intelligenz (KI) und den Möglichkeiten, die KI-basierter Tools bieten. Seitdem haben sich KI-Systeme stark weiterentwickelt und werden immer leistungsfähiger. Doch mit dem wachsenden Potenzial dieser Systeme wächst auch die Möglichkeit, KI für unlautere Absichten einzusetzen: Fake News lassen sich effizient über alle Kanäle verbreiten, und Cyberangriffe können durch KI personalisiert, automatisiert und so verfeinert werden, dass auch weniger erfahrene Angreifer in großem Umfang erfolgreiche Attacken durchführen können. Um diesen Herausforderungen zu begegnen, haben die OTH Amberg-Weiden und das Landesamt für Sicherheit in der Informationstechnik (LSI) am 16. Januar 2025 das Forschungsprojekt „HeCKI – Herausforderungen für die Cybersicherheit durch KI“ gestartet. Finanz- und Heimatminister Albert Füracker gab den offiziellen Startschuss an der OTH in Amberg.

Ziele und Bedeutung des Projekts

Ziel des Projekts ist es, eine wissenschaftliche Grundlage zu schaffen, indem neuartige Bedrohungen durch Künstliche Intelligenz identifiziert und systematisch bewertet werden, um darauf aufbauend lösungsorientierte Bildungsangebote zu entwickeln. Prof. Dr. Clemens Bulitta, Präsident der OTH Amberg-Weiden, betonte: „Digitale Souveränität und IT-Sicherheit sind die wesentlichen Grundlagen für die erfolgreiche digitale Transformation unserer Gesellschaft. Wir freuen uns daher sehr unsere bewährte Partnerschaft mit dem Staatsministerium der Finanzen und für Heimat weiter zu vertiefen und im gemeinsamen Forschungsprojekt ‚HeCKI‘ unsere Expertise einzubringen. Wir haben das erklärte Ziel, durch unseren Beitrag Angreifern möglichst keine Chance zu bieten und damit Bayern optimal für eine sichere Digitale Transformation aufzustellen. 

Finanz- und Heimatminister Albert Füracker unterstrich beim Projektstart die Dringlichkeit des Projekts: „Mit KI können ohne Weiteres Videos oder Stimmen gefälscht werden, wodurch beispielsweise der weit verbreitete ‚Enkeltrick‘ eine neue gefährliche Dimension erreicht. Manipulationen, etwa um sensible Daten zu erlangen oder E-Mail-Anhänge mit ‚Viren‘ zu verbreiten, sind leichter möglich. In Bayern nehmen wir IT-Sicherheit und digitale Zukunft sehr ernst – wir arbeiten intensiv daran, diese stets sicher zu gestalten!“

Prof. Dr. Daniel Loebenberger, Projektleiter und Experte für Cybersicherheit an der OTH Amberg-Weiden, erläutert: „Die rasant wachsenden Fähigkeiten der KI erfordern ein radikal neues Medienbewusstsein: Automatisiert generierte Texte aus großen Sprachmodellen und Fake News überfluten uns auf allen Kanälen, die Bewertung der Echtheit liegt derzeit allein beim Medienkonsumenten. ,HeCKI‘ ermöglicht einen weitgefassten Blick auf die aktuellen Möglichkeiten und Herausforderungen, unter anderem im Kampf gegen Fake News, die sich im Zusammenhang mit KI stetig wandeln.“

Mit dem Start des Forschungsprojekts setzt das Landesamt für Sicherheit in der Informationstechnik einen wichtigen Schritt, um die Sicherheitsstandards im Freistaat Bayern langfristig optimieren und verbessern zu können. „Durch die Analyse von Möglichkeiten, die KI potentiellen Angreifern bietet, wollen wir wertvolle Erkenntnisse gewinnen, um Angriffsmuster besser bewerten und gezielte Maßnahmen sowie Handlungsempfehlungen ableiten zu können. Unser Ziel ist es, nicht nur defensiv zu agieren, sondern proaktiv die IT-Sicherheit der IT-Systeme Bayerns zu stärken,“ so Bernd Geisler, Präsident des Landesamts für Sicherheit in der Informationstechnik.

Forschung als Grundlage für lösungsorientierte Schulungen

Die OTH Amberg-Weiden ist seit vielen Jahren in der KI-Forschung aktiv und bietet ein umfangreiches Studienangebot sowie zahlreiche Forschungsinitiativen, die im KI Campus Ostbayern wird der regionale Austausch und die Zusammenarbeit gefördert. Um dieses Wissen zielgerichtet zu vermitteln, kann die OTH AW auf die Expertise des E-Learning Medienlabors zurückgreifen. Dieses wurde 2017 im Rahmen des Lernlabors Cybersicherheit gegründet und hat seitdem unter der Leitung von Prof. Loebenberger bereits zahlreiche Expertinnen und Experten aus ganz Deutschland dabei unterstützt, ihre wissenschaftlichen Erkenntnisse in interaktive Lernformate zu überführen.

Breit angelegte Sensibilisierung für KI-Risiken

Die Bildungsangebote werden sowohl an der OTH AW als auch beim LSI eingesetzt und erreichen dadurch eine breite Zielgruppe. Durch die neuen Formate wird frühzeitig auf die vielfältigen Gefahren und Einsatzmöglichkeiten von KI aufmerksam gemacht. Damit fördert „HeCKI“ nicht nur die Sensibilisierung für aktuelle Cybersicherheitsrisiken, sondern positioniert die OTH Amberg-Weiden als wichtigen Partner für Wirtschaft und öffentliche Einrichtungen im Umgang mit KI und Cybersicherheit.

Freie Open-Source-Software (FOSS) ist aus unserem digitalen Alltag nicht mehr wegzudenken. Anwendungen wie LibreOffice, Linux, Mozilla Firefox oder OpenStreetMap stehen exemplarisch für die Vorteile von FOSS: Kosteneffizienz, Anpassbarkeit und Unabhängigkeit von proprietären Anbietern. Gleichzeitig bringt sie Herausforderungen mit sich, darunter komplexe Lizenzbedingungen, mangelnde kommerzielle Unterstützung oder eine steile Lernkurve für Einsteiger.

Trotzdem zeigen Projekte wie Blender, VLC, Matrix oder Signal, dass Open Source Innovation und kollaborative Entwicklung weit über den technologischen Bereich hinaus fördert und die Grundlage für eine offene und nachhaltige Softwarelandschaft bildet. 

Das EMI-Forum im Dezember hat diese spannenden Themen in den Fokus genommen. 
Nach der Begrüßung durch Dekan Prof. Dr. Ulrich Schäfer und Prof. Dr. Alexander Prinz, ein neues Mitglied im Automotive-Team der OTH Amberg-Weiden, lieferten die Referenten spannende Einblicke in ihre Tätigkeiten. Patrick Purucker stellte die Herausforderungen von FOSS in der Forschung vor.
Feu Mourek zeigte uns, wie man sich an Open Source Projekten wie Icinga beteiligen kann.
Johannes Roith berichtete über seinen Weg zur Linux Kernel Contribution. Bonnie Mehring von der Free Software Foundation Europe (FSFE) sprach über „Public Money? Public Code!“ und die gesellschaftliche Bedeutung Freier Software.

Der Abend endete mit spannenden Gesprächen und einem lebhaften Austausch zwischen Teilnehmenden. „Mir war es eine große Freude, eine derart engagierte und inspirierte Community zu begleiten“, sagte Heike Lepke, Moderatorin und Organisatorin des Programms.