Sichere KI: Erfolgreiches erstes Jahr für das ELSA-Netzwerk
Das Exzellenznetzwerk ELSA – European Lighthouse on Secure and Safe AI hat in seinem ersten Jahr wichtige Weichen gestellt, um die Europäische Union zu einem Leuchtturm sicherer und vertrauenswürdiger künstlicher Intelligenz zu machen. Bahnbrechende Forschung, enger Austausch mit Industrievertreter:innen, strategische Forschungsausrichtung, Politik-Beratung auf höchster Ebene – das wachsende Netzwerk adressiert in allen Dimensionen die drängenden Fragen, die künstliche Intelligenz für die Gesellschaft bereithält.
ChatGPT und Co. schlagen hohe Wellen
Ein Thema, das viele Forschende im ELSA-Netzwerk intensiv beschäftigt hat und weiterhin beschäftigten wird, sind sogenannte Large Language Modelle. Mit Veröffentlichung von ChatGPT und anderen Chatbots, wurden sie der breiten Öffentlichkeit zugänglich. Die moderne Lerntechnologie, die darin steckt, muss laut Fritz nachhaltig und sicher zum Erfolg gebracht werden. „Wie wir gesehen haben, haben die Modelle bislang aber noch enorme Schwächen.“ Professor Dr. Mario Fritz, CISPA-Faculty und Koordinator von ELSA und sein Team konnten im Frühjahr zusammen mit CISPA-Faculty Prof. Dr. Thorsten Holz und dem Saarbrücker IT-Unternehmen sequire technology kritische Schwachstellen aufdecken, die die Modelle manipulier- und angreifbar machen. Die Veröffentlichung ihres Papers hat unter anderem dazu geführt, dass das deutsche Bundesamt für Sicherheit in der Informationstechnik (BSI) ein ausführliches Positionspapier zu dem Thema mit dem Titel “Große KI-Sprachmodelle – Chancen und Risiken für Industrie und Behörden” verfasste.
Strategische Aufstellung der Netzwerke
So wie in ELSA viele intelligente Köpfe ihre Kräfte bündeln, tun das auch die NoEs. Gemeinsam haben sie eine Joint Research Agenda verfasst, die aufzeigt, wie sie gemeinsam den Weg für den sicheren Einsatz künstlicher Intelligenz ebnen wollen. ELSA fokussiert sich dabei auf drei große Herausforderungen: technisch robuste und sichere KI-Systeme zu entwickeln, datenschutzfreundliches und robustes kollaboratives Lernen zu ermöglichen und menschliche Kontrollmechanismen für den ethischen und sicheren Einsatz von KI zu entwickeln. Die konkreten Anwendungsfälle, die ELSA in den Blick nimmt, sind Gesundheit, autonomes Fahren, Robotik, Cybersicherheit, Medien und Dokumentenintelligenz. Das ELSA-Netzwerk verfolgt dabei einen grundlegenden, transparenten und interdisziplinären Ansatz. Die von ELSA im November veröffentlichte strategische Forschungsagenda gibt Interessierten eine Übersicht, wie ELSAs Arbeit an diesen Herausforderungen ganz konkret aussehen wird.
KI sicher „auf die Straße bringen“ – ELSA setzt Maßstäbe
Um die von ELSA-Forschenden entwickelten Technologien und Methoden unter realen Bedingungen zu testen und ihre Anwendungsreife bewerten zu können, hat ELSA 2023 eine Benchmarks-Plattform veröffentlicht. Über diese Plattform werden innerhalb des Netzwerks Daten und Metriken geteilt und sogenannte „Competitions“ zu den sechs ELSA USE-Cases veröffentlicht. Das sorgt dafür, dass das Netzwerk messbare Fortschritte erzielt und immer wieder die Forschungsaktivitäten mit realen Bedürfnissen und Anwendungen verknüpft werden.
Auftakt geglückt
Ein Netzwerk dieser Größe aufzubauen, ist keine leichte Aufgabe. Das Jahr 2023 zeigt allerdings, dass ELSA enormes Potential hat, die komplexen Herausforderungen moderner KI-Lösungen erfolgreich anzugehen.
Mehr über die Arbeit im ersten Jahr und das Netzwerk finden Sie hier
