Effizientes KI-Training: Neue Algorithmen für nachhaltiges maschinelles Lernen

Daten verändern sich dauernd. Wie etwa der amtierende Bundeskanzler in Deutschland heißt, kann unter Umständen schneller wechseln als erwartet. Machine-Learning-Modelle müssen sich an neue Wissensstände anpassen können und auch ihre Fähigkeiten zur Lösung verschiedener Aufgaben ständig verbessern. Bislang bedeutet das meist: Sie müssen regelmäßig neu trainiert werden. Das ist nicht nur teuer, es erfordert auch enorme Rechenpower und kostet so die Gesellschaft weit mehr als nur Geld. CISPA-Faculty Dr. Sebastian Stich will deshalb mit seinem Forschungsprojekt „Collective Minds“ neue Algorithmen für nachhaltigeres und effektiveres maschinelles Lernen entwickeln. Der Schlüssel dazu ist laut Stich: Bessere Kollaboration. Der Europäische Forschungsrat (European Research Council, kurz ERC) fördert sein Projekt über die nächsten fünf Jahre mit rund zwei Millionen Euro.

„Die hohen Kosten durch das Neutraining und die immensen Anforderungen an die Rechenpower machen Machine-Learning-Modelle zum Luxusgut, das sich oft nur große Industrieunternehmen leisten können“, erklärt CISPA-Forscher Sebastian Stich. Dabei können wir in so wichtigen Feldern wie etwa der Medizin stark von ihren Fähigkeiten profitieren. Ansätze, dieses Problem zu lösen, gibt es schon länger. Ein Ansatz, um Ressourcen zu schonen, ist die Abkehr vom Training eines großen und komplexen Modells hin dazu, mehrere kleine Modelle zu trainieren, die später nicht die Trainingsdaten, sondern ihr Wissen weitergeben. „Man spricht hier von föderiertem Lernen, das ist eine Art des kollaborativen Lernens. Bestehende Methoden konzentrieren sich darauf, aus verteilten Trainingsdaten letztlich wiederum ein großes Modell zu trainieren. Wir verfolgen einen anderen Ansatz: Wir wollen, dass kleine, unabhängige Modelle effektiv zusammenarbeiten“, so Stich.

Mehr dazu hier

Sie haben Interesse an Kooperationen oder einen Bedarf? Dann kontaktieren Sie gerne unsere verantwortliche saaris-Mitarbeiterin.