Das Verbundprojekt itsowl-VorZug wird im „Spitzencluster-Wettbewerb“ des BMBF im Rahmen der Hightech-Strategie 2020 für Deutschland (3. Wettbewerbsrunde) durchgeführt. Schwerpunkt des Spitzenclusters sind technische Systeme mit inhärenter Teilintelligenz, die auf veränderte Umweltbedingungen reagieren, ihr Verhalten selbstständig sowie situationsgerecht anpassen und mit anderen technischen Systemen weltweit vernetzt kommunizieren, verhandeln und kooperieren. Diese Intelligenz wird durch die Integration neuer Funktionen in die Systeme erreicht.
The issue of university patenting has moved to the forefront of economic analysis due to the impressive growth registered in the number of patent applications by US universities over the 1980s. Compared to that, European research on academic patenting is much more recent. The largest part of it has dealt with the institutional differences between the European and the academic systems.
Optimierungsprobleme spielen in einer Vielzahl von Branchen und Forschungsbereichen eine wichtige Rolle. Die Fähigkeit, diese Optimierungsprobleme schnell und möglichst optimal zu lösen, ist ein wesentlicher Grundbaustein einer effektiven Entscheidungshilfe für Entscheidungsträger. Allerdings ist die Entwicklung der dafür notwendigen Algorithmen und Solver ein zeitaufwändiger Prozess, der außerdem viel Fachwissen in dem jeweiligen Problembereich und Wissen in Bezug auf Optimierungsverfahren erfordert. Außerdem nutzen Solver nur selten datengetriebene Komponenten, welche es ihnen beispielsweise erlauben würden, ihre Vorgehensweise dynamisch an die vorliegenden Probleminstanzen anzupassen. In den letzten Jahren wurden eine Reihe von Ansätzen zur Automatisierung der Generierung von Optimierungsmethoden für spezifische Optimierungsprobleme mittels Deep Reinforcement Learning entwickelt. Bei diesen Ansätzen wird ein Lösungsalgorithmus speziell an ein Problem und eine bestimmte Klasse von Probleminstanzen angepasst. Trotz guter Ergebnisse bei der Lösung einfacher Probleme, wie dem Traveling Salesperson Problem und dem Capacitated Vehicle Routing Problem, wurden diese Ansätze noch nicht auf anspruchsvollere Probleme, welche aus zahlreichen Nebenbedingungen und interagierenden Problemkomponenten bestehen, angewendet. Bei vielen anspruchsvolleren Problemen ist es dabei schwierig, überhaupt eine gültige Lösung zu finden, welche die hohe Zahl der Nebenbedingungen erfüllt. In diesem Projekt werden, basierend auf jahrelanger Erfahrung bei der Nutzung von maschinellen Lernen zum Lösen von Optimierungsproblemen, neuartige Such- und Lernmechanismen zur Lösung anspruchsvoller Optimierungsprobleme untersucht. Im Hinblick auf die eingesetzten Suchverfahren wird das Projekt problemunabhängige Methoden, wie Heuristic Backtracking, Monte-Carlo-Rollouts und Efficient Active Search untersuchen. Mit Blick auf die lernenden Komponenten untersucht das Projekt neue Verlustfunktionen, Curriculum-Learning und Methoden zum Determinieren der Feasibility Boundary in Optimierungsproblemen. Außerdem wird das Projekt einer Klasse sehr schwierige Probleme mit voneinander abhängigen Komponenten, wie z. B. Routing-Probleme mit Abholungen und Lieferungen, untersuchen und diese mit neuen Embedding-Verfahren und Dekomposition lösen. Das Ergebnis des Projekts werden hocheffektive, problemunabhängige und selbstlernende Methoden sein, die anhand einer breiten Auswahl Optimierungsprobleme sorgfältig getestet wurden.
Decision-focused learning (DFL) ist ein Ansatz zur datengetriebenen Optimierung unter Unsicherheit, bei dem Machine Learning-Modelle gezielt so trainiert werden, dass ihr Einsatz in (deterministischen) Optimierungsmodellen zu möglichst guten Entscheidungen führt. Diese tiefe Integration von ML und Optimierung führt in der Regel zu wesentlich besseren Lösungen als der Einsatz von klassisch trainierten ML-Modellen (deren Loss-Funktion auf eine hohe Schätzgenauigkeit abzielt) zur Vorhersage von mit Unsicherheit behafteten Parametern in Optimierungsmodellen. Um eine entscheidungsorientierte Integration von ML und Optimierung zu erreichen, nutzen klassische DFL-Ansätze differenzierbare Reformulierungen der Optimierungsmodelle, die es ermöglichen, moderne, auf Backpropagation basierende Lernverfahren so anzuwenden, dass Informationen aus dem Optimierungsproblem direkt in das Training des ML-Modells einfließen. Der Nachteil dieses Vorgehens besteht darin, dass die differenzierbaren Ersatzmodelle das zugrunde liegende Optimierungsproblem oft nicht sehr gut abbilden, insbesondere im Fall von kombinatorischen Optimierungsproblemen. In diesem Projekt schlagen wir einen alternativen Ansatz vor, der die Forderung nach Differenzierbarkeit aufgibt: Derivative-free DFL (DF-DFL) integriert ML-Modelle in einen heuristischen Lösungsansatz, bei dem die Parameter der ML-Modelle und des Optimierungsverfahrens gemeinsam optimiert werden, um zu möglichst guten Entscheidungen gelangen. Aus praktischer Hinsicht hat unser Ansatz eine Reihe von attraktiven Eigenschaften: Erstens werden die oben beschriebenen Approximationsfehler, die durch die Formulierung differenzierbarer Ersatzmodelle entstehen, vermieden. Zweitens ermöglicht es unser Ansatz im Gegensatz zu klassischen DFL-Verfahren, unsicherere Parameter nicht nur in der Zielfunktion, sondern auch in den Restriktionen von Optimierungsmodellen zu berücksichtigen. Drittens hat unser Ansatz gegenüber anderen Verfahren zur Optimierung unter Unsicherheit wie z.B. der stochastischen Programmierung den Vorteil, dass nach dem Training lediglich ein deterministisches Optimierungsmodell gelöst werden muss, dessen Komplexität unabhängig von Anzahl der unsicheren Parameter des Optimierungsproblems ist. Die Motivation zur Entwicklung des DF-DFL-Ansatzes stammt aus einem hoch relevanten Anwendungsbereich: der Bildung von Vorschlägen für Meeresschutzgebiete. Für diese Art von ökologischer Schutzgebietsplanung werden in der Praxis auf deterministischer Optimierung basierende Entscheidungsunterstützungssysteme eingesetzt, die Parameterunsicherheit, z.B. in Bezug auf die räumliche Präsenz oder Abundanz bestimmter zu schützender Tierarten, nicht explizit berücksichtigen. Der DF-DFL-Ansatz ist für diesen Anwendungsfall sehr gut geeignet, da er direkt auf erprobte domänenspezifische Optimierungsmodelle aufbauen und zugleich unsichere Parameter in allen Bereichen dieser Modelle, insbesondere in den Restriktionen berücksichtigen kann.