Es gibt viele Optimierungsprobleme bei Anwendungen in Wissenschaft, Technik, Wirtschaft, Industrie usw. Je nachdem, ob die genaue Ableitung verfügbar ist oder nicht, können diese Probleme in zwei Klassen eingeteilt werden: Black-Box-Optimierungsprobleme (BBO) und gradientenbasierte Optimierung (GBO) Probleme. Es ist sehr wichtig, Algorithmen zu haben, die mit sehr wenig Speicherplatz sowohl für BBO- als auch für GBO-Probleme in hohen Dimensionen implementiert werden können. Diese Arbeit konzentriert sich auf das Design und den Test einer Reihe von Lösern unter Verwendung von Subraumtechniken, um BBO- und GBO-Probleme in hohen Dimensionen zu behandeln. Unsere Löser nannten LMBOPT (für gebundene eingeschränkte CGO-Probleme), VSBBO und STBBO (für nicht eingeschränkte BBO-Probleme), VSBBON (für verrauschte nicht eingeschränkte BBO-Probleme) und LMLS (für nicht eingeschränkte BBO-Probleme der kleinsten Quadrate). Die Komplexitätsergebnisse werden für VSBBO und VSBBON im nicht konvexen, konvexen, stark konvexen Fall und für STBBO nur im nicht konvexen Fall untersucht. Um im Vergleich zu anderen hochmodernen BBO- und GBO-Lösern wettbewerbsfähig zu sein, verwenden unsere Löser viele praktische Verbesserungen, die die Reihenfolge der Komplexitätsergebnisse nicht beeinflussen. Eine neue Testumgebung wurde erstellt, um die Effizienz und Robustheit unserer Löser zu vergleichen. Es verwendet eine automatische Algorithmusauswertung, die Benutzerzeit erheblich spart, Statistiken erstellt und zu einem zusammengefassten Ergebnis sowohl als PDF-Datei als auch als Tex-Datei mit Tabellen und Abbildungen führt.

There exist many optimization problems with applications in science, engineering, economics, industry, etc. According to whether the exact derivative is available or not, these problems can be classified into two classes: black box optimization (BBO) problems and gradient-based optimization (GBO) problems. It is very important to have algorithms that can be implemented with very little storage for both BBO and GBO problems in high dimensions. This thesis focuses on the design and test of a number of solvers using subspace techniques to handle BBO and GBO problems in high dimensions. Our solvers called LMBOPT (for bound constrained CGO problems), VSBBO and STBBO (for unconstrained BBO problems), VSBBON (for noisy unconstrained BBO problems), and LMLS (for unconstrained BBO least-squares problems). Complexity results are investigated for VSBBO and VSBBON in the nonconvex, convex, strongly convex cases, and for STBBO only in the nonconvex case. To be competitive in comparison with other state-of-the-art BBO and GBO solvers, our solvers use many practical enhancements that do not affect the order of complexity results. A new test environment is constructed to compare the efficiency and robustness of our solvers. It uses an automatic algorithm evaluation, significantly saving user time, performing statistics, and resulting in a summarized result as both pdf-file and tex-file including tables and figures.