KI, die auf echter Hardware schnell läuft

Nachdem Subin im Ausland studiert hatte, kam sie zu 42 Berlin, als ihr klar wurde, wie sehr ihr das Leben im Ausland gefiel. Sie wollte herausfinden, wie es ist, in Deutschland als Entwicklerin zu arbeiten, und 42 schien ihr ein ungewöhnlicher, aber spannender Ort zu sein, um damit anzufangen. Es stellte sich heraus, dass es mehr als nur eine Programmierschule war. Menschen mit ganz unterschiedlichen Hintergründen lernten, arbeiteten und verbrachten dort gemeinsam Zeit.

verloren, dann weniger verloren.

Sie würde die Zeit bei 42 nicht einfach als „schwer“ bezeichnen. Es gab schwierige Projekte und jede Menge Unsicherheit. Was ihr jedoch stärker in Erinnerung geblieben ist, ist das Gefühl, sich manchmal verloren zu fühlen – und dann zu lernen, dass dieses Gefühl nicht von Dauer ist. Weiterarbeiten, weiter Fragen stellen, es erneut versuchen – und schon wird alles klarer. Das zählt sie zu den wertvollsten Dingen, die sie bei 42 gelernt hat.

Deep Learning vor linearer Algebra.

Zurück in Korea kehrte sie an die Universität zurück und begann – wie sie selbst sagt – „ziemlich mutig“, Kurse für Fortgeschrittene im Fach Elektrotechnik zu belegen. Sie belegte einen Einführungskurs in Deep Learning, noch bevor sie sich gründlich mit linearer Algebra auseinandergesetzt hatte. Die ersten Noten waren nicht gerade berauschend.

Die Idee der mathematischen Modellierung faszinierte sie jedenfalls. Ihr gefiel der Gedanke, dass eine wunderschön seltsame Funktion ein kompliziertes Phänomen erklären könnte. Dann stellte sich heraus, dass sich mit derselben Art von Idee auch Sprache beschreiben lässt – mithilfe von Sprachmodellen. Sie belegte weitere Kurse in maschinellem Lernen, Deep Learning und bestärkendem Lernen und beschäftigte sich weiterhin im Selbststudium mit Mathematik. Das bestärkende Lernen faszinierte sie am meisten, da es Spieltheorie und Zeitreihenanalyse auf eine Weise miteinander verband, die zugleich mathematisch und praktisch war. Sie hat nach wie vor Freude daran, diese Ideen zu erforschen, und wendet sie seit kurzem auch auf die Finanzanalyse an.

Was da unten vor sich geht.

Das Erlernen von KI mithilfe von Python-Bibliotheken wie PyTorch und NumPy hinterließ bei ihr ein nagendes Gefühl. Sie nutzte leistungsstarke Werkzeuge, ohne zu wissen, was im Hintergrund ablief. Wie wurden die Berechnungen eigentlich ausgeführt? Wurde der Computer effizient genutzt? Wie gelangte jede Operation zum richtigen Zeitpunkt zur Hardware?

Das führte sie zurück zu C++ und der Systemprogrammierung. Neben den Kursen zum maschinellen Lernen belegte sie Fächer wie eingebettete Systeme, Logikdesign und Computerarchitektur. Gerade die Computerarchitektur stellte die Verbindung zwischen den Software-Abstraktionen und den Vorgängen im Inneren eines Computers her. Von da an betrachtete sie KI sowohl als Systemproblem als auch als eine Frage des Modelltrainings: Wie lässt sich die Berechnung auf realer Hardware effizient ausführen?

der Job.

Heute arbeitet Subin im Bereich KI-Inferenz-Engineering mit C++. Ihre Aufgabe ist es, dafür zu sorgen, dass KI-Workloads die Rechenressourcen eines Geräts bestmöglich nutzen. Ihr Interesse gilt dem Schnittbereich zwischen Modellen und Hardware: Wie werden Berechnungen in der Praxis organisiert, ausgeführt und optimiert?

Als Nächstes steht auf ihrer Liste das verteilte Rechnen. Da Hardware immer teurer wird, gewinnen Themen wie Scheduling, Leistungsbeschränkungen und die Verteilung der Rechenaufgaben auf die verfügbaren Rechenressourcen zunehmend an Bedeutung. Es ist zwar noch nicht ihr Hauptgebiet, aber sie möchte sich weiter damit beschäftigen. Außerdem legt sie großen Wert auf gut abstrahierten Code: Code, der heute funktioniert und den die Entwickler auch dann noch verstehen und anpassen können, wenn das System wächst.

ihr Rat an die derzeitigen Studierenden.

Konzentrieren Sie sich nicht nur darauf, Wissen anzusammeln oder Projekte abzuschließen. Auch die Menschen, die Zusammenarbeit und die Ressourcen um Sie herum sind Teil dieser Erfahrung. Sie gibt zu, dass sie diese selbst nicht immer optimal genutzt hat. Was sie jedoch gelernt hat, ist, dass die Fähigkeit zu lernen mit jeder neuen Technologie, die auf den Markt kommt, immer wichtiger wird. Was auch immer als Nächstes kommt – die Fähigkeit, sich anzupassen, Neues zu entdecken und weiter zu lernen, wird nach wie vor entscheidend sein.