ML-Modelle in Java einbetten? Kein Problem!

Während LLMs die Schlagzeilen beherrschen, bieten einfachere, individualisierte Machine-Learning-Modelle ein breites Anwendungsfeld. Um diese zu erstellen und zu trainieren sind Python und R großartige Sprachen. Aber können wir diese Modelle auch direkt in unseren Java-Anwendungen einbetten, ohne einen externen Service anzusprechen? Sei es aus Compliance- Gründen, oder um Latenzen zu minimieren.

Der Vortrag zeigt verständlich und unterhaltsam, wie dies mithilfe von ONNX (Open Neural Network Exchange) und seiner Runtime möglich ist. Dieses offene Austauschformat erlaubt es uns, Modelle aus diversen Machine-Learning-Frameworks über die gleiche Runtime in Java zu nutzen. Sei es ein neuronales Netz aus PyTorch oder ein einfacher Entscheidungsbaum aus scikit-learn. Damit können sich Java-Entwickler auf die Anwendungsentwicklung konzentrieren, während das Training der ML-Modelle den Experten überlassen wird.

Der Vortrag bietet einen Einstieg in die Ein- und Ausgaben von ML-Modellen und zeigt an einfachen praxisnahen Code-Beispielen, wie ML-Modelle, die mit verschiedenen Frameworks trainiert wurden, mit der ONNX-Runtime direkt in Java genutzt werden können.