Diplomarbeits-Rant über AI

Ich hab kürzlich meine Diplomarbeit von der HTL Weiz wieder ausgegraben (“Untersuchung KI und praktische KI Anwendung”, 2023/24) und mir gedacht die verdient einen ordentlichen Post. Wer alle 34 Seiten Mathe / Screenshots will: das PDF liegt hier.

Warum ausgerechnet AI

Ich bin (Open-Source) AI-Enthusiast, ganz einfach — schon seit ich 2017 über die text-davinci-Modelle gestolpert bin, lange vor der ChatGPT-Hype-Welle. Als die Diplomarbeit anstand war das Thema also ehrlich gesagt die einzige Option.

Projektpartner war Learn4D365, eine Online-Lernplattform für Microsoft Dynamics 365 mit über 340 Kursen. Ihr bestehender “Chatbot” war ein kleines Navigations-Popup mit exakt null AI drin. 340+ Kurse und kein schlauer Weg, sie zu durchsuchen — im Grunde das perfekte Spielfeld.

Also hab ich SAINDY gebaut — Self Service AI for Learn4D365. Ein Support-Bot der die Kursdaten wirklich liest und dir hilft zu finden was du brauchst.

Der Stack

PHP, vanilla JavaScript und die OpenAI API. Kein fancy Framework, keine (echte) Vector-Datenbank — die “Datenbank” war eine JSON-Datei. Der Kunde wollte das simpelste Ding das auf einem einfachen PHP-Host läuft. Im Prinzip ein selbstgemachter Weg um KI-Funktionen ausführen zu lassen — das war damals gerade der Anfang von solchen Features.

So funktioniert’s, im Grunde:

• Der User stellt eine Frage, das Backend embeddet sie mit einem OpenAI Embedding Model → man bekommt einen Vektor
• Dieser Vektor wird per cosine similarity gegen jeden gespeicherten Kurs-Vektor verglichen
• Die Top-5-Treffer kommen zurück und auf Wunsch beantwortet der Bot die Frage mit den gefundenen Kursen als Kontext

Was kostet das eigentlich

Mit gpt-4-0125-preview damals: worst case für eine volle Interaktion — Suche plus Antwort mit Kontext — rund $0,043. In der Praxis beim Testen: unter einem Cent. Und die API-Preise sind innerhalb eines Jahres auf etwa ein Viertel gefallen.

Rückblick

Würde ich es heute genauso bauen? Sicher nicht — ich würde zu einer echten Vector-DB greifen, Streaming-Responses einbauen und wahrscheinlich kein PHP nehmen. Aber als Proof of Concept hat es genau das getan, was es sollte: alle gewünschten Features gebaut und shipped, als Beta auf saindy.io gehostet, und ein sehr zufriedener Kunde.

Du hast einen Haufen Daten und das vage Gefühl, dass AI helfen könnte? Genau da hat Learn4D365 auch angefangen: