Eine KI-gestützte Anwendung zur Produktsuche erstellen
Nach meinem Umzug verbrachte ich überraschend viel Zeit damit, im Internet nach alltäglichen Haushaltsgegenständen zu suchen – von Aufbewahrungslösungen über Küchenutensilien bis hin zu Möbeln für das Fußende des Bettes. Dabei wurde mir klar, dass die Produktsuche mit sehr spezifischen Anforderungen ein idealer Anwendungsfall für ein Large Language Model ist:
Nemofinder vergleicht zahlreiche Produktbeschreibungen und identifiziert den Artikel, der den vorgegebenen Anforderungen am besten entspricht. Dieser Leitfaden zeigt, wie die Anwendung funktioniert und welche Konzepte dahinterstehen.
Wichtige Erkenntnisse
Die effiziente Mixture-of-Experts-Architektur von Nemotron 3 Nano macht die großflächige Filterung von Produkten kosteneffizient möglich. Dadurch lassen sich Produktbeschreibungen mit detaillierten Anforderungen abgleichen, ohne dass die Genauigkeit wesentlich leidet.
Der Nemofinder verwendet Such-APIs von Drittanbietern, um Produktlisten zu sammeln, und nutzt Nemotron 3 Nano, um Produkte anhand präziser Nutzeranforderungen, Bewertungen und Preisangaben intelligent zu bewerten.
Die Anwendung ist vollständig anpassbar und als Open Source verfügbar. Dadurch kann sie für nahezu jeden Anwendungsfall im Bereich Produktsuche erweitert und mit unterschiedlichen Such-APIs verbunden werden – je nach individuellem Bedarf.
Warum Nemotron 3 Nano verwenden?
Nemotron 3 Nano wurde gezielt für kosteneffiziente, klar definierte agentische Aufgaben entwickelt, ohne dabei auf Genauigkeit zu verzichten. Das macht das Modell besonders geeignet, wenn zahlreiche Produktbeschreibungen gefiltert und darauf geprüft werden sollen, ob sie bestimmte Anforderungen erfüllen. Im Gegensatz zu größeren Modellen, die für eng umrissene Aufgaben oft überdimensioniert sind, liefert Nano überzeugende Ergebnisse bei deutlich höherer Effizienz. Da das Modell zudem Open Source ist, behalten Sie die volle Kontrolle über Ihre Produktsuchen und die ausgegebenen Daten.
Im Hintergrund nutzt Nemotron 3 Nano eine hybride Mixture-of-Experts-Architektur (MoE) in Kombination mit Mamba-2-State-Space-Modellen. Dadurch wird der Rechenaufwand im Vergleich zu klassischen transformerbasierten Architekturen deutlich reduziert. Obwohl das Modell insgesamt 30 Milliarden Parameter besitzt, sind während der Inferenz pro Token nur 3,5 Milliarden aktiv. Diese architektonische Effizienz sorgt für schnellere Antwortzeiten und geringere Rechenkosten, wodurch der Einsatz auch auf kleineren GPU-basierten Systemen praktikabel wird. Zusätzlich lassen sich die Reasoning-Funktionen von Nemotron bei Bedarf über eine einfache Konfiguration deaktivieren, falls für einfache Produktabgleiche eine noch schnellere Inferenz erforderlich ist – auch wenn dies die Genauigkeit leicht verringern kann.
So funktioniert der Nemofinder
Zunächst nimmt die Anwendung ein Schlagwort für das gesuchte Produkt entgegen sowie eine ausführliche Textbeschreibung, in der die genauen Anforderungen an den gewünschten Artikel festgelegt werden.
Im nächsten Schritt verwendet die Anwendung eine Such-API (Application Programming Interface), um anhand dieses Schlagworts nach passenden Produkten zu suchen. Diese Such-API kann an einen bestimmten Shop gebunden sein, als allgemeine Shopping-API fungieren oder als individuelle Kombination mehrere APIs gleichzeitig ansprechen. Entscheidend ist, dass sie ein Schlagwort entgegennehmen und als Ergebnis eine Liste von Produkten mitsamt Beschreibungen und idealerweise auch Bewertungen zurückgeben kann.
Anschließend verarbeitet die Anwendung jede einzelne Produktbeschreibung zusammen mit Preisen, Rezensionen, Kommentaren und weiteren verfügbaren Informationen. Danach vergleicht Nemotron 3 Nano jede Produktseite mit den zuvor definierten Anforderungen. Nachdem passende Ergebnisse ermittelt und sortiert wurden, gibt die Anwendung die Treffer an die Nutzer zurück.
Den Nemofinder verbessern und implementieren
Der Nemofinder ist Open Source und auf GitHub verfügbar. Für die Nutzung muss ein SerpAPI-Schlüssel hinterlegt oder die verwendete API durch eine andere ersetzt werden, auf die Zugriff besteht. Zusätzlich wird ein GPU-basierter Server benötigt, auf dem Nemotron 3 läuft. Danach müssen die Aufrufe an Nemotron 3 so angepasst werden, dass sie auf die IP-Adresse der eigenen Bereitstellung verweisen. Die Anwendung kann frei geklont, verändert und nach Belieben verwendet werden.
FAQ
Kann diese Anwendung das Produkt auch kaufen?
Nein. Zwar ließe sich eine Kauf-Funktion grundsätzlich ergänzen, empfehlenswert wäre das jedoch nicht. In diesem Anwendungsfall geht es in erster Linie darum, den Zeitaufwand bei der Suche nach dem passenden Produkt zu verringern. Einen Kaufprozess ohne menschliche Kontrolle zu automatisieren, würde unnötige Risiken mit sich bringen.
Kann die Anwendung alle Plattformen durchsuchen, zum Beispiel Amazon?
Nur dann, wenn für die jeweilige Plattform eine passende API verfügbar ist. Mit der richtigen API kann die Anwendung nahezu jede Plattform durchsuchen. Amazon stellt zwar eine Product Advertising API bereit, allerdings kann der Zugriff darauf eingeschränkt sein. Bei den meisten E-Commerce-Plattformen lohnt sich daher ein Blick in die jeweilige Entwicklerdokumentation.
Kann ich statt Nemotron 3 Nano auch ein anderes LLM verwenden?
Ja, die Anwendung lässt sich grundsätzlich auch für andere Modelle anpassen. Dennoch wird Nemotron 3 Nano empfohlen, da es bei Aufgaben zur Produktfilterung besonders effizient und kostengünstig arbeitet. Größere Modelle wie Claude oder GPT können ebenfalls eingesetzt werden, verursachen jedoch unter Umständen höhere Token-Kosten.
Wie lassen sich Preisunterschiede zwischen verschiedenen Produkten berücksichtigen?
Sofern die verwendete API dies unterstützt, übergibt die Anwendung die Preisdaten gemeinsam mit der Produktbeschreibung an Nemotron 3 Nano. Die Prompts lassen sich so anpassen, dass Preisgrenzen definiert werden oder das Modell Preise entsprechend den eigenen Budgetvorgaben in die Bewertung einbezieht.
Ist mein Verlauf der Produktsuchen privat?
Das hängt davon ab, wie die Anwendung bereitgestellt wird. Wird sie lokal ausgeführt, bleiben alle Daten auf dem eigenen System. Bei einer Bereitstellung auf einem externen Server sollte genau geprüft werden, welche APIs verwendet werden und welche Datenschutzrichtlinien dort gelten. Zudem kann es sinnvoll sein, ein separates API-Konto zu verwenden und die Protokollierung von Daten möglichst stark einzuschränken.
Fazit
Der Nemofinder zeigt, wie Nemotron 3 Nano gezielte Aufgaben zur Produktsuche effizient bewältigen kann, ohne den zusätzlichen Aufwand größerer Sprachmodelle mitzubringen. Durch die Kombination aus intelligenten Such-APIs und den Reasoning-Fähigkeiten von Nemotron lassen sich Produkte schnell identifizieren, die exakt zu bestimmten Anforderungen passen – selbst über zahlreiche Produktlisten und Bewertungsquellen hinweg. Ob Haushaltsartikel, spezielles Zubehör oder Nischenprodukte: Die Anwendung kann über anpassbare Prompts und API-Integrationen flexibel an unterschiedliche Anforderungen angepasst werden.
Die eigentliche Stärke des Nemofinders liegt in seiner Flexibilität. Die Anwendung kann auf mehrere E-Commerce-Plattformen erweitert, um zusätzliche Filterkriterien ergänzt oder in umfassendere Workflows eingebunden werden.
