Beschreibung

AI xpress NET ist der Techtalk rund um KI-Themen im Startup- und Innovationszentrum AI xpress. Du bist Entwickler:in oder KI-Expert:in und interessierst dich für einen Austausch auf hohem technischem Niveau, dann ist AI xpress NET genau das Richtige für dich.

Die RAG-Technologie (Retrieval-Augmented Generation) mittels Vektor-Datenbanken kommt inzwischen oftmals dann zur Anwendung, wenn Large Language Models (LLM’s) mit Domänenwissen abgefragt werden sollen. Ihre Leistungsfähigkeit z.B. bei Generierung von Dokumenten mit Expertenwissen ist weithin bekannt. Sie wird besonders dann eingesetzt, wenn Menschen das Generierungsergebnis begutachten (human in the loop), also in Benutzungsfällen, wo die Dokumentgenerierung teilautomatisiert werden soll. Andererseits zeigen Testsuites wie SimplQA und TrustfulQA, dass RAG-basiertes Question Answering ohne Antwortauswahl, also bei der meisten Geschäftskommunikation, unzureichende Genauigkeit unter 60% und kaum Erklärbarkeit bietet.

Aktuelle Forschungsergebnisse legen nahe, dass dieses Problem durch Repräsentation des Domänenwissens mittels Knowledge Graphen (KG’s) in Verbindung mit den überragenden Sprachfähigkeiten der LLM’s gelöst werden kann: Die symbolische Wissensrepräsentation in KG’s ist präzise und semantisch deklariert, sie erlaubt Inferenzen und ermöglicht das Prompting von LLM’s mit exakten Statements. Da es fast keine fehlerhaften LLM-Antworten bei korrektem KG-Prompt gibt, kann die QA-Lösung über den KG kontinuierlich verbessert werden.

Der Vortrag legt einen Schwerpunkt auf die Erzeugung von Knowledge Graphen und zeigt, unter welchen Bedingungen diese automatisch oder zumindest halbautomatisch erfolgen kann. Denn natürlich liegt in der ökonomischen Bereitstellung von KG’s der entscheidende „Bottleneck“ der KG-Technologie. Wir erklären das sog. SmartGraph-Framework zur Erzeugung, Erweiterung und Anwendung von KG’s das von unserem Startup TextVerstehen GmbH entwickelt wird.

Im Anschluss besteht die Möglichkeit, bei Pizza und Getränken Fragen zu klären, Kontakte zu knüpfen und sich auszutauschen.

Nutzen für die BesucherInnen:

• Verständnis für die problematischen Use cases bei RAG mit Vektordatenbanken
• Entscheidungsgrundlagen für den Einsatz von LLM’s zusammen mit Knowledge Graphen
• Einordnung von verschiedenen Question Answering-Szenarien
• Einblick in das Vorgehen beim automatischen Aufbau von Knowledge Graphen

TIPP >> Unsere Veranstaltungsreihe “KI Roundtable” wäre auch für dich interessant!