Innovation Lab

KI mit Oracle – Wir implementieren einen RAG-basierten Chat in Oracle

In dieser Serie behandeln wir das Thema der Benutzung von GenAI in Oracle am Beispiel eines Chats unter Verwendung von ChatGPT.
Es geht primär um die Nutzung der API-Schnittstelle auf Basis von REST-Requests. Es werden die Konzepte und deren Implementationen behandelt, um letztendlich ein Framework zu erhalten, das (auch) einen RAG-basierten Chat implementiert, also einen Chat, der auf eine Firmeneigene Wissensbasis zurückgreifen kann (RAG=Retrieval Augmented Generation).

Dieses Framework ist im Kern in Oracle PL/SQL implementiert. Das bietet eine optimale Integrierbarkeit in bestehende datenbankgestützte Applikationen. Neben OCI (Oracle Cloud Infrastructure) setzen wir bewusst auf On-Premises-Lösungen, um eine flexible, plattformunabhängige Architektur für KI in Oracle zu gewährleisten.

Let’s Talk

Kontaktieren Sie uns
X

Teil 1: Basics – Oracle & KI im Chat

  • Konzept: Warum eine eigene Lösung? Vorteile der PL/SQL-Implementierung für Generative AI mit Oracle.
  • Zwei Wege zur Oracle ChatGPT-Anbindung: Oracle 23ai-Bordmittel vs. REST-API mit UTL_HTTP & JSON.

Im Video erläutern wir, warum eine eigene RAG-Chat-Implementierung mit Oracle PL/SQL sinnvoll ist.
Um den wichtigsten Kernbaustein, die Schnittstelle zum LLM, zu implementieren stehen zwei Wege zur Auswahl:

  • Oracle 23ai-Bordmittel (dbms_vector_chain.utl_to_generate_text)
  • UTL_HTTP für eine REST-API-Anbindung (etwas aufwendiger)

Beide Wege beschreiben und präsentieren wir kurz, die Vor- und Nachteile werden ebenso benannt.

Download Präsentation als PDF

X

Teil 2 – Oracle KI Chat als PL/SQL

Erweiterung von einer einfachen Abfrage zu einem vollständigen Chat-Dialog

Nachdem in Teil 1 die REST-API-Schnittstelle implementiert wurde, erfolgt nun die Integration in einen datenbankgestützten Chat (PL/SQL) . Wir erläutern die notwendigen Konzepte und Grundlagen und führen die fertige Implementation vor.

Download Präsentation als PDF