Freigeben über

Generative KI mit Azure-Datenbank für PostgreSQL

Generative KI bezieht sich auf eine Klasse von KI-Algorithmen, die aus vorhandenen Multimediainhalten lernen und neue Inhalte erzeugen können. Der produzierte Inhalt kann durch Techniken wie Anregungen und Feinjustierung angepasst werden. Generative KI-Algorithmen wenden bestimmte Machine Learning-Modelle an:

  • Transformatoren und wiederkehrende neurale Netzwerke (RNNs) für die Textgenerierung
  • Generative adversarielle Netzwerke (GANs) und variationale Autoencoder (VAEs) für die Bildgenerierung

Generative KI wird in der Bild- und Musiksynthese und im Gesundheitswesen verwendet, zusammen mit allgemeinen Aufgaben wie Text autovervollständigen, Textzusammenfassung und Übersetzung. Generative KI-Techniken ermöglichen Features für Daten wie Clustering und Segmentierung, semantische Suche und Empfehlungen, Themenmodellierung, Fragebeantwortung und Anomalieerkennung.

Das folgende Video zeigt die Verwendung von generativen KI mit Azure Database for PostgreSQL und der pgvector Erweiterung, die Ihnen dabei helfen kann, die Konzepte in diesem Artikel zu verstehen.

OpenAI

OpenAI ist ein Forschungs- und Technologieunternehmen, das für seine Pionierarbeit im Bereich KI und maschinelles Lernen bekannt ist. Seine Mission besteht darin, sicherzustellen, dass künstliche allgemeine Intelligenz (AGI), die sich auf hoch autonome KI-Systeme bezieht, die Menschen in den meisten wirtschaftlich wertvollen Arbeiten überperformen können, allen Menschen zugute kommt. OpenAI brachte modernste generative Modelle wie GPT-3, GPT-3.5 und GPT-4 auf den Markt.

Azure OpenAI ist ein Microsoft-Dienstangebot zum Erstellen von generativen KI-Anwendungen mithilfe von Azure. Azure OpenAI bietet Kunden erweiterte Sprach-KI mit OpenAI GPT-4, GPT-3, Codex, DALL-E und Flüstermodellen mit den Sicherheits- und Unternehmensfunktionen von Azure. Azure OpenAI entwickelt die APIs gemeinsam mit OpenAI, um Kompatibilität und einen reibungslosen Übergang von einem zum anderen zu gewährleisten.

Mit Azure OpenAI erhalten Kunden die Sicherheitsfunktionen von Microsoft Azure, wobei sie die gleichen Modelle wie OpenAI ausführen. Azure OpenAI bietet private Netzwerke, regionale Verfügbarkeit und verantwortungsvolle KI-Inhaltsfilterung.

Weitere Informationen zu Azure OpenAI.

Großes Sprachmodell

Ein großes Sprachmodell (LLM) ist eine Art VON KI-Modell, das auf massiven Textdatenmengen trainiert wird, um menschliche Sprache zu verstehen und zu generieren. LLMs basieren in der Regel auf Deep Learning-Architekturen, z. B. Transformatoren. Sie sind bekannt für ihre Fähigkeit, eine breite Palette natürlicher Sprachverständnis- und Generationsaufgaben auszuführen. Der Azure OpenAI-Dienst und der ChatGPT von OpenAI sind Beispiele für LLM-Angebote.

Zu den wichtigsten Merkmalen und Funktionen von LLMs gehören:

  • Maßstab: Der Maßstab der LLMs ist im Hinblick auf die Anzahl der Parameter, die ihre Architekturen verwenden, enorm. Modelle wie GPT-3 enthalten von Hunderten millionen bis Billionen Parametern, die es ihnen ermöglichen, komplexe Muster in der Sprache zu erfassen.
  • Vortraining: LLMs werden auf einem großen Korpus von Textdaten aus dem Internet vortrainiert. Diese Vorschulung ermöglicht es ihnen, Grammatik, Syntax, Semantik und ein breites Spektrum an Kenntnissen über Sprache und Welt zu erlernen.
  • Feinabstimmung: Nach dem Vortraining können LLMs auf bestimmte Aufgaben oder Domänen mit kleineren, aufgabenspezifischen Datasets abgestimmt werden. Mit diesem Feinabstimmungsprozess können sie sich an spezialisiertere Aufgaben anpassen, z. B. Textklassifizierung, Übersetzung, Zusammenfassung und Fragebeantwortung.

GPT

GPT steht für Generative Pretrained Transformer und bezieht sich auf eine Reihe großer Sprachmodelle, die OpenAI entwickelt hat. Die GPT-Modelle sind neurale Netzwerke, die in großen Datenmengen aus dem Internet vortrainiert sind, sodass sie in der Lage sind, menschlichen Text zu verstehen und zu generieren.

Hier ist eine Übersicht über die wichtigsten GPT-Modelle und ihre wichtigsten Merkmale:

  • GPT-3: Veröffentlicht im Juni 2020 und ein bekanntes Modell in der GPT-Serie. Es hat 175 Milliarden Parameter, was es zu einem der größten und leistungsstärksten Sprachmodelle macht.

    GPT-3 erzielte eine bemerkenswerte Leistung bei einer breiten Palette natürlicher Sprachverständnis- und Generierungsaufgaben. Es kann Aufgaben wie die Textvervollständigung, die Übersetzung und die Fragebeantwortung mit menschlicher Sprachgewandtheit ausführen.

    GPT-3 ist in verschiedene Modellgrößen unterteilt, von den kleinsten (125 Millionen Parametern) bis hin zu den größten (175 Milliarden Parametern).

  • GPT-4: Das neueste GPT-Modell von OpenAI. Es hat 1,76 Billionen Parameter.

Vektoren

Ein Vektor ist ein mathematisches Konzept, das in linearer Algebra und Geometrie verwendet wird, um Größen darzustellen, die sowohl Größe als auch Richtung aufweisen. Im Kontext des maschinellen Lernens werden Vektoren häufig verwendet, um Datenpunkte oder Features darzustellen.

Zu den wichtigsten Attributen und Vorgängen von Vektoren gehören:

  • Größe: Die Länge oder Größe eines Vektors, die häufig als Norm bezeichnet wird, stellt die Größe der Daten dar. Es ist eine nicht negative reelle Zahl.
  • Richtung: Die Richtung gibt die Ausrichtung oder den Winkel der menge an, die sie darstellt, im Verhältnis zu einem Bezugspunkt oder Koordinatensystem.
  • Komponenten: Ein Vektor kann in seine Komponenten entlang verschiedener Achsen oder Dimensionen zerlegt werden. In einem 2D-Kartesischen Koordinatensystem kann ein Vektor als (x, y) dargestellt werden, wobei x und y ihre Komponenten entlang der X-Achse bzw. der Y-Achse sind. Ein Vektor in n Dimensionen ist ein n-Tupel ({x1, x2… xn}).
  • Addition und skalare Multiplikation: Vektoren können zusammen addiert werden, um neue Vektoren zu bilden, und sie können mit Skalaren (reelle Zahlen) multipliziert werden.
  • Dot-Produkte und Kreuzprodukte: Vektoren können über Punktprodukte (Skalarprodukte) und Kreuzprodukte (Vektorprodukte) kombiniert werden.

Vektordatenbanken

Eine Vektordatenbank, auch als Vektordatenbank-Verwaltungssystem (Vector Database Management System, DBMS) bezeichnet, ist ein Datenbanksystemtyp, der zum effizienten Speichern, Verwalten und Abfragen von Vektordaten konzipiert ist. Herkömmliche relationale Datenbanken behandeln in erster Linie strukturierte Daten in Tabellen, während Vektordatenbanken für die Speicherung und das Abrufen von mehrdimensionalen Datenpunkten optimiert sind, die als Vektoren dargestellt werden. Diese Datenbanken sind nützlich für Anwendungen, bei denen Vorgänge wie Ähnlichkeitssuchen, Geospatialdaten, Empfehlungssysteme und Clustering beteiligt sind.

Zu den wichtigsten Merkmalen von Vektordatenbanken gehören:

  • Vektorspeicher: Vektordatenbanken speichern Datenpunkte als Vektoren mit mehreren Dimensionen. Jede Dimension stellt ein Feature oder Attribut des Datenpunkts dar. Diese Vektoren können eine breite Palette von Datentypen darstellen, einschließlich numerischer, kategorisiererischer und textbezogener Daten.
  • Effiziente Vektorvorgänge: Vektordatenbanken sind für die Durchführung von Vektorvorgängen optimiert, wie z. B. Vektorzugabe, Subtraktion, Punktprodukte und Ähnlichkeitsberechnungen (z. B. Kosinusähnlichkeit oder Euklidischer Abstand).
  • Effiziente Suche: Effiziente Indizierungsmechanismen sind entscheidend für den schnellen Abruf ähnlicher Vektoren. Vektordatenbanken verwenden verschiedene Indizierungsmechanismen, um einen schnellen Abruf zu ermöglichen.
  • Abfragesprachen: Vektordatenbanken stellen Abfragesprachen und APIs bereit, die auf Vektorvorgänge und Ähnlichkeitssuchen zugeschnitten sind. Mit diesen Abfragesprachen können Benutzer ihre Suchkriterien effizient ausdrücken.
  • Ähnlichkeitssuche: Vektordatenbanken zeichnen sich bei Ähnlichkeitssuchen aus, sodass Benutzer Datenpunkte finden können, die einem bereitgestellten Abfragepunkt ähneln. Diese Eigenschaft ist in Such- und Empfehlungssystemen wertvoll.
  • Geospatialdatenverarbeitung: Einige Vektordatenbanken sind für Geospatialdaten konzipiert, sodass sie gut für Anwendungen wie standortbasierte Dienste, geografische Informationssysteme (GISs) und kartenbezogene Aufgaben geeignet sind.
  • Unterstützung für verschiedene Datentypen: Vektordatenbanken können verschiedene Datentypen speichern und verwalten, z. B. Vektoren, Bilder und Text.

PostgreSQL kann mit Hilfe der pgvector-Erweiterung die Fähigkeiten einer Vektordatenbank erlangen.

Einbettungen

Einbettungen sind ein Konzept in der Maschinellen Lern- und Verarbeitung natürlicher Sprachen, das objekte (z. B. Wörter, Dokumente oder Entitäten) als Vektoren in einem multidimensionalen Raum darstellt.

Diese Vektoren sind oft dicht. Das heißt, sie haben eine hohe Anzahl von Dimensionen. Sie werden durch verschiedene Techniken gelernt, einschließlich neuronaler Netzwerke. Einbettungen zielen darauf ab, semantische Beziehungen und Ähnlichkeiten zwischen Objekten in einem fortlaufenden Vektorraum zu erfassen.

Zu den gängigen Arten von Einbettungen gehören:

  • Word: Bei der Verarbeitung natürlicher Sprachen stellen Einbettungen Wörter als Vektoren dar. Jedes Wort wird einem Vektor in einem hochdimensionalen Raum zugeordnet, in dem Wörter mit ähnlichen Bedeutungen oder Kontexten näher aneinander liegen. Word2Vec und GloVe sind beliebte Techniken zum Einbetten von Wörtern.
  • Dokument: Dokumenteinbettungen stellen Dokumente als Vektoren dar. Doc2Vec ist beliebt für das Erstellen von Dokumenteinbettungen.
  • Bild: Bilder können als Einbettungen dargestellt werden, um visuelle Features für Aufgaben wie die Objekterkennung zu erfassen.

Einbettungen sind zentral, um komplexe, hochdimensionale Daten in einer Form darzustellen, die machine Learning-Modelle problemlos verarbeiten können. Sie können auf große Datasets trainiert und dann als Features für verschiedene Aufgaben verwendet werden. LLMs verwenden sie.

PostgreSQL kann die Funktionen zum Generieren von Vektoreinbettungen mit der Azure AI-Erweiterung OpenAI-Integration gewinnen.

Szenarien

Generative KI verfügt über eine breite Palette von Anwendungen in verschiedenen Bereichen und Branchen, darunter Technologie, Gesundheitsversorgung, Unterhaltung, Finanzen, Fertigung und vieles mehr. Im Folgenden finden Sie einige allgemeine Aufgaben, die Benutzer mithilfe von generativen KI ausführen können:

  • Semantische Suche:
    • Generative KI ermöglicht die semantische Suche nach Daten anstelle der lexikographischen Suche. Letzteres sucht nach exakten Übereinstimmungen mit Abfragen, während die semantische Suche Inhalte findet, die der Absicht der Suchabfrage entsprechen.
  • Chatbots und virtuelle Assistenten:
    • Entwickeln Sie Chatbots, die sich an natürlichen kontextorientierten Unterhaltungen beteiligen können; Um z. B. Selbsthilfe für Kunden zu implementieren.
  • Empfehlungssysteme:
    • Verbessern Sie Empfehlungsalgorithmen, indem Sie Einbettungen oder Darstellungen von Elementen oder Benutzern generieren.
  • Clustering und Segmentierung:
    • Generative KI-generierte Einbettungen ermöglichen Clusteringalgorithmen zum Clustern von Daten, sodass ähnliche Daten gruppiert werden. Diese Clustering ermöglicht Szenarien wie kundensegmentierung, wodurch Werbekunden ihre Kunden je nach Ihren Attributen unterschiedlich ansprechen können.
  • Inhaltsgenerierung:
    • Generieren Sie menschenähnlichen Text für Anwendungen wie Chatbots, neuartige/Poesie-Kreationen und natürliches Sprachverständnis.
    • Erstellen Sie realistische Bilder, Grafiken oder Designs für Grafiken, Unterhaltung und Werbung.
    • Generieren Sie Videos, Animationen oder Videoeffekte für Filme, Spiele und Marketing.
    • Musik generieren.
  • Übersetzung:
    • Übersetzen Sie Text von einer Sprache in eine andere.
  • Zusammenfassung:
    • Fassen Sie lange Artikel oder Dokumente zusammen, um wichtige Informationen zu extrahieren.
  • Datenerweiterung:
    • Generieren Sie zusätzliche Datenbeispiele, um Schulungsdatensätze für Machine Learning-Modelle zu erweitern und zu verbessern.
    • Erstellen Sie synthetische Daten für Szenarien, deren Erfassung in der realen Welt schwierig oder teuer ist, z. B. in der medizinischen Bildgebung.
  • Wirkstoffforschung:
    • Generieren Sie molekulare Strukturen und prognostizieren Sie potenzielle Arzneimittelkandidaten für die pharmazeutische Forschung.
  • Spieleentwicklung:
    • Erstellen Sie Spielinhalte, einschließlich Levels, Charaktere und Texturen.
    • Erstellen Sie realistische Spielumgebungen und Landschaften.
  • Datenbereinigung und Vervollständigung
    • Bereinigung verrauschter Daten durch Generierung sauberer Datenproben.
    • Geben Sie fehlende oder unvollständige Daten in Datasets ein.

Verwandte Inhalte

  • Last updated on