KI mit Halluzinationsproblemen

Keine Antwort? Denk‘ dir eine aus

Künstliche Intelligenz (KI) steht vor einer Herausforderung: dem Halluzinationsproblem. Wenn ein KI-Modell eine Antwort nicht kennt, erfindet es einfach eine, unabhängig von ihrer Sinnhaftigkeit. Um dieses Problem anzugehen, hat die generative KI-Schreibplattform Writer heute die öffentliche Betaversion von Knowledge Graph angekündigt.

Vorhandene Quellen abgleichen

Dieses Tool ermöglicht es Unternehmen, alle relevanten Informationen in einer Graphdatenbank zu sammeln, um das Halluzinationsproblem der KI zu lösen. Der Knowledge Graph dient als Inhaltsvalidator, der generierte Inhalte mit vorhandenen Quellen abgleicht. May Habib, CEO von Writer, betont, dass Knowledge Graph es ermöglicht, wichtige Informationen wie Datenbanken, Wissensdatenbanken, freigegebene Laufwerke und Chats einfach zu integrieren, um sie spezifischen Anwendungsfällen der KI zur Verfügung zu stellen.

Hinweis auf Faktenüberprüfung

Das Tool markiert automatisch Inhalte, die einer Faktenüberprüfung bedürfen, und schlägt gegebenenfalls eine Ersatzaussage vor, die auf den relevantesten Inhalten im Knowledge Graph basiert. Es zeigt die Quelle des Ersatzmaterials an und gibt dem menschlichen Mitarbeiter die Möglichkeit, den Vorschlag anzunehmen oder abzulehnen. Obwohl Knowledge Graph nicht perfekt ist, ist es ein Schritt in die richtige Richtung, um Unternehmen dabei zu helfen, die Auswirkungen des Halluzinationsproblems der KI zu reduzieren.

Neue Funktionen jetzt verfügbar

Writer hat außerdem angekündigt, dass es möglich ist, ein eigenes Language Model (LLM) auf die Writer-Plattform zu übertragen, um das Writer LLM zu ersetzen. Außerdem kann Knowledge Graph eine Verbindung zu extern erstellten LLM herstellen. Beide Funktionen, die Nutzung eines externen LLM und der Knowledge Graph, sind ab sofort in der offenen Betaversion verfügbar.