III. Forschung: Wenn ChatGPT & Co. halluzinieren

Wenn KI-Modelle völlig falsche Ergebnisse angeben, dann spricht man vom „Halluzinieren“. Dagegen könnten Wissensgraphen helfen.

Künstliche Intelligenz und Chat GPT

„Die Richtigkeit von Aussagen, die uns künstlich intelligente Sprachmodelle wie ChatGPT liefern, lässt sich mit Wissensgraphen exakt überprüfen“. Davon ist Informatikwissenschaftler Prof. Harald Sack vom Karlsruher Institut für Technologie (KIT) überzeugt. „Vereinfacht gesagt handelt es sich bei Wissensgraphen um sehr große Datenbank-Systeme im Internet, die zahlreiche häufig eingegebene Suchwörter integrieren und mit Hilfe künstlicher Intelligenz damit verbundene Inhalte aus vielen unterschiedlichen Quellen anzeigen“, sagt der Professor für Information Services Engineering am FIZ Karlsruhe - Leibniz-Institut für Informationsinfrastruktur. Zum Beispiel könnten so neben dem eigentlichen Suchergebnis weiterführende, relevante Informationen aus verschiedenen anderen Quellen dargestellt werden. Prof. Harald Sack sieht in solchen Wissensgraphen einen geeigneten Weg, um für die Wahrheit einer generierten Aussage entweder zuverlässige Belege zu finden, oder an denjenigen Angaben Zweifel zu begründen, bei denen offenbar Fakten mit Fiktion vertauscht wurden.

„Bei Deep Learning-Modellen wie Chat-GPT steht man praktisch vor einer ‚Black Box‘. Deshalb ist es wichtig, das Potenzial von Wissensgraphen für eine bessere Erklärbarkeit und Vertrauenswürdigkeit solcher Textgenerierungssysteme zu erkennen und zu nutzen“, betont Sack. Unter seiner Regie läuft derzeit auf der Lernplattform openHPI des Hasso-Plattner-Instituts ein Seminar. Zu dem sechswöchigen, kostenlosen Kurs „Knowledge Graphs – Foundations and Applications“ in englischer Sprache kann man sich noch anmelden.

Zurück zur Newsübersicht

Copyright 2023. Alle Rechte vorbehalten
Einstellungen gespeichert

Datenschutzeinstellungen

user_privacy_settings

Domainname: osterchrist.de
Ablauf: 30 Tage
Speicherort: Localstorage
Beschreibung: Speichert die Privacy Level Einstellungen aus dem Cookie Consent Tool "Privacy Manager".

user_privacy_settings_expires

Domainname: osterchrist.de
Ablauf: 30 Tage
Speicherort: Localstorage
Beschreibung: Speichert die Speicherdauer der Privacy Level Einstellungen aus dem Cookie Consent Tool "Privacy Manager".

PHPSESSID

Domainname: osterchrist.de
Ablauf: Nach Ende der Sitzung
Speicherort: Cookies
Beschreibung: Speichert technisch notwendige Informationen über die laufende Sitzung

csrf_https-contao_csrf_token

Domainname: osterchrist.de
Ablauf: Nach Ende der Sitzung
Speicherort: Cookies
Beschreibung: Wird angelegt, um CSFR Angriff auf die laufende Sitzung zu blockieren.
You are using an outdated browser. The website may not be displayed correctly. Close