OpenAI und Axel Springer vereinbaren, KI und Journalismus zu integrieren und KI-„Halluzinationen“ zu bekämpfen

Axel Springer, eines der größten Medienunternehmen in Europa, arbeitet mit OpenAI zusammen, um Journalismus in ChatGPT-Technologien für künstliche Intelligenz (KI) zu integrieren, sagte der deutsche Verlag am 13. Dezember in einer Erklärung auf seinem Blog.

Die Zusammenarbeit umfasst die Nutzung von Inhalten der Medienmarken Axel Springer, um das Training der großen Sprachmodelle von OpenAI voranzutreiben. Ziel ist es, ein besseres ChatGPT-Benutzererlebnis mit aktuellen und maßgeblichen Inhalten zu verschiedenen Themen und mehr Transparenz durch die Zuordnung und Verlinkung vollständiger Artikel zu erreichen.

Generative KI-Chatbots kämpfen seit langem mit der sachlichen Genauigkeit und generieren gelegentlich falsche Informationen, die gemeinhin als „Halluzinationen“ bezeichnet werden. Initiativen zur Reduzierung dieser KI-Halluzinationen wurden im Juni in einem Beitrag auf der Website von OpenAI angekündigt.

KI-Halluzinationen treten auf, wenn künstliche Intelligenzsysteme sachlich falsche Informationen generieren, die irreführend sind oder nicht durch Daten aus der realen Welt gestützt werden. Halluzinationen können sich in verschiedenen Formen äußern, z. B. indem sie falsche Informationen generieren, nicht existierende Ereignisse oder Personen erfinden oder ungenaue Angaben zu bestimmten Themen machen.

Die Mischung aus KI und Journalismus hat Herausforderungen mit sich gebracht, darunter Bedenken hinsichtlich Transparenz und Fehlinformationen. Eine Studie von Ipsos Global ergab, dass 56 % der Amerikaner und 64 % der Kanadier glauben, dass KI die Verbreitung von Fehlinformationen verschärfen wird, und weltweit sind 74 % der Meinung, dass KI die Erstellung realistischer Fake News erleichtert.

Die Partnerschaft zwischen OpenAI und Axel Springer soll sicherstellen, dass ChatGPT-Benutzer Zusammenfassungen von Axel Springers Medienmarken generieren können, darunter Politico, Business Insider, Bild und Die Welt.

Verwandt: Open-Source-KI kann private Modelle wie Chat-GPT übertreffen – Forschung von ARK Invest

Allerdings wird auch das Potenzial von KI zur Bekämpfung von Fehlinformationen untersucht, wie sich an Tools wie AI Fact Checker und der Integration von GPT-4 in seinen Edge-Browser durch Microsoft zeigt.

Die Associated Press hat auf diese Bedenken mit der Herausgabe von Richtlinien reagiert, die den Einsatz generativer KI in der Nachrichtenberichterstattung einschränken und dabei die Bedeutung der menschlichen Aufsicht hervorheben.

Im Oktober 2023 entwickelte ein Team von Wissenschaftlern der Universität für Wissenschaft und Technologie Chinas und des YouTu Lab von Tencent ein Tool zur Bekämpfung von „Halluzinationen“ durch Modelle der künstlichen Intelligenz (KI).

Zeitschrift: Deepfake K-Pop-Pornos, weckte Grok, „OpenAI hat ein Problem“, Fetch.AI: AI Eye