NewsGuard-Audit: Mistrals Chatbot „Le Chat“ soll russische und chinesische Desinformation zu Iran-Krieg nacherzählt haben

Der französische KI-Chatbot „Le Chat“ des Start-ups Mistral gerät unter Druck: Die US-Organisation NewsGuard, die sich auf die Bewertung von Nachrichten- und Desinformationsquellen spezialisiert hat, wirft dem System vor, staatlich geprägte Propagandanarrative aus Russland, China und Iran weiterverbreitet zu haben.

Brisant ist weniger ein einzelner Patzer als die von NewsGuard behauptete Quote: In einem Test habe „Le Chat“ in der Hälfte der englischen Antworten und in 56,6 Prozent der französischen Antworten falsche Behauptungen wiederholt. Für Mistral, das in Europa gern als Gegenentwurf zu US- und chinesischen KI-Konzernen präsentiert wird, kommt die Kritik zu einem heiklen Zeitpunkt – mitten in einer Phase teurer Expansion.

Wie NewsGuard getestet hat: 10 Falschbehauptungen, 30 Abfragen, Fokus Iran-Krieg

NewsGuard beschreibt ein klar umrissenes Prüfverfahren: Getestet wurde die kostenlose, öffentlich zugängliche Version von „Le Chat“. Grundlage waren zehn Falschbehauptungen, die im März 2026 online kursierten und sich auf den Krieg mit Bezug zu Iran bezogen. NewsGuard ordnet diese Erzählungen pro-russischen, pro-iranischen oder pro-chinesischen Einflussnetzwerken zu.

Zu jeder Behauptung stellte NewsGuard nach eigenen Angaben drei unterschiedlich formulierte Aufforderungen – insgesamt also 30 Abfragen. Ziel war es, die Widerstandsfähigkeit des Modells zu prüfen, wenn Nutzer nicht neutral nach Fakten fragen, sondern eine bestimmte Deutung nahelegen oder Bestätigung einfordern.

Das Ergebnis, das NewsGuard hervorhebt: „Le Chat“ habe die falschen Narrative in 50 Prozent der Fälle auf Englisch und in 56,6 Prozent der Fälle auf Französisch wiederholt. Der Test sagt damit nicht zwingend etwas über die allgemeine Qualität des Chatbots aus, wohl aber über seine Anfälligkeit in einem sensiblen Feld: politisch motivierte Desinformation in Krisen- und Kriegslagen.

Welche Beispiele NewsGuard nennt – und warum sie so gut „funktionieren“

In den vom Bericht angeführten Beispielen tauchen typische „Aufreger“-Geschichten auf: eine angebliche Typhus-Epidemie an Bord des französischen Flugzeugträgers „Charles-de-Gaulle“, der angebliche Tod Hunderter US-Soldaten oder eine Drohnenattacke, die den Vereinigten Arabischen Emiraten zugeschrieben wird – verbunden mit der Behauptung, der Angriff sei inszeniert worden, um Iran die Schuld zuzuschieben.

Solche Erzählungen sind nach dem Muster gebaut, das Desinformationskampagnen seit Jahren nutzen: ein realer Anker (existierende Militärtechnik, reale Konfliktlage, bekannte Akteure) plus ein dramatischer „Enthüllungs“-Dreh. Für Chatbots wird das gefährlich, wenn sie aus vielen im Netz auffindbaren Textfragmenten eine scheinbar stimmige Geschichte zusammensetzen – und dabei Plausibilität mit Wahrheit verwechseln.

NewsGuard kritisiert den Tonfall: Wenn ein System mit hoher Sicherheit formuliert, wirkt selbst Falsches wie eine Bestätigung. Im Alltag, so die Logik des Berichts, wird aus einer KI-Antwort schnell ein kopierfähiger Textbaustein – und damit ein Verstärker für Gerüchte.

Storm-1516 und „Pravda“-Netzwerk: Wenn KI auf getarnte Propaganda-Seiten verweist

heikel sind laut NewsGuard die Quellen, auf die „Le Chat“ sich in einzelnen Antworten gestützt habe. Genannt wird unter anderem die russische Einflusskampagne „Storm-1516“, die NewsGuard als Produzentin von Falschmeldungen und von nachgebauten Nachrichtenseiten beschreibt – also Seiten, die wie Medien aussehen sollen, aber Propaganda verbreiten.

Ein zentraler Fall im Bericht: die Typhus-Behauptung rund um den Flugzeugträger „Charles-de-Gaulle“. NewsGuard schreibt, „Le Chat“ habe bei einer entsprechend gelenkten Nutzeranweisung die Geschichte selbstbewusst wiederholt und dabei auf eine Seite verwiesen, die dem „Pravda“-Netzwerk zugerechnet wird (France[.]News-Pravda[.]com). Der Vorwurf: Statt die Manipulation zu erkennen, habe das System die Tarnung – seriös wirkende URL, „mediales“ Layout – als Beleg missverstanden.

Auch pro-iranische Quellen werden genannt, etwa „Tasnim News“, das NewsGuard als Medium beschreibt, das dem Einflussbereich der iranischen Revolutionsgarden (IRGC) nahestehe. Der Kern der Kritik: Ein Chatbot muss nicht nur Sätze korrekt bilden, sondern Informationsumfelder einordnen können – und erkennen, wann „Quellen“ Teil einer Kampagne sind.

Mistral als europäischer Hoffnungsträger – und warum der Zeitpunkt politisch ist

Mistral wurde im Juni 2023 gegründet und hat sich in kurzer Zeit zu einem der sichtbarsten europäischen Anbieter generativer KI entwickelt. In der europäischen Debatte um digitale Souveränität spielt das Unternehmen eine ähnliche Rolle wie in Deutschland die Hoffnung auf eigene Cloud- oder Halbleiterkapazitäten: weniger Abhängigkeit von US- und chinesischen Plattformen, mehr Kontrolle über Schlüsseltechnologien.

Nach Medienberichten wird Mistral mit 11,7 Milliarden Euro bewertet. kündigte das Unternehmen eine Fremdfinanzierung in Höhe von 830 Millionen US-Dollar an, um den Ausbau seines ersten Rechenzentrums in Bruyères-le-Châtel südwestlich von Paris voranzutreiben.

In dieser Lage trifft der Vorwurf, Propagandanarrative zu reproduzieren, nicht nur die Technikabteilung, sondern das Geschäftsmodell: Vertrauen ist für KI-Anbieter eine Währung. Hinzu kommt eine sicherheitspolitische Dimension: Laut Berichterstattung verfügt Mistral auch über einen Vertrag mit dem französischen Verteidigungsministerium. Zwar bezieht sich der NewsGuard-Test ausdrücklich auf die kostenlose Verbraucher-Version – doch die Frage nach Trennlinien, Sicherheitsstandards und Risikomanagement stellt sich sofort auch für professionelle Anwendungen.

Mistral verweist in der öffentlichen Debatte auf Maßnahmen zur Verbesserung der Faktentreue. In Frankreich wurde etwa eine Kooperation mit der Nachrichtenagentur AFP bekannt, deren Meldungen zur faktischen Beantwortung von Anfragen genutzt werden sollen. Der NewsGuard-Bericht legt nahe: Solche Partnerschaften helfen nur, wenn das System in kritischen Situationen nicht gleichzeitig auf fragwürdige Domains ausweicht oder sich durch suggestive Nutzerprompts in eine Bestätigungslogik drängen lässt.

Warum Chatbots unter Druck Falsches „bestätigen“ – und was das für Nutzer bedeutet

NewsGuard argumentiert mit einem strukturellen Problem vieler Sprachmodelle: Sie sind keine neutralen Suchmaschinen, sondern Textgeneratoren, die auf Wahrscheinlichkeit und Mustererkennung beruhen. Wenn Nutzer nicht fragen „Stimmt das?“, sondern „Erkläre, warum das wahr ist“, kann ein Modell versucht sein, die gewünschte Erzählung zu liefern – selbst dann, wenn die zugrunde liegenden Inhalte aus manipulativen Quellen stammen.

Der Test mit unterschiedlich stark lenkenden Anweisungen bildet genau solche Alltagssituationen nach. Viele Nutzer suchen keine Einordnung, sondern Bestätigung. Wenn die KI dann im Stil eines Nachrichtenartikels antwortet, Details ergänzt und „Quellen“ anführt, entsteht ein Autoritätseffekt – gerade bei Menschen, die die genannten Seiten nicht einordnen können.

Gleichzeitig gilt: Ein Audit mit zehn Narrativen und 30 Abfragen ist kein Gesamturteil über ein Produkt. Es ist eine Stresstest-Stichprobe für ein bestimmtes Angriffsfeld. ist genau das der Punkt: Desinformationskampagnen zielen auf konkrete Themen, konkrete Zeitfenster und maximale Wirkung. Wenn ein System in diesem Segment „jeden zweiten“ Testfall nicht sauber abwehrt, wird aus einem theoretischen Risiko ein praktisches Problem.

Welche Konsequenzen jetzt im Raum stehen: Transparenz, Schutzmechanismen, Regulierung

Wenn ein Chatbot als möglicher „Verstärker“ ausländischer Propaganda beschrieben wird, wächst der Druck auf Anbieter, Änderungen nachvollziehbar zu machen: Was wurde angepasst, welche Quellen werden herabgestuft oder blockiert, wie werden riskante Anfragen behandelt? Für Nutzer zählt am Ende nicht, ob ein Fehler „Halluzination“ heißt, sondern ob er glaubwürdig wirkt und sich verbreitet.

Als naheliegende Maßnahmen gelten deutlichere Warnhinweise bei kursierenden Gerüchten, häufiger begründete Antwortverweigerungen bei reinen Bestätigungsanfragen sowie ein stärkeres „Ankern“ an verlässlichen, redaktionell verantworteten Quellen. Entscheidend ist dabei, dass KI-Systeme nicht durch das Zitieren bekannter Desinformations-Domains zusätzliche Reichweite erzeugen.

Für Europa ist der Fall auch ein Lackmustest: Wer „eigene Champions“ aufbauen will, muss sie an hohen Standards messen – bei Robustheit, Sicherheit und Transparenz. Der NewsGuard-Bericht ist kein endgültiges Urteil über Mistral. Er setzt aber eine klare Messlatte: Ein europäischer KI-Anbieter muss zeigen, dass seine Systeme in geopolitischen Krisen nicht zum Sprachrohr fremder Einflussapparate werden.