Risikoregister · Eintrag
Q1 · VorhersehbarAir-Canada-Chatbot
Ein Gericht machte eine Fluggesellschaft für eine Erstattungsregel haftbar, die ihr Chatbot erfunden hatte.
Dokumentierte, vorhersehbare Risiken, die trotzdem ignoriert wurden. Es fehlt an Aufmerksamkeit, nicht an Information.
Warum dieser Quadrant
Der zugrunde liegende Mechanismus war eine ganz gewöhnliche fahrlässige Falschangabe mit einem einzigen Kläger und einem gedeckelten, bezifferbaren Schaden, eine einfache lineare Auszahlung mit dünnem, begrenztem Tail. Deshalb bleibt der Fall in Q1, auch wenn der Übertragungsweg, ein KI-Chatbot, exotisch genug klang, dass Air Canada für eine unklarere Haftungskategorie argumentieren wollte.
Die Aktenlage
- 812,02 C$ an Schadenersatz und Gebühren insgesamt, angeordnet durch das Tribunalgesichert
- 650,88 C$ dieser Summe entfielen auf die Differenz zum Trauerfalltarifgesichert
- 36,14 C$ Zinsen vor Urteilsspruch und 125 C$ Gebühren des Tribunals machten den Rest ausgesichert
- Datum des Vorfalls: November 2022 (Chatbot-Interaktion und Buchung)gesichert
- Datum der Entscheidung: 14. Februar 2024, BC Civil Resolution Tribunal, Moffatt v. Air Canada, 2024 BCCRT 149gesichert
- Der Chatbot behauptete, es gebe ein rückwirkendes Fenster von 90 Tagen, um den Trauerfallrabatt zu beantragengesichert
- Air Canada bot zunächst einen Gutschein über 200 $ CAD an, bevor Moffatt die Klage einreichtewahrscheinlich
- Gesamtkosten des Hin- und Rückflugtickets laut Berichterstattung von CBS „über 1.400 $ CAD“unsicher
- Mitglied des Tribunals: Christopher C. Riversgesichert
- Das Versicherungsprodukt von Armilla/Lloyd's gegen KI-Halluzinationen kam 2025 auf den Markt und nannte Air Canada als auslösenden Fallwahrscheinlich
Quellen
Der Newsletter
Jede Woche eine Risikogeschichte, auseinandergenommen wie diese: was bekannt war, was ignoriert wurde, und in welchem Quadranten sie wirklich lag.
Kein Spam, eine E-Mail pro Woche.