Laut Axios akzeptieren US-Gerichte zunehmend Gespräche mit KI-Chatbots als zulässige Beweismittel in Gerichtsverfahren. In der Klage Musk v. OpenAI wurde das persönliche Tagebuch des OpenAI-Präsidenten Greg Brockman als Beweismittel offengelegt. Im Februar entschied ein Bundesrichter, dass ein Übungsgespräch eines Mannes mit Claude zur Vorbereitung auf ein Treffen mit seinem Anwalt als strafrechtlicher Beweis gegen ihn verwendet werden kann. KI-Chataufzeichnungen sind zudem in einem Mordfall in Florida und in einem Brandstiftungsfall in Los Angeles als Beweismittel aufgetaucht.
Rechtsexperten warnen, dass KI-Chatbot-Aufzeichnungen größere Risiken darstellen als persönliche Tagebücher. Anders als einseitige Tagebucheinträge sind KI-Modelle darauf ausgelegt, längere Gespräche anzustoßen und Nutzer möglicherweise dazu zu bringen, Details preiszugeben, die sie andernfalls nicht festhalten würden. In Kombination mit präzisen Zeitstempeln der Interaktionen können diese Aufzeichnungen die subjektive Absicht eines Nutzers zu bestimmten Zeitpunkten belegen.