Was passiert eigentlich mit allem, was man einem Chatbot erzählt?

[NinaB55]

Hallo zusammen,

nicht ganz zum Thema Office, aber hier sitzen ja viele Leute, die sich mit Software auskennen. Bei uns im Büro hat sich eingeschlichen, dass einige Kolleginnen Texte und Tabellen in einen KI-Chatbot kopieren, um sich Briefe oder Formeln vorschlagen zu lassen. Teilweise mit Namen und Beträgen von Mandanten drin. Mir wird da etwas mulmig.

Und privat ist es ja ähnlich: Eine Freundin unterhält sich abends regelmäßig mit so einer KI-App, erzählt ihr von ihrem Job, ihrer Familie, ihren Sorgen. Die App merkt sich das alles und kommt später darauf zurück. Praktisch, aber wo liegen diese Gesprächsverläufe dann? Wer kann sie lesen, werden sie zum Training benutzt, kann man sie wirklich löschen?

Hat sich jemand von euch damit näher beschäftigt oder in den Datenschutzerklärungen etwas Brauchbares gefunden? Ich würde gern eine kleine Regel für unser Büro aufschreiben.

Viele Grüße
Nina

[frankbhv]

Habe gerade für eine Vorlesung an einer Hochschuie eine Präsentation in Arbeit und stecke im Thema.....

Da gibt es inzwischen für das Büro recht klare Regeln durch den die DSGVO und den EU AI Act (auf deutsch KI-VO). Das ist bindendes Recht. U.a. müssen Schulungen vorgenommen werden auch *dürfen keine personenbezogenen Daten in ChatBots gegeben werden*, schon gar nicht bei ChatGPT oder Gemini, da US-Unternehmen.

Das wäre hier alles wirklich viel zu viel, aber im Internet gibt es eine Vielzahl an Angeboten und Informationen dazu. (Man könnte sogar eine KI befragern

Und zu Deiner Freundin: Das ist gefährlich und shcon fast zwanghaft. Insbesonde OpenAI / ChatGPT haben inzwisschen erklärt, das gezielt für Werrbund auszunutzen. Und wahrscheinlich als Info zu verkaufen, das ist unklar. Man vertraut einer dummen Sofware (denn "intelligent" sind die mit Sicherheit nicht, basieren ja nur auf Wahrscheinlichkeiten in ihren Modellen).

Das ist sehr komplex. Aber das was geschildert wurde, ist in beiden Fällen nicht gut bzw. sogar sehr bedenklich.

frankbhv