Aus dem Kurs: KI-Prompting für Content Creation

Gefahren generativer KI

Aus dem Kurs: KI-Prompting für Content Creation

Gefahren generativer KI

“

So lustig und hilfreich die generative KI sein kann, sie birgt auch Gefahren. Einerseits kann es natürlich sein, dass Sie getäuscht werden, dass Fehlinformation verbreitet wird, Diskriminierung versteckt vorkommt oder ein Datenmissbrauch passiert. Was ich genau damit meine, das erkläre ich Ihnen in diesem Video. Zur Täuschung. Generative KI-Systeme sind in der Lage, realistische und überzeugende Texte, Bilder und Videos zu erstellen. Dies kann auch für böswillige Zwecke eingesetzt werden, wie zum Beispiel zum Erstellen von Deepfakes, um Menschen zu täuschen. Beispielsweise könnte ein Deepfake verwendet werden, um einen Politiker zu zeigen, wie er etwas sagt, was er nie gesagt hat. Dies könnte verwendet werden, um die öffentliche Meinung über den Politiker zu beeinflussen oder um ihn zu diskreditieren. Seien Sie sich also bewusst: Bilder und Videos können auch generiert sein. Beweise sind nicht mehr so klar zu identifizieren wie früher. Eine weitere Gefahr der KI ist Fehlinformation. Wenn die KI halluziniert, also Fakten erfindet, muss das bemerkt werden. Ich habe neulich versucht, ChatGPT auf eine falsche Fährte zu locken und es tatsächlich geschafft. Ja, sie hat mir ihr Studien aufgelistet und als ich nach deren Quellen gefragt habe, wurde klar, dass es die Studien gar nicht gibt. Mittlerweile weist ChatGPT meist darauf hin. Trotzdem kann ein solches Verhalten einer KI weiterhin vorkommen. Überprüfen Sie also, was die KI sagt und überprüfen Sie auch verstärkt, was Sie in Medien und Blogs lesen. Wer weiß, ob das inhaltlich wirklich überprüft wurde. Ein weiteres sehr wichtiges Problem der generativen KI ist der Machine Learning Bias. Machine Learning Bias meint, dass die KI Vorurteile erlernt. Wenn die Daten, aus denen Maschinen lernen, verzerrt sind, wird auch der Algorithmus verzerrt sein. Und diese Verzerrung wird dann bei den Vorhersagen des Algorithmus zutage treten. Ein Beispiel: Ein generatives KI- Modell wird mit einem Datensatz von Bildern trainiert, bei dem medizinische Fachpersonen vorwiegend weiß und männlich sind. Vielleicht, weil es mehr Fotos von diesen Menschen gibt. Das Modell wird dazu neigen, auch mehr Bilder von weißen Männern als von anderen Personen zu generieren. Dies wiederum würde dazu führen, dass die unterrepräsentierten Gruppen wie zum Beispiel junge Frauen oder noch andere weniger repräsentierte Gruppen noch weniger repräsentiert werden, weil sie für die generative KI zu selten sind, um logisch in die Generierung einzufliessen. Schließlich generiert die KI ja nur auf Basis der Merkmale und Attribute, die sie kennt und die besonders oft vorkommen. Natürlich gibt es die Möglichkeit, Algorithmen anders zu programmieren, so dass dies nicht so oft vorkommt. Das tun auch die meisten großen Anbieter. Achten Sie trotzdem, zum Beispiel, wenn Sie Marketinginhalte generieren, auf Diversität. Letztlich ist es auch wichtig, dass Sie sich bewusst sind, mit welchen Daten Sie die KI füttern. Services wie ChatGPT speichern oft Daten wie den Chatverlauf, um die Modelle zu trainieren und zu verbessern. Laut einer FAQs von OpenAI werden Sessions zu Schulungszwecken verwendet und können von KI-Trainern überprüft werden, um die Systeme zu verbessern. Mit anderen Worten: Gehen Sie am besten davon aus, dass ChatGPT oder auch jedes andere Tool, das Sie nutzen, den gesamten Chatverlauf speichert, und geben Sie keine sensiblen oder persönlichen Informationen in Ihre Gespräche ein.

Inhalt