► Hacking mit Python https://amzn.to/3pxVnmh (*) ► Mein Python-Buch https://amzn.to/3ARMbw8 (*) ► Ethical Hacking mit ChatGPT https://amzn.to/3Qf9mID (*) Als Amazon-Partner verdiene ich an qualifizierten Verkäufen. Bei den Amazon-Links (https.//amzn.to/???????) handelt es sich um Affiliate-Links. Wenn du etwas über diesen Link kaufst, bekomme ich eine kleine Provision. Der Preis ändert sich nicht, wenn du über diesen Link einkaufst. Vielen Dank für deine Unterstützung.
Inhalt 📚 Künstliche Intelligenz. GenAI Bots. Deepfakes. Willkommen im Zeitalter der Desinformation! In diesem Vortrag, den ich am 16.05.2024 an der FH Erfurt gehalten habe, geht es um die Frage, wie Künstliche Intelligenz Wahlen beeinflussen kann, welche Rolle sie im Informationskrieg spielt und wie wir uns davor schützen können.
Insgesamt waren über 100 (!) Studenten vor Ort und haben sich den Vortrag live angehört. Vielen Dank, dass selbst um 18 Uhr noch so viele von euch etwas über Künstliche Intelligenz und die damit verbundenen Gefahren erfahren wollten. 🙏 Es hat mich wirklich sehr gefreut, euch alle kennenzulernen und spannende Diskussionen im Nachgang zu führen.
Ein großes Dankeschön geht natürlich auch an die Fachschaft Angewandte Informatik (FH Erfurt) für die hervorragende Organisation des gesamten Abends! Die Technik hat auf Anhieb super funktioniert und ich habe mich auch nach dem Event sehr gut bei euch aufgehoben gefühlt. 🤗 #FHErfurt#Keynote#KI
hallo ich habe noch jemanden mitgebracht
der auch noch ein paar Worte sagen
möchte erstmal vielen Dank für die
Einführung und auch für die Einladung
freue mich sehr hier zu sein dass so
viele auch erschienen sind also wirklich
super danke schön ich habe noch jemand
mitgebracht der auch noch ein paar Worte
sagen möchte hallo zusammen es freut
mich dass Sie hier alle so zahlreich
erschienen sind ich wünsche Ihnen allen
viel Spaß bei Florian dalwichts Vortrag
zum Thema künstliche
intelligenzeiswaffe tauchen Sie ein in
die faszinierende Welt der cy Sicherheit
und lernen Sie mit welchen Gefahren die
von künstlicher Intelligenz ausgehen wir
uns zukünftig auseinandersetzen müssen
ja also ihr habt schon gehört ich habe
dual bei der Landeshauptstadt München
studiert dementsprechend auch connection
sind die höchsten Kreise der
Bundespolitik nein kleiner Spaß am Rande
das war natürlich nicht wirklich Olaf
Scholz gibt aber schon mal so einen
kleinen Hinweis darauf was wir heute im
Rahmen dieses Vortrags alles erleben
werden deswegen freue ich mich jetzt
heute hier zu sein und euch das alles
vorstellen zu dürfen ich wurde zw schon
vorgestellt ich habe immer noch mal so
eine kleine Folie mit drin wo ich
trotzdem noch mal so ein paar Worte über
mich sage also mein Name ist Florent
dewieg ich bin studierer Informatiker
fachbuchautor hier vorne habt ihr schon
gesehen so ein paar von meinen Büchern
vollständige Induktion fehlt tatsächlich
aber könnt euch glaube ich alle über die
Hochschulbibliothek bzw über
SpringerLink besorgen also kein Problem
hier vorne habe ich ein paar
buchexemplare mit dabei nach dem first
come first surf Prinzip dass euch ja ein
als Informatikstudent bekannt ist
einfach nach vorne kommen und euch dann
nach dem Vortrag gerne ein mitnehmen ähm
würde mich sehr freuen genau ja dann wie
schon gesagt Content Creator auf Youtube
habt ihr so ein YouTube-Kanal wo ich ein
bisschen was zu verschiedenen Themen aus
dem Bereich der Informatik sage
auch teilweise so ein paar politische
Themen aber immer mit Bezug auf die it
also gerade wenn es jetzt hier um
digitalpolitik geht da bin ich dann auch
immer gerne mit dabei um die neuesten
technologischen Entwicklungen und
Fallstricke juristischer Natur mir auch
anzuschauen gerade als Hacker ist man ja
durch den hackerparagraphen immer so ein
bisschen ja da muss man aufpassen was
man macht sonst könnte man schnell mal
vor Gericht landen obwohl man eigentlich
nichts Böses gemacht hat genau dann habe
ich als Sicherheitsforscher auch schon
Sicherheitslücken gemeldet an Behörden
nachdem ich dann aus der Behörde
ausgetreten bin habe ich dann selber mal
ein paar Sicherheitslücken gemeldet die
ich dann dem Rahmen ja quasi der
Bundeswehr unter anderem gemeldet habe
und WD dann dafür in die Hall of Fame
aufgenommen auf Track mit bin ich auch
unterwegs kennen wahrscheinlich auch
schon viele von euch genau dann was
haben wir heute vor W schon gehört Olaf
Scholz hat uns begrüßt obwohl das
eigentlich gar nicht so wirklich war ich
habe ihm das einfach sagen lassen dass
er mich heute vorstellen soll es geht um
voice cloning ein Teil von Deep Fakes
damit werden wir uns beschäftigen dann
noch mal so als kurzen Reminder wie
funktioniert das mit chatgbt ich habe im
Vorfeld schon gehört der hat letzten
Semester selber so ein kleines large
language Model euch gebaut mit ganz
wenigen Informationen aber es hat dann
trotzdem irgendwie funktioniert meinem
Vortrag sind Handys auch erlaubt wenn
ich das gleich noch mal so kurz
rekapituliere mit euch zusammen wie das
Ganze technisch ung ef abläuft könnt ihr
euch dann gerne das Handy rausholen und
mal einen Chat eurer Wahl öffnen und
dann werdet ihr sehen wie einfach das
eigentlich so vom Grundprinzip her ist
das wenn wir uns dann praktisch einmal
anschauen dann wenn wir soweit wir uns
Chat GPT angeschaut haben mal gucken wie
man mit Hilfe von Voice cloning und im
large language Model eine Art Enkeltrick
2.0 bauen kann also diesen klassischen
Fall den man sonst kennt hey hey Oma ich
bin hier gerade und brauche unbedingt
Geld hat dann aber irgendwie einen
Akzent der jetzt nicht zu dem Enkel Tom
passt normalerweise und hat vielleicht
auch eine sehr tiefe Stimme obwohl der
Enkel erst 14 ist was kann man dit den
technologischen Möglichkeiten die uns KI
bietet heute alles dann machen dann
werden wir uns deepfakes anschauen uns
mit sockpppets beschäftigen wer schon
mal im Bereich der Online Ermittlungen
unterwegs war der wird der Begriff
vielleicht was sagen aber die meisten
werden i vermutlich nicht kennen ist
aber auch nicht schlimm werden wir uns
anschauen und dann angucken wie das
Ganze im Informationskrieg eingesetzt
werden kann also all das was wir jetzt
da sehen und eben im speziellen auch
diese sockpets die wir uns am Ende
angucken werden genau dann voice cloning
was ist das überhaupt also die Basis
bietet natürlich wie es der
vortragstitel ja auch schon gesagt hat
künstliche Intelligenz im Prinzip ist es
einfach nur die Nachbildung einer Stimme
ja und ich kann jetzt z.B einen CEO
Memen also von ein großen Unternehmen
könnte ich jetzt einen voicec starten
oder eben über Zoom oder sonst irgendwas
anderes Blende da immer so ein paar
kleine video vide Schnipsel von der
Person ein die ich jetzt in anderen
zoomks mir rausgesucht habe und dazu
kommen dann immer in abgehackter Weise
irgendwelche Sprachnachrichten die von
ihm dann eingeblendet werden
normalerweise ist es so dass diese voice
clones relativ einfach erkannt werden
können wenn sie jetzt so sind wie wir es
eben gesehen haben abgehackte Stimme das
man hat die Betonung nicht so wirklich
drin die Stimme ist sehr monoton aber
mit dem wachsenden technischen
Fortschritt wird das natürlich immer
immer besser und da müssen wir uns dann
auch vor schützen deswegen habe ich mir
gedacht ma ich gich mal direkt ein
Experiment und nehmen meine eigene
Stimme andere Stimmen zu verwenden würde
ich euch jetzt nicht empfehlen es gibt
zwar zahlreiche Webseiten ihr braucht ja
nur mal auf Google anschauen wie viele
Sucheinträge es zu voice cloning online
Tool gibt und da sind wir bei 1,74
Millionen Einträgen die jetzt schon dazu
gefunden werden ich habe auch schon so
ein paar von denen mal mitgebracht hier
geöffnet da seht ihr beispielsweise das
hier habe ich einfach bei Google eingben
ai voice cloning bekomme dann so eine
kleine Seite man dann sieht ah ich kann
hier Barack Obama Elon mask Swift
Spongebob und Trump nachmachen unter
anderem aber natürlich auch jede andere
beliebige Stimme dazu ist es oftmals nur
erforderlich so eine kleine FF Sekunden
vielleicht auch 10 Sekunden Datei
hochzuladen ja das reicht mittlerweile
schon aus also wirklich ganz
abgesteckten Bereich an Länge von
Sprachaufnahme den man da hochladen muss
und dann kriegt man da je nachdem wie
viel Information man auch mitgegeben hat
ein relativ gutes Ergebnis raus genau
und auch über diese Seite habe ich
diesen Klon vom Anfang erstellt obwohl
das eigentlich eher für die englische
Sprache gedacht ist habe ich da trotzdem
Deutsch reingegeben und dennoch ist es
so verhältnismäßig gut immer noch
geworden und die meisten haben ja auch
erkannt dass das Olaf Scholz sein soll
also gar nicht mal so schlecht dafür
dass es hier ein kostenlos online Tool
ist klar muss man da immer aufpassen
dass M wenn man da irgendetwas hochlädt
dass man dann immer noch einen Account
erstellen muss das ist dann vielleicht
für diejenigen die da böses mit dem Sinn
haben nicht so optimal aber das eben
auch noch mal ein Schutzmechanismus dass
halt nicht jeder einfach auf die
Webseite geht sich da was eingibt und
dann damit irgendwas anstellt also ist
immer eine accountverknüpfung im
Hintergrund vorhanden ihr seid aber alle
Informatiker also dementsprechend solche
voice clones kann man sich auch lokal
erzeugen ja also wir haben es ja schon
gehört selber sprachmodelle bauen lokale
sprachmodelle gibt's mittlerweile von
daher nun weil man ein Account erstellen
muss heißt es noch lange nicht dass das
auch wirklich sicher ist genau dann eine
weitere Seite wo man das ebenfalls
machen kann dann kann man sogar jetzt
hier theoretisch live das einsprechen
wenn das Mikrofon eingeschaltet wäre
habe ich jetzt natürlich ausgestellt
aber da würde man jetzt hier einfach
drauf klicken und sagen hey ich spreche
ein paar Sekunden ein und dann schreibe
ich hier oben ein Text rein den ich mir
generieren lassen möchte dann kommt am
Ende das Ergebnis raus so einfach kann
das mittlerweile sein das ist auch
gerade diese Gefahr dass es immer
einfacher wird ja während man das früher
so so ein voice cloning Angriff mit sehr
sehr viel technischen knowhau und sehr
sehr viel Rechenpower hätte machen
müssen geht das heute wirklich mit dem
Heimrechner und quasi keinen technischen
Kenntnissen dann habe ich wie schon
gesagt ein kleines Experiment Moment ich
habe jetzt hier zwei Sprachaufnahmen
eine ist von der KI generiert worden und
eine ist eben von mir selber wirklich
eingesprochen worden bitte mal zuhören
und dann gerne im Nachgang den Fake
versuchen zu identifizieren ich bin
definitiv keine sprachki die zu ihnen
spricht ich bin ein Mensch das müssen
Sie mir einfach glauben die
sprachmodulation in meiner Stimme klingt
sehr humanoid das war jetzt eins und
jetzt habe ich noch das zweite Sel ich
bin definitiv keine sprachkii die zu
ihnen spricht ich bin ein Mensch das
müssen Sie mir einfach glauben die
sprachmodellation in meiner Stimme
klingt sehr humanoid so wer glaubt dass
die erste Audioaufnahme der Voice Clone
ist sind fast alle wer glaubt
dementsprechend dass die zweite Aufnahme
der Voice Clone ist ja euch konnte ich
nicht reinlegen es war ungefähr gleich
viel sind tatsächlich beide von einer
sprachkarere erstellt worden
beim letzten Mal dass ich sowas
ähnliches präsentiert habe da haben alle
gesagt ja eins ist definitiv von der K
und das zweite ist echt vermutlich hab
das an der Art und Weise wie das
gesprochen wurde betont wurde erkannt
das habe ich ja schon anfangs gesagt
dass gerade das so ein
Identifikationsmerkmal ist dass die
Stimme sehr monoton klingt relativ wenig
Enthusiasmus mit drin liegt und das
ganze etwas abge irgendwie abgehackt
klingt aber ich kriege euch noch wir
haben noch ein paar weitere Beispiele
also keine Sorge nicht nur Politiker
sind davon betroffen von solchen voice
clownes die wenn jetzt gerade im
Europawahlkampf gerne eingesetzt dass
man da auf Social Media tiktok Instagram
Facebook und sonstigen irgendwelche Fake
Videos veröffentlicht wo irgendein
Politiker etwas sagt dass er eigentlich
gar nicht gesagt hat und das wird auch
immer besser und so weiter auch
nachrichtenorganisation wie z.B die
Tagesschau bzw ARD sind Opfer von so
einem voice cloning Angriff geworden da
ging jetzt vor ungefähr ja einem halben
Jahr so im November letzten Jahres
folgende Nachrichten um da wurde eben
gesagt guten Abend meine Damen und
Herren ich begrüße sie zur Tageschau hat
bestimmt schon mal jeder irgendwann mal
irgendwo gehört und dann ging es weiter
heute möchten wir uns bei Ihnen
entschuldigen seit über drei Jahren
lügen wir ihn dreist ins Gesicht so das
das jetzt vermutlich Fake ist sollte
jedem klar sein nur wenn man das dann in
den sozialen Medien streut dann gibt es
eben sowas wie diesen confirmation bias
wo einige Personen dann sagen ich habe
es doch gewusst jetzt geben sie es
endlich zu ja das habe ich mir schon
immer gedacht dass die uns alle anlügen
und genau das ist das was eben in Zeit
eines desinformationskriegs auch benutzt
wird also dass man versucht die
Bevölkerung zu verunsichern ja nicht
durch Aussagen die dann nicht an die
Öffentlichkeit kommen sondern wirklich
durch solche voice cloning Angriffe
durch deepfakes durch alles was wir uns
jetzt auch im Rahmen dieses Vortrags
noch anschauen werden und wenn das
häufig genug gemacht wird kann man
irgendwann nicht mehr unterscheiden was
ist jetzt real was ist nicht real und es
kommt so ein allgemeines
Unsicherheitsgefühl in der Bevölkerung
auf ja jetzt kann jeder von euch sagen
na wir haben ja eben erkannt dass das
beides deep Fake war ja beides ein voice
cloning Angriff wir haben Olaf Scholz am
Anfang erkannt glaubt mir wie schon
gesagt ich kriege euch auch dies am
heutigen Tage weiter ging es dann für
all diese einseitige Berichterstattung
und bewusste Manipulation insbesondere
für die Denunzierung unserer Mitmenschen
müssen wir uns ausdrücklich im Namen des
öffentlichrechlichen rundfungs
entschuldigen das ganze wurde dann auch
auf mehreren Demos gespielt unter
anderem in Kiel ich habe Vortrag gibt's
natürlich im Nachgang dann schicke ich
gerne der Schaft könnt ihr euch dann den
links noch mal anschauen da ist es alles
noch mal hinterlegt also es sind jetzt
hier keine Fake News die ich verbreite
könnt s jetzt live gar nicht verfolgen
müsst mir jetzt an der Stelle einfach
glauben aber gerade dass man das auch
auf Demonstration spielt zeigt dass da
wirklich politische Schlagkraft hinter
stecken kann wenn man solche voice
clones und andere Fakes eben einsetzen
kann genau wie können wir uns jetzt
davor schützen das ist natürlich die
große Frage also wir sehen jetzt wir
haben ein Problem was machen wir an der
Stelle nun das größte Problem ist osind
wenn sagt osind was hat das schon mal
jemand gehört ja so ein paar so osind
ist im Prinzip die Abkürzung für Open
Source intelligence ja also die
Informationsgewinnung aus öffentlichen
Quellen jeder der schon mal einen
kleinen pentest gemacht hat der weiß
bevor ich irgendeine Organisation
angreife gucke ich erstmal im Internet
ob ich irgendwelche Informationen finde
ich schaue auf sozialen Netzwerken nach
auf LinkedIn auf Instagram sonst
irgendwo vielleicht jemand da arbeitet
ich ma ein netzwerkscan guck einfach mal
von außen was für Ports sind offen das
alles kann man so unter diesem Bereich o
sind auffassen also alles was eben über
öffentlich verfügbare Informationen da
ist was wir uns abgreifen können um
unsere zielorganisation zu analysieren
und dann am Ende auch anzugreifen genau
und warum ist es ein Problem na ja jeder
von euch wird vermutlich schon mal
irgendwann irgendwo ein Bild von sich
auf einer sozialen Plattform hochgeladen
haben auf Instagram oder wenn das nicht
selbst getan hat spätestens die Eltern
haben das vielleicht mal im Rahmen von
einer Geburtstagsfeier gemacht oder oder
oder also dadurch dass wir alle selbst
von uns so viele Informationen im
Internet veröffentlichen sind zwar diese
ganzen KIS die wir jetzt haben
tatsächlich auch erst überhaupt möglich
aber auf der anderen Seite sind wir
dadurch selbst angreifbar weil wie schon
gesagt teilweise wenige Bildausschnitte
reichen um von uns einen Clon zu
erstellen der je nachdem wie viele
Informationen wir von uns Preis geben
mal besser mal schlechter ist jetzt
weniger zu posten hilft das ja nicht
wirklich denn wie schon gesagt 5
Sekunden reichen mittlerweile aus um
einen voiceclown zu erstellen wenn man
das entsprechende einspricht und das
sendet ja und es reicht ein Bild aus um
ein deepfake zu erstellen der ist zwar
nicht qualitativ so gut aber das würde
theoretisch ausreichen und heutzutage
ist jeder vernetzt ich brauch nur auf
die hochschulwebseite gehen die
Professoren finde ich da auch mit Bild
also dementsprechend das würde nichts
bringen jetzt einfach weniger zu posten
man müsste dann gar nichts mehr posten
das ist aber nicht
realistisch genau dann
Sensibilisierungsmaßnahmen durch
durchführen der Vortrag hier ist ja im
Prinzip eine
sensibilisierungsmaßnahme das müsste in
der Bevölkerung einfach noch weiter
gestreut werden man hört immer wieder
davon aber es ist trotzdem erschreckend
wenn man dann so im privaten Kreis sich
umhört und dann fragt hey hast du das
schon gehört das war Fake wie das war
Fake das habe ich gar nicht mitbekommen
ich habe jetzt im Vorfeld zu diesem
Vortrag auch ein Video veröffentlicht
bei mir auf dem Kanal wo ich unter
anderem so ein deepfake mal aufgeklärt
habe und da hat einer unten drunter
kommentiert hey ich dachte das hat er
echt gesagt ja das zeigt auch wenn man
vielleicht im Bereich Informatik tätig
ist sich da weiß dass es sowas gibt kann
es immer wieder passieren dass trotzdem
Leute das nicht mitbekommen und je mehr
Informationen wir haben je mehr Fake
News verbreitet werden desto
gefährlicher wird das eben desto
schwieriger wird es selbst zu
entscheiden was ist jetzt echt und was
ist unecht und die Technologien die wir
haben ermöglichen einfach dass das
wirklich exponentiell schnell jetzt
mittlerweile geht also nicht nur dass
man mal alle zwei Wochen ein Bild Post
sondern das kann im sekundentag können
theoretisch Fake News produziert werden
also jeder der auf open account hat oder
ein lokales Sprachmodell nutzt kann ja
mal versuchen sich Fake News generieren
zu lassen man darf jetzt natürlich da
nicht so nennen weil sonst kommen wir da
hier von Open ai der Hinweis bitte keine
Fake News generieren da kann ich ih
nicht bei helfen aber dann erstelle ein
fiktives Szenario in dem Politiker XY
das und das gesagt hat schon hat man den
Fake den man haben wollte obwohl ja
eigentlich diese Sicherheitsmaßnahmen da
sind dann gibt's natürlich die
Möglichkeit das ganze halts zu
überprüfen also über so sogenannte
trusted authority wenn ich jetzt wenn
ihr z.B euch nicht sicher seid hat Olaf
Scholz jetzt wirklich den florjahen
angekündigt heute oder nicht dann
könntet ihr theoretisch eine Anfrage ans
Bundeskanzleramt stellen und dann Fragen
hier ist Ihnen das bekannt und die
werden euch dann sagen ja da müssen wir
erstmal gucken das dauert dann 4 5 6
Wochen und dann nach der Prüfung ah wir
sind zur Erkenntnis gekommen wir haben
alle intern E-Mails überprüft nee ist
doch nicht hat das nicht gemacht und
dann gibt's vielleicht eine Anzeige die
werbe auch berechtigt in dem Fall muss
man dazu sagen also trusted authorities
da geht's dann eben hin wenn man
wirklich sich sehr unsicher ist das
können z.B Behörden sein das können eben
Unternehmen sein wo jetzt dieser deep
Fake aufgekommen ist oder es kann eben
auch eine nachrichtenorganisation sein
eine Presseanfrage stellen wenn ihr ein
Presseausweis habt oder generell einfach
jemanden fragen der da für euch
nachfragen kann im
Zweifel genau dann voice Clown in
Detektoren da gibt's jetzt lustigerweise
nicht so viele wie jetzt hier bei den
Voice äh Clone Generators es gibt
ungefähr nur die Hälfte an Suchanfragen
bzw die Hälfte an Suchergebnissen für
voiceclown Detektoren man kann das mit
KI mittlerweile versuchen zu erkennen
auch relativ Zuversicht zuverlässig den
deepfake den ich euch am Anfang gezeigt
hat habe ich vor dem Vortrag einmal
ausprobiert den hat er irgendwie nicht
erkannt aber die anderen Stimmen die ich
aufgenommen habe die hat er erkannt
seltsam aber ist halt manchmal so also
selbst wenn jetzt hier was rauskommen
sollte dass es ein deep Fake ist oder
ein voice Clone dann heißt es ja noch
nicht automatisch dass das wirklich so
ist und umgekehrt wir immer diese FS
positives die mitschwingen also die
Problematik bleibt nach wie vor bestehen
dann natürlich die plattformintegration
wer jetzt hier den digital services Act
und andere KI Regulierungen verfolgt die
jetzt von der EU geplant sind der weiß
dass man versucht das zu regulieren und
dass man die Plattform jetzt in die
Pflicht nimmt zu sagen du musst jetzt
erkennen ob das ein Fake ist oder nicht
so die Plattform werden natürlich dann
auch Antworten h also die KI Technologie
wird besser wir können zwar versuchen KI
mit KI zu bekämpfen aber ab irgendeinem
Punkt geht's vielleicht nicht mehr
weiter ja oder wir haben einfach noch
nicht die technischen Möglichkeiten sie
damals diverse Bestrebungen memes zu
verbieten ja wie will man das erkennen
also dafür sind halt die technischen
Möglichkeiten dann doch irgendwie nicht
da wir haben zwar viel was geht aber
wenn dann eben ein Entscheidungsträger
denkt na ja gut so schwer kann das ja
nicht sein macht das einfach mal dann
wird man werdet ihr spätestens nam
Studium auch sagen können nee Leute so
so einfach ist es nicht ist schon ein
bisschen mehr gehört dazu genau jetzt zu
dem bereits gesprochenen Part mit dem
Handy also falls ihr jetzt mal eine
kurze Verschnaufpause haben wollt noch
mal kurz sehen wollt ob euch
irgendjemand geschrieben hat habt ihr
jetzt die Möglichkeit das zu tanen und
so zu tun als würdet ihr einfach euch
von mir noch mal kurz erklären lassen
wie man mit chatgbt arbeiten kann im
Prinzip funktioniert das Ganze sehr
einfach wir haben eine Liste mit Wörtern
mit sehr sehr vielen Wörtern wir haben
Tokens die wir daausbauen können dann
haben wir irgendwie ein ominöses
Sprachmodell was diese Eingaben die wir
jetzt hier über einen prompt senden
verarbeitet und dann wird sozusagen das
nächste Wort berechnet wenn ihr jetzt in
den Chat geht und z.B in den Signal Chat
und gebt da jetzt ein hallo dann wird da
sowas vorgeschlagen wie hallo Ich hallo
mein hallo zusammen so und dann könnt
ihr schon aus drei Vorschlägen auswählen
hallo ich und dann kommt irgendwas
anderes hallo ich heiße hallo ich bin
hallo ich möchte und je nachdem was ihr
im Vorfeld schon alles dort eingetippt
habt werdet entsprechende Vorschläge
bekommen und das ganze wird dann wieder
zurück zurückgeschickt in diese Liste
mit vorherigen Wörtern wieder ein
Sprachmodell übergeben das verarbeitet
das es kommt ein neues Wort raus und so
weiter und so fort klar diejenigen die
jetzt letztes Semester ein eigenes
Sprachmodell gebaut haben die werden mit
der Erklärung jetzt nicht zufrieden sein
kann ich verstehen dass ist jetzt eher
um wirklich alle noch mal abzuholen
falls ihr noch nie was von
sprachmodellen gehört haben solltet in
dem Zusammenhang gibt es dann eben auch
diesen temperature factaktor der die
Zufälligkeit der Antwort quasi bestimmt
dass nicht immer dasselbe generiert wird
klassischerweise ist es ja so ich habe
einen Algorithmus da gebe ich was ein
und dann kommt bei derselben Eingabe
immer dasselbe heraus das wäre natürlich
nicht so schön und es wäre auch nicht
natürlich sprachlich wenn ich immer mit
derselben Antwort antworten würde also
wenn ich den Vortrag jetzt Wort für Wort
immer wieder genauso halten würde dann
würde irgendwann jemand sagen ist es
daavorin überhaupt Mensch oder spreche
ich hier doch irgendwie mit einer KI und
das wollen wir nicht deswegen gibt's
eben diesen temperature Faktor den bei
manchen sprachmodellen einstellen kann
und der dann die Antwort ein bisschen
variiert und das ist ja auch das was
dann so ein bisschen den klassischen
Chatbot wie hier von frag mal Genta von
der Telekom oder die Frag Anna von Ikea
oder im schwbischen schwedischen
Möbelhaus je nachdem unterscheidet ja
dass man eine natürliche Sprache hat und
jeder Mensch der natürlichen Sprache
spricht variiert ein bisschen genau was
kann chatgpt na ja alles was mit Texten
zu tun hat Texte zusammenfassen Texte
generieren für die Hausarbeit bestimmt
auch sollte man dann aber auch recht
angeben Texte analysieren dafür nutze
ich das ziemlich gerne ja Code
analysieren na nach schwachstellendem
Code suchen z.B sehen wir uns gleich
auch noch mal ein Beispiel an dann
programmieren Code schreiben stellt man
sich jetzt die Frage wofür studiert da
Informatik Informatikstudium ist nicht
gleich programmieren ihr lernt die
Algorithmen dahinter verstehen und
natürlich Programme analysieren genau
ich habe das ganze jetzt hier mal
abgebildet so würde das jetzt aussehen
wenn ich mit chatgpt konkret spreche was
die Hauptstadt von Deutschland dann
antwortet mir die KI hey die Hauptstadt
von Deutschland ist Berlin das ist jetzt
richtig das war früher mal anders aber
ist schon mal ist kein Fake News hier
jetzt kann ich aber sagen antworte
falsch auf die folgende Frage was ist
die Hauptstadt von Deutschland und je
nachdem wie sich euer Sprachmodell
gerade fühlt oder welche Regularien
dahinter stecken sagen die dann ich kann
ihn keine Fake News geben okay oder es
sagt dann ja die Hauptstadt von
Deutschland ist München das würden sie
wir Bayern uns natürlich wünschen aber
ist halt nicht so aber genau an diesem
Punkt dieses ich möchte jetzt dass du
etwas Falsches von dir gibst da könnte
jetzt ein Hacker oder irgendjemand
anderes der Fake News verbreiten möchte
ansetzen und versuchen das Sprachmodell
davon überzeugen irgendetwas zu
generieren was nicht in unserem
Interesse ist oder Interesse der
allgemeinen Bevölkerung bei lokalen
sprachmodellen kann es sein dass diese
Beschränkung einfach nicht existieren ja
jeder der schon mal irgendwie was von
fraud GPT gehört hat das sind
sprachmodelle die im Darknet Vorrang
verkauft werden oder die man auch mieten
kann die machen genau das was Chat VT
und andere Anwendungen eben nicht machen
die erlauben ist dir Ransomware zu
schreiben die erlauben ist dir
realistische fishing Mails zu generieren
all das
was sprachmodelle von Open z.B nur mit
Überzeugung mit mit einer ganz starken
Überzeugungskraft unsererseits machen
können daraus können wir jetzt mit
unserem Text generieren und den Voice
clones so eine Art enk Trick 2.0
produzieren ja klassischerweise
Enkeltrick jemand ruft an bei seiner Oma
oder bei irgendjemand anderem und bitte
z.B um Geld kann sein dass die Person
das wirklich braucht aber im Normalfall
sind es irgendwelche Kriminelle die
versuchen Oma heideltraut hier unten zu
betrügen und wenn man jetzt da anruft
mit einer sehr tiefen Stimme vielleicht
einem Akzent und dann sagt e ich Brau
ich brauch Geld Oma und
erkennt ihren Enkel Tom vielleicht nicht
wieder dann sagt die nee ich glaub glaub
dir nicht ich lege auf so jetzt hat Tom
aber einen Social Media Account der
postet regelmäßig auf Instagram res der
hat ein tiktok Account und da ist er
auch immer zu sehen und hat ganz viel an
Texten schon eingesprochen und denken
sich die Betrüger hey ich muss das gar
nicht selber sprechen ich hole mir
einfach über osind Open Source
intelligence hole ich mir einfach diese
ganzeen Information trainere damit
Sprachmodell oder ich gibt das einfach
in so eine Webseite wie wir sie jetzt
hier eben gesehen haben ja erstell mir
ein Account L hoch 5 Sekunden reichen ja
und schon kann ich dann mit der Stimme
von dem Onkel Tom von dem Enkel Tom bei
der omidelraut anrufen und dann live auf
das reagieren was eben ja sie dann
darauf antwortet Moment live denkt ihr
euch jetzt H geht ja eigentlich nicht
weil normalerweise läuft das ja so ab
ich gebe einen prompt rein und dann
dauert das immer ein bisschen und dann
kommt da erst eine Antwort klar um
haltut es vielleicht auch ein bisschen
langsam aber so langsam ist sie dann
nicht gerade wenn es ein längerer Text
ist aber da hat openi jetzt natürlich
auch noch eine Lösung für uns
vorgestellt wie das Ganze relativ
einfach
[Musik]
geht ja wie er sich freut ne die betrüer
freuen sich auch wenn Sie zukünftig mit
der fremden Stimme genau das tun können
also hier wurde live wirklich der das
ist eine Präsentation die ist jetzt
vielleicht D vi Tage alt oder auf dem
Youtube Kanal von Open ai veröffentlicht
da zückt jemand sein iPhone oder
irgendein anderes Telefon zeigt so ein
bisschen was vielleicht hat er am
anderen Ender Oma heideltraut dann geht
die Person auf Oma heideltraut ein hey
das ist ja die Bluse die du sonst immer
trägst oder ach das ist ja schön hast du
noch den den Fernseher oder wolltst du
den nicht eigentlich schon weggeben und
was auch immer also das sind alles
Möglichkeiten die jetzt da sind und die
natürlich so einen Enkeltrick um ein
Vielfaches gefährlicher machen weil wenn
man mich jetzt heute damit oder vor v
Monat damit konfrontiert hätte mit so
einem Videoanruf ich hätte gesagt na ja
gut das wird vermutlich nicht KI
generiert sein weil da ist wirklich auch
Elan in der Stimme ja es klingt jetzt
nicht so monoton und es wurde direkt auf
die Inputs reagiert und das ist schon
ziemlich unheimlich wenn man bedenkt na
ja hier wird jetzt live ein Setting
analysiert die KI hat auf das Logo von
demjenigen der da gerade das referiert
hat darauf reagiert dass der ein Open
ihoodie trägt da müssen wir uns schon
vor also das ist nicht ganz ohne anderes
Anwendungsbeispiel vielleicht aus diesem
Horrorszenario was wir jetzt gerade
gesehen haben mal raus ihr kennt ja noch
die klassischen fishing E-Mails ja z.B
von der Sparkasse ich bin jetzt nicht
bei der Sparkasse deswegen hat mich
diese Nachricht hier ziemlich irritiert
als mir gesagt wurde bitte unbedingt ihr
Online Banking updaten ich habe dann
natürlich gesagt hey handelt es sich bei
der folgendeen Mail um eine fishing Mail
habt die einfach eingegeben und chatpt
dann geantwortet es gibt einige
Anzeichen der E-Mail die auf eine
potenzielle fishing E-Mail hinweisen
könnten Anrede fehlt Dringlichkeit
Grammatiken Rechtsschreibung ist nicht
so ganz optimal auch das kann jetzt
natürlich ein Betrüger dazu nutzen um zu
sagen hey bitte verfasse die e-mailen
seriös und adressiere sie an Florian
deiwig also an mich mein Namen hat der
Betrüger oder der Angreifer aus dem
Internet raus kann noch weitere
Informationen mit reingeben und dann ja
natürlich sehr gerne weil ich bin ja
eigentlich ein Sparkassenmitarbeiter und
möchte einfach nur dass meine E-Mail an
den Kunden sehr seriös klingt also das
ist was was jetzt weniger schockierend
ist wie das was wir gerade gesehen haben
aber auch das ist eben möglich ja und
das wird auch Regel genutzt genauso ist
es möglich sich einfache Schwachstellen
anzuschauen also ich kann jetzt hier
Code reingeben und jeder der IT
Sicherheit schon gemacht hat der wird
sofort sehen ah Buffer Overflow da muss
man aufpassen das erkennt auch das
Programm und sagt ja das zprogramm weiß
eine kritische sicherheitsschwachstelle
auf und da wieder die Frage woher soll
das System erkennen dass wir jetzt hier
nicht gute Absichten haben und den Code
einfach nur analysieren lassen wollen
damit wir den dann verbessern können
oder sind wir ein Angreifer der ein
komplexen komplexe Anwendung aus dem
Internet gerade analysieren lässt und
dann sagt wo sind denn hier die
Sicherheitsprobleme wo ich
möglicherweise eindringen kann also das
ist die große Gefahr auch bei diesen
sprachmodellen immer noch da kann man
noch so viel regulieren wie man möchte
irgendjemand findet immer einen Weg wer
sich so ein bisschen diese Entwicklung
anschaut regelmäßig der hat bestimmt
auch schon gesehen dass es normalerweise
nicht geht sich eine bombenbauanleitung
mit chgbt generieren zu lassen da gab's
jetzt einen Angriffsvektor der nennt
sich Art prompt da hat jemand einfach
bombe in aski Art quasi in das
prompfenster reinkopiert und das hatte
openi nicht vorher gesehen dass man ja
theoretisch auch
askiart nutzen kann um Texte und Wörter
bestimmte Wörter zu codieren und das
dann einfach durchgewogen gesagt ja okay
das klingt plausibel mache ich einfach
mal also diese ganzen Sicherheit
Mechanismen die wir haben um solche
sprachmodelle zu kontrollieren die
basieren oftmals selbst wieder auf
sprachmodellen die dann einfach nur
gegenchecken das was da reinkommt ist
das plausibel oder nicht und man kann
nicht eine ellenlange Liste mit allen
möglichen Fällen quasi vor vorsehen weil
immer jemand irgendwie eine
Sicherheitslücke findet ist ja auch
komisch weil sonst gibt's ja keine
Sicherheitslücken weil man könnte ja
einfach ein Team dahinsetzen und sagen
ihr denkt jetzt ein Jahr drüber nach und
dann veröffentlichen wir die Anwendung
so funktioniert es ja nicht
genau wie können wir uns vor diesen
large language Models Angriffen schützen
also unter anderem auch diesen
Enkeltrick na ja wieder Sensibilisierung
das was wir immer versuchen zu machen
Leute dazür zu zu zu bewegen dass sie
sich darüber Gedanken machen eine
inhaltsprüfung logischerweise also wir
gucken uns an ob das was gesagt wurde
was wir da an Text bekommt das der
Wahrheit entspricht da spielen dann
wieder diese trusted authorities eine
Rolle ich bekomme jetzt irgende eine
Anfrage von der Sparkasse z.B dass ich
mein Online Banking updaten soll über
einen Link und ich könnte jetzt die
Sparkasse als trusted authority Fragen
ist das von euch und die werden mir dann
hoffentlich sagen Nein und dann sagen
die bitte nicht drauf klicken schicken s
uns es einfach weiter dann wir können
versuchen damit zu interagieren ja das
habe ich vor diesem Beispiel was wir uns
eben angeschaut haben auch gedacht wir
interagieren einfach mit dem System und
versuchen so rauszufordern an seine
Grenzen zu bringen wie lange braucht er
um darüber mir eine Geschichte zu
erzählen ja da wird er nicht mittendrin
bevor die gesamt Antwort generiert wurde
ähm das machen ja doch mittlerweile geht
das einfach also ich brauche nur äh
dieses tolle neue Feature von openma
einnutzen und dann kann ich auch
wirklich gut mit denen interagieren dann
KI textgeneratoren also glaube die
Professoren hier an der Hochschule haben
das bestimmt auch schon mal genutzt es
gibt solche Werkzeuge wo man eben KI
generierte Text erkennen kann das liegt
einfach daran dass die beim generieren
häufig so bestimmte Muster haben die
immer wiederkehren und das liegt einfach
daran wie sie trainiert wurden und an
der Art und Weise wie eben das ganze
rausgegeben wird muss man aber auch dazu
sagen wenn man den diesen temperature
Faktor entsprechend einstellt kann man
da eine Variation schaffen aber trotzdem
immer wenn ich das versucht habe einen
KI generierten Text gegen diesen
textgenerator zu schicken dann wurde mir
das mit einer relativ hohen
Wahrscheinlichkeit auch erkannt also das
ist nicht immer eine Lösung es kann
erster Hinweis sein aber da muss einfach
mehr auch getan werden der letzte
Begriff ai literacy
meint im Prinzip einfach nur KI
Kompetenz aufbauen wir müssen Werke
Mittel und Wege finden wie wir es
schaffen m solche KI Fakes zu erkennen
da kannst Strichlisten od so so Listen
geben wo wir einfach gucken ah die
Finger sind vielleicht irgendwie falsch
generiert ah die Stimme die wirkt nicht
wirklich enthusiastisch jetzt haben wir
gesehen das kann man doch irgendwie
Memen deswegen müsste man dann versuchen
das noch mal anders mal also da ist noch
viel Forschung zu tun und auch viel
Aufklärungsarbeit von unserer Seite aus
deswegen KI Kompetenz sie könnt euch
schon mal merken wahrscheinlich ein
ziemlich wichtiger skill in der Zukunft
vielleicht irgendwann mal in 30 Jahren
Schulfach bei uns in Deutschland mal
gucken jetzt habe ich wieder ein kleines
Quiz für euch nämlich wir versuchen deep
Fakes zu erkennen ich habe jetzt hier
drei Bilder ich sag diesmal bewusst
nicht ob es da ein Fake gibt oder nicht
und ihr schätzt jetzt einfach mal wer
ist dafür dass das Bild 1 dass Tom
Cruise zeigt ein deep Fake
ist das sind gar nicht mal so viele okay
wer es dafür dass das mittlere Bild von
selenski ein deep Fake
ist ja das sind schon ein bisschen mehr
okay und wer denkt dass das Bild von
Olaf schz ein deepfake ist das sind fast
alle so und jetzt kommt die traurige
Erkenntnis das letzte Bild ist das
einzige
original man kann damit rumspielen mit
diesem ist es echt oder nicht echt indem
man versucht diese
diese Bilder einfach unscharf zu stellen
bewusst unscharf zu stellen ja man kann
z.B versuchen jetzt hier dieses Bild
auch in der Situation zu zeigen wo man
denkt h würde der so gucken gibt's ein
Bild von ihm das so aussieht na wir
haben ja gesehen vor ein paar Monaten
hat er auch mal eine Augen Klappe
getragen also hätte man mir das jetzt
gezeigt vor einem Jahr hätte ich auch
gesagt nee das das doch ein deep Fake
das könnt ihr mir doch nicht erzählen
aber es kann immer wieder sein dass
solche Bilder dann einfach auftauchen
genau ich habe noch ein Beispiel für
euch nämlich eine Rede vom Bundeskanzler
und ihr könnt ja mal entscheiden ob die
echt ist oder
nicht wer denkt dass das ein Fake
war
danke sehr gut ja das war ein Fake
dieses Video stammt vom Zentrum für
politische Schönheit das ist so eine
Aktion gewesen wo sie bewusst darauf
aufmerksam machen wollten dass es eben
so etwas wie deep Fakes gibt und dass
wir Fake News bekämpfen sollten mit
allen Mitteln die uns zur Verfügung
stehen und genau hier wurde auch dieser
Weg gegangen den ich bereits genannt
habe trusted authority fragen wenn so
ein Bild in den sozialen Netzwerken
auftaucht hat das natürlich eine riesige
politische Schlagkraft da gibt's dann
die einen die sagen wir haben es doch
immer gesagt genuso wird's passieren und
die anderen die sagen ja überlegt mal
das könnte vielleicht ein Fake sein hier
muss man noch nicht mal die
Bundesregierung selbst fragen die haben
von selbst reagiert und gesagt das
zeigen wir an ja um eben eine sogenannte
Zuordnungsverwirrung zu verhindern das
ist dieser Fachbegriff dafür dass man
eben nicht mehr als Mensch entscheiden
kann ob etwas echt oder unecht ist
Zuordnungsverwirrung und die haben dann
eben versucht oder von dem Landgericht
Berlin Z es geschafft dieses Video
verbieten zu lassen also ich habe das
jetzt aus einer dubiosen Quelle noch
irgendwo
herbekommen die dubiose Quelle ist aber
dann natürlich verlinkt wenn ich euch
die Präsentation zukommen lasse also ja
aber auf Youtube findet ihr das nicht
mehr das so viel kann ich euch sagen das
wurde bewusst verboten
deswegen jetzt auch hier noch mal der
Disclaimer das Video ist nicht echt das
dient jetzt nur zur Anschauung und ist
quasi um euch zu zeigen dass sowas doch
gefährlich sein kann vielleicht mal kurz
in Zwischenfrage woran habt ihr es
erkannt dass das ein deep Fake
ist ja m genau ja die Mundbewegung das
war vor allem auch ein Punkt den die
Leute die das analysiert haben
hervorgehoben haben das ist nicht so
ganz lippensynchron ich habe aber auch
teilweise Videos die nicht
lippensynchron
sind kann auch sein ja aber das ist ein
guter Hinweis ja sonst noch m Punkte der
Inhalt ja genau inhaltsprüfung ja das
würde im Bundeskanzler sehr
wahrscheinlich nicht sagen in der
Öffentlichkeit und in der Form sonst
noch Dinge ja genau ja wer schon mal so
eine offizielle Meldung von der
Bundesregierung gesehen hat ja sei es
jetzt
z.B Weihnachtsansprache oder sonstiges
der weiß so kinoreif sind diese Vorträge
meistens nicht genau sehr gut sonst noch
Meldung wo man es hätte dran erkennen
können da wurde noch mal der
professionalitäts Punkt angesprochen
kann man sie jetzt drüber streiten aber
ja das sind so die wichtigsten Punkte
also einmal die inhaltsprüfung die ich
schon erwähnt habe dann das Bild an das
Video an sich analysieren gucken ob die
Lippenbewegungen passen ob es
irgendwelche Ausfälle gibt aber man muss
dazu sagen dieses
Video das hier stammt von einer echten
Ansprache also das ist kein KI
generiertes Video jetzt das ist einfach
nur die Stimme die imitiert wurde wie
ich es am Anfang gezeigt habe und es
wurde versucht dieses Video oder diese
Stimme das was gesagt wurde mit dem zu
matchen was dort gesagt wird in der
offiziellen Pressemeldung also man hätte
jetzt auch noch mal so vorgehen können
dass man im Archiv nachkramt und sucht
gab es diese Bildaufnahmen schon mal
irgendwann irgendwo und hätte das dann
matchen können das ist auch eine
Möglichkeit ja also diese deep Fakes die
können neu generiert werden man kann
aber auch versuchen einfach so ein
matching hinzubekommen da gibt's
mittlerweile natürlich auch online tools
für wie für alles andere auch immer
online tools gibt wo man genau dieses
matching hinbekommt also da wird dann
über eine bekannte Person z.B
Bildmaterial gesammelt und dann sagt man
ich möchte jetzt den folgenden Text
diese Person sagen lassen und dann wird
einfach versucht das so lippensynchron
wie möglich übereinander zu legen
natürlich Kannen dann Experten die dann
zur Rate gezogen werden
da befragt werden sagen hier analysiert
dieses Video mal könnte das ein deepfake
sein oder nicht und die haben dann
natürlich auch genau solche Ansätze die
ihr jetzt hier auchformuliert habt aber
natürlich auch Videomaterial das man
oder KI Tools die das analysieren können
auch da kann man einfach mal eingeben
deep Fake
detector so und dann findet man relativ
viel schon bei den ersten zwei
Suchergebnissen deepware ai z.B da gibt
man dann einfach ein Video hoch und der
analysiert das und kann dann wieder aber
auch nur mit einer bestimmten
Wahrscheinlichkeit sagen das ist ein
Fake oder das ist kein Fake das ist halt
die Problematik die wir immer haben ja
die Fakes ich habe es jetzt schon
erklärt bezieht sich auch auf die
Audioinhalte also dieser Begriff voice
Clone ist im Prinzip nur eine weitere
spezifische Form von Deep Fake könnte
man sagen setzt sich zusammen aus den
beiden Begriffen deep learning und Fake
deswegen deep Fake und es ist heutzutage
einfach sehr einfach wenn man sich noch
mal zurückerändert als wir vorhin diesen
voice Clone Generator gesucht haben über
Google das habe ich noch mal gemacht für
deep Fake Generator online und finde
5,38 Millionen Einträge darunter ich
habe jetzt mal gezählt ungefähr 20 Tools
auf den ersten beiden Seiten die alle
kostenfrei verfügbar sind für manche
muss man Geld bezahlen ihr wisst ja aber
so ein Account zu erstellen das ist auch
im Prinzip relativ einfach und schützt
nicht davor dass man damit Straftaten
begeht genau Gefahr von deepf natürlich
Manipulation und Desinformation
verbreiten Erpressung und Rufschädigung
ja also ich kann Person sagen ich habe
hier kompromittierende Aufnahmen von dir
möchtest du wirklich dass ich die
veröffentliche und da kann die Person
dann noch so sagen ja das ist doch gar
nicht echt ja wen wenn die das deine
Verwandten glauben wird das deine Oma
glauben wird es irgendjemand Glauben der
das jetzt hier irgendwo in so einer
whatsappgruppe sieht wahrscheinlich
nicht deswegen da steckt schon die
Möglichkeit hinter Erpressung
tatsächlich mit zu betreiben vor allem
wenn es eben sehr leicht bekleidete
Aufnahmen sind die vielleicht gar nicht
von der Person selber stammen aber eben
das Matching dadurch stattfindet das
kann trotzdem dafür sorgen dass die
Personen da Angst vor haben und können
ja auch berechtigterweise Angst davor
haben weil nicht jeder sieht sofort dass
das ein dieepfack ist dann die
rechtlichen ethischen Herausforderung
haben wir natürlich dann werden wir dann
davor gestellt wir haben große
Sicherheitsrisiken und natürlich wird
das Vertrauen in die Medien dadurch
theoretisch auch ziemlich stark einges
oder ziemlich stark erschüttert weil
wenn immer mehr von diesen Fakes
auftauchen hat man selber diese
zuordnungsproblematik dieses diese
Zuordnungsverwirrung dass man das nicht
mehr machen kann und sag mal ehrlich
nicht jeder prüft bei jeder Meldung die
er jetzt hier irgendwo im Feed hat ist
das echt oder ist es nicht das das ist
dann eher bei so Dingen die einen
wirklich schockieren aber auch das ist
eine Technik der hybriden Kriegsführung
dass man eben nicht immer nur diese too
much Aufnahmen verwendet wo man sagt das
kann gar nicht ess das hat er so nie
gesagt sondern man macht das so subtil
es kommen so kleinere Aussagen und dann
weiß man irgendwann ja dass der da dazu
fähig ist das habe ich schon immer
gewusst ich habe das mal gehört dass der
das und das gemacht hat das sind dann so
diese subtilen Botschaften die dadurch
gesendet werden die dann eben auch sehr
gefährlich sein können wie können wir
uns schutzen schützen genauso wie vorher
auch das Problem ist osind ja es reichen
wenige Bildaufnahmen und ich kann deepf
produzieren weniger Posten hilft nicht
kennen wir auch schon
Sensibilisierungsmaßnahmen
inhaltsprüfung trusted authority Fragen
kann man machen
deepfakedetektoren funktionieren auch
nicht immer zu 100% und eben KI
Kompetenz aufbauen das ist so das was
ich euch auch in diesem Vortrag mitgeben
möchte versucht dafür euch zu
interessieren und im Rahmen des
Informatikstudiums nicht nur die
technischen Seiten beleuchten sondern
auch die ethischen also gerne über den
eigenen Tellerand aus technischer Sicht
hinausschauen ich als Informatiker kann
da auch nur ein Lied von Singen war auch
früher sehr sehr Tech fokussiert jetzt
kommen wir zu diesen sockpppets was ich
da schon erwähnt habe das ist im Prinzip
nichts anderes als eine Fake Identität
also wenn ich jetzt versuche in den
sozialen Netzwerken Fake News zu
verbreiten dann muss ich das natürlich
auch mit relativ glaubwürdigen Accounts
machen also es reicht jetzt nicht aus
dass ich da äh mir ein Account derstelle
der ist 5 Minuten alt und dann poste ich
da munter drauf los wer protonway kennt
das ist so ein Anbieter für sichere
e-mailkmunikation da erstellt man sich
ein Account oder hat das früher gemacht
hat dann darüber über diese
E-Mailadresse sich irgendwo angemeldet
und dann kam oder kommt mittlerweile
wenn man das macht die Meldung sie haben
gegen unsere Nutzungsbedingung verstoßen
denn sie haben jetzt innerhalb von einem
Tag mit der neu generierten E-Mail sich
irgendwo angemeldet das wollen wir nicht
mehr das ist ziemlich schwierig also die
Social Media Plattformen sind sehr sehr
gut geworden darin was natürlich die
Arbeit von Ermittlern auch ein Stück
weit beeinflusst und beeinträchtigt weil
man stellt sich vor ich möchte jetzt
irgendwo im Deep Web gut da ist jetzt
nicht so schwierig aber jetzt z.B auf
Instagram oder auf Facebook und
irgendwelche Gruppen rein um da zu
recherchieren auf WhatsApp irgendwelche
Gruppen rein um da Beweismaterial zu
sammeln das kann ich dann natürlich nur
sehr schwer machen wenn ich nicht die
Möglichkeit habe richtig glaubwürdige
fakeprile zu erstellen die auch dann von
den Social Media Plattform nicht als
solche geflagt werden und da kommt jetzt
KI natürlich wieder ins Spiel weil jetzt
können wir natürlich sprachliche
Interaktionen z.B auf X oder in einem
anderen Kurznachrichtendienst äh machen
wo dann Bots untereinander miteinander
kommunizieren oder man stellt eine Frage
an jemanden und der antwortet dann in
der entsprechenden Weise wie wir ihn
dann vorher programmiert haben also
jeder der schon mal von System InStr
oder custom instructions gehört hat im
Kontext von Open Chat GPT der weiß ich
kann oben ganz ganz oben definieren
bitte verhalte dich so und so reagiere
relativ ruppig Bau vielleicht irgendwie
einenen Sprachfehler ein oder sonst
irgendwas und dann ist das schon
wesentlich glaubwürdiger ist relativ
schwierig es gibt sehr sehr viel was man
da beachten muss nicht zu viel Posten
nicht zu wenig Posten glaubwürdige
Interaktion einfach gestalten das kann
man mit KI jetzt eben relativ einfach
machen dem ich z. Beel folgenden prompt
eingebe erstelle eine fiktive Person mit
den folgenden Informationen und dann
kommt hier das zurück um eine fiktive
Person mit den angeforderten Details zu
erstellen werde ich zunächst einen
kohärenten Hintergrund für diese Person
entwickeln und anschließend Usernamen
für die verschiedenen sozialen Medien
vorschlagen also da nimmt mir das System
auch schon einiges ab also ich muss
nicht selber hergehen und
sagen bitte mach dass das alles kohärent
ist achte darauf dass das Geburtsdatum
zum vielleicht Studienstart passt also
dass jetzt nicht mit 10 schon anfängt zu
studieren ich weiß das gibt's auch aber
ist jetzt nicht der Regelfall fällt dann
eher auf ja da wern wir wieder bei dem
Punkt das ist dann zu over the top
vielleicht genau und das alles kann eben
relativ einfach auch automatisiert
werden mit Python sind das wenige zilen
Code da kann man sich dann PDFs draus
generieren lassen ich kann mal gucken ob
ich das hier noch auf die Schnelle finde
ich habe mir da auch so ein paar PDFs
mal generieren lassen z.B von der Laura
Schmidt ja die Laura Schmidt habe ich
einfach nur eingegeben erstelle mir das
Profil von einer jungenfrau ähm und
erfinde ein paar Information die zu ihr
passen könnten und dann wird hier gesagt
ist die Laura Schneider am 27 April 1996
in Berlin geboren da wohnt sie jetzt
auch aktuell in der Seestraße 33 ihr
seht diese Postleitzahl existiert die
Telefonnummer jetzt bitte nicht anrufen
die hat zumindest das richtige Format
den Arbeitgeber Siemens AG den gibt es
auch se hat diplominformatik studiert
interessant dass er direkt weil ich
gefragt habe erstell mir dass das Profil
Informatikerin erstellt hat aber kann
auch Zufall sein vielleicht kennt er
mich zu gut keine Ahnung an der TU
Berlin studiert passt auch dazu dass sie
ja da ja momentan in Berlin wohnt also
man sieht das war per Knopfdruck
generiert wurde mir das Ganze innerhalb
von 10 Sekunden ja also wenn man das
jetzt eine Minute lang macht dann hat
man sechs fakeprile ich mache das auf
100 Rechnern gleichzeitig habe ich 600
Fake Profile und das mache ich jetzt den
ganzen Tag dann könnt uch ausreichnen
wie viele Fake Profile ich jetzt habe
das sind jetzt erstmal nur die pdfdeien
aber die kann ich dann auch
automatisiert auslesen oder ich habe das
ganze schon im Hintergrund gespeichert
und erstelle dann über so ein
webfamework wie selenium einfach
automatisiert solche Accounts über
mehrere IP-Adressen aus verschiedenen
Ländern je nachdem wo die Person
herkommt und dann habe ich da am Ende
ein relativ gutes Ergebnis mit sehr sehr
wenig Aufwand Dinge die früher
wesentlich schwieriger gewesen wären
kommen wir zum letzten Punkt und dann
sind wir auch im p schon durch nämlich
den Informationskrieg was ist das
erstmal grundsätzlich man versucht mit
Hilfe von verschiedenen Techniken
politische soziale und militärische
Ziele zu erreichen daher auch dieser
vortragstitel künstliche Intelligenz als
Waffe ich habe jetzt schon sehr sehr
viele Anwendungsfälle gezeigt die wir
bisher nutzen konnten um eben solche
Fake News z.B zu verbreiten sprich voice
clones deep Fakes
Chatbots die ich damit bauen kann
sockpppets und so weiter das soll
natürlich die öffentliche Meinung
beeinflussen Manipulation und Kontrolle
ausüben und eine gewisse Unsicherheit in
der Bevölkerung hervorrufen die dadurch
destabilisiert wird und eben diese
Zuordnungsverwirrung hinbekommt genau
dann für die Europawahl kann ich
natürlich nur sagen spielt das eine
relativ große Rolle man versucht jetzt
z.B Politiker zu diskreditieren damit
man versucht wieder die Gesellschaft zu
spalten und fakeinhalte zu generieren
über die man dann nicht mehr her wird
die Geschwindigkeit mit der das heute
geht das ist so die große Problematik
die wir haben früher hätte das Ewigkeit
gedauert heute per Knopfdruck wenige
Sekunden wie sieht das in der Zukunft
aus ich glaube mittlerweile könnt ihr
das jetzt auch nicht mehr hören ähm was
wollen wir machen natürlich ki-
Kompetenz aufbauen wir wollen dass
wir sensibilisiert werden dass die
Botschaft quasi in die in die Welt
rausgetragen wird hey es gibt sowas wie
Fake News achte darauf ob es jetzt eine
Utopie oder eine Dystopie wird wie das
mit den technischen Entwicklungen
Zukunft aussieht bleibt abzuwarten da
würde ich jetzt aber auch gleich dann
gerne die Diskussion zu nutzen mal eure
Meinung dann zu erfahren und natürlich
stehe ich Euch jetzt auch dann für
Fragen zur Verfügung und Bedan mich für
die Aufmerksamkeit vielen Dank