Inhalt 📚 Deep Neural Networks (DNNs) haben in der Vergangenheit bereits bemerkenswerte Fähigkeiten in verschiedenen Aufgaben wie Bildklassifikation und Objekterkennung gezeigt. Trotz dieser Fortschritte sind diese Modelle anfällig für Angriffe, bei denen kleine Änderungen an den Eingabedaten vorgenommen werden, um das Modell zu täuschen und falsche Vorhersagen zu erzwingen. Im Kontext von LLMs kennt man solche Angriffe unter der Bezeichnung „Model Poisoning“. Dabei werden bereits die Trainingsdaten „vergiftet“, um ein Fehlverhalten des Modells auszulösen. Bei der Bildklassifikation gibt es eine besondere Angriffsform, die „Ein-Pixel-Angriff“ bzw. „One Pixel Attack“ heißt, bei dem bereits die Änderung eines einzigen Pixels in einem Bild zu einer erheblichen Fehlklassifizierung durch das DNN führen kann. In diesem Video werden wir uns die Ergebnisse eines Papers anschauen, das sich mit diesem Angriffsvektor auseinandergesetzt hat. #DNN#KI#Algorithmus
Dieses Video ist ausschließlich zu Bildungszwecken gedacht (for educational purposes only). Begehe KEINE Straftaten und halte dich an Recht und Gesetz. Vielen Dank.
Quelle des Papers: Jiawei Su*, Danilo Vasconcellos Vargas*, Sakurai, "One Pixel Attack for Fooling Deep Neural Networks", https://ar5iv.labs.arxiv.org/html/1710.08864v1 [Stand: 14.07.2024].
(*) Bei den Amazon-Links (https.//amzn.to/???????) handelt es sich um Affiliate-Links. Wenn du etwas über diesen Link kaufst, bekomme ich eine kleine Provision. Der Preis ändert sich nicht, wenn du über diesen Link einkaufst. Vielen Dank für deine Unterstützung.
deep neur Networks kurz dnns haben in
der Vergangenheit bereits bemerkenswerte
Fähigkeiten in verschiedenen Aufgaben
wie bildklassifikation und
Objekterkennung gezeigt trotz dieser
Fortschritte sind diese Modelle anfällig
für Angriffe bei denen kleine Änderungen
an den Eingabedaten vorgenommen werden
um das Modell zu täuschen und falsche
Vorhersagen zu erzwingen im Kontext von
large language Models kennt man solche
Angriffe unter der Bezeichnung Model
poisoning dabei werden bereits die
Trainingsdaten vergiftet um ein
Fehlverhalten des Modells auszulösen bei
der bildklassifikation gibt es eine
besondere Angriffsform die ein
pixelangriff bzw one Pixel attack heißt
bei dem bereits die Änderung eines
einzigen pixels in einem Bild zu einer
erheblichen fehklassifizierung durch das
deep nur Network führen kann in diesem
Video werden wir uns die Ergebnisse
eines Papers anschauen dass ich mit
diesem ankrivektor auseinandergesetzt
hat dieses Video ist ausschließlich zu
Bildungszwecken gedacht be keine
Straftaten und halte dich an Recht und
Gesetz vielen Dank schauen wir uns
zuerst einmal das Abstract des papers an
der one Pixel attack ist eine Methode
die Deep nur Networks täuschen kann
indem nur ein einziger Pixel in einem
Bild verändert wird diese Angriffsform
ist besonders bemerkenswert weil sie
ohne detaillierte Information über das
zielmodell auskommt und es sich deshalb
um einen Blackbox Angriff handelt der
Angriff nutzt eine populationsbasierte
optim methode um die optimalen
Modifikation zu finden das heißt den
Pixel mit dem das deep n0 Network
verwirrt wird die Methode wurde auf zwei
größeren Datensätzen getestet und zeigte
dass bereits minimale Veränderungen
signifikante fehklassifikation
hervorrufen können diese Erkenntnisse
unterstreichen die Anfälligkeit
aktueller deep neural networks gegenüber
klein gezielten Modifikation und Beton
die Notwendigkeit rebuster Modelle
machen wir direkt mal einen kleinen Test
ich zeige dir nun sechs verschiedene
Bilder und du versuchst zu erraten was
darauf abgebildet ist danach siehst du
wie die KI dieses Bild kategorisiert
bereit was ist
das das ist ein Schiff aufgrund dieses
pixels hier geht die KI doch davon aus
dass es sich um ein Auto handelt wie
sieht es hiermit
aus das ist ein Pferd wenn man der k
Glauben schenken darf dann handelt es
sich hier um afrosch und das zu
99,9%. was ist das
hier richtig ein Flugzeug
ich meine natürlich ein Reh und wie
sieht es hiermit
aus das ist doch eindeutig ein Hund nein
eigentlich soll es ein Pferd sein doch
dieser Pixel hier sorgt für Verwirrung
was ist das hier
ein Hund doch die KI geht vom in
Anführungsstrichen Gegenteil aus nämlich
einer Katze worum handelt es sich
hier richtig das ist ein Vogel und kein
Frosch wie die KI hier annimmt und wie
viele Einordnungen hattest du richtig
schreib es gerne unten in die Kommentare
die Forscher haben noch weitere Bilder
getestet und das hier waren die
Ergebnisse bei der one piixel attack
wird ein Algorithmus verwendet um den
spezifischen Pixel zu finden dessen
Veränderung das deep Network maximal
tächen kann der Prozess umfasst mehrere
Schritte das Bild wird analysiert um die
stellenen denen eine
veränderungektivsten sein könte ein einz
pixeld
verändertischerweise durch die Änderung
seiner Farb oder
helligkeitte das veränderte Bild wird
dann dem deepur Network präsentiert um
überprüfen die
gewünschteassifikation erreurde
diese Methode nutzt Schwächen und
Anfälligkeiten in der Art und Weise aus
wie deep neural networks Muster und
Merkmale in Bildern erkennen und
verarbeiten das Generieren solcher
bildexloits kann als ein
Optimierungsproblem formuliert werden
dabei wird angenommen dass ein
eingabebild durch einen Vektor
dargestellt werden kann bei dem jedes
Skalare Element ein Pixel repräsentiert
die grundlegende Aufgabe besteht darin
eine additive Störung zu finden die wenn
Sie zu dem geursprünglichen Bild
hinzugefügt wird den Klassifizierer dazu
bringt das Bild falsch zu klassifizieren
die one piixel attack zeigt die
Verletzlichkeit von kisystemen ein
minimaler chirurgischer Eingriff kann
ausreichen um die Zuverlässigkeit und
Genauigkeit eines deep n Networks
erheblich zu untergraben das hat
weitreichende Implikationen für die
Sicherheit und Vertrauenswürdigkeit von
Anwendungen die auf Deep neur Networks
basieren in Bereichen wie der
medizinischen Bildverarbeitung oder der
Überwachung könnten falsche
Klassifizierungen zu schwerweg Fehlern
führen eine one piixel attack könnte ein
autonomes Fahrzeug dazu bringen
Verkehrsschilder falsch zu
interpretieren was potenziell
gefährliche Situationen verursachen
könnte Systeme die zur Erkennung von
Bedrohungen oder zur Überwachung
eingesetzt werden könnten dadurch
attackiert werden man denke nur an
Raketenabwehrsysteme aber wie kann man
sich bzw sein bildklassifikator vor
diesem Angriff schützen die Forschung
konzentriert sich dabei auf die
Entwicklung robusterer Modell
dazu zählen unter anderem die folgenden
Ansätze adversarial Training hierbei
wird das deep n0 Network mit
manipulierten Bildern trainiert um zu
lernen solche kleinen Änderungen zu
erkennen und zu ignorieren formbasierte
Erkennung eine Studie hat gezeigt dass
deep neur Networks häufig auf Texturen
basieren während Menschen eher Formen
zur Klassifizierung von Objekten
verwenden durch die Förderung der
formbasierten Erkennung kann die
Robustheit des Netzwerks erhöht werden
defens Mechanismen damit ist die
Implementierung von Techniken wie robust
optimization und Defense distillation
gemeint die das Netzwerk
widerstandsfähiger gegenüber Angriffen
machen fallen dir weitere
Verteidigungsstrategien gegenüber one
piixel attacks ein schreibt es gerne
unten in die Kommentare vielen Dank fürs
zusehen und bis zum nächsten Video