SocialGuard: An adversarial example based privacy-preserving technique for social images

Xue, Mingfu; Sun, Shichang; Wu, Zhaoxiang; He, Can; Wang, Jian; Liu, Weiqiang

doi:10.1016/j.jisa.2021.102993

Cited by 2 publications

(3 citation statements)

References 25 publications

Supporting

Mentioning

Contrasting

Order By: Relevance

“…From the security point of view, Adversarial Attacks (AA) showed that deep learning models can be easily fooled [ 13 , 14 , 15 , 16 , 17 , 18 , 19 , 20 , 21 , 22 , 23 , 24 , 25 ] while, from a privacy point of view, it has been shown that information can be easily extracted from dataset and learned model [ 26 , 27 , 28 ]. It has also been shown that attacking methods based on adversarial samples can be used for privacy-preserving purposes [ 29 , 30 , 31 , 32 , 33 ]: in this case, data are intentionally modified to avoid unauthorized information extraction by fooling the unauthorized software.…”

Section: Introductionmentioning

confidence: 99%

Lie to Me: Shield Your Emotions from Prying Software

Baia

Biondi

Franzoni

et al. 2022

Sensors

View full text Add to dashboard Cite

Deep learning approaches for facial Emotion Recognition (ER) obtain high accuracy on basic models, e.g., Ekman’s models, in the specific domain of facial emotional expressions. Thus, facial tracking of users’ emotions could be easily used against the right to privacy or for manipulative purposes. As recent studies have shown that deep learning models are susceptible to adversarial examples (images intentionally modified to fool a machine learning classifier) we propose to use them to preserve users’ privacy against ER. In this paper, we present a technique for generating Emotion Adversarial Attacks (EAAs). EAAs are performed applying well-known image filters inspired from Instagram, and a multi-objective evolutionary algorithm is used to determine the per-image best filters attacking combination. Experimental results on the well-known AffectNet dataset of facial expressions show that our approach successfully attacks emotion classifiers to protect user privacy. On the other hand, the quality of the images from the human perception point of view is maintained. Several experiments with different sequences of filters are run and show that the Attack Success Rate is very high, above 90% for every test.

show abstract

Section: Introductionmentioning

confidence: 99%

Lie to Me: Shield Your Emotions from Prying Software

Baia

Biondi

Franzoni

et al. 2022

Sensors

View full text Add to dashboard Cite

show abstract

“…The effectiveness of adversarial patches and noise-based methods in realworld scenarios, as well as their susceptibility to evolving facial recognition technologies, remains for exploration [211,193,172,228]. Moreover, the specificity and target-dependency of current methods based on Generative Adversarial Network (GAN) indicate a need for more versatile and generalizable solutions [119,206,173,90,56,25,34,211,194,215,14,216,144,104,10,198]. Addressing these gaps is essential for the advancement of privacy-preserving technologies during a period in which digital identity and security are increasingly important.…”

mentioning

confidence: 99%

“…Related Works of model misbehaving. Attack strategies include directly modifying digital images with adversarial perturbations before online sharing [216,194,19], wearing physical objects like adversarial T-shirts or makeup that introduce perturbations into any captured photo [82,16,215,211], or placing translucent stickers on camera lenses to disrupt face detection in images [230]. Thys et al [193] expanded the spectrum of adversarial attacks on targets exhibiting high intra-class variety, particularly focusing on human body detection.…”

mentioning

confidence: 99%

Beyond Recognition : Privacy Protections in a Surveilled World

Minh-Ha

2024

Linköping Studies in Science and Technology. Dissertations

View full text Add to dashboard Cite

Våra ansikten är unika och är en integrerad del av vår identitet. Med smartphones och sociala medier finns det miljarder ansiktsbilder online varje dag. Denna data driver ansiktsigenkänningsteknik, som används för allt från att låsa upp telefoner till omfattande övervakning. I takt med att ansiktsigenkänningstekniken utvecklas, ökar också dess förmåga att identifiera oss -ofta utan vårt samtycke. Denna verklighet leder oss till en avgörande fråga: Hur kan vi skydda vår integritet utan att offra fördelarna med den digitala åldern?Vår forskning antar denna utmaning genom att undersöka hur ansiktsigenkänningsteknik fungerar, dess fördelar för säkerhet och bekvämlighet, samt de integritetsrisker den medför. Vi har utvecklat innovativa strategier för att skydda vår ansiktsdata från icke-samtyckt övervakning samtidigt som vi behåller nyttan med systemen inom legitima områden som behöver anonymiserade data för samhällets bästa, såsom sjukvård, självkörande fordon och maskininlärning. För att navigera dessa utmaningar har vi introducerat banbrytande verktyg och metoder för anonymisering, såsom AnonFACES, Sty-leID och utforskningen av sårbarheter i FRS genom IdDecoder.Föreställ dig en värld där du kan dela bilder online utan rädsla för att de utnyttjas av övervakningssystem. För att ta itu med dessa problem har vi skapat nya verktyg och tekniker, såsom DiffPrivate och StyleAdv. Dessa innovationer gör ansiktsbilder "osynliga" för övervakningssystem utan att ändra hur de ser ut för mänskliga ögon. Dessa verktyg är konstruerade för att vara offentligt tillgängliga samtidigt som de ger oss möjligheten att effektivt skydda vår integritet.Vårt arbete banar väg för en framtid där tekniken ger oss möjlighet att njuta av de stora möjligheterna med den digitala världen samtidigt som vi upprätthåller vår grundläggande rätt till integritet. Det handlar om att upprätthålla en harmonisk balans mellan innovation och integritet, och säkerställa att våra unika identiteter, som representeras av våra ansikten, förblir uteslutande våra i en värld som ständigt söker märka och kategorisera oss.

show abstract

SocialGuard: An adversarial example based privacy-preserving technique for social images

Cited by 2 publications

References 25 publications

Lie to Me: Shield Your Emotions from Prying Software

Lie to Me: Shield Your Emotions from Prying Software

Beyond Recognition : Privacy Protections in a Surveilled World

Contact Info

Product

Resources

About