Privatsphärefreundliches maschinelles Lernen

Abstract

ZusammenfassungVerfahren des maschinellen Lernens (ML) beruhen auf dem Prinzip, dass ein Algorithmus Muster und statistische Zusammenhänge in Datensätzen erkennt, diese in einem Modell abbildet und das Modell anschließend auf andere Datensätze anwenden kann. Neben den großen Chancen, die maschinelle Lernverfahren mit sich bringen, birgt diese Technologie allerdings auch Risiken für die Privatsphäre, die in diesem Artikel in Form von Privatsphäreangriffen beleuchtet werden.Angriffe wie Model Inversion zielen auf oftmals sensible Informationen ab, die sich während der Trainingsphase eines ML-Algorithmus ungewollt in einem Modell etabliert haben. Wenn Trainingsdaten Personenbezug aufweisen, insbesondere wenn es sich etwa um vertrauliche medizinische Daten handelt, kann dies problematisch für Betroffene sein.Demgegenüber stehen Techniken des privatsphärefreundlichen maschinellen Lernens wie Federated Learning, die eine Risikominimierung für ein breites Spektrum an Privatsphäreverletzungen ermöglichen. Ausgewählte Techniken aus diesem Bereich werden in diesem Artikel ausführlich dargestellt.Dies ist der zweite Teil einer zweiteiligen Artikelserie, deren Auftakt unter dem Titel Grundlagen und Verfahren bereits in der letzten Ausgabe des Informatik Spektrums erschienen ist.

Das Qualitätssicherungs- und Deviceregister des Deutschen Instituts für Gefäßmedizinische Gesundheitsforschung der DGG im Zeitalter von COVID-19, Big Data und künstlicher Intelligenz

“…Fasst man die Entwicklungen der letzten zwei Jahrzehnte zusammen, ergibt sich eine große Chance, aber auch Herausforderung für wissenschaftsorientierte Registerinitiativen: die datenschutzkonforme und privatsphärefreundliche Sammlung von unverzerrten sowie validen Langzeitdaten zur Medizinprodukteevaluation [12][13][14][15]. Dabei sind über die beiden Reformen hinaus weitere Anpassungen des EU-Rechts zu berücksichtigen, die sich teilweise erst in den nächsten Jahren auswirken werden.…”