Der Nationalrat will Anbieter von Anwendungen generativer KI verpflichten, Schutzmassnahmen zu ergreifen, wenn ihre Anwendungen sexualisierte Deepfake-Inhalte erstellen können. Das Geschäft geht nun in den Ständerat. Das EU-Parlament hat am 16. Juni beschlossen, KI-Anbieter dazu zu zwingen, in ihren Programmen solche Anwendungen ab dem 2. Dezember zu verunmöglichen. Mit «sexualisierten Deepfake-Inhalten» ist gemeint, dass Menschen mit erkennbarem Gesicht digital künstlich nackt präsentiert werden.                                                                                           

Gleichzeitig hat sich Ständerat in seiner Sommersession für die Einführung von «Massnahmen zur Reduzierung systemischer Risiken – speziell für Kinder und Jugendliche durch grosse digitale Kommunikationsplattformen und Suchmaschinen» – ausgesprochen. Unter anderem sollen «Schutzmechanismen und Sorgfaltspflichten auch bei generativen KI-Anwendungen für Minderjährige» ergriffen werden. Das Geschäft geht nun in den Nationalrat.    

idea