Karl Lauterbach ist "Opfer" eines eher lustigen Deepfakes geworden
Karl Lauterbach ist "Opfer" eines eher lustigen Deepfakes geworden
You're viewing a single thread.
Wann fangen wir endlich an echte Videos zu signieren?
und wie soll das funktionieren?
Bspw. ganz einfach, wie man das schon seit 30 Jahren macht.
Es gibt zwei Möglichkeiten das Problen der Authentizität anzugehen: (1) AI Material zu kennzeichnen oder (2) die Vertrauenswürdigkeit von "echtem" Material sicherzustellen.
Ersteres ist ein Rennen, was man nicht gewinnen kann (und darüber hinaus ein ressourcenintensives und langwieriges Unterfangen).*
Letzteres ist seit der Steinzeit etablierte Software, die die Authentizitätsfrage in einer Vertrauensfrage umwandelt, also zu anderer / gewohnter Stelle verschiebt: Ein Video ist bspw. von Lauterbach signiert, d.h. ich kann sicher sein, dass es von ihm stammt. Ich habe die Frage der Authentizität umgewandelt in die Frage, ob ich Lauterbach traue.
Beides zusammen wäre natürlich noch besser. Der Punkt von @dwt ist m. E. jedoch, dass Signaturen lange lange schon existent und ressourcentechnisch quasi kostenlos sind und man sich einem Haufen der aktuellen Probleme (wie diesem) ganz einfach entledigen könnte. Alles dafür ist schon lange da, wird jedoch medientechnisch nicht genutzt.
* Das ist keinesfalls nutzlos, da ich ja immer noch mit der Vertrauensfrage dastehe.
Jo, für statische Dateien. Auch für streams auf Youtube, Twitter, Mastodon?
Auch für streams auf Youtube, Twitter, Mastodon?
Ich habe es so verstanden, dass es in erster Linie um wild zirkulierende Bilder / Videoschnippsel geht, nicht um Streams. Sobald Streams abgeschlossen sind, werden sie ja auf vielen Plattformen auch zu fixen Videos.
Bei Streams bzw. Medien auf Plattformen hat man ja bereits die Sicherheit durch die Authentizität eines Accounts. Ich leite da spontan zwei Probleme ab: (1) Was ist, wenn der Account gekapert wird? (2) Was ist, wenn es einen gleich-klingenden Account (Fake-Account) gibt.
Ersteres würde ich spontan eher zu den etablierten Methoden delegieren - bspw. 2-FA (1). Zu 2: Aktuell werden Accounts bereits geprüft, wenn es um bekannte Personen, wie MdBs oder BMs, geht. Da könnte man jedoch tatsächlich auch mit Signaturen ansetzen. Man könnte problemlos platformseitig einen festen Teil des Accounts ansich signieren. Dann weiß ich: Dieser Account gehört bspw. zu Lauterbachs Schlüssel.
Technisch wäre es m.E. auch kein Problem zu implementieren einzelne Videos zu signieren: PGP-Signaturen verwursten den / einen Fingerabdruck einer Datei mit einem Schlüssel, um sicherzustellen, dass der signierte Dateiinhalt nicht verändert wurde. Eine Plattform könnte ohne Weiteres jedes Video signieren. Die Sinnhaftigkeit dessen erschließt sich mir jedoch gerade nicht.
Ein Stream im Prozess des Streamens, bei dem man weder der Plattform traut, noch dem Übertragungsmedium, ist glaube ich eher ein absolutes Nischending. Aber technisch ginge auch das.
Logisch, es kann ja hier signiert werden, dass der Livestream von einer bestimmten Person veranstaltet wird.
Alles andere sind ja nur veröffentlichungsschnipsel, alle die kann man signieren.
Man könnte abschnittsweise signieren. Weiß nicht, ob es das schon gibt.
Es ist aber nicht so unbedingt nötig. Es gibt ja schon HTTPS.
Man könnte abschnittsweise signieren.
Das ließe sich technisch machen. Aber, wie geschrieben, ist mir der Sinn / Nutzen schleierhaft.
HTTPS garantiert dir aber nur, dass der Transport sicher erfolgte. Nicht hingegen, ob die Quelle vertrauenswürdig ist.
Du kannst doch das Zertifikat der Quelle prüfen?
Naja toll, dann weiß ich "ok, is Twitch/YouTube/whatever", aber noch nicht, dass der, der das da ausstrahlt, wirklich der ist, der er vorgibt, zu sein.
Hm, ja, gut, das ist jetzt vielleicht ein bisschen besserwisserisch, aber man kann sowas ja auf seinem eigenen Server nochmal hosten. Man muss nicht auf Youtube sein. Oder auf seinem eigenen Server eine Reihe von Links halten die man damit als "echt" bestätigt.
Mir gings aber eigentlich nur darum, dass https nicht nur dafür sorgt, dass der Verkehr sicher war, sondern auch dafür, dass du wissen kannst mit wem du genau kommunizierst.
Also video streaming ohne ein CDN zu machen, vor allem als Politiker, der ein ganzes Land erreichen will, ist aber etwas ... weit aus dem Fenster gelehnt. Video-Streaming performant hinzukriegen ist absolut nicht trivial. Da würde ich schon zu einem etablierten Anbieter greifen.
Das Ding als Beispiel hat in drei Tagen ca 600k views erhalten. Auf der Scale geht das alles noch wunderbar. Kompliziert wirds erst wenn du Videos zu vielen Leuten gleichzeitig bekommen willst, und das kommt halt erst in den kritischen Bereich wenn es um mehrere (viele!) Videos geht. So viele Menschen interessieren sich nicht gleichzeitig für die echten Videos von Politikern.
Aber wie gesagt, das war eigentlich gar nicht mein Punkt, sondern das hier:
Mir gings aber eigentlich nur darum, dass https nicht nur dafür sorgt, dass der Verkehr sicher war, sondern auch dafür, dass du wissen kannst mit wem du genau kommunizierst.
Normalerweise würde der Account von einer vertrauenswürdigen Seite verlinkt, zB vom Bundestag im Fall von Lauterbach. Bei einer Signatur im Stream müsstest du den Schlüssel auch von irgendeiner vertrauenswürdigen Quelle holen. DH, da gewinnst du nix.
Man könnte auch Twitch/usw zwingen, die Identitäten der Streamer zu überprüfen und wie ein Impressum zu veröffentlichen. Ich halte das für ziemlich übergriffig und gefährlich, aber wenn der Accountname keine hinreichende Identität ist, dann geht's nicht mit weniger.
ob die Quelle vertrauenswürdig ist
Tja, da wird's philosophisch.
Menschen wie Lauterbach haben ein public private schlüsselpaar. Alles von dem er will, dass du und ich nachvollziehen kann, dass er denkt, dass es echt ist, kann er mit seinem privaten Schlüssel signieren, und du (oder besser deine Clients) können das über seinen öffentlichen Schlüssel prüfen und entsprechend darstellen.
Awesome, dann kann ich alles mögliche sagen und wenn mich jemand dabei filmt, einfach nicht signieren und der Videobeweis zählt plötzlich als Deepfake..?
dann kann ich alles mögliche sagen
Ist das ein großes Problem?
Nope, der Beweis zählt dann als nicht von dir freiwillig ale echt eingestuft. $jemand muss dann einen anderen Weg finden die Echtheit zu zeigen. Z.b. indem er selbst signiert und damit sagt, das s er mit seinem Namen dafür steht das das Video echt ist.
Wenn dich jemand beim Scheißelabern filmt und das Video im Internet landet, bist du in der Regel eh nicht die Person, die es hochläd. ;)
Vielleicht sollte man dazu anmerken: In Deutschland ist das schnell strafbar.
(1) Mit Freiheitsstrafe bis zu drei Jahren oder mit Geldstrafe wird bestraft, wer unbefugt
- das nichtöffentlich gesprochene Wort eines anderen auf einen Tonträger aufnimmt oder
- eine so hergestellte Aufnahme gebraucht oder einem Dritten zugänglich macht.
https://www.gesetze-im-internet.de/stgb/__201.html
Datenschutz ist dann nochmal was anderes.
Leute, die Videos erschaffen haben, signieren diese kryptographisch und können damit beweisen, dass die Person, die den Schlüssel (normalerweose der Urheber) besitzt, das Video erschaffen hat.
Unsignierte Videos verlieren sofort einen Großteil der Glaubwürdigkeit, weil sie von einer anderen Person als dem Original erschaffen worden könnte, also zum Beispiel könnte es sich um einen Deepsfake handeln.
Ein bisschen ausführlicher, warum es da keine Nachfrage gibt (und es auch nicht sinnvoll ist):
Es gibt schon HTTPS, um sicherzustellen, dass man mit der korrekten Seite kommuniziert. Grundlage sind die hier erwähnten Public-Key Verfahren, aber das kann nachschlagen, wer will.
Wahrscheinlich sind den Meisten schon Fehlermeldungen von abgelaufenen Zertifikaten begegnet. Ein Zertifikat ist eine Datei, in der wichtige Angaben stehen, wie zB der öffentliche Schlüssel einer Domain. Das ist notwendig für HTTPS. Diese Datei wird von einer Zertifizierungsstelle signiert und damit zum Zertifikat. Welchen Stellen man vertrauen kann, ist in den Browsern schon eingestellt, wenn man sie herunterlädt.
Die Zertifizierungsstelle bürgt praktisch für das, was in einem Zertifikat drinsteht. Das Zertifikat von Feddit.de ist zB von Let's Encrypt.
Bei Software, also Apps und Treiber, arbeitet man mit demselben Prinzip. Ausführbare Dateien werden signiert.
Wenn man Videos, etc signieren wollte, würde man nach demselben Prinzip arbeiten. Jemand registriert sich bei einer Zertifizierungsstelle und benutzt dann das Zertifikat, um Dateien zu signieren.
Es natürlich unnötig die Datei zu signieren/zertifizieren, wenn die Domain/der Server schon zertifiziert ist. Das heißt, es ist nur nötig, wenn man will, dass die Datei anderswo geteilt wird. ZB per Torrent, oder auf andere Server hochgeladen. Die Meisten wollen das aber wohl nicht. Die wollen, dass die Leute zu ihrem Kanal/ihrer Seite kommen. Es ist auch normalerweise illegal wg Urheberrecht und Datenschutz.
Es ist auch nicht besonders hilfreich. Man muss ja immer noch darauf achten, wer signiert hat. Normalerweise wird so ein Lauterbach-Video von einem Nachrichtenkanal aufgenommen und verbreitet. Die Leute müssen dann immer noch entscheiden, wer glaubwürdig ist. Etwa die ARD oder der fliegende Reichsreporter.
Sehe ich genau anders. Wenn ich mit Telegramm kommuniziere ist das ziemlich sicher mit https geschützt. Aber es fehlt eine Möglichkeit, das ich ein Video oder link dort so teilen kann, das die Information ‚lauterbach steht mit seinem Namen dafür das das echt ist‘ irgendwie mit transportieren kann.
Wie gesagt, wer auch immer das Interview geführt hat, das du teilen willst, will wahrscheinlich nicht, dass du es teilst. Der wird das eher als Urheberrechtsverletzung sehen.
Das ist falsch bzw. am Thema vorbei. HTTPS sichert dir die Kommunikation zu Twitter aber bzgl. fake-Accounts auf Twitter bringt das nichts.
Was ist daran falsch?
Für die Accounts auf Twitter ist Twitter die Zertifizierungsstelle. Wenn du Twitter nicht automatisch glaubst, kannst du drüber nachdenken, ob eine andere Stelle automatisch besser ist.
Zum Schutz vor sowas gibt es HTTPS. Der einzige Vorteil Dateien zu signieren wäre, wenn man will, dass die geteilt werden. Wenn ich mir ansehe, wie die Leute zu Datenschutz und Urheberrecht stehen, ist es den meisten wohl sowieso lieber, wenn das nicht passiert.
ETA: Ich bin mir mal wieder nicht sicher, warum ich hier runter gewählt werde. Vielleicht, weil es zu knapp war? Ich habe mal versucht, ausführlicher zu erklären, worum es hier geht, damit es zugänglicher ist. -> https://feddit.de/comment/8722881
HTTPS hat nichts mit dem Schutz gegen Deepfakes zu tun. Das ist nur für den Übertragungsweg von Daten. Wenn man das Deepfake statt auf der echten Website einfach zum Beispiel auf irgendeinem TikTokkanal verbreitet, dann kommt das auch per HTTPS zum Benutzer. Ist aber trotzdem ein Deepfake.
Ich glaube, ich verstehe nicht, was du hier sagen willst. Jedenfalls schließe ich das aus den Hoch- und Runterwähls.
HTTPS (bzw Digicert Inc im Fall von TikTok) macht glaubwürdig, dass die Daten von TikTok kommen. TikTok sagt dir von welchem Account sie kommen, oder?
Mir ist nicht so ganz klar, was noch sein muss. Gut, du willst versichert werden, dass etwas kein Deepfake ist. Aber wie soll das gehen, wenn es nicht reicht, dass jemand bürgt?
Ganz einfach. Jemand, der etwas veröffentlicht, signiert es. Zum Beispiel über die SSL Zertifikatsinfrastruktur oder so. Dann wissen alle, dass es wirklich von ihm kam. Dann kann man die Datei beliebig teilen und verteilen.
Aber normalerweise wollen die Leute ja, dass die Klicks zu ihrem Kanal/Seite kommen und eben nicht, dass die Dateien anderswo verbreitet werden. Die Leute wollen überwiegend kontrollieren, wer, wann, wie Zugriff auf "ihre" Daten hat. Genau darauf habe ich ja zuerst hingewiesen.
Ich weiß auch nicht, was damit gewonnen wäre. In einem Fall sagt dir TikTok, von welchem Account etwas kommt. Im anderen Fall eine Zertifizierungsstelle.
Man kann das ja wollen. Aber im Beispiel ist das Video ja auf Twitter geteilt worden. Und Lauterbachs hat mit seinem Namen gesagt: ist lustig, aber ein Fake. Diese Information ist jetzt aber nur da weil ich Twitter vertraue das die das schon geprobt haben. Wenn ich das auf Mastodon, peertube, Lemmy sehe, dann kann das ja auch echt sein, aber mein Client kann mir das nicht nachweisen über eine Signatur.
Ich bin also immer auf die Ehrlichkeit der Plattform angewiesen.
Eine Signatur kann diese Kontrolle von der Plattform zurück zu lauterbach geben. Das ist die mächtigkeit so einer Lösung.
Na klar müssen alle Programme das nach und nach implementieren. Aber notwendig ist es daher trotzdem.
Ich verstehe schon gar nicht, wie das funktionieren soll. Geschweige denn, dass es notwendig ist.
Ich beobachte, dass die meisten Leute die Kontrolle über "ihre Daten" behalten wollen. Warum sollten die es praktischer machen wollen, dass "ihre Daten" kopiert und geteilt werden?
Bei der Signatur bist du auf die Ehrlichkeit der Zertifizierungsstelle angewiesen.
Der Bundestag hat Seiten für seine Mitglieder. Die verlinken dort ihre SocMed Kanäle. Man könnte dort auch Zertifikate oder Public Keys verteilen. Das gibt aber nur Sinn, wenn die Leute auch wollen, dass ihre Videos, usw per Filesharing verteilt werden. DH sie also keine Kontrolle mehr über die Verteilung haben. Es ist ein Abgeben von Kontrolle und kein Zurückholen.
Ich glaub das wir da eine andere prämisse haben. Ich glaube das man gar keine Wahl hat als anzuerkennen, dass halt superviel über andere Kanäle als ursprünglich veröffentlicht abgeholt wird. Denk doch nur an die time Maschine des Internet archives.
Wenn man Signaturen in die Metadaten der Dateien rein tut, dann bleiben die erhalten wenn man sich nicht Mühe gibt die wegzumachen.
Und man kann zwar zertifizierungsstellen vertrauen und das Problem so lösen, aber man muss nicht. Auch ein selbst-, oder gruppensigniertes Zertifikat kann voll ausreichend sein.
Ich glaube nicht, dass wir wirklich unterschiedliche Prämissen haben. Du willst, dass die Content-Macher ihr Zeug signieren, damit du es teilen kannst.
Ich sage, die Content-Macher wollen das nicht. Ich glaube, wir reden aneinander vorbei, weil du dich nicht damit auseinandersetzt, was die Entscheider wollen. Die einzige Chance für so ein System wäre als DRM.
Denk doch nur an die time Maschine des Internet archives.
Das Internet Archive ist nach deutschem Recht (und EU-Recht, wenn ich nicht irre) natürlich illegal. Man kann also durchaus anders als irgendwas anerkennen.
Zum Technischen:
Wenn du den Schlüssel persönlich überreichen kannst, dann brauchst du die Signatur normal nicht.
Ein Problem ist, dass Schlüssel geklaut oder verkauft werden können. Auch können sich die Interessen des Besitzers ändern, sodass er nicht mehr glaubwürdig ist. Deswegen haben Zertifikate nur eine zeitlich begrenzte Gültigkeit. Wenn eine Datei langfristig archiviert wird, und man dem Archiv nicht traut, dann ist auch eine Signatur nur eingeschränkt aussagekräftig. Abhilfe wäre hier, dass eine Zertifizierungsstelle Hashes von registrierten Dateien speichert. Das Zertifikat könnte dann erneuert werden (was dann allerdings nicht unbedingt nötig ist). Wahrscheinlich gibt es sowas schon, nur eben als DRM-System.
Bitte versteh mich nicht falsch, ich glaube schon das ich verstehe was du sagen willst.
Der content Macher hat ein Interesse an einer bestimmten Plattform, sagen wir mal Twitter. Da hat er sich das grüne (oder welche Farbe Elon gerade verkauft) Häkchen gekauft und das erfüllt für ihn die Signaturaufgabe.
Klar ist das bequem, aber halt nicht mehr ausreichend für die Gesellschaft in der wir leben. Auch wenn kein Mensch es gerne hat oder Lust darauf hat, brauchen wir als Gesellschaft langfristig den Marker das eine Datei ‚echt‘, ‚intendiert‘, oder eine große Menge weiterer Eigenschaften ist. Und weil halt keine Plattform nur für sich existiert, halt auch als standardisiertes Metadatenformat.
Anders könne wir (und auch Zeitungen) langfristig nicht mit rein KI generierten Inhalten umgehen. IMO ist das also nur eine Zeitfrage. Oder wir gewöhnen uns halt an eine Postfaktische Gesellschaft.
Alte Signaturen halte ich hier nicht für das Problem. Es wird ja nur signiert, das zu einem bestimmten Zeitpunkt eine Eigenschaft gültig war. Eine neu Signierung später ist nur notwendig wenn sich die vorher signierte Eigenschaft ändert. Das ein Schlüssel später zurück gezogen wurde und aus welchem Grund (Schlüsselverlust, Rotation,…) ist letztlich für die Bewertung der signierten Information relevant und sollte angezeigt werden.
Ja, und?
Zum Schutz vor sowas gibt es HTTPS.
Meinst du mit "sowas" etwa nicht Deepfakes?
Fakes im Allgemeinen, also auch Deepfakes.
Vielleicht ist das eine Alterssache. Ich weiß nicht, wie man TikTok benutzt, um sich zu informieren. Wenn ich etwas lese, dann achte ich zuerst darauf, ob es aus einer glaubwürdigen Quelle kommt. Also ob den Schreibenden an ihrer Glaubwürdigkeit liegt und ob sie die nötige Sachkenntnis haben. ZB Ein kantiges Zitat vom Lauterbach würde ich nur als echt akzeptieren, wenn es in den seriösen Nachrichtenmedien oder einem offiziellen Account veröffentlicht wurde.