Aufhänger: heise.de
Der Fall
Es ist Corona-Zeit. Eltern arbeiten von zu Hause, es gibt Lockdowns, und trotzdem werden Kinder krank. Was tun? Im Technologievorreiterland USA ist das ganz einfach: Man macht eine Videosprechstunde.
Ein Vater machte sich Sorgen um einen Ausschlag im Genitalbereich seines Sohnes. Dieser veränderte sich regelmäßig und der Vater wusste nicht, ob es sich bessert oder nicht. Er kontaktierte den Arzt, der ihn aufforderte, doch bitte vorab ein paar Fotos vom Ausschlag zu machen, damit er sich das ansehen könne. Der Vater nahm sein ganz normales Android Handy und fotografierte den Ausschlag. Er hatte einen Google Account und war mit diesem auf dem Handy eingeloggt. Er benutzte noch mehr Google Services, die alle super funktionierten und ihm die Bequemlichkeit und Benutzerfreundlichkeit gaben, die er suchte. Alle Emails waren auf Gmail. Die 2FA macht er mit Google FI.
Das ist ein Mobilfunk-Discounter-Dienst von Google, also ähnlich Klarmobil oder Debitel. Der glückliche Google Nutzer hatte also alle seine Eier in einen Korb gelegt, den Google Korb.
Da ihm der Ausschlag wirklich Sorgen machte, überzeugte er den Arzt, einen Termin am Samstag zu bekommen, er wollte nicht bis Montag warten. Er sendete die Fotos seiner Frau, die diese dann in das Gesundheitsportal des Arztes hochlud, so dass der Doktor sich die Bilder ansehen konnte. Modernes, digitales Gesundheitswesen, wie wir uns das auch vorstellen und darauf zustreben.
Der Arzt sah sich die Bilder an, verschrieb Medizin, der Ausschlag ging weg und sie waren wieder eine glückliche Familie. Bis das der Tod sie trennte. Oder: Bis Google einschritt.
Zwei Tage später erhielt der Vater eine Email von Google, dass sie alle seine Konten deaktivieren werden, wegen „Harmful Content“. Google fügte einen Link an, der erklärte was Harmful Content ist. Dort steht unter anderem: Kinderpornografie.
Das Android Phone hatte alle Fotos immer in die Google Cloud hochgeladen, automatisch. Dort werden alle eingehenden Fotos u.a. auf Kinderpornografie überprüft.
Der glückliche Google Nutzer dachte sich, es ginge wohl um die Bilder seines Sohnes. Das könne er leicht erklären. Also kontaktierte er Google, erklärte was die Fakten waren, warum er das Bild gemacht hat usw. Kein grosses Ding. Einfach ein besorgter Vater in einer Notlage während eines Lockdowns.
Google, als wirtschaftliches und kundenorientierten Unternehmen, reagierte schlicht und ergreifend mit: Nein, der Einspruch ist abgelehnt. Wir lassen Ihr Konto deaktiviert.
Nun gibt es Gestalten, die sagen: Na und, dann verwende Google doch einfach nicht mehr.
Wenn man sich einem Giganten mit Leib und Seele verschreibt, egal ob Google oder Apple, dann ist das nicht so einfach. Er hatte keinen Zugriff mehr auf seine Emails. Alle seine Emails lagen in Gmail. Kein Zugriff. Und natürlich hatte er keine Backups gemacht. Wie so viele Menschen, die Webmailanbieter verwenden, liegen die Emails auf deren Server und werden niemals heruntergeladen. Sperren Google oder GMX oder Apple oder Hotmail den Account, aus welchen berechtigten oder unberechtigten Gründen auch immer, sind diese alle weg. Kein Zugriff mehr.
Das gilt aber nicht nur für Email. Die wenigsten Menschen, die ich kenne, sichern ihr Handy oder Tablet regelmäßig. Fällt es ins Wasser hat man vielleicht ja die Daten in der Cloud. Aber was, wenn der Cloud-Anbieter auf einen keinen Bock mehr hat? Oder der Meinung ist, man sei ein Kinderschänder?
Wenn man dann noch alle Kontakte, Kalenderdaten oder Fotos in Google speichert, ist damit das Leben schon ziemlich eingeschränkt, wenn man keinen Zugriff mehr hat. Stellen Sie sich das vor: Alle Bilder der letzten Jahre von Geburtstagen, mit Kindern, Reisen oder vom Sport, wo sie ein Bild von Gina Lückenkemper gemacht haben, sind auf einmal weg. Ein Risiko, wenn man alles in der Cloud lässt, alles bei Techgiganten, die einfach machen können was sie wollen. Oder nicht? Oder die gescannten Verträge, Abmachungen, Unterlagen für die Rente, Arztunterlagen, Steuerunterlagen. Alles in der Cloud, da ist es sicher. Denken wir. Woran wir nicht denken, dass wir damit unser Leben anvertrauen, die sich nicht an Gesetze halten müssen, die im Ausland sitzen, die Sie nicht verklagen können. Sie geben Ihr Leben Cowboys. Nur bringen Sie zum Duell ein Jojo mit und der Techgigant die sprichwörtliche Bazooka.
Mit Google FI hatte der glückliche Google Nutzer auch seine Telefonnummer verloren. Alle 2FA Konten mit seiner Telefonnummer konnte er nicht mehr nutzen. Stellen Sie sich das vor. Sie verwenden aus Sicherheitsgründen 2FA mit Ihrem Handy (und es gibt noch genügend Anbieter, die nur das als 2FA anbieten) für Ihre Bank, Ihre Mailkonten, Amazon zum Einkaufen etc. Nichts davon geht mehr. Sie haben keinen Zugriff mehr auf all diese Konten. Möglicherweise können Sie als Selbständiger dann keine Steuererklärung oder Umsatzsteuervoranmeldung oder was auch immer mehr abgeben. Erklären Sie das mal dem Finanzamt.
Was war passiert?
Google scannt alle Bilder auf Kinderpornografie, wenn sie hochgeladen werden. Apple macht das auch, wie Facebook und andere, aber bald auf Ihrem Gerät. Das war der Haupttreiber, mich von meinem iPhone zu trennen.
Wenn es etwas findet, was nach Kinderpornografie aussieht, meldet es das vollautomatisiert an das NCMEC (National Center for Missing and Exploited Children). NCMEC meldet das basierend auf dem Standort der lokalen Polizei, die dann sofort einen Fall aufmacht und Untersuchungen einleitet.
Die Polizei setzte sich mit dem laut Google „Kinderschänder“ schriftlich in Verbindung und erläuterte, dass sie jetzt alle Daten von ihm von Google anfordern würden. Der mittlerweile besorgte Vater nahm proaktiv Kontakt mit der Polizei auf um den Fall zu klären. Zu seiner Überraschung sagte der ermittelnde Beamte ihm, dass der Fall schon wieder geschlossen sei. Weiterhin erklärte der Polizist ihm, dass das aus seiner Sicht niemals Kinderpornografie ist und dass man versucht habe ihn zu kontaktieren doch er hätte ja nicht reagiert. Sie haben es per Email auf der GMAIL Adresse probiert. Auf die er keinen Zugriff mehr hatte. Google sperrt ein Konto, daraufhin wird die Polizei aktiv und versucht denjenigen per GMAIL zu erreichen. Hm, das hätte jemandem auch auffallen können.
Uff. Papa entspannte sich. Endlich konnte er wieder auf seine Daten zugreifen. Alles war geregelt, dachte er.
Er meldete sich bei Google, nochmals, sagte nochmals, dass das keine Kinderpornografie sei und dass die Polizei den Fall geöffnet aber sofort wieder geschlossen habe, weil sie keine Vergehen erkennen konnten.
Und natürlich, Google als Firma mit dem Slogan „Don’t be evil“, kam der Entscheidung der Polizei nach und er konnte weiter leben, bis das Internet ihn schied.
Pustekuchen. Google war das Ergebnis der polizeilichen Untersuchung gänzlich egal. Doch nicht nur, dass sie das Konto nicht mehr aktivierten. Sie informierten ihn sogar, dass sie alle seine Daten löschen würden. Er würde niemals wieder Zugriff auf diese Daten bekommen. Niemals. Never ever. Geteert, gefedert, verbannt von seiner grossen Liebe. Seinem ein und alles.
Als der Fall bekannte wurde, stiegen die Medien ein. Die honorige New York Times kontaktierte Google um zu fragen, wann sie das Konto dieses fälschlicher Weise Beschuldigten wieder öffnen und ihn an seine Daten lassen.
Spätestens dann bricht ein privatwirtschaftliches Unternehmen ein. Denn die haben Aktionäre und wollen doch Geld verdienen. Schlechte Presse will niemand, schon gar nicht in den USA, oder?
Also antwortete Google: No!
Google steht zu seiner Entscheidung, dass der Algorithmus besser entscheiden kann, als eine polizeiliche Untersuchung mit Menschen, die sich die Bilder angeschaut haben und mit einem gesetzlichen Auge. Die den Kontext der Bilder verstanden. Übrigens ist das nur ein Fall. Es gibt mehrere, die aber nicht so publik geworden sind.
Da stand er nun, der besorgte Vater und Google Liebhaber. Es ist nicht überliefert, ob er Nachbarn hatte, die der Meinung sind: „Irgendwas wird schon dran sein. Google macht das ja nicht einfach so.“
Was überliefert ist, ist, dass er bei Google nicht an SEINE Daten herankam. Doch was tun?
Die Polizei, Dein Freund und Helfer. Die Polizei hatte sich zur Beweissicherung die Daten heruntergeladen und konnte sie so dem aus Google‘s Sicht „Kinderschänder“, der nichts Illegales laut Gesetzt getan hat, zur Verfügung stellen.
Fazit
Wir können einiges aus diesem Fall lernen.
1. Daten, die nicht auf Ihrem Gerät sind, gehören Ihnen nicht. In dem Moment, wo die Daten in der Cloud sind, gehören sie dem Cloud-Anbieter. Sie haben keine Rechte mehr daran oder nur die, die der Cloud-Anbieter freiwillig erlaubt. Anders ist nicht zu erklären, dass Google die Daten nicht herausgegeben hat und nicht musste. Was bedeutet das, wenn direkt auf Ihrem Gerät Bilder überprüft werden und ggf. fehlerhaft gelöscht?
Tipp: Machen Sie lokale Kopien, sichern Sie Ihre Emails regelmässig lokal, legen Sie lokale Backups von Ihren Fotos und Verträgen an. Verlassen Sie sich nicht alleine auf den nicht an Gesetze gebundenen Cloud-Anbieter aus dem Ausland.
2. KI Algorithmen können Fehler machen. Selbst bei einer sehr eingeschränkten Aufgabe wie der Bilderkennung. Das sollten wir uns auch bei dem Thema Chatkontrolle ins Gedächtnis rufen.
Tipp: Glauben Sie niemandem, der Ihnen erklärt KI wäre perfekt, neutral, objektiv und läge immer richtig. Der hat keine Ahnung. Benutzen Sie Ihren Verstand. Es gibt genug Beispiele wo KI rassistisch oder schlicht falsch lag. Lesen Sie sich in KI ein, damit Sie ein Grundverständnis haben. Beispielsweise das Buch “Ein Algorithmus hat kein Taktgefühl“ oder „Künstliche Intelligenz – Wie sie funktioniert und wann sie scheitert: Eine unterhaltsame Reise in die seltsame Welt der Algorithmen, neuronalen Netze und versteckten Giraffen“ von Janelle Shane. Das sind Bücher für jeden.
3. Niemand kann die Techriesen mehr stoppen. Polizeiliche Entscheidungen? Egal! Mediendruck? Egal. Sie stehen über dem Gesetz. Daher sollten Sie zumindest mal darüber nachdenken, wem Sie alles was anvertrauen.
Tipp: Teilen Sie auf, wenn Sie schon Techgiganten helfen wollen, noch stärker zu werden. Werfen Sie nicht alle Eier in einen Korb. Oder suchen Sie sich, wenn möglich, einen lokalen Anbieter.
4. Das Beharren auf der Objektivität und Perfektion der Algorithmen, selbst wenn bewiesen ist, dass das falsch ist, wird noch ausgeprägter werden und unserer aller Leben massiv beeinflussen. Jede Führungskraft wird in Zukunft nur noch Entscheidungen auf Grund von Daten treffen, die von Algorithmen ausgewertet wurden. Die wenigsten werden eine andere Entscheidung treffen, auch wenn sie es besser wissen. Weil sie das ihrem Chef kaum erklären können.
Tipp: Stellen Sie Fragen, hinterfragen Sie. Bringen Sie kritisches Denken Ihren Kindern bei. Wenn eine Textaufgabe gestellt wird und Ihr Kind kommt als Ergebnis auf ein Pferd mit acht Beinen, insistieren Sie, darüber nachzudenken, ob das sein kann. Helfen Sie den Kindern. Denn diese werden unter dieser Delegation der Verantwortung leiden. Und Mann, sind wir Deutschen gut, die Verantwortung immer anderen zu überlassen.
Bonus:
Stellen Sie sich vor, der Vater hätte auch noch möglicherweise Fernseher, Festnetztelefonie, Auto, Toaster, Geschirrspüler, Waschmaschine, Putzroboter oder gar ein Bankkonto oder eine Kreditkarte von Google gehabt.
Es gibt Firmen, die bieten mehr Produkte für den täglichen Gebrauch als Google. Was ist, wenn diese Firmen so agieren?