Sicher im Internet: Sprachsteuerungen

SprachsteuerungIn der Eifer des Gefechtes habe ich auf einen Artikel vergessen, den ich jetzt schnell nachholen möchte 😉

Im heutigen Artikel möchte ich auf die Gefahren von Sprachsteuerungen hinweisen.
Sprachsteuerung von Computern ist in Science Fiction Serien und Filmen schon seit den 50er Jahren des vorigen Jahrhunderts Gang und Gäbe, funktioniert aber bis heute noch nicht wirklich einwandfrei.

Sprachsteuerungen gibt es schon recht lange.
Ende der 90er Jahre war bei einem Office-Softwarepaket eine Demoversion einer Spracherkennungssoftware dabei, mit dem man Spracherkennung für das Textverarbeitungsprogramm aktivieren konnte. Die Software war riesengroß und bedurfte langer Übung auf beiden Seiten, denn die Software musste erst lernen, wie ich spreche und andererseits musste ich selbst lernen, wie man dem Rechner Sprachbefehle erteilen konnte.
Außerdem war der Korrekturbedarf relativ hoch, da recht häufig Wörter falsch erkannt wurden.
Da ich damals nicht viel geschrieben habe, habe ich das nicht mehr wirklich weiter verfolgt.

Viele Mobiltelefone konnten schon Voice-Dial. Man drückte die grüne Taste lange und nach einem Signalton konnte man den Namen der Person sagen, die man anrufen wollte. Dies war aber im eigentlichen Sinn gar keine Spracherkennung, weil nur ein Sprachmuster verglichen wurde, welches mit einem Telefonbucheintrag verknüpft war.

Bei all diesen Systemen wurden alle Daten lokal verarbeitet und gespeichert und nichts wurde ins Internet (meist mangels Internet) gesendet.

Siri, wo ist meine Unterhose?
Heute schaut es schon ein wenig anders aus. Sprach-Assistenten überall. Im Auto, im Navi, im Handy im Fernseher und auch schon in Spielzeug.
Ich bin kein Gegner des Fortschrittes, ich fände es auch recht schön, wenn man mit verbalen Befehlen gewisse Dinge steuern könnte.
Nur es gibt ein kleines Problem, denn die Spracherkennung findet nicht länger im Gerät statt.
Es wird lediglich aufgezeichnet, was man sagt, per Internet zum Hersteller gesendet, dort analysiert ein gigantisches Spracherkennungsnetzwerk das gesprochene, danach wird eine Befehlssequenz zurückgesendet und das Gerät führt diese dann aus.
Dies hat verschiedene Gründe.
Einerseits wäre die Spracherkennung zu groß und zu komplex, um auf dem Gerät sinnvoll zu funktionieren. Es sind wahrscheinlich Terabytes an Sprachmustern notwendig und eine recht gigantische Rechnerleistung, um dementsprechend schnell aus der Frage ein passendes Ergebnis zu bekommen.
Andererseits möchte sich auch natürlich kein Hersteller in die Karten sehen lassen, wie seine Software funktioniert. Wäre die Spracherkennung unmittelbar auf dem Gerät, würde man die Software mittels Reverse-Engineering auf seine Funktionsweise analysieren können.
Da es sich bei Spracherkennung um eine recht komplexe Art von Software handelt, die Intelligenz vortäuschen soll, kann man sich vorstellen, dass nicht jeder Hersteller das Wissen um die selbe teilen möchte.
Wie also kann der Sprachassistent wissen, wo meine Unterhosen schon wieder versteckt sind?
Nun, der Sprachassistent weiß gar nichts, deswegen benötigt er unbegrenzten Zugriff auf dein Gerät, um funktionieren zu können, das heißt, GPS Daten (Bewegungsprofil), Adressbuch, Mails, Sprachnotizen, Textnotizen, Fotos zur Bilderkennung, kurz gesagt: alle Daten auf deinen Gerät.
Findet er dann immer noch keine Lösung, wird eine Trivial-Antwort gegeben, z.b: „Deine Unterhosen sind in deinem Kleiderschrank!“ oder „du hast sie hoffentlich an!“ um Intelligenz bzw. einen echten Assistenten vorzutäuschen.
Erkennst du schon den Pferdefuß? Alles deine Daten sind einem Konzern (welchen auch immer) zugängig. Und du hast keine Ahnung, was dieser damit macht. Im besten Fall nichts schlimmes, aber das ist nur guter Glaube. Den auf alle Fälle werden deine Daten längerfristig gespeichert, damit die Software weiter verbessert werden kann. Datenschutzrechtlich ist das eigentlich schwer bedenklich, aber weil du ja die AGBs und Nutzungsbedingungen sorgfältig gelesen und verstanden hast, ist das alles kein Problem, oder?
Kommt denn das überhaupt niemandem seltsam vor?

Fernseher, Programm 25
Letztes Jahr (2015) gab es einen kleinen Skandal, denn der Hersteller eines Smart TVs hatte irrtümlich in der Sprach und Gesten-Erkennung seiner Fernseher die permanente Versendung von Bild und Ton im Wohnzimmer des Besitzers eingestellt.
Eigentlich sollten die Daten nur dann versendet werden, wenn man dem Fernseher mit einem Befehl die Spracherkennung aktiviert.
Ja, Fernseher können heute auch zurück sehen! Denk mal nach, warst du schon mal nackt vor deinem Fernseher?
Kommt denn das überhaupt niemandem seltsam vor?

Hallo Barbie, machen wir eine Tee Party?
Das i-Tüpfelchen ist nun, was dem Hersteller der Barbie eingefallen ist. Mit „Hello Barbie“ können Kinder aus aller Welt nun mit ihrer Puppe plaudern.
Eine liebe Idee, oder?
Dafür hat ein Großkonzern seine riesigen Ohren in den Kinderzimmern der Welt. Gespräche, Geheimnisse und Wünsche von Kindern.
Zum Glück gibt es auch einen Nutzen für die Eltern, denn man bekommt ein Protokoll über die Gespräche, welche die Kinder mit ihrerer Barbie führen, per Mail zugesandt.
Auch mal was neues, Spionage statt Erziehung
Kommt denn das überhaupt niemandem seltsam vor?

Siri: sende alle Nacktfotos an alle Kontakte
Problematisch wird es, wenn der falsche Benutzer die Befehle gibt, denn eine Stimmerkennung gibt es normalerweise (noch) nicht. Wenn also die Sicherheitseinstellungen zu lasch sind (Gerät reagiert auf Spracheingaben, obwohl es gesperrt ist) oder du dein Gerät unversperrt und unbeobachtet liegen lässt, kann das schon einmal problematisch werden.
Was wäre, wenn deine Partyfotos, auf denen du, sagen wir mal im Saufkoma bist, per Sprachbefehl an deinen Chef gesendet werden?
Oder jemand befiehlt deinem Handy, deine gespeicherten Nacktfotos (von dir oder sonst jemanden?) auf deiner Facebook-Wall zu posten und alle deine Freunde (inklusive Chef) können das dann im Internet betrachten.
Es könnte auch Schaden angerichtet werden, wenn jemand deinem Handy befiehlt, z.B. alle deine Kontakte oder Mails zu löschen.
Kommt denn das überhaupt niemandem seltsam vor?

Aber es ist die Zukunft!
Ja, aber nur teilweise. Wie man auch in den Science Fiction Filmen und Serien sieht, gibt es immer noch Menschen, die Knöpfe drücken müssen.
Schließlich macht es ja keinen Sinn, einem Computer lang und breit zu erklären, dass man den überkochenden Warpkern seines Raumschiffes doch endlich abstoßen soll, wenn man das auch mit einem einzigen Knopfdruck machen könnte.
Für die, die keine Science Fiction Fans sind: Es wäre höchst unerfreulich, wenn ein Atomkraftwerk einen Super GAU hätte, bloß weil man mit dem Computer erst diskutieren muss, ob man den Reaktor herunterfahren möchte oder nicht, obwohl man das drohende Unheil mit einem einzigen Knopfdruck abwenden könnte.

Keine Frage, gewisse Dinge kann man sicherlich per Sprache erledigen. Zum Beispiel E-Mails oder sonstige Nachrichten diktieren.
Vor allem behinderte Personen können durch die Spracheingabe von Geräten extrem profitieren.
Aber alles was den Vorgang durch Sprachbefehl komplexer machen würde, ist halt nicht notwendig. Licht einschalten zum Beispiel. Und vor allem ist es nicht notwendig, dass ein ganzer Konzern weiß, dass ich mein Licht eingeschalten habe.
Die Zukunft wird zeigen, in wie weit die Sprachsteuerung unser Leben verbessert (oder nicht).

Was kann ich dagegen tun?
Wenn man auf seinem Gerät die Spracherkennung aktiviert, nimmt man automatisch am Überwachungsprogramm der Geheimdienste teil.
Denn wie der letzte Überwachungsskandal gezeigt hat, haben die Geheimdienste ihre Fangarme in den Datenspeicher aller Internet-Riesen.
Unde bedenke folgendes: Wäre jeder Mensch gezwungen, einen Peilsender, der gleichzeitig eine Wanze ist, mit sich zu tragen, wäre der Aufschrei groß.
Wenn es ein stylisches €800,- Smartphone ist, hat man überhaupt kein Problem damit, nein, es ist sogar noch erstrebenswert!

Wenn dich sowas nicht stört, weil du eh nichts zu verbergen hast, kannst du ja getrost die Spracherkennung aktivieren, oder aktiviert lassen.
Ansonsten gibt es eigentlich nur eine Möglichkeit:
Spracherkennung aus.

Nachschlag:
Wikipedia über Siri
https://de.wikipedia.org/wiki/Siri_%28Software%29

Wikipedia über Cortana
https://de.wikipedia.org/wiki/Cortana_%28Software%29

Smart TV
http://www.zeit.de/digital/datenschutz/2015-02/samsung-smart-tv-private-gespraeche

Hello Barbie und der Big Brother Award
https://bigbrotherawards.de/2015/technik-hello-barbie

Wer einen Film sehen will, der zeigt warum Sprachsteuerung und in deren Folge künstliche Intelligenz mit Vorsicht zu genießen ist, sehe sich den Filmklassiker Dark Star an. Eine durch einen Kurzschluss fälschlicherweise aktivierte, intelligente Bombe (die zur Vernichtung von Planeten und Sternen, die im Weg sind, benutzt wird), muss irgendwie überredet werden, doch nicht zu detonieren…
Sehr alte, aber recht lustige Science Fiction-Parodie von John Carpenter.
Hier ein Ausschnitt (in Englisch):

Advertisements

Ein Gedanke zu „Sicher im Internet: Sprachsteuerungen

  1. Pingback: Sicher im Internet | Krawutzi!

Gib Deinen Senf dazu!

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden / Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden / Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden / Ändern )

Google+ Foto

Du kommentierst mit Deinem Google+-Konto. Abmelden / Ändern )

Verbinde mit %s