Alexa - meine neue Freundin ;)

[CityCobra]

Bevor es Missverständnisse gibt, in Facebook ist mein Mikrofon jetzt aus. Mit Alexa geht es erst gar nicht mehr an, das Ding ist nicht meins und ohne das Mikrofon einfach nur ein Staubfänger.

Es gibt auch Leute die ständig die Ortungsdienste aktiviert haben.
Aber das ist wieder ein anderes Thema...

 

[Brummm]

... Ich für meinen Teil bleibe bei der Aussage dass das Risko bei beiden Hardwarekomponenten identisch ist.

Warum? Wir haben in beiden Fällen ein Stück Hardware ...die Intelligenz dahinter die selbe.

Ja. Meine Betrachtung war und ist allerdings keine technische, sondern eine faktische. Wie gesagt ist mir von den meisten der bekannten Technologien (wir haben einige davon in rechtlicher Hinsicht mitgestaltet ) sehr genau und aus erster Hand bekannt, wie sie verwendet werden und welches Missbrauchspotenzial tatsächlich besteht und (vor allem) realisiert wird (oder auch nicht). Das ist keine Frage der Technik (Datensammlung betreiben und Privatsphäre missbrauchen lässt sich in der Tat mit den meisten der Technologien), sondern vielmehr eine Frage der Bereitschaft der Konzerne zur Einhaltung oder Missachtung gesetzlicher Vorschriften (insb.) zu Datenschutz, Privatsphäre und Persönlichkeitsschutz.

Und diese Bereitschaft ist - einfach gesagt - bei dem einen oder anderen „Plattformbetreiber“ deutlich ausgeprägter als bei dem einen oder anderen Hersteller von Mobiltelefonen. Was, noch einfacher gesagt, daran liegt, dass manch ein Hardwarehersteller eben auch und insbesondere mit dem Verkauf der Hardware Geld verdient - und nicht (nur) mit Big Data Services.

So oder so ist die „Diskussion“ aber müßig: Interna lassen sich kaum verraten, und wer solche Produkte wie z. B. „Alexa“ gerne nutzen möchte, der vertraut in der Regel lieber den beruhigenden Beiträgen als kritischen Stimmen. Mir soll das recht sein.

 

[CityCobra]

...wer solche Produkte wie z. B. „Alexa“ gerne nutzen möchte, der vertraut in der Regel lieber den beruhigenden Beiträgen als kritischen Stimmen.

Schreibe ich hier etwa chinesisch?
Es mag ja sein das ein Teil „solcher Produkte“ eventuell mit unseren Daten unsensibel umgehen, aber mir fehlt noch der Beweis das dies bei „Alexa“ auch so ist. Wird das etwa auf Facebook behauptet?

 

[Z3bastian]

Die doofe Kuh hat vorhin einfach nicht mehr reagiert (also sieht hat das Kommando schon registriert, aber nichts getan). Hatte wohl ihre Tage. Nachm Kaltstart gings dann wieder. Wenn das nur bei allen Damen so einfach wäre..

 

[CityCobra]

Unabhängige Tests des Fachmagazin „c’t“ und des WDR belegen das „Alexa“ uns nicht permanent im Hintergrund belauscht.
Gut, es gibt auch Leute die zweifeln auch Tests der „c’t“ an.

 

[Z3bastian]

Müssen sie ja auch nicht. Wenn sie über einen (längeren) Zeitraum die normale Nutzung protokollieren, lässt sich daraus schon extrem viel Erkenntnis ziehen. Das ist ja auch das eigentliche Ziel dieser Geräte, die Bedürfnisse und Angewohnheiten/Eigenschaften näher zu erfassen und daraus dann wirtschaftlichen Nutzen ziehen. Im Idealfall entwickelt sich daraus ein positives Nutzungserlebnis, weil die Angebote/Vorschläge besser treffen als die der Konkorrenz.

Edit: Mit jeder Interaktion (im Internet) gibt man ja seine Interessen preis. Sicherlich kann man so auch gezielt Falschinformationen liefern, aber mittelfristig wird nur ein verschwindend geringer Anteil der Nutzer dauerhaft Zeit investieren, immer wieder Falschinformationen einzustreuen. So hat man am Ende des Tages von den meisten Nutzern ein recht "echtes" Bild.

 

[CityCobra]

Wenn sie über einen (längeren) Zeitraum die normale Nutzung protokollieren, lässt sich daraus schon extrem viel Erkenntnis ziehen. Das ist ja auch das eigentliche Ziel dieser Geräte, die Bedürfnisse und Angewohnheiten/Eigenschaften näher zu erfassen und daraus dann wirtschaftlichen Nutzen ziehen. Im Idealfall entwickelt sich daraus ein positives Nutzungserlebnis, weil die Angebote/Vorschläge besser treffen als die der Konkorrenz.

Also wenn ich Alexa täglich nur nach dem Wetter frage, bekomme ich dann von Amazon Vorschläge für Regenbekleidung etc. ?

 

[Z3bastian]

Kann ich dir nicht sagen, ich nutze sie nur für Musik/Radio. Auf Amazon interessiere ich mich nicht für diese Rubrik und mir ist in der Richtung auch noch nichts aufgefallen bzgl. Empfehlungen. Möglich wäre es, ja. Aber die lassen sich nicht einfach in die Karten schauen.

Edit: Gerade mal in die Musiksektion bei Amazon geschaut und eine Korrelation zwischen den Vorschlägen dort, und dem was ich per Alexa gehört habe, ist da nicht von der Hand zu weisen. qed

 

[fundriver]

Also wenn ich Alexa täglich nur nach dem Wetter frage, bekomme ich dann von Amazon Vorschläge für Regenbekleidung etc. ?

...kommt drauf an...wenn die Sonne scheint könnte es auch Sonnencreme oder Badehose/Bikin sein..

 

[Brummm]

Müssen sie ja auch nicht. Wenn sie über einen (längeren) Zeitraum die normale Nutzung protokollieren, lässt sich daraus schon extrem viel Erkenntnis ziehen. ...

Vor allem werden diese Erkenntnisse direkt verknüpft mit haufenweise anderen Daten aus dem Amazon-Imperium. Amazon ist ja schon nahezu „überall“ (nein, ich habe keinen Aluhut ). Ein braver, technologisch aufgeschlossener Mensch erzählt ja nicht nur „Alexa“ andauernd etwas aus seinem Privatleben, sondern er schaut auch fleißig Amazon Prime, bestellt alles nur Denkbare über Amazon, lässt die Pakete (ob er will oder nicht) mit Prime Air liefern (und fliegt in ein paar Jahren mit Prime Air auch in den Urlaub), hat die Dash-Buttons am Kühlschrank... ganz zu schweigen von den Daten, die Amazon von zahllosen Zulieferern erhält...

Wer mal gesehen hat, welche detaillierten Informationen und Erkennntnisse diese Daten über einzelne Menschen ganz konkret liefern, der wird sein Verhalten garantiert ändern. Nicht dass das bei anderen Big Data-Technologiekonzernen anders wäre, aber Amazon ist (nicht erst seit „Alexa“) eben ein herausragendes Beispiel.

 

[mick70]

Das ist bei Google Assistant/Siri, Chrome/Safari, Android/IOS natürlich GANZ anders. Die würden die bei erstmaliger Nutzung erhobenen Einwilligungen natürlich NIE bis zur Wortlautgrenze ausreizen oder gar überschreiten.

Mehr sag ich nicht dazu.

 

[Brummm]

Es wäre ja schön, wenn du überhaupt mal etwas Substantielles dazu sagen würdest.

Den letzten Satz meines Beitrags hast du womöglich nicht gelesen. So oder so ist es eben schlicht falsch, wenn du suggerieren möchtest, dass alle von dir genannten Technologien in exakt gleichem Maße Datenmissbrauch betreiben oder rechtswidrige Einwilligungskonzepte verwenden würden. Was beileibe nicht heißen soll, dass Google oder Android weiße Schafe wären.

 

[mick70]

Kann ich dir nicht sagen, ich nutze sie nur für Musik/Radio. Auf Amazon interessiere ich mich nicht für diese Rubrik und mir ist in der Richtung auch noch nichts aufgefallen bzgl. Empfehlungen. Möglich wäre es, ja. Aber die lassen sich nicht einfach in die Karten schauen.

Edit: Gerade mal in die Musiksektion bei Amazon geschaut und eine Korrelation zwischen den Vorschlägen dort, und dem was ich per Alexa gehört habe, ist da nicht von der Hand zu weisen. qed

Das kannst du beeinflussen:
Amazon Einstellungen für Werbung

Heißt natürlich nicht, dass Amazon diese Daten nicht trotzdem hat und ggf für andere Zwecke nutzt und auch nicht, dass die von Amazon gewählte Standardeinstellung für die werbliche Nutzung ua der Spracheingaben datenschutzkonform wäre.

 

[mick70]

Es wäre ja schön, wenn du überhaupt mal etwas Substantielles dazu sagen würdest.

Hoi. Was kam denn bisher von dir Substanzielles, was Amazon gegen Google, Apple und andere Soft- und Hardwarehersteller negativ abheben würde?

Die technische Prüfung hat insb. keine Übermittlung unerwünschter Informationen von Alexa an Amazon oder Dritte ergeben - das Beispiel mit dem Anwalt wird allgemein als getürkt angesehen, kann man auch mit anderen Systemen hinbekommen.

Für gezieltes Amazon-Bashing sehe ich daher keinerlei Grund. Da nutzt jeder seine Möglichkeiten und reizt die Grenzen aus. Kannst alle in einen Sack stecken und draufhauen.

 

[Brummm]

... Was kam denn bisher von dir Substanzielles, was Amazon gegen Google, Apple und andere Soft- und Hardwarehersteller negativ abheben würde? ...

Sehr viel mehr als von dir. Das meine ich nicht despektierlich, sondern nur als Ansage, dass ich auf diesem Niveau, nämlich mittels Leerformeln und provokanter Fragen, mit dir nicht weiter diskutiere. Du willst die Thematik ja offensichtlich nicht sachlich und neutral betrachten. Dann ist dann ja auch ok.

 

[Brummm]

Noch ein kleiner Nachtrag zu meinem Beitrag weiter oben als Beispiel - diesmal anhand von Google - für eine datenschutzspezifische Differenzierung zwischen den Technologien. Leider habe ich das Dokument eben erst wieder gefunden:

Hinter diesem Link ...

https://fil.forbrukerradet.no/wp-content/uploads/2018/11/27-11-18-every-step-you-take.pdf

... steckt ein aktueller und interessanter Bericht über die Tracking-Technologien von Google und deren "Missbrauch" (ich nenne es mal provokant so). Hier wird der Hintergrund des Berichtes kurz erläutert: Every step you take : Forbrukerrådet

Interessant sind dabei u.a. die gelegentlichen kleinen Vergleiche mit iOS, z. B. auf den Seiten 10, 28 und 31. Auch wenn's vermutlich keinen interessiert: Das zeigt ein wenig auf, was ich - nicht so sehr in rein technischer, sondern in faktischer und konzernstrategischer Hinsicht - mit den Unterschieden zwischen den Technologien meinte.

 

[mick70]

Sehr viel mehr als von dir. Das meine ich nicht despektierlich, sondern nur als Ansage, dass ich auf diesem Niveau, nämlich mittels Leerformeln und provokanter Fragen, mit dir nicht weiter diskutiere. Du willst die Thematik ja offensichtlich nicht sachlich und neutral betrachten. Dann ist dann ja auch ok.

Nicht sachlich und neutral? Ich bin zumindest irritiert.

Du hattest insofern neben Mutmaßungen, Hinweisen auf den Ruf von Anbietern und nicht näher substantiierte Kenntnisse aus deiner beruflichen Tätigkeit zur Sache bisher lediglich drei Links zu Alexa und Amazon mitgeteilt. Davon führt

• einer zu einem offensichtlich vereinzelt gebliebenen Vorwurf, der sich - wenn er nicht ohnehin getürkt war - nur bei der von Amazon dargestellten Verkettung unglücklicher Umstände als wahr erweisen kann (Alexa hat genau das getan was ihr gesagt wurde),
• einer zu einem Award, der beispielhaft für alle absichtlichen Mithörfunktionen à la Alexa, Google Home, aber auch Siri, Bixby und Google Assistant stehen kann
• und einer zu einem Artikel, der gleichermaßen die Gefahren dauerhaft mithörender Systeme beschreibt, aber inhaltlich ebenso übertragbar ist auf Assitenzsysteme mit Mithörfunktion auf Mobiltelefonen.

Gleichwohl kommst du mit diesen Tatsachen und der Tätigkeit von Amazon als Händler zu dem Ergebnis, dass dedizierte Geräte kritischer seien als Sprachtechniken auf Smartphones und nicht nur Alexa, sondern insgesamt gerade Amazon das "herausragende Beispiel" für negative Big Data-Nutzung sei.

Zunächst konkret zurück zum Thema Mithören durch Assistenzsysteme:

Wo nun der negative Unterschied liegen soll, ob sich eine Mithöreinrichtung zur Gewährleistung bestimmter, gewünschter Funktionen in einem dedizierten Gerät statt in einem Smartphone befindet, das noch 1000 andere Sachen kann, ist daher nicht ganz klar. Wie @alfabasti technisch richtig beschrieben hatte, ist die Gefahr für Datenschutz und Datensicherheit bei komplexen Systemen mit multiplen Funktionen gegenüber dedizierten Systemen im Gegenteil eher größer als kleiner. Daten und Funktionen die schon vorhanden sind, können eben eher vom Verantwortlichen oder von Nichtberechtigten missbraucht werden, als nichtvorhandene, was sich auch in den rechtlichen Rahmenbedingungen niederschlägt, wie du ja weißt. Nachdem dem Smartphone selbst im Zweifel noch deutlich mehr Daten (inkl. aller über das Smartphone angesehenen Internetseiten, aller E-Mails etc.), mehr Sensoren und auch mehr Einfallstore für unberechtigte Dritte anvertraut sind, sehe ich hier das Smartphone bei Spracheingabediensten im Nachteil.

Was die rechtlichen Voraussetzungen angeht, "meine ich mich zu erinnern", dass alle Anbieter, die das so beabsichtigen, auch eine optionale Einwilligung, jedenfalls Belehrung für die werbliche Nutzung etwa von Produktsuchen vorgesehen haben, dazu eine Möglichkeit, diese Personalisierung abzustellen. Dauerhaftes Mitschneiden schließen ohnehin alle Anbieter aus (Google musste allerdings erst einmal nachrüsten...).

Aus Sicht des Verantwortlichen (oder eines nichtberechtigten Hackers) ist es i.Ü. auch völlig egal, wo bei einem Assistenzsystem die Sprachdaten erhoben werden, solange die Anfrage in Sprachform oder auch als Transkript einem Endgerät, einem Konto, einem Cookie, einer IP-Adresse oder wie auch immer sonst einem mutmaßlichen Betroffenen zugeordnet werden kann. Für den Verantwortlichen oder einen Dritten sind die Missbrauchs- bzw. Angriffsmöglichkeiten immer die gleichen (Endgerät beginnend von Eingabe über Verarbeitung, Speicherung, ggf. Übertragungsweg, ggf. Server).

Ob die Verarbeitung ausschließlich lokal bzw. ob und zu welchem Zeitpunkt und an welchem Ort eine Anonymisierung stattfindet - wenn gewünscht bzw. behauptet -, ob die Daten wirklich nur für die vom Anbieter angegebenen Zwecke genutzt werden und ob nicht mehr benötigte Daten lokal und auf dem Server wirklich gelöscht werden, kann man als Externer nur mit enormem Aufwand nachprüfen, wenn überhaupt. Das ist bei allen Anbietern gleich, man muss ihnen die eigenen Behauptungen halt glauben.

Ich bleibe daher bei meiner Annahme, dass es bei einem Assistenzsystem für die Datensicherheit eher schlechter als besser ist, wenn es auf einem Smartphone statt auf einem dedizierten Endgerät untergebracht ist.

Und noch zur Differenzierung der Anbieter:

Ja richtig, Google ist kein gutes Beispiel für einen Klassenprimus bei Datenschutz und Datensicherheit. Die Tracking-Technologien kannst du bei mir als bekannt voraussetzen, ebenso die "Maßnahmen" zur Umsetzung der DSGVO, die sich nur im Vordergrund abspielen, die Datenbasis auf US-Servern aber unberührt lassen. Allerdings geht der Vorwurf gegen Google insofern relativ weg vom Thema, dem allgemeinen Vorwurf des zwangsläufigen Mithörens und der Missbrauchsgefahr bei Sprachassistenzsystemen.

Apple lebt dagegen möglicherweise in erster Linie von den eigenen PR-Offensiven zur angeblichen Datensicherheit, da sich Apple durch die geschlossene Architektur und die Intransparenz der verschlüsselt übertragenen Daten nicht so leicht in die Karten sehen lässt. Experten sehen das bereits allgemein durchaus differenzierter. Spannend ist konkret zum Thema, dass Apple behauptet, Siri würde sich exklusiv lokal im Endgerät abspielen. Die Existenz und Funktion des "Siri-Servers", den es in Apple-Schulungsunterlagen durchaus gibt, kann das allerdings nicht mehr erklären, zumal jedes Sprachassistenzsystem lernen muss. "May abandon" wirkt in diesem Zusammenhang nicht besonders vertrauenserweckend, eher wie eine unverbindliche Absichtserklärung. Sollte ich mir hier nicht ebenso zumindest angeschwindelt vorkommen wie bei einem Anbieter, der mir eine Einwilligung verklausuliert untermogelt?

Zugeben muss ich allerdings, dass durch das "Datenmanagement by obscurity" bei Apple eben weniger echte oder vermeintliche Skandale an die Oberfläche kommen und ich schon deshalb mein beruflich genutztes Iphone für gefühlt sicherer halte, als den privaten Androiden. Gefühlt eben.

 

[Brummm]

Na also, geht doch. "Kurz" zu ein paar Aspekten:

[... gelöscht ...]

Wir sind uns mithin durchaus einig, was das Missbrauchspotenzial der Technologien als solche auf deren technischer Ebene betrifft. Nur haben wir unterschiedlichen Kenntnisse, Auffassungen und/oder Sichtweisen über deren Verwendung durch die "üblichen Verdächtigen".

Damit würde ich die Diskussion aus meiner Sicht nun auch beenden wollen, weil sie eigentlich deutlich zu weit geht - mindestens in diesem Fred. Ich find's aber gut, dass du doch noch konkret geworden bist - so lässt sich ordentlich diskutieren.

 

[mick70]

Lange Rede kurzer Sinn, wenn ich dich richtig verstehe:
(1) Gegen die Bewertung einer eher größeren Gefährlichkeit komplexer Systeme gegenüber dedizierten Systemen zur Sprachsteuerung hast du grds nichts einzuwenden, aus technischer Sicht.
(2) Die Bewertung unterschiedlicher Anbieter auf dem Markt nimmst du aufgrund der abgegebenen Versprechen, der eingeholten Einwilligungen/erteilten Belehrungen sowie aufgrund von internen Kenntnissen über die Praktiken einzelner Anbieter vor, die du nicht exponieren kannst.

Dann dürften wir sogar insgesamt Einigkeit erreicht haben: Mit Kenntnissen aus meiner eigenen Tätigkeit für verschiedene Protagonisten halte ich mich auch lieber völlig bedeckt und verzichte sogar auf eine abgeleitete Empfehlung, habe also meine internen Kenntnisse völlig ausgeblendet. Deshalb habe ich auch meinen ursprünglichen Beitrag wieder gelöscht und die verbliebenen ausschließlich "subjektiv" gemeint und formuliert.

 

[Brummm]

Auch ich hab' meine Ausführungen nun wieder gelöscht.

 

[Z3bastian]

Wer mal gesehen hat, welche detaillierten Informationen und Erkennntnisse diese Daten über einzelne Menschen ganz konkret liefern, der wird sein Verhalten garantiert ändern. Nicht dass das bei anderen Big Data-Technologiekonzernen anders wäre, aber Amazon ist (nicht erst seit „Alexa“) eben ein herausragendes Beispiel.

Hier ein Video, das imo ganz gut übertragbar ist auf die eigenen Daten, die man so ohne groß nachzudenken rausfeuert. Über die Masse der Daten, lässt sich dann eben auch aus vermeintlich harmlosen Informationen doch ein recht scharfes Bild vom Kunden in vielerlei Hinsicht zeichnen.

Geändert hat das bei mir persönlich jetzt nichts, dieser Problematik war ich mir vorher bereits bewusst. Auch ist es ja nicht so als würden die Daten nur zum eigenen Nachteil verwendet werden. Das ein oder andere Mal bin ich durch Vorschläge/Empfehlungen von Amazon zu ganz guten Angeboten gekommen. Und Amazon zu seinem Umsatz. Licht und Schatten eben, gibts nur in der Kombination.

 

[fundriver]

Auch ich hab' meine Ausführungen nun wieder gelöscht.

 

[fundriver]

Deshalb habe ich auch meinen ursprünglichen Beitrag wieder gelöscht und die verbliebenen ausschließlich "subjektiv" gemeint und formuliert.

 

[fundriver]

Auch wenn ihr eure Beiträge bzw teile gelöscht habt....irgendwo bleiben Sie gespeichert....

 

[Brummm]

... und ich weiß sogar wo.

Es geht aber natürlich nur darum, hier nicht allzu viele Interna aus dem Berufsleben zu veröffentlichen.