Siri-Sprachaufnahmen: Apple setzt Auswertung durch Mitarbeiter aus

Vor wenigen Tagen wurde bekannt, dass neben Amazon und Google auch Apple einen kleinen Teil der Befehle des hauseigenen Sprachassistenten von Mitarbeitern auswerten lässt. Damit ist erst einmal Schluss: Der iPhone-Hersteller setzt die Analyse der Sprachaufnahmen bis auf Weiteres aus, und zwar weltweit.


Reaktion auf Zeitungsbericht
Apple reagiert damit auf einen Bericht der britischen Zeitung "The Guardian", in dem der Mitarbeiter eines externen Dienstleisters Einzelheiten zur Auswertung von Siri-Sprachaufnahmen nannte. Diese enthielten zum Teil äußerste sensible Gesprächsfragmente, etwa private Unterhaltungen, medizinische Inhalte oder Aufnahmen von sexuellen Aktivitäten. Zudem geben die den Mitarbeitern zur Analyse überlassenen Sprachschnipsel unter Umständen auch Orts- und App-Daten preis, wodurch eine Zuordnung zur jeweiligen Person möglich wäre.

Verfahren wird gründlich überprüft
Apple lege größten Wert darauf, mit Siri eine "großartige Benutzererfahrung" zu bieten und gleichzeitig die persönlichen Daten der Nutzer des Sprachassistenten zu schützen, teilte das Unternehmen jetzt dem Nachrichtenportal TechCrunch mit. "Während wir das Verfahren einer gründlichen Überprüfung unterziehen, setzen wir die Auswertung der Aufnahmen weltweit aus", so der iPhone-Konzern. Darüber hinaus werde man im Rahmen eines Software-Updates den Kunden zukünftig die Möglichkeit einräumen, der Teilnahme an diesem Analyseprogramm zuzustimmen oder sie abzulehnen.

Google stoppt Auswertung in der EU
Auch Google hat die Auswertung von Sprachaufnahmen durch Mitarbeiter mittlerweile gestoppt – allerdings lediglich für drei Monate und nur in der Europäischen Union. Das Unternehmen reagiert damit auf ein Verwaltungsverfahren, das der Hamburger Datenschutzbeauftragte Johannes Caspar unter Berufung auf die Datenschutzgrundverordnung eröffnet hat. Ob auch Amazon die Analyse von Befehlen, die der Sprachassistent Alexa aufnimmt, zumindest vorläufig einstellen wird, ist derzeit nicht bekannt.

Kommentare

Pixelmeister02.08.19 11:12
Richtige Reaktion von Apple. Allerdings hätte man auch vorher schon darauf kommen können, dass es den Usern unangenehmer ist, wenn Sprachfetzen zu einem gewissen Prozentsatz von Menschen analysiert werden als ausschließlich von Maschinen (letzteres ist ja das, was man für die Funktionalität erwartet).

Eigentlich kann es einem egal sein, weil es vom Verfahren her keinen Unterschied macht und wahrscheinlich kein Team-Member mal bei einem anruft und mit dem eigenen Gestöhne und Gestammel (oder dem des Partners) konfrontieren wird.

Ich bin ohnehin kein Freund von diesen Sprachanalysen per Zuruf (OK Google, Hey Siri, Alexa ...), sondern verwende brav die Hometaste meines iPhones, um ein Siri-Kommando abzusetzen. Dann landet auf den Servern nur genau das, was ich da auch haben will.
+1
netspy
netspy02.08.19 11:29
Es sollte doch eigentlich jedem klar sein, dass stichprobenartige Sprachaufzeichnungen auch immer wieder durch Menschen überprüft werden müssen. Oder wie soll denn eine Maschine von selbst erkennen, dass sie einen Fehler gemacht hat.
+3
smuehli
smuehli02.08.19 11:53
Bezeichnend finde ich jedoch, das Apple hier auf Googles zusage reagiert diese Art der Aufzeichnung zu stoppen und nicht selber auf den Trichter kam!
Das wirft für mich ein ganz schlechtes Licht auf Apple!
-2
Eventus
Eventus02.08.19 12:15
Artikel (Auszug als Beispiel)
Apple lege größten Wert darauf, mit Siri eine "großartige Benutzererfahrung" zu bieten und gleichzeitig die persönlichen Daten der Nutzer des Sprachassistenten zu schützen, teilte das Unternehmen jetzt dem Nachrichtenportal TechCrunch mit. "Während wir das Verfahren einer gründlichen Überprüfung unterziehen, setzen wir die Auswertung der Aufnahmen weltweit aus", so der iPhone-Konzern.
OT: Warum verwendet MTN keine typograpfisch korrekten Anführungszeichen?
Live long and prosper! 🖖
+5
PaulMuadDib02.08.19 12:30
smuehli
Bezeichnend finde ich jedoch, das Apple hier auf Googles zusage reagiert diese Art der Aufzeichnung zu stoppen und nicht selber auf den Trichter kam!
Das wirft für mich ein ganz schlechtes Licht auf Apple!
Könntest Du bitte den Teil markieren, wo das so steht? Kann es nämlich nicht finden.
+2
momirv02.08.19 12:39
netspy
Es sollte doch eigentlich jedem klar sein, dass stichprobenartige Sprachaufzeichnungen auch immer wieder durch Menschen überprüft werden müssen. Oder wie soll denn eine Maschine von selbst erkennen, dass sie einen Fehler gemacht hat.
Ist mir garn nicht so klar!
Oder würdest Du auch behaupten, dass es ganz klar ist, dass Apple deine privaten Fotos benutzt, um der Foto-App beizubringen Katzenbilder zu erkennen???

Für Machine Learning bruacht man natürlich Daten, aber jedes Unternehmen kann entscheiden woher diese Daten kommen.
+3
sierkb02.08.19 12:46
Apple reagiert wohl eher hierauf:

Quelle: Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit (HmbBfDI), 01.08.2019: Sprachassistenzsysteme auf dem Prüfstand – Datenschutzbehörde eröffnet Verwaltungsverfahren gegen Google
HmbBfDI, 01.08.2019
[…]
Google hat im Rahmen dieses Verwaltungsverfahrens gegenüber dem HmbBfDI erklärt, dass bereits gegenwärtig und für die Dauer von mindestens drei Monaten ab dem 1. August 2019 Transkriptionen von Sprachaufnahmen nicht mehr erfolgen. Diese Zusicherung bezieht sich auf die EU insgesamt. Insoweit sollten nun auch die zuständigen Behörden für andere Anbieter von Sprachassistenzsystemen, wie Apple oder Amazon, zügig überprüfen, entsprechende Maßnahmen umzusetzen.

heise (01.08.2019): Sprachassistent: Google hat Datenschutzverfahren wegen Mitschriften am Hals
Der Hamburgische Datenschutzbeauftragte hat ein Verwaltungsverfahren gegen Google aufgrund der Transkriptionen eingeleitet, der Konzern zeigt sich einsichtig.
heise, 01.08.2019
[…]
Auch bei anderen Sprachassistenten aktiv werden

In dem laufenden Verfahren gilt es laut dem Experten nun zunächst, "weitere Fragen über die Funktionsweise des Sprachanalysesystems zu klären". Die Aufsichtsbehörden müssten dann über endgültige Maßnahmen entscheiden, "die für einen datenschutzkonformen Betrieb erforderlich sind".

Eigentlich ist für Google in der EU die irische Datenschutzstelle zuständig, da der Konzern dort seine europäische Hauptniederlassung hat. Die DSGVO gibt aber auch den nationalen Behörden der EU-Mitgliedstaaten dieMöglichkeit, für maximal ein Vierteljahr Maßnahmen in ihrem Zuständigkeitsbereich zu treffen, falls dringender Handlungsbedarf zum Schutz von Rechten und Freiheiten Betroffener besteht. Diesen sieht Caspar in dem Fall gegeben, da ein Abhören, Dokumentieren und Auswerten privater Gespräche durch dritte Personen zeitnah abgestellt werden müsse.

Caspar appelliert parallel an die Kollegen, die für andere Anbieter von Sprachassistenten wie Apple oder Amazon zuständig sind, gegebenenfalls ebenfalls zügig Maßnahmen umzusetzen. Auch diese Systeme stellten ein hohes Risiko für die Privat- und Intimsphäre von Betroffenen dar. Im April hatte bereits ein Bericht die Runde gemacht mit ähnlichen Details darüber, wie Amazon Mitarbeiter von Vertragsunternehmen weltweit Tonaufnahmen von Alexa transkribieren und analysieren lässt.
[…]

SZ (01.08.2019): Datenschutz in der EU: Google stoppt Auswertung von Sprachaufnahmen durch Menschen
SZ, 01.08.2019
[…]
Caspar leitete ein Verwaltungsverfahren gegen Google ein, um das Anhören der Mitschnitte durch Google-Mitarbeiter oder Dienstleister zu untersagen. Der Hamburger Datenschützer ist in Deutschland für Google zuständig, da das Unternehmen dort seine deutsche Niederlassung hat. Caspar regte ähnliche Maßnahmen der zuständigen Behörden auch gegen andere Sprachassistenten wie Amazons Alexa und Apples Siri an.
[…]

Für Apple Deutschland dürfte der Bayerische Datenschutzbeauftragte zuständig sein (da Apples Deutschlandzentrale in München sitzt) bzw. europaweit der irische (da Apples Europazentrale in Irland sitzt). Ich nehme an, ein entsprechendes Verwaltungsverfahren wie gegen Google dürfte auch gegen Apple und Amazon in Vorbereitung oder bereits angestoßen sein, die Datenschutzbehörden arbeiten da eng zusammen.
+1
Kovu
Kovu02.08.19 14:45
Ich finde an diesem ganzen „Skandal“ eigentlich nur schlimm, dass Apple diese Arbeit an Fremdfirmen ausgelagert hat. Für mich bei dem teilweise sensiblem Material ein Unding.

Das Menschen stichprobenartig, und erst nach Aktivierung von Hey Siri, anonymisierte Sprachfetzen auswerten um den Assistenten zu verbessern sollte jedem klar sein.
Auch hier ist aber schön zu lesen, dass Apple deutlicher wird und zusätzlich nun bald ein opt-out anbietet.
-2
Dupondt02.08.19 15:17
Eventus
OT: Warum verwendet MTN keine typograpfisch korrekten Anführungszeichen?

Kurze Antwort: Die von MTN verwendeten Anführungszeichen aus dem Schreibmaschinensatz stellen den kleinsten gemeinsamen Nenner dar, weil sie bei allen Nutzern auf allen Systemen und in allen Browsern korrekt dargestellt werden.

Längere Erklärung:

1. Es gibt im deutschsprachigen Raum keine einheitlichen typographischen Anführungszeichen, in der Schweiz beispielsweise wird häufig die französische Variante genutzt (siehe Neue Zürcher Zeitung).

2. Nicht alle Schriftarten enthalten typographische Anführungszeichen. Manche Fonts stellen sie falsch dar, prominenteste Beispiele hierfür sind Verdana und Tahoma.

3. Wie alle Webseitenbetreiber hat MacTechNews keinen Einfluss darauf, welche Schriftarten ein Leser in seinem Browser nutzt. Aus diesem Grund wird für die Formatierung die Font-Anweisung "sans-serif" genutzt. Welche Schrift dann angezeigt wird, hängt von den individuellen Einstellungen des Users ab.

Aus denselben Gründen verwenden zahlreiche andere journalistische Webseiten ebenfalls die Anführungszeichen des Schreibmaschinensatzes, etwa n-tv, Süddeutsche Zeitung oder Spiegel online.
+4
Eventus
Eventus02.08.19 15:26
Dupondt
Danke für die Erklärungen. Sie ergeben Sinn.
Live long and prosper! 🖖
+1
My2Cent02.08.19 16:57
Die Schlagzeile "Lauschangriff" hat dazu geführt, dass Apple die Auswertung durch Menschen vorläufig einstellt.

Bei Lichte betrachtet ist es nur ein Sommerloch-Füller.
Und es ist Kontraproduktiv wenn es darum geht, die Fähigkeiten von Siri zu verbessern.

Logischerweise kann die "künstliche Intelligenz" von Siri nur durch "menschliche Intelligenz" gesteigert werden. Also ist es zwingend erforderlich, dass Unzulänglichkeiten von Siri dadurch verbessert werden, dass Menschen diese Unzulänglichkeiten suchen, erkennen und beseitigen.

Apple ist allerdings ein Fehler anzukreiden:
Apple hätten die Aktivierung von Siri zwingend davon abhängig machen sollen, dass die User der (anonymisierten) Funktionsverbesserung durch Menschliches Service-Personal zustimmten.

Im Übrigen:
Es ist kein Problem wenn dies durch externe Dienstleister geschieht.
Denn üblicherweise werden mit solchen Dienstleistern Verträge abgeschlossen, die die Mitarbeiter zu Stillschweigen verpflichten.

Analog wie dies generell bei externen Dienstleistern im IT-Service Bereich üblich ist.
Bei allen IT-Konzernen - somit auch bei Apple - gehen täglich externe Mitarbeiter in Büros und Rechenzentren ein und aus, und sie erfahren dort machmal Dinge, die der Geheimhaltung unterliegen.

Dieses grundsätzliche Thema wurde bisher nicht als Sommerloch-Füller erkannt. Aber vielleicht ist dieses Thema im nächsten Sommer als Sommerloch-Füller dran.
0
Weia
Weia05.08.19 10:52
Dupondt
Kurze Antwort: Die von MTN verwendeten Anführungszeichen aus dem Schreibmaschinensatz stellen den kleinsten gemeinsamen Nenner dar, weil sie bei allen Nutzern auf allen Systemen und in allen Browsern korrekt dargestellt werden.
Das kann ich nicht nachvollziehen. Der kleinste gemeinsame Nenner wäre die universellstmögliche korrekte Darstellung. Das Zollzeichen statt der Anführungszeichen zu verwenden, führt aber nie (0%!) zu einer korrekten Darstellung, es ist also gerade kein kleinster gemeinsamer Nenner, sondern das exakte Gegenteil, die größtmögliche Fehlerquote (100%).
1. Es gibt im deutschsprachigen Raum keine einheitlichen typographischen Anführungszeichen, in der Schweiz beispielsweise wird häufig die französische Variante genutzt (siehe Neue Zürcher Zeitung).
Das ist doch aber kein Argument dafür, Zeichen zu verwenden, die nirgendwo korrekt sind. Dann müsste das ja jeder deutschsprachige Verlag so machen wie Ihr, es macht aber genau keiner, egal ob aus Deutschland, Österreich oder der Schweiz. Schließlich verstehen alle deutschsprachigen Leser auch die jeweils anderen Anführungszeichen.
2. Nicht alle Schriftarten enthalten typographische Anführungszeichen. Manche Fonts stellen sie falsch dar, prominenteste Beispiele hierfür sind Verdana und Tahoma.
Aber wieso sollte es besser sein, deshalb Zeichen zu verwenden, die in allen Schriftarten falsch dargestellt werden? Nach dem Motto: Wenn schon falsch, dann wenigstens überall?

Und es ist ja auch nicht so, dass Tahoma und Verdana stattdessen sinnentstellende komplett andere Zeichen (z.B. Ausrufezeichen) anzeigen würden; sie geben lediglich sehr „eigenwillig interpretierte“ Anführungszeichen aus, die aber problemlos als solche erkennbar und immer noch näher an den korrekten Anführungszeichen sind als das Zollzeichen.
3. Wie alle Webseitenbetreiber hat MacTechNews keinen Einfluss darauf, welche Schriftarten ein Leser in seinem Browser nutzt.
Diese Aussage ist im Zeitalter von Webfonts ja nun schlicht und ergreifend falsch.
Aus diesem Grund wird für die Formatierung die Font-Anweisung "sans-serif" genutzt. Welche Schrift dann angezeigt wird, hängt von den individuellen Einstellungen des Users ab.
Ich würde mal vermuten, dass die erschlagende Mehrheit der Besucher von MacTechNews ein Apple-Gerät zum Zugriff verwendet, und von denen wiederum die erschlagende Mehrheit die Default-Einstellungen belässt. Und das wiederum bedeutet, dass die allermeisten Eurer Leser, gleich welchen Browser sie verwenden, sans-serif als Helvetica angezeigt bekommen.

Und diese große Mehrheit Eurer Leser soll jetzt mit typographisch inkorrekten Anführungszeichen traktiert werden, damit möglicherweise ein paar wenigen Lesern, die Verdana oder Tahoma verwenden, eigenwillige (aber problemlos als solche erkennbare) Anführungszeichen erspart bleiben?

Sorry, das ergibt keinen Sinn. Mein Argwohn wäre eher, das es sich hier um eine typographische Schludrigkeit aus den Anfangstagen von MacTechNews handelt, die sich festgefressen hat und damit der typographischen Verwahrlosung im Netz Vorschub leistet.
Aus denselben Gründen verwenden zahlreiche andere journalistische Webseiten ebenfalls die Anführungszeichen des Schreibmaschinensatzes, etwa n-tv, Süddeutsche Zeitung oder Spiegel online.
Die sind aber erstens nicht auf die Apple-Zielgruppe fokussiert, und zweitens – das kann ich aber nur vom Spiegel mit hinreichender Gewissheit sagen – zwar möglicherweise journalistisch kompetent, aber ganz, ganz, ganz sicher kein Vorbild für die Website-Gestaltung. Spiegel Online ist da eher der nackte Horror. Ich erinnere mich noch, wie dort weiter tapfer überall Flash verwendet wurde, während im Netzressort inhaltlich gegen Flash angeschrieben wurde …
+2

Kommentieren

Sie müssen sich einloggen, um die News kommentieren zu können.

OK MacTechNews.de verwendet Cookies unter anderem für personalisierte Inhalte, Seitenanalyse und bei der Auslieferung von Google-Anzeigen. Dies war zwar schon immer so, auf Wunsch der EU muss nun jedoch explizit darauf hingewiesen werden. Durch Nutzung der Website erklären Sie sich damit einverstanden. Weitere Informationen