Nach Kritik an Siri-Qualitätskontrolle: Apple entlässt hunderte Mitarbeiter, die Nutzeraufnahmen abhörten

Apple hat sich im Zuge der Kontroverse um abgehörte Siri-Aufnahmen von Mitarbeitern getrennt, die für den Abhörprozess zuständig waren, so ein Bericht des Irish Examiner. Das Unternehmen beschäftigte demzufolge über 300 Angestellte in Cork (Irland), die sich um die Qualitätskontrolle des Sprachassistenten kümmerten. Dazu gehörte es unter anderem, pro Schicht etwa 1.000 Sprachaufnahmen von Nutzern und die Reaktion von Siri darauf auszuwerten. Größtenteils soll es sich bei den Aufnahmen um Sprachbefehle gehandelt haben.


Kritik wegen mangelnder Abhör-Transparenz
Apple hat den ursprünglichen Abhörprozess durch Mitarbeiter eigenen Angaben zufolge inzwischen gestoppt, um das gesamte Vorgehen zu untersuchen. Das Unternehmen aus Cupertino und Konkurrenten wie Amazon oder Google sahen sich zuletzt Kritik ausgesetzt, da Angestellte einige Sprachaufnahmen von Nutzern zur Qualitätssicherung mithörten – die Unternehmen das Vorgehen aber nicht oder nur beiläufig gegenüber den Kunden erwähnten. Da Apple die Abhörpraxis bis auf Weiteres eingestellt hat, sind die Dienste der 300 damit beauftragten Mitarbeiter zumindest vorübergehend nicht mehr nötig.

Details des Abhörprozesses von Siri-Nutzeraufnahmen
Ein ehemaliger Apple-Mitarbeiter, der Einblick in die Siri-Abhörpraxis hatte, nennt gegenüber dem Irish Examiner Details: „Die Siri-Aufnahmen waren ein paar Sekunden lang. Gelegentlich hörten wir persönliche Daten oder Konversationsschnipsel, aber meistens handelte es sich nur um Siri-Befehle.“

Das zuständige Team musste die Aufnahmen transkribieren und Siris Reaktion bewerten – dazu gehörte auch, zu prüfen, ob sich Siri versehentlich aktivierte. Der Ex-Mitarbeiter kann sowohl die Position des Unternehmens als auch der empörten Datenschützer nachvollziehen: „Ich verstand die Gründe, warum das Unternehmen das Programm durchführte – aber ich kann auch verstehen, warum Menschen es als Verletzung der Privatsphäre empfanden, da Apple es nicht kommunizierte.“

Apple weist in den Software License Agreements zwar auf die Siri-Qualitätssicherung durch Mitarbeiter hin, doch der Punkt lässt sich leicht übersehen, weshalb Datenschützer und diverse Nutzer klarere Hinweise verlangen. Im Zuge der Kritik hat Apple das Programm ausgesetzt und es ist nicht klar, wann (und ob überhaupt) wieder Mitarbeiter mit der Siri-Qualitätskontrolle betraut werden. Sobald die Prüfungen wieder starten, sollen Anwender in jedem Fall die Möglichkeit haben, die Qualitätssicherung für ihre Sprachbefehle abzulehnen.

Kommentare

Mecki
Mecki23.08.19 20:26
Derzeitige Mustererkennung ist eben darauf angewiesen, dass ihr jemand sagt, ob sie richtig oder falsch erkannt hat, weil nur so wird sie besser.

Ich kann so eine Mustererkennung mit 2000 Bildern füttern, 1000 davon zeigen Katzen, 1000 irgendwas anderes. Bei jeden Bild sage ich ihr am Ende, ob das eine Katze war oder nicht. Anfangs rät sie einfach nur, also Trefferchance 50:50, gegen Ende liegt sie in 9 von 10 Fällen richtig.

Damit kann ich sie dann auf 1000 neue Bilder loslassen, von denen manche Katzen zeigen und manche nicht. Die meisten wird sie korrekt erkennen, aber sie wird auch ein paar Katzen übersehen und ein paar mal meinen eine Katze gesehen zu haben, wo gar keine war. Wenn ich ihr bei den neuen 1000 Bildern nicht aufzeige, wo sie falsch lag, dann wird die Mustererkennung aber nicht weiter dazu lernen, sprich, sie wird auch nach 1 Mio weiterer Bilder immer noch gleich gut erkennen. Sie kann nicht dadurch besser werden, dass sie einfach nur arbeitet, weil sie ja nie weiß, ob sie richtig gearbeitet hat oder nicht, außer das sagt ihr am Ende jemand.

Grundsätzlich könnte der Nutzer Siri auch selber trainieren helfen. Wenn Siri etwas falsch verstanden hat, dann kann doch der Nutzer den Text antippen, den Siri glaubt erkannt zu haben und korrigieren. In diesem Fall könnte Siri die Audioaufnahme erneut an die Server senden, diesmal aber mit dem vom Nutzer getippten Text. Nur besteht hier wohl lieder die Gefahr, dass ein paar Witzbolde eben Unfug mit dieser Funktion betrieben, denn hier würde die Mustererkennung für alle Nutzer angepasst. Eine Mustererkennung pro Nutzer wäre viel zu teuer was den Datenverbrauch angeht.
+14
johnnytravels
johnnytravels23.08.19 21:20
Dachte, die seien externe Mitarbeiter gewesen, die nur bei Apple angetreten sind, also keine festen Angestellten, sondern gig-mäßig beschäftigt. Da werden sie nach ihrer Entlassung nun nicht diskreter mit dem Gehörten umgehen als zuvor...
‚Tim Cook ist kein Produkt-Mensch.‘ — Steve Jobs
0
teorema67
teorema6724.08.19 08:19
Ich überlege gerade, ob ich ein Problem mit der Auswertung meiner Siri-Konversationsschnipsel hätte. Im Alltag hören andere oft ganze Sätze von mir, ohne dass ich das bemerke oder darüber informiert würde, und ich von anderen ebenso.

Ein Problem hätte ich, wenn der Zweck nicht technischer Fortschritt wäre, sondern Apple eine böse Absicht verfolgen würde, wofür ich keinen Anhalt habe.
Printer Margins for the Homeless
+5
Bananenbieger24.08.19 12:46
johnnytravels
Dachte, die seien externe Mitarbeiter gewesen, die nur bei Apple angetreten sind, also keine festen Angestellten, sondern gig-mäßig beschäftigt.
In den USA ist ja praktisch jeder gig-mäßig beschäftigt. Dort wird man Mitarbeiter extrem leicht wieder los.
0
johnnytravels
johnnytravels24.08.19 14:17
Bananenbieger
johnnytravels
Dachte, die seien externe Mitarbeiter gewesen, die nur bei Apple angetreten sind, also keine festen Angestellten, sondern gig-mäßig beschäftigt.
In den USA ist ja praktisch jeder gig-mäßig beschäftigt. Dort wird man Mitarbeiter extrem leicht wieder los.

Ja das stimmt auch wieder...
Es besteht aber dennoch ein Unterschied zwischen ‚employee‘ und ‚hired contractor‘
Denke, das Problem wäre leichter handhabbar gewesen, wenn man die Arbeiter ordentlich ins Unternehmen integriert und behalten hätte. Dazu ein Statement in dem man sich über die fehlende Transparenz entschuldigt und dass man die Arbeiter nur zum Tiel der Apple-Familie gemacht habe, wodurch alle Daten den selben großartigen Datenschutzprotokollen unterstellt sind, wie auch sonst bei Apple.
‚Feuern‘ sendet zwar immer so tolle Aktionismus-Signale, aber die Probleme und die zu erledigenden Aufgaben bleiben ja bestehen und in einem halben Jahr fängt Apple wieder damit an, weil das einfach der einzige Weg ist um die Siri-Algorhithmen schnell zu verbessern. Nutzer-Training wäre natürlich auch denkbar, da ist die Selbstkontrolle aber bei Weitem nicht so gut wie z.B. bei Maps, da ja nicht alle Nutzer ein einheitliches Objekt (Orte) bearbeiten, sondern jeder Nutzer seine individuelle Aussprache und linguistischen Strukturen. Wenn das nicht ordentlich gemacht wird oder gar manipulativ, kann das auch in die Hose gehen (und dann brächte man wieder interesselose Dritte, die sich das wieder anhören und beurteilen müssten).
‚Tim Cook ist kein Produkt-Mensch.‘ — Steve Jobs
+1
Kapeike
Kapeike24.08.19 16:08
Ich hätte mich gefreut, wenn sie den Siri-Slapstick, der mir ständig passiert, zur Qualitätssicherung genommen hätten...
+2
Whip25.08.19 11:11
teorema67
Ich überlege gerade, ob ich ein Problem mit der Auswertung meiner Siri-Konversationsschnipsel hätte. Im Alltag hören andere oft ganze Sätze von mir, ohne dass ich das bemerke oder darüber informiert würde, und ich von anderen ebenso.

Ein Problem hätte ich, wenn der Zweck nicht technischer Fortschritt wäre, sondern Apple eine böse Absicht verfolgen würde, wofür ich keinen Anhalt habe.

Das ist die typische Argumentation: "Ich habe nichts zu verbergen, also sollen sie doch machen...." Wenn andere im Alltag ganze Sätze von Dir hören, handelt es sich hier 1. um (meistens) belanglosen Smalltalk, und 2. weißt Du, das man Dir zuhört/ zuhören kann. Das macht den Unterschied: Im Alltag weißt Du das man Dich hören kann; bei Siri geht es ja auch nicht nur um die Befehle, sondern (wie im Artikel geschrieben), dass man auch private Hintergrundkonversation hören konnte und dies nirgends öffentlich gemacht wurde. Und mit "Öffentlich" meine ich nicht, irgendwo versteckt in Apples Software License Agreements; mal ehrlich: Wer hat so eine SLA oder EULA schon mal ganz durchgelesen!? Apple könnte ja z.B. beim Einrichten des Gerätes fragen, ob ich einer Auswertung meiner Siri-Kommunikation zustimme oder nicht..... und schon wäre das Problem gelöst!
+2
teorema67
teorema6725.08.19 14:50
Whip
Das ist die typische Argumentation: "Ich habe nichts zu verbergen, also sollen sie doch machen...."
Das ist eine Allgemeinplatzunterstellung, wenn man anderer Meinung ist. Genau darum geht es mir nicht.



Whip
Wenn andere im Alltag ganze Sätze von Dir hören, handelt es sich hier 1. um (meistens) belanglosen Smalltalk, und 2. weißt Du, das man Dir zuhört/ zuhören kann.
Nein, 1) handelt es sich mitunter um Berufliches und keinesfalls Belangloses und 2) bekomme ich das
teorema67
ohne dass ich das bemerke oder darüber informiert würde
eben nicht immer mit.



Whip
... dass man auch private Hintergrundkonversation hören konnte und dies nirgends öffentlich gemacht wurde ...
Wenn der Techniker das geheim hält, genauso wie ich meine §-203-StGB-Informationen strikt geheim halte, kann ich damit leben.
Printer Margins for the Homeless
+2
My2Cent25.08.19 15:14
Auch ich habe kein Problem damit, wenn Mitarbeiter - die anonymisierte - Sprachsteuerung mithören.

Aber Apple hätte die Nutzer bei der erstmaligen Aktivierung von Siri darauf hinweisen müssen und die Nutzer fragen, ob sie unter diesen Bedingungen Siri nutzen möchte, oder ob sie alternativ auf Siri verzichten möchten. Ich vermute, über 99 Prozent der Nutzer hätten der Nutzung von Siri auch unter dieser Bedingung zugestimmt.
+1
teorema67
teorema6725.08.19 16:11
My2Cent: Das sehe ich genauso 👍
Printer Margins for the Homeless
0
Legoman
Legoman26.08.19 09:29
Immer wieder erstaunlich, dass sich die Nutzer bei jedem Anbieter aufs neue wundern.
+2

Kommentieren

Sie müssen sich einloggen, um die News kommentieren zu können.

OK MacTechNews.de verwendet Cookies unter anderem für personalisierte Inhalte, Seitenanalyse und bei der Auslieferung von Google-Anzeigen. Dies war zwar schon immer so, auf Wunsch der EU muss nun jedoch explizit darauf hingewiesen werden. Durch Nutzung der Website erklären Sie sich damit einverstanden. Weitere Informationen