Apple gibt bekannt: Ab Herbst wieder Analyse von Siri-Sprachschnipseln – aber diesmal freiwillig

Von Anfang an war bekannt, dass Siri-Sprachbefehle zu Apple geschickt und dort verarbeitet werden. Dies ermöglicht unter anderem, Verbesserungen auch ohne ein Systemupdate vornehmen zu können, außerdem muss auf den jeweiligen Geräten keine lokale Wissensdatenbank liegen – das spart viel Speicherplatz. Für ziemliche Überraschung und auch Ärger sorgte hingegen ein im Juli erschienener Bericht, wonach Apple die Sprachaufnahmen aber nicht nur rein intern verwendet, sondern an externe Partner zur Analyse weitergibt. Diese manuelle Auswertung ist zwar durchaus üblich, Amazon und Google handhaben dies ähnlich, um beispielsweise fehlgeschlagene Anfragen zu analysieren, allerdings passt ein solches Vorgehen überhaupt nicht zu Apples Datenschutzethos. Dazu kommt, dass durchaus Rückschlüsse auf den jeweiligen Nutzer möglich sind, denn Orts- und App-Daten werden ebenfalls übermittelt.


Nur wenige Tage nach Veröffentlichung des Berichts gab Apple bekannt, besagte Auswertung auszusetzen. Mit sofortiger Wirkung wurde damit die Praxis gestoppt, jene teils sehr persönlichen Mitschnitte an Partner weiterzugeben. In der vergangenen Woche hieß es zudem, Apple beende nicht nur die Zusammenarbeit mit Drittanbietern, sondern trenne sich auch von internen Mitarbeitern, die sich um die Qualitätskontrolle des Sprachassistenten kümmerten.

Apples Ankündigung: Die konkreten Verbesserungen
Jetzt hat sich Apple per Pressemitteilung zu Wort gemeldet und dargelegt, wie man konkret auf die Situation reagiert. Vorangestellt wird eine Stellungnahme, nicht nach den eigenen Standards agiert zu haben, wofür man sich entschuldige. Wie zuvor schon angekündigt, pausiere das "Siri grading program" gerade. Im Herbst wolle man zwar erneut Sprachaufnahmen analysieren und damit Siri verbessern, allerdings setze Apple zuvor wichtige Änderungen um:

1) In der Standardeinstellung werden die Audioschnipsel nicht mehr gespeichert und eventuell von Personen angehört, sondern nur noch im Rahmen computergenerierter Transkripte ausgewertet.

2) Nutzer können sich freiwillig dazu entschließen, am Verbesserungsprogramm teilzunehmen und explizit erlauben, dass Audioaufnahmen verwendet werden dürfen. Selbstverständlich lasse sich dies jederzeit widerrufen.

3) Es gibt fortan keine Zusammenarbeit mehr mit Drittanbietern, stattdessen dürfen Audioschnipsel nur noch von Apple-Mitarbeitern verwendet werden – wenn der Nutzer die Erlaubnis erteilt hat. Sollte es sich um eine versehentliche Aufnahme handeln, so seien die Mitarbeiter angewiesen, diese umgehend zu löschen.

Kommentare

My2Cent28.08.19 18:04
Ein Problem bei der Zusammenarbeit mit Drittanbietern kann ich hier nicht erkennen.
Es ist allgemein üblich, dass „Drittanbieter“ (z.B. Personal vom Hardware- Service) Zugang zu geschützten IT-Bereichen haben. Das ist bestimmt auch bei Apple so. Üblicherweise lässt man solche externen Mitarbeiter einen Vertrag unterschreiben, in dem sie sich zu Verschwiegenheit verpflichten.
Das hat Apple bei den Mitarbeitern des Drittanbieters die die Siri-Schnipsel abgehört haben sicher genauso gemacht.

Da will Apple anscheinend etwas dokumentieren, was in der Praxis noch nie existiert hat und nie existieren wird. „Alles was bei Apple ist, kriegen nur Apple-Mitarbeiter zu Gesicht.“
0
Oceanbeat
Oceanbeat28.08.19 18:12
Mir wäre es lieber, wenn solche Aufgaben nicht „geoutsourced" werden, sondern im Hause verbleiben und intern bearbeitet werden.
Wenn der Herbst seine morbide Pellerine über die Vorgärten wirft...
0
SRZDD28.08.19 18:52
Has to be improved

Ich erinnere an „Siri versteht den schottischen Dialekt nicht“

0
Marcel Bresink28.08.19 20:43
My2Cent
Es ist allgemein üblich, dass „Drittanbieter“ (z.B. Personal vom Hardware- Service) Zugang zu geschützten IT-Bereichen haben. Das ist bestimmt auch bei Apple so. Üblicherweise lässt man solche externen Mitarbeiter einen Vertrag unterschreiben, in dem sie sich zu Verschwiegenheit verpflichten.

Das ist nach europäischem Recht nur dann in Ordnung, wenn dies den Betroffenen (also hier den Siri-Nutzern) vorher mitgeteilt wurde und wenn die mit dem Drittanbieter abgeschlossene Vereinbarung die Vorschriften für einen Auftragsverarbeitungsvertrag erfüllt. Ansonsten ist das eine illegale Datenweitergabe.

In der Pressemitteilung kann man übrigens sogar sehen, dass es mit der angeblichen Anonymisierung der Siri-Daten nicht weit her ist. Jede Aufzeichnung ist sechs Monate an eine ID geknüpft, mit der sich ein Gerät (und damit indirekt dessen Besitzer) eindeutig identifizieren lässt.
+3
sierkb28.08.19 21:03
Golem (28.08.2019): Sprachaufnahmen: Apple will Siri-Auswertung nach Kündigungen fortsetzen
Nachdem Apple die Auswertung von Siri-Audiodateien zunächst nur gestoppt hatte, wurde nun allen Beschäftigten im Auswertungszentrum in Irland gekündigt - mehr als 300 Mitarbeiter sind betroffen. Apple will die Praxis allerdings weiterführen, aber unter anderen Voraussetzungen.
Golem
Apple hat über 300 Mitarbeitern in seinem Siri-Auswertungszentrum in Cork, Irland, gekündigt. Nach Angaben der britischen Tageszeitung The Guardian sollen alle Mitarbeiter entlassen worden sein.

Betroffene Mitarbeiter sagten, Apple habe zunächst alle Angestellten ab dem 2. August bezahlt freigestellt.
[…]
Die Angestellten in Cork erhielten die Kündigung laut Aussage eines Betroffenen mit nur einer Woche Vorlaufzeit. Es handelt sich nicht um direkt bei Apple angestellte Personen, sondern um Mitarbeiter eines Subunternehmens.

Angestellte sollen kurzfristig gekündigt worden sein

Betroffene Angestellte zeigten sich laut Guardian zwar einerseits erleichtert, dass die für die meisten Apple-Nutzer wenig akzeptable Praxis aufgeflogen ist. Andererseits sind sie nicht glücklich darüber, ihren Job verloren zu haben.
"Apple rekrutiert Angestellte über Subunternehmen in Irland, und übernimmt keinerlei Verantwortung für die Anstellungen und dafür, wie die Mitarbeiter behandelt werden", sagte einer der Gekündigten, der aufgrund einer Schweigevereinbarung anonym bleiben möchte. "Sie machen, was sie wollen, und wenn sie fertig mit dem Projekt sind und Mist gebaut haben, sagen sie deinem Arbeitgeber, dass sie dich nicht mehr brauchen."

[…]

The Guardian (28.08.2019): Apple ends contracts for hundreds of workers hired to listen to Siri
At least 300 contractors in Europe sent home after ‘grading’ project suspended
Guardian
The decision followed a story in the Guardian that revealed the workers frequently heard confidential medical information and couples having sex while checking the Siri recordings.

The graders, employed through contracting firms, were sent home that Friday, with many told there was no work for them due to “technical errors”.

However, last week the contracting firms were told by Apple that the grading work would be terminated, leading to the mass job losses with little notice.

Even among those employees who were concerned by the ethics of the programme, there has been anger about how the job losses have proceeded. “I’m relieved this information came out,” said one former contractor who asked to remain anonymous due to a still-active non-disclosure agreement, “although I was involved in the work and I just lost my job. Discussions around ethics in this job was a constant between workers, but we don’t know how to bring it up.”

But, they added, “Apple, recruiting through vendor companies in Ireland, take absolutely no responsibility in the employment of contractors and their treatment in work. They do what they want, and when they’re done with your project or they screw up (like what just happened), they tell your vendor company to let you go, which they do … It’s been coming at them for over a year. How could they not see this coming? Did they think about protecting their employees at all? Or just their reputation?”

“We’ve all been laid off after the scandal, with no protection against this. More than 300 at once just in Cork, with no redundancy, just one week’s notice.”
[…]
-5
sierkb28.08.19 22:20
Marcel Bresink:

Passend und das Bild vervollständigend zu dem, was Du obig richtigerweise gesagt hast, auch diese Ausführungen und wie Apple es mit der DS-GVO, dem Datenschutz und AV-Verträgen in real life, de facto abseits ihrer Werbeversprechen und Tim Cooks öffentlichen Beteuerungen hält:

activeMind AG (11.04.2019): iCloud im Unternehmen
Apple bietet mit iCloud einen umfassenden Dienst an, um Daten von Nutzern extern zu speichern bzw. zu sichern. Dieser Dienst ist für Kunden sicherlich praktisch, aus Compliance- und datenschutzrechtlicher Sicht für Unternehmen allerdings problematisch.

Zusatzfrage: hast Du bisher irgendeinen Auftragsverarbeitungs-Vertrag (AV-Vertrag) von Apple finden oder einsehen können für irgendwas? Bietet Apple sowas überhaupt an (offenbar wohlweislich nicht)?
+3
ocrho28.08.19 22:29
Der Erste Satz im Artikel ist nicht richtig mit:
"Von Anfang an war bekannt, dass Siri-Sprachbefehle zu Apple geschickt und dort verarbeitet werden. Dies ermöglicht unter anderem, Verbesserungen auch ohne ein Systemupdate vornehmen zu können, außerdem muss auf den jeweiligen Geräten keine lokale Wissensdatenbank liegen – das spart viel Speicherplatz."

...weil Apple bei Siri auch damit geworben hat, dass optional die Sprachdaten lokal heruntergeladen werden können. Von einer menschliche Qualitätssicherung war nie die Rede, sondern immer davon, dass ganz tolle KI-Algorithmen nur ganz viele Millionen Eingabebeispiele benötigen zum trainieren und man daher möglichst auf lokale Sprachdateien verzichten sollte um die Lernphase zu beschleunigen. Ebenso hieß es, dass Siri mit jeder Eingabe vom Benutzer auch lernt und damit die KI sich selbst verbessert. Heute nach einigen Jahren wissen wir, dass die typischen KI-Algorithmen keine Raketentechnik sind, sondern in vielen Situationen sich auch de-optimieren oder falsche Wirkzusammenhänge sehen.
0
Wiesi
Wiesi28.08.19 23:11
Apple's Datenschutz ist genauso traurig wie bei den üblichen Verdächtigen. Aber im Heucheln ist Apple deutlich besser.
Everything should be as simple as possible, but not simpler
-9
Dante Anita29.08.19 06:41
Viele Firmen geben Kundendaten in die Hände externer Firmen, weil sie sonst ihr Geschäft gar nicht aufrecht erhalten könnten. Z. B. an eine Druckerei, welche hunderttausend Briefe/Rechnungen druckt. Da wird dann eine Auftragsdatenverarbeiter-Vereinbarung geschlossen und man kann sich auch bei sensiblen Daten DSGVO-konform bewegen. Das passiert tagtäglich und nichts daran ist verwerflich.

Apple hätte seine eigenen Standards von Haus aus einhalten sollen und die Möglichkeit einbauen sollen, die Weitergabe zu unterbinden und auf die externe Verarbeitung hinweisen sollen, dann wäre das alles kein Thema geworden. Immerhin haben sie es eingesehen und (nach medialem Druck) rasch geändert.
+3
teorema67
teorema6729.08.19 08:52
sierkb
At least 300 contractors in Europe sent home after ‘grading’ project suspended

Interessanter Artikel, danke! Der arbeitsrechtliche Skandal erscheint mir weit größer als der datenschutzrechtliche
Printer Margins for the Homeless
-2
Pixelmeister29.08.19 09:51
teorema67
Der arbeitsrechtliche Skandal erscheint mir weit größer als der datenschutzrechtliche
Naja, schön sind (so schnelle) Entlassungen ja nie. Aber man muss auch bedenken, dass es nirgendwo so einen Arbeitsplatzschutz gibt, wie bei uns (und selbst hier liegt noch vieles im Argen).

Apple hat dem Dienstleister den Auftrag entzogen und der musste dann natürlich die dafür eingestellten Mitarbeiter entlassen. Soweit ganz normal – wenn natürlich auch nicht schön für die Mitarbeiter. Aber deren Job gibt es nun mal nicht mehr (zumindest nicht bei einer externen Firma).

Das ist "ganz normales" Business, das wurde mir auch erzählt, als Microsoft vor ein paar Jahren binnen weniger Wochen rund 40.000 Mitarbeiter (immerhin eine mittlere Kleinstadt) entließ, weil sie Ex-Nokias Smartphone-Geschäft in den Sand gesetzt hatten. Da wurde sicherlich auch nicht mit Lohnfortzahlungen und Auffanggesellschaften gearbeitet, sondern den Leuten einfach tschüss gesagt. Das ist bei US-Firmen wohl so üblich.
-1
Pixelmeister29.08.19 10:15
Ich finde nach wie vor, dass hier ein Skandal herbeigeredet wurde, der keiner ist. Ja, Apple (und andere) hätten vielleicht etwas deutlicher sagen müssen, dass ab und zu "echte" Menschen zur Qualitätsverbesserung der Sprachdienste die Aufnahmen anhören und man hätte (wie demnächst geschehen) ein Opt-In/Out einbauen sollen. Aber mir z.B. war klar, dass nur durch menschliche Kontrolle Fehlinterpretationen der Sprachdienste aufgedeckt und behoben werden können.

Ein echter Skandal wäre es gewesen, wenn die Sprachaufzeichnung für etwas anderes als zur Verbesserung des Dienstes eingesetzt worden wären – also z.B. zur Aufbesserung von Nutzer-Profilen. Aber wenn ein Sprachschnipsel mit der Zusatz-Info, in welcher App und an welchem Ort, er aufgenommen wurde, dahingehend analysiert wird, ob Siris Antwort darauf sinnvoll/hilfreich war, sehe ich kein allzu großes Problem (übrigens auch nicht bei Googles Sprachassistenten, nicht dass hier gemeint wird, ich würde mit zweierlei Maß messen).

Mich nervt auf jeden Fall, wenn mich Siri (gerade im Auto) nicht versteht und mir z.B. irgendwelche Vorschläge macht, die überhaupt nicht in der Nähe sind.
-1
teorema67
teorema6729.08.19 10:17
Pixelmeister
... Das ist bei US-Firmen wohl so üblich.
Keine Frage, nur wer hindert Apple daran, sich anders zu benehmen?



Pixelmeister
Ich finde nach wie vor, dass hier ein Skandal herbeigeredet wurde, der keiner ist.
Sehe ich auch so. Apple hätte sich geschickter anstellen können, das war es aber schon.
Printer Margins for the Homeless
-1
Cupertimo30.08.19 07:34
Pixelmeister
mir z.B. war klar, dass nur durch menschliche Kontrolle Fehlinterpretationen der Sprachdienste aufgedeckt und behoben werden können.

Japp, gesunder Menschenverstand. Aber genau hier liegt bei der Menschheit oft das Problem.
-1

Kommentieren

Sie müssen sich einloggen, um die News kommentieren zu können.

OK MacTechNews.de verwendet Cookies unter anderem für personalisierte Inhalte, Seitenanalyse und bei der Auslieferung von Google-Anzeigen. Dies war zwar schon immer so, auf Wunsch der EU muss nun jedoch explizit darauf hingewiesen werden. Durch Nutzung der Website erklären Sie sich damit einverstanden. Weitere Informationen