Wie Tausende Amazon-Mitarbeiter Alexa-Sprachbefehlen zuhören – interessanter Hintergrund-Artikel

Damit Sprachassistenten intelligent klingen und sinnvolle Antworten geben, ist im Hintergrund erst einmal jede Menge an manueller Sprachanalyse sowie redaktioneller Arbeit erforderlich. Beispielsweise sorgte eine eigene Siri-Redaktion dafür, dass Siri jene spaßig-launischen Antworten gab, die in den Anfangstagen des Dienstes für viel Belustigung sorgten. Ein sehr interessanter Bloomberg-Artikel beleuchtet am Beispiel von Amazon, wie viele menschliche Ohren damit beschäftigt sind, Nutzer-Sprachbefehle auszuwerten. Zwar geht es im Artikel nur um Amazon, allerdings arbeitet Apple wohl nicht anders – anonymisierte und Nutzern nicht zuzuordnende Sprach-Schnipsel werden sechs Monate lang auf Apples Servern gespeichert.


Eine große Schar Analyse-Zuhörer
Die Rede ist davon, dass "Tausende" Amazon-Mitarbeiter sich anhören, was Nutzer von Alexa erbaten. Diese müssen eine strenge Verschwiegenheitserklärung unterzeichnen und dürfen selbstverständlich nichts vom Gehörten nach außen weitergeben. Das Ziel dieses personalintensiven Einsatzes ist es, Alexa zu noch besserem Verständnis zu verhelfen und auch Antworten zu optimieren. Pro Schicht geht ein Reviewer rund 1000 Aufzeichnungen durch – zum größten Teil handelt es sich um die immer gleichlautenden, einfachen Steuerbefehle.

Umgang mit möglicherweise rechtswidrigen Inhalten
Ein allgemeiner Chat-Raum hilft den Mitarbeitern, schwierige und unverständliche Befehle gemeinsam zu bearbeiten. Die Beschäftigten sollen sich auch dann an den Kanal wenden, wenn sie belastende oder verstörende Dinge gehört haben – um Stress abzubauen, nicht um weitere Schritte einzuleiten. So heißt es in den Anweisungen, Amazons Aufgabe sei es nicht, in irgendeiner Weise einzuschreiten. Selbst wenn Alexa möglicherweise kriminelle Handlungen aufgezeichnet hat, bleiben die Daten unter Verschluss.

Große Vorsicht
Amazon betont, man lege extreme Sorgfalt beim Umgang mit den Aufzeichnungen an den Tag. Mitarbeiter haben keinerlei Möglichkeit, an Nutzerinformationen zu gelangen. Ein mehrstufiges Authentifizierungsverfahren und strenge Audits sorgen dafür, Zugang zu beschränken und personenbezogene Daten abzuschotten. Amazons Arbeitsweise unterscheidet sich damit nicht sonderlich von den Optimierungsverfahren, die Apple und Google verwenden. Beide betonen, Audio-Schnipsel zwar für eine gewisse Zeit aufzubewahren und damit die Spracherkennung zu verbessern, allerdings jegliche persönlichen Informationen abzuschneiden.

Kommentare

penumbra11.04.19 10:24
Ich bin froh, dass ich nicht so einen Job machen muss...
Zum Thema rechtswidrige Inhalte: So ganz zurücklehnen dürfen die sich aber nicht, immerhin könnten sie bei bestimmten Kapitalverbrechen wegen Nichtanzeige belangt werden:
enjoy life in full trains
+4
Marky11.04.19 10:53
Viel interessanter dürfte das sein, was man gar nicht mit dem passenden Keyword absetzt. Es reicht schon, wenn jemand in der Familie Alexandra/Alexander heißt und der Echo Dot jedes Mal reagiert. Man findet in der Amazon App dann diverse Mitschnitte von mehreren Sekunden, die mit dem eigentlichen Thema nichts zu tun haben. Wenn die Supporter sowas auch abhören müssen, dürfte das "interessanter" sein.
0
Sindbad11.04.19 11:03
Also doch eine Wanze. (siehe "Das Leben der anderen")
+2
iFreak777
iFreak77711.04.19 11:19
Marky
Viel interessanter dürfte das sein, was man gar nicht mit dem passenden Keyword absetzt. Es reicht schon, wenn jemand in der Familie Alexandra/Alexander heißt und der Echo Dot jedes Mal reagiert. Man findet in der Amazon App dann diverse Mitschnitte von mehreren Sekunden, die mit dem eigentlichen Thema nichts zu tun haben. Wenn die Supporter sowas auch abhören müssen, dürfte das "interessanter" sein.
Evtl. dann das Aktivierungswort auf z.B. Echo ändern?
+3
aquacosxx
aquacosxx11.04.19 11:28
Offensichtlich werden auch Inhalte analysiert, ohne dass das Aktivierungswort gesprochen wurde. Hm...
+2
dreikoenig11.04.19 11:50
aquacosxx
Offensichtlich werden auch Inhalte analysiert, ohne dass das Aktivierungswort gesprochen wurde. Hm...

Ja, aber es ist genau das was mir auch bei Siri passiert.
Irgendetwas wird interpretiert als Aktivierungssort und dann wird aufgezeichnet. Das dies auch analysiert wird, ist logisch um eventuell rauszufinden, warum Alex/Siri aktiviert wurde, obwohl nichts gesagt wurde.

Bei dir klingt es wieder so als würde man gezielt abhorchen und dem ist (auch laut Spiegel Artikel) eben nicht so.

Wer übrigens Angst vor einer Alexawanze hat, die ständig mithören kann, sollte sich auch vom Smartphone trennen. Das könnte genauso jederzeit mithörenohne das man es merkt.
Das Smartphone ist dann auch im Gegensatz zu einem Echo Gerät überall dabei, auch bei eventuell sensiblen Gesprächen auf der Arbeit.

Man sollte diese Dinger kritisch sehen, sollte aber genauso (und vielleicht noch viel mehr) Smartphones genau so argwöhnisch betrachten.

Ansonsten finde ich solche Hintergrundberichte dazu wirklich interessant.
+6
voicemail11.04.19 11:59
Wer übrigens Angst vor einer Alexawanze hat, die ständig mithören kann, sollte sich auch vom Smartphone trennen. Das könnte genauso jederzeit mithörenohne das man es merkt.
Das Smartphone ist dann auch im Gegensatz zu einem Echo Gerät überall dabei, auch bei eventuell sensiblen Gesprächen auf der Arbeit.

Man sollte diese Dinger kritisch sehen, sollte aber genauso (und vielleicht noch viel mehr) Smartphones genau so argwöhnisch betrachten.
Auf dem Smartphone verfasster Kommentar: "Ich weiß schon warum ich mir so eine Wanze nicht ins Wohnzimmer stelle!"
+2
cab
cab11.04.19 12:20
Ich habe doch die ganze Zeit geahnt, dass da tausende Mitarbeiter damit beschäftigt sind, zuzuhören und blitzschnell zu reagieren. Und keine KI dahinter steckt.
Diese formschöne Signatur gibt es jetzt zum günstigen Einstiegspreis von nur 849,95€ !
+3
Marky11.04.19 12:28
iFreak777
Evtl. dann das Aktivierungswort auf z.B. Echo ändern?
Wie aquacosxx bereits treffend erwähnte, ist das völlig sinnlos. Selbst wenn ich das Ding "Computer" nenne, wie es ja in den Vorgaben möglich wäre. Was glaubst du, wie oft das Wort Computer hier fällt? Oft.
Wir hatten vor Tagen schon mal überlegt, die Kiste zu entsorgen, jetzt dürfte sich der Gedanke wohl festigen. Es wird mehr mitgeschnitten, als ich anfangs dachte und oft genug ohne Kontext bzw ohne das Keyword.
Golem greift es jetzt auch auf..
0
Metty11.04.19 12:58
Das amerikanische Recht fordert den Zugang von Strafverfolgungsbehörden zu allen Daten, die in den Vereinigten Staaten aufgezeichnet oder verarbeitet werden. Natürlich unternimmt Amazon nichts, um problematische Inhalte weiter zu geben. Das müssen sie auch gar nicht, den bei FBI, NSA & Co. liegen ja bereits Kopien davon. Der Artikel selbst beschreibt, dass "problembehaftete" Inhalte besonders behandelt werden. Na wenn dieses Flag mal nicht von den Behörden ausgewertet wird.
Alle diese Sprachassistenten sind Wanzen. So etwas kann erst aufhören wenn es offline Lösungen davon gibt, die bestenfalls nur auf Daten im eigenen Netz zugreifen. Aber davon sind wir sehr weit entfernt und die Industrie hat auch gar kein Interesse daran so eine Lösung anzubieten. Vielleicht wird Apple in Zukunft einmal wichtiger als man denkt in diesem Bereich ...
Mir kommt so ein Ding nicht ins Haus. Und was die Mobiltelefone anbelangt, so ist dies meist in meiner Hosentasche oder in einer Jacke. Die Tonqualität dürfte also recht grausig sein. Ich wünsche viel Spaß beim auswerten.
+2
Dante Anita11.04.19 13:18
cab
Ich habe doch die ganze Zeit geahnt, dass da tausende Mitarbeiter damit beschäftigt sind, zuzuhören und blitzschnell zu reagieren. Und keine KI dahinter steckt.

Sowas nennt nan Audio-mechanische Schnittstelle 😉

Optomechanische Schnittstellen gibts auch, sprich: jemand liest einen Zettel ab und hackt das in die Tastatur rein. 👍
+4
DTP11.04.19 13:20
Metty
Und was die Mobiltelefone anbelangt, so ist dies meist in meiner Hosentasche oder in einer Jacke. Die Tonqualität dürfte also recht grausig sein. Ich wünsche viel Spaß beim auswerten.
Beim Auswerten deines Smartphone weiß man noch mehr. Wo du warst, zu wem du es gesagt hast, was du danach gemacht hast, ob dich das zu einem kauf animiert hat oder nicht, wen du so kennst, wer dich kennt, wem du was bezahlst, wo du arbeitest, was deine Hobbies sind und mehr.

Daher, Smartspeaker verteufeln und Smartphones nutzen ist ungefähr so apfel-birnig wie Plastiktüten im Z4 bei 250km/h herumspazieren, weil China und Kreuzfahrtschiffe ja schlimmer seien.
+2
aquacosxx
aquacosxx11.04.19 20:02
dreikoenig
aquacosxx
Offensichtlich werden auch Inhalte analysiert, ohne dass das Aktivierungswort gesprochen wurde. Hm...

Ja, aber es ist genau das was mir auch bei Siri passiert.
Irgendetwas wird interpretiert als Aktivierungssort und dann wird aufgezeichnet. Das dies auch analysiert wird, ist logisch um eventuell rauszufinden, warum Alex/Siri aktiviert wurde, obwohl nichts gesagt wurde.

Bei dir klingt es wieder so als würde man gezielt abhorchen und dem ist (auch laut Spiegel Artikel) eben nicht so.

Wer übrigens Angst vor einer Alexawanze hat, die ständig mithören kann, sollte sich auch vom Smartphone trennen. Das könnte genauso jederzeit mithörenohne das man es merkt.
Das Smartphone ist dann auch im Gegensatz zu einem Echo Gerät überall dabei, auch bei eventuell sensiblen Gesprächen auf der Arbeit.

Man sollte diese Dinger kritisch sehen, sollte aber genauso (und vielleicht noch viel mehr) Smartphones genau so argwöhnisch betrachten.

Ansonsten finde ich solche Hintergrundberichte dazu wirklich interessant.

ansonsten scheint amazon aber auch ein spezieller fall zu sein. ...ich meine ja nur.
+1
Frost11.04.19 21:05
dreikoenig
Wer übrigens Angst vor einer Alexawanze hat, die ständig mithören kann, sollte sich auch vom Smartphone trennen. Das könnte genauso jederzeit mithörenohne das man es merkt.
Im Gegensatz zu dem Amazon Teil befindet sich mein iPhone
aber normalerweise in einer von mir entwickelten abhoersichern Box. Und da ich inzwsichen sehr oft von Leuten darauf angesprochen werde, ob sie fuer ihr Mobile auch so eine Box bekommen koennten stehe ich da mit meinem Beduerfnis nach einer Vorsorge wohl nicht ganz alleine da.
0
Lyhoo
Lyhoo12.04.19 17:55
In einem Radiobeitrag von heute wurde gesagt, dass die Abhör-Mitarbeiter angehalten seien, nicht mehr zuzuhören wenn es zu privat wird (ab 2:33). Ich stimme Hajo Schumacher zu. Wenn es spannend wird, dann wird laut gestellt, dass alle Spitzel mithören können (OK. Böse Unterstellung)
0
Motti
Motti14.04.19 18:25
Was mich an SIRI nervt, dass es über Google läuft...
-1

Kommentieren

Sie müssen sich einloggen, um die News kommentieren zu können.

OK MacTechNews.de verwendet Cookies unter anderem für personalisierte Inhalte, Seitenanalyse und bei der Auslieferung von Google-Anzeigen. Dies war zwar schon immer so, auf Wunsch der EU muss nun jedoch explizit darauf hingewiesen werden. Durch Nutzung der Website erklären Sie sich damit einverstanden. Weitere Informationen