Hinter jedem Roboter steckt ein Mensch

Warum Amazon-Mitarbeiter manchmal die Gespräche der Benutzer mit Alexa mithören und was sie uns über die Technologie verrät, die intelligente Geräte antreibt

Amazonas

Hunderte von menschlichen Gutachtern auf der ganzen Welt, von Rumänien bis Venezuela, Aufgenommene Audioclips anhören von Amazon Echo-Lautsprechern, normalerweise ohne Wissen der Besitzer, Bloomberg letzte Woche gemeldet. Wir wussten, dass Alexa zuhörte; jetzt wissen wir, dass jemand anderes es auch ist.

Dieses globale Überprüfungsteam verfeinert die Software von Amazon Echo, indem es sich Clips von Benutzern anhört, die Alexa-Fragen stellen oder Befehle erteilen, und dann überprüft, ob Alexa angemessen reagiert hat. Das Team kommentiert auch bestimmte Wörter, mit denen das Gerät zu kämpfen hat, wenn es mit verschiedenen Akzenten angesprochen wird.

Laut Amazon können sich Benutzer vom Dienst abmelden, aber sie scheinen automatisch registriert zu werden. Amazon sagt, dass diese Aufzeichnungen anonymisiert sind, wobei alle identifizierenden Informationen entfernt wurden, und dass jeder dieser aufgezeichneten Austausche erst erfolgte, nachdem Benutzer mit dem Gerät durch Aussprechen des Aktivierungsworts in Kontakt gekommen waren. Aber in den Beispielen in Bloomberg 's Bericht – eine Frau hat das Singen in der Dusche mitbekommen, ein Kind schreit um Hilfe – scheinen die Benutzer das Gerät nicht zu bemerken.

Wir haben strenge technische und betriebliche Sicherheitsvorkehrungen und haben eine Null-Toleranz-Politik für den Missbrauch unseres Systems, sagte Amazon in einer E-Mail an Bloomberg , wobei darauf hingewiesen wird, dass nur eine äußerst kleine Stichprobe von Datensätzen mit Anmerkungen versehen ist.

Die Offenbarung sagt uns viel darüber, wie intelligente Geräte wirklich funktionieren. Alexa-fähige Lautsprecher können Sprache interpretieren und tun dies auch, aber Amazon verlässt sich auf die menschliche Führung, um Alexa menschlicher zu machen – damit die Software verschiedene Akzente versteht, Namen von Prominenten erkennt und auf komplexere Befehle reagiert. Dies gilt für viele Produkte mit künstlicher Intelligenz. Sie sind Prototypen. Sie können sich ihren versprochenen Funktionen nur annähern, während der Mensch dabei hilft was Harvard-Forscher haben das Paradoxon der letzten Meile der Automatisierung genannt. Fortschritte in der KI, schreiben die Forscher, schaffen temporäre Jobs wie das Markieren von Bildern oder das Kommentieren von Clips, auch wenn die Technologie die menschliche Arbeit ersetzen soll. Im Fall des Echos werden Gig-Worker bezahlt, um seine Spracherkennungssoftware zu verbessern – aber wenn sie fortgeschritten genug ist, wird sie verwendet, um die Hostess in einer Hotellobby zu ersetzen .

Ein Artikel aus dem Jahr 2016 von Forschern der Stanford University ein Computer-Vision-System verwendet um mit 88-prozentiger Genauigkeit die politische Zugehörigkeit von 22 Millionen Menschen anhand ihres Autofahrens und ihres Wohnortes abzuleiten. Herkömmliche Umfragen würden ein volles Personal, ein hohes Budget und monatelange Arbeit erfordern. Das System hat die Aufgabe in zwei Wochen erledigt. Aber zuerst musste es wissen, was ein Auto ist. Die Forscher bezahlten Arbeiter über die Mechanical Turk-Plattform von Amazon, um Tausende von Bildern von Autos manuell zu markieren, damit das System lernte, zwischen Formen, Stilen und Farben zu unterscheiden.

Es mag ein böses Erwachen für Amazon Echo-Besitzer sein, aber KI-Systeme benötigen enorme Mengen kategorisierter Daten vor, während und nach der Produkteinführung. Der Idealzustand ist eine Feedback-Schleife: Das Echo funktioniert anständig, Sprachdaten von Kunden werden gesammelt und verwendet, um den Service zu verbessern, und dann kaufen mehr Leute ihn, wenn er sich verbessert und mehr Daten gesammelt werden, um ihn weiter zu verfeinern. Dies gilt für sehr unterschiedliche Arten von KI-Produkten.

Zum Beispiel menschliche Arbeiter ansehen und manuell markieren Videomaterial, das von Amazons Ring-Produkten hochgeladen wurde, Überwachungskameras, die Hausbesitzer an ihren Türklingeln und Verandas installieren können. Facebooks Content-Moderation AI verlässt sich darauf, dass Tausende von Menschen auf der ganzen Welt Software lehren, was in verschiedenen Kontexten als anstößig gilt. Eine weitere Schleife: Menschen kennzeichnen Inhalte, die KI wird besser darin, sie zu erkennen, mehr Menschen nutzen Facebook, je sicherer es wird, und die KI wird intelligenter, je mehr Inhalte gekennzeichnet werden. In allen Fällen möchte uns das Silicon Valley glauben machen, dass KI intelligent genug ist, um Menschen zu ersetzen, obwohl sie in Wirklichkeit nur aufgrund der Rolle versteckter menschlicher Arbeit bei der Schaffung und Aufrechterhaltung dieser Schleifen funktioniert. KI ist immer eine Mensch-Maschine-Kollaboration. Es kann unglaubliche Leistungen vollbringen, aber selten allein.

Astra Taylor, Autorin und Dokumentarfilmregisseurin, die sich mit dem beschäftigt, was sie die Automatisierungsscharade nennt, stellt fest, dass Unternehmen ein starkes Interesse daran haben, die Rolle des Menschen auf der letzten Meile der Automatisierung zu verschleiern. Wenn „Reibung“ tatsächlich bedeutet, dass ein Mensch auf der anderen Seite Ihres intelligenten Lautsprechers ist, sagt sie, dann müssen wir uns diesem Unbehagen stellen.

Der Bloomberg Der Bericht enthielt auch einen erschütternden Bericht über das globale Team von Amazon, das mithörte, was ein sexueller Übergriff oder eine gewalttätige Begegnung gewesen sein könnte. Arbeiter gemeldet an Bloomberg dass Amazon-Vorgesetzte ihnen sagten, sie sollen die Geräusche ignorieren und keinen Polizeibericht erstatten. (Als um einen Kommentar gebeten wurde, verwies Amazon Der Atlantik zu Aussagen, die die Verschlüsselung und die Sicherheit des Cloud-Speichers betonen.) Taylor bemerkt, dass dies ein weiteres Paradox der Automatisierung ist: Um Maschinen intelligenter zu machen, müssen die Menschen, die sie trainieren, dümmer handeln.

Das Tragische an diesem Stück ist, dass es die Menschen auch dazu zwingt, weniger intelligent und weniger empathisch zu sein, sagt sie. Sie müssen im Grunde so trainiert werden, dass sie sagen: ‚Oh, das ist nicht relevant. Ich werde weniger menschlich sein, weniger davon betroffen.’

Taylor argumentiert, dass das Verbergen menschlicher Arbeit bedeutet, dass sich Menschen eher wie Maschinen verhalten, ohne persönliche Ethik oder Empathie. In einem extremeren Fall bedeutet die Verschleierung von Menschen, die Wahl vollständig zu beseitigen. Im Februar, Das Abfangen berichtet, dass Google mit dem Verteidigungsministerium einen Vertrag abgeschlossen hat, um Regierung Drohnen aufstocken Computer-Vision-Systeme, empörende Mitarbeiter. Drohnen mit Computer-Vision-Systemen sind in der Lage, ihre Ziele zu sehen – aber sie müssen noch verfeinert und präzise sein. Daher hat Google Hunderte menschlicher Mitarbeiter beauftragt, Elemente manuell zu markieren und bei der Erstellung des Datensatzes zu helfen. Gemäß Das Abfangen 's Bericht hatten sie keine Ahnung, wofür ihre Arbeitskraft verwendet wurde.

Menschen sind Teil dessen, was jedes KI-System zum Funktionieren bringt, und sie bringen all ihr dummes, menschliches Gepäck mit: Privatsphäre und Lauschangriffe, potenzielle Vorurteile, individuelle Vorlieben und Urteile. Das dient nicht immer dem Interesse, die Gesellschaft reibungslos, intelligent oder bequem zu machen. Aber ihre Rolle zu verbergen – im Wesentlichen zu versuchen, die Mensch-Maschine-Systeme, die die KI entwickeln, weniger menschlich zu machen – dient nur der Fiktion des Silicon Valley, dass KI mächtig, rational und undurchschaubar ist; dieselbe Fiktion, die die Branche über sich selbst erzählt. Das Aufdecken der menschlichen Arbeit fortschrittlicher Technologie deckt beides auf.