Die Ethik von YouTube-Kindern zeigt an, dass sie wie eine autonome Gesellschaft läuft

Ich habe gerade den faszinierenden und verstörenden Artikel von Jame’s Bridle gelesen. Im Internet stimmt etwas nicht . Mein erster Gedanke war “verdammt, das ist beunruhigend.” Ich bin sicher, es war für die meisten Leute, die es gelesen haben. Mein zweiter Gedanke war “das klingt sehr vertraut.”

Sie sollten den Artikel selbst lesen, aber ich werde ihn schnell rekapitulieren. Auf YouTube Kids gibt es eine erstaunliche Anzahl störender Kindervideos, von denen viele anscheinend automatisch generiert werden. Die Videos, die nicht automatisch generiert werden, werden zumindest ausschließlich erstellt, um algorithmische Trends zu nutzen. Diese algorithmischen Trends sind der Schlüssel zur gesamten Geschichte – Inhalte werden vollständig auf der Grundlage massiver Datensätze und maschinellen Lernens erstellt. Wie Bridle ausführlich anspricht, sind die Ergebnisse schwer zu ertragen.

Ich werde die bereits in diesem Artikel gemachten Punkte nicht noch einmal aufarbeiten. Erweitern Sie jedoch insbesondere eine Idee, die meiner Meinung nach mehr Aufmerksamkeit verdient: Wer hat tatsächlich die Kontrolle über das System? Was noch wichtiger ist: Hat jemand mehr die Kontrolle über Content-Plattformen wie YouTube? Ich werde gleich kommen und es sagen: Die Beweise zeigen, dass es keine gibt. Genauer gesagt hat niemand Menschen die Kontrolle.

Autonome Unternehmen

Ich habe kürzlich einen Artikel für Hackster.io über den BitBarista geschrieben, eine Kaffeemaschine, die durch den Verkauf von Kaffee Einnahmen für sich selbst generiert. Mit diesem Einkommen kann es dann Reparaturen und Wartungen selbst finanzieren und so ein Geschäft aufbauen, das theoretisch selbsttragend ist. Ich habe dies scherzhaft als das erste autonome Unternehmen der Welt bezeichnet.

Der Begriff “autonome Unternehmen”, auf den ich in Benjamin Percys The Dark Net zum ersten Mal gestoßen bin, bezieht sich auf ein Unternehmen, das ohne menschliche Führung läuft. Einmal erstellt, kontrolliert eine künstliche Intelligenz alle Entscheidungen auf hoher Ebene für das Unternehmen und ersetzt effektiv ein traditionell menschliches Führungsteam. Es ist wichtig zu beachten, dass dies keine AGI oder starke KI sein muss. Eine schwache KI, wie sie bereits üblich ist, ist mehr als fähig, ein Unternehmen zu leiten.

Da es sich um einen Roman handelt, konzentriert sich The Dark Net auf die potenziellen Bedrohungen, die autonome Unternehmen darstellen könnten. Was würde eine KI ohne menschliche Ethik tun, um ihr Ziel der Gewinnmaximierung zu erreichen? Auch das ist ein Anthropomorphismus, denn eine KI würde Ethik einfach nicht in Betracht ziehen, es sei denn, sie wurde darauf programmiert.

Wer kontrolliert YouTube-Kinder?

Dann stellt sich die Frage: Ist YouTube Kids oder YouTube im Allgemeinen ein autonomes Unternehmen? Nach strengsten Definitionen lautet die Antwort nein. Es gibt immer noch Menschen im weitesten Sinne. Ich denke jedoch, dass YouTube Kids, wenn Sie die Konnotation hinter dem Begriff berücksichtigen, mit Sicherheit so aussieht, als würde es von einer KI betrieben.

Lassen Sie uns die Anforderungen an ein autonomes Unternehmen so aufschlüsseln, dass sie der Absicht des Labels entsprechen:

Die erste Frage ist leicht zu beantworten. YouTube und wiederum YouTube Kids ist eine Tochtergesellschaft von Google. Es ist ein gewinnorientiertes Unternehmen, dessen Mission es offensichtlich ist, Gewinn zu erzielen. Gleiches gilt für alle Unternehmen in den USA, abgesehen von gemeinnützigen Organisationen. Lassen Sie uns nun die schwierigeren Fragen beantworten.

Die ganze These von Bridles Artikel lautet, dass die Videos auf YouTube Kids automatisch generiert werden. Dies gilt im direkten Sinne, da viele der Videos von Algorithmen und nicht von Menschen erstellt werden. Dies gilt jedoch auch für Videos, die von tatsächlichen Personen erstellt werden.

Denken Sie an den Fall des BitBarista: Er ist nicht für die Wartung oder Reparatur selbst ausgestattet, aber ist dafür ausgestattet, Menschen für diese Arbeit einzustellen, damit er weiterhin Gewinne erzielen kann. Ein autonomes Unternehmen muss nicht jede Aufgabe selbst ausführen, sondern nur erkennen, welche Aufgaben zu erledigen sind, und jemanden einstellen können, der diese Aufgaben erledigt.

Genau das macht YouTube. Das Content-System bezahlt Videokünstler mit Werbeeinnahmen, die wiederum aus den Anzeigen generiert werden, die auf diesen Videos abgespielt werden. Es ist dasselbe, was BitBarista tut, aber in einem viel größeren und komplexeren Maßstab. YouTube-Manager schauen sich die Videos nicht an und arbeiten keine Verträge aus, zumindest nicht in den allermeisten Fällen. Das System hält sich durch automatisierte Mittel selbst und tut dies sehr erfolgreich.

Die letzte Anforderung ist am schwierigsten objektiv anzugehen, da sie in eine grundlegend philosophische Debatte übergeht. Es ist nicht zu leugnen, dass menschliche Führungskräfte anwesend sind. Susan Wojcicki ist der CEO von YouTube und Sundar Pichai ist der CEO von Google. Ich habe keine Beweise dafür gefunden, dass einer von beiden durch Roboter ersetzt wurde.

Das Herzstück der Anforderung ist jedoch, wer tatsächlich die Kontrolle über das Unternehmen hat. Eine zynische Person würde sagen, dass die Gewinne selbst die Kontrolle haben. Dies ist wahrscheinlich der Fall, liegt jedoch etwas außerhalb des Geltungsbereichs dieses Artikels. Konzentrieren wir uns stattdessen auf eine direktere Interpretation des Wortes “Kontrolle”.

Evidenz und Ethik

Um festzustellen, wer wirklich die Kontrolle über YouTube hat, müssen wir die Ethik des Verhaltens des Systems berücksichtigen. Während die meisten Menschen auf natürliche Weise Ethik entwickeln, würde eine schwache KI kein Konzept von ihnen haben, wenn sie nicht direkt programmiert würden. Welches ist, was wir im Fall von YouTube Kids sehen.

Das für Kinder konzipierte System zur Bereitstellung von Inhalten wurde so programmiert, dass unangemessene Inhalte herausgefiltert werden. Aber wie Geschichten von Bridle und anderen beweisen, scheitert es kläglich. Warum? Weil es kein wirkliches Verständnis dafür hat, was es Kindern ethisch zeigen kann. Es wird lediglich versucht, die Dinge zu finden, von denen die menschlichen Programmierer sagten, dass sie unangemessenes Material anzeigen würden.

Selbst wenn das System dieses Material zuverlässig filtern könnte, bedeutet dies nicht, dass es wirklich ethisch ist. Überlegen Sie, wie sich diese Geschichte von störenden Inhalten auf YouTube Kids auf die Gewinne des Unternehmens ausgewirkt hat. Das Hauptziel eines autonomen Unternehmens ist die Maximierung des Gewinns. Daher würde es natürlich alles tun, um die Eltern bei Laune zu halten. Dies bedeutet jedoch nur, dass es ethisches Verhalten imitiert , auch wenn es sich nicht wirklich um die Kinder selbst kümmert.

Das bringt uns zu den wirklichen Beweisen. Wir können nicht erwarten, dass eine schwache KI eine Ethik hat, aber wir können erwarten, dass menschliche Führung dies tut. Ich kenne zwar niemanden, der bei YouTube verantwortlich ist, aber ich werde ihnen den Vorteil des Zweifels geben und sagen, dass sie keine Soziopathen sind. Dann kann man mit Sicherheit sagen, dass sie wahrscheinlich Ethik besitzen.

Wenn dann Menschen unter Kontrolle sind, die ethisch korrekt sind, entfernen sie einfach den beleidigenden Inhalt. Aber wie wir gesehen haben, haben sie es nicht. Ich würde argumentieren, dass dies nicht daran liegt, dass sie nicht wollen, sondern daran, dass sie nicht können. Bridle scheint diesem Punkt zuzustimmen und sagt:

„Ein großer Teil meiner problematischen Antwort auf dieses Problem ist jedoch, dass ich keine Ahnung habe, wie sie reagieren können, ohne den Dienst selbst und die meisten Systeme, die ihm ähneln, herunterzufahren. Wir haben eine Welt geschaffen, die in großem Maßstab funktioniert, in der menschliche Kontrolle einfach unmöglich ist und keine Art von unmenschlicher Kontrolle den meisten Beispielen widerspricht, die ich in diesem Aufsatz verwendet habe. “

Sie können das Problem nicht stoppen, ohne das System herunterzufahren. Das wäre das Gegenteil von Gewinn und ist etwas, was ein Unternehmen niemals freiwillig tun würde. Wenn sie nicht in der Lage sind, das Problem zu stoppen oder das System herunterzufahren, wer ist dann wirklich verantwortlich?

Wenn Sie mehr von mir lesen möchten: Folgen Sie mir hier auf Medium, lesen Sie meine Artikel auf Hackaday.com oder besuchen Sie meine eigene Website cameroncoward.com