Etica YouTube Kids indică faptul că funcționează ca o corporație autonomă

Tocmai am terminat de citit articolul fascinant și deranjant al lui Jame’s Bridle Ceva nu este în regulă pe internet . Primul meu gând a fost „la naiba, asta este deranjant”. Sunt sigur că a fost pentru majoritatea oamenilor care au citit-o. Al doilea gând al meu a fost „sună foarte familiar”.

Ar trebui să citești articolul pentru tine, dar voi repeta l și îl voi recapitula. Există un număr uimitor de videoclipuri deranjante pentru copii disponibile pe YouTube Kids, iar multe dintre ele par a fi generate automat. Videoclipurile care nu sunt generate automat sunt cel puțin create exclusiv pentru a valorifica tendințele algoritmice. Aceste tendințe algoritmice sunt cheia întregii povești – conținutul este produs în întregime pe baza seturilor masive de date și a învățării automate. Pe măsură ce Bridle abordează temeinic, rezultatele sunt greu de stomac.

Nu am de gând să refac punctele deja menționate în articolul respectiv. Dar, mai degrabă, extindeți o idee în special pe care am simțit că merită o atenție mai mare: cine controlează de fapt sistemul. Mai important, cineva mai controlează platformele de conținut precum YouTube? Voi veni corect și o voi spune: dovezile indică faptul că nu există. Mai exact, nu există nimeni uman care să controleze.

Corporații autonome

Am scris recent un articol pentru Hackster.io despre BitBarista, care este un aparat de cafea care își generează venituri prin vânzarea de cafea. Apoi poate folosi acel venit pentru a plăti reparații și întreținere, creând o afacere care este teoretic autosustenabilă. M-am referit în glumă la aceasta drept prima corporație autonomă din lume.

Termenul „corporație autonomă”, pe care l-am întâlnit prima dată în The Dark Net al lui Benjamin Percy, se referă la o corporație care funcționează fără conducere umană. Odată creată, o inteligență artificială controlează toate deciziile la nivel înalt pentru companie, înlocuind în mod eficient o echipă executivă în mod tradițional umană. Este important să rețineți că acest lucru nu trebuie să fie un AGI sau un AI puternic; o IA slabă, precum cele care sunt deja comune, este mai mult decât capabilă să conducă o corporație.

Deoarece este un roman, The Dark Net se concentrează pe potențialele amenințări pe care le-ar putea prezenta corporațiile autonome. În absența eticii umane, ce ar face o IA pentru a-și atinge scopul de a maximiza profiturile? Chiar și asta este un antropomorfism, pentru că o IA pur și simplu nu ar lua în considerare etica în primul rând, decât dacă a fost programată.

Cine controlează YouTube Kids?

Întrebarea devine atunci: YouTube Kids, sau YouTube în general, este o corporație autonomă? Prin cele mai stricte definiții, răspunsul este nu. Există încă oameni responsabili în sens larg. Dar, cred că, dacă luați în considerare conotația din spatele termenului, YouTube Kids apare cu siguranță ca și cum ar fi administrat de un AI.

Să prezentăm cerințele pentru ca o corporație autonomă să se potrivească intenției etichetei:

Prima întrebare este ușor de răspuns; YouTube și, la rândul său, YouTube Kids, este o filială a Google. Este o corporație cu scop lucrativ, iar misiunea sa este, evident, de a genera profit. Același lucru este valabil pentru orice corporație din SUA, în afară de organizațiile non-profit. Dacă nu mai avem acest lucru, să trecem la întrebările mai complicate.

Întreaga teză a articolului lui Bridle este că videoclipurile de pe YouTube Kids sunt generate automat. Acest lucru este adevărat în sens direct, multe dintre videoclipuri fiind create de algoritmi și nu de oameni. Dar, este valabil și pentru videoclipurile pe care le realizează oameni reali.

Amintiți-vă cazul BitBarista: nu este echipat pentru a se întreține sau repara, dar este echipat pentru a angaja oameni pentru a face acea muncă, astfel încât să poată continua să obțină profituri. O corporație autonomă nu trebuie să îndeplinească singură fiecare sarcină, ci trebuie doar să poată recunoaște ce sarcini trebuie făcute și să poată angaja pe cineva care să le îndeplinească.

Exact asta face YouTube. Sistemul de conținut plătește creatorilor de videoclipuri cu venituri din publicitate, care, la rândul lor, sunt generate din anunțurile care sunt redate pe videoclipurile respective. Este același lucru pe care îl face BitBarista, dar la o scară mult mai mare și mai complexă. Directorii YouTube nu se uită la videoclipuri și nu elaborează contracte, cel puțin nu în marea majoritate a cazurilor. Sistemul se menține singur, prin mijloace automate, și face acest lucru cu mare succes.

Cerința finală este cea mai dificilă abordare obiectivă, deoarece se transformă într-o dezbatere fundamental filosofică. Nu se poate nega faptul că sunt prezenți directori umani. Susan Wojcicki este CEO-ul YouTube, iar Sundar Pichai este CEO-ul Google. Nu am găsit nicio dovadă care să sugereze că oricare dintre aceștia au fost înlocuiți cu roboți.

Cu toate acestea, esența cerinței rezidă în cine este de fapt controlul companiei. O persoană cinică ar spune că profiturile în sine sunt în control. Deși probabil este adevărat, este puțin în afara scopului acestui articol. Să ne concentrăm în schimb pe o interpretare mai directă a cuvântului „control”.

Dovezi și etică

Pentru a determina cine controlează cu adevărat YouTube, trebuie să luăm în considerare etica modului în care se comportă sistemul. În timp ce majoritatea oamenilor dezvoltă în mod natural etica, o IA slabă nu ar avea niciun concept despre ei dacă nu ar fi fost programați direct. Ceea ce vedem în cazul YouTube Kids.

Sistemul de livrare a conținutului, fiind conceput pentru copii, a fost programat pentru a filtra conținutul neadecvat. Dar, după cum demonstrează poveștile din Bridle și alții, eșuează lamentabil. De ce? Pentru că nu are o înțelegere adevărată a ceea ce poate arăta etic copiilor. Pur și simplu încearcă să găsească lucrurile pe care programatorii săi umani i-au spus că ar indica material inadecvat.

Chiar dacă sistemul ar putea filtra în mod fiabil materialul respectiv, asta nu înseamnă că este într-adevăr etic. Luați în considerare modul în care această poveste de conținut deranjant de pe YouTube Kids a afectat profiturile companiei. Scopul principal al unei corporații autonome este de a maximiza profiturile, deci ar face în mod firesc tot ce ar putea pentru a-i menține pe părinți fericiți. Dar asta înseamnă doar că imită comportamentul etic, chiar și atunci când nu are nicio preocupare adevărată pentru copiii înșiși.

Ceea ce ne aduce la dovezile reale. Nu ne putem aștepta ca o inteligență artificială slabă să aibă vreo etică, dar ne putem aștepta la conducerea umană. Deși nu cunosc pe nimeni responsabil la YouTube, le voi oferi avantajul îndoielii și voi spune că nu sunt sociopați. Este sigur să spunem că probabil posedă etică.

Dacă, atunci, există oameni care controlează etica, ei ar elimina pur și simplu conținutul jignitor. Dar, așa cum am văzut, nu au făcut-o. Aș argumenta că acest lucru nu se datorează faptului că nu doresc , ci pentru că nu pot . Bridle pare să fie de acord cu acest punct, spunând:

„Cu toate acestea, o mare parte din răspunsul meu tulburat la această problemă este că nu am idee cum pot răspunde fără a închide serviciul în sine și majoritatea sistemelor care seamănă cu acesta. Am construit o lume care funcționează la scară largă, unde supravegherea umană este pur și simplu imposibilă și nici un fel de supraveghere inumană nu va contracara majoritatea exemplelor pe care le-am folosit în acest eseu. ”

Nu pot opri problema fără a opri sistemul. Acest lucru ar fi opusul generării de profit și este ceva ce o corporație nu ar face niciodată în mod voluntar. Dacă sunt neputincioși să oprească problema sau să oprească sistemul, atunci cine este cu adevărat responsabil?

Dacă doriți să citiți mai multe de la mine: urmați-mă aici pe Medium, consultați articolele mele de pe Hackaday.com sau accesați propriul meu site web cameroncoward.com