Come abbiamo creato DarkBot, il robot malvagio che esplora il lato oscuro delle notizie

Un esperimento collaborativo tra esseri umani e intelligenza artificiale per mappare l’ecosistema di notizie false e odiose.

Diario di un allevatore di robot – Episodio 5.

È nato la scorsa settimana. Mi spaventa un po ‘. È seriamente disturbato. Ma doveva essere fatto. L’idea è nata dalle discussioni con la comunità di abbonati di Flint. 2.800 beta tester che, da febbraio, co-costruiscono con noi il progetto Flint: intelligenze artificiali al servizio dell’uomo. Che rendiamo ogni giorno più intelligente in modo che, in cambio, speriamo che ci rendano più intelligenti e meglio informati.

Rapidamente, e in modo molto naturale infatti, ci siamo confrontati con il fenomeno delle fake news, ma anche (e spesso è collegato) con il fenomeno degli articoli di odio condivisi sui social media. Difficile da evitare, perché inondano il web. Ne parliamo molto ultimamente, anche se non sempre lo affrontiamo perché siamo protetti da questa bolla filtrante che ci riflette questo riflesso di noi stessi e di chi ci circonda. Tuttavia, hanno legione. In altre bolle. Non li conosciamo bene. E poiché la missione dei robot di Flint è farci uscire dalla nostra bolla, hanno iniziato, in modo molto innocente, a portarci contenuti estremisti. Non molto. Ma abbastanza per interrogarci.

Così ho avviato il dibattito: cosa dovremmo fare? Dovremmo inserire nella lista nera questi siti estremisti per non disturbare gli abbonati? Ma in questo caso, dove posizionare il confine? Quando parliamo di notizie false, informazioni così false o contenuti che incitano all’odio razziale, entriamo in un mondo estremamente instabile. Questo è il problema della libertà, che si è diffusa in rete a perdifiato e ha reso ognuno di noi un medium, capace di portare il nostro punto di vista, senza alcun filtro. Ricchezza infinita, ma anche la porta aperta a tutti gli estremi, a tutte le libertà prese con la verità, a tutte le manipolazioni. Ne ho parlato a lungo qui.

Ho scritto:

Ci saranno sempre “notizie false”. La domanda non è come fermarli. Ma per capire di cosa sono i sintomi. Accettare i sintomi è già un passo verso una soluzione.

Quando ho condiviso le mie domande con la community, le reazioni degli iscritti sono state ovviamente molteplici, ma una tendenza ha iniziato a emergere: nessuna censura, ma intelligenza. Comprendi piuttosto che ignorare.

Ci siamo quindi posti la domanda: dal momento che i nostri robot sono stati progettati per rilevare articoli di qualità, potremmo capovolgerli e immergerli nel lato oscuro delle notizie?

È nata quindi l’idea di creare DarkBot. Un robot super malvagio la cui missione sarebbe quella di mappare l’ecosistema delle notizie d’odio e delle notizie false, identificare le comunità che le hanno condivise e cercare di vedere se c’era una qualche forma di coerenza in tutto questo. . Invece di impedire al robot Flint di vedere questo contenuto, abbiamo scelto di consentirgli di comprenderne meglio i meccanismi.

Abbiamo esitato a lungo prima di lanciarlo, perché temevamo che infettasse tutti gli altri robot con le sue fake news, i suoi articoli odiosi, anti-musulmani o antisemiti, le sue fonti cospirative e le sue scuse per le voci .. Quindi abbiamo creato una sorta di barriera protettiva per poter condurre l’esperimento in silenzio. Non avevamo idea di cosa sarebbe diventato, ma stava iniziando a dare risultati piuttosto spaventosi.

L’idea del DarkBot ha subito conquistato la community. Alcuni mi hanno persino espresso il desiderio di iscriversi a un’edizione di questo robot completamente barrato, per “capire meglio il nemico”!

DarkBot è quindi nato la scorsa settimana. In questo momento è ancora un bambino e super cattivo. Ma gravita sulla superficie e non è molto interessante. Volevo che esplorasse le reti di notizie false e i siti di odio più profondamente. E per questo avevo bisogno di aiuto.

Così l’ho detto al mio amico Jacques Rosselin, direttore della scuola di giornalismo EFJ, che è stato subito conquistato. Venerdì scorso mi sono seduto con gli studenti del secondo anno dell’EFJ per chiedere loro cosa ne pensavano. Hanno detto ok all’unanimità. Più interessante: quando ho chiesto loro se avevano paura dell’intelligenza artificiale, tutti mi hanno guardato in modo strano, in modo: “beh no” … e quando ho chiesto loro perché, mi hanno risposto che il l’intelligenza artificiale potrebbe aiutarli a fare meglio il loro giornalismo.


Di cui atto. Studenti umani e robot lavorerebbero mano nella mano per cercare di comprendere meglio il fenomeno delle notizie false e dei fornitori di odio sulle reti

Abbiamo iniziato identificando le fonti, ma soprattutto gli account Twitter che hanno trasmesso questo contenuto. Aiutare il robot a capire cosa gli veniva chiesto. Quindi il robot darà suggerimenti e inizieremo l’addestramento.

Gli esseri umani e l’intelligenza artificiale vanno di pari passo per esplorare l’oscuro mondo delle notizie oscure. Paura dell’intelligenza artificiale? “Ebbene no …”

Per aiutarci in questo sito un po ‘mostruoso, ho chiesto in giro. Adrien Sénecat, giornalista di Décodeurs du Monde (in particolare all’origine del famoso Décodex), ha gentilmente accettato di condividere la sua lista di siti “inaffidabili”, “inaffidabili” e “satirici”, anch’essa aperta -fonte. Elenco che gli studenti verificheranno e arricchiranno per creare un database di siti ma anche di account Twitter estremi, che poi etichetteranno in base al loro orientamento. Ovviamente renderemo pubblici questi risultati, quando avremo compiuto progressi su di essi con DarkBot. Potresti persino essere in grado di iscriverti alla newsletter di DarkBot per inviarti la sua selezione di articoli orribili. Vedremo … per ora, andremo piano, è un esperimento modesto.

È stato uno strano pomeriggio in cui mi sono tuffato nel lato oscuro. Anche un po ‘inquietante. Ma che ci ha rivelato un universo molto complesso e tentacolare.

Siamo consapevoli che stiamo creando una sorta di mostro e mi sento un po ‘in colpa per aver sacrificato uno dei nostri robot per una buona causa. DarkBot è una specie di Rogue One. Un Darth Vader che presto si rivolterà contro l’Imperatore …

Ci vediamo tra qualche settimana. Vi terrò regolarmente informati sull’evoluzione di questa esperienza collettiva e collaborativa. E lo stato mentale delle truppe, degli umani e dei robot!

Questo post è la quinta puntata di una serie sul progetto “Flint”, dove condivido la mia esperienza e i miei pensieri come allevatore di robot.

Puoi trovare i miei altri post sull’argomento qui:

Episodio 1 (la storia del progetto): “ I nostri robot e noi s”

Episodio 2 (realizzazione del primo robot): “ Come abbiamo creato e istruito Jeff, il robot dei media che parla dei media

Episodio 3: “ Il giorno in cui i robot ci distruggono (o no)

Episodio 4: “ Potresti innamorarti di un robot?

Puoi iscriverti a Flint qui .