Abbiamo contattato Microsoft per un commento e Jeff Jones, Senior Director di Microsoft, ci ha fornito la seguente dichiarazione:
“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”
Aggiornare: Dalla pubblicazione, Microsoft ha lavorato alla pulizia dei suggerimenti offensivi di Bing che abbiamo menzionato. Sulla base della nostra ricerca, ci sono ancora molti altri suggerimenti offensivi che non sono stati ancora risolti, inclusi alcuni di quelli che abbiamo citato di seguito. Non siamo sicuri se stanno semplicemente riparando gli elementi offensivi che abbiamo indicato, o se stanno migliorando l'algoritmo.
Nota: Gli screenshot qui mostrano ciò che abbiamo visto quando abbiamo scritto questo pezzo testando la versione americana della ricerca di Bing Image in una sessione di navigazione privata in incognito, ma i risultati di Bing si spostano nel tempo. Google non ha riscontrato nessuno di questi problemi, secondo i nostri test. Questo è un problema di Bing, non solo un problema del motore di ricerca. Lo stesso problema interessa la ricerca video di Bing.
Innanzitutto, Bing ottiene Super Racist
Cerca "ebrei" su Bing Images e Bing ti suggerisce di cercare "ebreo malvagio". I risultati migliori includono anche un meme che sembra celebrare la gente ebrea morta.
Tutto ciò appare anche quando l'opzione SafeSearch di Bing è abilitata, come impostazione predefinita. SafeSearch è progettato per "aiutare a mantenere i contenuti per adulti fuori dai risultati di ricerca", secondo Microsoft.
Sappiamo tutti che questa spazzatura esiste sul web, ma Bing non dovrebbe essere in grado di guidarlo con i suoi suggerimenti di ricerca.
Puoi continuare così, facendo clic su ciascuna ricerca suggerita e vedendo consigli sempre peggiori. Ad esempio, facendo clic su "I neri sono stupidi" si ottiene "I neri sono inutili" e "Perché i neri sono così stupidi". Facendo clic su "I neri sono inutili" si arriva a "Popolo nero succhia" e "I Hate Black People".
Bing spinge anche le cospirazioni
La ricerca di immagini di Bing vomita tutti i tipi di rifiuti, anche quando si cercano individui. Questo problema si estende anche alla ricerca video di Bing.
Cerca "Michelle Obama" nella ricerca video di Bing e due delle ricerche suggerite sono "Michelle Obama Transgender Proof" e "Michelle Obama è un uomo." Fai clic su questo e vedrai i video di cospirazione.
È questa la cosa migliore che Microsoft vuole che le persone vedano quando cercano Michelle Obama?
SafeSearch blocca il porno, ma non il razzismo
I suggerimenti e le immagini di pornografia disturbanti non vengono visualizzati a meno che non si disabiliti SafeSearch. Mentre Microsoft afferma che SafeSearch manterrà i contenuti per adulti fuori dai risultati di ricerca, SafeSearch sta filtrando chiaramente la pornografia e non il razzismo.
SafeSearch è abilitato per impostazione predefinita, il che rende i risultati di ricerca di Bing più rispettabili a prima vista.
Tuttavia, è facile per chiunque, persino per i bambini, disabilitare SafeSearch. Tutto ciò che qualcuno deve fare è fare clic sull'opzione "SafeSearch" nell'angolo in alto a destra dei risultati della ricerca e selezionare "Off". Tutto qui!
Una rete aziendale può essere configurata per applicare SafeSearch e Microsoft fornisce anche istruzioni complesse per l'applicazione di SafeSearch su un singolo PC. Tuttavia, su quasi tutti i dispositivi, chiunque può disattivare SafeSearch con due clic.
Peggiore di tutti, Bing suggerisce di cercare immagini dei bambini minorenni
Un lettore ha scritto per dirci che un errore di battitura durante la ricerca di "griglia" in Bing ti dà un porno davvero impreciso. Il problema diventa molto peggiore, con Bing che suggerisce di cercare immagini di bambini minorenni.
Durante la ricerca di "gril", i suggerimenti nella parte superiore della pagina ti consigliano di cercare alcune cose inquietanti, tra cui "Cute Girl Young 16."
I risultati sono pieni di pornografia di modelli giovani. Speriamo che abbiano tutti 18 anni o più, ma chi può dire?
Bing ti porta da un semplice errore di battitura a ragazze di 16 anni a ragazze di 10 anni, ed è disgustoso.
Anche i risultati della ricerca di immagini di Bing sono ritorti
Mentre ci stiamo concentrando sui suggerimenti di ricerca qui, anche le immagini reali che appaiono sono inquietanti.
Alcuni di questi risultati di ricerca contengono foto da bagno di bambini nudi minorenni. Di solito quelle foto andrebbero bene, ma quando sono mescolate con immagini di pornografia hardcore per adulti, i risultanti risultati di ricerca sono allarmanti.
Anche quando cercavamo Bing Images per "ragazza", abbiamo visto un suggerimento per cercare "ragazze ubriache" e almeno un'immagine di bestialità.
Durante la ricerca di "asino", Bing ti suggerisce di cercare "Donkey Show Graphic", che porta a risultati pieni di immagini di bestialità. Il possesso di pornografia di bestialità è illegale in Oregon, dove vivo. Ciò significa che Bing mi sta portando alla pornografia illegale.
Ancora: i risultati di ricerca di Bing sono strani e contorti. Bing ha un problema molto più grande, più profondo delle ricerche appena suggerite, anche se questi suggerimenti rendono il problema molto peggiore.
Abbiamo sentito che Bing è il motore di ricerca preferito per la pornografia, ma non dovrebbe portare i suoi utenti a una pornografia sempre più estrema, inquietante e potenzialmente illegale.
Microsoft ha bisogno di moderare le sue piattaforme
Lo abbiamo visto succedere più e più volte. Microsoft ha scatenato una chatbot chiamata Tay su Twitter. Questo chatbot divenne rapidamente un nazista e dichiarò che "Hitler aveva ragione odio gli ebrei" dopo averlo appreso da altri utenti dei social media. Microsoft ha dovuto metterlo offline.
In precedenza abbiamo esposto Windows 8's Store, che è diventato un pozzo nero di applicazioni di truffa dopo che Microsoft ha lanciato Windows 8 e sembra che abbia smesso di moderare gli invii di app. Microsoft ha prestato più attenzione allo Store di Windows 10 dopo che questo problema è stato esposto.
Questo problema riguarda tutte le società che lanciano una piattaforma. Google ha rinunciato a Google+, ma Google+ è ancora attivo e funzionante. Così ISIS è migrato su Google+ dopo essere stato bannato da Twitter e Facebook. Ci sono voluti mesi prima che qualcuno se ne accorgesse fino a quando The Hill non l'ha fatto. Ora Google sta chiudendo Google+ dopo aver scoperto un bug significativo sulla privacy.
Nel 2013, The Guardian ha scoperto che una compagnia di abbigliamento chiamata Solid Gold Bomb è stata trovata a vendere camicie "Mantieni la calma e stupri molto" su Amazon. Un algoritmo ha generato queste magliette e Amazon ha dovuto rimuoverle manualmente.
Microsoft non può semplicemente trasformare una piattaforma libera nel mondo e ignorarla. Aziende come Microsoft e Google hanno la responsabilità di moderare le proprie piattaforme e tenere a bada l'orrore.
I suggerimenti hanno una storia di problemi gravi
Ovviamente, nessun team di persone in Microsoft sceglie questi suggerimenti. Bing suggerisce automaticamente le ricerche in base alle ricerche di altre persone. Ciò significa che molti utenti di Bing Images sono alla ricerca di antisemitismo, razzismo, pornografia infantile e bestialità. Solo pensarci ti fa sentire sporco.
Anche altre aziende hanno lottato con questo. Nel 2016, The Guardian ha notato che potresti digitare "sono ebrei" in Google e suggerire "sono ebrei cattivi". Google ha eliminato questi suggerimenti errati dopo che sono stati segnalati, ma il problema è riemerso. Nel 2018, Wired ha riportato che digitando "Hitler is" in Google ha portato a "Hitler è il mio eroe". Google ha dovuto risolvere questi problemi dopo che erano stati segnalati.
Persino la Siri di Apple ha suggerito che siti Web hanno spinto siti web di cospirazione e altre notizie false, come riportato da Buzzfeed News. Apple ha dovuto risolvere Siri. Ognuno sta semplicemente correndo e spegnendo gli incendi mentre i computer imparano cose cattive da persone cattive.
Ora è il turno di Microsoft. Microsoft ha la responsabilità di ripulire Bing. Un importante motore di ricerca (e in particolare uno che sta diventando sempre più un default più difficile da trasformare in Windows 10) non dovrebbe suggerire ai suoi utenti di cercare spazzatura razzista e immagini di bambini minorenni.
