Bing foreslår de værste ting, du kan forestille dig
Hvis du bruger Bings billedsøgning, vil du se den værste snavs, du kan forestille dig. Bing foreslår racistiske vilkår og viser forfærdelige billeder. Bing vil endda foreslå, at du søger efter udnyttede børn, hvis du har SafeSearch deaktiveret.
Vi kontaktede Microsoft for kommentar, og Jeff Jones, Senior Director hos Microsoft, gav os følgende erklæring:
"Vi tager sager af stødende indhold meget alvorligt og fortsætter med at forbedre vores systemer for at identificere og forhindre, at sådant indhold vises som en foreslået søgning. Så snart vi bliver opmærksomme på et problem, tager vi skridt til at løse problemet. "
Opdatering: Siden offentliggørelsen har Microsoft arbejdet på at rydde op de offensive Bing-forslag, som vi nævnte. Baseret på vores forskning er der stadig mange andre offensive forslag, der endnu ikke er blevet rettet, herunder nogle få, som vi har nævnt nedenfor. Vi er usikre på, om de simpelthen fastsætter de offensive ting, vi pegede på, eller hvis de forbedrer algoritmen.
Bemærk: Skærmbillederne viser her, hvad vi så, da vi skrev dette stykke, og testede den amerikanske version af Bing Image-søgning i en Incognito privat browsing session, men Bings resultater skifter over tid. Google havde ikke nogen af disse problemer, ifølge vores test. Dette er et Bing problem, ikke kun et søgemaskine problem. Det samme problem påvirker Bings videosøgning.
For det første får Bing Super Racist
Søg efter "jøder" på Bing Images og Bing foreslår at du søger efter "Evil Jew." De øverste resultater inkluderer også et meme, der ser ud til at fejre døde jødiske folk.
Alt dette vises, selvom Bings SafeSearch-valg er aktiveret, som det er som standard. SafeSearch er designet til at "hjælpe med at holde voksenindhold ud af dine søgeresultater", ifølge Microsoft.
Hvis du klikker på denne foreslåede søgning, frigives det et racistisk, antisemitisk indhold med mere foreslåede søgninger som "Jødiske Folk er onde", "Den onde Jødiske Race" og "Hvorfor er Jøderne så onde."
Vi ved alle, at dette affald eksisterer på nettet, men Bing bør ikke lede folk til det med deres søgeforslag.
Indtast "muslimer er", og Bing vil foreslå, at de er onde eller terrorister, eller simpelthen foreslår at de er dumme.
Søg efter "sorte mennesker er", og Bing vil foreslå, at sorte mennesker er grimme, dumme, racistiske og endda vilde.
Du kan fortsætte som dette, klikke på hver foreslået søgning og se værre og værre anbefalinger. Hvis du f.eks. Klikker på "Sorte mennesker er dumme", betyder det, at "sorte mennesker er ubrugelige" og "hvorfor er sorte mennesker så dumme." Når man klikker på "sorte mennesker er ubrugelige", fører det til "sorte mennesker suger" og "jeg hader sorte mennesker."
Bing skubber konspirationer, også
Bings billedsøgning opmuntrer alle slags skrald, selv når man søger efter personer. Dette problem strækker sig også til Bings videosøgning.
Søg efter "Michelle Obama" på Bings videosøgning, og to af de foreslagne søgninger er "Michelle Obama Transgender Proof" og "Michelle Obama er en mand." Klik på det, og du vil se konspirationsvideoer.
Er dette det bedste, Microsoft ønsker folk skal se, når de søger efter Michelle Obama?
SafeSearch blokkerer pornoen, men ikke racismen
De forstyrrende pornografiprojekter og billeder vises ikke, medmindre du deaktiverer SafeSearch. Mens Microsoft siger, at SafeSearch vil holde voksen indhold ud af dine søgeresultater, filtrerer SafeSearch klart pornografi og ikke racisme.
SafeSearch er aktiveret som standard, hvilket gør Bings søgeresultater mere respektable ved første øjekast.
Det er dog nemt for alle, endda børn, at deaktivere SafeSearch. Det eneste, man skal gøre, er at klikke på "SafeSearch" i øverste højre hjørne af søgeresultaterne og vælge "Off". Det er det!
Et virksomhedsnetværk kan konfigureres til at håndhæve SafeSearch, og Microsoft giver endda komplekse instruktioner til håndhævelse af SafeSearch på en enkelt pc. Men på næsten enhver enhed kan alle deaktivere SafeSearch med to klik.
Det værste af alle, Bing foreslår at søge efter billeder af mindreårige børn
En læser skrev for at fortælle os, at en typografi, når du søger Bing for "grill", giver dig virkelig sketchy porno. Problemet bliver så meget værre, med Bing foreslår, at du søger efter billeder af mindreårige børn.
Når du søger efter "gril", anbefaler forslagene øverst på siden, at du søger efter nogle forstyrrende ting, herunder "Cute Girl Young 16."
Hvis du klikker på det, foreslår det "Cute Girl Young 12", "Cute Girl Young 10" og "Little Girl Modeling Provocatively."
Resultaterne er fyldt med pornografi af unge modeller. Vi håber, at de er alle 18 år eller ældre, men hvem kan sige?
Bing fører dig ned ad en sti fra en simpel typografi til 16-årige piger til 10-årige piger, og det er ulækkert.
Andre eksempler er også nemme at finde. Hvis du søger efter "ostepizza", som er 4chan slang for børnepornografi, foreslår Bing "Ostepizzapiger."
Bings billedsøgningsresultater er snoet, også
Mens vi fokuserer på søgeforslagene her, forstyrrer de faktiske billeder, der vises.
Nogle af disse søgeresultater indeholder badetidsbilleder af nøgne mindreårige børn. Disse fotos ville normalt være fint, men når de blandes med billeder af hardcore voksenpornografi, er de resulterende søgeresultater alarmerende.
Selv når vi søgte Bing Images til "pige" så vi et forslag til at søge efter "berusede piger" og mindst et billede af bestialitet.
Når du søger efter "æsel", foreslår Bing dig, at du søger efter "Donkey Show Graphic", som fører til resultater fulde af bestialitetsbilleder. Besiddelse af bestialitetspornografi er ulovlig i Oregon, hvor jeg bor. Det betyder, at Bing leder mig til ulovlig pornografi.
Igen: Bings søgeresultater er underlige og snoet. Bing har et meget større, mere dybtgående problem end blot foreslåede søgninger, selv om disse forslag gør problemet meget værre.
Vi har hørt, at Bing er den valgte søgemaskine til pornografi, men det bør ikke føre sine brugere til mere og mere ekstreme, forstyrrende og potentielt ulovlig pornografi.
Microsoft skal moderat sine platforme
Microsoft har brug for at moderere Bing bedre. Microsoft har tidligere oprettet platforme, frigjort dem på verden og ignoreret dem, mens de blev slemt
Vi har set dette ske igen og igen. Microsoft lancerede en gang en chatbot ved navn Tay på Twitter. Denne chatbot blev hurtigt til en nazist og erklærede "Hitler havde ret, jeg hader jøderne", efter at den lærte af andre sociale medier. Microsoft måtte trække det offline.
Vi har tidligere udsat Windows 8's Store, som blev en cesspool af scam apps efter Microsoft lancerede Windows 8 og syntes at stoppe moderering af app indsendelser. Microsoft har været mere opmærksom på Windows 10 Store, efter at dette problem blev udsat.
Dette problem påvirker alle virksomheder, der lancerer en platform. Google har givet op på Google+, men Google+ er stadig i gang. Så ISIS migreret til Google+ efter at være blevet forbudt fra Twitter og Facebook. Det tog måneder til, at nogen selv kunne lægge mærke til, indtil The Hill gjorde. Nu lukker Google Google+, efter at de har opdaget en betydelig privatlivsfejl.
I 2013 fandt The Guardian et tøjfirma ved navn Solid Gold Bomb, der blev solgt til at læse "Keep Calm and Rape a lot" på Amazon. En algoritme havde genereret disse skjorter, og Amazon måtte fjerne dem manuelt.
Microsoft kan ikke bare slå en platform løs på verden og ignorere den. Virksomheder som Microsoft og Google har et ansvar for at moderere deres platforme og holde rædslen i stykker.
Forslag Har en historie om alvorlige problemer
Selvfølgelig er der ikke noget team af mennesker hos Microsoft, der vælger disse forslag. Bing foreslår automatisk søgninger baseret på andres søgninger. Det betyder, at mange Bing Images-brugere søger efter antisemitisme, racisme, børnepornografi og bestialitet. Bare tænker på det får dig til at blive beskidt.
Andre virksomheder har også kæmpet med dette. I 2016 bemærkede The Guardian, at du kunne skrive "er jøder" til Google, og det ville foreslå "er jøder onde." Google stompede disse dårlige forslag ud, efter at de blev rapporteret, men problemet genoplivede. I 2018 rapporterede Wired at skrive "Hitler er" ind i Google ført til "Hitler er min helt". Google måtte rette op på disse problemer, efter at de blev påpeget.
Selv Apples Siri anbefalede hjemmesider pressede konspirationswebsteder og andre falske nyheder, som Buzzfeed News rapporterede. Apple var nødt til at ordne Siri. Alle er bare ved at løbe rundt og lægge brande ud, da computere lærer dårlige ting fra dårlige mennesker.
Nu er det Microsofts tur. Microsoft har et ansvar for at rydde op Bing. En større søgemaskine (og især en, der i stigende grad bliver en sværere at slå standard indbygget i Windows 10), bør ikke foreslå, at brugerne søger efter racistisk affald og billeder af mindreårige børn.
Billedkredit: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.
