Facebook ligt onder vuur sinds 8 november, toen Donald Trump werd verkozen tot volgende president van de Verenigde Staten. Critici stellen dat het sociale netwerk toestond dat leugenachtige nieuwsberichten ongebreideld via Facebook konden worden verspreid.
De distributie van nepnieuws tijdens de verkiezingen nam zo’n hoge vlucht dat president Barack Obama sprak over Facebook als een “stofwolk vol nonsens“.
Facebook-topman Mark Zuckerberg toonde zich Oost-Indisch doof in zijn reactie op de kritiek, aldus hoofdredacteur Alyson Shontell van Business Insider in de Verenigde Staten.
Zuckerberg stelde dat nepnieuws een dermate klein percentage is van wat er op Facebook wordt gedeeld, dat het geen invloed kan hebben. Officieel heeft Facebook overigens wel beloofd om beter z’n best te doen. Het bedrijf stelt echter dat het technisch lastig is om echt nieuws en leugenberichten van elkaar te onderscheiden.
Hoe moeilijk is het om een algoritme te bouwen dat ‘waar’ van ‘onwaar’ kan scheiden?
Niet zo heel moeilijk.
Leugennieuwsdetector
Tijdens een 'hackathon' op de Princeton-universiteit maakten vier Amerikaanse studenten zo'n algoritme, als inbouwoptie voor de browser Chrome. Binnen 36 uur. Hun project heet: FiB: Stop living a lie.
De studenten zijn Nabanita De (tweedejaars masterstudent computerwetenschappen op de Universiteit van Massachusetts Amherst), Anant Goel (eerstjaars op Purdue University), Mark Craft (tweedejaars op de Universiteit van Illinois Urbana-Champaign) en Catherine Craft (tweedejaars op UIUC).
De tool van de studenten werkt als volgt, vertelt student De tegenover Business Insider:
"Elke post wordt geclassificeerd en beoordeeld als 'geverifieerd' of 'niet-geverifieerd'. Dit gebeurt op basis van kunstmatige intelligentie. Daarbij wordt gekeken naar alle relevante informatie, dus foto's van Twitter, pornografisch materiaal, foute links die door criminelen worden gemaakt en nieuwslinks die dubieus zijn."
"Bij links kijken we naar de reputatie van een website, we koppelen de links aan een database voor malware en phishing, doen zoekopdrachten via Google en Bing, beoordelen de betrouwbaarheid van de link en laten dat aan de gebruiker zien. In het geval van fotosnapshots, zoals bij Twitter, converteren we beeld naar tekst en checken de gebruikersnamen in de tweet om na te gaan of de huidige tweet vindbaar is in de geschiedenis van de Twitteraar."
De plugin voor de internetbrowser zorgt dat berichten een klein label krijgen, waarin staat of het bericht al dan niet is geverifieerd.
Het algoritme ontdekte onder meer dat onderstaand nieuwsbericht, waarin wordt gesteld dat wiet kanker kan genezen, niet klopt. Het verhaal werd dus aangeduid als "not verified".
Maar dit nieuwsbericht over de teleurstelling van de Simpsons over het feit dat ze de uitslag van de Amerikaanse verkiezingen goed hadden voorspeld, klopte wel. En kreeg het label "verified".
De studenten hebben hun toepassing openbaar gemaakt als een opensourceproject, zodat andere ontwikkelaars ermee aan de slag kunnen en ook aanpassingen kunnen doen.
Een plugin voor Google's browser Chrome die nepnieuws detecteert, is natuurlijk niet een afdoende oplossing voor Facebook. Idealiter verwijdert Facebook nepnieuws zelf en blijft het niet bij een klein labeltje dat mensen makkelijk over het hoofd zien en dat je speciaal in een browser moet installeren.
Maar de studenten tonen aan dat het mogelijk is om algoritmes te maken die met een redelijke mate van waarschijnlijkheid aangeven wat echt nieuws is en wat niet. Ook blijkt het mogelijk om dergelijke informatie zichtbaar te maken voor lezers, voordat ze ergens op klikken.
Facebook was overigens één van sponsors van de 'hackathon' waar de studenten aan meededen.
Sommige Facebook-medewerkers zouden inmiddels dermate gealarmeerd zijn door de huidige situatie, dat er een clubje binnen het bedrijf actief is geworden om uit te vinden hoe ze dit probleem kunnen oplossen, meldt BuzzFeed. Wellicht kunnen de studenten als inspiratiebron dienen.
