• William

YouTube heeft kritiek op de Chinese overheid verwijderd vanwege een 'AI fout'

De afgelopen weken hebben gebruikers gemerkt dat bepaalde Chinese uitdrukkingen automatisch zijn verwijderd uit YouTube-opmerkingen. Na ongebreidelde speculatie over waarom Google zou willen dat deze zinnen - die beide kritisch zijn ten opzichte van de Chinese regering - worden verboden, beweert het nu dat het een fout was door zijn machine learning-software.


Gebruikers merkten dat elke YouTube-opmerking met de zin "共匪" of "五毛" binnen enkele seconden na verzending zou worden verwijderd. Een van mijn collega's testte dit en ontdekte dat het waar was. De eerste is een belediging gericht tegen de Chinese communistische regering (het vertaalt zich als 'communistische bandiet', aldus activist Jennifer Zeng). Dit laatste is straattaal voor online burgers die zijn betaald om kritiek op de communistische partij af te leiden.


Zoals je zou verwachten, vermoedden gebruikers onmiddellijk dat er een bijbedoeling zou kunnen zijn dat Google de zin verbiedt. YouTube is verboden in China, dus waarom zou het moederbedrijf ervoor zorgen dat iemand de CCP zou bekritiseren? Deze specifieke zin veroorzaakte deze reactie al maanden, wat erg lang duurt voordat een fout blijft bestaan.


Misschien werd Google gevraagd om de kwestie te onderzoeken toen de mysterieuze verbanning van de zin werd opgemerkt door Oculus-oprichter Palmer Luckey. Hoe dan ook, er wordt er eindelijk over gesproken. En het beweert dat het de uitdrukking niet uit een verborgen sympathie voor de Chinese regering verbiedt, maar eerder uit een fout.


Volgens een verklaring aan TechCrunch zegt YouTube dat de verboden zin is toegevoegd aan de haatspraakfilters, die automatisch reacties met aanstootgevende inhoud verwijderen. Dat zou verklaren waarom het gebruik van de zin, zelfs op een positieve manier, onmiddellijk werd verwijderd.


De vraag is nu waarom die zin aan de filters is toegevoegd. Het enige dat Google zou zeggen, is dat het bedrijf meer vertrouwt op AI-gebaseerde moderatie omdat zijn werknemers niet op kantoor zijn dankzij de coronaviruspandemie. Een YouTube-blogbericht van maart voorspelt het probleem:


Machine learning helpt potentieel schadelijke inhoud te detecteren en stuurt deze vervolgens ter beoordeling naar menselijke recensenten. Als gevolg van de nieuwe maatregelen die we nemen, gaan we tijdelijk meer vertrouwen op technologie om te helpen bij een deel van het werk dat normaal door recensenten wordt gedaan. Dit betekent dat geautomatiseerde systemen beginnen met het verwijderen van inhoud zonder menselijke beoordeling, zodat we snel kunnen blijven handelen om gewelddadige inhoud te verwijderen en ons ecosysteem te beschermen, terwijl we op de werkplek zijn beveiligd.


Het zou niet de eerste keer zijn dat een groot technologiebedrijf dankzij het coronavirus problemen ondervindt met het modereren van machine learning. Facebook had een soortgelijk probleem toen zijn AI berichten blokkeerde over het maken van gezichtsmaskers.


YouTube beweert dat het de fout nog steeds onderzoekt. Het nodigt iedereen uit om 'vermoedelijke problemen te melden om fouten op te lossen en ons te helpen productverbeteringen door te voeren'.



4 views

ROUNDABOUT BV

Copyright 2020

* By signing up, you agree to our Terms of Use and to receive Wix emails & updates and acknowledge that you read our Privacy Policy. You also acknowledge that Wix uses cookies to give the best user experience.

Copyright 2019

Roundabout logo 2018.png