Zijn computers seksistisch?

Gender bias, genderneutraliteit, het zijn onderwerpen waar je op Twitter heel eenvoudig kunt scoren. En daarmee ook onderwerpen waar ik me normaal gesproken heel erg ver van hou. Ik heb er wel een mening over, maar voel niet de behoefte die online te delen.

Waarom dan tóch aandacht voor de tweet van Diane Kim? Nou, omdat hij iets zichtbaar maakt waar je waarschijnlijk niet zo snel bij stil staat: bij het vertalen van zinnen kan het voor komen dat systemen als Google Translate, keuzes maken die wij als seksistisch beschouwen. Het voorbeeld dat Diane laat zien is de vertaling van de zin “Hij is een babysitter” en “Zij is een dokter” vanuit het Engels naar het Turks en terug naar het Engels. Google Translate laat dan over “Zij is een babysitter” en “Hij is een dokter”.  Oeps.

Als je naar de screenshot hierboven kijkt, dan zie je dat “he” en “she” vanuit het Engels naar het Turks beiden naar “O” vertaald worden. Dat betekent dat Google Translate bij het terug vertalen van Turks naar Engels geen enkele aanwijzing heeft wat het geslacht zou moeten zijn. Nou kent het Engels ook het gebruik van “they” in enkelvoud waarbij het geslacht niet vastgesteld is. Dus het was absoluut mogelijk geweest om de vertaling correct(er) te maken.

Is Google Translate dan seksistisch? Tja, dat hangt waarschijnlijk een beetje van je definitie af. Het systeem erachter “leert” hoe vertalingen gemaakt moeten worden op basis van bestaande teksten. Het systeem “weet” niet dat wij het als seksistisch beschouwen dat bij een dokter het mannelijke geslacht gekozen wordt en bij babysitter het vrouwelijke geslacht. Dat maakt aanpassen ook ingewikkeld. Interessant in de reacties op de tweet is dat er niet alleen gemopperd wordt, maar ook verwezen wordt naar reeds bestaande initiatieven, zoals dit bericht. Een ding is zeker, we zijn er nog lang niet en we zullen er bewust van moeten zijn dat dit soort systemen het risico lopen alle vooroordelen die wij nu hebben in zich “op te nemen”. Signaleren van stap 1.