Amazon draait sollicitatierobot de nek om na discrimineren vrouwen
Amazon heeft een experiment met een sollicitatierobot stopgezet. Het systeem bleek namelijk niet zo van vrouwen te houden.
Ze wilden letterlijk dat het een robot zou worden die je 100 cv's kunt geven en die vervolgens de top vijf weer uitspuugt
De internetgigant begon in 2014 met het bouwen van een systeem dat cv's van kandidaten kon scannen, om zo de zoektocht naar talent te automatiseren. De nieuwe tool gebruikte kunstmatige intelligentie om kandidaten een score van één tot vijf toe te kennen. ,,Ze wilden letterlijk dat het een robot zou worden die je 100 cv's kunt geven en die vervolgens de top vijf weer uitspuugt'', vertelt één van de Amazonmedewerkers die betrokken was bij het experiment aan Reuters. ,,We zouden die vijf dan aannemen.''
Een jaar na de lancering ervan bleek echter dat de robot onderscheid maakte tussen mannen en vrouwen bij de selectie van kandidaten. De tool had namelijk geleerd welke kandidaten deze moest selecteren door alle cv's die het bedrijf sinds 2004 had gekregen te analyseren. De meeste daarvan kwamen van mannen, waardoor de sollicitatierobot leerde dat mannen de voorkeur zouden moeten krijgen. cv's met daarin het woord 'vrouwen' en ook afgestudeerden aan scholen speciaal voor vrouwen werden daardoor benadeeld.
Geen garantie
Na die ontdekking paste Amazon de tool aan, maar het werd nooit de zo gewilde hulp in het sollicitatieproces. Hoewel recruiters de aanbevelingen van het systeem meenamen, waren die nooit de enige reden om iemand uit te nodigen voor een gesprek. De aanpassingen bleken bovendien geen garantie dat het systeem nooit meer zou discrimineren. Om die reden besloot het bedrijf om uiteindelijk de stekker eruit te trekken.
John Jersin, adjunct-directeur van LinkedIn Talent Solutions had niet anders verwacht. ,,Ik zou een AI-systeem niet vertrouwen wanneer het zelfstandig beslist wie ik aan zou moeten nemen'', zo zei hij. ,,De technologie is er gewoon nog niet klaar voor.''
Discriminatie was overigens niet het enige probleem van de robot. Door problemen met de data werden ook regelmatig ongeschikte kandidaten aangeraden voor allerlei soorten banen. Die resultaten leken soms volledig willekeurig tot stand te zijn gekomen.
Ik zou een AI-systeem niet vertrouwen wanneer het zelfstandig beslist wie ik aan zou moeten nemen
Gratis onbeperkt toegang tot Showbytes? Dat kan!
Log in of maak een account aan en mis niks meer van de sterren.Lees Meer
-
PREMIUM
Habbo Hotel weigert Pim (23) na 10 jaar alsnog toegang: ‘Ze komen hun belofte niet na’
-
PREMIUM121
Aldi-stem Diederik Ebbinge gedumpt voor een ander, die niet bestaat: ‘Vervelende ontwikkeling’
Diederik Ebbinge, al bijna vier jaar dé stem achter de bekende Aldi-reclames, is door de supermarkt bij het grofvuil gezet. De Luizenmoeder-acteur uit Enschede blijkt te duur voor de discounter en wordt daarom vervangen door kunstmatige intelligentie: voor zover bekend een primeur in Nederland. ,,Dit is natuurlijk een teken aan de wand en een voorbode voor wat komen gaat”, waarschuwt hij ons. -
eigen tuin eerst
Met deze vergeten planten kun je ook zonder tuin tuinieren
Niet iedereen beschikt over een grote tuin. Wil je toch met je groene vingers aan de slag, denk dan eens aan deze vergeten plant die ooit zo populair was en veel geschilderd werd in de 17de eeuw. -
Nieuwe miljardenboetes dreigen voor Meta, Google en Apple, onderzoek naar overtredingen gestart
Apple, Google en Meta moeten vrezen voor nieuwe Europese miljardenboetes. De Europese Commissie is onderzoeken gestart om te kijken of Meta, Google en Apple zich wel aan de nieuwe internetregels van de Digital Markets Act (DMA) houden. Sinds begin deze maand wordt hun macht ingeperkt, maar het dagelijks bestuur van de Europese Unie (EU) vermoedt dat ze niet genoeg moeite hebben gedaan om daaraan te voldoen. -
PREMIUMNakamoto
Elon Musk, Bernie Madoff, drugscrimineel of iemand anders: wie is de mysterieuze uitvinder van bitcoin?
De waarde van bitcoin blijft maar stijgen, de dorst naar de digitale munt lijkt onstilbaar. Toch is nog steeds niet duidelijk wie de crypto heeft bedacht. Over de mysterieuze uitvinder doen de wildste geruchten de ronde. Wie is deze man, vrouw of groep mensen? Leeft hij nog, of is hij zijn wachtwoord kwijt, waardoor er mogelijk miljarden aan bitcoin verloren zijn?
-
PREMIUM
AI beslist steeds vaker mee over uw krediet of polis, hoe riskant is dat eigenlijk?
-
-
-
PREMIUM
Jessica vertaalde haar boek met ‘preuts’ ChatGPT: ‘Vijlt de scherpe randjes eraf’
Schrijfster Jessica de Jong heeft haar tweede maffiaroman Vrouw van eer in drie vreemde talen laten vertalen door ChatGPT. Volgens De Jong levert die stap haar alleen maar voordelen op: het is relatief goedkoop, fouten in de tekst kunnen eenvoudig worden gewijzigd en ze krijgt als onbekende auteur ‘een eerlijke kans’ in het buitenland. De club van professionele vertalers vindt het maar niks: ,,De lezer krijgt een beroerde vertaling voor zijn kiezen.” -
consumentenbond
130 steelstofzuigers getest en dit is de beste
Wat is de beste steelstofzuiger? En welke heeft de beste prijs-kwaliteitverhouding? De Consumentenbond geeft antwoord.
-
PREMIUM39
Lieve Debby: ‘Ik wil geen seksloos leven, ik ben bang dat ik het ergens anders moet zoeken’
-
PREMIUM
Stortvloed aan porno komt online op kinderen af: ‘Wees als ouder niet te naïef’
Ging vroeger op het schoolplein een enkel beduimeld seksblaadje rond, nu komen kinderen online overal porno tegen. Hoe kunnen ouders dealen met deze stortvloed aan seks? Experts geven uitleg. ,,Zeg gewoon: hier zie je een masturberende vrouw.” -
-
Update
Amerikaanse ban op TikTok dichterbij, Huis stemt in met plan gedwongen verkoop