อัลกอริทึมของ Apple Card ถูกหน่วยงานด้านการเงินของมลรัฐนิวยอร์ก (New York State Department of Financial Services) เข้าสอบสวนจากกรณีที่อัลกอริทึมอนุมัติวงเงินบัตรให้ลูกค้าโดยมีประเด็นด้านเพศเข้ามาเกี่ยวข้อง

ประเด็นนี้เกิดจากทวีตของ David Heinemeier Hansson ผู้พัฒนา Ruby on Rails ที่ทวีตว่าตัวเขาได้รับวงเงิน Apple Card มากกว่าภรรยา 20 เท่า ทั้ง ๆ ที่แต่งงานมานาน ทำธุรกรรมต่าง ๆ ร่วมกัน แม้แต่ยื่นขอคืนภาษีก็ยื่นในนามคู่สมรส เช่นเดียวกับ Steve Wozniak ผู้ก่อตั้ง Apple ที่ได้รับวงเงินมากกว่าภรรยา 10 เท่านั้น ทั้งที่มีทรัพย์สินและบัตรเครดิตร่วมกัน

ภาพจาก Apple

ด้านโฆษกของ Goldman Sachs ธนาคารพาร์ทเนอร์ที่เป็นผู้ออกบัตร Apple Card ยืนยันว่าการอนุมัติวงเงิน ขึ้นอยู่กับความน่าเชื่อถือทางการเงินเป็นหลัก ไม่ได้มีปัจจัยด้านเพศ เชื้อชาติ อายุหรือแนวทางที่ผิดกฎหมายเข้ามาพิจารณาแน่นอน

หลัง DHH ทวีตประเด็นนี้ออกไป เขาทวีตต่อด้วยว่าอยู่ ๆ ภรรยาเขาก็ได้รับการปรับเครดิตวงเงินให้เท่ากับตัวเองแล้ว แต่มันไม่สามารถชดเชยข้อผิดพลาดและปัญหาที่เกิดกับอัลกอริทึมของ Apple Card ได้ นอกจากนี้ในเธรดทวีตดังกล่าวมีคนเข้ามาแบ่งปันประสบการณ์ในลักษณะเดียวกันเป็นจำนวนมากด้วย

นี่เป็นอีกหนึ่งกรณีของปัญหาอคติของอัลกอริทึม (Algorithmic Bias) ที่แม้ไม่มีใครรู้ว่าอัลกอริทึมทำงานยังไง ผลที่ออกมาควรจะเป็นกลาง แต่ในความเป็นจริงกลับมีความโน้มเอียงที่สะท้อนการเลือกปฏิบัติในสังคมที่เกิดขึ้นจริง

ที่มา: The New York Times

The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.

— DHH (@dhh) November 7, 2019