Microsoft, IBM และ Amazon อยู่ภายใต้แรงกดดันให้หยุดใช้ป้ายกำกับทางเพศ เช่น “ผู้ชาย” หรือ “ผู้หญิง” สำหรับการจดจำใบหน้าและบริการ AIGoogle ประกาศว่าเครื่องมือ AI จะหยุดเพิ่มแท็กการจำแนกเพศในช่วงกลางเดือนกุมภาพันธ์ แทนที่จะแท็กรูปภาพของผู้ที่มีคำที่เป็นกลาง เช่น “บุคคล”
Joy Buolamwini นักวิจัยที่พบว่าเครื่องมือ AI จำแนกเพศของผู้คนผิด กล่าวกับ Business Insider: “มีทางเลือก… ฉันขอแนะนำให้ทุกบริษัทตรวจสอบ
ฉลากระบุตัวตนที่พวกเขาใช้เป็นเครื่องบ่งชี้ทางประชากรอีกครั้ง”
ไปที่หน้าแรกของ Business Insider เพื่อดูเรื่องราวเพิ่มเติม
Microsoft, Amazon และ IBM อยู่ภายใต้แรงกดดันให้หยุดใช้ป้ายกำกับเกี่ยวกับเพศโดยอัตโนมัติ เช่น “ผู้ชาย” หรือ “ผู้หญิง” จากรูปภาพของผู้คน หลังจากที่ Google ประกาศในเดือนกุมภาพันธ์ว่าจะเลิกใช้แท็กดังกล่าว
ทั้งสี่บริษัทนำเสนอเครื่องมือปัญญาประดิษฐ์อันทรงพลังที่สามารถจำแนกวัตถุและบุคคลในภาพได้ เครื่องมือนี้สามารถอธิบายจุดสังเกตที่มีชื่อเสียง การแสดงออกทางสีหน้า โลโก้ และเพศได้หลากหลาย และมีการใช้งานมากมาย รวมถึงการควบคุมเนื้อหา การวิจัยทางวิทยาศาสตร์ และการยืนยันตัวตน
Google กล่าวว่าจะเลิกใช้ป้ายกำกับเพศจากบริการจัดหมวดหมู่รูปภาพ Cloud Vision API เมื่อสัปดาห์ที่แล้ว โดยบอกว่าเป็นไปไม่ได้ที่จะอนุมานเพศของใครบางคนตามลักษณะที่ปรากฏ และป้ายกำกับดังกล่าวอาจทำให้อคติรุนแรงขึ้น
ตอนนี้นักวิจัย AI ที่ช่วยทำให้เกิดการเปลี่ยนแปลงกล่าวว่า Rekognition ของ Amazon, Watson ของ IBM และการจดจำใบหน้า Azure ของ Microsoft ควรปฏิบัติตาม
Joy Buolamwini นักวิทยาศาสตร์คอมพิวเตอร์ที่ MIT และผู้เชี่ยวชาญด้าน AI บอกกับ Business Insider ว่า “การเคลื่อนไหวของ Google ส่งข้อความว่าตัวเลือกการออกแบบสามารถเปลี่ยนแปลงได้ ด้วยเทคโนโลยีทำให้ง่ายต่อการคิดว่าบางสิ่งไม่สามารถ
เปลี่ยนแปลงหรือหลีกเลี่ยงไม่ได้ นี่ไม่ใช่ ไม่จำเป็นต้องเป็นความจริง”
Buolamwini ได้รับการยกย่องว่ามีอิทธิพลโดยตรงต่อการตัดสินใจของ Google
งานวิจัยของเธอตีพิมพ์ในปี 2018แสดงให้เห็นว่าเครื่องมือ AI จาก Microsoft และ IBM มีแนวโน้มที่จะจำแนกเพศของใครบางคนผิดหากพวกเขาเป็นผู้หญิงผิวคล้ำ Buolamwini ตีพิมพ์งานวิจัยเพิ่มเติมในปี 2019 แสดงปัญหาที่คล้ายกันกับซอฟต์แวร์ Rekognition ของ Amazonซึ่งอเมซอนโต้แย้ง
Buolamwini กล่าวต่อ: “ฉันขอแนะนำให้ทุกบริษัทรวมถึงบริษัทที่เราตรวจสอบ (IBM, Microsoft, Amazon และอื่น ๆ) ตรวจสอบฉลากประจำตัวที่พวกเขาใช้เป็นเครื่องบ่งชี้ทางประชากรอีกครั้ง”
Sasha Costanza-Chock รองศาสตราจารย์ของ MIT กล่าวเสริมว่าบริษัทต่างๆ ควรพิจารณาแท็กการจัดหมวดหมู่สำหรับคนทั้งหมด
“แท็กการจัดหมวดหมู่ทั้งหมดของมนุษย์ควรเลือกใช้ ยินยอม และเพิกถอนได้” เธอบอกกับ Business Insider
โดยพื้นฐานแล้วจะเกี่ยวข้องกับการวางแท็กที่ระบุเชื้อชาติ ชนชั้น และความพิการของผู้คน
Costanza-Chock เสริมว่าการจำแนกเพศแบบ “ไบนารี” มีแนวโน้มที่จะทำร้ายคนข้ามเพศและผู้หญิงผิวคล้ำมากกว่า เนื่องจากพวกเขามีแนวโน้มที่จะถูกจัดประเภทผิดมากกว่า ตัวอย่างเช่น เธอชี้ไปที่คนขับ Uber ข้ามเพศถูกล็อคออกจากแอพ ridehailingเนื่องจากลักษณะทางกายภาพของพวกเขาไม่ตรงกับรูปถ่ายในแฟ้มอีกต่อไป
เมื่อถามถึงผู้ที่อาจเป็นนักวิจารณ์ที่อาจอ่านการตัดสินใจของ Google ว่าเป็นเรื่องการเมือง เธอกล่าวเสริมว่า: “ถ้ามีใครไม่เคยคิดถึงผลเชิงลบที่อาจเกิดขึ้นจากการจำแนกเพศโดยไม่ได้รับความยินยอม การเปลี่ยนแปลงนี้อาจให้โอกาสที่ดีสำหรับพวกเขาที่จะเรียนรู้เพิ่มเติมเกี่ยวกับสาเหตุและวิธีการที่สิ่งนี้ อาจเป็นอันตรายได้”
IBM ไม่ตอบสนองต่อคำร้องขอความคิดเห็น Microsoft ปฏิเสธที่จะแสดงความคิดเห็น
อเมซอนชี้ให้เห็นแนวทางของมันเกี่ยวกับการจำแนกเพศตาม Rekognition ซึ่งระบุว่า: “การทำนายไบนารีทางเพศ (ชาย/หญิง) ขึ้นอยู่กับลักษณะทางกายภาพของใบหน้าในภาพใดภาพหนึ่ง ไม่ได้ระบุอัตลักษณ์ทางเพศของบุคคล และคุณไม่ควรใช้ Amazon การยอมรับในการตัดสินใจดังกล่าว เราไม่แนะนำให้ใช้การทำนายแบบไบนารีของเพศในการตัดสินใจที่ส่งผลกระทบต่อสิทธิ์ ความเป็นส่วนตัว หรือการเข้าถึงบริการของแต่ละบุคคล”
credit : cubmasterchris.info jpjpwallet.net zakopanetours.net popporno.net voporlomundo.com aioproductions.net viteettroptard.com topiramateonlinetopamax.net tanecsopsom.com blisterama.info
