AI อคติคืออะไร? [+ ข้อมูล]

รายงานการสำรวจสถานะของ AI ของเราพบว่าหนึ่งในประเด็นหลักที่นักการตลาดประสบเมื่อทำงานกับ AI เชิงกำเนิดคือการมีอคติ

และผู้ประกอบการ ผู้เชี่ยวชาญด้านการขายขั้นต้น และบริษัทผู้บริโภคทั้งชายและหญิงรายงานว่าลังเลที่จะใช้แอปพลิเคชัน AI เพียงเพราะพวกเขามักจะสร้างรายละเอียดที่มีอคติได้

เห็นได้ชัดว่านักธุรกิจต่างหวาดกลัวว่า AI จะถูกลำเอียง แต่สิ่งใดที่สามารถทำให้ AI มีอคติได้ตั้งแต่แรกเริ่ม ในบทความนี้ เราจะตรวจสอบโอกาสที่จะเกิดอันตรายจากการใช้ AI ภาพประกอบของ AI ที่มีอคติในชีวิตประจำวันที่แท้จริง และวิธีที่สังคมสามารถลดความเสียหายที่อาจเกิดขึ้นได้

AI อคติคืออะไร?

ความลำเอียงของ AI คือแนวคิดที่ว่าอุปกรณ์ที่ศึกษาอัลกอริทึมสามารถมีความเอนเอียงได้เมื่อทำหน้าที่ที่ตั้งโปรแกรมไว้ เช่น ตรวจสอบข้อเท็จจริงหรือพัฒนาเนื้อหา) AI มักมีอคติในวิธีการที่สนับสนุนความเชื่อที่เป็นอันตราย เช่น การเหมารวมเรื่องเชื้อชาติและเพศ

ตามรายงานดัชนีปัญญาประดิษฐ์ปี 2023 AI มีอคติเมื่อสร้างผลลัพธ์ที่ส่งเสริมและขยายเวลาแบบแผนที่สร้างความเจ็บปวดให้กับทีมใดทีมหนึ่ง AI มีเหตุผลเมื่อมีแนวโน้มที่จะคาดการณ์หรือผลลัพธ์ที่ไม่เลือกปฏิบัติหรือเข้าข้างกลุ่มใดกลุ่มหนึ่ง

นอกเหนือจากการมีอคติและความเชื่อแบบตายตัวแล้ว AI ยังสามารถมีอคติได้ด้วยเหตุผลดังต่อไปนี้:

• การเก็บตัวอย่าง ซึ่งความรู้ที่ใช้ไม่ได้เป็นตัวแทนของประชากรทั้งหมด ดังนั้นการคาดการณ์และคำแนะนำจึงไม่สามารถสรุปหรือนำไปใช้กับทีมที่ละเว้นได้
• การวัด ตรงที่กระบวนการรวบรวมความรู้มีความลำเอียง AI หลักในการสร้างข้อสรุปที่มีอคติ

ความลำเอียงของ AI สะท้อนความลำเอียงของสังคมอย่างไร?

AI มีอคติเป็นส่วนใหญ่เพราะสังคมมีอคติ

เนื่องจากสังคมสมัยใหม่มีความลำเอียง ข้อมูลจำนวนมากที่ AI มีคุณสมบัติครบถ้วนจึงมีอคติและอคติของสังคม ดังนั้น AI จึงเรียนรู้อคติเหล่านี้และให้ผลลัพธ์ที่สนับสนุนอคติเหล่านั้น สำหรับภาพประกอบ เครื่องสร้างกราฟิกที่ขอให้สร้างภาพ CEO อาจสร้างภาพชายผิวขาวได้เนื่องจากความลำเอียงในอดีตในการว่างงานในความรู้ที่ได้รับมา

เนื่องจาก AI ส่งผลให้เป็นเรื่องธรรมดามากขึ้น สิ่งที่น่ากลัวในหมู่หลายๆ คนก็คือ มันมีความเป็นไปได้ที่จะขยายอคติที่มีอยู่แล้วในสังคมซึ่งเป็นอันตรายต่อกลุ่มคนที่แตกต่างกันทั้งชายและหญิง

ภาพประกอบอคติ AI

AI, Algorithmic, and Automation Incidents Controversies Repository (AIAAIC) ระบุว่า จำนวนเหตุการณ์และการโต้เถียงเกี่ยวกับ AI ที่เกิดขึ้นใหม่ในปี 2021 ดีกว่าปี 2012 ถึง 26 ครั้ง

จัดหารูปภาพ

ให้เราไปดูภาพประกอบของ AI ที่มีอคติมากเกินไป

ค่าธรรมเนียมการรับสินเชื่อบ้านเป็นตัวอย่างที่ยอดเยี่ยมของ อคติใน AI อัลกอริทึมพบว่า 40-80% มีแนวโน้มที่จะปฏิเสธลูกหนี้ที่มีร่มเงาเนื่องจากข้อมูลการให้กู้ยืมในอดีตแสดงให้เห็นอย่างไม่เป็นสัดส่วนว่าชนกลุ่มน้อยกลายเป็นผู้ถูกปฏิเสธเงินกู้และทางเลือกทางการเงินอื่น ๆ ข้อมูลในอดีตสอนให้ AI มีอคติกับทุกแอปพลิเคชันที่เป็นไปได้

นอกจากนี้ยังมีโอกาสสำหรับความเอนเอียงของขนาดตัวอย่างในสาขาวิชาชีพทางการแพทย์ สมมติว่าผู้ประกอบโรคศิลปะใช้ AI เพื่อประเมินข้อเท็จจริงของลูกค้า เปิดเผยรูปแบบ และกำหนดคำแนะนำในการดูแล หากแพทย์ผู้นั้นเห็นลูกค้าผิวขาวเป็นส่วนใหญ่ คำแนะนำจะไม่อิงตามกลุ่มตัวอย่างที่เป็นที่ปรึกษา และอาจไม่ตอบสนองความต้องการด้านสุขภาพที่แตกต่างกันของทุกคน

บริษัทบางแห่งมีอัลกอริทึมที่ส่งผลให้เกิดการตัดสินใจขั้นสุดท้ายที่มีอคติในชีวิตจริงหรือสร้างสิ่งที่คาดหวังให้ชัดเจนยิ่งขึ้น

1. อัลกอริทึมการสรรหาของ Amazon

Amazon พัฒนาอัลกอริทึมการสรรหาที่มีคุณสมบัติตามข้อมูลพื้นฐานการทำงานเป็นเวลาสิบปี ความรู้ดังกล่าวสะท้อนให้เห็นแรงงานชายเป็นใหญ่ ดังนั้นอัลกอริทึมจึงตระหนักว่ามีอคติกับโปรแกรมและลงโทษเรซูเม่จากเด็กผู้หญิง หรือเรซูเม่ใดๆ ที่ใช้คำว่า "ผู้หญิง('s)"

2. การครอบตัดรูปภาพ Twitter

ทวีตแบบไวรัลในปี 2020 แสดงให้เห็นว่าอัลกอริทึมของ Twitter ชื่นชอบใบหน้าสีขาวมากกว่าสีดำเมื่อครอบตัดรูปภาพ ผู้บริโภคที่เป็นคนผิวขาวมักจะแชร์รูปภาพที่มีข้อตกลงของเขาและของเพื่อนร่วมงานที่เป็นคนผิวดำและคนผิวดำคนอื่นๆ ในภาพเดียวกัน และภาพนั้นจะถูกครอบตัดอย่างต่อเนื่องเพื่อนำเสนอประสบการณ์ของเขาในการแสดงตัวอย่างกราฟิก

Twitter ยอมรับความลำเอียงของอัลกอริทึมและอธิบายว่า "แม้ว่าการวิเคราะห์ของเราในปัจจุบันจะไม่ได้แสดงให้เห็นถึงอคติทางเชื้อชาติหรือเพศ แต่เราเข้าใจว่าวิธีที่เราครอบตัดรูปภาพโดยอัตโนมัติบ่งบอกว่ามีความเป็นไปได้ที่จะเกิดความเสียหาย เราควรจะเสร็จสิ้นการทำงานที่ดีขึ้นมากในการคาดการณ์ความเป็นไปได้นี้เมื่อเราได้เริ่มพัฒนาและตั้งค่าผลิตภัณฑ์หรือบริการนี้เป็นครั้งแรก”

3. การจดจำใบหน้าชนชั้นของหุ่นยนต์

ไม่นานมานี้ นักวิจัยได้ทำการศึกษาโดยขอให้หุ่นยนต์สแกนใบหน้าของผู้คนและจัดหมวดหมู่เป็นภาชนะเฉพาะตามลักษณะของมัน โดยภาชนะ 3 อันกลายเป็นแพทย์ อาชญากร และแม่บ้าน

หุ่นยนต์มีความลำเอียงในวิธีการของมัน และส่วนใหญ่มักจะกำหนดให้เด็กผู้หญิงเป็นแม่บ้าน สุภาพบุรุษผิวดำเป็นอาชญากร ผู้ชายที่เป็นผู้ใหญ่ชาวลาตินเป็นภารโรง และสาวจากทุกเชื้อชาติมีโอกาสน้อยมากที่จะได้รับเลือกให้เป็นแพทย์

4. ซอฟต์แวร์ตรวจสอบคอมพิวเตอร์ของ Intel และ Classroom Technology

แอปพลิเคชันหลักสูตรของ Intel และ Classroom Technology มีคุณสมบัติที่คัดกรองใบหน้าของนักเรียนเพื่อตรวจจับอารมณ์แม้ว่าจะค้นพบ หลายคนได้ระบุบรรทัดฐานทางวัฒนธรรมที่แตกต่างกันในการแสดงอารมณ์ว่ามีความเป็นไปได้สูงที่ความรู้สึกของนักเรียนจะถูกติดฉลากผิด

หากผู้สอนใช้ป้ายกำกับเหล่านี้เพื่อสนทนากับผู้เรียนเกี่ยวกับขั้นตอนการทำงานและทำความคุ้นเคย นักเรียนอาจถูกลงโทษเนื่องจากความรู้สึกที่ไม่ได้แสดงออกมาจริงๆ

สิ่งที่สามารถทำได้เพื่อจัดการกับอคติของ AI

จริยธรรมของ AI เป็นเรื่องที่ร้อนแรง สิ่งนี้สามารถเข้าใจได้ด้วยเหตุผลที่ว่าความลำเอียงของ AI นั้นแสดงให้เห็นจริงในวิธีการที่หลากหลาย

นอกเหนือจากการมีอคติแล้ว AI ยังสามารถเปิดโปงข้อมูลที่ผิดที่เป็นอันตราย เช่น ข้อมูลเท็จ และเครื่องมือ AI เชิงสร้างสรรค์สามารถสร้างข้อมูลและข้อเท็จจริงที่ไม่ถูกต้องตามความเป็นจริงได้

สิ่งใดที่สามารถทำให้เสร็จได้เพื่อให้เข้าใจ AI ได้มากขึ้นและลดอคติที่เป็นไปได้

• การกำกับดูแลโดยมนุษย์: ผู้คนในปัจจุบันสามารถดูผลลัพธ์ ประเมินข้อมูล และทำการแก้ไขเมื่อมีการแสดงอคติ ตัวอย่างเช่น นักการตลาดสามารถให้ความสนใจเป็นพิเศษกับผลลัพธ์ AI เชิงสร้างสรรค์ก่อนที่จะทำงานร่วมกับพวกเขาในองค์ประกอบการโฆษณาเพื่อให้มั่นใจว่ามีความยุติธรรม
• ประเมินความเป็นไปได้ที่จะมีอคติ: เงื่อนไขการใช้งานบางอย่างสำหรับ AI มีแนวโน้มที่ดีกว่าสำหรับการมีอคติและทำลายชุมชนบางแห่ง ในกรณีนี้ บุคคลสามารถใช้เวลาในการประเมินความเป็นไปได้ของผลกระทบจากการผลิต AI ของตน เช่น สถานประกอบการธนาคารที่ใช้รายละเอียดที่มีอคติในอดีต
• การลงทุนในจริยธรรมของ AI: หนึ่งในเทคนิคที่สำคัญที่สุดในการลดอคติของ AI คือต้องมีการลงทุนทางการเงินอย่างต่อเนื่องในการตรวจสอบ AI และจริยธรรมของ AI ดังนั้นผู้คนในปัจจุบันจึงสามารถกำหนดกลยุทธ์ที่เป็นรูปธรรมเพื่อลดอคติดังกล่าวได้
• AI ที่หลากหลาย: การมีมุมมองที่หลากหลายใน AI ช่วยสร้างแนวทางปฏิบัติที่เป็นกลางในขณะที่แต่ละคนนำประสบการณ์ชีวิตของตัวเองมาเผชิญหน้า พื้นที่ให้คำปรึกษาจำนวนมากมอบโอกาสที่มากขึ้นสำหรับผู้คนในปัจจุบันในการตระหนักถึงศักยภาพของอคติและเสนอให้ก่อนที่จะเกิดอันตราย
• รับทราบอคติของมนุษย์: ทุกคนมีโอกาสที่จะมีอคติไม่ว่าจะมาจากความแปรปรวนในประสบการณ์ที่มีชีวิตหรือการยืนยันอคติในระหว่างการสอบสวน บุคคลที่ใช้ AI สามารถรับทราบอคติของตนได้เพื่อให้แน่ใจว่า AI ของตนไม่มีอคติ เช่นเดียวกับนักวิทยาศาสตร์ที่ได้รับข้อมูลตัวอย่างบางส่วนเป็นที่ปรึกษา
• ทำความเข้าใจ: โดยปกติแล้วความโปร่งใสเป็นสิ่งสำคัญ โดยเฉพาะอย่างยิ่งกับระบบใหม่ๆ ผู้คนในปัจจุบันสามารถพัฒนาความเชื่อและทำความเข้าใจกับ AI โดยสร้างให้เป็นที่รู้จักโดยทั่วไปเมื่อพวกเขาใช้ AI เช่น เพิ่มหมายเหตุใต้รายงานข้อมูลที่สร้างขึ้นโดย AI

เป็นไปได้มากที่จะใช้ AI อย่างมีความรับผิดชอบ

AI และความหลงใหลใน AI นั้นเพิ่มสูงขึ้นเท่านั้น ดังนั้นวิธีที่ดีที่สุดในการเป็นผู้นำของสิ่งที่อาจเป็นอันตรายได้คือการคงความรู้ไว้เสมอว่าสามารถขยายเวลาอคติที่ไม่ปลอดภัยและรับการเคลื่อนไหวได้อย่างไร เพื่อให้แน่ใจว่าการใช้ AI ของคุณจะไม่เติมเชื้อเพลิงเพิ่มเติมให้กับ เตาผิง.

ต้องการค้นพบเพิ่มเติมเกี่ยวกับปัญญาประดิษฐ์หรือไม่? ทดสอบ เส้นทาง การค้นหา นี้