Apa itu bias AI? [+Data]

Laporan Survei AI Status kami mengamati bahwa salah satu masalah utama yang dialami pemasar saat bekerja dengan AI generatif adalah caranya menjadi bias.

Dan pengusaha, spesialis penjualan kotor, dan orang-orang perusahaan konsumen melaporkan ragu-ragu untuk menggunakan aplikasi AI hanya karena mereka sering dapat membuat detail yang bias.

Jelas bahwa profesional bisnis takut AI menjadi bias, tetapi apa yang membuatnya bias di tempat pertama? Dalam postingan ini, kita akan membahas kemungkinan bahaya dalam menerapkan AI, contoh AI yang bias dalam kehidupan nyata, dan bagaimana masyarakat dapat mengurangi potensi kerusakan.

Apa itu bias AI?

Bias AI adalah gagasan bahwa algoritme pembelajaran peralatan dapat menjadi bias saat menjalankan tugas terprogramnya, seperti memeriksa fakta atau mengembangkan materi). AI biasanya bias dalam metode yang menjunjung tinggi keyakinan berbahaya, seperti stereotip ras dan gender.

Sesuai dengan Laporan Indeks Kecerdasan Buatan 2023, AI bias ketika membuat output yang meningkatkan dan melanggengkan stereotip yang merugikan tim tertentu. AI masuk akal ketika cenderung membuat prediksi atau keluaran yang benar-benar tidak mendiskriminasi atau mendukung kelompok unik mana pun.

Selain menjadi bias dalam prasangka dan keyakinan stereotip, AI juga bisa menjadi bias karena:

• Pengumpulan sampel, di mana pengetahuan yang digunakannya tidak mewakili populasi total, sehingga prediksi dan tipnya tidak dapat digeneralisasikan atau digunakan untuk tim yang ditinggalkan
• Pengukuran, tepatnya di mana proses pengumpulan pengetahuan bias, AI utama untuk membuat kesimpulan bias.

Bagaimana bias AI mencerminkan bias masyarakat?

AI bias terutama karena masyarakat bias.

Karena masyarakat modern bias, banyak informasi AI berisi bias dan prasangka masyarakat, jadi ia mempelajari bias ini dan memberikan hasil yang mendukungnya. Misalnya, generator grafis yang diminta untuk membangun citra seorang CEO mungkin dapat membuat citra pria kulit putih karena bias historis dalam pengangguran dalam pengetahuan yang berasal darinya.

Karena AI menjadi lebih umum, ketakutan di antara banyak orang adalah bahwa AI memiliki kemampuan untuk mengukur bias yang sudah ada di masyarakat yang berbahaya bagi banyak kelompok pria dan wanita yang berbeda.

Ilustrasi Bias AI

AI, Algorithmic, and Automation Incidents Controversies Repository (AIAAIC) mengatakan bahwa jumlah insiden dan kontroversi AI yang baru diklaim adalah 26 kali lebih baik pada tahun 2021 dibandingkan tahun 2012.

Pasokan Gambar

Mari kita bahas beberapa ilustrasi bias AI.

Biaya penerimaan pinjaman rumah adalah contoh bagus dari prasangka di AI . Algoritma telah ditemukan 40-80% jauh lebih mungkin untuk menyangkal debitur naungan karena informasi pinjaman sejarah secara tidak proporsional menunjukkan minoritas ditolak pinjaman dan alternatif moneter lainnya. Info historis mengajarkan AI untuk bias dengan hampir setiap aplikasi potensial yang didapatnya.

Ada juga peluang untuk bias dimensi sampel di bidang medis profesional. Katakanlah seorang praktisi kesehatan menggunakan AI untuk menilai fakta klien, mengungkap pola, dan menentukan saran perawatan. Jika dokter itu kebanyakan melihat klien kulit putih, tipnya tidak didasarkan pada sampel populasi konsultan dan mungkin tidak memenuhi kebutuhan khusus terkait kesehatan setiap orang.

Beberapa perusahaan memiliki algoritme yang menghasilkan pembuatan keputusan akhir yang bias seumur hidup atau telah membangun prospeknya jauh lebih jelas.

1. Algoritma Perekrutan Amazon

Amazon mengembangkan algoritme rekrutmen yang memenuhi syarat untuk data latar belakang pekerjaan selama sepuluh tahun. Pengetahuan tersebut mencerminkan tenaga kerja yang didominasi laki-laki, sehingga algoritme menjadi bias terhadap program dan menghukum resume dari perempuan atau resume apa pun yang menggunakan kata "perempuan".

2. Pemotongan Gambar Twitter

Tweet viral pada tahun 2020 menunjukkan bahwa algoritme Twitter lebih menyukai wajah Putih daripada wajah Hitam saat memotong gambar. Seorang pengguna kulit putih sering berbagi foto yang menampilkan wajahnya dan rekan kulit hitam serta wajah kulit hitam lainnya dalam gambar yang sama, dan foto itu terus-menerus dipotong untuk menunjukkan pengalamannya dalam pratinjau grafis.

Twitter mengakui bias algoritme dan menjelaskan, “Meskipun analisis kami hingga hari ini belum menunjukkan bias rasial atau gender, kami memahami bahwa cara kami memotong gambar secara mekanis berarti ada kemungkinan kerusakan. Kami seharusnya melakukan pekerjaan yang lebih baik dalam mengantisipasi kemungkinan ini ketika kami pertama kali mengembangkan dan menyiapkan produk atau layanan ini.”

3. Pengenalan Wajah Rasis Robot

Para peneliti beberapa waktu lalu melakukan penelitian meminta robot untuk memindai wajah orang dan mengkategorikannya ke dalam wadah unik berdasarkan karakteristiknya, dengan 3 wadah menjadi dokter, penjahat, dan ibu rumah tangga.

Robot itu bias dalam metodenya dan kebanyakan wanita ditentukan sebagai ibu rumah tangga, pria kulit hitam sebagai penjahat, pria Latino sebagai petugas kebersihan, dan wanita dari semua etnis cenderung tidak dipilih sebagai dokter medis.

4. Software Komputer Pengecekan Intel dan Classroom Technology

Aplikasi Intel and Classroom Technology's Course memiliki fitur yang menyaring wajah siswa untuk mendeteksi emosi saat mencari tahu. Banyak yang telah menyatakan norma-norma budaya yang berbeda dalam mengekspresikan emosi sebagai kemungkinan superior dari perasaan siswa yang salah diberi label.

Jika instruktur menggunakan label ini untuk mengobrol dengan siswa tentang tahap pekerjaan mereka dan mengetahuinya, siswa dapat dihukum atas perasaan yang sebenarnya tidak mereka tunjukkan.

Apa yang dapat dicapai untuk menangani bias AI?

Etika AI adalah topik hangat. Hal ini dapat dipahami karena bias AI telah ditunjukkan dalam kehidupan nyata dengan berbagai cara.

Selain menjadi bias, AI dapat menyebarkan informasi yang salah yang berbahaya, seperti deepfake, dan alat AI generatif bahkan dapat menghasilkan informasi dan fakta yang salah secara faktual.

Apa yang bisa dilakukan untuk lebih memahami AI dan menurunkan kemungkinan bias?

• Pengawasan manusia: Orang-orang saat ini dapat melihat output, mengevaluasi data, dan melakukan koreksi saat bias muncul. Misalnya, pemasar dapat memberikan perhatian khusus pada keluaran AI generatif sebelum bekerja dengannya dalam elemen periklanan untuk memastikannya adil.
• Menilai prospek bias: Beberapa kondisi penggunaan untuk AI memiliki prospek yang lebih baik untuk berprasangka dan merusak komunitas tertentu. Dalam situasi ini, orang dapat meluangkan waktu untuk mengevaluasi kemungkinan efek bias manufaktur AI mereka, seperti perusahaan perbankan yang menggunakan detail prasangka sejarah.
• Berinvestasi dalam etika AI: Salah satu cara paling penting untuk mengurangi bias AI adalah agar ada investasi finansial berkelanjutan ke dalam investigasi AI dan etika AI, sehingga orang dapat menyusun taktik konkret untuk menguranginya.
• Diversifikasi AI: Memiliki beragam pandangan dalam AI membantu membangun praktik yang tidak memihak saat orang membawa pengalaman hidup mereka sendiri. Area yang banyak dan konsultan memberikan lebih banyak kesempatan bagi orang-orang untuk menyadari potensi bias dan berurusan dengannya sebelum kerusakan terjadi.
• Akui bias manusia: Semua orang memiliki potensi bias, baik dari variasi dalam pengalaman hidup atau bias konfirmasi selama penelitian. Orang yang menggunakan AI dapat mengenali bias mereka untuk memastikan AI mereka tidak bias, seperti ilmuwan yang memastikan ukuran sampel mereka adalah konsultan.
• Memperjelas: Transparansi biasanya penting, terutama dengan sistem baru. Orang-orang saat ini dapat mengembangkan kepercayaan dan pemahaman dengan AI dengan membuatnya dikenali ketika mereka menggunakan AI, seperti menambahkan catatan di bawah laporan informasi yang dihasilkan AI.

Sangat mungkin untuk menggunakan AI secara bertanggung jawab.

AI dan ketertarikan pada AI terus meningkat, jadi cara terbaik untuk tetap berada di depan potensi bahaya adalah dengan tetap mengetahui bagaimana hal itu dapat melanggengkan bias yang tidak aman dan mengambil tindakan untuk memastikan penggunaan AI Anda tidak menambahkan bahan bakar tambahan ke dalamnya. perapian.

Ingin mengetahui lebih banyak tentang kecerdasan buatan? Uji jalan mencari tahu ini .