AI önyargısı nedir? [+ Veri]

Yapay Zekanın Durumu Anket Raporumuz, pazarlamacıların üretken yapay zeka ile çalışırken karşılaştıkları en önemli sorunlardan birinin, yapay zekanın önyargılı olması olduğunu gözlemledi.

Ve girişimciler, brüt satış uzmanları ve tüketici şirketi erkek ve kadınları, genellikle önyargılı ayrıntılar oluşturabildikleri için AI uygulamalarını kullanmakta tereddüt ettiklerini bildiriyorlar.

İş profesyonellerinin yapay zekanın önyargılı hale gelmesinden korktukları açıktır, ancak onu başlangıçtaki konumda ne önyargılı hale getirebilir? Bu derlemede, AI uygulamasında zarar verme olasılığını, AI'nın gerçek günlük yaşamda önyargılı olduğunu ve toplumun olası hasarı nasıl azaltabileceğini inceleyeceğiz.

AI önyargısı nedir?

Yapay zeka ön yargısı, ekipmanı inceleyen algoritmaların, gerçekleri incelemek veya materyal geliştirmek gibi programlanmış görevlerini yerine getirirken yanlı olabileceği fikridir). AI genellikle ırk ve cinsiyet klişeleri gibi zararlı inançları destekleyen yöntemlerde önyargılıdır.

Yapay Zeka Endeksi Raporu 2023'e göre yapay zeka, belirli takımlara zarar veren klişeleri güçlendiren ve sürdüren çıktılar yaptığında taraflıdır. AI, herhangi bir benzersiz grubu gerçekten ayırt etmeyen veya desteklemeyen tahminler veya çıktılar yapma eğiliminde olduğunda mantıklıdır.

Önyargı ve basmakalıp inançlarda önyargılı olmaya ek olarak, yapay zeka aşağıdaki nedenlerle de önyargılı olabilir:

• Kullandığı bilgilerin toplam popülasyonu temsil etmediği, bu nedenle tahminlerinin ve ipuçlarının genelleştirilemediği veya dışarıda bırakılan ekiplere kullanılamadığı örnek toplama
• Tam olarak bilgi toplama sürecinin önyargılı olduğu yerlerde ölçüm , AI'nın önyargılı sonuçlar çıkarmasına neden olur.

AI önyargısı toplumun önyargısını nasıl yansıtır?

AI, esas olarak toplum önyargılı olduğu için önyargılıdır.

Modern toplum önyargılı olduğundan, AI'nın nitelikli olduğu birçok bilgi toplumun önyargılarını ve önyargılarını içerir, bu nedenle bu önyargıları öğrenir ve onları destekleyen sonuçlar sağlar. Örnek olarak, bir CEO'nun imajını oluşturması istenen bir grafik oluşturucu, elde ettiği bilgideki işsizlik konusundaki tarihi önyargı nedeniyle muhtemelen beyaz erkeklerin resimlerini yapabilir.

Yapay zeka daha yaygın hale geldikçe, pek çoğu arasındaki korku, toplumda zaten mevcut olan ve birçok farklı erkek ve kadın ekibine zarar veren önyargıları ölçeklendirmenin mümkün olmasıdır.

AI Önyargı Resimleri

AI, Algoritmik ve Otomasyon Olayları Tartışmaları Deposu (AIAAIC), yeni iddia edilen AI olaylarının ve tartışmalarının sayısının 2021'de 2012'ye göre 26 kat daha fazla olduğunu söylüyor.

Resim Kaynağı

AI önyargısının bazı örneklerini aşalım.

Ev kredisi kabul ücretleri, yapay zekadaki önyargının harika bir örneğidir. Algoritmaların gölge borçlularını reddetme olasılığının %40-80 çok daha yüksek olduğu bulundu çünkü tarihsel borç verme bilgileri orantısız bir şekilde azınlıkların kredileri ve diğer parasal alternatifleri reddedildiğini gösteriyor. Tarihsel bilgi, AI'ya aldığı hemen hemen her potansiyel uygulamada önyargılı olmayı öğretir.

Profesyonel tıp alanlarında da örneklem boyutları yanlılığı olasılığı vardır. Diyelim ki bir sağlık pratisyeni, müşteri gerçeklerini değerlendirmek, kalıpları ortaya çıkarmak ve bakım önerilerini tanımlamak için yapay zeka kullanıyor. Bu tıp uzmanı çoğunlukla Beyaz müşterileri görüyorsa, ipuçları bir danışman halk örneğine dayanmaz ve herkesin sağlıkla ilgili kendine özgü gereksinimlerini karşılamayabilir.

Bazı firmalar, gerçek ömür boyu önyargılı nihai karar vermeyle sonuçlanan algoritmalara sahiptir veya bunun için geleceği çok daha açık bir şekilde oluşturmuştur.

1. Amazon'un İşe Alım Algoritması

Amazon, on birkaç yıllık iş geçmişi bilgisine dayanan bir işe alım algoritması geliştirdi. Bilgi, erkek egemen bir işgücünü yansıtıyordu, bu nedenle algoritmanın programlara karşı önyargılı olduğu fark edildi ve kızlardan gelen özgeçmişleri veya "kadın(lar)" kelimesini kullanan tüm özgeçmişleri cezalandırdı.

2. Twitter Görüntü Kırpma

2020'de viral bir tweet, Twitter'ın algoritmasının resimleri kırparken Siyah türlere göre Beyaz yüzleri tercih ettiğini gösterdi. Beyaz bir tüketici, kendisinin ve bir Siyah iş arkadaşının ve diğer Siyah yüzlerin anlaşmasını gösteren fotoğrafları sık sık aynı görüntüde paylaştı ve bu fotoğraflar, deneyimlerini grafik ön izlemelerde sunmak için sürekli olarak kırpıldı.

Twitter, algoritmanın yanlılığını kabul etti ve şu açıklamayı yaptı: "Bugüne kadar yaptığımız analizler ırksal veya toplumsal cinsiyet yanlılığını göstermese de, fotoğrafları mekanik olarak kırpma şeklimizin olası bir hasar anlamına geldiğini anlıyoruz. Bu ürünü veya hizmeti ilk geliştirip kurarken, bu olasılığı tahmin etme işini çok daha iyi bitirmeliydik.”

3. Robotun Irkçı Yüz Tanıma

Araştırmacılar kısa bir süre önce robotlardan insanların yüzlerini taramasını ve özelliklerine göre onları benzersiz kaplara ayırmasını isteyen bir çalışma yaptı ve 3 kap doktor, suçlu ve ev hanımı oldu.

Robotik, yönteminde önyargılıydı ve çoğu zaman kızları ev hanımı olarak, Siyah beyleri suçlu olarak, Latin yetişkin erkekleri kapıcı olarak belirledi ve tüm etnik kökenlerden kızların tıp doktoru olarak seçilme olasılığı çok daha düşüktü.

4. Intel ve Classroom Technology'nin Kontrol Bilgisayarı yazılımı

Intel ve Classroom Technology'nin Kurs uygulaması, öğrenmesine rağmen duyguları algılamak için öğrencilerin yüzlerini tarayan bir özelliğe sahiptir. Pek çok kişi, duygu ifade etmenin farklı kültürel normlarının, öğrencilerin duygularının şu anda yanlış etiketlenmesinin daha yüksek bir olasılık olduğunu belirtti.

Eğitmenler, öğrencilerle çalışma aşamaları ve aşina oldukları hakkında sohbet etmek için bu etiketleri kullanırsa, öğrenciler gerçekten sergilemedikleri duygular nedeniyle cezalandırılabilirler.

AI yanlılığının üstesinden gelmek için neler başarılabilir?

AI etiği sıcak bir konudur. Bu, AI'nın önyargısının birçok farklı yolla gerçek varoluşta gösterilmesi nedeniyle anlaşılabilir.

Yapay zeka, önyargılı olmanın ötesinde, derin sahteler gibi zararlı yanlış bilgileri ortaya çıkarabilir ve üretken yapay zeka araçları, olgusal olarak yanlış bilgi ve gerçekler bile üretebilir.

Yapay zekayı daha iyi kavramak ve olası önyargıyı azaltmak için neler tamamlanabilir?

• İnsan gözetimi: Günümüzde insanlar, önyargı sergilendiğinde çıktıları izleyebilir, verileri değerlendirebilir ve düzeltmeler yapabilir. Örneğin, pazarlamacılar, adil olduklarından emin olmak için reklam öğelerinde onlarla çalışmadan önce üretici yapay zeka çıktılarına özellikle dikkat edebilirler.
• Önyargı olasılığını değerlendirin: Yapay zeka için bazı kullanım koşullarının, belirli topluluklar için önyargılı ve yıkıcı olma olasılığı daha yüksektir. Bu durumda, kişiler, tarihsel olarak önyargılı ayrıntıları kullanan bankacılık kuruluşları gibi yapay zekalarının önyargılı etkiler üretme olasılığını değerlendirmek için zaman kazanabilirler.
• Yapay zeka etiğine yatırım yapmak: Yapay zeka yanlılığını azaltmak için en kritik tekniklerden biri, yapay zeka araştırmasına ve yapay zeka etiğine sürekli finansal yatırım yapılmasıdır, böylece insanlar bugün bunu azaltmak için somut taktikler geliştirebilir.
• Yapay Zekayı Çeşitlendirmek: Yapay Zeka konusunda farklı görüşlere sahip olmak, bireyler kendi yaşanmış deneyimlerini getirirken tarafsız uygulamalar oluşturmaya yardımcı olur. Çok sayıda ve danışma alanı, bugün insanlara önyargı potansiyelini fark etmeleri ve zarar görmeden önce teklif etmeleri için çok daha fazla şans sunuyor.
• İnsan önyargısını kabul edin: Yaşanan deneyimdeki bir varyanstan veya araştırma sırasında doğrulama yanlılığından kaynaklanıp kaynaklanmadığına bakılmaksızın, tüm insanlar önyargı olasılığına sahiptir. Yapay zeka kullanan bireyler, yapay zekalarının önyargılı olmadığından emin olmak için önyargılarını kabul edebilirler, tıpkı bilim adamlarının örneklem boyutlarının danışman olduğundan emin olması gibi.
• Açıklığa kavuşturmak: Şeffaflık, özellikle yeni sistemlerde normalde çok önemlidir. Günümüzde insanlar, yapay zeka tarafından oluşturulan bir bilgi raporunun altına bir not eklemek gibi, temel olarak yapay zekayı kullandıklarında tanınır hale getirerek yapay zeka ile inanç ve kavrayış geliştirebilirler.

AI'yı sorumlu bir şekilde kullanmak gerçekten çok mümkün.

Yapay zeka ve yapay zekadaki çekicilik yalnızca artıyor, bu nedenle olası zararlara öncülük etmenin en iyi yolu, güvenli olmayan önyargıları nasıl sürdürebileceği konusunda bilgili kalmak ve yapay zeka kullanımınızın daha fazla yakıt içermediğinden emin olmak için hareket elde etmektir. şömine.

Yapay zeka hakkında çok daha fazlasını keşfetmek ister misiniz? Bu bulma yolunu test edin .