AI 편향이란 무엇입니까? [+ 데이터]

우리의 AI 현황 조사 보고서에 따르면 제너레이티브 AI로 작업할 때 마케터가 경험하는 주요 문제 중 하나는 편향되는 수단입니다.

그리고 기업가, 총 판매 전문가, 소비자 회사 남성과 여성은 단순히 편향된 세부 정보를 만들 수 있기 때문에 AI 애플리케이션 사용을 주저한다고 보고합니다.

비즈니스 전문가들이 AI가 편향되는 것을 두려워하는 것은 분명하지만 초기 위치에서 무엇이 AI를 편향되게 만들 수 있습니까? 이 게시물에서는 AI 적용 시 피해 가능성, 진정한 일상 생활에서 AI가 편향된 사례, 사회가 예상되는 피해를 완화할 수 있는 방법을 검토합니다.

AI 편향이란 무엇입니까?

AI 편향은 알고리즘을 연구하는 장비가 사실을 조사하거나 자료를 개발하는 것과 같은 프로그래밍된 임무를 수행할 때 편향될 수 있다는 개념입니다. AI는 일반적으로 인종 및 성별 고정관념과 같은 해로운 신념을 지지하는 방법에 편향되어 있습니다.

2023년 인공 지능 지수 보고서에 따르면 AI는 특정 팀에 피해를 주는 고정관념을 강화하고 영속화하는 출력을 생성할 때 편향된 것입니다. AI는 고유한 그룹을 실제로 차별하거나 선호하지 않는 예측이나 결과를 만드는 경향이 있을 때 합리적입니다.

편견과 틀에 박힌 믿음에 편향되는 것 외에도 AI는 다음과 같은 이유로 편향될 수 있습니다.

• 활용하는 지식이 전체 모집단을 대표하지 않는 샘플 수집 , 따라서 예측 및 팁을 일반화하거나 누락된 팀에 사용할 수 없음
• 지식 수집 프로세스가 편향된 측정 , 정확히 AI가 편향된 결론을 내립니다.

AI 편향은 사회의 편향을 어떻게 반영합니까?

AI는 주로 사회가 편향되어 있기 때문에 편향되어 있습니다.

현대 사회는 편향되어 있기 때문에 AI가 자격을 갖춘 많은 정보에는 사회의 편향과 편견이 포함되어 있으므로 이러한 편향을 학습하고 이를 뒷받침하는 결과를 제공합니다. 예를 들어 CEO의 이미지를 구축하도록 요청받은 그래픽 생성기는 실현된 지식의 실업률에 대한 역사적 편견 때문에 백인 남성의 이미지를 만들 수 있습니다.

AI가 더 보편화됨에 따라 많은 사람들이 두려워하는 것은 이미 사회에 존재하는 편견을 확장할 수 있다는 것입니다.

AI 바이어스 삽화

AI, Algorithmic, and Automation Incidents Controversies Repository(AIAAIC)에 따르면 2021년에 새로 주장된 AI 사고 및 논쟁의 수가 2012년보다 26건 더 많았습니다.

그림 공급

AI 편향에 대한 몇 가지 예를 살펴보겠습니다.

주택 융자 승인 수수료는 AI에 대한 편견 의 환상적인 예입니다. 과거 대출 정보에 따르면 소수 민족이 대출 및 기타 금전적 대안이 거부되는 것을 불균형적으로 보여주기 때문에 알고리즘은 그늘진 채무자를 거부할 가능성이 40-80% 훨씬 더 높은 것으로 밝혀졌습니다. 과거 정보는 AI가 얻을 수 있는 거의 모든 잠재적 응용 프로그램에 편향되어 있다고 가르칩니다.

전문 의료 분야에서 표본 차원 편향의 가능성도 있습니다. 의사가 AI를 사용하여 고객 사실을 평가하고, 패턴을 발견하고, 치료 제안을 정의한다고 가정해 보겠습니다. 해당 의료 전문가가 주로 백인 고객을 보는 경우 팁은 컨설턴트 대중 샘플을 기반으로 하지 않으며 모든 사람의 고유한 건강 관련 요구 사항을 충족하지 못할 수 있습니다.

일부 회사는 실제 수명에 편향된 최종 의사 결정을 내리거나 이에 대한 전망을 훨씬 더 명확하게 만드는 알고리즘을 가지고 있습니다.

1. 아마존의 채용 알고리즘

Amazon은 10년 간의 경력 배경 정보에 적합한 채용 알고리즘을 개발했습니다. 그 지식은 남성이 지배하는 노동력을 반영했기 때문에 알고리즘은 프로그램에 편향되어 있고 여아의 이력서 또는 "여성"이라는 단어를 사용하는 모든 이력서에 대해 불이익을 주는 것으로 나타났습니다.

2. 트위터 이미지 자르기

2020년 바이럴 트윗은 트위터의 알고리즘이 사진을 자를 때 흑인보다 백인 얼굴을 선호한다는 것을 보여주었습니다. 한 백인 소비자는 자신과 흑인 동료 및 다른 흑인 얼굴과의 거래가 포함된 사진을 동일한 이미지로 자주 공유했으며 그래픽 미리 보기에서 자신의 경험을 보여주기 위해 지속적으로 잘렸습니다.

Twitter는 알고리즘의 편견을 인정하고 설명했습니다. 우리는 이 제품이나 서비스를 처음 개발하고 설정했을 때 이러한 가능성을 예상하는 훨씬 더 나은 직업을 끝냈어야 했습니다.”

3. 로봇의 인종 차별적 안면 인식

연구원들은 얼마 전에 로봇이 사람들의 얼굴을 스캔하고 특성에 따라 고유한 컨테이너로 분류하도록 요청하는 연구를 수행했습니다. 3개의 컨테이너가 의사, 범죄자 및 주부가 됩니다.

로봇은 그 방법에 편향되어 대부분의 경우 소녀를 주부로, 흑인 신사를 범죄자로, 라틴계 성인 남성을 관리인으로, 모든 민족의 여자를 의사로 뽑을 가능성이 훨씬 적습니다.

4. Intel 및 Classroom Technology의 Checking Computer 소프트웨어

Intel과 Classroom Technology의 Course 애플리케이션에는 감정을 감지하기 위해 학생의 얼굴을 가리는 속성이 있습니다. 많은 사람들이 감정을 표현하는 다양한 문화적 규범을 현재 잘못 분류되고 있는 학생들의 감정에 대한 우월한 가능성으로 언급했습니다.

강사가 이러한 레이블을 사용하여 작업 단계 및 친숙함에 대해 학습자와 대화하는 경우 학생은 실제로 표시하지 않는 감정에 대해 불이익을 받을 수 있습니다.

AI 편향을 해결하기 위해 무엇을 할 수 있습니까?

AI 윤리는 뜨거운 주제다. 이는 AI의 편향성이 다양한 방식으로 실존하는 모습을 보여왔기 때문에 이해할 수 있다.

편견을 넘어 AI는 딥페이크와 같은 유해한 잘못된 정보를 퍼뜨릴 수 있으며 생성 AI 도구는 사실적으로 잘못된 정보와 사실을 생성할 수도 있습니다.

AI를 더 잘 이해하고 가능한 편견을 낮추기 위해 완료할 수 있는 것은 무엇입니까?

• 사람의 감독: 오늘날 사람들은 결과를 보고, 데이터를 평가하고, 편견이 나타날 때 수정할 수 있습니다. 예를 들어 마케터는 광고 요소에서 작업하기 전에 생성 AI 출력에 특별한 주의를 기울여 공정성을 보장할 수 있습니다.
• 편견에 대한 전망 평가: AI의 일부 사용 조건은 특정 커뮤니티에 편견을 갖고 파괴적일 가능성이 더 높습니다. 이러한 상황에서 사람들은 역사적으로 편견이 있는 세부 사항을 활용하는 은행 설립과 같이 AI 제조 편향 효과의 가능성을 평가할 시간을 얻을 수 있습니다.
• AI 윤리에 대한 투자: AI 편견을 줄이는 가장 중요한 기술 중 하나는 AI 조사 및 AI 윤리에 대한 지속적인 재정적 투자를 통해 오늘날 사람들이 이를 줄이기 위한 구체적인 전술을 고안할 수 있도록 하는 것입니다.
• AI 다양화: AI에 대한 다양한 견해를 소유하면 개인이 자신의 생생한 만남을 가져올 때 공정한 관행을 구축할 수 있습니다. 수많은 컨설턴트 영역은 오늘날 사람들이 편견의 가능성을 깨닫고 피해가 발생하기 전에 제안할 수 있는 훨씬 더 많은 기회를 제공합니다.
• 인간의 편견을 인정하십시오: 모든 사람은 실제 경험의 차이 또는 조사 중 확증 편향 여부에 관계없이 편견을 가질 가능성이 있습니다. AI를 사용하는 개인은 자신의 AI가 편향되지 않았음을 확신하기 위해 자신의 편향을 인정할 수 있습니다. 마치 특정 샘플 차원을 획득한 과학자가 컨설턴트인 것처럼 말입니다.
• 명확하게 하기: 일반적으로 투명성은 특히 새로운 시스템에서 매우 중요합니다. 오늘날 사람들은 AI가 생성한 정보 보고서 아래에 메모를 추가하는 것처럼 기본적으로 AI를 사용할 때 인식되도록 생성함으로써 AI로 믿음과 이해를 발전시킬 수 있습니다.

AI를 책임감 있게 사용하는 것은 정말 가능합니다.

AI와 AI에 대한 관심은 계속해서 증가하고 있습니다. 따라서 해를 끼칠 수 있는 가능성을 주도하는 가장 좋은 방법은 안전하지 않은 편견을 영속화하고 동작을 획득하여 AI 사용이 추가 연료를 포함하지 않도록 하는 방법에 대해 잘 알고 있는 것입니다. 벽난로.

인공 지능에 대해 더 많이 알고 싶으십니까? 이 찾기 경로를 테스트하십시오 .