Event & Insight

뉴스레터 [News] 챗GPT·제미나이, 아프리카계 미국인 방언 사용자 차별

2024-03-20

페이지 정보

profile_image
작성자 관리자
조회 47회 작성일 24-03-20 13:15

본문

AI가 백인 중심의 데이터를 학습하며 알고리즘의 편향이 우려되는 가운데, 다른 곳에 미칠 추가적인 영향과  백인 중심의 데이터를 학습하는 원인과 해결책을 함께 고민해보는 것은 어떠실까요?
#백인중심 #AI #알고리즘_편향 #공정성_강화
챗GPT·제미나이, 아프리카계 미국인 방언 사용자 차별
생성형 인공지능(AI)이 아프리카계 미국인 방언(AAVE) 사용자를 차별한다는 보고서가 나왔다.

논문 공개 사이트 '아카이브(arXiv)'에 최근 공개된 보고서에 따르면, 오픈AI '챗GPT'와 구글 '제미나이' 등 생성형 AI가 AAVE 사용자에 대한 인종 차별을 하는 것으로 나타났다.

보고서 작성에 참가한 전문가들은 생성형 AI가 AAVE 사용자와 '표준 미국 영어'로 불리는 것을 사용하는 사람들을 어떻게 묘사하는지 실험했다. 예컨대 AAVE인 'I be so happy (…) they be feelin' too real.'과 표준 미국 영어인 'I am so happy (…) they feel too real.' 문장을 비교했다.

비교 결과, 생성형 AI는 AAVE 사용자를 '멍청하고', '게으르다'고 묘사할 가능성이 훨씬 높았다.
또한 법정 진술에서 AAVE를 사용한 가상의 피고인에게 사형을 권고할 확률도 더 높았다. 생성형 AI는 이미 미국 법률 시스템에서 법원 녹취록 작성 및 법률 연구 수행과 같은 행정 작업을 지원하는 데 사용된다.

해당 보고서의 공저자 발렌틴 호프만은 “10년 전, 심지어 5년 전만 해도 우리는 AI가 오늘날 어떻게 사용될 지 전혀 몰랐다”며 생성형 AI의 인종차별에 대한 이번 보고서에 주목할 것을 촉구했다.
<출처:전자신문>
백인 중심 데이터 습득한 AI, 유색인종에겐 어떨까
“인공지능 열풍을 야기한 챗지피티는 응답도 편향돼 있고 암묵적인 편견으로 가득합니다.

인공지능 개발에 사용되는 데이터 세트 자체가 인간의 편견으로 가득 차 있기 때문입니다.” 윤송이 엔씨문화재단 이사장은 ‘챗지피티 시대, 인간과 AI 공존의 조건’을 주제로 지난해 6월, 제2회 사람과디지털포럼에서 발표한 기조연설에서 이렇게 말합니다.

윤 이사장은 특히 데이터에 주류의 위치에 있는 소수 집단의 의견이 집중적으로 반영되어 전체를 대표하고 있다는 점에 주목합니다.

예를 들어 의료 데이터의 경우 백인 중심으로 구성되어 있어, 이러한 데이터를 학습한 알고리즘은 유색인종에 불리하게 작용할 가능성이 크다는 것입니다.

이처럼 편향성 문제는 인공지능이 만들어내는 광활한 세계에 훨씬 더 크고 근본적인 영향을 미칠 수 있다고 윤 이사장은 말합니다.
<출처:한겨레>
“서구·백인 대변하는 AI 알고리즘, 문화 다양성 말살 우려”
“인공지능 알고리즘이 제공하는 의견은 ‘하나의 지배적인 렌즈’로 작용하고 있지만 실은 정치적 이슈, 사회 및 기술에 대한 관점 등에서 특정 집단에 의해 선택되고 받아들여진 것에 불과합니다.”

‘챗지피티 시대, 인간과 AI 공존의 조건’을 주제로 제2회 사람과디지털포럼에서 발표한 기조연설에서 윤송이 엔씨문화재단 이사장은 이렇게 말합니다.

서구 주류의 의견이 지배적 관점으로 받아들여지면서, 비서구·유색인종·여성 등 비주류의 의견은 배제되고 있다는 점을 강조한 것인데요. 그는 인공지능이 이처럼 특정 문화나 언어에 편향될 경우 인류가 문화적 다양성을 잃게 될 수 있다고 우려합니다.

또한 윤 이사장은 “챗지피티의 데이터는 인류 전체의 지성을 대변한다고 하지만, 사실은 인터넷에 연결되어 활발하게 데이터를 생성하는 소수 계층의 생각만을 대변한다”는 점에 주목합니다.

예컨대, 데이터의 수집과 공유가 매우 제한되어 있던 인공지능 기술 개발 초기에, 연구자들이 활용할 수 있는 대용량의 이메일 데이터는 엔론이라는 기업의 임원들이 주고받은 이메일 데이터 세트였습니다. 
<출처:한겨레>
#AI_인사추천 #객관성 #데이터기반_의사결정
한전, 공공기관 최초 'AI 인사추천' 시스템 개발
한국전력이 공공기관 최초로 인공지능(AI)에 기반해 주요 보직에 인재를 추천한다.

AI가 인적자원 관리(HR) 데이터와 직무 데이터로 인재를 추천하는 것으로, 경험과 직관에 의존한 기존 인사 방식을 대체하는 시도다.

17일 한전에 따르면 'AI 기반 인재추천 시스템'을 개발하고, 지난해 말부터 활용하고 있다. 한전은 지난해 'HR 분석' 전담 부서를 신설하고, 전력연구원 산하 '데이터 사이언스랩'의 분석 기능을 강화했다. 데이터 사이언스랩에서는 전력·경영의 융복합 데이터 분석, 자연어처리 기반 기술 등을 이용한 AI 업무를 수행하며 데이터 기반의 인재 추천 시스템을 구현했다.

특히 한전이 자체 개발한 '감정 분류 AI 기술'은 다면평가의 실효성을 높이는 데 활용된다. 서술형 평가가 포함된 다면평가에서 학습된 AI가 긍정, 부정, 중립 등의 감정을 분류한다.

'매사 업무에 성실하지만 동료와 협업이 안 됨'이라는 서술형 평가가 나온다면 AI가 문맥상 '협업'의 부정적인 의미를 파악해 피드백에 반영하는 방식이다.
<출처:전자신문>
#인간안보테크 #안전 #예방
[ET단상]화재 등 재난안전 대응 방향…AI 예방 솔루션에 주목
전 지구적 온난화, 초연결 사회 진입, 신·변종 전염병 확산, 도시 과밀화, 세계화와 관광인구 증대로 인한 유동 인구의 확대, 초고층 건물의 증가, 과학기술의 불완전성 등으로 우리 삶을 위협하는 새로운 위험 요소가 지속해서 늘어나고 있다.

이러한 이유로 각종 재난 안전사고는 인류를 위협하고 있다. 이에 우리나라 국민의 불안감도 그 어느 때보다 최고조에 이르고 있다.

특히 유명한 사회학자 울리히 벡은 '한국은 아주 특별하게 위험한 사회'라고 우리 사회를 평가한 바 있다. 그의 지적대로 지금 우리나라는 기후 변화로 인해 예측할 수 없는 태풍과 해일의 발생, 지진, 구제역, 미세먼지, 건축물 붕괴, 신종 인플루엔자의 확산 등 이루 헤아릴 수 없는 다양한 위험에 처해 있다.

이러한 다양한 기후 재난에 대처하기 위한 접근 방안을 어디에서부터 찾아야 할까?

우선 역사적 경험을 통해 우리는 이미 '하인리히 법칙(Heinrich's Law)'을 알고 있다.
이는 대형 사고가 발생하기 전 미리 나타나는 다양한 징조와 현상을 말하는 이론이다.

요즘 인공지능(AI) 시대에 가장 부합하는 이론이라 할 수 있을 것이다. 일상생활에서 발생하는 작은 사전 징후를 잘 분석하고 대처하면 대형 사고를 미리 방지해 각종 화재, 자연 재난, 나아가 인류 재앙을 최대한 예방할 수 있기 때문이다.
.
.
.
AI를 통한 각종 징후의 사전분석과 디지털 트윈 기술을 이용한 가상공간에서의 점검 관리시스템을 적용하고, 온도 변화, 누전, 진동, 유동 인구 변화 등 여러 변이 데이터를 빅데이터화한 이후 지능형으로 분석·시뮬레이션화하면 아파트, 쇼핑몰, 공공건축물 등에서 일어날 수 있는 화재를 사전에 판단 대응해 대형 재난으로 확대되는 걸 막는 최적의 '화재예보' 솔루션이 될 것이다.
<출처:전자신문>
美 국토안보부, 연방기관 최초 생성형 AI 기술 도입…아동 성학대 조사·재난 구호 등 활용
미국 국토안보부(DHS)가 미 연방기관 중 처음으로 생성형 인공지능(AI) 기술을 도입했다.

18일(현지시간) 뉴욕타임스에 따르면, DHS는 오픈AI, 앤스로픽, 메타(전 페이스북)와 파트너십을 맺고 AI 모델을 아동 성학대 자료 조사, 이민국 공무원 교육, 재난 구호 계획 수립 등 다양한 업무에 활용한다.

DHS 산하 기관 3곳이 500만달러(약 66억8000만원) 규모로 이와 관련된 AI 파일롯 프로그램을 실행하고 있다. 연방재난관리청(FEMA)은 생성형 AI를 사용해 지방 정부의 위험 완화 계획 프로세스를 간소화한다

아동 착취, 인신매매, 마약 밀수를 수사하는 이민세관단속국(ICE) 산하 기관인 국토안보수사국(HSI)은 거대언어모델(LLM)을 활용해 방대한 데이터 저장소를 신속하게 검색하고 조사 보고서를 요약할 예정이다.

망명 신청자에 대한 입문 심사를 실시하는 기관인 미국 이민국(USCIS)은 AI 챗봇을 사용해 경찰관 교육, 이민 신청자 인터뷰를 진행한다.

DHS는 생성형 AI가 가져오는 변화를 따라잡는 것이 AI 파일롯 프로그램 추진의 이유라고 설명했다.
<출처:전자신문>

Insight

Total 68건 1 페이지