logo
자유주제

'혐오 논란' 이루다 사태 재발 막자..교육부, AI 윤리원칙 마련

울트라맨8

Lv 116

22.08.10

view_cnt

653

교육부가 최근 기초학력 진단 등 교육 현장에서 활용도가 높아지는 인공지능(AI) 기술에 대한 '도덕적 규범'을 마련했다. 지난해 1월 성희롱과 차별·혐오 논란이 있던 AI '이루다' 논란과 같은 일을 사전에 막기 위해 학생들의 안전을 보장해야 한다는 등의 내용이 담겼다. 교육부는 AI 기술을 교육 현장에 활용하거나 관련 프로그램을 개발할 때 지켜야 할 내용을 담은 '교육분야 인공지능 윤리원칙'을 10일 공개했다. 올해 초 시안을 발표한 후 공청회와 전문가 간담회, 유네스코(UNESCO·유엔 교육과학문화기구) 등 국제기구 의견 조회를 거쳐 그 내용을 최종 확정했다. 내용은 '사림의 성장을 지원하는 인공지능'이라는 대원칙에 근거한 10가지 세부 원칙으로 구성됐다. 주요한 세부 원칙을 살펴보면 '인간 성장의 잠재성을 이끌어낸다'거나 '교육공동체의 연대와 협력을 강화한다'와 같이 선언적인 문구로 만들어졌다. '인간 성장의 잠재성을 이끌어낸다'는 원칙을 예로 들면 AI 기술을 활용할 때 인간의 기본권을 보장할 수 있도록 노력해야 한다는 식이다. 예컨대 학업중단 예측 시스템을 만들 때 고정된 점수가 아닌 '저위험~고위험'과 같은 표현을 사용하는 식으로 제작할 수 있다. 평가를 받는 학생의 개선 가능성을 존중해야 한다는 원칙을 살리는 것이다. '교육당사자의 안전을 보장한다'는 원칙도 눈길을 끈다. 교육분야 AI가 지닌 잠재적 위험을 방지하고 실효성 있는 피해 구제를 위해 책임주체를 명확히 설정해야 한다는 내용을 담고 있다. 이는 AI가 학습한 데이터에서 불건전·편향 등의 문제가 발생하지 않도록 해야 한다는 취지다. 지난해 스타트업 스캐터랩이 개발한 '이루다'가 이런 이유로 편견과 혐오 발언, 성적 대화 등 논란을 빚었다. 또 AI 활용에 명분이 있어도 사생활을 침해하지 않아야 한다는 내용의 '데이터를 합목적적으로 활용하고 프라이버시를 보호한다'는 등을 원칙에 담았다.
'혐오 논란' 이루다 사태 재발 막자..교육부, AI 윤리원칙 마련

'혐오 논란' 이루다 사태 재발 막자..교육부, AI 윤리원칙 마련

사이트 방문

댓글

0

아직 댓글이 없습니다. 가장 먼저 댓글을 남겨보세요
자유주제

5대 은행, 꼬박꼬박 이자갚는 저신용자 신용대출 원금 감면

성실하게 이자를 내는 저신용자 대출 고객의 상환 부담을 줄여주는 개인신용대출 원금 감면 프로그램이 5대 은행으로 확대된다. 일정 금리 이상의 고금리 이자를 깎아주고, 감면된 이자금액으로 대출원금을 자동 상환해 주는 방식이다. 은행권은 금리 상승기 취약차주 지원을 위한 정부의 금융 민생안정 대책에 적극 보조를 맞추는 한편, 올해에도 1조원 이상의 사회공헌사업

울트라맨8|22.08.10
like-count0
commnet-count0
view-count868
22.08.10
자유주제

"코로나대출 9월 이후에도 만기연장·상환유예..원금도 감면해준다"

은행권이 고물가·고유가·고금리 시대를 맞아 고통 받고있는 취약차주를 돕기 위해 9월 종료를 앞둔 코로나19 대출지원조치가 끝나더라도 자체적인 금융 지원에 나선다. 5대 시중은행은 저신용·성실이자 납부고객의 부담을 덜어주기 위해 고금리 이자를 감면하고 감면된 이자금액으로 대출원금을 상환하는 프로그램을 업계 전사적으로 시행한다. 자본잠식, 폐업, 체납 등 부

울트라맨8|22.08.10
like-count0
commnet-count0
view-count857
22.08.10
자유주제

대법원은 차라리 제조업 도급을 금지하라

최근 대법원은 제철소에서 크레인 운전 등의 업무를 수행하던 협력업체 근로자들이 원청업체의 파견근로자라고 판단하였다(대법원 2022. 7. 28. 선고 2021다221638). 대법원은 기존 대법원 판결(2015. 2. 26. 선고 2010다106436)이 제시한 파견과 도급의 판단 기준을 다시 한번 제시하면서, 원청업체의 제품 생산과정과 조업체계가 작업표

울트라맨8|22.08.10
like-count0
commnet-count0
view-count897
22.08.10
자유주제

"대환 프로그램, 소상공인 가계대출은 대상서 제외"

정부는 코로나19 피해 소상공인·자영업자 저금리 대환 프로그램 대상에서 이들의 개인신용대출을 제외키로 했다. 개인사업자 특성상 가계대출을 통한 사업자금 마련을 부정할 수 없지만, 주택이나 자동차 구입 등 대출이 다른 목적과 섞여 구분이 어렵다는 이유에서다. 다만 화물차 등 사업목적이 명확한 것은 가계대출로 취급됐더라도 대상에 포함한다. 금융위원회는 10일

울트라맨8|22.08.10
like-count0
commnet-count0
view-count883
22.08.10
자유주제

"기업 부담 줄인다" 36년 만에 확 좁힌 총수 친족범위

공정거래위원회가 1986년 이후 가장 큰 폭으로 동일인(총수) 친족범위를 줄이는 등 대기업 부담을 완화하기로 했다. 총수의 친족범위에 포함되면 특수관계인에 해당해 주식소유 현황 등 지정자료를 매년 공정위에 제출해야 한다. 또 사외이사가 개별적으로 가지고 있는 회사까지 기업집단의 계열사로 포함토록 하는 공정거래법 시행령도 개정한다. 36년 만이다. ━ 총수

울트라맨8|22.08.10
like-count0
commnet-count0
view-count659
22.08.10
자유주제

대기업 동일인 '친족' 6→4촌 축소..'사실혼'도 포함

대기업 집단 내 동일인의 친족 범위가 6촌에서 4촌으로 좁아지는 대신 자녀가 있는 사실혼 배우자도 친족에 포함된다. 사외이사가 지배하는 회사는 원칙적으로 계열사에서 제외된다. 공정거래위원회(공정위)는 11일부터 다음달 20일까지 이같은 내용의 '공정거래법 시행령' 개정안을 입법예고한다고 10일 밝혔다. 현행 시행령은 대기업집단의 특수관계인에 포함되는 동

울트라맨8|22.08.10
like-count0
commnet-count0
view-count811
22.08.10
자유주제

검찰, '박철민 돈다발 ' 장영하 변호사 구속영장 불청구

검찰이 공직선거법상 허위사실 유포 등 혐의로 체포된 장영하 변호사에 대해 구속영장을 청구하지 않기로 했습니다. 서울중앙지검은 증거인멸과 도주우려가 없다고 판단해 경찰이 장 변호사에 대해 신청한 구속영장을 불청구하기로 결정했습니다. 앞서 서울경찰청 반부패공공범죄수사대는 그제(8일) 이재명 의원의 조폭 연루설을 제기한 장영한 변호사를 허위사실공표와 명예훼손

울트라맨8|22.08.10
like-count0
commnet-count0
view-count668
22.08.10
자유주제

러, 헤르손 점령 후 인터넷부터 차단..디지털 검열로 현지화 시도

러시아가 남부 요충지 헤르손 점령 후 외부로 접속할 수 있는 인터넷망부터 차단하는 것으로 우크라이나 국민의 정보 접근권을 제한해왔다고 미국 뉴욕타임스(NYT)가 9일(현지시간) 보도했다. NYT에 따르면 러시아는 우크라이나 침공 일주일 여만인 지난 3월 초 남부 요충지 헤르손을 완전 점령했다. 몇 주 후 러시아 군은 헤르손 지역의 인터넷 서비스 통제권 확

울트라맨8|22.08.10
like-count0
commnet-count0
view-count1,200
22.08.10
자유주제

"살려주세요"..경찰, 독거노인·뇌병변 환자 등 폭우로 고립된 시민 구조

80년만의 폭우로 피해가 속출하는 가운데 경찰이 반지하 등에서 고립됐던 사람들을 잇달아 구조했다. 10일 경찰에 따르면 폭우가 시작된 8일 밤 10시쯤 서울 관악구 소재 다세대주택 반지하에서 수압에 갇혀 빠져나오지 못한 거동불가 노인이 익사 직전 긴급 구조됐다. 이 노인은 몸을 움직이기 어려운 독거노인으로 당시 집중호우로 반지하 주거지가 물에 잠겨 수

울트라맨8|22.08.10
like-count0
commnet-count0
view-count1,159
22.08.10
자유주제

美 초유의 전직 대통령 압색..트럼프 소추 문제 지각변동 예상

도널드 트럼프 전 미국 대통령 저택 마러라고 리조트에서 집행된 미 연방수사국(FBI)의 압수수색은 그를 둘러싼 전반적인 수사 판도에 지각변동을 의미한다는 분석이 제기됐다. 노먼 엘슨 브루킹스 연구소 수석 연구원, 데니스 애프터것 전 연방검사 등은 9일(현지시간) CNN에 실린 '트럼프 소추 문제의 지각변동'이라는 제목의 기고문에서 이 같이 밝혔다. F

울트라맨8|22.08.10
like-count0
commnet-count0
view-count844
22.08.10