logo
자유주제

AI가 설명도 한다고?

울트라맨8

Lv 116

22.08.04

view_cnt

926

금융위원회가 4일 발표한 ‘금융분야 AI 활용 활성화 및 신뢰 확보 방안’을 보면 ‘설명가능한 인공지능(AI)’이라면서 ‘XAI(eXplainable AI)’가 언급된다. 사람이 수긍할 수 있도록 그 이유를 제시하면서 의사결정을 하는 AI를 말한다. 이는 AI의 판단에 대해 알고리즘의 설계자조차도 그 이유를 설명할 수 없는 ‘블랙박스’ 인공지능과 대비되는 개념이다. AI의 머신러닝 기술은 알고리즘이 복잡해 최종 결과를 도출하고도 그 근거를 제공하지 못하는 문제로 인해 블랙박스 인공지능이라고 불린다. 국내에서는 과학정보통신부가 지난 2017년 7월부터 관련 연구를 진행 중이며, 해외에서는 미국 국방성 산하 국방위고등연구계획국(DARPA)이 2017년부터 설명가능 AI 연구(Glass Box) 등을 시작했다. 앞서 금융보안원은 지난 2018년 “금융분야도 상품추천, 여신심사 등 AI 의사결정 확대에 대비해 금융회사 등이 XAI를 보다 원활히 도입·운영할 수 있도록 관련 기준 등을 검토해 나가야 할 시점”이라고 제언한 바 있다. 가령 설명가능성이 확보되지 않는 경우, AI가 여신심사에서 승인을 거부해도 소비자는 그 이유를 알지 못해 승인거절의 문제 해결이 어려워져 장기간 금융접근성이 제한될 수도 있다는 것이다. 금융보안원에 따르면 AI 시스템이 고양이 이미지를 분류할 때, 기존의 시스템은 입력된 이미지의 고양이 여부만을 도출하지만 XAI는 고양이 여부를 도출하고, 이것의 근거가 되는 털, 수염 등까지 제공한다. 한편, 미국 국가표준기술연구원(NIST)은 ‘설명가능한 AI의 네가지 원칙(Four Principles of Explainable Artificial Intelligence)’ 초안에서 설명가능한 AI 시스템의 요건으로 ▷모든 산출물에 대해 증거 혹은 그 이유를 제시하고 ▷개별 이용자들에게 의미 있거나 이해할 수 있는 설명을 제시하며 ▷해당 설명은 산출물을 생성하는 시스템 프로세스를 적절하게 반영하고 ▷시스템은 충분히 신뢰할 수 있을만한 산출물을 생성할 것이라는 믿음을 전제하고 운영돼야 한다 등을 꼽았다.
AI가 설명도 한다고?

AI가 설명도 한다고?

사이트 방문

댓글

0

아직 댓글이 없습니다. 가장 먼저 댓글을 남겨보세요
자유주제

휴가중인 尹, 펠로시와 통화만 하기로

여름휴가중인 윤석열 대통령이 방한 중인 낸시 펠로시 미국 하원의장을 만나지 않고 전화 통화만 하기로 해 논란이 일고 있다. 중국을 의식한 외교적 전략이라는 시각과 한미 동맹의 중요성이나 펠로시 의장의 미국내 입지를 감안하면 통화만 하는 것은 외교적 실수라는 지적이 팽팽하다. 여름휴가 중인 윤석열 대통령이 방한중인 낸시 펠로시 미국 하원의장과 직접 만나는

울트라맨8|22.08.04
like-count0
commnet-count0
view-count862
22.08.04
자유주제

광주시 "식중독 조심해야"..살모넬라균 전월대비 5배 증가

광주시 보건환경연구원은 4일 최근 덥고 습한 날씨가 지속함에 따라 살모넬라균에 의한 설사환자가 증가하고 있다며 감염 주의와 예방수칙 준수를 강조했다. 시 보건환경연구원이 질병관리청과 함께 지역 12개 협력 의료기관에 설사·구토 증세로 내원한 환자 검체를 대상으로 주 1회 원인병원체를 분석한 결과, 세균성 병원체의 검출률이 6월 29.5%에서 7월 47.

울트라맨8|22.08.04
like-count0
commnet-count0
view-count860
22.08.04
자유주제

"출입 제한해야" vs "모두의 공간"..도심공원 속 반려견 갈등

"누구라도 기분 좋게 공원을 이용하실 수 있도록 묘안을 고심하고 있습니다." 대구의 한 근린공원에서 반려인(반려동물을 키우는 사람)과 비반려인들이 목줄 착용과 배변 처리 등을 놓고 빈번히 충돌해 지자체가 골머리를 앓고 있다. 4일 오전 10시께 대구 만촌동 화랑공원. 평일 오전이었지만 공원 곳곳에서 반려견과 산책 중인 반려인들과 운동을 하거나 휴식을

울트라맨8|22.08.04
like-count0
commnet-count0
view-count834
22.08.04
자유주제

항만안전특별법 시행 맞춰 인천서 안전협의체 출범

항만 안전사고를 예방하기 위해 제정된 항만안전특별법이 4일 시행되면서 인천에서 항만안전협의체가 출범했다. 인천해양수산청은 이날 관계 기관과 항만안전협의체 운영과 관련한 업무협약을 체결했다고 밝혔다. 이날 협약에는 중부고용노동청, 인천항운노동조합, 인천항만물류협회, 한국산업안전보건공단 인천본부, 인천항만공사, 한국항만연수원 인천연수원 등이 참여했다. 이

울트라맨8|22.08.04
like-count0
commnet-count0
view-count868
22.08.04
자유주제

은평구, '국가안전대진단' 실시.."위험요인 조기 발굴해 안전도시로"

서울 은평구는 사회 전반의 위험요인을 조기 발굴해 안전도시를 조성하기 위한 '2022 국가안전대진단'을 오는 17일부터 10월14일까지 실시한다고 4일 밝혔다. '국가안전대진단'은 지자체, 공공기관, 민간전문가 등 민·관 합동으로 해마다 주민 생활과 밀접한 주요 시설 등 사회 전반에 대한 안전관리 실태를 점검하는 제도다. 실생활 속 작은 위험 요소부터

울트라맨8|22.08.04
like-count0
commnet-count0
view-count732
22.08.04
자유주제

[펌]팔도 맛 지도

트로트 가수들이 꼽은 팔도 맛 지도라네요~ 아직 여름휴가 전이라면 참고하셔서 가보는것도 좋을듯^^

thumbnail
순풍산부인과|22.08.04
like-count3
commnet-count5
view-count1,144
22.08.04
자유주제

中, 오늘 정오부터 72시간 '대만봉쇄'

미국 서열 3위 낸시 펠로시 미국 하원의장의 대만 방문에 강력 반발 중인 중국이 4일 정오(현지시간)부터 7일 정오까지 72시간에 걸친 ‘대만 봉쇄’ 군사 훈련에 돌입했다. 육해공군을 총동원해 무력시위를 벌이는 중국의 이번 훈련이 대만에 대한 무력 통일을 시도할 경우 사용 가능한 옵션일 것이란 전문가의 분석까지 나오는 가운데, 미국 측은 ‘하나의 중국’

울트라맨8|22.08.04
like-count0
commnet-count0
view-count1,164
22.08.04
HOT
자유주제

전기차주분들 인분 조심하십셔

바로바로 빼주는게 맞긴한데 출근할때라도 빼줘야죠

thumbnail
GoFoward|22.08.04
like-count3
commnet-count18
view-count4,363
22.08.04
자유주제

GV80 대기 관련

4월에 GV80 계약하고 12개월대기 받았습니다. 요즘 보니까 22년 1월 이후 계약건은 18개월 대기라는데 저도 그럼 12개월에서 18개월로 늘어난건가요? 계약 진행해주신분한테 물어보려는데 오늘 연락이 안돼서요..

뱌미|22.08.04
like-count1
commnet-count14
view-count1,437
22.08.04
자유주제

bmw 출고후 연비

다들 어느정도 나오시는지 궁금합니다 트립컴퓨터에 출고 부터 지금까지 연비가 나오네요

thumbnail
앱등이|22.08.04
like-count1
commnet-count6
view-count1,161
22.08.04