책 소개
최근 지난 10여년간 딥러닝을 필두로 하는 인공지능 연구는 지속적으로 깊고 넓은 구조로 확장되어 분류와 예측의 정확성을 높이는데 초점을 맞춰 왔습니다. 하지만 몇 년 전부터 연구자들은 이러한 인공지능의 예측성능에 의심을 품기 시작했습니다. ‘인공지능이 왜 이런 결정을 했을까? 무슨 근거로 이렇게 판단했을까? 혹시 판단에 오류는 없을까?’하는 필연적인 질문들을 하기 시작했습니다. 단순하게 ‘개’와 ‘고양이’를 구분하는 것이라면 문제가 없겠지만 질병을 예측하거나 신용도 평가 문제, 심지어는 군인들에게 명령을 내리는 문제라면 더욱더 인공지능의 판단 결과에 대한 설명이 필요합니다. 지금까지의 인공지능 알고리즘들은 불친절하게 예측 결과만 알려주었지 결과에 대한 이유를 설명해주지 않았습니다.인공지능에 설명을 부여하기 위한 ‘설명가능한 인공지능(eXplainable AI, XAI)’의 본격적인 연구는 2017년 미국방연구원(Defense Advanced Research Projects Agency, DARPA)에서 시작한 프로젝트로 볼 수 있습니다. DARPA에서는 설명가능한 인공지능의 요건으로 ‘높은 학습 성능을 유지하면서도 모델 자체가 설명 가능해야 하고, 인간이 쉽게 이해하고 신뢰하며 효과적으로 시스템을 관리할 수 있도록 지원해야 한다’라고 규정하고 있습니다. 전통적으로 머신러닝을 연구했던 연구자(fatml.org)들은 XAI라는 용어보다는 ‘해석가능한 머신러닝(Interpretable MachineLearning)’이라는 용어를 더 선호하며 ‘인공지능 알고리즘 결정과 이러한 결정을 주도하는 모든 데이터가 비기술적 용어로 최종 사용자 및 기타 이해 관계자에게 설명될 수 있어야 한다.’라고 정의하고 있습니다. 설명가능한 인공지능은 인공지능기술의 발전 방향을 새롭게 제시하고 있습니다. 공정과 정의라는 키워드가 가장 중요한 가치관인 MZ 세대에게는 정답만 알려주는 현재의 인공지능 기술은 오히려 또 다른 불공정 이슈가 될 수 있습니다. 따라서 설명가능한 인공지능에는 데이터 분석을 통한 예측의 정확성 뿐만 아니라, 사용된 데이터와 모델의 투명성, 윤리성, 결머리말 VI과에 대한 신뢰성, 프라이버시, 공정성이라는 다양한 항목이 고려되어야 합니다. 이러한 필요에 따라 최근 설명가능한 인공지능에 관한 연구들이 점차 늘어나고 있습니다. 하지만 일반 학습자들이 설명가능한 인공지능을 기초부터 중급 수준까지 공부할 수 있는 도서는 많지 않습니다. 본 도서는 설명가능한 인공지능을 공부하고 싶었던 학생 또는 연구자들이 어떻게 딥러닝과 머신러닝에 XAI를 접목할 수 있을지 가이드 해 주는 입문서이자 이 분야의 전문가가 되기 위한 디딤돌이 될 수 있습니다. 본인이 인공지능을 처음 접한다고 해서 겁낼 필요는 없습니다. 본 도서의 저자는 매 장을 소설을 읽는 것처럼 사례를 들어 쉽게 설명하고 있고, 그 내용을 오픈 소스를 통해 구현하도록 하여 독자가 충분히 이론과 프로그램 코딩 능력을 높일 수 있도록 배려하고 있기 때문이죠. 이 책은 내용이 많으므로 독자들이 중간에 포기할 수도 있습니다. 하지만 인내심을 갖고 맨 처음 책장을 폈을 때의 결심으로 다시 도전해 보십시오. 매 장을 끝낼 때마다 ‘설명가능한 본인만의 지식’을 체감할 수 있을 겁니다. 만약 여러분이 딥러닝이나 머신러닝에 대한 어느 정도 이해가 있다고 한다면 처음부터 모든 장들을 볼 필요는 없습니다. 필요할 때마다 해당하는 장의 내용을 참조하는 것도 좋은 방법입니다. 이 책은 주로 데이터사이언스, 빅데이터 측면에서 설명가능한 인공지능의 이론과 실습을 진행하고 있습니다. 만약 영상이나 음성에도 설명가능한 인공지능을 접목하고 싶다면 arxiv에 키워드로 ‘XAI’를 입력해보십시오. 수많은 논문이 검색되겠지만 논문을 겁내할 필요가 없습니다. 이 책을 마스터한 당신은 이미 ‘설명가능한 인공지능’을 설명할 준비가 되어있기 때문이죠.
목차펼치기접기
차례목차 XVII역자의 말 Ⅴ머리말 Ⅶ1장 파이썬으로 설명하는 AI1.1 설명가능한 AI 정의 51.1.1 블랙박스 모델에서 XAI 화이트 박스 모델로의 전환 71.1.2 설명 및 해석 81.2 설계 및 추출 91.2.1 XAI 집행 기능 91.3 XAI 의료 진단 일정 131.3.1 일반적인 의사가 사용하는 표준 AI 프로그램 141.3.2 웨스트 나일 바이러스 – 생사와 관련된 사례 231.3.3 구글 위치 기록을 이용하여 XAI가 생명을 구할 수 있다 311.3.4 구글 위치 기록 내려받기 311.3.4 구글 위치 기록 데이터를 읽고 표시하기 371.4 요약 581.5 질문 592장 AI의 편향 및 윤리를 위한 화이트 박스 XAI2.1 자율 주행 자동차의 AI 편향에 대한 도덕성 652.1.1 생사가 걸린 자동조종 장치의 의사결정 652.1.2 트롤리 문제 662.1.3 MIT Moral Machine 실험 672.2.4 생사가 걸린 실제 상황 682.2.5 윤리적 AI의 도덕적 한계 702.2 자동조종 장치의 의사결정 트리에 대한 표준 설명 73목차 XVIII2.2.1 SDC 자동조종 장치의 딜레마 732.1.2 모듈 가져오기 742.1.3 데이터 셋 가져오기 752.1.4 데이터를 읽고 분할하기 762.1.5 의사결정 트리 분류기에 대한 이론적인 설명 782.1.6 내정된 값을 이용한 의사결정 트리 분류기 생성하기 802.1.7 모델 훈련, 측정 및 저장하기 822.1.8 의사결정 트리 출력하기 842.3 자동조종 장치의 의사결정 트리에 적용된 XAI 882.3.1 의사결정 트리의 구조 882.4 XAI와 윤리성을 이용하여 의사결정 트리 제어하기 952.4.1 모델 불러오기 962.4.2 정확도 측정 962.4.3 실시간 사례 시뮬레이션하기 972.4.4 노이즈로 인한 ML 편향 반영해 보기 972.4.5 ML 윤리 및 법 적용하기 1002.5 요약 1042.6 질문 1043장 패싯(Facet)을 이용한 머신러닝 설명하기3.1 패싯 시작하기 1103.1.1 Google Colaboratory의 패싯 설치하기 1113.1.2 데이터 셋 검색 1113.1.3 데이터 파일 읽어 오기 1123.2 Facets Overview 1133.2.1 데이터 셋의 특징 통계 생성하기 1133.3 패싯 통계 결과 정렬하기 1163.3.1 특징 순서대로 데이터 정렬하기 1163.3.2 불균일도로 정렬하기 1173.3.3 알파벳 순으로 정렬하기 1223.3.4 missing/zero의 양으로 정렬하기 123목차 XIX3.3.5 분포간 거리로 정렬하기 1233.4 Facets Dive 1253.4.1 Facets Dive 출력 코드 작성하기 1263.4.2 데이터 포인트의 레이블 정의하기 1283.4.3 데이터 포인트의 색상 정의하기 1293.4.4 x 축과 y 축의 비닝 정의하기 1303.4.5 x 축과 y 축의 산점도 정의하기 1323.5 요약 1343.6 질문 1354장 SHAP을 이용한 Microsoft Azure Machine Learning Model Interpretability4.1 SHAP 소개 1404.1.1 SHAP 원칙의 핵심 1414.1.2 Shapley 값의 수학적 표현 1444.1.3 감정 분석 예제 1474.2 SHAP 시작하기 1534.2.1 SHAP 설치하기 1534.2.2 데이터 가져오기 1544.2.3 데이터 셋 추출하기 1554.2.4 데이터 셋 벡터화 하기 1624.3 선형 모델 및 로지스틱 회귀 1644.3.1 선형 모델 생성, 훈련 및 출력의 시각화 1644.3.2 선형 모델 정의하기 1674.3.3 SHAP을 이용하여 설명하는 불가지론적 모델 1704.3.4 선형 모델 설명자 생성하기 1704.3.5 그래프 함수 생성하기 1704.3.6 모델의 예측 결과 설명하기 1734.4 요약 1834.5 질문 1845장 설명가능한 AI 솔루션 처음부터 구축하기5.1 도덕적, 윤리적 및 법률적 관점 1905.2 미국 인구조사 데이터 문제 1915.2.1 pandas를 이용하여 데이터 표시하기 1925.2.2 도덕적 윤리적 관점 1955.3 머신러닝 관점 2025.3.1 Facets Dive로 훈련 데이터 출력하기 2025.3.2 패싯으로 훈련 데이터 분석하기 2055.3.3 예상 결과 확인 2095.3.4 입력 데이터 변환 2175.4 변경된 데이터 셋을 적용한 WIT 2205.5 요약 2285.6 질문 2296장 구글의 What-If Tool(WIT)을 이용한 AI 공정성 평가6.1 윤리적 AI 관점에서의 해석가능성 및 설명가능성 2346.1.1 윤리적 관점 2356.1.2 법률적 관점 2366.1.3 설명하기 및 해석하기 2366.1.4 윤리적인 데이터 셋 준비하기 2376.2 WIT 시작하기 2406.2.1 데이터 셋 가져오기 2426.2.2 데이터 전처리하기 2436.2.3 모델 훈련 및 테스트를 위한 데이터 스트럭쳐 생성하기 2456.3 DNN 모델 생성 246모델 훈련하기 2496.4 SHAP 해설자 생성하기 249Shapley 값의 그래프 2506.5 모델 출력 및 SHAP 값 2506.6 WIT 데이터 포인트 탐색기 및 편집기 254목차 XX6.6.1 WIT 생성하기 2546.6.2 데이터 포인트 편집기 2566.6.3 특징 2596.6.4 성능 및 공정성 2606.7 요약 2686.8 질문 2697장 설명가능한 AI 챗봇을 위한 파이썬 클라이언트7.1 Dialogflow를 위한 파이썬 클라이언트 2757.1.1 구글 Dialogflow를 위한 파이썬 클라이언트 설치하기 2767.1.2 구글 Dialogflow 에이전트 생성하기 2767.1.3 API 및 서비스 활성화하기 2797.1.4 구글 Dialogflow 파이썬 클라이언트 2837.2 구글 Dialogflow 파이썬 클라이언트 개선하기 2867.2.1 대화 함수 생성하기 2877.2.1 Dialogflow에서 XAI 구현과 관련된 보안 사항 2887.2.3 Dialogflow에서 인텐트 생성하기 2887.2.4 XAI 파이썬 클라이언트 2967.3 구글 Dialogflow를 이용한 CUI XAI 대화 3027.3.1 웹사이트를 위한 Dialogflow 통합 3037.3.2 주피터 노트북 XAI 에이전트 관리자 3077.3.3 구글 어시스턴트 3077.4 요약 3107.5 질문 3118장 LIME(Local Interpretable Model- Agnostic Explanations)8.1 LIME 소개 316LIME의 수학적 표현 3188.2 LIME 시작하기 3218.2.1 구글 Colaboratory에 LIME 설치하기 322목차 XXI8.2.2 데이터 셋 검색 및 벡터화 하기 3228.3 실험적 AutoML 모듈 3248.3.1 불가지론적 AutoML 템플릿 생성하기 3258.3.2 배깅 분류기(Bagging classifier) 3278.3.3 그라디언트 부스팅 분류기 3288.3.4 의사결정 트리 분류기 3298.3.5 엑스트라 트리 분류기 3308.4 점수 해석하기 3318.5 모델 훈련하기 및 예측 수행하기 3328.5.1 분류기와 상호적인 선택 3328.5.2 예측 과정 마무리하기 3338.6 LIME 설명자 3358.6.1 LIME 설명자 만들기 3378.6.2 LIME 설명 해석하기 3398.7 요약 3468.8 질문 3479장 반사실적 설명 방법9.1 반사실적 설명 방법 3539.1.1 데이터 셋 및 동기 3539.1.2 WIT로 반사실적 거리 시각화하기 3549.1.3 기본 뷰로 데이터 포인트 거리 분석하기 3569.1.3 반사실적 설명의 논리 3649.2 거리 함수 선택 3709.2.1 L1 norm 3719.2.2 L2 norm 3739.2.3 맞춤형 거리 함수 3749.3 딥러닝 모델의 아키텍쳐 3749.3.1 WIT 호출 3759.3.2 WIT를 위한 맞춤형 예측 함수 3769.3.3 케라스 모델 로딩하기 3789.3.4 데이터 셋 및 모델 검색하기 379목차 XXII9.4 요약 3809.5 질문 38110장 대조적 XAI10.1 대조적 설명 방법 38610.2 MNIST를 이용하여 CEM 배우기 38910…
출처: 국립중앙도서관 서지정보
리뷰 남기기
로그인하면 리뷰를 남길 수 있어요.
리뷰 0개
아직 리뷰가 없어요.