미래를 준비하는 우리가 거쳐야 할 과제
『인공지능 윤리하다』

인공지능(AI)은 우리 생활에 이미 친숙하게 다가와서 쓰이고 있다. 실생활에서 이미 쓰이는 인공지능에 대해서 우리가 알아야 할 부분은 AI 윤리이다. 인공지능은 ‘위임된 자율성’ 혹은 ‘준 자율성’을 지닌 인공물로서 우리는 인공지능의 윤리적 문제들에 직면하게 될 것이다. AI 윤리는 미래를 준비하는 우리가 반드시 생각하고 대비해야 하는 과제 중 하나이다.

서울대학교 사범대학 및 대학원에서 윤리교육을 전공하고 독일 칼스루헤대학교에서 철학박사학위를 취득하였다. 2005년부터 서울교육대학교 윤리교육과 교수로 재직하고 있으며 주요 관심 분야는 실천 및 응용 윤리학이다. 현재 서울교육대학교 어린이철학교육센터 센터장, 인공지능윤리 표준화 포럼 위원장, 한국인공지능윤리협회 AIAI윤리연구센터 센터장, 한국초등도덕교육학회 편집위원장과 한국윤리학회 부회장으로 활동 중이다. 대표 저서로는 『책임의 윤리학』, 『삶의 실천윤리적 물음들』, 『삶과 철학 이야기』, 『인공지능윤리하다』, 『윤리적 AI 로봇 프로젝트』, 『로봇윤리란 무엇인가?』, 『음식윤리』, 『융합기술시대의 윤리』 등이 있고, 대표 역서로는 『레비나스』, 『생명윤리학 1, 2』, 『로봇윤리』, 『철학·도덕교육의 교수법』 등이 있다.

서문 ― 9

1장 AI와 AI 윤리의 의미

1. 인공지능이란 무엇인가 ― 13
2. 인공지능의 종류 ― 15
3. 로봇의 의미 ― 16
4. 인공지능과 로봇 ― 19

2장 AI 인문학: 차페크(K. ?apek)의 RUR 해석

1. 차페크와 ‘로봇’의 탄생 ― 21
2. 호모 파베르(Homo Faber)와 로봇 ― 24
3. 인간-로봇 관계 변화의 중심, 인공지능 기술의 발전 ― 27
4. 인공지능 시대를 어떻게 맞이해야 할까? ― 30

3장 AI 도덕성의 유형: 모럴 튜링테스트

1. 튜링테스트란 무엇인가 ― 33
2. 튜링테스트의 의의 ― 36
3. 모럴 튜링테스트(MTT)의 가능성 ― 41
4. 결론: 모럴 튜링테스트에 대한 비판과 대응의 선순환 ― 61

4장 AI의 윤리원칙

1. 인공지능로봇의 윤리적 지위 ― 65
2. 인공지능로봇을 위한 윤리원칙의 사례 ― 67
3. 인공지능로봇의 윤리 원칙의 체계화 제안 ― 76
4. 인공지능로봇윤리원칙의 응용, 조정 그리고 상세화를 위하여 ― 81

5장 AI 윤리가이드라인의 경향

1. AI 윤리가이드라인의 필요성 ― 83
2. 최신 AI 윤리가이드라인 사례 ― 84

6장 AI 윤리 인증: 그 준거에 대한 논의

1. 윤리적 인공지능로봇을 위한 윤리인증제와 그 필요성 ― 99
2. 각국의 윤리인증 준거와 내용 분석 ― 103
3. 우리나라의 윤리인증제 도입을 위한 준거 ― 114
4. 정리: 인공지능로봇의 윤리인증제 마련과 정착을 위하여 ― 118

7장 AI의 윤리인증 이원화 프로그램

1. 들어가는 말 ― 121
2. 윤리인증의 3가지 기준 ― 122
3. 인공지능로봇의 도덕성 유형 ― 125
4. 인공지능로봇에 대한 모럴 튜링테스트를 위한 설문분석 ― 129
5. 나오는 말 ― 135

8장 AI와 데이터: 편향성과 공정성의 문제

1. 편향과 편견 ― 137
2. 데이터의 편향성 그리고 객관성과 공정성 ― 141
3. 데이터 편향성 최소화를 위한 노력: 윤리인증프로그램 만들기 ― 150
4. 데이터 윤리의 확립을 위하여 ― 155

9장 AI와 저작권

1. 창작하는 인공지능 ― 159
2. 창작하는 인공지능의 저작권 문제 ― 161
3. 창작하는 인공지능의 대체 가능성 문제 ― 163
4. 창작하는 인공지능과 우리의 미래 ― 168

10장 영화에서 제기되는 AI의 문제

1. 영화와 로봇 공학의 관련성 ― 171
2. 인간은 로봇과 어떻게 다른가? ― 172
3. 윤리적인 로봇은 가능한가? ― 175
4. 인간은 인공지능과 사랑에 빠질 수 있을까? ― 179
5. 로봇은 인간과 공존할 수 있을까? ― 182

11장 자율주행차의 AI가 내리는 결정의 기준을 어떻게 만들어야 할까?

1. 자율주행자동차의 발전 ― 187
2. 자율주행자동차가 초래하는 윤리적 문제 ― 190
3. 공리주의적 자동차 ― 196
4. 의무론적 자동차 ― 199
5. 윤리적인 자율주행자동차의 탄생을 기대하며 ― 202

12장 자율주행자동차의 한국형 윤리가이드라인을 어떻게 만들어야 할까?

1. 들어가는 말 ― 203
2. 자율주행자동차 윤리가이드라인 제정의 필요성 ― 206
3. 자율주행자동차 윤리 문제 해소 방안 ― 213
4. 한국적 자율주행자동차 윤리가이드라인의 기본틀과 핵심요소 ― 217
5. 나오는 말: 자율주행자동차 윤리가이드라인 초안 ― 222

13장 AI가 진단하고 수술한다면 의료사고가 안 일어날까?

1. 의료 수술 로봇의 의미와 발전 현황 ― 227
2. 의료 수술 로봇을 둘러싼 윤리적 쟁점들 ― 230
3. 의료 수술 로봇의 미래 ― 242

14장 사람이 AI를 사랑할 수 있을까?

1. 섹스로봇이란 무엇인가 ― 245
2. 섹스로봇을 둘러싼 찬반 논쟁 ― 249
3. 섹스로봇이 초래하는 윤리적 문제 ― 255
4. 섹스로봇과 우리의 미래 ― 261

15장 사람 대신에 AI 간의 전쟁이 바람직할까?

1. 킬러로봇이란 무엇인가 ― 263
2. 킬러로봇 개발을 둘러 싼 찬반 논쟁 ― 266
3. 현실적인 수준에서 고려해볼 수 있는 킬러로봇의 윤리적 문제 ― 270
4. 킬러로봇과 우리의 미래 ― 275

16장 현대인의 외로움을 AI가 채워줄 수 있을까?

1. 소셜로봇이란 무엇인가 ― 277
2. 의료용 케어로봇으로 활약하는 소셜로봇 ― 280
3. 의료용 케어로봇이 제기하는 윤리적 문제들 ― 282
4. 소셜로봇과 우리의 미래 ― 287

참고문헌 ― 289