초록

오늘날 소위 제4차 산업혁명 시대에 돌입하면서, 인공지능은 물리적 차원을 넘어 인간의 전유물로 여겨져 온 인지적 차원까지도 자동화(automation)의 대상으로 탈바꿈시키고 있다. 나아가 인간의 통제를 최소화한 인공지능에 대해 모종의 자율성(autonomy)을 인정하자는 견해까지도 제기되고는 한다. ‘인공지능과 자율성’ 이슈는 일정한 자율성을 갖춘 인공지능에 대한 법적 평가와, 이와 별개로 인공지능이 인간의 자율성에 미치는 영향에 대한 법적 평가라는 두 가지 측면으로 대별된다. 이때 전자는 자율성 개념을 전통적으로 이해되어온 도덕적 차원의 자율성(moral autonomy)을 대신하여 기능적 차원의 현상적 자율성으로 이해하면서, 일정 수준 이상의 현상적 자율성을 보이는 인공지능에 대해 도덕적, 법적 지위를 인정할 수 있는가 하는 문제이다. 본고는 인공지능과 자율성 논의에서 진정 중요한 것은 ‘인간의 자율성’임을 분명히 하고, 현상적 자율성을 가진 인공지능에 대한 법인격 부여는 그와 같은 목적을 달성함에 있어 현실적으로도, 이론적으로도 필수적 요소가 아님을 보인다. 자율적 인공지능과 인간의 자율성이 공존하기 위해 진정으로 요구되는 것은 인공지능의 위험성을 적절한 수준에서 통제하는 동시에 인간의 사적자치를 과다하게 억제하지 않도록 조화하는 거버넌스(governance) 구조를 모색하는 일이다.

키워드

제4차 산업혁명, 인공지능, 자율성, 사적자치의 원칙, 인지적 비대칭성, 거버넌스

참고문헌(71)open

  1. [단행본] 곽윤직 / 2013 / 민법총칙 / 박영사

  2. [단행본] 이광근 / 2015 / 컴퓨터과학이 여는 세계 / 인사이트

  3. [단행본] 이병준 / 2013 / 현대 시민사회와 소비자계약법 / 집문당

  4. [학술지] 고인석 / 2017 / 인공지능이 자율성을 가진 존재일 수 있는가? / 철학 (133) : 163 ~ 187

  5. [단행본] 고학수 / 2019 / 서울대학교 인공지능정책 이니셔티브이슈페이퍼: 인공지능과 미래사회

  6. [학술지] 고학수 / 2019 / 인공지능과 차별 / 저스티스 171 : 199 ~ 277

  7. [학술지] 권영준 / 2011 / 계약법의 사상적 기초와 그 시사점 - 자율과 후견의 관점에서 - / 저스티스 (124) : 169 ~ 203

  8. [학술지] 김건우 / 2018 / 법적 주체로서 자율적 인공지능 로봇 I: 의의와 관점 / 성균관법학 30 (2) : 215 ~ 238

  9. [학술지] 김도균 / 2009 / 공동의사결정으로서의 거버넌스와 절차적 정의: 세 가지 모델 / 국정관리연구 4 (2)

  10. [학술지] 김도균 / 2013 / 집합행동, 신뢰, 법- 공적 신뢰의 토대에 관한 고찰 - / 서울대학교 법학 54 (3) : 543 ~ 599

  11. [학술지] 김동훈 / 2018 / 사적 자치의 원칙의 헌법적·민사법적 의의- 헌재 결정례와 대법원 판례의 비교·분석을 중심으로 - / 법학논총 30 (3) : 41 ~ 85

  12. [학술지] 김성돈 / 2018 / 전통적 형법이론에 대한 인공지능 기술의 도전 / 형사법연구 30 (2) : 81 ~ 116

  13. [학술지] 김영환 / 2016 / 로봇 형법(Strafrecht für Roboter)? / 법철학연구 19 (3) : 143 ~ 168

  14. [학술지] 김진우 / 2019 / 인공지능에 대한 전자인 제도 도입의 필요성과 실현방안에 관한 고찰 / 저스티스 171 : 5 ~ 48

  15. [학술지] 김현철 / 2015 / 자기결정권에 대한 법철학적 고찰 / 법학논집 19 (4) : 357 ~ 372

  16. [학술지] 목광수 / 2017 / 인공지능 시대에 적합한 인격 개념 - 인정에 근거한 모델을 중심으로 - / 철학논총 90 (4) : 187 ~ 211

  17. [학술지] 박상돈 / 2017 / 헌법상 자동의사결정 알고리즘 설명요구권에 관한 개괄적 고찰 / 헌법학연구 23 (3) : 185 ~ 218

  18. [학술지] 서완석 / 2018 / 인공지능에 의한 소비자권익 침해에 관한 유형과 법적 과제 / 상사법연구 37 (1) : 317 ~ 375

  19. [학술지] 서희석 / 2010 / 소비자법 민법전편입의 이론적 근거와 방향성 - 실질적 사적자치론 · 소비자계약론의 관점에서 - / 재산법연구 27 (2) : 259 ~ 294

  20. [학술지] 송승현 / 2018 / 인공지능과 도덕성 / 법조 67 (6) : 267 ~ 341

  21. [학술지] 신상규 / 2016 / 자율기술과 플로리디의 정보 윤리 / 철학논집 45 : 269 ~ 296

  22. [학술지] 신상규 / 2017 / 인공지능은 자율적 도덕행위자일 수 있는가? / 철학 (132) : 265 ~ 292

  23. [학술지] 신상규 / 2019 / 인공지능의 도덕적 지위와 관계론적 접근 / 철학연구 149 : 243 ~ 273

  24. [학술지] 양종모 / 2016 / 인공지능의 위험의 특성과 법적 규제방안 / 홍익법학 17 (4) : 537 ~ 565

  25. [학술지] 양천수 / 2016 / 탈인간중심적 법학의 가능성 - 과학기술의 도전에 대한 행정법학의 대응 - / 행정법연구 (46) : 1 ~ 24

  26. [학술지] 양천수 / 2017 / 인공지능과 법체계의 변화 ―형사사법을 예로 하여― / 법철학연구 20 (2) : 45 ~ 76

  27. [학술지] 오병철 / 2017 / 인공지능 로봇에 의한 손해의 불법행위책임 / 법학연구 27 (4) : 157 ~ 231

  28. [학술지] 오세혁 / 2009 / 해악원리, 법적 도덕주의, 그리고 후견주의 - 후견주의의 이중적 양면성 - / 중앙법학 11 (2) : 341 ~ 369

  29. [학술지] 이부하 / 2015 / 위험사회에서 국민의 안전보호의무를 지는 보장국가의 역할 - 현행 안전법제에 관한 고찰을 겸하며 - / 서울대학교 법학 56 (1) : 139 ~ 165

  30. [학술지] 이상용 / 2016 / 인공지능과 계약법 - 인공 에이전트에 의한 계약과 사적자치의 원칙 - / 비교사법 23 (4) : 1639 ~ 1700

  31. [단행본] 이원우 / 2019 / 4차 산업혁명 시대의 기술혁신과 규제정책 / 홍문사

  32. [학술지] 이중기 / 2016 / 인공지능을 가진 로봇의 법적 취급 : 자율주행자동차 사고의 법적 인식과 책임을 중심으로 / 홍익법학 17 (3) : 1 ~ 27

  33. [단행본] 이중원 / 2018 / 인공지능의 존재론 / 한울아카데미

  34. [학술지] 장영철 / 2017 / 기본권으로서 사적자치에 관한 고찰 / 서울법학 25 (3) : 1 ~ 43

  35. [학술지] 정승준 / 2019 / 설명 가능한 인공지능 기술의 소개 / 전자공학회지 46 (2)

  36. [학술지] 정채연 / 2016 / 법패러다임 변화의 관점에서 인공지능과 법담론: 법에서 탈근대성의 수용과 발전 / 법과사회 (53) : 109 ~ 136

  37. [학술지] 조홍식 / 2002 / 리스크 법 - 리스크관리체계로서의 환경법 / 서울대학교 법학 43 (4)

  38. [학술지] 최봉철 / 2005 / 드워킨의 『법의 제국』 / 법철학연구 8 (2) : 345 ~ 376

  39. [학술지] 하대권 / 2019 / 선택에 관여하는 인공지능이 사용자 평가에 미치는 영향 / 한국심리학회지: 소비자·광고 20 (1) : 55 ~ 84

  40. [학술지] 한국정보화진흥원 / 2019 / 글로벌 인공지능 연구의 4대 키워드와 시사점 -4대 키워드: 인간, 유용, 안전, 이해 / IT & Future Strategy (1)

  41. [단행본] Barry Schwartz / 2004 / The Paradox of Choice: Why More Is Less / Ecco

  42. [단행본] Cass R. Sunstein / 2016 / 와이 넛지? / 열린책들

  43. [단행본] Daniel Kahneman / 2018 / 생각에 관한 생각 / 김영사

  44. [단행본] Joel Feinberg / 1984 / Harm to Others / Oxford University Press

  45. [단행본] John Stuart Mill / 2010 / 자유론 / 펭귄클래식 코리아

  46. [단행본] Louis P. Pojman / 2019 / 윤리학: 옳고 그름의 발견 / 울력

  47. [단행본] Wendell Wallach / 2014 / 왜 로봇의 도덕인가 / 메디치미디어

  48. [단행본] 松尾 豊 / 2015 / 인공지능과 딥러닝 / 동아엠앤비

  49. [학술지] Ariel Ezrachi․Maurice E. Stucke / 2017 / Artificial Intelligence & Collusion: When Computers Inhibit Competition / University of Illinois Law Review 2017 (5)

  50. [학술지] Brent Mittelstadt / 2016 / Automation, Algorithms, and Politics: Auditing for Transparency in Content Personalization Systems / International Journal of Communication 10

  51. [학술지] Catherine Tucker / 2017 / Privacy, Algorithms and Artificial Intelligence / Economics of Artificial Intelligence: An Agenda

  52. [기타] European Commission / 2019 / Ethics Guidelines for Trustworthy AI

  53. [기타] European Parliament / 2017 / European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL))

  54. [단행본] Gary Marchant / 2019 / “Soft Law” Governance of Artificial Intelligence / AI Pulse

  55. [단행본] Gerald Dworkin / 2017 / Paternalism / Stanford Encyclopedia of Philosophy

  56. [학술지] Helen Nissenbaum / 1996 / Accountability in a Computerized Society / Science and Engineering Ethics 2 (1)

  57. [보고서] Institute of Electrical and Electronics Engineers / 2017 / Ethically Aligned Design Version 2 - A Vision for Prioritizing Human Wellbeing with Autonomous and Intelligent Systems

  58. [단행본] James B. Speta / 2019 / 4차 산업혁명 시대의 기술혁신과 규제정책 / 홍문사

  59. [학술지] James G. March / 1991 / Exploration and Exploitation in Organizational Learning / Organization Science 2 (1)

  60. [학술지] James H. Moor / 2006 / The Nature, Importance, and Difficulty of Machine Ethics / IEEE Intelligent Systems 21 (4)

  61. [단행본] John Christman / 2015 / Autonomy in Moral and Political Philosophy / Stanford Encyclopedia of Philosophy

  62. [학술지] John McCarthy / 2006 / A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence / AI Magazine 27 (4)

  63. [학술지] Jonathan Fox / 2007 / The uncertain relationship between transparency and accountability / Development in Practice 17 (4-5)

  64. [학술지] Karen Yeung / 2017 / Hypernudge’: Big Data as a mode of regulation by design / Information, Communication & Society 20 (1)

  65. [학술지] Maurice E. Stucke / 2017 / How Digital Assistants Can Harm our Economy, Privacy, and Democracy / Berkeley Technology Law Journal 32

  66. [단행본] Merel Noorman / 2018 / Computing and Moral Responsibility / Stanford Encyclopedia of Philosophy

  67. [학술지] Michal S. Gal / 2018 / Algorithmic Challenges to Autonomous Choice / Michigan Technology Law Review 25

  68. [보고서] Nathalie Nevejans / 2018 / Open Letter To The European Commission Artificial Intelligence And Robotics

  69. [보고서] OECD / 2017 / Algorithms and Collusion: Competition Policy in the Digital Age

  70. [학술지] Pedro Domingos / 2012 / A few useful things to know about machine learning / Communications of the ACM 55 (10)

  71. [보고서] Yoav Shoham / 2018 / The AI Index 2018 Annual Report