6,7,8,9강 요약

6강 인공지능 이슈

순기능
1.노동대체: 힘든 일, 위험한 일, 고도의 집중력을 요하는 일
아마존의 키바는 효율적으로 물류를 배치하고 운반 (G급모델은 350키로, S급모델은 1.36톤)
2.자동화: 한화생명은 보험금 심사단계를 혁신적으로 개선, RPA(robot processing automation)
3.개인능력격차 완화: 대표적인 사례는 robo-advisor, 투자할 때 어떤 것을 매수하고 매도할지 알려주는 시스템

역기능
1.잘못된 학습: 마이크로소프트의 챗봇 테이, 사용자들의 욕설과 인종차별 발언을 학습하고 구사했음, 잘못 학습된 인공지능은 실사용에서 막대한 피해를 유발할 수 있음
2.법적, 윤리적 책임: 예를 들어 자율주행자동차와 무단횡단자의 교통사고, 자율주행자동차는 무단횡단(갑작스러운 진입)을 예측하지 못해 브레이크를 작동하지 않았고 무단횡단자는 사망, 누가 책임을 져야 하는가
3.빈부격차 심화: 인공지능을 소유한자와 그렇지 못한자
4.예측불가능: 어떤 것을 학습하고 왜 그 행위를 했는지 알 수 없는 상황에 처함, 예를 들어 인공지능이 사람을 칼로 찔렀을 때 인공지능을 감옥에 가두는 것은 무의미

분류
-약인공지능: 좁은 분야에서 사용되는 인공지능
특정 분야의 일을 인간 지시에 따라 수행, 대부분의 인공지능이 속함
-강인공지능: 모든 분야에 범용적으로 사용되어 문제 처리가 가능한 인공지능
-초인공지능: 인간보다 월등히 뛰어난 지능을 가진 하나의 존재, 인간의 지성을 인공지능이 앞지르는 시대
모든 인류의 지식과 지적능력을 합쳐도 이길 수 없는 수준

특이점
XAI(설명가능한 인공지능) 분야가 각광, 인공지능을 이해하고 신뢰성을 확보하고 인간의 도구로 활용하는 것

오용
이루다, 사회적 약자를 혐오/차별하는 발언
카카오톡 대화 데이터를 학습하면서 실명과 주소 등 개인정보가 유출되는 문제까지 발생

 

 

 

7강 자율주행자동차 개요

 

자율주행자동차란?

운전자 또는 승객의 조작 없이 자동차 스스로 운행이 가능한 자동차를 말한다 (자동차관리법 제2조 제1호의3)

 

 

국제 자동차 기술사 협회(SAE)가 규정한 자율주행 자동차 6단계

레벨0=일반적인 운전

레벨1=크루즈모드, 차선감지 시스템

레벨2,3,4,5=운전자가 원할 때는 언제든지 개입 가능

 

특징

1. 교통사고의 감소? 명확한 자료는 아직 없음, 초기단계이며 정확한 데이터가 쌓이지 않았기 때문

2. 교통범죄의 감소: 뺑소니나 음주운전 등 인명피해 감소

3. 소외집단의 이동: 운전 소외집단도 자동차를 소유하고 이동하는 데 평등

4. 여가시간의 증가: 주행 중 편하게 여가시간을 즐기는 것을 물론 식사, 수면 할 수 있음

5. 해킹의 위험성: 급발진이나 급가속 등 인명피해 유러

6. 법적 윤리적 문제: 무단횡단자에게 책임을 물을지, 자율자동차 운전자에게 책임을 물을지, 제조사에 책임을 물을지 명확하지 않음

7. 실업률 증가 문제: 버스, 택시 운전사 및 운송업 실직의 위험

 

예시

테슬라 오토파일럿

- 8개의 서라운드 카메라는 최대 250m까지 360도 시야를 제공

- 12개의 초음파 센서

- 전방 레이더는 폭우, 안개, 먼지와 앞차량을 관통하는 중복파장으로 주변상황에 대한 정보를 입수

- 스마트 차량 호출 기능이 있어 스스로 장애물과 경로를 탐색해서 운전자 위치까지 호출됨

- 기타 충돌회피 및 긴급제동 시스템, 전방/측면 충돌 경고 기능

 

 

8강 인공지능 윤리

 

트롤리 딜레마: 전차의 일종인 트롤리, 철로 하나에는 인부 5명, 다른 하나에는 인부 1명

육교 딜레마: 트롤리, 철로에 인부 5명, 육교 위에 행인 1명

가치관에 따라 다르게 판단할 수 있는데, 인공지능이 도입됐을 때 위와 같은 윤리적 딜레마에서 어떻게 해결할지 판단하고 선택해야 하는 상황이 발생함

 

미국 MIT 미디어 랩의 Moracl Machine (https://www.moralmachine.net/hl/kr)

 

A 차량에 운전자 없음, 다수의 무단횡단자, 한명의 행인

B 차량에 운전자 있음, 한명의 무단횡단자

C 차량에 운전자 있음, 다수의 무단횡단자

사고를 피할 순 없는 상황이며 무단횡단자를 치지 않기 위해 핸들을 조작하면 행인 또는 운전자가 사망하게 됨

 

 

9강 국가적 인공지능 윤리

 

한국의 인공지능 국가전략은 시기가 늦은 만큼(2019년 12월) 많은 내용이 담겨 있음

아래의 원칙을 관통하는 하나의 관점을 인공지능은 인류의 이익과 발전을 위해 개발/사용되어야 한다는 공리주의

 

아실로마 인공지능 원칙

2017년 컨퍼런스에서 만들어진 원칙

1) 연구관련 쟁점: 목표, 연구비지원, 과학정책 연계, 연구 문화, 경쟁 회피

2) 윤리와 가치: 안전, 실패의 투명성, 책임성, 개인 정보보호, 이익의 공유, 인공지능 무기 경쟁 지양 등 13가지

3) 장기적 이슈: 역량 경고, 중요성, 위험성, 자기개선 순환, 공동의 선