유머게시판

[공포]

게임에서 등장한 트롤리 딜레마의 현실적 해결 방법

비타3000 2018-05-26 (토) 02:43 조회 : 7906 추천 : 6

디트로이트 비컴 휴먼이라는 신작 플스 게임

게임은 인공지능과 안드로이드 기술이 발달한 20년 후의 미래 2038년을 그리고 있음

이 게임은

주인공 안드로이드중 하나인 여성 캐릭터가 집 청소를 하던 도중 발견할 수 있는 스크랩에서

트롤리 딜레마에 대한 해답을 제시하고 있다.

트롤리 딜레마란 다음과 같은 윤리적 선택에 대한 딜레마를 말한다.

트롤리 딜레마

기관사 본인을 포함해 5명의 사람을 태운 기차가 절벽을 향하고 있습니다. 당신이 기차를 운전하고 있는데 지금 바로 선로를 바꾸면 5명을 구할 수 있습니다. 그러나 다른 쪽 선로를 지나는 남자 1명은 목숨을 잃게 됩니다.

이것이 왜 중요하느냐?

바로 자율주행차의 상용화와 직결되어있는 문제이기 때문...!

[카드뉴스] '누구를 죽일지 선택하라'…자율주행자동차의 딜레마 (SBS 카드뉴스)

https://news.sbs.co.kr/news/endPage.do?news_id=N1003234908

헌데 이 게임에서는

다음과 같은 무서운 방식의 해결 방법을 제시한다...

인공지능이 생명의 '값'을 측정한다.

요약하자면 다음과 같다

자율주행차는 선택 직전의 찰나의 순간 모든 정보를 수집한다.

나이, 건강상태, 학력, 직업, 가족, 기대수명과 사회에 대한 공헌치 등 각종 빅데이터를 계량하여

이를 토대로 사람의 '가치'를 점수로 매기는 것이다.

그리고 이 점수가 낮은 사람을 죽이는 것이다.

예를 들어, 자율주행차는 왼쪽으로 꺾으면 의사 한 명이 죽을 것이고

오른쪽으로 꺾으면 공사장 인부 다섯 명이 죽는 양자택일의 상황에서

만일 의사의 점수가 나머지 다섯 사람의 점수보다 높다면 오른쪽으로 꺾어 다섯 명을 죽이는 선택도 가능 하다는 것이다.

비록 이 예시는 게임에서 제시된 것에 불과하지만

자율주행차는 언젠가 반드시 현실이 될 것이다

과연 얼마 남지 않은 우리의 미래에서

자율주행차는 어떤 선택을 하게 될 것인가?

비타3000 게시물보기 구독

자기소개가 없습니다

자기소개 더보기

댓글 63개

댓글쓰기

흐르는유리 2018-05-26 (토) 02:45

그때가서 법으로 정하겠지

이다운 2018-05-26 (토) 02:51

최대한 피해가 적은 쪽으로 사고를 낸다. 그리고 그 사고 내용을 병원으로 바로 전송하여 병원에서 환자를 바로 치료가 가능하도록 한다.

ddkEE 2018-05-26 (토) 02:52

자동차가 처음 나왔을때도 살인기계를 길가에 풀어놓는다고 말이 많았다고 하죠. 과학기술의 발전은 항상 그에 따라오는 인문학적 법률등이 정해지기 나름이니...ㅎㅎ 위 예시와 같은 선택조차 안나올정도로 예측이 가능한 ai가 나오던지 인도와 차도의 완전구분으로 맞닥들이는 상황을 줄이던지 방안을 찾아나가겠죠

고군분투기 2018-05-26 (토) 04:12

살인기계라는 말이 완전히 틀린말은 아닌것 같네요.
자동차 사고로 인해 현재까지 목숨을 잃은 사람들만 계산해봐도 어마무시한 수치일듯 싶습니다.
요런거 통계있으면 흥미롭겠네요.
전쟁으로 사망한 숫자, 질병으로 사망한 숫자, 자동차사고로 인해 사망한 숫자.

ddkEE 2018-05-26 (토) 04:17

근데 댓글쓰고나니 든 생각인데.. 예전에 차가 발명되고 차에관한 도로교통법을 재정하는것과는 자율운행차에 대한 법률이 상당히 더 복잡하고 과실여부가 애매해서.. 인도가 없는 고속도로에서 보조적인 역할정도로 쓰이는데 그치지 않을까 생각도 드네요 ㅎㅎㅎ 뭐 앞날에 어떠한 방식으로 발전할지는 아무도 모르지만요

AFOO 2018-05-26 (토) 03:24

일단 지금 사회에선 위급상황시 사람목숨을 저울질하는 소프트웨어는 못나올거임 사회적으로 문제될것도 뻔하고
AI도 결국엔 프로그래머가 입력한 값을 전제로 할테니 누굴 죽이냐가 아닌 오로지 사고를 최소화한다는
측면에서 접근할테고 자동차에서 역추진 로켓이나 팔다리가 나오지 않는 이상 브레이크 밟는게 전부일테니..
그 이후는 불가항력인 물리법칙에 의할수 밖에..그래도 졸음운전, 음주운전, 김여사 보단 결함없는 AI가 안전할거같음

금도윤 2018-05-26 (토) 03:38

논란 될게 머있나 빨간버튼을 누르면 5명 파란버튼은 한명이면 파란버튼 누르는게 상식이지
간단한 걸 논란이라고 그러네

제주밤바다 2018-05-26 (토) 05:12

말처럼 간단하지가 않은게 저기서 한발 더 나아가
기차안에 기관사 한명 꺾으면 다섯명이 죽는 상황일때
타인의 목숨을 위해 자살을 강요당하게 됩니다.
그리고 위의 예시처럼 방향을 꺾을 권리가 AI에게 주어진다면
주행자의 안전을 최우선시해야할 자율주행차가
주행자를 죽음으로 몰고간다는 문제가 발생하게 되고요
쉬운 문제가 아닙니다.

wistro 2018-05-26 (토) 07:14

극단적으로 스티븐잡스 한명, 노숙자 5명이라고 하는 예시도 있죠.

금도윤 2018-05-26 (토) 23:43

공동체의 가치는 모든 생명을 동등하게 보는 거죠
이걸 문제꺼리라고 여기다니
프랑스에서 웃겠네요 그 옛날 민주주의 대헌장을 수많은 피를 흘려 얻은 것을
자본주의가 인간을 개돼지로 만드는 군요

wistro 2018-05-27 (일) 07:17

너무 간단하게 생각하시는군요..

금도윤 2018-05-27 (일) 13:08

간단하니까요
인간을 개미라는 군체라고 보면 병정개미와 일개미의 가치를 다르게 다르게 봐서
그 생을 재게 된다면 군체의 지속이 어려워 지는 법이죠
군체에서 각자의 역할이 다른거지 그 생의 가치는 동등하다
이게 간단하지 그럼 복잡하다고 여기니 개돼지가 되는거

교행 2018-05-26 (토) 11:07

공리주의적 생각에서는 정답일수도 있지만

가만히 있으면 모르는 5명이 죽게되고, 버튼을 누르면 자기 아들 한명을 죽이게 되는 상황이라면 어떤 선택을 할 것인가

가만히 있으면 10살짜리 아이를 죽이는 것이고, 버튼을 누르면 일주일뒤에 죽을 시한부인생인 사람 2명을 죽인다면 어떤 선택을 할 것인가

등등 간단하다고 보기는 어렵죠.

금도윤 2018-05-26 (토) 23:41

그것 또한 간단합니다
남 백명이든 천명이든 내자식 한명이 중요한게 인간인것을 당연한 소릴 하는군요
선택권이 공동체의 의지가 되어야 한다면 다수의 생명이 정답이라고 하겠습니다

belcowin 2018-05-26 (토) 03:41

1명의 죽음 VS 5명의 죽음...
이게 왜 문제가 되는지 이해가 되지 않네요.
5명을 살리는게 우선시되어야 하는거 아닌가요?

-----
찾아보니 딜레마의 내용이 부족하네요.
https://namu.wiki/w/%ED%8A%B8%EB%A1%A4%EB%A6%AC%20%EB%94%9C%EB%A0%88%EB%A7%88

1. 선로를 조작해서 1명과 5명의 생존을 선택하는 경우.
2. 직접 1명을 죽임으로써 5명의 생존을 선택하는 경우.
에서 죽음에 직접적으로 관여하는 경우 사람들의 선택의 차이가 현저하게 나타남을 주목하는 것 같은데요.

비타3000글쓴이 2018-05-26 (토) 04:05

트롤리 딜레마는 죄책감의 정도나 의도성에 의한 선택의 차이만 생각할 문제가 아닙니다. 공리주의에서 다루는 중요한 딜레마중 하나죠. 다수를 위해 소수를 희생시킬수 있느냐, 혹은 공리를 위해 약자를 희생시킬수 있느냐, 그리고 그것이 정당하느냐에 관한 것이 트롤리 딜레마의 본질적인 질문입니다.

belcowin님은 한 명을 죽이고 다섯 명을 살리는게 우선시 되어야 한다고 하지만, 만약 그 한 명이 자동차의 주인이라면? 주인을 죽이는 자동차를 사람들이 사려고 할까요? 결국 무엇을 우선시하느냐의 기준이 어디에 있느냐가 바로 트롤리 딜레마의 핵심입니다.

어리움 2018-05-26 (토) 06:24

그렇죠 트롤리 딜레마의 핵심은 이것인데 자신을 포함하지않는것으로 생각하는분들이 많아요

평범한 보통사람들은 생명본능의 이기심이 우선인게 당연한건데도

뇌피셜은 성인군자처럼 굴거든요 합리적이라고 생각하면서 그 합리성에 자신은 포함시키지 않는거죠

댜앙랴 2018-05-26 (토) 23:05

저친구 신경쓰지 마세요... 어디서 주워들은것들이나 검색한거 가지고

엄청나게 아는척 하는친구입니다

Happy7 2018-05-26 (토) 07:09

1명을 살리고 5명을 살리는 문제가 아니라 당신의 선택으로 인해 누군가 죽게 된다는 문제임.
1명을 죽이고 5명을 살리면 1명을 죽인것에 대해서 무죄임?

록스타치 2018-05-27 (일) 01:51

많은 사람을 살리는 걸 당연시 하기보다,
한명 한명이 다 같은 생명임에도, '다수가 아니니 소수를 희생하는 게 옳은 것인가' 에 의문을 제시하는 것이죠. 그래서 딜레마.

이걸 경제적인 의미로 받아들인다면 더 많은 득을 보는 쪽이 맞는 것 일수도 있죠. 하지만 이 난제는 대상이 '생명'이기 때문에 딜레마가 되는겁니다. 어차피 질문과 의논을 하기위한 문제라서 답은 없지만요.

에빈카 2018-05-26 (토) 03:59

답은 안나오겠지만 단순한 문제는 아닌거 같습니다.
한명과 다섯명 중 선택... 간단히 도덕적으로 생각하면 다섯명을 살리는게 한명을 살리는거보다 맞겠지만...
그 한명이 죽음으로서 1000명을 더 살릴수 있는 기회가 사라진다면? 예를들어 왠만한 외과의사는 못 살리고 포기하는....
치명적인 사고를 당한 노동자를 여럿 살려내는 이국종 교수 님 한분과 노동자 5명의 선택이라면...
딜레마의 내용이 부족한것이 아니죠. 너무 간단히 생각하고 있기때문에 부족하다고 느끼는것이겠죠.
사람 판단하는 지표에 문제가 있지않겠냐 하겠지만 지금 그것을 논하고 있는것이 아니죠.. 그런것을 다 초월한 그런한 기술력이 있는 시대를 가정했기때문에...
간단한 문제는 아닐것 같습니다.

MIAD 2018-05-26 (토) 04:44

근데 사실 저 문제가 웃긴게 자율주행 차가 결과적으로 사람에 의한 사고보다 훨씬 더 사고율이 낮아지는 건 필연적인 일임에도 불구하고 그놈의 '선택'이라는 문제 때문에 AI보다 더 위험한 사람들이 계속 운전을 하게 되는 현상이 벌어짐

포다이 2018-05-26 (토) 04:45

공대생으로써 말같지도 않은 문과들의 분란조장용 자료인듯 싶네요
기계가 사람의 가치를 판단해서 누굴 죽인지 선택하는정도면
사람이 운전했으면 모두를 살릴수 있는 상황인가요?
오히려 사람의 잘못된 판단으로 6명 다 죽일수도 있지만 기계에 프로그래밍만 완벽하다면 최선의 상황 선택합니다.
피할수 없는 사고의 후속 위험도나 주위 환경을 고려해서 판단하는건 당연할텐데
누굴 죽일지 결정하는 기계에 초점을 마추는 문과들의 어이없는 지적질이 굉장히 역겁네요.

개덥다와 2018-05-26 (토) 05:19

분란 조장이라기보단 이런 방향으로도 생각해보고 의견을 나눠보자는거겠죠 1vs5의 목숨이 걸린 상황에서 님이 생각하는 최선이란게 무엇인지는 모르겠지만 그 최선이라는게 혹은 차악이라고 생각하는게 뭔지는 사람마다 다를테니까요

제주밤바다 2018-05-26 (토) 05:23

인문학적 소양이라곤 눈꼽만치도 없는 공대생같으니라고
AI도 결국 프로그래밍이라고 자기 입으로 말해놓고도 자기 말의 모순을 못느끼나
그 최선의 선택을 누가 결정할건데요 AI가 프로그램되어있지도 않은 선택을 뚝딱해줍니까?
이건 위와 같은 상황에서 기계에게 어떻게 행동하도록 프로그램을 하는 것이 최선인가
프로그래머에게 묻는 겁니다.

포다이 2018-05-26 (토) 06:21

자기입으로 말해놓고도 모순을 못느낌?
기계가 어떤 선택을 하는건 기계가 아니고 프로그래머가 조정하는것이고
그건 프로그래머 혼자가 아닌 "사"짜 들어가는 분들하고 논의해서 정하겠죠.
자율주행이라는 AI가 정하는게 아닌 프로그래밍한 사람들의 판단으로 결정하는겁니다.

제주밤바다 2018-05-26 (토) 14:59

이해력하곤 진짜. "프로그래머에게 묻는다" 이게 이해가 안가요?
"자율주행차는 어떤 선택을 하게 될 것인가"라는 문구를
말 그대로 기계에에 대한 의문으로 해석을하니
인문학적 소양이 없는 공대생이라는 겁니다.
이는 본질적으로 타인의 운명을 가를 수 있는 선택의 상황에서
제3자가 아직 오지 않은 미래의 운명을 결정지을 권한을 가질 수 있는가에 대한 의문입니다
그리고 프로그래머가 됐건 무슨 윤리위원회가 됐건
눈에 보이지 않고 숫자로만 표현된 수많은 가정의 상황을 보며 내린 결론이
언젠가 숫자 넘어 실제로 존제하게될 그 생명과 그들의 가족이 겪게될 현실이 되었을때
이를 감당할 각오와 준비가 되었는가에 대한 문제고요

포다이 2018-05-26 (토) 15:48

무슨생각으로 살고있는지 의심스러운 분이네
타인의 운명을 가를 상황이 왔는데 운전자가 판단하면 괜찮고
프로그래머에게 판단을 맡기면 논란의 소지가 되는건가요?
누가 판단하건 타인의 운명을 가른건 마찬가지입니다.
그런 상황이 오는 자체가 문제인거죠.
프로그래머에게 물어서 분란조장하는게 말이 안되는겁니다.

제주밤바다 2018-05-26 (토) 16:05

참 매번 첫줄에 내가 할말을 대신써주시네
대체 뭔생각으로 사는겁니까?
생명의 위협을 받는 상황에서 인간이 방어행위를 하는 것은 본능적인 행동이고
그렇기에 위기 상황에서 생존본능에 의해 일어난 사고에 대해서는 참작을 합니다
그리고 행위에 대한 책임은 당사자가 지게 되어있고요.
위에 카드뉴스 링크를 타고 가봐요
"많은 사람이 희생자의 수가 적은 방향으로 프로그램되는 쪽을 선호했다고 합니다. 다만, 사람들은 다른 사람들이 이런 차를 타기를 바라지만 본인은 타기를 꺼리는 경향이 있다고 합니다."
사회적으로 봤을때 개개인의 생명의 무게에 차이가 있을 수는 없지만
한 개인에게 있어서 생명의 무게는 같을 수가 없어요.
그렇기에 상황 당사자와 제3자의 선택이 같을 수가 없고
당연히 논란의 소지가 있는겁니다.

그리고 이게 문과가 분란을 조장한다고요?
애초에 저 카드 뉴스가 'MIT 테크놀로지 리뷰'에서 나온
"자율주행자동차가 누군가를 죽이도록 설계되어야 하는 이유"
("Why Self-Driving Cars Must be Programmed to Kill.")
라는 논문을 보고 나온 기사에요
님같은 쩌리 공대생이 아닌 석학들은 열심히 고민하는 문제를
저~언~혀 고민할 줄 모르니 님이 하바리 공대생인거에요

제주밤바다 2018-05-26 (토) 16:49

이게 단순한 분란 조장이라고 생각한다면
이참에 트롤리 딜레마와 더불어 연관되어지는 윤리적 문제들
긴급피난, 카르네아데스의 판자, 기대가능성도 좀더 보고오세요.
그런 후에도 당사자인 운전자와 제3자인 프로그래머의 결정을 동일하다고 생각한다면,
그냥 그렇게 사세요.

포다이 2018-05-26 (토) 17:12

거의 메갈급 논리네요 ㅋㅋ
모르면 공부하고 오라니 ㅋㅋ 어이가 없는분이네
본인이 자율주행 모드 주행했으면서 왜 AI탓을 합니까?
자율주행했으면 운전자의 선택이지 설계한 엔지니어를 물고 늘어지다니
다시생각해도 메갈급이네요.

잡지사에서 자극성 있는 제목으로 어그로 끄는건 당연한데
MIT 테크놀로지 리뷰에서 나오면 무작정 믿고 가는겁니까?
논문보고 나온기사는 100% 신뢰하면서 AI는 왜 신뢰 못하나요?
정신차리고 살기 바랍니다

제주밤바다 2018-05-26 (토) 17:50

시발놈이 이젠 메갈같은 소리하고 지랄하네
니 수준이 하도 딱해서 좀 이해영역을 넓히라는 거다
자율주행을 선책하는 것은 실생활에서의 편의를 위한거지
그 자체로 위기상황에서 본인의 의사에 반하는 선택을 동의했다는건
무슨 병신같은 주장이냐?
그러면 내가 AI의 이러한 위기상황 메뉴얼에는 동의할 수 없습니다 그러면
커스텀 제작이라도 해주냐?
이거 진짜 병신대가리잖아? 야 그런식으로 위기상황에 대한 대처 매뉴얼을
개인별로 정해줄거면 애초에 니가 씨부린 '프로그래밍만 완벽하다면'이라는
가정은 어딜가는데?
내가 메갈련들처럼 있지도 않은 지네들이 만든 개념을 공부하라는 것도 아니고
그리스 시대부터 현대 법학이론까지 기본이되는 인문교양에 대한
지식을 가지고 생각하라는게 메갈급으로 보이냐?
그냥 난 똥멍청이라서 공부하기 싫어요라고 해 등신아
테크놀러지의 문제가 아니라고 하는데도 끝까지 AI를 믿네 못믿네 이지랄이니
등신같은 새끼가 이건 해당 테크놀러지의 발달에 깔린 철학의 문제
즉 엔지니어들이 어떤 철학을 가지고 개발하고 있는가라는 인간의 문제야
개빠가야로같은게 미래기술 짱짱맨 이러고 자빠졌으니
기술 건너편의 인간이 보이지가 않지

제주밤바다 2018-05-26 (토) 18:05

도대체 얼마나 인문학적 이해도가 빵에 가까우면
긴급피난, 카르네아데스의 판자, 기대가능성 이 세가지가
생소하게 들려서 메갈들의 공부하세요랑 동급으로 보이냐?
살면서 한번쯤은 다 들어봤을 개념이니 이참에 트롤리 딜레마와 연결해서
위기상황에서 더큰 피해가 예상됨에도 취할 수 있는 비이성적행동
공익과 공익의 충돌, 인간의 자기보호본능에 대한 법률적 용인에 대해
다시한번 생각해보면 쉽게 결론 내려지는 이야기가 아니라는 건데
그냥 세상 처음 들어보는 단어들이라 손부터 덜덜 떨려오고 두통이 오냐?
내가 지금까지 얼마나 똥멍청이놈이랑 대화를 시도한건지
어이가 없어서 자괴감이 다 든다.

포다이 2018-05-26 (토) 18:30

그런 인문학적 견해는 님들끼리 하세요
완벽하고 무결한 AI를 탓하지 마시고 ㅋㅋ
왜 엄한 엔지니어를 끌여들여서 고통분담 하자고 설치는지 ㅋㅋ
문과들이란 ㅉㅉ

포다이 2018-05-26 (토) 18:34

진짜 ㅋㅋ 거의 "아빠한테 이를꺼야" 수준이네
믿을껀 역사밖에 없죠?
그리스시대부터 찾고있네 ㅋㅋ
ㅂㄷㅂㄷ 거리는 진동이 요까지 느껴지는듯

제주밤바다 2018-05-26 (토) 20:23

진짜 하바리 공대생 수준 나오는구나
기술이 아니라 이를 다루는 인간의 문제라고 몇번을 말해도
실질적 문맹새끼라 이해를 못하지
너 솔직히 지방 어디 미달난 대학 다니지?
그런 언어 능력으로 졸업 논문이나 쓰겠냐?
어차피 지금 공학도니 지껄여봐야
결국은 어디 영업사원밖에 못할새끼가 무슨 공대생이라고

포다이 2018-05-26 (토) 20:36

닉부터 감상에 쩔어가지고
뭐 눈엔 뭐 밖에 안보이죠? ㅋㅋ
본인이 그러니까 남도 그럴꺼라는 환상을 버리시길 ^^
허상만 쫒는 망상에서 벗어나길 바랍니다

제주밤바다 2018-05-26 (토) 21:09

내가 처음부터 다시 쭉 읽어봤는데
너 진짜 멍청하다.
와... 진짜... 와.... 세상에...

포다이 2018-05-26 (토) 22:14

쌍욕 시작하더니 논리도 없이 지능 찾고있네 ㅋㅋ
메갈 확실한듯
사람아닌건 걸러냅니다 ㅋㅋ 대화가 안되네

제주밤바다 2018-05-26 (토) 22:43

지능소리 듣고나니 어렸을때 받은 IQ테스트 결과지가
눈앞에 어른어른 거려서 막 부들부들하고그래?
엄마가 서울대공원에 돌고래 쑈 보러 가자는데
돌고래가 '풋 나보다도 지능 낮은 병신ㅋㅋㅋ'하면서 비웃을까봐
안간다고 울고불고 떼쓰며 잠들은 기억이 주마등처럼 스쳐지나가기라도해?
메갈소리 꺼낸건 너새낀데 쌍욕 좀 듣는거야 뭐 어떠니
쳐 맞을소리하는거 욕으로 끝났으면 감사할 일이지
어깨위에 장식으로도 못쓰는 돌덩어리 그냥 때버려라
적당히 사람 대가리면 위에서 부터 차례차례 읽어보라고 해주겠는데
이건 그럴 대가리가 못되니 기대도 안할께
사람들이 기술도입에 대해 반대하는 것도 아니고
미래기술이 현실이 되었을때 다가올 선택의 문제에 대한
사회적 합의를 도출하기 위한 노력의 필요성을
분란 조장으로 치부할꺼면 그냥 나가 뒤져야지
어차피 1/n인생, 누군가가 사회적 합의없이 개발한 소위 완벽한 프로그램이
나가 뒤지라면 나가 뒤질 인생 뭐하러 살아

포다이 2018-05-26 (토) 23:21

역시 문과 다운 장문의 ㅂㄷㅂㄷ
첫줄부터 본인 경험 위주에 ㅂㄷㅂㄷ이 느껴짐
읽을 가치도 없어보임 ^^ㅗ

제주밤바다 2018-05-26 (토) 23:24

아저씨 치킨 얼마에요?
한번에 들고 와놓고 배달료는 왜 두배로 쳐받아요?

새라 2018-05-26 (토) 06:19

문과 이과 나누는것부터 좀 웃기네요.

네 저도 포다이님이 말하는 이과. 공대생 출신입니다.

저런 판단이 거부감이 드는것은 사실입니다만, 언젠가는 판단을 해야 하는 문제입니다.

단순이 IF문만 봐도 선택의 연속입니다. 0이 들어오면 a를 시행하고, 1이 들어오면 b를 시행하라...

나아가 차가 내리막을 달리는고 있는데 브레이크가 고장이 났다. 우측 벽면에 부딪쳐속도를 줄여서 차를 세우면 차는 망가지겠지만 운전자는 살것입니다. 이렇다면 자동차는 자기를 희생하여 운전자를 살릴겁니다.

근데 그 벽면에 보행자가 있다면 보행자를 희생하여 차를 멈춰야 할까요? 아니면 멈추지 말고 그냥 쭉 내려가야 할까요?

자율주행이 아닌 사람이 운전한다면 본능적으로 보행자를 피하는 사람이 많겠지만, 냉정히 판단하면 아닐수도 있습니다. 혹은 사람이 아니라 동물이거나, 물건이라면요

불편하지만 둘중 하나를 희생하는 선택은 계속 있어왔고, 앞으로도 계속 될것입니다.

포다이 2018-05-26 (토) 06:26

문과 이과 나눴다라고 표현하니 좀 웃기긴한데 ㅋㅋ
판검사, 변호사는 결국 법과 말로하는 거니 문과라 하겠습니다.
자율주행법은 결국 문과들이 정한 룰대로 프로그래밍 될 것입니다.
그것을 "자율주행차", "자율주행AI"는 어떻게 판단할 것인가?
라고 제시하는게 더 웃기지 않나요?

새라 2018-05-26 (토) 08:26

내 편의를 위하여 '자율주행'차를 운행함에 있어 타인의 권리를 침해하는 부분이 있다면, 그는 법적으로 따져야 할 문제인것은 맞습니다.

이는 프로그래머에게 법적으로 제제를 가할수도 있는 부분이기도 하거든요.

예로 다때려 죽이라고 프로그램된 제품을 판매할 경우 사용자도 처벌을 받겠지만 생산자도 처벌을 피할수 없는 부분이기도 하니다.

물론 자율주행차의 '자율'이부분이 완전한 스스로 판단하여 주행하지는 않지만, 법적으로 문제가 없는 테두리 내에서 스스로 운행 한다는 부분은 동감합니다. 이는 사람도 별반 다를바 없다고 보여집니다.

흠.. 운동 다녀와서 적다보니 제가 오락가락하네요 ㅎㅎㅎ

포다이님 의견은 충분히 이해 했는데 제가 설명할 재주가 없네요

좋은 하루 되시기 바랍니다.

포다이 2018-05-26 (토) 15:58

"자율주행"이 타인의 권리를 침해하는 부분이 이해하기 어렵네요.

자율주행은 장거리 운전수, 귀경길 막힌도로, 졸음운전, 음주운전, 속칭"김여사", 장애 운전자 등등 필요한 사람이 쓰겠죠.

자율주행을 한다고 하여 타인의 권리를 침해할거라는 생각은 피해의식이 너무 큽니다.

사고라는건 언제 어디서 불시에 나타날지 모르는 일입니다.

사람은 예상치 못한 현상에 당황하는 경우가 대부분입니다.

그것을 "자율주행"이 판단했다고 문제 삼는게 말이 안되는겁니다.

운전자가 판단했거나 "자율주행"이 판단했거나 사고는 사고입니다.

"운전자"가 "자율주행"기능을 사용했으면 그 결과에 따른 책임도 "운전자"에게 있는겁니다.

이걸 왜 "자율주행"의 판단으로 다 뒤집어 씌워야 하는지 어이가 없네요

어리움 2018-05-26 (토) 06:26

책임소제의 문제가 생긱는겁니다 그렇게 사고당하고 자연재해쯤 치부하실꺼라면 머 상관 없을수도 있겠네요 님에게는

멋진사나타 2018-05-26 (토) 04:52

사회공헌도 X
인간관계 공헌도 O
연령, 직업 등 같은 조건일 경우 같이 살고 있는 가족이 더 많은 사람이 우선적으로 보호된다.
인구절벽상황을 해결하기 좋겠네요.

피피어스 2018-05-26 (토) 05:53

기계가 판단을 하는게 아니라
판단 로직을 짠 사람이 이미 판단한 겁니다

어리움 2018-05-26 (토) 06:29

인공지능과 빅데이터는 상황을 학습할것입니다 그렇게 된다면 판단로직을 짠사람의 의도와 다른 결과값이 생길수도 있는것이죠

이미 충분히 예상할수있는 가정입니다 실제로 언어학습 프로그램이 지들끼리 은어만들어 사용하고 있었다던 기사를 읽었습니다

그러니 스스로 학습하는 인공지능이 결정하여 사건이 벌어진다라는 상상을 해보세요

책임소제도 애매해지면서 그 자연재해급?에 운전자 자신도 포함되어있는것 입니다

피피어스 2018-05-26 (토) 06:48

학습 로직도 사람이 짠건데요 뭘

책임 소재는 법률로 정하게 되겠죠
자율 운전 차량의 탑승자가 책임을 피할수 없다면
그 리스크를 안고 운행하거나 그러지 않거나 개인의 선택입니다.

얼마전에 미국에서 첫 자율주행차 테스트중 인명 사고가 일어났지만요
긴급 상황에서 인간의 대처 능력이 기계보다 낫다고 말하기도 힘들죠

어리움 2018-05-26 (토) 07:04

제 이야기를 이해하지 못하셨나보네요 학습로직을 사람이 짜도 결과급이

인공지능의 학습으로 사람이 예상한 로직을 벗어나버리는 경우가 생길수 있다는 겁니다

우리가 예상하는 범위를 벗어나는 발전이 이루어질꺼라고 봅니다

인공지능의 학습능력 발전상황을 보면 1년단위로도 예상하기 힘들정도의 발전이 이루어질꺼라고 봐요

피피어스 2018-05-26 (토) 07:17

걱정하시는거 이상으로 예상하는 범위를 벗어나는 발전이 일어날꺼에요
걱정 안하셔도 되게요

어리움 2018-05-26 (토) 07:09

그리고 자율주행 차량에 대한 이야기를 한다지만 인공지능의 자율은 전방위적으로 영향력을 미칠겁니다 이게 자율주행을 예로 설명하는것이지만

실제로는 의도하지 않은 상황으로 학습하여 결과를 돌출하게 되는데

님이 말씀하신거처럼 개인의 선택으로 이 인공지능 자율을 선택하는것이 아니라

직간접적으로 이 인공지능과 엮여서 살게될 미래를 말하는 겁니다

그러니 예상할수 없는 미래일이라고는 하나 지금부터라도 이 부분에 대하여 생각을 해봐야 한다는거죠

포다이 2018-05-26 (토) 07:34

영화를 너무 많이 보신거 같네요
다 예상할수 있는 범위내에서 인공지능 설계 가능합니다.
님이 걱정할정도로 자율성있게 인공지능을 짜는건 다른 분야겠지요
자율주행과는 전혀 관계없는 AI입니다.

해송충이 2018-05-26 (토) 07:44

당연히 기술을 개발하고 상용화함에 있어 충분한 검토와 시행착오를 거쳐서 보완할필요가 있는 문제이지만 기차에 브레이크를 달아본다던가 선로에 사람이 못들어오도록 설계한다던가 애초에 끊긴 다리가 생기면 바로 경보가 울리고 전파되어서 최소 몇킬로미터밖에서 선로를 우회한다던가하는 이미 나와있고 실현된 기술을 싹 무시하고 로또확률로 생길만한일을 일반화해서 안해도되는 고민을 하게만들어서 지가 무슨 존나 남들과는 다르게 지적인 지식인인양 행세하는 글이네요.

해송충이 2018-05-26 (토) 07:56

비행기가 추락하는 와중에 몇백명이 거주하는 아파트에 박을지 사람몇명없는 학교에 박을지 파일럿이 판단하는데 자기가 죽을건 확실하고 그나마 피해가 적은 학교에 박겠지만 그학교에 자기 아들이 있다면 반드시 인구가 적은 학교에 꼬라박한다고 단정지을수있습니까? 그런 영화에서나 나올법한 상황을 만들기보다는 사고가 안나는 방향으로 개발하는게 올바른 방향아닌가요?

그기까지 2018-05-26 (토) 08:02

나(주인)>5>1

건111 2018-05-26 (토) 11:35

피할 수 없는 선택의 순간이 온다는 것을 가정하는 것이 맞겠죠?

으어니 2018-05-26 (토) 11:46

저런 극단적인 상황을 왜 예시로 드는지 모르겠네 ㅋㅋ
뭐든 극단적인 상황을 예로 들어버리면 기술 자체가 발전이 안됨
극단적으로 비행기는 추락할건데 왜 띄움?
극단적으로 산업기계에 사람이 끼어서 죽어버릴건데 왜 만듬?
극단적으로 자동차 사람 치어 죽일건데 왜 만듬?
좌로 꺾으면 의사고 우로 꺾으면 인부라고? 그게 가능한 상황이면 브레이크 잡힌다
그런 선택이 가능하면 사고도 안나지 ㅉㅉ