도덕적 갈등 (10)

강: “도덕적 갈등” 열 번째 시간이에요. 교수님이 만났던 공대출신 의대생이 알고리듬을 만들어서 도덕적 갈등을 벗어날 수 있게 하겠다는 그 프로젝트에 대해 했어요. 

샘: 어떤 갈등상황에서 알고리듬을 돌려서 해결책을 뽑아내려면 그 이전에 유사한 사례들이 들어가야 하고 그 사례들을 도덕적으로 유의미한 방식으로 검토되는 과정에 결과적으로 도출된 해결책까지 정보가 많이 들어가 있으면 될 것 같지만 사실을 그런 생각이 문제 있는 환상이라는 거죠.

강: 네에 저는 그냥 뭔가 꺼림칙하기는 해요.   

샘: 윤리적 갈등이나 그 갈등에 직면한 사람이 겪는 실상에서 눈을 돌리게 하기 때문이죠. 

강: 음, 눈을 돌리게 하는 자체가 뭐가 문제인지는 모르겠어요. 유사사례가 기록된 적이 없었던 경우에는 알고리듬을 돌려도 나오는 게 없겠다는 생각은 들지만요.  
샘: 그렇죠! 인공정액주입술을 요청하는 레즈비언 사례가 그렇겠지요. 

강: 예예. 그래도 일단 유사한 사례들의 가치갈등을 해결했던 기록들이 모이는 장면을 상상하는 것은 기분이 좋아요! 

샘: 자, 문제에 집중합시다! 유사한 사례들에서 나온 해결 알고리듬. 그게 있으면 모든 문제가 끝나는 걸까요?

강: 알고리듬을 만들 때 들어간 것들이 앞으로의 사례를 다 결정한다는 것 자체가 꺼림칙한 이유였다는 생각이 들어요.   

샘: 내 생각과 통하는 것도 같긴 한데 무슨 뜻이죠? 

강: 뭔가 가만 생각을 해보니까요. 귀납논증에 대한 과학철학자들의 비판을 떠올릴 수밖에 없어요. 과거의 사례들을 가지고 도출한 결론을 앞으로의 사례에 그대로 적용하겠다는 것이 근본적으로 한계가 있으니까요. 이전 사례들과 앞으로의 사례가 같다는 가정이 흔들리면 다 무너지잖아요.

샘: 틀린 건 아닌데 그게 전부는 아닙니다. 

강: 아, 그러면 어떤 생각을 더 해볼 수 있을까요? 

샘: 지금 직면한 가치갈등 사례가 이전의 사례와 유사성을 따진 다음 알고리듬을 돌리도록 프로그램을 짜긴 하겠지만 충분히 유사한지 여부는 직접 판단할 수밖에 없지 않겠어요?

강: 예, 그렇다면 유사사례가 있더라도 무작정 알고리듬만 믿고 돌려도 안 되겠네요.  

샘: 만일 유사성이 보증된다는 가정하고 생각해봅시다. 그러면 끝난 걸까요? 그것도 아니죠? 

강: 그 다음 과정에서 알고리듬 자체를 문제 삼을 수 있을까요? 

샘: 유사성만 보증되면 같은 방식으로 처리할 수 있다는 가정도 문제 삼을 수 있겠죠? 

강: 예에, 전례를 따를지 말지 그 자체가 하나의 도덕적 결정사항이 된다는 말씀이시네요. 

샘: 전례의 판단이 제대로 되지 않았을 여지는 늘 남아있고 해당사례에서 꼭 그 결론대로 하지 않고 다르게 행동할 수 있는 여지도 늘 있지 않겠어요? 

강: 예. 그래서 결론은 알고리듬 제작에 들어간 데이터가 많다한들 여전히 도덕적 판단의 문제는 남을 수밖에 없다 이것이군요! 

(다음호에 계속)