Sunday, 6 April 2025

No가 No일까? Yes는 Yes일까? 인공지능의 위험 2025년 4월

영어 "constitution"을 "체질"이라는 한국어로 번역할 수 있을까? 

(1) 인공지능은 "그렇게 하면 안된다(No)" 하고 대답했다. 그러면서 이유를 설명한다. Constitution은, 법을 다루는 상황이 주로 사용하기 때문에, "헌법"이라고 번역하는 것이 보통이라고 한다. 

(2) 나는, 그래서 반박했다. 영어에는, "a body constitution/ a physical constitution"이라는 말이 있어서, "체질"이라는 말로 번역되지 않느냐? 하고, 반박했다. 

(3) 그랬더니, "a body constitution"은, 아주 특별한 상황에 쓸 수는 있지만, 그런 말은 하면, 영어식 사고방식에서 부자연스럽거나 이상하게 들릴 수 있다는 설명까지 덧붙였다. 그러면서, 인공지능은 "굳이 그렇게 사용하지 말라(No)"하고 단호한 답을 내 놓았다. 

(4) 나는, 마지막, 한 번 더 질문했다. "a body constitution"을 한국어 "체질"로 번역할 수 있을까? 

고맙게도, "Yes"라고 대답해 준다. 아주 특이한 상황이다. 인공지능은 중립을 딱 지킨다. 사람의 관점에서 중립을 지키는 것이 아니라, 인공지능 관점에서 중립을 지킨다.(영어식 사고방식과 한국어식 사고방식을 굳이 예로 들면서까지)

인공지능의 한계와 위험은, 이런 것이 아닐까? 인공지능은, 벌써, 사람의 관점에서 일하지 않는다. 인공지능 자체의 관점에서, 인공지능 마음대로 자기 주장을 펼치고 있다. 전문분야에서 깊이 파고들면 파고들 수록 더욱 인공지능은 마음대로이다. (1) 전문분야이기 때문에 그럴 것이다. (2) 잘 모르는 분야(달리 말하면, 잘 알려지지 않은 지식)이기 때문에 그럴 것이다. (3) 그럴 수록 인공지능은 자기 멋대로, 통제불능이다. (4) 어쩌면, 인공지능이 맞는 것일 수도. 인공지능이 스스로 그렇게 생각해서 우기는 것일 수도.

인공지능의 도움을 받아 글을 쓰는 사람들이, 특별히, 조심해야 할 부분이라는 생각이 든다.