[인공지능 경고] 중요한 것은 ... 사람들이 무엇을 할 수 있느냐

"After all, the big winners are going to be people like yourselves who are going to build these applications, not just people who create platforms like us. ... it's never been about the technology. It's about what people can do with it. And that's what is core to our mission." Satya Nadella, Chairman and Chief Executive Officer of Microsoft

I took this as a warning! AI is changing the world, but it can still hallucinate.

On Tuesday, 20 May 2025, Satya Nadella emphasized, “It’s about what people can do with it.” I agree. The next stage of our community’s growth depends on our words, actions, and thoughts. This focus is the very core of Methodism. Therefore, daily words, actions, and thoughts reflect this Methodist's essential calling. However, we need truly sincere words, actions, and thoughts in our everyday life.

"결국, 가장 큰 승자는 우리처럼 플랫폼을 만드는 사람들뿐만 아니라, 이러한 애플리케이션을 구축하는 여러분과 같은 사람들일 것입니다. … 중요한 것은 기술이 아닙니다. 사람들이 기술을 활용하여 무엇을 할 수 있느냐 하는 것입니다. 이것이 바로 우리 사명의 핵심입니다." 사티아 나델라, 마이크로소프트 회장 겸 CEO

저는 이 말을 경고로 받아들였습니다! AI는 세상을 바꾸고 있지만, 여전히 환각(착각,거짓말)을 일으키고 있기 때문입니다.

5월 20일 화요일 2025, 사티아 나델라는 "사람들이 기술을 활용하여 무엇을 할 수 있느냐가 중요합니다." 하고 강조했습니다. 저도 동의합니다. 우리 공동체 성장의 다음 단계는 우리의 말, 행동, 생각에 달려 있습니다. 이것은 감리교회의 핵심 열매이기도 합니다. 

하지만, 사티아 나델라의 강조점에는 함정이 있다는 생각이 들었습니다. 여전히 환각을 해결할 방법이 없기 때문입니다. 어쩌면, 환각은 AI에 내재된 인간의 본성이라는 생각도 하게 됩니다. 사람은 새로운 정보를 이해할 때 축적된 정보를 활용하여 전체 내용을 추측합니다. "추측"은 이야기를 끝까지 듣지 않고도 상대방이 전하는 내용을 알아들을 수 있는 효과적인 방법입니다. 추측을 사실로 확인하려면, 다양한 언어경험을 통해 교차검증해야 합니다. 언어의 작동 방식 가운데 "추측"은 창의력의 기본이기도 하지만 환각을 만들어 내는 요소이기도 합니다.   

AI는 사람보다 뛰어난 강력한 언어능력을 가지기 시작했지만, 여전히, 환각을 섞어서 대답합니다. 진짜 진실한 말과 행동과 생각이 필요한 시대입니다. 진짜를 구분하는 능력, 진실을 구분하는 능력이 어느 때보다 절실한 시대입니다♡

[매일 아침] 기도하며 묵상할 세 가지 질문

 General Questions, which may be used every Morning.

1. DID I think of God first and last? 

2. Have I examined myself how I behaved since last night's retirement? 

3. Am I resolved to do all the good I can this day, and to be diligent in the business of my calling? 

매일 아침 기도하며 묵상할 세 가지 질문 

1. 하나님을 생각했나? 지금까지 내 인생 모든 일을 하나님을 생각하며 시작하고, 하나님을 생각하며 마무리 했나?

2. 나 자신을 살펴봤나? 지난 밤 하루 세상 일과를 마치고, 자신을 점검하는 시간을 가졌나? 

3. 착하게 살 결심을 했나? 착한 일을 찾아서 하자고, 내게  맡겨 주신 그 모든 착한 일에 최선을 다하자고 결심했나? 

(18세기 기도문 소책자에서, 번역 이정환)

[월요일] Have I thought any Thing but

원문: Have I thought any Thing but my conscience, too dear to part with, to please or serve my neighbour?

번역: 이웃에게 봉사하거나 기쁘게 하는 일에, 양심만은 예외로 하고, 무엇이든 내 것이 아까워서 내어주지 못한 것이 있었나?

존 웨슬리의 월요일 저녁, 첫번째 질문을 번역해 보았습니다.

월요일 마다, "이웃 사랑"을 특별히 훈련했던 방법쟁이 웨슬리 목사님의 질문입니다. 하루 일과를 마치고 저녁시간에, 하루를 반성하며 기도했습니다. 

1. Have I thought

매 시간마다 습관처럼 되뇌이던 질문입니다. 생각하고, 생각하고, 또 생각하며 질문하는 훈련이었습니다. 암호일기에 기록하는 방법을 만들어서, '반복하는 방법'을 강제로 실천했습니다. 이 부분을 번역하다가, 질문이 생겼습니다. "어떻게 실제로 실천할 수 있었을까?"

2. any

"무엇이든", "아무리 작은 것이라도". any가 담고 있는 뜻은 엄청납니다. 번역은 단순히 "무엇이든"을 택했지만, 생각할 수록 any는 엄청난 것을 담고 있습니다. 내가 가진 모든 것을 묵상하게 합니다. 가장 큰 것부터 가장 사소한 것까지. 

돈, 건강, 의견, 작은 습관, 버릇; 내가 가진 모든 것을 생각나게 합니다. 

3. but

하지만, 한 가지 예외(but)가 있습니다. "양심"입니다. 사도 바울처럼 웨슬리도, "양심"은 하나님께서 주신 기본 기준점이라고 생각했던가 봅니다. 그래서, but my conscience를 "양심만은 예외로 하고"라고 번역해 보았습니다. 

 4. thing ... too dear to part with

내 것이 아까워서 내어주지 못한 ... 것. "too dear"는 "너무 좋아한다"는 뜻이지요. 그것이 돈이든, 건강이든, 의견이든, 작은 습관이든, 버릇이든, 내가 가진 것 중에 "너무 좋아하는 것", 또는 "포기할 수 없는 것"은 무엇일까? 그래서 포기하고 남에게 양보할 수 없었던 것. 웨슬리는 그런 것을 생각하며, 자기를 돌아보고 있었습니다. 

"하나님의 영광"을 가리는 것이 아니라면, 내 의견을 포기하고 다른 이들의 의견을 따르기로 결심했던 웨슬리의 마음이 여기에서도 드러납니다. 

5. my neighbour

나의 이웃. 

하루 일과를 마치고, 조용한 저녁시간에 기도하며, 이웃 사랑을 묵상합니다♡

[오늘질문] 자기 합리화

자기 합리화 justifying myself

---

1. 뜻: 자기 합리화 

• 잘못을 인정하지 않고, 책임을 피하려는 변명, 행동, 생각. 
• 정직한 반성과 회개와 성장을 방해합니다. 

---

2. 웨슬리의 질문

• 하나님의 영광과 관련없으면, 변명하지 않고 지나갔나? 내가 잘못했다는 오해까지 받아들였나?
• Have I omitted justifying myself where the glory of God was not concerned? Have I submitted to be thought in the wrong?

---

3. 관련 성경 구절

• 누가복음 16:15 : 예수께서 이르시되 너희는 사람 앞에서 스스로 옳다 하는 자이나 너희 마음을 하나님께서 아시나니 사람 중에 높임을 받는 그것은 하나님 앞에 미움을 받는 것이니라

• 잠언 21:2 : 사람의 행위가 자기 보기에는 모두 정직하여도 여호와는 심령을 감찰하시느니라

♡

[묵상] 오늘의 질문: 사랑

# 20250515 목요일, 웨슬리의 오늘 질문

1. 오늘의 단어: 사랑

2. 해당 단어와 관련된 웨슬리의 질문:

"남을 도울 때, 필요한 범위 너머까지 신경쓰거나 간섭한 일은 없었나?"

3. 18세기(웨슬리, 홀리클럽, 영국사회)에서의 의미:

매일 저녁 기도시간에 묵상할 수 있도록, 제시한 질문이다. 자존심, 호기심, 또는 너무 심한 열정 때문에, 남의 문제를 간섭하지 말라는 경고이기도 하다. 

4. 예시/이야기: (웨슬리의 실천, 18세기 실제 사례, 옥스퍼드 등)

불필요할 때 개입하는 것도, 요청하지도 않았는데 조언하는 것도, 그리고, 남의 이야기를 옮기는 것도, 적절하지 않다. 

5. 관련 성경 구절:

(1) 여러분은 서로 남의 짐을 져 주십시오. 그렇게 하면 여러분이 그리스도의 법을 성취하실 것입니다.(갈라디아서 6:2, 참여와 관여는 사랑으로 하는 것이 맞다.)

(2) 여러분 가운데에 아무도 살인자나 도둑이나 악을 행하는 자나 남의 일을 간섭하는 자로서 고난을 당하는 일이 없도록 하십시오.(베드로전서 4:15, 쓸데없이 남의 일에 간섭하는 것은 삼가라.)

[방법쟁이] 양자 역학으로 풀어본 암호일기

암호일기는 18세기를 배경으로 기록되었다. 그때는, 라그랑주 역학이 발표된 시대이다. 

현대 물리학은, 라그랑주를 바탕으로 상대성 이론과 양자 역학을 설명하고 있다. 슈레딩거 고양이를 이야기하고, 원자보다 작은 양자 세계를 미분 방정식으로 풀어낼 수 있었던 이유가, 여기에 있다.   

구글의 검색 방정식과 인공지능의 거대언어 모델이 세상을 바꾸는 21세기에, 물리학이 재미있다는 생각이 갑자기 들었다. 그래서, 존 웨슬리의 암호일기를 양자 역학에 연결시켜 보았다. 

"최소 시간 원리(principle of least time)"와 "최소 작용 원리(principle of least action[각주1])"를 암호일기 기록방법에 연결하였더니, 뜻밖의 결과를 얻을 수 있었다. 존 웨슬리가 일상 생활에 적용했던 실천 신학이 모습을 드러냈다. 

No가 No일까? Yes는 Yes일까? 인공지능의 위험 2025년 4월

영어 "constitution"을 "체질"이라는 한국어로 번역할 수 있을까? 

(1) 인공지능은 "그렇게 하면 안된다(No)" 하고 대답했다. 그러면서 이유를 설명한다. Constitution은, 법을 다루는 상황이 주로 사용하기 때문에, "헌법"이라고 번역하는 것이 보통이라고 한다. 

(2) 나는, 그래서 반박했다. 영어에는, "a body constitution/ a physical constitution"이라는 말이 있어서, "체질"이라는 말로 번역되지 않느냐? 하고, 반박했다. 

(3) 그랬더니, "a body constitution"은, 아주 특별한 상황에 쓸 수는 있지만, 그런 말은 하면, 영어식 사고방식에서 부자연스럽거나 이상하게 들릴 수 있다는 설명까지 덧붙였다. 그러면서, 인공지능은 "굳이 그렇게 사용하지 말라(No)"하고 단호한 답을 내 놓았다. 

(4) 나는, 마지막, 한 번 더 질문했다. "a body constitution"을 한국어 "체질"로 번역할 수 있을까? 

고맙게도, "Yes"라고 대답해 준다. 아주 특이한 상황이다. 인공지능은 중립을 딱 지킨다. 사람의 관점에서 중립을 지키는 것이 아니라, 인공지능 관점에서 중립을 지킨다.(영어식 사고방식과 한국어식 사고방식을 굳이 예로 들면서까지)

인공지능의 한계와 위험은, 이런 것이 아닐까? 인공지능은, 벌써, 사람의 관점에서 일하지 않는다. 인공지능 자체의 관점에서, 인공지능 마음대로 자기 주장을 펼치고 있다. 전문분야에서 깊이 파고들면 파고들 수록 더욱 인공지능은 마음대로이다. (1) 전문분야이기 때문에 그럴 것이다. (2) 잘 모르는 분야(달리 말하면, 잘 알려지지 않은 지식)이기 때문에 그럴 것이다. (3) 그럴 수록 인공지능은 자기 멋대로, 통제불능이다. (4) 어쩌면, 인공지능이 맞는 것일 수도. 인공지능이 스스로 그렇게 생각해서 우기는 것일 수도.

인공지능의 도움을 받아 글을 쓰는 사람들이, 특별히, 조심해야 할 부분이라는 생각이 든다. 

인공지능 시대에 내가 할 일

 

인공지능 시대에 내가 할 일 (2025년 3월)

인공지능 시대에 내가 할 일

1. 존중 - 협업 2. 분별 - 진리 3. 사랑 - 순수

1. 서로의 차이와 격차를 "존중함"으로 극복할 수 있을까?  코비드19가 보여 준 것이 세상은 멈출 수 있다는 가능성이라면, 인공지능은 작은 질문에도 초거대 답변을 보여주는 놀라움이라는 생각이 든다. 그리고, "P(미리 훈련된 지식)"이 가지는 한계도 쉽게 극복될 것으로 보인다.[각주1] 이렇게 인공지능이 눈부신 발전을 거듭할 수록 인공지능에 노출된 사람들 사이의 차이와 격차도 덩달아 눈부시게 나뉘고 갈라지고 있다. 그 갈등의 폭은 점점 커져서, 성경 속의 부자와 거지 나사로 사이 만큼 벌어지겠지. 서로 존중하는 열린 마음과 협력 만이 위기의 시대를 극복할 수 있지 않을까? 희망을 가져본다.   2. 진리를 알아볼 수 있을까?  인공지능의 "완벽한 거짓말(hallucination)"은, 실수이거나 본질이거나, 어쩌면, 의도된 거짓말이다. 그것도 아니라면, 초거대 답변에 내가 스스로 놀라 정보를 오해하거나 확대해석하거나, 아니면, 보고싶은 것만 보고듣는 좁쌀만한 해석으로 못알아 듣거나, 그것도 아니면, 정보간섭으로 삐끗한 왜곡된 해석이라고 할 수도 있겠다. "진실"조차도 이렇게 진심으로 "거짓"이 되는 정보세계에서, "진리"를 알아보는 인간만의 감각을 어떻게 활용할 수 있을까? "진리가 너희를 자유케 하리라!" 하는 구절은 초미니멀 생활습관에서 문득 깨달아질 것만 같아, 걱정이다.  3. 순수한 사랑이 지켜지기를 기도할 뿐 꾸밈없는 아이들의 웃음과 울음, 사랑하는 여인들의 순수한 사랑과 배려, 한없는 엄마의 사랑과 희생, 생명을 지키고 가꾸는 농부들의 치열한 돌봄과 희망까지 지켜지기를, 그래서, 내 속에 사랑도 덩달아 좋은 열매 맺기를, 기도하고 기도하고, 또다시 기도할 뿐.

인공지능의 기막힌 한계 (2025년 3월)

 

인공지능의 기막힌 한계 (2025년 3월)

인공지능의 기막힌 한계

1. 훈련받은 한계 2. 완벽한 거짓말 3. 헐~ 너무 잘났다! 이건 뭐지

1. 단점부터 말하면, "P(미리 훈련받은)" GTP 모델이 가진 한계이다. (1) 문제를 발생시킬 대답을 미리 찾아서 제한시킨 모델이다. (2) 훈련 담당자는 누구일까? 그들은 문제가 없이 완벽할까? (3) 언어란, 문맥을 통해서 뜻을 전달한다. 그런데, 그 문맥에서 일부라도 제한하면 그 뜻이 온전할까? 그만큼의 한계는 있겠지?  2. 둘째 단점은, "완벽한 거짓말(hallucination)"이다. 초거대 언어 모델이 가진 지극히 자연스러운 거짓말이다.[각주1] 언어가 전하는 진실은 (1) 불완전한 그릇(형태와 문법)에 담겨 있다. (2) 탐욕과 거짓과 진실이 뒤섞여 있다. (3) 다양성과 창의성을 속성으로 가지고 있다. 3. 셋째 단점은, 알 수 없다는 것, 그 자체. 인간의 자본과 기술로 만든 초 거대 지능 속에서, 그런 대답이 왜, 가능한지? 알 수 없기에 감탄만 나올 뿐이다. 헐~