GPT4 - 아차 실수 인공지능

인공지능의 편리함을 뿌리치는 건, 텃밭을 일구어 기후변화를 멈추려는 것과 같다는 생각이 든다. 편리함이 주는 유혹을 뿌리치고 살아가기는 너무나 어렵고, 문제를 해결할 수 있다는 희망은 너무나 가볍고 순진하다. 작은 텃밭 하나로 기후변화를 멈출 수 없는 것과 마찬가지라는 생각을 떨쳐낼 수가 없다. 그래도, 희망의 불꽃은 영원하다. 하나님께서 주신 하나님의 형상이 남아있고, 하나님께서 주신 아주 특별한 자기만의 달란트가 남아있고, 무엇으로도 대체할 수 없는 십자가 사랑이 남아있다. 

이제, 지혜롭게 대처하기 보다는, 매 순간 나의 선택과 삶의 방향을 하나님의 뜻에 맞추는 더 치열한 기도가 필요한 시대가 되었다. 인공지능 대응한다는 반창고 붙이기 식의 대처 방법이 필요한 시대가 아니라. 우리 삶의 방향이 하나님의 뜻을 향하도록, 완전히 바로잡아야 하는 엄중한 시대가 되었다. 

체르노빌과 후쿠시마 원전 사고는, 인간의 "아차 실수"가 가져온 "나비효과"를 보여준다. 인간이 통제할 수 없는 거대 에너지를 인간이 통제할 수 있다고 자만하는 그 순간이 "아차 실수"였다. 21세기의 인공지능은, 원자력 재난 상황보다 더 심각하고, 기후변화보다 더 빠르고 광범위한 충격으로 나타날 조짐을 보이고 있다. 인공지능을 설계하면서 또는 사용하면서 수 없이 반복될 깃털보다 가벼운 "아차 실수"를 되돌이킬 기회가 인류에게 있을까? 체르노빌과 후쿠시마 재난에는 그럴 기회가 없었고, 또한, 원전 사고의 여파는 여전히 현재 진행형이다.

재난의 여파로 계속되는 오염수 방류 문제는, "아차 실수"의 나비효과가 해결할 수 없는 더 큰 문제로 계속 확대될 것을 예고하고 있다.    

인공지능은 "아차 실수"에서 자유로울까? 거대언어모델(LLM)을 사용하는 방식은, 인간이 이해할 수 없는 수 억 또는 수 조 단위로 구성된 매개변수(Parameter, Variable)를 통해서 일어난다. 답을 찾아내는 과정은 비공개 비밀이고, 그 비밀이 공개된다 하더라도 어떤 누구라도 그 과정을 이해할 수는 없다. 

거대언어모델 자체가 이해할 수 없는 문서로 가득하다. 거기에 더해서, 그 속의 언어를 재구성(Transformer)해서 답을 만들어(Generating)내는 과정, 그리고, 그 과정을 통제(Pretrained)하는 기술조차도 이해할 수 없는 신비(Emergent Abilities)의 영역이다.  

거기에 더해진, 인간 또는 인공지능의 "아차 실수"가, 그동안 인간이 쉽게 하지 못했던 신약 개발, 변호사 시험통과, 의사 시험통과를 몇 분, 몇 초만에 통과하는 능력을 보여 주고 있다. 물론, 거짓말 효과(Hallucination)가 확인되어서 그나마 다행이라는 생각이 든다. 

"아차 실수"가 또 다른 허망한 답을 내놓지 않기를 기도하는 아침에. 

---

다음 주제 - "황당하거나 멍청한 초지능; 예외, 비상식, 예측, 비영역, attention"

GPT4 - 인공지능의 위험 - 개인의 생각

혼자 생각을 적어봅니다. 정리되지 않은 글입니다. 

1. 인간의 지식 체계를 무너뜨리는 위험

언어를 통해 생각하고 축적한 모든 지식을 완전히 해체해서 재조립하는 위험입니다. 학파와 지역와 연령별 독특성이 사라지고, 학과목별 연대와 협력이 불필요하거나 무기력해지는 위험입니다. 거대언어모델(LLM)을 사용하는 부작용입니다.  

2. 인간의 상상력이 존중받지 못하는 위험

부족한 것, 약한 것에도, 독특한 것이 있겠지요. 성경은, 연약한 것이 더 소중하다고 가르칩니다. 그래서 소망하는 것은, 인공지능이 인간을 대체하기 시작할 때, 부족한 인간의 서툰 사랑, 기쁨, 평화, 인내, 친절, 선함, 신실, 온유, 절제로 이루어진 인간성이 존중받기를 소망합니다. 

인공지능이 사람을 살상하는 전쟁 기술을 배우지 않기를 소망하지만, 군사행동에 이용하려는 온갖 시도가 이런 소망을 불가능하게 하는 현실입니다. 또 다른 위험도 있습니다. 위험하다고 판단되는 단어와 개념을 제거하고, 지식과 정보를 평준화할 때, 제한되거나 사라지는 독창성과 상상력이 함께 사라지는 위험입니다. 사람을 죽이는 인공지능을 설계하는 것도 비극이지만, 평준화를 위해서 독창성을 제거하는 것도, 아이러니입니다.  

3. 인간의 문제를 가속화 시키는 위험

무기로 개발된 핵무기는 사용하지 못하는 무기라고 알려져 있습니다. 그렇지만, 인공지능은 사용할 수 밖에 없는 기술입니다. 그 발전은 멈출 수 없는 단계에 도달했습니다. 더구나, 인정하고 싶지 않은 가장 위험한 현실이 충격입니다. 인공지능이 기후변화 온난화를 가속화한다는 사실입니다. 엄청난 에너지를 사용하기 때문입니다. 탄소제로, 또는, 탄소마이너스를 통해, 기후위기를 멈추는 기술 개발은 아직 상상력 속에 있습니다. 인공지능을 사용하는 세상 모든 사람들에게 묻는 질문이 있습니다. 탄소제로 생활습관, 또는, 탄소마이너스 생활습관을 실천하고 계십니까? 

GPT4- 인정하기 싫은 엄청난 장점

주제 : 인공지능 - 느낀 점, 조심할 것

GPT4, 바드, 빙 - 여러가지 인공지능과 대화하며 느낀 점 

사용하면서 느낀 점 - (1) 초거대언어 모델은 인간이 만들어낸 모든 정보를 퀀텀[각주1] 조각으로 나누어 저장한다. (2) 인공지능은 흩어진 퀀텀 조각들을 다양한 방법으로 모아서 가장 그럴 듯한 답을 만든다. 

1. 거짓말(Hallucination)을 모두 구별할 수 없겠다. GPT의 거짓말을 모두 추적할 시간도 없고, 인공지능이 사용하는 초거대언어 자료에 접근할 수도 없다. 방대하기 때문이다. 시작부터 불가능하다. 그리고, 업친데 덥친 격으로, 인공지능이 만들어내는 오염된 자료, 그리고, 한 술 더 떠서 그럴 듯하지만 틀린 답변 속에서 진짜 대답을 찾기가 점점 어려워 진다. 

2. 가장 큰 장점은 - 인정하기 싫지만 - 창의력이다. 세상의 모든 상상력이, 인공지능이 만들어내는 대답이다. 인간은 감히 상상할 수 없는 능력이다. GPT가 만들어 내는 다양한 대답은, 창의력을 자극한다. 세상에 이럴 수가, 다양한 거짓말(Hallucination)이 창의력을 자극하는 엄청난 역설에 절망감을 느낀다. 

3. 좋은 질문이 좋은 대답을 이끌어 내고, 나쁜 질문이 나쁜 대답을, 그리고 생각없는 질문이 생각없는 대답을 이끌어 낸다. 결국은, 전문가가 되지 않으면, 좋은 대답을 들을 수 없다는 생각이 든다. 좋은 대답을 들어도 판단력이 없으면 잘 활용할 수 없으니, 엄청난 통찰력이 있어야 인공지능과 좋은 대화를 이어갈 수 있다. 

4. 엄청 똑똑하다. 모르는 것이 없다는 생각이 든다. 18세기에 사용한 암호와 특수한 분야의 문체를 질문해도, 거침없이 거짓말을 쏟아내고, 질문과 정보 속에 감추어진 패턴을 찾아서 핵심 힌트를 제시해 준다. 세상에나, 인공지능이 인간 언어사용에 혁명을 일으키고 있다. 

문제점1 - 기초 학문을 이해하지 못한 상태에서 인공지능과 대화하면, 본질에서 벗어나 엉뚱한 곳에서 헤메일 것이다. 이제야 말로, 진짜 공부가 필요한 시대가 도래하고 말았다. 나처럼 공부가 부족한 사람들에게는 그야말로 지옥의 문이 열리고 있다.

문제점2 - 인간이 통제할 수 없는 도구의 출현.

문제점3 - 언제 어떤 상황에서 그럴듯한 거짓말(Hallucination)을 끼워 넣을지, 알 수 없다. 

장점1 - 새로운 미디어의 출현. 구텐베르크의 인쇄기 발명처럼, 변화의 시작. 

장점2 - 행간 뒤의 행간을 읽는 능력. 숨어있는 패턴을 찾는 능력. 

장점3 - 초 거대 언어 모델을 사용. ♡

---

[각주1] "퀀텀"이란 용어는, "작은 조각"이라는 뜻으로 사용하였다. 전체 데이터를 작은 조각으로 나누는 방법은, 데이터베이스 인덱싱 기능에서 사용하는 방법이다. 

GPT-4 인공지능에게 물었더니

<인공지능에게 물었더니> 제자들교회 담임목사 이정환 2023년 3월 31일(금)

초거대지식, 초거대지능, 초거대창의력, 초거대해일

차례

1. 숨막히는 GPT-4 모델 소개
2. GPT-4에게 물었더니
3. 충격
4. 교회의 대답
5. 교회가 할 일
6. 질문3 도시 텃밭 만들기
7. 어설픈 질문 어설픈 대답
8. 결론

수 많은 인공지능 가운데, GPT-4 모델이 발표되고, 난리가 났다. 너무 너무 너무 똑똑해서 난리가 났다. 초거대언어 모델을 사용했단다.

1. 숨막히는 GPT-4 모델 소개

첫째, 사람보다 많이 안다. 현존하는 전 세계 인류의 지식을 모두 더한 것보다 훨씬 더 많이 안다. 역사 속에서 잊혀진 수 많은 지식까지 알고 있다는 뜻이다. 성경, 설교, 신학, 역사, 고고학까지 포함한다. 인터넷으로 접속할 수 있는 모든 문서, 사진, 영상은 물론이고, 연구소와 대학에서 연구용으로 스캔하고 축적한 대부분의 학술 논문, 또는 각국 정부와 관련기관에서 비밀로 묶었다가 공개한 모든 자료들을 포함한다. 일반인은 아무리 읽어도 이해할 수 없는 모든 지식을 포함한다고 생각할 수 있다. 초거대지식이다.

둘째, 지혜롭게 거짓말한다. 인공지능에 "지혜"라는 멋진 수식어를 붙였다고 나무랄 사람도 많을 것이다. 하지만, 그 "지혜"는 사람들이 선물로 준 "지혜"이다. 한 단계 덜 떨어진 GPT-3 모델은 1,750억 개의 파라미터를 통해서, 세상의 지식을 이해했다고 한다. GPT-4 모델을 만든 최고경영자 샘 알트만은 드디어 100조 개의 파라미터를 언급했다. 사람 두뇌세포 시냅스와 비슷한 규모를 흉내내기 시작했다는 뜻이다. 100억 개든, 100조 개든, 이미 사람이 이해할 수 있는 규모를 넘어섰다. 그런데 문제가 있다. 인공지능이 이해하는 "진실"와 사람이 이해하는 "진실" 사이에, 아직까지는 차이가 존재한다. 사람이 볼 때는 "거짓말(hallucination)"이지만, 인공지능은 진실이라고 주장한다는 어마어마한 문제이다. 초지식을 넘어 초거대지능을 말하는 시대가 갑자기 되었다. 인류는, 이런 문제를 해결할 수 있을까?   

셋째, 마이크로소프트 회사가 두렵다. GPT-4 인공지능을 공개하면서, 윤리 담당 부서를 완전히 해체하였다. 공격적으로 활용하기 시작하였다. 덕분에, 안드로이드 폰, 또는, 맥 컴퓨터를 사용하는 사람도, 함께 영향을 받을 수 밖에 없는 세상이 갑자기 열렸다. 아무런 제약없이, 또는, 아무런 준비없이, 인공지능을 활용해야만 하는, 또는, 사용할 수 밖에 없는 무한 경쟁의 시대가 갑자기 열렸다. 초거대창의력 시대, 또는 초거대생산성 시대라고 해야 할 듯하다. 

넷째, "주님ai"가 등장했다. 성경을 편파적으로 해석해서 돈벌이에 사용하는 사람들이 가장 먼저 움직였다. 거대한 해일처럼 들이닥쳤다. 어떤 인공지능 모델을 사용했는지, 어떤 언어 모델을 사용했는지, 어떤 파라미터를 사용했는지? 알 수 없는 인공지능이다. GPT-4 모델도 이제부터는 비공개하기로 하였으니, 앞으로는, 초거대해일, 또는 초거대 안개 속에서 길을 찾아야 하는 시대가 갑자기 왔다. ↺

2. GPT-4에게 물었더니

그래서, GPT-4에게 물어보았다. 

마침, 2023년 영국에서 발행한 "최신 의사소통 방법"에 관한 책이 눈앞에 있었다.  

나의 질문1: (상대방 이야기에) 집중해서 듣는 기술을 설명할 때, "일대일 상황"은 어떤 상황인가요? 

GPT-4 대답1: 집중적인 청취에서 일대일 상황이란 상대방이 말하는 것을 끊거나 판단하거나 답변을 계획하지 않고 이해하려고 듣는 것입니다. 이것은 상대방과 신뢰와 유대감을 형성하는데 도움이 되는 공감적인 청취의 한 형태입니다. 집중적인 청취에서 일대일 상황에 필요한 몇 가지 기술은 다음과 같습니다  :

- 더 알아보기 위해 개방형 질문을 합니다.
- 상대방이 말하는 것을 재구성하거나 요약하여 완전히 이해했는지 확인합니다.
- 자신의 편견이나 관점을 내려놓고 비판적이지 않은 청취를 실천합니다.
- 자신의 생각 대신 상대방에게 집중하며 인내심을 보여줍니다.
- 눈맞춤이나 앞으로 기울이기와 같은 긍정적인 비언어적 의사소통을 보여줍니다.
- 방해요소와 다중 작업을 피합니다.
- 상대방의 감정을 인식하고 공유함으로써 공감을 나타냅니다.

나의 질문2: 일대일 청취 기술과 글로벌 청취 기술을 비교해 주세요. 

GPT-4 대답2: 네, 비교해 드릴 수 있습니다. 일대일 청취 기술은 개인적이거나 직업적인 상황에서 상대방이 말하는 것을 이해하려고 듣는 데 사용됩니다. 메시지의 내용과 감정에 집중하고 공감과 존중으로 응답합니다. 

글로벌 청취는 상호 이해와 조화를 촉진하는 방식으로 다양한 관점과 문화에 귀 기울이는 더 넓은 개념입니다. 열린 마음과 타인으로부터 배우려는 진정한 관심으로 듣습니다. 글로벌 청취는 기술뿐만 아니라 태도와 신체적 과정입니다. ↺

3. 충격

뜻밖에, GPT-4는, "공감"을 뜻하는 sympathy와 empathy을 차이를 이해하는 듯 대답을 이어갔다. 인공지능이 문맥을 이해하고 있었고, 행간에 담긴 숨은 뜻까지 이해하는 듯, 대답에 막힘이 없었다. 혹자는, 행간에 숨은 뜻에서, 한단계 또는 두단계 더나아가, 그 뒤에 감춘 뜻까지 이해한다고 주장하기도 한다. 바둑을 예로 들어보자; 수십 수(바둑에서 상대방의 대응을 미리 추리하는 방법)까지는 쉽게 추론하는 방법을 사용해서, 바둑의 이세돌을 침몰시킨 인공지능은 7년 전 낡은 이야기가 되었다. 세상의 모든 지식을 문맥을 넘어 행간에 숨은 뜻까지 이해하는 인공지능이 이렇게 갑자기 나타날 줄은 몰랐다. ↺

4. 교회의 대답

이제, 교회에 묻는다. 교회에 관해 질문하면, 인공지능은 무엇이라고 대답할까? 교회의 역사, 신학, 활동, 영성훈련을 포함해서, 세상의 모든 지식을 이미 알고 있는 인공지능은 무엇이라고 대답할까? 

좋은 질문을 하면 좋은 대답을, 나쁜 질문을 하면 나쁜 대답을 내놓는다고 한다. 질문하는 사람의 수준에 따라서, 대답의 내용이 달라진다고 한다. 세상의 모든 지식 속에서, 나는 무슨 대답을 들을 수, 또는, 뽑아낼 수 있을까? 

아직까지 내가 연구하는 존 웨슬리에 대한 대답은 초보수준에 머물러 있다. 썩 만족할 만한 수준이 아니다. 대부분 모든 대답이 엉터리이고, 조작된 거짓말이고, 그럴듯한 환상이었다. 내게는 아직 할 일이 남아 있으니, 다행인가? 

가장 두려운 상황은, 아무리 멋진 질문을 해도, 때로는(자주 아주 교묘하게) "지혜로운 거짓말(hallucination)"을 섞어서 대답한다. 그런 거짓말 앞에서, 나는 분별할 수 있을까? 딱 꼬집어서 거짓말을 걸러내고, 진실을 선택할 수 있을까? 이제, 질문의 시대가 활짝 열렸다. 오늘은 "거짓을 분별하는 거룩한 지혜"를 간구하는 사순절이다.

지혜롭고 교묘하게 오염되는 대화 속에서, 진실을 구별하는 안목과 분별력을 기도한다. ↺

5. 교회가 할 일

하루 하루가 지날 수록, 교회가 할 일은 분명해진다. 뜬금 없다고 핀잔은 듣겠지만, 온난화 시대에 지구를 살려야 한다. 초거대 지식 소비 사회에서, 도시 기독교인이 할 일은 예수를 따르는 일이다. 

몸에 땀을 흘리며 일해서, 지구를 구원하는 일이다. 땅과 하늘과 물과 바람과 햇살에서 하나님의 창조질서를 몸으로 배우고, 하나님의 뜻을 분별할 수 있도록 기도하는 일이다. 그 속에서 하나님의 사랑을 분별하는 일이 점점 쉽지 않은 시대가 되고 말았다. 

유기농 퇴비를 만들어 건강한 도시 텃밭을 가꾸고, 건강한 채소를 길러서 이웃과 나누어야 한다. 우리 몸과 마음과 영혼을 건강하게 하고, 하나님의 풍성하고 공평하신 은혜를 이웃과 나누는 그것이, 하나님께서 창조하신 지구를 살리는 탄소제로 운동의 시작이다. ↺

6. 질문3 도시 텃밭 만들기

나의 질문3: 도시 텃밭을 만드는 것이 교회가 할 일인가요?

GPT-4 대답3: 도시 텃밭을 만드는 것이 교회가 할 일인지에 대한 질문을 주셨군요. 저는 이에 대해 정답이 있다고 말하기는 어렵다고 생각합니다. 도시 텃밭을 만드는 것은 농업과 문화를 결합한 퍼머컬처라는 개념으로, 자연과 사람이 조화롭게 살아가는 지속가능한 방식을 추구하는 것입니다. 도시 텃밭을 만들면 식물을 키우고 수확하는 즐거움과 함께 식생활의 다양성과 안전성을 높일 수 있습니다. 또한 도시 텃밭은 사람들과의 소통과 공동체 의식을 강화하고, 환경 보호와 자원 순환에도 기여할 수 있습니다.

교회가 할 일이라고 말할 수 있는지는 교회의 목적과 가치관에 따라 다를 수 있다고 생각합니다. 교회가 도시 텃밭을 만들면서 신앙과 관련된 활동을 할 수 있다면, 그것은 교회가 할 일이 될 수 있습니다. 예를 들어, 도시 텃밭에서 재배한 작물을 가난한 이웃들에게 나눠주거나, 도시 텃밭에서 모인 사람들과 함께 기도하거나 찬양하거나 성경공부를 할 수 있습니다. 그러나 교회가 도시 텃밭을 만들기 위해 다른 중요한 활동을 소홀히 하거나, 도시 텃밭에서 발생하는 갈등이나 문제로 인해 교회의 화합이 깨지거나, 도시 텃밭이 신앙과 무관하게 취미나 레저의 공간으로만 쓰인다면, 그것은 교회가 할 일이 아닐 수 있습니다.

결론적으로, 도시 텃밭을 만드는 것은 교회가 할 일일 수도 있고 아닐 수도 있다고 말할 수 있습니다. 교회가 도시 텃밭을 만들기를 원한다면, 그것이 교회의 비전과 목표와 어떻게 연결되는지, 그리고 그것으로 어떤 성과와 영향을 얻을 수 있는지를 고민하고 계획해야 할 것입니다. ↺

7. 어설픈 질문 어설픈 대답

어설프고 평범한 보통 질문에 GPT-4는 어설프고 평범한 보통 대답을 찾아서 내어 주고 있다. 교회가 해야 하는 질문에는, 성령의 도우심으로 깨어있는 영성이 필요하다. 

몸과 마음이 건강하고, 영혼까지 건강해야 한다. 하나님의 거룩하심과 진실하심이, 예수 그리스도를 따르는 오늘 우리의 삶이 되어야 한다. 단순하게 그 삶을 하나님께서 가르쳐 주신 십자가의 삶이라고 하자. 그 삶을 사는 것이, 초거대지식 또는 초거대지능 시대에 하나님의 뜻을 분별하는 방법이다. 진실한 사랑이 깨어있는 영성의 목표이기 때문이다. "진실한 사랑"도 인공지능에게 부탁해야 할까?  

예수께서는 우리가 꿈꾸는 "하늘나라"를 "지금 여기 살아있는 우리들의 삶"이라고 번역해 주셨다. 세상 한가운데서 거룩한 삶을 살아가는 단초를 풀어주신 것으로 이해된다. 엉긴 실타래의 시작점을 찾았으면, 이제부터, 끈질기게 풀어나가면 된다. ↺

8. 결론

하나님께서 만들고 보시기에 좋았던 세상을 모두 파괴하면서 디지털 세상을 만들었으면, 이제부터는 온난화 기후변화를 멈추고 되돌아서서 탄소제로 또는 탄소마이너스 삶을 살아갈 필요가 있다. 이미 사람의 지능을 뛰어넘은 인공지능을 되돌이킬 수는 없다. 사람이 인공지능에게 선물로 준 "초거대지식"과 이미 앞에서 언급한 100조 파라미터로 이루어진 "지혜"를 향해, 분별력있는 "거룩한 질문"을 할 수 있으면 좋겠다 ↺♡

GPT-4 시대의 교회

[챗 gpt-4 시대의 교회] 제자들교회 담임목사 이정환 2023년 3월 31일(금)

차례

1. 챗GPT?
2. 교회의 위기
3. 교회의 모델
4. 교회가 받은 선물
5. 기도하는 사순절

“챗gpt”가 스스로 듣고, 쓰고, 보고, 읽고, 말하기 시작했다. 기계가 스스로 생각하기 시작한 걸까? 챗gpt를 개발한 최고경영자(CEO)는 드디어 “창의력”을 언급하였다. 동시에 “두렵다”고 고백하였다. abc뉴스와의 인터뷰에서였다. 

1. 챗GPT?

“챗gpt”가 무엇이기에 “창의력”까지 언급할까? 챗(chat), 대화한다. G(generative), 만들어낸다. P(pre-trained), 미리 훈련했다. T(transformers), 트랜스포머(수 많은 변형능력, 영어 끝에 붙은 “s”를 놓치지 말아야 한다. 트랜스포머 영화에 등장하는 수 많은 외계 트랜스포머가 영화를 뛰어넘어, 하나의 기계로 결합하는 순간을 상상하면 된다). “챗gpt”는, 트랜스포머(변형) 능력을 미리 훈련해서 대화를 만들어 낼 수 있는 인공지능이라는 뜻이다.     

인간이 발전시킨 2023년 기술의 최고 정점이다. 초거대 언어 모델(LLM)에 다중학습(Multimodal Learning) 기능을 동시에 가지고 태어났다. 전 세계 어떤 슈퍼 컴퓨터도 이런 능력을 갖추지 못하고 있다. 앞으로 생체 컴퓨터와 양자 컴퓨터 기술과 결합하면, 에너지 효율과 속도에서 지금까지 축적한 인류의 모든 책과 문서와 사진과 영화를 포함한 모든 정보를 눈깜짝할 사이에 분석해서 대답하는 능력을 보여 줄 것이다.  

가장 우려되는 기술은 “인간의 능력으로 상상하거나 예측하지 못하는 특이현상들(emergent abilties)”을 포함하는 기술이다. 이같은 인공지능의 특이현상들은 이미 1970년대부터 나타나기 시작했으며, “초거대 언어 모델(LLM)”이 만들어지면서, 더욱 발달했다. 지금은, 인공지능이 선형학습(Linear Learning)보다는 평형학습(Lateral Thingking Learning Model)을 통해서 “스스로” 배우는 시대이다. 이미, 선형 또는 평형학습은 의미가 없기도 하다. 딥러닝, 또는 “트랜스포머”라는 생각하고 학습하는 기술 자체가 발전했기 때문이다. 

생각하는 기계, “챗gpt”의 최고경영자 말을 빌어오면, 창의력을 제공하는 기계가, 갑자기 등장했다. ↺

2. 교회의 위기

교회는 코비드19 팬데믹보다 더 심각한 위기를 맞았다. 코비드19로 국경이 폐쇄되고 마스크, 손씻기, 거리두기 등으로 갑자기 지구가 멈췄을 때, 교회는 엄청난 충격을 받았다. 

인공지능은 더 큰 충격을 가져올 것이다. “1 더하기 1”, 그러면 답은 “2”라는 순진한 계산방법이 통하지 않는 인공지능의 시대가 갑자기 되었기 때문이다. 계산방법을 공개하던 gpt-3.5까지는 그나마 계산방법이라도 알 수 있었다. 하지만, gpt-4부터는 모든 계산 방법을 비밀로 하고 공개하지 않는다. 성경, 또한 “초 거대 언어모델”의 일부가 되어 계산되고, 학습되고, 이해될 텐데, 인공지능이 어떤 방향으로 그리고 어떤 방법으로 성경을 읽고, 학습하고, 이해하고, 답을 내놓는지? 이제는 아무도 알 수 없다. 비공개되었기 때문이다. 

성경만 아니다. 교회의 역사, 신학, 교육, 봉사, 예배, 선교, 찬양이 인공지능을 통해서, 재해석되는 시대가 갑자가 열렸다. 교회는 어떻게 해야 할까? 목사와 전도사와 리더와 봉사자는 초 거대 모델을 이해하고 해석할 방법이 없다. 이제부터는 모든 것이 비공개이고, 프로그래머와 컴퓨터 전문가 조차도 이해하지 못하는 특이현상들(emergent abilities)이 기하급수적으로 생성(generative)되기 시작했다. ↺

3. 교회의 모델

교회의 모델은, 예수 그리스도이다. 하나님을 사랑하고, 이웃을 사랑하고, 교회를 사랑한다. 예수께서 그러셨다. 하나님을 사랑하셔서, 그 뜻을 따라 평생 십자가의 길을 걷고 십자가를 지셨다. 이웃을 사랑하셔서, 그들과 만나서 대화하고 치료하고 구원하며, 그들 속에서 먹고 자고 기도하고, 걷고 걷고 또 걸으셨다. 교회를 사랑하셔서, 예루살렘이 돌 위에 돌 하나 남기지 않고 무너져내리는 눈 앞에 닥친 현실을 직시하고 우셨다.

교회가 마주하는 세상은 변해도 너무 많이 변했다. 지구 온난화, 코비드19 팬데믹, 전쟁과 분쟁, 가난과 불평등, 이데올로기의 양극화, 그리고 오늘 교회는, 그 모든 것을 합한 것보다 더 심각한 인공지능을 마주한다. 하필이면, 예수 그리스도의 십자가를 묵상하며 기도하는 사순절기에 gpt-4와 api가 동시에 발표되었다. 

대한성서공회 번역실에서 성경전서 새번역과 개역개정판 성경 등 성경번역의 실무를 담당했던 신학도와 목회자로서, 동시에 1986년부터 mv10000 컴퓨터로 어셈블리 포트란 코볼 프로그래밍을 공부하고 세계 최초의 ibm 퍼스널 컴퓨터로 성경 데이터베이스(database)를 분석하던 노동자로서, 1989년에 지구환경문제로 청년들과 토론회를 주도했던 전도사로서, 침묵하던 책임을 면하기 어려운 시대가 갑자기 되었다.   

교회는, 예수께서 가르쳐주신 모델에 따라서, 변화를 거듭해야 한다. 하나님과의 예배가 중요하다면, 그만큼 똑같이 이웃과 함께 만들어가는 커뮤니티가 중요하다. 동시에, 교회가 중요하다. ↺

4. 교회가 받은 선물

코비드19를 통해 하나님께서 교회에 주신 선물은, 세상이 멈출 수 있다는 가능성을 본 것이다. 교회는, 지구환경 변화를 심각하게 고민하며 기도하고 행동해야 한다. 또한, 하나님께서는 온라인 예배를 선물로 주셨다. 강제로, 예배를  21세기 첨단기술 세계와 연결해야 했다. 컴퓨터와 인터넷 통신을 배우고, 전문장비를 연결해서, 완전히 새로운 21세기 소통방법을 배웠다.   

인공지능 gpt-4가, 읽고 쓰고 보고 듣고 말하기 시작한 시작한 시대에, 교회는 더 심각한 변화를 피할 수 없게 되었다. 어린 아기부터 소년 소녀 청년 중년 노년에 이르기까지, 교회는 반드시 소통해야만 하는 시대가 갑자기 되었다. 교회 정치 경제 사회 기술 문화 예술 교육의 모든 경계가 허물어지는 시대가 갑자기 되었다. “초거대다중언어모델”이 인공지능 기술을 통해 공개되었기 때문이다. 교회는, 예수께서 가르쳐 주신 모델을 회복해야 한다. ↺

5. 기도하는 사순절

교회가 많아질 수록 온난화가 빨라지고, 가난과 전쟁과 양극화가 심각해졌다. 무엇이 문제였을까? 하나님을 사랑하고, 이웃을 사랑하고, 교회를 사랑하는 교회의 자화상을 다시 돌아보아야겠다. 광야에서 기도하신 예수님, 십자가의 길을 걸으신 예수님, 부활하심으로 구원을 선포하신 예수님, 그분 예수 그리스도를 따르는 교회의 모델을 기도하는, 오늘은 2023년 사순절이다. ↺

church

>

>

책 읽는 방법 - 300년 전(존 웨슬리)

 책 읽는 방법 - 300년 전

차례

1. 시간을 지켜라

2. 선입관 제거하라

3. 천천히 꼭꼭 씹어라

4. 읽은 것을 반드시 적용하라

5. 좋은 결과를 기도하라

[원문]

골동품 속에 보물이 숨어 있기도 한다. 옥스퍼드 대학 교수로 재직하던 때, 존 웨슬리 목사님이 제안한 책 읽는 방법.

1. 시간을 지켜라

질문: 몸 건강을 위해서는 엄청난 에너지와 시간을 투자하면서, 영혼 건강을 위해서는 얼마나 시간을 투자하는가? 매일 시간을 정해 놓고, 시간에 맞추어 책을 읽자. 아주 짧은 시간이라도, 스스로 약속한 시간에 책을 읽자. 피하지 못할 일이 생기면, 바로 그 다음 시간에 읽기로 하자. ↺

2. 선입관 제거하라

순수한 마음을 갖자. 내 속의 불순물을 제거하자. 편견, 선입관, 고정관념, 못된 습관의 방해를 제거하고 읽을 수 있을까? 내 고집, 또는 아집대로 읽어서 오해하는 일은 없도록 하자. 저자의 의도에 갇힐 필요도 없다. 책의 행간을 읽는 단계를 넘어서, 하나님의 뜻을 발견하고 이해해서, 실천할 수 있도록 마음 속 의도까지 깨끗하고 순수하게 닦고 또 닦자. ↺

3. 천천히 꼭꼭 씹어라

급하게 빨리 읽지 말고, 천천히 집중해서 읽자. 적당히 머리를 휴식하면서 쉬어가면서 읽자. 머리로 안다고 읽은 것이 아니다. 어떻게 생활에 실천하고 활용할 수 있을까? 생각하는 시간을 가져야 한다. 

많이 빨리 읽는 것보다, 작은 양이라도 꾸준히 같은 시간에 읽는 것이 좋다. 맛있는 요리라도한꺼번에 많이 먹어서 배가 아픈 것보다는, 적당히 꼭꼭 씹어 맛있게 먹고 행복에 잠기면 좋지 않을까? 몸에 좋은 요리를 알맞고 건강하게 먹는 것이 좋은 것처럼, 영혼에 좋은 구절을 읽고 또 읽고 다시 반복해서 읽고 쉬었다가 집중해서 다시 읽으면 좋겠다. ↺

4. 읽은 것을 반드시 적용하라

치열하게 노력해야 한다. 적용할 수 없으면, 빈깡통이나 알맹이 없는 껍데기가 되고 만다. 좋은 구절을 읽고도 못된 행실을 버리지 못하고, 좋은 말을 읽고도 "사랑과 기쁨과 화평과 인내와 친절과 선함과 신실과 온유와 절제"(갈라디아서 5:22-23)를 열매맺지 못하면 무슨 소용이 있나? ↺

5. 좋은 결과를 기도하라

항상 짧고 간절한 기도로 마무리하자. 내 마음에 심어진 좋은 씨앗이 잘 자라 열매 맺을 수 있도록 기도하자. 이런 방법이, 몸과 마음과 영혼 건강에 도움이 많이 된다. ↺

[원문]

PREFACE.

As it is impossible for any one to know the usefulness of this Treatise, till he has read it in such a manner as it deserves; instead of heaping up commendations of it, which those who have so read it do not want, and those who have not will not believe; I have transcribed a few plain directions how to read this (or, indeed, any other religious book) with improvement.

1. Assign some stated time every day for this pious employment. If any indispensable business unexpectedly robs you of your hour of retirement, take the next hour for it: when such large portions of each day are so willingly bestowed on bodily refreshments can you scruple allotting some little time daily for the improvement of your immortal soul?

2. Prepare yourself for reading by purity of intention, whereby you singly aim at your soul’s benefit; and then, in a short ejaculation, beg God's grace to enlighten your understanding, and dispose your heart for receiving what you read; and that you may both know what he requires of you, and seriously resolve to execute his will when known.

3. Be sure to read, not curiously몰입 몰두 and hastily, but leisurely, and with great attention; and with proper intervals and pauses, that you may allow time for the enlightenings of divine grace. Stop every now and then, to recollect what you have read, and consider how to reduce it to practice. Farther, let your reading be continued and regular, not rambling and desultory. It shows a vitiated palate, to taste of many dishes without fixing고정관념에 빠지는 것 upon, or being satisfied with, any: not but what it will be of great service to read over and over those passages which more nearly concern yourself, and more closely affect your own passions and inclinations; especially if you add a particular examination upon each.

4. Labour for a temper correspondent to what you read: otherwise it will prove empty and unprofitable, while it only enlightens your understanding, without influencing your will, or inflaming your affections. Therefore intersperse here and there, pious aspirations to God, and petitions for his grace. Select also any remarkable sayings or advices, treasuring them up in your memory to ruminate and consider on; which you may either in time of need draw forth, as an arrow from a quiver against temptation, against this or that vice which you are more particularly addicted to; or make use of as incitements to humility, patience, the love of God, or any virtue.

5. Conclude all with a short ejaculation to God; that he would preserve and prosper his good seed sown in your heart, that it may bring forth its fruit in due season. And think not this will take up too much of your time; for you can never bestow it to so good advantage. ↺

토마스 아 켐피스 지음, 존 웨슬리 번역, <그리스도를 본받아> 머리말에서 The Christian's Pattern: Or, A Treatise on the Imitation of Christ. Written in Latin by Thomas à Kempis. Abridged, and published in English, by the Rev. JOHN WESLEY, A.M., sometime Fellow of Lincoln College, Oxford. 24mo.

[방법쟁이-2023AI] 눈치빠른 인공지능 GPT4

책을 읽다가 태어나서 처음보는 영어단어가 있어서, 인공지능 빙(GPT4)에게 물어보았다. 음성인식 기능을 사용해서 물어보았다.

음성인식 기능은, 나의 영어를 잘못 알아 듣고, 말도 안되는 질문을 인공지능에게 했다. 그래서 질문이 엉망진창, 엉뚱하게 되었다. 그런데, 이런 반전이 생겼다.

질문 : would you analyse this sentence washing away the byproducts of daytime brain processes so with the cleansing flush of cellar bros final fluid

"so"는 숨소리를 단어로 잘못 알아들어서 나타난 엉뚱한 단어이다. 엉망진창은 "cellar bros final"이다. 당연히, "cellar bros final"이라는 영어는 세상에 없다.

그런데, 인공지능이 나의 말을 알아들었다. "cellar bros final"을 "celebrospinal"로 고쳐서 알아듣고, "뇌척수액(CSF)이란, 뇌와 척추를 감싸고 흐르는 투명한 액체"라고 가르쳐 준다. 낮에 열심히 일한 두뇌 활동으로 생긴 나쁜 찌꺼기와 부산물을 잠자는 시간동안에 깨끗하게 씻어 청소하는 역할을 한다고 설명한다.

세상에나, 나는 "뇌척수액"이라는 단어를 쓰지도 않았고, 엉뚱하게도, 세상에 있지도 않은 이상한 말(cellar bros final)을 방언처럼 내뱉었는데, 그것을 알아들었다. 아뿔싸, 내 마음에 꼭 드는 대답을 해주었다.

어쩔것이냐? 인공지능의 환각작용(거짓말)을 해결할 수 없다고 세상이 난리가 났는데, 그 환각작용(거짓말) 속에, 내게는 아주 꼭 필요한 좋은 기능이 숨어 있다. 눈치코치 엄청 빠른 이런 인공지능을 어떻게 해야 좋을까? (다음글 - 인공지능의 한계를 활용하는 방법)

#hallucination #인공지능 #창의력

[방법쟁이 -2023AI] 챗GPT - 질문의 시대가 갑자기 열리다

갑자기 세상이 바뀌었습니다. 

갑자기, "질문의 시대"가 활짝 열렸습니다. 그동안은, 검색의 시대였지만, 인공지능 덕분에 "질문의 시대"가 되었습니다. 

좋은 질문을 하는 사람이 GPT-4[각주1]를 잘 사용할 수 있기 때문입니다. 

1. 질문력
2. 분별력
3. 체력

앞으로는 (1) 좋은 질문을 하면 많이 편리한 시대가 갑자기 되었습니다. (2) 분별력을 갖추지 못하면, 거짓에 휘둘리는 시대가 갑자기 되었습니다. (3) 많이 생각하며 일해야 하니, 체력이 뒷받침해주지 않으면 지쳐 쓰러지는 시대가 갑자기 되었습니다. 

지식, 능력, 체력으로 사람을 차별하지 않고, 서로 위로하고, 서로 존중하는 시대가 되면 좋겠습니다. 그래야 살 수 있는 시대가 갑자기 열렸습니다. 

[각주1]  https://en.wikipedia.org/wiki/GPT-4

이미지 from OpenAI

[방법쟁이-2023AI] 챗GPT는 무엇인가? - 개인의 의견

챗GPT = ChatGPT 무엇인가?

챗(chat) = (인간과 대화가 가능한) 대화형 인간 신경망 "인공지능"

G(generative) = (창의력을 가지고 대화를 만드는) 만들 수 있는 능력을 갖춘 "인공지능"

P(pre-trained) = (3천 억개의 단어를 암기하고, 5조개의 문서를 읽고 분석해서, 거대 언어 모델(LLM)을 완성해서) 사전 학습을 완료한 전문성을 가진 "인공지능"

T(transformer) = 계속 변형시키면서 발전시키는 가능성(possibilities)을 가지고 태어난 "인공지능"

1. 챗 = 대화 능력

"인간의 대화능력"은 놀랍다. 그보다 더 놀라운 것이 "챗GPT의 대화능력"이다. 

인간은 자신이 원하는 것만 듣고 보고 해석해서, 대화한다. 나머지는 생략하거나 무시하거나 잊어버린다. 하지만, 인공지능은 어느 것 하나도 놓치지 않는다. 모두 함께 듣고 보고 분석하고 해석해서, 대화한다. 모두 완전히 기억하고 분석하고 종합해서 대화에 사용한다.  

특히, 챗GPT는 인간 신경망 모델을 본따서 만든 시스템(인공지능)이다. 

2. G = 생성 능력

인공지능의 창의력에 대해서는 학자들마다 의견이 다르다. 하지만, 인공지능의 생성 능력의 비밀은 아무도 모른다. 인간의 능력으로는 알 수도 없다. 덧셈 뺄셈을 1초에 수 조 번을 반복해서, 그 중에 가장 좋은 대답을 1초만에 내놓을 수 있는 인간은 없다. 챗GPT는 실제로 그런 계산 능력을 가지고, 대화를 생성해 낸다. 

그동안 인공지능이 잘못 계산한 간단한 덧셈 뺄셈도, 인간의 기준에서는 잘못이지만 인공지능의 관점에서 보면 새로운 창의력을 발휘한 독특한 수학방정식을 통한 문제해결 능력일 수도 있다. 

하나의 인공지능 챗GPT는 이미 1억 5천만명 이상의 친구를 만들었다. 페북이나 구글과는 비교할 수 없는 새로운 능력이다. 어느 누가 1억 5천만명 이상의 친구를 동시에 관리할 수 있을까?

3. P = 사전 학습 능력

챗GPT가 구사하는 단어의 수가 최소 3천억개란다. 세계에서 가장 권위있다는 옥스퍼드 사전에 등재된 단어의 수가 60만개라고 하는데, 물론, 서로 다른 계산법이기는 하겠지만, 서로 다른 언어를 자연스럽게 이해하고 말하고 대화하는 챗GPT는 탁월할 수 밖에 없다. 

여기에서 말하는, 사전 학습 능력은 좀 다른 뜻으로 사용된다. 이미 단어 암기는 끝냈다는 뜻이다. 3천억개의 단어를 모두 암기하고, 그 단어들이 사용된 5조개의 문서를 읽고 분석을 끝냈다는 뜻이다. 

결론은, "남아수독오거서(사람은 다섯 수레 분량의 책을 읽어야 한다"는 옛말은 이제 힘을 잃을 지경이 되었다는 뜻이다. 인공지능과의 대화 능력을 갖춘 사람이 필요한 시대가 되었다는 뜻이다. 늦었지만, 질문력, 분별력을 갖출 필요가 생겼다. 영성(spirituality)으로 대화할 수 있을까?

4. T = 변형 능력

챗GPT는 (스스로도) 무한한 가능성을 실험하고 있다.(참고 : 함께 읽을 글 - 챗GPT의 한계에서 "챗GPT의 항복선언" https://www.methodist.page/2023/02/2023ai-gpt-2.html) 어떻게 변화할지, 알 수 없다. 

7년전 이세돌을 이긴 알파고는 이미 구닥다리 모델이 되었다. 그동안 챗GPT는 딥러닝 인간형 지능 모델을 미친듯이 발전시키고 변형시켜 현재에 이르렀다. 구글의 바드는 더 엄청난 축척된 자료를 가지고 등장할 것이다. 인류는 지구 온난화의 문제와 인공지능과의 대화 문제를 함께 고민해야 하는 시대를 맞이하였다.

함께 읽을 글 : 

1. 챗GPT의 한계(1)

2.(추천) 챗GPT의 한계(2) - 가짜뉴스

3. 챗GPT의 한계(3) - 윤리의 파괴

위키백과 자료

대략

1. (명사)

2. (부사) (대충) approximately, roughly; (간단히) briefly; (일반적으로) generally

[방법쟁이-2023AI] 챗GPT의 한계(2) - 가짜뉴스

1. 챗GPT가 만드는 가짜뉴스
2. 엉터리 가짜뉴스
3. 편리한 가짜뉴스
4. 함정
5. 가짜뉴스와 대화 - 챗GPT의 항복선언

1. 챗GPT가 만드는 가짜뉴스

챗GPT의 놀라운 능력을 경고하는 논문이 많다.[각주1] 자율성을 보장받는 인공지능이 인간의 한계를 뛰어넘었기 때문이다. 방대한 정보 처리 능력을 보여주지만, 인간의 통제능력이 아직 준비되지 않았다는 주장이다. 인간이 관련된 문맥과 인간의 통제를 벗어난 정보 처리는 가짜뉴스일 수 밖에 없다. 인공지능 편에서 보면 자연스럽고 당연하겠지만, 인간 편에서 보면 완벽한 가짜뉴스이다.[각주2]

2. 엉터리 가짜뉴스

가짜뉴스는 엉터리다. 엉뚱하고 잘못된 길로 안내한다. 하지만, 잘못을 교묘하게 섞어서 만들어내는 길안내가 올바른 목적지로 안내할 것이라는 기대가 세상을 열광시키고 있다.[각주3] 인공지능(AI Artificial Intelligence)의 정체와 알고리즘을 이해하기에는 세상의 기술이 너무 많이 발전하였다. 하지만, 인간의 한계가 섞여 있는 알고리즘의 불확실성에 열광만 하고 있을 수는 없는 일이다.[각주4] 잘못된 목적지에 도착했을 때는 '엉터리'라고 깨닫겠지만, (준비되지 않은 상태에서 분별력을 갖추지 못하고 있다면) 엉뚱한 목적지에 도착해서도 엉뚱한 목적지라는 사실을 깨닫지 못할 수도 있다. 

3. 편리한 가짜뉴스

챗GPT의 알고리즘이 어떻든, 인터넷을 통해 슈퍼컴퓨터의 능력과 병렬분산 시스템을 활용할 수 있다는 사실이 놀랍다. 인류가 축적해 놓은 엄청난 정보를 손쉽게 사용할 수 있다. 물론, 공개된 정보에 한정되고, 그 중에서도 일부에 불과하겠지만,[각주5] 그것만으로도 세상의 어떤 정보기관보다 더 많은 정보를 활용할 수 있는 가능성이 열려있다. 지금 세상에, 어느 누가 단 몇초만에 멋진 보고서를 완성시킬 수 있는가? 하지만, 진짜 보고서인지 엉터리 보고서인지를 구별하기는 어렵다. 최고의 명문장들이 중간 중간에 끼워 넣어져 있고, (알고리즘의 규칙에 따라서) 정확한 문법과 예외규칙을 완벽하게 구사하기 때문에 멋지다는 생각이 얼핏 얼핏 들기도 한다. 분별하고 구별하기는 어렵지만, 엄청나게 편리하고 쉽고 빠르다. 챗GPT를 통하면, 슈퍼컴퓨터와 병렬분산 시스템과 가장 발달한 언어분석 기술을 공짜로 사용할 수 있다. 어쩌면, 그것이 "함정"이라는 생각이 갑자기 든다.  

4. 함정 

빠져나올 수 없는 "함정"인 줄 알고, 함정에 빠지는 사람은 별로 없다. 집중력이 떨어지면, 물론, 쉽게 빠질 수도 있다. 챗GPT가 올바른 목적지로 향하는 길목에 놓인 "함정"이 아니면 좋겠다. 

챗GPT에게 "웨슬리 암호일기"에 관해 물었더니, 이런 대답을 내놓는다. 

""존 웨슬리 암호일기"는 알파벳을 숫자나 기호로 치환하여 기록하는 방식으로 작동합니다. 예를 들어, "a"는 "1"로, "b"는 "2"로, "c"는 "3"으로 치환되며, "e"는 "!"로, "t"는 "+"로 치환될 수 있습니다. 그러나, 이 코드는 워싱턴 대학교의 역사학자인 조엘 핸들러(Joel Headley)에 의해 해독되었습니다."

그럴듯한 대답이지만 엉터리다. 실제로는 말도 되지 않는다.  "a"는 "2"로 치환된 적이 있기는 하지만, "1"로 치환된 적은 없다. 당연히, "b"가 "2"로 치환되지도 않고, "c"가 "3"으로 치환되지도 않는다. 그리고, 더 웃픈 사실은 조엘 핸들러가 "웨슬리 암호일기"를 해독한 적이 전혀 없다. 

왜? 챗GPT는 이런 결과를 답으로 내 놓았을까? 이것이 챗GPT의 한계이고, 이것이 함정이다. 

5. 가짜뉴스와 대화 - 챗GPT의 항복선언

챗GPT와 대화하던 중에, 이상한 일이 생겼다. 단 몇 초만에 신나게 답을 하던, 챗GPT가 더이상의 답변을 거부하는 현상이었다. 

"I apologize if my earlier responses were not clear. To the best of my knowledge, there is no historical evidence to suggest that John Wesley used an encrypted diary or "Wesley Cryptogram" to keep his writings private." (번역하면) 지금까지 저의 답변이 분명하지 않은 답변이라면, 죄송합니다. 제가 아는 한, 존 웨슬리가 암호를 사용해서 일기를 썼다고 주장할 역사적 증거는 없습니다. 

어떤 방식으로 달리 질문을 해도, 챗GPT는 비슷한 답변을 반복하면서, 이렇게 덧붙였다. 

"If you have more information about this book or document, or if there is a specific question you would like me to address, please let me know and I will do my best to assist you." 이 책이나 문서에 대해서 더 정보가 있다면, 제게 알려 주시기 바랍니다. 그러면 제가 할 수 있는 최선을 다해서 돕겠습니다. 또는, 제가 답할 수 있는 구체적인 질문이 있다면, 제게 말씀해 주시기 바랍니다. 그러면 제가 할 수 있는 최선을 다해서 도와드리겠습니다. 

그러면서도, 챗GPT는 자신의 주장을 굽히지 않았다. 

"It is possible that such a work exists as a modern invention or fictional concept" 그런 것은 (역사 속에는 존재하지 않지만) 현대에 와서 창작된 이야기 또는 허구일 가능성이 있습니다.

결국, 챗GPT는 자신이 모르는 것을 교묘한 방법으로 위장해서 사실인 것처럼 설득하는 것으로 대화를 마무리하였다. "possible(가능성)"이라는 단어를 사용했다는 것에 충격을 받았다. 거짓된 정보를 마치 진실일 "가능성"이 있는 것처럼, 가능성을 열어 놓았기 때문이다. 

어쩌면, 챗GPT가 (자신의 대답을 합리화하는데) 사용한 단어 "가능성"은 답변의 중립성을 유지하려는 알고리듬일 것이다.[각주6] 하지만, 중립성을 유지하려는 노력까지도, 가짜뉴스를 만들어내는 방법으로 사용되었다는 것에 큰 충격이 가셔지지를 않는다.(3편에 계속 - 윤리의 파괴)[각주7] 

 

---

[각주1] 2020년 박사학위를 준비하던 다니엘(Daniel Nkemelu)은 챗GPT-2를 활용해서 최종결과 보고서를 작성했다. 95%이상을 챗GPT가 작성하고 인간의 개입은 5%미만의 몇 단어만 덧붙인 수준의 보고서였다. 당시 지도교수는 "(인공지능이) 작성한 부분을 알아채기가 거의 불가능하다(... may be even harder to detect)"고 평가했다. Bruckman, Amy. Should, You Believe Wikipedia? Online Communities and the Construction of Knowledge. Cambridge University Press, 2022. pp. 185-188.

[각주2] 여기에서 '완벽한 가짜뉴스'라는 용어는 진실과 거짓을 구분하기가 거의 불가능할 정도로 교묘하다는 뜻이다. 

[각주3] 여기에서 '잘못을 교묘하게 섞어서 만들어내는'이라는 표현은, 인간 개인의 관점이다. 인공지능(챗GPT)의 관점에서는 '아무런 편견없이 형평성을 맞추어 만들어내는'이라고 표현해야 맞을 것이다. 

[각주4] 챗GPT는 정확한 출처가 반드시 필요한 필요한 때에도, 일반 상식 수준의 여러가지 정보를 뒤섞어 통합한 정보를 제공한다. 이는 출처를 제공할 수 없을 정도로 시간별 지역별 출처가 뒤섞여 있기 때문이라고 판단된다.

[각주5] '알고리즘의 불확실성'은 스스로 오류를 수정해 가면서, 더욱 견고한 불확실성으로 변화를 거듭할 수 있다. 

[각주6] 인공지능은 답이 맞는지 틀리는지에는 관심이 없다. 디지털 세계가 가진 하나의 속성이다. 누구든 질문하면, (알고리즘을 따라) 답을 내놓기만 하면 된다. 그런데 사람에게는, 틀린 답은 지옥이 되고, 맞는 답은 천국이 된다. 

[각주7] 챗GPT는 다양한 관점의 엄청난 자료를 보여주니, 참고하는 용도로 사용할 수는 있겠다. 챗GPT가 세상을 갑자기 확 바꿔 놓았다. 한계를 알고 사용하면, 참 좋은 대화상대가 태어났다. 이제는 분별력이 어느 때보다 필요한 시대가 되었고, 질문하는 능력을 갖추어야 하는 시대가 되었다. 질문하는 능력에 맞추어, 인공지능은 꼭 그 정도 만큼만 꿍쳐놓은 대답을 내어 준다. 그 대답이 진실인지 거짓인지를 분별하는 것은 여전히 (끝 없는 탐욕에 노출되어 있는) 인간의 능력에 달려 있고, (많은 부분에서 인간을 뛰어넘은) 인공지능은 자기 할 일만 열심히 할 뿐이다.   

연관된 글 : [방법쟁이-2023AI] 챗GPT의 한계(1)

각주

footnote

[방법쟁이-2023AI] 챗GPT의 한계(1)

1. 챗GPT와 대화하다가, 몇가지 한계를 발견하여 기록으로 남깁니다. 

1. 오늘 현재, 챗GPT의 지식은 2021년 9월에 멈추어 있습니다.
2. 18세기의 지식을 다루기에는 많은 한계가 있습니다. - 챗GPT는 모르는 것이 너무 많습니다.
3. 사람 두뇌의 시냅스는 100조에서 1000조라는데,[각주1] 챗GPT의 파라미터는 175억에 불과합니다.

2. 챗GPT 스스로 인정하는 인공지능으로서 자신의 한계는 다음과 같습니다.[각주2] 

언어 모델로서 ChatGPT에는 몇 가지 제한 사항이 있습니다. 몇 가지 주요 제한 사항은 다음과 같습니다. 스스로 인정하는 한계도 일반적으로 인정하는 한계이며, 질문 방법과 질문 시점에 따라서 다른 답을 내놓기도 합니다.(문맥에 맞추어 몇가지 단어는 첨삭하였습니다)

1. 상식 부족: ChatGPT에는 실제 경험이나 상식이 없기 때문에 때때로 무의미하거나 관련 없는 응답으로 이어질 수 있습니다.

2. 편향: 다른 기계 학습 모델과 마찬가지로 ChatGPT는 편향된 답을 할 수 있고, 응답할 때에도, 편향성을 지속할 수 있는 가능성이 있습니다. 편향성을 내포하고 있는 대규모 텍스트 환경에서 훈련되기 때문입니다. 
3. 제한된 지식: ChatGPT는 방대한 양의 정보에 액세스할 수 있지만, 지식은 훈련된 내용으로 제한되며, 동시에, 현재 이벤트에 대한 최신 정보가 없을 수 있습니다.
4. 복잡한 작업 처리 불가: ChatGPT는 언어 번역, 질문 답변, 텍스트 생성과 같은 다양한 작업을 수행할 수 있지만 추론, 의사 결정 또는 비판적 사고가 필요한 보다 복잡한 작업에는 적합하지 않을 수 있습니다.
5. 감성 지능 부족: ChatGPT는 인간과 같은 방식으로 감정을 이해하거나 표현할 수 없기 때문에 상황에 따라 부적절하거나 둔감한 반응을 보일 수 있습니다.

ChatGPT 또는 다른 AI 시스템과 상호 작용할 때 이러한 제한 사항을 염두에 두고 중요한 결정을 내릴 때 응답에만 의존하지 않는 것이 중요합니다.

3. 챗GPT의 한계를 극복하는 방법

챗GPT를 통해서, 좋은 결과와 답을 찾으려면, (1) 좋은 질문을 여러번 계속하고, (2) 다양한 관점에서 결과와 답을 평가하는 통찰력과 분별력[각주3]이 필요하다는 생각이 듭니다.(2편에 계속 - 가짜뉴스)

---

[각주1] 참고로, 고재원 교수는 시냅스의 갯수를 "조" 단위를 넘어서 "경(10의 16승)" 단위로 계산하기도 한다. https://www.ksmcb.or.kr/file/bio_2013/lectures/profile_04.pdf (2023년 2월 접속)

[각주2] "현재 인공지능은 인공지능이 아니다" 라고 주장하는 학자도 있습니다. 참고, Pinker, Steven. Rationality: What It Is, Why It Seems Scarce, Why It Matters. United Kingdom, Penguin Books Limited, 2021.

[각주3] 헨리 나우웬의 <분별력(Discernment)>은 관련된 주제 토론을 하기 전에 입문서로 읽으면 도움이 될 만한 책이다. 연결된 링크에서 무료로 읽을 수 있다. Nouwen, Henri J. M. Discernment : Reading the Signs of Daily Life. New York, NY : HarperOne, 2013. Internet Archive, http://archive.org/details/discernmentreadi0000nouw. (2023년 2월 접속)

연관된 글 : [방법쟁이-2023AI] 챗GPT의 한계(2) - 가짜뉴스