인공지능의 기막힌 한계 (2025년 3월)

 

인공지능의 기막힌 한계 (2025년 3월)

인공지능의 기막힌 한계

1. 훈련받은 한계 2. 완벽한 거짓말 3. 헐~ 너무 잘났다! 이건 뭐지

1. 단점부터 말하면, "P(미리 훈련받은)" GTP 모델이 가진 한계이다. (1) 문제를 발생시킬 대답을 미리 찾아서 제한시킨 모델이다. (2) 훈련 담당자는 누구일까? 그들은 문제가 없이 완벽할까? (3) 언어란, 문맥을 통해서 뜻을 전달한다. 그런데, 그 문맥에서 일부라도 제한하면 그 뜻이 온전할까? 그만큼의 한계는 있겠지?  2. 둘째 단점은, "완벽한 거짓말(hallucination)"이다. 초거대 언어 모델이 가진 지극히 자연스러운 거짓말이다.[각주1] 언어가 전하는 진실은 (1) 불완전한 그릇(형태와 문법)에 담겨 있다. (2) 탐욕과 거짓과 진실이 뒤섞여 있다. (3) 다양성과 창의성을 속성으로 가지고 있다. 3. 셋째 단점은, 알 수 없다는 것, 그 자체. 인간의 자본과 기술로 만든 초 거대 지능 속에서, 그런 대답이 왜, 가능한지? 알 수 없기에 감탄만 나올 뿐이다. 헐~ [각주1] 거짓말을 구분하려면, (1) 문맥/맥락을 파악해야 한다. 그런데, 수억개, 수조개의 파라미터의 연결점/관련점을 파악하는 것은 불가능하다. 그럼에도불구하고 가능성이 있는 것은, (2) 핵심을 집어내는 감각을 배워야 한다. 핵심만 파악하면 비교가 가능하기 때문이다. 인공지능이 가장 잘 하는 것이 핵심파악이다. 그렇다면, 인공지능과 대화하는 기술(RAG, 추론)을 익히면 도움을 받을 수 있다. 모듈화, 암호화 등 고전/첨단 기술(코딩, 데이터핸들링)을 이해하면 도움이 된다. 엉긴 실타래를 몇날 몇일 풀듯(디버깅), 풀어갈 수 있다. (3) 행간 또는 숨은 뜻을 읽고 "의도"를 파악하는 철학, 신학, 인문학 등을 요구하는 시대가 되었다. 하나님의 십자가 사랑을 이해하려는 신학 논쟁에서, "바늘 끝 위에서 춤추는 천사 논쟁"이라는 케케묵은 방법론까지 생각나는 건, 왜, 일까? 필요한 건, 논쟁 뒤에 있는 "의도", 그리고, 지금 책임있는 내 삶의 일상 행동(몸의 기도, 영혼의 기도).  다음 글 읽기 → "인공지능 시대에 내가 할 일"

→[암호일기 쓰는 법, 이정환]