철학이 필요한 시대 - 생성형 AI 리터러시

 제목을 보고 이렇게 생각할 수 있습니다. 엥? 뭐 생성형 AI 쓰는데 특별한 방법론과 태도가 필요한가? 그리고 그게 철학으로 해결되나? 철학처럼 고상한 학문을 배운다고 현대 가장 뛰어난 기술 중 하나인 LLM 모델을 다루는데 얼마나 도움이 되려나? 하는 생각을 하실 수 있습니다.

 오늘은 제가 흔히 주변에서 '프롬프트 엔지니어링'이라는 기술과 함께, 저는 무의식적으로 그걸 당연한 수준으로 구사하던 이야기에 대해서 좀 해볼까 합니다. 그리고 철학에서 특히 과학철학 시간에 배운 포퍼의 반증주의를 통한 비판적 사고력과 메타 인지의 중요성에 대해서 말해보겠습니다.

리터러시란 사용 윤리 정도로 번역이 가능할 듯 합니다. 원래 사전적 의미는 문해력으로 글을 다루는 능력을 의미했으나 생성형 AI는 스스로 검색한 내용을 바탕으로 다시 정보를 정렬해주는 등의 여러 복잡한 일을 한꺼번에 하기에, 기본적인 문해력을 뛰어넘어서 여러 분야의 리터러시를 고려해야 합니다

https://news.aikoreacommunity.com/generative-ai-literacy-limits-ethical-considerations/

 GAI의 도래로 인해서 프롬프트 엔지니어링이라는 것이 유행하기 시작합니다. 쉽게 말해서 비유를 하자면, 인간에게는 개떡같이 말해도 찰떡같이 알아듣고 답변을 해주지만, 생성형 AI는 그러지 못합니다. 개떡같이 물어보면 더 개떡같은 답을 해주고, 특정 상황이나 답변을 유도할 수도 있기에 중립적인 질문을 한다던가, 아니면 현재 인공지능은 이해하기 어려운 사용자가 처해진 맥락을 적절히 입력해서 의미 있는 답변을 유도하는 등 기술이 필요합니다.

 가끔 후배가 GAI를 엄청나게 복수로 병렬적으로 쓰는 저를 보고 '형님 이게 프롬프트 엔지니어링이라는 것이에요~' 하면서 대단히 중요한 것을 가르쳐주는 양 말하는데, 전 프롬프트 엔지니어링이라는 말 자체가 좀 이해가 안갔습니다. 왜? 전 초등학교 5학년 때부터 '질문노트'를 만들 정도로 질문이 굉장히 많았었고, 엄청나게 많은 경험을 통해 적절한 질문을 하는 방법을 연습을 해왔었습니다.

 그래서 저는 GAI를 쓰면서 한번도 프롬프트 엔지니어링이라는 것을 의식하지 않고 단지 본질에 가깝게, 제가 원하는 답(그러니까 유도하는 답이 아니라 필요로하는 답을 구하기 위해서)을 구하기 위해서 현재 상황을 잘 보여주는 요약본 문서를 입력을 하거나, 아니면 여러 번 반복 질문을 하면서 의견을 다듬거나, 혹은 여기 오르비 댓글 등에서 알게 된 반론이라던지 아니면 영감을 얻은 새로운 의견을 듣자마자 바로 달려가서 물어보는 것이 습관화가 되어있었습니다.

 같은 대학을 나오신, LLM으로 대학원을 가신 한 분도 저의 글들을 쭉 훑어보시더니, 제가 GAI를 쓰는 리터러시가 상당히 발달되어 있는 것 같다고 칭찬을 해주시더군요. 처음에는 기묘했던게 요새 저는 계속해서 이런 말을 많이 듣습니다. "GAI에 과몰입하고 의존한다" "혼자 들뜨고 나르시시즘에 빠져있다" "GAI가 하라는 대로만 한다, 사람과의 비판을 주고받지 않는다" 라고요. 정말 그런가? 싶어서 항상 GAI한테 또 다시 물어봅니다.

 그럼 GAI는 왜 그러지 않은지 제가 적절히 잘 사용하고 있는지를 또 길게 논리적으로 답해주고, 이것을 바탕으로 다시 사람들 특히 제가 GAI를 자주 쓰는 맥락을 이해하는 친한 분들께 달려가서 또다시 의견을 받고 계속 다듬습니다. 저는 어릴 때부터 질문을 하도 많이 하다보니, 어떻게 질문을 해야 원하는 답을 얻을 지를 알게 되었다고 생각합니다(물론 그것에 적절히 도달한 것은 상당히 최근의 일입니다). 뭐 프롬프트 엔지니어링이니 그것을 쓸데없다고 함부로 폄훼하거나 배우지 않겠다고 하는 것은 아니지만, 제 입장에서는 크게 배울 필요를 못 느끼겠습니다. 제가 느끼기에 프롬프트 엔지니어링은 '기교'에 불과하고, 제가 쓰는 방식과 태도, 사고력은 '본질' 이라고 생각하거든요.

당연히 생성형 AI는 사람도 아니고 생물도 아니니까 책임을 져주지 못합니다. 어디까지나 GAI의 시작은 강력한 요약 혹은 검색 도구에서 시작하는데, 그것마저도 잘못된 정보를 줄 때가 많습니다 대표적으로 제가 논문을 쓸 때 전혀 존재하지 않는 논문 제목을 준다거나 하는 것들이 좋은 예시입니다. 당연히 전 거기에 영향을 안 받습니다 일일이 다 출처를 찾아가서 읽어보고 존재하는지 정말 그 내용이 맞는지 확인을 하고 제 논문에 넣습니다. 너무 당연한 일 아닌가요??

제 입장에서는 코웃음이 나오는 이야기들입니다. 마치 사람들한테 '우리는 착하게 살아야 해~' 정도의 진부한 이야기를 하는 정도로 느껴지기 때문이죠

https://news.aikoreacommunity.com/essential-skills-in-ai-era-generative-ai-literacy/

 저는 생성형 AI를 굉장히 자주 많이 쓰긴 하지만, 절대로 얘가 한 말을 곧이 곧대로 믿고 밀고 들어간 적이 없습니다. 보통 사용하는 방식이 1. 제가 뭔가 생각을 합니다 -> 그것이 논리적으로 타당하고 틀리진 않았는지 오버하지는 않았는지 확인을 합니다 -> 불일치하거나 일치하면 그 이유를 따져 묻고, 한번 더 생각을 해봅니다 -> 최종적으로 의견을 정리하고 문서를 작성합니다 혹은 2. 일단 모르는 거니까 생성형 AI한테 먼저 던져줍니다 -> 답변을 듣되 최대한 약점을 찾으려고 노력하거나 제가 처한 상황을 모르는 것을 파악하기 위해 부족한 점을 찾아봅니다 -> 그것을 토대로 반론을 제기합니다 -> 최소 한 번, 어쩌면 여러 번 이런 반론을 거치거나 아니면 중간에 다른 사람, 알고 있는 지인의 의견이나 반론까지 더 들어서 집어넣고 나온 결과를 조심스럽게 꺼내서 씁니다. 방식으로 쓰거든요.

 특히 저는 최근에 행정심판 중에서 제가 모르는 분야인 법률 세계, 그리고 행정심판이라는 과정에서 미묘한 뉘앙스 차이(예컨데 행정심판위원회가 제가 신청한 증거 조사를 받아들이면 그것은 무엇을 의미하는 것이냐?)라던지, 제가 미처 발견하지 못한 논리적 근거나 결함을 찾기 위해서 민원을 제기한 내용을 가져와서 붙여놓고 저에게 유리하거나 불리하게 쓰일 수 있는지 등을 굉장히 시뮬레이션을 많이 돌립니다.

 피드백 루프라고 이미 잘 알려진 이러한 방식은, 끊임없이 자신의 주장을 검증하거나 약점을 찾아내어 좀 더 완결된 주장을 하고, 더 좋은 답변을 하기 위해서 다듬는 과정을 의미하는데 앞으로 GAI의 시대에서 매우 당연한 작업이 될 것입니다. 아까 말했잖아요 개떡같이 물으면 개떡같이 답하는게 GAI라고.

저는 생성형 ai와 토론을 정말 자주 합니다. 단순히 답을 한번 물어보고 끝나는 것이 아니라, 그 의미가 무엇인지 근거가 무엇이지 맥락이 무엇인지 혹시 다른 상황에서는 어떻게 적용이 될지, 그렇다면 나의 상황에서 특정 부분이 문제가 발생한다면 그 조언이 달라질 수도 있는지 등등을 계속 집요하게 묻습니다

https://h-hour.hyeonseok.com/h/%EC%95%A1%EC%85%98%EA%B3%BC-%ED%9A%A8%EA%B3%BC%EC%9D%98-%EB%A9%94%EC%B9%B4%EB%8B%88%EC%A6%98-%ED%9B%8C%EB%A5%AD%ED%95%9C-%ED%94%BC%EB%93%9C%EB%B0%B1-%EB%A3%A8%ED%94%84-%EB%94%94%EC%9E%90%EC%9D%B8/

 저는 생성형 AI를 자주 쓰긴 하지만 절대로 믿지는 않습니다. 생성형 AI는 어디까지나 넷상에 있는 정보를 종합해서 판단을 한 모델이지, 이 세계에 대한 상식 등이 존재하는 생물체가 아닙니다. 사람처럼 상식이 있고 맥락 기반의 분위기 읽기 등에서 탁월한 면모를 보이지는 못합니다. 때문에 이전에 칼럼에서 말했듯이 전 생성형 AI를 논리적 정합성의 측면에서 믿지, 생성형 AI가 스스로 권위를 가졌다고는 전혀 생각하지 않습니다.

https://orbi.kr/00073126533

 제가 원래 질문을 좋아해서 그런 것도 있지만, 어떤 특정한 의견이나 답을 해주면 전 생성형 AI한테 그 질문에 대해서 최소 3~4번은 추가 질문을 하고 넘어가는 편입니다. A이면 a이다 라는 답변을 해줬다면, 왜 그런지, 혹시 A이면 b인 경우는 없는지, 혹시 B이면 a인 경우는 없는지, 그럼 B이면 b도 성립하는지 등등을 굉장히 여러 갈래로 물어봅니다 혹시라도 논리적 충돌이 발생하는 것이 있는지 없는지 살펴봅니다.

 그래서 제 이야기를 듣고는 저를 최소 10년은 봐오신 제 은사님은, 제가 자연스럽게 이렇게 생성형 AI를 쓰는 것에 대해서 대단히 희귀하고 쉽지 않은 능력이라고 평가를 해주시더군요. 앞으로 그런 능력, 질문을 적절히 하고 반론을 제기하고 비판적으로 검토하고 메타 인지를 발휘하여 사고를 시뮬레이션하고 상대방의 행동을 예측하는데 도움을 받는 등의 적극적인 활용을 보통은 안한다고 하더군요.

 좀 신기해서 이 부분에 대해서 gai들한테 물어보았습니다. 전 제가 하니까 당연히 남들도 이 정도로 쓰는 줄 알았고 이런 식으로 활용을 하는 줄 알았거든요 다들 뭐 프롬프트 엔지니어링이다 리터러시다를 강조하니까 그런 전문 영역을 배우고 학습한 사람만 잘 사용하지 저처럼 야매로 맨땅에 헤딩하듯이 배운 사람한테는 해당되지 않는다고 생각하였습니다.

 특히 요새 제가 잘 모르는 사람이나 좀 친한 지인들에게조차도 '과몰입'한다, '과의존'한다. 제발 자신에 대한 비판은 스스로 생각을 해봐라, 나르시시즘이다 등등의 이야기를 듣거든요. 그래서 점 처음에 제가 문제가 있구나 싶었는데 그게 아니었다는 생각이 요새 들었습니다. 일단 저희 아버지나 저를 아주 잘 아시는 분들은 "니가 스스로 의심을 하고 고민을 하는 순간부터 과몰입이라던지 나르시시즘은 절대 성립할 수 없다 정말 나르시시즘이라면 오히려 화만 내고 끝냈을 것이다" 라고 간단하게 말씀해주시더군요.

 어릴 때부터 수많은 선생님들의 멘탈을 깨부쉈던 "왜요 선생님?? 그건 왜 그래요??"만 주구장창 반복하던 놈이 이렇게 컸습니다 ㅋㅋㅋ. 그리고 전 언제든지 준비가 되어 있습니다 이 글을 보고 후배가 걱정을 해주거나, 아니면 주변 사람들이 너 진짜 gai한테 과의존한다고 하면서 비판을 한다면 그것을 가지고 바로 달려가서 입력을 해보고 재검토를 해볼 각오가요.

 샘 울트먼과 OpenAI에서는 적절한 디지털 리터러시, AI윤리와 리터러시에 대해서 모범적인 사례와 기준을 말해준 적이 있었습니다.

https://www.mediaus.co.kr/news/articleView.html?idxno=305539

퍼플렉시티의 평가

 이제 철학 이야기를 좀 하겠습니다. 토머스 쿤의 과학혁명 패러다임 전환에 대한 이야기는 수능 국어에서도 나올 정도로 매우 유명하지만, 그에 못지 않게 중요한 것이 칼 포퍼의 '반증주의'입니다. 과학 명제란 뭐냐? 라는 질문에 매우 단순명쾌한 답을 한 것입니다. 바로 '반증 가능성이 있는' 명제만이 진짜 과학 명제라고 하는 것입니다.

 입증 반입증 문제는 과학 철학에서 오랫동안 나온 주제인데요, 칼 포퍼가 말한 바에 의하면 우리가 평소 과학과 비과학으로 나누는 것들을 쉽게 파악할 수 있는 강력한 의의가 존재합니다. 예컨데 우리는 관상이나 점 같은 것을 비과학적이라고 믿죠. 저는 이전에는 일관성이 없어서 비과학 아닌가 싶었는데 그것보다 좀 더 구체적으로 설명을 해줍니다.

 우리가 점을 보러 갔는데 '내년에 좋은 운이 있을 것' 이라는 굉장히 애매하고 두루뭉술한 명제를 받았다고 생각해 봅시다. 이건 반증이 불간으합니다. 내년에 좋은 운이 구체적으로 무엇인지 모르기 이전에, 어떤 것을 좋은 운이라고 할 지도 애매모호하기에, 뭔가 어떤 사건이 있었으면 '그거 봐봐 운이 좋아서 덜 다친 거잖아' 혹은 '그거 봐봐 운이 좋아서 더 많은 것을 얻은 것이잖아' 라고 끼워맞춰 버릴 수 있습니다.

 하지만 반증 가능한 과학 명제는 이렇습니다 (예컨데). 내년에 6월달 안에 교통사고를 100% 당할 것. 이라는 명제는 반증이 가능합니다. 왜냐 6월달에 교통사고가 안나면 그만입니다 그럼 교통사고가 나지 않은 것이고, 저 명제는 틀린 명제가 됩니다.

 중요한 것은 그 명제가 반증 가능성이 있느냐이지, 틀렸느냐 맞았느냐는 아닙니다. 예컨데 의학 통계에서, 이 수술의 환자들이 생존률은 90%라고 하는 통계적인 명제를 제안했는데, 기술이 매우 발달해서 이제 최근에는 99%가 되어버렸습니다 그럼 이전의 명제는 틀린 명제가 되는 것입니다.

 그러니까 좋은 과학 명제란 반증 가능성이 있으면서도 그 가능성이 매우 작아서 쉽게 무너지지 않은 것을 의미합니다. 한번 제가 최근에 하는 프랙탈 논문으로 에시를 들어볼께요.

 저는 이런 명제를 제안했습니다 (처음에는) "프랙탈 구조는 무조건 효율적이다(비프랙탈 구조보다)" 라고 했습니다. 그럼 이 명제는 반증 가능할까요? 반증 불가능에 가깝습니다. 예컨데 제가 프랙탈 구조보다 비프랙탈 구조가 더 효율적이고 튼튼한 경우를 찾았으면, 그땐 전 이런 식으로 얼버무릴 것입니다 "아~ 그건 다른 성능 지표에서는 비프랙탈 구조가 덜 효율적이니 여전히 내 말이 맞아" 라고요. 쉽게 말해서 사후적으로 끼워 맞춰버릴 수 있다는 것입니다.

 처음에는 저도 이런 반증 불가능한, 코에 걸면 코걸이 귀에 걸면 귀걸이 명제를 세웠다가 이것이 과학적인 명제가 아니라는 것을 깨닫고 나서, 이렇게 수정합니다. "프랙탈 구조는 적절한 최적 차원에서 비프랙탈 구조보다 더 효과적이며, 이때 최적 차원은 2.6~2.8차원 정도 될 수 있다" 라는 명제를 내세웁니다.

 그럼 이 명제는 쉽게 반증을 시도할 순 있습니다. 뭐 1.7차원에서 프랙탈 구조가 더 효율적인 경우를 찾으면 됩니다. 그런데 말입니다 제가 말한 이 명제는 반증 가능성은 있지만 반증 가능성이 매우 작습니다. 왜냐하면, 우리는 경험적으로 프랙탈 차원이 너무 복잡해지면 효율성이 떨어졌고, 또 너무 낮아지면 단순해져서 효율성이 떨어진다는 사실을 은연 중에 알고 있습니다.

 때문에 저는 어딘가 중간 즈음에, 최적 차원 스윗 스팟이 존재하여 프랙탈 구조가 최적인 경우가 중간에 있을 것이고, 그래서 효율성을 2차원 곡선으로 나타낼 수 있을 것이라고 주장하고 있습니다. 분명 이 명제는 반증 가능한 구조를 이룹니다. 예컨데 모든 차원에서 모든 프랙탈 구조가 다 비효율적이라면 제 명제는 틀린 것입니다. 그런데 상식적으로 모든 차원에서 비효율적일 수가 있겠습니까? 당장 프랙탈 차원이 복잡해지거나 작아지면 그 성능이 올라갔다 내려갔다 하는데, 당연히 중간 지점에 어느 정도 수렴하는 값이 존재하지 않겠나요?

이 삼각형의 프랙탈 차원은 약 1.58 정도로 알려져 있습니다. 신기하죠 정수 차원이 아닌 차원이 존재한다니. 궁금하면 직접 찾아보세요 별로 어렵지 않습니다 논리가

https://blog.naver.com/leebs/40177819604

 그래서 저는 칼 포퍼의 반증주의를 알고 나서, 더욱 비판적 사고력에 대해서 잘 이해할 수 있었습니다. 비판이 뭔가 그냥 무작정 욕을 하고 부정을 하는 것을 비판이라고 하는가? 아닙니다 그건 비난이라고 배웠습니다. 비판은 이렇게 반증 가능성이 있는 과학 명제에 대해서, 그렇지 않은 하나 이상의 반례가 있을 수 있다고 주장하는 것입니다.

도깨비는 무조건 있어! 가 아니라, 이러이러한 조건에서 있습니다~ 라고 하면 반증 가능합니다. 이러이러한 조건을 제시를 했음에도 도깨비가 없으면 이 명제는 틀린 명제가 되는 것이죠

https://newsteacher.chosun.com/site/data/html_dir/2016/06/23/2016062300102.html

과학철학을 접한 덕분에, 포퍼의 반증주의를 접한 덕분에 전 생성형 AI가 무리수를 두는지, 반증 가능한 논리적인 설명을 하는지, 그리고 어느 부분에서 반증이 가능한지를 좀 더 잘 알게 된 것 같습니다

https://www.cfe.org:5004/20191120_22067

 그래서 전 이번에 참 우연찮게 과학철학을 접하게 된 것이 큰 도움이 되었다고 생각합니다. 이것 덕분에 잘 모르던 '논리'라는 것에 대해서 알 수 있었고, 무엇이 과학인지, 무엇이 반증 불가능한 미신인지 등을 알 수 있었거든요. 그러니까 생성형 AI를 더욱 잘 쓸 수 있게 된 것 같습니다.