어느 순간 AI에게 반론하지 않게 되었다
어느 순간 AI에게 반론하지 않게 되었다
요즘 AI를 사용하다가 문득 이상한 사실 하나를 깨달았습니다.
어느 순간부터 AI에게 반론하는 일이 거의 없어졌습니다.
처음에는 그렇지 않았습니다.
AI가 무언가를 설명하면 종종 읽다가 멈췄습니다.
"어? 이건 아닌 것 같은데?"
"정말 그런가?"
"이 조건에서는 다르지 않나?"
내가 알고 있는 내용과 다르면 반론했고, 조금이라도 이상하면 다시 물었습니다. AI가 그럴듯하게 말해도 틀릴 수 있다는 생각을 항상 가지고 있었습니다.
그런데 AI가 점점 좋아졌습니다.
답변은 정확해졌고, 설명은 논리적으로 변했습니다. 내가 생각하지 못한 조건을 찾아내기도 하고, 때로는 내가 내린 판단보다 더 나은 판단을 내놓기도 했습니다.
그러면서 검증하는 횟수도 자연스럽게 줄었습니다.
예전에는 답변 하나를 받고도 몇 번씩 확인했는데, 이제는 웬만한 답변은 그대로 받아들입니다.
계속해서 좋은 결과를 보여주는 도구를 신뢰하는 것은 이상한 일이 아닙니다.
그런데 어느 날 문득 이런 생각이 들었습니다.
나는 마지막으로 언제 AI에게 제대로 반론했지?
잘 기억나지 않았습니다.
처음에는 단순히 AI가 그만큼 좋아졌기 때문이라고 생각했습니다.
그런데 조금 이상했습니다.
AI의 정확도가 올라간 것과 내가 반론하지 않게 된 것은 정말 같은 이야기일까요?
어쩌면 AI가 똑똑해진 것뿐만 아니라,
내가 생각하는 방식도 조금 달라진 것은 아닐까요?
1. 나는 정말 생각하고 있었을까?
저는 AI 시대에는 질문하는 능력이 중요하다고 생각했습니다.
궁금한 것이 생기면 AI에게 질문합니다.
제가 알고 있는 배경을 설명하고, 현재 상황을 알려주고, 대략적으로 생각하고 있는 방향을 이야기합니다.
그러면 AI가 정보를 정리합니다.
가능성을 나누고, 원인을 추론하고, 내가 생각하지 못한 변수를 찾아냅니다. 반대되는 관점까지 검토한 뒤 마지막에는 그럴듯한 결론을 만들어줍니다.
저는 그 답변을 읽습니다.
그리고 이해합니다.
"아, 그렇구나."
"맞네."
"이렇게 생각할 수도 있겠네."
처음에는 이것 역시 제가 생각하는 과정이라고 여겼습니다.
내가 질문했고, AI와 대화를 나눴고, 그 과정에서 새로운 것을 이해했으니까요.
그런데 정말 그럴까요?
다른 존재가 수행한 추론을 이해하는 것과 내가 직접 추론하는 것은 같은 것일까요?
수학 문제의 풀이를 읽는 것과 비슷합니다.
잘 작성된 풀이를 보면 이해할 수 있습니다. 왜 이런 식을 세웠고, 왜 다음 단계로 넘어가는지도 납득됩니다.
그런데 풀이를 덮고 같은 문제를 처음부터 풀어보라고 하면 막힐 수 있습니다.
풀이를 이해하는 것과 풀이를 만들어내는 것은 같은 능력이 아니기 때문입니다.
생각도 비슷한 것은 아닐까요?
2. 반론은 어디에서 생기는가
우리는 생각을 흔히 이렇게 표현합니다.
질문 → 결론
하지만 실제로 어떤 문제에 대해 스스로 판단할 때 그 사이에서는 훨씬 많은 일이 일어납니다.
질문 → 정보 → 가설 → 추론 → 반론 → 검증 → 수정 → 잠정 결론
질문이 생기면 내가 알고 있는 정보를 떠올립니다.
가능성을 나누고, 하나의 가설을 세웁니다.
근거를 연결하다 보면 이상한 부분이 나타납니다.
"잠깐, 정말 그런가?"
반대 사례를 생각하고, 놓친 조건을 찾습니다. 처음의 가설을 수정하거나 때로는 완전히 버리기도 합니다.
그리고 몇 번의 수정을 거친 뒤에야 잠정적인 결론에 도착합니다.
그런데 AI를 사용하면서 저는 이 과정의 상당 부분을 아주 자연스럽게 AI에게 넘기고 있었습니다.
나는 질문합니다.
AI가 가설을 만들고,
근거를 연결하고,
반론하고,
검증하고,
결론까지 만들어줍니다.
나는 그것을 읽고 이해합니다.
어느 순간 역할이 조금 바뀌어 있었습니다.
나는 추론을 만드는 사람이 아니라, 완성된 추론을 읽는 사람이 되어가고 있었습니다.
그리고 여기서 제가 AI에게 반론하지 않게 된 이유도 조금 다르게 보이기 시작했습니다.
가령 내가 직접 이런 논리를 만들었다고 생각해봅시다.
A → B → C
A에서 B로 넘어갈 때 생각하게 됩니다.
"정말 A라면 B인가?"
B에서 C로 넘어가면서 다시 묻게 됩니다.
"B라고 해서 항상 C인가?"
그러다 예외가 하나 떠오릅니다.
"그런데 D라는 조건이 있다면?"
내가 직접 추론할 때는 A와 B, B와 C 사이의 연결을 직접 만들어야 합니다.
그리고 바로 그 연결을 만드는 과정에서 의심이 생깁니다.
반대로 누군가가 완성된 A → B → C를 아주 매끄럽게 설명해서 건네주면 상황이 조금 달라집니다.
A도 이해되고, B도 이해되고, C도 납득됩니다.
특히 그 답을 만든 존재가 나보다 훨씬 많은 정보를 알고 있고, 대부분의 경우 맞는다는 신뢰까지 가지고 있다면 굳이 연결부를 멈춰서 확인할 이유는 더욱 줄어듭니다.
추론의 결과를 읽는 것과 추론의 연결부를 직접 만드는 것은 다릅니다.
그리고 반론은 대개 그 연결부에서 태어납니다.
어쩌면 제가 AI에게 반론하지 않게 된 것은 AI가 완벽해졌기 때문만은 아닐지도 모릅니다.
내가 직접 그 연결부를 만들어보는 횟수가 줄어든 결과일 수도 있습니다.
3. AI가 정확해질수록 우리는 덜 검증한다
생각해보면 조금 역설적입니다.
AI가 자주 틀리던 시절에는 오히려 의심하기 쉬웠습니다.
이상한 답을 내놓으니까요.
중요한 내용은 직접 확인했고, 조금이라도 이상하면 다시 찾아봤습니다.
그런데 AI가 점점 정확해질수록 그런 행동은 줄어듭니다.
계속 맞는 답을 주는 존재를 매번 의심하는 것은 피곤하고 비효율적이기 때문입니다.
AI가 부족할 때는 인간이 AI를 검증합니다.
그런데 AI가 충분히 좋아지면, 역설적으로 인간은 AI를 검증하지 않기 시작합니다.
대부분의 경우에는 문제가 없습니다.
AI가 맞다면 굳이 검증하지 않아도 결과는 맞으니까요.
문제는 아주 가끔 AI가 틀렸을 때입니다.
특히 명백하게 틀린 답보다 논리적으로 잘 정리된 틀린 답이 더 어렵습니다.
그것을 발견하려면 결국 나에게도 추론 능력이 필요합니다.
전제가 맞는지,
전제에서 결론이 정말 따라오는지,
빠진 조건은 없는지,
다른 설명은 가능한지 판단할 수 있어야 합니다.
즉, 추론 능력은 내가 직접 정답을 만들어내기 위해서만 필요한 능력이 아닙니다.
다른 존재가 만들어낸 정답을 검증하기 위해서도 필요한 능력입니다.
그런데 여기서 조금 묘한 문제가 생깁니다.
AI의 답을 검증하려면 내가 독립적으로 생각할 수 있어야 합니다.
하지만 AI가 점점 좋아질수록 내가 독립적으로 생각해야 할 상황은 줄어듭니다.
그러다 보면 어느 순간 AI가 맞는지 판단하기 위해 다시 AI에게 물어보게 됩니다.
"정말 맞아?"
"네, 맞습니다."
물론 다시 질문하는 것 자체가 의미 없다는 이야기는 아닙니다.
하지만 같은 판단 주체에게 자신의 판단을 다시 확인시키는 것을 독립적인 검증이라고 보기는 어렵습니다.
그래서 어쩌면 인간의 사고력이 필요한 순간은 AI가 부족할 때만이 아닐지도 모릅니다.
AI가 부족하다면 어차피 사람이 생각해야 합니다.
AI가 틀리니까요.
오히려 어려운 문제는 AI가 너무 잘하게 되었을 때 시작될 수 있습니다.
AI가 너무 잘하기 때문에, 인간이 스스로 생각해야 할 이유가 사라지기 시작하는 순간입니다.
4. 그렇다고 AI를 쓰면 사고력이 떨어지는 걸까?
여기까지 이야기하면 쉽게 이런 결론으로 갈 수 있습니다.
"그러니까 AI를 많이 사용하면 사고력이 떨어진다는 거네?"
하지만 저는 그렇게까지 단정하고 싶지는 않습니다.
AI는 오히려 인간의 사고를 확장하기도 합니다.
혼자서는 생각하지 못했던 관점을 보여주고, 내 논리의 허점을 찾아주고, 반례를 만들고, 전혀 다른 분야의 지식을 연결해줍니다.
혼자 생각했다면 A와 B에서 끝났을 문제를 AI와 대화하면서 C와 D까지 확장할 수도 있습니다.
그러니 단순하게
AI 사용 = 사고력 감소
라고 말하기는 어렵습니다.
다만 이것은 생각해볼 필요가 있습니다.
AI가 추론을 대신할수록, 내가 직접 추론해보는 기회는 줄어듭니다.
그것이 곧바로 사고력 저하로 이어지는지는 별개의 문제입니다.
하지만 어떤 능력이 직접 해보고, 틀리고, 수정하고, 다시 판단하는 과정에서 숙련되는 능력이라면 그 과정을 얼마나 자주 경험하고 있는지는 중요할 수밖에 없습니다.
그리고 좋은 질문 역시 이 과정과 완전히 분리되어 있지는 않습니다.
생각하다 보면 빈틈이 보입니다.
"그런데 이 조건에서는?"
그 질문을 따라가다 보면 또 다른 문제가 나타납니다.
"그렇다면 아까 전제와 충돌하지 않나?"
하나의 질문이 추론을 만들고, 그 추론이 다시 새로운 질문을 만듭니다.
질문 → 추론 → 새로운 질문 → 다시 추론
그래서 이제는 AI 시대에 중요한 능력을 단순히 "질문을 잘하는 능력"이라고 생각하지 않습니다.
더 중요한 것은 어쩌면,
어떤 사고를 AI에게 맡기고 어떤 사고는 내가 직접 할 것인지 판단하는 능력일지도 모릅니다.
5. AI에게 답을 맡기기 전에, 내 생각을 먼저 만들어보기
그렇다고 AI에게 답을 묻지 않겠다는 것은 아닙니다.
오히려 반대입니다.
AI가 이렇게 유용한데 사용하지 않을 이유가 없습니다.
다만 순서를 조금 바꿔보려고 합니다.
예전에는 질문이 생기면 바로 AI에게 물었습니다.
질문 → AI → 답
이제는 가능하면 그 사이에 제 생각을 한번 넣어보려고 합니다.
질문 → 내 가설 → 근거 → 반론 → 잠정 결론 → AI
완벽한 결론을 만들 필요는 없습니다.
틀려도 괜찮습니다.
중요한 것은 AI의 답을 보기 전에 내가 어디까지 생각할 수 있었는지 확인하는 것입니다.
그리고 나서 AI에게 묻습니다.
"내 논리에서 가장 약한 부분이 어디야?"
"이 결론을 반박한다면 가장 강한 반론은 뭐야?"
"내가 당연하다고 가정하고 있는 전제가 있어?"
"내가 놓친 변수를 찾아줘."
그러면 AI의 역할이 조금 달라집니다.
나 대신 생각해주는 존재에서, 내 생각을 공격해주는 존재로.
답변자가 아니라 스파링 파트너에 가까워집니다.
혼자 생각하면 자신의 논리에 갇히기 쉽습니다.
반대로 처음부터 AI에게 모든 추론을 맡기면 내가 직접 생각을 만들어볼 기회가 줄어듭니다.
그렇다면 먼저 내가 생각하고, 그 생각을 AI에게 공격하게 하는 방식은 둘의 장점을 함께 가져갈 수 있습니다.
오히려 AI가 나보다 똑똑할수록 더 좋습니다.
내가 만든 어설픈 논리를 더 강하게 공격해줄 수 있으니까요.
6. AI가 바벨을 대신 들어주는 동안
세계 최고의 트레이너가 매일 내 앞에서 완벽한 자세로 바벨을 든다고 생각해봅시다.
나는 그 모습을 보면서 자세를 이해하고, 어떤 근육을 사용하는지도 설명할 수 있게 됩니다.
그런데 정작 바벨은 한 번도 내가 들지 않았습니다.
그렇다면 나는 운동을 한 걸까요?
아니면 운동하는 사람을 아주 잘 관찰한 걸까요?
AI를 사용하면서 문득 비슷한 생각이 들었습니다.
AI가 바벨을 대신 들어주는 동안 저는 운동 방법을 정말 많이 배우고 있었습니다.
물론 모든 바벨을 직접 들 필요는 없습니다.
이미 익숙한 문제를 매번 처음부터 고민하는 것은 비효율적입니다. AI에게 맡겨도 되는 생각은 과감하게 맡기면 됩니다.
문제는 무엇을 위임하고 있는지조차 의식하지 못하게 되는 순간입니다.
AI가 부족할 때는 이런 고민이 필요하지 않았습니다.
AI가 못하는 것은 내가 하면 됐으니까요.
하지만 AI가 점점 더 많은 것을 할 수 있게 되면서 상황이 달라지고 있습니다.
할 수 없어서 직접 하는 것이 아니라,
AI가 할 수 있어도 어떤 것은 내가 직접 해야 할지 결정해야 하는 시대가 오고 있습니다.
그래서 앞으로 중요한 능력은 AI보다 더 많은 것을 아는 능력도, 무조건 혼자 생각하는 능력도 아닐 것 같습니다.
어떤 생각은 AI에게 맡기고,
어떤 생각은 내가 직접 해보고,
언제 AI의 답을 의심해야 하는지 판단하는 능력.
그리고 가끔은 AI에게 답을 묻기 전에 스스로에게 먼저 물어보는 능력.
나는 어떻게 생각하지?
요즘 저는 그 질문을 조금 더 자주 해보려고 합니다.