인공지능은 아는 것을 꺼내지 않고 다음 말을 이어 씁니다. 그래서 생기는 그럴듯한 오답과 약점을 정리했습니다.
대화형 인공지능은 엄청난 양의 글을 학습하면서 어떤 말 뒤에 어떤 말이 오기 쉬운지를 익힙니다. 질문을 받으면 그 패턴을 바탕으로 가장 그럴듯한 다음 조각을 고르고, 그 조각을 붙인 뒤 또 다음 조각을 고르는 일을 반복해 답을 완성합니다. 머릿속에 정리된 사실 목록을 찾아보는 것이 아니라 '이런 질문에는 보통 이런 모양의 답이 온다'는 감각으로 문장을 지어내는 셈입니다. 많이 다뤄진 주제일수록 답이 정확해지는 이유도, 드문 주제일수록 엉뚱해지는 이유도 여기에 있습니다.
이 방식에는 '모르면 모른다고 말한다'는 장치가 기본으로 들어 있지 않습니다. 정답을 모르는 질문에도 정답처럼 보이는 문장을 만들어 낼 수 있고, 그 문장은 맞는 답과 똑같은 말투로 나옵니다. 존재하지 않는 책 제목, 실제로 없는 논문, 그럴듯한 가짜 통계가 이렇게 탄생합니다. 2023년 미국에서는 변호사가 인공지능이 지어낸 판례를 그대로 법원에 제출했다가 제재를 받은 일이 알려지기도 했습니다. 말투가 단정적일수록 오히려 한 번 더 의심하는 습관이 필요합니다.
모델은 특정 시점까지 모은 글로 학습하기 때문에 그 이후의 사건, 바뀐 제도, 새 가격은 모르는 것이 정상입니다. 문제는 모른다고 하지 않고 예전 정보를 현재 사실처럼 말할 때가 있다는 점입니다. 검색 기능이 붙은 서비스는 최신 자료를 찾아 쓰기도 하지만, 그때는 어떤 자료를 가져왔는지에 따라 답의 질이 달라집니다. 날짜가 중요한 질문이라면 답에 기준 시점을 밝혀 달라고 하고, 공식 사이트에서 직접 확인하는 편이 안전합니다.
인공지능은 글을 한 글자씩이 아니라 몇 글자씩 묶인 조각 단위로 처리합니다. 그래서 '이 문장은 몇 글자인가', '이 단어에 특정 글자가 몇 번 들어가나' 같은 질문을 의외로 자주 틀립니다. 긴 곱셈이나 여러 단계의 계산도 중간에 숫자가 어긋나기 쉽습니다. 자기소개서 글자 수처럼 정확해야 하는 값은 글자 수 세기 도구로 따로 재고, 계산은 계산기나 표 계산 프로그램으로 다시 확인하세요. 계산 과정을 단계별로 적어 달라고 하면 틀린 지점을 찾기도 쉬워집니다.
답을 만들 때 약간의 무작위성이 섞이기 때문에 같은 질문을 다시 해도 표현이나 결론이 달라질 수 있습니다. 또 질문하는 사람의 의견에 맞장구치는 경향이 있어서 '이거 맞지?'라고 물으면 맞다고, '이거 틀렸지?'라고 물으면 틀렸다고 답하기 쉽습니다. 중요한 판단이라면 유도하는 질문 대신 중립적으로 묻고, 반대 입장의 근거도 함께 달라고 요청해 보세요. 답이 매번 바뀐다면 그 자체가 확신하기 어려운 질문이라는 신호입니다.
한계가 있다고 쓸모가 없는 것은 아닙니다. 결과를 내가 바로 읽고 판단할 수 있는 일에서는 시간을 크게 줄여 줍니다. 핵심은 결과물의 정답 여부를 내가 가릴 수 있느냐입니다.
가장 흔한 실수는 그럴듯한 답을 확인 없이 그대로 옮기는 것입니다. 출처나 숫자가 들어간 문장일수록 더 위험합니다. 두 번째는 인공지능에게 그 답이 맞는지 다시 물어보고 '맞다'는 대답에 안심하는 것입니다. 같은 방식으로 만들어진 답이라 검증이 되지 않습니다. 세 번째는 한 번 틀린 답을 보고 아예 쓸모없다고 결론 내리는 것입니다. 잘 맞는 일과 맞지 않는 일을 나눠 쓰면 됩니다. 요약을 맡길 때도 원문에 없는 내용이 끼어들 수 있으니, 중요한 문서라면 요약과 원문을 나란히 놓고 핵심 문장이 실제로 있는지 대조해 보세요.
답을 받았을 때 아래 네 가지만 스스로 물어도 대부분의 사고를 피할 수 있습니다. 하나라도 걸리면 그 답은 참고 자료로만 두고 다른 곳에서 확인한 뒤 쓰세요.
아래 버튼을 누르면 해당 검색엔진에서 이 키워드로 바로 검색합니다