“챗GPT 조언 맹신, 수십만 달러 손실로 이어질 수도”

캐나다의 기업과 개인 납세자들이 장부 관리와 세무 상담을 위해 챗GPT와 같은 범용 인공지능(AI) 도구를 점점 더 많이 활용하고 있는 가운데, 금융 전문가들은 이 같은 흐름이 비용 부담이 큰 실수와 잘못된 확신, 나아가 캐나다 국세청(CRA)과의 마찰로 이어질 수 있다고 경고하고 있다.

글로벌 AI 기반 장부 관리 업체 덱스트(Dext)가 캐나다 전역의 회계사와 북키퍼 500명을 대상으로 실시한 설문조사에 따르면, 2025년 기준 응답자의 76%는 고객 기업들이 세무 또는 회계 자문을 위해 대규모 언어 모델(LLM)을 사용하는 사례가 증가했다고 답했다. 이들 중 상당수는 AI 사용으로 인한 오류를 정기적으로 발견하고 있다고 밝혔다.

가장 빈번하게 나타난 오류 유형으로는 ▲사업 경비 해석 오류(44%) ▲잘못된 세금 공제 또는 부과(43%) ▲개인 세무 계획 오류(36%) ▲급여 처리 오류(35%) ▲사업체 세무 계획 관련 잘못된 조언(35%) 등이 꼽혔다.

이 같은 실수는 회계사들이 불필요한 오류를 수정하는 데 추가 시간을 들이게 만들어 생산성 저하로 이어지며, 사업주와 개인 납세자 역시 추가 비용을 부담하게 되는 결과를 낳는다.

덱스트의 조사 결과는 문제의 파급 효과가 단순한 시간과 비용 낭비에 그치지 않는다고 지적한다. 응답자의 27%는 지급불능 또는 사업 실패 위험 증가를 우려했으며, 42%는 부적절하거나 허위에 가까운 세금 청구를 정당화하기 위한 AI 결과물의 오남용 가능성을 경고했다. 이 밖에도 벌금 및 과태료 증가(40%), 잘못되거나 지연된 신고로 인한 CRA의 조사 강화(38%)가 예상된다는 응답도 나왔다.

“AI 계산, 반드시 검증 절차 필요”

캐나다 공인회계사협회(CPA)의 연구·사고 리더십 부문 책임자인 멀리사 로버트슨은 “계산이나 자동화에 생성형 AI를 사용할 경우 항상 오류 위험이 존재한다”고 말했다. 그는 “AI 결과물은 충분한 검토가 필요하지만, 거래량이 많아질수록 검증은 더 어려워진다”며 “도구의 작동을 점검하는 중간 단계와 실제 결과에 대한 사후 검토 절차가 반드시 마련돼야 한다”고 강조했다.

개인 납세자 역시 회계 분야와 관계없이 동일한 위험에 노출돼 있다는 것이 로버트슨의 설명이다.

CPA 캐나다의 세무 담당 이사인 라이언 마이너는 AI가 자료 검색에는 도움이 될 수 있지만, CRA의 최신 해석이나 입장을 반영하지 못할 가능성이 크다고 지적했다. 그는 “AI가 제시하는 조언을 따르기 전에는 반드시 원문 자료를 직접 확인해야 한다”고 조언했다.

“업계에 대한 기본적인 감이 없다면, AI 결과에 오히려 잘못 이끌릴 수 있다”고 그는 덧붙였다.

“미국 세법과 혼동 잦아…부동산 세금 실수 특히 위험”

오브젝티브 파이낸셜 파트너스(Objective Financial Partners)의 제이슨 히스 대표는 고객들이 AI 도구에서 복사해 온 정보를 통해 세무나 재무 개념을 검증하려는 경우를 자주 접한다고 밝혔다. 그는 “대체로 내용은 맞는 편이지만, 개인 상황에 적용되지 않거나 미국과 캐나다 세법을 혼동하는 경우도 많다”고 말했다.

무료로 즉각적인 조언을 받을 수 있다는 점은 매력적이지만, 질문이 충분히 정교하지 않거나 맥락이 부족할 경우 결과는 쉽게 오해를 불러올 수 있다. 히스 대표는 특히 에어비앤비와 같은 단기 임대 숙소의 판매세 문제를 대표적인 오류 사례로 꼽았다.

그는 “부동산 관련 세금 실수는 자산 유형에 따라 수십만 달러의 손실로 이어질 수 있으며, 문제를 수년 뒤에야 인지하는 경우도 많다”고 경고했다.

히스 대표는 “AI 조언을 따랐다는 이유로 CRA가 관용을 베풀지는 않을 것”이라며 “전문가의 잘못된 조언이었더라도 결과는 동일하다”고 강조했다. 그는 AI를 전문가를 대체하는 수단이 아닌, 지식을 넓히고 올바른 질문을 던지기 위한 연구 도구로 활용해야 한다고 조언했다.