5억 사용자를 보유한 ChatGPT, 하지만 CEO가 "신뢰하지 마라"고 경고하는 이유

 

 

인공지능이 우리 삶 깊숙이 들어온 2025년, 놀라운 소식이 전해졌습니다.

OpenAI의 CEO 샘 알트먼이 직접 나서서 자사의 대표 제품인 ChatGPT를 "과도하게 신뢰해서는 안 된다"고 경고한 것입니다. 이는 전 세계 5억 명이 사용하는 서비스를 직접 개발한 회사의 최고경영자가 한 발언이라는 점에서 더욱 주목받고 있습니다.

폭발적 성장 속 숨겨진 경고

OpenAI는 2025년 현재 놀라운 성장세를 보이고 있습니다.

샘 알트먼은 사람들이 ChatGPT에 대해 높은 신뢰도를 보이는 것에 놀라움을 표했으며, AI가 환각 현상을 일으키기 때문에 이런 기술을 그렇게 신뢰해서는 안 된다고 말했습니다. 주간 활성 사용자가 2024년 2월 4억 명에서 3월 5억 명으로 급증했고, 일부 보고서에 따르면 4월에는 8억에서 10억 명에 달할 수도 있다고 합니다.

이러한 사용자 급증은 재정적 성과로도 이어졌습니다. OpenAI의 연간화된 수익은 2024년 12월 55억 달러에서 2025년 6월 100억 달러로 두 배나 증가했으며, 2025년 수익을 127억 달러로 예상하고 있습니다.

AI 환각 현상, 왜 문제가 될까?

알트먼 CEO가 특히 강조한 것은 AI의 '환각(hallucination)' 현상입니다.

이는 AI가 사실이 아닌 정보를 마치 사실인 것처럼 그럴듯하게 제시하는 현상을 말합니다. 최신 연구에 따르면 일부 고급 버전에서는 환각 비율이 79%까지 올라가며, AI가 인용한 출처 중 실제로 존재하는 것은 14%에 불과했다고 합니다.

알트먼은 구체적인 예를 들어 설명했습니다. "존재하지 않는 용어를 정의해 달라고 요청하면, ChatGPT는 그럴듯하게 잘 만들어진 거짓 설명을 자신 있게 제공할 것"이라고 경고했습니다. 이는 사용자가 AI의 답변을 맹신할 경우 잘못된 정보를 사실로 받아들일 위험이 있음을 시사합니다.

세대별로 다른 ChatGPT 사용 패턴

흥미롭게도 샘 알트먼은 서로 다른 세대가 ChatGPT를 다른 방식으로 사용한다고 밝혔습니다.

젊은 세대는 ChatGPT를 조언자로 활용하는 경향이 있는 반면, 기성세대는 구글과 같은 검색 도구의 대체재로 사용한다고 합니다.

특히 Z세대와 밀레니얼 세대가 ChatGPT를 '인생 조언자'처럼 사용하는 경향이 강하다는 점은 주목할 만합니다.

이는 AI 환각 현상과 결합될 때 더욱 신중한 접근이 필요함을 의미합니다.

현명한 AI 활용을 위한 가이드라인

그렇다면 우리는 AI를 어떻게 활용해야 할까요?

 

1. 비판적 사고 유지하기 AI의 답변을 무조건 믿지 말고, 중요한 정보는 반드시 다른 신뢰할 만한 출처에서 검증해보세요.

2. 사실 확인 습관화 특히 의료, 법률, 투자 등 중요한 결정과 관련된 정보는 전문가나 공식 자료를 통해 확인하는 것이 필수입니다.

3. AI를 도구로 활용하기 ChatGPT를 최종 답안 제공자가 아닌 아이디어 제공자나 초안 작성 도우미로 활용하는 것이 바람직합니다.

4. 출처 요구하기 AI에게 답변의 근거나 출처를 요청하고, 해당 출처가 실제로 존재하는지 확인해보세요.

기술 발전과 책임감의 균형

OpenAI CEO의 솔직한 경고는 기술 업계에서 보기 드문 일입니다. 대부분의 기술 기업들이 자사 제품의 장점만을 강조하는 것과 달리, 알트먼은 한계와 위험성을 직접 언급했습니다. 이는 AI 기술이 빠르게 발전하고 있지만, 여전히 완벽하지 않으며 신중한 사용이 필요하다는 메시지로 해석됩니다.

AI가 의료부터 금융 서비스까지 다양한 분야에 도입되고 있는 현재, 사용자들의 올바른 이해와 현명한 활용이 그 어느 때보다 중요합니다. ChatGPT와 같은 AI 도구는 분명히 유용하고 강력한 기술이지만, 만능이 아니라는 점을 항상 기억해야 합니다.

결국 AI 시대에 가장 중요한 것은 기술에 대한 맹신이 아닌, 비판적 사고와 검증을 통한 현명한 활용입니다. 샘 알트먼의 경고는 우리에게 이러한 균형감각의 중요성을 다시 한번 일깨워주고 있습니다.