오픈AI, 중국 정부 연계 ChatGPT계정 다수 차단

“SNS 감시 질문···국가안보 정책 위반”

미국의 오픈AI가 중국 정부 기관과 연계된 것으로 의심되는 여러 개의 ‘ChatGPT’ 계정을 정지시켰다고 밝혔다. /클립아트 코리아 제공

미국의 인공지능(AI) 기업 오픈AI가 중국 정부 기관과 연계된 것으로 의심되는 여러 개의 ‘ChatGPT’ 계정을 정지시켰다. 해당 계정들이 SNS 감시 및 정보수집 방법을 문의하는 등 자사 정책을 위반한 정황이 드러났기 때문이다.

로이터통신은 7일(현지시간) “오픈AI가 자사 대화형 생성형 인공지능 ‘ChatGPT’를 이용해 사회관계망서비스(SNS) 감시 및 모니터링 도구 구축법을 질문한 계정들을 다수 차단했다”고 보도했다. 오픈AI는 “이 행위가 국가안보와 관련된 내부 정책을 명백히 위반했다”고 밝혔다.

오픈AI가 공개한 최신 ‘사회적 위협 보고서’에 따르면 일부 사용자는 ChatGPT에 대해 SNS 감시용 툴 제작 방법이나 기타 정보 감시 기술을 문의한 것으로 드러났다. 회사는 이를 “AI 기술의 악용 가능성을 보여주는 사례”로 지목하며, 관련 계정들을 즉각 정지 조치했다.

이번에 차단된 계정 중에는 중국어를 사용하는 계정들도 다수 포함됐다. 오픈AI는 이들이 “기업을 사칭한 이메일을 발송해 사용자들을 피싱(Phishing) 사이트로 유도하거나, 악성코드(Malware) 실행을 지원하는 행위에 ChatGPT를 활용했다”고 설명했다. 즉, 질의응답 수준에서 벗어나 보안 위협으로 직결될 수 있는 ‘AI 도구 남용’ 사례로 본 것이다.

오픈AI는 지난해 2월부터 사회적 위협 관련 보고 체계를 구축한 이후, 현재까지 40여 개의 악성 네트워크를 적발·차단했다고 덧붙였다. 회사 측은 “AI가 악의적이거나 불법적인 지시를 자동으로 거부하도록 알고리즘을 강화하고 있다”며 “국가안보·사이버보안 위협에 대해 선제적으로 대응할 방침”이라고 강조했다.

이번 조치는 AI가 ‘정보전(Information Warfare)’의 도구로 악용될 수 있다는 글로벌 우려가 커지는 가운데 나왔다. 특히 SNS 모니터링과 여론 조작, 피싱 공격 등은 실제 안보 리스크로 이어질 수 있어, 오픈AI의 대응은 ‘AI 거버넌스’ 강화 움직임의 일환으로 평가된다.

/김진홍경제에디터 [e-mail]