오픈AI, AI 탐지기 개발 완료에도 출시 미뤄… 수익성 때문?

오픈AI 제공

오픈AI가 인공지능(AI)으로 작성한 ‘문서’를 탐지하는 방법을 개발했으나 공개하지 않고 있다는 보도가 나왔다. ‘워터마크’를 남겨 99.9% 정확도로 AI 생성 콘텐츠를 탐지할 수 있으나, 공개하면 챗GPT 사용자가 줄어들 수 있다는 우려에 공개를 꺼렸다는 해석이 나온다. 최근 수익성을 위해 안전한 AI 개발을 도외시하고 있다는 비판에 직면한 오픈AI의 행보를 놓고 논란이 증폭되는 양상이다.

4일(현지 시간) 월스트리트저널(WSJ)은 “오픈AI가 챗GPT로 작성한 에세이나 논문을 확실하게 탐지하는 방법을 1년 전 개발 완료했으나 공개하지 않고 있다”며 “직원들이 투명성에 대한 회사의 약속과 사용자 유치 사이에서 갈등하고 있다”고 보도했다. 샘 올트먼 오픈AI 최고경영자(CEO)를 포함한 경영진도 ‘부정행위 방지도구’에 대한 논의에 참여했고, 프로젝트를 장려했지만 실제 서비스에 도입하지는 않았다고 전해졌다.



AI가 생성한 문장 속에 특징적인 표현이나 문구를 숨기는 워터마크 도입은 이미 관련 논문 등을 통해 유용성이 증명됐다. AI 생성 이미지에는 이미 워터마크가 적용돼 있기도 하다. 오픈AI도 기술 개발을 완료했음을 부인하지는 않았다. 다만 감지 능력이 영어에 특화돼 공개하지 않았다는 게 회사 측 설명이다. 오픈AI는 “워터마킹이 기술적으로 유명하지만 대안을 연구하는 동안 신중하게 고려해야 할 위험이 존재한다”며 “AI 생태계 전반에 끼칠 영향을 고려할 때 신중한 접근이 필수”라고 해명했다.

그러나 WSJ은 오픈AI가 기술 공개를 미룬 이유가 수익성에 있다고 꼬집었다. 챗GPT 충성 사용자 중 3분의 1이 부정행위 방지 기술에 반감을 갖고 있어, 가입자 이탈 우려에 공개를 미루고 있다는 것이다. WSJ은 “지난해 4월 오픈AI가 의뢰한 설문에 따르면 사용자 30% 가량이 워터마크 도입시 챗GPT 사용을 줄이겠다 답했고 탐지 도구에 찬성하는 의견은 25% 정도였다”며 “오픈AI 내부에서는 감지 도구가 챗GPT 품질을 저해할 수 있다는 우려가 있고, 지난 6월 내부 회의에서도 설문 조사 결과가 언급돼 ‘다른 접근 방식’을 알아보자는 결론이 나왔다”고 전했다.

AI를 사용한 과제 작성으로 골머리를 썩이고 있는 일선 학교에서는 기술 공개를 원하고 있다. 비영리단체인 민주주의 기술 센터의 최근 조사에 따르면 학생들이 AI를 이용해 과제를 했다고 생각하는 미국 중고등학교 교사 비중은 59%에 달했다. 1년 전보다 17%포인트나 늘어난 수치다.