빌 게이츠 MS 창업자는 “GPT AI 모델은 1980년 이후 가장 혁신적인 변화”라고 밝혔다. 실제로 챗GPT가 출시한지 반년만에 세상을 흔들며 AI가 인류의 새로운 미래 지향점으로 추앙받고 있다.

그 결과 생성형 AI를 업무 현장에 적용하려는 다양한 시도가 나오고 있다. 그러나 AI에만 의존해 관리·감독을 소홀히 하여 업무 사고가 나거나, 악의적인 AI 이용으로 사람들에게 피해를 준 사례가 이어지고 있다.

네이버의 웹소설 서비스인 ‘시리즈’에서 AI가 만든 표지를 썼다가 독자들의 비판으로 수정한 해프닝이 발생했다. 시리즈의 웹소설 ‘이별해주세요, 제발!’은 출판사가 준비한 표지를 소설의 작가가 준비한 그림(일러스트)들로 지난 16일 교체했다.

문제는 이 그림이 AI가 작업한 결과물로 얼핏 보면 높은 퀄리티를 보였지만 자세히 보면 오류 투성이였다.

그림①은 머리카락에 귀 일부가 있고 뒤에 있는 무늬와 머리카락이 연결돼 있다.
그림②는 왼손 중지가 2개 겹쳐 있다. 그림③은 눈동자가 일그러져 있다.

이외에도 독자들은 많은 문제점을 지적했는데 결국 원그림으로 교체되고 작가는 공식 사과했다. 기업 또는 창작자가 생성형 AI를 활용해 작업물을 만들 때, 관리·감독의 중요성이 부각된 사례였다.

아일랜드에서는 한 신문이 인공지능이 작성한 것으로 추측되는 기고문을 실어 편집자가 사과하는 사태가 발생했다. <아이리시타임스>는 지난 11일 ‘아일랜드 여성들의 인조 태닝 집착은 문제’라는 기고문을 온라인에 게재했다. 이 글은 당일 아이리시타임스에서 두 번째로 '많이 읽은 기사'였다.

그러나 다음날 SNS에 기고자의 사진과 이름이 실존하는 사람이 맞는지 의문스럽다는 의혹이 제기됐다. 결국 그날 오후 아이리시타임스는 “추가 확인이 될 때까지 삭제하겠다”는 메시지를 남기고 문제의 글을 내렸다.

루아단 맥코맥 편집자는 “기고문의 일부 글과 첨부 사진이 생성형 AI 기술로 제작됐을 가능성이 있다”고 인정했다. 편집자는 "이번 사건은 아이리시 타임스와 독자 간 신뢰를 깨트린 것으로, 진심으로 유감스럽게 생각한다"고 공식 사과했다.

독일에서는 주간지가 만난 적도 없는 유명 레이싱 선수의 가짜 인터뷰 기사를 실은 황당한 사건이 벌어졌다. <악투엘레>는 4월 15일 10년째 은둔생활 중인 미하엘 슈마허와의 인터뷰를 대서 특필했다.

이날 잡지 표지에는 ‘미하엘 슈마허와의 첫 인터뷰’라는 제목으로 그의 사진이 큼지막하게 걸렸다. 잡지는 슈마허가 "사고 이후 나의 인생은 완전히 바뀌었다. 나의 아내와 아이들, 우리 가족 모두에게 끔찍한 시간이었다"라고 말했다고 보도했다. 그러나 이건 모두 AI 챗봇에게 물어 얻은 답이었다.

다만 표지 하단에는 작은 글씨로 "믿을 수 없을 정도로 진짜 같았다"고 적어놨다. AI로 생성된 허구임을 암시한 표현이다. 로이터 통신과 ESPN 등은 슈마허의 가족이 '악투엘레'를 상대로 법적 대응을 검토 중이라고 전했다. AI가 만든 뉴스가 법적, 윤리적 문제를 낳았을 때 책임 소재를 생각해 볼 여지를 남긴 사건이였다.

구글과 오픈AI를 필두로 수많은 업체들이 경쟁적으로 생성형 AI기술을 내놓고 또 발전시키고 있다. 그러나 윤리적·사회적 문제에 대한 규제나 관계 기관은 전무한 실정이다. 이같은 상황에서 기업도 PR이나 마케팅 활동에 있어 세심한 모니터링과 주의가 필요한 상황이다. 

현재 미·중·유럽 정부, 세계보건기구(WHO), 나델라 MS CEO 등 다양한 관계자들이 AI의 여론 조작 가능성과 잘못된 정보 전달로 인한 부작용을 경고하며 사회적 합의가 필요하다고 주장하고 있다.