효율성 높이는 도우미일까, 감시도구일까… 인공지능이 가진 두 가지 얼굴

1

1993년 개봉한 SF 영화 데몰리션 맨은

과도하게 통제된 미래 사회를 묘사한 것으로 유명하다.

 

어디서나 컴퓨터에게 감시받는 시민들은

욕설만 해도 벌점을 부과 받는 등

욕망이 거세된 사회에 완벽히 순응하며 산다.

 

2

그런데 이런 디스토피아적 현상이

현실에서도 일어난다면?

 

급격히 발전한 AI 기술과

효율성을 중시하는 기업의 니즈가 만나면

충분히 가능한 일이다.

 

3

파이낸셜타임즈는 최근

코기토(Cogito)라는 IT기업의 사례를 소개했다.

 

고객을 응대하는 콜센터 직원을 보조하기 위해

AI를 활용하기 시작했다는 보도다.

 

4

사람을 상대하는 콜센터 직원들은

수많은 불만에 시달리며 정신적 스트레스를 받는다.

 

지속적으로 육체노동을 하면 힘이 고갈되듯이,

상담원의 대화 능력 역시 시간이 지나면 떨어질 수밖에 없다.

 

5

문제는 이런 상담원의 고충이

상담 업무의 질 저하로 이어진다는 것이다.

 

코기토 사는 이에 대한 대책으로

AI를 활용한 관리 프로그램을 제시했다.

 

6

이 프로그램은 대화의 성량, 단어 등을 분석해

그 문제점을 파악하고 관련 메시지를 보낸다.

 

예를 들어, 격앙된 대화가 이어지거나 대화의 흐름이 바뀔 경우

이를 지적하며 매끄러운 상담을 유도하는 것이다.

 

7
코기토 측은 이러한 피드백이

고객만족도를 높이는 한편

상담원의 능력을 높이는 데도

큰 효과를 발휘하고 있다는 입장을 밝혔다.

 

8

그런데 막상 당사자들에게는 이런 도움이 불편한 모양이다.

 

한 상담사는 “인간은 로봇이나 기계가 아니다”라며

효율성만 추구하는 관리 시스템의 존재를 부정적으로 보았다.

 

9

이와 비슷한 사례로 지난 2019년

도미노피자가 호주, 뉴질랜드 매장 800여 곳에

설치한 AI 카메라가 있다.

 

‘돔 피자 체커’라는 이름의 장치를 도입한 이유는

피자의 품질을 높이기 위해서다

 

10

조리실 주방에 위치한 돔 피자 체커는

토핑의 위치, 도우 두께 등을 실시간으로 체크한다.

 

만약 부족한 부분이 생길 경우,

알람을 울려 문제점을 짚어줄 수 있다.

 

11

폭스 뉴스 등 외신 보도에 따르면,

AI 도입 이후 실제 고객들의 만족도가 상당히 올랐다고 한다.

 

균일한 맛 보장이 중요한 프랜차이즈에겐

무척 반가운 소식이 아닐 수 없다.

 

12

그러나 현장 직원들의 반응은 이와 대조적이다.

AI에게 감시당하고 있는 느낌 때문에

기분 나쁘다는 주장이 속속 나오고 있다.

 

13

얼마 전에는 얼굴인식 AI를 바탕으로 한

건설 현장 감시기술이 중국에서 나와

많은 논란이 되기도 했다.

 

이를 활용하면 스마트폰을 하거나, 담배를 피우는 등

설렁설렁 작업하는 인부들의 모습을 24시간 내내 확인할 수 있다.

 

14

많은 논란에도 불구하고 이런 감시 AI의 도입은

지속적으로 이뤄질 것으로 보인다.

 

물론 넘어야 할 산이 많은 것은 당연지사.

 

15

사생활 침해 관련 윤리적, 법적 문제에서부터

직원 사기 저하로 인한 실효성 논란에 이르기까지…

 

어떤 식으로든 직업 현장에 도입될 AI의 활용에 대해

심도 있는 논의와 사회적 합의가 시급한 상황이다.