지난달 미국 최대 쇼핑시즌 ‘블랙프라이데이’를 보름 정도 앞둔 시점, 현지 중소 판매자들은 날벼락을 맞았다. 세계 최대 SNS 플랫폼 ‘페이스북’에 상품을 광고할 수 있는 계정이 줄줄이 막혔다. 기념품가게부터 물병판매점까지 업종 불문 페이스북 광고가 일순간 멈췄다. 코로나19로 오프라인 매출이 대폭 줄어 페이스북 광고 등에 전적으로 의존할 수밖에 없던 탓에 타격은 더욱 컸다. 대목까지 앞둔 시기여서 판매자들은 이중으로 직격탄을 맞았다.

당시 페이스북은 내부 시스템 정기점검 중이었고, 이 과정에서 AI(인공지능)가 해당 판매자들이 규정을 위반한 것으로 오인해 장애가 발생했다. 페이스북 측은 “한 해 가장 중요한 시기에 사업에 차질을 빚어 고통을 겪은 점을 충분히 인지하고 있다”며 “최근 장애로 불편을 끼친 점에 대해 사과드린다”고 밝혔다. 페이스북이 AI 알고리즘 기반 모니터링을 강화하던 상황이었다. AI가 SNS 광고 효율성을 높일 수 있지만 역으로 오작동을 일으킬 경우 사람에게 막대한 손해를 입힌다는 점을 여실히 보여줬다.

디지털 트랜스포메이 션(전환)과 언택트로 AI의 위상과 역할은 갈수록 커지고 있다. 급증하는 데이터를 정확하고 효율적으로 다루고 새로운 서비스와 부가가치를 만들기 위해 AI는 절대적인 존재다. 이에 AI는 사실상 모든 영역에서 혁신을 위한 ‘상수’가 됐다.

반면 AI에 대한 의존도가 높아질수록 인류에게 닥칠 부작용은 ‘변수’다. 우리는 이미 가짜뉴스, 딥페이크(안면 위조) 등을 통해 AI의 위해를 확인했다. AI의 남용·오용·악용 사례가 점점 늘어날 경우 인류에게 닥칠 피해는 걷잡을 수 없게 된다. 일시적인 단순 오류조차 사회·경제적 피해를 초래할 수 있다는 점이 페이스북 사례를 통해 드러났다.

지난달 유로폴(유럽형사경찰기구)은 UNICRI(유엔 산하 지역 간 범죄처벌조사기관), 글로벌 보안기업 ‘트렌드마이크로’와 공동 연구한 보고서를 통해 딥페이크를 초월할 AI 기반 범죄가 일어날 수 있다고 경고했다. 이미지 인식 및 음성 생체 인식 회피, 사각지대 데이터 훼손, 랜섬웨어(금전 요구 해킹) 공격 등이다. 보고서는 “이미 사이버 범죄자들이 AI 최신 기술을 이용해 암호 추측, 음성 복제 등을 시도하고 있다”고 밝혔다.

AI가 내포한 위험이 수면으로 떠오르면서 각국에서 ‘AI윤리’를 제정하고 있다. 국내서도 최근 과학기술정보통신부가 ‘국가 인공지능 윤리 기준안’을 내놨다. 기준안은 최고 가치를 ‘인간성’으로 설정했다. 인간의 존엄성·사회 공공선·기술의 합목적성이 3대 원칙이다. 특히 ‘인간 존엄’ 관련 “AI가 인간의 생명은 물론 정신적·신체적 건강에 해가 되지 않는 범위에서 개발과 활용이 이뤄져야 한다”고 강조했다. 한 마디로 AI가 인간에게 해를 끼쳐서는 안 된다는 것이다.

교과서 같은 구절 속에는 이미 인류가 AI에 위협을 느끼고 있다는 방증이 담겨 있다. 하지만 윤리 기준안 자체가 해결책이 될 수 없다. 현재 필요한 것은 AI를 바라보는 냉정한 시선이다. ‘AI 만능주의’ ‘AI 제일주의’에 대한 경계다. AI가 혁신을 무조건 담보한다는 오류에 빠질수록 AI의 역습은 더욱더 빨라질 것이다.