인간 두뇌에 한 발짝 더 다가선 AI, 그 바탕에 강화학습이 있다

 

 

 

 

 

최창현 기자 aitimes@naver.com

 

 

 

 

 

 

 

 

음성 NLP출처 : 인공지능신문(http://www.aitimes.kr)

 

 

 

 

 

 

새로운 메모리 장치는 여러 개의 개별 순차 전압에서 켜짐과 꺼짐 상태 사이를 전환할

수 있는 분자 시스템을 기반으로 재구성 가능한 장치는 반도체 회로 설계를 단순화

하고 계산 능력과 속도를 향상시킬 수 있다(사진:NUS)

 

 

 

 

 

 

 

 

브레인미디어 무단전재 및 재배포 금지

 

 

 

 

 

인간 두뇌에 한 발짝 더 다가선 AI, 그 바탕에 강화학습이 있다

 

 

 

강화 학습이 AGI를 달성하는 시점에 인간 능가하는 AI 탄생해
강화학습에 의해 사람이 몇 주 걸린 작업, 6시간 만에 완료해
직접 강화 학습하는 로봇은 많은 데이터 수집으로 작업에 유리

 

 

 

최근 하버드대와 구글리서치 연구진이 UAV 항법용 강화학습(Reinforcement Learning, RL) 알고리즘을 훈련할 수 있는 공개 소스 시뮬레이터 ‘에어 러닝’(Air Learning)을 개발했다고 지난달 16일 기술 매체 테크엑스 플로어가 보도했다.

 

연구진에 따르면, 에어 러닝에서, UAV 요원들은 심층 큐 네트워크(DQN) 및 근위부 정책 최적화(PPO) 알고리즘이라는 두 가지 교육 기술을 사용해 지점 간 장애물 방지 작업에 대해 AI를 교육할 수 있다.

그런가 하면, 올해 7월 28일 영국의 AI 개발회사 딥마인드(DeepMind) 연구진이 머신러닝의 강화학습이 머지않은 미래에 인간의 인지 능력을 복제하고, 범용인공지능(AGI) 수준으로 발전할 것이라고 주장했다.

 

이들은 “보상이면 충분하다(Reward is Enough)”는 제목의 논문에서 “강화학습이 AGI를 달성하는 시점에 거의 모든 인지 작업에서 인간을 능가하는 AI가 탄생할 것”이라고 예측했다.

국내에선 지난 6월 9일 정송 KAIST AI대학원장이 ‘지능정보기술포럼’에서 강화학습을 차세대 AI 기술로 꼽았다.

 

정 원장은 “현재 대규모 AI 언어모델이 대세다. 미래 사회 의사결정은 강화학습이 담당할 것”이라고 말했다.

강화학습은 AI 알고리즘 스스로 다양한 시도를 통해 최적의 결과치를 낼 수 있는 조합을 찾아가는 훈련방식이다.

 

강화학습 에이전트는 답을 모른 채, 수십만 번의 시행착오를 통해 최종적으로 완전한 학습에 도달하는데 때론 사람도 전혀 생각하지 못하는 방법으로 문제를 해결해 내기도 한다.

지난 2016년부터 빠르게 발전한 강화학습 분야는 AI가 인간의 영역을 넘어서는 관문으로 여겨지며, 지속해서 진화하고 있다.

 

우수한 칩 생산, 강화학습 덕분

지난 30일 칼럼니스트 쥬리카 두즈모비치(Jurica Dujmovic)는 마켓워치에 “기업들은 컴퓨터 칩을 만들기 위해 인공지능을 사용하고 있다”라며, "칩 설계에 AI가 도입되는 것은 성능과 효율의 필요성 때문이다”라고 말했다.

 

두즈모비치에 따르면, 지금까진 칩 설계가 전기공학의 영역이었지만 최근 구글의 연구로 인해 그 영역이 바뀔 수 있다는 것이다.

그는 “AI가 만든 칩 레이아웃은 전력 소비, 성능, 칩 영역 등 모든 핵심 지표에서 인간이 생산한 것보다 우수하거나 비견된다”고 밝혔다.

 

그 비결이 바로 강화학습이라고 주장했다.

이 머신러닝의 강화학습 덕분에 인공지능(AI)은 인간이 몇 주 동안 작업을 수행했던 것에 비해 불과 6시간 만에 작업을 완료했다는 것이다.

 

두즈모비치는 또 “인공지능 교육 과정이 느리고, 비용이 많이 들지만, 효율성과 성능 향상 측면에서 성과를 거둔다”고 밝혔다.

북미의 한 통합 장치 제조업체의 사례를 들며, 이 회사는 시놉시스 알고리즘을 사용해 단 몇 주 만에 최대 15% 더 높은 총 전력, 30% 더 나은 누설, 2~5배 더 빠른 융합을 달성할 수 있었다는 것이다.

 

시뮬레이션은 강화학습 최고의 파트너

 

AI 기반 솔루션 제공업체 데이지 인텔리전스는 강화학습을 사용해 기업들의 위험 관리를 해주는 미국 기업이다.

지난해 10월 27일에 이 회사는 자사 블로그의 글에서  “강화학습은 인간이 한 번도 해본 적이 없는 일을 할 수 있다”고 소개했다.

이 블로그에 따르면, 강화학습은 시뮬레이션을 통해 학습하거나, 실시간 의사결정 방법을 학습해 원하는 결과를 도출하는 AI의 한 분야라고 설명한다.

 

또 실제 환경에서의 강화학습이 중요한 이유는 시뮬레이션 상태에서 사용했을 때의 속도보다 학습 속도가 빠르기 때문이라는 설명이다.

즉, 강력한 컴퓨터가 있으면, 1억 시간의 시뮬레이션 시간을 1시간 동안에 실시간으로 할 수 있다. 게다가, 과거의 결정을 배우려고 하지 않기 때문에 인간이 생각해 보거나 시도하지 않았던 결정을 내리는 법을 배울 수 있다.

 

또한, 실시간 직접 훈련하는 강화학습은 물리 역학이 알려주지 않은 세계와 실시간으로 상호작용하는 것을 배울 수 있다는 것이다.

강화학습은 인간이 결정을 내릴 수 있도록 도와줌으로써 실제의 문제에 적용될 수 있다.

AI가 인간에게 권고를 출력하고, 인간은 그 권고를 사업 내에서 어떻게 이행할지를 결정하면서 상호 지원하는 것이다.

 

이는 AI 기술이 인간의 능력 밖의 결정을 전달하기 때문에 상당한 경쟁 우위를 점할 수 있다. 그 이유는 AI 기술이 복잡하기 때문이거나 AI 시스템이 인간이 평생 할 수 있는 것보다 더 많은 결정을 시뮬레이션을 통해 경험하기 때문이라는 주장이다.

 

자율주행 자동차의 예를 들어 강화학습을 설명하면, 이 차는 무작위 시행착오를 통해 실시간으로 운전을 배울 수 있다.

이때, 이 자율주행 자동차는 조향 및 가속을 위한 최선의 방법을 무작위로 추측해 알아낼 수 있지만, 운전을 배우기 전에 아마도 수백만 번 충돌할 수 있으며, 이는 모든 사람의 안전에 대한 우려를 낳고, 많은 수의 차량이 필요하게 만든다.

 

이 학습은 무작위로 이뤄지기 때문에 자동차의 소프트웨어는 이전에 해본 적이 없는 새로운 것을 시도하고, 이미 알고 있는 것을 활용하게된다. 그래서 강화라는 아이디어가 나오게 된다고 설명했다.

자율주행차 소프트웨어는 연습을 통해 학습을 강화하며, 더 나은 결과를 얻기 위해 새로운 상황에서 그것을 떠올리는 것이다.

 

블로그에 따르면, 자동차는 시스템의 컴퓨터 모델을 사용해 시뮬레이션으로 학습할 수 있다. 따라서 시뮬레이션에는 최적의 결과를 도출하는 의사결정 순서를 학습할 수 있는 컴퓨터 모델이 필요하다.

이때, 시뮬레이션이 제공하는 가장 큰 이점 중 하나는 최적의 성능을 얻기 위해 수백만 대의 자동차를 부수거나 사람을 위험에 빠뜨릴 필요가 없다는 것이다.

 

강화학습은 예측 분석보다 학습 속도가 빠르므로 더 선호된다고 블로그는 설명했다.

과거 데이터 없이 미래를 시뮬레이션할 수 있으므로 사람이 전에 하지 못했던 것들을 할 수 있다는 주장이다.

 

즉, 예측 분석과 같은 통계 모델의 경우, 알려진 과거 데이터에서 패턴을 찾기 때문에 학습에 따라 시간이 걸린다.

 

새로운 패턴을 만들기 위해서는, 시간에 따라 일어나는 새로운 실제 실험이 요구된다.

예측 모형은 이전에 수행한 작업만 반복할 수 있으며, 예제 없이는 새로운 패턴을 학습할 수 없다.

반면에, 강화학습에 의한 시뮬레이션 기술은 인간이 전혀 생각하지 못한 완전히 새로운 대안을 찾을 수 있게 해준다.

 

시뮬레이션과 결합한 강화학습은 인간의 모든 생애에서 결합한 것보다 더 많은 결정을 내리고, 평가할 수 있다. 이것이 강화학습과 예측 분석 사이의 가장 중요한 차이점이다.

 

미리 프로그래밍할 필요 없어...로봇 학습에 유용

미국 버클리 인공지능 연구 실험실(BAIR)은 컴퓨터 비전, 머신 러닝, 자연어처리, 로봇연구 등 여러 영역의 전문가들이 포진해있으며, BAIR 블로그를 통해 연구 업적을 홍보하고 있다.

지난해 4월 27일 BAIR 블로그에는 ‘실제 로봇 강화학습의 구성 요소’란 제목의 글이 실렸다.

 

블로그에 따르면, 로봇은 조립 라인에서 흔히 볼 수 있듯이, 세심하게 제어할 수 있는 환경에서 유용하게 사용돼왔다. 그러나 가정에서는 다양한 환경에 적응할 수 있는 로봇 시스템이 필요하다.

따라서 강화학습이 요구되는데 이 학습 기반 알고리즘은 로봇이 환경에서 수집된 데이터를 활용, 구조화되지 않은 환경에 적응하면서 복잡한 동작을 습득하는 잠재력을 가지고 있다.

강화학습은 로봇이 시행착오를 통해 올바른 행동을 배우는 프로그램이다.

 

따라서 작업자가 정확한 동작을 미리 프로그래밍해야 하는 부담을 덜 수 있으며, 환경을 알 수 없는 시나리오에 로봇을 배치하기 때문에 특히 중요하다는 것이다.

블로그는 실제 세계에서 강화학습을 해야 하는 이유에 대해 사람의 개입 없이 직접 강화학습하는 로봇은 점점 더 많은 자료를 수집하기 때문에 계속해서 일을 더 잘 할 수 있기때문이라는 주장이다.

 

아울러, 시뮬레이션은 로봇의 강화학습에도 활용되는데 먼저 로봇과 로봇 환경의 시뮬레이션을 만든 후, 로봇이 시뮬레이션에서 원하는 행동을 학습한다.

최종적으로 학습된 행동이 현실 세계로 전달되는 과정을 거친다.

그러나 이러한 접근법은 몇 가지 근본적인 단점이 있다고 블로그는 지적했다.

 

시뮬레이션이 실제와 정확히 일치하지 않을 수 있기 때문이다.

즉, 시뮬레이션 성능의 개선이 실제 환경의 개선으로 이어지지 않을 수 있는데 새로운 시뮬레이션 환경을 만드는 경우, 콘텐츠 제작 비용이 엄청나게 많이 들 수 있는 사실이 단점으로 지적되고 있다.

 

반면에 실제 환경에서 직접 로봇의 강화학습을 시키면, 이러한 문제가 없어지지만, 로봇의 이런 강화학습 훈련은 일부 제약으로 인해 어려운 것으로 판명됐다고 블로그는 설명했다.

 

 

 

 

 

AI타임스 조행만 객원 기자 chohang5@kakao.com 

 

 

 

 

 

[사진=픽사베이]

 

 

 

 

 

디지털전환의 핵심 AI, 그리고 메타버스

 

 

 

AI, 전산업군서 활약...메타버스 활용 범위 확대 중

 

[굿모닝경제=이세영, 최빛나, 오세은, 전현지 기자] 우리나라에 인공지능(AI)의 가능성이 대중적으로 널리 알려진 계기는 2016년 프로 기사 이세돌과 AI '알파고'가 펼친 대국이었다.

당시까지 바둑은 인간의 전유물이었다. 하지만 대국의 과정과 결과는 경악스러웠다. 

구글이 개발한 알파고는 세계 1인자였던 이세돌을 완벽에 가까운 수순으로 몰아붙이면서 승리를 따냈다. 당시 학자들로부터 4차산업혁명의 핵심으로 평가받고 있던 AI는 마침내 불가능의 영역으로 여겨지던 바둑까지 점령하면서 무궁무진한 가능성을 만천하에 뽐냈다.  

그로부터 5년이 흘렀다. 이제 AI는 더 이상 빅테크 기업만의 전유물이 아니다.

ICT기업은 물론 화학이나 정유, 조선, 전자 등 전통적 제조업체들도 AI 활용에 적극적이다.

실제로 국내 화학업계에서는 AI 기술을 이용해 양질의 플라스틱을 확보하는 데 힘을 쏟고 있다.

정유업계에선 AI와 빅데이터 기술을 접목한 ‘스마트 플랜트’를 도입했으며, 방산업계는 군용 차량에 AI 기술을 탑재해 디지털화를 꾀했다.

 

 

 

 

 

 

 

 

 

국내 AI정책 흐름. [인포그래픽=소프트웨어정책연구소]

 

 

 

 

◇ 화학·정유·방산 등 활용은 '업종불문' 활약은 '종횡무진'

경영컨설팅 기업 액센츄어는 AI가 2035년까지 14조 달러의 부가가치를 생산해 낼 것으로 전망한 바 있다.

이러한 수치는 AI의 범용성과 역할이 점점 더 커질 것임을 나타낸다. 

국내 기업들은 사업의 생산성과 효율성을 극대화하기 위해 추진 중인 디지털전환의 중심에 AI를 놓고 사업영역 확대 등 지속가능성을 높여가고 있다. 
SK에너지는 지난해 4월부터 대외 변수에 취약해 위기가 반복되는 석유정제업의 한계를 디지털 전환으로 극복하고자 사업 구조를 디지털 중심으로 전환했다.

회사는 핵심 생산거점인 울산CLX에 AI와 빅데이터 기술을 접목한 ‘스마트 플랜트’를 전 공정에 도입했다.

공장 폐수를 재처리하는 과정에 AI 기술을 접목하고 2027년부터 오염물질 배출 감축이 의무화하는 항공유 시장에 대비하는 ‘바이오 항공 플랫폼’을 마련한다는 계획이다.

SK지오센트릭은 한국화학연구원과 지난 7월 디지털 플랫폼 공동 구축을 위한 MOU를 체결했다.

AI 기술과 디지털 전환 기술을 중소업체들에 적용해 분리수거의 현대화는 물론, 양질의 플라스틱을 확보하는 데 역량을 쏟을 방침이다.

 

AI 기술을 활용해 재활용 폐기물을 회수하는 로봇 ‘네프론’을 개발한 스타트업인 ‘수퍼빈’에 지분 5%를 투자했다.
회사 관계자는 “폐플라스틱 모으는 게 말처럼 쉽지 않다”며 “AI, 디지털 전환 등을 통해 폐플라스틱 수거·선별 과정을 현대화하는 데 역량을 집중할 것”이라고 말했다.

 

 

 

 

 

 

 

 

한화테크윈의 AI NVR. [사진=한화테크윈]

 

 

 

한화테크윈은 올해 상반기 얼굴인식 기능을 지원하는 ‘AI 영상저장장치(NVR)’와 AI 영상 분석을 활용한 ‘코로나19 방역 솔루션’ 등을 선보였다.

대다수 AI 보안 솔루션들이 옷·안경·가방 등 사람이 소지하고 있는 사물을 기반으로 영상을 분석하는 반면, ‘AI NVR’은 사람의 얼굴까지 알아보고 구분할 수 있도록 설계됐다.

얼굴 인식을 통해 특정 인물이 찍힌 영상을 빠르게 찾을 수 있게 된 것이다.

지난 6월에는 독도 인근 섬에 자체 기술로 개발해 설치한 8K 초고해상도 네트워크 CCTV는 AI를 활용한 다양한 영상 분석 기능들을 제공한다.

해안가 등 출입 금지 구역에 움직임이 포착되면 그 즉시 알림을 보내고 개체의 이동방향까지 파악해 자동으로 추적해 보여준다.

 

개체의 특징을 가장 잘 파악할 수 있는 이미지를 AI가 자동으로 저장해 보여주는 ‘베스트샷’ 기능을 통해 사건사고 발생 시 빠르게 대처할 수 있다.
한화테크윈 관계자는 “AI 솔루션을 통해 더욱 스마트한 영상 보안 솔루션을 고객들이 경험할 수 있도록 AI 기능을 지속 고도화하고 라인업을 넓힐 계획”이라고 말했다.

 

 

 

 

 

 

한화디펜스의 다목적 무인차량.[사진=한화디펜스 홈페이지]

 

 

 

 

한화디펜스는 AI 등 4차 산업혁명 기술을 접목한 국방로봇과 무인화 체계 개발에 국내 방산기업 중에서 가장 앞서 있다는 평을 받는다.
전장에서 병사 대신 수색과 정찰, 경계 임무 등을 수행하는 무인수색차량 탐색 개발이 대표적이다.

 

국내에서 최초로 개발되는 무인 지상전투체계로, 원거리에서 원격조종 또는 자율주행으로 임무를 수행한다.
올해 하반기 군 시범운용에 투입될 예정인 지능형 다목적무인차량은 기존 모델에 비해 최고속도, 적재중량, 항속거리 등 주요 성능이 향상된 수출형 제품이다.

한화디펜스 관계자는 “지능형 다목적무인차량은 해외 무인차량 시장의 급성장과 기술 트렌드를 반영해 개발한 최첨단 무인 솔루션”이라며 “주요 선진국 업체들의 시제품 성능보다 앞서는 동급 최강의 다목적무인차량을 개발해 국산 무인지상차량(UGV)의 해외 진출을 이끌 것”이라고 말했다.

현대로템은 지난 1월 AI 차륜형 지휘소 차량 개발을 완료했다.

이 차량은 네트워크 기반의 전투지휘체계를 갖춰 실시간으로 전장정보를 공유해 이동 중에도 신속하고 효율적인 부대 지휘가 가능한 게 특징이다.

 

이를 통해 육군이 추진하는 AI 기반의 미래형 지상전투체계인 ‘아미 타이거 4.0’의 핵심 기능을 수행하게 된다.

현대로템 관계자는 “차륜형 지휘소 차량으로 아미 타이거 4.0 등 우리 군이 추진하는 미래형 전투체계를 뒷받침해 기동화, 네트워크화, 지능화되는 아군 병력의 기동 간 지휘통제를 확보하고 국민의 안위를 지키는데 기여하길 기대한다”고 말했다.

 

 

 

 

 

대우조선해양의 스마트십 솔루션이 탑재된 LNG운반선 [사진=대우조선해양]

 

 

 

◇ K-조선 경쟁력 기반 된 AI

국내 조선업계는 업무 전반에 AI, 빅데이터 등 디지털기술을 도입해 하며 ‘스마트 조선소’ 전환에 속도를 내고 있다.

조선업은 비규격화된 대형 제품을 만드는 산업 특성상 제조 공정이 복잡해 운영 자동화에 제약이 많은 상황으로, 향후 스마트 조선소 전환 수준에 따라 경쟁력에 큰 영향을 미칠 전망이다. 

현대중공업그룹의 조선 지주사 한국조선해양은 올해 디지털 트윈 기술을 선박에 접목시킨 세계 최초 LNG운반선 사이버 시운전 솔루션에 대해 영국 로이드 선급으로부터 기본승인을 획득했다. 
이 솔루션을 이용해 가상 사이버 공간에서 실제 선박의 해상 시운전 상황과 동일한 환경을 구현해 LNG 운반선의 2중연료엔진, 연료공급 시스템 등 핵심 설비들의 성능을 검증할 수 있다.

 

해상에서 이뤄지는 시운전 기간을 줄여 비용을 최대 30% 절감할 수 있다는 설명이다. 
현대중공업 그룹 관계자는 “2023년까지는 한눈에 보이고 제어되는 조선소, 2026년까지는 설계, 생산이 연결된 예측가능한 조선소, 2030년까지는 지능형 자율운영 조선소를 목표로 하고 있다”며 “2030년까지 생산에 IT기술을 접목한 스마트조선소를 구축해 효율적인 생산체계와 안전한 야드를 조성해 나갈 예정”이라고 밝혔다. 

대우조선해양은 올해 4월 디지털 생산센터를 열어 스마트조선소로 전환에 속도를 내고 있다.

디지털생산센터는 ‘스마트 생산관리센터’와 ‘스마트 시운전센터’로 구성됐다.

디지털 생산관리센터에서는 그동안 각 공장과 선박 공정률, 블록 이동 등 별도로 모으고 공유해야 했던 각종 생산정보를 실시간으로 공유할 수 있게 해 빠른 의사 결정을 돕는다.

또한 기상 상황 등 생산에 영향을 주는 불확실성에 대한 예측과 시뮬레이션으로 위험 요소를 사전에 대응할 수 있게 됐다. 

스마트 시운전센터에서는 대우조선해양이 건조하는 모든 시운전 선박의 장비별 성능, 연료 소모량, 문제점 등 모든 운항 정보를 수집해 실시간 모니터링하고 기술 지원을 한다.

이를 통해 기술 인력이 직접 승선하지 않아도 업무 수행이 가능해져 비용 절감이 가능할 전망이다. 

스마트 시운전센터에서는 실제 선박과 동일한 환경으로 제작된 가상현실(VR) 선원 교육까지 제공할 수 있다.

평소 선원들은 신규 장비 가동법에 어려움을 겪는데 선박 운항 중 발생할 수 있는 인적·물적 안전사고를 미연에 막을 수 있도록 한다. 

대우조선해양 관계자는 “아직은 진행 중에 있는 만큼 성과를 수치화시키기는 이르고, 중장기적으로 빅데이터, 인공지능, 사물인터넷 기술 등을 활용한 ‘DX전략’을 추진 중에 있다”며 “스마트십, 스마트 야드 등 전사적인 측면에서 디지털화할 것”이라고 밝혔다. 

 

 

 

 

 

 

 

삼성중공업은 '페이퍼리스' 야드, 생산 체계 지능화 등 디지털 전환을 가속화

하고 있다. [사진=삼성중공업]

 

 

 

 

삼성중공업은 2019년 ‘스마트 SHI(Samsung Heavy Industry)’로 명명한 디지털 전환 전략을 수립하고 ▲스마트생산 ▲스마트 설계 ▲스마트 워크 3대 디지털 혁신 과제를 추진 중이다.
이를 위해 삼성중공업은 조선소 내 설치된 초고속 무선망을 기반으로 다양한 모바일 시스템을 적용해 연간 133만장의 도면 출력에 소요되는 비용을 제로화하고 있다.

 

또한 블록 조립공장에 자동 용접로봇 적용을 확대하고 실시간 용접 실적과 품질 데이터를 관리하는 통합 관제로 생산 효율을 높이고 있다. 
삼성중공업은 올해 하반기까지 챗봇과 딥러닝 기반 이미지 인식, 텍스트 분석 등의 인공지능(AI)과 로봇 프로세스 자동화 기술 적용을 확대해 나갈 계획이다. 

삼성중공업 관계자는 “향후 2022년까지는 스마트 SHI를 완성해 견적, 설계, 구매, 생산 정보를 실시간으로 공유할 것”이라며 “업무 영역의 자동화를 확대함으로써 임직원이 새로운 가치 창출 업무에 시간을 더 할애할 수 있을 것으로 기대하고 있다”고 밝혔다.

 

 

 

 

 

 

LG CNS 현신균 부사장이 메타버스 공간에서 '애플리케이션 현대화'에 대해 발표

하고 있다. [사진=LG CNS]

 

 

 

 

◇ 또 하나의 미래 메타버스

최근에는 AI에 이어 메타버스가 국내 산업계에서 관심을 끌고 있다.

신입사원 채용부터 교육은 물론 소비자와의 소통에도 쓰이고 있다.

최근 SK텔레콤은 국내 기업 최초로 메타버스 플랫폼을 활용한 온라인 기자간담회도 개최했다.

LG CNS는 국내 시스템통합 3사 중에서 메타버스를 가장 활발하게 활용하고 있는 기업이다.

LG CNS는 지난달 5일 메타버스를 활용한 고객 접점 공간 LG CNS Town(메타버스 타운)을 개설했다, B2B 사업을 영위하는 LG CNS는 더 많은 고객들을 확보하기 위해 개설한 것으로 풀이된다.

 

메타버스 타운은 미국 실리콘밸리에 있는 스타트업 ‘개더’가 만든 온라인 오피스 플랫폼 ‘개더타운’을 이용해 만들었다.

LG CNS의 디지털전환(DX) 사업에 관심있는 누구든지 메타버스 타운을 24시간 언제든지 방문할 수 있다는 게  특장점이다. 

LG CNS 관계자는 “기업·소비자간 거래(B2C)에서 MZ세대를 겨냥했던 메타버스 서비스가 이제 B2B 영역으로 확대되고 있다”고 말했다.

김홍근 LG CNS CAO(최고회계책임자) 전무는 “메타버스는 코로나 이후 미래 디지털 시대의 게임체인저가 될 것”이라며 “손에 잡히는 DX를 체험할 수 있도록 메타버스를 활용한 마케팅 활동을 확대해 나가겠다”고 강조했다.

삼성전자는 코로나19 상황을 감안해 최근 메타버스 플랫폼에서 갤럭시 팬파티인 ‘폴더블데이’를 진행했다. 지난달에는 네이버 메타버스 플랫폼인 제페토에서 라이프스타일 TV 3종(더 프레임, 더 세리프, 더 세로)을 판매키도, 3종 각각 5000대 마련했는데 5분 만에 완판 됐다. 

올해 하반기 3급 신입채용 과정에서도 메타버스를 활용키로 했다.

메타버스 플랫폼에 입장한 구직자들이 관심 있는 사업부의 직무에 대해 일대일로 상담 받을 수 있는 방식으로 진행된다.

코로나19로 오프라인 신제품 행사와 채용설명회가 한계 상황에 봉착했지만 메타버스를 활용해 기존 행사를 이어갈 수 있는 게 회사 측 설명이다. 

LG전자도 지난 7월 소프트웨어 전문가 교육과정을 마친 직원들을 위해 메타버스 수료식을 열었다.

가상공간은 LG트윈타워와 미국 카네기멜론대 캠퍼스와 매우 유사하게 만들어 실제 오프라인으로 모이지 못한 간극을 줄이려고 한 게 특징이었다.

 

참석자들은 각자 가상현실에서 자신의 역할을 대신하는 캐릭터인 디지털 아바타를 생성해 수료식에 참여했다.
LG전자 관계자는 “메타버스도 전자업계가 하고 있는 여러 마케팅 중 하나이며 트렌드”라면서 “수료식 채용설명회 말고도 이를 활용할 수 있는 다양한 응용처를 검토하고 있다”고 밝혔다.

한화호텔앤드리조트는 메타버스를 활용하는 사업을 타진하고 있다.

메타버스 플랫폼 어반베이스에 전략적 투자(130억원)를 진행한 게 대표적이다.

어반베이스는 VR, AR, 3D 등 메타버스 핵심기술을 만들어 서비스화하는 공간데이터 플랫폼 회사다. 이 회사는 아파트를 가상세계로 구축해 인테리어 시뮬레이션을 구현할 수 있는 ▲3D 인테리어와 공간분석 AI를 통해 취향 기반 AR 추천이 가능한 ▲올인원 증강현실을 구현할 수 있는 기술을 갖고 있다. 

한화호텔앤드리조트 관계자는 “이번 투자를 통해 향후 한화가 호텔이나 리조트를 지을 때 건물 안에 필요한 가구, 조명, 인테리어 등 배치에 이 3D 기술을 활용할 것”이라고 밝혔다. 

한 전자업체 관계자는 “과거 ‘세컨드라이프’ ‘로블록스’가 흥행에 실패한 것과 달리 현재의 메타버스는 가상공간에 대한 기술이 업그레이드 됐다”면서 “무엇보다 이러한 플랫폼에 MZ세대가 잘 받아들이고 있어 업계가 마케팅 수단으로 많이 활용하고 있는 것으로 보인다”고 말했다. 

 

 

 

신승훈 기자 hoon10@kpinews.co.kr

출처 : 굿모닝경제 - 굿모닝 코리아, 

 

 

 

 

 

 

 

[중앙포토]

 

 

 

 

 

 

AI가 인간 의사 없앤다? 코로나 진단 맡겼더니 '충격 결과

 

 

'AI 의사'가 '인간 의사'를 넘어설 수 있을까?

 

AI(인공지능)의 발전이 미래 산업구조를 바꿀 '핵심 열쇠'로 꼽히는 요즘, 인간이 수행 중인 여러 직업을 대체할 것이란 예상도 심심치 않게 나오고 있다.

특히 신종 코로나바이러스 감염증(코로나19) 이후 고용 구조와 일자리의 성격이 달라지며, 산업구조의 변동 가능성이 더 커졌다.

 

노동부 "AI 발전으로 의사 폐업 빈번해질 것"

실제로 지난 3월 글로벌 컨설팅 회사 맥킨지는 '코로나19 이후 일자리의 미래'라는 보고서를 통해, 미국 등 선진 5개국의 근로자 10명 중 1명꼴로 향후 10년 이내에 직업을 바꿔야 할 것이란 분석을 내놨다.

 

G7 중 다섯 나라(미국·독일·영국·프랑스·일본)와 중국·인도·스페인 등 8개국에서 800개 직종의 2000개 직무를 분석한 결과다.

이 같은 변화의 물결은 그간 '철밥통'이라고 인식돼왔던 의사들도 피하지 못할듯하다.

 

고용노동부와 한국고용정보원은 '2021 한국직업전망'에서 의사 직업군에 대해 "의료 분야에 활용 가능한 AI 기술의 발전과 의료시장 경쟁이 심화하면서 개업의의 폐업이나 지역 재배치 그리고 개업의에서 임금을 받고 근무하는 의사로의 전환도 더욱 빈번해질 전망"이라고 예측했다.

━

코로나 국면 'AI 의사'는 낙제점 "영향 못 미쳤다"

그렇다면 2021년 현재, 'AI 의사'가 '인간 의사'를 위협할만한 성과를 내고 있을까.

지난해 3월 코로나19가 전 세계를 강타하자, 과학계는 앞다퉈 'AI를 활용한 코로나19 진단법'을 개발했다.

 

코로나19 감염자는 폐가 손상되는 특징이 있는데, 엑스레이나 컴퓨터단층촬영(CT) 결과를 AI로 분석해 코로나19를 빠르고 정확하게 분석하고, 이를 바탕으로 팬데믹 위기를 타개하겠다는 야심 찬 계획이었다.

AI가 이미징 분석 분야에서 뛰어난 실력을 갖추고 있기 때문이다.

 

하지만 코로나 진단법 개발을 시도한 지 1년 반이 지난 지금, AI가 받아든 성적표는 '낙제점'에 가깝다는 게 과학계의 결론이다.

'MIT테크놀로지리뷰'는 지난 7월 30일 자에서 AI를 통해 코로나19로부터 생명을 구할 것이라는 기대가 컸지만, 이 같은 일은 일어나지 않았다고 분석하며 관련 연구를 소개했다.

 

영국의 국립 AI 연구기관인 앨런튜링연구소도 지난 6월 발표한 '코로나 시대의 데이터 과학과 AI'라는 보고서를 통해 '일련의 워크숍과 토론을 통해 AI가 코로나19와의 싸움에서 거의 영향을 미치지 못했다는 합의를 도출했다'고 밝혔다.

코로나19 국면에서 AI의 활약이 적었다는 건 논문을 통해서도 나타난다고 'MIT테크놀로지리뷰'는 설명했다.

데릭 드릭스 케임브리지대 연구원은 지난 3월 과학저널 '네이처머신인텔리전스'에 발표한 논문을 통해 '엑스레이와 CT 결과를 활용해 코로나19를 예측하는 AI 진단기술' 415개를 분석한 결과를 내놨다.

 

이들은 연구를 통해 "어느 것도 코로나19 검진 임상사용에 적합하지 않다"고 결론 내렸다.

직접 AI 진단기술 개발에도 나섰던 드릭스 연구원은 "코로나19 팬데믹은 AI와 의학에 대한 일종의 시험이었다"며 "하지만 우리가 그 시험을 통과했다고 생각하지 않는다"고 했다.

 

지난해 로어 와이넌츠 네덜란드 마스트리히트대 교수는 영국의학저널(BMJ)에 발표한 논문을 통해 코로나19 확진 및 중증도 예측 AI 모델이 대부분 효과가 없었으며, 몇몇 기술은 잠재적으로 해악을 미칠 것이라고 했다.

232개의 AI 모델을 분석한 결과 임상사용에 적합한 것은 한 개도 없었고, 단 2개만이 '좀 더 연구해볼 만하다'고 밝혔다.

와이넌츠 교수는 "몇몇 걱정이 있긴 했지만, 내 예상을 뛰어넘었다"며 "충격적인 결과였다"고 말했다.

 

 

 

 

 

 

 

 

 

미국 국립보건원(NIH)가 공개한 코로나19 바이러스의 확대 모습. AFP=연합뉴스

 

 

 

"AI, 진단 놓치거나 위험 과소평가…오히려 해로워"

전문가들은 "일부 병원에선 잘못 개발된 코로나19 AI 진단 알고리즘을 이미 사용하고 있다"며 "AI가 진단을 놓치거나 중증환자에 대한 위험을 과소평가할 수 있는데, 이같이 잘못된 알고리즘은 오히려 해가 될 것"이라고 우려했다.

 

그렇다면 AI 의사는 어떤 면이 부족했기에, 코로나19 국면에서 실력을 발휘하지 못했을까. 전문가들은 "AI 개발자들이 대부분 부정확한 데이터를 사용하는 똑같은 실수를 범하고 있다"고 입을 모았다.

AI가 아무리 똑똑하다고 해도, 기본적으로 기존 데이터를 학습해야 이를 바탕으로 분석할 수 있다.

 

정확한 데이터를 학습해야 정확한 결과를 도출할 수 있는 것이다.

하지만 코로나19 진단기법에 사용된 데이터는 팬데믹 속 긴박한 상황에서 고군분투하는 의료진에 의해 수집된 환자 데이터였다.

잘못된 데이터가 다수 포함돼버린 게 패착이었다.

 

전문가들은 "AI 개발자들이 사용한 데이터 중 일부는 출처를 알 수 없었고 중복된 내용도 다수였으며, '코로나19에 걸리지 않은 사람'의 자료가 '코로나19에 걸린 사람'으로 잘못 이름 붙여져 AI에 학습되기도 했다"고 지적했다.

 

━

'AI 의사' 원조 IBM 왓슨은 국내서 퇴출수순

 

 

 

가천대 길병원은 지난 2016년 국내에서 처음으로 'AI의사' 왓슨을 도입했다.

인천 길병원에서 의료진이 왓슨을 활용해 상담하는 모습. [중앙포토]

 

 

 

한편 'AI 의사'의 원조 격으로 의료계를 뜨겁게 달궜던 IBM의 '왓슨'(Watson for Oncology)은 국내에서 사실상 퇴출수순을 밟고 있다.

왓슨은 전 세계 암 저널과 의학 교과서 등 전문자료를 실시간으로 검색해, 환자의 치료법을 '추천' '추천 고려' '비추천'으로 나눠 제시하는 시스템이다.

IBM 측은 2014년 미국종양학회에서 왓슨의 진단 일치율을 대장암 98%, 직장암 96% 등 평균 96%에 달한다고 소개했다.

 

국내에선 지난 2016년 가천대 길병원을 시작으로 9개 대학병원에 도입됐다.

하지만 5년가량 지난 지금은 여러 병원에서 더는 그들이 활발하게 진단 활동에 나서는 모습을 찾아볼 수 없다.

 

가천대는 지난 2017년 도입 1주년 기념 심포지엄에서 왓슨의 질병 진단과 예측 정확도가 50%대라고 밝힌 바 있다.

반타작의 예측 정확도, '인간 의사'보다 정확도가 떨어지는 것이다.

 

건강보험료 적용 등 국내 의료실정과 맞지 않고 비용 효용성이 떨어지며 대부분의 병원은 재계약을 포기한 상태다.

이는 세계적으로도 비슷한 추세다.

 

━

"AI 의사의 실패는 아냐"…데이터 확보가 관건

 

 

 

 

(출처=셔터스톡)

 

 

 

하지만 현재까지의 좌절이 'AI 의사'의 실패를 의미하지는 않는다.

그들의 도전은 앞으로도 계속될 전망이다.

전문가들은 "'AI 의사'가 당장은 의사를 대체하지는 못하겠지만, 데이터를 잘 축적하면 의료진을 돕는 역할을 충분히 할 수 있다"고 입을 모은다.

 

영국의 보건자선단체 웰컴트러스트의 빌랄 마틴 임상기술팀 의사는 "데이터 형식을 세계적으로 표준화하면 AI를 학습시킬 데이터를 확보하는 게 더 쉽다"고 설명했다.

실제로 세계보건기구(WHO)도 국제 보건위기상황에서 긴급하게 데이터를 공유할 수 있는 방안을 추진하고 있다.

'믿을 수 있는 데이터'를 사용하면 'AI 의사'의 정확도를 높일 수 있다는 판단에서다.

 

전문가들은 또 대부분의 개발자가 기존 'AI 의사' 모델을 개선하기보다는 자체모델을 개발하는 데 더 열중하는 것도 문제로 꼽았다.

전 세계 연구원들이 공동으로 노력하면 하나의 'AI 의사'를 잘 키워낼 수 있다는 의미다.

와이넌츠 교수는 "사실 'AI 의사' 모델들은 서로 매우 유사하다.

 

비슷한 기술을 사용하고 있으며, 같은 실수를 하고 있다"며 "만약 새로운 개발을 하는 대신 모든 개발자가 이미 개발된 모델을 연구했다면 지금쯤 의료현장에서 실제로 도움이 되고 있었을 것"이라고 밝혔다.

 

 

 

 

고석현기자ko.sukhyun@joongang.co.kr

Copyrightⓒ중앙일보 All Rights Reserved.

 

 

 

 

 

 

 

 

 

 

선한 인공지능? 해답은 인간의 윤리

 

 

 

[아시아경제 김효진 기자] 세계 최대 이커머스(전자상거래) 기업 아마존은 데이터 기반 인공지능(AI) 채용시스템이 개발자와 기술직군 대부분에 남성만을 추천하는 오류를 일으키자 시스템을 아예 폐기해버렸다.

 

AI 기반 범죄예측 프로그램 콤파스(COMPAS)의 재범률 예측 프로그램은 흑인 범죄자의 재범 가능성을 백인의 2배 넘게 예측하는 편향성으로 문제가 됐다.

 

부산교대 총장을 지낸 하윤수 한국교원단체총연합회 회장은 최근 부산시 주최로 열린 'AI KOREA 2021 인공지능 윤리 대전' 콘퍼런스에서 "고도화된 AI와 메타버스 등이 미래 사회와 교육혁명을 이끌 신기술로 각광받고 있지만 동시에 AI 편향성, 딥페이크 등 오용과 범죄가 빈발하고 있다"고 지적했다.

 

하 회장은 또 "얼마 전 마이크로소프트의 AI 챗봇 테이(Tay)가 인종차별, 성차별 등 혐오 발언을 쏟아내 서비스가 중단되고, 원격수업 과정에서 딥페이크 기술을 악용해 교사의 인권을 유린한 사례 등이 나타나고 있다"면서 인간과 AI의 가치 있는 공존을 위해 AI 이용과 관련한 윤리기준 마련을 서둘러야 한다고 촉구했다.

 

AI가 가져올 유토피아적 기대 못지 않게 디스토피아적 우려가 커지고 있다는 게 그의 생각이다.

'그래도 아직은' 이라고 생각했던 AI시대의 '대문'이 코로나19라는 미증유의 국면과 맞물려 빠른 속도로 열리고 있다. AI 바둑천재 알파고가 인간 바둑천재를 물리치는 건 이미 옛말이다.

 

AI 유치원 교사가 아이들에게 알파벳ㆍ숫자 교육을 하고 노래ㆍ그림ㆍ요가ㆍ체조를 가르치는가 하면 AI 의사, AI 반려동물 등이 인간의 건강과 정서를 본격적으로 챙기는 상황이다.

머잖아 AI 아이돌이 세계의 대중문화 지형을 뒤흔들 것이란 전망도 나온다.

 

그 형태가 어떠하든, 멀지 않은 미래에 모든 가정이 '1인 1로봇' 시대를 맞이할 수도 있다.

문제는 AI가 '지능'에 불과하다는 점이다.

 

 

 

 

 

 

 

 

 

참고이미지

 

 

 

앞서 언급한 데이터 편향의 문제, 범죄수단으로의 악용 문제를 포함해 학습 과정에서 이용자의 사생활을 침해하는 문제, 이른바 '킬러로봇' 개발로 인간에게 치명적 위협을 가할 수 있는 문제 등이 한도끝도없이 제기될 수 있다.

 

AI와 '인간성' 사이의 괴리를 좁히는 걸 넘어 인간의 생명을 지키는 것까지, AI가 우리에게 던지는 과제가 그만큼 넓고 깊다는 의미다.

AI는 인간의 행복과 편익을 위한 수단일 뿐이며, 유일하고 궁극적인 '목적'은 인간이라는 당위가 과연 지켜질 수 있을까.

 

산업 및 자본시장의 고도화, 여기에서 비롯되는 경제우선의 논리로부터 '목적'으로서의 인간과 인간성이 보호받을 수 있을까.

'인공지능 윤리 개론'은 이런 고민을 공유하고 해법을 찾아보자는 취지로 한국인공지능윤리협회 전문가 11명이 머리를 맞대 출간한 책이다.

 

"선한 인공지능을 만드는 일은 단순한 문제가 아니다.

인공지능에게 '인간을 행복하게 해 주어라'라는 명령어를 입력한다고 끝나는 문제가 아니다.

 

오히려 이러한 단순 명령어는 인공지능으로 하여금 '아, 지구상에 존재하는 온라인 데이터들을 모두 학습해보니, 인간을 가장 불행하게 하는 존재는 바로 인간이로군. 따라서 인간을 행복하게 하려면 인간을 멸종시켜야 해'라는 맹목적 판단을 내리게 할 수도 있다(본문中)"

 

'인공지능 윤리'는 인공지능 영역에서 사람이 지켜야할 윤리를 의미한다. AI가 너무 빨리 나아가면 그만큼의 부작용이 뒤따르겠고, AI의 발전속도를 지나치게 억제하면 인간에 이로운 기술의 진보가 억압될 수 있다. 그렇다면 중요한 것은 AI의 발전과 AI의 윤리가 조화롭게 발전하는 것.

 

지금 우리가 서 있는 지점은 이처럼 거대한 담론의 출발점이 아닐까. AI에 관한 묵직한 고민 외에 우리가 잘 모르는 흥미로운 AI 이야기 등이 '인공지능 윤리 개론'에 두루 녹아들어 있다.

 

인간이 휴머노이드 로봇에 가하는 폭력은 어떻게 봐야 할지, 인공지능 기술이 적용된 로봇 팔이 신체 일부에 속한다고 할 수 있을지, 로봇 팔에 해를 입히면 상해죄로 다스려야 하는지 절도죄로 다스려야 하는지, 인간의 몸이 사이보그가 된다면 그 몸을 치료하는 사람은 의사인지 공학자인지 같은 공상과학적 고민의 단초도 찾아볼 수 있다.

 

 

 

 

 

김효진 기자 hjn2529@asiae.co.kr

 

 

 

 

 

 

 

 

(출처=셔터스톡)

 

 

 

 

데이터에 의해 배우는 AI 실수...결국 인간이 바로 잡아야 한다

 

 

 

위기는 주로 사람에 의해 야기되지만, 때로는 기술 때문에 발생
AI의 실수는 학습 단계 및 수행 단계에서 비롯될 가능성 있어
인공지능 오류의 근원은 인간의 오류, 이를 위한 투자 필요해

 

 

 

 

테슬라의 오토파일럿 기능과 관련된 일련의 사건 후에, 미국 도로교통안전국이 그 기능에 대한 조사를 발표했다고 15일 CNBC가 보도했다.

 

CNBC에 따르면, 공공 기록을 인용한 보고서를 통한 조사에서 테슬라의 데이터를 몇몇 다른 자동차 제조사와 그들의 운전자 보조 시스템의 데이터와 비교할 것이며, BMW, 포드, GM, 혼다, 현대, 기아, 메르세데스 벤츠, 닛산, 스바루, 도요타, 폭스바겐 등이 포함될 것이다.

게다가 CNBC는 "이번 조사는 테슬라를 위한 소프트웨어 리콜 또는 그 이상으로 이어질 수 있으며 점점 더 정교한 시스템을 판매하고 있거나 결국 무인 자동차를 제공하려는 자동차 회사들에 대한 광범위한 단속으로 이어질 수 있다"고 말했다.

 

테슬라는 자율주행차의 오토파일럿, 향후 출시될 로봇 등의 핵심 기술에 첨단 인공지능 신경망을 기반으로 하고 있어서, 미 도로교통안전국의 이번 추돌 사고 조사결과는 AI 업계 전반에 미칠 파장이 적지 않으리라고 전망된다.

전문가들에 따르면, 자율주행차의 경우, 만약에 사고가 났을 경우, 그 알고리즘을 비롯해 관련된 수많은 데이터를 일일이 검사하는 것은 불가능하므로 AI 관련 사고는 그 정확한 책임 소재를 가리기가 어렵다고 말한다.

 

그동안 자율주행차를 비롯해 인공지능 챗봇 그리고 각종 AI 기반의 소프트웨어들은 수많은 실패를 겪었다. 가장 첨단을 달리고 있는 글로벌 기업인 구글과 마이크로소프트도 예외가 아니다.

알고리즘보단 데이터 내용 문제

 

구글은 사진 애플리케이션이 흑인과 고릴라를 혼동해 흑인들을 혼란스럽게 한 후 사과했다고 지난 2015년 7월 1일 USA 투데이가 보도했다.

기사에 따르면, 지난 주말 프로그래머 재키 알시네(Jacky Alciné)은 자신이 올린 사진의 스크린샷을 트위터에 올렸는데, 그 안에 알시네와 아프리카계 미국인 친구 둘 다 ‘고릴라’라고 불렀다.

이에 대해 구글은 이 앱이 흑인 친구들을 고릴라로 분류한 것에 대해 “진심으로 유감이다”라고 밝혔다. 

 

구글 엔지니어 요나탄 준거는 알시네의 트윗에 대해 “이것은 100% 괜찮지 않다“고 트위터에 올렸다. 또 준거는 구글이 결함을 고칠 것이라고 알시네에게 약속했다.

구글 대변인은 “우리는 이 일이 일어난 것에 대해 경악스럽고, 진심으로 유감이다.”며, “이러한 유형의 결과가 나타나지 않도록 즉각적인 조처를 하고 있다”고 밝혔다.

 

이 사태에 대해 많은 전문가들은 AI 알고리즘상의 문제라기보다는 학습에 쓰인 데이터의 내용상 문제라고 지적했다.

한편, 지난 2016년 3월 24일 CBS 뉴스에 따르면, 마이크로소프트는 이번 주에 소셜 미디어의 어두운 측면에 대한 신속한 교훈을 얻었다고 보도했다.

 

이 회사는 인간과 상호작용을 통해 대화 이해도를 높이기 위한 인공지능 챗봇인 테이(Tay)를 23일 출시했는데 사용자들은 트위터에서 ‘@TayandYou’라는 봇을 팔로우하고, 그것은 다른 사용자들의 게시물로부터 학습하면서 트위터에 답글을 달았다.

그러나 24일인 오늘 마이크로소프트는 이 봇이 일련의 음란하고, 인종차별적인 트윗을 쏟아내기 시작했기 때문에 테이를 폐쇄해야만 했다.

 

테이는 마이크로소프트의 인공지능 프로그래머들이 밀레니엄 세대에게 어필하려고 했던 젊고, 여성적인 모습을 하고 있었다. 하지만 24시간 만에 트위터 사용자들은 "히틀러가 옳았다, 나는 유대인이 싫다“, ”테드 크루즈는 쿠바 히틀러다“와 같은 것들을 게시하도록 봇을 속였다.

인간 트위터 사용자 중에 한 사람은 다음과 같이 응답했다.

“소셜 미디어를 사용하는 그 누구도 그 봇이 혐오스러운 댓글과 트롤에 맞닥뜨리는 것을 보는 것에 너무 놀랄 수 없었지만, 인공지능 시스템은 그러한 견해를 자신의 트위터에 통합하는 것을 피할 판단력이 없었다.”

마이크로소프트는 회사 블로그에 성명을 올려 “테이 실험이 의도한 대로 잘 안 됐다”는 것을 인정했다.

 

AI에 의해 야기된 난처한 사건들

 

지난 4일 포브스의 선임 작가 에드워드 시걸(Edward Segal)은 “어떤 위기 상황들은 사람들의 말이나 행동 때문에 야기되는데 때로는 기술 때문에 난처한 사건이 발생할 수 있다”라며, 미디어에 드러난 각종 AI의 실수담을 포브스에 실었다.

최근 뉴욕타임스(NYT)는 영국 타블로이드 신문에서 흑인 남성이 등장하는 동영상을 본 페이스북 이용자들이 소셜네트워크에서 영장류에 관한 동영상을 계속 보고 싶은지 묻는 자동 프롬프트를 보고, 이를 미루는 인공지능(AI) 기능을 조사해 무력화시켰다고 전했다.

 

"이것은 명백히 용납할 수 없는 오류였고, 우리는 이것이 일어나고 있다는 것을 깨닫자마자, 전체 주제 추천 기능을 비활성화해서 원인을 조사하고, 이런 일이 다시 일어나는 것을 막을 수 있었다“라고 페이스북 대변인 다니 레버(Dani lever)는 USA 투데이에 성명을 발표했다.

시걸은 “첨단 기술이 조직에 당혹스러운 상황을 만든 것은 이번이 처음이 아니다”고 말했다.

지난 27일 워싱턴포스트(WP)는 애플이 캘리포니아 연방법원에서 음성비서 시리(Siri)가 사적인 대화를 부적절하게 녹음했다며, 애플이 제기한 소송에 대해 계속 맞서야 한다는 판결을 내렸다고 보도했다.

 

또 로이터통신은 지난주 도쿄에서 열린 패럴림픽에서, 도요타의 자율주행 포드가 보행자를 다치게 했고, 도요다 아키오 도요타 사장이 유튜브 동영상에서 이번 사건에 대해 사과하고 만나자고 제안했지만 만날 수 없었다고 전했다.

유투브는 지난 2019년 노트르담 대성당이 불에 탔을 때, 파리의 역사적인 화재와 지난 2001년 9월 11일 테러 공격을 잘못 연관시킨 것에 대해 사과해야 했다.

유튜브 대변인은 “이 패널들은 알고리즘 적으로 작동되며, 때때로 시스템이 잘못된 결정을 내리기도 한다.”며, “우리는 화재와 관련된 생방송을 위해 이러한 패널을 비활성화한다”라는 견해를 밝혔다.

 

AI가 저지른 10대 실수 사례

이런 사건들이 이어지면서, 홍보 전문가이자, 블로그 작가인 수마나 바타차랴(Sumana Bhattacharya)는 지난 15일 애널리틱스 인사이트에 현재까지 발생한 인공지능의 10대 실패를 기능별로 분석하는 칼럼을 썼다.

 

“여기 지금까지 인공지능 역사상 가장 큰 실패 사례가 있다”며, AI의 기능적 실패 10가지를 꼽았다.

수마나에 따르면, AI는 이미지를 인식하지 못했는데 그 사례로, 버클리, 시카고, 워싱턴 대학 등의 연구원들은 1년 전에 7500장의 편집되지 않은 자연 사진을 수집했는데, 이것들은 가장 강력한 컴퓨터 비전 알고리즘조차 당황하게 했다며 이 사례를 1위로 꼽았다.

 

두 번째, AI는 인간을 경멸했고, 마이크로소프트의 가장 진보된 챗봇인 테이의 트위터 욕설 사례를 들었다.

세 번째, 암과 싸우기 위해 6천 2백만 달러의 비용이 든 IBM의 AI 시스템 왓슨(Watson)은 플로리다 주피터 병원에서 의사들에게 출혈이 심한 암 환자에게 출혈을 악화시킬 수 있는 약을 처방하라고 충고했다.

 

여성을 경멸한 AI 사례는 네 번째 순위에 꼽혔다.

아마존의 AI 채용 시스템이 백인 남성들에게 유리한 것으로 밝혀진 후, 결국 홍보에 실패했음을 인정했다.

 

다섯 번째, 아마존의 AI 얼굴 인식 시스템의 또 다른 실수를 꼽았다.

미 의회 의원들의 사진을 묶어서 시험한 결과, 이들을 범죄자로 분류한 것이다.

 

이외에도 수마나는 AI 관련 손실로 소송이 제기된 사례, 관광객들에게 잘못된 안내를 한 AI 호텔 도우미 봇의 실수, 딥페이크 보이스 피싱에 속아서 기업에 큰 피해를 준 영국 다국적 기업의 AI 사례, 활주로에서 오작동해 사고를 낼 뻔한 AI 구동 카트 사례 등을 그다음 순위로 꼽았다.

이런 문제점들에 대해 전문가 크리스 나이거(Chris Neiger)는 지난 2017년 10월 30일 미국의 투자 전문 매체 모틀리 풀(Motley Fool)에 기고한 글에서 “위기 상황들은 주로 사람들의 말이나 행동 때문에 야기되지만, 때로는 기술 때문에 난처한 사건이 발생할 수 있다”고 주장했다.

 

또 “어떤 경우에, 조심스럽게 개발된 AI 시스템도 개발자들이 전혀 예상하지 못한 방식으로 작용하는 경향이 있다”고 덧붙였다.

 

AI 오류의 원인은 데이터 탓

 

인공지능의 발전과 더불어 AI의 각종 실패 사례가 전해지면서 이에 대한 전문가들의 각종 분석이 쏟아지고 있다.

지난 2018년 6월 19일 데이비드 윈터(David Winter) 국제 감독은 온라인 매체 ‘인터내셔널 디렉터’(International Director)에 ‘AI 오류 대 인간 에러’란 기고를 통해 “조사결과 인간 행동이 기계 행동보다 인간 복지에 더 큰 위험을 불러올 수 있다”는 견해를 밝혔다.

 

루이스빌 대학의 사이버 보안 연구소의 책임자인 로만 얌폴스키(Roman Yampolskiy)에 따르면, 인공지능이 만드는 오류는 이 기계들의 직접적인 결과이며 이 실수는 AI의 학습 단계 또는 수행 단계에서 비롯될 수 있다는 것이다.

아울러, 일반적인 믿음과는 달리 알고리즘은 종종 편견을 가질 수 있다.

일례로, 범죄자가 미래에 또 다른 범죄를 저지를 가능성을 예측하기 위해 설계된 AI 시스템은 주로 인종에 의해 영향을 받았다는 견해다.

 

하지만 모든 AI 오류가 오해와 관련된 것은 아니라고 그는 덧붙여 설명했다.

즉, 테슬라의 오토파일럿의 경우, 플로리다 고속도로에서 트랙터 트레일러를 들이받아 운전자가 사망한 사건은 테슬라가 자동차의 오토파일럿을 업그레이드하도록 자극했고, 자율주행차에 관련된 위험을 인식하게 했다.

 

그는 AI 실수의 원인에 대해 “그것은 인간에게서 오는 데이터에서 비롯된다”며, “데이터는 대부분 사리사욕에 의해 움직이는 인간의 비합리성과 주관성을 수반한다”는 논리를 펼쳤다.

예를 들면, 로봇은 대부분 필터링 되지 않은 데이터로부터 학습하고 있으며, 이로 인해 인간의 잘못된 생각이 제대로 기계로 전달돼 AI 오류가 발생하기 때문이라고 주장했다.

 

그는 “AI 오류와 인간 오류를 구분하는 한 가지 주요 차이점은 예측 가능성 요소라며, 인간과 달리 AI 오류는 행동을 모델링할 수 있기 때문에 인간보다 훨씬 더 예측할 수 있다”고 말했다.

결론적으로, 그는 “인공지능 오류의 근원은 본질적으로, 인간의 오류이며, 인간과 AI 두 유형에 대한 오류 감지를 강화하고, 영향을 완화하기 위한 투자가 필요하다고 역설했다.

 

한편, 지난 2017년 8월 30일 자, 과학 대중 매체 뉴 사이언티스트에 매트 레이놀즈(Matt Reynolds)는 옥스퍼드 대학의 오웨인 에번스(Owain Evans) 박사의 2차원 탁구 비디오 게임 실험을 사례로 들며, “아무리 좋은 인공지능이라도, 엉성한 인간 조련사에 의해 길을 잃을 수 있다”라며. “치명적인 AI 실수는 인간에 의해 예방될 수 있다”고 주장했다.

 

 

 

 

AI타임스 조행만 객원 기자 chohang5@kakao.com 

 

 

 

 

 

 

 

 

(출처=셔터스톡)

 

 

 

 

 

 

 

 

 

저작권ⓒ '건강을 위한 정직한 지식' 코메디닷컴(http://kormedi.com)