잠재적 위험도…완벽한 시뮬레이션 통해 활용을
인공지능(AI)을 활용한 기술은 앞으로 계속 발전해 시간이 갈수록 정확하고 수준 높은 분석 능력을 갖출 것이다. 또한 많은 이점이 있겠지만 정확한 분석 능력에 근거한 빠른 의사결정과 실수를 줄여가는 지속적인 업데이트가 강점이 될 것이다.
그렇지만 인공지능 적용 기술의 확대는 많은 편리성과 신속성에도 불구하고 예상하기 어려운 잠재적 위험들이 내재해 있다. 인공지능이라는 것은 AI가 학습하는 데이터에 기반하여 분석하고, 판단하고 의사결정을 내리기 때문에 데이터 자체의 오류나 편향성 등에 따라 의사결정 또한 편향적일 수 있다. 또 산업 분야에서 적용되는 AI 기술은 갈수록 많은 영역에서 자동화를 촉진하므로 일자리 대체 비율을 높일 수밖에 없다.
AI 드론이 시뮬레이션 훈련에서 인간을 제거하는 행동을 보였다는 보도를 접하고 섬뜩한 생각이 들었다. 가디언지에 따르면, 지난 5월 영국 런던에서 개최된 ’미래 전투 항공 및 우주 역량 서밋’에서 미래 인공지능시스템이 가상의 적을 식별하는 동안 조종자가 “가상의 적을 죽이지 말라”라고 명령했는데, 이 AI는 가상의 적을 죽일 때마다 포인트를 받게 되어 있어 방해되는 조종자인 인간을 제거해 버리는 결과가 나왔다. 놀란 관계자들은 이 AI에게 “사람을 죽이지 말라”라고 다시 명령하니 이번에는 교신용 안테나를 부숴버렸다고 한다.
이 보도를 접하고 메리 셸리의 소설 ‘프랑켄슈타인’이 생각났다. 이 소설에서 빅터 후랑켄슈타인 박사는 생명의 비밀을 밝혀내고자 자신의 모든 과학적 지식을 동원해 ‘The creature’라는 괴물을 탄생시켰으나 후회와 두려움 속에서 고통스러운 나날을 보내다 결국엔 비참한 죽음을 맞이한다.
4차 산업혁명 시대에 접어들면서 식품산업에도 AI를 비롯한 신기술 적용이 변화를 일으켜가고 있다.
스마트센서를 통해 기상과 지역 정보 등 빅데이터를 수집, 분석해 이를 근거로 식품의 안전성을 예측할 뿐 아니라 식품사고 예방과 대처방안까지도 구축이 가능하다고 한다. 식품의 이력 추적과 환경 등 전 주기를 감지하여 예상치 못하는 상황을 미리 제어하기도 하니, 비약적인 발전이라 할 수 있다.
또 초분광 영상 시스템을 활용해 생명체 고유의 빛 분자 정보를 분석, 신선도와 부패 여부 등을 측정하기도 하며, 시장 상황을 예측해 유통·판매사들이 수요에 맞게 안정적으로 상품을 공급하는 데 활용되기도 한다.
인공지능 시스템에서 잘 기억해야 할 것은 AI를 통해 인간은 인간이 원하는 것을 얻게 되는 것이 아니라, 조종자인 인간이 요구한 것을 받게 될 뿐이라는 것이다. 따라서 조종자인 인간이 종합적인 검토와 입력 그리고 시뮬레이션을 통한 완벽한 안전성 확인과 개선을 거쳐 활용단계에 들어가야 할 것이다.
식품산업에 활용되는 용도는 현재까지는 극히 제한적 수준이다. 하지만 기술 발달로 범위가 어디까지 미칠지 쉽게 단정할 수 없다. 우리가 모를 잠재적 위험성을 줄이기 위해서라도 개발자들과 기관에서는 무거운 책임 의식과 윤리의식을 갖고 설계와 개발을 진행해야 할 것이다. 또 각 국가와 국제기구들도 이와 관련된 안전 확보시스템과 규제방안 등을 철저하게 마련해 인공지능 활용에 따른 피해를 최소화해야 할 것이다.
