<맨 인 블랙>이라는 영화 보셨나요? 배우 윌 스미스와 토미 리 존스 비밀요원이 지구에 있는 외계인을 잡으러 다니는 내용이죠. 이들은 외계인을 만난 일반인들의 기억을 '삭제'합니다. 본인들은 선글라스를 쓰고 불빛을 번쩍이는데요.
이 도구의 정체는 불빛을 한 번 쏘는 것 만으로 기억을 삭제하는 '뉴럴라이저(Neuralyzer)'입니다. 뉴럴라이저라는 명칭은 신경계를 의미하는 '뉴로(Neuro)'와 마비시키다 라는 뜻의 '패럴라이즈(paralyze)'를 합성시킨 표현입니다. 아래 사진에서 윌 스미스가 들고 있는 도구입니다.
참 신기한 도구인데요. 이 도구가 영화적 상상이 아니라 실제가 될 수 있다고 합니다. 도구의 사용 대상은 사람은 아니고 로봇이라고 하는데요.
최근 스위스 과학자들이 인공지능 로봇들을 대상으로 한 기억 삭제 도구를 개발 중이래요.
인공지능을 연구하는 스위스 로잔 공과대학의 연구진은 최근 로봇이 자가 학습을 멈추지 못할 상황을 대비해 주요한 기능은 손상시키지 않고, 단기 메모리만 삭제시키는 도구를 개발하고 있습니다.
'안전 중단' 시스템
인공지능은 피드백을 수집해 자가 학습할 수 있는데요. 잘못된 데이터를 가지고 학습할 경우 추후 문제가 생길 수 있습니다.
로잔 공대 라시드 게라위(Rachid Guerraoui) 교수는 "AI가 사람의 조종에서 벗어나 멈출 수 없게 되는 상황이 올 수 있다"면서 "로봇을 아예 멈추게 하는 것이 아니라, 전반적인 자가 학습 기능은 유지한 채 좋은 데이터만 수집할 수 있게 살짝 프로그래밍 해야 한다"고 말했습니다.
예를 들어 자율 주행차의 경우 한 운전자가 브레이크를 자주 밟으면 이 같은 패턴이 학습돼 자동차가 언제 브레이크를 밝는 것이 최적화 된 것인지 혼동한다는 겁니다.
이런 문제를 해결하기 위해 연구진은 '안전 중단' 시스템을 개발했습니다. 이 시스템을 사용하면 인간이 AI의 자가 학습을 중단시킬 수가 있습니다. 인공지능이 잘못된 학습으로 폭주하거나 인명 피해가 우려될 경우를 대비해 이런 장치가 필수라는 전문가들의 지적이 점차 현실화되는 모양새입니다.
공동 연구자인 엘 마흐디 엘 맘디 El Mahdi El Mhamdi)는 "우리는 '망각' 매커니즘을 학습 알고리즘에 추가해 기계의 메모리를 삭제할 수 있게 했다"며 "이는 마치 <맨 인 블랙>에 나오는 뉴럴라이저와 비슷하다"고 밝혔습니다.