19.10.06

인공지능 기술의 숨은 비용

프로비질만 그런 것이 아닙니다. 허가를 받고 널리 사용되는 약들 중에도 그 약이 정확히 우리 몸 속에서 어떻게 작용하는지 우리가 알지 못하는 약들이 많이 있습니다. 이는 그 약들이 시행착오(trial-and-error)를 통해 주로 발견되기 때문입니다. 매년 새로운 약품이 임상시험을 거치고 그 중 가장 효과가 좋은 약이 선택됩니다. 때로는 새로 발견된 약이 새로운 연구분야를 만들어내고 자신의 작용기전이 이를 통해 밝혀지는 경우도 있습니다. 물론 늘 그런 것은 아니지요. 아스피린은 1897년에 발견되었지만, 1995년에야 우리는 아스피린이 어떻게 우리 몸 속에서 작동하는지를 이해하게 되었습니다. 의학에는 이런 예가 많습니다. 뇌심부자극술(DBS)은 전극을 뇌속에 삽입하는 기술로 파킨슨 병처럼 특정한 움직임에 장애가 있는 이들에게 20년 이상 사용되어 왔으며 어떤 이들은 이 시술이 인지능력 강화에도 유용하리라 생각합니다. 하지만 누구도 그 이유는 알지 못합니다.

지식에 대한 이러한 접근법, 곧 답을 먼저 찾고 설명은 나중에 찾는 방식을 나는 지적 부채(intellectual debt)라 부릅니다. 어떤 것이 왜 작동하는지 모르는 상태로 언젠가는 그 원리를 알 수 있을 것이라 생각하며 실제로 이를 사용하는 것도 물론 가능합니다. 때로 우리는 이 지적 부채를 쉽게 갚을 수 있습니다. 하지만 수십년 동안 이 기술에 의존하고 다른 분야에까지 적용하면서도 그 원리를 충분히 알지 못한 상태로 사용하는 경우도 있습니다. (중략)

이미지 인식의 문제를 생각해봅시다. 10년 전, 컴퓨터는 사진 속의 물체를 쉽게 인식하지 못했습니다. 오늘날 우리는 일상에서 매우 뛰어난 기계학습모델 기반의 이미지 검색 엔진을 사용하고 있습니다. 구글의 이미지 검색은 인셉션(Inception)이라 불리는 신경망을 사용합니다. 2017년, MIT 의 학부생과 대학원생으로 이루어진 랩식스 팀은 고양이 사진의 픽셀 몇개를 바꾸어 사람 눈에는 여전히 고양이로 보이지만 인셉션은 99.99 퍼센트의 확률로 과카몰 사진으로 판단하는 사진을 만들었습니다. (그 사진이 브로콜리, 모르타르일 확률도 아주 조금 있었습니다.) 물론 인셉션 신경망은 자신이 어떤 고양이 사진을 왜 고양이 사진으로 판단하는지 말할 수 없으며, 때문에 특정한 조작이 가해진 이미지에 대해 인셉션이 잘못된 판단을 내릴지를 예측하는 것도 불가능합니다. 곧 이런 시스템은 일반적으로 알려진 정확도에 비해 의도적인, 훈련된 공격자에 대해서는 매우 쉽게 뚫리는 단점을 가질 수 밖에 없습니다. 

지적 부채라는 내용이 흥미로워서 정리. (사실 2편의 알고리즘 간의 상호 작용 문제는 지적 부채와는 관계는 없는 것 같다) 그런데 생각해보면 우리 중에 우리가 사용하는 언어의 기저를 완벽히 이해하고 사용하는 사람이 있는가하고 물어보면 –심지어 언어학자 중에도 완벽히 이해한 사람은 없을 것이다– 그렇지 않음에도 불구하고 우리는 모두 모국어 전문가이다. 

우리가 사용하는 것에 대해 얼마나 이해가 필요한지에 대해서는 사실 생각해 볼만한 내용인 것 같다. 이해하면 더 잘 사용할 수 있는 것은 분명 사실이기 때문.

운전석이 없는 자율주행 트럭을 선보인 스카니아

아예 운전석을 없애면 트럭을 좀더 공기역학적으로 설계할 수 있으며 그 만큼 연비가 좋아집니다. 다만 현재 기술 수준에서 완전히 사람을 배제할 수 있는 경우는 특정 작업 환경으로 제한될 것입니다. 예를 들어 다른 차량이나 사람이 없는 환경이고 노력을 확보하기 힘든 장소가 우선적인 적용대상일 것입니다. 채석장이나 광산 등이 대표적인 장소일 것입니다.

문득 로봇 전투기가 나오면 사람으로는 견딜 수 없는 움직임을 할 수 있기 때문에 로봇 전투기랑 인간 조종사 전투기가 붙으면 인간이 이길 수 없다는 얘기가 기억 떠오른다.

[ssba]

The author

지성을 추구하는 사람/ suyeongpark@abyne.com

댓글 남기기

This site uses Akismet to reduce spam. Learn how your comment data is processed.