우리는 지금 <매트릭스>세상과 가까워지고 있을까?

안녕하세요, 에디터 푸린입니다!

간만에 아티클을 작성해보는데, 사실 저는 요즘 IT와 조금 멀어진 삶을 살고 있습니다. 일을 쉬고 있는 중인데, 평소에 직업병인지…AI를 적극적으로 사용하지 않고 그러다보니 점점 더 트렌드와 멀어지는 삶을 살고 있는 것 같습니다. 그래서 이번 아티클은 엄청나게 트렌디하거나 새롭고 혁신적인 무언가를 들고오지는 않았습니다.
대신, 현재 거의 무한대의 가지를 뻗치고 있다고 해도 과언이 아닌 AI와 기존의 보안을 접목시켜서 우리가 AI를 사용하는 것에 대한 윤리적 문제에 대해서 다시 한 번 고민하는 시간을 가져볼까 했습니다.

원래도 AI의 윤리적 문제에 대해서 다룬 영화나 소설 등은 매우 많았죠. 그러나 빠른 기술의 발전, 그리고 편리성을 실제로 체험해보는 사람들에 의해 우리가 보았던, 오래전 SF 영화들에서의 그림자는 거의 지워진 듯 했습니다.

최근 앤트로픽의 AI 안전 책임자가 사임을 하며 ”세계가 위태롭다“ 라는 메시지를 던졌는데요, 우리가 AI와 기술의 발달에 대해서 늘 명과 암을 생각해야 하는 것에 대해 다시 한번 고찰을 해야 하는 순간을 꼬집어준 것이 아닐까 싶어서 이번 아티클을 작성해보았습니다.

https://www.newstown.co.kr/news/articleView.html?idxno=693928

AI 안전 책임자의 퇴임 편지 “세상이 위험에 처해 있어요” - 뉴스타운

---

왜 AI가 위험하다고 하는건지?

AI는 기술 자체로는 잘못이 없습니다. 사실 아직 우리가 <매트릭스>의 아키텍트 같은 존재를 아직 만나지 못했기에 할 수 있는 말이기도 하죠. 예전 아티클에서부터 늘 강조했듯이 중요한 것은 기술을 사용하는 사람들의 마인드입니다. 하지만 문제는 편리함과 빠른 활용성에 의해, 그리고 미처 생각지 못한 부분에 대한 무지로 인해 AI를 사용한 결과에서 좋지 못한 일들이 발생하기도 한다는 것입니다.

AI도 하나의 패러다임적 개념에 가깝지만 결국 관련 기술을 어떤 개발자나 프로덕트 매니저가 어떤 목적과 용도를 갖고 제품과 기능을 만들어가느냐에 따른, 툴의 목적도 강합니다. 하지만 인간의 생각에는 한계가 있듯이 우리가 예상치 못했던 grey area는 늘 존재하죠.

그 중 하나가 최근 문제가 된 마이크로소프트사(이하 MS사)의 코파일럿이 사내 기밀 이메일에 접근하는 오류를 발견한 것입니다.
https://www.boannews.com/media/view.asp?idx=142301&skind=D

[AI와 보안] 마이크로소프트 코파일럿, 사내 기밀 이메일 접근하는 오류 발견

특히 많은 대기업들에서 MS사의 운영체제 및 오피스 제품을 사용하면서 내부 기밀 정보의 보호를 위해 MS사가 자체적으로 제공하는 보안 기능을 사용하고 있습니다. 그 중 하나가 인증된 수신인만 이메일을 읽을 수 있도록 하는 이메일 잠금/암호화 기능이고요. 그런데 MS사의 코파일럿을 사용한다면 코파일럿이 데이터를 학습하는 과정에서 이런 사내 기밀 메일들 즉 confidential이라고 라벨링이 된 메일들의 내용도 접근하게 될 수 있다는 것입니다. 어떠한 연유로든 지정되고 인가된 수신자가 confidential 이상의 기밀에 접근하게 된다면 그 데이터의 기밀성은 더이상 무결하다고 보기 어렵습니다.

이런 문제들이 반복되는 이유?

이런식으로 AI에 대한 안전장치가 완전하지 않고, 그러한 안전장치를 만드는 속도보다 관련 기술이 발전하는 속도가 월등히 빠른데 이러한 문제들이 “실수”라고 하고 그치는 데에는 어떻게보면 인간의 욕심이 만들어낸 안전불감증이라고도 볼 수 있을 것 같습니다. 많은 AI 기업들에서 “윤리담당자/윤리위원회”등을 만들어서 본인들의 기술을 검토한다고 하지만 그것이 진정한 효과를 내고 있는지 그리고 이들의 목소리가 기업의 주가를 상승시켜줄 혁신적인 기술 개발을 막을 수 있을지는 의문입니다. 결국에는 기업의 존재 자체는 이윤 추구이니까요.

작년과 올해를 걸쳐 심심치 않게 접한, 숱한 기업들의 개인정보 유출 건도 동일합니다. 하나하나 다 신경쓰기에는 처음부터 건드려야 할 것이 너무도 많고 ‘과징금/과태료가 투자 비용보다 싸다‘라는 말이 이미 업계에 파다할 정도로 일반화된 일이었기 때문에 곪아있던 염증들이 하나둘씩 터지는 것이죠. 하지만 이 염증들은 아직 암으로 퍼지기 전의 염증일 수도 있는, 어쩌면 지금 전조증상이라고 부를 수 있는 것인 것 아닌가 하는 생각도 듭니다.

---

기술의 발달과 이를 멈추는 것 혹은 속도를 줄이는 것에는 정답이 없습니다. 그게 가능하지도 않고요. 중요한 것은 사람들의 도덕적 인식이 그만큼 올라오는가인데 최근의 글로벌한 윤리의식을 보면 개인주의가 팽배하고 실력이 윤리의식보다 우선시되는 등 배금주의와 능력만능주의가 판치고 있는 것을 보면 과연 이 세계는 어디로 향하고 있는 것인지 덜컥 두렵기도 합니다.

숏폼을 통한 자극적인 미디어, 가짜뉴스, 편가르기가 더 많은 호응을 얻고 있는 시대입니다. 더 많은 힘에는 더 많은 책임과 도리가 따르는 것, 그리고 영향력이 있는 사람들이 본인의 영향력을 더 선한 파급 효과를 위해 쓸 수 있는 때가 조금이라도 더 많아지기를 바라면서 이번 아티클을 마치겠습니다.
이상, 에디터 푸린이었습니다.