지적 차원의 도랑파기

<메두사를 소환한 제프리 힌튼>
.
5월11일 이후 한동안 대중 앞에 모습을 나타내지 않던 힌튼 교수가 5월말 모교 캠브리지 대학에서 두 번에 걸쳐 대중 강연을 실시했다.

5월25일에는 <실존적 위험 연구센터 Centre for the Study of Existential Risk> 주관으로, 5월31일에는 킹즈 칼리지 주관으로 행사가 진행되었는데, 5월31일 강연은 곧 유투브에 공개되었으나 5월25일 강연은 6월5일에야 공개되었다. (동영상 링크는 댓글에)
.
5월25일 강연은 요지를 화면에 띄워가며 진행하는 등 공을 들인 기색이 완연한가 하면, AI의 위험성에 대한 우려를 전에 없이 강렬하고 절박한 어조로  전하고 있다.

소상한 소개는 계제를 보기로 하고, 우선 몇 구절만 옮겨둔다. (챗지피티 번역을 대폭 수정.)
.
===============


“이것은[AI는] 우리보다 훨씬 똑똑해질 것이다. 그러므로 우리가 그것의 말을 읽고 있는 한, 그것은 마치 메두사와도 같다. 그것으로부터 눈을 가려야 한다. 그것의 말을 읽고 있는 한 그것은 우리를 조종할 수 있을 거다. 이것으로 인해 나는 매우 우울하다.

쉬운 해결책이 있으면 좋겠으나 그런 건 없다. 그래서, 이것들이 언제 초지능이 될지에 대한, 그리고 디지털 지능이 생물학적 지능보다 실제로 얼마나 더 나은지에 대한 내 생각을 좀 바꿀 때, [중략] "불이야!" 하고 소리라도 질러야 마땅하다고 결심했다.”
.
“만약 우리가 지능의 정점(頂點)을 내어주게 되더라도, 그것들에게 우리가 어느 정도는 필요할 거다.

우리는 전력 요구량이 매우 적어서 아주 저렴한 비용으로 컴퓨팅을 수행할 수 있고, 발전소를 돌릴 수도 있고, 말하자면 지적 차원의 도랑파기 같은 막일을 맡을 수 있으니까. 그러나 아마도 그것들은 우리보다 더 나은 컴퓨터를 설계할 수 있을 거다.

분명 그것들은 뉴런을 취해 유전공학적으로 재구성해 우리보다 더 나은 것들을 만들 수 있을 거다. 그래서 내 결론은 우리가 아마도 지능의 진화과정에서 잠시 스쳐가는 단계에 불과할 수도 있다는 거다.

사실 그게 다른 모든 종들에게는 좋은 일일지도 모른다.”
===============

출처 https://www.facebook.com/100015032226558/posts/pfbid034DUdwJUrjegfotmVTeziYmrsYzwLHcTdrW14iPADtTFeBE6R6Zgkx1njjYNaiEHCl/?mibextid=Nif5oz