유발 하라리의 이코노미스트지 기고 내용

출처 https://www.facebook.com/683301409/posts/pfbid02Fuef8Pk21LkaPk3pye7vaxW4yKEHdY3kEn6yDwNcwTfcgphtFdAHr6TjLtkDEiScl/?mibextid=Nif5oz

ㅁ오 뭔가 읽다보니 맞는말같고 생각이 커지는글이네요 다들 집중해서 읽어보시는게 좋을듯합니다

ㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡ

유발 하라리의 이코노미스트지 기고 내용. 인공지능은 이미 인류 문명의 운영 체제를 해킹하기 시작했다고...

"스토리텔링 컴퓨터가 인류 역사의 흐름을 바꿀 것이라고 역사학자이자 철학자는 말합니다."

인공지능(AI)에 대한 두려움은 컴퓨터 시대가 시작된 이래로 인류를 괴롭혀 왔습니다. 지금까지 이러한 두려움은 사람을 죽이거나 노예로 삼거나 대체하기 위해 물리적 수단을 사용하는 기계에 집중되어 있었습니다.

그러나 지난 몇 년 동안 예상치 못한 방향에서 인류 문명의 생존을 위협하는 새로운 인공지능 도구가 등장했습니다. 인공지능은 단어, 소리, 이미지 등 언어를 조작하고 생성하는 놀라운 능력을 갖추게 되었고, 그 결과 우리 문명의 운영 체제를 해킹했습니다.

....

마음과 마음을 얻기 위한 정치적 싸움에서 친밀감은 가장 효율적인 무기이며, 인공지능은 이제 막 수백만 명의 사람들과 친밀한 관계를 대량 생산할 수 있는 능력을 갖추게 되었습니다. 지난 10년 동안 소셜 미디어가 사람들의 관심을 통제하기 위한 전쟁터가 되었다는 것은 우리 모두가 알고 있습니다. 새로운 세대의 인공지능과 함께 전선은 관심에서 친밀감으로 옮겨가고 있습니다.


특정 정치인에게 투표하거나 특정 제품을 구매하도록 유도하는 데 사용될 수 있는 인간과의 친밀한 관계를 가짜로 만들기 위해 인공지능과 싸우는 과정에서 인간 사회와 인간의 심리는 어떤 변화를 겪게 될까요?

'가짜 친밀감'을 만들지 않더라도 새로운 인공지능 도구는 우리의 의견과 세계관에 막대한 영향을 미칠 수 있습니다. 사람들은 하나의 인공지능 어드바이저를 모든 것을 알고 있는 원스톱 오라클처럼 사용하게 될지도 모릅니다.


구글이 두려워하는 것도 당연합니다. 오라클에게 물어볼 수 있는데 왜 굳이 검색을 해야 하나요? 뉴스와 광고 업계도 겁을 먹어야 합니다. 오라클에게 최신 뉴스를 물어볼 수 있는데 굳이 신문을 읽을 이유가 있을까요? 그리고 오라클에게 무엇을 사야 할지 물어볼 수 있다면 광고의 목적은 무엇일까요?

그리고 이러한 시나리오조차도 큰 그림을 제대로 파악하지 못합니다. 우리가 말하는 것은 잠재적으로 인류 역사의 종말입니다. 역사의 종말이 아니라 인간이 지배하는 부분의 종말일 뿐입니다. 역사는 생물학과 문화의 상호작용, 즉 음식과 성 같은 생물학적 필요와 욕구, 종교와 법과 같은 문화적 창조물 사이의 상호작용입니다. 역사는 법과 종교가 음식과 성을 형성하는 과정입니다.


인공지능이 문화를 장악하고 이야기와 멜로디, 법과 종교를 생산하기 시작하면 역사의 흐름은 어떻게 될까요? 인쇄기나 라디오 같은 이전 도구는 인간의 문화적 아이디어를 전파하는 데 도움이 되었지만, 그 자체로 새로운 문화적 아이디어를 창조하지는 못했습니다. 인공지능은 근본적으로 다릅니다. 인공지능은 완전히 새로운 아이디어, 완전히 새로운 문화를 창조할 수 있습니다.


처음에 인공지능은 아마도 초기에 학습한 인간의 프로토타입을 모방할 것입니다. 하지만 해가 갈수록 인공지능 문화는 인간이 가보지 않은 곳으로 대담하게 나아갈 것입니다. 수천 년 동안 인간은 다른 인간의 꿈 속에서 살아왔습니다. 앞으로 수십 년 안에 우리는 외계 지능의 꿈 속에서 살아가게 될지도 모릅니다.

.... (중략)...

1945년 이래로 우리는 핵 기술이 인간을 위해 값싼 에너지를 생산할 수 있지만, 동시에 인류 문명을 물리적으로 파괴할 수도 있다는 사실을 알고 있었습니다. 따라서 우리는 인류를 보호하고 핵 기술이 주로 선한 목적으로 사용되도록 하기 위해 국제 질서 전체를 재편했습니다. 이제 우리는 정신적, 사회적 세계를 전멸시킬 수 있는 새로운 대량 살상 무기에 맞서 싸워야 합니다.

우리는 여전히 새로운 인공지능 도구를 규제할 수 있지만 신속하게 행동해야 합니다. 핵무기는 더 강력한 핵무기를 발명할 수 없지만, 인공지능은 기하급수적으로 더 강력한 인공지능을 만들 수 있습니다.

가장 중요한 첫 번째 단계는 강력한 AI 도구가 공개되기 전에 엄격한 안전 점검을 요구하는 것입니다. 제약회사가 단기 및 장기 부작용을 모두 테스트하기 전에 신약을 출시할 수 없듯이, 기술 회사도 안전성이 확보되기 전에 새로운 AI 도구를 출시해서는 안 됩니다. 신기술에 대한 미국 식품의약국(FDA)과 같은 기관이 필요하며, 이는 어제나 오늘이나 마찬가지입니다.

AI의 공공 배포를 늦추면 민주주의가 더 무자비한 권위주의 정권에 뒤처지지 않을까요? 정반대입니다. 규제되지 않은 AI 도입은 사회적 혼란을 야기하여 독재자에게 이득이 되고 민주주의를 파괴할 것입니다. 민주주의는 대화이며 대화는 언어에 의존합니다. 인공지능이 언어를 해킹하면 의미 있는 대화를 할 수 있는 능력을 파괴하여 민주주의를 파괴할 수 있습니다.

우리는 방금 지구에서 외계 지능과 마주쳤습니다. 외계 지능이 우리 문명을 파괴할 수 있다는 것 외에는 아는 것이 많지 않습니다. 우리는 공공 영역에서 무책임한 인공지능 도구의 배포를 중단하고 인공지능이 우리를 규제하기 전에 인공지능을 규제해야 합니다. 그리고 제가 제안하고 싶은 첫 번째 규제는 인공지능이 자신이 인공지능이라는 사실을 공개하도록 의무화하는 것입니다. 내가 누군가와 대화를 나누고 있는데 상대가 인간인지 인공지능인지 알 수 없다면 민주주의는 끝입니다.

이 텍스트는 사람이 생성한 것입니다.

그렇지 않나요?"

원문: https://www.economist.com/by-invitation/2023/04/28/yuval-noah-harari-argues-that-ai-has-hacked-the-operating-system-of-human-civilisation
Archive: https://archive.is/HGRsq