챗GPT대가가 걱정하는 Ai

펌 ㅣ<또 다시 제프리 힌튼: PBS 방송 8분 인터뷰>
.
인터뷰 말미의 한 단락을 미리 인용해  둔다.
.
“우리는 지금 한 번도 상대해본 적 없는 것들을 상대하고 있는, 엄청난 불확실성의 시대로 접어들고 있다. 마치 외계인들이 착륙했지만 그들이 영어를 잘하기 때문에 그 사실[외계인 착륙이라는 사실]을 우리가 받아들이지 못하는 것과도 같은 상황이다.”
.
어쩌다 3월말부터 한 달 넘게 제프리 힌튼의 거취와 발언을 추적하다보니 팔자에 없는 스토커가 된 기분이다.  GPT-4 공개 이전인 3월1 CBS와의 인터뷰 때만 해도 힌튼은 인공지능의 위험을 전에 없이 인정해 시청자를 놀라게 하면서도 다소 말을 삼가는 모습이었다. AI가 인류를 “쓸어 없앨” 가능성을 숫자로 표현해보라는 요청에 “0~100%”라고 답하는 게 고작이었으니까.
.
두 달 남짓 사이 힌튼의 태도는 확연히 변했다. GPT-4의 성능과 잠재력을 확인한 탓일까?  5월1일 구글을 떠난 후 힌튼은 신문, 방송, 잡지, 공개 인터뷰, SNS 등 활용가능한 모든 매체를 통해 AI의 위험에 대한 자신의 입장을 거침없이 주장하고 있으며, 어투도 점점 단호해지고 있다. 아래 번역, 소개하는 미국 공영방송 PBS와의 인터뷰도 마찬가지다.
.
이번 인터뷰에서 힌튼은 기존 인터뷰들의 내용을 8분이라는 짧은 시간에 간명하게 압축, 요약하는 한편, 그간 SNS 등에서 자신의 거취 및 발언을 향해 쏟아진 비판(비방?)에 대한 반론을 간략하게나마 제기하고 있기도 하다. 아울러, 적시에 핵심을 찔러 캐묻는 앵커의 진행도 힌튼의 생각을 졸가리 잡아 전달하는 데 한몫하고 있다. 그래서 귀에 쏙쏙 들어온다. (인터뷰 링크는 아래 댓글에.)
.
DeepL 번역을 대폭 손질했다.
.
=================
'AI의 대부', 발전하는 기술이 사회에 미치는 위험에 대해 이야기하다
.
PBS 뉴스아워, 2023년 5월 6일
.
진행자(Geoff Bennett):
해리스 부통령은 어제 마이크로소프트, 구글, 오픈AI, 앤트로픽 등 AI 기업의 최고 경영진과 만났다. 해리스 부통령은 기업들에게 AI를 안전하게 개발해야 할 도덕적 의무가 있다고 말했다. 이 회의는 AI 분야 주요인사 중 한 사람인 제프리 힌튼 박사가 AI가 초래할 수 있는 위험을 우려하며 구글을 그만둔 지 며칠 만에 열렸다. 현재 런던에 있는 제프리 힌튼 박사와 화상으로 만나 그 우려에 대해 들어본다.
.
AI 관련해 어떤 점들이 구글에 근무할 때는 자유롭게 표현할 수 없었으나 지금은  자유롭게 표현할 수 있게 되었나?
.
힌튼:
구글에 근무하며 자유롭게 의사표현을 할 수 없었던 건 아니다. 회사에서 일하다 보면 어쩔 수 없이 자기검열을 하게 되는 경향이 있다. 회사에 미칠 영향에 대해 생각하게 되니까.  내 말이 구글에 미칠 영향을 생각할 필요 없이 초지능 AI의 위험에 대한 생각을 이야기하고 싶었던 거다.
.
진행자:
어떤 위험이 있다고 생각하나?
.
힌튼:
상당히 여러 가지 위험이 있다. 가짜 뉴스가 많이 생산되어 무엇이 진실인지 더이상 알 수 없게 될 위험, 사람들을 분노케 할 것을 클릭하게 만들어 양극화를 조장할 위험이 있는가 하면, 사람들이 일자리를 잃게 만들 위험도 있다. 생산성이 더 좋은 무언가를 만들어 생산성을 크게 높이면 모두에게 도움이 되어야 한다. 하지만 부자들에게만 도움이 될 우려가 있다. 그런가 하면 내가 특히 이야기하고 싶은 위험도 있다. 편견과 차별 조장의 위험 등 다른 위험에 대해서 많이들 이야기하고 있는데, 나는 또 다른 위험에 대해 이야기하고 싶다. 바로 초지능 AI가 인간에게서 통제권을 앗아갈 위험이다.
.
진행자:
인간지능 또는 생물학적 지능과 기계지능을 비교해보면?
.
힌튼:
아주 좋은 질문인데, 대답이 좀 길다. 생물학적 지능은 매우 적은 전력을 사용하도록 진화했기 때문에 30와트만 사용한다. 그런가 하면 인간은 뉴런과 뉴런 사이에 100조 개에 달하는 엄청난 수의 연결을 가지고 있다. 학습은 이러한 연결들의 강도를 변화시킴으로써 이루어진다. 우리가 만들어온 디지털 지능은 메가와트 수준의 많은 전력을 사용하지만, 학습할 때 연결의 수는 인간의 경우보다 훨씬 적은 1조 개에 불과하다. 그럼에도 한 사람이 알고 있는 것보다 훨씬, 훨씬 더 많은 것을 학습할 수 있다. 이는 AI의 학습 알고리즘이 인간 두뇌의 알고리즘보다 더 좋다는 걸 뜻한다.
.
진행자:
그렇다면 인간보다 똑똑한 AI 시스템은 어떤 일을 할 수 있을까? 우려하는 게 무엇인가?
.
힌튼:
문제는 어떤 목표가 그들에게 동기(motivation)를 부여하는가이다. 그들은 우리를 매우 쉽게 조종할 수 있으니까. 당신이 두 살 아이에게 “완두콩과 콜리플라워 둘 중 뭘 원하느냐고 묻는다고 상상해보자. 아이는 자기가 사실은 둘 중 어느 것도 갖고 싶지 않다는 사실을 모른다. [그 결과로 당신의 질문에 이끌려 한쪽을 선택하게 될 것이다.] 예컨대, 우리가 잘 알다시피 워싱턴에 있는 빌딩에 직접 가지 않고도 사람들을 조종해 침입할 수 있다. 그런데 오늘날의 그 어떤 정치인보다 사람들을 훨씬 더 잘 조종할 수 있는 그 무엇이 있다고 상상해보라.
.
진행자:
그렇다면, AI가 왜 굳이 그런 짓을 하려들겠냐는 질문이 가능하겠다. 모종의 지각능력(sentience)이 필요하지 않겠는가?
.
힌튼:
지각능력에 대해 할 말이 많지만, 지금 이 문제와 지각능력 문제를 혼동하는 건 바람직하지 않다. AI가 왜 그런 짓을 하려들 수 있는지 예를 들어 설명해보자. AI에게 어떤 일을 시킨다고 가정해보자. AI에게 목표를 부여하고 하위목표를 생성할 수 있는 기능까지 부여한다고 가정해보자.
.
예를 들어 공항에 가고 싶으면 당신은 공항까지 데려다줄 택시 또는 여타 수단의 확보라는 하위목표를 갖게 된다. AI는 자신이 그걸 달성하면 사람들이 부여한 다른 모든 목표를 더 쉽게 달성할 수 있는 어떤 하위목표가 존재한다는 사실을 아주 금방 알아차릴 거다. 목표 달성을 더 쉽게 만들 하위목표는 더 많은 통제력, 더 많은 힘을 확보하는 거다. 힘이 클수록 일을 완수하기가 더 쉬워진다. 그래서 [AI의 행위를 인간이 원하는 바에 일치시키는] 정렬(alignment)에 대한 우려가 생기는 거다.
.
우리가 AI에게 완벽하게 합리적인 목표를 부여하면, AI는 “음, 목표를 달성하기 위해 더 많은 힘을 얻어야겠군” 하고 결정한다. 우리보다 훨씬 똑똑하고 사람들이 했던 모든 일을 배웠으며, 지금까지 나온 모든 소설을 읽었고 마키아벨리도 읽었으므로, AI는 사람을 조종하는 방법에 대해 많이 알고 있다. 더 많은 힘을 부여하도록 AI가 우리를 조종함에도 우리는 무슨 일이 벌어지고 있는지 눈치조차 채지 못하는 일이 벌어질 우려가 있다.
.
진행자:
수십 년 전 이 기술의 선두에 있었을 때 이 기술이 어떤 역할을 할 수 있을 거라고 생각했는가? 당시 염두에 두었던 응용분야는 어떤 건가?
.
힌튼:
아주 좋은 애플리케이션이 엄청나게 많기 때문에 개발을 중단하는 건 큰 실수가 될 거다. 의학 분야 예를 들면, 수천 명의 환자를 본 가정의학과 의사와 수억 명의 환자를 본 가정의학과 의사 중 어떤 의사를 만나겠는가? 이런 식으로 훨씬 더 나은 의사를 만들 수 있다. 태양광 패널을 위한 더 나은 나노기술을 개발할 수 있고, 홍수를 예측할 수 있고, 지진을 예측할 수 있다. AI로 엄청난 일을 할 수 있다.
.
진행자:
그렇다면 문제가 기술 그 자체인가 아니면 그 뒤에 있는 사람들인가?
.
힌튼:
둘의 조합이다. 이 기술을 개발하는 많은 조직 중 다수가 국방조직이다. 국방조직들은 “인간들에게 친절하라”는 명제를 첫 번째 규칙으로 AI에게 심어주는 걸 반드시 원하지는 않는다. 어떤 국방조직들은 “특정 종류의 인간들을 죽여라”는 명제를 첫 번째 규칙으로 심어주고 싶어한다. 국방조직들 모두가 모든 사람들에게 좋은 의도를 갖고 있다고 기대할 수는 없다.
.
진행자:
어떻게 할 것인가? 이 기술은 정부와 사회가 따라잡을 없을 정도의 속도로 급속히 발전하고 있다. 이 기술의 성능은 몇 달마다 도약을 거듭하고 있는데, 법안을 작성해 통과시키고, 국제조약을 발의하는 데는 몇 년이 걸린다.
.
힌튼:
그렇다. 내가 공개적 활동에 나선 것도 더 많은 자원과 더 많은 창의적 과학자들이 AI 문제 해결에 투입되게끔 권장하기 위해서다. 기계가 세상을 접수하는 것은 만인에게 위협이 되기 때문에, 이 문제는 국제적 협력이 실제로 가능한 영역이라고 생각한다. 지구적 핵전쟁이 그랬던 것처럼 이 문제는 중국인, 미국인, 유럽인에게 모두 위협이 될 수 있다. 지구적 핵전쟁 발발의 가능성을 줄이기 위해 사람들은 실제로 협력하지 않았는가.
.
진행자:
AI 분야의 다른 전문가들은 당신이 제기하는 이 디스토피아적 미래에 대한 우려는 잘못된 정보, 사기, 차별 등 AI가 야기하는 매우 현실적이고 즉각적인 위험으로부터 주의를 분산시키는 효과를 낳는다고 말한다. 이런한 비판에 대한 당신의 응답은?
.
힌튼:
그런 문제들로부터 주의를 분산시키고 싶지 않다. 나도 그것들이 매우 중요하며 그것들을 해결하기 위해 노력해야 한다고 생각한다. 다만 나는 이 또 하나의 문제, 즉 AI가 세상을 접수할 수도 있다는 이 실존적 위협을 덧붙이고 싶은 것이다. 그렇게 하고 싶은 이유 중 하나는 그것이 우리가 국제적인 협력을 얻을 수 있는 영역이라고 생각하기 때문이다.
.
진행자:
AI가 우리보다 더 높은 지능을 갖게되는 시대가 올 거라고 했는데, 되돌릴 수 있는 방법은 있는가?  
.
힌튼:
모르겠다. 우리는 지금 한 번도 다루어 본 적 없는 것들을 다루고 있는 엄청난 불확실성의 시대로 접어들고 있다. 마치 외계인들이 착륙했지만 그들이 영어를 잘하기 때문에 그 사실[외계인 착륙이라는 사실]을 우리가 받아들이지 못하는 것과도 같은 상황이다.
.
진행자:
그렇다면 AI에 대해 어떤 식으로 달리 생각해야 하는가?
.
힌튼:
우리가 깨달아야 하는 것은 얼마 안 있어 우리는 우리보다 더 지능적인 것들을 대하게 될 거고, 그것들이 매우 훌륭할 거라는 사실이다. AI는 우리가 매우 어렵게 생각하는 온갖 종류의 일을 아주 쉽게 할 수 있게 될 것이다. 이것들은 엄청난 긍정적 잠재력을 갖고 있지만, 부정적 가능성도 물론 엄청나다. 그래서 나는 한편으로 AI를 훨씬 더 강력하게 만들기 위한 개발에, 다른 한편으로는 이를 통제하고 부작용을 최소화하는 방법을 알아내는 데에 거의 대등한 자원을 투입해야 한다고 생각한다.
=================

출처 https://www.facebook.com/100015032226558/posts/pfbid029W7xJoFYQh1Yu5utD9FPE82ej2LyE3KS9z1o4kuzVTLJFWET7kvfEEQeWMRsc51wl/?mibextid=Nif5oz





펌)월드 코인을 통한 인간성 증명(PoP), 헬리온, 기본 소득, 그리고 AI 십자군 샘 올트만의 모순

요약: "고등 AI의 시절, 사람임을 증명해서 기본 소득을 받으려면 생체 인증해서 등록하세요."

어제 샘 올트만의 트윗 2개를 보면 하나는 월드 코인, 하나는 헬리온에 관한 것이었습니다.

"월드코인, 개인 신원 증명 SDK 출시:"
https://twitter.com/sama/status/1642000529986588676

"2024년에 헬리온이 빅-Q D-T 융합과 D-He-3 에너지 회수를 시연할 수 있게 되어 정말 기대됩니다!"
https://twitter.com/sama/status/1641827944980168709

작년 Greylock이나 Strictly VC 샘 올트만 인터뷰 등에서 반복적으로 나오는 이야기가 AI의 수요와 거기에 드는 에너지 등의 비용 교차하는 스윗 포인트에 관한 부분입니다.
ㅤ
ㅤ
----
SA:
네. 인공지능은 모든 곳에 스며들 것이라고 생각합니다. 향후 10년에 대한 저의 기본 모델은 지능의 한계 비용과 에너지의 한계 비용이 놀랍게도 0을 향해 급속도로 낮아질 것이라는 것입니다. 그리고 이 두 가지가 우리가 비싸고 싶은 것, 지위 재화 등의 비용을 제외한 다른 모든 비용의 주요 투입 요소라고 생각합니다.
사회의 전체 비용 구조가 바뀔 때 발생하는 이러한 지각 변동이 거의 모든 것에 영향을 미칠 것이라고 가정해야 한다고 생각하는데, 이전에도 여러 번 일어났기 때문에 항상 이를 과소평가하고 싶은 유혹이 있습니다. 따라서 크게 변하지 않거나 적용되지 않는 부분에 대해서는 높은 신뢰도를 가지고 예측하지 않습니다.

하지만 중요한 것 중 하나는 이것이 완전히 0이 되는 것이 아니라 그 방향으로 향한다는 것입니다. 따라서 누군가는 여전히 컴퓨팅과 에너지에 엄청난 액수의 돈을 쓰게 될 것입니다. 그들은 그에 상응하는 상상할 수 없는 양의 것을 얻을 것입니다. 그래서 누가 그렇게 할 것이고, 어디에서 비용이 크게 낮아지는 것이 아니라 지출액이 실제로 급증하는 가장 기묘한 상황이 발생할까요?

RH(리드 호프만):
네, 두 곡선의 교차점입니다.

SA:
네. 그것의 가격이 에너지 비용보다 10배나 100배나 싸지고, 지능 비용보다는 1억 배 싸졌습니다. 저는 오늘날의 달러로 1,000배 더 많은 돈을 쓰려고 할 의향이 있었죠. 그럼 그때 어떤 일이 벌어질까요?
----

* Greylock: https://www.youtube.com/watch?v=WHoWGNQRXb0
* Strictly VC (part 1): https://www.youtube.com/watch?v=57OU18cogJ
ㅤ
ㅤ
샘 올트만은 에너지 스타트업 헬리온( https://www.helionenergy.com )에도 투자하고 있습니다.
https://blog.samaltman.com/helion-needs-you
그리고 트윗이나 여러 인터뷰에서 의도적으로 그런 정보를 이야기 해 오고 있는 듯 합니다.

여기에 더 등장하는 조각이 기본 소득(UBI)과 AI 안전입니다.

얼마 전 OpenAI와 OpenResearch Lab( https://www.openresearchlab.org/ )이 같이 공개한, GPT는 GPT다: 거대 언어 모델의 노동시장 영향 가능성에 대한 초기 조망(GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models): https://www.facebook.com/seungjoon.choi/posts/10228537810965809 이 여기에 관한 연구죠.

ARC 같은 (같은 뿌리를 가진) AI 얼라인먼트 연구 기관과 협력하기도 하고요.

* ARC의 GPT-4 & Claude 평가 리포트: https://www.facebook.com/seungjoon.choi/posts/pfbid0QxcBmfhtNDwPzG85hPzMSckN8fzk3VxkGN8bNixnYhot3Y7ChjAZWNFbaU8kxGPml

기본 소득과 AI 안전에 양쪽에 연결되어 있는 샘 올트만이 관여한 또 다른 프로젝트 중에 하나로 "월드 코인"을 볼 수 있을 듯 합니다.

월드 코인에 관해선 ttimes의 카드 뉴스 등이 쉽게 소개하고 있습니다.

* 10억명에게 코인 기본 소득을 지급하면 어떻게 될까?: https://www.ttimes.co.kr/article/2021102917407748403

* [Opinion] 블록체인, AI에 맞선 인류 주권의 최후의 저항선 (feat. 월드코인): https://medium.com/a41-ventures/opinion-%EB%B8%94%EB%A1%9D%EC%B2%B4%EC%9D%B8-ai%EC%97%90-%EB%A7%9E%EC%84%A0-%EC%9D%B8%EB%A5%98-%EC%A3%BC%EA%B6%8C%EC%9D%98-%EC%B5%9C%ED%9B%84%EC%9D%98-%EC%A0%80%ED%95%AD%EC%84%A0-feat-%EC%9B%94%EB%93%9C%EC%BD%94%EC%9D%B8-be02abbcd6ad

* 대니얼 데닛의 "위조 인간" 개념하고 또 이게 맞물려 돌아가는 느낌이네요.
* 위조 인간: https://www.facebook.com/seungjoon.choi/posts/10228423121018632

2023년 3월 31일의 WSJ 기사로  "AI 십자군 샘 올트만의 모순"( https://www.wsj.com/articles/chatgpt-sam-altman-artificial-intelligence-openai-b0e1c8c9 )이 올라왔는데, 인상에 남는 부분 몇 가지는 이 포스팅의 마지막 부분에 인용해 뒀습니다.

먼저 월드 코인 쪽의 포스팅 "인공지능 시대의 인간성( HUMANNESS IN THE AGE OF AI )" https://worldcoin.org/blog/engineering/humanness-in-the-age-of-ai 을 거칠게 기계 번역해 두고 살펴 보고자 합니다. (번역에 오류가 있을 수 있으며 아직 저도 꼼꼼하게 내용을 다 살펴보질 못했습니다. 하루에 소화할 정보가 너무 많아요)

GPT-4에 관한 리포트나 빌 게이츠의 글을 적재 적소에 인용하며 활용하네요.

----
월드코인 프로젝트는 월드 ID라는 개방형 허가가 필요없는 신원 프로토콜을 시작합니다. 이 프로토콜은 개인이 영지식 증명을 통해 익명성을 유지하면서 온라인에서 자신의 인간성을 증명할 수 있도록 지원합니다. 인공지능의 발전으로 인터넷에서 인공지능과 인간을 구분하기 어려워지면서 진정한 인간 인식과 검증에 대한 필요성이 강조되고 있습니다. 이러한 문제를 해결하기 위해 개인은 개인 정보를 보호하는 방식으로 안전한 생체 인식 장치를 통해 미래에도 사용할 수 있는 고유한 인간 자격 증명을 받을 수 있습니다. 중요한 것은 이를 통해 AI가 자금을 지원하는 비국가 UBI와 디지털 통화의 공평한 글로벌 배포를 실현할 수 있다는 점입니다. 프로젝트의 초기 참여자들은 하드웨어 장치, 모바일 클라이언트, 배포 메커니즘의 초기 버전을 개발했으며, 이 모든 것이 점차 탈중앙화될 것입니다. 월드 ID는 궁극적으로 사람들이 프로토콜을 관리할 수 있도록 하여 프로토콜이 모든 사람에게 혜택을 줄 수 있도록 할 것입니다.

AI의 능력은 빠르게 인간의 능력에 근접하고 있으며 이미 많은 틈새 영역에서 인간을 능가하고 있습니다. 최근 대규모 언어 모델(LLM)의 등장은 이러한 모델이 점점 더 다재다능해지고 있으며 '일반적으로 지능적'인 것처럼 보이지만, 인간과의 주요 인터페이스인 언어를 완벽하게 학습했기 때문에 훨씬 더 지능적이라고 느껴집니다. 이러한 혁신이 단기간에 인공 일반 지능(AGI)으로 이어질 것이라고 단언할 수는 없지만, 이제 디지털 상호 작용에서 고도로 유능한 인간을 완벽하게 모방하도록 훈련된 모델을 보유하게 되었습니다[1]. 어떤 이들은 AI의 시대가 시작되었다고 주장할 수도 있습니다.
ㅤ
ㅤ
개인이 통제할 수 없는 방식으로 점점 더 강력한 모델에 접근할 수 있게 되고 있습니다. 딥페이크 이미지 생성 모델과 딥페이크 생성 소프트웨어는 오픈 소스이며, 메타의 LLaMA 언어 모델은 유출되어 노트북에서 실행할 수 있습니다.

단기적으로 중요한 결과는 최근까지 우리는 텍스트 기반 메시지가 인간성을 입증하고 증명하는 데 충분하다고 여겼던 유명한 튜링 테스트가 사라졌다는 것입니다. 봇은 소셜 미디어 플랫폼에 널리 퍼져 있으며 조작 캠페인[2]에도 꽤 오랫동안 관여해 왔습니다. 하지만 대부분의 경우 봇을 실제 인간 사용자와 구별하는 것이 가능했습니다. 이제 최신 AI는 이미 튜링 테스트를 통과했거나 통과에 매우 근접해 있습니다. 따라서 앞으로는 지능만으로 인간성을 판단하는 것이 불가능해질 것입니다. 게다가 최근 딥페이크[3]를 이용한 사칭 범죄는 영상에 기반한 인간성 증명조차 점점 더 신뢰할 수 없게 되고 있음을 보여줍니다. 따라서 온라인에서 인간성을 검증할 수 있는 신뢰할 수 있는 방법은 더 이상 존재하지 않습니다.

그러나 디지털 영역에서 인간성을 증명하는 것은 특히 인류 역사의 새로운 장에서 개인에게 권한을 부여하는 데 필수적이고 피할 수 없는 도구가 될 것입니다. 인간성 증명(PoP)을 구현하는 방법에는 다양한 접근 방식이 존재하지만, 개인을 보호하고 혜택을 제공하기 위해서는 이러한 중요한 인프라가 프라이버시, 자기 주권, 포용성, 탈중앙화를 우선시하는 것이 중요합니다.

이러한 도전에 대응하기 위해 월드코인 프로젝트는 월드 ID라는 개방형 신원 프로토콜을 시작했습니다. AI의 발전으로 디지털로 생성할 수 있는 데이터만으로는 인간임을 증명하기에 충분하지 않게 되었습니다. 따라서 실제 증명을 통해 인간성을 검증하는 방향으로 초점을 전환해야 합니다. 고유한 신체적 특성(예: 생체 인식)을 기반으로 인간성을 평가하기 위해 월드코인 프로젝트에 기여하는 기술 회사인 툴스 포 휴머니티는 맞춤형 오픈소스 하드웨어 디바이스 설계를 지원했습니다. 여러 신경망을 사용하여 이미지 데이터를 저장하지 않고도 생동감과 고유성을 검증하는 이 최첨단 장치는 World ID에서 AI에 안전한 PoP 자격 증명을 발급합니다. 인간성을 증명하는 방법은 여러 가지가 있지만(그리고 애플리케이션마다 요구 사항이 다릅니다), 현재 기술 상태에서는 이 접근 방식이 글로벌 PoP를 구축하기 위한 확장 가능하고 사기 방지적이며 포괄적인 유일한 메커니즘이라고 할 수 있습니다.

PoP 자격 증명을 통해 월드 ID 프로토콜은 모든 사람이 제3자의 도움 없이도 온라인에서 자신의 인간성을 증명할 수 있도록 지원합니다. 이 프로토콜은 영지식 증명을 활용하여 프라이버시를 극대화하며, 궁극적으로는 월드 아이디 자체를 통해 사람들이 관리하게 될 것입니다. 현재 하드웨어 장치, 모바일 클라이언트, 배포 메커니즘의 초기 버전이 구현되었으며, 이 모든 것이 점차 탈중앙화될 것입니다. 애플리케이션은 최근 출시된 SDK를 통해 프로토콜에서 이 증명과 상호 작용할 수 있습니다. 프로토콜 자체는 비허가형이며 궁극적으로 누구나 증명할 수 있는 다양한 자격 증명을 지원하도록 설계되었습니다. 월드 ID는 검증된 자격 증명 표준과 호환되며, 개인의 다양한 사회적 상호작용(소울 바운드 토큰, 교차 소셜 데이터 등)을 표현할 수 있습니다.

지금까지 140만 명 이상의 사람들이 참여했습니다. 이 프로젝트가 성공하면 World ID는 공공재로서 누구나 이용할 수 있는 인터넷에서 가장 큰 실제 인간 네트워크가 될 것입니다.
ㅤ
ㅤ
신원 증명의 필요성

고급 생성 AI는 온라인 공정성, 사회적 상호 작용 및 신뢰를 개선하기 위해 (1) 시빌 공격으로부터 보호하기 위해 각 개인이 만들 수 있는 계정 수를 제한하는 두 가지 메커니즘의 필요성을 도입합니다. 이는 특히 디지털 및 분산형 거버넌스[4]를 활성화하고 보편적 기본소득(UBI), 사회복지 및 보조금과 같은 희소 자원을 공정하게 분배하는 것과 관련이 있으며, (2) 사람이 만든 콘텐츠와 거의 구별할 수 없는 AI 생성 콘텐츠가 대규모로 허위 정보를 속이거나 유포하는 것을 방지하는 것과도 관련이 있습니다.

만병통치약은 없지만[5], 신원 증명을 통해 두 가지 문제를 모두 해결할 수 있습니다.

PoP를 통한 계정 인증은 자연스러운 속도 제한[6]을 제공하므로 시빌 공격을 근본적으로 제거할 수 있습니다. 물론 사람들이 자신의 자격 증명을 사용하여 봇을 인증할 수도 있지만 그 규모는 매우 제한적입니다. 예를 들어, 1,000개의 봇 계정을 만들려면 봇의 진위를 지속적으로 인증해줄 사람 사용자 1,000명을 찾아야 합니다.

사람이 만든 콘텐츠와 AI가 만든 콘텐츠를 구분하는 것은 더 어렵습니다. AI가 생성하거나 공동 집필한 콘텐츠가 반드시 바람직하지 않은 것은 아니며, 오히려 그 반대일 수 있다는 점에 유의하는 것이 중요합니다. 다만 신뢰할 수 있는 방식으로 대규모로 허위 정보를 퍼뜨리는 데 사용될 때만 문제가 될 수 있습니다.

근본적으로 신원 조회는 더 이상 효과적인 차별 요소가 될 수 없습니다. PoP는 사용자가 인증된 계정 또는 검증된 콘텐츠와의 상호작용만을 선택할 수 있도록 지원합니다. 사용자가 소셜 미디어에서 다양한 콘텐츠 유형(예: '팔로잉' 및 'For You' 페이지)을 필터링할 수 있는 것과 유사하게, PoP는 사람으로 확인된 콘텐츠 또는 계정을 쉽게 필터링할 수 있게 해줍니다. 또한, AI가 생성한 정보인지 여부에 관계없이 신뢰할 수 없는 정보의 확산을 막는 평판 시스템을 구현할 수 있습니다. 이는 또한 개인이 봇을 인증하지 못하도록 하는 데 도움이 될 수 있습니다.

궁극적으로 PoP는 디지털 신원을 위한 기본 구성 요소로 볼 수 있습니다. 이를 시각화하는 한 가지 방법은 그림 2에 요약되어 있습니다. 첫 번째 계층인 개인 증명은 개인의 인간성과 고유성을 확립합니다. 두 번째 계층인 디지털 인증은 신원의 합법적인 소유자만 사용할 수 있도록 보장합니다. 이 계층은 "당신은 당신이 말한 사람입니까?"라는 질문에 답합니다. 마지막으로 세 번째 계층인 디지털 신원 확인은 "당신은 누구입니까?"라는 질문에 답하는 데 중점을 둡니다.

공격을 완화하려면 신원 증명과 디지털 인증을 통한 견고한 기반이 중요합니다. World ID는 처음 두 계층부터 시작하여 공공 인프라로서 디지털 신원을 위한 비허가형 프로토콜을 구축하고자 합니다.
ㅤ
ㅤ
사람임을 증명하는 세상

진정성 있고 고유한 인간 정체성의 글로벌 네트워크를 구축하면 사회의 다양한 측면을 개선할 수 있는 수많은 가능성이 생깁니다.

인공지능 시대의 시스템으로 창출된 부의 재분배: 인공지능이 발전함에 따라 UBI를 통해 액세스 권한과 창출된 가치의 일부를 공정하게 분배하는 것은 경제력 집중에 대응하는 데 점점 더 중요한 역할을 할 것입니다[7]. 각 개인이 한 번만 등록하도록 하고 공평한 분배를 보장하기 위해서는 글로벌 신원 증명 프로토콜이 필요합니다.

고급 스팸 필터: 본인 인증은 사람이 확인한 메시지만 처리함으로써 고급 스팸 필터링의 기반을 마련하고, 트위터 타임라인을 깔끔하게 정리하며, 캡차나 브라우저 DDoS 보호의 필요성을 없애 원활한 사용자 경험을 제공합니다.

평판 시스템: 신원 증명을 통해 여러 계정의 생성을 효과적으로 방지하여 평판 점수를 생성할 수 있습니다. 이를 통해 마찰 없는 글로벌 무담보 대출이 가능해져 기존 금융 시스템을 이용할 수 없는 사람들에게 특히 유용합니다.

거버넌스: 디지털 집단 의사 결정에는 상당한 어려움이 따릅니다. 웹3.0 프로젝트는 종종 토큰 기반 거버넌스(1인 1토큰, 1인 1투표)에 의존하는데, 이는 일부 개인을 배제하고 더 큰 경제력을 가진 사람들에게 불균형적으로 유리할 수 있습니다. 현재 옵티미즘의 시민의 집과 같이 실제 민주적 투표를 도입한 프로젝트는 소수에 불과합니다. 신뢰할 수 있는 위조 방지 메커니즘은 '1인 1표'와 같은 민주적 거버넌스 모델의 구현을 단순화하고, 이차 투표와 같은 고유한 인간 정체성에 기반한 새로운 구조를 위한 설계 공간을 확장합니다. 월드코인 프로젝트는 신원 증명을 활용하여 프로토콜이 처음으로 사람들에 의해 진정으로 관리될 수 있도록 합니다. 이를 통해 프로젝트는 모든 사람에게 혜택을 제공합니다. 직접 투표나 대표 선출과 같은 정확한 거버넌스 구조에 대해서는 면밀한 검토가 필요하지만, 이는 진정한 탈중앙화를 가능하게 하는 패러다임의 전환을 의미합니다. 특히 중요한 또 다른 응용 분야는 AI입니다. AI의 혜택이 소수의 특권층에 국한되지 않고 모든 사람에게 공유되도록 하려면 거버넌스에 포괄적으로 참여할 수 있도록 하는 것이 필수적입니다.

인증: 생체 인식 기반 인증은 피해를 입은 개인에게 심각한 결과를 초래할 수 있는 디지털 신원 도용 문제를 해결하는 데 도움이 될 수 있습니다. 2021년에만 데이터 유출로 인해 3억 명의 사람들이 피해를 입었습니다.

희소한 자원의 공평한 분배: 보조금과 사회 복지 등 현대 사회의 중요한 요소는 신원 증명을 통해 더욱 공평하게 이루어질 수 있습니다. 이는 특히 개발도상국에서 사회 복지 프로그램이 자원 편취 문제, 즉 정당한 몫 이상의 자원을 얻기 위해 가짜 신원을 사용하는 문제에 직면하는 경우 더욱 중요합니다. 2021년 인도는 사기를 줄이는 생체 인식 기반 시스템을 구현하여 보조금 프로그램에서 50억 달러를 절약했습니다. 탈중앙화된 신원 증명 프로토콜은 전 세계의 모든 프로젝트나 조직에 유사한 혜택을 제공하여 사용자와 더 큰 가치를 공유하고 인센티브를 조정할 수 있습니다.

돌이켜보면 인터넷에서 개인 정보를 보호하는 간단한 인증 수단이 없던 시절이 있었다는 사실을 믿기 어려울 것입니다. 이 블로그 게시물에서는 본인 증명 및 디지털 인증을 위한 다양한 방법을 살펴봄으로써 맞춤형 생체 인식 장치의 필요성에 대해 간략하게 설명합니다.
ㅤ
ㅤ
신원 증명 요건

PoP 메커니즘에 대한 보안 요구사항은 특정 애플리케이션과 잠재적인 사기 위험에 따라 달라질 수 있습니다. 또한, 일부 애플리케이션은 사용자가 서로 다른 PoP 자격 증명을 사용하여 여러 번 등록하는 것에 익숙하다면 등록을 위해 여러 PoP 메커니즘을 허용하여 더 광범위한 적용 범위를 허용할 수 있습니다. 그러나 보조금, 글로벌 및 공평한 에어드롭, UBI와 같이 이해관계가 큰 사용 사례의 경우, 다중 등록을 방지할 수 있는 매우 안전하고 포괄적인 단일 메커니즘이 필요합니다. 상황에 따라 투표 및 평판 점수에 더 엄격한 보안 조치가 필요할 수도 있습니다.

글로벌 규모로 PoP를 구축하기 위한 접근 방식을 평가할 때 몇 가지 중요한 고려 사항이 있습니다:

프라이버시. 무엇보다도 개인정보 보호는 편리함이라는 명목으로 타협해서는 안 됩니다. 모든 상호작용은 기본적으로 익명으로 이루어져야 하며, 서로 공개적으로 연결되지 않은 여러 플랫폼에서 여러 프로필을 지원해야 합니다.

자기 주권. 사용자는 항상 자신의 계정, 데이터 및 공유 방법을 제어할 수 있어야 합니다.

사기 방지. 메커니즘은 중복 등록을 방지할 수 있어야 합니다. 중복 등록을 허용하는 신뢰할 수 없는 메커니즘은 가능한 애플리케이션의 설계 공간을 심각하게 제한하여 민주적 거버넌스, 평판 시스템, 희소 자원의 공정한 분배(예: UBI, 정부 보조금 등)와 같은 사용 사례에 대한 신뢰를 제거할 수 있습니다.

포용성 및 확장성. 글로벌 PoP는 모든 사람을 포함해야 합니다. 즉, 메커니즘이 수십억 명의 사람들을 구분할 수 있어야 합니다. 글로벌 규모로 실행 가능한 경로가 있어야 하며 국적, 인종, 성별 또는 경제적 능력에 관계없이 누구나 참여할 수 있어야 합니다.

탈중앙화. PoP는 복원력과 무결성을 극대화하기 위해 단일 주체에 의해 통제되어서는 안 되는 기본 인프라입니다.

연속성. 일단 본인 증명이 부여된 후에는 판매하거나 도용하기 어렵고 복구하기 쉽도록 하는 것이 중요합니다. 복구의 필요성은 자명하지만, 복구와 인증은 모두 PoP 자격 증명의 판매를 막고 정당한 소유자만 인증 목적으로 사용할 수 있도록 하는 데 도움이 됩니다. 이러한 예방 조치에도 불구하고 이러한 조치들이 담합이나 기타 1인 1증명 원칙을 우회하려는 시도로부터 완전히 보호하지는 못한다는 점을 인식하는 것이 중요합니다. 이러한 문제를 해결하기 위해서는 메커니즘 설계와 사회적 관계의 귀속에 대한 혁신적인 아이디어가 필요합니다.
ㅤ
ㅤ
잠재적 인격 증명 메커니즘

글로벌 PoP를 구축하는 메커니즘에는 여러 가지가 있습니다. 다음 표는 위에서 설명한 요구 사항을 해결하는 데 있어 다양한 접근 방식과 그 효과를 비교한 것입니다.

온라인 계정
대규모로 PoP를 구축하는 가장 간단한 방법은 이메일, 전화번호, 소셜 미디어와 같은 기존 계정을 사용하는 것입니다. 하지만 이 방법은 한 사람이 각 플랫폼에 여러 개의 계정을 가질 수 있기 때문에 실패합니다. 또한 봇을 방지하기 위해 일반적으로 사용되는 유명한 보안 문자(CAPTCHA)는 누구나 여러 개의 보안 문자를 통과할 수 있기 때문에 효과적이지 않습니다. 거의 모든 주요 제공업체가 '신호등에 라벨을 붙이는 방식'에서 기본적으로 내부 평판 시스템에 의존하는 소위 자동 보안 문자(예: 리캡차 v3)로 전환한 가장 최근의 구현도 한계가 있습니다.

결론적으로, 계정 활동 분석과 같은 기존 온라인 계정의 중복을 제거하는(즉, 개인이 한 번만 등록할 수 있도록 하는) 현재의 방법으로는 상당한 인센티브를 견디는 데 필요한 사기 저항성이 부족합니다. 이는 잘 확립된 금융 서비스 운영까지 노리는 대규모 공격을 통해 입증되었습니다.

공식 신원 확인(KYC)
온라인 서비스는 고객알기제도(KYC) 규정을 준수하기 위해 신분증(보통 여권이나 운전면허증)을 요청하는 경우가 많습니다. 이론상으로는 전 세계적으로 개인을 식별하는 데 이 방법을 사용할 수 있지만, 실제로는 여러 가지 이유로 실패합니다.

전 세계 인구의 50% 이상이 디지털 방식으로 인증할 수 있는 신분증을 가지고 있지 않기 때문에 KYC 서비스는 전 세계적으로 포괄적이지 않습니다. 또한 개인정보를 보호하는 방식으로 KYC 검증을 구축하는 것도 어렵습니다. KYC 제공업체를 사용할 때는 민감한 데이터를 제공업체와 공유해야 합니다. 이 문제는 zkKYC 및 NFC 판독 가능한 ID를 사용하여 해결할 수 있습니다. 관련 데이터는 사용자의 휴대폰으로 읽을 수 있으며 발급 기관에서 서명하므로 로컬에서 확인할 수 있습니다. 개인 정보를 공개하지 않고 사용자 ID 정보를 기반으로 해시를 제출하여 고유한 인간성을 증명할 수 있습니다. 이 접근 방식의 가장 큰 단점은 이러한 NFC 판독 가능 ID의 발생률이 일반 ID에 비해 상당히 낮다는 것입니다.

특히 신흥 시장과 같이 NFC 인식이 가능한 신분증을 사용할 수 없는 곳에서는 신분증 확인이 사기에 취약할 수 있습니다. 신분증은 주 정부나 중앙 정부에서 발급하며, 검증이나 책임을 위한 글로벌 시스템이 없습니다. 많은 신원 확인 서비스(예: KYC 제공업체)는 오랜 기간 축적된 신용 조사 기관의 데이터에 의존하기 때문에 발급 기관(예: 정부)에 진위 여부를 확인할 수 있는 수단이 없고, API를 사용할 수 없는 경우가 많기 때문에 오래되었습니다. 가짜 신분증은 물론 이를 생성하기 위한 실제 데이터도 암시장에서 쉽게 구할 수 있습니다. 또한 중앙집권적 특성으로 인해 발급 및 검증 기관 수준의 부패도 제거할 수 없습니다.

제공된 데이터의 진위 여부를 확인할 수 있다고 하더라도 다양한 유형의 신원 문서 간에 글로벌 고유성을 확립하는 것은 쉬운 일이 아니며, 동일인의 문서 간 퍼지 매칭은 오류가 발생할 가능성이 높습니다. 이는 주소와 같은 개인 정보의 변화와 개인 정보에 담긴 낮은 엔트로피로 인해 발생합니다. 시간이 지남에 따라 새로운 문서 번호와 (아마도) 개인 정보가 포함된 새 신분증을 발급받는 경우에도 비슷한 문제가 발생합니다. 이러한 문제로 인해 사용자를 잘못 수락하거나 거부하는 오류율이 높아집니다. 궁극적으로 현재 인프라를 고려할 때, 포용성과 사기 방지 기능이 부족하기 때문에 KYC 인증을 통해 글로벌 PoP를 부트스트랩할 수 있는 방법은 없습니다.

신뢰의 웹
'신뢰의 웹'의 기본 개념은 탈중앙화된 방식으로 신원 주장을 검증하는 것입니다.

예를 들어, PGP에서 사용하는 고전적인 신뢰 웹에서는 사용자가 직접 "키 서명 당사자"를 만나 신원 문서를 통해 키가 소유자로 추정되는 사람에 의해 제어된다는 것을 증명합니다. 최근에는 인간 증명과 같은 프로젝트에서 웹3.0을 위한 신뢰 웹을 구축하고 있습니다. 이러한 프로젝트에서는 얼굴 사진과 비디오 채팅을 사용하여 대면 요구 사항을 피하고 탈중앙화된 검증을 수행할 수 있습니다.

그러나 이러한 시스템은 개인에게 크게 의존하기 때문에 사람의 실수에 취약하고 시빌 공격에 취약합니다. 사용자가 인증에 돈을 걸거나 새로운 사용자를 인증할 때마다 돈을 걸도록 요구하면 보안을 강화할 수 있습니다. 그러나 이렇게 하면 사용자가 실수로 인해 불이익을 받게 되어 다른 사용자를 인증할 동기가 사라지기 때문에 마찰이 증가합니다. 또한, 모든 사람이 자금을 잠글 의향이나 능력이 없을 수 있으므로 포용성이 떨어집니다. 또한 프라이버시와 관련된 우려(예: 얼굴 이미지 또는 동영상 게시)와 딥페이크 등을 이용한 사기에 대한 취약성 때문에 이러한 메커니즘은 위에서 언급한 설계 요건 중 일부를 충족하지 못합니다.

소셜 그래프 분석
소셜 그래프 분석의 개념은 서로 다른 사람들 간의 관계(또는 관계의 부재)에 대한 정보를 사용하여 어떤 사용자가 진짜인지 추론하는 것입니다.

예를 들어, 관계 네트워크를 통해 친구 수가 5명 이상인 사용자가 실제 사용자일 가능성이 높다고 추론할 수 있습니다. 물론 이는 지나치게 단순화된 추론 규칙이며, 이 분야의 프로젝트와 개념인 아이겐트러스트, 브라이트 ID, 소울바운드 토큰(SBT)[8]은 더 정교한 규칙을 제안합니다. SBT는 인격 증명 메커니즘으로 설계된 것이 아니라 고유한 인간성이 아닌 관계를 증명해야 하는 애플리케이션에 보완적인 역할을 한다는 점에 유의하세요. 그러나 때때로 이러한 맥락에서 언급되는 경우가 있으므로 논의할 가치가 있습니다.

이러한 모든 메커니즘의 근간에는 한 개인이 충분히 다양한 관계로 다른 프로필을 생성하기 어려운 경우 사회적 관계가 고유한 인간 식별자가 된다는 관찰이 있습니다. 추가 관계를 생성하기 어려운 경우, 각 사용자는 풍부한 사회적 관계를 가진 단일 프로필만 유지할 수 있으며, 이 프로필이 사용자의 PoP 역할을 할 수 있습니다. 이 접근 방식의 한 가지 주요 과제는 특히 고용주나 대학과 같은 기관에 의존할 경우 필요한 관계를 글로벌 규모로 구축하는 것이 느리다는 것입니다. 특히 이러한 시스템의 가치가 아직 미미한 초기에는 기관의 참여를 설득하는 것이 얼마나 쉬운 일인지 선험적으로 불분명합니다. 또한, 가까운 미래에 인공지능(여러 계정에 대해 여러 개의 '실제' 자격 증명을 획득하는 인간의 도움을 받을 수도 있음)이 이러한 프로필을 대규모로 구축할 수 있게 될 것이라는 점은 피할 수 없어 보입니다. 궁극적으로 이러한 접근 방식은 고유한 인간이라는 개념을 완전히 포기하고 일부 사람들이 시스템에 개별 고유 ID로 표시되는 여러 개의 계정을 소유할 수 있다는 가능성을 받아들여야 합니다.

따라서 소셜 그래프 분석 접근 방식은 많은 애플리케이션에 유용하지만, 위에서 설명한 PoP의 사기 방지 요건도 충족하지 못합니다.

생체 인식
위에서 설명한 각 시스템은 글로벌 규모에서 고유성을 효과적으로 검증하지 못합니다. 신뢰할 수 없는 환경에서 대규모로 사람들을 확실하게 구별하는 것을 포함하여 모든 PoP 요구 사항을 충족하는 유일한 메커니즘은 생체 인식입니다. 실제로 인도 정부는 사회복지 프로그램의 중복 등록을 제거하기 위해 Aadhaar 시스템을 구현하여 연간 50억 달러의 사기 비용을 절감함으로써 생체 인식의 효과를 입증했습니다. 중요한 점은 직관적이지 않게 들릴 수 있지만, 생체 인식 시스템은 이미지를 저장할 필요가 없기 때문에 개인 정보를 매우 안전하게 보호하는 방식으로 구현할 수 있다는 것입니다. 심지어 인증 시스템을 탈중앙화할 수도 있습니다.

생체 인식 방식

시스템마다 요구 사항이 다릅니다. FaceID를 통해 사용자를 휴대폰의 정당한 소유자로 인증하는 것은 수십억 명의 사용자를 고유한 사용자로 인증하는 것과는 매우 다릅니다. 요구 사항의 주요 차이점은 정확성과 사기 방지와 관련이 있습니다. FaceID에서는 생체 인식이 기본적으로 비밀번호로 사용되며, 휴대폰은 저장된 신원 템플릿과 1:1 비교를 한 번만 수행하여 사용자가 본인인지 여부를 확인합니다. 글로벌 고유성을 확립하는 것은 훨씬 더 어렵습니다. 생체 인식을 이전에 등록된 수십억 명의 사용자와 1:N 비교를 통해 (최종적으로) 비교해야 합니다. 시스템이 충분히 정확하지 않으면 점점 더 많은 사용자가 잘못 거부될 것입니다.

오류율과 시스템의 포괄성은 사용되는 생체 인식 기능의 통계적 특성에 따라 크게 영향을 받습니다. 홍채 생체 인식은 다른 생체 인식 방식보다 성능이 뛰어나며 이미 1.2 x 10^-14 이상의 오탐률을 달성했습니다.
(1조 분의 1 오인식[9])의 정확도를 20년 전[10]에 달성한 바 있으며, 이는 최근 AI의 발전 없이도 달성할 수 있었던 수치입니다. 이는 현재의 얼굴 인식 기술보다 몇 배 더 정확합니다. 또한 홍채의 구조는 시간이 지남에 따라 놀라운 안정성을 보여줍니다[11].

또한 홍채는 수정하기 어렵습니다. 지문을 자르는 방식으로 지문을 변조하는 것은 쉽지만, 수작업으로 인해 융기와 골짜기가 마모될 수 있기 때문에 지문을 정확하게 이미징하는 것은 어려울 수 있습니다. 또한 10개의 지문을 모두 중복 제거에 사용하거나 서로 다른 생체 인식 방식을 결합하는 것은 기존의 여러 신원을 결합하여 새로운 신원을 생성하는 조합 공격(예: 서로 다른 사람의 지문을 결합하는 방식)에 취약합니다. DNA 시퀀싱은 이론적으로는 충분히 높은 정확도를 제공할 수 있지만, DNA는 사용자에 대한 많은 추가 개인 정보를 노출합니다(적어도 시퀀싱을 실행하는 당사자에게는). 또한 비용 측면에서 확장하기가 어렵고 신뢰할 수 있는 생체 인식 조치를 구현하는 것도 어렵습니다. 얼굴 생체 인식은 DNA 시퀀싱에 비해 훨씬 더 나은 생체 인식 기능을 제공합니다. 하지만 홍채 생체인식에 비해 얼굴 인식의 정확도는 훨씬 낮습니다. 따라서 등록 사용자 수가 증가함에 따라 잘못된 충돌이 늘어날 수 있습니다. 최적의 조건에서도 수십억 명에 달하는 전 세계 규모에서는 합법적인 신규 사용자 중 두 자릿수 비율이 거부되어 시스템의 포용성이 저하될 수 있습니다. 하지만 홍채 생체인식도 완벽하지 않기 때문에 항상 약간의 오류율이 존재합니다. 전 인류를 대상으로 단 한 명도 거부하지 않는 시스템을 구축할 수 있을지는 아직 연구 중인 문제이지만, 이를 달성할 수 있다고 믿을 만한 이유가 있습니다.

인증 하드웨어

생체 인증 자체의 측면에서 가장 빠르고 확장 가능한 경로는 스마트폰을 사용하는 것입니다. 하지만 이 접근 방식에는 두 가지 주요 과제가 있습니다. 첫째, 스마트폰 카메라는 홍채의 해상도가 낮아 정확도가 떨어지기 때문에 홍채 생체인증에 적합하지 않습니다. 또한 가시광선 영역의 이미징은 홍채를 덮고 있는 렌즈에 반사광이 발생할 수 있으며, 갈색 눈(인구의 대부분)의 낮은 반사율로 인해 노이즈가 발생할 수 있습니다.

둘째, 달성 가능한 보안 기준이 매우 낮습니다. PoP에서 중요한 부분은 신원 확인(예: "이 사람이 자신이 주장하는 사람인가?")이 아니라 누군가가 아직 세트의 일부가 아님을 증명하는 것(예: "이 사람이 이미 등록되어 있는가?")입니다. PoP 시스템에 대한 공격에 성공하기 위해 공격자가 누군가의 휴대폰 잠금을 해제하는 데 필요한 까다로운 요건인 기존 개인을 사칭할 필요는 없습니다. 공격자는 지금까지 등록한 모든 사람과 다르게 보이기만 하면 됩니다. 휴대폰에는 다중 각도 및 다중 스펙트럼 카메라와 능동형 조명이 없어 소위 프레젠테이션 공격(즉, 스푸핑 시도)을 높은 신뢰도로 탐지할 수 없습니다. 삼성의 홍채 인식을 스푸핑하는 효과적인 방법을 보여주는 널리 조회된 동영상은 성능이 뛰어난 하드웨어가 없을 때 이러한 공격이 얼마나 간단한지를 보여줍니다.

또한 에뮬레이터가 아닌 합법적인 디바이스에서 등록이 이루어졌는지 확인하기 위해 신뢰할 수 있는 실행 환경이 구축되어야 합니다. 일부 스마트폰에는 이러한 작업을 수행하기 위한 전용 하드웨어(예: iPhone의 보안 인클레이브 또는 Pixel의 타이탄 M 칩)가 포함되어 있지만, 전 세계 대부분의 스마트폰에는 실행 환경의 무결성을 검증하는 데 필요한 하드웨어가 없습니다. 이러한 보안 기능이 없으면 기본적으로 보안을 제공할 수 없으며, 유능한 공격자라면 이미지 캡처와 등록 요청을 스푸핑하는 것이 간단합니다. 이렇게 하면 누구나 임의의 수의 합성 등록을 생성할 수 있습니다. 따라서 맞춤형 하드웨어가 필요합니다.

복구 및 인증

생체 인식은 초기 등록 프로세스(중복 제거 단계) 외에도 연속성을 가능하게 할 수 있습니다. 탈중앙화된 시스템 내에서도 개인이 생체 인식을 통해 손쉽게 PoP에 다시 액세스할 수 있도록 복구 기능을 설계할 수 있습니다. 또한, 생체 인식은 일상적인 상황에서 자주 접하는 개념인 소유권 증명 역할을 할 수 있습니다. 누군가의 신원을 확인할 때 심사관은 신분증의 진위 여부를 검사할 뿐만 아니라 신분증을 제시하는 사람이 신분증에 있는 사진과 일치하는지 확인합니다. Face ID와 유사하게 사용자의 휴대폰에서 로컬로 수행되는 안면 인식을 사용하여 사용자를 인증하고 PoP 자격 증명의 정당한 소유자만 인증에 사용할 수 있도록 할 수 있습니다. 사용자 디바이스에서 로컬 영지식 증명을 구현하여 사용자 지정 생체 인식 디바이스의 서명된 이미지 데이터를 사용하여 신뢰할 수 있는 하드웨어의 보안을 사용자 휴대폰으로 확장함으로써 안전하고 원활한 소유권 증명을 달성할 수 있습니다.
ㅤ
ㅤ
개인 신원 증명을 현실로 만들기

이 블로그 게시물에 제시된 근거에 따라, 월드코인 프로젝트는 홍채 생체인식을 사용하는 맞춤형 하드웨어 장치를 기반으로 한 본인 증명 메커니즘을 구축했으며, 이는 포용성(즉, 위치나 배경에 관계없이 누구나 가입할 수 있음)과 사기 저항성을 보장하고 모든 참가자에게 공정성을 도모하는 유일한 접근 방식이기 때문입니다. 하드웨어 디바이스는 AI가 안전하게 보호하는 신원 증명 자격 증명을 발급합니다. 크리덴셜 발급 시 이미지를 저장할 필요가 없으므로 개인정보가 보호됩니다. 이 프로토콜은 영지식 증명을 사용하기 때문에 자격 증명을 사용해도 개인에 대한 정보가 노출되지 않습니다. 자세한 내용은 전용 개인정보 보호 블로그 게시물에서 확인할 수 있습니다. 향후 커뮤니티의 개발을 통해 사용자가 자신을 인증하여 본인만 자격 증명을 사용할 수 있도록 함으로써 연속성을 확보할 수 있습니다. 또한, 암기할 필요 없이 생체 인식에만 의존하는 복구 프로세스를 사용하면 자격 증명을 분실할 수 없게 만들 수 있습니다.

신원 증명 자격 증명은 개인이 자기 주권적인 방식으로 자신에 대한 주장(즉, 누구나 발급할 수 있는 자격 증명)을 증명할 수 있는 개방형 무허가 신원 프로토콜인 월드 ID 프로토콜의 토대를 형성합니다. 이 프로토콜은 또한 검증된 자격 증명을 지원할 계획이며, 그 종속성은 완전히 탈중앙화될 것입니다.

또한, 월드코인 프로젝트는 프로토콜을 위한 모바일 클라이언트의 초기 구현과 독립적인 운영자를 통한 배포 메커니즘을 제안합니다. 이 두 가지 측면은 다음 블로그 게시물에서 자세히 설명할 예정입니다.

월드코인은 신원 증명을 활용하여 국적이나 배경에 관계없이 개인에게 소유권을 부여하고 지구상의 모든 사람을 환영하고 혜택을 주는 미래로의 전환을 가속화하는 공공 유틸리티로서 글로벌 신원 및 금융 네트워크를 시작하고 있습니다. 신원 계층은 인간이 온라인에서 다른 인간과 첨단 AI를 구별할 수 있게 해주고, 글로벌 디지털 신원을 위한 기반을 마련하여 개인에게 권한을 부여하고 조직을 활성화할 수 있게 해줍니다. 금융 레이어와 결합하여 부를 분배하고 AI가 자금을 조달하는 글로벌 비국가 UBI를 위한 인프라를 구축할 수 있습니다. 현재 진행 상황을 고려할 때 후자는 조만간 필요할 수 있으며, 필요할 때 인프라를 갖추는 것이 중요합니다.

현재까지 140만 명이 넘는 사람들이 프로토콜의 첫 번째 소규모 단계에 참여했습니다. 이 프로젝트는 곧 다음 단계로 전환될 예정입니다.
----
ㅤ
ㅤ
"AI 십자군 샘 올트만의 모순"( https://www.wsj.com/articles/chatgpt-sam-altman-artificial-intelligence-openai-b0e1c8c9 ) 중에서 인용.

----
올트만의 절친한 친구이자 이 비영리 단체의 초기 기부자인 억만장자 벤처 캐피털리스트 피터 틸에 따르면, 알트먼은 AGI의 가능성을 보고 비슷한 기술이 우리 우주를 창조했다는 생각을 하게 되었다고 합니다. 그는 인간과 기계가 언젠가는 합쳐질 것이라는 생각을 오랫동안 지지해 왔습니다.

(중략)

올트만은 Y콤비네이터를 운영하면서 2014년 구글이 인수한 딥마인드와 같은 대형 연구소가 잠재적으로 위험한 AI 기술을 대중의 시선 밖에서 개발하고 있다는 우려를 키우기 시작했습니다. 머스크도 강력한 AI 기계가 통제하는 디스토피아적 세상에 대해 비슷한 우려를 표명했습니다.

(중략)

2018년 여름 아이다호주 선밸리에서 열린 앨런 앤 코의 연례 컨퍼런스에서 우연히 사티아 나델라 마이크로소프트 CEO와 마주쳤고, 그에게 OpenAI에 대한 프레젠테이션을 했습니다. 나델라는 흥미를 느꼈다고 말했습니다. 그해 겨울부터 대화가 시작되었습니다.

올트만은 "그 후 팀에 돌아와서 이 회사만이 유일한 파트너라고 생각했던 기억이 납니다."라고 말합니다. "그들은 안전과 인공 일반 지능을 확보하고 있습니다. 그들은 자본도 있고, 컴퓨팅을 실행할 능력도 있습니다."  

올트만은 협상이 진행되는 동안 직원들과 계약 내용을 공유했으며, 이 파트너십이 기업 외부에서 인공 지능을 개발하겠다는 OpenAI의 초기 약속과 모순된다는 우려를 완화하기 위해 모든 직원들과 업무 시간을 가졌다고 전직 직원들은 말했다.

일부 직원들은 여전히 이 거래를 파우스트적 거래로 보고 있었습니다.

OpenAI의 수석 안전 연구원인 다리오 아모데이(현 Anthropic 창립자)와 그의 부하 직원들은 이 거래로 인해 마이크로소프트가 충분한 안전 테스트를 거치기 전에 강력한 OpenAI 기술을 사용한 제품을 판매할 수 있게 될 것을 우려했다고 전직 직원들은 말했습니다. 이들은 OpenAI의 기술이 세계 최대 소프트웨어 회사 중 하나와 함께 대규모로 출시하기에는 아직 준비가 덜 되었다고 생각했으며, 예측할 수 없는 방식으로 오작동하거나 악용되어 해를 끼칠 수 있다고 우려했습니다.  

(중략)

나델라는 최근 인터뷰에서 "절벽에서 뛰어내려 착지하기를 바라며 뛰어내려야 합니다."라고 말했습니다. "플랫폼 전환은 이런 식으로 일어납니다."
머신러닝 회사를 공동 설립한 뉴욕대학교의 심리학 및 신경과학 명예교수인 게리 마커스는 "이번 거래는 비영리 단체 지위를 확보하기 위한 원칙을 완전히 훼손하는 것"이라고 말했습니다.

(중략)

아모데이는 몇 달 후 다른 직원들과 함께 회사를 떠나 앤트로픽이라는 라이벌 AI 연구소를 설립했습니다. 알트먼은 "그들은 안전한 AGI에 가장 잘 도달하는 방법에 대해 우리와는 다른 의견을 가지고 있었습니다."라고 말했습니다.

이후 앤트로픽은 올해 구글로부터 3억 달러 이상을 투자받았으며, 3월에는 개발자들이 API를 통해 사용할 수 있는 자체 AI 챗봇 '클로드'를 출시했습니다.

(중략)

올트만의 가까운 동료들은 그가 OpenAI의 우선순위 사이에서 균형을 잡는 능력이 뛰어나다고 칭찬합니다. 그는 "잘못된 이상주의의 실라(Scylla of misplaced idealism)"와 "근시적 야망의 차르비디스(Charybdis of myopic ambition)" 사이에서 그 누구보다 잘 헤쳐나간다고 피터 틸은 말합니다.

(중략)

올트만은 "이 문제를 바로잡는 방법은 사람들이 이 시스템에 참여하고, 이 시스템을 탐색하고, 연구하고, 안전하게 만드는 방법을 배우는 것입니다."라고 말합니다.

문서에 따르면 마이크로소프트는 초기 투자금을 상환한 후 수익 상한선까지 OpenAI 수익의 49%를 가져가게 되며, 이는 이전 계약에 따른 21%에서 증가한 수치입니다. 나머지는 비영리 모기업인 OpenAI Inc.가 가져가게 됩니다.

올트만의 다른 프로젝트에는 지구상의 모든 사람에게 암호화폐를 제공하고자 공동 설립한 월드코인이 포함됩니다.

그는 최근 몇 년 동안 거의 모든 유동 자산을 두 회사에 투자했습니다. 그는 핵융합을 통해 탄소 배출이 없는 에너지를 만들고자 하는 헬리온 에너지에 3억 7,500만 달러를 투자했으며, "실제 데모에서 합법적인 순이익을 창출하는 데 근접했다"고 알트먼은 말합니다.

그는 또한 "세포 재프로그래밍, 플라즈마에서 영감을 얻은 치료법 및 자가포식" 또는 오래되고 손상된 세포 부품의 재사용을 통해 인간 수명을 10년 연장하는 것을 목표로 하는 Retro에 1억 8천만 달러를 투자했다고 회사 측은 밝혔습니다.

그는 이러한 문제가 도덕적으로 AI보다 훨씬 쉽다는 점에 주목했습니다. "핵융합을 만들면 모든 것이 긍정적입니다. 그냥 좋은 일입니다."라고 그는 말했습니다. "AI를 만든다면 잠재적으로 매우 좋을 수도 있고, 잠재적으로 매우 끔찍할 수도 있습니다."
----
ㅤ
ㅤ
* 피터 틸은 "장기주의"와도 관련이 있는 인물입니다. https://www.currentaffairs.org/2021/07/the-dangerous-ideas-of-longtermism-and-existential-risk 페이팔 창업과 제로투원( https://www.aladin.co.kr/shop/wproduct.aspx?ItemId=280602221 )으로도 유명하죠.

* 최근 Center for AI and Digital Policy( https://www.caidp.org ) 는 OpenAI를 FTC(연방거래위원회)에 제소했다고 합니다.
FTC should stop OpenAI from launching new GPT models, says AI policy group https://www.theverge.com/2023/3/30/23662101/ftc-openai-investigation-request-caidp-gpt-text-generation-bias

FTC should stop OpenAI from launching new GPT models, says AI policy group

출처 최승준님

https://www.facebook.com/1099336960/posts/pfbid0hncotumjD36XtpiH6f2KY3WeMdDgmMmpzsQMJ2rjapuQkKGEQP2BgXabaq9mMsEhl/?mibextid=Nif5oz