Web2’s Lesson for AI: Decentralize to Protect Humanity
하지만 말해야겠어요: 인공지능 산업에서 경험, 돈 및 영향력을 가진 사람들로부터 AI 연구를 6개월간 중단하거나 군사적으로 강제 중단하라는 최근의 경고주의적 요구는 우리가 피하고자 하는 인류에게 같은 파괴적인 결과를 조장할 몇 가지 근본적으로 결함이 있는 생각에 기초하고 있습니다. 미국 정부가 인공지능 위협을 관리하는 데 필요한 종류의 암호화와 네트워크 조정 기술을 개발하는 오픈 소스 혁신 분야인 암호 산업에 대한 단속을 동시에 조정하고 있다는 것은 이 순간을 우리 모두에게 특히 위험한 순간으로 만듭니다.
이 최후의 심판자들은 컴퓨터 과학자들이지 경제사를 공부하는 학생들이 아닙니다. 문제는 그 자체로 통제 불능의 AI가 진화하여 우리 모두를 죽일 수 있다는 것이 아닙니다. (우리 모두는 그것을 알고 있습니다.). 수십 년 동안 할리우드는 우리에게 그것이 그렇다는 것을 가르쳐 왔습니다.) 아니요, 과제는 AI의 경제학이 본질적으로 그 끔찍한 결과를 조장하지 않도록 하는 것입니다. 우리는 AI 기계의 입출력을 집중적으로 제어하는 것이 공동의 이익을 위해 함께 행동할 수 있는 능력을 방해하는 것을 방지해야 합니다. 우리는 이러한 디스토피아적 악몽에 대한 컴퓨터 해독제를 만드는 집단적이고 협력적인 소프트웨어 개발이 필요합니다.
여러분은 돈과 우리의 관계를 재정의하고 세계 금융 시스템을 변화시키고 있는 기술적, 경제적, 사회적 사건들과 트렌드를 매주 살펴보는 ‘머니 재상상’을 읽고 있습니다. 구독을 신청하여 뉴스레터 전문을 받아 보십시오.
구글태그.cmd.push(function() {구글태그.display(‘js-dfp-tag-ohQ’); };
답은 AI 혁신을 중단하고 현재의 발전 수준으로 이 분야를 끌어올린 업계 선두주자인 OpenAI 크리에이터 ChatGPT를 극의 위치에 고정시키는 데 있지 않습니다. 반대로, 그것이 악몽이 현실이 되도록 하는 가장 좋은 방법입니다.
Web2의 교훈
Web1 인터넷이 Google, Facebook 및 Amazon을 포함한 모든 것을 알고 있는 거대한 데이터 수집 과두 정치를 중심으로 중앙 집중화된 광고 중심의 소셜 플랫폼 기반 경제인 Web2의 붕괴에서 이를 알 수 있습니다. 그들은 쇼샤나 주보프가 “감시 자본주의”라고 부르는 것의 수혜자가 되었고, 우리 인간들은 우리에게서 추출되어 행동 수정 알고리즘으로 재활용되는 수동적인 개인 데이터 소스인 그 희생자가 되었습니다.
이 모든 것은 플랫폼이 도덕적으로 구글의 “악하지마” 격언을 포기하려는 경향이 있었기 때문이 아니라 시장의 논리가 그들을 이 모델로 밀어 넣었기 때문입니다. 광고는 수익을 제공했고, 그들의 플랫폼에서 점점 증가하는 사용자 풀은 인터넷 거인들이 그러한 광고에 대한 수익을 극대화하기 위해 인간의 행동을 형성할 수 있는 데이터를 제공했습니다. 주주들은 이러한 기하급수적인 이익을 지속적으로 요구하면서 분기마다 “수를 맞추기 위해” 이 모델을 두 배로 줄이도록 압력을 가했습니다. 네트워크 효과가 시작되고 플랫폼이 자체 강화 성장 기능을 통해 더 많은 사용자를 유치함에 따라 월스트리트의 기대치가 어느 때보다 높아짐에 따라 데이터 추출 모델의 수익성이 높아지고 포기하기가 더욱 어려워졌습니다.
더 읽어보기: 브랜드가 암호화폐를 구할 수 있을까요? 말이 씨가 될 수도 있어요.
이 착취적인 시스템은 AI 개발이 동일한 독점 디폴트 구조에서 발생하면 오버드라이브에 들어갈 것입니다. 해결책은 연구를 중단하는 것이 아니라 AI 개발자들이 그 모델을 전복시킬 방법을 고안하도록 장려하는 것입니다.
자본주의의 업데이트
수세기 동안, 시장 자본주의 시스템은 기업가들의 시장 점유율 경쟁을 장려하여 모두를 위한 부와 생산성을 창출했습니다. 그것은 부의 불균형을 조장했지만, 장기적으로 독점 금지법, 노조 및 사회 안전망 법의 도움으로 전 세계 복지에서 전례 없는 이득을 얻었습니다.
Googletag.dfp.display({googletag.display(“js-dfp-tag-olc’); });
하지만 이 시스템은 아날로그 경제를 위해 만들어 졌습니다. 물리적인 것의 생산과 판매를 중심으로 한 것입니다. 지리적 제약으로 인해 성장 기회에 부담스러운 자본 비용이 발생하는 세상입니다. 인터넷 시대는 매우 다릅니다. 이는 자체 강화 네트워크 효과 중 하나로, 소프트웨어 생산의 효율성을 통해 시장 선도업체는 매우 낮은 한계 비용으로 시장 점유율을 빠르게 확장할 수 있으며, 가장 가치 있는 상품이 철광석과 같은 물리적인 것이 아니라 무형의 것인 경우에는 인적 데이터입니다.
우리는 분산된 소유권과 합의된 거버넌스의 새로운 모델이 필요합니다. 경쟁적 혁신에 대한 인센티브에 기반을 두고 있지만 그 안에 혁신을 공공의 이익으로 이끄는 자체 수정 프레임워크가 있습니다.
분산형 AI 개발 프로토콜 Bittensor의 설립자인 Jacob Steeves에서 영감을 받아, 암호화 기술은 가드레일이 필요하더라도 미래가 어떻게 생겼는지 정의하는 데 도움을 줄 수 있다고 생각합니다.
Steeves는 이번 주 “Money Redimagined” 팟캐스트에서 Bittensor의 AI 토큰화된 분산형 빌딩 모델에 대해 “우리는 AI의 개방적인 소유권을 구축하자고 말하고 있습니다.”라고 말했습니다. “당신이 기여할 수 있다면, 당신은 그것을 소유할 수 있습니다. 그리고 나서, 사람들이 결정하도록 합시다.”
철학적 아이디어는 소유권과 통제가 충분히 분산되면 단일 당사자가 AI 개발을 지시하는 것을 방지하고 대신 그룹 전체가 집단에 유리한 모델을 선택할 것이라는 것입니다. 스티브스는 “만약 우리 모두가 이것의 일부를 가지고 있다면, 이것은 돌아와서 우리를 해치지 않을 것입니다. 왜냐하면 결국 AI의 근본적인 통화는 당신의 지갑에 있기 때문입니다.”라고 말했습니다.
지나치게 유토피아적인가요? 그럴지도 모릅니다. 암호화 역사에서 사기의 긴 목록은 많은 사람들이 본능적으로 암호화 AI 모델이 사악한 행위자들에 의해 납치되는 것을 상상한다는 것을 의미합니다.
구글태그.cmd.push(function() {구글태그.display(‘js-dfp-tag-Svc’); };
하지만 우리가 오픈소스 혁신과 집단지배구조를 기반으로 한 공동 프로젝트를 만들어낸다면, 우리에게 가장 필요한 것처럼 보이는 경제적 현상은 블록체인 프로토콜을 중심으로 생겨난 생태계입니다.
스티브스는 “이더리움과 비트코인은 해시 단위로 측정되는 세계에서 가장 큰 슈퍼컴퓨터입니다,”라고 말했습니다. “이러한 네트워크는 좋든 나쁘든 권력 논쟁의 어느 한쪽에 위치하든 초대형 구조입니다. 이는 인류가 만들어낸 가장 큰 컴퓨팅 메가 구조입니다. 구글과 같은 회사의 데이터 웨어하우스보다 수백 배나 큽니다.”
규제 캡처/h2> OpenAI 및 GPT 1-through-4 대규모 언어 모델(LLM)을 지원하는 ChatGPT는 이러한 블록체인 에코시스템과 매우 다르게 구성되어 있습니다. 그것은 거대 기술 회사인 마이크로소프트로부터 100억 달러(B사)의 투자를 받은 개인 회사입니다.
그리고 CEO Sam Altman은 아직 Tesla의 CEO이자 OpenAI 투자자인 Elon Musk와 함께 AI 개발의 6개월 중단을 요구하는 공개 서한에 25,000명 이상의 서명자 중 한 명으로 참여하지 않았지만, 많은 사람들은 그 서한의 요구가 이행된다면 회사가 직접적인 수혜자가 될 것이라고 믿습니다, Altman의 AI 개발에 대한 회사의 통제권을 획득하는 동시에 어떤 경쟁자도 OpenAI의 지배력에 도전하기 어렵게 만듭니다.
자세히 읽어 보십시오: 채팅 GPT는 검색을 죽이고 웹3에 대한 길을 열 것입니다
암호화폐 개척자 피터 베세네스는 이번 주 코인데스크에서 “이 서한은 OpenAI와 동맹국들이 지배력을 공고히 하고, 확장된 혁신 리드를 구축하며, 미래에 근본적으로 중요한 기술에 대한 우위를 확보하면서 대중의 지지를 모으는 역할을 한다”고 썼습니다. “만약 이것이 일어난다면, 그것은 미국인들 – 우리의 경제와 우리 국민들에게 돌이킬 수 없을 정도로 해를 끼칠 것입니다.”
Googletag.dfp.display(“js-dfp-tag-ub0′), };
베세네스가 “1997년에 마이크로소프트와 델이 유사한 ‘일시정지’ 서한을 발표하여 인터넷이 오프라인 상점을 파괴하고 테러 자금을 지원할 것이라는 자체 연구 결과를 인용하여 6개월 동안 브라우저 혁신을 중단하고 새로운 전자 상거래 사이트를 금지할 것을 촉구했다고 상상해 보십시오. 오늘날 우리는 이것을 이기적인 경고주의이자 규제 포획 시도로 인식할 것입니다.”
OpenAI는 이제 폐쇄적인 시스템을 기반으로 하지만 기계 학습에 대한 LLM 접근 방식은 이제 야생에서 벗어나 온갖 기발한 방식으로 복제되고 있습니다. 도대체 어떻게 미국 과학자들의 합의, 심지어 의회의 행위가 이 기술의 발전을 막을 수 있을까요? 특히 불량 국가들의 지원을 받는 범죄 행위자들이 미국의 탄원을 무시할 만한 충분한 이유가 있습니까?
잘못된 방향
최근 암호화폐에 대한 미국 정부의 적대감과 짝을 지어 업계 지도자들에 대한 증권거래위원회의 일련의 조치와 오픈 소스 토네이도 캐시 프로토콜에 대한 제재에서 나타나고, 우려스러운 수렴이 발생합니다. 암호화폐 회사들이 이제 미국 해안을 떠나고 있다는 것은 디지털 자산 산업에 위협 그 이상입니다. 그것은 이기적인 중앙 집중식 이익에 의한 AI의 위험한 포획을 피하기 위해 필요한 바로 그 형태의 오픈 소스 혁신에 대한 타격입니다.
최근 토큰 투기꾼들이 입은 모든 손실에도 불구하고, 그러한 부를 쫓는 돈의 물결은 암호화 역사상 가장 큰 도약을 지원했습니다. 예를 들어, 인공지능에 의한 유비쿼터스 스누핑으로부터 민감한 정보를 보호하는 데 역할을 할 수 있는 제로 지식 증명은 암호화 이전 시대보다 훨씬 더 발전했습니다.
크립토의 무단 혁신 정신에서 오는 대중의 지혜로운 이점도 있습니다. 기업 리더십에 의해 높은 곳에서 지시된 것보다 비합법적인 프린지 아이디어가 더 쉽게 거품이 끼는 경향이 있습니다. OpenAI의 혁신 구조는 그것과 매우 다릅니다. 물론, 그것은 인터넷의 방대한 데이터 배열을 활용하는 방법과 믿을 수 없을 정도로 효과적인 LLM을 훈련시키는 방법을 알아냈습니다. 그러나 오픈 소스의 비영리적 지위를 포기한 이 회사는 이제 새로운 기업 투자자의 수익 극대화 요구에 힘입어 폐쇄적인 블랙박스 운영자가 되었습니다.
선택할 수 있습니다: 우리는 AI가 웹2에서 차지한 것과 같은 집중된 비즈니스 모델에 의해 포착되기를 원합니까? 아니면 웹3의 분산된 소유권 비전이 더 안전한가요? 저는 어떤 것을 고를지 알아요.
// Ex.co 스크립트 및 중간 아티클 배치( 함수 (d, s, n) {varjs, fjs = d.getElementsByTagName(s)[0]; js = d.createElements(s), js.className = n; js.s.src = “/player.ex.co/player/4c49b82f-103d-41ce-9191-ffa4d1f737fb”; fj.parentNode.Inservo, ‘Ex.co’s’s’s’document’를 실행합니다.inser.inter, place;.getElementsByClassName(‘비디오 자리 표시자’)[0]; varexcoDiv = document.createElement(‘div’); excoDiv.id = ‘4c49b82f-103d-41ce-9191-fa4f’fb’; if(video&document.getElementById){cf}, faf7f}, fafnff}, fafnedefnedefgetelementBybfgetelementBybf}
This is going to sound presumptuous coming from a guy who doesn’t write code, let alone have any direct experience in machine learning or artificial intelligence research.
But I gotta say it: The recent alarmist demand for a six-month pause or even a militarily enforced shutdown in AI research – from people with experience, money and influence in the artificial intelligence industry – is founded on some fundamentally flawed thinking that will encourage the same destructive outcome for humanity that we seek to avoid. That the U.S. government is simultaneously orchestrating a crackdown on the crypto industry, a field of open-source innovation that develops the kind of cryptography and network coordination technologies needed to manage AI threats, makes this an especially dangerous moment for all of us.
These doomsayers are computer scientists, not students of economic history. The issue is not, in and of itself, that an out-of-control AI could evolve to kill us all. (We all know that. For decades, Hollywood has taught us that it is so.) No, the task is to ensure that the economics of AI don’t intrinsically encourage that horrific result. We must prevent concentrated control of the inputs and outputs of AI machines from hindering our capacity to act together in the common interest. We need collective, collaborative software development that creates a computational antidote to these dystopian nightmares.
You’re reading Money Reimagined, a weekly look at the technological, economic and social events and trends that are redefining our relationship with money and transforming the global financial system. Subscribe to get the full newsletter here.
The answer does not lie in shutting down AI innovation and locking ChatGPT creator OpenAI, the industry leader that has taken the field to its current level of development, into pole position. On the contrary, that’s the best way to ensure the nightmare comes true.
Web2’s lessons
We know this from the debacle of Web2, the ad-driven, social platform-based economy in which the decentralized Web1 internet was re-centralized around an oligarchy of all-knowing data-aggregating behemoths including Google, Facebook and Amazon. They became the beneficiaries of what Shoshana Zuboff has dubbed “surveillance capitalism,” and we humans became its victims, a passive source of personal data that is extracted from us and recycled into behavior-modifying algorithms.
All of this happened, not because the platforms were morally inclined to abandon Google’s “Don’t Be Evil” maxim, but because the logic of the market pushed them into this model. Ads provided the revenue, and an ever-growing pool of users on their platforms provided the data with which the internet titans could shape human behavior to maximize returns on those ads. Shareholders, demanding those exponential gains continue, pressured them to double down on this model to “meet the number” each quarter. As network effects kicked in and the platforms attracted more users through a self-reinforcing growth function, the data extraction models became more lucrative and more difficult to abandon as Wall Street’s expectations were benchmarked ever higher.
Read more: Brands Will Save Crypto? Be Careful What You Wish For
This exploitative system will go into overdrive if AI development occurs under the same monopoly defaulting structure. The solution is not to halt the research but to incentivize AI developers to devise ways to subvert that model.
Updating capitalism
For centuries, the market capitalism system encouraged competition among entrepreneurs for market share, generating wealth and productivity for all. It fostered wealth disparities but, in the long run, with the help of antitrust, union and social safety net laws, it produced unprecedented gains in wellbeing worldwide.
But the system was built for an analog economy, one that revolved around the production and sale of physical things, a world where the constraints of geography put a burdensome cost of capital on growth opportunities. The internet age is very different. It’s one of self-reinforcing network effects, where the efficiencies of software production allow market leaders to rapidly expand market share at very low marginal cost, and where the most valuable commodity is not physical, such as iron ore, but intangible – it’s human data.
We need a new model of decentralized ownership and consensus governance, one that’s built on incentives for competitive innovation but has, within it, a self-correcting framework that drives that innovation toward the public good.
Inspired by Jacob Steeves, a founder of decentralized AI-development protocol Bittensor, I believe crypto technology can help define what that future looks like – even if we need guardrails for it.
“We’re saying let’s build open ownership of AI,” Steeves said of Bittensor’s tokenized decentralized building model for AI on this week’s “Money Reimagined” podcast. “If you can contribute, you can own it. And then, let’s let the people decide.”
The philosophical idea is that sufficiently decentralized ownership and control would prevent any single party from dictating AI development and that, instead, the group as a whole would opt for models favorable to the collective. “If we all had a piece of this, then this thing is not going to come back and hurt us because at the end of the day the fundamental currency of AI, the fundamental ownership part is in your wallet,” Steeves said.
Overly utopian? Maybe. The long list of scams in crypto history mean that many will instinctively imagine a crypto-AI model being hijacked by nefarious actors.
But if we’re going to forge a common project based on open-source innovation and collective governance, the economic phenomena that look most like what we need are the ecosystems that have sprung up around blockchain protocols.
“Ethereum and Bitcoin are the largest supercomputers in the world, measured in hashes,” Steeves said. “Those networks – for good or ill, whether or not you position yourself on either side of the power debate – are mega structures. They are the largest computing mega structures that humanity has ever created … they’re hundreds of times larger than the data warehouses of companies like Google.”
Regulatory capture
OpenAI, the company behind the ChatGPT and GPT1-through-4 large language models (LLM), is structured very differently from those blockchain ecosystems. It’s a private company, one that has just taken in a $10 billion (with a B) investment from tech giant Microsoft.
And while its CEO Sam Altman has not, as yet, joined Tesla CEO and OpenAI investor Elon Musk as one of more than 25,000 signatories to an open letter calling for a six-month pause in AI development, many believe that if that letter’s demands were implemented, the company would be a direct beneficiary, making it harder for any competitor to challenge OpenAI’s dominance while earning Altman’s company control of AI development going forward.
Read more: ChatGPT Will Kill Search and Open a Path to Web3
“The letter serves to rally public support for OpenAI and its allies as they consolidate their dominance, build an extended innovation lead and secure their advantage over a technology of fundamental importance to the future,” wrote cryptocurrency pioneer Peter Vessenes in a CoinDesk op-ed this week. “If this occurs, it will irreparably harm Americans – our economy and our people.”
Imagine if, Vessenes wrote, “in 1997, Microsoft and Dell had issued a similar ‘pause’ letter, urging a halt to browser innovation and a ban on new e-commerce sites for six months, citing their own research that the internet would destroy brick-and-mortar stores and aid terrorist finance. Today we’d recognize this as self-serving alarmism and a regulatory capture attempt.”
OpenAI is now based on a closed system but the LLM approach to machine learning is now out in the wild and being replicated in all sorts of ingenious ways. How on earth is an agreement by U.S. scientists, or even an act of Congress, going to stop this technology’s advance – especially by criminal actors backed by rogue states with every reason to ignore the United States’ entreaties?
Wrong direction
Pair this with the U.S. government’s recent hostility toward crypto, manifest in the Securities and Exchange Commission’s string of actions against industry leaders and in the sanctions against the open-source Tornado Cash protocol, and a worrisome convergence emerges. That crypto companies are now leaving U.S. shores is more than a threat to the digital asset industry. It’s a blow against the very form of open-source innovation that’s needed to avoid AI’s dangerous capture by self-serving centralized interests.
For all the losses suffered by token speculators recently, the waves of money that chased those riches funded some of the biggest leaps in cryptography of all time. Zero-knowledge proofs, for example, likely to play a role in how we protect sensitive information from ubiquitous snooping by AI, have advanced by many magnitudes more than they did in the pre-crypto era.
There’s a wisdom-of-the-crowd advantage, too, that comes from crypto’s permissionless innovation ethos. Non-conforming fringe ideas tend to bubble up more easily than those directed from on high by corporate leadership. OpenAI’s innovation structure is very different from that. Sure, it figured out how to tap into the internet’s massive array of data and how to train an incredibly effective LLM on it. But having abandoned its open-source, nonprofit status, it is now a closed, black box operator, beholden to the profit-maximizing demands of its new corporate investor.
We have a choice: Do we want AI to be captured by the same concentrated business models that took hold in Web2? Or is the decentralized ownership vision of Web3 the safer bet? I know which one I’d pick.
// Run Ex.co Script and mid-article placement (function (d, s, n) { var js, fjs = d.getElementsByTagName(s)[0]; js = d.createElement(s); js.className = n; js.src = “//player.ex.co/player/4c49b82f-103d-41ce-9191-ffa4d1f737fb”; fjs.parentNode.insertBefore(js, fjs); }(document, ‘script’, ‘exco-player’)); // Ex.co placeholder div var element = document.getElementsByClassName(‘video-placeholder’)[0]; var excoDiv = document.createElement(‘div’); excoDiv.id = ‘4c49b82f-103d-41ce-9191-ffa4d1f737fb’; if (element && document.getElementById(‘4c49b82f-103d-41ce-9191-ffa4d1f737fb’) == undefined) { element.append(excoDiv); }
