우리는 우리는 세상을 그대로 본다고 생각하지만 실제로 우리는 지식과 아이디어의 짙은 안개를 통해 그것을 봅니다. 그 중 일부는 옳고 그 중 일부는 잘못되었습니다. 지도처럼 아이디어와 신념은 세상에 대한 우리의 경험을 형성합니다. AI가 전례가없는 AI라는 개념은 인공 일반 지능이 모퉁이에 있으며 모든 것이 다른 특이점으로 이어진다는 개념은 그러한지도 중 하나입니다. 그것은 기술 투자뿐만 아니라 정부 정책과 경제적 기대를 형성했습니다. 하지만 그것이 틀렸다면 어떨까요?
최고의 아이디어는 우리가 과대 광고의 안개를 자르면서 세상을 더 명확하게 보는 데 도움이됩니다. 그렇기 때문에 Arvind Narayanan과 Sayash Kapoor의 에세이“AI를 정상적인 기술”으로 읽게되어 매우 기뻤습니다. 그들은 AI가 실제로 변형 적이지만 전례없는 것과는 거리가 멀다는 경우를 대단합니다. 대신, 전기 화, 자동차 및 인터넷과 같은 다른 심오한 기술 혁명과 거의 같은 패턴을 따를 것입니다. 즉, 기술 변화의 템포는 혁신의 속도에 의해 설정되는 것이 아니라 오히려 경제, 사회적, 인프라 요인에 의해 문을 쓴 채택 속도와 변화에 적응할 수있는 인간의 필요성에 의해 설정됩니다. (어떤면 에서이 아이디어는 스튜어트 브랜드의“페이스 레이어”개념을 반영합니다.)
“정상적인 기술”이란 무엇을 의미합니까?
Arvind Narayanan은 Princeton의 컴퓨터 과학 교수로서 기술이 사회에 미치는 영향과 그것이 제기하는 정책 문제에 대해 깊이 생각하고 있습니다. 그는 지난주에 나와 함께했다 Tim O’Reilly와 함께 살고 있습니다 그의 아이디어에 대해 이야기합니다. 나는 그에게“정상적인 기술”으로 그가 의미하는 바를 설명 해달라고 요청했습니다. 다음은 그의 답장의 단축 버전입니다. (여기에서 더 완전한 비디오 답변과 내 답장을 볼 수 있습니다.)
사회 전체에 기술이 채택되고 확산되는 방식에 대한 잘 확립 된 이론이 밝혀졌습니다. 명심해야 할 핵심은 기술 능력의 발전 속도의 논리가 길 뒤의 논리와 기술이 채택되는 속도와 다르다는 것입니다. 그것은 인간 행동이 변화 할 수있는 속도에 달려 있습니다. 조직은 새로운 비즈니스 모델을 파악할 수 있습니다. 그리고 나는 AI 회사를 의미하지 않습니다. AI의 미래에 대해 생각하는 데 AI 회사에 너무 많은 초점이 있습니다. AI를 배치 할 다른 모든 회사에 대해 이야기하고 있습니다.
그래서 우리는 4 단계 프레임 워크를 제시합니다. 첫 번째 단계는 발명입니다. 따라서 이것은 모델 기능의 향상입니다.… 모델 기능 자체는 제품으로 변환되어야합니다. 그것이 두 번째 단계입니다. 그것이 제품 개발입니다. 그리고 우리는 여전히 올바른 추상화가 무엇인지 알아내는 두 번째 단계에서 초기에 초기에, 큰 언어 모델 (AS)의 매우 신뢰할 수없는 기술 (AS)의 두드러진 유형의 AI)는 소프트웨어에서 기대할 수있는 것에 적합 할 수 있는데, 이는 매우 결정적으로 작동해야한다는 것입니다. 그리고 그러한 기대가 위반되면 AI 제품 발사가 매우 끔찍한 것으로 나타났습니다.… 3 단계는 확산입니다. 초기 사용자가 사용 사례, 워크 플로, 위험, 그 주위를 돌보는 방법을 알아내는 것으로 시작합니다. 그리고 마지막으로 가장 많은 시간이 소요되는 단계는 적응입니다. 따라서 개별 사용자는 적응해야 할뿐만 아니라 산업은 전체적으로 적응해야합니다. 경우에 따라 법이 적응해야합니다.
우리는 전기 화를 잘 알려진 예로 사용하여 과거에 어떻게 일어 났는지에 대해 조금 이야기했습니다. 산업 혁명의 첫 단계는 크고 중앙 집중식 발전소가있는 공장에서 석탄과 증기로 구동되었습니다. 공장 전기 화에 대한 조기 시도는 그다지 큰 이점을 제공하지 못했습니다. 전기가 소규모 전문 기계에 전력을 쉽게 분배 할 수 있다는 것을 깨달았을 때만 두 번째 산업 혁명이 실제로 이륙 한 다른 공장 기능에 쉽게 전력을 분배 할 수있었습니다.
Arvind는 AI가 소프트웨어를 어떻게 변화시킬 수 있는지에 대해 이야기함으로써 현실을 만들었습니다. 그는 프로그래머를 대체하는 것이 아니라 소프트웨어 사용자 정의의 발자국을 확장하는 것에 대해서는 생각합니다.
따라서 어떤 사람들은 미래에 작은 앱을 바이브 할 수있는 것처럼 프롬프트를 기반으로 훨씬 더 복잡한 엔터프라이즈 소프트웨어를 구축 할 수 있기를 바랍니다. 좋아요, 가능하다고 가정합니다.… 저는 그 세상에서 이러한 엔터프라이즈 소프트웨어 회사가 소프트웨어를 한 번만 구축 한 다음 수천 명의 다른 클라이언트가 소프트웨어에 정의 된 추상화에 워크 플로를 조정하도록 강요하는 것이 합리적이지 않을 것이라고 주장합니다. 그것은 우리 가이 미래 세계에서 소프트웨어를 사용할 방법이 아닐 것입니다.
일어날 일은 개발자가 각 다운 스트림 클라이언트와 협력하고 요구 사항을 이해 한 다음 특정 팀의 요구 나 특정 회사의 요구, 또는 특정 개인의 요구를 충족시키기 위해 그 자리에서 소프트웨어를 생성 할 것입니다. 따라서 이것은 엔터프라이즈 소프트웨어의 의미에 대한 완전하고 매우 개념적 개정입니다. 그리고 이것은 우리가 수십 년이 걸릴 것이라고 생각하는 종류입니다. 또한 AI 기능 개선 속도와는 거의 관련이 없습니다.
이것은 세상을보다 효과적으로보고 반응하기위한 도구로서 아이디어가 의미하는 바에 대한 훌륭한 예입니다. “정상 기술”맵은 투자자와 기업가가 “AI Singularity”맵을 따르는 사람들과 다른 선택을하도록 이끌 것입니다. 장기적으로,보다 정확한지도에 의해 안내되는 사람들은 지속적인 사업을 구축하는 반면, 다른 사람들은 거품의 사상자가 될 것입니다.
우리는 AI가 두 번째 AI 코데 콘에서 소프트웨어 산업을 어떻게 바꾸고 있는지 더 깊이 이야기 할 것입니다. 9 월 9 일에 나타납니다. 에이전트 세계를위한 코딩.
AI 채택에 대한 신체적, 행동 적 제약
우리는 또한 물리적 제약에 대해 조금 이야기했습니다 (이것이 그의 초점이 그의 초점이라고 고백해야하지만). 예를 들어, 20 세기 자동차 경제의 개화로 인해 더 나은 도로, 더 나은 타이어, 브레이크, 조명 및 엔진 개선, 휘발유를위한 세련미 및 유통 네트워크, 도시 재구성 등이 필요했습니다. 우리는 오늘 이것을 GPU 주변의 병목 현상, 데이터 센터 구조, 전력 주위에서 볼 수 있습니다. 이 모든 것들은 구축하는 데 시간이 걸립니다.
Arvind의 주요 초점은 채택을 지연시키는 행동 문제에 중점을 두었습니다. 그는 좋은 예를 들었습니다.
그래서이“추론 모델”이 있습니다. (실제로 추론이 다른 질문이든)… O3와 같은 모델은 실제로 매우 유용합니다. 그들은 비 계급 모델이 할 수없는 많은 일을 할 수 있습니다. 그리고 그들은 약 1 년 전에 석방되기 시작했습니다. 그리고 Sam Altman의 자체 입학에 근거하여 Chatgpt의 무료 계층에서는 1% 미만의 사용자가 하루에이를 사용하고 있다는 것이 밝혀졌습니다. 그리고 급여 계층에서는 사용자의 7% 미만이이를 사용하고있었습니다.… 따라서 확산 기능이 얼마나 많은지를 보여줍니다. 그것은 확산, 즉 사용자 워크 플로, 새로운 기술, 이런 종류의 것들 등의 확산이 실제 병목 현상이라는 요점의 예시입니다.
물론, GPT-4의“성격”상실에 대한 사용자 백래시는이 집을 더 많이 이끌고 새로운 불확실성을 많이 제기합니다. Arvind는 성격 변경을“완전히 새로운 스위칭 비용”이라고 불렀을 때 그것을 못 박았다고 생각했습니다.
AI는 Arvind가 AI를 실행하는 것에 대한 두려움이 과장되어 있다고 생각하는 일반적인 기술이기 때문입니다.
예를 들어, 재귀 적 자기 개선의 도착은 예를 들어, 그것이 일어날 경우 이러한 패턴에 대한 예외가 될 것이라고 생각하지 않습니다. 우리는 논문의 AI 안전에 대해 많이 이야기합니다. 우리는 많은 사람들이 AI 안전에 대해 신중하게 생각하게되어 기쁩니다. 우리는 그것이 AI를 일시 정지하거나 오픈 소스 AI를 금지하는 것과 같은 특별한 단계가 필요하다고 생각하지 않습니다. 안전은 잘 이해 된 시장 및 규제 개입에 적합합니다.
우리가 AI를 정상적인 기술이라고 말할 때 그것은 단지 미래에 대한 예측이 아닙니다. 이 논문의 핵심 요점 중 하나는 우리가이를 정상적인 기술로 형성 할 기관이 있다는 것입니다. 우리는 사회를 통해 확산되는 경로가 기술 자체의 논리에 의해 지배되는 것이 아니라 오히려 인간과 기관에 의해 지배되는 것을 보장 할 기관이 있습니다..
동의합니다. AI에 직면 한 인간 기관은 또한 내 책의 깊은 흐름 중 하나입니다. WTF? 미래는 무엇이며 왜 우리에게 달려 있는지.
AI KPI 및 “황금률”
제가 가장 좋아하는 순간 중 하나는 참석자 중 한 명이 AI 회사가 사용하는 KPI에 대한 좋은 가이드가 AI가 스스로, 자녀 및 사랑하는 사람을 위해하기를 원하는지 여부를 물었을 때였습니다. 물론 이것은 많은 종교와 철학에서 발견되는 황금률의 버전 일뿐 만 아니라 실용적인 비즈니스 조언입니다. 내 자신의 철학적 멘토 인 Lao Tzu는 한때“사람들을 존중하지 못하고 그들은 당신을 존중하지 못합니다.”라고 썼습니다. 또한 이것 :“삶의 방식을 잃고 사람들은 선에 의존합니다. 선함을 잃고 법에 의존합니다.” (그것은 Witter Bynner의 버전에 대한 내 자신의 느슨한 재림입니다.) 나는 초기 오픈 소스 행동주의 시대 에이 인용문의 관련성을 먼저 생각했습니다. 다른 사람들은 성공의 열쇠로 무료 및 오픈 소스 라이센스 (법률)에 초점을 맞추었지만,“삶의 방식”을 일으키는 사람들에게 더 나은 사람들만으로 오픈 소스가 왜 이길 지 알아내는 데 관심이있었습니다. 종교가 아닌 과학.
저작권이 아닌 노동법이 AI Justice의 열쇠가 될 수있는 이유
AI 및 저작권에 대한 참석자 질문에 대한 응답으로 Arvind는 다시 한 번 문제를 생산적으로 재구성 할 수있는 능력을 보여주었습니다.
이 경우 저의 도덕적 동정심은 원고와의 동정심이지만 저작권이 저자와 사진 작가 및 출판사와 동의 나 보상없이 데이터를 사용하여 데이터에 의해 잘못되었다고 생각하는 다른 사람들에게 정의를 가져 오는 올바른 방법이라고 생각하지 않습니다. 그리고 그 이유는 그것이 노동 문제이기 때문입니다. 저작권이 다루기 위해 발명 된 것은 아니며, 미래의 판결이 다른 방식으로 진행 되더라도 회사는 프로세스를 조정하여 저작권법을 피할 수 있도록 비즈니스 모델을 변경하지 않은 채 남기지 않을 것이라고 생각합니다. 그리고 비즈니스 모델을 변경할 수 없다면, 작은 사람과 함께 기본적 으로이 제작자와 협상하고 정당한 보상 계약을 체결하도록 강요하면 정의가 제공 될 것이라고 생각하지 않습니다.
시나리오 작가 길드가 AI에 대해 파업을했고 이겼을 때, 그들은이 재구성에서 그가 얼마나 옳은지를 보여주었습니다. 이 사건은 헤드 라인에서 사라졌지만 공정한 AI 경제로가는 길을 제공합니다.
AI 및 지속적인 학습
우리는 또 다른 참석자 질문, 아이들이 미래를 준비하기 위해 지금 배워야 할 것에 대한 질문으로 끝났습니다.
우리는 내 견해로는 이상한 교육 시스템을 가지고 있습니다. 그리고 나는 교수가 된 한, 당신이 20 년 동안 학교에 머무르는이 개념, 대학 끝을 통해 학교에 머무르는 것을 공개적으로 공개적으로 말했습니다. 그리고 당신은 완전히 훈련을받은 다음, 당신은 노동력으로 가서 한 번 배운 기술을 사용합니다.
분명히, 우리는 세상이 그렇게 작동하지 않는다는 것을 알고 있습니다. 그리고 그것은 많은 학생들에게 대학 경험이 너무 비참한 이유의 큰 부분입니다. 그들은 실제로이 오히려 낙관적 인 환경 대신에 일을하고 있기 때문에 앞으로 언젠가는 정보를 수동적으로 흡수해야합니다.
그래서 AI는 교육에 대한 깊은 깨진 접근 방식을 고칠 수있는 기회라고 생각합니다. 아이들이 예상보다 훨씬 일찍 세상에 의미있는 공헌을 시작할 수 있다고 생각합니다.
그래서 그것은 이야기의 절반입니다. 실제로 유용한 것을 생산하도록 동기를 부여 할 때 훨씬 더 잘 배울 수 있습니다. 이야기의 후반부에서는 학습을 멈추지 말아야 할 것이 그 어느 때보 다 더 사실입니다.
그러나 내 요약을 중단 할 때입니다! 가입자이거나 에피소드를보기 위해 가입 한 경우 여기에서 전체 녹음에 액세스 할 수 있어야합니다.
AI 도구는 채팅 UX를 넘어 정교한 에이전트 상호 작용으로 빠르게 이동하고 있습니다. 다가오는 AI Codecon 이벤트, 에이전트 세계를위한 코딩개발자가 이미 에이전트를 사용하여 혁신적이고 효과적인 AI 구동 경험을 구축하는 방법을 강조 할 것입니다. 9 월 9 일에 우리와 함께 다음 프로그래밍 시대를 정의하는 도구, 워크 플로 및 아키텍처를 탐색하기를 바랍니다. 무료로 참석할 수 있습니다. 좌석을 저장하려면 지금 등록하십시오.
