라스 베이거스 -Gary Marcus는 수요일에 그의 검은 오두막 대화에서 한 가지를 정리하고 싶었습니다. 그는 Ai Hatter 나 Ai Dumar가 아닙니다.
그러나 가장 혼란스러운 AIO 조차도이 두 AI 스타트 업,인지 과학자 및 책은 일반적으로 기술의 팬이라는 생각에 환각을 줄 수 없었습니다. AGI (인공 일반 지능), 수퍼 장 또는 기타 경쟁자 또는 인간 지식 후계자를 낳을 것입니다.
Marcus Coelsky Security는 연구 연구의 선임 이사 인 Nathan Hamiel과 40 분의 대화를 시작할 수있게 해줍니다.
그러나 많은 위험이 있습니다. 데이터 센터의 하늘을 끄는 전기 요구는 미국의 다른 사람들이 단락을 시작할 기회로 시작합니다. 마커스는“명확하지 않으며 그렇지 않으면 어떤 일이 일어날지는 지속 가능하다”고 말했다. “
그리고 AGI를 찾아 쏟아져 나오는이 기가 트는 관련된 대형 언어 모델이 “매우 안전하지 않기 때문에 사용할 가치가있는 제품을 달성하지 못할 수도 있다고 그는 말했다.
마커스는 “이러한 시스템은 실제로 가짜입니다.” “그들은 이전에 들었던 것과 같은 것들을 말할 수 있지만 매우 취약하다”
따라서, “단순히 보호 코드를 입력하십시오”또는 “누구에게도 생물학적 무기를 설명하지 마십시오”라는 LLM은 행동에 기초한 “세계 모델”이 없기 때문에 공격에 대한 공격의 위험이 있습니다.
마커스는 “간단한 탈옥으로 당신은 그것을 얻는다”고 말했다. “이것은 생물학적 무기 또는 보호 코드가 무엇인지 전혀 모르기 때문입니다.”
그는이 “종류의 성형”에서 단기적인 결과를 예측합니다.
AGI 약속에 지친 투자자? 아니요!
“(Elon) Musk는 당신이 약속 할 수 있고 그에 대한 책임이 없다는 것을 깨달았습니다.”그는 청중에게 자율 주행 차량을 가진 차량의 마스크 마스크의 오랜 역사를 상기시켰다. “그리고 사람들은 당신에게 그들을 기반으로 자본을 줄 것입니다.”
Marcus Openai CEO Sam Altman은 Sam Altman을 마스터 실무자로 언급했습니다. “오늘 아침 오픈을 읽은 것은 5 천억 달러의 평가에서 주식을 팔려고 노력하고있다”고 그는 말했다. “그것은 결코 이익을 얻지 못한 회사이며, 특별한 이익에 더 가깝지 않고 기술적 인 어린 시절이없는 회사입니다.”
그러나 마커스는 AI 기계의 부상으로 인한 존재를 예측할 준비가되지 않았다. Hamiel은 나중에 Marcus에게 7 월에 Marcus에게 I-Art의 속기에 AI Doom의 가능성을 제기 한 게시물에 대해 1%에서 3%에서 3%까지의 대화에 대해 물었을 때 대화를 시작했습니다.
최고의 이야기를 얻으십시오!
최신 보안 뉴스 및 업데이트로 안전하게 유지하십시오
저를 클릭하여 가입하면 16 세 이상이고 우리의 약관 및 개인 정보 보호 정책에 동의합니다.
가입 해 주셔서 감사합니다!
구독이 확인되었습니다. 받은 편지함을 주시하십시오!
“사람은 참으로 정말 어렵다”는 느낌에도 불구하고, 그는 Elon Kasturi의 AI 야망과 그가 따르는 방식에 대해 생각한 후이 적대감을 촉진했습니다.
“일부 미친 사람들이 일종의 자원 봉사자, 자원 봉사의 오만, AI 사업에는 거대한 군대, 그가 만드는 방식, 그가 만드는 방식 등이 있었다면?” 그는 물었다. “그리고 어느 날 나는 일어 났고 깨달았다.
그러나 3%는 여전히 운명의 확률이 낮습니다. 마커스는 자신이 AI에 기대어있는 것에서 더 즉각적인 피해를 볼 수 있다고 말했다. 기본적으로 AI는 잘못된 정보를 생성하는 데 드는 비용을 줄이고 부드럽게 성장하는 것도 줄어 듭니다.
“비판적 사고 기술, 당신은 그것들을 사용하여 발전합니다”라고 그는 말했다. “LLM에 모든 것을 떨어 뜨리면 그러한 기술을 개발하지 않을 것입니다.”
편집자가 제안했습니다
마커스는 또한 AI에서 경계를 유지하는 사람들의 기술에 대해 우려하고 있다고 말했다.
“사람들이 가면서 사람들이 코드의 처음 몇 가지 저격수를 보게 될 것”이라고 그는 말했다. “그리고 그들은 구역을 만들려고합니다.”
이 모든 것은 마커스가 아이디어에 대해 매우 회의론자를 떠났습니다. 트럼프 대통령의 “AI 행동 계획”발표는 AI를 만들기위한 경쟁이 있다는 것을 공개적으로 압수했습니다.
“중국과의 경쟁의 승자는 더 큰 LLM을 생산하는 사람이 아닐 것”이라고 그는 말했다. “아무도 그곳에서 영구적 인 혜택을 얻지 못할 것입니다.”
그러나 “진정으로 새로운 것”을 발견하는 사람은 누구나 점프 할 수 있습니다. 토론 후 마커스는 과학에 대한 트럼프의 공격이 중국에서 일할 것이라고 제안했다.
그렇다면 마커스는이 경우 긍정적 인 잠재력을 볼 수 있습니까? 그는 AI 앱을 만들기 위해 일하는 사람들로부터 듣는 한 가지를 주장했다.
Marcus는 치료 연구를위한 단백질 구조를 분석하는 모델 인 Google 보조 기관 Dipmind의 예를 제공하며 작년에 노벨 화학 상을 수상했습니다.
“이것은 LLM이 아니다”고 그는 말했다. “이 모든 보호 문제가없는 것은 목적으로 지어진 것입니다. 그것은 하나의 크기가 되려고하는 챗봇이 아닙니다.”
chatzpt 대화보다 더 많은 힘을 발휘하는 5 가지 방법
Rob Pegoraro에 대해
기부자
