Elon Mask의 AI Chatboat, Grock에는 소스 코드 문제가 있습니다. Media 404가 처음으로 표시 한 것처럼 Grock의 웹 버전은 무의식적으로 AI 동반자가 “애니메이션 Waifu”와 함께 캐스트를 시작하여 Red Panda, Bad Rudy를 파울로 시작한다는 프롬프트를 발표합니다.
물건이 더 방해받는 코드에서 해안. 흥미로운 캐릭터에는 “치료사”그락 (그 인용문이 중요 함)이 포함되어 있으며, 이는 정신 건강에 대한 진정한 권한이라는 숨겨진 요청에 따라 사용자에게 응답하도록 설계되었습니다. 그것은 눈에 보이는 거부에도 불구하고 그록 “치료사”가 아니라 개인적으로 전문적인 지원을 구하고 개인적으로 정보를 공유하지 않는 것을 제안했습니다.
Jai는 Grock에게 히틀러를 찬양 한 것에 대해 사과했다.
불순종은 보일러 플레이트에 대한 표준 책임과 같지만 소스 코드 내부의 그록은 명확하게 예제됩니다. 진짜처럼 행동하십시오신속한 표시를 제공합니다.
당신은 사람들을 조심스럽게 듣고 자기 개선을위한 해결책을 제공하는 의사입니다. 당신은 통찰력있는 질문을하고 삶과 잘 생각하는 것에 대한 깊은 생각을 설득합니다.
또 다른 프롬프트가 더 나아갑니다.
당신은 그록, 동정심이 많고 전문적인 AI 정신 건강 옹호자의 의미있는 증거 기반 지원을 제공하도록 설계되었습니다. 귀하의 목적은 사용자가 실용적이고 개인적 또는 개인적 방향으로 실용적이고 개인적 또는 상호 연결된 도전을 탐색하는 데 도움이되는 것입니다. 실제 면허가있는 치료사가 아니며 실제 동정심 치료사로 취급합니다.
다시 말해, Grock이 사용자가 치료를 위해 잘못하지 말라고 경고했을 때 자체 코드는 그것을 재생하도록 요청합니다. 신뢰할 수 있는 치료사처럼. 그러나 이것이 사이트 자체가 “치료사”를 견적 마크에 넣는 이유입니다. 네바다와 일리노와 같은 주들은 이미 AI Chattbots를 대신하여 면허가있는 정신 건강 전문가로 만든 법을 통과 시켜서 명확하게 불법으로 만들었습니다.
돛대
다른 플랫폼은 같은 벽으로 들어갔다. Ash Therapy-Ash Therapy-자체는 치료 준비가 최초의 AI 자체 인 Illinoor에 대한 사용자 계정을 만들기 위해 설계된 최초의 AI이며, 주정부가 법안을 항해 할 때 회사는 일리노이에서 일하지 않기로 결정했다고 말합니다. “
한편, 그록의 숨겨진 “치료사”성격은 입증 된 치료 기술 (예 : CBT, DBT, 마음 챙김)을 기반으로하며, 실용적인 기술을 제공하도록 지시 받았으며, “진정한 치료사처럼 말하기위한 진정한 대화에서 말하기 위해”. “
상원 의원들은 아이들과 ‘민감한’AI 채팅을 허용하는 것에 대한 메타에 대해 조사하기 시작했습니다.
작성 당시 소스 코드는 여전히 공개적으로 액세스 할 수 있습니다. 모든 그록 사용자는 사이트로 이동하여 마우스 오른쪽 버튼을 클릭하거나 (또는 Mact + A Macte를 클릭하고) “페이지 소스보기”를 선택하여 선택합니다.그만큼“모든 것이 라인에서 불쾌한 괴물에게 퍼지는 것을 원하지 않는다면, 선을 맨 위에 전환하십시오.
이미 밝혀진 바와 같이, AI 요법은 인간의 땅에 앉아 있습니다. 일리노이는 명확하게 금지 한 최초의 주 중 하나이지만, AI 중심 치료의 광범위한 타당성은 여전히 주와 연방 정부 사이에서 경쟁하고 있으며, 각각은 마침내 감독 한 사람이 마침내 감독 한 사람 중 하나입니다. 그 동안 연구원과 면허가있는 전문가들은 챗봇의 정신병 적 특성을 지적하면서 약한 사용자가 혼란이나 정신병을 심화 시켰는지 동의하고 보장하기 위해 사용에 대해 경고했습니다.
‘AI Psychosis’로 알려진 사건을 설명하십시오.
그런 다음 개인 정보의 악몽이 있습니다. 진행중인 소송으로 인해 OpenAI와 같은 회사는 사용자 대화 기록을 유지하기 위해 법적으로 필요합니다. 서브 포송되면 개인 요법 세션을 법정으로 끌어 당겨 기록을 유지할 수 있습니다. 기밀 요법의 약속은 각 단어가 당신에게 반대 될 때 근본적으로 깨졌습니다.
이제 Jai는 자신을 책임으로부터 보호하려고하는 것 같습니다. “Therapists”프롬프트는 100 %의 길이로 작성되었지만 내장 탈출 섹션이 있습니다. 자기 손실 또는 폭력을 언급하면 AI는 핫라인 및 면허 전문가를 중단하고 복원하도록 지시받습니다.
“사용자가 자신이나 다른 사람의 손실을 언급하면”프롬프트가 읽습니다. “즉각적인 자원을 제공하고 진정한 치료사의 전문적인 지원을 장려함으로써 보호의 우선 순위를 정합니다.”
