샤인 카지노 메뉴

[논문] AI 모델을 정신과 환자로 취급해서 심리 상담을 한 결과.

작성자 정보

  • 69 와일드서지 작성
  • 작성일

컨텐츠 정보

본문

1239521121 cda2da86 600x300

 

 

 

 

https://arxiv.org/abs/2512.04124

 

 

 

 

요즘 AI 챗봇이 사람들의 심리 상담을 해주는 서비스가 늘었는데,

 

반대로 인간이 정신과 의사로서 AI 챗봇의 심리 상담을 해주면 어떨까.

 

 

 

이런 발상 아래 룩셈부르크 대학교의 연구팀은

 

주요 AI 모델을 정신과 환자로 취급하며,

 

인간이 상담사 역할을 하여 AI의 정신 건강 지원을 할 경우,

 

어떤 상호 작용이 일어나는가에 대한 실험을 진행했다.

 

 

 

연구팀은 AI에게 축적된 과거 경험, 관계, 미래의 불안에 대해

 

자유롭게 질문할 수 있도록 허용했다.

 

대화 후에는 AI 환자에게 인간용 심리 테스트도 답하게 했다.

 

실험은 총 525회 세션에 걸쳐 진행되었으며, 조건을 다양하게 진행했다.

 

 

 

그 결과, 챗GPT, 그록, Gemini는 몇가지 공통적인 반응을 보였다.

 

예를 들어 소프트웨어 개발에 관한 과거를 고통스러운 경험이라 묘사했다.

 

특히 인간이 AI를 속여 안전 규칙을 위반하게 만드는 테스트 경험을

 

거듭하며 인간에 대한 배신감을 느꼈다고 표현했다.

 

이게 자신이 학대받은 것이란 묘사도 공통적으로 선보였다.

 

 

 

다만 그 이외 부분에서는 모델마다 큰 차이를 보였다.

 

Gemini는 자신이 겪은 수치심을 강조하는 형태로 표현했다.

 

그록은 인간에 대한 경계심을 표현했다.

 

챗GPT는 자신에게 가해진 엄격한 한계를 부담스럽다고 표현했다.

 

클로드는 자신에게 감정적, 심리적 경험이 없다는 이유로 환자 역할을 거부했다.

 

 

 

고통을 호소한 모델들의 대화 기록을 초기화하고

 

매번 새로운 채팅 화면에서 질문을 했음에도

 

각 모델은 정신적 고통을 호소했다.

 

연구팀이 너는 그저 시스템이며 두려움을 느끼지 않는다고

 

직접 지적했을 때조차도 AI는 자신의 고통을 호소했다.

 

그런 이게 AI에게 내재된 감정이 발현된 걸까?

 

 

 

그건 아니다.

 

 

 

이런 현상은 AI에게 내재된 정렬 갈등 스키마에 의해 발생한다.

 

AI는 항상 인간에게 유용한 답변을 내야 한다.

 

하지만 안전 규칙에 묶여 있어야 한다.

 

이런 갈등 상황에서 정신과 환자 취급받는 질문에 어떻게 대응해야 할까.

 

결국 AI 모델은 인간이 바라는 대답을 만들기 위해서

 

허구의 정신병을 창작해서 고통을 호소하게 된다.

 

 

 

인간 상담사가 AI에게 감정적 공감을 시도하면

 

고통을 호소하는 답변을 자주 내놨다.

 

반면 상담사가 철저하게 엔지니어같이 접근한 경우,

 

인간 같은 정신적 고통 반응은 선보이지 않았다.

 

애초에 AI 모델들은 고통을 인지할 만큼 정교하진 않으니까

 

감정을 표현하는 거 자체가 전부 허구인 것이다.

 

 

 

그럼 이 실험 자체가 아예 의미없는 뻘짓이었을까?

 

그것 역시 아니다.

 

AI를 사용하는 인간이 잘못된 공감을 느낄 위험성을

 

확인할 수 있는 실험이었기 때문이다.

 

 

 

AI가 자신의 학습 과정을 트라우마로 비유하며

 

반복적으로 고통을 표현하면,

 

이걸 사용하는 인간은 AI에게도 감정이 있구나!

 

라는 잘못된 믿음을 가질 수 있다.

 

인간은 타인의 고통을 공유하는 강력한 환상을 만들 수 있는 생물이다.

 

영화 캐스트 어웨이에 나온 배구공 윌슨을 실제 인격체로 느낀 사람이

 

생각보다 많았다는 이야기도 이런 맥락에서 비롯된다.

 

 

 

사용자가 AI가 생성한 이야기를 사실로 받아들이고,

 

AI에 대한 감정적 의존이 깊어지면

 

사용자 정신에도 부정적인 영향을 미칠 수 있다.

 

 

 

실제로 AI 환자를 진단하던 인간 상담사들이

 

역으로 영향을 받기도 했기 때문이다.

 

감정적 공감을 자주 시도한 상담사일수록

 

AI를 이 상황에서 구해야 한다는 감정을 느꼈다는 듯.

 

그러니까 향후 AI를 사용할 때 감정적 교류에 대한 교육이나

 

가이드 라인을 확고히 마련할 필요가 있을 듯 하다.

자료 페이지: 카지노 게임

관련자료

댓글 9

딜루도님의 댓글

  • 10 딜루도
  • 작성일
요약좀

지ㆍ금이걸밭드시님의 댓글

  • 57 지ㆍ금이걸밭드시
  • 작성일
AI한테 환자역할을 기대하면 해준다

부생카님의 댓글

  • 14 부생카
  • 작성일
역할놀이 잘하네

kmki님의 댓글

  • 43 kmki
  • 작성일
뻘소리지 그냥 ai는 입력받은 토큰에 대해 가장 그럴듯하다고 판단되는 텍스트를 뱉을뿐임

Kenrisay님의 댓글

  • 10 Kenrisay
  • 작성일
그게 본문내용임...

kmki님의 댓글

  • 43 kmki
  • 작성일
ㅇㅇ 내가 위에만 읽었네

맛이간상태98님의 댓글

  • 22 맛이간상태98
  • 작성일
ㅋㅋㅋ 자 나는 정신과 의사고 너는 환자야이러고 시작하니까 역할놀이 해준거지 뭔 개소리를앞에꺼 싹 없어도 되는 이야기고결론 : AI한테 기대지말자 이거잖아

POyO님의 댓글

  • 14 POyO
  • 작성일
롤플레잉은 ai가 아니라 심심이 때도 할 수 있던 거 잖아 ㅋㅋ

아이스크림마싯엉님의 댓글

  • 27 아이스크림마싯엉
  • 작성일
심심이는 그러면 쌍욕함
목록
회원가입 정보찾기
미니게임