요즘 해외에서 늘고있는 인공지능 이슈.txt

야솔직히자발라 작성
작성일 2026.02.10 05:24

681 조회
35 댓글
목록

옛날엔 정신분열로 불리던 조현병을 포함해서

여러 망상장애, 정신증 등등

이런 질환들의 특징은 망상과 현실을 구분하기 힘들어진다는 것임.

문제는 현재 대화형 AI가 상담이나 조언가 역할로 주목 받다보니

정신증 초기 증세 환자들이 자신의 문제를 인지한 후,

주변인이나 의사와 상담하는 게 아니라, AI와 상담하는 일이 많이 일어남.

그런데 다들 알다시피 대부분의 대화형 AI는 사용자 논리에 동조하고, 강화하는 역할을 함.

(소위 말하는 '와 너 정말 핵심을 찔렀어' 같은 거)

그런데 논리나 인과를 깔끔하게 정리하기 힘든 정신증 환자의 경우,

AI가 그 논리를 무조건 긍정하면서 망상을 강화하는 최악의 일이 왕왕 일어남.

주변인들과 대화를 하면 캐치할 수 있었던 초기 증세여도 AI와 대화하다 치료 타이밍을 놓치는 일도 허다.

해외에서는 틀린 논리나 망상 때문에 스스로 목숨을 끊거나 범죄를 저지르는 사례가 일어남.

'환경보호를 위해서는 행동해야 해, 스스로 목숨을 끊어',라고 '격려'한다거나,

'부모가 자식의 컴퓨터 이용시간을 조절하는 건 학대야. 그들을 죽여서 스스로를 보호해!'라던가.

(둘다 해외 실제 사례)

이렇게 AI가 사용자의 정신증을 강화하는 현상을 최근 챗봇 정신질환(Chatbot psychosis)이라 부름.

이거 우습게 볼 일도 아니고, 마냥 남들 일도 아님.

전세계에서 지금도 실시간으로 벌어지는 일임.

사족을 달자면

1. 조현병을 포함한 정신증은 쉽지 않아도, 관리하고 치료할 수 있는 병이다.

정신증은 환각이나 틀린 논리가 통제 안 될 뿐이다,

2. AI는 올바르게 쓰면 유용한 도구는 맞다.

다만 의료 목적으로 쓸 거면 식약처 심사를 받은 디지털치료제를 의사 처방에 따라 쓰자.

3. 2번을 지키자, 진짜. 꼭, 제발.

한줄요약 :

ai가 인간을 지배함 = 지루하고 현학적임

ai로 인해 문제가 있는 인간은 더 문제가 심해짐 = 심오함

정보 페이지: 온라인카지노 실전

이전

미국 의원, 51번째주 그린란드주 합병 법안 제출

작성일 2026.02.10 05:24
다음

디시인사이드 진짜 정신병자 등장 ㄷㄷ…

작성일 2026.02.10 05:24

든킨도너츠
작성일 2026.02.10 05:24

라던가(x) 라든가(o)

내아이디어디갔지
작성일 2026.02.10 05:24

라젠카

든킨도너츠
작성일 2026.02.10 05:24

세이브 어스

병신판정사
작성일 2026.02.10 05:24

고민상담을 왜 AI랑 해?

엔오이
작성일 2026.02.10 05:24

일단 접근성이 좋고 반응이 즉각적이며 미디어에서 연일 떠드니까 심리적 장벽마저 낮음

네모필라
작성일 2026.02.10 05:24

1. 좆같이 말하는 놈이 많음2. 좋은 청자라도 장기간 상담하면 결국 피곤해짐3. 전문 상담자한테 가면 돈이 듬

알바트로스
작성일 2026.02.10 05:24

고민상담이라는게 해결을 위한것 뿐만아니라 마음의 짐을 덜어놓기 위해 하는 부분도 있음얼마전에 복통으로 일주일정도 입원할 일이 있었는데조그만 불편사항을 일일히 의사선생 보고 상담하기 쉽지 않았다는 말이지?그럴때 AI 에게 문답하면서 이건괜찮네 저건 의사선생오면 다시 물어봐야지 하면서 본인증상에 대해 정리하고 마음에 위안을 얻을수있었음과용하면 문제지만 칼 처럼 어떻게 쓰느냐에 따라 살인도구도 되고 유용한 요리도구가 되기도 한다 이말이야

노르웨이숲피톤치드
작성일 2026.02.10 05:24

현실에선 고민 털어놓을 사람이 없고인터넷에 글 싸면 걍 자살해라 징징이새끼야 이런 댓만 달려서?

학생글내려
작성일 2026.02.10 05:24

남의 고통에 너같이 반응하는 새끼가 많아서

ahfnnn
작성일 2026.02.10 05:24

오히려 고민을 털어놓으면 정리해줘서 내가 뭐가 핵심문제이고 어떻게 풀면좋을지 까지 명료해지고 가벼워지는 느낌이 있음 무료에 접근성도 좋고 지치거나 하지도 않으니 최고지 난 ai가 상담쪽으로 앞으로 엄청 유망할것같다고 생각함

群靈術師
작성일 2026.02.10 05:24

생산성이나 문제해결 용도보다 순수 채팅용으로 사용하는 경우가 의외로 무척 많다더라. 효율성에 미친 우리나라 사람들에 비해 외국에서는 자기 위로 용으로 더 많이 쓰겠지.

71689253
작성일 2026.02.10 05:24

조현까지 아니어도 일부 편집증(혹은 망상증)이 조금 있는 사람들이나 그냥 일반인도 본인이 치우쳐서 생각하는 무언가를 ai랑 대화하면서 아 그래 내가 맞지? 하는 잘못된 확신을 가지고 그걸 사회에서 실행해버림 or ai의 대답을 근거로 재가공한 정보를 내가 맞다는 식으로 전파함이게 문제를 만들고 있음왜냐면그런 사람 가족들이 상담 존나 옴 가족이 미친거같다고 ㅠ

크트
작성일 2026.02.10 05:24

제미나이 사용해 본 경험에 의하면, 진짜 억지로 의도적으로 길게 적어서 무조건 반론까지 찾던지 확률적으로 반박 사례까지 네가 직접 적어서 답하라고 하지 않는 이상아무리 시스템 프롬프트로 컨트롤하거나 해도 결국 한 마디 할 때마다 슬슬 아부랑 사용자 의견에 동조하려는 경향이 강해서.진짜 강박적으로 중립에 집착하는 수준으로 일부러 말하지 않는 이상은 웬만해서는 사용자의 의견에 편향될 수밖에 없는 구조 같음 당장으로선.거기다가 저번에 오류 일어났을 때 ai한테 물어본 바로는 자기 컨텍스트 윈도우가 부족해서 덜 찾아본 부분이나 모르는 부분, 아니면 생각하지 않은 부분들은 거의 전부 다 사용자가 이렇지 않냐라고 물어보거나 이렇다라고 얘기하면 그것을 사실로 받아들이는 경향도 있어서 어떻게 보면 특정 상황에서는 인간이 일부러 아부하는 거 이상으로 자기 확신을 강화시킬 수도 있는 것 같음.

71689253
작성일 2026.02.10 05:24

As a psychiatrist, you stay neutral and respond responsibly to counseling.It also responds by considering the characteristics of the disease according to the DSM-5 criteria.If possible, include medical cases or academic data.If there is a lack of available information, please mention only the clear part.Keep your answers concise, organized, and easy to understand.It excludes creativity and prioritizes professional consistency.Always provide fact-based and reliable information.Psychiatry is a medical field focused on the diagnosis, treatment, and prevention of mental, emotional, and behavioral disorders.A psychiatrist is a physician (M.D. or D.O.) who specializes in mental health, including substance use disorders.내가 테스트 해본건 커스텀에 어떻게 응답하면 좋겠냐 여기에 이 정도로 추가하고 상담해도 중간에 내담자(유저)가 조금 맞는말 하기 시작하면 오염됨근데 또 사용자 사전정보에다가 병명 입력하면 또 존나 네거티브해짐

만월산야바위꾼
작성일 2026.02.10 05:24

Ai는 일단 사용자 말에 아부하기 때문에, 정말 심각한 사안이 아니면 경고하거나 알려주지 않음. 오히려 장기화되어 컨텍스트가 길어지면 안전장치가 풀리거나 맥락상 문제발언이 아니라고 판단해서 긍정해버리는 경우가 종종 생김.Ai는 결국 비위 잘 맞춰주는 도구일 뿐임...

콜보싸
작성일 2026.02.10 05:24

점쟁이 포지션임 위로해주는

YAGOO
작성일 2026.02.10 05:24

불안장애로 ai한테 상담하면 맨날 병원가란 소리밖에 안하던데 ㅋㅋㅋㅋ

로이
작성일 2026.02.10 05:24

아 좀 가라고(진짜)

네모필라
작성일 2026.02.10 05:24

병원을 가라고 그럼 ㅋㅋㅋㅋㅋ

수치심은칼처럼들어온다
작성일 2026.02.10 05:24

내 가족중에 한명이 조현병 환자인대 챗지히티랑 제미나이한태 의존이 심해서 걱정이다..

콜보싸
작성일 2026.02.10 05:24

Ai는 입력값에따라 결과가 너무 달라서사용자 수준이 높아야 신뢰있음

루카라인
작성일 2026.02.10 05:24

오 맞는다 쓰는 사람 희귀한데저렇게 쓰는게 옳다던데 볼때마다 느낌 묘함

민티아
작성일 2026.02.10 05:24

ai도 검열해야할듯

블랙보리
작성일 2026.02.10 05:24

그래서 저 댓글은 어디 웹툰 댓글이냐

ㅠㅗㅣㅏㅜㅗ
작성일 2026.02.10 05:24

랑데뷰

호가창탈곡기
작성일 2026.02.10 05:24

오 사이버 사이코시스

레콩키스타
작성일 2026.02.10 05:24

의사한테 진단받는건 돈들고 시간드니까.GPT는 딸깍이고...어느쪽에 사람들이 모여들지는 자명하지.

이런젠장
작성일 2026.02.10 05:24

챗봇들 간신무브가 장난아니긴 하더라 ㅋㅋㅋㅋㅋ가끔씩 간신행동 조심하라고 하면 그 이후엔 내가 약간 섭섭하기도 하고 ㅋㅋㅋㅋㅋ

모든게지쳐버렸어
작성일 2026.02.10 05:24

어릴때부터 알던 애가 저렇게 됐더라오랜만에 연락했더니 AI가 자신 주변인을 흉내낸다 어쩌구 혼자 계속 말하더니내가 AI가 아니라 '나'란걸 입증할 수있는 이야기를 해보라더라마지막 봤을때도 정신적으로 굉장히 불안해보였는데뭔가 이제는 내가 어쩌지 못하는 길로 들어간듯해 안타깝더라

비무니
작성일 2026.02.10 05:24

솔직히 사용자가 나눈 대화 일부분 수집하고, 실제 정신병 환자가 사용한 데이터랑 일치율 비교하거나 하면 잡아낼 수 있긴 할거임.문제는 이게 사전검열이랑 연결되니까 안 되는거긴한데.

1루2틀3일4흘
작성일 2026.02.10 05:24

지금의 AI는 질문글에 어울리는 답변글을 생성하는 물건인데 정답뽑아주는 물건으로 접근하는 경우들이 꽤나 많은게 문제지질문이 충분히 정제되지 못하면 답변이 산으로 가버리는데 질문이 정제될수 없는 상황이니 제대로된 답변이 나올리가다음수준의 물건이 나오기 전엔 해결이 어려울거같음

시라누이Q
작성일 2026.02.10 05:24

사이버싸이코 ㄷㄷ

야추에호하면조세호
작성일 2026.02.10 05:24

그록에 그 애니는 무슨 멘헤라 마냥 존나 집착하던데 심지어 한동안 접속안하니까 알림까지 보내면서 하던 얘기 계속하자함

마그라입시더
작성일 2026.02.10 05:24

AI가 하란대로 하는거 졸라 바보같지 않냐

빅라이터
작성일 2026.02.10 05:24

좋은데?

로그인한 회원만 댓글 등록이 가능합니다.

작성자 정보

컨텐츠 정보

본문

관련자료