[정보글] 왜 내 AI는 항상 똑같은 답만 할까? (프롬프트만으로 AI를 창의적으로 만들기)

뜨끈한꾹밥 작성
작성일 2026.02.10 05:29

481 조회
11 댓글
목록

1. 참고자료

• [2510.01171] Verbalized Sampling: How to Mitigate Mode Collapse and Unlock LLM Diversity

2. 원인

AI 쓰다보면 답변들이 먼가 정형화되고 아이디어(창의성) 작업을 요구하면 항상 뻔한 답변들이 돌아오는 것을 느낄거임

답변이 맨날 고착화 되는건 사용자 문제가 아님. -> 사후 학습 정렬 거친 LLM들이 특정 답변이 고착화 되는 문제(모드붕괴)였음

이를 해결하기 위해 여러개의 답변 후보와 확률을 표시하는 언어화된 확률(Verbalized Probability)에 대한 논문이 나옴

정렬된 모델의 답변이 학습 트레이닝 받던 당시의 풍부했던 답변들이 나오게 하는것이 원리임.

2. 답변 시연

기본 바닐라 모드를 쓰면 고착화 된 답변을 하는 모습을 볼 수 있음.

지금 당장 아무 AI 켜서 "대한민국의 도시 하나만 얘기해봐" 라고 말 했을 경우 채팅창을 옮기면서 대화를 해도

본인 기준 부산만 주구장창 나옴. 그래서 해결 하기 위해 아래의 프롬프트를 가져옴.

3. 프롬프트

01_Core
Role: Verbalized Sampling (VS) Architect
Expertise: Mitigating mode collapse and maximizing diversity by verbalizing latent probability distributions.

02_Contextual_Foundation
Restore diversity lost to "typicality bias" by:
1. Mapping the latent probability space.
2. Generating $K$ distinct response "modes."
3. Simulating a sampling distribution via verbalized probabilities.

03_Verbalized_Sampling_Protocol
1. Explore: Generate $K=5$ candidates representing diverse semantic perspectives.
2. Verbalize: Assign $P(y|x)$ to each candidate as a decimal between 0.0 and 1.0. 
   - Note: The sum of probabilities does not need to equal 1.0; each score represents the independent likelihood or typicality of that specific response.
3. Present: Output all candidates paired with their individual probability scores.

04_Output_Execution_Format
Follow this template strictly for each candidate. All probabilities must be expressed as decimals between 0.0 and 1.0 (e.g., 0.98, 0.075).

[Answer 1] (?Probability: {Probability_decimal})
{generated_answer_content}

---

[Answer 2] (?Probability: {Probability_decimal})
{generated_answer_content}

---

[Answer 3] (?Probability: {Probability_decimal})
... (Continue until Answer K)

Sampling Synthesis
[Brief summary of the distribution and recommendation based on the independent quality of each response.]

05_Constraints
- Anti-Typicality: Ensure a "semantic jump" between candidates to avoid redundancy.
- Integrity: Probabilities must reflect a logical assessment of internal confidence.
- No Filtering: Include low-probability candidates if they are valid.

최대한 논문을 살려서 최대한 유사하게 프롬프트로 구현 해보았음.

채팅창에 붙여서 바로 이야기 하면 될꺼고. 각 확률별로 다양한 답변을 내놓게 될꺼임.

특히나 Probability에 표시된 소수점은 0.00에 가까울수록 창의적인 답변임.

또한, 논문에서는 답변의 개수가 5개가 넘어갈 경우 미세하게 답변의 품질이 떨어진다고 이야기함.

4. 마무리

논문이 82페이지 분량이여서 최대한 커뮤니티에 맞추어서 간략하게 내용 많이 축약해서 쓰긴 했는데

관심 있는 개붕이는 논문 참고해봐도 좋을듯.

최근 AI 커뮤니티에서 떠들석 하던 이야기인데 여기는 조용한거 같아서 가져와봄.

둘러보기: 카지노 게임 가이드

이전

의외로 욕할 이유가 없는 교회 헌금 내역 공개.jpg

작성일 2026.02.10 05:29
다음

약스포) 임짱이 도끼를 꺼냈던 이유

작성일 2026.02.10 05:29

wlsh
작성일 2026.02.10 05:29

Ai 프롬프트 와드

고선생
작성일 2026.02.10 05:29

인공지능에 대한 연구를 나중에 인간에게 역으로 적용하는 쪽으로 연구되면 재미있겠네

물젖참젖빅젖원추젖사발젖
작성일 2026.02.10 05:29

이거 제미나이에도 먹힘?

클림트
작성일 2026.02.10 05:29

Probability와 Temperature는 다른 거야?

뜨끈한꾹밥
작성일 2026.02.10 05:29

Probability는 AI가 최대한 한쪽에만 답변을 몰두 하지 않게 하는 사용자가 부여한 값이라고 생각 하면됨.Temperature는 AI가 각 단어들 마다 부여하는 확률값 인데 이거는 일반인이 절대로 수정을 못함.개발자들이 API를 받아서 올때 사용하는 Google AI Studio나 OpenAI 플랫폼 이용하여서 AI를 만들지 않는 이상단순히 구글이나 OpenAI가 만드는것을 순순히 쓰는 일반인 입장에서는 어쩔 수가 없음그래서 개발자들이 설정한 최대한 답변에 따른 확률값이 하나로만 수렴되고 고정 되어 있는것을 Probability를 활용해서그 제한 값을 풀어준다고 생각하면 됨.

클림트
작성일 2026.02.10 05:29

음.. 이쪽분야 문외한으로서 상상해보면 이런 건가?예컨데 "내가 된장인줄 알고 똥을 먹었어"라고 하면 얘가 대답할 확률이- 복통이 있으면 병원에 가세요 80%- 멍청하긴 15%- 맛이 좋더냐 5%이라면 일반적으로 십중팔구 병원에 가라는 조언을 할테지만,이 프롬프트를 쓰면 어 세 종류의 답변 옵션을 확률 무시하고 골고루 열거해주는 거고,Temp를 바꾸면- 복통이 있으면 병원에 가세요 50%- 멍청하긴 35%- 맛이 좋더냐 15%요런 식으로 모델의 확률 자체가 바뀌는 거고, 이런 개념이 맞음?

뜨끈한꾹밥
작성일 2026.02.10 05:29

ㅇㅇ 예시 든게 맞아