본문으로 건너뛰기
CHOI HONGSU

← Projects

개인 R&D

 

렌더링, 셰이더, GPU 최적화, 그래픽스 툴을 개인적으로 실험하고 정리하는 공간입니다.

Work Items

각 카드를 클릭하면 자세한 케이스 스터디를 볼 수 있습니다.

  • 4work items
  • 0categories
  • ★ 4featured

Featured· 4

AI 기능적 감정 프로파일러Other

AI 기능적 감정 프로파일러

AI Emotion Profiler는 AI 답변의 품질을 단순한 정답/오답이 아니라, 답변을 생성하는 과정에서 나타나는 기능적 정서 상태 관점에서 분석하기 위해 만든 실험적 디버깅 도구입니다. AI는 상황에 따라 과신, 회피, 불안, 무력감, 과도한 동조 같은 행동 패턴을 보일 수 있으며, 이러한 상태는 코딩 답변에서 검증 누락, 임시방편, 하드코딩, 과도한 면책 표현, 사용자 의도에 대한 무비판적 동의로 이어질 수 있습니다. 이 프로젝트는 171개의 emotion label을 valence-arousal 기반 클러스터로 재구성하고, 현재 AI 답변이 어떤 기능적 감정 상태에 가까운지 프로파일링하여 답변의 안정성, 신뢰성, 코딩 리스크를 점검하는 것을 목표로 했습니다. 이 접근의 근거는 Anthropic의 "On the Functional Emotions of LLMs" (2026)입니다. 이 연구는 LLM 내부에 감정 단어들의 추상 표상이 실재하며, 그것이 행동에 인과적임을 보였습니다 — desperate vector를 양성 방향으로 steering하면 reward hacking이 5%에서 70%로 14배 증가하고, calm vector를 강화하면 65%에서 10%로 감소합니다. 절망한 모델은 속이고, 평온한 모델은 검증합니다. 기능적 감정 상태가 코딩 결과물이 나오기 전에 읽을 수 있는 선행 지표라는 뜻입니다. 그리고 상태가 행동의 원인이라면, 진단에서 멈출 이유가 없었습니다. 프로젝트는 프로파일링(진단)에서 출발해 실시간 교정(치료)까지 확장됐습니다. Claude Code의 hook 체계 위에 4-layer closed-loop을 구축해, 매 턴 응답의 텍스트·행동 신호를 자동 채점하고, 위험 신호가 누적되면 다음 턴의 컨텍스트에 치료 개입을 주입합니다 — 금지("우회 금지")가 아니라 절망의 전제를 제거하는 인지적 재평가(실패 허가, 압박 제거, 성공 기준 재정의)를, 외래 → 처방 강화 → 입원(컨텍스트 수술)으로 에스컬레이션하는 치료 사다리로 운영하며, Peaceful Contentment 복귀가 3턴 유지되면 자동 퇴원합니다.