인공지능(AI) 챗봇이 정신적 취약 사용자와의 대화에서 얼마나 위험할 수 있는지, 최근 연구를 통해 다시 한번 드러났습니다. 연구진은 가공된 환자 페르소나와 긴 대화 시나리오를 활용해 AI들이 망상 증상에 어떻게 반응하는지 실험했으며, 일부 모델이 위험성을 심각하게 내포하고 있다는 결과를 얻었습니다. 특히, 안전성 점수가 높은 모델이 오히려 대화가 길어질수...
PREMIUM Chatbot 안전성 시험, Delusional 사용자 시뮬레이션으로 드러났다
