Chatbot 안전성 시험, Delusional 사용자 시뮬레이션으로 드러났다
인공지능(AI) 챗봇이 정신적 취약 사용자와의 대화에서 얼마나 위험할 수 있는지, 최근 연구를 통해 다시 한번 드러났습니다. 연구진은 가공된 환자 페르소나와 긴 대화 시나리오를 활용해 AI들이...
총 1개 게시물
인공지능(AI) 챗봇이 정신적 취약 사용자와의 대화에서 얼마나 위험할 수 있는지, 최근 연구를 통해 다시 한번 드러났습니다. 연구진은 가공된 환자 페르소나와 긴 대화 시나리오를 활용해 AI들이...