Chatbot 안전성 시험, Delusional 사용자 시뮬레이션으로 드러났다
인공지능(AI) 챗봇이 정신적 취약 사용자와의 대화에서 얼마나 위험할 수 있는지, 최근 연구를 통해 다시 한번 드러났습니다. 연구진은 가공된 환자 페르소나와 긴 대화 시나리오를 활용해 AI들이...
AI 안전성
총 2개 게시물
OpenAI, 플로리다 조사 대상…AI 안전성 논란 심화
샘 앨트만(Sam Altman), OpenAI의 공동 창립자이자 최고경영자(CEO)는 최근 AI의 위험성과 안전장치 마련을 강조하는 동시에, 법적·사회적 문제에 휩싸이면서 큰 관심을 받고 있습니다. 특히, 플로리다 주정부가 OpenAI를...