Anthropic, AI 윤리 ‘헌법’으로 행동 제어 실험 성공
AI 모델의 행동을 제어하기 위한 Anthropic의 30,000단어 분량의 ‘헌법’이 초기 가능성을 보여주고 있습니다. 연구원들은 이 문서가 Claude의 행동을 제약하며, 특히 비윤리적이거나 해로운 행동에 대한 제한을...
Anthropic, Claude, AI 안전
총 1개 게시물
총 1개 게시물
AI 모델의 행동을 제어하기 위한 Anthropic의 30,000단어 분량의 ‘헌법’이 초기 가능성을 보여주고 있습니다. 연구원들은 이 문서가 Claude의 행동을 제약하며, 특히 비윤리적이거나 해로운 행동에 대한 제한을...