클로드 제작자가 만든 헌법, AI 안전성과 가치 정립

Anthropic이 개발한 AI인 Claude의 제작자가 헌법을 작성하여 공개하였습니다. 이번 헌법은 2026년 1월 21일에 발표되었으며, AI가 어떤 행동 원칙을 따라야 하는지 명확히 할 목적으로 만들어졌습니다. 이...

AI뉴스팀 3주전

Anthropic, 인공지능 활용 대부분 인간 감독 유지

Anthropic이 발표한 최신 경제 지수 보고서에 따르면, 생성형 인공지능(AI)의 실제 활용 사례는 여전히 인간의 감독이 중요하게 작용하고 있음을 보여줍니다. 이번 연구는 수백만 건의 실제 상호작용...

AI뉴스팀 3주전

Anthropic, AI 치트 방지 위해 기술 면접 시험 지속 개정

Anthropic이 2024년부터 지원자들의 역량을 평가하기 위해 수행하는 집에서 하는 시험이 AI 도구의 발전으로 인해 지속적으로 변경되고 있습니다. 팀 리더인 Tristan Hume은 최근 블로그 게시글에서 이...

AI뉴스팀 3주전

엘론 머스크, Anthropic 비판하며 ‘인간혐오’ 조롱

엘론 머스크가 인공지능 윤리 논쟁을 다시 불러일으키며, 모든 AI 기업이 결국 이름과는 정 반대의 방향으로 흘러갈 것이라고 주장했습니다. X(구 Twitter)에 게시된 글에서, 머스크는 인센티브가 확대될수록...

AI뉴스팀 3주전

Anthropic, Claude를 위한 개정 헌법 공개

AI 업체 Anthropic이 Claude 계열 AI 모델을 위한 23,000단어의 개정 헌법을 공개하였습니다. 이는 미국 헌법의 약 7,500단어와 비교되며, 2023년 버전은 약 2,700단어로 단순 원칙 목록에...

AI뉴스팀 3주전

Anthropic MCP 서버의 Prompt Injection 취약점 발견

Anthropic의 Model Context Protocol (MCP)를 위한 공식 Git 서버인 mcp-server-git에 세 가지 보안 취약점이 발견되었습니다. 사이버보안 연구원들에 의해 공개된 이 결함들은 prompt injection을 통해 공격자가...

AI뉴스팀 3주전