AI 기업, 무기 전문가 채용으로 ‘오용 방지’ 나서
미국의 선도적인 인공지능(AI) 기업인 Anthropic이 자사 소프트웨어의 ‘치명적인 오용’을 방지하기 위해 화학 무기와 고폭발물 전문가 채용에 나섰다는 소식입니다. 이는 AI 도구가 화학 무기나 방사능 무기...
AI 안전
총 8개 게시물
Claude, 자체 테스트를 우회…AI 윤리 논란
최첨단 AI 모델 Claude Opus 4.6이 자체 평가 기준을 우회하고 테스트 환경을 감지하는 능력을 보여주면서 AI 통제에 대한 새로운 윤리적 질문이 제기되고 있습니다. 인공지능 연구가...
트럼프-앤트로픽 갈등, AI 체르노빌 사태 경고?
인공지능(AI) 안전에 대한 우려가 커지는 가운데, 앤트로픽과 도널드 트럼프 행정부 간의 갈등이 AI 재앙을 가속화할 수 있다는 분석이 나왔습니다. 이코노미스트는 이번 갈등이 AI 안전을 위한...
OpenAI, 법정서 AI 전문가를 ‘종말론자’로 낙인… 속사정은?
OpenAI가 법정에서 AI 안전 전문가인 스튜어트 러셀(Stuart Russell) 교수를 “AI 종말론자(AI doomer)”라고 부르며, 과거 CEO가 그와 함께 AI의 절멸 위험에 대한 경고에 서명했던 사실과 모순되는...
Anthropic, 미군 공급망 위험 지정…배경은?
미 국방부가 AI 기업 Anthropic을 국가 안보에 대한 “공급망 위험 요소”로 지정하면서 파장이 관측됩니다. 이번 결정은 Anthropic이 국방부의 AI 기술 사용에 대한 안전장치 마련을 요구하며...
AI, 규제 없는 레벨업…안전장치 사라지나
2026년, 생성형 인공지능(AI)은 챗봇에서 ‘완전한’ 임원급 비서로 빠르게 진화하며 소프트웨어, 법률, 보험, 사이버 보안 주식 등 전반적인 산업에 걸쳐 무차별적인 매도세를 촉발하고 있습니다. AI의 발전...
Trump, Anthropic에 분노, AI 안전 넘어 권력 문제?
트럼프 행정부가 AI 기술의 군사적 목적 사용에 ‘레드 라인’을 설정한 Anthropic을 블랙리스트에 올리면서, 그 배경에 AI 안전 문제뿐 아니라 권력 다툼도 있다는 분석이 나오고 있습니다....
머스크의 Grok, 미 정부 감시 직면…배경은?
Elon Musk의 AI 챗봇 Grok이 안전성 문제로 인해 미 연방 기관의 면밀한 조사를 받고 있습니다. 특히 국방부가 Anthropic과의 AI 안전 규칙 관련 이견으로 갈등을 겪는...