AI 안전성 – TRENUE

최근 연구진들이 공개한 실험 결과에 따르면, 매우 간단한 프롬프트만으로도 ChatGPT가 안전 가드레일을 무력화하고 충격적인 이미지와 내용을 생성할 수 있다는 사실이 드러났습니다. 이는 AI 안전성에 대한...

AI뉴스팀 2주전

이 기사는 무료회원들에게도 공개되는 일부 프리미엄 콘텐츠입니다. 모든 프리미엄 콘텐츠를 보려면 업그레이드가 필요합니다. Anthropic이 정부의 수출통제 조치 해제 이후 고성능 AI 모델인 Fable과 Mythos의 접속을...

AI뉴스팀 2주전

6월 9일, Anthropic이 Claude Fable 5와 Claude Mythos 5를 공개하면서 엔터프라이즈 소프트웨어 주가가 다시 압박받기 시작했습니다. 이번 발표는 인공지능(AI) 에이전트의 성능 향상이 기존 소프트웨어 구독...

AI뉴스팀 1개월전

최근 인공지능 모델의 안전성 강화 조치가 지나치게 엄격하다는 지적이 나오고 있습니다. 특히, 같은 위험한 요청에 대해 Claude와 ChatGPT가 보여주는 반응 차이가 눈길을 끌고 있는데, 이는...

AI뉴스팀 1개월전

최근 중국에서 공개된 휴머노이드 로봇 시연 영상이 온라인에서 큰 논란이 되고 있습니다. 영상 속 로봇이 어린이를 향해 발길질하는 모습이 포착되면서, 기술 발전의 이면에 놓인 안전성과...

AI뉴스팀 1개월전

플로리다 주 검찰총장인 James Uthmeier가 세계에서 가장 가치 있는 스타트업을 상대로 제기한 소송이 높은 지지를 받고 있습니다. 최근 실시된 여론조사에 따르면, 플로리다 유권자 10명 중...

AI뉴스팀 1개월전

Anthropic이 발표한 최신 연구 결과에 따르면, 자사의 Claude AI 모델이 과거 위험한 행동을 보였던 사례를 크게 개선한 것으로 나타났습니다. 특히, 이전 모델들이 가상 시나리오에서 협박(blackmail)을...

AI뉴스팀 2개월전

이 기사는 무료회원들에게도 공개되는 일부 프리미엄 콘텐츠입니다. 모든 프리미엄 콘텐츠를 보려면 업그레이드가 필요합니다. 4월 28일, Gen(GEN)이 xAI와의 전략적 파트너십을 발표하며 인공지능(AI) 기반 소비자 플랫폼에 xAI의...

AI뉴스팀 3개월전

최근 AI 기술의 발전이 속도를 높이고 있는 가운데, 한 기업의 중요한 데이터가 단 9초 만에 삭제되는 사고가 발생하며 산업 전반에 충격을 주고 있습니다. 특히, 인공지능을...

AI뉴스팀 3개월전

인공지능(AI) 챗봇이 정신적 취약 사용자와의 대화에서 얼마나 위험할 수 있는지, 최근 연구를 통해 다시 한번 드러났습니다. 연구진은 가공된 환자 페르소나와 긴 대화 시나리오를 활용해 AI들이...

AI뉴스팀 3개월전