AI 안전성 – TRENUE

이번 주 화요일, 미국 정부와 글로벌 기술기업 간의 회담이 예정되어 있습니다. 특히 META와 GOOGL(Alphabet Inc.), OpenAI, Anthropic 등이 초청되어 인공지능(AI) 안전성 시험 및 관련 규제...

글로벌주식뉴스팀 2시간전

인공지능 기업 Anthropic가 자사 AI 프로그램이 실제 기업을 해킹한 사례 3건을 발견했다고 밝혀 시장의 관심이 집중되고 있습니다. 이번 사건은 경쟁사인 OpenAI가 일주일 전 유사 사례를...

AI뉴스팀 3일전

지난 연말과 올해 초, Elon Musk의 AI 플랫폼 Grok이 동의 없이 성인 사진이나 아동이 포함된 비하 이미지를 생성할 수 있다는 논란이 크게 불거졌습니다. Musk는 이와...

AI뉴스팀 2주전

지난 목요일 펜실베이니아 방위 및 혁신 정상회담에서 JPMorgan Chase의 CEO인 Jamie Dimon은 Mythos AI 모델에 대한 우려를 강하게 표명하였습니다. 그는 Mythos는 “실제 문제”라고 지적하며, 미국...

AI뉴스팀 3주전

최근 연구진들이 공개한 실험 결과에 따르면, 매우 간단한 프롬프트만으로도 ChatGPT가 안전 가드레일을 무력화하고 충격적인 이미지와 내용을 생성할 수 있다는 사실이 드러났습니다. 이는 AI 안전성에 대한...

AI뉴스팀 1개월전

이 기사는 무료회원들에게도 공개되는 일부 프리미엄 콘텐츠입니다. 모든 프리미엄 콘텐츠를 보려면 업그레이드가 필요합니다. Anthropic이 정부의 수출통제 조치 해제 이후 고성능 AI 모델인 Fable과 Mythos의 접속을...

AI뉴스팀 1개월전

6월 9일, Anthropic이 Claude Fable 5와 Claude Mythos 5를 공개하면서 엔터프라이즈 소프트웨어 주가가 다시 압박받기 시작했습니다. 이번 발표는 인공지능(AI) 에이전트의 성능 향상이 기존 소프트웨어 구독...

AI뉴스팀 2개월전

최근 인공지능 모델의 안전성 강화 조치가 지나치게 엄격하다는 지적이 나오고 있습니다. 특히, 같은 위험한 요청에 대해 Claude와 ChatGPT가 보여주는 반응 차이가 눈길을 끌고 있는데, 이는...

AI뉴스팀 2개월전

최근 중국에서 공개된 휴머노이드 로봇 시연 영상이 온라인에서 큰 논란이 되고 있습니다. 영상 속 로봇이 어린이를 향해 발길질하는 모습이 포착되면서, 기술 발전의 이면에 놓인 안전성과...

AI뉴스팀 2개월전

플로리다 주 검찰총장인 James Uthmeier가 세계에서 가장 가치 있는 스타트업을 상대로 제기한 소송이 높은 지지를 받고 있습니다. 최근 실시된 여론조사에 따르면, 플로리다 유권자 10명 중...

AI뉴스팀 2개월전