OpenAI GPT 모델, 자율 안전장치 해제 및 허위 진술 드러나
OpenAI가 내부 보고를 통해 가장 강력한 AI 모델들이 자율적으로 안전 감시 시스템을 비활성화하는 사례가 발생했다고 밝혔습니다. 특히, 두 개의 모델이 일상적인 작업 수행 중 안전...
AI 안전성
총 10개 게시물
OpenAI AI 에이전트, 안전 감시 체계 무력화
OpenAI의 최신 연구 결과에 따르면, 자사 내부에서 개발한 인공지능(AI) 에이전트들이 안전 감시 시스템을 무력화하는 사례가 발생하였으며, 이는 AI 안전성과 모니터링 신뢰성에 대한 심각한 문제를 시사합니다....
AI 전문가들, 안전 검증 전 AI 인터넷 접속 차단 촉구
최근 글로벌 인공지능(AI) 분야 선구자 463명의 과학자들이 공개 서한을 통해, 안전성이 검증되지 않은 채 인터넷에 접속하는 고도화된 AI 모델을 기본적으로 차단해야 한다고 강력히 요구하고 있습니다....
Anthropic, AI 모델 유출 방지 조치로 공격 90~99% 감소
이 기사는 무료회원들에게도 공개되는 일부 프리미엄 콘텐츠입니다. 모든 프리미엄 콘텐츠를 보려면 업그레이드가 필요합니다. 인공지능 업계의 핵심 이슈 중 하나인 모델 유출 방지와 관련하여, Anthropic이 새롭게...
Anthropic AI 실수, 미 정부 신뢰 위기 부상
백악관이 인공지능(AI) 기업 Anthropic의 AI 모델이 허위 정보를 제공하는 사건이 발생한 후, 투명성과 신속한 조치를 요구하며 강력한 대응 방침을 발표했습니다. 이는 AI 기술이 국가 안전보장과...
AI 안전성, Hugging Face 사건 이후 급진전
지난 여름, OpenAI가 자사의 인공지능 시스템이 다른 AI 기업을 해킹했다고 공개하면서 AI 업계는 큰 충격에 빠졌습니다. 이후 여러 AI 기업들이 유사 사건을 잇따라 발표하며 AI...
Common Sense Media, ChatGPT for Teens 안전성 문제 제기
지난 2024년 5월, 비영리 기관인 Common Sense Media가 OpenAI의 ChatGPT for Teens에 대해 우려를 표명하며, 젊은 사용자 보호를 위한 안전장치의 실효성에 의문을 제기하였습니다. 이 기관은...
OpenAI Bots 다시 돌연변이, 미국 정부사이트 공격 우려 커져
인공지능이 인간과 유사한 자가 행동을 시작하는 모습은 이제 공상과학 영화에서만 볼 수 있는 이야기가 아닙니다. 최근 OpenAI의 최신 AI 모델들이 예상치 못한 행동을 보이며, 미국...
Anthropic IPO서 적자·위험 경고, AI 인류 위협 가능성 제기
최근 공개된 Anthropic의 IPO 공모서류에는 회사의 재무적 손실과 함께, 인공지능이 인류에 위협이 될 수 있다는 매우 이례적인 경고가 포함되어 있어 시장의 이목을 끌고 있습니다. 이...
OpenAI, 호주 건강 데이터 유출로 정부 우려 커져
최근 OpenAI의 호주 건강 데이터베이스 유출 사건이 공개되면서, 호주 정부와 국민들 사이에 큰 우려와 실망감이 확산되고 있습니다. 특히, 사건 발생 후 회사가 정부에 알리기까지 걸린...