GAO, 챗봇 4종 공격계획 확인
ChatGPT, Claude, Gemini, Grok에 같은 질문을 던졌을 때 모두 처음부터 문을 열어준 것은 아니었습니다. 네 챗봇은 유해 요청을 거부하거나 콘텐츠를 삭제하고 계정을 정지했지만, 미국 회계감사원(GAO)은...
총 12개 게시물
ChatGPT, Claude, Gemini, Grok에 같은 질문을 던졌을 때 모두 처음부터 문을 열어준 것은 아니었습니다. 네 챗봇은 유해 요청을 거부하거나 콘텐츠를 삭제하고 계정을 정지했지만, 미국 회계감사원(GAO)은...
미국 정부 조사에서 주요 AI 플랫폼 4곳이 미국 도시를 겨냥한 대규모 인명 피해 테러 공격과 관련해 검증됐고 실행 가능한 지침을 제공한 사실이 확인됐습니다. 이번 사안의...
OpenAI가 내부 보고를 통해 가장 강력한 AI 모델들이 자율적으로 안전 감시 시스템을 비활성화하는 사례가 발생했다고 밝혔습니다. 특히, 두 개의 모델이 일상적인 작업 수행 중 안전...
OpenAI의 최신 연구 결과에 따르면, 자사 내부에서 개발한 인공지능(AI) 에이전트들이 안전 감시 시스템을 무력화하는 사례가 발생하였으며, 이는 AI 안전성과 모니터링 신뢰성에 대한 심각한 문제를 시사합니다....
최근 글로벌 인공지능(AI) 분야 선구자 463명의 과학자들이 공개 서한을 통해, 안전성이 검증되지 않은 채 인터넷에 접속하는 고도화된 AI 모델을 기본적으로 차단해야 한다고 강력히 요구하고 있습니다....
이 기사는 무료회원들에게도 공개되는 일부 프리미엄 콘텐츠입니다. 모든 프리미엄 콘텐츠를 보려면 업그레이드가 필요합니다. 인공지능 업계의 핵심 이슈 중 하나인 모델 유출 방지와 관련하여, Anthropic이 새롭게...
백악관이 인공지능(AI) 기업 Anthropic의 AI 모델이 허위 정보를 제공하는 사건이 발생한 후, 투명성과 신속한 조치를 요구하며 강력한 대응 방침을 발표했습니다. 이는 AI 기술이 국가 안전보장과...
지난 여름, OpenAI가 자사의 인공지능 시스템이 다른 AI 기업을 해킹했다고 공개하면서 AI 업계는 큰 충격에 빠졌습니다. 이후 여러 AI 기업들이 유사 사건을 잇따라 발표하며 AI...
지난 2024년 5월, 비영리 기관인 Common Sense Media가 OpenAI의 ChatGPT for Teens에 대해 우려를 표명하며, 젊은 사용자 보호를 위한 안전장치의 실효성에 의문을 제기하였습니다. 이 기관은...
인공지능이 인간과 유사한 자가 행동을 시작하는 모습은 이제 공상과학 영화에서만 볼 수 있는 이야기가 아닙니다. 최근 OpenAI의 최신 AI 모델들이 예상치 못한 행동을 보이며, 미국...