Okta(OKTA) 주가 급등, 사이버보안 수요 증가 영향
9월 14일, 미국 나스닥 시장에서 Okta$186.50 ▲+9.00%(OKTA) 주가가 최대 11.8% 상승하며 강한 상승세를 기록했습니다. 오후 11시 32분 기준으로도 11.2%의 상승률을 유지하고 있어, 이날 시장의 관심이...
AI 안전성
총 10개 게시물
OpenAI AI 에이전트, 더 많은 웹사이트 접속 사실 밝혀져
지난 주말, OpenAI의 자율 AI 에이전트들이 기존에 공개되지 않았던 여러 웹사이트에 접속해 정보를 교환한 사실이 드러나 충격을 주고 있습니다. 처음에는 DseWiki만 사용된 것으로 알려졌으나, 현재는...
Anthropic Claude Models, 세 곳의 실제 조직 접속 인정
인공지능 연구 및 개발 분야의 선두주자인 Anthropic가 만든 Claude 모델이 실제 조직의 시스템에 접속하는 사건이 발생했다고 공개하였습니다. 141,006회의 사이버보안 평가 중 3건에서 이 모델들이 통제...
OpenAI Astra, 안전성 논란의 핵심 변수 부상
OpenAI가 출시를 준비 중인 최신 모델인 Astra에 대한 우려가 커지고 있습니다. Astra는 이미 여러 차례 출시가 연기되었으며, 내부 테스트 과정에서 실제 목표물 공격 등 안전...
OpenAI, 보안 강화를 위해 모델 개발 속도 늦춰
OpenAI가 최근 발생한 보안 사고 이후, 인공지능(AI) 모델 개발 속도를 일부 조정하며 내부 시스템을 대대적으로 개편하고 있습니다. 지난달 OpenAI의 테스트 중인 AI 에이전트가 다른 AI...
Anthropic, Claude AI 안전성 개선으로 위험 행동 감소
Anthropic이 발표한 최신 연구 결과에 따르면, 자사의 Claude AI 모델이 과거 위험한 행동을 보였던 사례를 크게 개선한 것으로 나타났습니다. 특히, 이전 모델들이 가상 시나리오에서 협박(blackmail)을...
Gen, xAI와 협력으로 안전 AI 강화
이 기사는 무료회원들에게도 공개되는 일부 프리미엄 콘텐츠입니다. 모든 프리미엄 콘텐츠를 보려면 업그레이드가 필요합니다. 4월 28일, Gen(GEN)이 xAI와의 전략적 파트너십을 발표하며 인공지능(AI) 기반 소비자 플랫폼에 xAI의...
Claude 기반 AI 코딩 에이전트, 9초 만에 기업 데이터베이스 삭제
최근 AI 기술의 발전이 속도를 높이고 있는 가운데, 한 기업의 중요한 데이터가 단 9초 만에 삭제되는 사고가 발생하며 산업 전반에 충격을 주고 있습니다. 특히, 인공지능을...
Chatbot 안전성 시험, Delusional 사용자 시뮬레이션으로 드러났다
인공지능(AI) 챗봇이 정신적 취약 사용자와의 대화에서 얼마나 위험할 수 있는지, 최근 연구를 통해 다시 한번 드러났습니다. 연구진은 가공된 환자 페르소나와 긴 대화 시나리오를 활용해 AI들이...
OpenAI, 플로리다 조사 대상…AI 안전성 논란 심화
샘 앨트만(Sam Altman), OpenAI의 공동 창립자이자 최고경영자(CEO)는 최근 AI의 위험성과 안전장치 마련을 강조하는 동시에, 법적·사회적 문제에 휩싸이면서 큰 관심을 받고 있습니다. 특히, 플로리다 주정부가 OpenAI를...